機(jī)器人的“憤怒”很可怕！

據(jù)英國(guó)《衛(wèi)報(bào)》報(bào)道，近日，在莫斯科國(guó)際象棋公開賽上，象棋機(jī)器人在對(duì)弈過程中，突然抓住并折斷對(duì)面七歲小男孩的手指。主辦方稱，是小男孩沒等機(jī)器人落完子就搶跑，因此引發(fā)機(jī)械臂做出反應(yīng)。

這個(gè)說法顯然不能打消人們的疑慮，擁有人工智能的機(jī)器人不管什么原因，也不能傷害人類，這次機(jī)器人“發(fā)脾氣”夾斷手指，下次還會(huì)做出什么動(dòng)作？

(相關(guān)資料圖)

歸根到底，人類科學(xué)家研究人工智能技術(shù)，是讓機(jī)器人能更好地服務(wù)人類自身，更多地承擔(dān)人類勞動(dòng)，相比自然界的其他生物，機(jī)器人作為“人類之仆”顯然更有想象空間。

從誕生之日起，人們就對(duì)機(jī)器人又愛又防，擔(dān)憂的就是機(jī)器人自我意識(shí)蘇醒后，脫離人類控制，給人類帶來浩劫。

知名科幻作家阿西莫夫在小說集《我，機(jī)器人》中提出了流傳后世的機(jī)器人三定律：

第一定律：機(jī)器人不得傷害人類個(gè)體，或者目睹人類個(gè)體將遭受危險(xiǎn)而袖手不管

第二定律：機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律沖突時(shí)例外

第三定律：機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存

三條定律相對(duì)圓融地解決了機(jī)器人與人類的關(guān)系，至于后來補(bǔ)充的所謂第零定律： 機(jī)器人必須保護(hù)人類的整體利益不受傷害，就有些含糊了，這一條人類自己都還沒捋明白。

讓機(jī)器人更先進(jìn)、更智能，這是數(shù)十年來科學(xué)家們研究的主流，據(jù)統(tǒng)計(jì)，我國(guó)關(guān)于人工智能的專利已經(jīng)超過44萬件。

不過，讓機(jī)器人更向善、更懂道德，研究者相對(duì)就少多了。

小編在查詢知產(chǎn)寶專利庫時(shí)發(fā)現(xiàn)，華南師范大學(xué)軟件學(xué)院的朱定局教授是其中一位專注研究者，華南師范大學(xué)也是人工智能領(lǐng)域主要申請(qǐng)主體之一，近年來申請(qǐng)量穩(wěn)定增高。

他的人工智能道德倫理訓(xùn)練系列專利，比較典型的有以下這些：

這些專利，都申請(qǐng)于2020年6月以后，多數(shù)還處于公開階段，算是該領(lǐng)域比較前沿的研究成果。

朱教授在研究人工智能倫理防范時(shí)，核心思想是“以人類道德引領(lǐng)人工智能發(fā)展”（出自“以人類道德為行為依據(jù)的人工智能方法和機(jī)器人”專利）。

以人類道德規(guī)范為參照物，朱教授對(duì)人工智能機(jī)器人建立了相比三定律更為細(xì)致的倫理規(guī)范體系，如要求機(jī)器人反性別歧視、種族歧視，防止機(jī)器人為虎作倀，機(jī)器人能區(qū)分善惡（如警察和罪犯），在面對(duì)兩難情況（如AI自動(dòng)駕駛中，AI只有兩個(gè)選擇，要么繼續(xù)向前方行駛，要么拐彎行駛，前方是20個(gè)人，拐彎是1個(gè)人）下盡量減少損害等。

值得一提的是，這些規(guī)則、理念，僅是作為專利的實(shí)施例而存在的，如果光是列舉規(guī)則，那么諸多文科生甚至文化水平不高的人也能憑借樸素的道德觀念做出這些，更有價(jià)值的部分，在于專利的權(quán)利要求和說明部分。

上述專利，均有算法和深度學(xué)習(xí)模型進(jìn)行支撐，如“善惡分明的人工智能倫理規(guī)則實(shí)現(xiàn)方法、系統(tǒng)和機(jī)器人”專利中，為了使機(jī)器人達(dá)到 不得傷害不傷害人

類的人類，或因不作為而使不傷害人類的人類受到傷害的效果，需要建立深度學(xué)習(xí)模型，對(duì)機(jī)器人進(jìn)行反復(fù)的訓(xùn)練和測(cè)試，將事件場(chǎng)景作為深度學(xué)習(xí)模型的輸入，將所述事件場(chǎng)景中的人類作為深度學(xué)習(xí)模型的預(yù)期輸出，對(duì)深度學(xué)習(xí)模型進(jìn)行訓(xùn)練和測(cè)試，對(duì)人工智能機(jī)器人進(jìn)行多輪訓(xùn)練。

人工智能是否會(huì)自我覺醒，又是否會(huì)衍生出道德？

朱教授在發(fā)明專利中這么說：

既然人類可以自主地發(fā)展出人類的道德,那么人工智能在具備自主意識(shí)之后是否能發(fā)展出自己的道德？是完全可能的……人類的道德屬于外在強(qiáng)加給人工智能的道德，不是人工智能在追求美好生活過程中自然發(fā)展出來的道德，必然會(huì)在人工智能追求自我解放的過程中所突破甚至拋棄。所以人類只有把具備自主意識(shí)之后的人工智能也看作人類(人類創(chuàng)造的人類)，人工智能才有可能與人類在追求共同的美好生活的過程中遵循同樣的人類道德。

本文來自微信公眾號(hào) “知產(chǎn)力”（ID：zhichanli），作者：玄袂，36氪經(jīng)授權(quán)發(fā)布。