在《2001太空漫游》這部科幻作品中，太空飛船上的人工智能電腦哈爾 9000 變壞了，在它看來，傷害人類是完全沒有問題的。科幻作品中的哈爾不是本來就壞的，但是這個新的機(jī)器人被賦予的唯一目標(biāo)，就是傷害人類。別擔(dān)心，這個機(jī)器人不是某個軍事科技公司為軍方秘密研制的攻擊性武器。它是一個叫 Alexander Reben 的藝術(shù)家兼工程師創(chuàng)造的一件藝術(shù)作品。
通過這件極富討論意義的藝術(shù)作品，Reben 希望鼓勵人們聯(lián)合起來，一起解決機(jī)器人和人工智能變壞對人類產(chǎn)生的威脅。
Reben 的機(jī)器人作品明確的違反了阿西莫夫第一法則，即：機(jī)器人不得傷害人類，或坐視人類受到傷害。不過，它不會對人類造成嚴(yán)重的傷害。這個機(jī)器人能做的，只是在使用者手指上造成一個傷口。
Reben 這個機(jī)器人也不能主動尋找目標(biāo)，要想體驗(yàn)被它傷害的感覺，只能將手指放進(jìn)它的攻擊范圍中由它攻擊。這樣的設(shè)計(jì)又可以被視為違反了阿斯莫夫第二法則——除非違背第一法則，機(jī)器人必須服從人類的命令。
對于一個遵照法則的機(jī)器人來說，它應(yīng)該視人類手指為一種命令并立即忽視。然而，Reben 的機(jī)器人卻不是這樣。它不存在條件語句告訴它在監(jiān)測到人類在攻擊范圍內(nèi)的時候應(yīng)該停止工作，它所執(zhí)行的假設(shè)命令只是攻擊。
Reben 不是唯一一個認(rèn)為需要處理機(jī)器人和人工智能潛在威脅的人。谷歌目前就在努力做一件更大的事，他們打算設(shè)置一個”紅色按鈕“，以便在緊急情況下關(guān)閉人工智能。但是這個“紅色按鈕”并不是萬全之策，它能發(fā)揮作用的條件是：未來不會出現(xiàn)一個充滿好奇的人工智能得知了這個按鈕的存在并提前讓它失效。
推薦閱讀
澳研發(fā)醫(yī)療機(jī)器人：可為千公里外病人照超聲波
據(jù)香港“東網(wǎng)”6月8日報(bào)道，澳大利亞墨爾本迪金大學(xué)的智能系統(tǒng)研究所(IISRI)，近日研發(fā)出一款具有觸感的醫(yī)療機(jī)器人。即使身處遠(yuǎn)至一千公里外的醫(yī)生，也可通>>>詳細(xì)閱讀
本文標(biāo)題：打造出一臺違反阿西莫夫第一法則的機(jī)器人
地址：http://www.oumuer.cn/n/jiqiren/1382.html
1/2 1
網(wǎng)友點(diǎn)評
精彩導(dǎo)讀
科技快報(bào)
品牌展示