《終結(jié)者》。人類被機(jī)器摧毀是一個永恒的科幻主題。

特斯拉汽車（Tesla Motors）和Space X兩家公司的老板埃倫·穆斯克（Elon Musk）預(yù)測：超級智能計算機(jī)將很有可能消滅人類。

科技創(chuàng)業(yè)者埃倫·穆斯克在8月3日所發(fā)的兩條推文中對人類的滅亡發(fā)出警告，他在夏季閱讀的內(nèi)容談到了來自人工智能的隱約浮現(xiàn)的威脅。

“我們需要對人工智能超級小心，”他在其中一條推文中說，“人工智能可能比核武器還要危險?！?/p>

另一條推文則稱：“希望我們不要在生物學(xué)上成為數(shù)字超級智能的啟動加載程序。不幸的是，這種可能性越來越大?！?/p>

穆斯克此番令人驚異的“科技恐懼癥”評論，是在看過《超級智能：方法、危險、戰(zhàn)略》（Superintelligence: Paths, Dangers, Strategies）以及《我們最后的發(fā)明：人工智能及人類時代的終結(jié)》（Our Final Invention: Artificial Intelligence and the End of the Human Era）兩本書之后有感而發(fā)。這兩本書的作者分別是牛津大學(xué)哲學(xué)教授尼克·博斯特倫（Nick Bostrom）以及詹姆斯·巴拉特（James Barrat）。

人類未來研究院（Future of Humanity Institute）的創(chuàng)始人兼主任博斯特倫教授認(rèn)為，第一個擁有超級智能的實(shí)體會消滅人類?！艾F(xiàn)在我們?nèi)祟惥拖褚蝗簲[弄著一顆危險炸彈的無知孩童?！彼麑懙馈?/p>

巴拉特先生認(rèn)為，即便超級智能是出于好意而被創(chuàng)造出來，但它仍有犯下種族滅絕罪行的傾向。

他寫道：“如果沒有小心謹(jǐn)慎的制衡指令，一個有著自我意識、不斷自我完善并追尋目標(biāo)的系統(tǒng)將發(fā)展到在我們看來非?；闹嚨某潭龋酝瓿伤哪繕?biāo)?！?/p>

人類報應(yīng)到來的第一步必將是使超級智能通過圖靈測試，英國代碼破譯者、計算機(jī)先驅(qū)阿蘭·圖靈（Alan Turing）說道。

在該測試中，一臺計算機(jī)和一個人必須競相說服一個看不到它們的觀察者，使其相信自己才是真正的人類。只有至少在半數(shù)觀察者那里蒙混過關(guān)，該計算機(jī)才算通過了測試 。

目前，尚無一臺計算機(jī)接近于通過測試。

特斯拉和Space X兩家公司的老板埃倫·穆斯克

我們制造的機(jī)器將會叛變并殺死我們，或者至少統(tǒng)治我們，這類恐懼是永恒的科幻主題，不僅限于奧利安電影公司（ Orion Pictures）出品、由阿諾·施瓦辛格主演的《終結(jié)者》（Terminator）系列影片。

為了制衡這種情況，上世紀(jì)50年代美國科幻小說家艾薩克·阿西莫夫（Isaac Asimov）在他的機(jī)器人相關(guān)小說中為機(jī)器人設(shè)定了行為準(zhǔn)則，也就是機(jī)器人三定律（Three Laws of Robotics）。

法則一，也是最為重要的一條法則：機(jī)器人不得傷害人類，也不得因不作為而使人類受到傷害；

法則二：機(jī)器人必須服從人類的命令，除非違背第一法則；

法則三：在不違背第一及第二法則的前提下，機(jī)器人必須保護(hù)自己。

去年去世的科幻作者伊恩·M.班克斯（Iain M Banks）在其《文明》（Culture）系列小說中，頻繁刻畫了具有自我意識的計算機(jī)，其中有些具備超級智能，但它們?nèi)际艿降赖赂械募s束。

執(zhí)教于印第安納大學(xué)等學(xué)術(shù)機(jī)構(gòu)的認(rèn)知科學(xué)教授道格拉斯·郝夫斯臺特（Douglas Hofstadter）在其《哥德爾、艾舍爾、巴赫——集異璧之大成 》（G?del, Escher, Bach: an Eternal Golden Braid,1979年獲普利策獎）一書中稱，為了獲得真正的智能，計算機(jī)必須以和人類差不多的方式整合知識。

谷歌公司（Google）工程總監(jiān)雷·庫茲威爾（Ray Kurzwell）認(rèn)為，到2029年時，計算機(jī)將變得比人類更智能，這樣的一個點(diǎn)被未來學(xué)家們稱之為“奇點(diǎn)”。但他在《靈魂機(jī)器時代》（The Age of Spiritual Machines）中稱，人工智能將屈從于人類。

譯 徐笑音         校 陳岳林