近日，《麻省理工科技評(píng)論》評(píng)出50家“最智能”科技公司榜單,據(jù)外媒統(tǒng)計(jì), 今年這份名單中首次有13家公司依靠人工智能（AI）支撐自己的業(yè)務(wù),在榜單占比超過20%。其中包括英偉達(dá)(NVIDIA)、Facebook、Line、微軟、Enlitic、IBM、特斯拉、Improbable、Fanuc、Alphabet、博世、滴滴出行。AI火熱程度可見一斑。

來自名人的告誡

2014年在接受英國(guó)廣播公司的采訪時(shí)，英國(guó)理論物理學(xué)家史蒂芬·霍金警告說，人工智能的發(fā)展可能意味著人類的滅亡?！拔覀円呀?jīng)擁有原始形式的人工智能，而且已經(jīng)證明非常有用。但我認(rèn)為人工智能的完全發(fā)展會(huì)導(dǎo)致人類的終結(jié)”。

2014年Spacex太空探索技術(shù)公司首席執(zhí)行官兼首席技術(shù)官，環(huán)保跑車公司特斯拉（Tesla）產(chǎn)品設(shè)計(jì)師埃隆·馬斯克就曾發(fā)文稱：“我們需要萬分警惕人工智能，它們比核武器更加危險(xiǎn)！”

2015年比爾·蓋茨在Reddit的“Ask Me Anything”論壇上表示，人類應(yīng)該敬畏人工智能的崛起?！叭斯ぶ悄軐⒆罱K構(gòu)成一個(gè)現(xiàn)實(shí)性的威脅，但它在此之前會(huì)使我們的生活更輕松?！?/p>

擔(dān)心AI不夠聰明

人們對(duì)人工智能的擔(dān)憂主要集中于可控性和失業(yè)方面，但其實(shí)就目前來講，對(duì)可控性的擔(dān)憂其實(shí)有點(diǎn)科幻，強(qiáng)人工智能是有可能實(shí)現(xiàn)的，但是現(xiàn)在的技術(shù)離強(qiáng)人工智能的距離還非常遠(yuǎn)，短期做不到超出控制水平的AI。

但人對(duì)人工智能的“恐懼”是客觀存在的，人的確有擺脫AI“控制”的本能，但原因不在于這東西太強(qiáng)，而是因?yàn)樗€不夠強(qiáng)。

舉個(gè)例子，有幸獲得了某品牌的體驗(yàn)駕駛機(jī)會(huì)，汽車配備了新技術(shù)，隨車AI能自動(dòng)避免追尾和撞人。能辨認(rèn)出障礙物的距離，發(fā)現(xiàn)行車軌跡上的汽車和人，判斷兩者之間的相對(duì)運(yùn)動(dòng)速度，在快速接近的時(shí)候發(fā)出提醒，提醒無效的話就緊急制動(dòng)，拉緊安全帶，在障礙物面前停車，至少能避免汽車以危險(xiǎn)速度撞上去。

功能聽起來很牛，其實(shí)感覺和早期互聯(lián)網(wǎng)防火墻差不多，“豬隊(duì)友般的存在”并不夠聰明。

假定一個(gè)場(chǎng)景，婚車車隊(duì)大家都見過吧，不遠(yuǎn)不近的距離，那豈不是一路上都在發(fā)出提醒，拉緊安全帶，緊急制動(dòng)，或者選擇直接關(guān)閉AI。好吧，或許你會(huì)覺得這個(gè)應(yīng)用場(chǎng)景過于特殊，確實(shí)是可以選擇關(guān)閉AI的。

但它的不聰明不只是這一個(gè)場(chǎng)景表現(xiàn)，只能通過觀察前方路況，臨時(shí)接管制動(dòng)系統(tǒng)，對(duì)于側(cè)面和后方的威脅，盡管也有雷達(dá)監(jiān)測(cè)并警告。卻沒有納入統(tǒng)一的風(fēng)險(xiǎn)控制邏輯，不會(huì)因?yàn)楹竺嬗惺Э乜ㄜ嚲驮试S我撞車保命。至于攔在車道上的行人是不是手持利刃，更是計(jì)算機(jī)從來不考慮的因素。

于是就跟眾多網(wǎng)友選擇關(guān)閉防火墻一樣，使用者需要知道如何用半秒鐘關(guān)掉AI。雖然AI在大多數(shù)情況下可能會(huì)挽救性命，甚至?xí)炀儒X包（不撞上其他車輛或者人就是省錢），多數(shù)人還是希望它能隨時(shí)關(guān)閉，放著汽車讓自己來（至少有選擇撞哪輛的權(quán)利）。

9月騰訊科恩實(shí)驗(yàn)室宣布，他們以“遠(yuǎn)程無物理接觸”的方式，成功入侵了特斯拉汽車。于千里之外，就能直接遙控別人的特斯拉汽車，理論上全球任何一輛特斯拉都跑不了。入侵之后可以遠(yuǎn)程控制車輛停車狀態(tài)和行進(jìn)狀態(tài)，在停車狀態(tài)下，可以遠(yuǎn)程解鎖車輛、打開天窗、轉(zhuǎn)向燈和調(diào)節(jié)座椅等，駕車時(shí)則可以啟動(dòng)雨刷、收起后視鏡、打開后備箱等，而正常情況下的特斯拉在行駛中是無法打開后備箱和收起后視鏡的。但更恐怖、更危險(xiǎn)的是，連遠(yuǎn)程剎車都可以做到。假使這種攻擊方式，被不法分子利用，其所能造成的損失或難以估計(jì)。在上班早高峰，控制一輛自動(dòng)駕駛的車輛，所能造成的混亂，并不亞于一場(chǎng)爆炸。

所以才會(huì)有一部分人，會(huì)因?yàn)殚_按鍵式啟動(dòng)的車子，不能在行駛中瞬間控制熄火，而內(nèi)心不安。更不信任AT的換擋邏輯，不信任自適應(yīng)巡航對(duì)前車的判斷，不信任自動(dòng)剎車、車道保持、自動(dòng)泊車這些，更不用說自動(dòng)駕駛了。萬物互聯(lián)的時(shí)代，AI網(wǎng)絡(luò)安全性不在可控范圍內(nèi)，這或許也是人們擔(dān)憂的原因之一。

在“德國(guó)慕尼黑電子展”大會(huì)發(fā)布的有關(guān)智能汽車2020 年趨勢(shì)指數(shù)中，對(duì)于未來智能汽車將主導(dǎo)駕駛、自動(dòng)將使用者載往目的地的趨勢(shì)調(diào)查顯示，汽車生產(chǎn)大國(guó)的德國(guó)及日本支持率低，分別占 28 ％、29 ％，大多數(shù)人還是不愿依賴自動(dòng)駕駛，認(rèn)為自動(dòng)駕駛只是輔助工具，主導(dǎo)權(quán)仍應(yīng)由駕駛?cè)苏莆铡?/p>

擔(dān)心AI太過聰明

近日有新聞報(bào)道“阿爾法圍棋”（AlphaGo）棋力大增，明年初或“重出江湖”！這個(gè)由谷歌DeepMind公司研發(fā)的圍棋AI，在2016年備受矚目。3月在和李世石九段的“人機(jī)大戰(zhàn)”中，以4比1出人意料地獲得勝利。7月以3612分超越3608分的中國(guó)棋手柯潔成為新的世界第一。這是世界職業(yè)圍棋史上第一次榜首由非人類占據(jù)，令很多職業(yè)高手和圍棋愛好者感到震驚，引發(fā)了全球范圍內(nèi)對(duì)于AI的討論，未來人將被機(jī)器取代了？

但這場(chǎng)人機(jī)對(duì)弈似乎有點(diǎn)被神話的意味。事實(shí)上，雖然人類在圍棋項(xiàng)目輸了，但這從本質(zhì)上講，僅僅意味著人類單項(xiàng)競(jìng)技智慧的頹敗，并不代表人工智能已經(jīng)全面超越人類。AlphaGo只是在勝率上壓制人類，但是還不能完全碾壓。比如在于李世石對(duì)戰(zhàn)時(shí)，AlphaGo已經(jīng)暴露出了弱點(diǎn)，比起執(zhí)白，它比較畏懼執(zhí)黑；碰到?jīng)]有意料到的一手時(shí)，會(huì)出現(xiàn)BUG，臭棋連連，在局面上，會(huì)選擇勝率最高的步驟。

而且圍棋作為一項(xiàng)競(jìng)技項(xiàng)目，是有規(guī)則可尋的，而這些規(guī)則計(jì)算機(jī)的數(shù)據(jù)足夠全面，其實(shí)也可以在這些數(shù)據(jù)的基礎(chǔ)上找出規(guī)律形成算法，而機(jī)器的算法早就已經(jīng)超越了人類。有人認(rèn)為，這是圍棋冠軍的一個(gè)挫敗，但卻是人類文明的勝利。因?yàn)槿祟愂且粋€(gè)善于發(fā)明工具去協(xié)助自己變得更強(qiáng)大的生物。

用“弱AI”加強(qiáng)人類

其實(shí)汽車自動(dòng)制動(dòng)裝置、圍棋AI AlphaGo、都屬于“弱AI”，即沒有自我意識(shí)，只能按照人類設(shè)定程序處理信息的AI?！皬?qiáng)AI”同時(shí)具備自我意識(shí)和高速處理能力的人工智能，獨(dú)立的意識(shí)既意味著無限的潛力，也意味著無限的風(fēng)險(xiǎn)。從之前的名人提醒可以看出，具有很高的不可控性。

目前來講，趨利避害的方法應(yīng)該是，用“弱AI”加強(qiáng)人類自身，讓我們來變成“強(qiáng)AI”！為什么圍棋電腦可以挑戰(zhàn)李世石？不是因?yàn)殡娔X真的理解圍棋是什么東西，而是因?yàn)殡娔X擁有遠(yuǎn)超人類的記憶能力和推算速度。如果我們通過植入芯片增強(qiáng)記憶和計(jì)算力，通過添加傳感器增強(qiáng)自己的信息搜集能力，世界上第一個(gè)“強(qiáng)AI”可能就是我們自己！而實(shí)際上，類似的事情我們已經(jīng)在做了。

一個(gè)副部級(jí)官員在臺(tái)上高舉自己的智能手機(jī)：你們覺得這是什么？眾人回答手機(jī)、通訊工具、支付工具、娛樂工具，都被一一否定。最后這位50后的領(lǐng)導(dǎo)說：這是有史以來和人類結(jié)合最緊密的機(jī)器！是人體的新增器官！大多數(shù)人可能根本沒有意識(shí)到，手機(jī)中充滿了“弱AI”，地圖導(dǎo)航軟件，音樂電臺(tái)的推薦，明天天氣的查詢，和Siri聊天等等，這些都是“弱AI”。

即便是“弱AI”在造成失業(yè)方面，其不可否認(rèn)具有強(qiáng)大的影響力。工業(yè)4.0的到來，工業(yè)AI在流水線上高效、準(zhǔn)確地焊接、裝配汽車零件，許多行業(yè)和工種均已出現(xiàn)可以替代人工的創(chuàng)新技術(shù)。

AI也會(huì)對(duì)于經(jīng)濟(jì)分工體系中某些中層職位造成破壞，即某些基于機(jī)器學(xué)習(xí)的智能系統(tǒng)，來替代某些人類的工作。包括調(diào)配、計(jì)算分析，甚至于特定情景的交流，這或許會(huì)是我們短期之內(nèi)最關(guān)注的問題。

無論我們?nèi)绾慰创鼳I的風(fēng)險(xiǎn)，有兩個(gè)事實(shí)是不可否認(rèn)的。一維持現(xiàn)有的生活水平離不開AI；二 用弱AI裝備自己的人類會(huì)獲得競(jìng)爭(zhēng)上的極大優(yōu)勢(shì)。這意味著AI和人類的結(jié)合必然會(huì)越來越更緊密。我們與其被動(dòng)地接受這個(gè)新時(shí)代，不如主動(dòng)地變成超級(jí)智能生物，變得更聰明、更善于交流、更強(qiáng)大。

本文由安全鷹獨(dú)家編寫，轉(zhuǎn)載請(qǐng)注明出處。