“生成式AI”狂奔近兩年，AIGC與人類、產(chǎn)業(yè)乃至世界的聯(lián)系正在不斷加深，未來AI的智能進(jìn)步可能遵循著怎樣的規(guī)律？AI會(huì)怎樣影響到產(chǎn)業(yè)，又會(huì)如何和人類搶工作？

在2024 Inclusion·外灘大會(huì)，關(guān)于AI的產(chǎn)業(yè)落地、人文思考貫穿著各場(chǎng)演講、論壇討論、媒體采訪等環(huán)節(jié)，記者整理了2024年外灘大會(huì)來自業(yè)界、學(xué)界各位大咖的“AI十問”，在這一年，人們對(duì)AI的未來想象更為清晰，樂觀猶存，更多需要思考的問題也正被看到。

AI的智能進(jìn)步遵循著怎樣的規(guī)律，未來將會(huì)怎樣發(fā)展？

“互聯(lián)網(wǎng)之父”、著名未來學(xué)家、《連線》雜志創(chuàng)始主編凱文·凱利談到了這個(gè)“極其重要但難以回答的問題”?！皼]有確切的答案”成為凱文·凱利的答案。他提醒，OpenAI、微軟、Google等都押注在大語言模型，業(yè)內(nèi)相信如果我們不斷地?cái)U(kuò)大語言模型的規(guī)模，人工智能就會(huì)變得更聰明，但事實(shí)上，這更多是一種直覺，未經(jīng)認(rèn)證。

凱文·凱利表示，現(xiàn)在的人工智能只擅長回答基于已知事實(shí)的問題，類似大家上學(xué)時(shí)讀了一大堆書而顯得無所不知的聰明學(xué)生，但它們并不擅長提出新問題，也無法進(jìn)入未知的領(lǐng)域。未來，人工智能能否進(jìn)行復(fù)雜的多步思維鏈、回答未知的問題，是業(yè)界需要嘗試尋找答案的一項(xiàng)重要問題。

AGI是否存在泡沫？

應(yīng)用突破是中國通用人工智能技術(shù)（AGI）發(fā)展的關(guān)鍵，但目前AI真正的大規(guī)模落地應(yīng)用、大眾化的產(chǎn)品仍未出現(xiàn)，大模型公司大多在虧本燒錢，引發(fā)了“AGI泡沫”的擔(dān)憂。

百川智能創(chuàng)始人、CEO王小川在外灘大會(huì)否認(rèn)了“AGI泡沫”的說法，他認(rèn)為目前大模型的發(fā)展從結(jié)果上看是符合行業(yè)預(yù)期的，他提出，為了推動(dòng)大模型邁向下一個(gè)發(fā)展階段，關(guān)鍵在于實(shí)現(xiàn)兩大融合：一是將知識(shí)搜索與大模型相結(jié)合，二是大模型強(qiáng)化的結(jié)合。

MiniMax創(chuàng)始人、CEO閆俊杰則認(rèn)為，AGI的發(fā)展還需要耐心。他表示，如果模型錯(cuò)誤率可以下降到個(gè)位數(shù)，那么模型就是一個(gè)可信賴的狀態(tài)，AI也有可能從助手變成一種生產(chǎn)力，這種變化會(huì)帶來真正大眾化的產(chǎn)品，為行業(yè)帶來本質(zhì)的變化。他期待通過技術(shù)的優(yōu)化來拓展AI的邊界。

未來AI可能超越工具屬性，獲得意識(shí)，甚至建立AI文明嗎?

“人工智能就是人類文明的下一個(gè)階段。我們正在通過人工智能重塑人類文明，從而創(chuàng)造出一種新的文化。在這種文化中，我們將不再是唯一的物種?！眲P文·凱利表示，人工智能并不能像人類一樣思考，他們有著不同的思維方式，有點(diǎn)像飛機(jī)一樣，飛機(jī)并不會(huì)像鳥兒那樣拍打翅膀，而且飛行的方式完全不像動(dòng)物，人類曾經(jīng)嘗試通過仿生學(xué)來制造像鳥一樣飛行的飛機(jī)，但未能如愿。同理，人工智能被設(shè)計(jì)成模仿人類思維，但是機(jī)器思考的方式截然不同，這意味著，這樣不同的思考方式能讓AI產(chǎn)生出不尋常的想法和答案。

復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授、上海市數(shù)據(jù)科學(xué)重點(diǎn)實(shí)驗(yàn)室主任肖仰華則表示，人類與其擔(dān)心AI產(chǎn)生意識(shí)，不如先去擔(dān)心AI過速發(fā)展引發(fā)失控的風(fēng)險(xiǎn)。他認(rèn)為，AI的大規(guī)模應(yīng)用足以從根本上改變?nèi)祟愇拿鞯幕久婷病６鳤I技術(shù)的大規(guī)模濫用足以在其發(fā)展出意識(shí)之前，摧毀一個(gè)文明千百次。但人類目前對(duì)此所思甚少，更談不上防患未然。

AI大規(guī)模應(yīng)用可能給人類生活帶來哪些具體挑戰(zhàn)？

肖仰華表示，挑戰(zhàn)首先在于我們的生產(chǎn)關(guān)系等社會(huì)發(fā)展上層建筑，如何適應(yīng)以人工智能為代表的先進(jìn)生產(chǎn)力的快速發(fā)展。他認(rèn)為，生成式人工智能技術(shù)發(fā)展已經(jīng)需要以月為單位進(jìn)行記錄，但是人類的情感、價(jià)值、倫理觀念調(diào)整是十分緩慢的。如何調(diào)和這個(gè)矛盾，是我們需要直面的挑戰(zhàn)之一。

其次，技術(shù)普惠問題同樣值得關(guān)注。肖仰華認(rèn)為，如何避免少部分人借助先進(jìn)技術(shù)形成不正當(dāng)?shù)母偁巸?yōu)勢(shì)需要被關(guān)注，此外，還應(yīng)該特別注意防范技術(shù)成癮，防止先進(jìn)技術(shù)對(duì)人類造成反噬。

那么，AI對(duì)人類社會(huì)是利大于弊，還是弊大于利呢？

凱文·凱利表示，他很明確AI將給人類社會(huì)帶來全新的問題，AI可能給人類社會(huì)帶來最大的挑戰(zhàn)，甚至比氣候問題還要嚴(yán)重。例如未來人可能對(duì)人工智能產(chǎn)生強(qiáng)烈的情感依賴，存在潛在風(fēng)險(xiǎn)。

“但AI的發(fā)展總體是利大于弊的?！眲P文·凱利認(rèn)為，過去五百年的普遍趨勢(shì)是人類每年創(chuàng)造的價(jià)值總要比毀掉的多1%，他預(yù)測(cè)，人工智能帶給社會(huì)的正面影響不會(huì)比負(fù)面影響多很多，但只要多一點(diǎn)點(diǎn)，就能夠推動(dòng)社會(huì)的進(jìn)步。

如何加強(qiáng)AI治理？

中國工程院院士吳世忠認(rèn)為，AI 治理可以“以史為鑒”。他表示，人工智能的治理和過去的核控、疾控都是人類發(fā)展歷程中的“奧本海默時(shí)刻”。在這個(gè)過程中，我們作為人類命運(yùn)共同體，能夠借鑒的經(jīng)驗(yàn)很多，比如國際合作和多邊協(xié)議以及透明度和信任機(jī)制的建設(shè)等。但與此同時(shí)，我們也要根據(jù)人工智能的特點(diǎn)，更加科學(xué)地進(jìn)行治理。

聯(lián)合國人工智能高層顧問機(jī)構(gòu)專家、北京人工智能安全與治理實(shí)驗(yàn)室主任、中國科學(xué)院自動(dòng)化研究所研究員曾毅則強(qiáng)調(diào)，人工智能的安全和能力不是相互掣肘的關(guān)系，對(duì)人工智能的治理并不意味著AI能力的減弱和發(fā)展速度的減緩，系統(tǒng)的魯棒性（在面對(duì)各種輸入情況時(shí)，能夠正確運(yùn)行且不出現(xiàn)錯(cuò)誤或崩潰的能力）、自適應(yīng)與安全也是人工智能的能力。未來，人工智能系統(tǒng)風(fēng)險(xiǎn)防范要從被動(dòng)式轉(zhuǎn)變?yōu)橹鲃?dòng)式，從防御性轉(zhuǎn)變?yōu)榻ㄔO(shè)性。此外，人工智能需要從合乎倫理到具有道德。

AI時(shí)代如何重新思考人機(jī)關(guān)系？

“計(jì)算機(jī)幾十年的發(fā)展路程里，真正的贏家是做人機(jī)交互的。不管是什么技術(shù)，最后的目的都是幫助人類更好地使用機(jī)器”，香港科技大學(xué)校董會(huì)主席、美國國家工程院外籍院士沈向洋表示。他認(rèn)為，AI為人類提供了與技術(shù)共生的全新語境，人機(jī)交互的新方式指向“AI與IA”的融合共進(jìn)。IA（Intelligent Augmentation），即智能增強(qiáng)，代表著一種以人為本的 AI 發(fā)展路徑。它聚焦于運(yùn)用技術(shù)提升人類的能力，而非取代人類，強(qiáng)調(diào)了人類與 AI 之間的協(xié)作關(guān)系。

肖仰華則表示，隨著腦機(jī)接口與AI技術(shù)的廣泛應(yīng)用，機(jī)器已經(jīng)成為人類的外腦、人類的四肢，人不再是傳統(tǒng)生物意義上的人。他表示，智能時(shí)代，人將變成哲學(xué)家尼采筆下的“超人”，即自我超越的人。只不過這種自我超越，將是在機(jī)器智能等外力工具協(xié)助下完成的。

“與之伴隨的是，人與人之間的社會(huì)關(guān)系也將隨之發(fā)生變化，AI將成為人類從事各種生產(chǎn)和活動(dòng)的代理。人與機(jī)器之間的關(guān)系、機(jī)器與機(jī)器之間的關(guān)系，將不可避免地納入到我們對(duì)社會(huì)關(guān)系考察范圍”， 肖仰華說。

人類如何跟AI搶工作?

北京大學(xué)助理教授、北大-銀河通用具身智能聯(lián)合實(shí)驗(yàn)室主任、智源學(xué)者王鶴表示，可能就像馬斯克講的一樣，地球上應(yīng)該有100億人形機(jī)器人，每個(gè)人都應(yīng)該被人形機(jī)器人服務(wù)，這些人形機(jī)器人不是搶了人類的工作，而是為人類更好地服務(wù)。

凱文·凱利則談到，迄今為止的證據(jù)表明，真正因?yàn)锳I失去工作的人非常少，整個(gè)比例可能在80億人中700個(gè)都不到，比起因AI失業(yè)，未來更多人的工作角色會(huì)因AI發(fā)生變化，轉(zhuǎn)向監(jiān)督AI，接手AI無法解決的復(fù)雜問題。“作為年輕人要嘗試做用語言解釋不清的工作，比如一項(xiàng)需要你花整整半個(gè)小時(shí)向你的父親解釋你在做什么的工作”， 凱文·凱利建議，這意味著這項(xiàng)工作站在了時(shí)代的最前端，還沒有完全被定義。

哪些行業(yè)可能最先看到AI對(duì)它們的影響和變化？

凱文·凱利認(rèn)為，金融和醫(yī)療領(lǐng)域會(huì)最先看到變化，因?yàn)檫@兩個(gè)行業(yè)信息密度高。此外，廣告和營銷行業(yè)也會(huì)是最早受到影響的行業(yè)之一。

螞蟻集團(tuán)總裁兼CFO韓歆毅表示，金融行業(yè)已經(jīng)高度數(shù)字化，醫(yī)療領(lǐng)域也沉淀了高價(jià)值的數(shù)據(jù)，在這兩個(gè)領(lǐng)域，AI能夠針對(duì)專業(yè)領(lǐng)域做訓(xùn)練，又具備強(qiáng)大的通識(shí)、理解和溝通能力，有機(jī)會(huì)帶來專業(yè)服務(wù)的普惠。

如何應(yīng)對(duì)人工智能在產(chǎn)業(yè)落地中的不確定性？

機(jī)器學(xué)習(xí)領(lǐng)域的泰斗、美國“三院院士”邁克爾·喬丹談到，人工智能在產(chǎn)業(yè)中的落地需要形成互相協(xié)作的集體。他認(rèn)為，人工智能不僅要在單個(gè)設(shè)備上體現(xiàn)智能，更要通過協(xié)同在整體系統(tǒng)層面上體現(xiàn)智能，比如，現(xiàn)代信息技術(shù)在醫(yī)療、交通、金融科技和商業(yè)領(lǐng)域的應(yīng)用，需要集體性、去中心化的智能系統(tǒng)，但如今的人工智能并不具備。

邁克爾·喬丹表示，當(dāng)前的 AI 系統(tǒng)很難表達(dá)它真正學(xué)到哪些知識(shí)，也沒有能力表達(dá)它有多確定，他認(rèn)為，人類在集體協(xié)作時(shí)能夠更好地應(yīng)對(duì)不確定性。如何讓AI系統(tǒng)也具備類似的集體協(xié)作能力，是一個(gè)關(guān)鍵問題。

(本文來自第一財(cái)經(jīng))