电竞比分网-中国电竞赛事及体育赛事平台

搜索
分享

谷歌慌了！想發(fā)論文得審批，優(yōu)先開發(fā)產(chǎn)品：ChatGPT成人工智能領(lǐng)域絕唱？

 天承辦公室 2023-05-09 發(fā)布于江蘇

  新智元報(bào)道  

編輯：LRS
【新智元導(dǎo)讀】OpenAI一拳把谷歌干啞火，AI的開源時(shí)代要結(jié)束了嗎？

AI在過去十多年的飛速發(fā)展，得益于高校、企業(yè)與個(gè)人開發(fā)者的通力合作，讓人工智能領(lǐng)域內(nèi)遍布開源的代碼、數(shù)據(jù)及教程。

谷歌也一直是AI行業(yè)的領(lǐng)軍者，發(fā)表的論文橫跨自然語言處理、計(jì)算機(jī)視覺、強(qiáng)化學(xué)習(xí)等多個(gè)領(lǐng)域，為行業(yè)內(nèi)貢獻(xiàn)了諸如Transformer, Bert, PaLM等諸多基礎(chǔ)模型與架構(gòu)。

但OpenAI打破了游戲規(guī)則，不僅拿著Transformer開發(fā)出了ChatGPT，還憑著初創(chuàng)公司的優(yōu)勢(shì)，如受法律、輿論的影響更少，無需透露訓(xùn)練數(shù)據(jù)、模型規(guī)模、架構(gòu)等信息，甚至還挖走了不少谷歌等大廠的員工，打得谷歌是節(jié)節(jié)敗退。

Image

面對(duì)不講武德的OpenAI，谷歌也只能被動(dòng)挨打。

據(jù)匿名人士提供的消息稱，今年2月，Google AI的掌門人Jeff Dean在會(huì)議中表示：

Google would take advantage of its own AI discoveries, sharing papers only after the lab work had been turned into products

谷歌將利用自己在人工智能方面的成果，只有在實(shí)驗(yàn)室成果轉(zhuǎn)化為產(chǎn)品后，才會(huì)共享論文。

Image

轉(zhuǎn)向「防御狀態(tài)」的谷歌或許寄希望于把同類AI公司全都熬走，更好地保護(hù)自己的核心搜索業(yè)務(wù)及股價(jià)。

但AI如果少了這些大公司的開源精神，轉(zhuǎn)而走向壟斷，人工智能領(lǐng)域還能出現(xiàn)之前的發(fā)展奇跡嗎？

谷歌被偷家，只因「太負(fù)責(zé)」

對(duì)于谷歌這種數(shù)十億用戶體量的公司，即使是小規(guī)模的實(shí)驗(yàn)也可能會(huì)影響到數(shù)百萬人，并遭受輿論的反噬，這也是谷歌遲遲不愿推出聊天機(jī)器人并堅(jiān)守「負(fù)責(zé)任AI」底線的原因。

2015年，Google Photos上線圖像分類功能，將一名黑人錯(cuò)誤分類為Gorillas（大猩猩），谷歌立刻陷入公關(guān)危機(jī)，迅速道歉并整改。

Image

谷歌整改的措施就是把Gorillas標(biāo)簽直接刪了，甚至還刪掉了貴賓犬（poodle），黑猩猩（chimpanzee），猴子（monkey）等類別。

結(jié)果就是圖像分類器不會(huì)再把黑人識(shí)別為猩猩，但也識(shí)別不了真正的猩猩了。

盡管多年來谷歌一直在投入大量資金開發(fā)人工智能技術(shù)，但受限于神經(jīng)網(wǎng)絡(luò)的黑盒不可解釋性，谷歌也無法完全保證投產(chǎn)后的可控性，需要更長(zhǎng)時(shí)間的安全性測(cè)試，也就失去了先發(fā)優(yōu)勢(shì)。

今年4月，谷歌CEO劈柴哥（Sundar Pichai）在參加《60分鐘》節(jié)目中仍然明確表示，人們需要對(duì)人工智能保持謹(jǐn)慎，它可能對(duì)社會(huì)造成很大的危害，比如偽造圖像和視頻等。

Image

如果谷歌選擇「不那么負(fù)責(zé)」，勢(shì)必會(huì)引起更多監(jiān)管機(jī)構(gòu)、人工智能研究者和商界領(lǐng)袖的關(guān)注。

但DeepMind 聯(lián)合創(chuàng)始人Mustafa Suleyman表示，其實(shí)并不是因?yàn)樗麄冞^于謹(jǐn)慎，而是因?yàn)樗麄儾辉敢馄茐默F(xiàn)有的收入流和商業(yè)模式，只有當(dāng)存在真正的外部威脅時(shí)，他們才會(huì)開始覺醒。

Image

而這個(gè)威脅，已經(jīng)來了。

留給谷歌的時(shí)間不多了


自2010年起，谷歌就開始收購人工智能初創(chuàng)企業(yè)，并將相關(guān)技術(shù)逐步融入自家產(chǎn)品中。

2013年，谷歌邀請(qǐng)深度學(xué)習(xí)先驅(qū)、圖靈獎(jiǎng)得主Hinton加盟（剛離職）；一年后，谷歌還以6.25億美元收購了初創(chuàng)公司DeepMind

Image

在被任命為谷歌首席執(zhí)行官后不久，劈柴哥更是宣布谷歌將以「AI優(yōu)先」為基本策略，將人工智能技術(shù)整合到其所有產(chǎn)品中。

Image

多年的深耕也讓谷歌的人工智能研究團(tuán)隊(duì)取得了諸多突破性進(jìn)展，但與此同時(shí)，一些規(guī)模較小的創(chuàng)業(yè)公司也在人工智能領(lǐng)域取得了一些成就。

OpenAI 成立的初衷是為了制衡大型科技公司對(duì)人工智能領(lǐng)域公司的收購壟斷，并且憑借小公司的優(yōu)勢(shì)，OpenAI受到的審查和監(jiān)管更少，而且更有意愿快速將人工智能模型交付到普通用戶手中。

所以人工智能的軍備競(jìng)賽就在這種沒有監(jiān)管的情況下愈演愈烈，面對(duì)競(jìng)爭(zhēng)，大型企業(yè)的「責(zé)任心」可能會(huì)逐漸減弱。

谷歌高層也不得不選擇DeepMind所擁護(hù)的「人工智能技術(shù)匹配」、「超越人類智能」等通用人工智能概念的前景。

今年4月21日，劈柴哥宣布把原由Jeff Dean運(yùn)營的谷歌大腦和此前收購的DeepMind合并，交由DeepMind聯(lián)合創(chuàng)始人兼首席執(zhí)行官Demis Hassabis負(fù)責(zé)，以加速谷歌在人工智能領(lǐng)域的進(jìn)步。

Image

Hassabis表示，只需要幾年時(shí)間，AI水平可能就會(huì)比大多數(shù)人工智能專家預(yù)測(cè)的更接近人類智能的水平。

谷歌進(jìn)入「戰(zhàn)備狀態(tài)」


根據(jù)外媒對(duì)11名谷歌現(xiàn)任和前任員工的采訪，最近幾個(gè)月，谷歌已對(duì)旗下人工智能業(yè)務(wù)進(jìn)行了全面改革，主要目標(biāo)是迅速推出產(chǎn)品，降低向小用戶群推出實(shí)驗(yàn)性人工智能工具的門檻，在公平性等領(lǐng)域開發(fā)一套新的評(píng)估指標(biāo)和優(yōu)先級(jí)。

劈柴哥強(qiáng)調(diào)，谷歌嘗試加快研發(fā)速度并不意味著偷工減料。

為了確保通用人工智能以負(fù)責(zé)任的方式發(fā)展，我們正在籌辦一個(gè)新部門以建立更有能力的系統(tǒng)、更安全且更負(fù)責(zé)任。
前谷歌大腦人工智能研究員Brian Kihoon Lee在今年1月大規(guī)模裁員潮中被解雇了，他將這種轉(zhuǎn)變描述為谷歌從「和平時(shí)期」向「戰(zhàn)爭(zhēng)時(shí)期」的轉(zhuǎn)變，一旦競(jìng)爭(zhēng)變激烈，一切都會(huì)變。在戰(zhàn)時(shí)狀態(tài)，競(jìng)爭(zhēng)對(duì)手的市場(chǎng)份額增長(zhǎng)也很關(guān)鍵。

Image

谷歌發(fā)言人Brian Gabriel表示：在2018年，谷歌建立了內(nèi)部管理結(jié)構(gòu)和全面的審查流程，到目前為止已經(jīng)在各個(gè)產(chǎn)品領(lǐng)域進(jìn)行了數(shù)百次審查。谷歌將繼續(xù)將該流程應(yīng)用于面向外界的基于人工智能的技術(shù)，負(fù)責(zé)任的人工智能仍是公司的首要任務(wù)。

但決定人工智能產(chǎn)品何時(shí)準(zhǔn)備上市的標(biāo)準(zhǔn)不斷變化，也引發(fā)了員工的不安情緒，比如谷歌在決定發(fā)布Bard后，調(diào)低了實(shí)驗(yàn)性人工智能產(chǎn)品的測(cè)試分?jǐn)?shù)標(biāo)準(zhǔn)，引起了內(nèi)部員工的反對(duì)。

2023年初，谷歌公布了由兩個(gè)人工智能團(tuán)隊(duì)（Responsible Innovation和Responsible AI）圍繞Bard設(shè)定的約20項(xiàng)政策，員工普遍認(rèn)為這些規(guī)定相當(dāng)明確且完善。

也有員工認(rèn)為這些標(biāo)準(zhǔn)制定的更像是給外界表演看的，不如公開訓(xùn)練數(shù)據(jù)或是開源模型，用戶能夠更明確了解模型的能力。

發(fā)論文需審批


谷歌加速研發(fā)的決定對(duì)員工來說，喜憂參半。

喜的是，非科研崗位的員工們普遍持樂觀態(tài)度，認(rèn)為該決策可以幫助谷歌重回上風(fēng)。

Image

但對(duì)研究人員來說，在發(fā)表相關(guān)人工智能研究成果之前需要獲得額外的批準(zhǔn)，可能意味著研究人員將在快速發(fā)展的生成式人工智能領(lǐng)域錯(cuò)失首發(fā)機(jī)會(huì)。

也有一些人擔(dān)心，谷歌可能會(huì)悄悄壓下有爭(zhēng)議的論文，比如2020年由谷歌的道德人工智能團(tuán)隊(duì)領(lǐng)導(dǎo)，Timnit Gebru和Margaret Mitchell共同撰寫的一項(xiàng)關(guān)于大型語言模型危害的研究。

過去一年間，許多頂尖的人工智能研究人員都被初創(chuàng)公司挖走了，部分原因在于谷歌對(duì)科研人員成果的不重視和過度審查。

一位前谷歌研究人員表示，獲得論文批準(zhǔn)可能需要高級(jí)研究員反復(fù)進(jìn)行嚴(yán)格審查。谷歌承諾了很多科研人員讓他們能夠繼續(xù)參與本領(lǐng)域更廣泛的研究話題，出版限制可能會(huì)讓迫使又一批研究人員出走。

AI研發(fā)該降速？


谷歌加速發(fā)展之際，也有一些聽起來不是那么和諧的聲音，他們呼吁各大人工智能廠商放慢開發(fā)速度，并且認(rèn)為這項(xiàng)技術(shù)的發(fā)展速度已經(jīng)超出了發(fā)明者的預(yù)期。

深度學(xué)習(xí)先驅(qū)Geoffrey Hinton稱超級(jí)智能人工智能存在逃脫人類控制的危險(xiǎn)，于是離開了谷歌。

Image

    本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間，所有內(nèi)容均由用戶發(fā)布，不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購買等信息，謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)點(diǎn)擊一鍵舉報(bào)。
    轉(zhuǎn)藏 分享 獻(xiàn)花（0）

    0條評(píng)論

    發(fā)表

    請(qǐng)遵守用戶 評(píng)論公約

    類似文章 更多