人工智能（AI）的演變對人類社會產(chǎn)生了深遠(yuǎn)的影響，推動了多個領(lǐng)域的重大進(jìn)步。然而，AI不斷增加的需求突顯了其當(dāng)前能力的局限性，催生了向通用人工智能（AGI）發(fā)展的趨勢。AGI因其能夠高效且有效地執(zhí)行各種現(xiàn)實世界任務(wù)的能力而與人類智能相媲美，體現(xiàn)了AI演變的一個重要里程碑。雖然現(xiàn)有的工作總結(jié)了AI的具體最新進(jìn)展，但它們?nèi)狈GI定義、目標(biāo)和發(fā)展軌跡的全面討論。本論文不同于現(xiàn)有的綜述論文，深入探討了我們距離AGI有多近以及實現(xiàn)它所需的策略，通過廣泛的綜述、討論和獨到的見解來回答這些關(guān)鍵問題。我們首先闡述了AGI所需的能力框架，整合了內(nèi)部、接口和系統(tǒng)三個維度。由于實現(xiàn)AGI需要更先進(jìn)的能力和嚴(yán)格的約束，我們進(jìn)一步討論了必要的AGI對齊技術(shù)以協(xié)調(diào)這些因素。值得注意的是，我們強調(diào)了負(fù)責(zé)任地推進(jìn)AGI的重要性，首先定義了AGI進(jìn)展的關(guān)鍵水平，然后提出了評估框架以確定現(xiàn)狀，最后給出了如何達(dá)到AGI頂峰的路線圖。此外，為了提供關(guān)于AI整合的廣泛影響的具體見解，我們概述了多個領(lǐng)域中現(xiàn)有的挑戰(zhàn)和潛在的AGI路徑。總之，作為對AGI當(dāng)前狀態(tài)和未來軌跡的開創(chuàng)性探索，本文旨在促進(jìn)研究人員和實踐者之間對AGI的集體理解，并激發(fā)更廣泛的公眾討論。人工智能簡史人工智能（AI）的發(fā)展徹底改變了人類社會，因為其在許多方面的強大能力，例如視覺感知（Alayrac et al., 2022; Li et al., 2023j）、語言理解（Wei et al., 2021; Schick et al., 2023）、推理優(yōu)化（Wei et al., 2022b; Hao et al., 2023; Hu and Shu, 2023）等。其中一個顯著的例子是DeepMind在2021年推出的AlphaFold（Jumper et al., 2021），這項技術(shù)徹底改變了蛋白質(zhì)結(jié)構(gòu)預(yù)測領(lǐng)域，并推動了生物學(xué)研究的前沿發(fā)展。盡管近期取得了顯著進(jìn)展，但值得一提的是，AI的發(fā)展并非一帆風(fēng)順。早期的AI研究主要集中在符號研究（Stryker, 1959; Turner, 1975）和連接主義（Buckner and Garson, 1997; Medler, 1998），為智能的計算方法奠定了基礎(chǔ)。從20世紀(jì)80年代到90年代，AI經(jīng)歷了一個“寒冬”，許多研究人員由于高期望和隨后的失望轉(zhuǎn)向了實際應(yīng)用。1990年代到2010年代，機器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)（Zadeh, 1996; Kosko, 1992）的興起為研究人員帶來了希望，推動了自然語言處理、計算機視覺和分析等各種應(yīng)用的顯著改進(jìn)。自2010年代開始，深度學(xué)習(xí)技術(shù)的出現(xiàn)徹底改變了AI的能力，在圖像（Lu and Weng, 2007; Rawat and Wang, 2017）和語音識別（Gaikwad et al., 2010; Povey et al., 2011）方面取得了重大突破。近年來，隨著ChatGPT（Wu et al., 2023a; Zhong et al., 2023b）的出現(xiàn)，大型語言模型（LLMs）的普及進(jìn)一步改變了AI研究，因為其統(tǒng)一的知識表示和卓越的多任務(wù)解決能力。對通用人工智能的渴望盡管人工智能（AI）給人類社會帶來了巨大的進(jìn)步，但社會日益增長的物質(zhì)和精神需求使人們對AI僅僅提供的便利感到不滿。因此，實現(xiàn)能夠更高效、更有效地執(zhí)行更廣泛任務(wù)的通用人工智能（AGI）成為了一個緊迫的問題，這被用于描述在大多數(shù)任務(wù)上至少與人類一樣有能力的AI系統(tǒng)（Wang et al., 2018; Voss and Jovanovic, 2023）。因此，我們的論文旨在引起對以下緊迫研究問題的關(guān)注：我們距離AGI有多遠(yuǎn)，以及我們?nèi)绾呜?fù)責(zé)任地實現(xiàn)AGI？為了研究這些問題，現(xiàn)有研究主要分為三類：定義與概念、技術(shù)方法與應(yīng)用、倫理與社會影響。（1）定義與概念：Wang等人（2018）從與人類對比的角度定義了AGI的概念，并提出了不同的層次。Voss和Jovanovic（2023）通過設(shè)定與AGI相關(guān)的人類需求，為實現(xiàn)AGI的路徑提供了方向。（2）技術(shù)方法與應(yīng)用：Yan（2022）；Wang等人（2019a）提出AGI可以通過結(jié)合邏輯與深度學(xué)習(xí)來實現(xiàn)。Das等人（2023）認(rèn)為在AGI技術(shù)的發(fā)展中存在許多風(fēng)險，如安全和隱私問題。（3）倫理與社會影響：Rayhan（2023）認(rèn)為人類在創(chuàng)建AGI時應(yīng)考慮倫理影響，包括對人類社會、隱私和權(quán)力動態(tài)的影響。Bugaj和Goertzel（2007）提出了五項倫理要求及其對AGI互動的影響。這些研究從不同方面對AGI進(jìn)行了表征，但它們?nèi)狈GI發(fā)展過程的各方面系統(tǒng)評估和對AGI目標(biāo)的清晰定義，導(dǎo)致難以衡量當(dāng)前AI發(fā)展與AGI未來之間的差距，并進(jìn)一步探討實現(xiàn)AGI的可能路徑。AGI比以往任何時候都更接近如圖1所示，AI的快速發(fā)展使其能力在越來越多的領(lǐng)域超越人類活動，這表明AGI的實現(xiàn)越來越接近。因此，重新審視我們距離AGI有多遠(yuǎn)以及如何負(fù)責(zé)任地實現(xiàn)AGI這一問題，通過進(jìn)行一項全面的綜述，明確未來AGI的預(yù)期并詳細(xì)闡述當(dāng)前AI發(fā)展的差距，具有重要的現(xiàn)實意義。AGI內(nèi)部：揭示AGI的思維人腦的復(fù)雜性，其特定功能區(qū)域?qū)Ｗ⒂诓煌恼J(rèn)知和行為方面，為AGI系統(tǒng)的架構(gòu)提供了一個引人注目的類比。類似于人腦劃分為感覺處理、情感、認(rèn)知和執(zhí)行功能的區(qū)域，AGI系統(tǒng)的“頭腦”也可以被基本組織為四個主要組成部分：感知、記憶、推理能力和元認(rèn)知。這些組成部分反映了人類認(rèn)知的基本方面，并在創(chuàng)建一個真正智能的系統(tǒng)中扮演不同的重要角色。我們在圖3中總結(jié)了本節(jié)的概述，展示了AGI內(nèi)部的現(xiàn)狀和未來預(yù)期。許多大型模型（如Llama 2 (Touvron et al., 2023)、GPT-4 (OpenAI, 2023a)、Gemini (Team et al., 2023)、Claude 3 (AI, 2024) 和 Mistral (Jiang et al., 2023d)）在參數(shù)數(shù)量擴展到一定程度時會表現(xiàn)出一些新興行為（Wei et al., 2022a）。支持這種擴展并在保持LLMs足夠效率的同時實現(xiàn)其工作的關(guān)鍵在于一系列系統(tǒng)工作：1）可擴展的模型架構(gòu)從根本上和算法上定義了計算和建模；2）大規(guī)模訓(xùn)練技術(shù)優(yōu)化了更多硬件加速器的利用，可能分布在地理上；3）推理基礎(chǔ)設(shè)施確保了多模型的穩(wěn)定和高吞吐量服務(wù)；4）成本和效率討論了在數(shù)據(jù)、模型組合和自動化過程中的各種高效方法；最后我們觸及了一些關(guān)于5）硬件計算平臺的方面，這些平臺試圖突破軟物理限制，從而為未來算法創(chuàng)新提供下一代計算能力和硬件基礎(chǔ)。系統(tǒng)研究的進(jìn)展對于促進(jìn)這種可擴展性至關(guān)重要，這一趨勢預(yù)計在我們邁向通用人工智能的過程中仍將是關(guān)鍵。隨著AI系統(tǒng)研究和工程的不斷改進(jìn)，我們可以預(yù)見，模型將在云端的數(shù)萬個異構(gòu)加速器上進(jìn)行訓(xùn)練，這不僅將多個智能體連接成一個多功能綜合體，還將為人們的日常生活提供即時和個性化的幫助。在本節(jié)中，我們首先討論AGI系統(tǒng)需要解決的主要挑戰(zhàn)，并介紹一些在模型架構(gòu)創(chuàng)新、訓(xùn)練、推理、成本降低和計算平臺方面的前期努力。最后，我們將總結(jié)對未來AGI系統(tǒng)的展望及其在未來中的作用。AGI對齊AGI對齊是一種關(guān)鍵的技術(shù)方法，用于在生產(chǎn)和日常生活中利用AGI的能力，如前幾節(jié)所討論的。正如圖7所示，本節(jié)我們首先概述了對AGI的期望，包括其能力和所涉及的倫理考量。隨后，我們探討了當(dāng)前的對齊技術(shù)，這些技術(shù)可以分為三種不同類型：在線人類監(jiān)督、離線人類監(jiān)督和交互監(jiān)督。在這些討論的基礎(chǔ)上，我們提出了一個潛在的框架，該框架基于第3節(jié)總結(jié)的AI接口類型，分類未來的AGI對齊策略。AGI路線圖：負(fù)責(zé)任地接近AGI負(fù)責(zé)任地實現(xiàn)通用人工智能（AGI）是一個復(fù)雜且多方面的挑戰(zhàn)。制定一個清晰的路線圖不僅有助于指導(dǎo)研究和開發(fā)，還能確保AGI在實現(xiàn)過程中符合倫理標(biāo)準(zhǔn)并造福人類。以下是我們建議的AGI路線圖的關(guān)鍵要素：
未來智能實驗室的主要工作包括：建立AI智能系統(tǒng)智商評測體系，開展世界人工智能智商評測；開展互聯(lián)網(wǎng)（城市）大腦研究計劃，構(gòu)建互聯(lián)網(wǎng)（城市）大腦技術(shù)和企業(yè)圖譜，為提升企業(yè)，行業(yè)與城市的智能水平服務(wù)。每日推薦范圍未來科技發(fā)展趨勢的學(xué)習(xí)型文章。目前線上平臺已收藏上千篇精華前沿科技文章和報告。
|
