不再是人工智能：隨著人們越來越熟悉，系統(tǒng)失去了“ 人工智能 ”。1998年擊敗當(dāng)時世界冠軍的國際象棋項(xiàng)目不再在AI俱樂部中占有一席之地。最近由谷歌構(gòu)建的AlphaGo系統(tǒng)在復(fù)雜而古老的游戲Go中擊敗了世界冠軍。AlphaGo仍然佩戴著自己的AI標(biāo)簽，但我相信它會在短短幾年內(nèi)失去光彩。
它不是AI，它是X：著名的哲學(xué)家和數(shù)學(xué)家Bertrand Russel將知識與巨大的文件柜進(jìn)行比較，抽屜標(biāo)記為物理，數(shù)學(xué)等。最后一個抽屜是“不知道”，這是哲學(xué)家的領(lǐng)域。一旦某個主題得到足夠好的定義，就會給它一個新名稱，比如物理學(xué)。在AI的情況下可能是這樣。一旦AI中的某個主題變得眾所周知，例如語言處理，它就成了它自己的主題?！斑@不是人工智能，而是NLP”。
這也是AI：這是相反的效果，其中較早獨(dú)立的主體被拉到AI傘下。統(tǒng)計學(xué)習(xí)方法得到機(jī)器學(xué)習(xí)的名稱，現(xiàn)在提到與AI相同的行 - 'AI，機(jī)器學(xué)習(xí)......'，使它看起來像AI的一部分。
為了避免被困在這個迷宮中，一些作者采取了更簡單的路線 - 通過其功能定義AI。它看起來像“人工智能正在教授機(jī)器來發(fā)展人的能力”。但是這個定義將我們引向了另一個雷區(qū)。
早些時候，會計是由人類完成的?，F(xiàn)在它由會計軟件完成。那么我們可以稱會計程序AI'嗎？
雖然沒有人能夠?qū)I獎?wù)率谟钑嬡浖?，但這肯定是一個難以回答的問題。甚至可以將這一論點(diǎn)略微向后拉，并聲稱自動編織機(jī)是AI，因?yàn)樗哂幸恍┤说哪芰?。我們真的需要走出這個我們似乎挖過自己的洞。
由于我無法定義我正在處理的事情而感到沮喪，我設(shè)計了自己的首字母縮略詞來描述AI系統(tǒng)。經(jīng)過深思熟慮后，我發(fā)明了“人類愿望系統(tǒng)”（SHA）。盡管這項(xiàng)努力已經(jīng)筋疲力盡，但我仍然不知疲倦地為SHA-一個機(jī)器，程序或任何希望模仿或超越一個或多個人類能力的未來藝術(shù)品 - 提供一個簡短的含義。
這樣做的一件事是允許會計軟件甚至是SHA俱樂部中的低檔織機(jī)進(jìn)入。如果這聽起來像挖一個非常壯觀的洞，我完全同意。作為補(bǔ)救措施，我設(shè)計了一個分類。
稱為SHA分類，它根據(jù)三個特征將整個SHA Universe劃分為四個類：
- 能力類型： SHA渴望與人類競爭的能力范圍 - 它是人類的力量區(qū)域，還是弱勢區(qū)域。
- 性能等級： SHA的功能是否比人類更好或更差？
- 有用性的基礎(chǔ)：為什么SHA對人類有用？
SHA可以通過兩種方式對人類有用：
1. 擴(kuò)展的實(shí)用性：SHA沒有人類的某些限制。其中兩個特別值得注意 - 能量和心理學(xué)。
能量：自動織機(jī)不如人類好，但它可以燃燒很多能量。一個適中的1.5千瓦電力織機(jī)將在8小時的班次中燃燒1000萬卡路里，而人類一整天都要消耗大約2500卡路里的熱量！
心理學(xué)：通過使用更多的SHA可以增強(qiáng)SHA的能力。由于我們很快就會看到的原因，這種增強(qiáng)方法對人類不起作用。
因?yàn)樗鼈儾蝗缛祟惡?，所以具有缺乏約束（LoC）優(yōu)勢的SHA可用作人類的延伸。
2. 替換的有用性：如果SHA在某個區(qū)域具有比人類更好的能力，它可以替代人類。一個例子是早期的計算器。在計算29 x 17時，它明顯優(yōu)于我們，并且通過替換是有用的。
課程是：
- 第1類：SHA在人類弱點(diǎn)領(lǐng)域競爭，但仍然不夠好。由于LoC，它們可以通過擴(kuò)展來實(shí)現(xiàn)。我們的動力織機(jī)將落入這一級別。
- 第2類：SHA在人類弱點(diǎn)方面競爭，并且比人類更好。因此，它們?nèi)〈巳祟?，就像會計軟件一樣?/li>
- 第3類：在這里，SHAs渴望在語言等人類優(yōu)勢領(lǐng)域展開競爭。它們不如人類好，但是LoC的優(yōu)勢使它們通過擴(kuò)展變得有用。今天被稱為AI的大多數(shù)SHA將在本課程中找到。
- 第4類：這些SHAs在人類力量領(lǐng)域競爭，并且比人類更好。因此，它們可以通過替代來實(shí)現(xiàn)（并具有威脅性）。
很明顯，我們不必?fù)?dān)心1-3類SHA。它們可以與牛和馬相比，有用且無害。當(dāng)談到第4類時，我們開始擔(dān)心。
在許多關(guān)于AI的文獻(xiàn)中提到的ANI-AGI分類略有不同和模糊分類。人工智能（AGI）的發(fā)展被認(rèn)為是我們生存威脅的開端。AGI被定義為機(jī)器學(xué)習(xí)任何任務(wù)的能力，與學(xué)習(xí)一個或幾個特定任務(wù)的人工窄體智能（ANI）相比。
但AGI系統(tǒng)的出現(xiàn)可能不是機(jī)器開始統(tǒng)治的唯一途徑。許多4級SHA一起工作可以足以威脅人類?？紤]到AGI的發(fā)展仍然是一個未知且不確定的未來，4級SHA協(xié)同工作的可能性會給我們帶來更大的風(fēng)險。
現(xiàn)在是檢查SHAs對人類進(jìn)行評分的心理方面的好時機(jī)。這對我們的討論至關(guān)重要，因?yàn)橐坏㏒HA接近人類表現(xiàn)，缺乏心理約束可以給他們帶來直接的優(yōu)勢。
讓人類回歸的心理限制是什么？我們可以將它們分為兩種類型 - 個人約束和團(tuán)隊(duì)約束。
個人約束與個人有關(guān)。他們之中有一些是：
偏見：人的心靈被自然損害。它受到各種類型的偏見的困擾，例如“確認(rèn)偏見”，“損失厭惡”和“刻板印象”。事實(shí)上，我們的偏見比我們承認(rèn)的要多得多。這些偏見影響了我們的判斷和推理。
無聊：人類的思想在很長一段時間內(nèi)都無法做同樣的活動。
喜歡與否：人類喜歡做一些事情并避免別人。這部分與偏見有關(guān)。
但是，在合作方面，人的局限性確實(shí)凸顯出來。對于任何天真不足以理解人性的人來說，將人類聚集在一起會使這種能力倍增。這可以是克服能量限制的一種方法。但人類并不能很好地合作。當(dāng)他們被組成一個團(tuán)隊(duì)時，他們表現(xiàn)出某些特征：
作弊：這是一種以犧牲他人為代價為自己爭取不公平優(yōu)勢的形式。它有多種形式，從基本的東西開始，如不正確地工作，一直到正確的盜竊和賄賂。
群體主義：團(tuán)隊(duì)中的一些成員聚集在一起并認(rèn)為其他人與他們不同。對團(tuán)體的忠誠和對非成員的仇恨是基本要求。
統(tǒng)治：一個群體的一個成員聲稱控制整個群體的行為的傾向。有時在短期內(nèi)有用，對團(tuán)隊(duì)的長期影響總是有害的。
公地問題：個別成員消耗不成比例的共同財產(chǎn)?？梢哉J(rèn)為是一種作弊行為。
沖突：當(dāng)兩個團(tuán)隊(duì)成員互相抱怨時，主要是由于對真實(shí)或虛構(gòu)資源的競爭要求。
復(fù)仇：一種為突發(fā)沖突找到心理關(guān)閉的方法，使沖突在未來中脫穎而出。
責(zé)備：人類思維傾向于在任何地方，任何地方分配失敗的責(zé)任。
在為某種目的而聚集在一起的任何人類團(tuán)隊(duì)中，這些和更多這樣的特征遲早會抬起他們丑陋的頭腦。在一起工作時，人類真的很愚蠢。
這是SHA可以擊敗人類的區(qū)域。SHA沒有思想，所以他們可以很好地合作。如果你想要一個理由害怕SHA，那就是心理學(xué) - 我們的。
因此，具有不同能力的4級SHA的危險在一起，不受心理問題的影響并且替代人類似乎是清楚和存在的。
但這是真的嗎？我們錯過了什么嗎？
我有理由相信這種情況不太可能發(fā)生。讓我試著描述一下原因。
人類的能力通過進(jìn)化和自然選擇得以發(fā)展。每種新功能，即使是基本形式，也證明了它的擁有者的優(yōu)勢。這種優(yōu)勢使得所有者的后代人口眾多，使其他人瀕臨滅絕。我們得到了語言和推理，正是在這個扼要的“贏家”這個世界里。SHA可以在不經(jīng)過類似過程的情況下獲得它們嗎？
有事告訴我這不太可能。根據(jù)過去的證據(jù)，只有通過類似于自然選擇的過程才能發(fā)展出與現(xiàn)有物種相當(dāng)?shù)哪芰?。即便在今天，科學(xué)家們?nèi)栽谘芯炕诟偁幍挠?xùn)練方法，并使用基于進(jìn)化的算法。第4類最有可能的方法是使用這些方法。
在這種情況下，SHA是否有可能進(jìn)一步發(fā)展影響我們的特征？畢竟，偏見和自私特質(zhì)都源于進(jìn)化斗爭。誰能說，面臨類似斗爭的SHA不會被鏈接到類似的屬性？
為了有用，SHA必須做一個微妙的平衡行為。在特定區(qū)域與人類競爭時，他們必須將其表現(xiàn)提高到一定水平，由于缺乏約束優(yōu)勢（記住能量和心理學(xué)），它們變得有用。但是，如果他們試圖達(dá)到與人類相當(dāng)?shù)乃剑敲此赡苌婕斑M(jìn)化斗爭，這種斗爭使人們擁有與人類相同的不良特征。這意味著SHA很有可能被困在平衡區(qū)。
簡而言之，這就是我的猜想 - SHA將與人類非常接近，但可能永遠(yuǎn)不會到達(dá)那里?？赡軙霈F(xiàn)4級SHA，但它們不會對人類構(gòu)成協(xié)調(diào)威脅。
