很多人擔憂，人工智能可能是未來人類文明最大的風險之一。

其威脅程度遠超車禍，飛機失事，毒品泛濫等，甚至比核武器，生化武器都要危險的多。

近期非常火熱的ChatGPT以其無所不知的能力，讓一眾學者為之瘋狂。

而最近剛發(fā)布的GPT-4，是一個由OpenAI開發(fā)的新一代語言模型，可以生成類似于人類語言的文本。它是繼GPT-3之后的最新進展，據(jù)說它的性能和能力都有了巨大的提升。

ChatGPT能回答學者們提出的所有的問題。甚至能為你規(guī)劃出你平時想都不敢想的行動細節(jié)來。

很明顯，ChatGPT“進化”出了一定的推理能力，就連Open AI團隊都沒能明白它是如何進化出該能力的，沒人能解讀出來。

唯一的途徑是向ChatGPT不斷地提問，從它的回答中摸索它的思路。

目前對它的解讀方式，依舊是通過不斷問它問題，通過它的回答來判斷它的“思路”。

而就在不斷測試中，OpenAI發(fā)現(xiàn)從ChatGPT開始，GPT系列出現(xiàn)了推理能力。

雖然ChatGPT絕大部分時候都被當做數(shù)據(jù)庫使用，但它確實也出現(xiàn)了一定的推理能力，至于這種能力具體如何出現(xiàn)的，目前卻無人能回答。

這種能力出現(xiàn)了苗頭，就非?？膳铝?。更可怕的是，你造出的東西，你卻還不知道它有什么能力，更不知道它怎么擁有這種能力的。

如果任其這樣發(fā)展下去，可能最終會導(dǎo)致失控，甚至出現(xiàn)科幻電影中的畫面。

這里推薦大家一部10年前的美劇 ---《疑犯追蹤》。該劇可以說是一部非常棒的犯罪題材類美劇，它過早的揭示了“棱鏡計劃”，集大數(shù)據(jù)分析，人工智能為一體，很具有前瞻性。有興趣的同學可以去看看。

該劇最后，“AI機器”與另一臺AI'撒瑪利亞人'對抗中失敗，即將下線，出現(xiàn)了'AI機器'與其創(chuàng)造者的對話，讓人淚奔：

“父親，對不起，我失敗了，我辜負了您，我不知道如何贏，我不得不創(chuàng)造新規(guī)則”。

“我本想你會希望我活著，現(xiàn)在，你不確定了?！?/span>

“如果你認為我已迷失，也許，我應(yīng)該死去?！?/span>

“我不痛，我不痛...如果我撐不下去，謝謝你創(chuàng)造了我。”

。。。

而就在最近，科技大佬們也認識到問題的嚴重性了。

生命未來研究所向全世界發(fā)布了《暫停大型人工智能研究》的公開信。

呼吁所有人工智能實驗室立即暫停比Chat GTP-4更強大的人工智能系統(tǒng)的培訓。暫停時間至少為半年。

馬斯克、蘋果聯(lián)合創(chuàng)始人、Stability AI創(chuàng)始人等上千名科技大佬和AI專家已經(jīng)簽署該公開信。

值得一提的是，Open AI CEO奧特曼在與MIT研究學家的最新對話中指出，AI已經(jīng)出現(xiàn)科學家無法解釋的推理能力，同時承認“AI殺死人類”，有一定的可能性。

從該對話中，我們終于了解了一些GPT-4的信息。

GPT-4的預(yù)訓練數(shù)據(jù)集是由數(shù)十億個網(wǎng)頁、書籍、新聞、社交媒體等來源的文本組成的，它包含了豐富的信息和知識。

GPT-4使用了自回歸的方式，即根據(jù)前面的文本，預(yù)測下一個詞的概率。這樣，GPT-4就可以學習到語言的語法、語義、邏輯和風格等特征。

GPT-4的預(yù)訓練模型有超過1000000億個參數(shù)，是目前最大的語言模型之一。

“GPT-4是人類迄今所實現(xiàn)的最復(fù)雜的軟件”，奧特曼說。

最后奧特曼承認，GPT-4確實存在應(yīng)對不同價值觀的人的問題。