可能會毀滅整個人類的重大危機(jī)……

威脅人類生存的五大事件

胡德良   譯

當(dāng)今，在人類每天所面臨的各種“危機(jī)”中，我們忘記了希望世世代代要繁衍生息下去。這里的“世世代代”不是指200年之后繼續(xù)生存的人們，而是指1,000年或10,000年之后仍將繼續(xù)生存的人們。在這里使用“希望”這個詞，是因?yàn)槲覀兠媾R著風(fēng)險，被稱為“生存威脅”的風(fēng)險——有可能毀滅整個人類的風(fēng)險。這些風(fēng)險不僅僅是指大型災(zāi)難，也指那些可能終結(jié)歷史的災(zāi)難。

然而，不是每個人都忽略了久遠(yuǎn)的未來。像諾斯特拉德馬斯那樣的神秘主義者一直都在試圖計(jì)算出世界的末日何時到來。在著名的《時間機(jī)器》一書中，H·G·威爾斯企圖開辟一種預(yù)測科學(xué)，其中描繪了人類在久遠(yuǎn)的未來會是什么命運(yùn)。其他作家描述了別樣的遙遠(yuǎn)未來，有的是對人類的警告、有的是為人類提供娛樂、還有的只是一種推測。

但是，如果沒有這些先驅(qū)們或未來學(xué)家們對人類未來的思考，就不會改變?nèi)祟惖慕Y(jié)局。在他們那個時代，沒有多少可以采取的措施，無法拯救我們脫離生存危機(jī)，甚至還會引起危機(jī)。

當(dāng)今，我們處于得天獨(dú)厚的地位，人類的活動正在塑造著地球的未來。盡管我們還遠(yuǎn)遠(yuǎn)無法控制自然災(zāi)害，但我們正在開發(fā)的技術(shù)會有助于減輕自然災(zāi)害，或者說至少可以對其采取應(yīng)對策略。

并不完美的未來

然而，我們對這些風(fēng)險的研究仍然不充分，對于這類風(fēng)險總是有一種無能為力和聽天由命的感覺。幾千年來，人們一直在談?wù)撌澜缒┤?，但是很少有人努力去避免世界末日的發(fā)生。此外，人類并不擅長應(yīng)對那些到目前為止沒有發(fā)生過的事情，部分原因是人類習(xí)慣于可得性啟發(fā)法——對于所了解的事件，人們往往會過高估計(jì)類似事件的發(fā)生概率，而對于那些不易記起的事件，人們往往會過低估計(jì)其發(fā)生的概率。

如果人類滅絕的話，最起碼的損失相當(dāng)于失去了所有活著的人，他們的目標(biāo)也無法實(shí)現(xiàn)了。然而，這個損失可能遠(yuǎn)遠(yuǎn)不至于此。人類滅絕意味著過去的祖祖輩輩所創(chuàng)造的價值不復(fù)存在，未來所有的世世代代將要誕生的生命（其數(shù)量可能是個天文數(shù)字）以及這些生命可能創(chuàng)造的所有價值都會損失掉。如果失去了意識和智慧，那就意味著價值本身就會在宇宙中變得蕩然無存。因此，我們在道義上擁有充分的理由去努力避免生存威脅的產(chǎn)生，在追求這一目標(biāo)的過程中，甚至連一次失敗都不允許。

考慮到這一點(diǎn)，我選擇了我認(rèn)為對人類生存威脅最大的五種事件。但是，只要有警告就要謹(jǐn)記在心，因?yàn)樵摿袉紊系氖录皇亲罱K的定論。

在過去的那個世紀(jì)中，我們發(fā)現(xiàn)或創(chuàng)造了新的生存風(fēng)險：超級火山是在20世紀(jì)70年代初期發(fā)現(xiàn)的；在曼哈頓計(jì)劃之前，核戰(zhàn)爭是不可能發(fā)生的。因此，應(yīng)該料到會有其他的風(fēng)險出現(xiàn)。此外，隨著我們對情況了解得越來越多，一些當(dāng)今看起來很大的風(fēng)險有可能會消失。有時，由于我們關(guān)注了這些風(fēng)險，確定了這些風(fēng)險是什么，風(fēng)險發(fā)生的概率也會隨著時間的推移而發(fā)生變化。

最終還要說明一點(diǎn)：如果某個事件有可能發(fā)生，而且具有潛在的危害性，這并不意味著該事件就值得我們?nèi)?dān)憂。對于有些風(fēng)險，我們是完全無計(jì)可施的，如：星系中爆炸事件所產(chǎn)生的伽馬射線暴。但是，如果我們了解到是可以采取措施的，那么我們優(yōu)先考慮的事情就會改變。例如：有了衛(wèi)生設(shè)備、疫苗和抗生素，我們就知道瘟疫流行并不是上天的旨意，而是公共衛(wèi)生差造成的。

1. 核戰(zhàn)爭

盡管到目前為止在戰(zhàn)爭中運(yùn)用核武器的情況只有兩次（二戰(zhàn)期間投放到廣島和長崎的原子彈），而且核武器的儲備比冷戰(zhàn)時的高峰期有所下降，但是如果認(rèn)為核戰(zhàn)爭是不可能發(fā)生的，那是錯誤的。事實(shí)上，核戰(zhàn)爭并非不可能發(fā)生。

古巴導(dǎo)彈危機(jī)差一點(diǎn)變成核戰(zhàn)爭。假如這樣的事件每69年發(fā)生一次，每三起這樣的事件中有一起會一直惡化下去變成核戰(zhàn)爭，那么發(fā)生這種災(zāi)難的幾率就會上升到大約每二百年一次。

更糟糕的是，古巴導(dǎo)彈危機(jī)只是一個最著名的事例，美蘇之間核威懾的歷史充滿了千鈞一發(fā)的危機(jī)時刻和危險的錯誤舉措。由于國際緊張局勢的變化，核戰(zhàn)爭的實(shí)際概率已經(jīng)發(fā)生了變化。但是，如果說核戰(zhàn)爭的概率遠(yuǎn)遠(yuǎn)不到每千年一次，那似乎是令人難以置信的。

大國之間全面的核戰(zhàn)爭將會直接地或通過隨后的余波把數(shù)以億計(jì)的人置于死地——那是一場難以想象的災(zāi)難。但是，這仍不足以使其成為一種生存威脅。

同樣，放射塵的危害也常常被夸大，它在局部擁有潛在的致命性，但是從全球來講所造成的危害相對有限。有人曾經(jīng)提出，鈷彈這種武器可以導(dǎo)致假設(shè)中的世界末日，其放射塵可以殺死任何人。然而實(shí)際上，這種武器制造起來是很困難、很昂貴的，從物理上來講幾乎不可能做到。

真正的威脅是核冬天的到來：也就是，煙灰進(jìn)入平流層，造成世界上多年的低溫期和干燥期?，F(xiàn)代的氣候模擬顯示，核冬天會使全世界絕大部分地區(qū)在多年的時間里無法進(jìn)行農(nóng)耕。如果這種情況發(fā)生的話，數(shù)十億的人將會餓死，只剩下七零八落幸存者，他們還可能會遭受其他威脅，如疾病。主要不能確定的是煙灰會表現(xiàn)出怎樣的性質(zhì)，煙灰的種類不同，結(jié)果可能也會大不相同，目前我們沒有什么好辦法對此作出估計(jì)。

2. 生物工程流行病

自然流行病比戰(zhàn)爭具有更大的殺傷力。然而，自然流行病不大可能成為生存威脅：總會有些人對病原體有抗性，幸存者的后代們將會擁有更強(qiáng)的抗性。從進(jìn)化的角度來講，也不支持寄生物種將它們的寄主全部消滅，這一點(diǎn)可以解釋為什么隨著梅毒在歐洲的傳播，它從一種致命的殺手卻轉(zhuǎn)化為一種慢性病。

遺憾的是，我們現(xiàn)在可以使疾病變得更加嚴(yán)重。比較著名的例子之一就是，往鼠痘（老鼠的天花病毒）中加入一種額外的基因，鼠痘的致命性就增強(qiáng)了許多，可以感染接種過疫苗的個體。最近對禽流感的研究表明，一種疾病的傳染性可以人為地得到加強(qiáng)。

目前，有人故意釋放毀滅性東西的風(fēng)險不大。但是，隨著生物技術(shù)越來越高、費(fèi)用也越來越低，更多的團(tuán)體將能夠使疾病惡化。

對生物武器的研究大都是由政府進(jìn)行的，政府所尋求的是可控制的殺傷力，因?yàn)橄麥缛祟愒谲娛律鲜菦]有任何意義的。但是，總有一些人想做某些事情，僅僅是因?yàn)樗麄冇心芰梢宰龅?。一些其他人擁有更高的目?biāo)：例如，日本奧姆真理教的狂熱分子企圖加速世界末日的到來，他們除了使用更加有威力的神經(jīng)毒氣進(jìn)行攻擊之外，還使用生物武器。還有些人認(rèn)為：如果沒有人類的話，地球上的情況將會更加美好，等等。

由于生物武器的襲擊和流行病爆發(fā)而死亡的人數(shù)看起來好像是呈冪律分布的——絕大多數(shù)的襲擊和爆發(fā)所傷害的人數(shù)極少，而極少數(shù)的襲擊和爆發(fā)所傷害的人卻極多?？紤]到當(dāng)前掌握的數(shù)據(jù)，由生物恐怖活動造成全球流行病的風(fēng)險似乎是很小的。但是比起恐怖分子，政府使用生物武器所殺的人要多得多——二戰(zhàn)期間，可能有多達(dá)400,000人死于日本的生物戰(zhàn)爭計(jì)劃——這恰恰也屬于生物恐怖活動。隨著未來技術(shù)的威力越來越強(qiáng)大，殺傷力更強(qiáng)的病原體也就更加容易設(shè)計(jì)了。

3. 超級智能

智慧是非常具有威力的。在解決問題的能力方面以及在團(tuán)體協(xié)作方面，我們略高一籌，這使得其他猿類動物望塵莫及。現(xiàn)在，其他猿類動物是否能夠繼續(xù)存在，要靠人類的決定，而不是靠它們自己怎么做。對于人類和團(tuán)體組織來說，擁有智慧的確是一種優(yōu)勢。因此，我們想方設(shè)法提高個人智慧和集體智慧，從提高認(rèn)知能力的藥物到人工智能軟件，我們做出了很多努力。

問題是：有智慧的實(shí)體善于實(shí)現(xiàn)自己的目標(biāo)；但如果目標(biāo)設(shè)置不當(dāng)，它們可以利用自己的威力輕而易舉地實(shí)現(xiàn)災(zāi)難性的目標(biāo)。如果認(rèn)為智能本身會使某個事物表現(xiàn)得良好而又符合道德規(guī)范，那是沒有道理的。實(shí)際上，有可能證實(shí)這一點(diǎn)：某種超級智能系統(tǒng)可能會不去遵守道德規(guī)則，即使這些規(guī)則是正確的。

更加令人擔(dān)憂的是，在企圖向人工智能解釋情況的時候，我們遇到了深奧的實(shí)際問題和哲學(xué)問題。人的價值都是些寬泛、復(fù)雜的概念，都是些不易表達(dá)的東西。即使能夠表達(dá)出來，我們可能也不會明白是否傳達(dá)了我們所希望表達(dá)的所有含義。

基于軟件的智能可能會很快從不如人類到變得異常強(qiáng)大，令人畏懼。原因在于，這種智能跟生物智能的分級方式有所不同：它在較快的計(jì)算機(jī)上運(yùn)行得也會較快，各部件可以安裝在更多的計(jì)算機(jī)上，不同的版本在運(yùn)行之中便可以得到測試和升級，所編入的新算法能夠使之在性能上產(chǎn)生飛躍。

有人曾經(jīng)提出，當(dāng)軟件的性能足夠卓越、其本身能夠制造出更好的軟件時，“智能爆炸”就成為可能。如果能夠發(fā)生這種飛躍的話，那么智能體系和世界其他體系之間的潛在能力將會存在巨大的差異。很明顯，如果目標(biāo)設(shè)置不當(dāng)，就有可能造成災(zāi)難。

有關(guān)超級智能，一件不同尋常的事情是：我們不知道迅速而強(qiáng)有力的智能爆炸是否有可能發(fā)生，或許我們目前的文明作為一個整體正在以最快的速度實(shí)施自我改善。但是，我們有充分的理由相信：一些技術(shù)可能會加速事態(tài)的發(fā)展，發(fā)展速度可能會遠(yuǎn)遠(yuǎn)超出預(yù)期，使當(dāng)前社會各界根本無法對付。同樣，我們也沒有很好地掌握不同形式的超級智能所造成的危險性到底有多大，什么樣的減災(zāi)策略能夠真正地起作用。對于我們尚不掌握的未來技術(shù)，或者對于比我們本身更加強(qiáng)大的智能，我們很難推知情況到底會如何。在這份威脅列單中，這個威脅最有可能是要么規(guī)模巨大，要么僅僅是虛幻的威脅而已。

這是一個在研究上特別欠缺的領(lǐng)域。甚至在20世紀(jì)50年代和60年代的時候，人們對于“在一代人的時間之內(nèi)”實(shí)現(xiàn)超級智能極有信心，但他們沒有太多地關(guān)注安全問題。也許人們當(dāng)時沒有重視那個預(yù)測，然而人們更有可能把超級智能當(dāng)成了一個遙遠(yuǎn)未來的問題。

4. 納米技術(shù)

納米技術(shù)利用原子或分子的精度來控制物質(zhì)。納米技術(shù)本身并不危險，相反該技術(shù)對于絕大多數(shù)應(yīng)用領(lǐng)域來說是一則極好的消息。問題是，就像生物技術(shù)一樣，威力的提高也增加了濫用的可能性，這些都是難以防范的。

一個重大的問題是，這不像邪惡的“灰色粘質(zhì)”——可以吞噬一切的、能夠自我復(fù)制的納米機(jī)器。要想達(dá)到吞噬一切的目的，這種機(jī)器本身也將需要精巧的設(shè)計(jì)。讓機(jī)器進(jìn)行自我復(fù)制是很難的，但是生物在默認(rèn)的狀態(tài)下對于自我復(fù)制要擅長得多?；蛟S會有某個瘋狂之人最終能夠成功地制造出這樣的機(jī)器，但是在研究這項(xiàng)破壞性技術(shù)的過程中，也會產(chǎn)生許多輕而易舉就可獲得的成果。

最明顯的風(fēng)險就是精密到原子級的制造技術(shù)，這種技術(shù)對于快速、低成本地制造武器之類的東西是很理想的。如果任何政府都能夠“打印”大量的自動式或半自動式武器（包括能夠通過“打印”更多制造武器的設(shè)備），那么在這樣的一個世界中，軍備競賽將會變得異常迅猛，因而也就增加了不穩(wěn)定的因素，因?yàn)樵跀橙诉€沒有獲得巨大優(yōu)勢之前而先發(fā)制敵可能會極具誘惑力。

武器可也以成為很小、很精密的東西：“智能毒物”的作用就像神經(jīng)毒氣，但是可以找出侵害目標(biāo)；或者，無處不在的“昆蟲機(jī)器人”監(jiān)視系統(tǒng)讓人們乖乖地順從……這些好像都是完全有可能實(shí)現(xiàn)的。此外，或許也有辦法讓任何人掌握核擴(kuò)散技術(shù)和氣候工程技術(shù)，無論誰想掌握都是可以做到的。

對于未來納米技術(shù)所帶來的生存威脅，我們無法判斷其可能性的大小。但是，看來這種技術(shù)是具有潛在破壞性的，因?yàn)樗軌驗(yàn)槲覀兲峁┪覀兿Ｍ玫降囊磺小?/p>

5. 尚未了解的未知事項(xiàng)

最令人不安的可能性是：有個非常致命的事物就存在于某處，而我們對其沒有掌握任何線索。

寂靜的天空可能就是此類事件的證據(jù)。找不到外星人的原因是由于生命或智能極其稀少嗎？或者是由于智能生命往往會被徹底消滅嗎？如果真的存在一個未來的“大過濾器”，那么其他的文明肯定也注意到了。即便如此，也于事無補(bǔ)。

不管這種威脅是什么，一旦人們認(rèn)識到它的存在時，那么就一定是幾乎不可避免的，不管你是誰，也不管你是做什么的，都無回天之力。我們還不了解任何這樣的威脅，列表中的其他威脅都不是像這樣運(yùn)行的，但是這種威脅或許是存在的。

請注意，我們對某個威脅尚不了解，并不意味著我們對此無法推知。在一篇引起廣泛關(guān)注的論文中，馬克斯·泰格馬克和尼克·博斯特羅姆根據(jù)地球的相對年齡證實(shí)，發(fā)生某種系列風(fēng)險的幾率肯定不到每十億年一次。

你會感到納悶：為何氣候變化和流星撞擊沒有進(jìn)入這個列單呢？無論多么可怕的氣候變化，都不可能使得整個地球成為無法居住的地方。但是如果我們的防御措施失利的話，那么氣候變化還會加劇其他的威脅。流星肯定有可能徹底摧毀我們，但是那一定是在我們極其不幸的情況下發(fā)生的。普通的哺乳動物物種生存了大約一百萬年，因此其自然背景滅絕率大約為每年百萬分之一。這比核戰(zhàn)爭的威脅要低得多，而核戰(zhàn)爭在70年之后仍然是人類繼續(xù)生存的最大威脅。

可得性啟發(fā)法使我們過高地估計(jì)了通常出現(xiàn)于媒體中的風(fēng)險，而對于史無前例的風(fēng)險則產(chǎn)生了低估。如果人類要想在一百萬年以后仍然生活在地球上，那么我們就要糾正這些錯誤的估計(jì)。

譯自：美國《大眾科學(xué)》雜志(05.29.2014 at 11:00 am)

原著：Anders Sandberg

作者簡介：安德斯·桑德伯格出生于1972年7月，獲斯德哥爾摩大學(xué)計(jì)算神經(jīng)科學(xué)博士學(xué)位，現(xiàn)任牛津大學(xué)人類未來研究所研究員，是一位科學(xué)辯論家、未來學(xué)家、人類提高學(xué)家兼作家。他在人類未來研究所的研究工作集中于低概率高沖擊的風(fēng)險管理、圍繞人類提高和新技術(shù)所產(chǎn)生的社會和倫理問題、以及對未來技術(shù)能力的評估等領(lǐng)域。桑德伯格博士特別感興趣的課題涉及全球性的災(zāi)難風(fēng)險、認(rèn)知偏差、認(rèn)知提高、集體智慧、神經(jīng)倫理學(xué)和公共政策等領(lǐng)域。