幾千年來(lái)，人們一直在談?wù)撌澜缒┤?，但很少有人真的努力去避免世界末日的發(fā)生。人類(lèi)并不擅長(zhǎng)應(yīng)對(duì)那些到目前為止沒(méi)有發(fā)生過(guò)的事情，人們往往會(huì)過(guò)高估計(jì)已知事件的發(fā)生概率，而忽略那些不易記起的事件。

如果人類(lèi)滅絕，最直接的損失是失去了所有活著的人。不過(guò)，損失可能遠(yuǎn)遠(yuǎn)不止于此。人類(lèi)滅絕意味著祖祖輩輩創(chuàng)造的價(jià)值不復(fù)存在，未來(lái)所有將要誕生的生命以及這些生命可能創(chuàng)造的所有價(jià)值都會(huì)成空。沒(méi)有了意識(shí)和智慧，價(jià)值本身會(huì)在宇宙中蕩然無(wú)存。因此，我們有充分的理由去努力避免那些影響人類(lèi)生存的危險(xiǎn)發(fā)生。

在這篇文章中，我選擇了我認(rèn)為對(duì)人類(lèi)生存威脅最大的五個(gè)隱患。但是，這并非定論，未知的威脅一直存在。

1.核戰(zhàn)爭(zhēng)

盡管到目前為止，核武器只被使用了兩次（“二戰(zhàn)”期間投放到廣島和長(zhǎng)崎的原子彈），而且核武器的儲(chǔ)備比冷戰(zhàn)高峰期有所下降，但你如果認(rèn)為核戰(zhàn)爭(zhēng)是不可能發(fā)生的，那就錯(cuò)了。

古巴導(dǎo)彈危機(jī)差一點(diǎn)變成核戰(zhàn)爭(zhēng)。假如這樣的事件每69年發(fā)生一起，每三起這樣的事件中有一起演變?yōu)楹藨?zhàn)爭(zhēng)，那么發(fā)生這種災(zāi)難的幾率就會(huì)上升到大約每年1/200。

更糟糕的是，古巴導(dǎo)彈危機(jī)只是最著名的一個(gè)事例，美蘇之間核威懾的歷史充滿(mǎn)了千鈞一發(fā)的危急時(shí)刻和危險(xiǎn)的錯(cuò)誤舉措。由于國(guó)際緊張局勢(shì)的變化，核戰(zhàn)爭(zhēng)爆發(fā)的概率已經(jīng)有了改變。但是，如果說(shuō)爆發(fā)核戰(zhàn)爭(zhēng)的概率遠(yuǎn)遠(yuǎn)不到每年1/1000，似乎是難以令人信服的。

大國(guó)之間全面的核戰(zhàn)爭(zhēng)將直接或間接地把數(shù)以?xún)|計(jì)的人置于死地——那是一場(chǎng)難以想象的災(zāi)難。但是，這仍不足以威脅人類(lèi)的生存。

同樣，放射塵的危害也常常被夸大，它在小范圍內(nèi)是致命的，但對(duì)整個(gè)地球造成的危害相對(duì)有限。有人曾經(jīng)提出，鈷彈可以導(dǎo)致假設(shè)中的世界末日，其放射塵可以殺死任何人。然而實(shí)際上，這種武器制造起來(lái)是很困難、很花錢(qián)的，從客觀上講幾乎不可能做到。

真正的威脅是核冬天的到來(lái)，也就是核爆產(chǎn)生的煙塵進(jìn)入大氣平流層，造成地球長(zhǎng)期的低溫和干燥?，F(xiàn)代的氣候模擬顯示，核冬天會(huì)使全世界絕大部分地區(qū)在很多年內(nèi)無(wú)法耕種。如果這種情況發(fā)生，數(shù)十億人將會(huì)餓死，幸存者還可能會(huì)遭受其他威脅，如疾病。我們還不能確定這些煙塵會(huì)表現(xiàn)出怎樣的性質(zhì)，不同類(lèi)型的煙塵可能造成不同的結(jié)果。因此目前我們沒(méi)法對(duì)此做出估計(jì)。

2.生物工程流行病

與戰(zhàn)爭(zhēng)相比，自然流行病具有更大的殺傷力。然而，自然流行病不大可能成為人類(lèi)生存的威脅：總會(huì)有人對(duì)病原體免疫，幸存者的后代將擁有更強(qiáng)的抗體。從進(jìn)化的角度來(lái)講，寄生物種也不會(huì)將它們的宿主全部消滅。這一點(diǎn)可以解釋為什么隨著梅毒的擴(kuò)散，這個(gè)致命殺手漸漸變成了一種慢性病。

遺憾的是，我們現(xiàn)在可以使疾病變得更加厲害。比較著名的例子之一就是往鼠痘（老鼠的天花病毒）中植入一種基因，鼠痘的致命性就會(huì)增強(qiáng)許多，可以感染接種過(guò)疫苗的個(gè)體。最近對(duì)禽流感的研究表明，一種疾病的傳染性可以人為地得到加強(qiáng)。

目前，有人故意釋放毀滅性東西的風(fēng)險(xiǎn)不大。但是，隨著生物技術(shù)越來(lái)越發(fā)達(dá)，費(fèi)用也越來(lái)越低，更多的團(tuán)體將能掌握這類(lèi)技術(shù)。

生物武器的研發(fā)大都是由政府主導(dǎo)的，尋求的是可控制的殺傷力，因?yàn)橄麥缛祟?lèi)在軍事上是沒(méi)有任何意義的。但是，總有一些人想做瘋狂的事情，僅僅是因?yàn)樗麄冇心芰ψ龅健Ａ硪恍┤藫碛小案摺钡哪繕?biāo)，例如，日本奧姆真理教的狂熱分子企圖加速世界末日的到來(lái)，他們除了使用更加有威脅的神經(jīng)毒氣外，還使用生物武器。還有些人認(rèn)為，如果沒(méi)有人類(lèi)，地球會(huì)更加美好。

由于生物武器的襲擊和流行病爆發(fā)而死亡的人數(shù)看起來(lái)是呈冪律分布的——絕大部分襲擊和流行病造成的傷亡很小，而極少數(shù)襲擊和流行病卻會(huì)造成極大的傷亡。根據(jù)當(dāng)前掌握的數(shù)據(jù)看，由生物恐怖襲擊造成全球流行病爆發(fā)的風(fēng)險(xiǎn)似乎很小，可是比起恐怖分子，政府使用生物武器所殺的人要多得多——“二戰(zhàn)”期間，可能有多達(dá)400000人死于日本的生物戰(zhàn)爭(zhēng)計(jì)劃——這恰恰也屬于生物恐怖活動(dòng)。隨著生物技術(shù)的威力越來(lái)越強(qiáng)大，殺傷力更強(qiáng)的病原體也就更加容易設(shè)計(jì)了。

3.超級(jí)智能

智慧是非常具有威力的。我們?cè)诮鉀Q問(wèn)題及團(tuán)體協(xié)作方面略高一籌，讓其他靈長(zhǎng)類(lèi)望塵莫及。其他靈長(zhǎng)類(lèi)能否繼續(xù)生活在地球上，取決于人類(lèi)的決定，而不是它們自己。對(duì)人類(lèi)來(lái)說(shuō)，擁有智慧的確是一種優(yōu)勢(shì)。因此，我們想方設(shè)法地提高個(gè)人和集體智慧，從提高認(rèn)知能力的藥物到人工智能軟件，我們做出了很多努力。

有智慧的實(shí)體善于實(shí)現(xiàn)自己的目標(biāo)，但如果目標(biāo)設(shè)置不當(dāng)，就可能利用自己的威力輕而易舉地實(shí)現(xiàn)災(zāi)難性的目標(biāo)。如果認(rèn)為智能本身會(huì)使某個(gè)事物表現(xiàn)良好而又符合道德規(guī)范，那是沒(méi)有道理的。某種超級(jí)智能系統(tǒng)可能會(huì)違反道德規(guī)則，即使這些規(guī)則是正確的。

更加令人擔(dān)憂的是，在人工智能技術(shù)高歌猛進(jìn)時(shí)，我們遇到了深?yuàn)W的實(shí)際問(wèn)題和哲學(xué)問(wèn)題。人的價(jià)值都是些寬泛、復(fù)雜、不易表達(dá)的概念，即使表達(dá)了，我們也可能不明白是否傳達(dá)了自己想表達(dá)的所有含義。

智能軟件可能很快就會(huì)變得異常強(qiáng)大。智能軟件的分級(jí)方式跟生物智能有所不同，它們會(huì)隨著硬件的提升而“進(jìn)化”，并依靠在不同硬件上運(yùn)行而得到測(cè)試和升級(jí)。

有人曾經(jīng)提出，當(dāng)軟件的性能足夠卓越、其本身能夠制造出更好的軟件時(shí)，“智能爆炸”就成為可能。如果發(fā)生這種飛躍，那么智能體系將凌駕于世界其他體系之上。如果目標(biāo)設(shè)置不當(dāng)，就可能造成災(zāi)難。

我們不知道迅速而強(qiáng)有力的智能爆炸是否有可能發(fā)生，或許作為一個(gè)整體，我們目前的文明正在以最快的速度自我改善。但是，我們有充分的理由相信，一些技術(shù)可能會(huì)加速事態(tài)的發(fā)展，發(fā)展速度可能會(huì)遠(yuǎn)遠(yuǎn)超出我們的預(yù)期，使當(dāng)前社會(huì)各界根本無(wú)法應(yīng)對(duì)。同樣，我們也不知道不同形式的超級(jí)智能的危險(xiǎn)性到底有多大，什么樣的減災(zāi)策略能夠真正起到作用。對(duì)我們尚不掌握的未來(lái)技術(shù)，或者對(duì)比我們更強(qiáng)大的智能，我們很難估測(cè)情況到底會(huì)如何。在這份威脅名單中，這個(gè)威脅要么規(guī)模巨大，要么僅僅是虛幻。endprint

這是少有人研究的領(lǐng)域。20世紀(jì)五六十年代，人們對(duì)“這代人”將實(shí)現(xiàn)超級(jí)智能極有信心，卻沒(méi)怎么關(guān)注安全問(wèn)題。也許人們當(dāng)時(shí)沒(méi)有重視那個(gè)預(yù)測(cè)，或者，覺(jué)得超級(jí)智能是遙遠(yuǎn)的未來(lái)時(shí)代的問(wèn)題。

4.納米技術(shù)

納米技術(shù)的本質(zhì)是利用原子或分子的精度來(lái)控制物質(zhì)。納米技術(shù)本身并不危險(xiǎn)，相反，該技術(shù)在絕大多數(shù)領(lǐng)域是一則好消息。問(wèn)題是，就像生物技術(shù)一樣，威力的提高也增加了濫用的可能性，這些都是難以防范的。

美國(guó)未來(lái)學(xué)家德雷克斯勒提出了一個(gè)被稱(chēng)為“灰色黏質(zhì)”的古怪概念。這是一種由納米機(jī)器人組成的東西，可以通過(guò)移動(dòng)單個(gè)原子制造出任何人們想要的東西，土豆、服裝或者是計(jì)算機(jī)芯片等，而不必使用傳統(tǒng)的制造方式。德雷克斯勒擔(dān)心，這樣一種能夠自我復(fù)制的機(jī)器人可能會(huì)失去控制，它們能瘋狂地復(fù)制自身，在最短的時(shí)間內(nèi)把地球變成一大團(tuán)完全由納米機(jī)器人組成的“灰色黏質(zhì)”。要想達(dá)到吞噬一切的目的，這種機(jī)器本身也需要精巧的設(shè)計(jì)。讓機(jī)器進(jìn)行自我復(fù)制是很難的，但是生物對(duì)自我復(fù)制則很擅長(zhǎng)，或許會(huì)有某個(gè)瘋子最終成功地制造出這樣的機(jī)器。但在研究這項(xiàng)破壞性技術(shù)的過(guò)程中，也會(huì)產(chǎn)生許多輕而易舉就可獲得的成果。

最明顯的風(fēng)險(xiǎn)就是精確到原子級(jí)的制造技術(shù)，這種技術(shù)對(duì)快速、低成本地制造武器之類(lèi)的東西是很理想的。如果任何政府都能夠“打印”大量自動(dòng)式或半自動(dòng)式武器（包括能夠“打印”可制造更多武器的設(shè)備），那么在這樣一個(gè)世界中，軍備競(jìng)賽將會(huì)變得異常激烈，因而增加了不穩(wěn)定因素，因?yàn)樵跀橙诉€沒(méi)有獲得巨大優(yōu)勢(shì)之前先發(fā)制人極具誘惑力。

武器也可以成為很小、很精密的東西?！爸悄芏疚铩钡淖饔镁拖裆窠?jīng)毒氣，但是可以主動(dòng)尋找攻擊目標(biāo)；或者，無(wú)處不在的“昆蟲(chóng)機(jī)器人”監(jiān)視系統(tǒng)將讓人們乖乖聽(tīng)話……這些好像都是完全有可能實(shí)現(xiàn)的。

5.尚未了解的未知事項(xiàng)

最令人不安的是，某個(gè)非常致命的事物也許就存在于某處，而我們對(duì)其一無(wú)所知。

寂靜的天空可能就是此類(lèi)事件的證據(jù)。找不到外星人的原因是生命或智能極其稀少嗎？或者是智能生命會(huì)被徹底消滅？如果真的存在一個(gè)大過(guò)濾器，那么其他的文明肯定也注意到了。即便如此，也于事無(wú)補(bǔ)。

不管這種威脅是什么，一旦人們認(rèn)識(shí)到它的存在，就一定是不可避免的。不管你是誰(shuí)，也不管你是做什么的，都無(wú)回天之力。

請(qǐng)注意，我們對(duì)某個(gè)威脅不了解并不意味著我們對(duì)此無(wú)法推知。在一篇引起廣泛關(guān)注的論文中，馬克斯·格馬克和尼克·博斯特羅姆根據(jù)地球的相對(duì)年齡，推算出發(fā)生某種系列風(fēng)險(xiǎn)的幾率不到每年十億分之一。

你會(huì)感到納悶：為何氣候變化和流星撞擊沒(méi)有進(jìn)入這個(gè)名單？無(wú)論多么可怕的氣候變化，都不可能使整個(gè)地球成為無(wú)法居住的地方。但是如果我們防御失措的話，氣候變化的威脅還將加劇。小行星撞擊肯定有可能徹底摧毀我們，但是那一定是在極其不幸的情況下。普通的哺乳動(dòng)物物種能夠生存大約100萬(wàn)年，因此其自然滅絕率大約為每年百萬(wàn)分之一。這比核戰(zhàn)爭(zhēng)的威脅要低得多，核戰(zhàn)爭(zhēng)在70年之后仍然是人類(lèi)繼續(xù)生存的最大威脅。

可得性啟發(fā)法使我們過(guò)高地估計(jì)了通常出現(xiàn)于媒體中的風(fēng)險(xiǎn)，而對(duì)史無(wú)前例的風(fēng)險(xiǎn)則產(chǎn)生了低估。如果人類(lèi)想在100萬(wàn)年以后仍然生活在地球上，那么我們就有必要糾正這種低估。

作者簡(jiǎn)介

安德斯·桑德伯恪，1972年7月生，斯德哥爾摩大學(xué)計(jì)算神經(jīng)科學(xué)博士，現(xiàn)任牛津大學(xué)人類(lèi)未來(lái)研究所研究員。主要研究低概率高沖擊的風(fēng)險(xiǎn)管理、圍繞新技術(shù)產(chǎn)主的社會(huì)和倫理問(wèn)題，以及對(duì)未來(lái)技術(shù)能力的評(píng)估等。

延伸閱讀

3D打印，又稱(chēng)積層制造，屬于快速成形技術(shù)的一種，是一種以數(shù)字模型文件為基礎(chǔ)直接制造任意形狀的三維實(shí)體的技術(shù)。3D打印運(yùn)用粉末狀金屬或塑料等可粘合材料，通過(guò)逐層堆疊累積的方式構(gòu)造物體，即“層造形法”。3D打印與傳統(tǒng)的機(jī)械加工技術(shù)不同，后者通常采用切削或鉆孔技術(shù)（即減材工藝）實(shí)現(xiàn)。3D打印技術(shù)過(guò)去常被用于制造模型，現(xiàn)正逐漸用于一些產(chǎn)品的直接制造。一些高價(jià)值應(yīng)用（比如髖關(guān)節(jié)或牙齒，或一些飛機(jī)零部件）已經(jīng)有利用這種技術(shù)打印而成的零部件。endprint