托比·奧德

今天核武器造成的生存性風(fēng)險(xiǎn)很可能依然來自美國和俄羅斯龐大的核武儲(chǔ)備。洲際導(dǎo)彈的研發(fā)使雙方都有能力摧毀對(duì)方的大部分導(dǎo)彈，這一過程中的預(yù)警時(shí)間只有30分鐘。因此兩國都把很多導(dǎo)彈調(diào)整為“一觸即發(fā)”的響應(yīng)等級(jí)——10分鐘內(nèi)就能發(fā)射。處于這種響應(yīng)等級(jí)的導(dǎo)彈非常容易誤射，也可能因?yàn)檎`報(bào)警而被有意發(fā)射出去。正如我們將在第四章里看到的，冷戰(zhàn)結(jié)束時(shí)還發(fā)生了一系列可怕的誤報(bào)警事件。從更長(zhǎng)的時(shí)間尺度來看，還會(huì)有其他風(fēng)險(xiǎn)出現(xiàn)：其他國家可能發(fā)展起龐大的核武儲(chǔ)備，軍事技術(shù)創(chuàng)新有可能削弱核威懾原則，地緣政治局勢(shì)改變也許會(huì)再次引發(fā)大國之間的軍備競(jìng)賽。

核武器不是人類面臨的唯一威脅。只因?yàn)楹宋淦魇鞘讉€(gè)威脅到人類的風(fēng)險(xiǎn)，所以才會(huì)至今仍是我們的關(guān)注焦點(diǎn)。然而，其他風(fēng)險(xiǎn)也還是存在的。

工業(yè)革命帶來的繁榮程度指數(shù)式上升的背后，是二氧化碳排放量的迅速增加。工業(yè)化進(jìn)程的小小副作用，最后竟演變成對(duì)健康、環(huán)境、國際穩(wěn)定的威脅，甚至可能危害到人類自身。

核武器和氣候變化有明顯的相似和不同之處。它們都會(huì)大幅改變地球溫度，從而對(duì)人類造成威脅，但一個(gè)是使溫度降低，另一個(gè)是升高。一個(gè)作為意料之外的科研突破產(chǎn)物橫空出世，另一個(gè)則是舊有技術(shù)在數(shù)個(gè)世紀(jì)里持續(xù)擴(kuò)大規(guī)模的結(jié)果。一個(gè)驟然加劇為災(zāi)難的風(fēng)險(xiǎn)程度較高，另一個(gè)則是持續(xù)漸進(jìn)的過程，其影響遲遲才開始產(chǎn)生，但必然會(huì)造成某種程度上的災(zāi)難，主要不太確定的是會(huì)糟糕到何種地步。一個(gè)涉及機(jī)密的軍事技術(shù)，由一小部分手握大權(quán)的實(shí)施者控制，另一個(gè)則牽涉到全世界每個(gè)人的選擇所帶來的微小效應(yīng)的總和。

隨著技術(shù)繼續(xù)進(jìn)步，前方出現(xiàn)了新的威脅。比起氣候變化，這些威脅可能跟核武器更像：由意外的突破、驟然發(fā)生的災(zāi)難和一小批實(shí)施者采取的行動(dòng)引起。我尤其關(guān)注兩種新興技術(shù)，本書第五章將談到它們。

自農(nóng)業(yè)革命以來，我們一直在改造周圍動(dòng)植物的基因以適應(yīng)我們的需要。但是，遺傳密碼的發(fā)現(xiàn)，以及讀寫遺傳密碼的工具的發(fā)明，讓我們?yōu)榱诵履繕?biāo)而重塑生命的能力出現(xiàn)了大爆發(fā)。生物科技將帶來醫(yī)藥、農(nóng)業(yè)和工業(yè)方面的重大進(jìn)步，但它也會(huì)給文明和人類自身帶來風(fēng)險(xiǎn)：不管是合法研究中的事故，還是經(jīng)過基因改造的生物武器，都會(huì)帶來風(fēng)險(xiǎn)。

我們還見證了人工智能系統(tǒng)能力的快速發(fā)展，人工智能在認(rèn)知、學(xué)習(xí)、通用智能等傳統(tǒng)上薄弱的領(lǐng)域產(chǎn)生了巨大進(jìn)步。專家們認(rèn)為，人工智能有可能在21世紀(jì)就在通用智能方面超越人類水平——具備克服各種困難以實(shí)現(xiàn)目標(biāo)的能力，而不僅僅是在有限的領(lǐng)域里領(lǐng)先。把人類提升至掌控萬物的地位的正是我們得天獨(dú)厚的腦力，如果我們把這種能力傳給我們的機(jī)器，那么占據(jù)這種獨(dú)特位置的將會(huì)是它們。這種情況讓我們不禁思考人類還能不能繼續(xù)掌握主導(dǎo)權(quán)。我們必須學(xué)會(huì)如何讓越來越聰明、自動(dòng)化水平越來越高的機(jī)器和人類的利益保持一致，并且需要在這些機(jī)器變得比我們更強(qiáng)大之前做到。

人類面臨的這些威脅，以及我們應(yīng)對(duì)它們的方式，定義了我們這個(gè)時(shí)代。核武器在20世紀(jì)出現(xiàn)，帶來了可能導(dǎo)致人類滅絕的真實(shí)風(fēng)險(xiǎn)。在技術(shù)持續(xù)加速發(fā)展的情況下，如果不為保護(hù)人類做出真正的努力，那么我們有充分理由相信風(fēng)險(xiǎn)在21世紀(jì)會(huì)更高，而在下個(gè)世紀(jì)里，隨著技術(shù)不斷進(jìn)步，風(fēng)險(xiǎn)還會(huì)增加。人類自身造成的種種風(fēng)險(xiǎn)超過了所有自然風(fēng)險(xiǎn)的總和，因此，人為風(fēng)險(xiǎn)決定了人類還剩多長(zhǎng)時(shí)間可以懸崖勒馬。

我不認(rèn)為科學(xué)進(jìn)步必然導(dǎo)致人類滅絕，甚至說這并不是最有可能出現(xiàn)的情況。我要提出的是，在人類力量的增長(zhǎng)中有一股強(qiáng)有力的趨勢(shì)，當(dāng)這股趨勢(shì)到達(dá)某個(gè)節(jié)點(diǎn)時(shí)就會(huì)對(duì)我們的生存造成嚴(yán)重的威脅。我們?nèi)绾螒?yīng)對(duì)這類風(fēng)險(xiǎn)取決于我們自身。

我也不反對(duì)技術(shù)。技術(shù)已經(jīng)證明其本身對(duì)提升人類生存狀況有巨大價(jià)值，而且，技術(shù)是人類實(shí)現(xiàn)長(zhǎng)期發(fā)展?jié)摿Φ幕A(chǔ)。沒有技術(shù)，我們會(huì)在小行星撞擊之類不斷累加的自然風(fēng)險(xiǎn)中滅亡;沒有技術(shù)，我們將無法實(shí)現(xiàn)本有能力實(shí)現(xiàn)的高度繁榮。

真正的問題與其說是技術(shù)的泛濫，不如說是人類智慧的缺乏?？枴に_根說得很好：

我們面臨的很多危險(xiǎn)實(shí)際上源于科學(xué)與技術(shù)——但更根本的問題是，我們變得更強(qiáng)大，卻沒有相應(yīng)地變得更有智慧。技術(shù)賦予我們改變世界的力量，手握這種力量的我們需要具備從前不曾有過的深思熟慮和高瞻遠(yuǎn)矚。

甚至有位美國總統(tǒng)在任時(shí)也提倡這種理念：

人類這個(gè)物種特有的那些閃光點(diǎn)——我們的思維、我們的想象、我們的語言、我們使用工具的能力、我們獨(dú)立于自然并根據(jù)自己意愿改造自然的能力，恰恰也是它們賦予我們?cè)斐勺畲笃茐牡牧α俊?技術(shù)的發(fā)展若不伴隨人類制度的相應(yīng)進(jìn)步，就會(huì)使我們?cè)庥鰷珥斨疄?zāi)。有了能實(shí)現(xiàn)原子裂變的科學(xué)革命，也應(yīng)該有一場(chǎng)道德革命。

我們必須獲得這種智慧，進(jìn)行這場(chǎng)道德革命，因?yàn)槲覀儫o法從滅絕中重生，我們不能坐以待斃——我們必須積極行動(dòng)起來。而且，由于獲得智慧和發(fā)起道德革命都需要時(shí)間，我們必須馬上行動(dòng)。

我認(rèn)為我們可以渡過這個(gè)難關(guān)。不單因?yàn)檫@些挑戰(zhàn)較小，還因?yàn)槲覀儠?huì)奮起反擊。正因?yàn)檫@些風(fēng)險(xiǎn)是人為造成的，所以人類也有辦法應(yīng)對(duì)它們。失敗主義的情緒毫無必要，只會(huì)適得其反——讓預(yù)言自我實(shí)現(xiàn)。相反，我們應(yīng)當(dāng)在需要保護(hù)的長(zhǎng)期未來積極愿景的指導(dǎo)下，以清晰而嚴(yán)謹(jǐn)?shù)乃伎颊嬗舆@些挑戰(zhàn)。

這些風(fēng)險(xiǎn)到底有多大？很難給出精確的數(shù)字，因?yàn)檫@些風(fēng)險(xiǎn)是復(fù)雜的（因此無法應(yīng)用簡(jiǎn)單的數(shù)學(xué)分析），也是空前的（因此無法通過長(zhǎng)期頻率來估計(jì)）。不過，至少有必要試著進(jìn)行量化估算?！叭祟悳缃^的嚴(yán)峻風(fēng)險(xiǎn)”這類定性說法代表的風(fēng)險(xiǎn)水平，可以理解為1%～99% 這個(gè)區(qū)間內(nèi)的任何一個(gè)數(shù)字，這只會(huì)讓人更加困惑。因此我將提供量化的估計(jì)，當(dāng)然，估計(jì)不可能精準(zhǔn)，有待進(jìn)一步修正。

據(jù)我推測(cè)，20世紀(jì)人類滅絕或發(fā)生不可恢復(fù)的文明崩潰的風(fēng)險(xiǎn)水平是1%。根據(jù)我目前掌握的所有信息，我認(rèn)為21世紀(jì)人類滅絕的風(fēng)險(xiǎn)水平大概是1/6：一次俄羅斯輪盤賭。如果我們不齊心協(xié)力，如果我們繼續(xù)讓自身力量的增長(zhǎng)超過智慧的提升，我們?cè)谙乱粋€(gè)世紀(jì)面臨的風(fēng)險(xiǎn)會(huì)更高，而且還會(huì)不斷增加。

這些是我們面臨的最大風(fēng)險(xiǎn)。如果我對(duì)風(fēng)險(xiǎn)規(guī)模的測(cè)算大致沒錯(cuò)的話，我們是不可能在這些風(fēng)險(xiǎn)中生存太久的。這是一種不可持續(xù)的風(fēng)險(xiǎn)水平。因此這段生存期無論如何也不可能持續(xù)超過若干個(gè)世紀(jì)。

人類要么掌控住風(fēng)險(xiǎn)并將其降低至使人類可持續(xù)生存的水平，要么自取滅亡。

若將人類歷史比作一次穿越荒野的壯游，行程中必有誤入歧路和艱難跋涉的時(shí)候，但也會(huì)有突飛猛進(jìn)和邂逅美景的時(shí)候。20世紀(jì)，我們已翻越崇山峻嶺，并且發(fā)現(xiàn)前面只有一條崖邊小道：緊臨搖搖欲墜的險(xiǎn)境邊緣。往下面的深淵望去，會(huì)令人頭暈?zāi)垦！Ｈ绻覀兊袈湎氯?，一切都將終結(jié)。我們不知道掉下去的概率有多高，但這是我們遇到過的最大危機(jī)。

在人類歷史中，這段相對(duì)短暫的時(shí)期構(gòu)成了特殊的挑戰(zhàn)。我們的應(yīng)對(duì)方式將定義我們的故事，未來的歷史學(xué)者將為這個(gè)時(shí)期命名，學(xué)童們將學(xué)習(xí)這段過往。但我想我們現(xiàn)在就該給它一個(gè)名字，我稱之為“危崖時(shí)期”。

危崖時(shí)期給我們的時(shí)代賦予了巨大意義。在歷史的漫長(zhǎng)過程中（如果我們能夠存續(xù)那么久），這正是讓后人銘記我們這個(gè)時(shí)代的東西：因?yàn)檫@個(gè)時(shí)代危機(jī)重重，也因?yàn)槿祟惔蜷_了視野，開始成熟起來并確保自身的長(zhǎng)期未來能豐饒昌盛。這就是我們這個(gè)時(shí)代的意義。

我并不是在美化或抹黑我們的時(shí)代，我想表達(dá)的是，我們的行動(dòng)事關(guān)重大。我們是偉大的還是可怖的將取決于我們?nèi)绾卫眠@個(gè)機(jī)會(huì)。我希望我們能生存下來，告訴子孫后代我們沒有袖手旁觀，而是利用這個(gè)機(jī)會(huì)完成了歷史賦予我們的任務(wù)。

保護(hù)人類免遭這些風(fēng)險(xiǎn)應(yīng)當(dāng)是我們這個(gè)時(shí)代的中心和首要任務(wù)。我并不是說全世界只有這么一個(gè)議題，人們應(yīng)當(dāng)放下其他一切重要的事情。但如果你發(fā)現(xiàn)自己能發(fā)揮某種作用，比如你有相關(guān)的技能，或者你年紀(jì)尚輕，可以塑造自己的道路，那么我認(rèn)為保護(hù)人類度過這段危機(jī)歲月是你所能追求的最崇高的意義。

（責(zé)編：栗月靜）

人們?cè)絹碓角逦卣J(rèn)識(shí)到，人類活動(dòng)是塑造環(huán)境的支配力量?？茖W(xué)家認(rèn)為，人類不但就其自身而言很重要，也在客觀上對(duì)生物、地質(zhì)和氣候等影響重大。如果在遙遠(yuǎn)的未來有地質(zhì)學(xué)家的話，他們會(huì)辨別出我們這個(gè)時(shí)代的地質(zhì)巖層和以往形成的巖層相比發(fā)生了根本性的變化。

因此，當(dāng)代地質(zhì)學(xué)家正在考慮正式命名這種變化——改變地質(zhì)年代的分類方式，引入一個(gè)名為“人類世”的新世代?？茖W(xué)家提議作為這一世代開端的事件有巨型動(dòng)物的滅絕、農(nóng)業(yè)革命、穿越大西洋、工業(yè)革命、早期核武器試驗(yàn)等。

這個(gè)“人類世”和“危崖時(shí)期”一樣嗎？如何區(qū)分兩者？

人類世是人類對(duì)環(huán)境產(chǎn)生深刻影響的時(shí)期，而危崖時(shí)期則是人類自我毀滅風(fēng)險(xiǎn)極高的時(shí)期。

人類世是地質(zhì)年代，地質(zhì)年代通常持續(xù)數(shù)百萬年，而危崖時(shí)期是人類歷史中的一個(gè)時(shí)期（類似于啟蒙運(yùn)動(dòng)或工業(yè)革命），很可能在幾個(gè)世紀(jì)內(nèi)就結(jié)束了。

兩者都可以用第一次原子彈爆炸試驗(yàn)作為開端，但這樣劃分的原因是不同的。人類世以核爆為開端主要是為了定年方便，危崖時(shí)期始于核爆則是因?yàn)楹宋淦鲗?duì)我們的生存造成了威脅。