胡泳

英國作家伊安·莫蒂默（Ian Mortimer）的書《變革的世紀》中，討論了這樣一個問題：哪個世紀我們看到的變革最多？莫蒂默認為，11世紀最重要的東西是城堡，12世紀是法律和秩序，13世紀最重要的發(fā)明是市場，14世紀最大的變化是瘟疫（當時黑死病橫掃整個歐洲，死掉三分之一的人口），15世紀是哥倫布，16世紀是個人暴力的減少，17世紀最關鍵的是科學革命，18世紀是法國革命，19世紀是通信，而20世紀最重要的變革是對未來的發(fā)明。

毫無疑問，技術極大地改變了我們在20世紀的生存和死亡方式。但是，它也標記了可能更為深刻的變化。1900年，很少有人認真考慮過未來，而今天，我們幾乎預測所有事情：天氣會怎樣，股市又如何，我們需要什么樣的住房，我們的退休金將價值多少，等等。我們越來越多地講述將要發(fā)生的事情，而不是已經發(fā)生的事情。在這個意義上，我們把20世紀視為現代世界開始的起點——人類從此開始考慮未來。

21世紀，迄今已邁過20年。如果說20世紀是現代世界的起點，那么，我們又將如何描述21世紀？

我認為，21世紀是人類歷史上最重要的世紀，雖然這個世紀還遠遠沒有過完。這并不是因為你我身處這個世紀——我們都知道，人類擁有一種將自己的時代看成前所未有、獨一無二的傾向。存在三個核心論點，可以證明我們生活在人類歷史的關鍵時刻。

危險時刻

第一個論點可以叫作“危險時刻”理據。

這個理據很簡單：本世紀我們只有克服巨大的挑戰(zhàn)才能擁有任何未來，僅此一點，就足以使其成為迄今為止所有世紀中最重要的世紀。假如被這些挑戰(zhàn)所擊敗，人類就將處于毀滅的邊緣，這也令本世紀比未來的世紀更加關鍵。

牛津大學的哲學家托比·奧爾德說：“按照人類歷史的標準，我們目前正處于一個非常特殊的時期，我們的行為可能會破壞我們的世界?！彼耐履峥?？波斯特洛姆將此稱為人類的“存在風險”（existential risk），即某些威脅可能導致人類滅絕或摧毀起源于地球的智慧生命。

過去，人類不可能完全消滅自己。然而，并不算太久之前的1945年，人類在戰(zhàn)爭中首次使用核武器，發(fā)展出滅絕自身的能力。從那以后，我們不斷磨煉這種死亡能力，現在地球上有了成千上萬件核武器。專家們對核戰(zhàn)爭到底會帶來多大的災難持不同看法，但很顯然，人類自毀不再遙遠，而且每年都在變得越來越容易。

我們也朝著其他威脅文明的方式邁進——從氣候變化到流行病，從基因技術到人工智能。隨著我們侵占自然并把地球人口擴大到80億人，病毒可能反復來襲，這是與我們作為一個“成功”物種必然相伴的災難。氣候變化不會使地球變得無法居住，但它肯定會使其變得更脆弱，彈性更低，全球協(xié)調性下降，并且更容易受到生態(tài)系統(tǒng)或地緣政治環(huán)境的其他沖擊源的影響。人工智能研究者對于顛覆性AI技術究竟是10年還是200年到來并沒有共識，但許多人同意，除非經過精心設計，它的降臨將會是災難性的。

根據存在風險論，從我們發(fā)明各種自毀方法到某種形式的全球治理浮現，令我們可以通過協(xié)調而系統(tǒng)的方式解決挑戰(zhàn)，而不是依賴運氣的時期，構成歷史上的樞紐期（the hinge of history）。只有我們在接下來的時間內采取明智的行動，人類才將得以度過最危險和最具決定性的時期。沒有度過這個時期之前，你我他、每一個人，都是憑借著運氣生活，存在著巨大的偶然性。

不能確定這個非常特殊的時期正好是一個世紀之久；它很容易持續(xù)數百年。但極其明顯的是，樞紐期將不會永遠持續(xù)下去。如果我們每年僅靠運氣生存，那么到了某些年份，我們會倒霉。

美國人口生態(tài)學家保羅·艾里奇最有名的著作是1968年出版的轟動一時的《人口爆炸》，該書認為世界人口當時已經超過了地球生態(tài)環(huán)境的承載能力，正威脅著整個人類的生存。由于出版社的決定，他的妻子安妮·艾里奇沒有成為《人口爆炸》一書的共同作者。但之后的很多書和文章都署名為艾里奇夫婦。

這對夫婦寫過一本書叫《滅絕》，前言里講了一個寓言故事，很快就在生態(tài)學術圈中流傳開來，就像“人口炸彈”的比喻對外界發(fā)生巨大影響一樣。

這個故事講述的是，一名旅客注意到一個機修工正從他將要乘坐的飛機機翼上敲出鉚釘。機修工解釋說航空公司將因此獲得一大筆錢。同時，機修工也向這位震驚的旅客保證，飛機上有上千鉚釘，絕對是萬無一失的。事實上他已經這樣做了一陣子了，也沒見有飛機掉下來。

這則寓言的重點在于，我們無從知曉究竟哪一顆鉚釘會是導致飛機失事的最后一根稻草。但對于乘客而言，哪怕敲掉一顆鉚釘都是瘋狂的行為。然而艾里奇教授卻嚴正指出，在地球這艘大型宇宙船上，人類正在以越來越快的速度敲掉一顆顆的“鉚釘”：“生態(tài)學家并不能預言失去一個物種的結果，正如乘客無法估計飛機失去一顆鉚釘會有什么后果一樣?！?blockquote>量子理論告訴我們，不可預測性不一定是一件壞事。也許它為我們如何面對未來提供了一個教訓——通過負責任的計劃，同時也包含未來的不確定性，人類可以提高為未來做好準備的概率。

這個寓言精妙地顯示了，我們每一年都在依靠運氣生存。因此，存在風險的研究者希望我們能夠結束導致危險的全球局勢，而不是僅僅試圖度過每一年的危險。如果我們能夠做到這一點，它將對未來產生巨大的決定性影響。

價值鎖定

第二種理據叫作“價值鎖定”。

價值觀鎖定的觀點認為，在不久的將來，人們可以通過某些方式，為更遙遠的未來的人類后代鎖定一種特定的路線。如果這樣做，我們需要確保我們不會鎖定未來道德進步的潛力。

一些研究人員認為，開發(fā)更先進的技術將意味著，把有關人類價值觀的許多最重要的問題，有效地置于人類控制之外。如果我們對率先問世的先進計算機系統(tǒng)進行編程，讓它分享我們的價值觀，那就是它會做的，哪怕我們后來決定我們想要某種不同的東西。

第二次世界大戰(zhàn)時期，阿蘭·圖靈密碼破譯小組的首席統(tǒng)計師兼數學家I.J.古德，大概是清晰闡述人工智能未來圖景的第一人。在那段寫于1965年、后來被經常引用的名言中，他這樣寫道：“我們把超智能機器定義為具備超越所有聰慧人類智能活動的機器?？紤]到設計機器是智能活動的一部分，那么超智能機器甚至能夠設計出更好的機器。毫無疑問，肯定會出現諸如‘智能爆發(fā)這樣的局面，人類智能會被遠遠地甩在后面。因此，第一臺超智能機器將是人類創(chuàng)造的最后一臺機器，當然前提條件是這臺機器足夠聽話，并告訴我們要怎樣才能控制它?！?/p>

在《超級智能》一書中，尼克？波斯特洛姆循著古德的思想認為：“如果有一天我們發(fā)明了超越人類大腦一般智能的機器大腦，那么這種超級智能將會非常強大。并且，正如現在大猩猩的命運更多地取決于人類而不是它們自身一樣，人類的命運將取決于超級智能機器……一旦不友好的超級智能出現，它就會阻止我們將其替換或者更改其偏好設置，而我們的命運就因此被鎖定了?！?/p>

所以，超級智能帶來的挑戰(zhàn)，很可能是人類面對的最重要和最可怕的挑戰(zhàn)。而且，不管我們成功還是失敗，這大概都是我們將要面對的最后一個挑戰(zhàn)?！拔覀円牟粌H僅是嫻熟的技術以引燃智能爆炸，我們還要能在更高水平上掌握控制權，以免我們在爆炸中身首異處?！?/p>

大多數關注“價值鎖定”的研究人員都在考慮人工智能問題。不過還有一種更一般的說法。牛津大學學者威爾·麥克斯基爾將其總結為：“最關鍵的點是，我們如何開發(fā)用于設計謀劃人類后代的動力和價值的技術（可能通過AI，但也可能通過其他技術，例如基因工程或先進的洗腦技術）。”換句話說，如果我們在這一步形成的是足夠專制和強大的威權，新技術可能意味著子孫后代將無力推翻或改革它。

群體行動

關于21世紀如何與眾不同，還有最后一種理據。在大多數歷史上，即使人類就某一種行動方針達成一致，整個世界也無法圍繞這種方針進行協(xié)調。而全球通信技術已經改變了這一點。

在涉及人類交往的情況下，群體行動問題無處不在，因此是經濟學和政治科學的核心。例如，諾貝爾經濟學獎獲得者埃莉諾·奧斯特羅姆就聲稱，“群體行動理論是政治學的中心主題”。任何時候，只要個人在不付出時間和精力的情況下，可以從他人的昂貴行動中受益，社會就會面臨群體行動的困境。而在如此困境中，人類并非一籌莫展，是可以找到應對機制的。21世紀的一個關鍵任務，就是去發(fā)現并實行這樣的應對機制，由此在全人類的層面上達成一致并開展共同行動。

同樣，在大多數歷史上，經濟增長緩慢或者根本沒有增長。而現在，經濟正在快速地增長，各行各業(yè)都充滿了變革性。有人認為這不可能持續(xù)到遙遠的未來，因為各國仍然在使用20世紀的標準來衡量幸福感，這個標準就是國內生產總值（GDP）。為了全球經濟的可持續(xù)發(fā)展，我們既需要捕捉生產資本和金融資本，也需要重視勞動力技能（人力資本）、社會凝聚力（社會資本）和環(huán)境價值（自然資本）。

形成未來的兩條道路

所有這一切，使得21世紀成為一個不尋常的時刻，也許是決心改變世界的人們被賦予這樣做的非同尋常的權力的時刻。聽起來，有關21世紀是否可以稱為人類歷史上最重要的世紀的宣稱，不論你同意也好，不同意也好，似乎都是主觀抽象的看法。然而對這個問題的回答，其實絕非無關緊要。

如果21世紀是一個非常關鍵的世紀，那么對長期未來而言，最好將重點放在我們面前的緊迫挑戰(zhàn)上，比如將我們所有的資源都用于應對即將到來的最大威脅。而如果它并不那么關鍵，那么專注于我們如何塑造子孫后代就更有意義了——也許建立新的長期機構、資助哲學和倫理研究以及努力改善網絡時代的教育，對未來才是更重要的。

一些研究遠景的人認為，我們最需要采取有針對性的干預措施，以使遠景變得美好。所謂有針對性的干預好有一比，就像阻止小行星撞擊地球一樣。其他人則傾向于以非常廣泛的方式來幫助形成遙遠的未來，例如使民眾變得更加利他、受過良好教育或富有同情心，相信無論未來遇到什么問題，這些方式都可能提供幫助。由此，判定本世紀是否獨特，或者至少是非同尋常，可能會影響到一個決斷：到底是有針對性的干預好，還是廣泛的幫助更好。

我想引用過去十年來，量子技術的快速增長來進一步說明這一點。未來雖仍然是不可預測的，但幸運的是，量子理論告訴我們，不可預測性不一定是一件壞事。實際上，可以將兩個量子位鎖定在一起，以使它們各自都不確定，但同時它們又可以完美地實現同步——兩個量子位均為0或均為1。也許它也為我們如何面對未來提供了一個教訓。通過負責任的計劃，同時也包含未來的不確定性，人類可以提高為未來做好準備的概率。

簡而言之，我們如何看待本世紀的威脅，可能會大大影響我們如何應對這些威脅。而當全世界最需要大國攜手處理一些關鍵事情的時候，中美卻在分道揚鑣。這進一步加劇了我們面臨的風險，更加使得21世紀成為人類歷史上最重要的世紀。