在《超級智能》出版十年之后，英國未來學家尼克·博斯特羅姆出版了他的新書《未來之地》。他構想了一個所有問題都已經(jīng)被解決的“深度烏托邦”，試圖在其中尋找人類的目的和意義是什么。

在人類面臨如此多挑戰(zhàn)的當下，為什么要去想象一個挑戰(zhàn)已經(jīng)不復存在的理想世界？像物理學家通過粒子加速器創(chuàng)造極端條件，博斯特羅姆通過這本書創(chuàng)造了一個極端條件的思想實驗，用它來理解人類價值和目標。

博斯特羅姆甚至樂觀地認為，許多讀者可以在有生之年接近“深度烏托邦”。他希望在這樣的世界到來之前，先啟發(fā)一些討論：如果人工智能開啟了新的能力水平，我們想要一個什么樣的未來？生活在一個已經(jīng)不需要人類付出努力的世界，什么樣的生活才是有意義的？

人工智能將是促成“深度烏托邦”成為現(xiàn)實的因素，博斯特羅姆近日在接受《財經(jīng)》專訪時說。在他看來，超級智能一旦發(fā)展成熟，將如同掀翻棋盤般，徹底改變一切。

英國物理學家斯蒂芬·霍金曾表示，徹底開發(fā)人工智能可能導致人類滅亡。博斯特羅姆在《超級智能》中寫道，人類的命運將取決于超級智能機器的行為。人類如何才能保持對機器的完美控制？“這就像是一場競賽：人工智能的能力在快速發(fā)展，人類逐漸了解如何調整這些系統(tǒng)……人類對機器的完美控制原則上是可能的，只是我們并不確定能否及時找到解決方案。”博斯特羅姆說。

至于人工智能是讓人類變得更團結還是更分裂，博斯特羅姆認為這并非技術本身能夠決定，最終還是取決于人性中的智慧與善意在面對其他傾向時能否勝出。

博斯特羅姆是牛津大學未來人類研究所的創(chuàng)始人。在研究所于去年關閉之后，他發(fā)起了“宏觀戰(zhàn)略研究倡議”。宏觀戰(zhàn)略研究對他而言是找出漂浮在空曠宇宙中的這個星球上的人類文明身處何方，又發(fā)生了什么。

人工智能風險

《財經(jīng)》：你在十年前出版的《超級智能》中曾預警人工智能可能危及人類生存，而這本新書討論的是人工智能幫助人類解決了所有挑戰(zhàn)的世界。你對于人工智能風險的看法是否隨著時間發(fā)生了變化？

博斯特羅姆：這其實是我一直在思考的硬幣兩面。在我寫《超級智能》的時候，大部分篇幅都在描述事情是如何出錯的，我希望能夠找出避免這些風險的方法。但事情也可以進展順利，所以我現(xiàn)在想，也許是時候看看硬幣的另一面了，積極的那面。

這并不是說我的觀點改變了，只是因為這是一個巨大的話題，一本書只能充分涵蓋其中一面。這也不是說我一開始相信某件事情，而現(xiàn)在信的卻截然相反。更像是我之前看到的是一張模糊的照片，現(xiàn)在像素更清晰了。比如，當前人工智能系統(tǒng)的擬人化程度令人震驚，在很多方面都很像人類，它們可以和我們交談，甚至表現(xiàn)出一些與人類相同的心理偏見和特性。十年前，我們并不能明顯感知到這點。而僅僅過了幾年，我們就看到這種非常像人類的人工智能形態(tài)。

《財經(jīng)》：隨著這類人工智能的興起，我們如何能確保人工智能不會與人類反目？人類可以保持對機器的完美控制嗎？

博斯特羅姆：這是一個對齊（Alignment）問題。在我寫《超級智能》的時候，這個問題被忽視和忽略了。當時人們還在試圖讓人工智能變得更有能力，卻沒人致力于確保，如果我們開發(fā)的人工智能能力越來越高，我們如何可以按希望的那樣來引導人工智能。

現(xiàn)在情況發(fā)生了變化。有很多匯聚了優(yōu)秀人才的團隊正在努力開發(fā)可擴展的人工智能對齊方法，即使我們面對的是極端超級智能系統(tǒng)，也依然具備可行的控制技術。

但這并不是一個已經(jīng)完全解決的問題，我們能否及時解決這個問題仍懸而未決。這就像是一場競賽：人工智能的能力在快速發(fā)展，人類逐漸了解如何調整這些系統(tǒng)。但我們無法確定，如果明天有人找到了讓系統(tǒng)真正變得更加智能的技巧，我們是否有可靠的方法來充滿信心地駕馭這種情況。所以這是一個開放的問題，人類對機器的完美控制原則上是可能的，只是我們并不確定能否及時找到解決方案。

《財經(jīng)》：你在書里所描述的“問題已解的世界”（Solved World）從技術、生產力和治理方面呈現(xiàn)出什么特點？

博斯特羅姆：有兩種屬性。一是它處于或者接近技術成熟狀態(tài)，也就是說，我們基本上已經(jīng)開發(fā)了全部有用的通用技術，這些技術在物理上是可能的，原則上是可能實現(xiàn)的，即使我們現(xiàn)在還不具備這樣的能力。比如，治愈衰老、太空殖民、完美的虛擬現(xiàn)實、將人類意識上傳到電腦、對人類大腦情感機制的精細控制與認知能力的增強、完美的自動化技術，這些事物都沒有違反物理定律。而超級智能的出現(xiàn)，讓那個長期未來像望遠鏡一樣被快速拉近。這是第一個屬性，即近乎魔法的技術能力。

第二個假設是，治理問題已經(jīng)得到了很好解決，或者至少在一定程度上得到了控制。這本書并沒有關注政治治理方面，但我假設它不是糟糕的，沒有出現(xiàn)管理不善，人人都有機會，和平到來，政府不壓迫人民等等。這兩個屬性構成了我對“問題已解世界”的定義。

《財經(jīng)》：這樣一個理想世界什么時候會到來？你提到我們可能在有生之年看到一部分。

博斯特羅姆：這更像是一種希望，而非預測。鑒于目前人工智能的發(fā)展速度，這樣世界的到來是可能的。超級智能一旦發(fā)展成熟，將像掀翻棋盤般，徹底改變一切。在好的情況下我們會看到這個理想世界，一個“深度烏托邦”。但在壞的情況下，我們可能面臨滅絕。有很多可能的結果。

目前來看還很難預測，但出現(xiàn)一種強大的、可以從根本上改變很多事情的力量是可能的。我們是否會實現(xiàn)“深度烏托邦”或者其他任何一種烏托邦，現(xiàn)在還是未知數(shù)。這本書沒有對時間線做出預測，但我確實認為，這種可能性是現(xiàn)實的，很可能會在許多讀者的有生之年內實現(xiàn)。如果某些人工智能實驗室負責人對前景的預測可信的話，這一切甚至也許只需要幾年時間。

《財經(jīng)》：使“深度烏托邦”成為現(xiàn)實面臨的最大挑戰(zhàn)是什么？

博斯特羅姆：如果“深度烏托邦”要成為現(xiàn)實，人工智能將是促成這一切發(fā)生的因素。在沒有人工智能的情況下，我們可能需要成千上萬年才能實現(xiàn)。但是人工智能不僅有潛力帶來巨大的好處，隨之而來的還有事情可能出錯的各種情況。因此主要的挑戰(zhàn)就在于確保這些壞的事情不會發(fā)生。這也是我們前面所討論的對齊問題，要確保超級智能系統(tǒng)不會與人類為敵。

其次是治理挑戰(zhàn)，確保人類不會使用這些日益強大的人工智能工具來傷害彼此。人類使用了很多技術來制造武器等諸多破壞性事物。

第三個挑戰(zhàn)受到的關注要少得多，這是我最近工作關注的內容，即如何確保我們不會傷害正在建構的人工智能。我認為其中的一些數(shù)字心智將具備道德地位，是真正有感知的存在，有自己的利益和目標。絕大多數(shù)心智在未來很可能將是數(shù)字的，而非生物的。

這些數(shù)字心智的規(guī)?？赡懿町惥薮?，從類似于行星級別的超級智能，到像松鼠那樣微小的意識體，甚至是那種僅僅用來運行洗衣機的微型智能。未來可能會出現(xiàn)各種形態(tài)的數(shù)字心智，這構成了一種道德上的挑戰(zhàn)：我們能否將人類的同理心拓展到他者。這可能很難，畢竟，有時人類連彼此都難以好好相待。而對于動物，情況只會更糟。在畜牧業(yè)中，人類經(jīng)常嚴重虐待動物。某些數(shù)字意識，可能只是數(shù)據(jù)中心里一些不可見的進程，沒有眼睛，也不會發(fā)出哪怕一絲“吱吱”聲，需要我們想象身處它們的情境。

我最近寫的一篇論文草稿里提及了第四種挑戰(zhàn)，盡管我現(xiàn)在還沒有考慮得太清楚。如果我們創(chuàng)造出某種形式的超級智能，它可能存在于一個有其他超級智能的世界中。這些超級智能可能是由遙遠星系中的外星文明構建的，也可能是由宇宙波函數(shù)的其他分支所產生，又或者如果生活在一個計算機模擬中，模擬器本身也將是超級智能體。所以這個挑戰(zhàn)就在于要確保我們創(chuàng)造的任何形式超級智能，都能夠與這組可能已經(jīng)存在的原住者相處融洽。傳統(tǒng)神學中的神明，也可以算作其中一類。確保人類與它們之間關系融洽非常重要。

我們還得保證人類能夠走到建設超級智能的那一步，而不是在這之前就以其他方式自我毀滅。我們現(xiàn)在仍擁有大量核武器和生物武器，以及其他可能摧毀文明的方式，如果在那之前我們自己就把文明搞垮了，那將是非常可悲的。我們連與超級智能“擲骰子”、一試未來命運的機會都沒能爭取到，就已經(jīng)出局了。

《財經(jīng)》：你預見的“深度烏托邦”是一個所有挑戰(zhàn)都已經(jīng)解決的完美世界。另一個未來學家凱文·凱利則提出了“漸進烏托邦”（Protopia）的概念，他認為問題與解決方案總在循環(huán)擴張，烏托邦只能是一個漸進的過程。你如何看待這兩種烏托邦的不同？

博斯特羅姆：凱文·凱利提出的“漸進烏托邦”更多地是關于此時此地，它錨定在當前的現(xiàn)實和實際中，反映的是你如何看待過去幾十年的技術發(fā)展。正如技術進步的一貫模式，人類不斷嘗試各種方法，跌跌撞撞地解決了一些問題，在這個過程中又會制造出新的問題，之后我們再去解決這些問題。

這并不是說每件事都是完美的，但如果你從更遠的角度看，你會發(fā)現(xiàn)，我們需要解決的問題質量越來越高。比如，如何按時上床睡覺，而不是沉迷于你的社交媒體。這可能是個問題，但總比面對如何獲得足夠的食物來養(yǎng)活孩子這樣的問題好。我們用那些解決起來依然困難但更好的問題來替代更糟糕的問題，這反映了我們過去和現(xiàn)在所處的位置。

但“深度烏托邦”試圖通過快進推斷：如果我們把現(xiàn)在的趨勢發(fā)揮到極限，會發(fā)生什么？人工智能變得越來越強大，很有可能在某一時刻，它可以完成人類所能做的一切。它將徹底變成超人，解鎖完整的科技樹（Technology Tree）。因此，“深度烏托邦”提出的是一個不同問題，是關于邏輯的最終結果。而“漸進烏托邦”的邏輯結論是，到了某個節(jié)點，解決問題的實體會比人類更善于解決問題。也許即使到了“深度烏托邦”，依然會有挑戰(zhàn)和問題出現(xiàn)，但會有比人類更高效的超級智能來解決。

《財經(jīng)》：你的書里提到了“馬爾薩斯陷阱”，你如何從技術進步的角度解釋它？一些未來學家認為，人工智能將終結稀缺性，但在物質充沛的世界，人工智能是否會帶來其他意義上的稀缺？

博斯特羅姆：“馬爾薩斯陷阱”依然會存在。人們常常忽略了它的存在，也許只是在一些歷史教材的某些段落中讀過。我們不應輕易認為2025年的世界狀態(tài)是正常的默認狀態(tài)。我們今天能夠享有高于平均溫飽水平的收入，其實是一種巨大例外，是我們的幸運。這種狀態(tài)并不理所當然地會持續(xù)下去的。

隨著超級智能推動技術迅速走向成熟，經(jīng)濟發(fā)展可能極其迅速，我們可以解鎖巨量資源，甚至最終開發(fā)太空資源等。但人口增長的速度可能更快。人口增長是可以呈指數(shù)級的——哪怕每年增長10%，最終的總量也可能變得天文般龐大。尤其如果未來大多數(shù)的“人”是數(shù)字意識體，那它們可能只需幾分鐘就能復制一次。因此即使是天文數(shù)字級別的資源儲備，也可能在極短時間內被迅速耗盡。

未來我們將不得不再次面對馬爾薩斯的挑戰(zhàn)，并可能需要采取某種方式，對“有多少、何種形式的意識體得以存在”做出更多選擇，以確保每一個存在的個體，都能擁有高質量的生命體驗。我不認為這是當下必須立刻解決的迫切問題，但在未來某一時刻，它將成為必須應對的課題。否則，任何形式的烏托邦都將只是短暫的幻象——隨著人口增加，人均收入重新跌落到僅夠生存的水平。

勞動力市場的影響

《財經(jīng)》：你如何看待人工智能對勞動力市場的改變？

博斯特羅姆：目前的影響并不大，主要是一些輕微的邊際影響。一些科技公司可能不再像幾年前那樣雇用大量初級軟件工程師和程序員，因為編碼助手運行得很好，而且越來越好?？萍脊緯J為，既然人工智能可以做到，也許不該再讓大量初級程序員加入進來。我個人覺得，一些低水平的研究輔助任務可以由人工智能系統(tǒng)很好地完成，比如你想就某個主題展開一些初步研究調查，或者對一些隨機事件寫報告，人工智能完全有能力完成，而且速度更快。隨著人工智能可靠性以及與業(yè)務流程融合程度的提高，這種類型的自動化任務將迅速擴張。

現(xiàn)在的人工智能，即使在沒有提升的情況下，一旦完全融入經(jīng)濟、數(shù)據(jù)集和工作流程，也足以實現(xiàn)很大一部分人類勞動力的自動化。但到目前為止，我認為人工智能對勞動力市場的影響還非常有限。

《財經(jīng)》：在你描述的理想世界中，人類不再需要工作。你如何看待人工智能取代人類工作的道德維度？失業(yè)本身就是一件壞事嗎，還是由失業(yè)帶來的不平等、身份喪失、缺乏目的等等使得失業(yè)成為一個問題？

博斯特羅姆：我不認為失業(yè)總是一件壞事，這有兩個前提。一是人類不像現(xiàn)在這樣總是需要換一份別的工作。在一個充滿活力的經(jīng)濟體系中，人們需要流動，一些工作被創(chuàng)造出來，取代了之前的工作。但在“問題已解的世界”，我們看到的是普遍失業(yè)。由于人們不掙工資，他們需要其他維持生計的來源。準確地說，在這種情況下，所有工作都可以自動化，實現(xiàn)了極為迅速的經(jīng)濟增長。有了這種經(jīng)濟富礦，慷慨的全民基本收入變得可行，或者讓每個人都擁有主權財富基金的股權。

另一個是尊嚴和自我價值來源。在當下，如果人們失去工作時，他們會覺得自己一無是處，失去與同事以及其他人的社會關系。我認為這種文化需要轉變，需要不再把失業(yè)看作是失敗的標志，而應該是：你現(xiàn)在不必再做這些工作，你已經(jīng)從工作中解放。

我們需要發(fā)展一種新的文化，培養(yǎng)卓越的休閑方式。有些人會覺得無聊，他們躺在沙發(fā)上，覺得自己一無是處。但另一些人則享受每一個空閑時刻，他們有自己的愛好，和朋友共度時光，鍛煉，去自然探險，或者花時間和孩子在一起，聽音樂，有很多這樣的事情可以做。在當前的教育系統(tǒng)中，我們仍然需要培養(yǎng)坐在辦公桌前的人，完成布置的工作任務。但在理想世界里，這些都不再需要了，教育系統(tǒng)將被改變，它將教會人們享受生活，真正享受生活的多樣性。

《財經(jīng)》：英國經(jīng)濟學家凱恩斯曾在一個世紀前預言，到2030年，人們每周只需要工作15個小時。但顯然我們離這個目標還很遠，還有很多人總在加班。為什么凱恩斯的預言未能實現(xiàn)？

博斯特羅姆：他預測的其實是兩件事。一是在這100年的時間里，生產力將增長4倍到8倍，這確實發(fā)生了。另一件則是在這種情況下人們每周只需工作15小時，這并沒有發(fā)生。雖然人們還在工作，但西方國家的一些統(tǒng)計數(shù)據(jù)顯示，人在一生中的工作時間比以前少了，人們有更長的接受教育時間和更長的退休時間，每天的工作時間略有減少，同時有更多的假期、產假或者陪產假。把所有這些都算上的話，人的工作時間顯著減少。

生產力雖然得到提升，人們選擇用于增加支出和消費。所以你可以說是貪婪戰(zhàn)勝了懶惰。部分原因在于人們想要的在很大程度上是位置商品，你擁有的東西是其他人沒有的。地位消費總是貪得無厭。我們原本可以少在衣服上花錢，即使天氣很冷也足以御寒，但我們仍然花了更多錢，因為想讓別人對我們的外表留下深刻的印象。一個舊手機也可以運行同樣的應用程序，但新手機看起來更酷，所以我們又多花了錢。

在現(xiàn)代，這種地位驅動的消費助長了許多消費行為。如果你只是想保證有足夠的食物，不會挨餓受凍，人們其實可以少工作很多，很多人甚至可以不工作。假設你生活在一個富裕國家，努力工作十年，然后搬到一個生活成本低的國家，如果你愿意接受生活只有基本必需品，你極有可能可以靠積蓄生活。只是很少有人這么做。位置商品對于驅動消費行為的重要性，這是凱恩斯當年沒有覺察到的。

《財經(jīng)》：隨著超級智能的崛起，有哪些人類活動是不可替代的？

博斯特羅姆：作為消費者，我們面對產品和服務，不僅關心它們的客觀和內在屬性，還關心它們是如何制造以及由誰制造的。消費者會愿意支付額外費用，比如在購買煙灰缸之類的小玩意時，如果它是由當?shù)厥止に嚾酥谱鳎皇窃诠S里批量生產的。又或者我們還是更喜歡觀看人類跑步和打拳擊，即使機器人跑得更快或出拳更有力。

鑒于消費者的這些偏好，即使在技術成熟的情況下，對人類勞動力的需求仍然存在，而且這方面的權重還會增加，因為人們變得非常富有，可以買得起更多此類產品來滿足品位，而不僅僅只看其表面。它變得不那么功利了：我喜歡這個物件是因為它背后的歷史；我認識制作它的人，他們懷著愛與關懷對待它；它被某位名人擁有了一段時間，現(xiàn)在出現(xiàn)在我的客廳里。

會有一段短暫的過渡期。當人類第一次掌握可以對很多事情實現(xiàn)自動化的技術時，可能在一段時期內，我們不會完全信任技術。即使它們可以完成各種工作，我們還是沒信心把重要的決定交給它們。人類從事的許多工作將是監(jiān)督人工智能勞動力，審查其產出，對其進行評估和檢查，并做出最終決定，盡管事實上，人工智能完全有能力勝任這些工作。

最終，我們會對人工智能培養(yǎng)出足夠的信任，把事情外包給它們。但還是會有受到保護的特定工作類別，比如法律規(guī)定特定的任務必須由人來執(zhí)行，就像現(xiàn)在的公證人、法官或政治決策者，又或者是出于宗教理由，比如牧師。這些都是通用自動化之外潛在的重要例外?，F(xiàn)在屬于這一類別的工作相對較少，但隨著各行業(yè)實現(xiàn)完全自動化，會有更多的工作進入這一類別。

人生的意義是什么

《財經(jīng)》：你在書里討論了“深層冗余”和“淺層冗余”，這兩者的主要區(qū)別是什么？面對“深層冗余”，人類可以做什么？

博斯特羅姆：淺層冗余意味著沒有任何功能性的經(jīng)濟目的需要我們付出努力，我們不需要為生計而工作。一個膚淺冗余的世界意味著不需要人類的經(jīng)濟勞動，所有工作都由機器人完成。無論你工不工作，都會收到薪水。

深層冗余則超越了這一點。當你不工作的時候，還有很多活動需要你以不同方式付出努力。有些人可能會去健身房鍛煉，因為這樣才能保持身材。有人可能會花時間裝飾他們的房子，因為只有這樣才能把房間變成自己想要的樣子?；蛘呷ベ徫?，這是你想要得到特定物品的唯一方法。即使你很有錢，你仍然必須做出選擇才能得到想要的東西。再比如學習數(shù)學，這是你實現(xiàn)擅長數(shù)學的唯一途徑。即使你是億萬富翁，可以請家教，但你仍然需要做數(shù)學練習，自己付出努力。

然而到了技術成熟時，實現(xiàn)這些結果會有捷徑，不僅是經(jīng)濟上的努力變得沒有必要，其他形式的努力也變得沒有必要。你不必再去健身房，只需服用健身藥丸，就會自動帶來和去健身房一樣的效果。你也不必大費周章去不同的商店購物，人工智能知道你的品位和偏好，為你挑選好所有東西，使你得到一個更好的房子和更好的品位。你會因此產生一種更深刻的冗余感——看起來任何東西都不需要努力。

《財經(jīng)》：生命的意義是什么？你在書的結尾提出了這個問題，但沒有給出答案。

博斯特羅姆：這個問題其實可以從不同層面來回答。其中一個原因是，我寫這本書已經(jīng)花了很長時間，寫到那個階段時，我只是特別想把它完成并盡早發(fā)布，最好是在奇點到來之前，還能留出一些時間，所以它確實需要收尾。我知道無論我在哪一頁停筆，都會有更多我尚未涉及的問題。這就是這類話題的特點：它太龐大了，一旦你開始認真思考，就會發(fā)現(xiàn)總還有更多的東西可以繼續(xù)挖掘。

我不想寫成那種無限拖延下去的書。我有一個好朋友，他寫書寫了大概已經(jīng)有15年。書越寫越大，但始終沒能真正出版。我在想，也許到了某個時候，人工智能可以在十分鐘內把整本書寫完，要是我的這本書在那之前還沒出版，就變過時了，那真挺遺憾的。我不想那樣，這也是我必須給這本書畫上句號的一個現(xiàn)實原因。

但另一方面，我認為讓讀者自己去思考這個問題，未嘗不是件好事。答案因人而異，會隨著你所持的不同立場而呈現(xiàn)出不同的面貌。我覺得很關鍵的一點是，當我們說“生命的意義”時，“意義”到底是什么？在給出答案之前，你需要先弄清楚這個問題。

如果你對“生命的意義”的理解是人們將來會用什么來填滿他們的日常生活？我在書中其實討論了這個問題。事實上，你甚至可以把這本書看作某種可能生活方式的片段化呈現(xiàn)。比如，書中那些角色，他們到處去聽講座，然后互相討論，接著去泡溫泉放松。那種生活狀態(tài)其實就是一種相當烏托邦式的存在。他們像蝴蝶一樣，采集知識的花蜜，在學習中獲得樂趣，同時也享受生活。

我設定這些場景，正是想借此呈現(xiàn)一種生活方式。我寫這本書的目的不僅僅是解釋各種概念、論證和思想，當然這是書中很重要的一部分，但我也希望通過這本書傳達一種特定的精神，用有趣和有愛的方式來面對這些問題。如果未來真的會有一些人要作出那些影響長期未來的重大決定，他們在進入我所說的“假想中的討論室”之前，心態(tài)也許和具體的想法一樣重要。我希望他們能以一種開放的心態(tài)去面對這樣艱難的任務。在保持人類價值觀的同時，懷著一種慷慨、有趣和愛護的態(tài)度，去思考我們可以建構的未來。

這也是為什么這本書會以這樣的方式來寫，因為面對這些宏大的問題，人是很容易脫軌的，要么是失去了人性中的一些人類價值，要么是困在當下，無法想象不同的未來。無論是哪一種，都會讓人變得錯亂。要在思考這些問題的過程中，保持完全的理智，并與自身的價值觀及更廣泛的人類情感保持連結，其實是非常困難的。

《財經(jīng)》：如果是你生活在“深度烏托邦”，你的人生意義會是什么？

博斯特羅姆：我們還是得先對“意義”這個詞做出界定。我在書中確實花了很多篇幅討論“目的”，并且區(qū)分了“意義”與“目的”的不同，我認為“意義”是一種特殊類型的“目的”。我也談到其他更普遍形式的目的，尤其是“人工目的”的可能性，而這正是烏托邦居民所擁有的主要目的。簡單來說，就是你為自己設定的任意目標，一旦確立了這個目標，你就會有理由去努力實現(xiàn)它。

游戲就是這種形式。你決定打一場高爾夫，你給自己設定了這個目標，讓球進到18個洞。你用高爾夫球桿擊球，這其實非常不方便，用你的手撿球并按順序移動它會容易得多。但出于某種原因，你做了這個決定，要試著只用一根高爾夫球桿把球打進18洞。一旦你接受了這個目標，你就有了一個人為的目的。

你只有全神貫注、盡最大努力去擊球，參與高爾夫球運動的每一個環(huán)節(jié)，可能是和朋友一起，才能真正實現(xiàn)這個目標，并因此度過一段愉快的時光。所以，游戲其實就是一種人為設定目標的活動，目的是促成本身就有價值的體驗。烏托邦中的人們所做的事情，就是一起創(chuàng)造出越來越精巧、復雜、奇妙且富有美感的游戲形式。這不是指小小的棋盤游戲，并非只是移動幾個棋子那么簡單，更像是一種將人生作為審美表達的方式，與他人共同生活、互動，努力把生活本身變得美好、充滿樂趣。

除了人工目的，人們可能依然保留某些自然目的。比如，如果你認為，緬懷祖先是一件有價值的事。在“深度烏托邦”降臨之前，他們?yōu)榱四隳茏叩浇裉?，付出了諸多犧牲。那么，懷著感激之情銘記他們會是一種值得保留的目的，這件事是你無法外包給機器完成的。假設你造了一個機器人，讓它說：“祖父，我記得你，我很感激你。”這并不能真正算作是你在緬懷祖先，必須是你親自花時間去做這件事，才算是真正的紀念。

類似的還有各種社會關系的牽絆。比如，當你對另一個人有個人情感時，重要的就不是完成一件事，而是你親自為對方做了這件事，這其中包含了一種獨特的價值。即使在技術達到任意高度的未來，有些目的仍然需要你親自動手、親自用心去完成。所以，這些自然目的會繼續(xù)存在，而且它們可能變得越來越重要。

至于生命的意義這個問題，我覺得就更復雜了。我們到時會處在一個什么樣的情境，不是那么明確。也許，那時的意義會更多地轉向精神性、宗教性或超驗性的方向。

就算我們已經(jīng)擁有了近乎魔法的技術，對現(xiàn)實氣泡有了完美的掌控能力，也許在那之外還有一個更大的現(xiàn)實。取決于這個更寬廣的現(xiàn)實是如何構成的，我們也許仍然能獲得某種意義，就像我在書中所闡述的那樣。在這個更大的宇宙面前，即使我們實現(xiàn)了技術的完全成熟，我們在其中可能仍是極其微小的存在。

《財經(jīng)》：在寫這本書的過程中，你最重要的收獲是什么？

博斯特羅姆：很難簡明扼要地總結，但也許可以這樣說：我們的人類價值和欲望，在很大程度上是錨定在當前所處的情境之中的。

當你試圖將這些價值延伸到一個完全不同的情境中，比如“問題已解的世界”，那么這些價值就開始變得不明確、松散，或者說，像是一種分布外的外推（Out-of-distribution extrapolation）。在這種情況下，我們究竟會選擇什么、想要什么，答案在很大程度上其實是不確定的。我們關心的很多東西，都是一種預設，以經(jīng)驗性、偶然性的事實為前提，這些事實構成了我們所處的位置。而一旦這些前提被移除，我們就很難說清楚自己到底還想要什么，或者會賦什么予價值。這就像是進入一個自由浮動的世界，一旦離開我們熟悉的環(huán)境，很難用可以理解的方式來描述。但這是我在寫這本書的過程中，逐漸體會到的一個重要領悟。

人工智能治理

《財經(jīng)》：在一個后工具性的社會，你認為什么樣的體制會繼續(xù)發(fā)揮作用？治理、市場這些概念是否仍有意義？

博斯特羅姆：很難用詳細具體的畫面來描述在一個后超級智能世界中，哪些社會組織是有意義的。我們究竟應當以怎樣的方式來實現(xiàn)自己，也許并不是我們現(xiàn)在這個階段能夠，也未必需要詳細規(guī)劃清楚的事情。因為未來的人類將處于離那種情境更近的位置，對正在發(fā)生的事情也會看得更清楚。而且，他們還將擁有超級智能的人工智能顧問，幫助他們設計和組織社會結構。

我并不知道這個問題的答案。我的猜測是，到了那個階段，這些制度性的安排可能會與現(xiàn)在的完全不同——不僅僅是在邊緣做一些小調整，某些制度的必要性和本質都可能需要在技術成熟之后徹底重新思考。

《財經(jīng)》：你在個人網(wǎng)站上提到目前在關注與人工通用智能（AGI）治理相關的工作，有什么可以分享的嗎？

博斯特羅姆：其實是我正在探索的一些想法，只是某個問題的切面。我在思考這些問題，但常常感覺難以找到方向。這回到了我們前面提到的那個問題，關于宏觀戰(zhàn)略。我們究竟在搭建什么？為什么是在這個地方建它，而不是在另一個地方？我們是不是應該去做完全不同的事？當你開始從這個層面思考，就很難判斷：什么方向才算是改進，什么又可能會把我們帶得更遠。在人工智能治理領域，我有非常深的這種感受。

對于很多決策問題，你可以看到支持與反對的合理理由。比如，我們是需要政府更多介入人工智能的發(fā)展，還是應該更少？我們是應該推動開源開放，還是保持封閉，由實驗室來密切注視前沿技術？這些都不是顯而易見的問題。我有自己的看法，但我也很清楚，這些看法未必能完全覆蓋所有相關事實，我也不確定什么方案才是真正最優(yōu)的。

我并沒有足夠的信心認為自己已經(jīng)找到了明確的藍圖。就算我是這個世界的帝王，有人問我應該怎么處理人工智能問題，我恐怕也只能提出一些邊際上的建議，也許是有用的，但不是一整套確信可行的系統(tǒng)方案。

所以我還在繼續(xù)思考。我想說的是，可以做一些事情來使我們的軌跡朝著一個更加合作的未來前進，不同國家、不同民族和包括數(shù)字思維在內的不同類型存在，都在尋求合作。這會帶來更積極的未來愿景，而不是以一種零和的心態(tài)來看待問題。我認為對未來最大的威脅之一，其實就是各種形式的沖突。不是我們能否戰(zhàn)勝自然的問題，風險在于我們是否能避免與其他智能存在的沖突。如果找不到相處的辦法，我們會讓一切變得更糟。

很難確切知道這具體意味著什么。但我認為，至少它意味著不斷尋找機會，以一種更加合作的方式來解決問題。沒有人會得到他們想要的100%。但我認為未來的容量足夠大，可以讓每個人得到他們想要的90%或者95%，然后我們再來爭吵剩下的那5%也無妨。只要我們能確保每一個存在，包括數(shù)字智能在內，都能擁有美好的生活，到那時候，誰得到最后的5%其實也沒那么重要了。

《財經(jīng)》：你如何評價當前的人工智能治理？我們需要什么樣的治理機制？

博斯特羅姆：現(xiàn)在的治理還可以，問題在于，隨著人工智能的能力和影響力不斷增強，我們是否需要一種不同的應對方式。不同的模式各有利弊。最近我在思考的是：如果一個人工智能項目是可以公開投資的，它將有利于促進合作。因為外部的人就能通過投資的方式參與其中，成為它的一部分，而不必選擇與其競爭，甚至想要摧毀它。如果一個人工智能產品已經(jīng)存在，而你作為局外人完全無法分享它的紅利，也無法對它有任何控制權，你可能就會覺得：既然我不能參與，那我只能自己做一個產品，即使這意味著要投入一場無法放慢節(jié)奏、無法謹慎行事的競賽。如果你完全被排除在外，你可能會覺得自己非得加入競賽不可，甚至在某些情況下，可能會試圖干擾或破壞它，尤其當這個人工智能項目對國家安全極其重要時。

但如果外部參與變得可能，情況可能就會不同。比如可以設想國際合作項目，或者更簡單地，允許人們投資人工智能公司、持有股份、參與利潤分配、對其技術使用方式擁有一定影響力。這或許可以是緩解負和博弈的一種辦法。

如果這個人工智能項目是以公司形式運行的，公眾可以通過持股參與，那么投資性參與的機制就可以建立起來。不過，這又涉及政府監(jiān)管的問題，就像對其他公司一樣，政府也需要對人工智能公司設立監(jiān)管框架。由于人工智能對世界的影響極其巨大，這類監(jiān)管可能更需要嚴格執(zhí)行。問題是，如果政府高度介入人工智能公司的運作，那投資人會不會擔心公司有朝一日會被政府沒收。如果有這種擔憂，他們可能根本就不會投資，這就會使合作紅利的設想失效。有沒有可能找到一種平衡機制，既保留人人都可以參與的開放性，像上市公司一樣，又能具備足夠的政府監(jiān)督，這樣就可以建立一個監(jiān)管框架，確保人工智能的私營公司能夠負起責任和確保安全。

我正在探索這些想法，還沒有完全下定論，但我認為這值得與其他人提出的模型一起探索，比如人工智能版的“曼哈頓計劃”或人工智能版的歐洲核子研究中心（CERN）?？梢园褞追N方案并列擺出來比較，評估它們的可行性與吸引力，這也許能幫助我們找到更好的組織方式。

《財經(jīng)》：你認為人工智能讓人類變得更加團結還是更加分裂？

博斯特羅姆：兩種情況都有可能，很難預測。就像對社交媒體提出同樣的問題，即使我們現(xiàn)在能看到結果都很難說它究竟是讓我們更團結還是更分裂。我們通過社交媒體可以更方便地與人保持聯(lián)系，也更容易了解發(fā)生了什么事。但它也容易制造“過濾氣泡”——你和你所屬的群體圍坐一圈，互相強化、贊同彼此的觀點，同時一起討厭圈外的那些人。這樣很容易造成群體之間的巨大裂痕。如果我們能找到一些辦法，鼓勵人們多傾聽對手的觀點，試著從他們的視角去理解問題，并進行對話，這可能有助于我們朝著一個和平、合作的未來邁進。

技術本身是支持這種可能性的，但問題是，人們是否選擇這樣的方式。這就像任何一種強大的技術，它可以被用于造福人類，但如果有人堅持拿它做壞事，同樣可以造成巨大傷害。

人工智能也面臨類似的問題。它的潛力是巨大的，可以幫助人們更好地理解世界、解釋復雜問題、促進合作方案。但如果人們選擇用它來屏蔽異見、放大自身立場、制造武器，甚至用它來優(yōu)化戰(zhàn)爭決策流程，那就是另一回事了。所以我覺得，問題最終還是取決于人性中的智慧與善意在面對其他傾向時能否勝出。這一點，并不是技術本身能預測或決定的。