編譯 高斯寒

AI會(huì)帶來許多奇跡，它也可能打破從核緩和到人類友誼的所有一切的穩(wěn)定。我們需要更用心思考如何適應(yīng)AI時(shí)代。

人類瀕臨一場由人工智能驅(qū)動(dòng)的革命。它有可能成為歷史上最重大和深遠(yuǎn)的革命之一，但其發(fā)展是人類為解決具體實(shí)際難題的不同努力，而不是出自于周詳?shù)挠?jì)劃。諷刺的是，這種逐個(gè)解決問題的終極努力也許是人類推理和決策的轉(zhuǎn)變。

這場革命不可阻擋。企圖停止這場革命意味著：把未來交給面對(duì)革命的創(chuàng)造性的意義時(shí)更勇敢的人。相反，我們應(yīng)該接受：AI一定會(huì)變得越來越復(fù)雜和普遍，并且我們應(yīng)該自問：AI的進(jìn)化會(huì)如何影響人類的感知、認(rèn)知和互動(dòng)？AI會(huì)對(duì)人類文化和歷史造成什么影響？

這些問題將本文的3位作者聚到一起。其中一位是歷史學(xué)家，有時(shí)擔(dān)任政策制定者；一位是大型科技企業(yè)的前首席執(zhí)行官；還有一位是科技導(dǎo)向的學(xué)術(shù)機(jī)構(gòu)的院長。我們?cè)谶^去3年里不時(shí)見面，試圖弄懂這些問題和相關(guān)的難點(diǎn)。我們每個(gè)人都相信有能力（在自己的專業(yè)領(lǐng)域）充分分析這樣的未來，即機(jī)器幫助引導(dǎo)其自身的變革，通過自我改善來更好解決問題（這就是設(shè)計(jì)這些機(jī)器的目的）。于是，作為一個(gè)起點(diǎn)（我們也希望，這是引發(fā)更廣泛討論的跳板），我們形成了一組有關(guān)AI發(fā)展對(duì)人類文明重要意義的詳細(xì)問題。

AlphaZero悖論

2018年12月，AlphaZero的開發(fā)者發(fā)表了他們對(duì)于這款棋類程序過程的解釋。結(jié)果顯示，這個(gè)過程忽略了幾個(gè)世紀(jì)以來人類發(fā)展的棋類策略和過往的經(jīng)典棋局。在掌握棋類規(guī)則后，AlphaZero就完全通過自我對(duì)弈來訓(xùn)練自己，在不到24小時(shí)內(nèi)成為全世界最出色的棋手，比特級(jí)大師更厲害，在當(dāng)時(shí)是全世界最復(fù)雜的棋類博弈程序。它的構(gòu)想和實(shí)際招式讓人類和人類訓(xùn)練的機(jī)器都覺得反直覺，甚至可能被認(rèn)為是下錯(cuò)了棋。創(chuàng)造出AlphaZero的公司的創(chuàng)立人稱它的表現(xiàn)是“另一維度的棋類”，證明復(fù)雜的AI“不再受到人類知識(shí)的局限的桎梏”。

現(xiàn)在，卓有建樹的棋類專家正在研究AlphaZero的棋招，希望將它的領(lǐng)悟融入他們自己的棋局。這些研究具有實(shí)際意義，但也隨之出現(xiàn)更宏大的哲學(xué)問題。有些是目前尚回答不了的問題：我們?nèi)绾谓忉孉lphaZero在極短的時(shí)間創(chuàng)造出新方法的能力？它探索的現(xiàn)實(shí)是什么？AI會(huì)導(dǎo)致對(duì)熟悉的現(xiàn)實(shí)的難以想象的擴(kuò)展嗎？

我們能夠預(yù)期AI在其他領(lǐng)域的相似發(fā)現(xiàn)。有些發(fā)現(xiàn)會(huì)顛覆傳統(tǒng)智慧和標(biāo)準(zhǔn)實(shí)踐；其他發(fā)現(xiàn)會(huì)對(duì)傳統(tǒng)智慧和標(biāo)準(zhǔn)實(shí)踐進(jìn)行調(diào)整。幾乎所有發(fā)現(xiàn)都會(huì)讓我們難以理解?？紤]一下無人駕駛汽車在紅綠燈前停下的行為。當(dāng)人類駕駛的汽車一點(diǎn)一點(diǎn)地往前挪，試圖擺脫堵塞的車流時(shí)，一些無人駕駛汽車偶爾也會(huì)加入其中，盡管它們接受的駕駛規(guī)則中沒有暗示它們應(yīng)當(dāng)這么做。假如這種一點(diǎn)一點(diǎn)往前挪的做法被無人駕駛汽車學(xué)會(huì)，那么它們是如何學(xué)到的？又是為了什么目的？這些做法和我們教育人們要等候紅綠燈有什么不同？AI還可能學(xué)到的其他內(nèi)容是什么？AI沒有“告訴”我們，因?yàn)锳I沒有解釋或不能解釋。使無生命的物體擁有自我學(xué)習(xí)的過程，我們尚不知道我們啟動(dòng)了什么，但我們需要去查明。

革命的本質(zhì)

迄今為止，數(shù)字革命依賴于人類創(chuàng)造軟件和分析深刻影響我們生活的數(shù)據(jù)。近期的進(jìn)展已經(jīng)重塑這個(gè)過程。AI使眾多工作的自動(dòng)化成為可能，使機(jī)器從數(shù)據(jù)中得出結(jié)論并采取行動(dòng)方面發(fā)揮重要作用（日益成為決定角色）。AI能夠從自身經(jīng)驗(yàn)中汲取教訓(xùn)和經(jīng)驗(yàn)，不像傳統(tǒng)軟件只支持人類的推理。作出判斷的任務(wù)不斷從人類轉(zhuǎn)移到機(jī)器，這標(biāo)志了AI革命的一方面。

“智慧”這個(gè)詞并不足以解釋正在發(fā)生的事，將人類特質(zhì)賦予AI是不適宜的。AI既沒有惡意也不友善，它沒有自主發(fā)展的意圖或者目標(biāo)，也不能進(jìn)行自我反思。AI所能做的，是完成具體指明的任務(wù)，幫助發(fā)現(xiàn)數(shù)據(jù)與行動(dòng)之間的關(guān)聯(lián)，為人類覺得困難或不能解決的困境提供解決方案。這個(gè)過程創(chuàng)造出新的自動(dòng)化形式，不久可能出現(xiàn)新的思考方式。

然而，今日的AI系統(tǒng)在努力教授或解釋：它們?nèi)绾蔚贸鼋鉀Q方案的，那些解決方案為何更優(yōu)秀。該由人類來破解AI系統(tǒng)的重要意義和形成一套詮釋。在某些方面，AI可以和古時(shí)的德爾斐神諭相類比，需要人類解讀神諭中關(guān)于人類命運(yùn)的神秘信息。

假如AI不斷完善（沒有理由認(rèn)為事情不會(huì)如此），人工智能對(duì)人類生活施加的變化會(huì)是變革性的。以下是兩個(gè)例證：一個(gè)是來自全球安全和國家安全領(lǐng)域的宏觀例子，另一個(gè)是和AI在人類關(guān)系中的潛在角色有關(guān)的微觀例子。

人工智能：大戰(zhàn)略和安全

在核時(shí)代，國家戰(zhàn)略的發(fā)展圍繞著威懾（deterrence）概念。威懾是基于各方的理性，其前提是核武器和其他軍事部署能確保穩(wěn)定，蓄意行動(dòng)會(huì)導(dǎo)致自我毀滅，報(bào)復(fù)的可能性遏制了攻擊。具有監(jiān)測系統(tǒng)的軍備控制協(xié)議主要是為了避免來自流氓國家的挑戰(zhàn)，或者可能觸發(fā)災(zāi)難性反應(yīng)的錯(cuò)誤信號(hào)。

AI在國家安全中扮演重要角色的世界里，這些戰(zhàn)略理論幾乎沒有用武之地。假如AI通過仿真和其他秘密手段研發(fā)出新武器、戰(zhàn)略和策略，控制就算是可能實(shí)現(xiàn)，也變得難以描述?；诠_的軍備控制承諾將會(huì)改變：對(duì)手對(duì)AI開發(fā)配置的無知會(huì)成為戰(zhàn)略優(yōu)勢，但在國家能力的透明度作為先決條件的談判桌上，這個(gè)優(yōu)勢會(huì)成為犧牲品。網(wǎng)絡(luò)世界的不透明（及速度）可能推翻當(dāng)前的規(guī)劃模式。

軍備控制制度的演變教育我們：大戰(zhàn)略需要了解潛在對(duì)手的能力和軍事部署。但是，如果越來越多的情報(bào)變得晦暗不清，決策者如何了解對(duì)手（或者甚至是盟友）的觀點(diǎn)和能力呢？會(huì)出現(xiàn)許多互聯(lián)網(wǎng)嗎？或者到最后只存在一個(gè)互聯(lián)網(wǎng)？合作的含義是什么？為了對(duì)抗嗎？隨著AI變得無處不在，需要出現(xiàn)新的安全觀念。新觀念之一是有切斷AI工作網(wǎng)絡(luò)的能力。

更尖銳（可能更令人憂心）的問題日益突出。威力未知的武器的存在到底是增加還是降低未來沖突的可能性？面對(duì)未知的因素，恐懼是否會(huì)增加先發(fā)制人的可能？其動(dòng)機(jī)將是不透明，這可能意味著絕對(duì)不安全。在這些情勢下，指導(dǎo)和遏制戰(zhàn)略的規(guī)范和規(guī)則要如何建立？發(fā)展與這項(xiàng)不可避免的新技術(shù)相關(guān)的戰(zhàn)略概念的必要性已經(jīng)變得勢不可擋。

人際接觸

“谷歌人家”（Google Home）和亞馬遜公司的Alexa這些電子助手已經(jīng)進(jìn)入數(shù)百萬個(gè)家庭，設(shè)計(jì)主旨是用于日常對(duì)話。它們能回答各種詢問和提供建議，這些建議（尤其是在小孩看來）也許很聰明，甚至是睿智的。它們能成為老年人長時(shí)間孤獨(dú)的解決方案，其中許多人像對(duì)待朋友一樣與這些設(shè)備互動(dòng)。

AI收集和分析的數(shù)據(jù)越多，它就變得越準(zhǔn)確，這樣的手段會(huì)獲知其主人的喜好，在答案形成過程中將這些納入其中。隨著它們變得“更機(jī)智”，它們會(huì)變成更親密的伴侶。結(jié)果就是，AI能誘導(dǎo)人類對(duì)AI的感情，而AI無法回報(bào)這些感情。

人們?cè)缫褜⑺麄兊闹悄苁謾C(jī)列為最重要的財(cái)物，并給清掃機(jī)器人起名字。當(dāng)這些設(shè)備變得更加復(fù)雜時(shí)，會(huì)發(fā)生什么事？人們會(huì)變得像對(duì)待寵物犬一樣依戀于這些電子寵物嗎（或許更嚴(yán)重）？

社會(huì)將以與社會(huì)文化最合拍的方式來采用這些設(shè)備，這在某些情況下加強(qiáng)了文化差異。譬如說，在日本，作為人口老化和神道主義（神道主義認(rèn)為，無生命物體擁有與人類別無二致的靈魂）的結(jié)果，AI伴侶可能變得比西方國家更廣泛。

考慮到這些發(fā)展，在世界許多地區(qū)，從幼童時(shí)期起，首要的互動(dòng)和知識(shí)來源可能將不再是父母、家庭成員、朋友或老師，而是電子伴侶；與它們的不斷互動(dòng)會(huì)形成豐富的學(xué)習(xí)源泉和對(duì)隱私的挑戰(zhàn)。AI算法會(huì)幫助開啟知識(shí)的新疆域；與此同時(shí)，會(huì)縮小信息選擇范圍，提升壓制新的或挑戰(zhàn)性想法的能力。AI能夠去除語言障礙和許多文化限制，但相同的技術(shù)會(huì)創(chuàng)造出限制或塑造信息擴(kuò)散的空前能力。政府監(jiān)控?cái)?shù)千萬人或數(shù)億人的行為和行動(dòng)的技術(shù)能力同樣空前。就算在西方國家，這個(gè)以和諧名義的探求可能變成一條危險(xiǎn)的下坡路。對(duì)越軌行為風(fēng)險(xiǎn)和個(gè)人自由限制的平衡（或定義“越軌”一詞）將是AI時(shí)代的關(guān)鍵挑戰(zhàn)。

未來

AI的許多公開預(yù)測有科幻文學(xué)的特征。但在現(xiàn)實(shí)世界中，仍存在許多希望的趨勢。AI會(huì)在健康、安全和長壽等關(guān)鍵領(lǐng)域做出基本的積極貢獻(xiàn)。

然而，仍存在令人擔(dān)憂的沖擊領(lǐng)域：隨著人類將越來越多的探求知識(shí)的任務(wù)托付給AI，人類的好奇心變小了；因?yàn)橐约賮y真的新聞和視頻，人們的信任變小了；為恐怖主義開拓了新的可能；由于AI的操縱，民主體制弱化了；或許還因?yàn)樽詣?dòng)化，人類找到工作的機(jī)會(huì)減少了。

隨著AI變得無處不在，要如何管理和監(jiān)督？隨著我們進(jìn)入AI教育人類的新世界，會(huì)不會(huì)出現(xiàn)等同于“已批準(zhǔn)”教科書的AI呢？

在現(xiàn)存文化的價(jià)值觀和實(shí)踐中，吸收AI這項(xiàng)新技術(shù)是個(gè)挑戰(zhàn)，而且沒有先例可循。最適合比較的歷史事件是人類社會(huì)從中世紀(jì)到近代的轉(zhuǎn)變。在中世紀(jì)，人們將宇宙解讀為神的創(chuàng)造，所有宇宙現(xiàn)象都解讀為神的意旨的體現(xiàn)。當(dāng)基督教會(huì)的統(tǒng)一被打破后，出現(xiàn)了有什么統(tǒng)一觀念能取代它的問題。答案最終出現(xiàn)在我們稱為“啟蒙時(shí)代“的時(shí)期；偉大哲學(xué)家將神性的啟發(fā)（divine inspiration）換成了理性、實(shí)驗(yàn)和實(shí)用主義。其他詮釋接踵而來：歷史哲學(xué)、現(xiàn)實(shí)的社會(huì)學(xué)詮釋等。然而，如下的現(xiàn)象在人類歷史上是獨(dú)一無二的，即機(jī)器在智力勞動(dòng)中協(xié)助（或者可能超越）人類，幫助人類預(yù)測和塑造結(jié)果。啟蒙時(shí)代的哲學(xué)家康德將真理歸因于人類心智對(duì)觀察現(xiàn)實(shí)的結(jié)構(gòu)影響。AI的真理更具有偶然性和模糊性；它在獲取和分析數(shù)據(jù)時(shí)修改自身。

AI將對(duì)我們對(duì)真理和現(xiàn)實(shí)的理解施加不可避免的演變，我們應(yīng)當(dāng)如何應(yīng)對(duì)？我們3人討論過許多觀點(diǎn)：給電子助手編程，讓它們拒絕回答哲學(xué)問題，尤其是關(guān)于現(xiàn)實(shí)界限的問題；要求人類參與事關(guān)重大的模式識(shí)別工作，譬如讀X光片的工作；研發(fā)模擬程序，使AI能在各種不同情況下，練習(xí)如何為模棱兩可的人類價(jià)值觀下定義：什么是道德的？什么是理性的？什么是不作惡？“審核”AI，并在不準(zhǔn)確模仿人類價(jià)值觀時(shí)加以糾正；建立“AI倫理學(xué)”這個(gè)新領(lǐng)域，促進(jìn)思考如何對(duì)AI的管理負(fù)責(zé)，正如生物倫理學(xué)促進(jìn)思考對(duì)生物學(xué)和醫(yī)學(xué)管理的責(zé)任。重要的是，所有這些努力必須根據(jù)三種時(shí)間范疇來進(jìn)行：我們已經(jīng)知道什么；不久的未來我們一定會(huì)發(fā)現(xiàn)什么；當(dāng)AI變得廣泛時(shí)，我們很可能會(huì)發(fā)現(xiàn)什么。

對(duì)于AI的樂觀程度，我們?nèi)舜嬖谝庖姺制?。但我們都同意：AI正在改變?nèi)祟惖闹R(shí)、觀念和現(xiàn)實(shí)，這么做的時(shí)候，也改變了人類歷史的進(jìn)程。我們?cè)噲D弄懂AI和它的后果，也鼓勵(lì)跨學(xué)科的其他學(xué)者做相同研究。