，

2016年以來圍棋對弈程序AlphaGo戰(zhàn)勝人類冠軍一事，引發(fā)了人工智能(簡稱AI)的又一次研究和討論的熱潮。一方面，人工智能成為當(dāng)前科技研究和產(chǎn)業(yè)發(fā)展的一個(gè)熱點(diǎn)；另一方面，人工智能是否能超越并取代人類也成為人們持續(xù)討論的話題。關(guān)于后者，早在人工智能發(fā)展伊始的時(shí)候，人們就開始擔(dān)心其未來可能的負(fù)面風(fēng)險(xiǎn)。從1990年代開始，著名未來學(xué)家?guī)炱濏f爾(Ray Kurzweil)就表達(dá)了這樣一個(gè)思想：隨著技術(shù)的加速發(fā)展，在某一時(shí)刻，我們將達(dá)到一個(gè)技術(shù)奇點(diǎn)(technological singularity)，這時(shí)， AI將大大超越人類智能，機(jī)器人也將成為人類“進(jìn)化的繼承者”和“思想的繼承者”。[1](P11-15)庫茲韋爾歡呼這一前景，但也有人心懷隱憂。在AI誕生之前的1950年，阿蘭·圖靈(Alan Turing)就曾反駁過一個(gè)被稱之為“鴕鳥策略”的詰難：“機(jī)器可以思維的后果太可怕了。我們希望并相信它們不會(huì)思維?！盵2]雖然圖靈認(rèn)為這種觀點(diǎn)并無價(jià)值，它僅僅出于人類優(yōu)越性(superiority)的信仰，但人們對AI的類似擔(dān)憂在后來一直綿綿不絕。2015年以來，伊隆·馬斯克、比爾·蓋茨和霍金等人表達(dá)了這樣的擔(dān)憂：失去控制的超級AI有可能導(dǎo)致人類的滅亡。他們與來自AI領(lǐng)域的專家共同簽署了一封公開信，呼吁各界人士對AI安全性的關(guān)注。[3]

這些不同的擔(dān)憂實(shí)際上涉及了后奇點(diǎn)時(shí)代(post-singularity age)的兩種相關(guān)卻存在區(qū)別的前景：(1)機(jī)器超越人類；(2)機(jī)器取代人類。對于前景(1)，人類中心主義者(比如鴕鳥策略詰難的支持者)擔(dān)憂的是人類尊嚴(yán)(優(yōu)越性)被損害的風(fēng)險(xiǎn)——不妨稱之為尊嚴(yán)風(fēng)險(xiǎn)；那些新潮的非人類中心主義者，擔(dān)憂的則是人類對AI的“虐待”是否有違道德——這算是道德風(fēng)險(xiǎn)；馬斯克等人擔(dān)憂的是前景(2)時(shí)代人類的存活問題——也即生存風(fēng)險(xiǎn)。本文的目的在于基于人工智能哲學(xué)(也包括認(rèn)知科學(xué)哲學(xué))中的相關(guān)討論，對兩種后奇點(diǎn)前景及其伴隨的三種風(fēng)險(xiǎn)做出恰當(dāng)?shù)目赡苄栽u估，最終揭示AI的真正風(fēng)險(xiǎn)所在。

一、機(jī)器超越人類：尊嚴(yán)風(fēng)險(xiǎn)

圖靈敏銳地發(fā)現(xiàn)了“鴕鳥策略”詰難中對人類優(yōu)越性的主張與神學(xué)之間的緊密關(guān)聯(lián)。[2]這種關(guān)聯(lián)可以追溯到文藝復(fù)興人文主義(renaissance humanism)思想，它綜合了基督教傳統(tǒng)和古典文學(xué)中的人的形象：一方面認(rèn)為人類是根據(jù)上帝的形象創(chuàng)造出來的，另一方面認(rèn)為人類具有卓越(excellence)和優(yōu)越(superiority)的品質(zhì)，而通過這些品質(zhì)，人類將在不斷完善中獲得尊嚴(yán)。[4](P92)需要注意的是，文藝復(fù)興人文主義對人類優(yōu)越性的定義并不意味著某種永恒不變的人性，而是意味著一種人類的可完善性，一種需要人類去獲得的目標(biāo)。然而，到了近代人本主義(modern humanism)那里，優(yōu)越性就開始意味著一種固定的人性。人們通過界定某種先天的、穩(wěn)固的人性，厘清人類與各種他者(動(dòng)物、機(jī)器、自然等)的本質(zhì)差異，最終證明人類的優(yōu)越性。人類的尊嚴(yán)因而也意味著我們具有某種非人類所不具有的優(yōu)越品質(zhì)?！傍r鳥策略”詰難正是基于這種近代人本主義立場，將作為機(jī)器具有人類水平的智能視為對人類尊嚴(yán)的威脅。針對這種擔(dān)憂，我們想要表達(dá)兩個(gè)論點(diǎn)：(1)當(dāng)下的AI在可以預(yù)見的未來遠(yuǎn)沒有威脅到人類的所謂先天優(yōu)越性；(2)人類真正的尊嚴(yán)并不在于對非人類的先天優(yōu)越性，而在于自身的可延展性。

(一)人類的先天優(yōu)越性受到挑戰(zhàn)了嗎？

近代人本主義者對人類先天優(yōu)越性的證明，典型地體現(xiàn)于笛卡爾的哲學(xué)工作中。笛卡爾設(shè)想了這樣一個(gè)自動(dòng)機(jī)器，它從外形上跟我們的身體沒有任何差別，并且可以準(zhǔn)確地模仿我們的一切動(dòng)作，但笛卡爾認(rèn)為它仍然不是真正的人，理由是：(1)機(jī)器人即便能說出幾個(gè)單詞，也完全不能像人類那樣表達(dá)思想；(2)機(jī)器只有單一的功能，但人類卻能舉一反三。[5](P45)可以看出，笛卡爾把自然語言操演和遷移學(xué)習(xí)的能力作為人類的標(biāo)志，從而在人類與機(jī)器之間劃定一個(gè)截然分明的界限。

AI對近代人本主義的挑戰(zhàn)在于，如果機(jī)器可以思維，人類在理性上并沒有任何優(yōu)越性，那么人類與機(jī)器的界限就會(huì)被抹去，人類尊嚴(yán)就會(huì)受到威脅。但是，AI是否已經(jīng)具備了笛卡爾所列出的兩種人類能力，從而消除了人類的優(yōu)越性呢？當(dāng)下的AI都是專用系統(tǒng)，比如下棋的程序不能用來語音識(shí)別，反之亦然。因此AI暫時(shí)還不具有舉一反三的遷移學(xué)習(xí)的能力。有爭議的地方可能在于：機(jī)器是否已經(jīng)具有了自然語言操演的能力？

自然語言操演是AI竭力努力的目標(biāo)，圖靈測試就是基于這一能力。對自然語言的句法和語義分析，曾經(jīng)被視為自然語言處理的密匙。1970年代，威諾格拉德(Terry Winograd)曾經(jīng)設(shè)計(jì)過一款名為SHRDLU的人機(jī)對話系統(tǒng)，它可以接收人類的自然語言指令，通過對語言的句法分析和語義分析，在經(jīng)過邏輯推理之后做出相應(yīng)的操作，比如將桌上的一個(gè)紅色的圓形積木疊到綠色的方形積木上。[6]然而，這樣的系統(tǒng)只能處理一個(gè)積木世界(toy world)，當(dāng)涉及更復(fù)雜的場景的時(shí)候，它就很難繼續(xù)工作了。因此，進(jìn)入1990年代以后，自然語言處理逐漸轉(zhuǎn)向基于統(tǒng)計(jì)的方法，不僅句法分析被認(rèn)為是不相關(guān)的，甚至語義分析也不再重要。比如在現(xiàn)在的機(jī)器翻譯中，關(guān)注的焦點(diǎn)在于詞語、短語和句子，而不是句法和語義。然而，基于統(tǒng)計(jì)的方法并不會(huì)讓AI理解語言，更不可能真正地表達(dá)思想。

AI的自然語言理解的困難在于語言的整體論特征。根據(jù)豪格蘭德(John Haugeland)的觀點(diǎn)，句子的語義并非是原子語義的組合，而是和作者意圖、日常知識(shí)、語言的情境以及實(shí)存者的生命等四重因素相關(guān)的。[7]然而，機(jī)器恰恰難以把握人類語言操演中所涉及的常識(shí)和情境。這里涉及了AI中的常識(shí)問題(the problem of commonsense knowledge)：“如何存儲(chǔ)和訪問人類似乎知道的所有事實(shí)?！盵8](P77-78)經(jīng)典AI試圖通過將人類的常識(shí)表征為顯性的命題，從而可以被計(jì)算機(jī)用于推理和決策。然而這一工作被證明是非常困難的。因?yàn)槿祟惖某ＷR(shí)實(shí)在太多，而且各個(gè)常量之間的關(guān)系異常復(fù)雜，要表征全部常識(shí)幾乎是不可能的。更為關(guān)鍵的是，如德雷福斯(Hubert L. Dreyfus)所指出的，人類的常識(shí)大多數(shù)是以隱性的技能知識(shí)(know-how)的形式存在著，難以表征為命題知識(shí)(know-that)。即便所有事實(shí)被形式化并存儲(chǔ)為語境獨(dú)立的事實(shí)，但計(jì)算機(jī)仍然不知道如何去使用它，因?yàn)檫@需要額外的規(guī)則來指定如何利用這些事實(shí)，而這些額外的規(guī)則很可能是與語境相關(guān)的，于是需要更高層級的規(guī)則來指定如何使用這些規(guī)則，這就將陷入無窮倒退的困境。[9](P56-57)因此，由于常識(shí)問題的限制，計(jì)算機(jī)迄今為止仍然無法真正地理解自然語言。人類之所以可以理解自然語言，歸根結(jié)底是因?yàn)樗且粋€(gè)有著自己的歷史、周圍世界和身體的實(shí)存者，承受并操勞著整體的世界，才會(huì)理解關(guān)于世界的常識(shí)和情境，從而才會(huì)理解語言的意義，進(jìn)行真正的對話、閱讀和創(chuàng)作。[7]而這樣一個(gè)實(shí)存者，在AI的現(xiàn)有范式下根本不可能實(shí)現(xiàn)。因此，人類在自然語言操演方面仍然具有遠(yuǎn)比AI優(yōu)越的能力。類似的優(yōu)越性還可以列出很多，比如，在現(xiàn)象意識(shí)、感受性、自由意志等等。人類對于機(jī)器的優(yōu)越性在可以預(yù)見的將來都很難被打破。

(二)人類的尊嚴(yán)：優(yōu)越性還是可延展性？

然而，我們永遠(yuǎn)不能排除這種可能，未來的機(jī)器將會(huì)在我們引以為傲的某些領(lǐng)域勝于人類。在這種情況下，如果要強(qiáng)行維護(hù)人類的尊嚴(yán)，就只有禁止AI技術(shù)的發(fā)展，以保證人類優(yōu)越于機(jī)器?？紤]到這種禁止性的命令難以實(shí)施，一種既不需要禁止技術(shù)進(jìn)步，又可以維護(hù)人類尊嚴(yán)的進(jìn)路，將是更為可欲的。

傳統(tǒng)社會(huì)對人類尊嚴(yán)的論證基于某種穩(wěn)固的人性(比如語言、理性等)，但1990年代以來的后人類主義(posthumanism)話語已經(jīng)深刻地修正了我們的人性的看法。海爾斯(Katherine Hayles)認(rèn)為，千百年以來人類就一直在與技術(shù)協(xié)同演化，并且以各種方式深刻而細(xì)微地重塑了人性。[10](P289-290)克拉克(Andy Clark)從認(rèn)知科學(xué)上對這種觀點(diǎn)提供了強(qiáng)有力的論證。在他看來，人類與技術(shù)構(gòu)成了一個(gè)共生體，心靈與自我不再局限于大腦之內(nèi)，而是分布于大腦和非生物系統(tǒng)之中。人類之所以不同于其他物種，就在于我們的心靈一直在尋找可以合作的非生物資源。各種各樣的技術(shù)與人的交互作用，展示了人類的大腦的驚人的可塑本性。[11](P87)我們的心靈和身體本質(zhì)上就在不斷的重構(gòu)，外部的技術(shù)設(shè)備不斷地組合到我們的心靈與人格系統(tǒng)之內(nèi)。因此，人類的“本性”(nature)是在漫長的演化歷史中被技術(shù)地建構(gòu)起來的。

波斯特洛姆(Nick Bostrom)因此主張用更具包容性的后人類尊嚴(yán)(posthuman dignity)來代替人本主義的尊嚴(yán)概念。后人類尊嚴(yán)不再基于凌駕于非人類之上的各種起源上的優(yōu)越性，而是來自于我們是什么，以及可以潛在地成為什么。而我們是什么，恰恰不僅僅源于我們的生物功能，更源于技術(shù)和社會(huì)語境。[12]這種尊嚴(yán)概念，是對文藝復(fù)興人文主義尊嚴(yán)概念的更新，它一方面將人類的卓越和優(yōu)越奠基于人類的可完善性之中，另一方面又指出了這種可完善性的關(guān)系本質(zhì)，即人類在發(fā)展中與技術(shù)構(gòu)成了一個(gè)交互作用、協(xié)同構(gòu)筑并相互塑造的延展系統(tǒng)，展現(xiàn)了人的可塑本性。我們可以用可延展性來取代優(yōu)越性，以界定后人類尊嚴(yán)概念的本質(zhì)。

如果我們采用這種后人類尊嚴(yán)概念，那么即便未來的AI掌握了自然語言操演的能力，我們也不必?fù)?dān)心人類的尊嚴(yán)受到了威脅，因?yàn)椋F(xiàn)在的AI是一個(gè)以人為核心的延展認(rèn)知系統(tǒng)。[13]更進(jìn)一步地說，即便AI在所有的智力測評項(xiàng)目上都戰(zhàn)勝了人類，它也并不會(huì)比人更加智能，相反，人類因?yàn)锳I而變得更加智能。AI是百分之百的人類智能，它的智能恰恰是人類尊嚴(yán)的明證。

二、機(jī)器超越人類：倫理風(fēng)險(xiǎn)

近代人本主義賦予人類的至尊地位，在非人類中心主義者那里遭到了激烈的批判，當(dāng)這種關(guān)切被帶入到機(jī)器人倫理的討論中，便產(chǎn)生了對AI的道德風(fēng)險(xiǎn)的擔(dān)憂。目前，圍繞AI(包括機(jī)器人)的倫理學(xué)討論有兩種進(jìn)路：(1)考慮到AI可能對人類產(chǎn)生危害，試圖將其設(shè)計(jì)為一個(gè)道德能動(dòng)者(moral agent)，自下而上地將倫理規(guī)則植入到機(jī)器人之內(nèi)，建造安全、友好、有道德的機(jī)器人。[14](2)采取非人類中心主義的立場，將人形機(jī)器人作為道德受動(dòng)者(moral patient)，考慮將機(jī)器作為一個(gè)道德關(guān)懷的對象，防止人類對機(jī)器的虐待，甚至試圖賦予它(她/他)和人類平等的公民權(quán)利。[15]

動(dòng)物權(quán)利論最早將道德受動(dòng)者的地位賦予了非人類事物，無疑可以為我們思考機(jī)器人權(quán)利提供參照。事實(shí)上，已經(jīng)有一些研究者如卡爾弗利(David J. Calverley)注意到了二者之間的相似。[16]在此，我們將進(jìn)一步根據(jù)彼得·辛格和湯姆·雷根的兩種主要?jiǎng)游餀?quán)利理論，來分析AI的道德地位。

彼得·辛格重返了邊沁的功利主義道德理論，將感受痛苦的能力(the capacity for suffering)作為道德關(guān)懷對象的判定標(biāo)準(zhǔn)。辛格認(rèn)為，只要一個(gè)生命可以感受到痛苦，我們就有必要在道德上平等地考慮其痛苦。[17](P10-12)與辛格的功利主義立場不同，湯姆·雷根更傾向于義務(wù)論的立場。但不同于康德將動(dòng)物排斥在直接道德關(guān)懷對象之外，雷根認(rèn)為人類和動(dòng)物具有平等的固有價(jià)值。二者的區(qū)別在于，健全的人類是道德能動(dòng)者，對自身行動(dòng)負(fù)有道德責(zé)任，而動(dòng)物(也包括精神病人、嬰兒等)僅僅是道德受動(dòng)者，對自身行動(dòng)不負(fù)有道德責(zé)任，但卻應(yīng)當(dāng)作為道德關(guān)懷的對象。那么，我們?nèi)绾文芘卸ㄒ粋€(gè)非人類生命是道德受動(dòng)者，并具有固有價(jià)值呢？雷根提出了一個(gè)生命主體判準(zhǔn)。一個(gè)個(gè)體被歸為生命主體，需要具備這些特征：信念和欲望；感知、記憶和未來感；情感生活；偏好利益和福利利益；發(fā)起行為來滿足欲望和目標(biāo)的能力；心理同一性等。如果一個(gè)個(gè)體滿足了生命主體標(biāo)準(zhǔn)，那么它就具有固有價(jià)值，就應(yīng)當(dāng)被作為道德關(guān)懷的對象。[18](P243)因此，兩種動(dòng)物權(quán)利理論分別將感受痛苦的能力和生命主體作為判準(zhǔn)，以決定是否將動(dòng)物納入道德考慮。如果我們將其擴(kuò)展到機(jī)器人權(quán)利領(lǐng)域，那么機(jī)器人是否可以滿足這兩個(gè)判準(zhǔn)呢？

首先來分析辛格的判準(zhǔn)。雖然關(guān)于痛苦的形而上學(xué)本性還存在著諸多爭議，但越來越多的科學(xué)研究開始將痛苦視為一種類似情感(emotion)的主觀經(jīng)驗(yàn)。[19]這意味著，如果機(jī)器要具有感受痛苦的能力，它就必須具有現(xiàn)象意識(shí)(phenomenal consciousness)。按照布洛克(N. Block)的區(qū)分，意識(shí)分為取用意識(shí)(access consciousness)和現(xiàn)象意識(shí)，前者可以理解為信息，后者可以理解為我們的主觀意識(shí)體驗(yàn)。[20]暫且不論這種區(qū)分是否合理，AI的一般目標(biāo)是模擬人類的存取意識(shí)，對現(xiàn)象意識(shí)的模擬不僅在實(shí)踐上沒有什么進(jìn)展，而且在理論上也莫衷一是。考慮到迄今為止只有在生物中我們才發(fā)現(xiàn)了現(xiàn)象意識(shí)，在很大的概率上，現(xiàn)象意識(shí)必定和生命現(xiàn)象存在內(nèi)在的關(guān)聯(lián)。正如湯普森所指出的，生命的內(nèi)在目的性構(gòu)成了意識(shí)得以涌現(xiàn)的基礎(chǔ)。[21](P186)這種內(nèi)在目的性實(shí)際上可以進(jìn)一步揭示為意向性和自主性。如果我們采取雷根的標(biāo)準(zhǔn)，機(jī)器就必須作為一個(gè)生命主體，才能被納入道德考慮的對象。雖然雷根關(guān)于生命主體的判準(zhǔn)涉及的內(nèi)容較為繁多，但同樣可以歸結(jié)為意向性和自主性這兩個(gè)因素，起碼，二者構(gòu)成了生命主體的必要條件。

那么，AI是否具有自主性和意向性呢？根據(jù)自創(chuàng)生生成主義理論，自主性最終可以通過包含了內(nèi)在目的性的自創(chuàng)生系統(tǒng)來刻畫。自創(chuàng)生系統(tǒng)是一個(gè)包含了半透邊界的反應(yīng)網(wǎng)絡(luò)，它可以自我生產(chǎn)和自我維持。[21](P86)而最原初的意向性就來自于自創(chuàng)生系統(tǒng)的意義生成(sense-making)。它通過為系統(tǒng)創(chuàng)造一個(gè)生境(umwelt)，將意義引入世界。生命系統(tǒng)的意義生成不僅意味著它必須始終理解世界從而維持自身，也意味著生命系統(tǒng)的適應(yīng)性，它讓系統(tǒng)可以自動(dòng)調(diào)節(jié)自身，根據(jù)內(nèi)部規(guī)范來改變環(huán)境。[22]因此，自創(chuàng)生和意義生成可以分別作為自主性和意向性的判準(zhǔn)。

如果我們將這些標(biāo)準(zhǔn)引入到人工智能之中，就會(huì)發(fā)現(xiàn)既有的AI進(jìn)路，無論是符號主義和聯(lián)結(jié)主義，還是具身AI，都無法滿足這些判準(zhǔn)。符號主義和聯(lián)結(jié)主義顯然無法滿足自創(chuàng)生的判準(zhǔn)，而且也不滿足意義生成的判準(zhǔn)。此外兩種進(jìn)路都面臨著來自符號奠基問題等難題的威脅：人工系統(tǒng)的“語義解釋如何可以內(nèi)在于系統(tǒng)，而不是依賴于我們頭腦中的意義？”[23]因此也就不可能構(gòu)造一種具有內(nèi)部規(guī)范的認(rèn)知系統(tǒng)。而具身AI雖然試圖賦予AI一個(gè)身體，但它依然不是生成主義意義上的那種鮮活的身體，從而也不能滿足自創(chuàng)生的判準(zhǔn)。在意義生成的判準(zhǔn)上，雖然具身AI試圖訴諸感覺運(yùn)動(dòng)反饋循環(huán)來避免符號奠基問題(也包括框架問題)，但它最終還是不可能解決AI中的意義問題，因?yàn)榫呱鞟I并不能保證能動(dòng)者的行動(dòng)目的是內(nèi)稟而不是外賦的。[24]

因此，在既有的AI范式下，AI由于無法滿足自創(chuàng)生和意義建構(gòu)的判準(zhǔn)，既不可能具有現(xiàn)象意識(shí)，也不可能具有自主性和意向性，從而無論基于義務(wù)論還是基于功利主義，我們都無須將AI納入道德考慮，更無須將權(quán)利賦予AI。非人類主義所擔(dān)憂的AI道德風(fēng)險(xiǎn)在可預(yù)期的未來并不存在。

三、機(jī)器取代人類：生存風(fēng)險(xiǎn)

“機(jī)器取代人類”是一種完全不同于“機(jī)器超越人類”的后奇點(diǎn)場景。我們可以設(shè)想，在后奇點(diǎn)時(shí)代，機(jī)器可以在思維和行動(dòng)的特定或所有能力上超越人類，但它可能不具有有機(jī)身體，而是棲身在虛擬實(shí)在之中，從而不會(huì)在現(xiàn)實(shí)世界與人類存在生存沖突。因此機(jī)器超越人類但并不意味著會(huì)取代人類。同樣，我們可以假想某種AI具有自我復(fù)制的能力和欲望，并且生存適應(yīng)性上要遠(yuǎn)高于人類，在現(xiàn)實(shí)世界中與人類存在生存沖突，這種情況下，即便人類的思維和行動(dòng)能力遠(yuǎn)高于該AI，也可能被取代。

“機(jī)器取代人類”涉及的主要是所謂的生存風(fēng)險(xiǎn)(existential risk)。波斯特洛姆將其定義為這樣一種可能性，它所產(chǎn)生的不利后果將會(huì)摧毀整個(gè)人類，或永久和急劇地?cái)嗨腿祟惖陌l(fā)展?jié)摿Α25]他認(rèn)為，由于超級智能可能和任何的終極價(jià)值體系結(jié)合，因此不能假定它們必然擁有人類的道德觀念，隨意設(shè)計(jì)的超級智能的最終目標(biāo)很可能會(huì)導(dǎo)致人類的生存災(zāi)難；此外，超級智能也可能會(huì)與人類共享某些工具性價(jià)值，比如獲取無限制的物質(zhì)資源，這就可能會(huì)與人類產(chǎn)生生存沖突。[26](P144)

在生存風(fēng)險(xiǎn)的故事中，AI仿佛具備了自我繁殖的能力，并主要作為一個(gè)種群而不僅僅是個(gè)體對人類造成威脅。我們因此可以將人類與AI的關(guān)系刻畫為生態(tài)學(xué)上的種群間關(guān)系。在洛克伍德(Larry L. Rockwood)看來，種群間的交互關(guān)系，可以根據(jù)其對一個(gè)種群的作用是積極的(+)、消極的(-)或中性的(0)劃分為四種類型：[27](P155-156)

(1)-/- 競爭，對兩個(gè)物種都是消極的；

(2)+/- 捕食、寄生，對一個(gè)物種有利，但對另一個(gè)物種有害；

(3)+/0 共棲，對一個(gè)物種有利，但對另一個(gè)物種沒有影響；

(4)+/+ 互利共生，對兩個(gè)物種都有利。

在這四種類型中，只有(1)和(2)對一個(gè)種群是有害的。因此只有當(dāng)AI與人類的關(guān)系處于兩種關(guān)系中的一種，并且假定人類相對于AI處于弱勢的時(shí)候，人類才會(huì)面臨生存風(fēng)險(xiǎn)。

我們首先來分析關(guān)系(1)即AI成為人類的競爭物種。對這種可能的最直接反駁是：硅基存在者的AI和碳基存在者的人類的需求是不同的。[28]我們可以進(jìn)一步強(qiáng)化這一論證。從生態(tài)學(xué)上來講，每個(gè)物種在環(huán)境中都會(huì)占據(jù)一個(gè)生態(tài)位(ecological niche)，即一個(gè)物種為了存活、生長和繁殖所需的環(huán)境條件和空間。根據(jù)高斯假說(Gause’s hypothesis)或競爭排除原則，如果兩個(gè)物種占據(jù)了相同的生態(tài)位，那么就必然有一個(gè)物種會(huì)趨于消亡。因?yàn)閮蓚€(gè)物種在爭奪同一種食物資源的過程中，不可避免會(huì)產(chǎn)生相互的競爭排斥。這意味著，兩個(gè)具有相同生態(tài)位的“完全競爭者不能共存”。[29]如果用這一原則來判斷AI和人類的關(guān)系，那么只有當(dāng)人類與AI占據(jù)了相同或相似的生態(tài)位的時(shí)候，才會(huì)產(chǎn)生生存競爭，從而發(fā)生物種取代的現(xiàn)象。但AI是否會(huì)占據(jù)人類的生態(tài)位？我們暫且不用考慮AI與人類生態(tài)位重疊的問題，只需要先來思考AI能否能占據(jù)一個(gè)生態(tài)位。一個(gè)能動(dòng)者要占據(jù)特定的生態(tài)位，需要深刻地嵌入到環(huán)境之中，與其實(shí)現(xiàn)充分的交互作用，可以從環(huán)境中直接取用資源以維持和再生產(chǎn)自身，并能進(jìn)一步繁殖后代。這樣的能動(dòng)者必須具有如此特征：自創(chuàng)生機(jī)能和繁殖機(jī)能。

我們繼續(xù)來分析關(guān)系(2)即人類成為AI的食物或寄生宿主——這也包括了人類作為AI的蓄養(yǎng)牲口的可能。無論是捕食還是寄生，都是生物體試圖從其他生物體那里直接獲取物質(zhì)和能量，通過內(nèi)部的反應(yīng)網(wǎng)絡(luò)以維持和再生產(chǎn)自身。然而，AI作為無機(jī)的機(jī)器，維持它工作的直接能源是電能，不需要通過捕食和寄生來獲取能量，而再生產(chǎn)自身的物質(zhì)資源也來自于外部。AI如果要通過捕食人類來維持和再生產(chǎn)自身，它必須發(fā)展到一種人工生命形態(tài)，并具有自創(chuàng)生機(jī)能的特征。

綜合以上分析，基于種群間關(guān)系(1)和(2)的生存風(fēng)險(xiǎn)是否成為可能，最終取決于AI能否發(fā)展成為具身的(而不是虛擬的)人工生命，并具有自創(chuàng)生和繁殖機(jī)能。然而，既有范式的AI不滿足自創(chuàng)生的標(biāo)準(zhǔn)，它根本不具有一個(gè)鮮活的身體，而且可以預(yù)期的未來人類也不可能具有足夠高超的工程能力來實(shí)現(xiàn)這種身體。要求種群具有自創(chuàng)生機(jī)能的關(guān)系(1)和(2)是不可能出現(xiàn)的。因此，在可以預(yù)見的未來，AI并不會(huì)給人類帶來生存風(fēng)險(xiǎn)。

四、AI的真正風(fēng)險(xiǎn)：決策風(fēng)險(xiǎn)

既然在AI發(fā)生范式革命之前，前述三種風(fēng)險(xiǎn)都不太可能出現(xiàn)，那么AI是否就真的毫無風(fēng)險(xiǎn)了呢？并非如此。最嚴(yán)重的風(fēng)險(xiǎn)來自社會(huì)和政治領(lǐng)域，具體包括：(1)普遍的結(jié)構(gòu)性失業(yè)；(2)社會(huì)不平等的加劇；(3)自主軍事武器的濫用；(4)宣傳控制的強(qiáng)化；(5)大公司對數(shù)據(jù)的壟斷……這些議題無疑都很重要，但已超出本文的主題。我們僅從AI本身的難題出發(fā)，來探析一種真正的風(fēng)險(xiǎn)——決策風(fēng)險(xiǎn)。

AI最重要的應(yīng)用之一就是根據(jù)有限的信息和資源制定出最佳的行動(dòng)計(jì)劃。1980年代AI第二次浪潮中的專家系統(tǒng)和知識(shí)表征工程，正是試圖幫助甚至取代人類在一些專門領(lǐng)域的決策。然而，如果AI在一些重要領(lǐng)域接管了人類決策，有可能產(chǎn)生巨大的風(fēng)險(xiǎn)。對于這種風(fēng)險(xiǎn)，很多人擔(dān)憂的是AI可能會(huì)脫離人類的控制，對人類造成嚴(yán)重的傷害。因此，他們試圖將AI設(shè)計(jì)為一個(gè)隱性的或顯性的道德能動(dòng)者，或者通過“約束機(jī)器的行動(dòng)以避免非倫理的后果”，或者通過為機(jī)器“編寫包含了顯性倫理公理的代碼”以便讓它倫理地行動(dòng)。[30]這樣的觀念預(yù)設(shè)了一種認(rèn)知主義的倫理學(xué)，即一切道德意見都可以被表述為具有真值的信念。因此人類的道德才能以邏輯表達(dá)式的形式被表述出來，進(jìn)而以代碼的形式被寫入機(jī)器。我們在此不擬介入非認(rèn)知主義者的反駁，暫且假定我們道德意見能被全部表述為顯性的信念。即便如此，由于我們在做出一個(gè)道德決策的時(shí)候，需要調(diào)用大量的信念和知識(shí)，AI將面臨一個(gè)致命的決策風(fēng)險(xiǎn)：由于信念和知識(shí)難以被全部形式化和恰當(dāng)?shù)卮嫒?，AI不可避免地會(huì)經(jīng)常性地缺乏相關(guān)知識(shí)，最終將作出完全不符合常理的決策。這種決策風(fēng)險(xiǎn)不僅僅限于AI的道德決策，而是所有類型的決策中都會(huì)面臨的一般性風(fēng)險(xiǎn)。它的特殊之處在于：不是由于AI太過聰明，而是因?yàn)锳I太過愚蠢。

這種決策風(fēng)險(xiǎn)實(shí)際上涉及了AI中的框架問題。[31](P223-230)框架問題是困擾AI最嚴(yán)重的問題之一，至今仍然未得到有效的解決。對于框架問題導(dǎo)致的決策風(fēng)險(xiǎn)，著名哲學(xué)家丹尼特曾舉例說明：讓機(jī)器人進(jìn)入一個(gè)放著定時(shí)炸彈的房間，將里面的一塊備用電池取出來。但機(jī)器人取出電池的同時(shí)，也會(huì)連帶地取出和電池在同一個(gè)推車上的炸彈，結(jié)果炸彈爆炸了，機(jī)器人很難完成任務(wù)。[32](P155-156)

框架問題實(shí)際上是人工智能中的常識(shí)問題的不同版本。根據(jù)德雷福斯的觀點(diǎn)，常識(shí)問題包含了兩類不同的問題：常識(shí)理解和相關(guān)項(xiàng)變化問題。常識(shí)問題在于計(jì)算機(jī)并不具備人類掌握常識(shí)的能力，卻試圖在人類世界中行動(dòng)，由此也將帶來嚴(yán)重的決策風(fēng)險(xiǎn)。正是因?yàn)槌ＷR(shí)問題，那些試圖將倫理代碼寫入計(jì)算機(jī)的企圖很可能將面臨失敗。以眾所周知的阿西莫夫的機(jī)器人三律令為例，它包含了三條倫理規(guī)則：(1)機(jī)器人不得傷害人類(人類遇到危險(xiǎn)它也必須設(shè)法解救)；(2)必須服從人給予它的命令，除非違反了律令(1)；(3)盡可能保護(hù)自己的生存，除非違反了律令(1)和(2)。暫且不論已經(jīng)有很多研究指出，這三條律令在很多情況下相互矛盾，即便它們之間是自洽的，實(shí)際上也不具備任何操作性，因?yàn)樗鼈儾⒉皇且?guī)則明晰、可以有效操作的指令。機(jī)器人所能執(zhí)行的直接行動(dòng)指令是諸如往什么方向和角度移動(dòng)多少位移。而類似“拯救一個(gè)瀕死的人”這樣的指令，依賴于我們對一個(gè)人是否“瀕死”的判斷，以及對拯救方法的選擇，根本無法直接編碼讓機(jī)器執(zhí)行，而是需要基于相關(guān)知識(shí)做出極為復(fù)雜的推理之后，才能轉(zhuǎn)化為機(jī)器可以直接執(zhí)行的指令。然而，一方面這些判斷和選擇所涉及的常識(shí)都難以計(jì)數(shù)，另一方面在不同情境下救人有不同的救人方法。比如當(dāng)一個(gè)人上吊的時(shí)候，救他的辦法是剪斷繩子；但當(dāng)一個(gè)人在五層樓的窗戶下拉著一條繩子呼救的時(shí)候，救他的辦法就是拉起而不是剪斷那條繩子。要讓機(jī)器人三律令有效運(yùn)作，就必須對日常生活中的大量的背景知識(shí)進(jìn)行形式化，從而可以讓機(jī)器人據(jù)此做出推理，做出規(guī)劃。然而，這是一個(gè)不可能完成的任務(wù)，因?yàn)槲覀兗葻o法將這些常識(shí)全部形式化，也無法對這些常識(shí)恰當(dāng)?shù)卮嫒?。由于常識(shí)問題的制約，計(jì)算機(jī)不可能達(dá)到人類的決策水平，它不得不經(jīng)常犯一些有悖常識(shí)的錯(cuò)誤。因此，在框架問題和常識(shí)問題還沒有解決之前，人類在開放領(lǐng)域的決策絕對不能被AI完全接管，AI決策只能作為人類決策的參考。

結(jié) 語

對后奇點(diǎn)時(shí)代的構(gòu)想通常涉及兩種情景：機(jī)器超越人類，人類將面臨尊嚴(yán)風(fēng)險(xiǎn)和道德風(fēng)險(xiǎn)；機(jī)器取代人類，生存風(fēng)險(xiǎn)成為更嚴(yán)重的問題。但根據(jù)人工智能哲學(xué)中的相關(guān)討論，除非AI研究取得革命性進(jìn)展，否則我們絕無可能進(jìn)入后奇點(diǎn)時(shí)代，機(jī)器既不大可能會(huì)超越人類，更不大可能會(huì)取代人類。因此人們擔(dān)心的尊嚴(yán)風(fēng)險(xiǎn)、道德風(fēng)險(xiǎn)和生存風(fēng)險(xiǎn)在可以預(yù)見的未來都將是杞人憂天。對于當(dāng)下范式的AI而言，真正的風(fēng)險(xiǎn)是決策風(fēng)險(xiǎn)，它可能導(dǎo)致AI做出難以預(yù)料的錯(cuò)誤決策。