◎石勇

人工智能會(huì)“終結(jié)”人類歷史嗎？

◎石勇

到現(xiàn)在為止，政治、社會(huì)、經(jīng)濟(jì)、科技、文化的風(fēng)險(xiǎn)無(wú)處不在，但并沒(méi)有根本性的危險(xiǎn)，想象中的很多事情并沒(méi)有發(fā)生。原因可能是，有自由意志的人類能夠在總體上控制沒(méi)有自由意志的一切，無(wú)論它們是權(quán)力、自由市場(chǎng)、貧富懸殊，還是核彈、金融系統(tǒng)、移動(dòng)互聯(lián)網(wǎng)。

不過(guò)人工智能的那個(gè)世界日益臨近，一個(gè)從未有過(guò)的、跟人類的“存在”直接相關(guān)的問(wèn)題逼問(wèn)而來(lái)。

著名哲學(xué)家、中國(guó)社會(huì)科學(xué)院哲學(xué)研究所研究員趙汀陽(yáng)在他的新書(shū) 《四種分叉》中也探討了這個(gè)跟哲學(xué)、生物、科技有關(guān)的前沿問(wèn)題。他把人工智能問(wèn)題放在了最根本的人類思維和人的存在論角度進(jìn)行深刻考察。

N-南風(fēng)窗

ZH-趙汀陽(yáng)

人工智能的“短未來(lái)”和“遠(yuǎn)未來(lái)”

N：你的新書(shū)《四種分叉》講到了跟人的存在有關(guān)的時(shí)間、意識(shí)、道德、智能這四種“分叉”。

用你的話說(shuō)：“人工智能一開(kāi)始是個(gè)知識(shí)論問(wèn)題，在不遠(yuǎn)的將來(lái)將要升級(jí)為一個(gè)涉及終極命運(yùn)的存在論問(wèn)題，一個(gè)或許將危及人類自身存在的問(wèn)題?！?/p>

為什么不是人類像過(guò)去那樣借助科技力量提升了自己，而是反過(guò)來(lái)危及了自身的存在呢？

ZH：人工智能真的危險(xiǎn)嗎？科學(xué)家們的看法也多有分歧，有些科學(xué)家討論的是可見(jiàn)的“短未來(lái)”，比如說(shuō)二三十年后的人工智能狀況，這種預(yù)見(jiàn)的準(zhǔn)確度就比較高，也有些科學(xué)家討論的是百年或更遙遠(yuǎn)的“遠(yuǎn)未來(lái)”，就僅僅是可能性，未必為真。這兩種情況要分別談?wù)摗?/p>

假定限于“短未來(lái)”去看人工智能，估計(jì)應(yīng)該屬于你說(shuō)的“科技提升了人類自己”的樂(lè)觀情況。事實(shí)上我們已經(jīng)處于初級(jí)人工智能的時(shí)代，互聯(lián)網(wǎng)、電腦、手機(jī)、工業(yè)機(jī)器人、無(wú)人機(jī)、各種自動(dòng)識(shí)別儀器、無(wú)店員超市等等，都已經(jīng)是現(xiàn)實(shí)，很快會(huì)成為常態(tài)的產(chǎn)品還有家用機(jī)器人、醫(yī)療機(jī)器人、農(nóng)用機(jī)器人、戰(zhàn)斗機(jī)器人、各種特殊用途的機(jī)器人、自動(dòng)駕駛汽車和火車，以及各種智能服務(wù)，這些都屬于“短未來(lái)”的人工智能。

雖然說(shuō)“短未來(lái)”的人工智能基本上屬于積極的“進(jìn)步”，但也足以形成人類難以處理的社會(huì)難題，比如說(shuō)許多科學(xué)家已經(jīng)警告未來(lái)數(shù)十年里人工智能會(huì)導(dǎo)致超過(guò)50%的大量失業(yè)。

據(jù)說(shuō)人工智能會(huì)使人類的經(jīng)濟(jì)財(cái)富有個(gè)大飛躍，于是多數(shù)人可以不工作而坐享其成，比如說(shuō)無(wú)條件的全民福利，聽(tīng)起來(lái)接近共產(chǎn)主義的想象。另外，一切需要努力地生活經(jīng)驗(yàn)變成了可以購(gòu)買的智能服務(wù)，比如說(shuō)，學(xué)習(xí)變成了搜索和下載，愛(ài)情變成了定制服務(wù)，甚至智商也可以定制購(gòu)買，因此很大程度上實(shí)現(xiàn)了自由和平等。

N:對(duì)這種看上去很先知范的預(yù)言你怎么看？

ZH：對(duì)這些好事我有些將信將疑。假如生活不再需要?jiǎng)趧?dòng)，不知道這種新經(jīng)驗(yàn)將如何承載生活。一個(gè)人將如何解釋自己的生活？如何確定各種事物的意義？又如何確定自由和平等的意義？自由和平等之所以“價(jià)更高”，就是因?yàn)楝F(xiàn)實(shí)存在著不自由和不平等。如果可以不勞而獲，一切好東西都失去高附加值，就消解了一切價(jià)值。沒(méi)有價(jià)值差異的生活將如何解釋自身的價(jià)值？又是怎么的一種經(jīng)驗(yàn)？我們既無(wú)準(zhǔn)備也難以理解。李澤厚老師曾經(jīng)提過(guò)一個(gè)驚心動(dòng)魄的問(wèn)題，他說(shuō)，當(dāng)人類解決了生存所需的問(wèn)題，也許就找不到什么確實(shí)的事情能夠解釋生活的意義。

N：“短未來(lái)”的輿論造勢(shì)似乎比較符合現(xiàn)代性的邏輯，每一次經(jīng)濟(jì)結(jié)構(gòu)的重大變化都期待一次科技革命的發(fā)生。所以事實(shí)上如你所說(shuō)，人們已經(jīng)不驚奇了。那“遠(yuǎn)未來(lái)”呢？

ZH：假如從“遠(yuǎn)未來(lái)”的角度去看，可能會(huì)遇到我在書(shū)中討論的終極問(wèn)題，即如果人工智能獲得反思能力，超越了圖靈機(jī)的限度而形成自我意識(shí)，那將是一次存在論水平的革命，就是說(shuō)，存在的升級(jí)。

人類萬(wàn)年以來(lái)的各種技術(shù)革命都屬于對(duì)生存條件的革命，即自身能力的延伸，都不是對(duì)自身存在本身的革命，但人工智能的發(fā)展卻有可能形成對(duì)人類存在自身的革命。無(wú)論此種“存在論級(jí)別的革命”是福是禍，它都非?？赡馨l(fā)生。

N：人工智能的橫空出世給我們的感覺(jué)似乎是要用 “人工智能的存在”取代“人的存在”。這個(gè)可以預(yù)測(cè)嗎？

ZH：沒(méi)辦法預(yù)測(cè)。我們雖然沒(méi)法預(yù)測(cè)，但從邏輯上看，存在級(jí)別遠(yuǎn)高于人類的人工智能可能會(huì)有幾種情況：

1.視人類為無(wú)足輕重的低級(jí)存在而給予漠視，不去照顧人類的生活，讓其自生自滅，就像人類看螞蟻一樣；2.認(rèn)為人類的存在完全多余，礙手礙腳，因此視為可以清除的害蟲(chóng)，就像人類殺死蚊子和蒼蠅；3.把人類當(dāng)成低級(jí)寵物（這種可能性比較小，人工智能的心智與人類不同，不太可能像人類那樣有著孤獨(dú)感或無(wú)聊的“愛(ài)心”）；4.小部分人類把自己改造為人機(jī)一體的長(zhǎng)生不老的高級(jí)存在，進(jìn)而奴役或消滅其他低級(jí)人類。

不過(guò)，好在這些恐怖的可能性都比較遙遠(yuǎn)，也未必能夠成真，在意識(shí)和生命方面實(shí)現(xiàn)根本突破仍然遠(yuǎn)遠(yuǎn)超過(guò)目前人類的能力，并非可望之愿景。

人工智能無(wú)疑是一種最偉大的技術(shù)，但其發(fā)展必須有個(gè)絕對(duì)限度，我的理解是，人工智能只能保持在特殊化、專門(mén)化的發(fā)展范圍內(nèi)，而只有專項(xiàng)技能的人工智能無(wú)論多么強(qiáng)大，都因?yàn)槿狈C合能力而難以形成全面的智能和自由意志，否則，不僅是歷史的終結(jié)，而可能會(huì)是人類的終結(jié)。

人工智能如果有反思能力，它稱王的時(shí)代就來(lái)臨了

N：你擔(dān)心人工智能會(huì)危及人類自身的存在，是擔(dān)心它像人一樣具有自由意志。但我很懷疑這點(diǎn)：人造出來(lái)的這些東西怎么可能有自由意志呢？

ZH：有個(gè)有趣的事例或能有所啟示：哥德?tīng)柖x了一種哥德?tīng)柧幋a，把數(shù)學(xué)系統(tǒng)的運(yùn)算功能和命題對(duì)應(yīng)地轉(zhuǎn)譯為哥德?tīng)柧幋a，從而能夠以對(duì)象化的方式顯現(xiàn)某個(gè)數(shù)學(xué)系統(tǒng)整體的“語(yǔ)法”性質(zhì)，效果上相當(dāng)于賦予一種語(yǔ)言以反思功能而使語(yǔ)言對(duì)自身進(jìn)行反思。

這些問(wèn)題十分復(fù)雜，在此我只能簡(jiǎn)單地說(shuō)，假如未來(lái)出現(xiàn)一種“哥德?tīng)柵啤钡娜斯ぶ悄芟到y(tǒng)，它不滿意按部就班地完成任務(wù)，即按照既定程序去計(jì)算命題，而是自己發(fā)明編寫(xiě)了一種“哥德?tīng)柧幋a”的元語(yǔ)言，對(duì)自身系統(tǒng)進(jìn)行整體反思，從而獲得批判與自我批判精神，于是就能夠自主判斷自己所領(lǐng)到的任務(wù)是否有意義，那就恐怕要出事，后果難以想象。

不過(guò)，我在這里的描述是文學(xué)化的，在科學(xué)上并不準(zhǔn)確，只想說(shuō)明一個(gè)道理：只要人工智能系統(tǒng)的語(yǔ)言能夠?yàn)樽陨戆l(fā)明出反思能力，人工智能稱王的時(shí)代就來(lái)臨了，那時(shí)，人工智能就非?？赡艹蔀槿祟愖约喊l(fā)明的掘墓人。

人類可能已走過(guò)了那個(gè)十字路口

N:人工智能需要意義嗎？我想，如果它只是工具一樣的機(jī)器，是不需要什么意義（自在地存在的動(dòng)物，比如豬，也不需要什么意義。但“自為地存在”的存在，比如人，就需要意義）。但如果它不再是工具了，好像也需要吧？不過(guò)人好像對(duì)技術(shù)突破充滿了向往，是剎不住車的。

ZH：人類現(xiàn)在已經(jīng)幾乎是完全依賴技術(shù)而生存，反對(duì)技術(shù)已經(jīng)變成一種思想的童話。人依靠他人而存在的人文生活方式正在一步步被替換為人依賴技術(shù)系統(tǒng)而存在的技術(shù)化生存方式。問(wèn)題是，當(dāng)生活在大于人的復(fù)雜系統(tǒng)中，人就無(wú)力做主。何況未來(lái)的人工智能系統(tǒng)將是一個(gè)高度動(dòng)態(tài)化的組織系統(tǒng)，人完全無(wú)法支配一個(gè)無(wú)限的動(dòng)態(tài)系統(tǒng)，人的生物形式?jīng)Q定了人的經(jīng)驗(yàn)限于三維空間和一維時(shí)間，無(wú)法以人的經(jīng)驗(yàn)去支配高維的世界，因此，人的主體地位只能讓位給人工智能主體。

N:我們隱約感覺(jué)到人類確實(shí)已經(jīng)走到了一個(gè)十字路口，或許這個(gè)感覺(jué)仍然是錯(cuò)覺(jué)，事實(shí)是人類可能已經(jīng)走過(guò)了這個(gè)十字路口，往某個(gè)方向去了。我擔(dān)憂的是，如果高技術(shù)按照它正確的技術(shù)思維繼續(xù)這樣，而按照它錯(cuò)誤的邏輯（比如把一切都還原為基因、激素、神經(jīng)元）把情感、道德、法律、社會(huì)規(guī)則全都解構(gòu)，那才真是可怕。這不正是消解人的存在嗎？

ZH：技術(shù)的誘惑是對(duì)人類最大的誘惑，目前還看不到有什么更大的誘惑能夠克制技術(shù)的無(wú)限度發(fā)展。因此，即使有想法也沒(méi)有辦法，一切試圖阻擋技術(shù)的努力恐怕都終究無(wú)用。海德格爾早就反對(duì)技術(shù)，呼吁詩(shī)性的存在。想法很好，卻無(wú)功效。問(wèn)題在于，詩(shī)性的存在不如萬(wàn)能的存在那么有吸引力。

也許唯一有效的辦法是人類整體的自我克制，可問(wèn)題是，恐怕找不到什么辦法能夠使人類愿意自我克制。別說(shuō)克制技術(shù)的誘惑，即使克制少做壞事，對(duì)于人類來(lái)說(shuō)也是很難的，不知道這是不是人類的命運(yùn)？

（摘自《南風(fēng)窗》）