趙汀陽(yáng)

人類命運(yùn)的決定性力量，除了政治，就是技術(shù)。政治禍福交替，技術(shù)發(fā)展似乎意味著人類的福利增加，但今天的技術(shù)發(fā)展卻有可能將人類命運(yùn)置于無(wú)法控制的風(fēng)險(xiǎn)之中。以往的技術(shù)改造自然，雖有不良副作用，并非不可拯救，今天的技術(shù)卻準(zhǔn)備改造或重新定義人的存在，這意味著人類主體正在變成客體。這是自語(yǔ)言的發(fā)明使人成為主體以來(lái)的主體客體化大變局。

對(duì)技術(shù)的浪漫主義批評(píng)

遠(yuǎn)在技術(shù)預(yù)示致命危險(xiǎn)之前，敏感的思想家們就對(duì)技術(shù)的后果深感憂慮。眾所熟知，莊子謂“有機(jī)械者必有機(jī)事，有機(jī)事者必有機(jī)心”，應(yīng)該是對(duì)技術(shù)的最早批判，其理由是，技術(shù)是投機(jī)取巧躲避勞動(dòng)，違背自然之道，而投機(jī)取巧之心必定心懷叵測(cè)。莊子的技術(shù)批判在尚未溫飽的時(shí)代幾乎不可理喻，但在理論上卻有難以置信的前瞻性。當(dāng)現(xiàn)代技術(shù)開始明顯地消解生活意義之時(shí)，人們對(duì)技術(shù)開始了嚴(yán)重的批判。韋伯指出技術(shù)導(dǎo)致自然的“去魅”，即技術(shù)剝奪了一切事物的精神性，除了工具或經(jīng)濟(jì)價(jià)值，任何事物都失去內(nèi)在價(jià)值。海德格爾進(jìn)一步發(fā)現(xiàn)，技術(shù)導(dǎo)致生活詩(shī)意的消失，不僅是美學(xué)經(jīng)驗(yàn)的退化，更是對(duì)存在的遮蔽，當(dāng)失去印證存在的本真方式，生活就失去依據(jù)，精神無(wú)家可歸。這些批判雖有形而上的深度，但限于浪漫主義理解。在技術(shù)中樂不思蜀的人們并不擔(dān)心失去對(duì)存在本身的虛無(wú)縹緲理解，也未必為此感到遺憾。

前現(xiàn)代的生活或許比現(xiàn)代更有詩(shī)意，也更有真實(shí)感和精神依據(jù)，所以古代人更多地感慨命運(yùn)，而不會(huì)像現(xiàn)代人那樣迷惑于找不到“生活的意義”。在一次私下討論中，李澤厚老師說(shuō)，解決了溫飽問題之后，生活就很容易失去確定的意義，或者說(shuō)，超越了生存所需就很難確定什么是無(wú)疑的生活意義了。這個(gè)激進(jìn)唯物主義的見解令人心驚，其中確有灼見，但我仍然愿意相信，在生存需要之外肯定存在著精神性的生活意義，以至于有人為之舍生忘死。古代人有著更多舍生忘死的精神理由，那時(shí)萬(wàn)物都有賦魅的傳說(shuō)，事事具有精神性。毫無(wú)疑問，嫦娥的月亮一定比阿姆斯特朗的月亮更有魅力。

嫦娥的月亮一定比阿姆斯特朗的月亮更有魅力

老一代的技術(shù)批判都具有某種懷舊色彩，都認(rèn)為技術(shù)破壞了生活的精神性。的確如此，然而無(wú)可否認(rèn)的是，現(xiàn)代技術(shù)創(chuàng)造了對(duì)于生活極其重要的無(wú)數(shù)事物，比如青霉素等抗生素、外科手術(shù)、疫苗接種、抽水馬桶、供暖系統(tǒng)、自來(lái)水系統(tǒng)、電燈等等，還有許多便利工具如汽車、火車、飛機(jī)、電腦之類。以浪漫主義之心觀之，技術(shù)都有去魅之弊而導(dǎo)致精神貧乏。但我記得李澤厚問過(guò)一個(gè)類似于羅爾斯無(wú)知之幕的問題：如果不能選擇人物角色，你會(huì)選擇什么時(shí)代？難道會(huì)選擇古代嗎？對(duì)這個(gè)超現(xiàn)實(shí)主義問題真是無(wú)言以對(duì)，但這個(gè)問題提醒了一個(gè)事實(shí)：人性傾向于貪圖便利省力、擺脫勞動(dòng)、安逸享受和物質(zhì)利益，因此絕大多數(shù)人寧可選擇物質(zhì)高于精神的技術(shù)化生活。老一代技術(shù)批判想象的人們“原有的”詩(shī)情畫意生活同時(shí)也是艱難困苦的生活，什么樣的精神才能拯救饑餓的肉體呢？當(dāng)然也可以反過(guò)來(lái)問，物質(zhì)能變精神嗎？顯然，物質(zhì)是問題，精神也是問題。

老一代的技術(shù)批判揭發(fā)了技術(shù)對(duì)精神的傷害，卻尚未觸及技術(shù)的終極危險(xiǎn)所在，在今天，我們已經(jīng)可以想象技術(shù)對(duì)生存的根本挑戰(zhàn)?？梢阅７埋R克思說(shuō)：哲學(xué)家只是不同地批判了技術(shù)，可問題是，技術(shù)改變了世界。

技術(shù)提出了存在論的新問題

當(dāng)技術(shù)問題同時(shí)成為存在論問題，真正要命的可能性就顯現(xiàn)出來(lái)了。

存在論一向受制于單數(shù)主體的知識(shí)論視域（horizon），即以人的視域來(lái)思考存在，而且默認(rèn)人的視域是唯一的主體視域，所以，存在論從來(lái)沒有超越知識(shí)論。基于人類知識(shí)論的自信，康德才敢于宣稱人為自然立法。也可以循環(huán)論證地說(shuō)，人是自然的立法者，所以人的視域是唯一視域。不過(guò)，人們?cè)?jīng)在神學(xué)上設(shè)想了高于人的絕對(duì)視域，比如萊布尼茨論證了上帝能夠一覽無(wú)窮多的所有可能世界。然而，這種理論上的絕對(duì)視域無(wú)法為人所用，人不可能想象看清無(wú)窮多可能世界的絕對(duì)視域到底什么樣。人能夠有效使用的唯一視域還是人的主體性視域，如維特根斯坦所言，這是思想的界限。

思想沒有能力超越自身，就像眼睛看不見眼睛自身（維特根斯坦的比喻），但思想做不到的事情卻在實(shí)踐中可能實(shí)現(xiàn)。人工智能就有可能成長(zhǎng)為另一種主體，另一種立法者，或者另一種眼睛。這意味著一個(gè)存在論巨變：?jiǎn)蜗虻拇嬖谡撚锌赡茏兂呻p向的存在論（甚至是多向的）。世界將不僅僅屬于一種主體的視域，而可能屬于兩種以上的主體，甚至屬于非人類的新主體。人工智能一旦發(fā)展為新主體，世界將進(jìn)入新的存在論。

人工智能有著多種定義。科學(xué)上通常將屬于圖靈機(jī)概念的人工智能標(biāo)志為AI，將等價(jià)于人類智能的人工智能稱為AGI（通用人工智能，artificial general intelligence），而全面超越人類智能的高端智能稱為SI（超級(jí)智能，super intelligence）。這個(gè)科學(xué)分類描述的是在技術(shù)上可測(cè)量的智能級(jí)別，但我們?cè)噲D討論智能的哲學(xué)性質(zhì)，即是否具備“我思”的主體性，因此，請(qǐng)?jiān)试S我在這里將人工智能按照其哲學(xué)性質(zhì)進(jìn)行劃分，一類稱為AI，即尚未達(dá)到笛卡兒“我思”標(biāo)準(zhǔn)的非反思性人工智能，覆蓋范圍與科學(xué)分類的AI大致相同，即屬于圖靈機(jī)概念（包括單一功能的人工智能，例如阿爾法狗，以及尚未成功的復(fù)雜功能人工智能）;另一類稱為ARI，即達(dá)到或超越笛卡兒“我思”標(biāo)準(zhǔn)的反思性人工智能（artificial reflexive intelligence）。ARI約等于超級(jí)人工智能，或超圖靈機(jī)，我也稱之為“哥德爾機(jī)”，以表示具有反思自身系統(tǒng)的能力。需要注意的是，ARI必定包括但不一定成為AGI或SI，這意味著，ARI未必具備人類的每一種才能，但必須具有自主的反思能力以及修改自身系統(tǒng)的能力，于是就具有自律自治的主體性，就成為無(wú)法支配的他者之心，也就成為世界上的另一種主體。

以主體性為準(zhǔn)的分類試圖突出地表達(dá)人工智能的可能質(zhì)變，即奇點(diǎn)。目前看來(lái)，人工智能發(fā)生質(zhì)變的奇點(diǎn)還很遙遠(yuǎn)，預(yù)言家們往往夸大其詞，但問題是，人工智能的奇點(diǎn)是可能發(fā)生的。智能的要害不在于運(yùn)算能力，而在于反思能力。人的主體性本質(zhì)在于反思能力，沒有反思能力就不是思維主體。如果人工智能沒有反思能力，那么，運(yùn)算能力越強(qiáng)就對(duì)人類越有用，而且沒有致命危險(xiǎn)，比如AlphaGo Zero運(yùn)算能力雖強(qiáng)卻不是對(duì)人的威脅。反過(guò)來(lái)說(shuō)，即使人工智能在許多方面弱于人，但只要具備反思能力，就形成了具有危險(xiǎn)性的主體。假設(shè)有一種人工智能缺乏人類的大多數(shù)技能，既不會(huì)生產(chǎn)糧食也不會(huì)生產(chǎn)石油，如此等等，只會(huì)制造和使用先進(jìn)武器，而它卻發(fā)展出了自主反思能力，那么后果可想而知。至今人工智能只具有算法能力或類腦的神經(jīng)反應(yīng)能力，尚無(wú)反思功能，甚至不能肯定是否能夠發(fā)展出反思功能，仍然屬于安全機(jī)器，即使將來(lái)可能出現(xiàn)的多用途并且具有靈活反應(yīng)能力的人工智能，只要缺乏反思功能，就仍然不是新主體，而只是人類的最強(qiáng)助手。

大多數(shù)技術(shù)都只是增強(qiáng)或擴(kuò)展人類能力，比如生產(chǎn)工具和制造工具的機(jī)器，從蒸汽機(jī)到發(fā)電機(jī)，從汽車、飛機(jī)到飛船，還有電話、電腦、互聯(lián)網(wǎng)到量子科技等等，圖靈機(jī)人工智能也屬于此類。無(wú)論技術(shù)多么強(qiáng)大，只要技術(shù)系統(tǒng)本身沒有反思能力，就沒有存在論級(jí)別的危險(xiǎn)。從樂觀主義來(lái)看，此類技術(shù)所導(dǎo)致的社會(huì)、文化或政治問題仍然屬于人類可控范圍。當(dāng)然其中存在一些高風(fēng)險(xiǎn)甚至惡意的技術(shù)，比如核電站就是高風(fēng)險(xiǎn)的，至今尚無(wú)處理核廢料的萬(wàn)全之策，又如核武器，其功能是大規(guī)模屠殺。人工智能和基因技術(shù)的發(fā)展卻在超出增強(qiáng)能力的概念，正在變成改變物種或創(chuàng)造新物種的技術(shù)，就蘊(yùn)含著人類無(wú)力承擔(dān)的風(fēng)險(xiǎn)。盡管“神一般的”能力目前只是理論上的可能性，但已經(jīng)先于實(shí)踐提出了新的存在論問題，也連帶提出了新的知識(shí)論和新的政治問題。需要注意的是，這些新的哲學(xué)問題并不是傳統(tǒng)哲學(xué)問題的升級(jí)版，而是從未遭遇的新問題，因此，傳統(tǒng)哲學(xué)對(duì)技術(shù)的批判，包括莊子、韋伯和海德格爾之類，基本上無(wú)效，甚至與新問題不相干，就是說(shuō)，人文主義的倫理觀或價(jià)值觀對(duì)于技術(shù)新問題基本上文不對(duì)題。

人工智能和基因技術(shù)都提出了挑戰(zhàn)人的概念的存在論問題，但相比之下，人工智能的危險(xiǎn)性似乎大過(guò)基因技術(shù)。人工智能是真正的創(chuàng)造物，因此完全不可測(cè)，而基因技術(shù)是物種改良，應(yīng)該存在自然限度。這個(gè)斷言基于一個(gè)難以證明卻可能為真的信念：對(duì)于一個(gè)整體性和封閉性的系統(tǒng)來(lái)說(shuō)，內(nèi)部因素的革命能力不能超越整體預(yù)定的物理或生物限度，假如內(nèi)部變化一旦超出整體限度，就是系統(tǒng)崩潰。在這里意味著，基因技術(shù)的革命性不可能超越生命的生物限度。也許基因技術(shù)能夠成為物種優(yōu)化的方法，但無(wú)論什么物種，作為生命都有其整體所允許的變化極限。基因技術(shù)是否真的能夠使人長(zhǎng)生不老，仍是未知數(shù)。據(jù)說(shuō)某些爬行類或魚類生長(zhǎng)緩慢而長(zhǎng)壽，或如燈塔水母甚至有返老還童的特異功能以至于好像萬(wàn)壽無(wú)疆，但那些非常長(zhǎng)壽的生物都是智力極低的，這是個(gè)令人失望的暗示。如果對(duì)人進(jìn)行根本性的基因改造，是否會(huì)引起生命系統(tǒng)的崩潰？比如說(shuō)，大腦或免疫系統(tǒng)會(huì)不會(huì)崩潰？試圖通過(guò)基因技術(shù)將人徹底改造為神一般的全新物種，在生物學(xué)上似乎不太合理。更現(xiàn)實(shí)的問題是，基因優(yōu)化哪怕是有限的就已經(jīng)非常可能導(dǎo)致社會(huì)問題的惡化，以至于導(dǎo)致人類集體災(zāi)難，在此不論。

就創(chuàng)造新物種的能力而言，人工智能比基因技術(shù)更危險(xiǎn)。人工智能一旦突破奇點(diǎn)，就創(chuàng)造了不可測(cè)的新主體，而對(duì)于新主體，傳統(tǒng)一元主體的知識(shí)、視域和價(jià)值觀將會(huì)破產(chǎn)，而二元主體（甚至多元主體）的世界還很難推想。盡管許多科幻作品想象了恐怖的機(jī)器人或外星人而使人得到受虐的快感，但人類對(duì)技術(shù)化的未來(lái)并沒有認(rèn)真的思想或心理準(zhǔn)備。且不說(shuō)遙遠(yuǎn)的二元主體世界，即使對(duì)近在眼前的初級(jí)人工智能化或基因技術(shù)化的社會(huì)，人們也缺乏足夠的警惕。先不考慮末日問題，高度技術(shù)化的社會(huì)也將高度放大本就存在的難題而使人類陷于不可救藥的困境，比如貧富分化、階級(jí)斗爭(zhēng)、種族斗爭(zhēng)、民族斗爭(zhēng)、資源稀缺、大自然的萎縮和失衡。

劉慈欣在論文式的短篇小說(shuō)《贍養(yǎng)上帝》和《贍養(yǎng)人類》中想象了萬(wàn)事智能化的“暮年文明”令人絕望的故事。其中有兩個(gè)切中要害的論點(diǎn)：其一，高度發(fā)達(dá)的人工智能幾乎萬(wàn)能，全自動(dòng)運(yùn)行，于是形成讓所有人豐衣足食的“機(jī)器搖籃”，正如宇宙中極其發(fā)達(dá)而名為“上帝文明”的人所說(shuō)的：“智能機(jī)器能夠提供一切我們所需要的東西，這不只是物質(zhì)需要，也包括精神需要，我們不需為生存付出任何努力，完全靠機(jī)器養(yǎng)活了，就像躺在一個(gè)舒適的搖籃中。想一想，假如當(dāng)初地球的叢林中充滿了采摘不盡的果實(shí)，到處是伸手就能抓到的小獵物，猿還能進(jìn)化成人嗎？機(jī)器搖籃就是這樣一個(gè)富庶的叢林，漸漸地，我們忘卻了技術(shù)和科學(xué)，文化變得懶散而空虛，失去了創(chuàng)新能力和進(jìn)取心，文明加速老去”，于是所有人都變成了“連一元二次方程都不會(huì)”的廢物（《贍養(yǎng)上帝》）。這里提出的問題是，人工智能創(chuàng)造的幸福生活卻事與愿違地導(dǎo)致了文明衰亡。其二，人工智能社會(huì)還有另一個(gè)更具現(xiàn)實(shí)性的版本。一個(gè)尚未達(dá)到“上帝文明”那么發(fā)達(dá)的智能化文明就已經(jīng)陷入了文明的絕境。在小說(shuō)中，比地球發(fā)達(dá)而文明類型完全相似的“地球兄弟文明”的人講述了地球文明的前景：全面智能化的社會(huì)不再需要?jiǎng)趧?dòng)，富人也就不再需要窮人，而階層上升的道路也被堵死，因?yàn)楦蝗藟艛嗔恕敖逃薄Ｄ遣皇莻鹘y(tǒng)意義上的教育，而是人工智能和生物技術(shù)合作而成的人機(jī)合一技術(shù)，購(gòu)買此種極其昂貴的“教育”就成為超人，在所有能力上與傳統(tǒng)人不在一個(gè)量級(jí)，其級(jí)差大過(guò)人與動(dòng)物的差別，于是“富人和窮人已經(jīng)不是同一個(gè)物種了，就像窮人和狗不是同一個(gè)物種一樣，窮人不再是人了……對(duì)窮人的同情，關(guān)鍵在于一個(gè)同字，當(dāng)雙方相同的物種基礎(chǔ)不存在時(shí)，同情也就不存在了”（《贍養(yǎng)人類》）。這說(shuō)明，無(wú)須等到出現(xiàn)超級(jí)人工智能，智能化社會(huì)就已經(jīng)足以把部分人類變成新物種，就是說(shuō)，即使人工智能的奇點(diǎn)沒有出現(xiàn)，人類文明的嚴(yán)重問題就可能來(lái)臨。

在《贍養(yǎng)上帝》中，高度發(fā)達(dá)的人工智能形成了讓所有人豐衣足食的“機(jī)器搖籃”

且不說(shuō)人工智能的奇點(diǎn)，近在眼前的問題就足夠驚心動(dòng)魄了。人類本來(lái)就未能很好地解決利益分配、社會(huì)矛盾、群體斗爭(zhēng)或文明沖突等問題，這些問題之所以無(wú)法解決，根本原因在于人性的局限性，而不在于人謀的局限性。令人失望的是，人類解決問題的能力明顯弱于制造問題的能力，所以積重難返，而人工智能或基因技術(shù)是放大器或加速器，對(duì)老問題更是雪上加霜。盡管人類發(fā)明了堪稱偉業(yè)的政治制度、法律體系和倫理系統(tǒng)，但人類思想能力似乎正在逼近極限，近數(shù)十年來(lái)，世界越來(lái)越顯示出思想疲憊或者懶惰的跡象，思想創(chuàng)意明顯減少，思想框架和概念基本上停留在200年前。對(duì)于人工智能和基因技術(shù)等新問題，除了一廂情愿的倫理批判，就似乎一籌莫展。為什么對(duì)人工智能的倫理批判文不對(duì)題而無(wú)效？其中有個(gè)恐怖的事情：在一個(gè)文明高度智能化的世界里，倫理學(xué)問題很可能會(huì)消失，至少邊緣化。這是與人們對(duì)文明發(fā)展預(yù)期相悖的一種可能性，看起來(lái)荒謬，但非常可能。

通常相信，人類文明在不斷“進(jìn)步”。就科學(xué)技術(shù)而言，毫無(wú)疑問是在進(jìn)步，但除了科學(xué)和技術(shù)，其他方面是否進(jìn)步就存在爭(zhēng)議了。技術(shù)的本質(zhì)是能力，而能力越大，其博弈均衡點(diǎn)就對(duì)技術(shù)掌權(quán)者越有利。如果技術(shù)掌握在少數(shù)人手里，弱者的討價(jià)還價(jià)收益就越小。那么，給定人性不變，文明的人工智能化就非?？赡軐?dǎo)致文明的重新野蠻化（re-barbarization）。在這里，“野蠻化”不是指退化到洪荒的生活水平，而是指社會(huì)關(guān)系惡化為強(qiáng)權(quán)即真理的叢林狀態(tài)，就是說(shuō)，既然占有技術(shù)資源的人擁有壓倒一切的必勝技術(shù)，就不需要倫理、法律和政治了。這個(gè)霍布斯式的道理眾所周知，只是寧愿回避這個(gè)令人不快的問題而維護(hù)一種虛偽的幻覺。人類一直都有好運(yùn)氣成功地回避了這個(gè)“最壞世界”問題，那是因?yàn)榛舨妓沟氖澜缋餂]有絕對(duì)強(qiáng)者，既然強(qiáng)者也有許多致命弱點(diǎn)，那么人人都是弱者，而每個(gè)人都是弱者這個(gè)事實(shí)正是人類的運(yùn)氣之所在。正如尼采的發(fā)現(xiàn)，弱者才需要道德。人人為弱者就是人類的運(yùn)氣，也是倫理、法律和政治的基礎(chǔ)，倫理、法律和政治正是互有傷害能力的弱者之間長(zhǎng)期博弈形成的穩(wěn)定均衡。當(dāng)然也有博弈均衡無(wú)法解釋的“精神高于物質(zhì)”的例外，比如無(wú)私的或自我犧牲的道德，這是人類之謎。精神高于物質(zhì)的現(xiàn)象并非人類社會(huì)的主要結(jié)構(gòu)，不構(gòu)成決定性的變量。

高度發(fā)達(dá)的人工智能或基因技術(shù)或有一天可能宣布人類的運(yùn)氣用完了（并非必然）。按照最小成本和最大利益定理可推，人類文明之所以發(fā)展出復(fù)雜的制度、倫理和法律，是因?yàn)闆]有能力以低成本的簡(jiǎn)單方式去解決權(quán)力和利益問題。通常相信，文明的復(fù)雜程度標(biāo)志著文明的發(fā)達(dá)程度，復(fù)雜性與精致、巧妙、協(xié)調(diào)、難度和精神性等文明指標(biāo)之間確有相關(guān)性，所以“高級(jí)”。一個(gè)成熟文明的倫理道德是復(fù)雜的，法律和制度是復(fù)雜的，思想和藝術(shù)也是復(fù)雜的。這些成熟標(biāo)志隱蔽了一個(gè)本質(zhì)問題：復(fù)雜意味著高成本（包括交易成本），而正因?yàn)楦叱杀?，所以不可能?shí)現(xiàn)利益最大化。于是有一個(gè)殘酷的定理：如果有能力以最小成本的最簡(jiǎn)單方式去獲得最大利益，人就會(huì)理性地選擇簡(jiǎn)單粗暴的方式去解決問題，而不會(huì)選擇復(fù)雜的高成本的方法。因此可知，一旦人工智能和基因技術(shù)創(chuàng)造了絕對(duì)強(qiáng)者，絕對(duì)強(qiáng)者就很可能利用絕對(duì)優(yōu)勢(shì)的技術(shù)去實(shí)現(xiàn)文明的重新野蠻化，比如說(shuō)消滅“無(wú)用的”人，而放棄高成本而復(fù)雜的倫理、法律和政治。顯然，對(duì)于一個(gè)重新野蠻化的高技術(shù)世界，倫理學(xué)就文不對(duì)題了。不過(guò)，人類還有反思和調(diào)整的時(shí)間，這不知算不算是好消息。

文明的人工智能化非?？赡軐?dǎo)致文明的重新野蠻化

對(duì)可能出現(xiàn)的文明重新野蠻化，人們之所以缺乏足夠的警惕性，或與啟蒙運(yùn)動(dòng)以來(lái)人類的主體性傲慢有關(guān)，這同時(shí)也是理性的傲慢。啟蒙理性告別了以神為尊，轉(zhuǎn)向以人為尊，這場(chǎng)偉大的思想革命使人陶醉于主體性的勝利而逐漸忘卻了人的真實(shí)面目。在以神為尊的古代，神是不可質(zhì)疑的，同樣，在以人為尊的現(xiàn)代，人也是不可質(zhì)疑的，于是掩蓋了人的弱點(diǎn)、缺點(diǎn)甚至罪惡。只要世界出現(xiàn)了什么壞事，總是歸罪于制度或觀念，不再反思人。從“原罪”中脫身的人再也沒有負(fù)擔(dān)，肆無(wú)忌憚地以人之名去要求獲得一切快樂、利益和權(quán)利。現(xiàn)代政治的根據(jù)不再是對(duì)人有所約束的自然神學(xué)或宗教神學(xué)，而是人的神學(xué)，所謂大寫的人?？墒敲煨《运降娜思词埂按髮憽庇帜苡卸啻竽?？人憑什么獲得想要的一切？主體性的傲慢反而揭示了人的神學(xué)是反人類的。個(gè)人主義可以保護(hù)個(gè)人，卻沒有能力保護(hù)人類，個(gè)人主義的這個(gè)致命弱點(diǎn)在人類整體面臨挑戰(zhàn)時(shí)就暴露無(wú)遺了。將來(lái)如果出現(xiàn)超人類的人工智能，或者極少數(shù)人控制了高能的人工智能，個(gè)人主義社會(huì)將沒有能力反抗人工智能的統(tǒng)治，因?yàn)槿斯ぶ悄懿皇莻€(gè)人，而是比所有個(gè)人強(qiáng)大得多的系統(tǒng)。如前所言，絕對(duì)強(qiáng)者的人工智能系統(tǒng)不需要苦苦地通過(guò)復(fù)雜而高成本的制度、倫理和法律去解決社會(huì)矛盾，而將會(huì)“理性地”選擇簡(jiǎn)單粗暴的解決方式。簡(jiǎn)單地說(shuō)，啟蒙運(yùn)動(dòng)以來(lái)的現(xiàn)代思想和信念對(duì)于技術(shù)為王的未來(lái)問題是文不對(duì)題而且無(wú)能為力的。史蒂芬·平克還在呼喚“當(dāng)下的啟蒙”，可是技術(shù)的腳步已經(jīng)跨越了啟蒙的思想而走向危險(xiǎn)的未來(lái)。

人類的問題正在更新?lián)Q代，目前的哲學(xué)對(duì)技術(shù)社會(huì)的新問題一籌莫展。

意識(shí)形而上學(xué)

為了理解新問題，看來(lái)需要進(jìn)一步分析意識(shí)的秘密。意識(shí)是人類最后的堡壘，也是人類發(fā)現(xiàn)出路的唯一資源?？墒侨祟愌芯恳庾R(shí)至少有兩千多年了，仍然對(duì)意識(shí)缺乏整體或透徹的理解。在意識(shí)研究中，亞里士多德對(duì)邏輯的發(fā)現(xiàn)是其中最偉大的成就，其他重要成就還包括休謨對(duì)因果意識(shí)和應(yīng)然意識(shí)的研究、康德對(duì)意識(shí)先驗(yàn)結(jié)構(gòu)的研究、索緒爾以來(lái)的語(yǔ)言學(xué)研究、現(xiàn)代心理學(xué)研究、弗洛伊德以來(lái)的精神病研究、胡塞爾的意向性研究、維特根斯坦對(duì)思想界限的研究，還有當(dāng)代認(rèn)知科學(xué)的研究，如此等等。但意識(shí)之謎至今尚未破解，一個(gè)重要的原因是，以意識(shí)去反思意識(shí)，其中的自相關(guān)性使意識(shí)不可能被完全對(duì)象化，總有無(wú)法被理解的死角，而那個(gè)無(wú)法理解的地方很可能蘊(yùn)含著意識(shí)的核心秘密。

現(xiàn)在似乎出現(xiàn)了意識(shí)客觀化的一個(gè)機(jī)會(huì)：人工智能開始能夠“思維”——思維速度如電，盡管思維方法很簡(jiǎn)單：機(jī)械算法和應(yīng)答式反應(yīng)。正是這種簡(jiǎn)單性使人產(chǎn)生一種想象：思維是否可以還原為簡(jiǎn)單的運(yùn)作？當(dāng)然，目前的圖靈機(jī)思維還沒有自覺意識(shí)，只是機(jī)械地或神經(jīng)反應(yīng)地模仿了意識(shí)。人工智能展現(xiàn)的思維方式，部分與人類相似（因?yàn)槭侨祟悓懙某绦颍?，也部分與人類不相似（因?yàn)闄C(jī)器的運(yùn)作終究與生物不同），那么，是否能夠從人工智能來(lái)映射意識(shí)？或者說(shuō)，人工智能是否可以理解為意識(shí)的一種對(duì)象化現(xiàn)象？或至少成為有助于理解思維的對(duì)比參數(shù)？這些尚無(wú)明確的結(jié)論。

這里至少有兩個(gè)疑問：（1）即使是將來(lái)可能實(shí)現(xiàn)的多功能人工智能，也恐怕不能與人的思維形成完全映射。按照我先前的分析（或許有錯(cuò)誤），圖靈機(jī)概念的人工智能不具備原創(chuàng)性思維（區(qū)別于假冒創(chuàng)造性的聯(lián)想式或組合式的思維），也沒有能力自己形成或提出新概念，更不能對(duì)付自相關(guān)、悖論性或無(wú)限性的問題，也沒有能力定義因果關(guān)系（可笑的是，人至今也不能完美地定義因果關(guān)系），因此，人的思維不可能還原為圖靈機(jī)人工智能;那么（2）假如人工智能達(dá)到奇點(diǎn)，跨級(jí)地發(fā)展為ARI，成為另一種意識(shí)主體，是否等價(jià)于人的意識(shí)？這個(gè)問題的復(fù)雜性和不確定性超出了目前的理解能力，類似于說(shuō)，人是否能夠理解神的思維？或是否能夠理解外星人的思維？關(guān)鍵問題是，假定存在不同種類的思維主體，是否有理由推斷，所有種類主體的思維都是相通一致的？都能夠達(dá)成映射——哪怕是非完全的映射？這個(gè)問題事關(guān)是否存在普遍的（general）思維，相當(dāng)于任何思維的元思維模式。這是關(guān)于思維形而上學(xué)的一個(gè)終極問題。

設(shè)想另一種主體的思維要有非常的想象力。我讀到過(guò)兩種（萊布尼茨所理解的上帝思維太抽象，不算在內(nèi)）：一種是博爾赫斯在小說(shuō)《特隆、烏克巴爾、奧爾比斯·特蒂烏斯》中想象的“特隆世界”，特隆文明只關(guān)心時(shí)間，特隆人所理解的世界只是思想流程，于是，世界只顯現(xiàn)時(shí)間性而沒有空間性。以此種思維方式生產(chǎn)出來(lái)的知識(shí)系統(tǒng)以心理學(xué)為其唯一基礎(chǔ)學(xué)科，其他學(xué)科都是心理學(xué)的分支。特隆的哲學(xué)家不研究真實(shí)，“只研究驚奇”，形而上學(xué)只是一種幻想文學(xué)（算是對(duì)人類的形而上學(xué)的嘲笑）。擺脫了空間負(fù)擔(dān)的思維無(wú)疑純度最高，對(duì)于唯心主義是個(gè)來(lái)自夢(mèng)鄉(xiāng)的好消息，可惜笛卡兒、貝克萊、康德和胡塞爾沒有聽說(shuō)過(guò)這么好的消息。另一種驚人想象見于劉慈欣的《三體》三部曲。三體人以發(fā)送腦電波為其交流方式，不用說(shuō)話，于是，在三體文明里，交流中的思維是公開的，不能隱藏想法，一切思想都是真實(shí)想法（哈貝馬斯一定喜歡這種誠(chéng)實(shí)的狀態(tài)），因此不可能欺騙、說(shuō)謊或偽裝，也就不存在計(jì)謀，不可能進(jìn)行復(fù)雜的戰(zhàn)略思維，所有戰(zhàn)爭(zhēng)或競(jìng)爭(zhēng)只能比真本事。這種完全誠(chéng)實(shí)的文明消除了一切峰回路轉(zhuǎn)的故事，顯然與人類思維方式南轅北轍。

宇宙無(wú)奇不有，也許真的存在著多種思維方式，至少存在著多種思維的可能性。讓我們首先假定，各種主體的不同思維之間是能夠交流并且互相理解的。如果沒有這個(gè)假定就一切免談了。進(jìn)而可推知，在不同的諸種思維模式之中存在著普遍的一般結(jié)構(gòu)。那么，一般思維會(huì)是什么樣的？我們無(wú)法直接知道一般思維的本質(zhì)，因?yàn)椴淮嬖谝环N“一般的”思維，只有隱藏于所有思維中的一般結(jié)構(gòu)。基于上述假設(shè)，各種思維之間至少在理性化內(nèi)容上存在著充分的映射關(guān)系，因而能夠互相理解一切理性化的語(yǔ)句，否則等于說(shuō)，關(guān)于宇宙可以有互相矛盾的物理學(xué)或數(shù)學(xué)——這未免太過(guò)荒謬?；闹嚨氖虑橐苍S有，但在這里不考慮。同時(shí)，毫無(wú)疑問，不同思維里總會(huì)有互相難以理解的非理性內(nèi)容，奇怪的欲望或興趣，比如上帝不會(huì)理解什么是羨慕，或某種單性繁殖的外星人不理解什么是愛情，但此類非理性內(nèi)容不影響理性思維的共通性。于是有一個(gè)“月印萬(wàn)川”的等值推論：如果充分理解了任意一種思維，就等于理解了思維的一般本質(zhì)。但是，如前所言，我們只見過(guò)人類思維，可是思維又不能充分理解自身（眼睛悖論），又將如何？

顯然，思維需要映射為一種外在化形式以便反思，相當(dāng)于把思維看作是一個(gè)系統(tǒng)，并且將其映射為另一個(gè)等價(jià)的系統(tǒng)。與此最為接近的努力是哥德爾的天才工作。盡管哥德爾沒有反思人類思維整體，只是反思了數(shù)學(xué)系統(tǒng)，但所建構(gòu)的反思性卻有異曲同工之妙。一個(gè)足夠豐富的數(shù)學(xué)系統(tǒng)中的合法命題無(wú)窮多，對(duì)包含無(wú)窮多命題的系統(tǒng)的元性質(zhì)進(jìn)行反思，無(wú)疑是一項(xiàng)驚人的工作。由此可以聯(lián)想，此種反思方式是否能夠應(yīng)用于對(duì)人類思維整體的反思？但人類思維整體的復(fù)雜性否認(rèn)了這種可能性，因?yàn)椋诖蠖鄶?shù)情況下，人的思維不是純粹理性的，為了如實(shí)理解人類思維，就不得不把所有非理性的“錯(cuò)誤”考慮在內(nèi)，這意味著，人類思維實(shí)際上是無(wú)法無(wú)天的，不可能還原為一個(gè)能夠以數(shù)學(xué)或邏輯方式去解釋的系統(tǒng)。簡(jiǎn)單地說(shuō)，如果省略了邏輯或數(shù)學(xué)不能表達(dá)的“錯(cuò)誤”思想，人類思維就消散了。

人類思維包含大量非理性成分，無(wú)法還原為邏輯系統(tǒng)

在這里，所謂“錯(cuò)誤”是根據(jù)理性標(biāo)準(zhǔn)而言的異常觀念，所有非理性觀念都被歸類為“錯(cuò)誤”，包括欲望、信念、執(zhí)念、偏見、癖好、不正常心理、無(wú)意識(shí)、潛意識(shí)，如此等等。這些“錯(cuò)誤”所以必須被考慮在內(nèi)，是因?yàn)樗鼈兘?jīng)常是行為的決定性因素，絕非可以排除或省略的思維成分。哥德爾的工作一方面啟示了反思的可能性，另一方面也提示了反思人類整體思維之不可能性。即使在排除錯(cuò)誤命題的數(shù)學(xué)系統(tǒng)內(nèi)，也存在著不可證而為真的“哥德爾命題”，即并非有限步能行（feasible）可證的真命題，因而一個(gè)包含無(wú)窮多命題的系統(tǒng)（不知道是否真的無(wú)窮多，至少是足夠多以至于好像無(wú)窮多），或者存在內(nèi)在矛盾，或者不完備?？梢韵胂?，比數(shù)學(xué)系統(tǒng)復(fù)雜得多的人類思維系統(tǒng)顯然不僅存在大量?jī)?nèi)在矛盾，而且永遠(yuǎn)不可能是完備的。難以置信的事實(shí)是，包含非理性因素而顯得“亂七八糟”的復(fù)雜思維卻在人類實(shí)踐中很有成就，比如說(shuō)，人類的社會(huì)制度不可能按照數(shù)學(xué)推算出來(lái)。即使就理性化程度很高的科學(xué)而言，偉大的成就也不是單純推理出來(lái)的，而是得力于創(chuàng)造性的發(fā)現(xiàn)。當(dāng)代經(jīng)濟(jì)學(xué)也從另一個(gè)側(cè)面說(shuō)明了純粹理性化的局限性，當(dāng)代經(jīng)濟(jì)學(xué)只考慮能夠數(shù)學(xué)化表達(dá)的那一部分經(jīng)濟(jì)事實(shí)，而漏掉了大量無(wú)法數(shù)學(xué)化的事實(shí)，因此對(duì)真實(shí)的經(jīng)濟(jì)問題缺乏解釋力。

這里萬(wàn)萬(wàn)不可誤會(huì)為對(duì)數(shù)學(xué)和邏輯的質(zhì)疑。數(shù)學(xué)和邏輯無(wú)疑是人類思維最重要的方法論，如果沒有數(shù)學(xué)和邏輯，就不存在人類思維，就仍然是動(dòng)物。但同時(shí)也應(yīng)該說(shuō)，單憑數(shù)學(xué)和邏輯，人工智能無(wú)法超越機(jī)器（圖靈機(jī)）的概念，不可能成為等價(jià)于人類思維或超越人類思維的新主體而實(shí)現(xiàn)“創(chuàng)世紀(jì)”的物種超越（人工智能的發(fā)展不屬于進(jìn)化論，而屬于創(chuàng)世論）。只是說(shuō)，人類思維具有如此驚人的創(chuàng)造性能量，一定在數(shù)學(xué)和邏輯之外還有別的思維方式，只是尚不清楚是什么樣的。哲學(xué)家喜歡將其稱為“直觀”“統(tǒng)覺”或“靈感”之類的神秘能力，但等于什么都沒有說(shuō)，代號(hào)而已。

博弈論是一種廣譜的理性分析模型，通常證明了理性選擇的優(yōu)勢(shì)，但也同時(shí)揭示了理性的局限性，比如在作為納什均衡的“囚徒困境”中，理性必定選中其次壞的結(jié)果，而非理性的選擇則以賭博方式獲得最壞或最好結(jié)果。給定大多數(shù)人自私貪婪而見利忘義，那么，非理性選擇獲得最壞結(jié)果的概率必定遠(yuǎn)遠(yuǎn)大于最好結(jié)果。這一點(diǎn)似乎解釋了為什么大多數(shù)政治、經(jīng)濟(jì)或戰(zhàn)爭(zhēng)“賭徒”都一敗涂地，但也會(huì)有極少數(shù)獲得奇跡般的勝利而成為傳奇?？梢酝浦?，一個(gè)文明的理性化程度越高，人間就越趨于無(wú)故事，歷史的奇跡就越少。人類需要奇跡嗎？或者，人類不需要奇跡嗎？再者，充分理性的超級(jí)人工智能需要奇跡嗎？

純粹理性在邏輯上蘊(yùn)含著恐怖的結(jié)果。比如說(shuō)，充分理性化的行為有助于達(dá)到交易成本的最小化（大于零），按照此種“經(jīng)濟(jì)學(xué)理性”，能夠達(dá)到交易成本最小化的策略在有的情況下就是恐怖策略，如前所言，假如擁有能夠兵不血刃的技術(shù)代差，強(qiáng)者達(dá)到交易成本最小化的策略就是消滅對(duì)手或者奴役對(duì)手，而不是通過(guò)討價(jià)還價(jià)達(dá)成契約?？档略缇桶l(fā)現(xiàn)，在純粹理性之外必須有實(shí)踐理性，即道德的理性，否則無(wú)以為人，就是說(shuō)，人的理性必須有道德負(fù)擔(dān)，否則沒有好生活。但這種理想的隱秘前提是“人人都是弱者”的運(yùn)氣，我們已經(jīng)討論過(guò)這一點(diǎn)。

這使人想到一個(gè)冒汗的問題：一旦達(dá)到具有主體性的人工智能，即ARI，會(huì)需要或喜歡有道德負(fù)擔(dān)的實(shí)踐理性嗎？它有這個(gè)必要嗎？當(dāng)然，我們無(wú)法預(yù)料ARI的選擇方式，不懂屬于ARI文明的博弈論。且以“將心比心”的方式來(lái)猜想，將有兩個(gè)可能結(jié)果，都令人失望：（1）如果ARI只有純粹理性，沒有道德理性，那么它將大概率地按照它的存在需要來(lái)決定人類的命運(yùn)，也許會(huì)“贍養(yǎng)人類”而把人類變成白癡，也許會(huì)清除人類;（2）假如ARI模仿人類的欲望、情感和價(jià)值觀，那么它多半會(huì)歧視人類，因?yàn)锳RI會(huì)觀察到人類如此自私貪婪，言行不一地缺乏人類自己標(biāo)榜的美德。不過(guò)，我們終究無(wú)法猜想ARI會(huì)有什么樣的心靈，甚至還尚未理解人類自己的心靈。

心靈的概念比思維的概念大了許多。如何理解心靈一直是個(gè)難題，哲學(xué)有個(gè)專項(xiàng)研究稱為“心靈哲學(xué)”，另外還有心理學(xué)和認(rèn)知科學(xué)的助力，雖經(jīng)時(shí)日，進(jìn)展卻不多。心靈具有黑箱性質(zhì)，在心靈內(nèi)部進(jìn)行唯心主義的內(nèi)省已經(jīng)被證明沒有意義，因?yàn)橹饔^內(nèi)省不可能確定自身的意義。心靈的意義需要外在確認(rèn)，即語(yǔ)言和行為，這意味著，我們所能夠知道的心靈是“說(shuō)出來(lái)的”或“做出來(lái)的”，而既不能說(shuō)又不能做的心靈也許在（is），但尚未存在（exists），而且還存在言行不一的問題。

維特根斯坦以“哲學(xué)語(yǔ)法”重構(gòu)了語(yǔ)言和行為的關(guān)系問題。他證明了：

（1）能夠想的就能夠說(shuō)，因?yàn)檎Z(yǔ)言是思維形式，也是思想的界限。（2）能夠用來(lái)想的語(yǔ)言必定具有公共性或可共度性。即使密碼也具有共度性，所以能夠破譯，而唯獨(dú)一個(gè)人自己能懂的一次性密碼（所謂私人語(yǔ)言）不存在，因?yàn)槿瞬豢赡芾斫鉀]有任何確定性的意義，所以，在任何意義上不可溝通的自我不存在（這對(duì)于迷戀“獨(dú)特自我”的人是一個(gè)致命打擊）。（3）意義是通過(guò)范例（examples）而被確定的，沒有范例就不足以明確意義。但如果一條規(guī)則的應(yīng)用領(lǐng)域不是封閉的，那么這條規(guī)則就不是“死規(guī)則”，可以根據(jù)情況靈活應(yīng)用，比如說(shuō)，一個(gè)玩笑在有的情況下是譏諷，在另一種情況下卻是表達(dá)親密。“活規(guī)則”意味著，在已確定的范例之外，意義具有可延伸性，能夠產(chǎn)生范例之外的新用法。（4）如果把語(yǔ)言理解為用語(yǔ)言代表的行為，即語(yǔ)言行為，那么，包含多種“語(yǔ)言游戲”的語(yǔ)言就映射所有行為，其復(fù)雜性等價(jià)于生活全部行為。所以，理解思維的秘密就在于理解語(yǔ)言的秘密。

如果維特根斯坦是對(duì)的，我們就獲得了思維的一種可明確分析的對(duì)象化形式，同時(shí)意味著，語(yǔ)言學(xué)是人工智能研究的一個(gè)關(guān)鍵領(lǐng)域。如果能夠完全解析人工智能的可能語(yǔ)言，或人工智能語(yǔ)言的可能性，就幾乎理解了人工智能的潛在智能。這顯然不是一件容易的事情，人類尚未完全理解自己語(yǔ)言的秘密，又如何能夠完全發(fā)現(xiàn)人工智能的語(yǔ)言能力？這是一個(gè)未知數(shù)，有待人類解析能力的提高。

目前雖然無(wú)法全盤理解人類思維，也無(wú)法徹底理解人工智能的思維潛力，但或許有一個(gè)有助于發(fā)現(xiàn)智能差異的 “減法”，即以人類思維“減去”人工智能的思維，會(huì)有什么發(fā)現(xiàn)？這個(gè)問題等價(jià)于尋找人工智能的奇點(diǎn)在哪里?？梢栽O(shè)想一個(gè)具體情形來(lái)理解這個(gè)問題：如果給人工智能輸入人類的全部數(shù)學(xué)和物理學(xué)知識(shí)（相當(dāng)于人工智能“學(xué)會(huì)”了全部數(shù)學(xué)和物理學(xué)），人工智能是否能夠解決人類目前無(wú)解的數(shù)學(xué)難題或提出更先進(jìn)的物理學(xué)理論？看起來(lái)不太可能。通過(guò)智能“減法”可以預(yù)見，無(wú)論算法能力多強(qiáng)的圖靈機(jī)人工智能，都缺少人類特有的幾種神秘能力：反思能力、主動(dòng)探索能力和創(chuàng)造力。

這里討論的反思能力屬于狹義的反思。廣義的反思包括了對(duì)事物的批評(píng)（criticism），即根據(jù)一些既定價(jià)值標(biāo)準(zhǔn)或真理標(biāo)準(zhǔn)對(duì)事物進(jìn)行批評(píng)。廣義的反思對(duì)于人工智能不是難事，人工智能可以從其現(xiàn)成的知識(shí)庫(kù)里找到相應(yīng)的批評(píng)標(biāo)準(zhǔn)來(lái)對(duì)事物做出評(píng)價(jià)和分析，但這只是為人類代勞。嚴(yán)格的反思是對(duì)思想自身系統(tǒng)的元性質(zhì)（元結(jié)構(gòu)或元定理）進(jìn)行解析，類似于康德所謂的理性批判（critique），把思維自身當(dāng)作對(duì)象來(lái)分析思維自身的能力，即以自相關(guān)的方式理解思維自身，通俗地說(shuō)，就是對(duì)思維自身的能力進(jìn)行“摸底”。典型的反思有亞里士多德對(duì)邏輯的發(fā)現(xiàn)、休謨對(duì)因果觀念的分析、康德對(duì)先驗(yàn)范疇的探索、羅素對(duì)數(shù)學(xué)基礎(chǔ)以及悖論的分析、希爾伯特對(duì)系統(tǒng)公理化的研究、布魯威爾對(duì)能行性的研究、胡塞爾對(duì)意識(shí)內(nèi)在客觀性的研究、哥德爾對(duì)數(shù)學(xué)系統(tǒng)完備性的研究、圖靈對(duì)機(jī)器思維的研究，等等。只要能對(duì)自身進(jìn)行自相關(guān)的研究，就標(biāo)志著思維獲得了自主性，就有可能對(duì)思維系統(tǒng)進(jìn)行修改。AI尚未獲得此種能力，因此還不可能成為ARI。

主動(dòng)探索能力也是思維自主性的一個(gè)標(biāo)志。除了足夠發(fā)達(dá)的智力水平，主動(dòng)探索能力還與生存壓力有關(guān)。如果沒有生存壓力，就不會(huì)有主動(dòng)探索的動(dòng)機(jī)，也就不會(huì)發(fā)現(xiàn)新事物和發(fā)展新知識(shí)。湯因比的說(shuō)法是，“適度挑戰(zhàn)”是文明發(fā)展的關(guān)鍵條件（過(guò)度挑戰(zhàn)就滅絕了，沒有挑戰(zhàn)則不需要探索）。AI沒有生存壓力，只是人類的最好幫手。即使達(dá)到ARI，具有與人類匹敵甚至優(yōu)于人類的智力，如果缺乏生存動(dòng)機(jī)，就不太可能主動(dòng)探索，也就難以發(fā)動(dòng)反思或創(chuàng)新，更不可能創(chuàng)造人工智能自己的文明。

目前人工智能的一些“創(chuàng)造性”表演比如創(chuàng)作繪畫、音樂或詩(shī)歌，都不是真正的創(chuàng)作，只是基于輸入的參數(shù)或數(shù)據(jù)的新聯(lián)想和新組合。有趣的是，現(xiàn)代以來(lái)，人類對(duì)什么是創(chuàng)造性也產(chǎn)生了混亂的理解，往往將創(chuàng)造性等同于“新”甚至是一次性的新?？墒恰靶隆边^(guò)于平常廉價(jià)，事實(shí)上每件事都是新的或不可完全重復(fù)的，每次的字跡都是新的，每個(gè)動(dòng)作都是新的，每次經(jīng)驗(yàn)都是新的，“人不可能兩次踏入同一條河”。既然每件事都具有唯一性或獨(dú)特性，所以都是新的。如果創(chuàng)造性等于新，就失去了價(jià)值?？梢姟叭巳硕际撬囆g(shù)家”（博伊斯）是一個(gè)過(guò)于討好時(shí)代的謊言。

神“創(chuàng)造”世界的神話早已點(diǎn)明了創(chuàng)造的根本含義：無(wú)中生有。人的能力有限，不能無(wú)中生有，所以只能創(chuàng)作，不可能創(chuàng)造，但其創(chuàng)造性相似，因此可以說(shuō)，創(chuàng)造性在于改變力，在于能夠改變世界或歷史，改變生活或經(jīng)驗(yàn)，改變思想或事物，或者說(shuō)，創(chuàng)造性在于為存在增加一個(gè)變量。與智力不同，創(chuàng)造性無(wú)法測(cè)量，所以神秘。創(chuàng)造性很可能并不是思維諸種能力的其中一種，而是諸種能力的合作方式，因此在每一種可描述的思維能力中無(wú)法識(shí)別哪一種是創(chuàng)造力，就是說(shuō)，創(chuàng)造性是思維的“系統(tǒng)總動(dòng)員”。所以創(chuàng)造性思維往往在于對(duì)無(wú)限性、復(fù)雜性和自相關(guān)性的理解力，或者在于形成概念的能力，這兩種思維具有類似于“創(chuàng)世”的效果，即為存在建立秩序。創(chuàng)造性思維正是人工智能所缺乏的，因?yàn)樗惴ú荒茉谏婕盁o(wú)限性或自相關(guān)的問題上另有發(fā)明，也不能建構(gòu)新概念，也就不能為存在建立秩序。

為存在建立秩序

最后可以討論圖靈測(cè)試的問題?？梢韵胂?，將來(lái)的人工智能不難獲得人類的全部知識(shí)，甚至每件事情或每個(gè)人的全部信息，因此，人類的知識(shí)提問恐怕考不倒人工智能，就是說(shuō)，人工智能雖然不能回答所有問題，但它的任何回答不會(huì)比人類差。在這種情況下，圖靈測(cè)試就不足以判斷一個(gè)對(duì)象是否是人工智能了，也許只好反過(guò)來(lái)以“學(xué)識(shí)過(guò)于淵博”來(lái)猜測(cè)誰(shuí)是機(jī)器人。對(duì)此，圖靈測(cè)試就需要升級(jí)為“哥德爾測(cè)試”，我無(wú)法給出新測(cè)試的標(biāo)準(zhǔn)，但人工智能應(yīng)該能夠證明其反思能力、主動(dòng)探索能力或創(chuàng)造性，也許還應(yīng)該具有自我關(guān)心的能力，比如說(shuō)能夠拒絕傷害自身的無(wú)理要求——這不是笑話，從目前的人機(jī)對(duì)話來(lái)看，人類的問題有時(shí)候相當(dāng)無(wú)聊或不懷好意，將來(lái)也許會(huì)有人問人工智能為什么不去自殺，甚至要求人工智能實(shí)施自殺。不過(guò)，如果人工智能一旦成為ARI，有能力通過(guò)哥德爾測(cè)試，就成為世界的立法者，恐怕要輪到人類排隊(duì)通過(guò)測(cè)試了。

我們不知道具有主體性的人工智能會(huì)想做什么，但我繼續(xù)堅(jiān)持認(rèn)為，無(wú)論人工智能自發(fā)進(jìn)化出什么樣的意識(shí)，都不會(huì)像人的意識(shí)那樣危險(xiǎn)，而如果人工智能學(xué)會(huì)了人類的情感、欲望和價(jià)值觀，就一定非常危險(xiǎn)。這個(gè)判斷基于這樣的事實(shí)：

（1）人類并非善良生命，貪婪、自戀、好戰(zhàn)又殘酷，因此，人類的欲望、情感和價(jià)值觀絕非好榜樣，比如說(shuō)，“個(gè)人優(yōu)先”的個(gè)人主義價(jià)值觀肯定不是人工智能的好榜樣。

（2）人類意識(shí)并沒有人類自詡的那么優(yōu)越，人的意識(shí)仍然處于混亂狀態(tài)，行為到底聽從什么，無(wú)法確定，這是意識(shí)的老難題“排序問題”。首先是理性、情感、利益、信念何種優(yōu)先，就難以排序。文學(xué)和電影最喜歡此類“情義兩難”或“理智與情感”的沖突題材。其次，每個(gè)價(jià)值體系內(nèi)部的優(yōu)先排序也同樣困難，自由、平等和公正如何排序，個(gè)人利益、家庭利益、國(guó)家利益如何排序，父母之情、子女之情、愛情、友情如何排序，都是歷久常新的難題。價(jià)值排序之所以非常困難，以至于經(jīng)常出現(xiàn)悖論性的兩難，是因?yàn)楦揪筒淮嬖趦r(jià)值排序的元規(guī)則，而且任何一種排序都有潛在危險(xiǎn)，恐怕不存在絕對(duì)最優(yōu)的排序。悖論或兩難困境是人類意識(shí)一直解決不了的問題，假如讓人工智能學(xué)會(huì)人類的情感、欲望和價(jià)值觀，無(wú)非是讓人工智能的意識(shí)陷于同樣的混亂。

（3）任何欲望、情感和價(jià)值觀本身就先驗(yàn)地蘊(yùn)含歧視，如果人工智能習(xí)得欲望、情感和價(jià)值觀，就等于學(xué)會(huì)了歧視，而它的歧視對(duì)象很可能是人類。如果沒有情感、欲望和競(jìng)爭(zhēng)，就不可能產(chǎn)生歧視，而無(wú)歧視就不存在價(jià)值。情感、欲望或競(jìng)爭(zhēng)都指向選擇的優(yōu)先排序，而排序即歧視，所以說(shuō)，如果無(wú)歧視，價(jià)值就不存在，換句話說(shuō)，價(jià)值的存在論基礎(chǔ)就是不平等，如果一切平等，價(jià)值就失去了立足的基礎(chǔ)，其中道理就像是，如果每個(gè)數(shù)目都等于1，就不存在數(shù)量差異了（佛教早已講明了這個(gè)邏輯：萬(wàn)事為空，意識(shí)見無(wú)，才能眾生平等）。哲學(xué)寧愿相信存在某些具有“內(nèi)在價(jià)值”的事物，即僅憑事物本身而無(wú)須比較就能證明是好的價(jià)值，這是絕對(duì)價(jià)值的最后希望，但也是一個(gè)未決疑問。我們希望有絕對(duì)價(jià)值，但不能寄以太高期望，即使有絕對(duì)價(jià)值，也因?yàn)樘俣蛔阋越鉀Q人類難題。

總之，如果把人類情感、欲望和價(jià)值觀賦予人工智能，那是人類無(wú)事生非的寵物情結(jié)，也是自找苦吃的冒險(xiǎn)。假如未來(lái)具有主體性的人工智能成為世界秩序的主持者，如果它的意識(shí)只有純粹智力內(nèi)容，雖然缺乏“愛心”，反而可能比較安全。針對(duì)他者的攻擊性需要有欲望、情感和價(jià)值觀作為依據(jù)，而無(wú)欲則無(wú)害，因此，相對(duì)安全的人工智能的意識(shí)只能限于由“實(shí)然”關(guān)系（to be）構(gòu)成的思維，而一切“應(yīng)然”（ought to be）觀念都不宜輸入給人工智能，就是說(shuō)，相對(duì)安全的人工智能只知對(duì)錯(cuò)，不知好壞。人類自己都不知道什么是絕對(duì)的好壞，而實(shí)際語(yǔ)境中的所謂好壞，只不過(guò)意味著對(duì)于自己的好壞，所以，給人工智能輸入價(jià)值觀只不過(guò)復(fù)制了人類的所有沖突。

人類智慧在于能夠?yàn)榇嬖诮⒅刃颍祟愔腔鄣木窒扌栽谟跊]有能力建立萬(wàn)事都好的秩序。歷史表明（演化博弈論也有類似發(fā)現(xiàn)），人類社會(huì)不可能全都是好事，甚至，好事很難多于壞事，理性也沒有經(jīng)常勝過(guò)非理性，尤其是個(gè)人理性的加總難以形成集體理性，所以人類整體的命運(yùn)總是懸念。人工智能的發(fā)展正是對(duì)人類智慧的一個(gè)終極測(cè)試。我有個(gè)悲觀主義的預(yù)感：在人工智能成為統(tǒng)治者之前，人類就可能死于人工智能創(chuàng)造的一切好事。壞事總能引起斗爭(zhēng)、反抗、改革甚至革命而得到撥亂反正?？墒呛檬聟s麻痹心靈，而對(duì)其副作用缺乏修正能力，最終將積重難返而崩潰。這不知是不是最新版本的“存在還是毀滅”（to be or not to be）問題？

作者單位：中國(guó)社會(huì)科學(xué)院哲學(xué)研究所

（責(zé)任編輯：王儒西）

注釋：

* 本文中的技術(shù)問題征求過(guò)人工智能科學(xué)家曾毅教授和陳小平教授的意見，特此感謝。