于 海

（復(fù)旦大學(xué) 社會(huì)發(fā)展與公共政策學(xué)院，上海 200433）

人機(jī)互動(dòng)：人長(zhǎng)成超人，還是淪為廢人？

人機(jī)互動(dòng)并非新概念。70 年前，當(dāng)諾伯特·維納撰寫(xiě)《人有人的用處》時(shí)，“他正處于將機(jī)器和動(dòng)物簡(jiǎn)單地理解為物理過(guò)程的時(shí)代的末尾，以及將機(jī)器和動(dòng)物理解為計(jì)算過(guò)程的我們當(dāng)下這一代的開(kāi)端”［1］78。創(chuàng)立控制論的維納認(rèn)識(shí)到，人對(duì)機(jī)器發(fā)指令，跟人對(duì)人發(fā)指令本質(zhì)上并無(wú)區(qū)別。在這個(gè)剛剛開(kāi)始的通信時(shí)代，理解通信及其過(guò)程才能理解社會(huì)，因此，“人與機(jī)器之間、機(jī)器與人之間以及機(jī)器與機(jī)器之間的消息，勢(shì)必要在社會(huì)中占據(jù)日益重要的地位”［2］2。維納時(shí)代的人機(jī)對(duì)話采用的是工程語(yǔ)言，而非GPT上人機(jī)對(duì)話的自然語(yǔ)言，人機(jī)對(duì)話對(duì)維納而言更多的是一種比喻。此外，控制論關(guān)心的是在通信中與信息的組織性降低及含義受損的自然趨勢(shì)作斗爭(zhēng)，即跟吉布斯所講的增熵趨勢(shì)作斗爭(zhēng)，并非今日生成式語(yǔ)言模型的人機(jī)開(kāi)放性互動(dòng)。在維納的人機(jī)系統(tǒng)中，機(jī)器結(jié)構(gòu)只是對(duì)人類生理結(jié)構(gòu)的復(fù)制，因此，機(jī)器智能只是人類智能的復(fù)制。他不擔(dān)心機(jī)器智能是否會(huì)超越人類，而是關(guān)心機(jī)器系統(tǒng)的價(jià)值觀如何與人類保持一致?！爱?dāng)個(gè)體人被用作基本成員來(lái)編織成一個(gè)社會(huì)時(shí)，如果他們不能恰如其分地作為負(fù)著責(zé)任的人，而只是作為齒輪、杠桿和連桿的話，那即使他們的原料是血是肉，實(shí)際上和金屬并無(wú)什么區(qū)別?！保?］166他先知般地告誡人類不能淪為機(jī)器的一個(gè)元件。人機(jī)對(duì)話的關(guān)鍵是：“除非我們問(wèn)題提得正確，我們絕不會(huì)得到正確的答案的?！保?］166

GPT的人機(jī)互動(dòng)發(fā)生在兩個(gè)維度。其一是工程師和機(jī)器的互動(dòng)，基于人工神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)和大語(yǔ)言模型訓(xùn)練，是機(jī)器所謂自主學(xué)習(xí)和自主成長(zhǎng)的機(jī)制。強(qiáng)化學(xué)習(xí)甚至沒(méi)有預(yù)先輸入數(shù)據(jù)，機(jī)器仍能通過(guò)學(xué)習(xí)知道哪些變量是重要的，以及如何對(duì)它們進(jìn)行加權(quán)以達(dá)到人類設(shè)定的目標(biāo)。但無(wú)論是大數(shù)據(jù)投喂還是強(qiáng)化學(xué)習(xí)，都是人類與機(jī)器基于規(guī)訓(xùn)①“規(guī)訓(xùn)”是福柯提出的概念，原指掌握話語(yǔ)權(quán)的人對(duì)人的預(yù)先訓(xùn)練，這里轉(zhuǎn)用的目的在于使機(jī)器有用并馴服。的互動(dòng)，源自維納的價(jià)值對(duì)齊要求更是強(qiáng)迫機(jī)器價(jià)值與人類價(jià)值一致。其二是用戶與機(jī)器的互動(dòng)，以自然語(yǔ)言對(duì)話展開(kāi)的人機(jī)互動(dòng)，既是機(jī)器向各色人等學(xué)習(xí)的過(guò)程，也是人類向幾乎全知機(jī)器學(xué)習(xí)的過(guò)程。

人機(jī)互動(dòng)引出的主體性的第一個(gè)問(wèn)題，關(guān)乎人是成為尼采式的超人，還是赫拉利在《未來(lái)簡(jiǎn)史》中所預(yù)言的廢人。

GPT超強(qiáng)的能力，是疊加數(shù)據(jù)、算法和算力的結(jié)果。喬姆斯基雖對(duì)GPT批評(píng)多多，但也肯定其成功的機(jī)制在于通過(guò)獲取大量數(shù)據(jù)，在其中搜索規(guī)律，能越來(lái)越熟練地生成統(tǒng)計(jì)上可能的輸出——比如看似人性化的語(yǔ)言和思想。這些程序可被譽(yù)為通用人工智能地平線上的第一縷曙光。［3］有人戲言，利用GPT，聰明的人會(huì)變杰出。GPT將昂貴的知識(shí)真正平民化，不再需要頭懸梁錐刺股，人對(duì)自己及環(huán)境都能夠獲得最充分的信息，并知道最好的行動(dòng)方案，真正實(shí)現(xiàn)“認(rèn)識(shí)你自己”，從而不必等到70歲才“隨心所欲而不逾矩”。如此，人類是否真正進(jìn)入了人人都是英雄豪杰的時(shí)代？

然而，得力于AI 而“認(rèn)識(shí)你自己”，更可能是AI 比你更了解你自己。由人類作者寫(xiě)的臉譜網(wǎng)算法研究給出的預(yù)測(cè)是，人類若遇重大人生抉擇，如要選擇從事何種活動(dòng)或選擇職業(yè)道路甚至交往對(duì)象，可以考慮放下自己心理上的判斷，依賴計(jì)算機(jī)所做的選擇，“這種數(shù)據(jù)導(dǎo)向的選擇，有可能會(huì)讓人類生活得更好”［4］306。GPT-4 在各種專業(yè)和學(xué)術(shù)考試上已然表現(xiàn)出明顯超越人類水平的能力，例如，在模擬律師考試中，分?jǐn)?shù)排在應(yīng)試者的前10%左右。而AI 診斷系統(tǒng)所了解的病例和治療方案遠(yuǎn)超多數(shù)醫(yī)生。面對(duì)不斷迭代而表現(xiàn)更強(qiáng)的AI，人們惶恐它將橫掃多少工作崗位。赫拉利說(shuō)人工智能將終結(jié)個(gè)人主義，因?yàn)槎鄶?shù)人變得無(wú)用而成廢人。［4］294

答案或許不是在超人或廢人之間二選一，而是赫拉利說(shuō)的少數(shù)掌控算法的人“神機(jī)妙算”，從智人成為智神，而多數(shù)人因高度依賴系統(tǒng)而淪為多余的人。近代科學(xué)和哲學(xué)的發(fā)明，曾讓人類經(jīng)歷過(guò)四重自戀創(chuàng)傷：哥白尼日心說(shuō)，令人類居住的地球從中心滾到一邊，此系人類在宇宙中位置的一次失落；達(dá)爾文進(jìn)化論，把阿米巴和靈長(zhǎng)類連成一線，此系人類在生靈世界的一次下凡；馬克思的歷史唯物論，恢復(fù)物質(zhì)（生產(chǎn)）對(duì)于精神的本體地位，此系人類在社會(huì)世界的一種還俗；弗洛伊德的精神分析說(shuō)，把人之初級(jí)本能定義為人之高級(jí)行為的原始動(dòng)力，可視為人類在心理世界的一種認(rèn)祖。人工智能在各項(xiàng)人類事務(wù)上比肩人類甚至超越人類的強(qiáng)悍表現(xiàn)，是否構(gòu)成21 世紀(jì)人類正在遭遇并將繼續(xù)承受的新一重自戀創(chuàng)傷？馬斯克曾表示，人類恐怕只是數(shù)字超級(jí)智能的一段非常小的生物引導(dǎo)程序。他擔(dān)心的不是人類多數(shù)或成為廢人，而是人類全體的生死存亡。

人機(jī)互動(dòng)：機(jī)器只是機(jī)器，抑或成為主體？

人機(jī)互動(dòng)引出的主體性的第二個(gè)問(wèn)題是：機(jī)器是否為一主體，或只是一工具？目前的智能機(jī)器雖表現(xiàn)出讓人驚艷的能力，但還不具有自我意義上的主體性，但我們?nèi)钥捎谩爸黧w性”概念來(lái)理解AI 最新一波的躍進(jìn)。上文關(guān)于人機(jī)對(duì)話的專家/機(jī)器維度和用戶/機(jī)器維度的說(shuō)明，已經(jīng)透露出機(jī)器的擬主體性，即它雖還沒(méi)有本體論意義的主體性，但有互動(dòng)論意義的主體性。機(jī)器本身不直接顯露自主性，但一方面，在互動(dòng)過(guò)程中，機(jī)器會(huì)影響進(jìn)而誘導(dǎo)使用者在一些事務(wù)上的認(rèn)知方向，形成慣性，甚至在使用者興起違背道德或邪惡意念時(shí)，幫助設(shè)計(jì)一個(gè)完美的實(shí)踐路徑，達(dá)成“犯罪者”所期待的“黑暗榮耀”。［5］另一方面，被人類價(jià)值調(diào)教過(guò)的AI，或也會(huì)在使用者不端心思剛剛露頭時(shí)，便中斷對(duì)話，拒絕協(xié)助用戶策劃惡意方案。此時(shí)的機(jī)器表現(xiàn)了某種人際互動(dòng)中才有的道德主體性。

GPT表現(xiàn)的這種擬主體性，是傳統(tǒng)人機(jī)對(duì)話從未有的，進(jìn)而也引出人際對(duì)話一樣的人機(jī)對(duì)話，在某種意義上會(huì)被當(dāng)真視為人際對(duì)話的問(wèn)題。

從哲學(xué)人類學(xué)上看，當(dāng)下AI 邁不過(guò)兩個(gè)坎：主體的感受質(zhì)和主體的創(chuàng)造性。AI 在人機(jī)對(duì)話中表現(xiàn)的主體性還只是擬主體性，即并非本體論意義上的主體性，而是互動(dòng)論和功能論意義上的主體性。

迄今，世界上只有人類一個(gè)主體，這雖然是人類的自我加冕，但事實(shí)上的確沒(méi)有第二個(gè)物種有資格和能力與人類爭(zhēng)冠。社會(huì)學(xué)的主體間性（intersubjectivity）概念只用于人類關(guān)系，而不會(huì)用于人和其他動(dòng)物或非生物之間的關(guān)系，在人類主體看來(lái)，它們都只是客體。

主體性的一個(gè)主要特質(zhì)是主體的感受質(zhì)。感覺(jué)、感情都是主體感受質(zhì)的主要表現(xiàn)。以顏色為例，宇宙是無(wú)色的，顏色是主體的主觀感受。物理學(xué)能告訴我們，顏色是電磁波在神經(jīng)纖維鍵盤(pán)上演奏的結(jié)果，卻不能解釋我們當(dāng)下的色彩感是怎么回事。“感時(shí)花濺淚，恨別鳥(niǎo)驚心”，離愁是文人書(shū)寫(xiě)得最多的人類感受。持還原論立場(chǎng)的神經(jīng)科學(xué)家總想把人的一切主觀感受全都還原為神經(jīng)元的物理化學(xué)活動(dòng)。對(duì)一次長(zhǎng)久的、令人心碎的分離，他或能觀察到來(lái)自大腦的傳出脈沖電流，通過(guò)運(yùn)動(dòng)神經(jīng)纖維，傳導(dǎo)至手臂的某些肌肉（對(duì)應(yīng)手臂不情愿地顫抖著告別）；脈沖電流還會(huì)引起某種淚腺封閉，蒙上悲傷的雙眼。但正如物理學(xué)家薛定諤所斷言的：“無(wú)論生理學(xué)發(fā)展到多么先進(jìn)的水平，在這條從眼睛通過(guò)中樞神經(jīng)傳至臂膀肌肉和淚腺的路上，在任何地方你都看不到性格特征，看不到可怕的傷痛，看不到心中的擔(dān)憂，雖然它們的存在你是如此肯定，仿佛是你的親身體驗(yàn)，而事實(shí)上你也確實(shí)體會(huì)到它們?！保?］在用碳基細(xì)胞組成的神經(jīng)網(wǎng)絡(luò)上都讀不出主體的感受，我們還能指望在用硅基材料組成的人工神經(jīng)網(wǎng)絡(luò)上讀出感受嗎？簡(jiǎn)言之，AI 仍沒(méi)心沒(méi)肺。因此，戰(zhàn)勝卡斯帕羅夫的“深藍(lán)”并不快樂(lè)，而柯潔卻難以排遣被阿爾法狗碾壓的郁悶。

創(chuàng)造性是被人類特別珍視的主體性特質(zhì)，尤其是表現(xiàn)在科學(xué)和藝術(shù)上的創(chuàng)造性。智能機(jī)器在藝術(shù)上的成就，特別喚醒了人的主體性危機(jī)意識(shí)。

在音樂(lè)家大衛(wèi)·科普（David Cope）用他編寫(xiě)的“音樂(lè)智能實(shí)驗(yàn)”程序EMI 創(chuàng)作了讓發(fā)燒友和專家都真假難辨的肖邦和巴赫風(fēng)格的樂(lè)曲之后，《哥德?tīng)?、艾舍爾、巴赫》一?shū)的作者，著名的認(rèn)知科學(xué)家侯世達(dá)說(shuō)自己被嚇壞了。在侯世達(dá)的學(xué)生米歇爾看來(lái)：“他不是擔(dān)心人工智能變得太聰明、太有侵略性、太難以控制，甚至太有用。相反，他擔(dān)心的是：智能、創(chuàng)造力、情感，甚至意識(shí)本身都太容易產(chǎn)生了，這些他最為珍視的人性特征和人類精神，結(jié)果只不過(guò)是‘一套把戲’，一套膚淺的暴力算法就可以將其破解。”［7］10侯世達(dá)承認(rèn)：“如果這種無(wú)限微妙、復(fù)雜且情感深厚的思想會(huì)被一塊小小的芯片所簡(jiǎn)化，這會(huì)摧毀我對(duì)人性的理解。”［7］311

但研究者指出，無(wú)論是“深藍(lán)”，還是EMI，都還不具有讓侯世達(dá)感到威脅的人類特有的創(chuàng)造性。2009 年諾貝爾化學(xué)獎(jiǎng)獲得者拉馬克里希南說(shuō)，打敗卡斯帕羅夫的不是“深藍(lán)”，它只是一架笨重的機(jī)器，“深藍(lán)的勝利是幾百名程序員戰(zhàn)勝卡斯帕羅夫一個(gè)人的勝利”［1］225。米歇爾認(rèn)為，EMI 并不真正理解其所生成的音樂(lè)作品，無(wú)論是音樂(lè)概念，還是情感表達(dá)。因此，EMI 也無(wú)法判斷自己作品的質(zhì)量，這是音樂(lè)家科普的工作。藝術(shù)是人類引以為傲的作品，因?yàn)樗梢哉f(shuō)最能區(qū)別人類與其他生物之間的不同。米歇爾補(bǔ)充道：“讓我們感到自豪的不僅是我們可以創(chuàng)造藝術(shù)，還有我們對(duì)藝術(shù)賞析的能力、對(duì)其感人之處的理解以及對(duì)作品傳遞的信息的體會(huì)。這種賞析和理解的能力對(duì)觀眾和藝術(shù)家來(lái)說(shuō)都是必不可少的，沒(méi)有這些，我們就不能說(shuō)一個(gè)生物是有創(chuàng)造力的。”［7］307-308

以上主體性的感受質(zhì)、創(chuàng)造性和理解力等的定義，當(dāng)然都是基于人類立場(chǎng)的觀念。問(wèn)題是，如果人工智能并非人類智能的直接抄寫(xiě)，那么，AI 的理解及其創(chuàng)造性也不必復(fù)制人類的理解和創(chuàng)造性。人類的理解是概念驅(qū)動(dòng)，通過(guò)經(jīng)驗(yàn)建立因果推斷，使用極簡(jiǎn)的模式和極少的數(shù)據(jù)，加上自由聯(lián)想和直覺(jué)。今天的生成式人工智能，幾乎沒(méi)有一樣對(duì)得上。沒(méi)有概念驅(qū)動(dòng)，沒(méi)有因果聯(lián)系，甚至沒(méi)有正式的編程，更沒(méi)有實(shí)在世界的經(jīng)驗(yàn)，只是借助海量的數(shù)據(jù)和強(qiáng)大的算力，通過(guò)復(fù)雜的統(tǒng)計(jì)相關(guān)性計(jì)算就能夠獲得近乎完美的模型表現(xiàn)。專家們對(duì)大型語(yǔ)言模型（LLMs）智能是否類人智能的分歧表明，我們基于自然智能的傳統(tǒng)觀念是不夠充分的。如果LLMs 和其他模型成功地利用了強(qiáng)大的統(tǒng)計(jì)相關(guān)性，我們或可認(rèn)為它繞開(kāi)了人類的理解模式，難道不也可以被視為一種新興的“理解”能力？一種能夠?qū)崿F(xiàn)非凡的、超人的預(yù)測(cè)能力?！氨热鏒eepMind 的AlphaZero 和AlphaFold 模型系統(tǒng) ，它們似乎分別為國(guó)際象棋和蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)領(lǐng)域帶來(lái)了一種來(lái)自‘外星人’的直覺(jué)形式?！保?］人類對(duì)自己大腦的工作原理并不清楚，人類專家對(duì)最新AI 的工作原理一樣不甚清楚。如果說(shuō)程序員明確理解傳統(tǒng)編程輸入如何以及為何與輸出相關(guān)，那么，大型AI 系統(tǒng)就相當(dāng)不同。AI 專家說(shuō)：“我們并沒(méi)有真正編寫(xiě)它們的程序——我們是培育它們，而隨著它們成長(zhǎng)，它們的能力會(huì)急劇躍升。你添加10 倍的算力或數(shù)據(jù)，突然間系統(tǒng)的行為就大不相同了。近期的一個(gè)例子是，隨著OpenAI 從GPT-3.5 擴(kuò)展到GPT-4，這個(gè)系統(tǒng)在律師資格考試中取得的成績(jī)排名從最末10%提高至頭10%?！保?］這種隨系統(tǒng)數(shù)據(jù)和模型參數(shù)增加而來(lái)的能力“涌現(xiàn)”，豈非大型AI 系統(tǒng)的“創(chuàng)新”？雖然機(jī)器并無(wú)創(chuàng)新意識(shí)和自覺(jué)。AI 在特定任務(wù)方面趕上甚至超過(guò)人類的表現(xiàn)，讓多數(shù)人工智能專家不再懷疑它已具有“創(chuàng)造性”?？聺嵳f(shuō)打敗他的AlphaGo 下出了人類棋手從未下過(guò)的步子，他見(jiàn)證了機(jī)器從“像人類一樣下棋”到“像棋神一樣下棋”的自我進(jìn)化。

人機(jī)互動(dòng)如何被人視為“人際”互動(dòng)？

如今，人工智能既強(qiáng)悍又人性化的表現(xiàn)，讓普通人很難僅僅視其為一個(gè)工具。從GPT上抄作業(yè)、抄論文的學(xué)生，是把它當(dāng)成授業(yè)之師還是學(xué)霸同學(xué)？當(dāng)不少程序AI 都能寫(xiě)得又快又好時(shí)，程序員是得意于獲得一個(gè)得心應(yīng)手的助手，還是擔(dān)心面臨一個(gè)將淘汰他的對(duì)手？看了一圈醫(yī)生，問(wèn)題仍沒(méi)有得到解決的病患，最后通過(guò)與AI 的互動(dòng)而獲得正確診斷，這類互動(dòng)豈非用戶與醫(yī)術(shù)更高明的專家的互動(dòng)？如果一個(gè)畫(huà)師給GPT打下手，給AI 作品修圖，那么，畫(huà)師是主體，還是AI 是主體？主客體在這里是否已顛倒？雖然修圖要求的技術(shù)或許更高，但在人機(jī)關(guān)系上，畫(huà)師多少失去了重要性。

GPT的英文是“generative pre-trained transformer”，意為生成式的預(yù)訓(xùn)練轉(zhuǎn)換器。機(jī)器的學(xué)習(xí)是在人類和機(jī)器老師的訓(xùn)練監(jiān)督下進(jìn)行的。工程師告訴我們，訓(xùn)練機(jī)器如同訓(xùn)練青少年一樣困難和緩慢。［1］24這意味著，越來(lái)越人性化的計(jì)算機(jī)系統(tǒng)實(shí)際上也是一個(gè)類社會(huì)化的產(chǎn)物。問(wèn)題是，誰(shuí)不是GPT？社會(huì)化就是父母、老師、朋友、同事、上級(jí)、機(jī)構(gòu)等，對(duì)人做預(yù)先訓(xùn)練，讓受訓(xùn)者逐步掌握一套說(shuō)話的模式、做事的模式、價(jià)值和規(guī)范的模式，然后可在不同場(chǎng)景舉一反三生成恰當(dāng)?shù)脑捳Z(yǔ)和行為。但人的預(yù)訓(xùn)練深受種種限制，如家庭、階層、出生地、工作機(jī)構(gòu)、人種等，跟大語(yǔ)言模型訓(xùn)練出來(lái)的GPT-3、GPT-4 及未來(lái)的GPT-n，在數(shù)量上不可比擬。當(dāng)我們說(shuō)GPT是人對(duì)機(jī)器的類社會(huì)化過(guò)程，這是人機(jī)關(guān)系具有人際關(guān)系的底層邏輯。但機(jī)器終究將無(wú)所不知、無(wú)所不能，成為通用人工智能甚或超級(jí)智能，那時(shí)恐怕會(huì)有一個(gè)反向的社會(huì)化，即人被GPT社會(huì)化，或曰人被AI 化，這或是可以預(yù)測(cè)和想象的前景。這是另一種互文性，另一種互動(dòng)性，或人機(jī)的交互社會(huì)化。我擔(dān)心的不是發(fā)明、改進(jìn)和掌握AI 的技術(shù)精英，而是蕓蕓眾生，或常人主體。AI 醫(yī)療系統(tǒng)已經(jīng)強(qiáng)過(guò)多數(shù)醫(yī)生，不被AI 取代的醫(yī)生必將更多地向AI 請(qǐng)教而非相反。AI 戀人，若被發(fā)明并合法化，其施愛(ài)的本領(lǐng)和善于與人相處的性情，多半優(yōu)于毛病多多的人類戀人。常人會(huì)被各種績(jī)優(yōu)表現(xiàn)的AI 降伏，這樣演化出的“人際”關(guān)系勢(shì)必侵蝕人的主體性。

至于工程師們，當(dāng)他們決心要讓機(jī)器用人的自然語(yǔ)言跟人類對(duì)話時(shí)，想到的何止是語(yǔ)言？還有思維、邏輯、價(jià)值等，都要像“人”一樣，他們也的確是把機(jī)器當(dāng)作匹配人的主體來(lái)訓(xùn)練。從人機(jī)對(duì)話到人際對(duì)話或不成問(wèn)題。但當(dāng)機(jī)器日益強(qiáng)大且勢(shì)不可當(dāng)，真正嚴(yán)重的問(wèn)題，已經(jīng)不再是人類主體是否還能匹配機(jī)器主體，而是人類主體是否還能控制機(jī)器，不致被機(jī)器降維（成為AI 的客體），或被機(jī)器所滅。

年度《AI 現(xiàn)狀》報(bào)告的作者之一伊恩·霍格思認(rèn)為，三個(gè)字母的首字母縮略詞不能體現(xiàn)AGI（通用人工智能）將產(chǎn)生的巨大影響，因此他實(shí)事求是地稱其為“上帝般的AI”。他認(rèn)為，這可能是一種人們無(wú)法控制或理解的力量，可能導(dǎo)致人類被淘汰或毀滅。［9］

“上帝般的AI”的風(fēng)險(xiǎn)其實(shí)從一開(kāi)始就被AI 公司的創(chuàng)始人所了解。DeepMind 首席科學(xué)家沙恩·萊格早在2011 年就將AI 對(duì)人類生存構(gòu)成的威脅描述為21 世紀(jì)的頭號(hào)風(fēng)險(xiǎn)，人為設(shè)計(jì)的生物病原體緊隨其后排在第二位。OpenAI 的奧爾特曼也曾坦率地說(shuō)：“最糟糕的情形是——我認(rèn)為說(shuō)出這一點(diǎn)很重要——我們所有人迎來(lái)末日?！?/p>

AI 可能導(dǎo)致人類末日的一個(gè)例子，是加州大學(xué)伯克利分校計(jì)算機(jī)教授斯圖爾特·拉塞爾在2021年的BBC 廣播講座中提出的。設(shè)想聯(lián)合國(guó)請(qǐng)一個(gè)通用人工智能幫助去除海洋酸化。聯(lián)合國(guó)深知目標(biāo)設(shè)定不當(dāng)?shù)娘L(fēng)險(xiǎn)，因此要求副產(chǎn)品無(wú)毒且不會(huì)傷害魚(yú)類。作為回應(yīng)，AI 系統(tǒng)提出了一種實(shí)現(xiàn)所有設(shè)定目標(biāo)的自我增殖的催化劑。但隨后發(fā)生的化學(xué)反應(yīng)將會(huì)消耗大氣中四分之一的氧氣。“我們都會(huì)緩慢而痛苦地死去。”拉塞爾總結(jié)道，“如果我們將錯(cuò)誤的目標(biāo)輸入一臺(tái)超級(jí)智能機(jī)器，就會(huì)造成一場(chǎng)我們注定會(huì)淪為輸家的沖突?！保?］

人機(jī)互動(dòng)的末世前景，還有并不如此悲切的議論，我們可將之歸為人機(jī)互動(dòng)的降維論，即人類將以達(dá)爾文主義的達(dá)觀，看著硅基生命以我們碳基生命為踏腳石而升維為地球的第一甚至唯一主體。讓我們來(lái)聽(tīng)聽(tīng)60 年前硬核科幻作家阿瑟·克拉克的預(yù)言：

未來(lái)世界最聰明的居民不會(huì)是人和猴子，而將是機(jī)器及今天的計(jì)算機(jī)的遙遠(yuǎn)后代?，F(xiàn)在的電子大腦完全是白癡，但將來(lái)就不會(huì)這樣了。它們會(huì)開(kāi)始思考，最終它們會(huì)完全超越它們的創(chuàng)造者。這令人沮喪嗎？我不覺(jué)得我們應(yīng)該這么想。我們?nèi)〈似渌湃撕湍岚驳绿厝?，我們認(rèn)為這是一種進(jìn)步。我們認(rèn)為，我們應(yīng)該把這看作一種榮耀，可以成為高級(jí)生命的墊腳石。我懷疑有機(jī)或生物進(jìn)化已經(jīng)走到了盡頭，我們正處于無(wú)機(jī)或機(jī)械進(jìn)化的開(kāi)端，而它的速度將比之前的進(jìn)化速度快幾千倍。［10］

火雞不會(huì)投票支持感恩節(jié)。人們多數(shù)也不會(huì)像克拉克那樣，大方地接受被機(jī)器替代的結(jié)局。無(wú)論是被淘汰還是被降維，都是人類主體性的末世。所以，有樂(lè)觀的專家設(shè)想智能技術(shù)將今日之“碼農(nóng)”解放出來(lái)，使其變成明日之“智農(nóng)”，成為“人機(jī)結(jié)合，知行合一，虛實(shí)一體”的“合一體”智慧員工。［7］XXVII這個(gè)設(shè)想是不是過(guò)于理想？

合理的前景，還是發(fā)明人機(jī)通信的維納提出的：人有人的用處，機(jī)器有機(jī)器的用處。也就是說(shuō)，人和機(jī)器互動(dòng)足矣！一定要走向“人際”互動(dòng)，危矣！