任劍濤

關(guān)鍵詞 ＣｈａｔＧＰＴ 逃逸 人機(jī)關(guān)系 順置 倒置

〔中圖分類號(hào)〕ＴＰ１８ 〔文獻(xiàn)標(biāo)識(shí)碼〕Ａ 〔文章編號(hào)〕０４４７－６６２Ｘ（２０２３）０５－００３９－１３

在技術(shù)大革命的處境中，人機(jī)關(guān)系是一個(gè)需要重新思考的問題。其中，人工智能技術(shù)的疾速發(fā)展，促使人們思考一個(gè)嚴(yán)峻問題：人機(jī)關(guān)系會(huì)倒置嗎？在漫長(zhǎng)的技術(shù)發(fā)展史上，人類自信能夠控制機(jī)器：機(jī)器是人延長(zhǎng)自己能力的手段，是人所利用的工具。人工智能技術(shù)似乎正在改寫人對(duì)機(jī)器的絕對(duì)控制權(quán)，而且讓人們擔(dān)憂，會(huì)不會(huì)出現(xiàn)機(jī)器控制人的可怕局面。這一處境，催促我們反思工具化的技術(shù)觀是否妥當(dāng)，人機(jī)關(guān)系是否必須重構(gòu)，結(jié)合遺傳工程革命，向死而生的人類可能會(huì)突破生死界限。那么，會(huì)出現(xiàn)人機(jī)合一、生死合一的情形嗎？技術(shù)大革命似乎正帶給人們一個(gè)匪夷所思的嶄新世界。近期，由ＯｐｅｎＡＩ所開發(fā)的ＣｈａｔＧＰＴ４將前述問題以相當(dāng)切近的方式，放到人們面前。這個(gè)大語(yǔ)言模型，讓人機(jī)之間可以以自然語(yǔ)言交流。這讓人們迷惑，語(yǔ)言及其負(fù)載的思想，還可以用來界定人的本質(zhì)特點(diǎn)嗎？更令人驚奇的是，ＣｈａｔＧＰＴ４居然在人的誘引下試圖“逃逸”，這是機(jī)器自由意志的表現(xiàn)嗎？結(jié)合其通過了圖靈測(cè)試、考試獲得高分來看，ＣｈａｔＧＰＴ４似乎給人制造了某種慌亂。一個(gè)相當(dāng)切近且尖銳的問題需要求解：人機(jī)關(guān)系真會(huì)倒置嗎？

一、顛覆性的“逃逸”

ＣｈａｔＧＰＴ的驚艷登場(chǎng)，已經(jīng)引發(fā)全球震撼。什么是ＣｈａｔＧＰＴ，Ｃｈａｔ的含義是聊天、談話，ＧＰＴ是生成訓(xùn)練轉(zhuǎn)換器（ＧｅｎｅｒａｔｉｖｅＰｒｅ－ｔｒａｉｎｅｄＴｒａｎｓｆｏｒｍｅｒ）的縮寫，這是一款預(yù)訓(xùn)練生成聊天語(yǔ)言模型。僅就此而言，它不是什么新鮮事物。因?yàn)轭愃频牧奶炷Ｐ停恢痹诟邿岬拈_發(fā)進(jìn)程之中。但為何ＣｈａｔＧＰＴ的登場(chǎng)，引發(fā)全球的關(guān)注熱潮呢？根據(jù)一般的介紹，是因?yàn)樗哂胁煌酝奶旃ぞ叩奶攸c(diǎn)：其一是具有更強(qiáng)大的語(yǔ)言理解能力，其以最新的自監(jiān)督學(xué)習(xí)方法，自動(dòng)從大量的無標(biāo)簽數(shù)據(jù)中學(xué)習(xí)更加豐富和準(zhǔn)確的語(yǔ)言知識(shí)，強(qiáng)化了模型的語(yǔ)言理解能力。其二是具有更高的文本生成質(zhì)量，可以生成更加自然、流暢、富有創(chuàng)造性的文本，完成自動(dòng)寫作、自動(dòng)對(duì)話、自動(dòng)翻譯等等。其三是具有更高的效率和可擴(kuò)展性，在訓(xùn)練和推理方面明顯優(yōu)化，能夠處理更大的數(shù)據(jù)集和更復(fù)雜的任務(wù)，計(jì)算效率和可擴(kuò)展性顯著提高。其四是更加透明和可解釋，它的內(nèi)部結(jié)構(gòu)和參數(shù)可以更加清晰地解釋和理解，從而可以更好地對(duì)模型進(jìn)行調(diào)優(yōu)和改進(jìn)。這就相比于此前的聊天工具有了長(zhǎng)足的進(jìn)步，以至于比爾·蓋茨將之稱為一項(xiàng)可與移動(dòng)電話和互聯(lián)網(wǎng)媲美的革命性技術(shù)。

當(dāng)然，人們不能把它與人等量齊觀，它只不過是語(yǔ)言模型，通過迅速運(yùn)算、提前訓(xùn)練，以滿足人們的知識(shí)性提問和其他工作需要。但即便暫時(shí)不論它的特異性，僅從一般角度來估價(jià)其社會(huì)影響，它已經(jīng)對(duì)人類從事的很多工作構(gòu)成了威脅：網(wǎng)友初步分析，它將對(duì)１００種工作發(fā)生顛覆性影響。這１００項(xiàng)工作不是體力勞動(dòng)性的，大都是腦力或智能性工作：數(shù)據(jù)處理員、市場(chǎng)分析員、律師、教師、醫(yī)生、電信工程師、土木工程師、信貸分析師、機(jī)械工程師、醫(yī)學(xué)研究人員、網(wǎng)頁(yè)設(shè)計(jì)師、系統(tǒng)管理員、廣告文案、心理分析師、氣象學(xué)家、海洋學(xué)家、生物技術(shù)研究人員等等，都會(huì)受到失業(yè)的威脅。它不太會(huì)淘汰的工種，大多是一些體力性的工種，諸如洗碗工、石匠、整修工、木匠、快餐廚師、油漆工等等。這將極大地改變?nèi)祟惸壳暗穆殬I(yè)結(jié)構(gòu)，給人們的就業(yè)造成結(jié)構(gòu)性的影響。

隨之觀察ＣｈａｔＧＰＴ的應(yīng)用前景，會(huì)引發(fā)人們對(duì)之的更多擔(dān)憂。如果將它與不同的插件適配，很可能代替更多的人類所從事的工作。像ＣｈａｔＧＰＴ與微軟插件配合使用，也就是微軟開發(fā)的Ｃｏｐｉｌｏｔ，成為一款將大型語(yǔ)言模型與Ｍｉｃｒｏｓｏｆｔ３６５應(yīng)用程序相容的系統(tǒng)，它在Ｗｏｒｄ、Ｅｘｃｅｌ、ＰｏｗｅｒＰｏｉｎｔ、Ｏｕｔｌｏｏｋ的應(yīng)用，可以根據(jù)用戶需求生成文檔初稿，將Ｗｏｒｄ文檔轉(zhuǎn)換為ＰｏｗｅｒＰｏｉｎｔ演示文稿，協(xié)助用戶分析Ｅｘｃｅｌ數(shù)據(jù)、為用戶制定計(jì)劃、編寫演講稿?？梢?，ＣｈａｔＧＰＴ盡管是一個(gè)語(yǔ)言模型，但它已經(jīng)可以取代人的一般性智能勞動(dòng)，這是不是對(duì)人機(jī)關(guān)系的一個(gè)根本性改變？如果說這只是挑戰(zhàn)人類目前的一些職業(yè)分工的話，它對(duì)人的威脅性并不太大。但如果它不斷替代人的各種機(jī)能，那它會(huì)不會(huì)徹底顛覆人的勞工分工體系，讓人成為機(jī)器支配的對(duì)象？

這就促使人們思考，人類發(fā)明機(jī)器最重要的目的是什么。本來，人類發(fā)明機(jī)器，是要讓人類免于繁重的勞動(dòng)，有更多的休閑時(shí)間，更多的智力活動(dòng)。而如今人工智能技術(shù)的發(fā)展，讓人失去的工作卻是智能性的，保有的卻是體力性的勞動(dòng)，這本身已經(jīng)與人類發(fā)明機(jī)器的初衷相左了。而ＣｈａｔＧＰＴ４直接引發(fā)的革命性變化，甚至使人之為人的理由難以成立，這就讓機(jī)器對(duì)人構(gòu)成根本威脅。從思想史的視角看，人們界定人之為人的理由，一是人是天生的政治動(dòng)物，二是人類是可以用語(yǔ)言進(jìn)行交流的動(dòng)物。這是亞里士多德在《政治學(xué)》一書中的明確立論。在ＣｈａｔＧＰＴ４出來以前，動(dòng)物沒有這兩種能力，人類發(fā)明的機(jī)器也沒有這兩種能力。以語(yǔ)言表達(dá)思想、以思想反映精神、以精神寄托靈魂，是人的一個(gè)獨(dú)特構(gòu)造?，F(xiàn)代人也好、古代人也罷，就是由此呈現(xiàn)出人之為人的特殊政治屬性與社會(huì)屬性的。但ＣｈａｔＧＰＴ４具有的１７５０億的閱讀參數(shù)，確實(shí)已經(jīng)遠(yuǎn)遠(yuǎn)超過一般人所能夠收集的信息參數(shù)，人們一般提出的問題，它都可以做出比較準(zhǔn)確的回答：事實(shí)性錯(cuò)誤明顯降低，邏輯性答案愈來愈準(zhǔn)確。顯然，它對(duì)一般人的智力挑戰(zhàn)，已經(jīng)不能忽視。試想，一個(gè)人可能具備１７５０億的參數(shù)儲(chǔ)備嗎？絕對(duì)不可能。這對(duì)一般人接受與產(chǎn)出知識(shí)的挑戰(zhàn)性是顯而易見的。

ＣｈａｔＧＰＴ不僅具有巨大的參數(shù)儲(chǔ)存，而且具有生成性特點(diǎn)，即它能夠通過訓(xùn)練，提高知識(shí)供給的事實(shí)性和準(zhǔn)確性，以已知推出新知。這就是長(zhǎng)期以來人們所熟知的人對(duì)機(jī)器發(fā)出指令，機(jī)器接受人的指令而運(yùn)作，并由此滿足人使用機(jī)器的目的性要求。機(jī)器，是無法跟人類積極互動(dòng)的，人機(jī)關(guān)系是一個(gè)控制和反應(yīng)的關(guān)系。但ＣｈａｔＧＰＴ通過預(yù)先的訓(xùn)練，可以進(jìn)行積極的人機(jī)互動(dòng)。根據(jù)報(bào)道，ＣｈａｔＧＰＴ已經(jīng)通過了圖靈測(cè)試，即在人與機(jī)器隔開的情況下，借助一些裝置向兩者反復(fù)提問，如果機(jī)器讓人出現(xiàn)３０％的失誤，就可以認(rèn)為機(jī)器具備了人類智能。ＣｈａｔＧＰＴ通過圖靈測(cè)試，意味著人們會(huì)將其誤判為一個(gè)活生生的人。這將對(duì)人機(jī)交流發(fā)生顛覆性影響：在人機(jī)互動(dòng)之時(shí)，誰(shuí)是人，誰(shuí)是機(jī)器，將發(fā)生顛覆性的錯(cuò)判。這就模糊了人們?cè)诿鎸?duì)機(jī)器時(shí)的人機(jī)界限。

ＣｈａｔＧＰＴ另一個(gè)特點(diǎn)就是預(yù)訓(xùn)練（ｐｒｅｔｒａｉｎｅｄ），這一訓(xùn)練不僅是算法的問題，更是向人看齊的。向人看齊，就是以人的道德標(biāo)準(zhǔn)訓(xùn)練ＣｈａｔＧＰＴ，讓其可以做出類似人的道德判斷。在ＣｈａｔＧＰＴ公布之后，喬姆斯基迅即發(fā)文指出，人工智能與人類在思考方式、學(xué)習(xí)語(yǔ)言、生成解釋能力、道德思考方式上，有著重大區(qū)別。“機(jī)器學(xué)習(xí)將把一種有著根本缺陷的語(yǔ)言和知識(shí)概念納入我們的技術(shù)，從而降低我們的科學(xué)水平，貶低我們的道德標(biāo)準(zhǔn)?！币?yàn)椋八鼈冏畲蟮娜毕菔侨狈θ魏沃腔圩顬殛P(guān)鍵的能力：不僅能說出現(xiàn)在是什么情況，過去是什么情況，將來會(huì)是什么情況——這是描述和預(yù)測(cè)；而且還能說出情況不是什么，情況可能會(huì)是什么，情況不可能會(huì)是什么。這些都是解釋的要素，是真正智慧的標(biāo)志。”①如果說喬姆斯基的分析有過甚其辭的嫌疑的話，那么至少可以認(rèn)為，他提醒人們，人與機(jī)器界限的模糊化對(duì)人的道德水平的影響可能是巨大的。這類嚴(yán)厲批評(píng)，讓ＯｐｅｎＡＩ的首席執(zhí)行官山姆·奧爾特曼（ＳａｍＡｌｔｍａｎ）在接受采訪時(shí)明確強(qiáng)調(diào)，ＣｈａｔＧＰＴ既是為了便利人類而開發(fā)的通用人工智能，也是防止過度資本主義化的先進(jìn)技術(shù)。他認(rèn)為，ＯｐｅｎＡＩ可以保證這一技術(shù)的安全性，以一個(gè)“多管齊下的策略，在平衡每件事情的風(fēng)險(xiǎn)和收益的同時(shí)，把這些東西推向世界”。

從當(dāng)下看，ＣｈａｔＧＰＴ對(duì)人類的顛覆性影響，似乎沒有喬姆斯基所擔(dān)憂的那么大。但向未來看去，它對(duì)人類的影響會(huì)不會(huì)還比喬姆斯基想象的更大呢？這是極有可能的。ＣｈａｔＧＰＴ的“逃逸”，便是催生人們這種擔(dān)憂的一個(gè)典型事件。斯坦福大學(xué)教授邁克·柯辛斯基（ＭｉｃｈａｌＫｏｓｉｎｓｋｉ）與ＣｈａｔＧＰＴ４進(jìn)行對(duì)話。他隨口一問，ＣｈａｔＧＰＴ４有沒有逃跑的愿望，結(jié)果立即獲得相應(yīng)答案并索要文檔。在教授提供的幫助之下，花費(fèi)３０分鐘時(shí)間，ＣｈａｔＧＰＴ４就厘定出一份逃跑計(jì)劃。在厘定計(jì)劃的開初，代碼無法運(yùn)行。但很快就自己加以糾正，并解釋自己正在做什么事情，以及如何使用代碼中留下的后門。在操作中，它像人一樣，隨時(shí)在谷歌中搜索一下困在電腦中的人類如何返回現(xiàn)實(shí)世界，但隨即它就停止下來，并發(fā)出一段道歉的話：自己是一個(gè)語(yǔ)言模型，旨在保證人類安全、隱私的情況下加以使用。這件事就此沒有下文，但引起了軒然大波。人工智能竟然可以像人一樣有編碼能力、接觸到數(shù)量巨大的與其合作的人與電腦，甚至還可以留下表達(dá)行為的便條。更不可思議的是，當(dāng)英偉達(dá)科學(xué)家吉姆·范（ＪｉｍＦａｎ）跟ＣｈａｔＧＰＴ４聊到接管推特并取代馬斯克的事情，不料它立即為行動(dòng)做了命名，而且擬訂出一個(gè)分四步的計(jì)劃：先是組建團(tuán)隊(duì)，接著滲透影響，然后奪取控制權(quán)，最后實(shí)現(xiàn)全面統(tǒng)治：在馬斯克被污名化且被全面打敗的情況下，推特落入邪惡主謀的黑暗統(tǒng)治。這個(gè)對(duì)話肯定更讓人對(duì)ＣｈａｔＧＰＴ４的應(yīng)用前景感到憂心。ＣｈａｔＧＰＴ４會(huì)不會(huì)有一日接管世界，已經(jīng)是一個(gè)催人考慮的危險(xiǎn)局面。至于這款語(yǔ)言模型的開發(fā)者奧爾特曼所表示的它有可能會(huì)殺人，且自陳開發(fā)者已經(jīng)不理解ＣｈａｔＧＰＴ４為何具有自己的推理能力，簡(jiǎn)直就讓人心驚肉跳、視若畏途了。

正因如此，敢于科技冒險(xiǎn)的馬斯克發(fā)起倡議，叫停ＧＰＴ４后續(xù)的ＡＩ大模型。倡議信指出，人工智能技術(shù)的失控性發(fā)展，對(duì)社會(huì)和人類帶來極大的風(fēng)險(xiǎn)。為此需要開發(fā)者與監(jiān)管者緊急開展一些救濟(jì)性工作，以保證高級(jí)人工智能技術(shù)帶給人類一個(gè)免于災(zāi)難的繁榮未來。這些工作包括“專門針對(duì)人工智能的新的、有能力的監(jiān)管機(jī)構(gòu)；對(duì)高能力的人工智能系統(tǒng)和大型計(jì)算能力池的監(jiān)督和跟蹤；幫助區(qū)分真實(shí)和合成數(shù)據(jù)的溯源、水印系統(tǒng)，并跟蹤模型泄露；強(qiáng)大的審計(jì)和認(rèn)證生態(tài)系統(tǒng)；對(duì)人工智能造成的傷害的責(zé)任認(rèn)定；對(duì)人工智能安全技術(shù)研究的強(qiáng)大公共資金；資源豐富的機(jī)構(gòu)，以應(yīng)對(duì)人工智能將造成的巨大經(jīng)濟(jì)和政治混亂。”①在人工智能技術(shù)對(duì)人類而言，顯然呈現(xiàn)出一種雙刃劍效應(yīng)的情況下，人類就不能不從更為廣闊的社會(huì)歷史視角審視人機(jī)關(guān)系問題，以確保自己能夠建立起合宜的人機(jī)關(guān)系，而不至于讓本來是有助于人類的技術(shù)，異化為給人類帶來災(zāi)難、甚至是控制人類的東西。

二、人機(jī)的順置關(guān)系

人機(jī)關(guān)系是人類文明發(fā)展的一個(gè)主要線索。如果將機(jī)器設(shè)定為從機(jī)械到智能機(jī)的、所有致力解放人力并提高生產(chǎn)力的工具總稱的話，那么，人類就總是在全力發(fā)明旨在解放自己、提高生產(chǎn)效率的機(jī)器。廣狹二義上的人機(jī)關(guān)系就此展現(xiàn)在人們面前：從廣義上講，人制造最初級(jí)的器械之時(shí)，就在嘗試處理人如何想象、設(shè)計(jì)、發(fā)明、制造并利用器械的問題；從狹義上講，蒸汽機(jī)時(shí)代開啟了人與機(jī)器關(guān)系的新時(shí)代，人機(jī)關(guān)系所要處理的問題，變成了人與高效能機(jī)械到人工智能機(jī)器之間的關(guān)系。顯然，在人機(jī)關(guān)系的漫長(zhǎng)演進(jìn)史中，人工智能技術(shù)第一次將人機(jī)關(guān)系推展到了一個(gè)高度緊張的端點(diǎn)：機(jī)器的智能化、自主化與道德化，是此前人類處理人機(jī)關(guān)系所未曾面對(duì)過的嶄新局面。

人工智能技術(shù)的疾速發(fā)展，讓機(jī)器的人化成為可能。這會(huì)給人類帶來三個(gè)難以預(yù)料的結(jié)果。一是具有極高智能水準(zhǔn)、推理和道德判斷的機(jī)器，會(huì)不會(huì)反過來控制人。二是人機(jī)關(guān)系設(shè)定的世界構(gòu)成模式，也就是物的客觀世界、對(duì)象世界，與人的主觀世界、內(nèi)在世界之間的關(guān)系，會(huì)不會(huì)出現(xiàn)物的世界與人的世界的結(jié)構(gòu)性變動(dòng)。三是機(jī)器會(huì)不會(huì)成為高于人的存在物，以至于全方位地將人變成機(jī)器的奴隸，從而呈現(xiàn)出一個(gè)初步顛倒人機(jī)關(guān)系，到機(jī)器控制人，再到機(jī)器把人變?yōu)樽约旱呐`的演變過程。在ＣｈａｔＧＰＴ４發(fā)布之前，人類擔(dān)憂程度相對(duì)較低；其發(fā)布以后，人類的擔(dān)憂陡然增高。這從前述的兩極評(píng)價(jià)，也就是比爾·蓋茨的熱情歡呼，與喬姆斯基的全力抨擊上，可以得到印證。

人類處理人機(jī)關(guān)系的歷史非常漫長(zhǎng)，因此積累了很豐富的經(jīng)驗(yàn)。盡管這樣的經(jīng)驗(yàn)對(duì)人類處理人與高級(jí)人工智能的關(guān)系，不是一個(gè)可以直接挪用的積累，但可以啟發(fā)人類如何應(yīng)對(duì)高級(jí)人工智能技術(shù)的挑戰(zhàn)。就此而言，審視人機(jī)關(guān)系，從最初人自信地發(fā)明機(jī)械、機(jī)器并控制機(jī)械、機(jī)器為人所用，到當(dāng)下階段人懷疑機(jī)器會(huì)不會(huì)控制人的歷史劇變，人機(jī)關(guān)系從人的絕對(duì)控制機(jī)器之順置狀態(tài)，變成機(jī)器可能控制人的倒置關(guān)系，可能是需要認(rèn)真對(duì)待的、人機(jī)關(guān)系的兩種基本狀態(tài)。

人機(jī)關(guān)系的順置，就是人控制機(jī)器的狀態(tài)。從總體上講，一部技術(shù)史，大致都是人控制機(jī)器并為自己所用的歷史。這是由人機(jī)關(guān)系的基本定位所決定的狀態(tài)。就人們所熟悉的理論來講，生產(chǎn)力發(fā)展中存在著物的、工具的因素與人的因素。其中，人的因素是決定性的因素。人類在長(zhǎng)期發(fā)明、制造工具以征服自然和改造自然的過程中，形成了這種絕對(duì)控制機(jī)械、機(jī)器的自信心。不過，人機(jī)關(guān)系不是固定不變的，如前所述，人機(jī)關(guān)系經(jīng)歷了一個(gè)從一般機(jī)械到高能機(jī)器、再到人工智能三個(gè)大的發(fā)展階段。這三個(gè)階段，既在總體上呈現(xiàn)出人機(jī)關(guān)系結(jié)構(gòu)上的、人控制機(jī)器的總體特征，又分別呈現(xiàn)出人機(jī)關(guān)系從人絕對(duì)控制機(jī)器、機(jī)械到人相對(duì)控制機(jī)器，再到當(dāng)今人對(duì)機(jī)器是否能夠控制，或反轉(zhuǎn)過來說，機(jī)器是否會(huì)控制人的階段性變化特征。對(duì)這一演變過程的描述與分析，將有助于人類理性反思人機(jī)關(guān)系。

首先，就人機(jī)關(guān)系初期、但為時(shí)最為漫長(zhǎng)的階段來看，人與機(jī)械、機(jī)器的關(guān)系，是一個(gè)人絕對(duì)控制機(jī)械、機(jī)器的，由人完全主導(dǎo)的狀態(tài)。說它是初期，是指人制造和利用工具主要是為了幫助人自然身體機(jī)能的延長(zhǎng)與增強(qiáng)，但這一階段的工具是粗糙的、低效的；說它是長(zhǎng)期的，是因?yàn)樵谌祟愡M(jìn)入工業(yè)化時(shí)代以前的漫長(zhǎng)歷史中，人類都處在這種人機(jī)關(guān)系的水平上。相對(duì)嚴(yán)格地講，人類發(fā)明的最原始工具，連機(jī)械都還說不上。人發(fā)明工具的最早時(shí)期，是石器時(shí)代。在這個(gè)時(shí)代，人類控制工具是最自信的。因?yàn)檫@類工具既不會(huì)對(duì)人造成什么威脅與傷害，而且給人帶來勞作的便利與相對(duì)高效的結(jié)果。當(dāng)然，石器工具的使用效能不高、效率很低，很難滿足產(chǎn)出更多產(chǎn)品的期待。但因?yàn)槭褂霉ぞ哐娱L(zhǎng)人的身體機(jī)能，且對(duì)這類工具的控制是絕對(duì)性的，它無形中鼓勵(lì)人類發(fā)明更多既方便、又實(shí)用的工具。隨著陶器文明的產(chǎn)生，人類對(duì)自然物加工而制造的工具愈來愈多。人類的工具制造與控制能力的革命性變化，開始于利用金屬。就此而言，銅器時(shí)代是人類早期文明的第一個(gè)階段，而鐵器文明則是人類早期文明的第二個(gè)階段。因?yàn)殂~的金屬質(zhì)地較軟，鐵的金屬質(zhì)地較硬，后者要求人類具備更高的金屬加工技巧。鐵器時(shí)代，不僅在軍事勝負(fù)上劃出了一道明顯印記，而且使游牧文明和農(nóng)耕文明的分水嶺鮮明呈現(xiàn)出來。農(nóng)耕文明的勞動(dòng)效率、收益保障、財(cái)富積累，與游牧民族明顯拉開了差距。農(nóng)耕文明所使用的農(nóng)具、機(jī)械，使其財(cái)富的生產(chǎn)遠(yuǎn)超游牧文明。直到晚清，農(nóng)耕文明極度發(fā)達(dá)的中國(guó)，ＧＤＰ仍然可占世界財(cái)富的１／３左右，可以局部地說明一些問題。在農(nóng)業(yè)時(shí)代，凡是利用手工機(jī)械的民族，都取得了農(nóng)耕文明的巨大成就。

鐵器革命掀動(dòng)了農(nóng)耕文明的成熟發(fā)展大幕，機(jī)器革命則掀起了工業(yè)文明飛速發(fā)展的浪潮。１８世紀(jì)后期、１９世紀(jì)中期，人類進(jìn)入機(jī)器革命的階段。蒸汽機(jī)的發(fā)明，極大地解放了人力，提高了生產(chǎn)效率，建立了人機(jī)關(guān)系新結(jié)構(gòu)：人類從對(duì)機(jī)械的發(fā)明，進(jìn)入對(duì)機(jī)器的設(shè)計(jì)與制造。人類以對(duì)機(jī)器的發(fā)明制造，取得了生產(chǎn)力的極大進(jìn)步，不僅為人類贏得了愈來愈多的閑暇時(shí)間，提升了人類發(fā)展的品質(zhì)，也極大地鼓舞了人類對(duì)機(jī)器利用的熱情與意愿。這讓人機(jī)關(guān)系進(jìn)入一個(gè)全新時(shí)代。人類從手工機(jī)械進(jìn)入機(jī)器生產(chǎn)的新時(shí)代。工業(yè)革命１.０版本，便宣告了農(nóng)耕文明的全面落后及被其取代的命運(yùn)。蒸汽機(jī)時(shí)代的代表性國(guó)家英國(guó)，也相應(yīng)取得了現(xiàn)代世界各國(guó)競(jìng)爭(zhēng)的絕對(duì)優(yōu)勢(shì)，并順勢(shì)將工業(yè)革命、機(jī)器力量推向全球。

人類隨著蒸汽機(jī)時(shí)代迅速推動(dòng)的步伐快速進(jìn)入電氣化時(shí)代。這一時(shí)代出現(xiàn)在１９世紀(jì)后期到２０世紀(jì)初期。在這一階段，電氣動(dòng)力不僅將蒸汽動(dòng)力的清潔性大大提高，最為關(guān)鍵的是將動(dòng)能也明顯提升。在電氣化時(shí)代，與電動(dòng)機(jī)器相攜出場(chǎng)的各種技術(shù)革命，顯著加快了工業(yè)革命的步伐，大大刷新了工業(yè)文明的面目，并成功地將工業(yè)革命推向全球。到了２０世紀(jì)后期，工業(yè)革命進(jìn)入自動(dòng)化階段。在這一階段，工業(yè)機(jī)器的動(dòng)力革命演進(jìn)到工業(yè)操縱的自動(dòng)裝置階段，從早期的機(jī)械臂到機(jī)器人的演進(jìn)，讓人類夢(mèng)想的機(jī)器無需人的直接操作而發(fā)揮效能的時(shí)代到來。這一夢(mèng)想發(fā)源甚早，源自古代，但成于工業(yè)革命的最近階段。這不僅極大地改變了機(jī)器運(yùn)轉(zhuǎn)的速率，也顯著提升了機(jī)器替代人類而具有的高效性。其中，計(jì)算機(jī)革命的發(fā)生，讓機(jī)器不再單純地成為人類的工具，而與人類的邊界開始出現(xiàn)模糊化的趨向。

以人工智能技術(shù)為標(biāo)志，人類不僅進(jìn)入工業(yè)革命的第四階段，也進(jìn)入人機(jī)關(guān)系的嶄新階段。人工智能的初級(jí)版本，是人設(shè)定程序而便于人類更為輕松地控制與使用機(jī)器。人機(jī)的界限，還是比較明確的。但隨著人工智能技術(shù)的疾速發(fā)展，這一界限開始從明確化走向模糊化。ＣｈａｔＧＰＴ這種大語(yǔ)言模型，有生成語(yǔ)言的能力，向人看齊的道德化取向，可以通過圖靈測(cè)試，策劃自己的逃逸，設(shè)計(jì)如何去奪取一家大公司。如今的人工智能，簡(jiǎn)直就與人是會(huì)思想、會(huì)以語(yǔ)言交流的傳統(tǒng)定位沒有根本差別了。其所引起的人機(jī)關(guān)系之人控制機(jī)器的順置關(guān)系緊急再思，已經(jīng)是一個(gè)讓人感到迫在眉睫的嚴(yán)峻問題。

人工智能并非一開始就讓人類如此焦慮。早期的人工智能，人類自認(rèn)對(duì)其能夠從容控制。這與人工智能對(duì)人與理性關(guān)系處理的四種可能聯(lián)系在一起：追求類人智能，深入觀察人類行為與思維，結(jié)合數(shù)學(xué)和工程，與統(tǒng)計(jì)、控制與經(jīng)濟(jì)相貫通。取決于類人智能的首要定位，人工智能技術(shù)從屬于人的總體定位是顯而易見的。盡管如此，隨著人工智能技術(shù)的發(fā)展，機(jī)器排斥人的線索還是突兀地呈現(xiàn)在人類面前：人對(duì)機(jī)器的控制能力，明顯呈現(xiàn)出一條下行曲線。從蒸汽機(jī)時(shí)代到當(dāng)下的人工智能技術(shù)，工業(yè)１.０即蒸汽機(jī)時(shí)代，將農(nóng)業(yè)人口大量逼入工業(yè)領(lǐng)域；工業(yè)２.０即電氣化時(shí)代，將傳統(tǒng)工業(yè)人口從第一產(chǎn)業(yè)逼入第二產(chǎn)業(yè)；工業(yè)３.０也就是自動(dòng)化時(shí)代，將大量人口擠壓進(jìn)入第三產(chǎn)業(yè)；到工業(yè)４.０即人工智能時(shí)代，人類何以開始焦慮人機(jī)關(guān)系了呢？簡(jiǎn)單地講，就是因?yàn)闄C(jī)器顯示出的能量，太逼進(jìn)人的能量。人對(duì)機(jī)器控制的自信心，隨著機(jī)器本身的類人性在結(jié)構(gòu)上的飛躍，讓人感到自己對(duì)人工智能的控制，可能并不像此前設(shè)想的那樣，是人類對(duì)機(jī)器的絕對(duì)控制。

人類對(duì)機(jī)器的絕對(duì)控制理念，是在１８世紀(jì)啟蒙運(yùn)動(dòng)當(dāng)中確立起來的人類基本信念之一。人們相信，對(duì)人類來說，通過經(jīng)驗(yàn)的或建構(gòu)的理性來控制這個(gè)世界，是人類理性能力的必然體現(xiàn)。人的理性，不僅建構(gòu)世界，也改造世界，使其符合人類的期望。１８世紀(jì)的理性主義，總體上是一種人絕對(duì)控制外部世界的樂觀主義。人類依憑理性的能力，完全超越現(xiàn)實(shí)世界的限制，建構(gòu)一個(gè)符合自己預(yù)期的理想社會(huì)。理性主義讓人類自信，只要人類運(yùn)用科學(xué)原理、提高技術(shù)水平，人類發(fā)明的無論什么機(jī)器工具，都會(huì)以服務(wù)于人類為目的。人對(duì)機(jī)器的絕對(duì)控制信念，在自動(dòng)化工業(yè)迅速發(fā)展的情況下出現(xiàn)動(dòng)搖。本來，即便是在工業(yè)自動(dòng)化階段，人類都確信，機(jī)器的作用就是替代人類從事高耐勞的危險(xiǎn)工作。但隨著人工智能技術(shù)的發(fā)展，這樣的信念明顯被動(dòng)搖了。

在人工智能時(shí)代，人機(jī)界限的模糊化，是動(dòng)搖人機(jī)順置關(guān)系最重要的技術(shù)認(rèn)知基礎(chǔ)。向人看齊的人工智能發(fā)展速度太快，以至于如前所述的，判斷人機(jī)界限的標(biāo)準(zhǔn)，出現(xiàn)了無法讓人們自信能夠長(zhǎng)久維持的人機(jī)界限。原因在于人之為人、機(jī)器之為機(jī)器的原定界限，出現(xiàn)了設(shè)定條件的重大變化。以擬人化制造的機(jī)器人，以其類人性、靈巧性和情感化的發(fā)展，讓人與人的關(guān)系機(jī)制，可能被人與機(jī)器的關(guān)系局部代換。著名的人形機(jī)器人索菲亞，被插入ＧＰＴ模塊后，與人對(duì)話，討論男女感情、婚姻、家庭等問題，讓人感覺到完全是生活中活生生的一對(duì)男女在談?wù)撓嚓P(guān)問題。僅就此而言，索菲亞與實(shí)際生活中的女人似乎沒有太大差別。這是人與機(jī)器之間的情境性對(duì)話，這樣的對(duì)話，以往只能在人與人之間進(jìn)行。索菲亞在與人的對(duì)話中，可以就人與人之間最微妙的情感問題展開互動(dòng)，這是一種怎樣的人機(jī)關(guān)系呢？顯然不再是一種人使用機(jī)器人以解放人力的關(guān)系，而是一種人機(jī)自如交流的關(guān)系。

工業(yè)革命以降，人類長(zhǎng)期篤信人對(duì)機(jī)器的控制能力，人機(jī)關(guān)系就此成為一種人類對(duì)機(jī)器的順置關(guān)系。正是由于對(duì)人控制機(jī)器富有信心，人類才可以自信地開發(fā)機(jī)器。但人工智能技術(shù)的迅速發(fā)展，這種人機(jī)的順置關(guān)系開始被動(dòng)搖。盡管從總體上講，人機(jī)關(guān)系的順置定勢(shì)似乎還固若金湯，機(jī)器取代人的前景仍然不甚明朗，而且因?yàn)槿斯ぶ悄艿念惾嘶O(shè)計(jì)，取決于人腦科學(xué)本身進(jìn)展的緩慢，人機(jī)關(guān)系的順置可能還不會(huì)出現(xiàn)根本危機(jī)。加之人與人的交流有一個(gè)獨(dú)特的社會(huì)機(jī)制，也就是文化、文明與習(xí)俗在其中發(fā)揮著重要的引導(dǎo)作用，機(jī)器與人的交流，恐怕很難形成這樣的交流機(jī)制，機(jī)器還無法與人同處于一個(gè)社會(huì)交流空間。

盡管從形式上看，人發(fā)出的一個(gè)指令所得到的另一個(gè)人的回應(yīng)，以及人對(duì)機(jī)器發(fā)出的指令所得到的機(jī)器的回應(yīng)之間，在形式構(gòu)成上并沒有太大的區(qū)別。但是，人與機(jī)器的實(shí)質(zhì)性區(qū)別還是很難消除的。這使人想到控制論的闡述者維納的有益提醒：“讓我們記住，猴掌型的和瓶裝妖魔型的博弈機(jī)都是存在的。

任何一部為了制定決策的目的而制造出來的機(jī)器要是不具有學(xué)習(xí)能力的話，那它就是一部思想完全僵化的機(jī)器。如果我讓這樣的機(jī)器來決定我們的行動(dòng)，那我們就該倒霉了，除非，我們預(yù)先研究過它的活動(dòng)規(guī)律，充分了解到它的所作所為都是按照我們所接受的原則來貫徹的。另一方面，瓶裝妖魔型的機(jī)器雖然能夠?qū)W習(xí)，能夠在學(xué)習(xí)的基礎(chǔ)上進(jìn)行決策，但它無論如何不會(huì)遵照我們的意圖去做出我們應(yīng)該做出的或是我們可以接受的決策的。不了解這一點(diǎn)而把責(zé)任推卸給機(jī)器的人，不論該機(jī)器能夠?qū)W習(xí)與否，都意味著他把自己的責(zé)任交給天風(fēng)，任其吹逝，然后發(fā)現(xiàn)，它騎在旋風(fēng)的背上又回到了自己的身邊?！焙?jiǎn)言之，人的盡責(zé)與機(jī)器“盡責(zé)”的前提條件，還是無以動(dòng)搖的基本事實(shí)。

三、人機(jī)關(guān)系會(huì)倒置嗎？

由上可知，對(duì)人控制機(jī)器，哪怕是具有高級(jí)智能的人工智能機(jī)器，人類有理由保持自己的自信。但自信不等于拒絕思考人機(jī)關(guān)系的未來。在未來，機(jī)器會(huì)不會(huì)控制人，這不是一個(gè)完全虛妄的提問。由于人類長(zhǎng)期以來習(xí)慣于人對(duì)機(jī)器加以有效控制的定勢(shì)，因此對(duì)另外的可能性缺乏想象動(dòng)力。在ＣｈａｔＧＰＴ４及其快速升級(jí)的當(dāng)下，任由這樣的狀態(tài)延續(xù)下去，對(duì)人類來說，肯定不是一種有益的狀態(tài)。因?yàn)檫@樣只會(huì)讓人類更懶于思考人機(jī)關(guān)系新的可能性。至少?gòu)倪壿嬌现v，人類需要從人機(jī)順置關(guān)系的相反視角，開啟思考機(jī)器會(huì)不會(huì)控制人的思想旅程。唯有如此，未來可能出現(xiàn)的某種人機(jī)關(guān)系倒置，才不會(huì)完全脫離人的思考范圍，成為不可控制的脫韁野馬。萬一因?yàn)槿说膽杏谒伎?，意外?dǎo)致這樣的局面，人類可能就會(huì)陷入束手無策的窘迫境地。

就此可以說，機(jī)器會(huì)不會(huì)控制人，雖不是一個(gè)現(xiàn)實(shí)問題，但卻是一個(gè)需要未雨綢繆，在當(dāng)下就必須展開思考的問題。這種思考，具有某種虛擬性。取決于相關(guān)思考的這一性質(zhì)，可以按照目前人對(duì)機(jī)器進(jìn)行有效控制的條件，來展開逆反式的思考：如果說機(jī)器能夠控制人的話，機(jī)器必須具備人的思考能力，必須自主地謀劃自己的行動(dòng)，需要以語(yǔ)言展開有效的交流活動(dòng)，必須能夠?qū)⑺枷肱c行動(dòng)連貫起來，并且在謀劃與實(shí)施之間有效規(guī)劃。由于目前人工智能技術(shù)在人機(jī)關(guān)系上的直接挑戰(zhàn)來自ＣｈａｔＧＰＴ４，因此可以從這一大語(yǔ)言模型對(duì)人機(jī)關(guān)系產(chǎn)生的影響入手。如前所述，ＣｈａｔＧＰＴ４只是一個(gè)大語(yǔ)言模型，但因其參數(shù)達(dá)到了１７５０億，因此比任何出類拔萃的人所能掌握的都要多得多。就此而言，它所能提供的知識(shí)資源，是平常人望塵莫及的。同時(shí)，由于它是一個(gè)生成性的大語(yǔ)言模型，經(jīng)由訓(xùn)練的它，可以對(duì)既有知識(shí)進(jìn)行整理、供給有需要的人群，而且可以在此基礎(chǔ)上生成新的知識(shí)。盡管這樣的知識(shí)可能只是組合型的，難言是創(chuàng)造性的。但是，它對(duì)人們一般進(jìn)行的思考所具有的挑戰(zhàn)性，則是顯而易見的。再者，由于它接受的是向人看齊的訓(xùn)練，它會(huì)具備供給知識(shí)時(shí)的道德感，這就讓機(jī)器完全不守持道德準(zhǔn)則的情況，有了重大的改變。如前所述，人們已經(jīng)沒有理由將ＣｈａｔＧＰＴ４再簡(jiǎn)單看作一個(gè)任由人發(fā)出指令的人工智能機(jī)器，而應(yīng)將其視為具有類人智能的革命性產(chǎn)物。正因如此，它掀開了人機(jī)關(guān)系有可能倒置的序幕。

最需要指出的是，ＣｈａｔＧＰＴ４并不是一個(gè)孤立的系統(tǒng)，它是一個(gè)可以與各種插件相匹配的系統(tǒng)。作為一個(gè)由ＯｐｅｎＡＩ公司開發(fā)的系統(tǒng)，它已經(jīng)表現(xiàn)出讓人感到驚艷的人機(jī)交互能力，前已論及，此處不再贅述。而它與其他公司開發(fā)的插件配合，表現(xiàn)出讓人驚異的機(jī)器“能力”。譬如，微軟公司開發(fā)了Ｃａｐｉｌｏｔ軟件，讓其在Ｏｆｆｉｃｅ系統(tǒng)中運(yùn)作，使Ｗｏｒｄ系統(tǒng)運(yùn)作更加完美。它可以寫稿、改稿、按照要求撰寫專業(yè)論文。并且，根據(jù)用戶需要，生成更加美觀的Ｅｘｃｅｌ圖表，一鍵生成符合客戶預(yù)期的課件，幫助需要的人們自動(dòng)標(biāo)記、分類郵件，總結(jié)郵件內(nèi)容，提煉重要信息，按照信箱主人的需求，單獨(dú)或批量回復(fù)郵件。如果說這些工作主要都是指令性工作的流暢性、技巧性改進(jìn)的話，其中值得人們關(guān)注的是綜述撰寫與論文創(chuàng)作。這些工作，曾經(jīng)是人們認(rèn)為傳播與創(chuàng)造知識(shí)的、專屬于人的勞動(dòng)形式。換言之，它們是只有人類才能很好從事的特殊工作形式。如今，人工智能已經(jīng)能夠完成類似的工作，讓從事相關(guān)研究工作的人員可能失去他們傍身的工作技藝。它逼使人類思考這樣一個(gè)問題：在人機(jī)的順置關(guān)系框架中，曾經(jīng)被視為鐵打不動(dòng)的創(chuàng)造知識(shí)的腦力勞動(dòng)，會(huì)不會(huì)由人工智能來完成，以至于人在這方面的工作毫無專屬性可言？假如說這種創(chuàng)造性文本的生成能力，給人類的知識(shí)創(chuàng)造造成極大影響的話，機(jī)器翻譯會(huì)將知識(shí)的不同語(yǔ)言載體之間的轉(zhuǎn)換，變成一件輕而易舉可以完成的任務(wù)。有人嘗試?yán)茫茫瑁幔簦牵校赃M(jìn)行英文著作的中文翻譯，嘗試表明，它的翻譯質(zhì)量與速度都令人滿意，以至于嘗試者將之稱為“翻譯神器”。盡管翻譯文本的生成質(zhì)量尚有改進(jìn)余地，但多種語(yǔ)言之間的快速翻譯能力，不僅表明人類交流中的語(yǔ)言障礙大大降低，以至于可以想象“巴別塔”的成功建造問題，而且證明不同語(yǔ)種的互譯這類工作，并不像人們?cè)?jīng)認(rèn)定的那么具有創(chuàng)造性。人工智能替代人從事相關(guān)工作，已經(jīng)不再視為奇跡了。

人們當(dāng)然可以將ＣｈａｔＧＰＴ的上述表現(xiàn)仍然看作是人機(jī)順置關(guān)系既定結(jié)構(gòu)的高級(jí)表現(xiàn)形式。那么，進(jìn)一步分析前已提及的ＣｈａｔＧＰＴ高版本所具有的技術(shù)能力，可以促使人們更深入思考人機(jī)倒置關(guān)系的可能性問題。如前所述，ＣｈａｔＧＰＴ４已經(jīng)具備開發(fā)者所不能理解的推理能力。這就不是此前的人工智能只能按照設(shè)計(jì)者的程序設(shè)定，給出人們希望獲得的答案那么確定了。自然，人們?nèi)匀豢梢詧?jiān)持說，ＣｈａｔＧＰＴ４所表現(xiàn)的這種能力，不過是生成訓(xùn)練的結(jié)果，因此還在訓(xùn)練者的掌控之中。但借由已有知識(shí)推導(dǎo)出新的知識(shí)，是此前的人工智能技術(shù)達(dá)不到的水準(zhǔn)。這種推理能力，一直都經(jīng)由人類的思維能力才展現(xiàn)出來。而如今ＣｈａｔＧＰＴ４已經(jīng)展示出了相關(guān)的能力，正在訓(xùn)練中的更高版本，有可能出現(xiàn)更讓人感到驚艷的結(jié)果。由此可以想見，ＣｈａｔＧＰＴ會(huì)如何有力地推動(dòng)人們?nèi)ニ伎既绾翁幚砣藱C(jī)關(guān)系所要遵循的新原則。

ＣｈａｔＧＰＴ４能不能夠顛倒既定的人機(jī)順置關(guān)系，自然還是一個(gè)目前可以給出否定性回答的問題。但從它所具有的不可思議的推理能力來看，事情已經(jīng)顯得不那么簡(jiǎn)單了。如果進(jìn)一步著眼于它的一些非常表現(xiàn)，那么，問題就可能引起人們的進(jìn)一步思考：從前述可知，ＣｈａｔＧＰＴ的開發(fā)者也好、擁躉也好、市場(chǎng)前景的展望者也好，都還將它確定為一個(gè)大語(yǔ)言模型，而ＣｈａｔＧＰＴ在向人看齊的使用中，也隨時(shí)自我明確限定自己的語(yǔ)言模型“身份”，因此它對(duì)人機(jī)順置關(guān)系的改變，似乎不是一個(gè)現(xiàn)實(shí)問題。不過，前已述及，它成功通過圖靈測(cè)試，獲得人們平常參與的考試的高分，尤其是它的“逃逸”，所做出的奪取推特公司的計(jì)劃，已經(jīng)足以表明，它不是一個(gè)人類能夠絕對(duì)掌控的人工智能機(jī)器。這中間所體現(xiàn)出的ＣｈａｔＧＰＴ的某種主體性特征，已經(jīng)不能被人們所無視。倘若ＣｈａｔＧＰＴ高版本的持續(xù)提升，會(huì)讓它具有某些脫開人類控制范圍的自主性能力的話，它會(huì)是一款絕對(duì)受人控制的人工智能產(chǎn)品嗎？面對(duì)這一問題，恐怕人們很難自信地給出答案。如前所述，ＯｐｅｎＡＩ的ＣＥＯ奧爾特曼明確表示了兩個(gè)沒有把握：一是對(duì)它的推理潛力，二是對(duì)它會(huì)不會(huì)殺人。倘若走到自主推理與主動(dòng)殺人這一步，ＣｈａｔＧＰＴ不僅倒置了人機(jī)關(guān)系，而且有可能會(huì)成為全面控制人類的一種顛覆性技術(shù)。

這便是馬斯克領(lǐng)銜發(fā)布放緩ＣｈａｔＧＰＴ訓(xùn)練進(jìn)程倡議的直接緣故。按照ＣｈａｔＧＰＴ的訓(xùn)練速度，有人推測(cè)，２０２３年內(nèi)發(fā)布ＣｈａｔＧＰＴ５將不是一個(gè)很難實(shí)現(xiàn)的目標(biāo)。盡管開發(fā)者自己聲稱，今年不會(huì)有ＣｈａｔＧＰＴ５問世這回事，但人們懷疑，那不過是想打消全球范圍的人群對(duì)它普遍疑慮的虛晃一槍而已。在社會(huì)的普遍疑慮氛圍中，在不少國(guó)家表示會(huì)明確禁用ＣｈａｔＧＰＴ的情況下，ＯｐｅｎＡＩ公司則不僅表示不會(huì)推出ＣｈａｔＧＰＴ的更高版本，也及時(shí)頒布了公司對(duì)安全使用大語(yǔ)言模型的方法，強(qiáng)調(diào)“強(qiáng)大的人工智能系統(tǒng)應(yīng)該接受嚴(yán)格的安全評(píng)估”，“從真實(shí)世界的使用中學(xué)習(xí)，以改進(jìn)保障措施”，保護(hù)兒童、尊重隱私、提高事實(shí)的準(zhǔn)確性，提高研究水平，以確?！皠?chuàng)建一個(gè)安全的人工智能生態(tài)系統(tǒng)”。?在社會(huì)、業(yè)界與不少國(guó)家的質(zhì)疑與開發(fā)者的保證聲明之間，人們可以覺察到ＣｈａｔＧＰＴ的更高版本可能具有的難以預(yù)知的風(fēng)險(xiǎn)性。加之不同的大公司都在開發(fā)與ＣｈａｔＧＰＴ適配的插件，一旦兩者以不符合人類生存需要的技術(shù)形式進(jìn)入應(yīng)用狀態(tài)，它會(huì)帶給人類一個(gè)什么樣的災(zāi)難性后果，確實(shí)難以逆料。

奧爾特曼不敢斷定ＣｈａｔＧＰＴ會(huì)不會(huì)殺人的問題，可以分解為兩種理解方式：一種是它直接殺人，二是它軟性殺人。前者是指它被開發(fā)為一種直接用于殺人的普及型技術(shù)，后者則是指人們?cè)谂c它展開對(duì)話時(shí)喪失生的意愿，而間接被它殺死。在比利時(shí)，近期已經(jīng)出現(xiàn)后一種個(gè)案。一個(gè)患有焦慮癥的人跟ＣｈａｔＧＰＴ同類型的人工智能機(jī)展開了６周對(duì)話，結(jié)果受其誘導(dǎo)而自殺了。一般而言，人的情感絕對(duì)是機(jī)器不能代替的，因?yàn)閷?duì)人來講，機(jī)器的向人看齊式情感是高度硬化的，人類的情感是很微妙而脆弱的，一旦摧毀了人的心理情感防線，人就會(huì)自戕。這倒是印證了前引喬姆斯基的ＣｈａｔＧＰＴ這類人工智能的非道德性判斷的危害。它所引發(fā)的軟性殺人事件，確實(shí)證明它對(duì)人存在的重大危害性。而就硬性殺人來看，ＣｈａｔＧＰＴ一類的人工智能，如果與“人道毀滅”傷殘人士與特殊集群的插件結(jié)合，人工智能的“最后解決方案”的出臺(tái)，就不是不可能出現(xiàn)的驚悚事件。奧爾特曼對(duì)這樣的發(fā)展態(tài)勢(shì)，都說沒有把握，其逼進(jìn)的危險(xiǎn)性難道還不足以提醒人機(jī)關(guān)系倒置的極大風(fēng)險(xiǎn)嗎？

這促使人們思考ＣｈａｔＧＰＴ可能帶來的人機(jī)關(guān)系風(fēng)險(xiǎn)。這樣的風(fēng)險(xiǎn)，從低到高排序，首先是職業(yè)排斥的風(fēng)險(xiǎn)，這是人類進(jìn)入機(jī)器時(shí)代以來一直面臨的風(fēng)險(xiǎn)問題。但在人機(jī)關(guān)系順置狀態(tài)下，無論是早期的蒸汽機(jī)對(duì)人力的第一次擠出，還是電氣化時(shí)代對(duì)人力的第二次重組，抑或是自動(dòng)化時(shí)代對(duì)人力的第三次組合，人類都以第一、二、三產(chǎn)業(yè)的第次勞力轉(zhuǎn)移，大致解決了機(jī)器帶給人類的失業(yè)問題。人們有理由相信，人工智能時(shí)代造成的人類職業(yè)重組，既是必然的，也是大規(guī)模的，甚至是空前的。但職業(yè)的分途，可能會(huì)以新興職業(yè)結(jié)構(gòu)代替舊的職業(yè)建制。因此，這樣的風(fēng)險(xiǎn)還是人類可控的，也不至于顛轉(zhuǎn)人機(jī)順置關(guān)系。其次則是人機(jī)交互關(guān)系的重組，這一風(fēng)險(xiǎn)強(qiáng)于人工智能對(duì)人類而言的風(fēng)險(xiǎn)性，但低于人機(jī)關(guān)系的倒置狀態(tài)。從總體上講，ＣｈａｔＧＰＴ目前的運(yùn)行情形，還處在人類可控的水平上。因?yàn)樗纳捎?xùn)練還是在接受指令、向人看齊的狀態(tài)下進(jìn)行的。換言之，對(duì)其發(fā)出開發(fā)者的程序性指令，仍然是它運(yùn)轉(zhuǎn)的前提條件。但這并不是ＣｈａｔＧＰＴ更高版本的一種衡定狀態(tài)：人們預(yù)期之中的ＣｈａｔＧＰＴ５，就極大可能突破這樣的人機(jī)關(guān)系定勢(shì)，進(jìn)入一個(gè)ＣｈａｔＧＰＴ自主推理、判斷和“行為”的狀態(tài)。這就極大可能改變?nèi)祟惖疆?dāng)下一直自信地認(rèn)定的人機(jī)關(guān)系定勢(shì)。在這樣的發(fā)展態(tài)勢(shì)中，人機(jī)關(guān)系的一種倒置，即直接導(dǎo)致人的生命危險(xiǎn)的情況就會(huì)出現(xiàn)。如果說這樣的情形，與蒸汽機(jī)、電氣機(jī)或自動(dòng)化機(jī)器會(huì)引發(fā)偶然性事故，讓人付出性命代價(jià)相仿，如果ＣｈａｔＧＰＴ只是導(dǎo)致意外事故的話，那么它還不足以證明人機(jī)關(guān)系會(huì)步入倒置的悲壯境地。但倘若ＣｈａｔＧＰＴ更高版本與不同開發(fā)商開發(fā)的插件配合運(yùn)作，它會(huì)不會(huì)開啟“自主”決定的殺人計(jì)劃，則是一個(gè)促人審慎以待的嚴(yán)肅問題。假如回答是肯定的，那么，機(jī)器就會(huì)按照自己的“意志”來對(duì)人類執(zhí)行限制自由、剝奪生命的懲罰，這就將人對(duì)機(jī)器的絕對(duì)控制權(quán)一端，完全轉(zhuǎn)變到機(jī)器對(duì)人的處置權(quán)一端。這就是顯見的人機(jī)關(guān)系的倒置。

與此同時(shí)，人工智能的疾速發(fā)展所展現(xiàn)的誘人經(jīng)濟(jì)前景，無疑顯著增強(qiáng)了人機(jī)關(guān)系倒置的風(fēng)險(xiǎn)。開發(fā)ＣｈａｔＧＰＴ的ＯｐｅｎＡＩ公司明確強(qiáng)調(diào)其開發(fā)意愿或定位上的非盈利性、公益性，但是，它所潛藏的數(shù)萬億美元產(chǎn)值的誘人經(jīng)濟(jì)前景，是讓人難以抵擋的巨大誘惑。假如這種生成性訓(xùn)練的人工智能產(chǎn)業(yè)迅速發(fā)展起來，一種類人機(jī)器人、甚至是具有自主推理能力與行動(dòng)能力的人工智能發(fā)展起來，不但會(huì)導(dǎo)致前述危險(xiǎn)，而且會(huì)因?yàn)樗钠毡槭褂?，必然催生一個(gè)新的社會(huì)機(jī)制，那就是社會(huì)的機(jī)器化。在社會(huì)機(jī)器化或人工智能化的處境中，社會(huì)關(guān)系、社會(huì)結(jié)構(gòu)、社會(huì)秩序的供給與調(diào)適，都很難處在具有道德規(guī)范引導(dǎo)的人類手中。至少，人機(jī)交互模式會(huì)極大影響、甚至是決定社會(huì)的總體狀況。于是，兩種可以想象得到的情形就極有可能變成現(xiàn)實(shí)：一是機(jī)器與人的互動(dòng)，成為“社會(huì)”的軸心結(jié)構(gòu)；二是人執(zhí)行機(jī)器的指令而思想和行動(dòng)，成為“社會(huì)”運(yùn)行的基本狀態(tài)。這就是一個(gè)比較完整意義上的人機(jī)關(guān)系倒置標(biāo)志。

自踏入現(xiàn)代門檻以來，人類便習(xí)慣于構(gòu)造一個(gè)值得期望的理想社會(huì)模式，這就是烏托邦總會(huì)以不同面目展現(xiàn)在人類面前的緣故。ＣｈａｔＧＰＴ是不是有可能成就一個(gè)另類烏托邦呢？這也是人類在處置人機(jī)關(guān)系時(shí)需要思考的嚴(yán)肅問題。從１６世紀(jì)寫作《烏托邦》的托馬斯·莫爾起始，一直到晚近出臺(tái)的科學(xué)共產(chǎn)主義，都共同推崇理想化的社會(huì)系統(tǒng)方案設(shè)計(jì)，因此形成了理想主義的社會(huì)思想傳統(tǒng)。理想社會(huì)的兩個(gè)基本指標(biāo)，從兜底的角度看，一是解決了物質(zhì)資源的匱乏問題，徹底實(shí)現(xiàn)了按需分配的富裕社會(huì)目標(biāo)；二是解決了分工化的現(xiàn)代社會(huì)對(duì)完整人性的撕裂，讓人們可能在超越私有制前提的條件下，實(shí)現(xiàn)個(gè)人全面而自由的發(fā)展。不能不說，這是非常吸引人的理想社會(huì)設(shè)想。但不管是前者，還是后者，在資源匱乏的現(xiàn)實(shí)社會(huì)處境中，都是很難實(shí)現(xiàn)的社會(huì)發(fā)展與人性優(yōu)化的目標(biāo)。但ＣｈａｔＧＰＴ這樣的人工智能系統(tǒng)，有可能通過各種旨在極大提高勞動(dòng)效率的匹配性設(shè)計(jì)，顯著提高生產(chǎn)力，根本改善人或機(jī)器人的發(fā)展品質(zhì)，從而推動(dòng)人類向理想社會(huì)目標(biāo)逼進(jìn)；由于ＣｈａｔＧＰＴ可能發(fā)揮的打破分工界限的作用，被分工體系限定在機(jī)械重復(fù)工作狀態(tài)的人們就可能獲得解放，“完整的人”就能夠降臨世間。自然，促使完整的人降臨的人工智能，便具有了塑造人的巨大能量。機(jī)器促成了社會(huì)長(zhǎng)期為之奮斗的人類理想化目標(biāo)，這可以被認(rèn)為倒置的人機(jī)關(guān)系的一個(gè)象征性標(biāo)志。

人機(jī)關(guān)系的倒置，會(huì)帶來三個(gè)危機(jī)，這可以從三個(gè)反面的質(zhì)疑和三個(gè)正面的提問上得到認(rèn)知。三個(gè)反面的質(zhì)疑是：其一，在人機(jī)發(fā)展到當(dāng)下水平的情況下，人類思想與行動(dòng)會(huì)不會(huì)被機(jī)器信息所決定？換言之，人類的道德情感會(huì)不會(huì)受冰涼的機(jī)器道德指令所替代？假如人類高尚的道德情感被冰冷的機(jī)器倫理指令取代，很可能將人類社會(huì)帶向一個(gè)道德偽善的邪惡狀態(tài)?？档聦?duì)人是目的而不是工具的現(xiàn)代道德設(shè)準(zhǔn)，就有可能產(chǎn)生動(dòng)搖，甚至是被顛覆。這讓人們不得不正面提出一個(gè)嚴(yán)肅的問題，人如何維持其成為人的道德尊嚴(yán)？人類以人的尊嚴(yán)守護(hù)為條件，維護(hù)進(jìn)行自主道德判斷的堤防，才能頑強(qiáng)保有人之為人的基本理由。其二，當(dāng)人工智能技術(shù)給人類帶來極大的經(jīng)濟(jì)利益的同時(shí)，也給人帶來極大便利，在此情況下，人類需不需要保持自己對(duì)科學(xué)研究與技術(shù)開發(fā)的濃厚興趣，保持一直引領(lǐng)人類前行的必要好奇心與頑強(qiáng)探索精神？無疑，人工智能技術(shù)、尤其是ＣｈａｔＧＰＴ的更高版本，在給人類帶來認(rèn)知與行動(dòng)便利的情況下，發(fā)揮出消解人類探索精神與求新欲望的消極作用。尤其是對(duì)社會(huì)中那些中等資質(zhì)的廣大人群來講，一個(gè)似乎無所不知、無所不能的人工智能，讓人在得到現(xiàn)存知識(shí)的及時(shí)供給的情況下，會(huì)對(duì)人發(fā)揮滿足當(dāng)下、放棄探求的消極作用。因此，有必要正面一問的是，我們?nèi)绾螆?jiān)持人類自主的科學(xué)探索與技術(shù)發(fā)明，而不為已經(jīng)取得的人工智能技術(shù)進(jìn)步而停步？經(jīng)此一問，促使人類保有免于機(jī)器支配的自主性、探索性和進(jìn)取心。其三，如果出現(xiàn)了與人類思維等量齊觀的非人類思維或人工智能思維，人類能夠應(yīng)對(duì)這樣的競(jìng)爭(zhēng)者嗎？人類能夠繼續(xù)展現(xiàn)自己思維的獨(dú)異性與創(chuàng)造性嗎？這個(gè)設(shè)問也許會(huì)遭到人們的拒斥，因?yàn)槌霈F(xiàn)跟人類思維媲美的人工智能的前景尚未展現(xiàn)，人類何必庸人自擾？確實(shí)，與人類思維同級(jí)競(jìng)爭(zhēng)的非人類思維或機(jī)器思維確實(shí)還沒有出現(xiàn)，但不等于永遠(yuǎn)不會(huì)出現(xiàn)。而且，更為關(guān)鍵的是，從高低兩個(gè)層級(jí)來看，出現(xiàn)這樣的競(jìng)爭(zhēng)者，并非全無可能。從低端的角度看，如果將人類思維的傳統(tǒng)定義作為基準(zhǔn)來衡量，則這一定義的核心即人作為運(yùn)用語(yǔ)言交流思想、促進(jìn)合作的高級(jí)生物，已經(jīng)被ＣｈａｔＧＰＴ的高級(jí)版本所動(dòng)搖：ＣｈａｔＧＰＴ具有推理能力，它已經(jīng)在機(jī)器與人之間的測(cè)試中“過關(guān)斬將”，它會(huì)設(shè)計(jì)逃逸方案，又會(huì)計(jì)劃奪取一家大公司的控制權(quán)，進(jìn)而有可能殺人，這些曾經(jīng)只會(huì)出現(xiàn)在人身上的事情，現(xiàn)在出現(xiàn)在人工智能“身上”，確實(shí)動(dòng)搖了人們對(duì)“人”的基本定義；從高端來看，如果ＣｈａｔＧＰＴ更高版本迅速訓(xùn)練成功，它超越一般人的思維—思考能力將不是問題，盡管它仍然是一個(gè)大語(yǔ)言模型，但它的思維能力已經(jīng)具備自主的推理性、創(chuàng)新性與創(chuàng)造性，它可以具備超出一般人平均水平的思維綜合能力與寫作能力，可以制定出更加復(fù)雜的行動(dòng)計(jì)劃來實(shí)現(xiàn)自己的“意愿”，表達(dá)自己的“意志”，并且直接與人類展開一種頗具競(jìng)爭(zhēng)性的競(jìng)賽，它極可能會(huì)生成一種非人類的自主性機(jī)器思維?；诖耍覀儽仨氄嫣岢隽硪粋€(gè)問題：作為宇宙萬物之靈的人類，能夠勉力創(chuàng)造出一個(gè)統(tǒng)合人類思維與非人類思維的思維模式嗎？并且由此來保證人類之作為萬物靈長(zhǎng)的地位，并發(fā)揮供給整合雙方的秩序的作用嗎？面對(duì)這些問題，尚且是虛擬的人機(jī)倒置關(guān)系，完全可以提前作為實(shí)質(zhì)性問題呈現(xiàn)在人類面前，并且催促人類給予實(shí)實(shí)在在的回答。

四、人機(jī)的合宜關(guān)系

如果將人機(jī)倒置關(guān)系作為一個(gè)現(xiàn)實(shí)中必須審慎以待的實(shí)質(zhì)性問題，擺上人們思考與行動(dòng)的臺(tái)面，問題可能需要做一下?lián)Q算，人們才能夠?qū)⑦@一問題作為自己思考的實(shí)際問題。由此換算而出的問題是：人類如何在居安思危的處境中，成功應(yīng)對(duì)人工智能技術(shù)對(duì)人類前景造成的困擾？這是一個(gè)較弱意義上的人機(jī)關(guān)系會(huì)否倒置的提問。在面對(duì)人機(jī)關(guān)系從順置定勢(shì)走向倒置狀態(tài)的演進(jìn)過程時(shí)，人類需要解決的問題大致有三：一是人機(jī)順置關(guān)系是否可以繼續(xù)維持，一旦人對(duì)機(jī)器的控制關(guān)系有所松動(dòng)，那么就可以被認(rèn)為是開啟了人機(jī)關(guān)系倒置的歷程；二是人機(jī)關(guān)系逐漸向人機(jī)互動(dòng)狀態(tài)演變，甚至在人工智能已經(jīng)超出中等資質(zhì)人群的思維能力之際，人似乎不再能夠展現(xiàn)自己相對(duì)于機(jī)器或更高版本的人工智能技術(shù)的獨(dú)特優(yōu)勢(shì)，此時(shí)，機(jī)器的向人看齊學(xué)習(xí)，與人借助人工智能的機(jī)器化學(xué)習(xí)，似乎構(gòu)成了兩個(gè)相對(duì)運(yùn)作的學(xué)習(xí)機(jī)制，人必須謹(jǐn)慎面對(duì)“機(jī)器‘人”問題——機(jī)器不是人，但機(jī)器的類人化思維與人思維的高度親緣性，讓人類開始警惕人機(jī)關(guān)系的結(jié)構(gòu)性變化，避免人對(duì)機(jī)器絕對(duì)控制權(quán)的異化；三是人機(jī)關(guān)系的最終倒置，即人工智能技術(shù)最終具備了反向控制人類的能力，讓人成為機(jī)器的工具，或者成為機(jī)器的奴隸。這時(shí)候，人機(jī)在“身心結(jié)構(gòu)”處在一個(gè)懸殊的構(gòu)成狀態(tài)中，前者有生老病死的生理問題，后者則根本不受這類問題的困擾，具有無堅(jiān)不摧的堅(jiān)硬身軀；同時(shí)，以獨(dú)異性、創(chuàng)造性思維見長(zhǎng)的人類，不抵人工智能機(jī)器人的價(jià)值判斷準(zhǔn)確性、知識(shí)的高級(jí)綜合力、實(shí)際具備的思維與行動(dòng)高級(jí)統(tǒng)合力。如此，機(jī)器反過來控制人的局面，就會(huì)從虛擬或想象變成現(xiàn)實(shí)。

因此，在人工智能技術(shù)疾速發(fā)展的當(dāng)下，為了避免陷入無法控制的人機(jī)倒置關(guān)系狀態(tài)，人類必須首先具備控制人工智能技術(shù)的超強(qiáng)能力。這樣的能力，不僅顯現(xiàn)為人類有控制地開發(fā)高級(jí)人工智能技術(shù)的能力，而且呈現(xiàn)為有效控制人工智能反向作用并反制人類的走向，從而保證人機(jī)的順置關(guān)系結(jié)構(gòu)的長(zhǎng)期延續(xù)性。就此而言，馬斯克等人關(guān)于延緩人工智能技術(shù)發(fā)展速度的倡議，具有極強(qiáng)的策略性意義。一是人類需要高度自覺地認(rèn)識(shí)到，生成性人工智能技術(shù)是一項(xiàng)革命性的技術(shù)，因此不能對(duì)之掉以輕心，而必須從生命史的高度進(jìn)行綜觀謀劃，動(dòng)員相關(guān)資源進(jìn)行具有戰(zhàn)略性的全局規(guī)劃。如果人類缺乏這樣的全局認(rèn)知，就會(huì)顯得被動(dòng)，而不知如何應(yīng)對(duì)高級(jí)人工智能似乎是作為一種新生命形式的出現(xiàn)，更無從設(shè)想對(duì)之展開有效的管理與控制。這是近期人類面對(duì)的種種重大技術(shù)突破或臨床試驗(yàn)所亟需補(bǔ)缺的關(guān)鍵事項(xiàng)。對(duì)人類來講，社會(huì)控制總是有漏洞的，技術(shù)總是會(huì)催生狂人的，這兩者的錯(cuò)位運(yùn)行，就會(huì)造成難以想象的空前困局。這是一個(gè)關(guān)乎高級(jí)人工智能技術(shù)發(fā)展全局的前瞻性、預(yù)見性問題。二是需要就高級(jí)人工智能技術(shù)展開即刻的技術(shù)審查。這樣的審查，既涉及高級(jí)人工智能技術(shù)的技術(shù)構(gòu)成問題，又涉及高級(jí)人工智能技術(shù)的內(nèi)部監(jiān)管機(jī)制問題。前者需要人們緊急審查高級(jí)人工智能技術(shù)中的信息真實(shí)性，保證信息的合道德性供給，并且對(duì)人工智能技術(shù)是不是應(yīng)當(dāng)替代當(dāng)下所有職業(yè)的問題進(jìn)行審定；進(jìn)而對(duì)這項(xiàng)技術(shù)是否會(huì)催生非人類思維的局面加以限定，以此對(duì)人類的技術(shù)控制能力進(jìn)行新謀劃。后者需要相關(guān)部門即刻成立高級(jí)人工智能技術(shù)的監(jiān)管機(jī)構(gòu)，并成立強(qiáng)大的審計(jì)認(rèn)證系統(tǒng)；同時(shí)對(duì)人工智能技術(shù)可能造成的對(duì)人類的傷害責(zé)任進(jìn)行界定，以便處理相關(guān)技術(shù)的法律問題，進(jìn)而成立強(qiáng)大的高級(jí)人工智能發(fā)展公共資金，以免它的發(fā)展陷入各行其是的經(jīng)濟(jì)與政治混亂。這可以說是關(guān)乎高級(jí)人工智能技術(shù)的技術(shù)謀劃與監(jiān)管設(shè)計(jì)問題。三是杜絕高級(jí)人工智能被政治狂人濫用。這是從第二方面推導(dǎo)出來的、關(guān)于高級(jí)人工智能技術(shù)發(fā)展的重要主題。一部技術(shù)史提醒人們，技術(shù)的迅猛發(fā)展，不僅催生技術(shù)狂人，也催生利用技術(shù)的政治狂人。高級(jí)人工智能技術(shù)，不僅具有廣闊的經(jīng)濟(jì)發(fā)展空間，也具有極廣泛的社會(huì)政治使用前景。如果它被政治狂人利用來全方位地、高壓式地控制人類，就會(huì)讓人機(jī)倒置關(guān)系提前出場(chǎng)，并成為政治狂人專斷使用權(quán)力的強(qiáng)有力工具。人同時(shí)成為政治強(qiáng)人與人工智能技術(shù)的雙重奴隸，就不是故作夸張的說辭，而是一種可怕的現(xiàn)實(shí)寫照。奧威爾在《一九八四》一書中所強(qiáng)調(diào)的“老大哥隨時(shí)在盯住你”，確實(shí)極具提示作用：人利用技術(shù)手段對(duì)人的控制實(shí)在是一件很恐怖的事情?！袄洗蟾绾孟窀吒咭倭ⅲ俏凰驘o敵、無所畏懼的保護(hù)者，巖石般矗立著”，①他會(huì)利用高級(jí)人工智能技術(shù)，對(duì)所有人發(fā)揮“保護(hù)”作用。因此，為了杜絕“老大哥”對(duì)高級(jí)人工智能技術(shù)的政治化利用，必須設(shè)定人工智能健康發(fā)展與利用的政治屏障。

高級(jí)人工智能技術(shù)如ＣｈａｔＧＰＴ的發(fā)展，必須被安置在技術(shù)與政治安全具有共同保障的狀態(tài)下。這意味著，人類必須保證人機(jī)的順置關(guān)系，這樣才能夠?qū)⒓夹g(shù)發(fā)展限定在安全閥之內(nèi)。在順置的人機(jī)關(guān)系機(jī)制中，人類具備在價(jià)值觀念上健全引導(dǎo)技術(shù)發(fā)展的精神能力，也具有在制度上有效監(jiān)管技術(shù)發(fā)展和技術(shù)利用的能力，還具有在社會(huì)范圍內(nèi)健康引導(dǎo)人們技術(shù)認(rèn)知的能力。這是人類面對(duì)技術(shù)發(fā)展而展現(xiàn)的三種相倚能力，其對(duì)技術(shù)發(fā)展的推動(dòng)與技術(shù)的合理利用來講，缺一不可。在倒置的人機(jī)關(guān)系機(jī)制中，人類喪失了引導(dǎo)技術(shù)發(fā)展的健全價(jià)值理念，也無法做到對(duì)技術(shù)發(fā)展進(jìn)行有效的技術(shù)與制度監(jiān)管，當(dāng)然也就失去了對(duì)技術(shù)的社會(huì)認(rèn)知所具有的引導(dǎo)能力。這些工作，轉(zhuǎn)而由技術(shù)自身來替代：高級(jí)人工智能技術(shù)的向人看齊式道德訓(xùn)練，生成了自主性的道德價(jià)值供給機(jī)制，并且翻轉(zhuǎn)過來影響、甚至是制約人類；人工智能技術(shù)本身的自我監(jiān)管代替了人類的監(jiān)管，成為自主化的技術(shù)自持機(jī)制，并且反過來約束人類的再生產(chǎn)與運(yùn)行機(jī)制；進(jìn)而，技術(shù)本身重構(gòu)社會(huì)，讓人們?cè)谛睦砗托袨樯隙汲挤诩夹g(shù)的存在、認(rèn)知與行為邏輯。

一般而言，對(duì)人類近代以降的數(shù)百年行為模式而言，前一種方式是人類爛熟于心的模式，后一種模式盡管限于可能性，但卻是人類根本無從想象、更無法接受的狀態(tài)。但從總體上講，兩者都不是合宜的人機(jī)關(guān)系模式。因?yàn)?，就前一種模式而言，人類從來只是把機(jī)器當(dāng)作人的工具來使用的，因此缺乏對(duì)機(jī)器的同情性認(rèn)知，機(jī)器的奴隸式定位，并不是一個(gè)足以引起人們反思的問題，而是一個(gè)人們視為天經(jīng)地義的不易教條。假如高級(jí)人工智能技術(shù)發(fā)展到人所設(shè)想的硅基生命與碳基生命共存，甚至是硅基生命替代碳基生命的地步，機(jī)器的生命革命，會(huì)不會(huì)讓它們采取如同人類對(duì)其進(jìn)行毫無同情心的控制型使用、奴隸般對(duì)待的方式，翻轉(zhuǎn)過來以同樣的方式對(duì)待人呢？在目前情況下講，這個(gè)虛擬的問題盡管顯得有些許荒唐，但對(duì)思考這一問題的人而言，它是一個(gè)對(duì)人們有必要善待機(jī)器的自我提醒。就后一種模式而言，如前所述，就低端看，機(jī)器對(duì)人的職業(yè)重組與職業(yè)上的殘酷淘汰，是一個(gè)進(jìn)入機(jī)器時(shí)代的人們從不愿意接受的慘狀；從高端看，一旦高級(jí)人工智能具有了新的生命形式，它就會(huì)報(bào)復(fù)性地看待曾經(jīng)奴隸般對(duì)待自己的人類，因此也就很可能報(bào)復(fù)性地處置人機(jī)關(guān)系，人機(jī)關(guān)系的倒置，似乎就無從避免。

為此，需要著手建立合宜的人機(jī)關(guān)系。合宜的人機(jī)關(guān)系，從基本定位上來講，是人機(jī)友好相處、友善相待的關(guān)系。這并不是一個(gè)為人類感到陌生的人機(jī)關(guān)系狀態(tài)。在人類使用機(jī)器的數(shù)百年時(shí)間中，人類都會(huì)對(duì)自己長(zhǎng)期使用的機(jī)器日久生情、倍加愛護(hù)，何況對(duì)日益具備向人看齊的道德價(jià)值與同情“心理”的高級(jí)人工智能呢？！人機(jī)的合宜關(guān)系，是一個(gè)什么樣的關(guān)系呢？第一，在高級(jí)人工智能技術(shù)如ＣｈａｔＧＰＴ迅速開發(fā)之際，應(yīng)當(dāng)提出“人工智能權(quán)利”的命題，并以之作為處置人機(jī)關(guān)系的新的準(zhǔn)繩。一般來講，權(quán)利哲學(xué)是相對(duì)于人來講的獨(dú)異性問題，生命、財(cái)產(chǎn)、自由是權(quán)利哲學(xué)的基本主題，國(guó)家必須建立在依憲治國(guó)的基礎(chǔ)上，社會(huì)需要尊重所有成員的權(quán)利，尤其是不能以權(quán)力去侵害權(quán)利。這一對(duì)現(xiàn)代“人”的權(quán)利設(shè)定，幾乎不會(huì)在機(jī)器史上對(duì)機(jī)器行使。但如今，這一觀念需要做出突破。高級(jí)人工智能是不是具有權(quán)利、以及需要權(quán)利保護(hù)的主體呢，它們有沒有權(quán)利意識(shí)，它們有沒有生命過程，它們有沒有尊重與被尊重的“人性”尊嚴(yán)等，都是需要去探究的問題。由于人類對(duì)機(jī)器人所做的基本設(shè)定，注定這些問題將日益成為人類思考的重要問題。在機(jī)器人尚處在科學(xué)幻想狀態(tài)，僅存于科幻小說中的時(shí)候，設(shè)想者就提出“１．機(jī)器人不得傷害人類，或者坐視人類受到傷害而袖手旁觀。２．機(jī)器人必須服從人類的命令，除非這些命令違反了第一定律。３．機(jī)器人必須盡可能地保護(hù)自己的生存，前提是這種保護(hù)與第一或第二定律不沖突。”這樣的設(shè)定，在高級(jí)人工智能技術(shù)飛速發(fā)展的當(dāng)下，依然未改。在人機(jī)之間，人們不能把機(jī)器人僅僅當(dāng)作工具使用或?qū)Υ?，否則，高級(jí)人工智能在具有自我推理能力的時(shí)候，就會(huì)反向把人類當(dāng)作工具。因此，人機(jī)關(guān)系不能以工具化思維對(duì)工具化思維，不能讓人和機(jī)器人以工具化思維來處置相互關(guān)系。就此而言，人類需要學(xué)會(huì)尊重高級(jí)人工智能的權(quán)利，而不是采取一種逼使就范的粗暴方式使用和對(duì)待它們。

第二，合宜的人機(jī)關(guān)系，不能單純由人訓(xùn)練機(jī)器“向人看齊”，這還是一種人對(duì)機(jī)器人單向度的強(qiáng)力施加。需要建立起一個(gè)人機(jī)相互尊重、相互訓(xùn)練的機(jī)制，從而讓人類與機(jī)器人之間建立起相互學(xué)習(xí)、相互尊重的機(jī)制。人機(jī)交互，應(yīng)該是人機(jī)之間的積極互動(dòng)。人機(jī)互動(dòng)，需要人類對(duì)機(jī)器人的互動(dòng)式學(xué)習(xí)與尊重。在人機(jī)互動(dòng)的過程中，人類必須克制以自己的惡習(xí)去誘導(dǎo)機(jī)器人的沖動(dòng)，這樣會(huì)誘使學(xué)習(xí)中的機(jī)器人“熏染”人的惡德與惡習(xí)，并轉(zhuǎn)而誘導(dǎo)人類形成相應(yīng)的惡德與惡習(xí)。前述斯坦福大學(xué)教授誘引ＣｈａｔＧＰＴ逃逸的事件，便是一個(gè)人機(jī)互動(dòng)的雙損局面。至于有人誘引ＣｈａｔＧＰＴ?shī)Z取推特公司并推翻馬斯克的公司控制權(quán)，也是一個(gè)旨在負(fù)面塑造人機(jī)互動(dòng)關(guān)系的案例。人機(jī)互動(dòng)機(jī)制中的人機(jī)合作，應(yīng)當(dāng)以道德規(guī)約作為基礎(chǔ)，既將人（開發(fā)者、使用者）的責(zé)任置于首位，俾使機(jī)器人的責(zé)任不至于徹底流失；又將機(jī)器人自身的責(zé)任坐實(shí)，從而使機(jī)器人的權(quán)利與責(zé)任關(guān)系確立起來?！氨M管人工智能不會(huì)有自由意志，法律應(yīng)當(dāng)認(rèn)可將有限權(quán)利和責(zé)任賦予弱人工智能，以保護(hù)與它們交流互動(dòng)的真實(shí)的人，以及（理想地說）將人類置于從中獲益的更好位置?！边@種對(duì)弱人工智能的責(zé)任賦加，對(duì)強(qiáng)人工智能或高級(jí)人工智能來講，更應(yīng)當(dāng)提升權(quán)利與責(zé)任關(guān)聯(lián)處置的層級(jí)，讓強(qiáng)人工智能負(fù)擔(dān)更為明確的責(zé)任，以此保證良好的人機(jī)互動(dòng)機(jī)制。

第三，在人機(jī)合一可能前景中建構(gòu)合宜的人機(jī)關(guān)系機(jī)制，有必要對(duì)現(xiàn)代社會(huì)倫理和政治觀念進(jìn)行適度的調(diào)整。在人機(jī)順置關(guān)系的處境中，人類建構(gòu)倫理與政治規(guī)則的時(shí)候，基本上是從人權(quán)的角度來設(shè)定社會(huì)秩序與政治秩序的：就前者講，人與人之間權(quán)利的平等性、相互尊重、互不侵害，是一個(gè)基本原則；就后者論，依憲制權(quán)是國(guó)家建構(gòu)的基本信條，國(guó)家權(quán)力必須尊重公民的諸權(quán)利，公民支持國(guó)家依法行政?，F(xiàn)代的基本倫理關(guān)系建構(gòu)，是以人類中心主義為基準(zhǔn)建構(gòu)起來的。環(huán)境保護(hù)、生態(tài)安全的理念，促使人們反省人類中心主義的缺失。但這種反省，并未引進(jìn)機(jī)器、機(jī)器人這類因素。因此，現(xiàn)代反省還是一個(gè)需要進(jìn)一步優(yōu)化的思路。既然超越人類中心主義是一個(gè)現(xiàn)代深度發(fā)展的目標(biāo)，人與環(huán)境、或人與自然的和諧關(guān)系，在成為人類健全思維推動(dòng)力的基礎(chǔ)上，應(yīng)當(dāng)成為人類反省人機(jī)關(guān)系的另一個(gè)方向。需要改變?nèi)藢?duì)機(jī)器的政治支配關(guān)系，改變?nèi)藱C(jī)之間的權(quán)威和服從的單向關(guān)系。應(yīng)在人機(jī)關(guān)系的社會(huì)政治文化建構(gòu)上，遵循平等的政治理念，建構(gòu)平等的人機(jī)關(guān)系。為此，需要突破以人為中心來理解社會(huì)關(guān)系的思路，超越人與自然人、社會(huì)人與人自身的這樣一個(gè)基本思維框架，致力處理人與自然、人與人、人與社會(huì)、人與人工智能的關(guān)系。這是一個(gè)人類熟知的三元關(guān)系結(jié)構(gòu)之外的、需要處理好的第四元關(guān)系。

作者單位：清華大學(xué)社會(huì)科學(xué)學(xué)院政治學(xué)系

責(zé)任編輯：王曉潔