宋春艷

人機融合智能是人與機器人協(xié)同形成的群體智能，是人工智能發(fā)展的高級階段，甚至可能是保證人工智能向善發(fā)展的唯一路徑。語言是自我意識和主體性的載體，ChatGPT 的橫空出世讓人們開始思考人機之間是否產(chǎn)生交互主體性。這到底是一個理論問題還是一個實踐問題呢？

一、人機融合智能的含義

人機融合一直是人類的夢想，科學(xué)家為此進行了長期的努力，早期的“人因工程”就對人機融合進行了科學(xué)探索。國內(nèi)自動化界學(xué)者劉偉首先明確提出“人機融合智能”這一概念，認為人機融合智能是由人、機、環(huán)境相互作用而產(chǎn)生的新型智能系統(tǒng)［1］（216）。大數(shù)據(jù)人工智能、互聯(lián)網(wǎng)群體智能、感知和跨媒體智能、人機混合智能、自主智能系統(tǒng)是目前最主要的五類人機融合智能［2］（1-2）。人機融合智能吸收了人工智能與人類智能各自的優(yōu)點，在輸入端，將傳感器采集到的客觀數(shù)據(jù)與人的感知主觀信息整合，形成新的識別；在信息處理階段，將人工智能的計算能力與人的認知相結(jié)合，形成新的理解；在智能輸出端，將計算機迭代的算法與人在決策中體現(xiàn)的價值效應(yīng)相互匹配，形成新的判斷［3］（8-9）。本文認為，人機融合智能就是人與智能機器人（包括硬件機器人和軟件機器人）通過網(wǎng)絡(luò)連接起來，形成一個人機優(yōu)勢互補、信息交互的群體智能系統(tǒng)。當(dāng)代人機融合智能的“機”在技術(shù)上不再局限于基于傳統(tǒng)信息技術(shù)的計算機，而是指由會聚技術(shù)構(gòu)成的智能機器人，“環(huán)”（環(huán)境）則指網(wǎng)絡(luò)環(huán)境。

人機融合智能是一種群體智能已經(jīng)成為共識。當(dāng)前，在仿生學(xué)、人類學(xué)、認知心理學(xué)、計算機科學(xué)等交叉研究的基礎(chǔ)上，群體智能的外延已經(jīng)從自然群體智能擴展為人工群體智能，也即從自然界簡單的動物種群、復(fù)雜的人類群體擴展為人工機器群體以及多樣的人機交互的智能群體［4］（134）。由此，人機融合智能可以粗略地分為兩類：一類是人工機器群體，人是隱性出現(xiàn)的，人機交互也是隱形的；另一類是人機交互的智能群體，人是顯性出現(xiàn)的，人機交互也直觀可見，不僅有語言交互，還有手勢交互，面部表情交互等。本文的人機融合智能主要指第二類。人機融合智能是人與智能機器人組成的群體智能，為了剖析人機融合智能的自我意識與交互主體性的關(guān)聯(lián)，需要首先厘清作為組成部分的人的自我意識與主體性的關(guān)聯(lián)、智能機器人自我意識與主體性的關(guān)聯(lián)，然后再討論作為群體的人機融合智能的自我意識與主體性的關(guān)聯(lián)。

二、人的自我意識與主體性的關(guān)聯(lián)

自我意識是主體性的前提。在西方哲學(xué)傳統(tǒng)里，“自我”（self/ego）與“主體”含義接近，甚至等同使用。《牛津哲學(xué)詞典》中，“主體”（subject）與“自我”（ego）具有同樣的含義?！爸黧w性”（subjectivity）是言說者把自己建構(gòu)成一個主體的能力。語言對人主體性的建構(gòu)起到了不可或缺的作用，因為只有言語者用人稱代詞“我”建立起一個觀察和認識主體，自我意識和自我概念才得以建構(gòu)［5］（10）。擁有自我意識，才能建構(gòu)主體，因此，自我意識是主體性的前提。

自我意識是心智的重要內(nèi)容。諾貝爾生理學(xué)或醫(yī)學(xué)獎獲得者埃克爾斯在《腦的進化：自我意識的創(chuàng)生》（Evolution of the Brain：Creation of the Self）一書中指出，自我意識是心智中最高級的精神體驗，這意味著一個個體知道他自己知道，當(dāng)然最初這是一個主觀的或自省性的判斷標(biāo)準(zhǔn)。然而，通過語言交流，個體可以驗證其他人也同樣具有這樣的自知經(jīng)驗［6］（218）。通過“我”的表述，主體性得以建構(gòu)，因此語言不僅是自我意識的載體，也是主體性的載體。

胡塞爾認為，先驗主體間性是絕對的并且是唯一自足的本體論基礎(chǔ)，每個客觀事物都從那里獲得其意義和有效性。這種主體間性概念實際上是一個交互（inter）-主體性概念，即主體之間的關(guān)系［7］（118-119），而主體間世界是主體間經(jīng)驗的相關(guān)項，即以“移情作用”為中介的經(jīng)驗［8］（364），回答了“我怎樣才能經(jīng)驗另外一個主體”的問題。胡塞爾的主體間性是一種先驗的社會性，自我構(gòu)成了他者，客體被懸擱。海德格爾的觀點與此一致，主體間性則指向存在或解釋活動中的人與世界的同一性。它不是主客對立的關(guān)系，而是主體與主體之間的交往、理解關(guān)系［5］（11）。二人都把交互主體性作為一種本體論論題，交互主體性由此成為自我的原初存在方式，我原初就是作為“我們”——交互主體性——而存在，就此而言，人所體驗到的一切意義也都是交互主體性的［9］（83）。胡塞爾還將心理學(xué)中的“共情”（empathy）概念引入現(xiàn)象學(xué)主體間性（即交互主體性）的研究中，認為主體間性就是純粹的自我意識如何在自身意識經(jīng)驗中構(gòu)造出他人［10］（189）。這對機器人人工共情設(shè)計具有重要的啟發(fā)意義。

三、智能機器人被動獲得類主體地位與自我意識的懸擱

當(dāng)前，智能機器人尚處于弱人工智能階段。學(xué)界主流的觀點認為，人工智能（或智能機器人）是沒有自我意識的，包括ChatGPT，所以不能成為人工道德行為體。這是否意味著機器人倫理學(xué)就無法推進了呢？考科爾伯格（Mark Coeckelbergh）另辟蹊徑提出基于經(jīng)驗的人類中心倫理，認為應(yīng)從關(guān)注機器人內(nèi)在的意識和心智轉(zhuǎn)向關(guān)注機器人在人機互動中外在表現(xiàn)的倫理意義和關(guān)注并想象個人與機器人一起實現(xiàn)美好生活的可能性［11］（217-221）。在這一外在主義思路下，機器人倫理研究不應(yīng)將焦點放在如何實現(xiàn)機器人的意識上，而應(yīng)重點關(guān)注機器人在我們?nèi)祟惖囊庾R中是如何出現(xiàn)的；不應(yīng)爭論如何賦予機器人責(zé)任和權(quán)利，而應(yīng)研究、想象和設(shè)計如何讓機器人幫助人類實現(xiàn)美好生活。這就使得機器人可以在自我意識“懸擱”的同時仍然能夠?qū)崿F(xiàn)“向善”的目標(biāo)，人工共情的設(shè)計是實現(xiàn)這一目標(biāo)的重要手段。人工共情的設(shè)計初衷在于利用機器人的社交表現(xiàn)激發(fā)人類情感反應(yīng)能力，是一種單向的人對機器人的共情。其中，作為使用者的人在交互時賦予了機器人主體地位，這是一種非對稱共情。根據(jù)“非對稱社會互動感知論”，雖然共情（empathy，原文作者譯為“移情”——引者注）主體之間感知能力不對稱，但依賴占據(jù)優(yōu)勢地位的人的先驗認知能力和共情對象的行為表現(xiàn)，在有交互“氛圍”生成的社會環(huán)境中也可能實現(xiàn)共情［10］（191）。新近橫空出世的ChatGPT 雖然號稱具有驚艷的思維鏈推理能力，但邏輯推理的有效性并不能保證結(jié)論一定正確，正因為如此，使用者才會戲謔ChatGPT 是在“一本正經(jīng)地胡說”。不過，ChatGPT 確實是目前最為優(yōu)秀的大語言模型，它對使用者說話意圖的準(zhǔn)確把握和無所不知的響應(yīng)讓使用者誤以為其已經(jīng)具備和人一樣的思維能力和自我意識，從而將Chat-GPT 看作聊天伙伴或者助手而不是冷冰冰的機器，賦予其主體地位。

當(dāng)交互主體性成為自我的存在方式，人機融合成為新的人機關(guān)系，人機交互主體性的產(chǎn)生就成為必然。人機交互主體性的存在使得智能機器獲得類似于人的主體地位，這種主體地位是被動獲得的，是由人賦予的，因此并不必然要求智能機器人具有自我意識。智能機器人的自我意識在此時被“懸擱”，類似于胡塞爾在交互主體性中將“客體”懸擱。

四、人機融合智能的自我意識與交互主體性

1.人機融合智能自我意識的產(chǎn)生途徑和本質(zhì)

人機融合智能是一種群體智能，人機融合智能自我意識的研究必然繞不開人機融合的路徑探討。近年來，一些學(xué)者從身體與技術(shù)的相互建構(gòu)來探討人機融合的哲學(xué)基礎(chǔ)，“他心”作為哲學(xué)中的經(jīng)典問題在人機融合智能的研究熱潮中再次受到重視。崔中良和王慧莉借助梅洛-龐蒂關(guān)于他心的經(jīng)驗基礎(chǔ)研究，將“融合社交”作為人機交互的哲學(xué)基礎(chǔ)，認為感知生成是人機交互的現(xiàn)象基礎(chǔ)，經(jīng)驗沉淀為人機交互提供歷時可能性，通感是實現(xiàn)人機交互的功能表現(xiàn)［12］（136）。高慧琳和鄭保章基于麥克盧漢“媒介是人的延伸”理論提出“人機融合”理念，并從人與機器的感知融合、行為融合和思維融合出發(fā)，探討了人機融合的本體性、漸進性和辯證性，并號召賦予人機融合智能設(shè)備積極的意識引導(dǎo)和正確的價值觀［13］（27-32）。

科學(xué)家和工程師對人機融合提出了更具實踐意義的路徑，人機融合就是將人的意向性與機器的形式化進行綜合，從而使得人機融合智能能夠像人那樣對事情發(fā)展時態(tài)及趨勢進行準(zhǔn)確預(yù)測。其中，意向性是對內(nèi)在感知的描述（心理過程、目的、期望），形式化是對外在感知的描述（物理機理、反饋）［14］（288）。如何構(gòu)建人機兩者的溝通模式呢？美國軟件設(shè)計師、交互設(shè)計之父艾倫·庫伯（Alan Cooper）提出的“用戶畫像”模型頗具探索性。用戶畫像可將用戶所擁有的知識、價值、情感等模型轉(zhuǎn)化為機器可理解的計算模型。在基于對用戶理解的基礎(chǔ)上，機器可以進一步地改變自身的行為模式來適應(yīng)人的感覺方式，使得人機交互能夠盡可能地根據(jù)使用者的需求，適應(yīng)人的特點，形成最和諧的人機融合［14］（297-300）。也就是說，在人機融合中機器主動適應(yīng)人，而不是人主動適應(yīng)機器，盡管人們習(xí)慣性地仍將人機融合與人機交互不加區(qū)分地使用。研究表明，當(dāng)類人機器人能夠?qū)κ褂谜弋a(chǎn)生共鳴（show empathy）和互動時，其接受度更高［15］（1）。這種機器人表現(xiàn)出來的情感共鳴會讓使用者產(chǎn)生共情反應(yīng)，提升用戶體驗效果。

人機融合智能雖然可以實現(xiàn)人機共情，但這種群體智能的自我意識仍然是由人主導(dǎo)的，因為只有人的意識具有內(nèi)在目的性，人的內(nèi)在意識與外在世界的對象具有“適應(yīng)方向”。智能機器人的意識雖然可以通過傳感器的數(shù)據(jù)表現(xiàn)出來，但卻不是內(nèi)在的目的，而只是數(shù)據(jù)的傳輸，是外在的。因此，只有人才是人機融合智能的主體，主導(dǎo)著人機融合智能的自我意識和行為選擇。人機融合智能的水平，表面上是依賴數(shù)據(jù)、算法、硬件的提質(zhì)升級，但最終起作用的還是認知科學(xué)和相關(guān)學(xué)科的不斷突破。人機融合智能的自我意識，本質(zhì)上還是處于交互環(huán)境中的人的自我意識，這成為人機融合智能交互主體性產(chǎn)生的前提。

2.人機融合智能人機交互主體性的產(chǎn)生途徑及本質(zhì)

人機融合智能中信息的交互，一般都是人機雙向或者機器與機器之間進行信息交互。這種交互除了傳統(tǒng)的基本文本交互和圖形交互外，還包括語音交互、體感交互，甚至腦機交互。為了達到更好的交互效果，算法常常投其所好，在社交機器人中加入人工共情功能的設(shè)計，使得機器的行為越來越像人。這就為人機交互主體性的產(chǎn)生提供了技術(shù)可能。

在人機融合或交互中，人的自主性、能動性和創(chuàng)造性在技術(shù)的幫助下得以增強，即技術(shù)建構(gòu)了賽博主體性［16］（58）。賽博主體性是在人與技術(shù)雙向建構(gòu)中產(chǎn)生的新的自主性，是人與技術(shù)的雙向馴化。一方面，技術(shù)對人的生命與生活進行全面深度干預(yù)，同時參與建構(gòu)著人與世界的關(guān)系，這種技術(shù)作出適應(yīng)性的改變以滿足人的需求，本質(zhì)上是人對技術(shù)的“馴化”。但自工業(yè)革命以來，人對技術(shù)的依賴逐漸加深，諸如追求效率的技術(shù)邏輯深刻地滲透到人類的主體意識中，規(guī)約著人的主體實踐，人也被技術(shù)“馴化”。主體性也在雙向馴化中向外在環(huán)境（包括技術(shù)）延展。

人機融合中產(chǎn)生了由人主導(dǎo)的交互主體性，不僅因為交互主體性是自我的原初存在，也因為人機交互本質(zhì)上也是一種社會交往，哈貝馬斯的社會交往理論有助于理解人機交互的主體性。哈貝馬斯把現(xiàn)實社會中的人際關(guān)系分為工具行為和交往行為，認為工具行為是主客體關(guān)系，而交往行為是主體間性行為［5］（11）。隨著人機交互中機器主動適應(yīng)人類，以及人工共情的良好表現(xiàn)，人機交互已經(jīng)從工具行為變成了交往行為。有學(xué)者認為，智能雜合體將人類的主體性與非人類力量的擬主體性相互嵌合、集于一身［17］（38）。這實質(zhì)上就是人機融合智能的交互主體性。人機融合智能的交互主體性本質(zhì)上是使用者的一種功能賦予，賦予原本作為客體的智能機器人主體地位，人機交互中產(chǎn)生的人機關(guān)系則體現(xiàn)出延展的交互主體性。

五、人機融合智能交互主體性的道德后果

人機融合智能的發(fā)展對人類主體性產(chǎn)生了深刻影響。一方面，智能機器人的發(fā)展使人類在很多領(lǐng)域具有了超越自身的能力，提高了人類的生產(chǎn)效率和生活質(zhì)量。另一方面，人機融合智能的發(fā)展也引發(fā)了人類對自身存在（包括主體性）諸多問題的反思。盡管人機融合智能的自我意識仍然是由人主導(dǎo)，但是人機交互主體性可能引發(fā)各種相互纏繞、錯綜復(fù)雜的道德后果。這種道德后果可能是積極的，也可能是消極的，還可能同時帶來積極的效果和消極的后果。

1.意識經(jīng)驗結(jié)構(gòu)的改變與自我的損耗

自從技術(shù)誕生，人與技術(shù)就開始進行社會性融合。當(dāng)前，隨著會聚技術(shù)的發(fā)展，人技融合從社會性融合進化到自然性或身體性融合。在人機融合智能中，處于認知環(huán)境的智能機器人，已經(jīng)從影響人認知過程的環(huán)境要素逐漸成為新的重要的認知類主體，協(xié)助人類甚至代替人類進行選擇和決策，對人的影響已經(jīng)從器物文化層面上升到觀念文化層面，深層次影響著認知主體的態(tài)度和行為。與此同時，在人機融合的大背景下，人又可能成為其他認知系統(tǒng)的環(huán)境要素，認知主體與環(huán)境可以相互轉(zhuǎn)化。總之，人與認知環(huán)境的邊界逐漸消除，人類意識與認知環(huán)境表現(xiàn)出“意識”深度融合。例如，以互聯(lián)網(wǎng)為代表的智能系統(tǒng)，一方面拓展了人的認知寬度甚至深度，增加了認知主體的可選項，但另一方面也將數(shù)以億計的人腦（及其創(chuàng)造的自我隧道）整合到全新的媒介環(huán)境或認知環(huán)境中，從而改變了人的意識經(jīng)驗的結(jié)構(gòu)。一旦有人通過互聯(lián)網(wǎng)或利用新媒體來爭奪認知主體有限的注意力以實現(xiàn)商業(yè)利益或其他目的，就可能導(dǎo)致自我損耗（self-depletion），自我控制的能力也隨著注意力的消耗而降低［18］（300-301）。

2.機器依賴與虛擬親密關(guān)系的建立

當(dāng)前，基于互聯(lián)網(wǎng)組織架構(gòu)的人機融合智能比較常見，互聯(lián)網(wǎng)的平臺效應(yīng)使得人機融合智能在某些問題上實現(xiàn)了1+1＞2，有助于人的認知增強，并由此贏得使用者的信任。由于人機交互體驗的提升，機器人的“善解人意”可能讓使用者產(chǎn)生依賴，甚至與智能機器人產(chǎn)生親密關(guān)系。已經(jīng)有心理學(xué)研究表明，ChatGPT 可以產(chǎn)生適當(dāng)?shù)那楦幸庾R（emotional awareness，EA）響應(yīng)，并且在情感意識評估中超越一般人群，預(yù)計隨著使用時間的增加，其性能可能還會顯著提高，因此，ChatGPT 可以用于EA損傷臨床患者的認知訓(xùn)練以促進患者心理健康。但這種虛擬的親密關(guān)系也可能帶來負面影響，一旦交互中的智能機器人給出虛假的信息，使用者也可能不加反思而接受［19］（1-7）?！度祟惡喪贰返淖髡哂韧郀枴ず绽╕uval Noah Harari）因此對人類發(fā)出警告，人工智能或智能機器人無需意識就能威脅人類文明，因為人工智能雖然沒有感覺和意識，但卻能激發(fā)人類的感覺，讓人類依附于它。通過對語言的掌握，人工智能可以與人建立虛假的親密關(guān)系，并利用親密的力量來影響人類的觀點和世界觀［20］，從而對人類文明的發(fā)展產(chǎn)生重要影響。

3.隱私安全與遠程受控的風(fēng)險加劇

人機融合技術(shù)涉及人類身體和自身智能水平的提升和替代，因而其一旦失控，將對個人的身體安全和隱私安全帶來雙重風(fēng)險。人機通過信息或數(shù)據(jù)進行交互，人的身體和周圍的一切對象和活動都被數(shù)據(jù)化，智能化的數(shù)據(jù)已經(jīng)作為人類的第二肉身被儲存在網(wǎng)絡(luò)和電腦中，個人變成了數(shù)據(jù)主體。如何保證數(shù)據(jù)主體對個人信息進行有效控制就成了數(shù)據(jù)時代保證個人隱私安全和自主性的關(guān)鍵［21］（30）。例如，腦機接口技術(shù)一方面能讓大腦中某些腦區(qū)失去意識的患者重新建立與身體的連接，但是仍然需要讓腦與身體通過有監(jiān)督的訓(xùn)練提高準(zhǔn)確率，而且二者通過網(wǎng)絡(luò)連接保持交流，網(wǎng)絡(luò)攻擊或者技術(shù)上的不穩(wěn)定將會給人腦造成直接傷害。隱私方面，過去使用者在互聯(lián)網(wǎng)上留下的痕跡可以讓他人回溯并以推斷的方式來窺視他的思想，而新興的腦機接口技術(shù)將會進一步加劇這一問題，讓人類的思想變得可讀，從而使人處于一種身心透明化的狀態(tài)。而對于具有自主性的人工機器群體，遠程失控的危害則更大，受到傷害的無辜群體人數(shù)會更多。對于這樣的危害，趙汀陽提出關(guān)鍵性措施積極應(yīng)對，一是禁止研發(fā)能說“不”的機器人；二是形成全球倫理，共同維護全球正義［22］（12）。

4.人格同一性變化及責(zé)任歸屬困難

人機融合智能是一個群體智能，也是一個賽博格，因此在人機交互中智能機器人的自我意識（雖然只是功能性的）必然與人的自我意識相互作用，這就帶來了人格同一性變化的風(fēng)險，而人格同一性又與責(zé)任、權(quán)利等概念緊密相關(guān)，因此不容忽視。盡管如此，對于增強型人機融合智能，尤其是腦機接口這類與人腦直接相連的人工智能，使用增強技術(shù)是否影響人格同一性呢？有研究表明，深度腦部刺激技術(shù)使用后可能帶來人格特征和行動能力的改變，由此引發(fā)不良后果，那么這樣的后果應(yīng)該由誰來負責(zé)呢？人格同一性是否改變涉及個人同一性的界定標(biāo)準(zhǔn)？當(dāng)代關(guān)于個人同一性標(biāo)準(zhǔn)的討論從實在論轉(zhuǎn)向了功能主義，動態(tài)的自我敘事時刻在構(gòu)建個人同一性，能夠被自我所體驗、理解和認可的新意識內(nèi)容都會通過意識的解釋機制整合進個人的敘事同一性之中［23］（67）。如果人機增強智能使用前后的變化都是得到使用者認可的，那么由于增強效果產(chǎn)生的特征就應(yīng)該被納入個人同一性之中，個人必須為增強后造成的過失負責(zé)。但如果使用者不認同其由于手術(shù)改變了的性情或價值觀，那么這個主體就沒有完全的責(zé)任［24］（116）。在這種情況下，使用者可能陷入兩難，要么放棄增強（或者治療）避免人格特征或心理特征的改變，要么接受增強帶來的改變并對行為后果負責(zé)。

結(jié)論

交互主體性是人的自我的原初存在。人機融合智能使得人機交互從人主動適應(yīng)機器，轉(zhuǎn)變?yōu)闄C器主動適應(yīng)人，人機產(chǎn)生了交互主體性。人機的交互主體性源于人的交互主體性賦予了智能機器人類主體地位，智能機器人的自我意識被“懸擱”。機器人的倫理意義不必再依賴意識和思維，而是依據(jù)其在人機互動中的外在表現(xiàn)。這就是人機互動倫理的核心要義。社交機器人人工共情的設(shè)計就是這一理念的實際應(yīng)用。