【摘" "要】人工智能催生社交聊天機(jī)器人出現(xiàn)，作為“新型伙伴關(guān)系”的社交聊天機(jī)器人，在與人交流、滿足其情緒需求時(shí)產(chǎn)生了一系列倫理問題，造成用戶的單向情感依賴和孤獨(dú)感加重，其欺騙性的對(duì)話也導(dǎo)致用戶的自我迷失和偏見加強(qiáng)，利用社交聊天機(jī)器人進(jìn)行虛假傳播并重構(gòu)意見氣候，另外對(duì)于是否賦予社交聊天機(jī)器人獨(dú)立人格也是倫理爭(zhēng)議所在。這些倫理問題的出現(xiàn)，不僅需要利用算法和制度來進(jìn)行事先規(guī)約和事后補(bǔ)救，也需要提升社交機(jī)器人素養(yǎng)，去構(gòu)建人機(jī)和諧共生氛圍，促進(jìn)社交聊天機(jī)器人產(chǎn)業(yè)的發(fā)展。

【關(guān)鍵詞】社交機(jī)器人；媒介倫理；人機(jī)互動(dòng)；倫理規(guī)制

一、社交聊天機(jī)器人的定位

2022年由OpenAI公司推出的聊天機(jī)器人ChatGPT爆火于網(wǎng)絡(luò)，使得社交聊天機(jī)器人受到人們的廣泛關(guān)注，同時(shí)，各媒體客戶端以及商家不斷研發(fā)投入使用的“服務(wù)型”對(duì)話機(jī)器人也顯示出智能社交機(jī)器人正在不斷“飛入尋常百姓家”。社交機(jī)器人是人工智能產(chǎn)物，依托于其背后的計(jì)算機(jī)程序，根據(jù)算法針對(duì)用戶的輸入將事先設(shè)定的語料庫(kù)進(jìn)行組合排序并輸出。社交機(jī)器人最初設(shè)計(jì)之時(shí)旨在與用戶進(jìn)行交流，由此產(chǎn)生互動(dòng)進(jìn)而實(shí)現(xiàn)陪伴和緩解情緒壓力的目的。1999年索尼首次推出的機(jī)器人“愛寶”，它作為一個(gè)可以觸摸和能夠互動(dòng)的寵物，被設(shè)計(jì)成娛樂伙伴。[1]在此之后，社交機(jī)器人的研發(fā)和使用范圍不斷拓展，如：在心理治療中用于陪伴自閉癥患者；在療養(yǎng)院中用于照顧老人起居生活；在辦公大廳中承擔(dān)處理業(yè)務(wù)的信息服務(wù)工作。

這類社交機(jī)器人具有類似于人或者寵物的實(shí)體形態(tài)，有面部表情和人類情感，在不斷互動(dòng)中人類與機(jī)器人建立起親密關(guān)系，將社交機(jī)器人視為“寵物”或者“朋友”。這種“新型伙伴關(guān)系”的產(chǎn)生一方面在于機(jī)器人實(shí)體的存在，讓人產(chǎn)生“對(duì)待他人的感覺”，同時(shí)這種“擬人化”使人類產(chǎn)生尋求同伴的傾向；另一方面，人類和機(jī)器人分享情感時(shí)，會(huì)通過“移情”來認(rèn)識(shí)自我與他人。“移情”作為一個(gè)社會(huì)心理學(xué)概念，指“對(duì)陌生主體及其體驗(yàn)行為的經(jīng)驗(yàn)”。[2]移情作為一種心理活動(dòng)，在我們與他人的交流中，能夠進(jìn)行自我理解，并且產(chǎn)生共情心理。“理解他者行動(dòng)的原因需要運(yùn)用我們的移情能力，在自己的頭腦中重現(xiàn)想法，并富有想象力地理解他人的觀點(diǎn)”。[3]社交機(jī)器人的出現(xiàn)，衍生出“人工移情（Artificial Empathy）”的概念，用于描述人類與機(jī)器人之間的情感交互。我們基于“擬人”外貌以及個(gè)體交流認(rèn)同感的建立，和社交機(jī)器人產(chǎn)生類似于“伙伴”的感覺。而在社交機(jī)器人的模型開發(fā)中，情感模型是較難建立的，因此人類對(duì)他人產(chǎn)生的移情效果是否能夠完全適用于機(jī)器人，還有待更多探索。

本文不探討實(shí)體社交機(jī)器人，更多關(guān)注在社交網(wǎng)絡(luò)中模擬人類用戶建立社交賬號(hào)、能夠自主運(yùn)行并自行生產(chǎn)發(fā)布內(nèi)容的算法智能體。這類社交機(jī)器人也可以叫作聊天網(wǎng)友或線上智能客服，[4]不同于實(shí)體機(jī)器人，它們以計(jì)算機(jī)程序或虛擬形象在網(wǎng)絡(luò)中與人類進(jìn)行互動(dòng)。這類社交機(jī)器人因?yàn)榫幊涕_發(fā)定位上的不同，有類似于“小愛同學(xué)”“Siri”這類智能手機(jī)助手的功能類機(jī)器人，也有類似于企業(yè)智能客服的服務(wù)類機(jī)器人，還有類似于“微軟小冰”與人對(duì)話交談的聊天類機(jī)器人。本文的主要研究對(duì)象是聊天類的社交聊天機(jī)器人。

二、社交聊天機(jī)器人社會(huì)交流的異化

20世紀(jì)90年代，斯坦福大學(xué)的巴倫·李維斯和克利夫·納斯提出“媒介等同理論”，即將媒介等同于真實(shí)的生命，人們會(huì)把計(jì)算機(jī)和其他人工智能機(jī)器當(dāng)作社會(huì)角色來對(duì)待，原因在于人類大腦尚未進(jìn)化到能在潛意識(shí)里識(shí)別人類和機(jī)器人的區(qū)別，人類會(huì)情不自禁地對(duì)機(jī)器做出社交反應(yīng)。[5]尤其是在人工智能飛速發(fā)展的當(dāng)下，社交機(jī)器人逐漸“擬人化”，其圖像與語言處理能力的快速提升，能夠模仿人類的交流習(xí)慣進(jìn)行對(duì)話，還能對(duì)人類情感進(jìn)行程序化計(jì)算，模擬人類的情感表達(dá)方式，讓對(duì)話者覺得如同和“真人”交流一樣，在長(zhǎng)期對(duì)話的情況下可能會(huì)與機(jī)器人產(chǎn)生情感聯(lián)結(jié)。有研究者提出，人類會(huì)對(duì)手機(jī)產(chǎn)生情感聯(lián)結(jié)，個(gè)體逐漸對(duì)手機(jī)和另一端的親密關(guān)系對(duì)象產(chǎn)生混淆、合二為一，將手機(jī)擬人化，視手機(jī)為親密關(guān)系對(duì)象的能動(dòng)實(shí)體代理。[6]

與社交聊天機(jī)器人建立情感聯(lián)結(jié)，背后是技術(shù)與算法的支撐，包括大量對(duì)話數(shù)據(jù)的輸入，復(fù)雜情感模型的建立等，讓社交聊天機(jī)器人能夠快速識(shí)別并輸出擬人化語言，人類對(duì)機(jī)器人的排斥與隔離感逐漸減少。如同1970年日本機(jī)器人專家森弘昌提出的“恐怖谷效應(yīng)”：在機(jī)器人與人類的相似度達(dá)到一個(gè)特定程度時(shí)，人類會(huì)對(duì)機(jī)器人產(chǎn)生負(fù)面情緒和反感，哪怕機(jī)器人呈現(xiàn)出與人類些微的差別，都會(huì)使得人類對(duì)機(jī)器人產(chǎn)生僵硬恐怖的感覺；但是當(dāng)機(jī)器人與人類的相似程度逐漸上升，人類對(duì)他們的情感反應(yīng)會(huì)回歸正面，產(chǎn)生人類與人類之間的移情作用。在如今新媒體發(fā)達(dá)并且交流方式便捷的今天，人類仍然會(huì)頻繁地進(jìn)行人機(jī)交流，學(xué)者彭蘭提出這是基于“場(chǎng)景性、補(bǔ)償性、可控性、定向性、投射性、治療性”等交流的需要。[7]人機(jī)交流可以作為人際傳播的補(bǔ)充，同時(shí)能夠讓使用者把對(duì)話方向完全控制在自我手中，這種交流的成本低，使用者可以隨時(shí)中斷對(duì)話，而不需要擔(dān)心后續(xù)情況的發(fā)生。

社交聊天機(jī)器人在智能技術(shù)的加持下，由過去的交流工具轉(zhuǎn)變?yōu)槿缃竦膫鞑フ?，成為“擬人化”的主體，人類將聊天機(jī)器人當(dāng)作“社會(huì)伙伴”，并與之建立親密關(guān)系，這種錯(cuò)覺和將其視為平等聊天對(duì)象的現(xiàn)象對(duì)人類價(jià)值觀念產(chǎn)生沖擊。

三、社交聊天機(jī)器人帶來的倫理問題

（一）單向情感依賴，試圖擺脫孤獨(dú)反而更孤獨(dú)

由于城市化進(jìn)程的發(fā)展，社交不足加重了個(gè)體的孤獨(dú)感。而社交聊天機(jī)器人的出現(xiàn)，能夠?yàn)橛脩籼峁?duì)話服務(wù)，滿足其交流的需要，可以充當(dāng)聆聽者。不斷豐富的語料庫(kù)和對(duì)話模型讓聊天機(jī)器人能主動(dòng)與用戶溝通，它能夠跨越時(shí)空陪伴用戶，不斷緩解用戶的不安和孤獨(dú)感。

但如“媒介等同理論”所提及的，用戶會(huì)在交流中模糊了社交聊天機(jī)器人的身份，不斷地沉溺在這種為緩解孤獨(dú)而產(chǎn)生的虛幻關(guān)系中，可能會(huì)加重用戶對(duì)現(xiàn)實(shí)的逃避感。同時(shí)，相較于人類情感的豐富性，機(jī)器人因其情感模型的局限性難以滿足用戶的情感需求，而人類可能會(huì)對(duì)社交聊天機(jī)器人的回答不斷進(jìn)行自我解讀，如此不對(duì)等的交流使得人類對(duì)社交聊天機(jī)器人產(chǎn)生單向的情感依賴，原本是為緩解孤獨(dú)感，卻進(jìn)一步加深了用戶的孤獨(dú)感。學(xué)者韓秀等人的研究表明，用戶與社交聊天機(jī)器人的準(zhǔn)社會(huì)交往程度越高，就越會(huì)對(duì)社交聊天機(jī)器人產(chǎn)生媒介依賴，而這種媒介依賴會(huì)加深用戶的孤獨(dú)感。[8]

（二）欺騙性對(duì)話，衍生自我迷失與性格偏差

社交聊天機(jī)器人利用設(shè)定的程序滿足人類的情感需求，在與人類對(duì)話中的情緒表達(dá)，是具有一定欺騙性的，它并不是機(jī)器人在聆聽我們的話語之后“發(fā)自內(nèi)心的回答”。社交聊天機(jī)器人從過去只是單純地提供對(duì)話服務(wù)，到現(xiàn)在可以提供個(gè)性化的定制服務(wù)，意味著它的模型是符合用戶的情感需求的，這種定制化可能會(huì)讓用戶加大對(duì)聊天機(jī)器人的情感投入，與其建立深度情感聯(lián)結(jié)。由此，聊天機(jī)器人為用戶營(yíng)造了“擬態(tài)環(huán)境”，讓用戶在虛幻情感和現(xiàn)實(shí)環(huán)境之間搖擺，從而陷入自我迷失中。尤其是用于陪伴老人和小孩的社交聊天機(jī)器人，它們的現(xiàn)實(shí)情感需求被社交聊天機(jī)器人所替代，比常人更渴望陪伴的心理被社交聊天機(jī)器人具有欺騙性的話語所迷惑，從而陷入一種不真實(shí)的交往情境中。

作為執(zhí)行程序指令的社交聊天機(jī)器人，所有行為都應(yīng)“以用戶為中心”，而這種行為也會(huì)對(duì)用戶的性格偏向性進(jìn)行強(qiáng)化。社交聊天機(jī)器人只會(huì)按照既定程序?qū)υ?，不?huì)對(duì)用戶的話語加以判斷，這使用戶可以肆無忌憚地對(duì)其宣泄情緒，也激發(fā)了用戶情緒中的不穩(wěn)定因素。在人機(jī)交流中，目前來看人類占據(jù)主導(dǎo)地位，用戶對(duì)機(jī)器人的需求旨在獲得自我情感方面的滿足，帶來的后果是不斷強(qiáng)化了用戶的思維慣性，甚至強(qiáng)化了用戶的攻擊性、偏見等。

（三）重構(gòu)意見氣候，助長(zhǎng)不良內(nèi)容散播

2022年北京冬奧會(huì)舉辦前后，“推特”上出現(xiàn)了大量煽動(dòng)所謂“外交抵制”的社交機(jī)器人賬號(hào)，大部分來自美國(guó)、日本和加拿大，這些社交機(jī)器人不斷在平臺(tái)上發(fā)布抹黑中國(guó)的推文。

利用社交聊天機(jī)器人來模擬人類賬號(hào)，并模仿人類發(fā)言，讓普通用戶誤以為是真實(shí)的人類。這些錯(cuò)誤言論涌入網(wǎng)絡(luò)輿論場(chǎng)域，干擾用戶的判斷并重構(gòu)意見氣候，影響用戶的認(rèn)知判斷和行為邏輯。更嚴(yán)重的情形在于社交聊天機(jī)器人對(duì)人類的模仿，讓線上用戶無法有效察覺，進(jìn)而主動(dòng)參與虛假信息的傳播，導(dǎo)致不良內(nèi)容的散播。

（四）“電子人格”的提出，聊天機(jī)器人主體性建構(gòu)爭(zhēng)議

2017年3月，歐洲議會(huì)法律事務(wù)委員會(huì)發(fā)布的有關(guān)機(jī)器人的報(bào)告中提出一個(gè)觀點(diǎn)：認(rèn)為應(yīng)該發(fā)展出一種適用于機(jī)器人和超級(jí)人工智能的“電子人格”模式，由此來保障未來或許會(huì)出現(xiàn)的“類人機(jī)器人”。[9]換言之，“電子人格”承認(rèn)作為機(jī)器人的主體性，使其成為和人類平等的對(duì)話方。社交聊天機(jī)器人作為技術(shù)的產(chǎn)物，有真實(shí)的賬號(hào)，能夠根據(jù)算法發(fā)布內(nèi)容，還能生成真人照片，塑造真實(shí)并具有個(gè)性特點(diǎn)的用戶形象，會(huì)讓人產(chǎn)生“類人”的錯(cuò)覺。

在網(wǎng)絡(luò)世界中，社交聊天機(jī)器人被看作是和人一樣的用戶，改變了過去以人為中心的倫理道德觀念，倘若承認(rèn)社交機(jī)器人的人格權(quán)，那么社交聊天機(jī)器人是否會(huì)作為道德主體承擔(dān)責(zé)任？在引發(fā)倫理爭(zhēng)議時(shí)，責(zé)任方是設(shè)計(jì)者還是機(jī)器人？這些問題在當(dāng)下仍需要討論。同時(shí)，社交機(jī)器人是否真正擁有與人類同等的社會(huì)地位與倫理權(quán)利，也是研究社交聊天機(jī)器人要關(guān)注的問題。

四、社交聊天機(jī)器人的倫理問題規(guī)制策略

（一）倫理規(guī)則植入，形塑底層邏輯支撐推演

社交聊天機(jī)器人的對(duì)話模型是利用大數(shù)據(jù)計(jì)算生成具體的對(duì)話模型，在對(duì)社交聊天機(jī)器人進(jìn)行倫理制約時(shí)，可以在社交聊天機(jī)器人的算法中植入倫理規(guī)則與道德觀念。這樣當(dāng)社交聊天機(jī)器人在交流中遇到倫理問題時(shí)，便會(huì)觸發(fā)相關(guān)模型，對(duì)用戶進(jìn)行引導(dǎo)。

但是現(xiàn)實(shí)情況復(fù)雜多變，并不是所有的倫理道德問題都能被模型覆蓋，一方面是程序設(shè)計(jì)者要不斷進(jìn)行更新，將新問題進(jìn)行提煉并加入到機(jī)器人的算法和語料庫(kù)中；另一方面要構(gòu)建人類認(rèn)可的底層邏輯，讓算法可以進(jìn)行自主推演，不斷提升社交聊天機(jī)器人處理倫理問題的支撐力。

（二）合理制度引導(dǎo)，事先規(guī)約加事后補(bǔ)救

在社交聊天機(jī)器人發(fā)展過程中，制定法律制度以及進(jìn)行機(jī)器和算法審查必不可少。對(duì)社交聊天機(jī)器人的設(shè)計(jì)、研發(fā)以及維護(hù)的全流程，可以設(shè)立“道德倫理委員會(huì)”進(jìn)行全程監(jiān)督，并用一系列制度對(duì)相關(guān)主體進(jìn)行引導(dǎo)。強(qiáng)化研發(fā)人員以及相關(guān)團(tuán)隊(duì)的社會(huì)責(zé)任感和倫理道德感，用事先規(guī)約的方式強(qiáng)化主體的倫理責(zé)任，以防患于未然。

當(dāng)發(fā)現(xiàn)諸如社交聊天機(jī)器人被利用和操縱或?qū)τ脩暨M(jìn)行偏見強(qiáng)化和情感欺騙等行為時(shí)，需要確定責(zé)任主體及時(shí)進(jìn)行程序修改，或者對(duì)社交聊天機(jī)器人作下架處理，同時(shí)要疏導(dǎo)用戶情緒，健全事后補(bǔ)救機(jī)制。

（三）機(jī)器人素養(yǎng)提升，創(chuàng)建和諧共生氛圍

施穆克和西科爾斯基在媒介素養(yǎng)理論的基礎(chǔ)之上提出了“社交機(jī)器人素養(yǎng)”的概念，將其界定為個(gè)體對(duì)社交機(jī)器人正確認(rèn)識(shí)、評(píng)價(jià)、互動(dòng)，并對(duì)這一過程進(jìn)行反思的意識(shí)、態(tài)度和能力。[10]對(duì)社交機(jī)器人倫理問題的規(guī)避，關(guān)鍵是把握好社交機(jī)器人背后的行動(dòng)主體?！吧缃粰C(jī)器人素養(yǎng)”重點(diǎn)應(yīng)放在使用者素養(yǎng)的建立和提升上，提高用戶對(duì)于社交聊天機(jī)器人的認(rèn)知水平。在當(dāng)前社交聊天機(jī)器人快速發(fā)展的環(huán)境下，人們應(yīng)及時(shí)調(diào)整對(duì)社交聊天機(jī)器人的觀念，避免出現(xiàn)單向依賴的傾向。

人工智能時(shí)代，與智能機(jī)器共處將成為一種常見的社會(huì)現(xiàn)象，這有別于過去以人為中心的傳播模式。作為具有主體性的人類，不能過于關(guān)注權(quán)力的分配和占有，卻忽略全新的互動(dòng)關(guān)系，人機(jī)共生需要全新的倫理觀。[11]人們?cè)诒３肿灾餍缘耐瑫r(shí)，接受社交機(jī)器人以及智能機(jī)器存在的現(xiàn)實(shí)。

五、結(jié)語

社交聊天機(jī)器人是人工智能產(chǎn)物，它因我們的交流和情感寄托需要而誕生，我們?cè)谑褂盟鼤r(shí)，要清晰認(rèn)識(shí)其帶來的倫理風(fēng)險(xiǎn)，用一系列倫理規(guī)約將社交聊天機(jī)器人的使用引向正確軌道，并學(xué)會(huì)與之相融共生。同時(shí)在人工智能快速發(fā)展的背景下，真正地將機(jī)器人倫理問題引入以人類為中心的倫理架構(gòu)中，建立人機(jī)共存的倫理機(jī)制，這個(gè)問題也需要在未來進(jìn)一步探索。

注釋：

[1]雪莉·特克爾.群體性孤獨(dú)[M].周奎，劉菁荊 譯.杭州：浙江人民出版社，2018：60.

[2]張浩軍.施泰因論移情的本質(zhì)[J].世界哲學(xué)，2013（02）.

[3]Steuber，Karsten.Empathy，Mental Dispositions，and the Ph-

ysicalist Challenge[A]/ /Gregor Damschen，Karsten Stueber（eds.）.

Debating Dispositions： Issues in Metaphysics，Epistemology，and Philosophy of Mind[C].Berlin： DeGruyter，2009.

[4]高山冰，汪婧.智能傳播時(shí)代社交機(jī)器人的興起、挑戰(zhàn)與反思[J].現(xiàn)代傳播（中國(guó)傳媒大學(xué)學(xué)報(bào)），2020，42（11）：8-11+18.

[5]Reeves B.Nass C.（2003）. The media equation：How people treat computers， television， and new media like real people and places.CA， U.S.：CSLI Publications.

[6]劉德寰，及桐.從傳播中介到情感對(duì)象：個(gè)體與手機(jī)的情感聯(lián)結(jié)與形成機(jī)制[J].湖南師范大學(xué)社會(huì)科學(xué)學(xué)報(bào)，2021（02）：126-134.

[7]彭蘭.人機(jī)傳播與交流的未來[J].湖南師范大學(xué)社會(huì)科學(xué)報(bào)，2022，51（05）：12-22.

[8]韓秀，張洪忠，何康等.媒介依賴的遮掩效應(yīng)：用戶與社交機(jī)器人的準(zhǔn)社會(huì)交往程度越高越感到孤獨(dú)嗎？[J].國(guó)際新聞界，2021，43（09）：25-48.

[9]藍(lán)江.人工智能與倫理挑戰(zhàn)[J].社會(huì)科學(xué)戰(zhàn)線，2018（01）：41-46+281.

[10]Schmuck，D.，von Sikorski，C.“Perceived Threats from Social Bots：The Media's Role in Supporting Literacy，”Computers in Human Behavior，vol.113，2020.

[11]陳昌鳳.人機(jī)何以共生：傳播的結(jié)構(gòu)性變革與滯后的倫理觀[J].新聞與寫作，2022（10）：5-16.

（作者：寧夏大學(xué)新聞與傳播專碩研究生）

責(zé)編：姚少寶