內(nèi)容摘要:人形機(jī)器人的出現(xiàn),使人工智能的輸出由虛擬的數(shù)字世界開始走向現(xiàn)實(shí)的物理世界,由此促進(jìn)了人機(jī)共生狀態(tài)的演進(jìn)進(jìn)程。具備情感代理和行為代理功用的人形機(jī)器人突破了傳統(tǒng)的人機(jī)交互模式,尤其是人機(jī)情感交互模糊了人機(jī)主體地位的界限,為具身智能體的主體定位提供了現(xiàn)實(shí)支撐。新型交互生態(tài)顛覆了以往人機(jī)交互的技術(shù)模式和理論范式,對(duì)傳統(tǒng)的“以人為中心”的人機(jī)交互思路帶來了沖擊。基于技術(shù)層面的人機(jī)互嵌與社會(huì)層面的情感補(bǔ)償,應(yīng)從行為代理與情感代理兩個(gè)維度區(qū)分對(duì)具身智能體的規(guī)范治理措施,并跟隨技術(shù)發(fā)展步伐,面向現(xiàn)在和未來分階段作出理論和制度準(zhǔn)備,最終圍繞整體性的人機(jī)交互關(guān)系構(gòu)建智能時(shí)代良性循環(huán)的人機(jī)信任生態(tài)。
關(guān)鍵詞:人機(jī)共生人形機(jī)器人人機(jī)交互模式變革治理范式人機(jī)信任生態(tài)
中圖分類號(hào):DF0 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1674-4039-(2024)03-0143-158
引言
人形機(jī)器人,是指擁有一定的物質(zhì)實(shí)體,其外形和基本功能中包含由人工智能技術(shù)所構(gòu)建的類人生物特征,基本運(yùn)作遵循一定的社會(huì)規(guī)則且能模仿人類行為,與人類或者其他的自動(dòng)化實(shí)體進(jìn)行交流和互動(dòng)的智能機(jī)器人?!?\"〕工信部在《人形機(jī)器人創(chuàng)新發(fā)展指導(dǎo)意見》中提到,人形機(jī)器人已經(jīng)成為科技競(jìng)爭(zhēng)的新高地、未來產(chǎn)業(yè)的新賽道、經(jīng)濟(jì)發(fā)展的新引擎。1950年,人工智能(Artificial\"Intelligence,以下簡(jiǎn)稱AI)之父艾倫·圖靈首次提出“具身智能”的概念,智能行為可以被具有對(duì)應(yīng)形態(tài)的智能體通過適應(yīng)環(huán)境的方式習(xí)得?;谏墒紸I的語言模型(如ChatGPT)只能和數(shù)字世界進(jìn)行交互,而AI智能體與物理世界的交互則需要具身智能的機(jī)器人。 對(duì)于具身智能的現(xiàn)實(shí)載體———人形機(jī)器人,其最基本的特點(diǎn)是具有人類的外形特征和行動(dòng)能力,相對(duì)于工業(yè)機(jī)器人,人形機(jī)器人擁有更高級(jí)的感知交互系統(tǒng),包括傳感模塊和軟件方面(導(dǎo)航技術(shù)、智能決策等)。大模型技術(shù)拉開了機(jī)器人智能時(shí)代的序幕,人形機(jī)器人是大模型輸出智能化終端的重要載體,生成式AI技術(shù)突飛猛進(jìn)的發(fā)展加速了人形機(jī)器人的進(jìn)化,人形機(jī)器人是“具身智能”中最重要的一環(huán)。
“具身智能”的演進(jìn)加速讓人形機(jī)器人可以發(fā)揮更多價(jià)值,在大模型技術(shù)支撐下,人形機(jī)器人不再是只能送餐、擰螺絲的“工具人”,交互、陪伴等情緒功能讓人形機(jī)器人呈現(xiàn)出非工具性價(jià)值。傳統(tǒng)的工具性機(jī)器人不需要深入的人機(jī)交互,一問一答的交互即可滿足功能實(shí)現(xiàn)需求。但是,人形機(jī)器人天生自帶社交、陪伴、情感等屬性,使得人形機(jī)器人的主體屬性凸顯,人與機(jī)器人在聯(lián)合工作時(shí),不僅考慮機(jī)器的工具性,更加關(guān)注人與人形機(jī)器人之間的溝通內(nèi)容和交互關(guān)系,這顯然改變了人機(jī)交互中人的主觀期待和反應(yīng)回饋??梢钥吹?,除了工具化功用,無論是在行為輸出還是語言輸出上,“人形”+“智能化”使得機(jī)器對(duì)人所獨(dú)有的高級(jí)智慧和高級(jí)情感產(chǎn)生了一定的可替代性,顛覆了以往人機(jī)之間主體與客體的傳統(tǒng)關(guān)系,走向了人機(jī)共存與人機(jī)互惠階段。
人機(jī)共生強(qiáng)調(diào)以系統(tǒng)的思維看待人機(jī)關(guān)系,主張人與機(jī)器作為一個(gè)整體系統(tǒng)朝著共同的目標(biāo)作出優(yōu)化和進(jìn)步。進(jìn)一步,隨著通用人工智能的快速發(fā)展與普及應(yīng)用,機(jī)器的替代功能由體力為主轉(zhuǎn)向腦力為主,對(duì)于人形機(jī)器人而言,更是從腦力轉(zhuǎn)向“腦力+情緒+類人行為”的具身性。由此,在人形機(jī)器人煥發(fā)情緒互動(dòng)、智慧互補(bǔ)功能的當(dāng)下,人機(jī)共生理論在逐步走向?qū)ι鐣?huì)價(jià)值的挖掘,由此也引發(fā)了關(guān)于人形機(jī)器人主體地位、人機(jī)法律關(guān)系、人機(jī)交互規(guī)范等方面的討論。人機(jī)共生為認(rèn)識(shí)人形機(jī)器人以及人機(jī)關(guān)系提供了一個(gè)完整的理論框架, 立足于人形機(jī)器人的自身特性與大模型技術(shù)特征,本文將在人機(jī)共生視域下結(jié)合人機(jī)交互、人機(jī)共生、社會(huì)行動(dòng)者等理論范式展開對(duì)人形機(jī)器人所涉的人機(jī)關(guān)系、法律屬性、交互規(guī)范、治理路徑等方面的分析和探討。
一、人形機(jī)器人對(duì)傳統(tǒng)人機(jī)交互范式的挑戰(zhàn)
當(dāng)前,由大語言模型驅(qū)動(dòng)的人工智能體能夠自己感知、決策和行動(dòng),給人類社會(huì)的工作和生活方式帶來深刻變革,也隨之對(duì)人機(jī)關(guān)系帶來了影響和變革?;谌斯ぶ悄荏w的人形機(jī)器人將人機(jī)協(xié)作的交互模式從被動(dòng)交互變?yōu)橹鲃?dòng)交互, 人形機(jī)器人可能會(huì)形成自己的社會(huì), 并與人類和諧共存,屆時(shí),傳統(tǒng)的人機(jī)交互關(guān)系范式必然面臨顛覆。
(一)具身智能技術(shù)下人機(jī)交互的功能突破和模式革新
機(jī)器的類人功能為“機(jī)器助人”甚至“機(jī)器換人”提供了可能,對(duì)于面向人類生活的機(jī)器人,人形的價(jià)值和意義在于對(duì)人類產(chǎn)生“類人”的功能輔助和情感陪伴,在功能上表現(xiàn)為情感交互和行為代替,極大提升了人類的認(rèn)知可能性和行為自由度。
1.人形機(jī)器人的情感代理和行為代替
在人機(jī)交互維度下,具身智能技術(shù)帶來的功能突破主要體現(xiàn)為機(jī)器可以全方位成為人類的情感或行為代理,即人類向機(jī)器發(fā)生了超越工具屬性的功能轉(zhuǎn)移。如果,此前人形機(jī)器人的技術(shù)進(jìn)步主要體現(xiàn)在工程和機(jī)械上,那么,現(xiàn)在大模型則使得人形機(jī)器人的智慧能力發(fā)生了質(zhì)變,正在助推人形機(jī)器人跨過關(guān)鍵的技術(shù)難關(guān)。大模型技術(shù)為創(chuàng)造通用人工智能的硬件和軟件提供了基礎(chǔ),邁出了通用人工智能道路的第一步,接下來的兩步進(jìn)階,分別是AI智能體和具身智能。人形機(jī)器人等初級(jí)具身智能的出現(xiàn),使得人類在功能、意志力、責(zé)任與信任等方面逐步向機(jī)器遷移?!?'〕功能轉(zhuǎn)移體現(xiàn)在機(jī)器被賦予人類的肢體功能、感官功能和思維功能等,意志力轉(zhuǎn)移表現(xiàn)為機(jī)器的設(shè)計(jì)和使用反映人類的需求和意愿。在功能轉(zhuǎn)移和意志轉(zhuǎn)移的基礎(chǔ)上,人機(jī)之間發(fā)生了責(zé)任與信任的轉(zhuǎn)移,這主要呈現(xiàn)在人機(jī)交互生態(tài)中,人類在創(chuàng)造和使用機(jī)器的過程中不斷加深對(duì)機(jī)器的信任,將自己的意志或行為意向交付給機(jī)器完成,與此同時(shí)也將自身的責(zé)任屬性轉(zhuǎn)移給機(jī)器,最終使機(jī)器在不同層次、不同程度上承擔(dān)一定的道德責(zé)任、倫理責(zé)任甚至法律責(zé)任?!?'〕同時(shí),在人類向機(jī)器遷移的過程中,機(jī)器也在反作用于人類,高度智能化與靈活性的具身智能體也對(duì)人類的生命機(jī)體、社會(huì)機(jī)體與精神機(jī)體產(chǎn)生增強(qiáng)或代理作用,豐富了社會(huì)表達(dá)、提高了價(jià)值創(chuàng)造。由此,人機(jī)在雙向作用中逐漸形成相互促進(jìn)、相互塑造、相互制約的作用機(jī)制,形成價(jià)值共創(chuàng)的交互生態(tài)。
具體來說,人機(jī)之間的功能轉(zhuǎn)移最終導(dǎo)致機(jī)器對(duì)人的情感代理和行為代替。第一,情感代理。在人形機(jī)器人的開發(fā)過程中,仿真情感的程序編寫是一個(gè)關(guān)鍵的環(huán)節(jié)。人形機(jī)器人給人類社會(huì)帶來的最突出的影響是,將人工智能從工具功能效用進(jìn)階到情感交互功能,主要體現(xiàn)在以下三個(gè)方面:一是人與人形機(jī)器人情緒的同化。機(jī)器的高級(jí)智能化體現(xiàn)在對(duì)人類情緒、情感的感知與應(yīng)對(duì)。人形機(jī)器人不僅可以識(shí)別、分析、模仿人類的情緒和情感變化,還可以對(duì)人類情緒作出反應(yīng),從而實(shí)現(xiàn)人機(jī)情緒和情感的共享。二是人形機(jī)器人的情緒補(bǔ)償。人形機(jī)器人的情感補(bǔ)償源于具身效應(yīng)與替代陪伴,情感陪伴甚至全方面守護(hù)必然是人形機(jī)器人未來的重要發(fā)展方向。由于類人的外形和擬人的感情輸出,人類會(huì)出于情感交流本能對(duì)人形機(jī)器人產(chǎn)生情感依戀,甚至將人形機(jī)器人視為真實(shí)的個(gè)體,成為“替代性的身體”。三是人與人形機(jī)器人開始呈現(xiàn)意義生成與意念交互:其一,人類正在對(duì)具身智能產(chǎn)生更大的信任,人類對(duì)機(jī)器的道德信任會(huì)隨著擬人化外觀的變化而變化。〔4\"〕同時(shí),隨著公民數(shù)字素養(yǎng)的提升、算法透明度的落實(shí),人類對(duì)機(jī)器的感知和理解程度更高,從而更加信任機(jī)器對(duì)自己的行為,而人機(jī)之間的“意義生成”即根植于人對(duì)機(jī)器的充分信任。其二,行為代替。在外部硬件上,人形機(jī)器人由四部分組成:(1)生命系統(tǒng),主要支撐平衡、步行、發(fā)聲、身體擺動(dòng)、感覺、表情、調(diào)節(jié)運(yùn)動(dòng)等。(2)造型解質(zhì),主要支撐關(guān)節(jié)自由運(yùn)動(dòng)。(3)人造肌肉,主要用于呈現(xiàn)肉體、靜脈、性別等身體的各種形態(tài)。(4)人造皮膚,主要包括膚色、機(jī)理、輪廓、頭發(fā)、視覺、牙齒、手足等。由此,當(dāng)人類向人形機(jī)器人下達(dá)執(zhí)行指令,接收并處理命令信號(hào)后的機(jī)器信息處理系統(tǒng)便會(huì)控制上述外部硬件做出相應(yīng)的表情、行為或動(dòng)作。由此也意味著,人形機(jī)器人可以代替人做出行動(dòng),事實(shí)上成為人類行動(dòng)的代理人。那么,一旦某個(gè)行為被做出,除了對(duì)個(gè)人生活產(chǎn)生影響,也極可能產(chǎn)生對(duì)應(yīng)的法律意義和社會(huì)意義,例如,代替人類發(fā)出要約甚至簽署合同、代替人類網(wǎng)上購(gòu)物、代替人類與第三方交談等,人形機(jī)器人也由此成為社會(huì)參與的行動(dòng)者。
2.人與人形機(jī)器人交互模式的變革
相較于以往的人機(jī)交互生態(tài), 人形機(jī)器人等具身智能在交互模式的創(chuàng)新上主要體現(xiàn)在兩個(gè)方面:第一,人機(jī)交互方式的變革。人與人形機(jī)器人的交互方式從界面應(yīng)答轉(zhuǎn)變?yōu)槎嗄B(tài)互動(dòng)。人形機(jī)器人的服務(wù)模式和行為表現(xiàn)已經(jīng)顛覆了當(dāng)前人機(jī)之間的信息輸入和輸出模式,交互方式呈現(xiàn)出多元化與多模態(tài)特點(diǎn),從人機(jī)之間單一的信息交流轉(zhuǎn)向視覺、聽覺、觸覺、味覺等五官感知性的輸入與輸出,也走向了與虛擬現(xiàn)實(shí)、增強(qiáng)現(xiàn)實(shí)等相結(jié)合的多模態(tài)交互?!?(〕隨著人工智能技術(shù)的升級(jí)迭代,包括人形機(jī)器人在內(nèi)的虛擬人將具備自主交互能力。相應(yīng)地,人機(jī)交互內(nèi)容已經(jīng)從界面交互發(fā)展到信息交互,而人形機(jī)器人的出現(xiàn),又促使人機(jī)從信息交互進(jìn)階到情感交互。第二,人機(jī)交互生態(tài)的變革。人與人形機(jī)器人的共生狀態(tài)由“人機(jī)共存”升級(jí)為“人機(jī)嵌生”。1960年,約瑟夫·利克萊提出了“人與計(jì)算機(jī)共生”的概念(Man-computer\"Symbiosis),他認(rèn)為計(jì)算機(jī)并不是要代替人的大腦,二者不是取締關(guān)系,而是一種共生關(guān)系,人和機(jī)器可以協(xié)同合作去應(yīng)對(duì)解決復(fù)雜問題。由此,人機(jī)共生必然是人類與計(jì)算機(jī)的預(yù)期發(fā)展方向,人機(jī)可以作為合作伙伴并相互受益?!?\"〕對(duì)于人形機(jī)器人與人類的共存狀態(tài),也不單單是機(jī)器獨(dú)立存在以及對(duì)人的功能輔助。隨著腦機(jī)接口技術(shù)的落地和不斷突破,人機(jī)共生狀態(tài)走向人機(jī)嵌生,即人機(jī)出現(xiàn)物理層面上的結(jié)合,表現(xiàn)為自然和人工物相混合的有機(jī)體,通過智能機(jī)器的嵌入改造人類自身的身體構(gòu)造,延展了人的智慧能力和身體極限。未來,隨著智能嵌入被廣泛應(yīng)用于疾病治療、感官延展、智能拓寬等領(lǐng)域,也將出現(xiàn)“半機(jī)械人”的存在。在倫理學(xué)研究中,“后人類主義”推翻了傳統(tǒng)以“人”為中心的認(rèn)識(shí)論和倫理學(xué)概念,承認(rèn)了非人類實(shí)體,強(qiáng)調(diào)物種間的“共生共棲”。〔7\"〕相較于傳統(tǒng)人機(jī)交互視野下對(duì)“類人機(jī)器人”的研究視野,人機(jī)嵌生為機(jī)器的主體性探討提供了現(xiàn)實(shí)基礎(chǔ),在倫理規(guī)則角度也存在“后人類主義”的影響。
(二)具身性對(duì)人機(jī)交互中“以人為中心”理念的顛覆
以往的人機(jī)交互范式和理論均著重強(qiáng)調(diào)“以人為中心”,然而,隨著人工智能技術(shù)的發(fā)展,基于新型的人—人形機(jī)器人交互模式,具身智能開始具有高水平的人機(jī)交流性,“以人為中心”的思維和理論面臨挑戰(zhàn)。
1.“ 以人為中心”的理念沿革
關(guān)于智能機(jī)器對(duì)人類的作用和影響,長(zhǎng)期以來存在兩大陣營(yíng):人工智能和智能增強(qiáng)(Intelligence-Augmentation,以下簡(jiǎn)稱IA)。前者主張機(jī)器可模擬與可替代人類,后者則認(rèn)為,機(jī)器應(yīng)當(dāng)服務(wù)于改善和增強(qiáng)人類的智慧和能力,強(qiáng)調(diào)以人為本,主張人機(jī)交互、人機(jī)共存?!?-〕在實(shí)踐中,自人機(jī)交互概念誕生之初到現(xiàn)在,“以人為中心”,即“機(jī)器服務(wù)于人類”,是技術(shù)創(chuàng)新和技術(shù)設(shè)置的主流核心理念,該理念作為根本價(jià)值內(nèi)核深嵌于不同階段的人機(jī)交互范式。1983年,斯圖爾特·卡德在其著作中深度闡釋了“人機(jī)交互”概念,〔9-〕研究用戶與系統(tǒng)之間的交互關(guān)系,關(guān)注機(jī)器與用戶之間相互作用的方式,以使得技術(shù)更好地為人類服務(wù)。由此,當(dāng)前人機(jī)交互的技術(shù)設(shè)計(jì)理念主要遵循人機(jī)交互與協(xié)同計(jì)算理論,在人機(jī)共生與“以人為中心”的交互關(guān)系理念下,以及在IA與AI交叉融合的視野下,人機(jī)交互關(guān)系又進(jìn)一步衍生出人機(jī)共協(xié)計(jì)算理念。人機(jī)共協(xié)理念更關(guān)注人在人機(jī)關(guān)系中的主導(dǎo)地位,在人工智能應(yīng)用中優(yōu)先考慮人類的結(jié)果,讓技術(shù)作為自然的管家為人類服務(wù)。人機(jī)共協(xié)計(jì)算融合了東方哲學(xué)中的“中庸”概念,在此概念下的人機(jī)交互可稱為有機(jī)協(xié)同交互,代表一種所期待的最佳平衡狀態(tài),在這種均衡狀態(tài)下,計(jì)算機(jī)技術(shù)不僅用來完成某些預(yù)想的工作任務(wù),更在于通過完善和提高人類的能力及潛力,從而擴(kuò)展人類集體認(rèn)知與人性的邊界。〔107〕從技術(shù)治理維度而言,人形機(jī)器人的技術(shù)架構(gòu)和交互模式契合人機(jī)共協(xié)計(jì)算理念。人形機(jī)器人的進(jìn)化路徑是從固定到移動(dòng)、從獨(dú)立到協(xié)作、從單一到通用。對(duì)于人形機(jī)器人而言,在其可獨(dú)立運(yùn)作的情況下也將人的作用或認(rèn)知能力引入機(jī)器智能,形成人機(jī)協(xié)同的混合增強(qiáng)智能。〔11-〕人機(jī)共生為如何思考設(shè)計(jì)、支持人—人形機(jī)器人交互提供了一個(gè)根本性的定位,硬件構(gòu)成作為認(rèn)知的“外部資源”,與作為認(rèn)知“內(nèi)部資源”的人腦形成協(xié)作,使人的思維與整個(gè)環(huán)境及環(huán)境中的資源形成聯(lián)動(dòng)?!?2-〕在人機(jī)聯(lián)動(dòng)關(guān)系中,關(guān)鍵問題是如何認(rèn)識(shí)和處理自主性、協(xié)同性和群體智能。在此視角下,人類與人形機(jī)器人之間的互動(dòng)模式為:(1)各自具備自主性。人機(jī)關(guān)系中的自主性包括人的自主性和機(jī)器的自主性。在功能維度上,人形機(jī)器人具有工作的獨(dú)立性。機(jī)器在特定條件下能夠自主地進(jìn)行行動(dòng)和決策,不需要人的干預(yù)或指示。在決策維度上,人始終具有理性的判斷力,包括人的意愿、選擇和決策的自由。人在與機(jī)器交互過程中能夠自由選擇和決定自己的行動(dòng)和決策,不受機(jī)器的控制或限制。(2)彼此存在協(xié)同性。在人機(jī)關(guān)系中,協(xié)同是指人與機(jī)器之間的合作和互動(dòng),以實(shí)現(xiàn)共同的目標(biāo),廣義上包括人-人之間、人-機(jī)器之間、機(jī)器-機(jī)器之間的協(xié)同合作,此處僅探討人-機(jī)器之間的協(xié)作。在相互作用維度上,雙方是相互加強(qiáng)的,不同于IA理論下機(jī)器單方向地增強(qiáng)人類,在人—人形機(jī)器人的使用交互中,人類也在增強(qiáng)機(jī)器,這樣雙向的作用和反作用是兩者具備協(xié)同性的體現(xiàn)。
2.人形機(jī)器人對(duì)“以人為中心”理念的挑戰(zhàn)
在具身智能體出現(xiàn)之前,以往的人機(jī)交互理論將“以人為中心”作為核心理念和基本規(guī)范,根本上遵循的是馴化理論,類似于人類對(duì)野生動(dòng)物的馴化思路。在規(guī)范層面上,對(duì)機(jī)器的治理思路主要從技術(shù)決定或社會(huì)所需視角出發(fā),著眼于人類對(duì)機(jī)器的控制權(quán)力,人與機(jī)器之間的關(guān)系厘定也采取二元對(duì)立思維,反映在法律規(guī)范上即主體與客體的區(qū)分,將機(jī)器始終定位于客體,而人類則是自主認(rèn)知和社會(huì)行動(dòng)的唯一主體。據(jù)此,在人機(jī)關(guān)系的權(quán)力分配中,“人在回路”理念(Human+in+the+Loop)強(qiáng)調(diào)人應(yīng)當(dāng)作為主導(dǎo)者和控制者,該理念對(duì)應(yīng)的規(guī)則被內(nèi)化為工程設(shè)計(jì)中的基本原則,催生了“關(guān)注人類因素的工程設(shè)計(jì)”以及研究特定工程設(shè)計(jì)之用戶體驗(yàn)或?qū)θ祟愑脩糁绊懙墓ばW(xué)?!?3+〕然而,隨著機(jī)器行為學(xué)的興起,尤其是具身智能體的出現(xiàn)和應(yīng)用,智能機(jī)器也可以作為現(xiàn)實(shí)的自主決策者和社會(huì)行動(dòng)者參與到社會(huì)公共生活中,由此進(jìn)入社會(huì)主體和法律主體的視野。人類可能不再是唯一的行動(dòng)主體,由此給以往的傳統(tǒng)人機(jī)交互關(guān)系帶來了顛覆性挑戰(zhàn)。事實(shí)上,伴隨著人工智能體的廣泛擴(kuò)展與應(yīng)用,人機(jī)交互在技術(shù)層面達(dá)成了虛實(shí)共融,現(xiàn)實(shí)層面形成了人機(jī)共生,社會(huì)層面實(shí)現(xiàn)了價(jià)值共創(chuàng)?!?4+〕人形機(jī)器人也不再只具有工具化的功用,而是呈現(xiàn)出模仿人類的特征,人機(jī)之間的主體邊界受到了沖擊,傳統(tǒng)的人機(jī)交互范式和交互理念理應(yīng)有所變革。面對(duì)具身智能體可以呈現(xiàn)出人類情感的特征,機(jī)器的自主性、智能化和情感化應(yīng)當(dāng)被正視,當(dāng)前社會(huì)規(guī)范體系下機(jī)器的屬性和地位也需要被重新審視和定義?!?5+〕針對(duì)人形機(jī)器人的硬件結(jié)構(gòu)和行為表現(xiàn),人機(jī)交互的技術(shù)研究已由程序語言和圖形界面轉(zhuǎn)向自然語言和多模感官,相應(yīng)地,人機(jī)交互的價(jià)值研究也從工具經(jīng)濟(jì)價(jià)值轉(zhuǎn)向情感價(jià)值和社會(huì)影響,人機(jī)的主體界限愈加模糊。由此,在社會(huì)維度下,類人機(jī)器在社會(huì)中的參與地位與行動(dòng)影響決定著人機(jī)之間的交互關(guān)系,對(duì)人機(jī)關(guān)系中機(jī)器的定位研究也從“以人為中心”轉(zhuǎn)向探討機(jī)器的主體性。面對(duì)強(qiáng)人工智能時(shí)代的到來,“以人為中心”理念的核心地位遭到了撼動(dòng)。
(三)人—人形機(jī)器人共生關(guān)系的特殊形態(tài)
人與人形機(jī)器人的交互具有一定的類似于人際交往的屬性,但又有其交互特性。人形機(jī)器人可以為人類提供具身陪伴與情感交流,在法律規(guī)范層面上,人機(jī)關(guān)系的主客體二分結(jié)構(gòu)面臨著沖擊,人與人形機(jī)器人的交互關(guān)系結(jié)構(gòu)也出現(xiàn)了整體性變遷。
1.人機(jī)共生的共融與共榮
人工智能時(shí)代的人機(jī)共生具有復(fù)雜的關(guān)系特征,表現(xiàn)為合作與競(jìng)爭(zhēng)共存。當(dāng)前,人機(jī)共生關(guān)系主要有三種模式:工具型偏利共生、競(jìng)爭(zhēng)型偏害共生以及伙伴型互利共生?!?6+〕人機(jī)關(guān)系的競(jìng)爭(zhēng)性主要體現(xiàn)在勞動(dòng)力維度上,產(chǎn)業(yè)協(xié)同中機(jī)器對(duì)人的可替代性激發(fā)了資源競(jìng)爭(zhēng)。我們對(duì)人形機(jī)器人的功能期待主要是具身性的陪伴和交流,人機(jī)關(guān)系建構(gòu)致力于實(shí)現(xiàn)互利共生,即人形機(jī)器人扮演人類合作者而非競(jìng)爭(zhēng)者的角色。隨著具身人工智能的出現(xiàn)與普及,未來高度智能化的人類社會(huì)中人機(jī)關(guān)系將呈現(xiàn)出人機(jī)共融與共榮的普遍形態(tài)。從社會(huì)發(fā)展與人類生活視角來看,在未來,具身智能體有望進(jìn)入千家萬戶,一個(gè)人類與具身智能體共生共存的社會(huì)生態(tài)正在形成。元數(shù)據(jù)是人工智能進(jìn)化的基本單位,通過信息技術(shù)智能機(jī)器與人類的準(zhǔn)社會(huì)化交往,碳基生物和硅基生物在語言表達(dá)、認(rèn)知模式、思維方式、邏輯鏈條等方面進(jìn)行深入且全面的融合,人機(jī)之間的交互關(guān)系也日益復(fù)雜與密不可分。基于人形機(jī)器人的情感陪伴和具身特性,人類極易把機(jī)器人當(dāng)作真實(shí)的人。對(duì)此,在人機(jī)雙向反饋的循環(huán)機(jī)制下,一方面智能機(jī)器會(huì)持續(xù)性地進(jìn)行功能優(yōu)化,另一方面人類則被賦予更高程度的認(rèn)知可能性和行為自由度。據(jù)此,人機(jī)共融共榮下的人機(jī)交互特點(diǎn)主要體現(xiàn)在兩個(gè)方面:一是意向性融合,即超越當(dāng)前形式化的人機(jī)交互,人機(jī)將在意向性上發(fā)生融合。二是人—環(huán)境—技術(shù)的整體融合,即超越單純的人機(jī)之間的融合,技術(shù)環(huán)境也使得人機(jī)融合系統(tǒng)呈現(xiàn)自組織、自由化、它組織和互適應(yīng)的特點(diǎn)。〔17#〕
2.人機(jī)共生關(guān)系的整體性
人機(jī)共生強(qiáng)調(diào)以系統(tǒng)的思維看待人機(jī)關(guān)系,主張人與機(jī)器作為一個(gè)整體系統(tǒng)朝著共同的目標(biāo)作出優(yōu)化和進(jìn)步。在認(rèn)知能力上,通用人工智能提供了激發(fā)類群智能和人類創(chuàng)造性意識(shí)的潛質(zhì),具有關(guān)系超越性、認(rèn)知超越性和智能超越性?!?8#〕人機(jī)交互的意向目標(biāo)是群體智能,即多個(gè)機(jī)器或機(jī)器與人類組成的群體共同協(xié)作和智能化的能力, 包括人的智能與機(jī)器的智能。人的智能是指人類在思維、學(xué)習(xí)、創(chuàng)造和問題解決等方面的能力,而機(jī)器的智能是指機(jī)器在模擬人類智能的過程中表現(xiàn)出來的能力。在人機(jī)共生視域下,人形機(jī)器人的技術(shù)架構(gòu)和交互模式契合人機(jī)共協(xié)計(jì)算理念,即人與機(jī)器之間互相作用、互相增強(qiáng),在功能優(yōu)化和行為表現(xiàn)上密不可分。由此,在人機(jī)已經(jīng)建立了穩(wěn)定的交互關(guān)系基礎(chǔ)上(人機(jī)信任機(jī)制),當(dāng)人類一旦穿越“恐怖谷效應(yīng)”,就會(huì)與虛擬人建立心理上的共鳴鏈接,〔19#〕甚至產(chǎn)生行為依賴和控制。例如,戴維·萊維在其著作《與機(jī)器人的性與愛》中指出,機(jī)器智能伴侶的出現(xiàn)會(huì)使人類對(duì)于機(jī)器的關(guān)系認(rèn)知不再是主仆關(guān)系,人類甚至在性與愛方面求助人工智能。〔20#〕目前,在碳基生命主導(dǎo)社會(huì)規(guī)范的背景下, 法律關(guān)系結(jié)構(gòu)與規(guī)范模式主要遵循主體與客體二分的基本思路。然而,在人工智能應(yīng)用智能化和情感交互不斷進(jìn)階的當(dāng)下和未來,碳基生命與硅基生命各有所長(zhǎng)且互相增強(qiáng),法律層面一味強(qiáng)調(diào)人機(jī)主客體之分的“對(duì)立思維”本質(zhì)上違背了人工智能技術(shù)發(fā)展的底層邏輯。因此,人機(jī)之間的法律建構(gòu)關(guān)系,不應(yīng)僅局限于主客體的二分之爭(zhēng)。人機(jī)共生關(guān)系之間的權(quán)力分配思維應(yīng)轉(zhuǎn)向?qū)θ藱C(jī)關(guān)系的重構(gòu),即應(yīng)當(dāng)將重點(diǎn)回歸到人機(jī)關(guān)系中人與機(jī)器各自的獨(dú)立性以及兩者基于協(xié)同增強(qiáng)呈現(xiàn)出的整體性。
二、人—人形機(jī)器人共生視域下CASA理論的革新與拓展
具身智能體具有更強(qiáng)的情感交流性和社會(huì)參與性,人機(jī)交互中“以人為中心”的思維和理論正不斷面臨新技術(shù)、新應(yīng)用的挑戰(zhàn),機(jī)器的主體性和獨(dú)立性逐步凸顯,在這一現(xiàn)實(shí)背景下,“計(jì)算機(jī)是社會(huì)行動(dòng)者”(Computers#Are#Social#Actors,以下簡(jiǎn)稱CASA)理論為解釋智能機(jī)器的主體性提供了支撐,同時(shí),鑒于概念初提時(shí)的時(shí)代局限性以及當(dāng)前人機(jī)交互模式的新特點(diǎn),針對(duì)人-人形機(jī)器人共生關(guān)系的CASA理論需作出與時(shí)俱進(jìn)的革新和拓展。
(一)具身智能時(shí)代CASA理論的嵌合
人形機(jī)器人的出現(xiàn),使人工智能技術(shù)及其應(yīng)用從工具功能進(jìn)化到涵蓋情感交互,與此同時(shí),相關(guān)的法律倫理挑戰(zhàn)也隨之而來, 促使具身性人工智能從單純的技術(shù)-工程領(lǐng)域上升到對(duì)社會(huì)規(guī)范的顛覆影響和重塑可能。20世紀(jì)90年代,納斯等人提出CASA理論,這是人機(jī)等同關(guān)系研究的基礎(chǔ)理論范式。等同關(guān)系說認(rèn)為,機(jī)器是“準(zhǔn)人類”與社會(huì)行動(dòng)者,因此計(jì)算機(jī)可以看作是人的同類?!?1#〕進(jìn)一步,如果把性格、性別、種族等人格特質(zhì)賦予機(jī)器,則會(huì)使其與人類社會(huì)進(jìn)行互動(dòng)。在具身智能時(shí)代,人類無意識(shí)地將人際交往規(guī)則運(yùn)用于與智能機(jī)器的交互過程, 即使他們知道這些機(jī)器沒有人類獨(dú)有的感覺、意圖和動(dòng)機(jī)。如前所述,相較于其他人工智能應(yīng)用,人形機(jī)器人對(duì)于人類生活的服務(wù)特點(diǎn)主要在于其具備人類獨(dú)有的社交屬性, 其外形和基本功能中包含由人工智能技術(shù)所構(gòu)建的類人生物特征,基本運(yùn)作遵循一定的社會(huì)規(guī)則且能模仿人類行為。由此,與人類進(jìn)行交流和互動(dòng)的智能機(jī)器人,一方面能夠輔助人類進(jìn)行生產(chǎn)和生活,另一方面可以作為自主實(shí)體進(jìn)入社會(huì)生活?!?2\"〕如果CASA在最初被提出時(shí),普通大眾認(rèn)為是“天方夜譚”,那么如今CASA所蘊(yùn)含的人機(jī)社會(huì)參與的平等性已經(jīng)契合當(dāng)前機(jī)器進(jìn)行社會(huì)參與的現(xiàn)實(shí)場(chǎng)景。在這一視角下,機(jī)器(包括機(jī)器、機(jī)器人、智能技術(shù)、計(jì)算機(jī)等)作為社會(huì)行動(dòng)者進(jìn)行人機(jī)交互,人類也會(huì)以社會(huì)性方式對(duì)待機(jī)器,賦予機(jī)器與人一樣的性格特征、刻板印象和規(guī)范規(guī)則,并作出判斷和推論?!?3\"〕現(xiàn)實(shí)中,具身智能機(jī)器正在被社會(huì)化建構(gòu),社會(huì)交往關(guān)系也在面臨解構(gòu),社會(huì)參與主體需要被重新界定或拓展?!耙匀藶橹行摹钡膫鹘y(tǒng)人機(jī)交互思維難以解釋當(dāng)前的人機(jī)交互現(xiàn)實(shí),這種顛覆性的結(jié)構(gòu)性變革需要重新構(gòu)建人機(jī)共生的交互規(guī)范。1999年上映的電影《機(jī)器管家》曾帶給我們?nèi)斯ぶ悄芗夹g(shù)的震撼,也使我們產(chǎn)生法律和倫理深思:世界怎么看待人類? 只有擁有了人的所有生理特征包括死亡,才可以被認(rèn)定為人嗎? 當(dāng)機(jī)器擁有人類的思考能力,擁有人類的身體器官,甚至擁有人類的情感時(shí),世界和人類又該如何看待機(jī)器? 具身智能的類人表現(xiàn)與社會(huì)參與行為從根本上改變了人類對(duì)于機(jī)器的定義,機(jī)器開始逐漸脫離作為工具的定位,而是可以作為“朋友”“伙伴”“私人助理”等社會(huì)意義上的人類角色和工作崗位,甚至當(dāng)人類的“工具屬性”(如體力勞動(dòng)權(quán)利、智力創(chuàng)造權(quán)利)被機(jī)器所替代,那么人在這些機(jī)器作業(yè)領(lǐng)域是否還具有社會(huì)參與主體的地位以及對(duì)應(yīng)的法律主體資格?這樣的人機(jī)交互生態(tài)必然顛覆傳統(tǒng)的人機(jī)交互關(guān)系。據(jù)此,具身智能的新型特點(diǎn)和治理需求給傳統(tǒng)CASA理論帶來了適用上的挑戰(zhàn)。
(二)具身智能時(shí)代CASA理論的革新
囿于時(shí)代的局限性,CASA理論內(nèi)涵也應(yīng)作出與時(shí)俱進(jìn)的調(diào)整以適應(yīng)具身智能體的技術(shù)原理與行為特征。CASA理論主要指向機(jī)器的行為意義,忽視了機(jī)器的情緒意義和人格價(jià)值。反映在具身智能體的法律定性上,CASA的理念革新應(yīng)映射和貫穿于具身智能機(jī)器的人格價(jià)值與行為意義兩個(gè)維度。
1.人格意義下人形機(jī)器人的擬人化
機(jī)器人社交屬性的特點(diǎn)在于具備傳遞情感、促進(jìn)和形成社交關(guān)系、展示個(gè)性、運(yùn)用自然的溝通線索并與人類開展社交互動(dòng)的可能性?!?4,〕目前,大型語言模型已經(jīng)能夠支持精細(xì)的情緒識(shí)別和細(xì)膩的情緒回應(yīng),給人機(jī)情感交互帶來了質(zhì)的提升,用戶通過人機(jī)交流可以獲得一定的情感慰藉?!?5\"〕情感上的高級(jí)擬人特性是人機(jī)關(guān)系等同說的根本依據(jù), 擬人特性即機(jī)器模仿人類(思維模式、行為舉止),其本質(zhì)是為了服務(wù)人類的情感訴求。現(xiàn)實(shí)中,出于情感需求與社交焦慮,AI機(jī)器、數(shù)字虛擬人等已經(jīng)成為現(xiàn)代人的心靈寄托。隨著具身智能的情感認(rèn)知層次、情緒反饋水平、具身性和人格化的不斷強(qiáng)化,人類逐漸對(duì)虛擬數(shù)字人、社交機(jī)器人、高仿人機(jī)器人等智能體產(chǎn)生了情感上的依戀。這不僅源自人類原始的情感交流渴望和兩性關(guān)系需求,也涉及現(xiàn)實(shí)情感空缺的情感補(bǔ)償。〔26,〕與此同時(shí),隨著人與機(jī)器的交互程度愈加緊密,人類也逐漸向智能機(jī)器靠攏,最終在微粒社會(huì)中只能借助機(jī)器解釋自己。〔27,〕在這個(gè)層面上,當(dāng)機(jī)器人作為人類的伙伴或朋友,或許將會(huì)有越來越多的人對(duì)機(jī)器人產(chǎn)生依賴,甚至也許會(huì)與機(jī)器人談情說愛,步入“婚姻”殿堂,組成“新式家庭”。在這種關(guān)系中,人類基本上承認(rèn)了智能機(jī)器人權(quán)責(zé)統(tǒng)一的主體地位,人與智能機(jī)器人的關(guān)系是一種地位平等、相互協(xié)作、共存共榮的主體際關(guān)系。當(dāng)然,這種關(guān)系能否成立的關(guān)鍵在于人類能否加快自身的進(jìn)化,與智能機(jī)器人共同進(jìn)步,不斷自我提升。〔28#〕目前,在技術(shù)可行性上,機(jī)器人已經(jīng)能夠感知人類情感變化或外部環(huán)境,其功能源于“類似內(nèi)分泌系統(tǒng)的多層神經(jīng)網(wǎng)絡(luò)”,因此人與機(jī)器可以實(shí)現(xiàn)情感維度的同步與同頻。據(jù)此,機(jī)器的情緒交互機(jī)制承載了自然人的人格尊嚴(yán)、人格價(jià)值以及人格權(quán)益內(nèi)容。人格權(quán)是民事主體對(duì)其特定的人格利益享有的權(quán)利,關(guān)系到個(gè)人的人格尊嚴(yán)。民法典第990條規(guī)定,自然人享有基于人身自由、人格尊嚴(yán)產(chǎn)生的人格權(quán)益。人類情感關(guān)乎人類尊嚴(yán),在這個(gè)維度上,人格權(quán)益的保護(hù)承擔(dān)一定的道德歸責(zé)功能,因此人格可以被道德屬性所評(píng)價(jià),而道德屬性無非就是情感或情感傾向,由此,機(jī)器的高級(jí)情感交互功能具備了一定的道德屬性。在道德情感主義理論下,評(píng)價(jià)性屬性不是引起(Cause)我們反應(yīng)的傾向,而是值得我們作出反應(yīng)的屬性。反應(yīng)依賴版本的感性理論等式為:X是E當(dāng)且僅當(dāng),且因?yàn)镽是對(duì)X的適當(dāng)或合適的反應(yīng)/有足夠的理由用R響應(yīng)X,〔29#〕在這一等式下審視人與機(jī)器的情感交互以及機(jī)器對(duì)應(yīng)的人格屬性,機(jī)器的人格屬性(E)對(duì)人機(jī)情感交互事實(shí)(X)的依據(jù)和支撐是機(jī)器的具身性和社交功能(R),對(duì)于人與機(jī)器人來說,R(具身性和社交價(jià)值)是唯一的。這是因?yàn)椋谌藱C(jī)情感交互原理上,一方面,機(jī)器的具身性使得人類向機(jī)器人投射情緒、愉悅感、痛苦感和關(guān)懷感;另一方面,具備社交屬性的機(jī)器人能夠感知人類情感變化或外部環(huán)境,使得人類產(chǎn)生與機(jī)器建立情感關(guān)系的欲望?!?0#〕由此,基于人機(jī)情感認(rèn)同的對(duì)等性,在具身智能與人類個(gè)體生活緊密交互的場(chǎng)景下,在一定程度上,滿足與容納人類情感寄托的人形機(jī)器人具備自然人主體的人格價(jià)值。此外,實(shí)驗(yàn)證明,人類判斷他人是否具有道德信任和責(zé)任感,很大程度上是由情感狀態(tài)(Affective#States)和代理(Agency)兩個(gè)主要因素決定的?!?1#〕因此,當(dāng)具身智能符合上述兩個(gè)要素時(shí),也相應(yīng)負(fù)載了人類社會(huì)中遵守道德的標(biāo)準(zhǔn)和履行責(zé)任的能力,而落實(shí)責(zé)任義務(wù)的前提則是具有主體屬性。
2.行為意義下人形機(jī)器人的社會(huì)化
人形機(jī)器人為人工智能體提供了“身體”,使得AI智慧能夠在實(shí)際操作中得以體現(xiàn),這也是人形機(jī)器人與只能在數(shù)字世界輸出的語言模型應(yīng)用的根本區(qū)分。海德格爾認(rèn)為,意識(shí)和意向性無法脫離人的本質(zhì)而進(jìn)行自由維度的活動(dòng)。然而,具身化的人形機(jī)器人可以通過其類人身體硬件進(jìn)行外部身體活動(dòng),其所具有的意識(shí)和意向,無論是指令型的還是自主型的,均可以通過物理的行為或動(dòng)作得到實(shí)現(xiàn)。從社會(huì)參與維度來看,在人機(jī)交互中,具身智能也在進(jìn)行著其社會(huì)化的進(jìn)程,具體表現(xiàn)為以下兩個(gè)方面:第一,社會(huì)規(guī)則在不斷對(duì)人形機(jī)器人進(jìn)行潛移默化的影響?;谌祟惙答亸?qiáng)化學(xué)習(xí)的訓(xùn)練方法,在“以人為中心”的技術(shù)設(shè)置理念下,服務(wù)于人類的智能機(jī)器被灌輸人類社會(huì)的規(guī)則,將人類的社會(huì)規(guī)則內(nèi)化為其行動(dòng)指南,機(jī)器遵循人類社會(huì)的規(guī)范規(guī)則體系進(jìn)行信息接收與處理,進(jìn)而作出決定并實(shí)施行動(dòng)。人形機(jī)器人物理輸出的外在表現(xiàn)為類人的語言、表情、行為和動(dòng)作,那么,從事上述行為和動(dòng)作的過程則是具身機(jī)器的“社會(huì)化”過程。相較于人的行為規(guī)范思路,對(duì)于人形機(jī)器人行為的社會(huì)化認(rèn)知,一個(gè)相反的邏輯是,智能機(jī)器人是社會(huì)規(guī)則的規(guī)范對(duì)象,進(jìn)而是社會(huì)活動(dòng)的參與者。例如,當(dāng)人類或智能系統(tǒng)向機(jī)器下達(dá)指令時(shí),如果指令所意向的行為本身符合社會(huì)規(guī)范(道德、法律等),那么在機(jī)器準(zhǔn)確理解與恰當(dāng)落實(shí)行為的情況下,機(jī)器所代理的人類行為理應(yīng)具有其社會(huì)規(guī)范意義。第二,人與人形機(jī)器人在情緒和情感上存在同化與同頻的傾向與意向。同樣地,在“以人為中心”的人機(jī)交互理念下,本質(zhì)上也是技術(shù)設(shè)計(jì)者對(duì)機(jī)器的擬人化設(shè)置。具身智能出于對(duì)人類的迎合和配合所做出的行為、動(dòng)作和表情,也會(huì)反過來導(dǎo)致人類認(rèn)為機(jī)器是同真實(shí)自然人一樣的社會(huì)行動(dòng)者,進(jìn)而在心理上建立同類的歸屬感。出于保護(hù)開發(fā)者的絕對(duì)主導(dǎo)地位,很多科學(xué)家對(duì)反抗人類命令的智能技術(shù)的研究開發(fā)往往淺嘗輒止,因此機(jī)器人的行為表現(xiàn)尚不完全“類人”。盡管如此,機(jī)器人行為的社會(huì)意義或社會(huì)評(píng)價(jià)的必要性源于這樣的現(xiàn)實(shí),即人類在與機(jī)器人打交道時(shí)表現(xiàn)出更大的社會(huì)責(zé)任感并產(chǎn)生不同的促進(jìn)因素?!?2#〕在考察用戶是否會(huì)將智能機(jī)器人視為社會(huì)行動(dòng)者時(shí)要求存在“社會(huì)在場(chǎng)感”,主要包括三個(gè)考察指標(biāo):感知真實(shí)性、感知心理親密性和準(zhǔn)社會(huì)交互,〔33#〕前兩個(gè)因素較易被理解,當(dāng)前的人機(jī)交互即可達(dá)到該效果。而對(duì)于“準(zhǔn)社會(huì)交互”,則是指受眾對(duì)大眾傳媒中的人物當(dāng)作真實(shí)人物作出反應(yīng),當(dāng)前現(xiàn)實(shí)場(chǎng)景中發(fā)生的人機(jī)交互狀況在趨向于該標(biāo)準(zhǔn),即當(dāng)工具功能和聊天功能融合、疊加時(shí),人和智能機(jī)器便可以共構(gòu)一種新型的準(zhǔn)社會(huì)交往場(chǎng)景?!?4#〕從傳播學(xué)角度來說,社交媒體正在從由人主導(dǎo)向“人+社交機(jī)器人”的共生狀態(tài)發(fā)展。社交機(jī)器人可通過各種計(jì)算機(jī)腳本與程序?qū)W習(xí)、模仿人類生物特征,自主創(chuàng)建和發(fā)布內(nèi)容,身份存在已經(jīng)從傳播中介發(fā)展為傳播主體,成為社交媒體中重要的社會(huì)行動(dòng)者?!?5#〕類比以上場(chǎng)景,這也是人形機(jī)器人與人在情感交互上可以達(dá)到的水平。得益于情感計(jì)算技術(shù)賦予的情感勞動(dòng)能力,智能機(jī)器人能夠精準(zhǔn)地識(shí)別用戶的情感需求,并提供相應(yīng)的回應(yīng)和支持,為用戶提供精神支持和情感陪伴,為袒露心聲的個(gè)體帶來情緒價(jià)值,促進(jìn)用戶與機(jī)器人之間建立深厚的情感聯(lián)系。事實(shí)上,智能機(jī)器成為數(shù)字時(shí)代紓解情感失調(diào)的代償性工具。綜上所述,基于對(duì)行為失范現(xiàn)象的理性觀察和深刻了解,無論是機(jī)器人的行為輸出對(duì)社會(huì)規(guī)則的遵循,還是人類目前在社交領(lǐng)域?qū)τ跈C(jī)器人(情感)語言輸出的認(rèn)同和互動(dòng),都為人形機(jī)器人在行為意義上成為社會(huì)參與者和行動(dòng)者提供了現(xiàn)實(shí)支撐。
(三)CASA框架下技術(shù)-工程維度向社會(huì)規(guī)范維度的映射
誠(chéng)然,強(qiáng)人工智能時(shí)代尚未真正到來,全自主智能體仍處于概念階段。目前的人工智能仍采用離線認(rèn)知的方式,人類與機(jī)器具身交流的愿望還未實(shí)現(xiàn)。但是,人形機(jī)器人的出現(xiàn)與發(fā)展預(yù)示了未來硅基生命的社會(huì)化和主體性的萌芽,“恐怖谷效應(yīng)”開始籠罩于人類社會(huì)?!?6#〕一方面,人形機(jī)器人能夠理解和解釋人類的意圖和需求,以及通過有效的溝通和合作機(jī)制與人類進(jìn)行交互;另一方面,人類應(yīng)當(dāng)向人形機(jī)器人投射正向的情緒、理性的認(rèn)知、正確的價(jià)值等,警惕向機(jī)器釋放人性本能中的惡,正如同以往“互聯(lián)網(wǎng)不是法外之地”的法治理念一樣,“人工智能技術(shù)及應(yīng)用也不是法外之地”?;叵牖ヂ?lián)網(wǎng)興起之初,由于網(wǎng)絡(luò)法治體系尚不健全,網(wǎng)絡(luò)空間中信息內(nèi)容良莠不齊,一些在現(xiàn)實(shí)中被社會(huì)否定的錯(cuò)誤價(jià)值觀轉(zhuǎn)移到網(wǎng)絡(luò)中并被傳播,對(duì)歷史虛無主義、娛樂至死傾向、網(wǎng)絡(luò)暴力、暴力色情內(nèi)容、低俗虛假信息等的管控存在不足。不少網(wǎng)民把網(wǎng)絡(luò)當(dāng)成法外之地,隨心所欲地發(fā)布不負(fù)責(zé)任、不符合主流價(jià)值觀的言論?!?7#〕因此,必須借鑒互聯(lián)網(wǎng)治理之初的經(jīng)驗(yàn)和教訓(xùn),對(duì)于當(dāng)前人工智能應(yīng)用中的不良傾向須提前遏制和預(yù)防,〔38#〕人機(jī)交互則是下一個(gè)非常重要的價(jià)值觀戰(zhàn)場(chǎng)。既然機(jī)器的智能水平和行為能力可能對(duì)社會(huì)秩序帶來擾亂或影響,那么也應(yīng)當(dāng)對(duì)應(yīng)合理且可行的法律評(píng)價(jià)?!?9#〕由此來看,尤其是在通用人工智能時(shí)代,在人機(jī)交互中,人應(yīng)當(dāng)是理智且克制的,不應(yīng)在人與機(jī)器的交互中放任自己的主觀惡意、試圖做出違法悖德之事并以機(jī)器所為為由來規(guī)避法律責(zé)任。對(duì)此,應(yīng)當(dāng)恰當(dāng)界定群體智能中人和機(jī)器各自的法律地位和功能定位,即在厘清人工智能治理導(dǎo)向的基礎(chǔ)上合理界定機(jī)器的自主性與確立人的主導(dǎo)性。
三、CASA理論范式下具身智能的規(guī)范治理路徑:面向現(xiàn)在與展望未來
目前,人形機(jī)器人尚未達(dá)到人類預(yù)期的高度智能化與自主性水平。未來,當(dāng)具身智能取得關(guān)鍵性進(jìn)展后,則可能突破人機(jī)邊界,引發(fā)機(jī)器主體性、人機(jī)共生倫理的一系列探討,給既有的法律體系和倫理規(guī)則帶來顛覆性挑戰(zhàn)。由此,人形機(jī)器人的規(guī)范治理路徑應(yīng)當(dāng)是分階段的,一方面要在現(xiàn)有規(guī)范體系下拓展法律適用以解決當(dāng)前的問題,另一方面理論研究和制度構(gòu)建應(yīng)當(dāng)未雨綢繆,為未來可能到來的具身智能時(shí)代作好充分的準(zhǔn)備。
(一)當(dāng)前規(guī)范體系:人形機(jī)器人法律屬性的維度區(qū)分與治理思路
人形機(jī)器人的真實(shí)情感表達(dá),從外在上模糊了人機(jī)的主體界限,反映在規(guī)范層面上即人形機(jī)器人的法律屬性究竟是否已經(jīng)超越了法律客體的定位,是否一定程度上可作為法律主體被審視和被規(guī)范。在CASA理論范式下,人形機(jī)器人作為社會(huì)行動(dòng)者,無論是獨(dú)立行動(dòng),還是與人類的交互,均有其社會(huì)影響和意義,應(yīng)當(dāng)在規(guī)范層面有所體現(xiàn)。
1.行為代理視角下人形機(jī)器人主體地位的不可行性
強(qiáng)弱人工智能的區(qū)分在于是否具有意向性,是否具有類腦的意識(shí),是否能夠自主進(jìn)行決策。相較于其他人工智能機(jī)器或應(yīng)用,基于人工智能體和腦機(jī)接口的人形機(jī)器人在“意思表示”能力上往前更進(jìn)了一步,對(duì)傳統(tǒng)意思表示理論也有了一定的突破和超越。人類在感知環(huán)境后,大腦會(huì)對(duì)感知到的信息進(jìn)行整合、分析和推理,進(jìn)而作出決策,然后,人類利用神經(jīng)系統(tǒng)控制自己的身體,做出適應(yīng)環(huán)境或創(chuàng)造性的行動(dòng)。對(duì)比來看,當(dāng)人工智能體擁有類似大腦的結(jié)構(gòu),具備知識(shí)、記憶、推理、規(guī)劃和概括能力以及多模態(tài)感知能力時(shí), 人形機(jī)器人也有望擁有類似人類的各種行動(dòng)來應(yīng)對(duì)周圍環(huán)境。在智能體的構(gòu)建過程中,行動(dòng)模塊接收大腦模塊發(fā)送的行動(dòng)序列,并執(zhí)行與環(huán)境互動(dòng)的行動(dòng)。伴隨著人工智能體的迭代升級(jí),包括人形機(jī)器人在內(nèi)的載體和功能拓展正在使人工智能從形式化、工具化領(lǐng)域走向意向性領(lǐng)域?!?0(〕事實(shí)上,如同法人或其他組織的法律行為根本上還是由自然人來作出一樣,智能機(jī)器人可作出“獨(dú)立”意思表示也不必然要求其脫離人類的控制,在當(dāng)前的學(xué)理依據(jù)和規(guī)范體系下,智能機(jī)器人具有法律主體定位仍然存在合理空間。此外,有研究發(fā)現(xiàn),對(duì)于人工智能行為主體的心智感知將影響個(gè)體對(duì)人工智能的責(zé)任歸因。對(duì)人工智能的心智水平評(píng)價(jià)越高,則越有可能將事件結(jié)果歸因于事件中的人工智能技術(shù)?!?1(〕因此,當(dāng)驅(qū)動(dòng)人形機(jī)器人行為的決策不摻雜人類意愿或影響時(shí),事實(shí)的責(zé)任主體應(yīng)當(dāng)為人形機(jī)器人。對(duì)此,存在兩個(gè)問題:一是人形機(jī)器人是否可以承擔(dān)責(zé)任?二是如果機(jī)器人不可現(xiàn)實(shí)承擔(dān)責(zé)任,在當(dāng)前的法學(xué)理論和規(guī)范體系下,應(yīng)當(dāng)由哪些主體承擔(dān)責(zé)任? 2016年, 歐洲議會(huì)向歐盟委員會(huì)提出的報(bào)告中曾建議:“確保至少最復(fù)雜的自動(dòng)化機(jī)器人可以被確認(rèn)享有電子人的法律地位,有責(zé)任彌補(bǔ)自己所造成的任何損害,并且可能在機(jī)器人作出自主決策或以其他方式與第三人獨(dú)立交往的案件中適用電子人格?!薄?2(〕這份報(bào)告雖然被不少研究者引經(jīng)據(jù)典作為支持賦予機(jī)器法律人格的論證依據(jù),但其并沒有就該法律主體設(shè)計(jì)相應(yīng)的責(zé)任能力規(guī)則?!?3(〕就目前的人工智能發(fā)展階段而言,法律不可能對(duì)機(jī)器人本身的行為產(chǎn)生現(xiàn)實(shí)影響,機(jī)器也不可能承擔(dān)其行為的法律后果,機(jī)器終究無法對(duì)人類負(fù)責(zé),由此也決定了機(jī)器不可能具備獨(dú)立的法律主體定位。例如,不可能因?yàn)榉蓪?duì)機(jī)器人確立了過失賠償責(zé)任制,就能提升其在行為時(shí)的“注意水平”;也不可能對(duì)犯罪的機(jī)器人作出刑事處罰,刑事處罰手段的懲罰性和威懾效應(yīng)如限制人身自由、剝奪財(cái)產(chǎn)等對(duì)機(jī)器人來說無現(xiàn)實(shí)作用力。此外,機(jī)器無法獨(dú)立承擔(dān)行為的后果也會(huì)影響責(zé)任的分配效率。如果機(jī)器沒有承擔(dān)責(zé)任的能力(獨(dú)立的財(cái)產(chǎn)等),那么不論是侵權(quán)或是違約帶來的賠償責(zé)任等,其實(shí)都需要鏈接到其他主體上來完成最終的責(zé)任分配?!?4\"〕例如,對(duì)于AI決策的刑事歸責(zé),AI的可解釋性除了需要具有行為上的違法性,還需要體現(xiàn)出自由意志或自主決定的主觀狀態(tài)?!?5\"〕由此可見,在當(dāng)前的規(guī)范體系下,一方面,機(jī)器不具備承擔(dān)法律責(zé)任的經(jīng)濟(jì)基礎(chǔ)和自由需求;另一方面,不承擔(dān)法律責(zé)任所對(duì)應(yīng)的法律處罰手段對(duì)機(jī)器也無法發(fā)揮實(shí)際作用。〔46\"〕由此,目前的規(guī)范體系難以解決機(jī)器作為主體承擔(dān)法律責(zé)任的問題,尤其是當(dāng)機(jī)器行為對(duì)國(guó)家、社會(huì)、公民、組織等主體進(jìn)行現(xiàn)實(shí)侵害、造成實(shí)際損害后果時(shí),對(duì)此負(fù)責(zé)或承擔(dān)救濟(jì)義務(wù)的主體還是應(yīng)當(dāng)回歸到當(dāng)前規(guī)范體系下的責(zé)任主體,包括國(guó)家、組織、個(gè)體等。
當(dāng)前,人工智能的法治規(guī)范路徑基本遵循包容審慎監(jiān)管、分層治理、敏捷治理和深度治理的基本思路,〔47\"〕對(duì)于人工智能產(chǎn)業(yè)的具體治理也區(qū)分基礎(chǔ)模型層和下游服務(wù)層的治理面向?;谏鲜鰞煞N治理面向,對(duì)于人形機(jī)器人行為的法律責(zé)任承擔(dān)問題,當(dāng)前規(guī)范體系下存在兩種救濟(jì)路徑:其一,責(zé)任承擔(dān)方是對(duì)機(jī)器人行為機(jī)制產(chǎn)生直接影響的技術(shù)程序設(shè)計(jì)者。法律應(yīng)通過對(duì)設(shè)計(jì)者這類主體施加影響,從而間接對(duì)機(jī)器人行為產(chǎn)生作用。〔48\"〕對(duì)此,主要通過人工智能的可解釋性解決人工智能相關(guān)的責(zé)任承擔(dān)問題。對(duì)于傳統(tǒng)實(shí)體產(chǎn)業(yè)而言,可解釋的人工智能成為界定人機(jī)責(zé)任的關(guān)鍵。不具有可解釋性的人工智能因無法識(shí)別實(shí)體間的義務(wù)和責(zé)任而難以被問責(zé)?!柏?zé)”的核心即預(yù)防和承擔(dān)法律責(zé)任,不具有可解釋性的人工智能自然無法實(shí)現(xiàn)法律責(zé)任的預(yù)防與自我承擔(dān)?!?9\"〕因此,對(duì)于人形機(jī)器人的行為代理問題,在基礎(chǔ)模型層階段,當(dāng)前的規(guī)范體系應(yīng)當(dāng)強(qiáng)化人工智能的事前解釋,重點(diǎn)圍繞系統(tǒng)的運(yùn)行邏輯和基本功能;在下游服務(wù)層階段,當(dāng)前的規(guī)范體系應(yīng)當(dāng)側(cè)重人工智能的事后解釋,重點(diǎn)圍繞人工智能系統(tǒng)作出決策的理由依據(jù)、運(yùn)行過程作出解釋說明。其二,責(zé)任承擔(dān)方是人形機(jī)器人的使用者或管理者,對(duì)于這一歸責(zé)思路,當(dāng)前規(guī)范體系下存在兩種進(jìn)路:一是從飼養(yǎng)動(dòng)物管理制度出發(fā),該思路基于人形機(jī)器人作為法律客體的定位??紤]到烈犬傷人的事件屢屢發(fā)生,民法典針對(duì)飼養(yǎng)動(dòng)物所產(chǎn)生的侵權(quán)責(zé)任單獨(dú)設(shè)立了第九章“飼養(yǎng)動(dòng)物損害責(zé)任”。在現(xiàn)實(shí)生活中,我們也經(jīng)??吹綄櫸锟梢月牰嗽挷凑杖说闹甘咀龀鰟?dòng)作,甚至某些品種或者受過專門訓(xùn)練的犬類可達(dá)六歲兒童的智商水平。那么,如果將人形機(jī)器人定位為“動(dòng)物”,使用者對(duì)于機(jī)器侵權(quán)行為根據(jù)民法典的相關(guān)規(guī)定承擔(dān)無過錯(cuò)責(zé)任或嚴(yán)格責(zé)任。對(duì)于該規(guī)范思路,最核心的考量是使用者對(duì)于人形機(jī)器人是否應(yīng)當(dāng)承擔(dān)管理義務(wù)。二是從監(jiān)護(hù)人制度的規(guī)范思路出發(fā),該思路基于人形機(jī)器人應(yīng)當(dāng)具備法律主體的地位。如果將人形機(jī)器人視為需要看護(hù)的“未成年人”,即“無行為能力人”或“限制行為能力人”,管理者或使用者對(duì)于高度智能化的人形機(jī)器人具有監(jiān)護(hù)義務(wù),則具備完全行為能力的特定或?qū)俚哪骋蝗诵螜C(jī)器人的使用者或管理者,應(yīng)當(dāng)對(duì)該特定人形機(jī)器人的侵權(quán)行為承擔(dān)責(zé)任。監(jiān)護(hù)人責(zé)任是一種具體的替代責(zé)任,我國(guó)立法對(duì)監(jiān)護(hù)人責(zé)任采取的是無過錯(cuò)責(zé)任原則,監(jiān)護(hù)人盡到監(jiān)護(hù)責(zé)任僅是監(jiān)護(hù)人責(zé)任的減責(zé)事由。對(duì)于該規(guī)范思路,最核心的顧慮則是使用者對(duì)于人形機(jī)器人是否應(yīng)當(dāng)承擔(dān)看護(hù)義務(wù)。總結(jié)來看,上述兩種規(guī)范思路的區(qū)分根源在于對(duì)人形機(jī)器人(具身智能)的主體或客體定位,對(duì)于主體定位,法律對(duì)人形機(jī)器人的規(guī)范定位是保護(hù);而對(duì)于客體定位,法律對(duì)于人形機(jī)器人的規(guī)范定位則是管理或監(jiān)管。當(dāng)然,是否存在對(duì)以上兩種思路的折中路徑,也是法律如何面對(duì)具身智能的一個(gè)思考方向。
2.情感代理視角下人形機(jī)器人主體地位的現(xiàn)實(shí)性
相較于其他人工智能技術(shù)及應(yīng)用,人形機(jī)器人的特殊之處不在于其工具性,而在于其情感的輸入與反饋,隨著人形機(jī)器人即將廣泛進(jìn)入個(gè)人生活領(lǐng)域,以及伴隨腦機(jī)接口、虛擬現(xiàn)實(shí)的實(shí)現(xiàn)與應(yīng)用,機(jī)器人是否具有人格的典型法律爭(zhēng)議面臨給出恰當(dāng)答案的迫切性。法律主體是指活躍在法律之中,享有權(quán)利、負(fù)有義務(wù)和承擔(dān)責(zé)任的“人”,基于此,法律主體資格大致分為權(quán)利能力、行為能力、義務(wù)能力三類要素。其中,權(quán)利能力的資格不以具備意志為前提,但要以法律的獨(dú)立尊重為前提;行為能力與義務(wù)能力則要以具備意志(意愿或自由意志)作為前提?!?0%〕現(xiàn)代法人制度通過“位格加等”把人為設(shè)置的團(tuán)體組織提升到具有一定法律位格的地位,〔51%〕除了自然人,當(dāng)前法律體系下的法律主體還包括法人與其他組織,這是源于物種位階的規(guī)范主義立場(chǎng)。法律標(biāo)準(zhǔn)與科技認(rèn)知并不一致,在技術(shù)維度上,人形機(jī)器人是對(duì)“智人”概念的模仿和擬制,然而,人形機(jī)器人“長(zhǎng)得像人”或者“表現(xiàn)得像人”并不是其獲得法律主體地位的決定因素。在法律意義上,應(yīng)當(dāng)圍繞上述法律主體的必備要素對(duì)人形機(jī)器人的主體資格作出審視。必須承認(rèn)這樣一個(gè)現(xiàn)實(shí),機(jī)器人作為產(chǎn)業(yè)協(xié)同與價(jià)值共創(chuàng)的主體性地位逐步強(qiáng)化。作為一個(gè)輔助者、協(xié)作方甚至是主導(dǎo)者,機(jī)器在人機(jī)交互協(xié)作的過程中主體性地位逐步凸顯,人形機(jī)器人更是進(jìn)一步深化了人機(jī)共生、虛實(shí)互融、以虛促實(shí)的人機(jī)交互生態(tài)。相較于其他智能機(jī)器,人形機(jī)器人的關(guān)鍵特性在于綜合能力,其中核心是大腦、小腦和肢體。大腦負(fù)責(zé)智能,小腦負(fù)責(zé)運(yùn)動(dòng)控制,肢體則負(fù)責(zé)完成具體任務(wù)。如果技術(shù)可以實(shí)現(xiàn)人形機(jī)器人具備極強(qiáng)的思考能力、判斷能力和身體控制能力,那么就可能出現(xiàn)完全自主的人形機(jī)器人,而對(duì)于完全自主的人形機(jī)器人,即具身智能,其法律主體性是非常明顯的。當(dāng)前,法學(xué)理論界反對(duì)人工智能體具備主體地位的原因主要集中于兩點(diǎn):一是機(jī)器人不能獨(dú)立作出意思表示,其意思表示是使用者意志的體現(xiàn);二是機(jī)器人不具備獨(dú)立承擔(dān)法律責(zé)任的能力,〔52%〕“負(fù)責(zé)任的AI”的最終責(zé)任承擔(dān)方是AI機(jī)器人的設(shè)計(jì)者、制造商以及使用者,相關(guān)法律規(guī)范也是針對(duì)上述主體的行為規(guī)范。然而,人類情感的載體存在人格特征,人形機(jī)器人等“虛擬人”會(huì)面臨姓名權(quán)、名譽(yù)權(quán)、隱私、個(gè)人信息等人格權(quán)益保護(hù)問題,由此存在法律保護(hù)的必要性。
元宇宙技術(shù)的應(yīng)用推動(dòng)了現(xiàn)實(shí)世界與虛擬世界的互動(dòng),加快了數(shù)字經(jīng)濟(jì)的發(fā)展,并以其獨(dú)有的新型交互式數(shù)字社會(huì)構(gòu)建技術(shù)成為新的網(wǎng)絡(luò)發(fā)展方向?!?3%〕據(jù)此,筆者認(rèn)為,在人機(jī)共生共融的時(shí)代,具身智能機(jī)器作為人類情感的代理人,機(jī)器與人的情感交互決定了機(jī)器的感情理應(yīng)被法律尊重。權(quán)利能力的資格不以具備意志為前提,但要以法律的獨(dú)立尊重為前提。例如,在元宇宙強(qiáng)奸案件中,立案的警官認(rèn)為,“由于VR游戲的體驗(yàn)是非常身臨其境的,因此她(受害者)的心理創(chuàng)傷和現(xiàn)實(shí)中的強(qiáng)奸受害者是完全一樣的”。〔54%〕通過深度學(xué)習(xí)優(yōu)化人形機(jī)器人的視覺和聽覺系統(tǒng),未來的人形機(jī)器人將擁有更加先進(jìn)的感知能力。目前,法學(xué)理論界也在探討如何保護(hù)虛擬人的主觀感受,如何尊重社交網(wǎng)絡(luò)賬號(hào)的情感價(jià)值,也由此展開了元宇宙中強(qiáng)奸行為是否成立、社交網(wǎng)絡(luò)賬號(hào)是否具備可繼承性的理論探討,〔55%〕上述研究?jī)?nèi)在的人格權(quán)益訴求與底層的規(guī)范邏輯都是如出一轍,即人類如何面臨網(wǎng)絡(luò)與信息化時(shí)代中個(gè)體情感的電子化延展及其法律保護(hù)進(jìn)路,人形機(jī)器人的人格屬性問題亦是如此。此外,借鑒對(duì)社交網(wǎng)絡(luò)賬號(hào)的一身專屬性探討視角,人形機(jī)器人同樣存在人身專屬性問題,隨著人形機(jī)器人在日常生活中的普及,家庭服務(wù)機(jī)器人可能會(huì)改變自然人的生活方式,在人機(jī)交互中也構(gòu)建了人機(jī)的情感鏈接。例如,在老年護(hù)理領(lǐng)域,人形機(jī)器人可以為老人提供日常生活照顧、健康監(jiān)測(cè)、陪伴交流等服務(wù),還可以通過社交互動(dòng)來減輕老年人的孤獨(dú)感,通過語音交流、面部表情識(shí)別和模仿人類行為,為老年人提供情感支持和社交互動(dòng),自然人個(gè)體的唯一性也決定了與之交互的機(jī)器人的唯一性(生活服務(wù)和情感載體的專屬性),由此人形機(jī)器人的數(shù)據(jù)存儲(chǔ)和交互機(jī)制也包含了特定的人格屬性。對(duì)此,應(yīng)當(dāng)根據(jù)人形機(jī)器人與用戶所形成的信任交互機(jī)制,尊重人形機(jī)器人所承載的專屬性人格權(quán)益?!?6#〕筆者認(rèn)為,如同胎兒、動(dòng)物、自然環(huán)境等新興主體的特定權(quán)益在某些特定情形下受到了法律的保護(hù)和獨(dú)立尊重,人形機(jī)器人應(yīng)當(dāng)具備一定的權(quán)利能力,在某些特定情景下可被法律作為主體進(jìn)行保護(hù)。對(duì)此,在當(dāng)前的規(guī)范框架下,一方面,從保護(hù)人類情感和保障生活便利的角度,制度建設(shè)需要強(qiáng)化數(shù)據(jù)處理規(guī)范以防范數(shù)據(jù)侵占風(fēng)險(xiǎn),同時(shí)也要保護(hù)特定個(gè)體獨(dú)有的人機(jī)交互關(guān)系;另一方面,從防范人類情感被機(jī)器控制和異化的角度,制度建設(shè)需要提升算法透明度,以降低人類對(duì)智能機(jī)器的情感依戀。
(二)未來規(guī)范路徑:獨(dú)立審視人機(jī)交互關(guān)系與重視構(gòu)建人機(jī)信任
推動(dòng)人工智能產(chǎn)業(yè)應(yīng)用的正向外部性是當(dāng)前人工智能規(guī)范治理的基本思路和指導(dǎo)思想,在法律建設(shè)層面,透明度、公平性、可解釋性、隱私保護(hù)和問責(zé)制成為負(fù)責(zé)任的人機(jī)交互系統(tǒng)設(shè)計(jì)的重要原則。
1.規(guī)范模式:從主客體二分體系到人機(jī)交互關(guān)系體系
正如歐盟議會(huì)在2020年發(fā)布的《人工智能與民事責(zé)任報(bào)告》中提到的,任何規(guī)范的適用范圍都需要精確地確定,才能達(dá)到最低限度的法律確定性?!?7*〕總結(jié)來看,在人機(jī)交互應(yīng)用中,無論是應(yīng)用于生活還是工作,人形機(jī)器人可能存在姓名權(quán)、名譽(yù)權(quán)、隱私權(quán)、個(gè)人信息權(quán)、肖像權(quán)等人格權(quán)益的法律保護(hù)需求;當(dāng)人形機(jī)器人被應(yīng)用于工作領(lǐng)域,則可能面臨知識(shí)產(chǎn)權(quán)、勞動(dòng)勞務(wù)、商業(yè)秘密等爭(zhēng)議糾紛。對(duì)于人形機(jī)器人在工作領(lǐng)域中的相關(guān)糾紛或爭(zhēng)議,尚可以在當(dāng)前勞動(dòng)法、著作權(quán)法、反不正當(dāng)競(jìng)爭(zhēng)法等規(guī)范體系下解決, 但是關(guān)于人形機(jī)器人的人格權(quán)益問題則突破了當(dāng)前規(guī)范體系下的人格權(quán)保護(hù)范疇。AI主客體之爭(zhēng)也主要聚焦于AI是否具有法律人格,關(guān)于是否賦予智能機(jī)器人法律人格的爭(zhēng)議,本質(zhì)上為“人類中心主義”和“去人類中心主義”的倫理之爭(zhēng)?!?8*〕上文已經(jīng)論證,當(dāng)前的人機(jī)交互關(guān)系已經(jīng)事實(shí)上逐步突破“以人為中心”的理念范疇,此外,在HEC框架下,人的智慧、情感、外圍能力等是在被機(jī)器增強(qiáng)的,在工具主義觀下人機(jī)共生首先追求的是人類和機(jī)器在處理同一項(xiàng)任務(wù)時(shí)的共同協(xié)調(diào)和互相協(xié)作,以此最大化人機(jī)合作的經(jīng)濟(jì)效益。事實(shí)上,人與機(jī)器的相互作用才最終呈現(xiàn)出具體的社會(huì)現(xiàn)象,而不是機(jī)器的單獨(dú)作為導(dǎo)致的。法律規(guī)范需要應(yīng)對(duì)的是具體的社會(huì)現(xiàn)象或特定的工作任務(wù),而不是單純對(duì)機(jī)器法律屬性的定性。由此,針對(duì)人-人形機(jī)器人交互中的行動(dòng)主體,我們應(yīng)當(dāng)放下人機(jī)主客之分的判斷思維,在人機(jī)共生視域下審視人機(jī)關(guān)系的相互建構(gòu),并將人機(jī)共生關(guān)系作為法律制度的規(guī)范對(duì)象,以此解決工具主義觀下責(zé)任歸責(zé)的困局。
人工智能技術(shù)及應(yīng)用由算力、算法、數(shù)據(jù)三要素支撐,在技術(shù)組成架構(gòu)上分別對(duì)應(yīng)物理層、邏輯層(或軟件層)和內(nèi)容層?!?9*〕盡管人-人形機(jī)器人之間的交互需要數(shù)據(jù)、算力、算法作為支撐,但人機(jī)交互本身并不屬于數(shù)據(jù)、算力或算法。當(dāng)前,我國(guó)針對(duì)上述三要素分別制定了對(duì)應(yīng)的法律規(guī)范。例如,針對(duì)算力的網(wǎng)絡(luò)安全法和《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》;針對(duì)算法的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》和《生成式人工智能服務(wù)管理暫行辦法》;針對(duì)數(shù)據(jù)和信息內(nèi)容的民法典人格權(quán)編相關(guān)條款、個(gè)人信息保護(hù)法、數(shù)據(jù)安全法和《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等。其中,只有《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》超越了“主體—客體”二分的規(guī)制思維,而是從整體性的網(wǎng)絡(luò)生態(tài)與技術(shù)架構(gòu)的角度入手,對(duì)人機(jī)交互界面的設(shè)計(jì)規(guī)范提出了要求?!?0#〕對(duì)于下游AI服務(wù)提供者的規(guī)范治理,我國(guó)已經(jīng)積累了豐富的監(jiān)管經(jīng)驗(yàn),包括個(gè)人信息保護(hù)、算法備案、訓(xùn)練數(shù)據(jù)合法性要求等?!?1#〕但是,對(duì)于人機(jī)交互中的法律內(nèi)涵與法律關(guān)系問題,尚未有清晰認(rèn)知和規(guī)范意識(shí),亦無法與技術(shù)規(guī)則和倫理規(guī)約形成協(xié)同。人—機(jī)器共生強(qiáng)調(diào)以系統(tǒng)的思維看待人機(jī)關(guān)系,主張人與機(jī)器行動(dòng)者作為一個(gè)整體系統(tǒng)朝著共同目標(biāo)優(yōu)化進(jìn)步。在一個(gè)互惠的合作整體中,機(jī)器行動(dòng)者(包括計(jì)算機(jī)、軟件、機(jī)器人、智能手機(jī)、XR設(shè)備等)能夠不斷學(xué)習(xí),人類的能力在機(jī)器的幫助下得到改進(jìn)和擴(kuò)展。當(dāng)前, 針對(duì)人工智能技術(shù)及應(yīng)用的規(guī)范體系尚未涉及人機(jī)交互關(guān)系以及對(duì)人機(jī)關(guān)系的整體性考察,僅是在形式上基于算法透明度原則使人參與到算法自動(dòng)化決策之中,然而,根據(jù)普通自然人的數(shù)字水平并無客觀的技術(shù)能力干涉算法最初的設(shè)計(jì)和對(duì)應(yīng)功能的設(shè)置,即使單單是理解算法也是不現(xiàn)實(shí)的,〔62#〕也就意味著,法律并不可支持人對(duì)人機(jī)交互關(guān)系的現(xiàn)實(shí)控制能力。對(duì)此,一方面,針對(duì)面向人類生活的人形機(jī)器人,規(guī)范治理應(yīng)關(guān)注人機(jī)交互關(guān)系,而非局限于機(jī)器本身可能產(chǎn)生的風(fēng)險(xiǎn);另一方面,人機(jī)交互關(guān)系的治理目標(biāo)應(yīng)當(dāng)以結(jié)果為導(dǎo)向,而不是把普通用戶牽涉進(jìn)技術(shù)設(shè)置的決策之中。
2.人機(jī)信任:從“可理解的AI”邁向“可信任的AI”
人類難以理解自動(dòng)化機(jī)器已經(jīng)成為限制人機(jī)協(xié)同控制安全實(shí)施及效能發(fā)揮的瓶頸之一,人機(jī)信任是發(fā)展人機(jī)交互有效關(guān)系的關(guān)鍵因素, 人缺乏客觀評(píng)估自動(dòng)化能力的缺陷只能通過信任來彌補(bǔ),人機(jī)信任在人機(jī)交互中的重要性得到了廣泛認(rèn)可?!白詣?dòng)化信任”,即人對(duì)自動(dòng)化的信任,已經(jīng)被確定為調(diào)節(jié)人與自動(dòng)化(機(jī)器)之間關(guān)系的關(guān)鍵因素,其作用方式與人類之間的信任相似?!?3,〕人機(jī)交互的相關(guān)法律倫理風(fēng)險(xiǎn)主要發(fā)生于人機(jī)交互場(chǎng)景中,在人機(jī)交互視野下,相對(duì)于可理解的AI,我們理應(yīng)提倡的是“可信任的機(jī)器設(shè)計(jì)與人機(jī)交互”。當(dāng)前,智能化社會(huì)中的信任關(guān)系正從人際關(guān)系拓展到人機(jī)關(guān)系,相較于人際關(guān)系,人機(jī)交互維度上人類的信任對(duì)象則是從算法再到機(jī)器?!?4#〕相較于算法透明度原則所提倡的減少算法錯(cuò)誤和歧視、強(qiáng)化算法決策問責(zé)等治理目標(biāo),〔65,〕人對(duì)機(jī)器的信任的主要目標(biāo)在于人機(jī)之間形成高效的協(xié)同工作機(jī)制。人機(jī)信任有兩個(gè)維度:一是信任機(jī)器的專業(yè)能力,例如機(jī)器人生成內(nèi)容的準(zhǔn)確性;二是信任機(jī)器的移情能力,例如隱私保護(hù)、對(duì)人類情感作出合適反饋等。在機(jī)器向人類提供服務(wù)的過程中,人類是機(jī)器信息處理的來源者?;谌诵螜C(jī)器人與人類之間的全面互動(dòng)特點(diǎn),高頻率的人機(jī)交互場(chǎng)景使得人類的隱私保護(hù)憂慮拓展到身體、心理、情緒和社會(huì)隱私等全方位的暴露風(fēng)險(xiǎn), 人與人形機(jī)器人之間的沖突矛盾仍然回歸到人對(duì)便捷高效服務(wù)的需求與隱私空間、隱私安全顧慮之間的權(quán)衡。〔66,〕此外,技術(shù)本身的不確定性所帶來的黑箱效應(yīng)引發(fā)人類對(duì)機(jī)器的恐懼感知,人對(duì)機(jī)器存在天然的不信任,天然的不信任決定了人機(jī)之間的權(quán)力關(guān)系爭(zhēng)奪,而由此引發(fā)的人機(jī)權(quán)力重構(gòu)也衍生出新的信任危機(jī)。如何保證機(jī)器系統(tǒng)的公平性和無歧視性,成為增強(qiáng)人機(jī)交互安全性和可信性的關(guān)鍵?!?7,〕
人機(jī)協(xié)同工作主要遵循兩種交互范式:決策支持和監(jiān)督控制?!?8,〕決策支持,是指智能系統(tǒng)為操作者提供了可能的選擇;監(jiān)督控制,則是指操作者監(jiān)督機(jī)器的運(yùn)行,并在其失效或出現(xiàn)意外事件時(shí)及時(shí)接管控制權(quán)進(jìn)行適當(dāng)干預(yù)。在這兩種交互范式中,很大程度上操作者是基于他們對(duì)機(jī)器的意圖及行為的理解作出正確選擇?!?9E〕對(duì)此,規(guī)范層面上應(yīng)當(dāng)從算法透明度角度更進(jìn)一步,不再只針對(duì)算法本身,還應(yīng)明確具體的主體面向,提高透明度規(guī)則的實(shí)踐性和可操作性?!?0E〕對(duì)人工智能系統(tǒng)的解釋方式可分為事前解釋和事后解釋。前者以解釋系統(tǒng)本身為中心,即向開發(fā)者以外的利益相關(guān)者提供關(guān)于系統(tǒng)一般屬性和特征的信息,包括系統(tǒng)的運(yùn)行邏輯、一般功能等;后者則聚焦于對(duì)具體決策起著重要作用的屬性和特征,旨在向利益相關(guān)者就人工智能系統(tǒng)作出決策的理由依據(jù)、運(yùn)行過程作出解釋說明?!?1E〕兩者在功能上也有所區(qū)別,事前解釋致力于建立信任,即第一時(shí)間向用戶表明其精心設(shè)計(jì)并為其服務(wù)的目的,以同用戶建立信任并激勵(lì)用戶對(duì)人工智能系統(tǒng)的使用;事后解釋則有助于維持信任,即通過解釋特定的算法結(jié)果及其作出依據(jù),以提高系統(tǒng)的透明性,進(jìn)而維持用戶對(duì)人工智能系統(tǒng)的信任?!?2E〕然而,算法模型復(fù)雜度越低,透明度越高,可解釋性相對(duì)較好,反之透明度越低,可解釋性相對(duì)較差?!?3E〕對(duì)于人形機(jī)器人來說,其智能系統(tǒng)的高度復(fù)雜性使得其事前解釋難以有實(shí)際效果,因此應(yīng)當(dāng)將可解釋場(chǎng)景側(cè)重于事后解釋,即技術(shù)設(shè)計(jì)者和開發(fā)者應(yīng)當(dāng)對(duì)于人形機(jī)器人的預(yù)期表現(xiàn)可能性作出解釋,并在技術(shù)上強(qiáng)化人機(jī)交互場(chǎng)景中人的決策權(quán)和控制權(quán)。一旦發(fā)生可能違背倫理的行為或表現(xiàn)時(shí),使用者可以控制機(jī)器進(jìn)一步的失范行為或者其他利益相關(guān)方有權(quán)介入對(duì)機(jī)器的中斷控制。
(三)法律規(guī)范與倫理規(guī)約的相互補(bǔ)充
通過法律確定人對(duì)人機(jī)交互的控制條件是異常復(fù)雜的,一是普通自然人的技術(shù)認(rèn)知水平難以理解復(fù)雜的信息處理系統(tǒng),尤其是在高度自動(dòng)化的實(shí)踐場(chǎng)景中;二是如果技術(shù)創(chuàng)設(shè)一味遵循人類所傾向的價(jià)值體系(如人的尊嚴(yán)和自主性),則可能違背最底層的技術(shù)發(fā)展邏輯,進(jìn)而阻礙技術(shù)的革新?!?4E〕因此,僅通過法律手段規(guī)范人機(jī)交互關(guān)系是不充足的?!?5E〕借鑒人機(jī)傳播范式的革新進(jìn)路,在Web3.0與去中心化自治組織形式的結(jié)合下,公眾在社會(huì)參與中逐步從“賦能”到“參與”、再到“賦權(quán)”。去中心化自治的管理方式拓寬了社會(huì)緩沖區(qū)間,使得社會(huì)組織中的個(gè)體實(shí)現(xiàn)自我導(dǎo)向的進(jìn)化和身心整合?!?6E〕關(guān)于人機(jī)交互關(guān)系,當(dāng)前的法治規(guī)范思路尚停留在對(duì)人賦能的階段,進(jìn)一步對(duì)人或機(jī)器的賦權(quán)尚不現(xiàn)實(shí),因此,人工智能的規(guī)范治理應(yīng)重視可以促使大眾參與的AI倫理規(guī)約的作用和影響??紤]到一系列的連鎖性法律后果, 即使當(dāng)前法律體系下的法律主體范疇難以納入人形機(jī)器人等具身智能體,但是,倫理規(guī)約則可在某種程度上將具身智能機(jī)器人視為道德義務(wù)主體,風(fēng)險(xiǎn)治理也遵循以結(jié)果為導(dǎo)向的原則??梢钥吹?,一方面,AI倫理規(guī)約是人工智能法治進(jìn)程的緩沖地帶和過渡階段,在具身智能法治治理?xiàng)l件尚不成熟時(shí),可將倫理規(guī)約作為人形機(jī)器人開發(fā)的基本行為規(guī)范,并由相關(guān)的倫理委員會(huì)現(xiàn)實(shí)執(zhí)行。對(duì)此,可借鑒醫(yī)療領(lǐng)域中的醫(yī)學(xué)倫理委員會(huì)工作制度,當(dāng)醫(yī)療手段涉及臨終關(guān)懷、臨床試驗(yàn)、輔助生殖、器官移植等可能沖擊社會(huì)倫理認(rèn)知的醫(yī)療場(chǎng)景,應(yīng)當(dāng)在正當(dāng)程序下對(duì)是否應(yīng)采取醫(yī)療手段作出決策。類似地,對(duì)人形機(jī)器人的事前解釋應(yīng)結(jié)合倫理審查,當(dāng)其開發(fā)、使用和交互可能發(fā)生違背社會(huì)倫理的問題時(shí),應(yīng)事前避免或做好風(fēng)險(xiǎn)處理預(yù)案。另一方面,AI倫理規(guī)約很大程度上可視為人工智能商業(yè)領(lǐng)域的“行業(yè)規(guī)范”,具身智能的技術(shù)開發(fā)者與應(yīng)用使用者,應(yīng)當(dāng)預(yù)估具身智能體的倫理規(guī)范問題。當(dāng)具身智能體的下游應(yīng)用和交互存在現(xiàn)實(shí)的倫理違背場(chǎng)景時(shí),追責(zé)應(yīng)回溯至基礎(chǔ)模型層,按照“違反倫理規(guī)約—反思技術(shù)設(shè)計(jì)是否存在過失—適用行業(yè)規(guī)范—判斷技術(shù)設(shè)計(jì)者和開發(fā)者承擔(dān)責(zé)任”的治理邏輯進(jìn)行處理,這就要求服務(wù)提供商開發(fā)初期對(duì)人形機(jī)器人的預(yù)期應(yīng)用負(fù)有倫理檢視義務(wù)。
結(jié)語
工信部《人形機(jī)器人創(chuàng)新發(fā)展指導(dǎo)意見》指出:“人形機(jī)器人集成人工智能、高端制造、新材料等先進(jìn)技術(shù),有望成為繼計(jì)算機(jī)、智能手機(jī)、新能源汽車后的顛覆性產(chǎn)品,將深刻變革人類生產(chǎn)生活方式,重塑全球產(chǎn)業(yè)發(fā)展格局。”回顧過往,人形機(jī)器人的商業(yè)化腳步曾幾度突圍、幾度停滯,生成式AI大模型突飛猛進(jìn)的發(fā)展加速了人形機(jī)器人的進(jìn)化。當(dāng)前,從政策、技術(shù)、商業(yè)落地三個(gè)角度來看,人形機(jī)器人正在大張旗鼓進(jìn)入商業(yè)化的前夜。然而,相對(duì)于其他人工智能技術(shù)及應(yīng)用,人形機(jī)器人的具身性和擬人特征導(dǎo)致該領(lǐng)域面臨著更為復(fù)雜的法律和倫理方面的挑戰(zhàn),需要不斷演進(jìn)和完善法律框架和倫理指導(dǎo)原則。在人形機(jī)器人即將普遍走進(jìn)人類社會(huì)的今天,無論是法律建設(shè)還是倫理觀念,均存在一定的滯后性。對(duì)此,一方面,立法的構(gòu)建與完善應(yīng)結(jié)合技術(shù)治理的理念和規(guī)則,與之保持同步并形成協(xié)同,從而實(shí)現(xiàn)技術(shù)工程領(lǐng)域與社會(huì)規(guī)范領(lǐng)域的理念共識(shí)及規(guī)則互通;另一方面,人形機(jī)器人的規(guī)范治理更應(yīng)貫穿行業(yè)治理和社會(huì)治理的基本視野,必須重視運(yùn)用倫理規(guī)約作為針對(duì)人形機(jī)器人的治理手段,“建立健全生成式人工智能領(lǐng)域科技倫理規(guī)范”,〔77$〕進(jìn)而彌補(bǔ)法律治理手段的不足之處。
本文系國(guó)家社科基金后期資助項(xiàng)目“個(gè)人信息保護(hù)與數(shù)據(jù)治理研究”(項(xiàng)目批準(zhǔn)號(hào):20FFXB068)的階段性研究成果。