內(nèi)容摘要：人形機(jī)器人在智能水平、靜態(tài)與動(dòng)態(tài)物理特征方面高度擬人化，其在軟硬件互信、腦體協(xié)同基礎(chǔ)上構(gòu)造的虛擬人際關(guān)系，可提供展現(xiàn)親密感的增強(qiáng)型信任。但人形機(jī)器人服務(wù)的增強(qiáng)型信任未在總體上改善消費(fèi)者的弱勢(shì)地位，反而還強(qiáng)化了消費(fèi)者的信任匹配失當(dāng)、隱性信任定向化、信任扭曲等信任控制風(fēng)險(xiǎn)。傳統(tǒng)消費(fèi)者保護(hù)法中的經(jīng)營(yíng)者告知義務(wù)、基于風(fēng)險(xiǎn)分級(jí)的人工智能敏捷治理、產(chǎn)品責(zé)任的發(fā)展風(fēng)險(xiǎn)抗辯均難以充分保護(hù)消費(fèi)者。為應(yīng)對(duì)信任控制風(fēng)險(xiǎn)，應(yīng)以強(qiáng)調(diào)“賣者盡責(zé)、買者自負(fù)”的消費(fèi)者適當(dāng)性為核心，基于倫理安全構(gòu)建人形機(jī)器人服務(wù)與消費(fèi)者的分級(jí)準(zhǔn)入，并在分級(jí)準(zhǔn)入的基礎(chǔ)上要求經(jīng)營(yíng)者對(duì)消費(fèi)者履行適當(dāng)性匹配與事中事后的監(jiān)測(cè)調(diào)整義務(wù)。此外，應(yīng)通過(guò)終止保障義務(wù)完善人形機(jī)器人服務(wù)侵權(quán)責(zé)任的發(fā)展風(fēng)險(xiǎn)抗辯事由，其應(yīng)以消費(fèi)者與人形機(jī)器人在服務(wù)過(guò)程中的各方自主性程度為主要依據(jù)。

關(guān)鍵詞：人形機(jī)器人消費(fèi)者保護(hù)信任控制保障義務(wù)適當(dāng)性義務(wù)人工智能

中圖分類號(hào)：DF529 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1674-4039-（2024）03-0049-63

現(xiàn)代機(jī)器人產(chǎn)業(yè)是高端制造業(yè)的代表，如何使機(jī)器人的外表形象或內(nèi)在智能水平變得“越來(lái)越像人”，進(jìn)而將其廣泛應(yīng)用于工業(yè)生產(chǎn)、社會(huì)服務(wù)、金融商業(yè)等領(lǐng)域，已成為當(dāng)前機(jī)器人產(chǎn)業(yè)發(fā)展的重點(diǎn)。其中，人形機(jī)器人或仿人機(jī)器人（humanoid）robot）是最符合人類早期想象的機(jī)器人類型，其泛指具有與人類相似的靜態(tài)（例如外形）與動(dòng)態(tài)（例如運(yùn)動(dòng)）物理實(shí)體特征以及一定的感知、認(rèn)知、決策、執(zhí)行等智能水平，并能按照使用者的命令執(zhí)行特定任務(wù)的智能機(jī)器產(chǎn)品?！?）〕自2018年波士頓動(dòng)力公司發(fā)布以“Atlas”為名的人形機(jī)器人以來(lái)，特斯拉、優(yōu)必選公司相繼推出具有競(jìng)爭(zhēng)力的機(jī)器人產(chǎn)品，人形機(jī)器人產(chǎn)業(yè)迎來(lái)高速發(fā)展期。習(xí)近平總書(shū)記強(qiáng)調(diào)：“發(fā)展新質(zhì)生產(chǎn)力是推動(dòng)高質(zhì)量發(fā)展的內(nèi)在要求和重要著力點(diǎn)?！薄?）〕人形機(jī)器人作為新質(zhì)生產(chǎn)力中“新勞動(dòng)工具”的重要組成部分，有助于推動(dòng)我國(guó)社會(huì)經(jīng)濟(jì)的高質(zhì)量發(fā)展。人形機(jī)器人與智能機(jī)器人、服務(wù)機(jī)器人等特殊的機(jī)器人類型聯(lián)系緊密，國(guó)務(wù)院于2017年發(fā)布的《新一代人工智能發(fā)展規(guī)劃》將智能服務(wù)機(jī)器人納入大力發(fā)展的新興產(chǎn)業(yè)范疇，并要求加快推進(jìn)金融、商務(wù)、養(yǎng)老等服務(wù)行業(yè)的智能化升級(jí)。工信部于2023年發(fā)布的《人形機(jī)器人創(chuàng)新發(fā)展指導(dǎo)意見(jiàn)》指出，人形機(jī)器人將成為繼計(jì)算機(jī)、智能手機(jī)、新能源汽車之后重構(gòu)人類生產(chǎn)生活方式的“顛覆性產(chǎn)品”。人形機(jī)器人不僅可以應(yīng)用于工業(yè)制造、搶險(xiǎn)救災(zāi)等傳統(tǒng)機(jī)器人普及度較高的領(lǐng)域，還可以通過(guò)特殊的物理實(shí)體和人機(jī)互動(dòng)功能，在服務(wù)業(yè)充分發(fā)揮其優(yōu)勢(shì)，由此產(chǎn)生由消費(fèi)者購(gòu)買或租賃人形機(jī)器人之后接受相應(yīng)服務(wù)的需求。

然而，與元宇宙注重虛實(shí)跨界的空間效果不同，人形機(jī)器人服務(wù)更注重微觀層面的行為活動(dòng)，因而不僅會(huì)帶來(lái)隱私侵犯、網(wǎng)絡(luò)攻擊、勞動(dòng)力替代等科技治理的傳統(tǒng)難題，〔3'〕還會(huì)面臨以“恐惑谷”（Uncanny'Valley）效應(yīng)為代表的消費(fèi)者權(quán)益受損風(fēng)險(xiǎn)，甚至引發(fā)更嚴(yán)重的倫理危機(jī)，因此亟須針對(duì)性的消費(fèi)者保護(hù)措施。對(duì)此，我國(guó)以消費(fèi)者權(quán)益保護(hù)法為代表的消費(fèi)者保護(hù)制度主要遵循工業(yè)經(jīng)濟(jì)下的規(guī)制邏輯，〔4'〕難以有效規(guī)范人形機(jī)器人等因數(shù)字經(jīng)濟(jì)而生的新興科技產(chǎn)品或服務(wù)。盡管人形機(jī)器人服務(wù)尚未深入、相關(guān)風(fēng)險(xiǎn)未充分暴露或仍處在可接受的范圍內(nèi)，但事先預(yù)判風(fēng)險(xiǎn)、基于成本效益衡量構(gòu)建治理框架更有利于該行業(yè)的持續(xù)發(fā)展?！?'〕因此，探討如何保護(hù)消費(fèi)者在接受人形機(jī)器人服務(wù)過(guò)程中的合法權(quán)益，便具有較強(qiáng)的現(xiàn)實(shí)必要性。進(jìn)一步看，人形機(jī)器人的高度擬人化特征在增強(qiáng)消費(fèi)者信任的同時(shí)，其技術(shù)復(fù)雜性又存在對(duì)消費(fèi)者的信任實(shí)施不當(dāng)控制的可能，此種悖反效應(yīng)背景下的“信任控制”便可作為探討人形機(jī)器人消費(fèi)者保護(hù)的基本視角?！?'〕

由于（人形）機(jī)器人與人工智能存在諸多技術(shù)相似性，與機(jī)器人相關(guān)的個(gè)人信息保護(hù)、法律人格確認(rèn)、著作權(quán)歸屬等既有研究，主要適用人工智能的治理邏輯，并未嚴(yán)格區(qū)分二者之間的差異，更未進(jìn)一步關(guān)注微觀服務(wù)層面的消費(fèi)者保護(hù)?；诖耍挛南仁崂砣诵螜C(jī)器人服務(wù)的商業(yè)邏輯與消費(fèi)者風(fēng)險(xiǎn)，據(jù)此分析既有法律在人形機(jī)器人“信任控制”方面的保護(hù)不足，并以適當(dāng)性義務(wù)為核心提出相應(yīng)的法律完善建議。

一、人形機(jī)器人服務(wù)的商業(yè)邏輯與消費(fèi)者風(fēng)險(xiǎn)

人形機(jī)器人的運(yùn)行現(xiàn)狀決定了消費(fèi)者面臨的風(fēng)險(xiǎn)及權(quán)益保護(hù)方式，下文將梳理人形機(jī)器人的技術(shù)發(fā)展、服務(wù)業(yè)應(yīng)用表現(xiàn)以及相應(yīng)服務(wù)的“增強(qiáng)型信任”邏輯，并據(jù)此分析相應(yīng)的“信任控制”風(fēng)險(xiǎn)。

（一）人形機(jī)器人的技術(shù)發(fā)展與服務(wù)業(yè)應(yīng)用表現(xiàn)

人形機(jī)器人源于早期科幻作品的概念想象，目前是國(guó)內(nèi)外受關(guān)注度最高、產(chǎn)業(yè)發(fā)展最迅速的機(jī)器人類型。在20世紀(jì)70年代，日本早稻田大學(xué)加藤一郎教授研發(fā)名為“WABOT-1”的機(jī)器人可視為最早的人形機(jī)器人模型，但囿于當(dāng)時(shí)的技術(shù)能力，該模型只能進(jìn)行簡(jiǎn)單的肢體活動(dòng)和人機(jī)對(duì)話。一般而言，開(kāi)發(fā)一款擬人化程度較強(qiáng)的人形機(jī)器人，需要具備以下技術(shù)條件：其一，接近于人類的智能水平，特別是感知、決策以及執(zhí)行能力；其二，與人類高度相似的靜態(tài)外貌特征，特別是以身高、體重、五官等呈現(xiàn)的身體結(jié)構(gòu)；其三，與人類相當(dāng)?shù)膭?dòng)態(tài)外貌特征，特別是由運(yùn)動(dòng)、循環(huán)消化、神經(jīng)系統(tǒng)支撐的靈活“肢體”。其中，與靜態(tài)外貌特征不同，擬人化智能水平和動(dòng)態(tài)外貌特征的實(shí)現(xiàn)分別需要強(qiáng)大的計(jì)算機(jī)技術(shù)（例如高性能算法）和生物科技（例如肢體克隆技術(shù)）作為支撐，這導(dǎo)致人形機(jī)器人難以迅速獲得技術(shù)突破。在此情況下，局部擬人化的“工業(yè)機(jī)器人”成為優(yōu)先發(fā)展的機(jī)器人類型，其作為自動(dòng)控制、可重復(fù)編程的機(jī)械肢體，可按照預(yù)先設(shè)置的計(jì)算機(jī)指令開(kāi)展特定的制造或物流任務(wù)。同時(shí)，具有一定擬人性、可滿足日常生活需求的“服務(wù)機(jī)器人”也逐漸應(yīng)用于餐飲、住宿、醫(yī)療等行業(yè)?！?\"〕近年來(lái)，隨著人工智能等諸多技術(shù)的突破性發(fā)展，設(shè)計(jì)者可通過(guò)大語(yǔ)言模型訓(xùn)練優(yōu)化機(jī)器人的智能水平，并推動(dòng)機(jī)器人開(kāi)展更為復(fù)雜的肢體活動(dòng)（例如跳躍或翻滾），進(jìn)而提升了人形機(jī)器人應(yīng)用于生產(chǎn)生活的技術(shù)可行性。

除了工業(yè)生產(chǎn)、特種救援等領(lǐng)域外，作為一項(xiàng)消費(fèi)者購(gòu)買的服務(wù)，人形機(jī)器人已在諸多服務(wù)行業(yè)開(kāi)展應(yīng)用實(shí)踐。目前，包括人形機(jī)器人在內(nèi)，北京、上海等多地已將發(fā)展特種機(jī)器人、醫(yī)療健康機(jī)器人等作為重點(diǎn)鼓勵(lì)發(fā)展的機(jī)器人類型，〔8\"〕而開(kāi)發(fā)智能護(hù)理機(jī)器人等智能產(chǎn)品也成為發(fā)展銀發(fā)經(jīng)濟(jì)的重要手段?！?\"〕事實(shí)上，人形機(jī)器人作為一種雙足機(jī)器人，已囊括工業(yè)機(jī)器人、（個(gè)人/家用/公共）服務(wù)機(jī)器人、特種機(jī)器人等類型的既有應(yīng)用場(chǎng)景，大致可分為生產(chǎn)性和非生產(chǎn)性兩類。其中，非生產(chǎn)性的消費(fèi)場(chǎng)景直接面向大眾消費(fèi)者，包括醫(yī)療康復(fù)、養(yǎng)老監(jiān)護(hù)、保潔家政等方面（側(cè)重于個(gè)人或家用）替代人類功能的場(chǎng)景，以及在金融、教育、娛樂(lè)等行業(yè)（側(cè)重于公共服務(wù)）補(bǔ)充人類功能的場(chǎng)景?！?0\"〕前者可以改善人際溝通、增進(jìn)情感交互、滿足情感需求，后者則可作為人類助手，提升用戶服務(wù)體驗(yàn)并增強(qiáng)風(fēng)險(xiǎn)預(yù)警和防控能力?！?1\"〕人形機(jī)器人作為“產(chǎn)品”的使用價(jià)值主要由設(shè)計(jì)者、生產(chǎn)者基于機(jī)器人衍生提供“服務(wù)”而實(shí)現(xiàn)，從消費(fèi)者視角看，人形機(jī)器人的商業(yè)應(yīng)用本質(zhì)上是由人形機(jī)器人提供的一種服務(wù)?！?2\"〕此外，“機(jī)器人即服務(wù)”（RaaS）是通過(guò)租賃等方式、無(wú)需購(gòu)買產(chǎn)品便可以較低成本使用機(jī)器人的創(chuàng)新商業(yè)模式，進(jìn)一步凸顯了人形機(jī)器人的服務(wù)屬性?！?3\"〕

受到技術(shù)水平與生產(chǎn)成本的限制， 目前人形機(jī)器人在動(dòng)態(tài)外貌特征上仍有較大的改善空間，特別是機(jī)器人對(duì)肢體的自主控制程度仍然較低，無(wú)法達(dá)到一個(gè)正常成年人行走或開(kāi)展其他運(yùn)動(dòng)時(shí)所表現(xiàn)的靈活度。因此，人形機(jī)器人主要應(yīng)用于商業(yè)演出、會(huì)展等非生活必需品或服務(wù)，其在日常必需服務(wù)（例如家庭清掃）中的重要性仍有待被充分挖掘。〔14\"〕此外，既有機(jī)器學(xué)習(xí)技術(shù)僅支持人形機(jī)器人達(dá)到“交互型”（L3）階段的智能水平，即在人類預(yù)設(shè)程序的前提下具備基本的感知識(shí)別和反饋行動(dòng)能力，其與暫時(shí)脫離人類干預(yù)后仍可靈活應(yīng)變的“自主型”（L4）乃至更高水平的“自治型”（L5）階段尚存一定距離，這也限制了人形機(jī)器人的決策自主性。〔15\"〕盡管如此，人形機(jī)器人潛藏的消費(fèi)者風(fēng)險(xiǎn)已經(jīng)顯現(xiàn)，因此仍需要進(jìn)一步分析相應(yīng)服務(wù)的本質(zhì)邏輯。

（二）人形機(jī)器人服務(wù)的“增強(qiáng)型信任”邏輯

人形機(jī)器人補(bǔ)充或替代人類的服務(wù)功能凸顯了機(jī)器人的商業(yè)應(yīng)用價(jià)值， 而其相較于人工智能、其他類型機(jī)器人的核心商業(yè)邏輯即市場(chǎng)競(jìng)爭(zhēng)優(yōu)勢(shì)仍需進(jìn)一步厘定，據(jù)此為分析消費(fèi)者風(fēng)險(xiǎn)提供精準(zhǔn)的現(xiàn)象基礎(chǔ)。信任的本質(zhì)是基于過(guò)往認(rèn)知而所作出的風(fēng)險(xiǎn)決策行為，〔16#〕消費(fèi)者在購(gòu)買與接受服務(wù)過(guò)程中的權(quán)益是否受到侵害，基于信息不對(duì)稱體現(xiàn)的信任水平是主要判定因素?！叭诵巍痹谑聦?shí)上創(chuàng)造了一種新的信任機(jī)制，進(jìn)而增強(qiáng)了信任決策的冒險(xiǎn)動(dòng)機(jī)，因此信任應(yīng)成為人形機(jī)器人服務(wù)的關(guān)注焦點(diǎn)?！?7#〕由于人形機(jī)器人的關(guān)鍵技術(shù)———“腦”與“肢體”———分別代表了縱向的智能化發(fā)展與橫向的機(jī)器人產(chǎn)品特殊性，下文將從橫向與縱向角度探究人形機(jī)器人服務(wù)的“增強(qiáng)型信任”商業(yè)邏輯。

從智能化發(fā)展水平的縱向角度看，人形機(jī)器人服務(wù)是軟硬件互信、腦體協(xié)同的信任化活動(dòng)。功能性替代的社會(huì)需求〔18#〕是智能化產(chǎn)品發(fā)展的重要原生動(dòng)力，創(chuàng)造人形機(jī)器人的初衷，是通過(guò)機(jī)器人提供的知識(shí)為消費(fèi)者帶來(lái)效益，其中包括“知識(shí)”的表示、獲取與運(yùn)用階段，以及“效益”的賦予階段?！?9#〕與此相對(duì)應(yīng)，人形機(jī)器人技術(shù)由智能水平與外貌特征相關(guān)的技術(shù)組成，即以支撐以軟件形態(tài)存在的大腦與硬件形態(tài)的肢體。受限于應(yīng)用場(chǎng)景和技術(shù)研發(fā)難度，支撐大腦運(yùn)作的人工智能獲得了相對(duì)快速的發(fā)展，目前正經(jīng)歷自主性由弱到強(qiáng)的技術(shù)變革過(guò)程，其最終目標(biāo)是從“像人類一樣思考”轉(zhuǎn)變?yōu)橐浴芭c人相同的方式思考”?！?0#〕但與此同時(shí)，人工智能創(chuàng)造的知識(shí)還應(yīng)通過(guò)合理方式提供給消費(fèi)者、為消費(fèi)者帶來(lái)效益，這一目標(biāo)的實(shí)現(xiàn)需要消費(fèi)者對(duì)人工智能的行為方式產(chǎn)生較高程度的信任，而產(chǎn)生信任的重要方式便包括人形機(jī)器人體現(xiàn)的擬人“具身化”（embodiment）。這種信任不僅僅由人形機(jī)器人的高度擬人外貌特征所實(shí)現(xiàn)，而且需要依賴于“大腦”軟件與“身體”硬件之間的協(xié)同配合，即機(jī)器大腦發(fā)出的指令可以被機(jī)器肢體及時(shí)、正確地執(zhí)行，實(shí)現(xiàn)“對(duì)周圍物理環(huán)境信息的獲取與后續(xù)行動(dòng)的內(nèi)在一致性”，〔21#〕從而讓消費(fèi)者信任人形機(jī)器人所提供服務(wù)的可靠性。須注意的是，此種“外觀信任”與“協(xié)同信任”的組合，不同于通過(guò)區(qū)塊鏈等新型互聯(lián)網(wǎng)技術(shù)實(shí)現(xiàn)的去中心化信任機(jī)制，后者更多是在客觀上對(duì)數(shù)據(jù)存儲(chǔ)與傳輸?shù)男刨嚕鋵?duì)應(yīng)的是中心化主體對(duì)確保數(shù)據(jù)真實(shí)全面的單方承諾。〔22#〕

從不同機(jī)器人類型的橫向角度看，人形機(jī)器人服務(wù)是在虛擬人際關(guān)系下展現(xiàn)親密感的增強(qiáng)信任化活動(dòng)。一方面，人形機(jī)器人不僅能從事固定、重復(fù)的工作，更能根據(jù)消費(fèi)者的指令從事兼具個(gè)性化（定制化）和通用性的活動(dòng)，因此，可通過(guò)應(yīng)用范圍的擴(kuò)張?jiān)鰪?qiáng)信任。針對(duì)我國(guó)當(dāng)前人口負(fù)增長(zhǎng)的實(shí)際狀況以及進(jìn)入老齡化社會(huì)的現(xiàn)狀，服務(wù)機(jī)器人已對(duì)人力予以部分補(bǔ)充或替代，在一定程度上改善了勞動(dòng)者的工作環(huán)境，并可滿足公眾的情感消費(fèi)需求。與傳統(tǒng)服務(wù)機(jī)器人相比，人形機(jī)器人的全身擬人化程度更高，其可通過(guò)更強(qiáng)的“多自由度”〔23#〕發(fā)揮機(jī)械臂難以觸及的精細(xì)化領(lǐng)域，并解決傳統(tǒng)的四足或輪式形體翻越障礙物的困難，同時(shí)可在大語(yǔ)言模型支持下展現(xiàn)自主性更強(qiáng)的智能水平?！?4#〕此外，與提供智能服務(wù)的可穿戴設(shè)備或體現(xiàn)動(dòng)物形態(tài)的非擬人仿生機(jī)器人相比，人形機(jī)器人的運(yùn)動(dòng)范圍和種類更貼近于消費(fèi)者生活，其擬人化的外貌特征有助于代為使用人類發(fā)明的生活工具，從而適應(yīng)人類的生活空間。〔25#〕因此，在各類生活服務(wù)場(chǎng)景中的通用性和普惠性更強(qiáng)。另一方面，基于人形機(jī)器人擬人化的靜態(tài)與動(dòng)態(tài)外貌特征，消費(fèi)者能與其產(chǎn)生近距離的親密感、形成虛擬的“人際”關(guān)系，可通過(guò)情感沉浸的擴(kuò)張?jiān)鰪?qiáng)信任。在消費(fèi)者與人形機(jī)器人建立虛擬人際關(guān)系之后，人形機(jī)器人可按照消費(fèi)者的指令單獨(dú)完成或與消費(fèi)者、其他機(jī)器人協(xié)作完成特定任務(wù)?！?6/〕人形機(jī)器人高度擬人化帶來(lái)的親密感本質(zhì)上是一種“人情味”，加上相對(duì)較低的養(yǎng)護(hù)成本，可在一定程度上緩釋消費(fèi)者對(duì)自動(dòng)化機(jī)器人的不安抗拒心理?！?7/〕這一親密感還體現(xiàn)在當(dāng)人形機(jī)器人遭受損害時(shí)，消費(fèi)者產(chǎn)生的同情心或憐憫心，與人體在正常情況下不可被輕易分解并重組不同，機(jī)器人實(shí)體可以被拆解、嫁接到其他機(jī)器人的身體之中。此外，為機(jī)器人分發(fā)“獎(jiǎng)賞”作為回報(bào)亦成為許多人形機(jī)器人的必備功能，該功能的實(shí)現(xiàn)亦依賴于消費(fèi)者對(duì)人形機(jī)器人的親密感，以及由此產(chǎn)生的社交關(guān)系中的“橫向比較”?！?8/〕從經(jīng)營(yíng)者角度看，人形機(jī)器人的親密感還有助于降低提供服務(wù)的人力成本，例如金融機(jī)構(gòu)可利用人形機(jī)器人為消費(fèi)者提供到家實(shí)名開(kāi)戶服務(wù)。

（三）“增強(qiáng)型信任”誘發(fā)的“信任控制”消費(fèi)者風(fēng)險(xiǎn)

在理想狀態(tài)下，人形機(jī)器人基于高度擬人化的“增強(qiáng)型信任”有助于減少消費(fèi)者與經(jīng)營(yíng)者等主體之間的信息不對(duì)稱，讓消費(fèi)者獲得兼具個(gè)性化與通用性的服務(wù)。盡管機(jī)器人的創(chuàng)造過(guò)程追求現(xiàn)實(shí)與想象相協(xié)調(diào)，但現(xiàn)實(shí)通常遠(yuǎn)遠(yuǎn)沒(méi)有想象中那樣“無(wú)辜與仁慈”?！?9/〕與早先存在的數(shù)字經(jīng)濟(jì)活動(dòng)相似，基于經(jīng)營(yíng)者或生產(chǎn)者在資金、人力、信息等方面的優(yōu)勢(shì)地位，消費(fèi)者不僅仍面臨不公平交易、個(gè)人隱私泄露等傳統(tǒng)權(quán)益受損風(fēng)險(xiǎn)，還會(huì)基于智能活動(dòng)的更高認(rèn)知門(mén)檻產(chǎn)生算法歧視、信息繭房等“悖反效應(yīng)”?！?0/〕從信任角度看，這一悖反效應(yīng)體現(xiàn)在人形機(jī)器人服務(wù)不僅未能從總體上改善消費(fèi)者的弱勢(shì)地位，還強(qiáng)化了消費(fèi)者的信任被他人或機(jī)器人不當(dāng)控制的風(fēng)險(xiǎn)。下文從消費(fèi)者購(gòu)買并接受服務(wù)的前端、中端、后端具體分析信用控制風(fēng)險(xiǎn)。

在獲得人形機(jī)器人服務(wù)的“前端”，消費(fèi)者會(huì)面臨信任匹配失當(dāng)?shù)目刂骑L(fēng)險(xiǎn)。由于人形機(jī)器人在部分領(lǐng)域提供的服務(wù)（例如消防排爆、園藝種植）亦能被運(yùn)營(yíng)成本更低的其他機(jī)器人（或無(wú)人化）產(chǎn)品所替代，〔31/〕其更適合應(yīng)用于養(yǎng)老、教育等身心依賴性與擬人化需求較強(qiáng)的領(lǐng)域。如果經(jīng)營(yíng)者基于錯(cuò)誤、非法獲取的個(gè)人信息或肖像，或在未明確心理承受能力的情況下為消費(fèi)者提供不適宜的人形機(jī)器人服務(wù)，便可能會(huì)給消費(fèi)者帶來(lái)長(zhǎng)期潛在的身心健康或人格尊嚴(yán)損害。此外，人形機(jī)器人還可作為一種事后懲戒或便于監(jiān)控的手段，嵌入既有人形機(jī)器人服務(wù)之中，從而會(huì)在未充分評(píng)估消費(fèi)者身心健康等情況的前提下，間接損害消費(fèi)者自主選擇的權(quán)利。〔32/〕在智能支付領(lǐng)域，這類似于域外部分中央銀行主張要審慎對(duì)待在法定數(shù)字貨幣中嵌入智能合約，其原因便是政府可能會(huì)利用智能合約不當(dāng)限制甚至禁止民眾在特定范圍內(nèi)開(kāi)展支付交易?！?3/〕

在接受人形機(jī)器人服務(wù)的“中端”，消費(fèi)者會(huì)面臨隱性信任定向化和信任扭曲的控制風(fēng)險(xiǎn)。一方面，技術(shù)無(wú)法絕對(duì)中性，人形機(jī)器人的生產(chǎn)者或經(jīng)營(yíng)者不僅可以將自身的倫理價(jià)值觀嵌于機(jī)器人內(nèi)部，〔34/〕并且可能在提供基礎(chǔ)服務(wù)的同時(shí)，隱性定向化地開(kāi)展額外的廣告營(yíng)銷等活動(dòng)，由此造成消費(fèi)者對(duì)此類活動(dòng)的信任認(rèn)知偏差。其中，基于情感沉浸的擴(kuò)張，消費(fèi)者在接受人形機(jī)器人服務(wù)過(guò)程中會(huì)產(chǎn)生敏感程度更高的個(gè)人信息，但人形機(jī)器人的通用性要求個(gè)人信息的交叉處理，因而在隱形定向化過(guò)程中還會(huì)給消費(fèi)者敏感信息的保護(hù)帶來(lái)更大威脅?！?5）〕如果允許人形機(jī)器人與其他機(jī)器人或智能設(shè)備進(jìn)行信息交互協(xié)作，〔36）〕消費(fèi)者敏感信息保護(hù)的風(fēng)險(xiǎn)將被進(jìn)一步放大。另一方面，人形機(jī)器人為消費(fèi)者創(chuàng)造虛擬人際關(guān)系以及機(jī)器人難以“反抗”下的控制感，同時(shí)也會(huì)造成消費(fèi)者對(duì)現(xiàn)實(shí)世界虛擬化的過(guò)分“幻想”，導(dǎo)致信任扭曲?！?7）〕在此情況下，消費(fèi)者會(huì)對(duì)人形機(jī)器人展現(xiàn)更強(qiáng)的情感投入，不僅會(huì)在一定程度上弱化自身的權(quán)利保護(hù)意識(shí)，還可能突破倫理約束、放大不法私欲，甚至利用已接受智能訓(xùn)練的人形機(jī)器人從事違法犯罪活動(dòng)?！?8）〕由此可見(jiàn)，除了可能會(huì)對(duì)機(jī)器人產(chǎn)生厭惡、歧視等心理效應(yīng)之外，此種信任控制還會(huì)給消費(fèi)者帶來(lái)權(quán)利濫用的不利法律后果，而約束消費(fèi)者個(gè)體的權(quán)利濫用最終也是為了保護(hù)消費(fèi)者群體在接受人形機(jī)器人服務(wù)中的信任權(quán)益。

在終止人形機(jī)器人服務(wù)“后端”，消費(fèi)者會(huì)面臨信任轉(zhuǎn)移或銷毀失序的控制風(fēng)險(xiǎn)?！翱只蠊取笔桥c人形機(jī)器人直接相關(guān)的心理學(xué)效應(yīng)，其指機(jī)器人越擬人化，人類對(duì)機(jī)器人的親和力就越強(qiáng)，但在特定時(shí)間點(diǎn)到達(dá)后，人類就會(huì)對(duì)機(jī)器人感到厭倦甚至恐懼。〔39）〕在此效應(yīng)影響下，消費(fèi)者勢(shì)必面臨繼續(xù)保留或終止接受人形機(jī)器人服務(wù)的抉擇。其中，海量的數(shù)據(jù)庫(kù)是人形機(jī)器人“大腦”獲取與運(yùn)用知識(shí)、實(shí)現(xiàn)商業(yè)落地的基礎(chǔ)，〔40）〕基于數(shù)據(jù)訓(xùn)練自主性的差異，人形機(jī)器人自身可能因?yàn)橹悄苓M(jìn)化、情感培養(yǎng)而產(chǎn)生了對(duì)消費(fèi)者的“反信任”，甚至產(chǎn)生對(duì)其獨(dú)立性、個(gè)體價(jià)值認(rèn)同的追求，〔41）〕導(dǎo)致消費(fèi)者混淆現(xiàn)實(shí)與虛擬情感，并受到此種機(jī)器人信任的精神控制?！?2）〕例如，電影《人工智能》描述了一款個(gè)性化定制的護(hù)理機(jī)器人———大衛(wèi)（David）作為主人的“再生小孩”遭到丟棄，但該機(jī)器人已經(jīng)產(chǎn)生了對(duì)主人的情感依賴，并試圖逃避機(jī)器屠宰場(chǎng)的追捕。這種“反信任”如何轉(zhuǎn)移或者銷毀，以及在機(jī)器人遺失、被盜搶時(shí)如何應(yīng)對(duì)，本質(zhì)上涉及對(duì)消費(fèi)者人格尊嚴(yán)的保護(hù)。此外，由于人形機(jī)器人的增強(qiáng)型信任依賴于硬件軟件之間的交互協(xié)同，如果在終止服務(wù)之后，部分肢體硬件被隨意嫁接復(fù)制到其他人形機(jī)器人實(shí)體中，由此產(chǎn)生的錯(cuò)誤數(shù)據(jù)和情感依賴轉(zhuǎn)換亦可能另行引發(fā)消費(fèi)者的人格尊嚴(yán)損害。

二、人形機(jī)器人服務(wù)“信任控制”的消費(fèi)者保護(hù)不足

消費(fèi)者在獲得、接受與終止人形機(jī)器人服務(wù)過(guò)程中面臨的不同信用控制風(fēng)險(xiǎn)，亟待相應(yīng)法律機(jī)制予以應(yīng)對(duì)。下文將按照人形機(jī)器人服務(wù)前、中、后端的不同風(fēng)險(xiǎn)特點(diǎn)，從消費(fèi)者保護(hù)法出發(fā)分析既有法律應(yīng)對(duì)人形機(jī)器人服務(wù)信任控制風(fēng)險(xiǎn)的現(xiàn)狀與困境。

（一）前端保護(hù)：傳統(tǒng)消費(fèi)者保護(hù)法中經(jīng)營(yíng)者告知義務(wù)的不足

獲得人形機(jī)器人服務(wù)的前端存在的“信任匹配”控制風(fēng)險(xiǎn)，損害了消費(fèi)者對(duì)該服務(wù)內(nèi)容、質(zhì)量等方面的知情權(quán)，并間接損害了消費(fèi)者自主選擇的權(quán)利，與之直接相關(guān)的法律約束為以消費(fèi)者保護(hù)法為代表的經(jīng)營(yíng)者告知義務(wù)。在私法確立誠(chéng)實(shí)信用原則、要求當(dāng)事人告知與訂立合同有關(guān)的重要事實(shí)基礎(chǔ)上，消費(fèi)者保護(hù)法構(gòu)建了以傾斜保護(hù)為導(dǎo)向的經(jīng)營(yíng)者告知義務(wù)：經(jīng)營(yíng)者應(yīng)當(dāng)真實(shí)、全面告知商品或服務(wù)的信息，并真實(shí)、明確地答復(fù)消費(fèi)者的提問(wèn)，不得作引人誤解或虛假的宣傳。〔43.〕其中，針對(duì)格式條款，經(jīng)營(yíng)者應(yīng)當(dāng)以顯著方式提醒消費(fèi)者與其存在重大利害關(guān)系的內(nèi)容，并按照消費(fèi)者要求予以說(shuō)明。針對(duì)瑕疵商品或服務(wù)，除了消費(fèi)者事先知曉瑕疵的存在，經(jīng)營(yíng)者應(yīng)當(dāng)保證商品或服務(wù)具有相應(yīng)的質(zhì)量、性能、用途和有效期限。〔44.〕基于人形機(jī)器人服務(wù)的增強(qiáng)型信任特點(diǎn)，既有法律中的經(jīng)營(yíng)者告知義務(wù)難以應(yīng)對(duì)相應(yīng)的信任控制風(fēng)險(xiǎn)：

首先，告知義務(wù)所指向的“商品或服務(wù)信息”未能覆蓋人形機(jī)器人服務(wù)的個(gè)性化定制內(nèi)容。與批量生產(chǎn)、供應(yīng)的標(biāo)準(zhǔn)化商品或服務(wù)不同，人形機(jī)器人服務(wù)是針對(duì)消費(fèi)者自身在情感陪伴、生活工作輔助等方面的需求而個(gè)性化定制的活動(dòng)，這種活動(dòng)既包括機(jī)器人產(chǎn)品本身的個(gè)性化定制（例如按照個(gè)人意愿將特定自然人的人形復(fù)刻成機(jī)器人）， 又包括根據(jù)既定的機(jī)器人產(chǎn)品為消費(fèi)者提供個(gè)性化服務(wù)（例如金融機(jī)構(gòu)的人形投顧機(jī)器人所提供的投資服務(wù)）。盡管人形機(jī)器人本身需要按照一定技術(shù)標(biāo)準(zhǔn)進(jìn)行設(shè)計(jì)和生產(chǎn)，但從服務(wù)自身看，不同消費(fèi)者的個(gè)體性差異較大，經(jīng)營(yíng)者需要全面、精準(zhǔn)了解消費(fèi)者的服務(wù)需求以及與之相關(guān)的個(gè)人信息。在此情況下，既有法律將告知的內(nèi)容限定于“商品或服務(wù)信息”并不充分。雖然“重大利害關(guān)系”能較好滿足約束信任控制風(fēng)險(xiǎn)的需求，但這一義務(wù)要求僅限于格式條款，尚未擴(kuò)大至所有服務(wù)合同。與此同時(shí)，人形機(jī)器人服務(wù)根據(jù)設(shè)計(jì)者、生產(chǎn)者或經(jīng)營(yíng)者創(chuàng)造的特定算法運(yùn)行， 如果經(jīng)營(yíng)者未以通俗易懂的語(yǔ)言向消費(fèi)者披露算法的運(yùn)行機(jī)制以及算法瑕疵風(fēng)險(xiǎn)，消費(fèi)者的知情權(quán)便可能面臨更大損害。

其次，告知義務(wù)所指向的“既定信息”對(duì)人形機(jī)器人服務(wù)自主性的差異化約束存在局限。由于人形機(jī)器人擺脫了通過(guò)遙控設(shè)備或預(yù)設(shè)程序命令傳統(tǒng)機(jī)器人完成某類動(dòng)作的過(guò)分束縛，軟硬件之間的協(xié)同程度主要由機(jī)器人本身的自主性———自主獲取環(huán)境信息并獨(dú)立于外在控制或影響作出決策———所決定，〔45.〕因而自主性程度也成為消費(fèi)者知情與信任匹配的重要內(nèi)容。 按照消費(fèi)者的需求偏好差異，人形機(jī)器人服務(wù)可以提供與人工智能相似的不同程度的自主性。在此前提下，消費(fèi)者需要獲取與自主性有關(guān)的信息，便于其明確哪些活動(dòng)可以由人形機(jī)器人完成，哪些活動(dòng)只能由消費(fèi)者本人完成，以及人形機(jī)器人的自主性是否可經(jīng)過(guò)消費(fèi)者的訓(xùn)練而強(qiáng)化。在實(shí)踐中，為了降低研發(fā)成本，生產(chǎn)者或經(jīng)營(yíng)者可能會(huì)有意夸大人形機(jī)器人服務(wù)的自主性水平，〔46.〕這也凸顯了誠(chéng)實(shí)披露自主性的現(xiàn)實(shí)必要。但是，消費(fèi)者保護(hù)法中的告知義務(wù)只要求經(jīng)營(yíng)者告知商品或服務(wù)“既定存在”的信息，不要求其告知人形機(jī)器人在自主性發(fā)生變化后可能產(chǎn)生的不利影響，因而難以做到“可解釋”又“可信”。〔47.〕此外，不同自主性水平的人形機(jī)器人帶來(lái)的風(fēng)險(xiǎn)具有差異性，經(jīng)營(yíng)者告知義務(wù)只要求經(jīng)營(yíng)者全面披露風(fēng)險(xiǎn)，但未要求對(duì)消費(fèi)者實(shí)施風(fēng)險(xiǎn)評(píng)估或風(fēng)險(xiǎn)匹配，以降低機(jī)器人自主性差異帶來(lái)的權(quán)益損害。〔48.〕即便《生成式人工智能服務(wù)管理暫行辦法》進(jìn)一步要求服務(wù)提供者公開(kāi)服務(wù)的適用人群、場(chǎng)合、用途，〔49.〕但該條文的約束范圍較小，難以約束所有的人形機(jī)器人服務(wù)。

最后，告知義務(wù)的約束對(duì)象為經(jīng)營(yíng)者，因而難以直接約束消費(fèi)者或涉及公共性質(zhì)的人形機(jī)器人服務(wù)提供者。一方面，告知義務(wù)以及與之相關(guān)的禁止強(qiáng)制交易義務(wù)，只能約束商業(yè)活動(dòng)中的人形機(jī)器人服務(wù)提供者。如果對(duì)政府可能發(fā)生的直接或間接強(qiáng)迫消費(fèi)者接受特定的人形機(jī)器人服務(wù)進(jìn)行約束，則需要其他與行政強(qiáng)制、行政處罰直接相關(guān)的公法規(guī)范或公法原則予以介入。另一方面，告知義務(wù)無(wú)法約束消費(fèi)者的不適當(dāng)購(gòu)買行為。即便經(jīng)營(yíng)者結(jié)合消費(fèi)者的個(gè)人需求，全面、準(zhǔn)確披露了人形機(jī)器人服務(wù)的各類風(fēng)險(xiǎn)，并針對(duì)消費(fèi)者進(jìn)行風(fēng)險(xiǎn)評(píng)估，但消費(fèi)者仍可能基于獵奇、冒險(xiǎn)等心理，選擇購(gòu)買與其風(fēng)險(xiǎn)承受能力不匹配的人形機(jī)器人服務(wù)。此外，告知義務(wù)作為一種消費(fèi)者在獲得人形機(jī)器人服務(wù)時(shí)的法定義務(wù)，其并未要求經(jīng)營(yíng)者面對(duì)消費(fèi)者在接受服務(wù)過(guò)程中遇到自主性強(qiáng)化等風(fēng)險(xiǎn)時(shí)，強(qiáng)制消費(fèi)者退出該服務(wù)。這也可以看出，人形機(jī)器人服務(wù)體現(xiàn)的信任控制風(fēng)險(xiǎn)，強(qiáng)化了經(jīng)營(yíng)者與消費(fèi)者“雙約束”而非經(jīng)營(yíng)者“單約束”的規(guī)制必要性。如上文所言，消費(fèi)者不僅可以獲得定制化的人形機(jī)器人、接受機(jī)器人所提供的個(gè)性化服務(wù)，而且還可以命令其從事原先消費(fèi)者承擔(dān)的擬人化任務(wù)或工作，消費(fèi)者本人的自主性與機(jī)器人的自主性均有所強(qiáng)化，二者之間的自主性呈現(xiàn)出此消彼長(zhǎng)的狀態(tài)?！?01〕這也說(shuō)明告知義務(wù)作為一種減少信息不對(duì)稱的信息型規(guī)制工具， 還需要其他非信息型規(guī)制工具的配合、建立人形機(jī)器人與消費(fèi)者之間“可追溯的聯(lián)系”，〔511〕才能有效應(yīng)對(duì)人形機(jī)器人服務(wù)的信任控制風(fēng)險(xiǎn)。

（二）中端保護(hù)：基于風(fēng)險(xiǎn)分級(jí)的人工智能敏捷治理局限

消費(fèi)者在接受人形機(jī)器人服務(wù)的中端面臨信任定向與信任扭曲的控制風(fēng)險(xiǎn)，與之直接相關(guān)的法律約束為消費(fèi)者保護(hù)法上的經(jīng)營(yíng)者安全保障義務(wù)。就人工智能而言，安全保障義務(wù)的內(nèi)容在網(wǎng)絡(luò)安全、數(shù)據(jù)安全與算法安全基礎(chǔ)上，進(jìn)一步體現(xiàn)為可靠可控，即不僅要實(shí)現(xiàn)可驗(yàn)證、可審核、可監(jiān)督、可追溯、可預(yù)測(cè)、可信賴，而且要實(shí)現(xiàn)韌性、自適應(yīng)性以及抗干擾性。〔521〕由于不同人工智能產(chǎn)品的安全風(fēng)險(xiǎn)存在較大差異，基于風(fēng)險(xiǎn)分級(jí)的“敏捷治理”模式被提出，以期及時(shí)發(fā)現(xiàn)和解決潛在風(fēng)險(xiǎn)、推動(dòng)治理原則貫穿人工智能產(chǎn)品和服務(wù)的全生命周期?！?31〕例如，《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》規(guī)定對(duì)高風(fēng)險(xiǎn)的人工智能產(chǎn)品和服務(wù)實(shí)行清單式管理和合規(guī)審查，同時(shí)對(duì)中低風(fēng)險(xiǎn)的人工智能產(chǎn)品和服務(wù)實(shí)施事前披露和事后控制。〔541〕但是，基于風(fēng)險(xiǎn)分級(jí)的敏捷治理仍難以有效應(yīng)對(duì)事中階段人形機(jī)器人服務(wù)的信任控制風(fēng)險(xiǎn)：

首先，敏捷治理強(qiáng)調(diào)的“自我規(guī)制”不足以調(diào)適經(jīng)營(yíng)者提供人形機(jī)器人服務(wù)過(guò)程中的利益沖突。針對(duì)經(jīng)營(yíng)者基于消費(fèi)者個(gè)人敏感信息實(shí)施的定向信任控制，法律應(yīng)針對(duì)人形機(jī)器人服務(wù)的個(gè)性化特點(diǎn)，要求經(jīng)營(yíng)者履行個(gè)人信息保護(hù)義務(wù)和算法解釋義務(wù)。結(jié)合歐盟人工智能法，敏捷治理針對(duì)人工智能使用過(guò)程中的約束重點(diǎn)是跟蹤監(jiān)測(cè)義務(wù)，包括活動(dòng)追溯、上市后持續(xù)的市場(chǎng)監(jiān)督、共享故障信息等，其類似于民法典、消費(fèi)者保護(hù)法中的產(chǎn)品跟蹤觀察制度。但此種跟蹤監(jiān)測(cè)義務(wù)更加強(qiáng)調(diào)人形機(jī)器人的生產(chǎn)者或經(jīng)營(yíng)者的自我規(guī)制，如法律允許經(jīng)營(yíng)者自我評(píng)估其信任定向化的風(fēng)險(xiǎn)，便會(huì)帶來(lái)其“既是裁判員又是運(yùn)動(dòng)員”的可能。正因?yàn)槿绱耍糠謱W(xué)者批評(píng)歐盟人工智能法過(guò)分依賴企業(yè)的自治，過(guò)分缺乏政府機(jī)構(gòu)的外部監(jiān)管?！?51〕在此情況下，信任定向化風(fēng)險(xiǎn)的約束，還需要其他風(fēng)險(xiǎn)規(guī)制方式的配合，例如技術(shù)規(guī)制以及傳統(tǒng)的政府規(guī)制。

其次，基于敏捷治理的風(fēng)險(xiǎn)分級(jí)標(biāo)準(zhǔn)未充分考量人形機(jī)器人服務(wù)的強(qiáng)倫理特點(diǎn)。根據(jù)歐盟人工智能法，不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)、最小風(fēng)險(xiǎn)的劃分標(biāo)準(zhǔn)結(jié)合了人權(quán)與人工智能的自主性，例如對(duì)民眾的生命健康、教育、勞動(dòng)等基本權(quán)利的限制越強(qiáng)，或人工智能獨(dú)立開(kāi)展活動(dòng)的能力越強(qiáng)，則人工智能的風(fēng)險(xiǎn)越高?！?67〕基于人形機(jī)器人的個(gè)性化定制與增強(qiáng)型信任帶來(lái)的信任扭曲風(fēng)險(xiǎn)，消費(fèi)者在接受服務(wù)過(guò)程中主要受到損害的是身心健康利益，因此按照人工智能的分級(jí)標(biāo)準(zhǔn)，人形機(jī)器人服務(wù)事實(shí)上均可視為高風(fēng)險(xiǎn)或不可接受風(fēng)險(xiǎn)的活動(dòng)，這也使得以針對(duì)輕微違法行為等制定依法不予行政處罰清單為代表的包容審慎監(jiān)管措施〔577〕難以施行，因而削弱了開(kāi)展敏捷治理的現(xiàn)實(shí)基礎(chǔ)。與此同時(shí)，人形機(jī)器人服務(wù)的“人形”使得倫理安全風(fēng)險(xiǎn)更為突出，擬人化程度較高的虛擬人際關(guān)系及其風(fēng)險(xiǎn)衍生于消費(fèi)者所產(chǎn)生的情感基礎(chǔ)之上?！度诵螜C(jī)器人創(chuàng)新發(fā)展指導(dǎo)意見(jiàn)》亦強(qiáng)調(diào)包括功能安全、網(wǎng)絡(luò)安全、算法安全以及倫理安全在內(nèi)的安全治理，因而相較于人形機(jī)器人服務(wù)的風(fēng)險(xiǎn)分級(jí)，人形機(jī)器人倫理的風(fēng)險(xiǎn)分級(jí)更有必要。

最后，敏捷治理以網(wǎng)絡(luò)安全為重點(diǎn)的“全過(guò)程規(guī)制”，難以精準(zhǔn)應(yīng)對(duì)人形機(jī)器人的腦體協(xié)同特點(diǎn)。如上文所言，人形機(jī)器人服務(wù)的正常開(kāi)展，需要計(jì)算機(jī)（大腦）軟件與肢體硬件的協(xié)同配合。在人機(jī)協(xié)作的場(chǎng)景下，此項(xiàng)活動(dòng)還需要人腦與人體的協(xié)作。不論是信任定向還是信任扭曲風(fēng)險(xiǎn)，本質(zhì)上都須通過(guò)機(jī)器人大腦對(duì)肢體的信息傳輸而呈現(xiàn)出來(lái)。因此，人形機(jī)器人服務(wù)的敏捷治理還應(yīng)當(dāng)強(qiáng)調(diào)“機(jī)器安全”，即人形機(jī)器人肢體以及大腦與肢體傳輸過(guò)程中的安全。然而，既有的人工智能敏捷治理方式更強(qiáng)調(diào)“網(wǎng)絡(luò)安全”，包括要求網(wǎng)絡(luò)服務(wù)提供者發(fā)現(xiàn)違法行為后及時(shí)處置與報(bào)告、監(jiān)測(cè)與記錄網(wǎng)絡(luò)安全狀態(tài)等，未能考量離線斷網(wǎng)、腦體協(xié)同訓(xùn)練等特殊場(chǎng)景下人形機(jī)器人服務(wù)的安全風(fēng)險(xiǎn)。

（三）后端保護(hù)：作為侵權(quán)責(zé)任例外的“發(fā)展風(fēng)險(xiǎn)抗辯”疏漏

在消費(fèi)者終止人形機(jī)器人服務(wù)的后端產(chǎn)生、與信任轉(zhuǎn)移或銷毀失序相關(guān)的控制風(fēng)險(xiǎn)，會(huì)間接損害消費(fèi)者的人格尊嚴(yán)。盡管人形機(jī)器人的商業(yè)應(yīng)用本質(zhì)上是“服務(wù)”，但此種服務(wù)帶來(lái)的人格尊嚴(yán)損害仍由生產(chǎn)者制造、經(jīng)營(yíng)者提供的“產(chǎn)品”造成，因而可以適用產(chǎn)品責(zé)任法中規(guī)定的生產(chǎn)者或銷售者的無(wú)過(guò)錯(cuò)賠償責(zé)任。與此同時(shí)，基于新興科技的迭代更新與認(rèn)知深化特性，產(chǎn)品責(zé)任法為生產(chǎn)者提供了承擔(dān)賠償責(zé)任的專門(mén)例外情形———發(fā)展風(fēng)險(xiǎn)抗辯，即在產(chǎn)品投入流通時(shí)的科技水平尚不能發(fā)現(xiàn)缺陷存在的，生產(chǎn)者不承擔(dān)賠償責(zé)任。〔587〕結(jié)合人形機(jī)器人的特點(diǎn)，現(xiàn)行法中的發(fā)展風(fēng)險(xiǎn)抗辯仍難以規(guī)避或減少終止服務(wù)時(shí)造成的信用控制風(fēng)險(xiǎn)。

一方面，適用于人形機(jī)器人服務(wù)的發(fā)展風(fēng)險(xiǎn)抗辯的具體情形有進(jìn)一步限縮的必要。將科技發(fā)展風(fēng)險(xiǎn)作為生產(chǎn)者免于承擔(dān)賠償責(zé)任的抗辯事由，一來(lái)是根據(jù)生產(chǎn)者的注意義務(wù)程度實(shí)施合理的風(fēng)險(xiǎn)分配，二來(lái)是實(shí)現(xiàn)消費(fèi)者權(quán)益保護(hù)與科技創(chuàng)新發(fā)展的利益平衡?！?97〕但為了避免生產(chǎn)者的避法套利動(dòng)機(jī)，按照立法者的解釋，判斷是否能以投入流通時(shí)的科技水平發(fā)現(xiàn)產(chǎn)品缺陷，應(yīng)采用當(dāng)時(shí)社會(huì)整體所具有的科技水平而非生產(chǎn)者自身所掌握的科技水平?！?07〕對(duì)人形機(jī)器人服務(wù)的信用控制風(fēng)險(xiǎn)而言，僅從科技水平認(rèn)定標(biāo)準(zhǔn)這一角度限制發(fā)展風(fēng)險(xiǎn)抗辯的適用仍存在局限。這不僅僅是因?yàn)樯婕吧】担ɡ缢幤罚惱淼赖拢ɡ缛梭w部位）的產(chǎn)品缺陷能否適用發(fā)展風(fēng)險(xiǎn)抗辯存在較大爭(zhēng)議，〔617〕對(duì)具有高度擬人化特征的人形機(jī)器人而言更是如此。更重要在于，消費(fèi)者因信任控制風(fēng)險(xiǎn)受到的人格尊嚴(yán)損害，有別于因傳統(tǒng)產(chǎn)品缺陷受到的人身?yè)p害。傳統(tǒng)情形下產(chǎn)品的制造、設(shè)計(jì)或警示缺陷，更強(qiáng)調(diào)產(chǎn)品存在危及人身或財(cái)產(chǎn)安全的不合理危險(xiǎn)，或不符合由行業(yè)專家認(rèn)可的技術(shù)標(biāo)準(zhǔn)，即在產(chǎn)品生產(chǎn)階段便存在此種缺陷?！?27〕而消費(fèi)者因信任轉(zhuǎn)移或銷毀面臨的控制風(fēng)險(xiǎn)發(fā)生在其終止人形機(jī)器人服務(wù)之后，其更難以為生產(chǎn)者所實(shí)現(xiàn)控制，從而更加有利于生產(chǎn)者主張發(fā)展風(fēng)險(xiǎn)抗辯。此外，因人形機(jī)器人的腦體重組而產(chǎn)生的信任控制風(fēng)險(xiǎn)，事實(shí)上還涉及人形機(jī)器人再組裝的二級(jí)市場(chǎng)，因而對(duì)此類風(fēng)險(xiǎn)的規(guī)制還需要對(duì)二級(jí)市場(chǎng)的有效監(jiān)管，例如市場(chǎng)準(zhǔn)入?！?3？〕

另一方面，發(fā)展風(fēng)險(xiǎn)抗辯的適用主體難以有效應(yīng)對(duì)人形機(jī)器人的經(jīng)營(yíng)者、消費(fèi)者以及人形機(jī)器人自身的自主性均得到強(qiáng)化的現(xiàn)實(shí)。其一，消費(fèi)者面臨信任轉(zhuǎn)移或銷毀中的信任控制風(fēng)險(xiǎn)，是由人形機(jī)器人“服務(wù)”直接造成的。而經(jīng)營(yíng)者作為人形機(jī)器人服務(wù)的主要提供者，可以針對(duì)消費(fèi)者的個(gè)性化需求設(shè)置相應(yīng)服務(wù)的算法、輸入相關(guān)數(shù)據(jù)，進(jìn)而可能會(huì)對(duì)產(chǎn)品的使用造成“事后”的缺陷，因而應(yīng)當(dāng)承擔(dān)產(chǎn)品責(zé)任。但是，產(chǎn)品質(zhì)量法雖規(guī)定經(jīng)營(yíng)者因過(guò)錯(cuò)使產(chǎn)品存在缺陷應(yīng)承擔(dān)賠償責(zé)任，但卻未對(duì)其設(shè)置類似于科技發(fā)展風(fēng)險(xiǎn)的抗辯事由。其二，信任轉(zhuǎn)移或銷毀中的信任控制風(fēng)險(xiǎn)是由人形機(jī)器人的“反信任”造成的，而這一反信任是人形機(jī)器人的自主性和消費(fèi)者自身的訓(xùn)練、相處等行為共同影響的結(jié)果。消費(fèi)者自陷風(fēng)險(xiǎn)所帶來(lái)的責(zé)任分擔(dān)方式自不待言，但人形機(jī)器人在現(xiàn)行法上不具有法律人格或法律主體地位，便給合理的責(zé)任分擔(dān)造成了困境。以人工智能為代表的新興科技法律均強(qiáng)調(diào)人類是最終責(zé)任主體的理念，我國(guó)《新一代人工智能倫理規(guī)范》要求“在人工智能全生命周期各環(huán)節(jié)自省自律，建立人工智能問(wèn)責(zé)機(jī)制，不回避責(zé)任審查，不逃避應(yīng)負(fù)責(zé)任”。而由阿西莫夫提出的“機(jī)器人基本法則”———機(jī)器人不許傷害人類、必須聽(tīng)從人類指令、在人類優(yōu)先前提下保護(hù)自我生存，均以人類為重心。 在此情況下，機(jī)器人只能作為一種工具或物品而存在，這也與機(jī)器人一詞的捷克語(yǔ)出處———robota（意為“勞動(dòng)”）相符，即按照人類的指令為人類謀福利。〔64？〕盡管學(xué)界提出了虛擬人格、電子人格或有限人格等學(xué)說(shuō)以試圖解決人工智能的侵權(quán)責(zé)任分擔(dān)問(wèn)題，〔65？〕但在商業(yè)視角下，擴(kuò)大法律人格牽一發(fā)而動(dòng)全身?！?6？〕例如，目前銀行賬戶只劃分了對(duì)私和對(duì)公賬戶兩類，對(duì)公賬戶管理更為嚴(yán)格，如在未明確配套制度的情況下（例如賠償基金或保險(xiǎn)）徑行認(rèn)定人形機(jī)器人具有法人人格，那便會(huì)在賬戶管理標(biāo)準(zhǔn)特別是身份鑒別問(wèn)題上出現(xiàn)混亂局面。

三、人形機(jī)器人服務(wù)的消費(fèi)者保護(hù)完善機(jī)制———以消費(fèi)者適當(dāng)性為核心

既有法律難以應(yīng)對(duì)人形機(jī)器人服務(wù)信任控制風(fēng)險(xiǎn)和保護(hù)消費(fèi)者的窘境，凸顯通過(guò)其他制度規(guī)制風(fēng)險(xiǎn)、保護(hù)消費(fèi)者合法權(quán)益的必要。下文將以原適用于金融領(lǐng)域的消費(fèi)者適當(dāng)性為核心，討論如何完善人形機(jī)器人服務(wù)的消費(fèi)者保護(hù)。

（一）消費(fèi)者適當(dāng)性應(yīng)對(duì)“信任控制”風(fēng)險(xiǎn)的法理基礎(chǔ)

消費(fèi)者適當(dāng)性原屬于金融領(lǐng)域應(yīng)對(duì)信息不對(duì)稱的法律機(jī)制，其指金融機(jī)構(gòu)等經(jīng)營(yíng)者應(yīng)當(dāng)對(duì)金融產(chǎn)品或服務(wù)的專業(yè)復(fù)雜程度、風(fēng)險(xiǎn)進(jìn)行評(píng)估與分級(jí)動(dòng)態(tài)管理，并在了解金融消費(fèi)者風(fēng)險(xiǎn)偏好、風(fēng)險(xiǎn)認(rèn)知和風(fēng)險(xiǎn)承受能力的前提下，將合適的金融產(chǎn)品和服務(wù)提供給適當(dāng)?shù)慕鹑谙M(fèi)者，其本質(zhì)在于“賣者盡責(zé)、買者自負(fù)”?！?7？〕消費(fèi)者適當(dāng)性的生成邏輯在于，隨著金融產(chǎn)品的內(nèi)在運(yùn)行結(jié)構(gòu)日趨復(fù)雜，金融服務(wù)提供者與金融消費(fèi)者對(duì)金融產(chǎn)品的信息認(rèn)知程度存在巨大差異，這便給前者實(shí)施不法行為、損害消費(fèi)者合法權(quán)益創(chuàng)造了極大空間。與此同時(shí)，金融市場(chǎng)具有較強(qiáng)的風(fēng)險(xiǎn)傳導(dǎo)與擴(kuò)散特征，這使得消費(fèi)者的個(gè)體風(fēng)險(xiǎn)很容易演變?yōu)橄到y(tǒng)性的金融風(fēng)險(xiǎn)?！?8+〕對(duì)此，除了通過(guò)實(shí)施強(qiáng)制信息披露緩解信息不對(duì)稱、實(shí)施反市場(chǎng)操縱等反欺詐制度增加違法成本之外，為進(jìn)一步避免消費(fèi)者無(wú)法有效作出消費(fèi)決策，適當(dāng)性作為非信息型規(guī)制工具，可以基于“賣者盡責(zé)”的補(bǔ)充保護(hù)消費(fèi)者與社會(huì)整體的信賴，有助于進(jìn)一步緩解信息不對(duì)稱?！?9+〕結(jié)合《全國(guó)法院民商事審判工作會(huì)議紀(jì)要》《證券期貨投資者適當(dāng)性管理辦法》等規(guī)定，〔70+〕消費(fèi)者適當(dāng)性以經(jīng)營(yíng)者義務(wù)為基礎(chǔ)，主要由以下內(nèi)容構(gòu)成：其一，了解產(chǎn)品或服務(wù)，根據(jù)結(jié)構(gòu)復(fù)雜性、相關(guān)主體信用情況等因素評(píng)估產(chǎn)品或服務(wù)的風(fēng)險(xiǎn)等級(jí)；其二，了解消費(fèi)者，根據(jù)消費(fèi)者的購(gòu)買經(jīng)歷、風(fēng)險(xiǎn)能力等因素進(jìn)行消費(fèi)者分類管理；其三，適當(dāng)性匹配，根據(jù)消費(fèi)者的分類對(duì)其適合購(gòu)買的產(chǎn)品或接受的服務(wù)作出判斷，從而使消費(fèi)者能在充分了解產(chǎn)品或服務(wù)性質(zhì)與風(fēng)險(xiǎn)的基礎(chǔ)上作出自主決策、獨(dú)立承擔(dān)風(fēng)險(xiǎn)。〔71+〕

在法理上，消費(fèi)者適當(dāng)性基于前述優(yōu)勢(shì)具有擴(kuò)展至所有消費(fèi)領(lǐng)域的可行性，〔72+〕而在人形機(jī)器人服務(wù)領(lǐng)域，相較于其他消費(fèi)者保護(hù)機(jī)制，消費(fèi)者適當(dāng)性更能有效應(yīng)對(duì)消費(fèi)者面臨的信任控制風(fēng)險(xiǎn)。首先，基于人形機(jī)器人服務(wù)所依托高端制造、人工智能、新材料等技術(shù)的復(fù)雜性，消費(fèi)者與經(jīng)營(yíng)者、生產(chǎn)者之間仍然存在嚴(yán)重的信息不對(duì)稱。雖然消費(fèi)者可通過(guò)數(shù)字設(shè)備了解更多關(guān)于人形機(jī)器人的信息、對(duì)人形機(jī)器人訓(xùn)練或相處具有一定自主性， 但其就生產(chǎn)者或經(jīng)營(yíng)者而言仍面臨巨大的信息鴻溝，因而符合消費(fèi)者適當(dāng)性的生成邏輯。其次，與金融領(lǐng)域個(gè)體風(fēng)險(xiǎn)擴(kuò)散至群體風(fēng)險(xiǎn)進(jìn)而損害公共利益相似，人形機(jī)器人服務(wù)的個(gè)體信任控制風(fēng)險(xiǎn)會(huì)引發(fā)涉眾型極強(qiáng)的倫理安全危機(jī)。有學(xué)者指出，對(duì)人類智能的探索必然會(huì)損害人腦的神經(jīng)元，給人類身體帶來(lái)永久不可逆的影響，因此人工智能完全擬人化會(huì)面臨嚴(yán)重的倫理問(wèn)題?！?3+〕因此，消費(fèi)者應(yīng)接受適當(dāng)?shù)娜诵螜C(jī)器人服務(wù)，而通過(guò)有助于應(yīng)對(duì)外部性危機(jī)的適當(dāng)性機(jī)制便能有助于基本科技倫理的實(shí)現(xiàn)。當(dāng)然，基于此種邏輯，消費(fèi)者適當(dāng)性亦能適用于其他信用控制風(fēng)險(xiǎn)較大、外部性較強(qiáng)的科技服務(wù)領(lǐng)域。最后，與經(jīng)營(yíng)者告知義務(wù)、基于風(fēng)險(xiǎn)分級(jí)的敏捷治理以及發(fā)展風(fēng)險(xiǎn)抗辯等既有制度相比， 消費(fèi)者適當(dāng)性基于消費(fèi)者作出絕對(duì)理性的決策不符合實(shí)際，力求通過(guò)風(fēng)險(xiǎn)匹配讓消費(fèi)者作出“足夠好”的決策，而不是讓消費(fèi)者費(fèi)力地計(jì)算最優(yōu)決策或放任其作出任何決策，〔74+〕因此更有助于應(yīng)對(duì)信任控制風(fēng)險(xiǎn)。更重要的是，消費(fèi)者適當(dāng)性強(qiáng)調(diào)事前評(píng)估匹配、事中監(jiān)測(cè)調(diào)整與事后公平擔(dān)責(zé)相結(jié)合，與消費(fèi)者在人形機(jī)器人服務(wù)在前端、中端與后端所面臨的信任控制風(fēng)險(xiǎn)階段相對(duì)應(yīng)，契合新型科技動(dòng)態(tài)性規(guī)制或全過(guò)程治理的基本原則，比分別單獨(dú)完善經(jīng)營(yíng)者告知義務(wù)、敏捷治理手段更具體系化優(yōu)勢(shì)。

（二）針對(duì)倫理安全構(gòu)建人形機(jī)器人服務(wù)與消費(fèi)者的雙重分級(jí)準(zhǔn)入

對(duì)人形機(jī)器人服務(wù)與消費(fèi)者進(jìn)行分級(jí)，是構(gòu)建消費(fèi)者適當(dāng)性機(jī)制的前提與基礎(chǔ)?；谌诵螜C(jī)器人服務(wù)的強(qiáng)倫理特點(diǎn)，應(yīng)主要基于倫理安全實(shí)施分以及準(zhǔn)入。盡管如上文所言，人工智能敏捷治理的風(fēng)險(xiǎn)分級(jí)存在局限，且金融產(chǎn)品適當(dāng)性的風(fēng)險(xiǎn)分級(jí)亦無(wú)法直接適用于人形機(jī)器人服務(wù)，但在“基于風(fēng)險(xiǎn)”的科技治理框架下，相關(guān)分級(jí)對(duì)經(jīng)營(yíng)者管理水平、消費(fèi)者風(fēng)險(xiǎn)識(shí)別或承受能力、科技產(chǎn)品自主性的判斷標(biāo)準(zhǔn)仍具有一定借鑒意義?！?5+〕

首先， 以身心健康為核心對(duì)人形機(jī)器人服務(wù)進(jìn)行分級(jí)。尊重生命權(quán)利是科技倫理的重要內(nèi)容，《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》指出“科技活動(dòng)應(yīng)最大限度避免對(duì)人的生命安全、身體健康、精神和心理健康造成傷害或潛在威脅”， 因此人形機(jī)器人服務(wù)的倫理安全分級(jí)應(yīng)重點(diǎn)考量消費(fèi)者的生理與心理健康是否會(huì)受到威脅。由于人形機(jī)器人的內(nèi)在運(yùn)行結(jié)構(gòu)同樣較為復(fù)雜，且其能否安全運(yùn)行會(huì)受到不同主體的影響，因此人形機(jī)器人服務(wù)可以在身心健康的基礎(chǔ)上，結(jié)合金融產(chǎn)品與人工智能分級(jí)的標(biāo)準(zhǔn)先確定為三個(gè)等級(jí)：其一，低身心健康風(fēng)險(xiǎn)，人形機(jī)器人的人機(jī)互動(dòng)程度較低，主要基于事前算法預(yù)置，消費(fèi)者對(duì)相關(guān)服務(wù)信息的理解與控制程度較高；〔76%〕其二，中身心健康風(fēng)險(xiǎn)，人形機(jī)器人服務(wù)需要消費(fèi)者一定程度的情感訓(xùn)練，消費(fèi)者對(duì)部分服務(wù)信息的理解與應(yīng)用需要依賴經(jīng)營(yíng)者等第三方主體；其三，高身心健康風(fēng)險(xiǎn)，人形機(jī)器人的人機(jī)互動(dòng)主要基于消費(fèi)者的長(zhǎng)期情感訓(xùn)練形成，消費(fèi)者對(duì)大多數(shù)服務(wù)信息的理解與應(yīng)用需要依賴經(jīng)營(yíng)者等第三方主體。人形機(jī)器人的生產(chǎn)者或經(jīng)營(yíng)者在提供相關(guān)服務(wù)前，應(yīng)根據(jù)前述三個(gè)等級(jí)在不同應(yīng)用場(chǎng)景、結(jié)合服務(wù)涉眾程度等因素進(jìn)一步細(xì)化分級(jí)標(biāo)準(zhǔn)，并按照《科技倫理審查辦法（試行）》交由依法設(shè)立的科技倫理委員會(huì)進(jìn)行審查?！?7%〕。

其次，基于倫理安全帶來(lái)的信任控制程度對(duì)消費(fèi)者進(jìn)行分級(jí)。如上文所言，消費(fèi)者在購(gòu)買人形機(jī)器人服務(wù)的前端主要面臨信任知情的控制風(fēng)險(xiǎn)， 因而應(yīng)主要根據(jù)消費(fèi)者的信任知情水平進(jìn)行分級(jí)。盡管在金融領(lǐng)域，由于消費(fèi)者購(gòu)買金融產(chǎn)品是為了滿足日常生活需求，其主要覆蓋普通投資者而不包括在投資實(shí)力、投資知識(shí)與經(jīng)歷等水平較高的專業(yè)投資者，進(jìn)而在信息告知、風(fēng)險(xiǎn)警示等方面享有特別保護(hù)。〔78%〕但由于特定人形機(jī)器人服務(wù)的信任控制程度與消費(fèi)者的身心承受能力不一定匹配，消費(fèi)者的分級(jí)仍有必要。具體的分級(jí)方式應(yīng)與人形機(jī)器人服務(wù)的分級(jí)相對(duì)應(yīng)，即強(qiáng)身心健康承受能力、中等身心健康承受能力、弱身心健康承受能力。此外，為了事前防范消費(fèi)者信任扭曲所致風(fēng)險(xiǎn)，人形機(jī)器人的經(jīng)營(yíng)者在提供相關(guān)服務(wù)前，還應(yīng)結(jié)合消費(fèi)者接受該服務(wù)的使用目的與期限：前者主要是為了便于經(jīng)營(yíng)者判斷消費(fèi)者購(gòu)買人形機(jī)器人服務(wù)進(jìn)行善意使用、誤用濫用還是違規(guī)惡用〔79%〕的可能性，后者則依據(jù)消費(fèi)者是否會(huì)對(duì)人形機(jī)器形成長(zhǎng)期的信任依賴， 幫助經(jīng)營(yíng)者判斷消費(fèi)者適合何種服務(wù)（例如購(gòu)買還是租賃、一次性還是長(zhǎng)期性）。

最后，在分級(jí)基礎(chǔ)上確立人形機(jī)器人服務(wù)與消費(fèi)者的準(zhǔn)入制度。一方面，為了平衡人形機(jī)器人的產(chǎn)業(yè)創(chuàng)新發(fā)展與風(fēng)險(xiǎn)防范，對(duì)人形機(jī)器人服務(wù)采取審批準(zhǔn)入并不可取。在人形機(jī)器人產(chǎn)業(yè)發(fā)展初期，更合適的方式是在負(fù)面清單基礎(chǔ)上，對(duì)特定的人形機(jī)器人和服務(wù)進(jìn)行登記，以確保信任控制風(fēng)險(xiǎn)出現(xiàn)時(shí)，監(jiān)管者基于登記的可追溯性及時(shí)介入。例如，歐盟人工智能法規(guī)定不得使用人工智能進(jìn)行“社會(huì)評(píng)分”“實(shí)時(shí)遠(yuǎn)程生物鑒別”“評(píng)估自然人的信用分?jǐn)?shù)”， 除非相關(guān)領(lǐng)域具有更重要的公共利益?！?0%〕《歐洲機(jī)器人技術(shù)民事法律規(guī)則》亦規(guī)定，針對(duì)智能機(jī)器人的登記系統(tǒng)及登記簿應(yīng)當(dāng)在全歐盟范圍內(nèi)建立，以便實(shí)現(xiàn)機(jī)器人的可追蹤性?！?1%〕另一方面，經(jīng)營(yíng)者應(yīng)根據(jù)人形機(jī)器人服務(wù)的不同風(fēng)險(xiǎn)等級(jí)建立相應(yīng)的消費(fèi)者準(zhǔn)入即“合格消費(fèi)者”要求。消費(fèi)者只能按照其風(fēng)險(xiǎn)承受能力購(gòu)買相應(yīng)風(fēng)險(xiǎn)級(jí)別的人形機(jī)器人服務(wù)，而經(jīng)營(yíng)者亦不得向消費(fèi)者提供與其風(fēng)險(xiǎn)承受能力不匹配的人形機(jī)器人服務(wù)。為了發(fā)揮最佳的風(fēng)險(xiǎn)防范效果、避免消費(fèi)者的監(jiān)管套利行為，消費(fèi)者適當(dāng)性機(jī)制還應(yīng)實(shí)名制為主體識(shí)別基礎(chǔ)，由此還可實(shí)現(xiàn)與人形機(jī)器人及服務(wù)登記制的銜接?！?2%〕

（三）基于分級(jí)準(zhǔn)入實(shí)施人形機(jī)器人服務(wù)的適當(dāng)性匹配與監(jiān)測(cè)調(diào)整

在人形機(jī)器人服務(wù)與消費(fèi)者分級(jí)準(zhǔn)入的基礎(chǔ)上，應(yīng)實(shí)施消費(fèi)者的適當(dāng)性匹配與動(dòng)態(tài)調(diào)整，以應(yīng)對(duì)信任定向、信任扭曲等信任控制風(fēng)險(xiǎn)。

一方面，經(jīng)營(yíng)者應(yīng)當(dāng)按照風(fēng)險(xiǎn)對(duì)應(yīng)的原則向消費(fèi)者銷售適當(dāng)?shù)娜诵螜C(jī)器人服務(wù)。特別是在沙特阿拉伯率先賦予人形機(jī)器人“索菲亞”國(guó)籍之后，人形機(jī)器人成為眾多市場(chǎng)機(jī)構(gòu)的炒作話題，經(jīng)營(yíng)者存在夸大宣傳、誤導(dǎo)消費(fèi)者的動(dòng)機(jī)，進(jìn)而造成消費(fèi)者容易忽視人形機(jī)器人的潛在信任控制風(fēng)險(xiǎn)。雖然金融領(lǐng)域的經(jīng)營(yíng)者可以在出具書(shū)面風(fēng)險(xiǎn)警示的前提下允許消費(fèi)者購(gòu)買風(fēng)險(xiǎn)等級(jí)高于其承受能力的產(chǎn)品，但人形機(jī)器人服務(wù)的倫理性與社會(huì)性更強(qiáng)，如果允許消費(fèi)者購(gòu)買不適當(dāng)?shù)姆?wù)，消費(fèi)者將承受比財(cái)產(chǎn)損失更為嚴(yán)重的身心健康損害，而經(jīng)惡意訓(xùn)練的人形機(jī)器人還會(huì)對(duì)社會(huì)安全帶來(lái)額外風(fēng)險(xiǎn)。須注意的是，即便經(jīng)營(yíng)者按照政府機(jī)構(gòu)的要求強(qiáng)制為消費(fèi)者提供人形機(jī)器人服務(wù)，適當(dāng)性匹配的義務(wù)仍不可缺位，這亦符合行政法上的比例原則特別是最小侵害原則。與此同時(shí)，在適當(dāng)性匹配前提下，除了就處理敏感個(gè)人信息履行更嚴(yán)格的個(gè)人信息保護(hù)義務(wù)之外，經(jīng)營(yíng)者仍應(yīng)履行與消費(fèi)者風(fēng)險(xiǎn)承受能力相對(duì)應(yīng)的告知義務(wù)。與傳統(tǒng)消費(fèi)者保護(hù)法下經(jīng)營(yíng)者的告知義務(wù)受限于既定商品或服務(wù)信息，以及金融領(lǐng)域告知義務(wù)受限于與本金損失有關(guān)的事項(xiàng)不同，〔83（〕人形機(jī)器人服務(wù)的經(jīng)營(yíng)者應(yīng)當(dāng)以通俗易懂的語(yǔ)言重點(diǎn)告知人形機(jī)器人的自主性程度以及相關(guān)算法的運(yùn)行機(jī)制和風(fēng)險(xiǎn)。當(dāng)然，賣者盡責(zé)不等于“賣者全責(zé)”，經(jīng)營(yíng)者只需讓消費(fèi)者達(dá)到一般民眾對(duì)人形機(jī)器人服務(wù)能夠認(rèn)知理解的程度即可。

另一方面，經(jīng)營(yíng)者應(yīng)當(dāng)在提供人形機(jī)器人服務(wù)過(guò)程中，履行監(jiān)測(cè)調(diào)整義務(wù)。為了適應(yīng)人形機(jī)器人自主性的變化導(dǎo)致的分級(jí)調(diào)整，同時(shí)應(yīng)對(duì)利益沖突，適當(dāng)性動(dòng)態(tài)調(diào)整、內(nèi)外部治理相結(jié)合的監(jiān)測(cè)調(diào)整義務(wù)不可或缺，其可視為歐盟人工智能法所規(guī)定跟蹤監(jiān)測(cè)義務(wù)的強(qiáng)化。具體而言：其一，在線監(jiān)測(cè)與現(xiàn)場(chǎng)核查相結(jié)合。經(jīng)營(yíng)者在依法履行網(wǎng)絡(luò)安全義務(wù)與個(gè)人信息保護(hù)義務(wù)的前提下，不僅應(yīng)基于在線收集的人形機(jī)器人服務(wù)數(shù)據(jù)確定人形機(jī)器人的自主性及風(fēng)險(xiǎn)程度變化，預(yù)估是否要采取技術(shù)性的糾正或預(yù)防措施，同時(shí)，還應(yīng)根據(jù)對(duì)消費(fèi)者的現(xiàn)場(chǎng)訪談與核查，確定人形機(jī)器人的腦體協(xié)作情況、評(píng)估倫理安全與機(jī)器安全程度。其二，適當(dāng)性重新匹配與替代方案應(yīng)對(duì)。在監(jiān)測(cè)核查基礎(chǔ)上，經(jīng)營(yíng)者應(yīng)判斷消費(fèi)者自身或其接受的人形機(jī)器人服務(wù)風(fēng)險(xiǎn)等級(jí)是否需要調(diào)整，并重新進(jìn)行適當(dāng)性匹配。如消費(fèi)者調(diào)整后的分級(jí)與人形機(jī)器人服務(wù)不匹配，經(jīng)營(yíng)者應(yīng)停止原有服務(wù)、降低人形機(jī)器人的自主性（例如限制機(jī)器人與其他機(jī)器人的協(xié)同交互）或通過(guò)合理方式收回機(jī)器人實(shí)體，并按照消費(fèi)者的意愿為其提供其他同樣能夠?qū)崿F(xiàn)原先服務(wù)目標(biāo)（例如陪護(hù)）的替代產(chǎn)品或服務(wù)的建議。這也符合《新一代人工智能倫理規(guī)范》提出的“在提供人工智能產(chǎn)品和服務(wù)時(shí)，應(yīng)充分尊重和幫助弱勢(shì)群體、特殊群體，并根據(jù)需要提供相應(yīng)替代方案?！逼淙邮芡獠勘O(jiān)督約束。《新一代人工智能發(fā)展規(guī)劃》提出要施行“設(shè)計(jì)問(wèn)責(zé)和應(yīng)用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu)”，由于人形機(jī)器人服務(wù)面臨經(jīng)營(yíng)者不當(dāng)處理個(gè)人信息所引發(fā)信任定向化的利益沖突，外部約束可以進(jìn)一步提升問(wèn)責(zé)監(jiān)督的實(shí)效，強(qiáng)化經(jīng)營(yíng)者提供服務(wù)的公共性?；谌诵螜C(jī)器人服務(wù)的強(qiáng)倫理性，經(jīng)營(yíng)者應(yīng)在倫理審查委員會(huì)的基礎(chǔ)上組建同行專家的技術(shù)復(fù)核小組，〔84（〕對(duì)經(jīng)營(yíng)者提供的人形機(jī)器人服務(wù)實(shí)施定期審查或特定消費(fèi)者服務(wù)的抽查，并為政府監(jiān)管機(jī)構(gòu)在經(jīng)營(yíng)者無(wú)力干預(yù)時(shí)的事后及時(shí)介入提供技術(shù)接口。

（四）通過(guò)“終止保障義務(wù)”完善侵權(quán)責(zé)任的發(fā)展風(fēng)險(xiǎn)抗辯事由

人形機(jī)器人服務(wù)的消費(fèi)者適當(dāng)性，不僅要通過(guò)強(qiáng)制性的分級(jí)準(zhǔn)入使消費(fèi)者接受適當(dāng)服務(wù)、終止不適當(dāng)服務(wù)，更要確保消費(fèi)者主動(dòng)“退出”服務(wù)的權(quán)利，由此可為經(jīng)營(yíng)者在產(chǎn)品質(zhì)量賠償責(zé)任中主張發(fā)展風(fēng)險(xiǎn)抗辯提供更合理的事由?！缎乱淮斯ぶ悄軅惱硪?guī)范》“為用戶選擇使用或退出人工智能模式提供簡(jiǎn)便易懂的解決方案”， 保障消費(fèi)者自愿終止人形機(jī)器人服務(wù)的義務(wù)還成為人形機(jī)器人倫理安全的重要組成部分。終止保障義務(wù)的充分實(shí)現(xiàn)，意味著消費(fèi)者在決定終止人形機(jī)器人服務(wù)時(shí)，經(jīng)營(yíng)者必須按照消費(fèi)者的要求通過(guò)技術(shù)手段完全消除人形機(jī)器人基于過(guò)往記憶而產(chǎn)生的反信任，并在實(shí)施人形機(jī)器人循環(huán)利用時(shí)，避免機(jī)器人肢體及相關(guān)數(shù)據(jù)被不當(dāng)移植到其他機(jī)器人產(chǎn)品之中。

進(jìn)一步看，終止保障義務(wù)在多大程度上能作為產(chǎn)品責(zé)任中的發(fā)展風(fēng)險(xiǎn)抗辯事由，應(yīng)當(dāng)以消費(fèi)者與人形機(jī)器人在服務(wù)過(guò)程中的各方自主性為主要依據(jù)。人形機(jī)器人的自主性是機(jī)器人本身的自主意識(shí)水平或在擺脫人類控制時(shí)發(fā)揮自身主觀能動(dòng)作用的可能性，而消費(fèi)者的自主性本質(zhì)上是人類對(duì)機(jī)器人自主意識(shí)的控制能力?！?5*〕如果消費(fèi)者在人形機(jī)器人服務(wù)中的自主性較強(qiáng)，那么其便可更容易預(yù)估和管理人形機(jī)器人的反信任程度， 以及終止服務(wù)后因人形機(jī)器人不當(dāng)移植帶來(lái)的人格尊嚴(yán)損害，因此消費(fèi)者“自我退出”的能力較強(qiáng)，進(jìn)而有更利于經(jīng)營(yíng)者主張發(fā)展風(fēng)險(xiǎn)抗辯事由?！?6*〕需注意的是，如果消費(fèi)者在未經(jīng)經(jīng)營(yíng)者允許的前提下自行改裝人形機(jī)器人， 不論改裝之后各方自主性如何發(fā)生變化，消費(fèi)者均要承擔(dān)由此帶來(lái)的不利風(fēng)險(xiǎn)后果?！?7*〕對(duì)于人形機(jī)器人的強(qiáng)自主性情形（特別是腦體協(xié)作水平較高、離線運(yùn)作的穩(wěn)定性與魯棒性較強(qiáng)），如果經(jīng)營(yíng)者在事中事后的介入程度較為有限（例如無(wú)法完全消除人形機(jī)器人服務(wù)相關(guān)的所有個(gè)人信息）， 且消費(fèi)者在事前的適當(dāng)性匹配階段已經(jīng)接受了此種強(qiáng)自主性的潛在風(fēng)險(xiǎn)、展現(xiàn)了足夠的審慎注意，那么經(jīng)營(yíng)者同樣可以主張發(fā)展風(fēng)險(xiǎn)抗辯事由?！?8*〕此處事實(shí)上確認(rèn)了人形機(jī)器人在終止服務(wù)階段的賠償責(zé)任情形可視為法律主體、享有法律人格，但這不意味著其獲得了類似于自然人的法律主體資格。因?yàn)楹笳呱婕皩?duì)權(quán)利主體的分析，而分析權(quán)利主體本質(zhì)上是一個(gè)“人如何定義人”的問(wèn)題。〔89*〕同時(shí)，這更不意味著在整體性的生態(tài)系統(tǒng)中，人形機(jī)器人具有了可以與人類展開(kāi)同一生態(tài)位競(jìng)爭(zhēng)的資格，因?yàn)榇朔N競(jìng)爭(zhēng)的后果便是兩類競(jìng)爭(zhēng)者大概率無(wú)法共存?！?0*〕這也與一些學(xué)者主張應(yīng)采用“行為對(duì)稱性”標(biāo)準(zhǔn)判斷機(jī)器人能否具有基本權(quán)利相似，即如果智能機(jī)器人如果在行為上與至少某個(gè)人類無(wú)法區(qū)分，并且沒(méi)有任何進(jìn)一步的要求，則應(yīng)該被授予基本權(quán)利。〔91*〕此外，為了避免經(jīng)營(yíng)者濫用發(fā)展風(fēng)險(xiǎn)抗辯的道德風(fēng)險(xiǎn)，可構(gòu)建類似于法人人格否認(rèn)的穿透制度，如經(jīng)營(yíng)者不就終止服務(wù)時(shí)的信任控制風(fēng)險(xiǎn)進(jìn)行事前告知或事后及時(shí)制止，放任消費(fèi)者采取更大程度的自主控制，那么發(fā)展風(fēng)險(xiǎn)抗辯應(yīng)不予適用。〔92*〕

除了終止保障義務(wù)之外，經(jīng)營(yíng)者采取消減信息不對(duì)稱的其他措施，也可以作為認(rèn)定發(fā)展風(fēng)險(xiǎn)抗辯的事由。例如，經(jīng)營(yíng)者建立了在消費(fèi)者選擇終止服務(wù)后主動(dòng)進(jìn)行人形機(jī)器人回收或銷毀的良好機(jī)制，防止不當(dāng)留存消費(fèi)者個(gè)人信息的機(jī)器人（肢體）進(jìn)入二級(jí)市場(chǎng)，則可以認(rèn)定其在事后盡到風(fēng)險(xiǎn)防范義務(wù)。又如，經(jīng)營(yíng)者主動(dòng)將人形機(jī)器人服務(wù)納入政府機(jī)構(gòu)組織的監(jiān)管沙盒測(cè)試〔93*〕中，以提前獲知人形機(jī)器人服務(wù)在事中事后的風(fēng)險(xiǎn)狀況，特別是消費(fèi)者終止服務(wù)后的信任控制風(fēng)險(xiǎn)，則可以視為已盡到的風(fēng)險(xiǎn)識(shí)別與防范義務(wù)?！?4*〕

本文系國(guó)家社會(huì)科學(xué)基金項(xiàng)目“人工智能算法應(yīng)用的金融法規(guī)制研究”（項(xiàng)目批準(zhǔn)號(hào)：22BFX089）、上海市晨光計(jì)劃項(xiàng)目“建設(shè)上海國(guó)際金融中心背景下數(shù)字人民幣跨境支付的制度保障研究”（項(xiàng)目批準(zhǔn)號(hào)：2CGA64）的階段性研究成果。