關(guān)鍵詞：人形機(jī)器人 具身智能 發(fā)展和安全并重 包容審慎監(jiān)管 算法 安全風(fēng)險(xiǎn)評(píng)估

中圖分類(lèi)號(hào)：DF0 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1674-4039-（2024）05-0032-42

一、問(wèn)題的提出

作為具身智能產(chǎn)物的人形機(jī)器人，通過(guò)使用以大數(shù)據(jù)為基礎(chǔ)的多模態(tài)模型，在高算力的基礎(chǔ)上，通過(guò)強(qiáng)算法能夠進(jìn)行高質(zhì)量的感知、規(guī)劃和行動(dòng)，并可以通過(guò)自然語(yǔ)言同人類(lèi)連貫高效地智能交互。2023年工業(yè)和信息化部發(fā)布的《人形機(jī)器人創(chuàng)新發(fā)展指導(dǎo)意見(jiàn)》提出：“人形機(jī)器人集成人工智能、高端制造、新材料等先進(jìn)技術(shù)，有望成為繼計(jì)算機(jī)、智能手機(jī)、新能源汽車(chē)后的顛覆性產(chǎn)品，將深刻變革人類(lèi)生產(chǎn)生活方式，重塑全球產(chǎn)業(yè)發(fā)展格局。”盡管在真正意義上可能成為“智能終端”的人形機(jī)器人具有極為廣闊的應(yīng)用場(chǎng)景，可服務(wù)特種領(lǐng)域需求，助力智能制造，成為人類(lèi)生活助手和情感伴侶，但在發(fā)展過(guò)程中也會(huì)引發(fā)一些安全問(wèn)題，如何實(shí)現(xiàn)人工智能發(fā)展和安全并重成為數(shù)字時(shí)代的重要命題。

當(dāng)前從法治角度對(duì)人工智能發(fā)展和安全并重的專門(mén)探究較少，有學(xué)者提出發(fā)展和安全并重是獨(dú)具特色的中國(guó)人工智能治理之道，另有學(xué)者對(duì)實(shí)現(xiàn)生成式人工智能發(fā)展與安全并重的包容審慎監(jiān)管進(jìn)行了研究。對(duì)于人形機(jī)器人的發(fā)展和安全并重問(wèn)題，部分學(xué)者探討了人形機(jī)器人的隱私風(fēng)險(xiǎn)、操縱性風(fēng)險(xiǎn)、“信任控制”風(fēng)險(xiǎn)等具體風(fēng)險(xiǎn)，另有部分學(xué)者研究了人形機(jī)器人的法律治理基本架構(gòu)、侵權(quán)責(zé)任、刑事責(zé)任等問(wèn)題?，F(xiàn)有研究已經(jīng)取得了卓越的成效，但亟需從中觀層面并結(jié)合人工智能的具體應(yīng)用領(lǐng)域，系統(tǒng)深入探究人工智能發(fā)展和安全并重的法治問(wèn)題。

科技的創(chuàng)新總是伴隨著各種風(fēng)險(xiǎn)，智能時(shí)代科技更新迭代速度更快，發(fā)展和安全的矛盾變得更為突出。在未知大于已知的情境下，很難平衡發(fā)展和安全的關(guān)系。發(fā)展是安全的基礎(chǔ)，過(guò)度追求安全會(huì)扼殺創(chuàng)新而阻礙發(fā)展。安全是發(fā)展的條件，罔顧安全而求發(fā)展會(huì)導(dǎo)致多種風(fēng)險(xiǎn)?！丁笆奈濉睓C(jī)器人產(chǎn)業(yè)發(fā)展規(guī)劃》《人形機(jī)器人創(chuàng)新發(fā)展指導(dǎo)意見(jiàn)》等文件均明確提出“統(tǒng)籌發(fā)展和安全”，《生成式人工智能服務(wù)管理暫行辦法》第3條規(guī)定“國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則”。2024年政府工作報(bào)告提出“開(kāi)展‘人工智能+’行動(dòng)，打造具有國(guó)際競(jìng)爭(zhēng)力的數(shù)字產(chǎn)業(yè)集群”。2024年發(fā)布的《中共中央關(guān)于進(jìn)一步全面深化改革、推進(jìn)中國(guó)式現(xiàn)代化的決定》要求“實(shí)現(xiàn)高質(zhì)量發(fā)展和高水平安全良性互動(dòng)”“建立人工智能安全監(jiān)管制度”。為了促進(jìn)有效市場(chǎng)和有為政府更好結(jié)合，推動(dòng)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展，助力發(fā)展新質(zhì)生產(chǎn)力，本6cX88zRA51+Vi8xMc+BFsg==文將以人形機(jī)器人為例，系統(tǒng)探討人工智能發(fā)展和安全并重的法治之道。

二、人工智能發(fā)展和安全的張力

發(fā)展和安全的沖突，在人工智能時(shí)代更為凸顯。智能科技更新迭代迅速，監(jiān)管機(jī)構(gòu)的認(rèn)知能力有限，在未知大于已知的情境下，處理好發(fā)展和安全的關(guān)系存在巨大的難度。發(fā)展和安全容易失衡，為了發(fā)展可能犧牲安全，為了安全可能罔顧發(fā)展。人形機(jī)器人在發(fā)展過(guò)程中會(huì)產(chǎn)生多種安全風(fēng)險(xiǎn)，但如果過(guò)度追求安全就會(huì)扼殺創(chuàng)新而阻礙發(fā)展。

（一）人形機(jī)器人的發(fā)展存在多種安全風(fēng)險(xiǎn)

盡管人形機(jī)器人技術(shù)加速演進(jìn)，已成為科技競(jìng)爭(zhēng)的新高地、未來(lái)產(chǎn)業(yè)的新賽道和經(jīng)濟(jì)發(fā)展的新引擎，但在發(fā)展過(guò)程中面臨多種安全風(fēng)險(xiǎn)。人形機(jī)器人的自主性越強(qiáng)，存在的安全風(fēng)險(xiǎn)可能就越大。

一是功能安全風(fēng)險(xiǎn)。人工智能可能成為“人工智障”，無(wú)論是硬件有缺陷，還是軟件有漏洞，都可能導(dǎo)致人形機(jī)器人功能失靈，從而引發(fā)安全事件。大量關(guān)于工業(yè)機(jī)器人造成災(zāi)難的數(shù)據(jù)都表明，即使在工業(yè)機(jī)器人的傳統(tǒng)應(yīng)用中，安全性仍然是一個(gè)未解決的問(wèn)題。機(jī)器人傷人、殺人等事件屢見(jiàn)不鮮，如1978年日本一家工廠的切割機(jī)器人突然“轉(zhuǎn)身”將工人抓住并切割。2015年，德國(guó)某汽車(chē)工廠一名工人被機(jī)器人按壓在金屬板上，最終因胸部遭受?chē)?yán)重瘀傷而死亡。由于人形機(jī)器人具有高交互性，同人的身體接觸更為密切，一旦出現(xiàn)功能失靈，將對(duì)人造成更大的傷害。如果大模型的數(shù)據(jù)有問(wèn)題，高智能就無(wú)法實(shí)現(xiàn)，人形機(jī)器人的決策和行動(dòng)就會(huì)出現(xiàn)失誤。如果人形機(jī)器人沒(méi)有及時(shí)辨明人的錯(cuò)誤指令，那么由于人的失誤也可能導(dǎo)致安全事件。人形機(jī)器人功能失靈不僅可能導(dǎo)致人類(lèi)被傷害，而且由于無(wú)法實(shí)現(xiàn)既定功能可能造成重大損失。例如，在應(yīng)急救援領(lǐng)域，如果人形機(jī)器人突然功能失靈，那么將造成更多的人員傷亡。

二是網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。人形機(jī)器人離不開(kāi)網(wǎng)絡(luò)，但一旦接入互聯(lián)網(wǎng)就存在網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。人形機(jī)器人的交互能力越強(qiáng)，承擔(dān)的智能任務(wù)越多，面臨的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)就越多。如果智能工廠中的人形機(jī)器人被實(shí)施網(wǎng)絡(luò)攻擊，不僅會(huì)對(duì)正常的工業(yè)生產(chǎn)造成不良影響，而且還可能威脅工人的安全。攻擊者進(jìn)行數(shù)據(jù)投毒，向模型的訓(xùn)練數(shù)據(jù)集中加入惡意樣本或修改訓(xùn)練數(shù)據(jù)標(biāo)簽信息，從而影響模型在推理階段的表現(xiàn)。惡意軟件可能導(dǎo)致醫(yī)用機(jī)器人在與人交互時(shí)執(zhí)行不需要的操作，勒索軟件可能劫持醫(yī)用機(jī)器人為人質(zhì)使其無(wú)法使用。黑客可能獲取人形機(jī)器人所掌握的個(gè)人信息實(shí)施詐騙，或利用作為私人助手的人形機(jī)器人實(shí)施遠(yuǎn)程違法“代理”，也可能控制人形機(jī)器人實(shí)施入戶盜竊、搶劫等犯罪行為。人形機(jī)器人的發(fā)展，可能大大增加恐怖犯罪活動(dòng)的風(fēng)險(xiǎn)。如果加油（氣）站、充電站、危險(xiǎn)物品倉(cāng)庫(kù)、化工廠等危險(xiǎn)目標(biāo)遭到人形機(jī)器人的恐怖襲擊，不僅可能造成人員、財(cái)產(chǎn)等重大損失，還可能造成極其惡劣的政治影響。

三是個(gè)人信息安全風(fēng)險(xiǎn)。人工智能的運(yùn)行離不開(kāi)個(gè)人信息，個(gè)人信息如同“砧板上的肥肉”被無(wú)數(shù)主體所覬覦。人形機(jī)器人在同人類(lèi)交互過(guò)程中，會(huì)掌握大量個(gè)人信息，如生物識(shí)別、身份證號(hào)、金融賬戶、醫(yī)療健康、特定身份、宗教信仰等信息，存在泄露的風(fēng)險(xiǎn)。大模型一方面可能會(huì)“記憶”并在特定輸入誘導(dǎo)下泄露訓(xùn)練數(shù)據(jù)中的個(gè)人信息，另一方面可能推斷出個(gè)人的宗教信仰、經(jīng)濟(jì)狀況等個(gè)人信息而予以泄露。攻擊者進(jìn)行“撞庫(kù)”攻擊，通過(guò)收集互聯(lián)網(wǎng)中已泄露的用戶和密碼信息生成對(duì)應(yīng)的字典表，嘗試批量登錄其他網(wǎng)站。

由于“耳聰目明”，人形機(jī)器人可能成為超強(qiáng)“竊聽(tīng)器”和“竊看器”。作為私人助手的人形機(jī)器人，不僅可能違法收集家庭談話、電話通信等語(yǔ)音信息，還可能違法識(shí)別家庭財(cái)產(chǎn)、私密行為等圖片、行為信息。作為情感伴侶的人形機(jī)器人，可能獲取人類(lèi)更愿意主動(dòng)透露的個(gè)人隱私。在智能化社會(huì)中，如何有效保護(hù)個(gè)人信息，是人類(lèi)面臨的新的倫理、法律和社會(huì)問(wèn)題。

四是數(shù)據(jù)安全風(fēng)險(xiǎn)。人形機(jī)器人不僅可能引發(fā)個(gè)人信息安全風(fēng)險(xiǎn)，還可能引發(fā)公共數(shù)據(jù)和企業(yè)數(shù)據(jù)泄露風(fēng)險(xiǎn)。人形機(jī)器人離不開(kāi)生成式人工智能的運(yùn)用，而生成式人工智能語(yǔ)料庫(kù)的大規(guī)模流動(dòng)、聚合和分析會(huì)帶來(lái)前所未有的數(shù)據(jù)安全風(fēng)險(xiǎn)，其范圍涵蓋數(shù)據(jù)輸入、運(yùn)算、存儲(chǔ)和輸出的全過(guò)程，兼具瞬時(shí)性和破壞性。數(shù)據(jù)可能被人形機(jī)器人的開(kāi)發(fā)者、相關(guān)軟件運(yùn)營(yíng)者等主體違法處理，也可能被黑客竊取?，F(xiàn)階段的技術(shù)局限導(dǎo)致大模型應(yīng)對(duì)訓(xùn)練數(shù)據(jù)提取攻擊、數(shù)據(jù)投毒等數(shù)據(jù)攻擊活動(dòng)的穩(wěn)定性不足。服務(wù)特種領(lǐng)域需求、助力智能制造等領(lǐng)域的人形機(jī)器人，收集存儲(chǔ)的大量公共數(shù)據(jù)和企業(yè)數(shù)據(jù)可能會(huì)被泄露。企業(yè)數(shù)據(jù)屬于商業(yè)生產(chǎn)資料，可能涉及商業(yè)秘密和核心數(shù)據(jù)資產(chǎn)，違法處理可能給企業(yè)帶來(lái)巨大的經(jīng)濟(jì)損失。公共數(shù)據(jù)屬于公共生產(chǎn)資料，但并非都應(yīng)無(wú)條件開(kāi)放，違法處理可能損害公共安全。

五是國(guó)家安全風(fēng)險(xiǎn)。人形機(jī)器人可能直接被用于從事間諜活動(dòng)，如竊取國(guó)家秘密、情報(bào)，或者針對(duì)國(guó)家機(jī)關(guān)、涉密單位或者關(guān)鍵信息基礎(chǔ)設(shè)施等實(shí)施網(wǎng)絡(luò)攻擊。人工智能驅(qū)動(dòng)的工具“一本正經(jīng)地胡說(shuō)八道”，極易生成諸多看似真實(shí)的虛假信息而形成“人工智能幻覺(jué)”。人形機(jī)器人如果基于政治目的進(jìn)入社交媒體，就可能通過(guò)發(fā)言、轉(zhuǎn)發(fā)、點(diǎn)贊、評(píng)論、添加好友等方式，影響公共決策的議程安排、傳播假新聞、反映錯(cuò)誤的社會(huì)群體分化、干擾競(jìng)爭(zhēng)性選舉、制造社會(huì)矛盾乃至群體對(duì)立，從而可能與國(guó)際政治領(lǐng)域的“信息戰(zhàn)”相疊加引發(fā)國(guó)家安全問(wèn)題。應(yīng)用于國(guó)防、工業(yè)、金融、應(yīng)急救援等領(lǐng)域的人形機(jī)器人，一旦出現(xiàn)大規(guī)模的網(wǎng)絡(luò)安全、個(gè)人信息安全、數(shù)據(jù)安全等事件，就最終可能影響國(guó)家政治安全、經(jīng)濟(jì)安全和社會(huì)安全。

六是違法“代理”風(fēng)險(xiǎn)。隨著通用人工智能的不斷發(fā)展，人類(lèi)對(duì)人形機(jī)器人的依賴會(huì)越來(lái)越強(qiáng)，由人形機(jī)器人實(shí)施的智能法律行為引發(fā)的糾紛也將日益增多。智能法律行為存在于虛實(shí)融合的復(fù)雜系統(tǒng)，既可能涉及真實(shí)世界的人、物、基礎(chǔ)設(shè)施等，也可能涉及虛擬空間的數(shù)字人、數(shù)據(jù)財(cái)產(chǎn)、虛擬生活或交易場(chǎng)景，并且雙重空間在多元技術(shù)支撐下交互共生，擴(kuò)張為“元宇宙”量級(jí)空間。作為私人助理的人形機(jī)器人，對(duì)外則可能被視為是主人的代理人。如果沒(méi)有獲得、超出或錯(cuò)誤理解主人的指令，或基于深度學(xué)習(xí)，或被黑客操控，人形機(jī)器人對(duì)外實(shí)施的智能法律行為就可能構(gòu)成無(wú)權(quán)代理，但在第三人看來(lái)則可能屬于表見(jiàn)代理，由此可能引發(fā)行為的成立、效力、責(zé)任等糾紛。

七是侵權(quán)風(fēng)險(xiǎn)。在發(fā)展和利用人形機(jī)器人的過(guò)程中，存在侵權(quán)風(fēng)險(xiǎn)。首先，高智能的人形機(jī)器人離不開(kāi)大數(shù)據(jù)的喂養(yǎng)，而在數(shù)據(jù)的輸入端，無(wú)論是數(shù)據(jù)“輸入—收錄”還是數(shù)據(jù)爬取，都可能侵犯數(shù)據(jù)產(chǎn)權(quán)。其次，在數(shù)據(jù)的輸出端，基于大模型的人形機(jī)器人產(chǎn)生的作品可能存在知識(shí)產(chǎn)權(quán)爭(zhēng)議。如何在人工智能衍生內(nèi)容生成眾多貢獻(xiàn)者中進(jìn)行抉擇、取舍，確定某個(gè)或某幾個(gè)主體作為知識(shí)產(chǎn)權(quán)歸屬者和相應(yīng)侵權(quán)責(zé)任的承擔(dān)者，成為棘手的新問(wèn)題。在“AI文生圖”著作權(quán)案中，北京互聯(lián)網(wǎng)法院經(jīng)審理后認(rèn)為，自然人對(duì)其利用AI繪畫(huà)大模型生成圖片在符合一定條件下享有著作權(quán)，被告使用涉案圖片作為配圖并發(fā)布在自己的賬號(hào)中，使公眾可以在其選定的時(shí)間和地點(diǎn)獲得涉案圖片，侵害了原告就涉案圖片享有的信息網(wǎng)絡(luò)傳播權(quán)。此外，被告將涉案圖片進(jìn)行去除署名水印的處理，侵害了原告的署名權(quán)。最后，使用者可能違法利用人形機(jī)器人實(shí)施侵犯人身權(quán)、財(cái)產(chǎn)權(quán)、名譽(yù)權(quán)、隱私權(quán)、個(gè)人信息權(quán)益等侵權(quán)行為，人形機(jī)器人也可能失控實(shí)施侵權(quán)行為。

八是倫理風(fēng)險(xiǎn)。無(wú)論具身智能技術(shù)如何先進(jìn)，人形機(jī)器人的發(fā)展都可能產(chǎn)生倫理問(wèn)題。性愛(ài)機(jī)器人率先攻入人類(lèi)的私密生活領(lǐng)域，脫離了生殖目的的性行為受到了更多的寬容、默認(rèn)乃至鼓勵(lì)?！叭ブ行幕男浴睂?duì)于傳統(tǒng)的性觀念造成沖擊，而且隨著性愛(ài)機(jī)器人自主思考能力的提升，人機(jī)間的主奴關(guān)系將發(fā)生顛覆。情侶機(jī)器人可能導(dǎo)致女性客體化、情感欺騙、社交弱化等問(wèn)題。智能養(yǎng)老護(hù)理機(jī)器人的“計(jì)算式思維”遠(yuǎn)遠(yuǎn)大于關(guān)懷式思維，可能導(dǎo)致老年人對(duì)機(jī)器人產(chǎn)生“單向情感聯(lián)系”或“單相思”，形成對(duì)機(jī)器人的過(guò)度依賴而減少真實(shí)的社交，由此又可能增加老年人認(rèn)知功能下降和癡呆的風(fēng)險(xiǎn)。人工智能在倫理觀念上存在很多局限，其決策結(jié)果是基于數(shù)據(jù)和算法的線性“思維”形成的，難以在各種場(chǎng)景尤其是突發(fā)場(chǎng)景中作出符合人類(lèi)價(jià)值的倫理判斷。算法可能加劇不平等，人類(lèi)設(shè)計(jì)者隱藏的偏見(jiàn)、雙重標(biāo)準(zhǔn)很容易嵌入算法。人形機(jī)器人的研發(fā)者為了追求商業(yè)利潤(rùn)最大化，可能違反基本的倫理規(guī)范。人工智能的失控，很可能是因?yàn)槟澄还こ處煹囊荒钪睢?/p>

（二）過(guò)度追求安全會(huì)扼殺創(chuàng)新阻礙發(fā)展

盡管人形機(jī)器人存在功能安全、網(wǎng)絡(luò)安全、個(gè)人信息安全、數(shù)據(jù)安全、國(guó)家安全、違法“代理”、侵權(quán)、倫理等多種安全風(fēng)險(xiǎn)，但如果過(guò)度追求安全，就會(huì)扼殺創(chuàng)新阻礙發(fā)展?！皠?chuàng)新是引領(lǐng)發(fā)展的第一動(dòng)力，創(chuàng)新發(fā)展注重的是解決發(fā)展動(dòng)力問(wèn)題，必須把創(chuàng)新擺在國(guó)家發(fā)展全局的核心位置，讓創(chuàng)新貫穿黨和國(guó)家一切工作?！眲?chuàng)新是新發(fā)展理念“創(chuàng)新、協(xié)調(diào)、綠色、開(kāi)放、共享”的首要要素，我國(guó)憲法明確要求“貫徹新發(fā)展理念”。“新一輪科技革命帶來(lái)的是更加激烈的科技競(jìng)爭(zhēng)，如果科技創(chuàng)新搞不上去，發(fā)展動(dòng)力就不可能實(shí)現(xiàn)轉(zhuǎn)換，我們?cè)谌蚪?jīng)濟(jì)競(jìng)爭(zhēng)中就會(huì)處于下風(fēng)?！惫I(yè)和信息化部在解讀《人形機(jī)器人創(chuàng)新發(fā)展指導(dǎo)意見(jiàn)》中指出：“我國(guó)人形機(jī)器人產(chǎn)業(yè)前期已有一定基礎(chǔ)，但在關(guān)鍵基礎(chǔ)部件、操作系統(tǒng)、整機(jī)產(chǎn)品、領(lǐng)軍企業(yè)和產(chǎn)業(yè)生態(tài)等方面仍存在短板弱項(xiàng)，需要加強(qiáng)政策引導(dǎo)，集聚資源推動(dòng)關(guān)鍵技術(shù)創(chuàng)新，培育形成新質(zhì)生產(chǎn)力?！彪m然通用人工智能促進(jìn)了人形機(jī)器人的跨越式發(fā)展，但人形機(jī)器人還無(wú)法像人類(lèi)那樣“耳聰目明”“四肢穩(wěn)健”，具身智能技術(shù)需要進(jìn)一步取得突破。

其一，人工智能的安全問(wèn)題不容忽視，但不宜過(guò)度夸大?！鞍踩侨斯ぶ悄軙r(shí)代的核心法價(jià)值。安全價(jià)值是對(duì)整個(gè)社會(huì)秩序穩(wěn)定的維護(hù)?！弊鳛轭嵏残援a(chǎn)品的人形機(jī)器人，將深刻變革人類(lèi)的生產(chǎn)生活方式，但也存在多種風(fēng)險(xiǎn)。人形機(jī)器人批量投入市場(chǎng)后，單個(gè)風(fēng)險(xiǎn)的組合就是大規(guī)模風(fēng)險(xiǎn)，一旦發(fā)生安全事件，就可能對(duì)個(gè)人、社會(huì)、國(guó)家造成難以挽回的大規(guī)模損害。現(xiàn)代科技可謂是一把“雙刃劍”，它既滿足了人類(lèi)無(wú)盡的欲望，又將人類(lèi)置于無(wú)窮的風(fēng)險(xiǎn)之中。機(jī)遇與挑戰(zhàn)并存，對(duì)人工智能的諸多擔(dān)憂并非杞人憂天。如果不重視安全，人形機(jī)器人不僅不可能成為人類(lèi)的福音，反而還可能成為人類(lèi)的喪鐘。但因?yàn)槿诵螜C(jī)器人的發(fā)展存在風(fēng)險(xiǎn)隱患，就予以嚴(yán)厲限制甚至全面禁止，就可能是因噎廢食了。

當(dāng)前對(duì)人工智能的監(jiān)管，在某些領(lǐng)域還存在“泛安全化”的思維。由于新科技的發(fā)展具有不確定性，一些人工智能產(chǎn)品很容易被以保障安全的名義實(shí)施嚴(yán)厲監(jiān)管甚至被“叫?！?。除了過(guò)度考慮發(fā)展所引發(fā)的風(fēng)險(xiǎn)，決策者的自利考慮也容易導(dǎo)致安全問(wèn)題被夸大。過(guò)度重視安全可能只是阻礙了新科技的快速發(fā)展，但如果監(jiān)管不力而釀成重大安全風(fēng)險(xiǎn)事件，相關(guān)決策者就可能被嚴(yán)厲問(wèn)責(zé)。一些部門(mén)的決策者可能寧愿選擇犧牲發(fā)展，也不敢去冒可能被事后認(rèn)定為“不重視安全”而丟掉烏紗帽的風(fēng)險(xiǎn)。無(wú)論是過(guò)于重視防范社會(huì)風(fēng)險(xiǎn)，還是過(guò)度擔(dān)心問(wèn)責(zé)風(fēng)險(xiǎn)，都會(huì)使得安全問(wèn)題被放大，從而阻礙人工智能發(fā)展。

其二，絕對(duì)安全難以有效實(shí)現(xiàn)，應(yīng)將人工智能的風(fēng)險(xiǎn)控制在可接受的程度。傳統(tǒng)的絕對(duì)安全觀念認(rèn)為安全風(fēng)險(xiǎn)可以通過(guò)預(yù)測(cè)和計(jì)算予以完全控制，但數(shù)字時(shí)代人工智能的風(fēng)險(xiǎn)是由技術(shù)本身的特點(diǎn)和應(yīng)用環(huán)境等多方面因素綜合造成的，雖然可以通過(guò)法律治理、倫理治理等降低風(fēng)險(xiǎn)，但難以完全消除。除了風(fēng)險(xiǎn)本身具有不確定性，人類(lèi)認(rèn)知能力有限，也決定了難以實(shí)現(xiàn)絕對(duì)安全。數(shù)字時(shí)代科技發(fā)展的速度呈現(xiàn)指數(shù)級(jí)增加，專業(yè)性和門(mén)類(lèi)性的特點(diǎn)越來(lái)越突出，但監(jiān)管機(jī)構(gòu)對(duì)創(chuàng)新的特點(diǎn)和技術(shù)趨勢(shì)的把握往往并不十分精準(zhǔn)，從而制約了風(fēng)險(xiǎn)規(guī)制的效果。追求零風(fēng)險(xiǎn)而確保絕對(duì)安全，是難以實(shí)現(xiàn)的，即使實(shí)現(xiàn)了也會(huì)耗費(fèi)巨大的成本?！蛾P(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》要求“合理控制風(fēng)險(xiǎn)”。具身智能技術(shù)迭代更新迅速，人形機(jī)器人應(yīng)用場(chǎng)景多元，監(jiān)管機(jī)構(gòu)認(rèn)知能力有限，要想完全消除人形機(jī)器人的發(fā)展風(fēng)險(xiǎn)而確保絕對(duì)安全是不可能的。應(yīng)當(dāng)合理控制人形機(jī)器人的發(fā)展風(fēng)險(xiǎn)，以實(shí)現(xiàn)相對(duì)安全。

（三）應(yīng)統(tǒng)籌人工智能的發(fā)展和安全

過(guò)度追求安全會(huì)扼殺創(chuàng)新阻礙發(fā)展，罔顧安全而求發(fā)展會(huì)導(dǎo)致多種風(fēng)險(xiǎn)。發(fā)展和安全是國(guó)家治理的重大難題，實(shí)現(xiàn)發(fā)展和安全并重，已成為新時(shí)代國(guó)家治理的基本目標(biāo)?！敖y(tǒng)籌發(fā)展和安全，不是把砝碼只放在安全上、把發(fā)展擺在次要位置，而是要在發(fā)展中更多考慮安全因素，在確保安全的同時(shí)努力推動(dòng)高質(zhì)量發(fā)展。為了發(fā)展而不顧及潛在風(fēng)險(xiǎn)挑戰(zhàn)，是不對(duì)的；為了安全而在發(fā)展上裹足不前，也是不對(duì)的?！薄秶?guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十四個(gè)五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》提出“促進(jìn)發(fā)展與規(guī)范管理相統(tǒng)一”?！度诵螜C(jī)器人創(chuàng)新發(fā)展指導(dǎo)意見(jiàn)》提出“完整、準(zhǔn)確、全面貫徹新發(fā)展理念，加快構(gòu)建新發(fā)展格局，統(tǒng)籌發(fā)展和安全”。2023年召開(kāi)的中央經(jīng)濟(jì)工作會(huì)議指出，必須堅(jiān)持高質(zhì)量發(fā)展和高水平安全良性互動(dòng)，以高質(zhì)量發(fā)展促進(jìn)高水平安全，以高水平安全保障高質(zhì)量發(fā)展，發(fā)展和安全要?jiǎng)討B(tài)平衡、相得益彰。

發(fā)展和安全二者相輔相成，發(fā)展是安全的基礎(chǔ)，安全是發(fā)展的條件。首先，發(fā)展是安全的基礎(chǔ)，只有發(fā)展才能促進(jìn)安全。通過(guò)不斷發(fā)展實(shí)現(xiàn)技術(shù)創(chuàng)新，提高人工智能治理的技術(shù)能力，可以更好地以技術(shù)防范人工智能風(fēng)險(xiǎn)。如果沒(méi)有發(fā)展，技術(shù)就會(huì)不斷落后，安全風(fēng)險(xiǎn)也會(huì)隨之增多?！鞍l(fā)展是硬道理，是解決中國(guó)所有問(wèn)題的關(guān)鍵。我們用幾十年的時(shí)間走完了發(fā)達(dá)國(guó)家?guī)装倌曜哌^(guò)的歷程，最終靠的是發(fā)展?！卑l(fā)展仍是解決我國(guó)一切問(wèn)題的基礎(chǔ)和關(guān)鍵，破解各種突出矛盾和問(wèn)題，防范化解重大風(fēng)險(xiǎn)，歸根到底要靠發(fā)展?！吨泄仓醒腙P(guān)于進(jìn)一步全面深化改革、推進(jìn)中國(guó)式現(xiàn)代化的決定》提出“高質(zhì)量發(fā)展是全面建設(shè)社會(huì)主義現(xiàn)代化國(guó)家的首要任務(wù)”。當(dāng)前我國(guó)人形機(jī)器人的制造技術(shù)還比較落后，只有不斷發(fā)展才能更好解決其自身存在的諸多安全問(wèn)題。其次，安全是發(fā)展的條件。安全不僅是一種價(jià)值理念，還是一種能夠保障人們合理預(yù)期且客觀存在的包含人格、財(cái)產(chǎn)與公共利益的復(fù)合型利益。如果安全性不足，無(wú)論多么先進(jìn)的人工智能產(chǎn)品，都無(wú)法獲得廣泛的認(rèn)同和接受，從而難以實(shí)現(xiàn)健康持續(xù)發(fā)展。人形機(jī)器人雖然應(yīng)用場(chǎng)景廣闊，能夠滿足人類(lèi)的高品質(zhì)需求，但如果頻繁出現(xiàn)功能失靈、網(wǎng)絡(luò)安全、個(gè)人信息泄露等重大安全事件，就會(huì)使市場(chǎng)逐漸失去信心而無(wú)法獲得有效發(fā)展。

三、人工智能發(fā)展和安全并重的法治路徑

人工智能具有技術(shù)內(nèi)核的不可知性、應(yīng)用形式的擬人性、應(yīng)用場(chǎng)景的多元化、利益主體的交融性、技術(shù)風(fēng)險(xiǎn)的未知性、社會(huì)影響的復(fù)雜性等特征，其發(fā)展過(guò)程伴隨著多種風(fēng)險(xiǎn)，對(duì)人工智能的治理成為一項(xiàng)艱巨工程。《新一代人工智能發(fā)展規(guī)劃》提出：“在大力發(fā)展人工智能的同時(shí)，必須高度重視可能帶來(lái)的安全風(fēng)險(xiǎn)挑戰(zhàn)，加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險(xiǎn)，確保人工智能安全、可靠、可控發(fā)展?！贝罅Πl(fā)展人形機(jī)器人已成為不可阻擋的歷史潮流，需要不斷加強(qiáng)安全治理能力，保障人形機(jī)器人對(duì)人和環(huán)境友好。

（一）以包容審慎監(jiān)管促進(jìn)發(fā)展和安全動(dòng)態(tài)平衡

發(fā)展和安全的矛盾在數(shù)字時(shí)代變得更加突出，新型的包容審慎監(jiān)管有利于促進(jìn)發(fā)展和安全的動(dòng)態(tài)平衡。包容審慎監(jiān)管是對(duì)市場(chǎng)與政府關(guān)系在監(jiān)管領(lǐng)域認(rèn)識(shí)的新突破，是推動(dòng)有效市場(chǎng)和有為政府更好結(jié)合的現(xiàn)實(shí)需要，它要求政府給予新業(yè)態(tài)必要的發(fā)展時(shí)間與試錯(cuò)空間，并根據(jù)公共風(fēng)險(xiǎn)的大小進(jìn)行適時(shí)適度干預(yù)?！秶?guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十四個(gè)五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》提出“對(duì)新產(chǎn)業(yè)新業(yè)態(tài)實(shí)施包容審慎監(jiān)管”?！犊茖W(xué)技術(shù)進(jìn)步法》第35條規(guī)定：“國(guó)家鼓勵(lì)新技術(shù)應(yīng)用，按照包容審慎原則，推動(dòng)開(kāi)展新技術(shù)、新產(chǎn)品、新服務(wù)、新模式應(yīng)用試驗(yàn)，為新技術(shù)、新產(chǎn)品應(yīng)用創(chuàng)造條件?！薄秲?yōu)化營(yíng)商環(huán)境條例》第55條規(guī)定：“對(duì)新技術(shù)、新產(chǎn)業(yè)、新業(yè)態(tài)、新模式等實(shí)行包容審慎監(jiān)管”。《生成式人工智能服務(wù)管理暫行辦法》第3條規(guī)定：“國(guó)家堅(jiān)持發(fā)展和安全并重……對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類(lèi)分級(jí)監(jiān)管”。很多地方政府都規(guī)定了包容審慎監(jiān)管，例如《北京市促進(jìn)通用人工智能創(chuàng)新發(fā)展的若干措施》提出“爭(zhēng)取在中關(guān)村國(guó)家自主創(chuàng)新示范區(qū)核心區(qū)先行先試，推動(dòng)實(shí)行包容審慎監(jiān)管試點(diǎn)”。

包容審慎監(jiān)管的價(jià)值目標(biāo)是追求發(fā)展和安全的動(dòng)態(tài)平衡，其既不主張完全放任也不支持過(guò)度預(yù)防，而是要求政府對(duì)新科技進(jìn)行適時(shí)適度監(jiān)管。對(duì)于正在發(fā)展中的人工智能，往往一時(shí)很難認(rèn)清風(fēng)險(xiǎn)的有無(wú)和大小，如果抱著懷疑的眼光以“泛安全化”的思維倉(cāng)促實(shí)施監(jiān)管，一下子管得過(guò)嚴(yán)過(guò)死，就會(huì)將其扼殺在搖籃之中。人形機(jī)器人在發(fā)展初期難免經(jīng)歷混沌與混亂，出現(xiàn)一些安全事件是難免的，通過(guò)一定時(shí)間的試錯(cuò)發(fā)展或許就可能自己解決問(wèn)題。包容要求“讓子彈飛一會(huì)兒”，體現(xiàn)了通過(guò)發(fā)揮市場(chǎng)在資源配置中的決定性作用以實(shí)現(xiàn)效率最大化。然而，包容不是“撒手不管”“弱監(jiān)管”的代名詞，如果監(jiān)管機(jī)構(gòu)把包容當(dāng)作“不作為”的“擋箭牌”，視為“甩包袱”的手段，不僅會(huì)使得個(gè)人、社會(huì)、國(guó)家處于巨大的風(fēng)險(xiǎn)之中，而且最終可能導(dǎo)致新科技“翻車(chē)”。一旦發(fā)現(xiàn)市場(chǎng)無(wú)法自我糾偏，就需要立即采取審慎監(jiān)管措施“不讓子彈亂飛”。對(duì)于人形機(jī)器人發(fā)展過(guò)程中的一些突出安全問(wèn)題，監(jiān)管機(jī)構(gòu)應(yīng)通過(guò)運(yùn)用合比例性分析、成本收益分析等方法采取審慎的監(jiān)管措施。包容和審慎二者之間是辯證統(tǒng)一的，無(wú)論是包容過(guò)度而審慎不足，還是包容不足而審慎過(guò)度，都會(huì)導(dǎo)致發(fā)展和安全的失衡。過(guò)度包容的監(jiān)管可能積重難返且引發(fā)系統(tǒng)性風(fēng)險(xiǎn)，過(guò)于審慎苛刻的執(zhí)法又可能損害新業(yè)態(tài)經(jīng)濟(jì)的宏觀前景。應(yīng)理性實(shí)施包容審慎監(jiān)管，使人形機(jī)器人在發(fā)展中規(guī)范、在規(guī)范中發(fā)展，以實(shí)現(xiàn)發(fā)展和安全的動(dòng)態(tài)平衡。

（二）科學(xué)合理開(kāi)展人工智能安全風(fēng)險(xiǎn)評(píng)估

大力發(fā)展人工智能已成為全球培育新質(zhì)生產(chǎn)力的關(guān)鍵，不能因?yàn)槿斯ぶ悄艽嬖陲L(fēng)險(xiǎn)就予以過(guò)度限制甚至禁止，而應(yīng)通過(guò)科學(xué)合理的風(fēng)險(xiǎn)評(píng)估將安全風(fēng)險(xiǎn)控制在可接受的水平。風(fēng)險(xiǎn)評(píng)估是風(fēng)險(xiǎn)規(guī)制的關(guān)鍵環(huán)節(jié)，風(fēng)險(xiǎn)規(guī)制的方法論可以提供有力的理論工具和切實(shí)可行的解決方案，從而有利于避免不必要的、可預(yù)防的損害，并有助于提高技術(shù)創(chuàng)新所帶來(lái)的社會(huì)收益。突然性停電不總是一個(gè)安全的方法，設(shè)計(jì)安全性機(jī)器人的最重要的一個(gè)方面就是必須能定量評(píng)估風(fēng)險(xiǎn)，以比較不同的設(shè)計(jì)和控制策略，并進(jìn)行優(yōu)化?！度诵螜C(jī)器人創(chuàng)新發(fā)展指導(dǎo)意見(jiàn)》提出：“強(qiáng)化整機(jī)、關(guān)鍵部組件、核心軟件、算法等重點(diǎn)環(huán)節(jié)安全風(fēng)險(xiǎn)評(píng)估，促進(jìn)安全能力提升?！薄蛾P(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》要求“科技活動(dòng)應(yīng)客觀評(píng)估和審慎對(duì)待不確定性和技術(shù)應(yīng)用的風(fēng)險(xiǎn)，力求規(guī)避、防范可能引發(fā)的風(fēng)險(xiǎn)，防止科技成果誤用、濫用，避免危及社會(huì)安全、公共安全、生物安全和生態(tài)安全”。《全球人工智能治理倡議》提出“推動(dòng)建立風(fēng)險(xiǎn)等級(jí)測(cè)試評(píng)估體系，實(shí)施敏捷治理，分類(lèi)分級(jí)管理，快速有效響應(yīng)?！痹谌斯ぶ悄艿陌l(fā)展過(guò)程中，應(yīng)通過(guò)科學(xué)合理的方法評(píng)估風(fēng)險(xiǎn)的大小，然后采取相應(yīng)的風(fēng)險(xiǎn)管理措施。風(fēng)險(xiǎn)等級(jí)越高，采取的風(fēng)險(xiǎn)管理措施就應(yīng)當(dāng)越嚴(yán)格。對(duì)于人工智能的風(fēng)險(xiǎn)評(píng)估結(jié)果，可以分為無(wú)風(fēng)險(xiǎn)、低風(fēng)險(xiǎn)、中風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、不可接受風(fēng)險(xiǎn)五個(gè)等級(jí)。如果經(jīng)評(píng)估后發(fā)現(xiàn)某類(lèi)人形機(jī)器人將導(dǎo)致不可接受風(fēng)險(xiǎn)，就應(yīng)當(dāng)禁止研發(fā)此類(lèi)人形機(jī)器人。

對(duì)于人形機(jī)器人的安全風(fēng)險(xiǎn)評(píng)估，至少應(yīng)涉及算法影響評(píng)估、個(gè)人信息保護(hù)影響評(píng)估等類(lèi)型。算法影響評(píng)估是指對(duì)智能系統(tǒng)的算法進(jìn)行全面分析，以明確該系統(tǒng)的風(fēng)險(xiǎn)影響水平。通過(guò)對(duì)算法設(shè)計(jì)、部署、運(yùn)行的全部流程予以動(dòng)態(tài)評(píng)估，要求智能系統(tǒng)在應(yīng)用于商業(yè)以及公共事業(yè)場(chǎng)景前就接受獨(dú)立的專業(yè)分析，可以促使科技公司強(qiáng)化控制流程而實(shí)現(xiàn)更高效率的風(fēng)險(xiǎn)管理，有利于政府實(shí)施差異化、精準(zhǔn)化的風(fēng)險(xiǎn)治理。我國(guó)在一些領(lǐng)域初步規(guī)定了算法影響評(píng)估，例如《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第27條要求“具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估”，第28條要求“有關(guān)部門(mén)對(duì)算法推薦服務(wù)依法開(kāi)展安全評(píng)估和監(jiān)督檢查工作”?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》第17條規(guī)定，“提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估”。人形機(jī)器人通過(guò)強(qiáng)算法與人類(lèi)進(jìn)行深入交互，應(yīng)建立健全人形機(jī)器人算法影響評(píng)估制度。人形機(jī)器人同人類(lèi)聯(lián)系更緊密，必然涉及大量個(gè)人信息處理，應(yīng)完善個(gè)人信息保護(hù)影響評(píng)估。個(gè)人信息保護(hù)影響評(píng)估是指對(duì)個(gè)人信息處理活動(dòng)所造成的影響進(jìn)行的評(píng)判，屬于重要的風(fēng)險(xiǎn)評(píng)估方法。個(gè)人信息保護(hù)影響評(píng)估有利于及早發(fā)現(xiàn)相關(guān)行為可能存在的風(fēng)險(xiǎn)，從而可以有針對(duì)性地進(jìn)行研發(fā)設(shè)計(jì)并采取防范措施。

（三）完善數(shù)據(jù)安全和個(gè)人信息保護(hù)認(rèn)證

人類(lèi)智能靠思維，人工智能靠算法，而算法的基礎(chǔ)在于數(shù)據(jù)。為了提升基于“大數(shù)據(jù)+高算力+強(qiáng)算法”的人形機(jī)器人的安全性，以高水平安全保障高質(zhì)量發(fā)展，需要完善與數(shù)據(jù)相關(guān)的認(rèn)證制度。認(rèn)證通過(guò)聲譽(yù)評(píng)價(jià)機(jī)制，可以引導(dǎo)、激勵(lì)企業(yè)守法規(guī)范經(jīng)營(yíng)，可以增強(qiáng)用戶對(duì)中小微企業(yè)和新興數(shù)字產(chǎn)業(yè)的信任感，可以避免政府為保障安全而實(shí)施“一刀切”的規(guī)制。作為風(fēng)險(xiǎn)規(guī)制和質(zhì)量保證的一種手段，認(rèn)證可以提供優(yōu)于政府規(guī)制的優(yōu)勢(shì)，如卓越的技術(shù)專長(zhǎng)、更有效的檢查和監(jiān)控、更好的回應(yīng)能力和更高的規(guī)制效率?！蛾P(guān)于促進(jìn)機(jī)器人產(chǎn)業(yè)健康發(fā)展的通知》要求建立認(rèn)證采信制度，“以國(guó)家機(jī)器人檢測(cè)與評(píng)定中心、機(jī)器人檢測(cè)認(rèn)證聯(lián)盟等為支撐，開(kāi)展機(jī)器人檢測(cè)認(rèn)證”。《人形機(jī)器人創(chuàng)新發(fā)展指導(dǎo)意見(jiàn)》要求“打造權(quán)威檢驗(yàn)檢測(cè)機(jī)構(gòu)，完善評(píng)測(cè)配套工具，滿足企業(yè)和用戶的檢測(cè)認(rèn)證需求。”我國(guó)當(dāng)前對(duì)機(jī)器人的認(rèn)證包括CR認(rèn)證、CE認(rèn)證、UL認(rèn)證、FCC認(rèn)證、CQC認(rèn)證等類(lèi)型，認(rèn)證市場(chǎng)仍在發(fā)展和孕育中，需要不斷完善。

人形機(jī)器人需要處理大量個(gè)人信息、企業(yè)數(shù)據(jù)、公共數(shù)據(jù)，有效保障個(gè)人信息安全、數(shù)據(jù)安全以及相關(guān)的國(guó)家安全，除了應(yīng)當(dāng)完善產(chǎn)品質(zhì)量、服務(wù)、管理體系等傳統(tǒng)認(rèn)證制度，還需要建立健全適應(yīng)數(shù)字時(shí)代的新型認(rèn)證制度。應(yīng)根據(jù)《數(shù)據(jù)安全管理認(rèn)證實(shí)施規(guī)則》《個(gè)人信息保護(hù)認(rèn)證實(shí)施規(guī)則》等規(guī)范性文件，結(jié)合人形機(jī)器人的新特點(diǎn)不斷完善數(shù)據(jù)安全和個(gè)人信息保護(hù)認(rèn)證制度。由于認(rèn)證屬于第三方規(guī)制，所以人形機(jī)器人認(rèn)證機(jī)構(gòu)應(yīng)具有高度的獨(dú)立性與專業(yè)性，應(yīng)極力避免其成為政府的“附庸”或被人工智能企業(yè)“俘獲”。在啟動(dòng)程序上，原則上應(yīng)以自愿申請(qǐng)認(rèn)證為主，對(duì)于事關(guān)重大安全的事項(xiàng)實(shí)施強(qiáng)制認(rèn)證。認(rèn)證程序應(yīng)當(dāng)公開(kāi)透明，應(yīng)防止“認(rèn)證變認(rèn)錢(qián)”等流于形式的認(rèn)證。

為了使認(rèn)證有據(jù)可依，保障認(rèn)證質(zhì)量，除了需要不斷完善人工智能立法，還應(yīng)當(dāng)分級(jí)分類(lèi)推動(dòng)人形機(jī)器人標(biāo)準(zhǔn)制定。不同于傳統(tǒng)的粗放式監(jiān)管，分級(jí)分類(lèi)監(jiān)管是一種精細(xì)化監(jiān)管。分級(jí)分類(lèi)監(jiān)管屬于典型的風(fēng)險(xiǎn)牽引式的監(jiān)管資源配置模式，主張以風(fēng)險(xiǎn)為尺度實(shí)行數(shù)據(jù)驅(qū)動(dòng)、精準(zhǔn)聚焦以及靈活權(quán)變的差異化監(jiān)管資源配置。《人形機(jī)器人創(chuàng)新發(fā)展指導(dǎo)意見(jiàn)》要求“開(kāi)展人形機(jī)器人標(biāo)準(zhǔn)化路線圖研究，全面梳理產(chǎn)業(yè)鏈標(biāo)準(zhǔn)化需求，建立健全人形機(jī)器人產(chǎn)業(yè)標(biāo)準(zhǔn)體系，分級(jí)分類(lèi)推動(dòng)標(biāo)準(zhǔn)制定”。人形機(jī)器人種類(lèi)多元，應(yīng)用場(chǎng)景多樣，存在的風(fēng)險(xiǎn)類(lèi)型和大小存在很大的差異。如果“一刀切”地制定統(tǒng)一的標(biāo)準(zhǔn)，表面上看好像實(shí)現(xiàn)了平等，但實(shí)際上造成了實(shí)質(zhì)不平等，最終不利于中小微人工智能企業(yè)的發(fā)展。而且，由于不區(qū)分風(fēng)險(xiǎn)類(lèi)型和大小，粗放式監(jiān)管無(wú)法合理分配有限的監(jiān)管資源，從而難以有效保障總體安全。同樣情況同等對(duì)待，不同情況區(qū)別對(duì)待，應(yīng)分級(jí)分類(lèi)治理人形機(jī)器人的安全風(fēng)險(xiǎn)。

（四）合理配置主體責(zé)任避免“人形機(jī)器人陷阱”

合理配置責(zé)任，對(duì)于人形機(jī)器人的發(fā)展至關(guān)重要。如果過(guò)度追求安全而設(shè)置過(guò)重的責(zé)任，就可能抑制人工智能創(chuàng)新，從而阻礙人形機(jī)器人的發(fā)展。探討人形機(jī)器人及相關(guān)主體的責(zé)任，首先需要明確人形機(jī)器人是否可以成為法律主體。當(dāng)前對(duì)于人工智能的主體地位，還存在較大的爭(zhēng)論。否定說(shuō)認(rèn)為，人工智能能否獲得法律主體資格，關(guān)鍵并不在于法律建構(gòu)的技術(shù)可行性，而在于其是否符合現(xiàn)代法律主體的本性定位即具備人格尊嚴(yán)。人工智能在形式上不具有普遍必然性，在功能上只是為了滿足人類(lèi)的需求，在意志規(guī)定根據(jù)上無(wú)法從本源上決定自己的發(fā)展方向，人工智能不能成為法律主體。電子人格說(shuō)、有限人格說(shuō)、法律人格擬制說(shuō)等犯有方向性錯(cuò)誤，無(wú)論機(jī)器如何被智能化，在法律關(guān)系中，其只能是權(quán)利義務(wù)指向的客體，服務(wù)于人類(lèi)的福祉才是人造物的真實(shí)意義?？隙ㄕf(shuō)認(rèn)為，對(duì)待人工智能體應(yīng)擺脫純粹功利主義與工具主義的方式，以“非唯人類(lèi)中心”的哲學(xué)價(jià)值觀認(rèn)真對(duì)待那些非“人”的實(shí)體，通過(guò)法律擬制而賦予一定范圍的法律主體資格，最終做到人類(lèi)與人工智能和諧共舞。對(duì)于智能機(jī)器人的主體地位，有觀點(diǎn)認(rèn)為，不具有“反事實(shí)”能力的“虛假的自由意志”智能機(jī)器人沒(méi)有自由意志，屬于權(quán)利的客體；具有“反事實(shí)”能力的“因果模型”完備的智能機(jī)器人，實(shí)質(zhì)上具有了潛在或?qū)嶋H的自由意志，與人類(lèi)一樣擁有“心靈能力”，此時(shí)要考慮的不是“要不要”賦予它法律人格，而是“如何賦予”和“賦予何種”法律人格。承認(rèn)“智能機(jī)器人也是人”，可以合理有效地處理涉及智能機(jī)器人的各種“犯罪”現(xiàn)象與疑難社會(huì)問(wèn)題。

應(yīng)防止“人形機(jī)器人陷阱”，避免人形機(jī)器人的過(guò)度擬人化，從而防止相關(guān)主體逃脫應(yīng)有的主體責(zé)任。雖然人形機(jī)器人在外貌、思維和行動(dòng)上更像人，智能程度較高且具有深度學(xué)習(xí)能力，但不具有獨(dú)立的自由意志和責(zé)任能力，不應(yīng)成為獨(dú)立的法律主體。如果陷入將人形機(jī)器人過(guò)度擬人化的陷阱，就會(huì)認(rèn)為研發(fā)者應(yīng)比自動(dòng)化的機(jī)器人負(fù)更少的責(zé)任。機(jī)器人僅是機(jī)器，不能以高度人格化的方式將其與人類(lèi)進(jìn)行類(lèi)比，否則將導(dǎo)致人類(lèi)陷入自相矛盾的境地，設(shè)計(jì)出糟糕的人工智能立法?！拔覀儜?yīng)不惜一切代價(jià)避免人形機(jī)器人陷阱?！?對(duì)于人工智能立法而言，應(yīng)更加注重為人類(lèi)而非機(jī)器人配置主體責(zé)任。

為了使研發(fā)者更好地以人為本，審慎地設(shè)計(jì)相應(yīng)的代碼程序，并持續(xù)優(yōu)化智能算法，應(yīng)合理設(shè)置相應(yīng)的主體責(zé)任。如果人形機(jī)器人設(shè)計(jì)本身沒(méi)有缺陷，但由于其具備的深度學(xué)習(xí)能力而導(dǎo)致安全事故，研發(fā)者也應(yīng)當(dāng)承擔(dān)責(zé)任。即使研發(fā)者當(dāng)時(shí)沒(méi)有過(guò)錯(cuò)，但因?yàn)槠淇梢詮男录夹g(shù)中獲取巨大收益，可以通過(guò)定價(jià)等方式分散風(fēng)險(xiǎn)成本，由其承擔(dān)相應(yīng)的賠償責(zé)任更為公平。然而，“任何新技術(shù)的開(kāi)發(fā)都蘊(yùn)含一定的技術(shù)風(fēng)險(xiǎn)，將其一概歸于制造商會(huì)嚴(yán)重妨礙技術(shù)的創(chuàng)新與發(fā)展”。除了研發(fā)者以外，同人形機(jī)器人相關(guān)的生產(chǎn)者、硬件供應(yīng)商、軟件設(shè)計(jì)者、銷(xiāo)售者、使用者等多主體，應(yīng)當(dāng)承擔(dān)相應(yīng)的責(zé)任。此外，應(yīng)完善人形機(jī)器人保險(xiǎn)責(zé)任制度，合理分配人工智能創(chuàng)新的風(fēng)險(xiǎn)?！丁笆奈濉睓C(jī)器人產(chǎn)業(yè)發(fā)展規(guī)劃》提出“優(yōu)化首臺(tái)（套）重大技術(shù)裝備保險(xiǎn)補(bǔ)償機(jī)制試點(diǎn)工作”。保險(xiǎn)責(zé)任制度能有效平衡人工智能應(yīng)用中各方主體之間的利益，在為受害人提供及時(shí)有效的權(quán)利救濟(jì)同時(shí)，又能推進(jìn)人工智能技術(shù)革新。

（五）推動(dòng)人工智能創(chuàng)新和科技倫理協(xié)調(diào)發(fā)展

欲有效實(shí)現(xiàn)人形機(jī)器人發(fā)展和安全并重，在完善法律治理的同時(shí)，還需要加強(qiáng)科技倫理治理。只有具備“人工道德”的人工智能系統(tǒng)，才能更好地實(shí)現(xiàn)科技向善。人形機(jī)器人雖然難以完全像人類(lèi)一樣成為獨(dú)立的道德主體，但不妨礙為其設(shè)定倫理標(biāo)準(zhǔn)。人形機(jī)器人的研發(fā)者，也需要受到有效的倫理規(guī)范。法律并非是萬(wàn)能的，法條可能存在漏洞，法條經(jīng)常滯后于快速發(fā)展的現(xiàn)實(shí)，立法可能存在空白。倫理學(xué)與法學(xué)能夠緊密地合作，即使法律獨(dú)立規(guī)定了相關(guān)范疇與概念，倫理學(xué)仍然能夠顯著地對(duì)厘清并體系性掌握規(guī)范問(wèn)題作出貢獻(xiàn)。《新一代人工智能發(fā)展規(guī)劃》要求到2030年“建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系”?！度诵螜C(jī)器人創(chuàng)新發(fā)展指導(dǎo)意見(jiàn)》要求“加快推進(jìn)相關(guān)倫理標(biāo)準(zhǔn)規(guī)范研究制訂”?！蛾P(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》提出“將科技倫理要求貫穿科學(xué)研究、技術(shù)開(kāi)發(fā)等科技活動(dòng)全過(guò)程”。法律無(wú)法充分對(duì)“下游”的科技使用行為進(jìn)行全面的風(fēng)險(xiǎn)規(guī)制，需要通過(guò)倫理準(zhǔn)則對(duì)“上游”的科技研發(fā)過(guò)程進(jìn)行規(guī)范?？萍紓惱聿粌H可以在人工智能研發(fā)之初就提出相應(yīng)的要求，而且可以靈活地適用于不同場(chǎng)景、不同業(yè)態(tài)下的人工智能應(yīng)用，從而有利于促進(jìn)人工智能產(chǎn)業(yè)的創(chuàng)新。

早在1942年，人類(lèi)與機(jī)器人之間互動(dòng)的道德準(zhǔn)則就被提出，美籍俄裔科幻小說(shuō)家艾薩克·阿西莫夫（Isaac#Asimov）在他的小說(shuō)中就提出了“機(jī)器人三原則”，也稱“阿西莫夫三定律”。1985年，阿西莫夫增加了第4條定律（第0定律）。還有學(xué)者認(rèn)為，應(yīng)通過(guò)儒家的忠、恕、仁道德原則，來(lái)構(gòu)建機(jī)器人的道德倫理，并提出了儒家機(jī)器人倫理三條道德原則。盡管阿西莫夫定律和儒家機(jī)器人倫理道德原則都難以完全有效實(shí)現(xiàn)，甚至還存在一些缺陷，但至少表明倫理規(guī)范對(duì)于約束人工智能具有重要價(jià)值。我國(guó)國(guó)家新一代人工智能治理專業(yè)委員會(huì)2021年發(fā)布的《新一代人工智能倫理規(guī)范》提出，“將倫理道德融入人工智能全生命周期”，要求人工智能各類(lèi)活動(dòng)應(yīng)遵循增進(jìn)人類(lèi)福祉、促進(jìn)公平公正、保護(hù)隱私安全、確保可控可信、強(qiáng)化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)的準(zhǔn)則。2024年發(fā)布的《人工智能全球治理上海宣言》提出：“推動(dòng)制定和采納具有廣泛國(guó)際共識(shí)的人工智能的倫理指南與規(guī)范，引導(dǎo)人工智能技術(shù)的健康發(fā)展，防止其被誤用、濫用或惡用?！?/p>

應(yīng)通過(guò)完善的倫理規(guī)范約束人工智能研發(fā)者，確保其設(shè)計(jì)出能真正造福人類(lèi)的安全、可靠、可控的人形機(jī)器人。為人形機(jī)器人“加載”道德的目的并非是為了使其成為獨(dú)立的物種，而是為了控制人工智能技術(shù)發(fā)展所導(dǎo)致的風(fēng)險(xiǎn)。應(yīng)著眼于算法正義完善算法倫理規(guī)范，關(guān)注算法的商業(yè)道德導(dǎo)向，以公平、安全、透明、非歧視的倫理價(jià)值觀指引算法應(yīng)用，建構(gòu)規(guī)范化的算法倫理審查制度。設(shè)立人本面向的人工智能倫理治理組織機(jī)構(gòu)，完善倫理風(fēng)險(xiǎn)的預(yù)警機(jī)制，設(shè)置人工智能倫理治理的風(fēng)險(xiǎn)預(yù)警閾值，嚴(yán)格追究引發(fā)倫理危機(jī)相關(guān)主體的倫理責(zé)任。總而言之，倫理規(guī)范應(yīng)成為預(yù)防人形機(jī)器人安全風(fēng)險(xiǎn)的重要準(zhǔn)則，應(yīng)將倫理規(guī)范融入人形機(jī)器人研發(fā)和應(yīng)用的全生命周期，不斷強(qiáng)調(diào)其實(shí)質(zhì)性指引作用，避免成為空洞的表達(dá)。

結(jié)語(yǔ)

發(fā)展和安全二者相輔相成，應(yīng)統(tǒng)籌人工智能的發(fā)展和安全，全面實(shí)施追求發(fā)展和安全動(dòng)態(tài)平衡的包容審慎監(jiān)管。應(yīng)通過(guò)科學(xué)合理的安全風(fēng)險(xiǎn)評(píng)估將人形機(jī)器人風(fēng)險(xiǎn)控制在可接受的程度，并完善數(shù)據(jù)安全認(rèn)證、個(gè)人信息保護(hù)認(rèn)證等聲譽(yù)評(píng)價(jià)機(jī)制。法律并非是萬(wàn)能的，在完善法律治理的同時(shí)，還需要通過(guò)倫理規(guī)范約束人工智能研發(fā)者，并為人工智能設(shè)計(jì)“人工道德”。人類(lèi)已進(jìn)入智能科技時(shí)代，發(fā)展和安全的矛盾變得更為突出，在人工智能的發(fā)展過(guò)程中，如何以高質(zhì)量發(fā)展促進(jìn)高水平安全、以高水平安全保障高質(zhì)量發(fā)展，還需要不懈探索。