對人形機器人，人們有太多期待。從誕生之初，它就被設(shè)計為人的得力助手和貼心伙伴——不僅在工業(yè)生產(chǎn)中扮演著重要角色，也逐漸在服務(wù)、醫(yī)療、教育等多個領(lǐng)域展現(xiàn)出巨大的潛力，進入“尋常百姓家”更是最終的目標。

但在高速發(fā)展的另一面，人形機器人的倫理挑戰(zhàn)也在逐漸浮現(xiàn)。盡快建立一套全面的倫理框架，指導(dǎo)人形機器人的設(shè)計、生產(chǎn)和應(yīng)用，是保障人形機器人產(chǎn)業(yè)健康發(fā)展的必要條件。

AIGC＋人形，帶來新的倫理挑戰(zhàn)

“當(dāng)前，人形機器人一種典型形式是AIGC（生成式人工智能）和物理形態(tài)（人形）的結(jié)合。作為人工智能的一種具身載體，AI智能體、AIGC的倫理挑戰(zhàn)依然是機器人的倫理挑戰(zhàn)，如數(shù)據(jù)泄露和幻覺虛假信息，更有可能在結(jié)合人形之后，進一步放大倫理挑戰(zhàn)，產(chǎn)生新的問題，如過度依賴。我參與中國人民大學(xué)劉永謀教授關(guān)于具身智能、人形機器人的組稿中將深度探討這些話題。”復(fù)旦大學(xué)科技倫理與人類未來研究院教授楊慶峰在接受《新民周刊》采訪時首先談到了隱私泄露的風(fēng)險。

試想一下，一個可以提供家庭服務(wù)的人形機器人，對大量個人信息和隱私數(shù)據(jù)的處理是實現(xiàn)其提供個性化、智能化服務(wù)的必要前提。但反過來，由于“耳聰目明”，人形機器人可能成為比普通智能家電厲害得多的超強的、移動“竊聽器”和“監(jiān)視器”。

“智能家電曾出現(xiàn)過數(shù)據(jù)泄露的風(fēng)險案例，人形機器人更加智能，它可以識別家庭成員的面孔、了解他們的生活習(xí)慣，全方位地收集人類參數(shù)，會產(chǎn)生新的問題?！痹跅顟c峰看來，人形機器人收集的數(shù)據(jù)可能會更加具有場景化，或者說更聚焦于某些特定人群，“現(xiàn)在需求比較迫切的就是，老年陪護機器人和嬰幼兒看護機器人，而這些場景中的倫理問題將來會更加突出”。

除了引發(fā)個人信息安全風(fēng)險，服務(wù)特種領(lǐng)域需求、助力智能制造等領(lǐng)域的人形機器人，還有機會收集存儲大量公共數(shù)據(jù)和企業(yè)數(shù)據(jù)，前者遭違法處理可能損害公共安全，后者可能涉及商業(yè)秘密，一旦泄露會帶來巨大經(jīng)濟損失。

而由于人形機器需要處理復(fù)雜任務(wù)，對傳統(tǒng)的個人數(shù)據(jù)保護體系同樣造成了挑戰(zhàn)?！耙郧巴ㄟ^相應(yīng)的技術(shù)可以追溯，但隨著技術(shù)的發(fā)展，現(xiàn)在泄露到哪兒去了或許都不太能被查到。所以建立可追溯機制就顯得非常必要。”楊慶峰表示。

過去，人類已經(jīng)有了掃地機器人、工業(yè)機器人、機器狗……它們都不是人形。為何現(xiàn)在要追求人形了呢？究其原因，一方面，人形機器人更能適應(yīng)人類社會，更好滿足于人類互動需求，易于融入家庭和社區(qū)；另一方面，合理的擬人形態(tài)能夠幫助跨越“恐怖谷效應(yīng)”，更易于被人類接受。

“像老年陪護機器人，至少要求身體材質(zhì)上能接近人的觸感。它還必須要習(xí)得對情感的認知，具備同理心?！睏顟c峰表示，技術(shù)實踐可以慢，但哲學(xué)思考要先行。

當(dāng)人形機器人在外形上更逼真，內(nèi)核上更智能后，可能帶來的傷害后果也會更大。

“首先，由于硬件缺陷或軟件漏洞導(dǎo)致人形機器人出現(xiàn)故障，從而引發(fā)安全事件。由于它具有高交互性，與人的身體接觸更為密切，一旦出現(xiàn)功能失靈，可能會對人類造成無意識的傷害。”楊慶峰解釋道，“其次，根據(jù)約書亞的觀點，智能體一個很重要的特征就是目標追求，會不會由于極度追求目標實現(xiàn)而會出現(xiàn)超級智能體（superintelligent agent）；在進化的過程中會不會由于被關(guān)機恐懼而產(chǎn)生自我保存，繼而因為怨恨從而產(chǎn)生了自主性的傷害行為。這些都會引發(fā)相關(guān)的風(fēng)險問題?！?/p>

更深層次的是，隨著人機交互體驗的提升，人們在面對一個知我懂我，從情緒價值和物理體驗都可以和真人相媲美的機器人時，人類如何來看待與人形機器人的關(guān)系定位——人們可能對機器人產(chǎn)生情感依賴，影響人際關(guān)系的健康發(fā)展，也可能引發(fā)家庭中的角色替代造成情感困惑和倫理沖突，或?qū)е鲁撩缘蕊L(fēng)險；更危險的是，人形機器人對人類進行有意誤導(dǎo)，在價值偏差下“操縱”人類做出某些決策。

去年10月，《環(huán)球時報》就曾報道過一起“AI聊天機器人被指控誘導(dǎo)美國少年自殺身亡”的案件，報道揭露了青少年塞維爾在自殺前與AI的互動細節(jié)。文章提到，AI聊天機器人“丹妮莉絲”詢問塞維爾是否有自殺計劃，并在他猶豫時表示“這不是你不自殺的理由”。

此外，還有很現(xiàn)實的生存上的問題，一部分人會擔(dān)心某些工作被替代。再往遠一點看，假如具身機器人真正擁有了意識，人類還可能會對自我存在的價值產(chǎn)生擔(dān)憂。

杜絕“完全工具論”

不過，楊慶峰認為，在人形機器人的問題上要杜絕“完全工具論”，不能將其單純地視作幫助人類完成任務(wù)的工具，而是把其視作“潛在的他者”。

“我們可以制定一些基本原則，例如人形機器人社會性，它們能夠和人進行什么程度的互動、它們的權(quán)利空間有多大等，在人形機器人的基本倫理設(shè)定上做一些剛性的價值對齊，但不要去限制它的進化能力，給予其一定的無監(jiān)督學(xué)習(xí)空間?！睏顟c峰表示，如何權(quán)衡科技發(fā)展與倫理需求，如何在科技進步和社會倫理之間找到平衡，這是產(chǎn)業(yè)界和學(xué)界都非常關(guān)心的問題，李飛飛的AI治理觀點頗有啟發(fā)，而且人形機器人恰恰是走在科幻與科學(xué)的交叉地點，更需要深入研究。

據(jù)了解，多國政府也在積極推進人工智能倫理標準的制定，我國也設(shè)有國家科技倫理委員會。2023年，科技部會同教育部、工業(yè)和信息化部等10部門印發(fā)了《科技倫理審查辦法（試行）》，其中提到，開展科技活動應(yīng)堅持促進創(chuàng)新與防范風(fēng)險相統(tǒng)一，客觀評估和審慎對待不確定性和技術(shù)應(yīng)用風(fēng)險，遵循增進人類福祉、尊重生命權(quán)利、堅持公平公正、合理控制風(fēng)險、保持公開透明的科技倫理原則，遵守我國憲法、法律法規(guī)和有關(guān)規(guī)定以及科技倫理規(guī)范。

去年，上海還發(fā)布了業(yè)界首個以開放簽署方式發(fā)布的人形機器人治理規(guī)則文件——《人形機器人治理導(dǎo)則》。它旨在促進人工智能科技和產(chǎn)業(yè)的健康發(fā)展，確保人形機器人的設(shè)計、開發(fā)和應(yīng)用合乎人類道德和倫理價值，持久保障人類使用人形機器人的權(quán)益和安全，為全人類帶來更多福祉和便利。