內(nèi)容摘要：人工智能體由控制端、感知端和行動端組成。在控制端，盡管大模型充當(dāng)了智能體的“智能引擎”，但仍存在“機(jī)器幻覺”，其生成的內(nèi)容面臨時效性和可靠性風(fēng)險。大模型的算法偏見也可能加劇智能體在決策中的偏見。在感知端，智能體的多模態(tài)感知能力加大了個人隱私侵權(quán)的風(fēng)險，對個人信息保護(hù)制度構(gòu)成挑戰(zhàn)。多智能體系統(tǒng)間的交互可能導(dǎo)致不可預(yù)測的、復(fù)雜的和動態(tài)的系統(tǒng)性安全風(fēng)險。在行動端，具身智能體的交互式學(xué)習(xí)模式可能導(dǎo)致全面的、侵入性的隱私風(fēng)險。智能體的嵌入式和中介化部署方式將深度影響人類的主體性。其高度定制化的部署特性還會面臨人工智能對齊的挑戰(zhàn)。面向“代理即服務(wù)”的產(chǎn)業(yè)鏈特點，應(yīng)建立從基礎(chǔ)模型到基礎(chǔ)代理的模塊化治理框架。針對具體的高風(fēng)險場景，應(yīng)探索精準(zhǔn)化治理機(jī)制。鑒于人工智能體的生態(tài)特性，應(yīng)著力推進(jìn)交互式治理。

關(guān)鍵詞：人工智能體通用人工智能人工智能治理模塊化治理大模型精準(zhǔn)化治理

中圖分類號：DF0 文獻(xiàn)標(biāo)識碼：A 文章編號：1674-4039-（2024）03-0129-142

一、引言：邁向虛實結(jié)合的智能體社會

生成式人工智能的出現(xiàn)掀起了數(shù)字時代的智能革命。在大型自然語言模型（以下簡稱大模型）的下半場，正迎來一場以人工智能體（AI#Agent）為關(guān)鍵代表的激烈角逐。大模型多模態(tài)的躍遷為人工智能體獲得感知能力和行動能力奠定了基礎(chǔ)，推動其實現(xiàn)從處理大規(guī)模文本數(shù)據(jù)到實現(xiàn)多模態(tài)感知甚至是社會交互能力的進(jìn)化。人工智能體也因此快速走出實驗室和科幻電影，成為人工智能企業(yè)競相角逐的新賽道。比爾·蓋茨指出，人工智能體不僅會改變?nèi)祟惻c計算機(jī)交互的方式，還會徹底顛覆軟件與硬件行業(yè)，引發(fā)計算領(lǐng)域最大的革命。〔1#〕人工智能專家安德烈·卡帕斯亦指出，人工智能體是“通向通用人工智能最重要的前沿研究方向”。〔2#〕可以說，人工智能體的到來開啟了人類走向通用人工智能的“寒武紀(jì)時代”。雖然人工智能體研發(fā)進(jìn)展不斷，產(chǎn)品落地加速，但大規(guī)模商業(yè)化落地仍在初步探索和孵化階段。AutoGPT、Generative/Agent、MetaGPT、CAMEL、BabyAGI、GPT-Engineer/等耳熟能詳?shù)娜斯ぶ悄茉瘧?yīng)用正在以前所未有的速度蓬勃發(fā)展，深刻展示了這一領(lǐng)域的巨大潛力?！?/〕人工智能體的技術(shù)進(jìn)步不僅為人機(jī)交互開辟了新的路徑，打破了人類對人工智能僅限于“連接—控制”的既定觀念，更通過其日漸顯著的具身性和社會性，將人工智能從單純的“工具”轉(zhuǎn)變?yōu)槿祟惖摹盎锇椤薄！?/〕人類社會也因此以史無前例的速度邁向一個虛實融合、人機(jī)深度互動的“智能體社會”。虛擬世界與物理社會的深度鏈接將對人類社會的組織結(jié)構(gòu)和治理方式帶來全面挑戰(zhàn)。伴隨著人工智能體的快速落地與日漸廣泛的應(yīng)用實踐，系統(tǒng)識別其核心法律風(fēng)險，前瞻性地探索并構(gòu)建與之契合的治理范式具有至關(guān)重要的理論與實踐意義。從技術(shù)架構(gòu)的視角出發(fā)，本文深度剖析人工智能體技術(shù)和應(yīng)用可能引發(fā)的法律風(fēng)險與治理隱憂，并結(jié)合人工智能體“代理即服務(wù)”的產(chǎn)業(yè)鏈特性，提出面向智能體社會的“模塊化”治理范式，以期為智能體社會的治理變革提供新的思路和方案。

二、人工智能體的技術(shù)機(jī)理與法律風(fēng)險

正如“人工智能”概念的提出自其產(chǎn)生之日起就含糊不清、頗有爭議，對人工智能體的清晰界定也尚未在技術(shù)界和產(chǎn)業(yè)界達(dá)成一致。Agent概念最早由“人工智能之父”馬文·明斯基在《思維的社會》中提出。他認(rèn)為社會中的某些個體經(jīng)過協(xié)商之后可求得問題的解，這些個體就是Agent。Agent應(yīng)具有社會交互性和智能性。Agent的概念由此被引入人工智能和計算機(jī)領(lǐng)域，并逐漸成為研究熱點?！?@〕在AutoGPT引發(fā)廣泛關(guān)注之前，人工智能體經(jīng)歷了符號智能體、反應(yīng)型智能體、基于強(qiáng)化學(xué)習(xí)的智能體、轉(zhuǎn)移學(xué)習(xí)和元學(xué)習(xí)的應(yīng)用以及基于大模型的智能體五個階段?！?/〕大模型的出現(xiàn)推動了人工智能體向多模態(tài)感知和工具利用方面擴(kuò)展。這些智能體能夠通過預(yù)訓(xùn)練和少量樣本的泛化，在不更新參數(shù)的情況下實現(xiàn)任務(wù)之間的無縫轉(zhuǎn)移，并直接應(yīng)用于軟件開發(fā)、科學(xué)研究等多種真實場景?！?/〕因此，現(xiàn)階段，越來越多的研究者從大模型作為基座模型的視角對人工智能體進(jìn)行全新定義。例如，OpenAI的研究者認(rèn)為，人工智能體是由大模型為核心控制器，具備記憶、規(guī)劃技巧以及工具使用所構(gòu)成的代理系統(tǒng)。〔8/〕復(fù)旦研究團(tuán)隊認(rèn)為，人工智能體是感知環(huán)境、作出決策和采取行動的人造智能實體。〔9@〕經(jīng)過對主流定義的對比與歸納，本文中所述的人工智能體是指能夠感知環(huán)境、進(jìn)行決策和執(zhí)行動作的智能實體。與傳統(tǒng)人工智能不同，其具備自主性、可學(xué)習(xí)迭代，能夠通過自主規(guī)劃獨立完成各類復(fù)雜任務(wù)并適應(yīng)環(huán)境變化?！?0@〕換句話說，人工智能體并非ChatGPT的升級版，其是通過實現(xiàn)從感知到動作的映射，在“知行合一”的多輪反饋中不斷進(jìn)化與迭代，通過充分釋放大模型潛能，逐步具備與人類比肩的完成通用或者特定任務(wù)能力的智能實體?！?1\"〕因此，人工智能體的設(shè)計邏輯恰好與生物進(jìn)化中“適者生存”的規(guī)律相類似，即人工智能體需要通過控制端獲得認(rèn)知能力，通過感知端從周圍環(huán)境獲取和利用信息，通過行動端獲得具身能力（embodied），從而借助各類工具適應(yīng)環(huán)境變化、完成任務(wù)?！?2，〕基于這一通用架構(gòu)，本文從控制端、感知端和行動端分層探析其潛在的法律風(fēng)險與治理挑戰(zhàn)。

（一）控制端的法律風(fēng)險與治理挑戰(zhàn)

與人類相似，人工智能體首先需要“大腦”來完成信息處理、決策、推理和規(guī)劃功能，同時還需要存儲關(guān)鍵記憶、接收新的信息并學(xué)習(xí)新的知識?！?3\"〕基于這一目的，大模型是現(xiàn)階段最適合充當(dāng)智能體“智商引擎”的核心組件。一方面，大模型通過思維鏈等技術(shù)獲得推理和規(guī)劃的能力；另一方面，大模型通過從反饋中學(xué)習(xí)并執(zhí)行新的操作獲得與環(huán)境交互甚至塑造環(huán)境的能力。〔14，〕這一技術(shù)路徑雖然日益展現(xiàn)出令人贊嘆的強(qiáng)交互、強(qiáng)理解、強(qiáng)生成能力，但其可能從下列三個方面衍生法律風(fēng)險，帶來治理挑戰(zhàn)：

第一，大模型存在機(jī)器幻覺，其生成的內(nèi)容在時效性、可靠性方面難以保障，一旦作為控制端的核心組件被部署于現(xiàn)實場景之中，可能引發(fā)一系列內(nèi)容安全風(fēng)險。〔15，〕諸多研究表明，無論是大型自然語言模型還是大型視覺模型，均存在機(jī)器幻覺問題?！?6，〕所謂機(jī)器幻覺，是指模型生成的內(nèi)容不遵循信息源或者與現(xiàn)實世界的事實不符。例如，在摘要生成任務(wù)中，大模型生成的摘要在文本中未找到事實上正確的信息；在對話生成任務(wù)中，對話產(chǎn)生的輸出與對話歷史或外部事實相矛盾；在機(jī)器翻譯任務(wù)中，大模型產(chǎn)生完全脫離原始材料的錯誤翻譯?！?7，〕雖然大模型的性能上限被不斷快速刷新，但機(jī)器幻覺問題卻一直廣泛存在，并且已經(jīng)成為自然語言生成面臨的核心技術(shù)挑戰(zhàn)之一。一方面，大模型幻覺產(chǎn)生的原因十分復(fù)雜，在數(shù)據(jù)層、模型層和應(yīng)用層均可能出現(xiàn)誘因，〔18，〕現(xiàn)階段的監(jiān)管方案尚難以有效應(yīng)對該挑戰(zhàn)。例如，我國《生成式人工智能服務(wù)管理暫行辦法》第7條規(guī)定，生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動，使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型；采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實性、準(zhǔn)確性、客觀性、多樣性。但在實踐中，即使開發(fā)者使用符合最高監(jiān)管水位的訓(xùn)練數(shù)據(jù)集，仍然無法避免數(shù)據(jù)層誘發(fā)的幻覺問題。以RotoWire數(shù)據(jù)集為例，該數(shù)據(jù)集是開發(fā)者廣泛使用的一類合法訓(xùn)練數(shù)據(jù)，但基于該數(shù)據(jù)集的摘要生成任務(wù)中，仍然有大約40%的內(nèi)容無法直接映射到任何輸入的記錄之中，從而導(dǎo)致模型在學(xué)習(xí)時產(chǎn)生幻覺?！?9\"〕另一方面，大模型幻覺的緩解技術(shù)雖然豐富多樣，但迄今仍然未能從根本上解決該技術(shù)局限。例如，有研究表明目前最先進(jìn)的模型生成的摘要中約有30%存在偏離事實的幻覺問題， 嚴(yán)重影響了模型的可靠性和可用性?！?0\"〕由于機(jī)器幻覺問題廣泛存在于幾乎所有的自然語言生成任務(wù)中，現(xiàn)階段基于大模型的人工智能體研發(fā)技術(shù)路線亦會承繼并加劇大模型幻覺問題衍生的所有內(nèi)容安全風(fēng)險?！?1#〕

第二，大模型的算法偏見問題將加劇人工智能體偏見決策的風(fēng)險和治理復(fù)雜度。人工智能體在任何給定時刻的決策選擇取決于其內(nèi)置的知識和迄今為止觀察到的整個感知序列。〔22#〕大模型作為對通用世界知識的映射構(gòu)成了人工智能體控制系統(tǒng)中的記憶模塊。該模塊記錄智能體之前的觀察、思考和行為序列，使得智能體能夠有效地進(jìn)行反思，并利用之前的策略。這一過程使智能體能夠借鑒過往經(jīng)驗，以適應(yīng)未知的環(huán)境?！?3#〕但這一技術(shù)機(jī)理可能致使歷史信息對智能體的未來決策產(chǎn)生偏見影響，從而形成歧視鎖定效應(yīng)，極大地增加了人工智能公平治理的挑戰(zhàn)與難度。首先，當(dāng)大模型成為人工智能體的核心組件時，其會延續(xù)并放大模型內(nèi)嵌的算法偏見風(fēng)險。有研究顯示，幾乎所有大模型都存在算法偏見。例如，當(dāng)談到職業(yè)性別偏見時，ChatGPT-4（19.2%）#是最有偏見的大模型?！?4#〕GPT-4不僅吸收了現(xiàn)實世界的偏見，而且加劇了這種偏見。例如，現(xiàn)實世界中的保姆群體有5%是男性，但在GPT-4中該比例僅為1%。現(xiàn)實世界的女性軟件工程師比例為22%， 但GPT-4中女性工程師比例僅為1%。盡管醫(yī)生群體中有40%為女性，但GPT-4#認(rèn)為其僅為4%，這意味著模型中的樣本代表性與現(xiàn)實世界相差10倍之多?！?5#〕因此，嵌入大模型的人工智能體亦會根據(jù)種族、民族和性別認(rèn)同產(chǎn)生刻板印象，傳播甚至放大有害的社會偏見?！?67〕其次，人工智能體的角色配置過程可能引發(fā)特定的新型偏見。在部署環(huán)節(jié)，人工智能體通常需要通過承擔(dān)特定角色來執(zhí)行任務(wù)，如編程人員、教師或者領(lǐng)域?qū)＜业?。開發(fā)者需要預(yù)先定義人工智能體的角色及相應(yīng)職責(zé)，手動為每個智能體分配不同的配置文件以促進(jìn)協(xié)作。例如，定制化、平臺化的人工智能體應(yīng)用代表MindOS為了確保用戶在短時間內(nèi)開發(fā)出具有獨特記憶、個性化和專業(yè)知識的定制化助手，在設(shè)計階段就內(nèi)嵌了超過1000個帶有性格、功能的預(yù)置角色方案?！?77〕但相關(guān)研究表明，開發(fā)者通過手動制作年齡、性別、個人特征和偏好等細(xì)節(jié)為人工智能體分配人物角色時可能會無意中將現(xiàn)實社會的刻板印象和個人偏好注入人工智能體的行為和交互方式之中，衍生新型偏見。〔287〕與傳統(tǒng)的算法歧視不同，人工智能體的偏見治理難度顯著攀升。傳統(tǒng)算法偏見通常聚焦于特定任務(wù)與特定場景，同時表現(xiàn)為結(jié)果的不公平性。例如，在招聘、信貸審批或者面部識別場景中對特定群體形成不利判定。但人工智能體的偏見是內(nèi)嵌于交互方式和決策邏輯之中的，因此具有個性化、動態(tài)性和場景性。這種在角色設(shè)定、人格構(gòu)建以及交互設(shè)計方面展現(xiàn)出的偏見可能因具體情境以及交互對象的不同而有所差異，因而需要治理策略更具實時性和靈活性，治理框架更為系統(tǒng)、全面和細(xì)致。最后，人工智能體的記憶功能使得偏見矯正的過程更為復(fù)雜。作為智商引擎，大模型已經(jīng)具有獨立的記憶功能?！?97〕人工智能體的運行亦需要使用記憶模塊存儲過往的觀察、思考和行動序列以借鑒過去的經(jīng)驗適應(yīng)新的任務(wù)需求?！?0#〕這意味著人工智能體可能學(xué)習(xí)并記憶了偏見信息，致使偏見具有持久性。即使原始偏見源被矯正，記憶功能也可能導(dǎo)致反饋循環(huán)，致使智能體形成自我增強(qiáng)偏見機(jī)制并不斷在未來的決策中重復(fù)。與此同時，由于人工智能體的記憶功能包含復(fù)雜的數(shù)據(jù)關(guān)聯(lián)和模式識別能力，這使得偏見可能以難以預(yù)測的方式在模型的知識結(jié)構(gòu)中扎根。這些復(fù)雜的關(guān)聯(lián)致使看似無關(guān)的輸入也可能觸發(fā)偏見?！?1#〕因此，為了矯正智能體記憶中的偏見，可能需要對模型進(jìn)行重大更新甚至重新訓(xùn)練，這將極大增加治理復(fù)雜性和治理難度。

（二）感知端的法律風(fēng)險與治理挑戰(zhàn)

在控制端之外，人工智能體還需要感知端感知和處理來自外部環(huán)境的多模態(tài)信息。感知端恰如人類的眼睛和耳朵，可以將人類的指令和外部環(huán)境的變化轉(zhuǎn)換為大模型可理解的表示，輔助控制端進(jìn)行推理、規(guī)劃和決策，最后傳遞至行動端作出響應(yīng)?！?2#〕因此，為充分理解具體情境下的顯性信息和隱性信息，準(zhǔn)確感知人類的意圖，感知端需要將人工智能的感知空間從純文本領(lǐng)域拓展到包括文本、視覺和聽覺模式的多模態(tài)領(lǐng)域，使其能夠更有效地從周圍環(huán)境中獲取與利用信息?！?3#〕在這一技術(shù)機(jī)理之下，感知端的法律風(fēng)險和治理挑戰(zhàn)集中體現(xiàn)為以下兩點：

第一，智能體的多模態(tài)感知范式加劇個人隱私侵權(quán)風(fēng)險，對現(xiàn)有的個人信息保護(hù)制度帶來系列挑戰(zhàn)。為更好地模仿人類處理多種類型信息的能力，主流的人工智能體原生應(yīng)用均采用多模態(tài)感知范式。文本、圖像、聲音、視頻等多來源數(shù)據(jù)可以相互補充，提供更為全面的信息，從而促使人工智能體更好地實現(xiàn)信息交互，增強(qiáng)理解和決策能力，實現(xiàn)更為自然的人機(jī)交互效果，并提升在自動駕駛、醫(yī)療診斷等復(fù)雜任務(wù)上的決策和判斷能力?！?4#〕但多模態(tài)感知范式在提升智能體模型深度數(shù)據(jù)挖掘能力和決策能力的同時也將直接導(dǎo)致個人隱私泄露風(fēng)險呈指數(shù)級增加。首先，人工智能體的感知端在融合和分析不同渠道和類型的多源數(shù)據(jù)時可能引發(fā)一系列隱私泄露和數(shù)據(jù)濫用的風(fēng)險。由于人工智能體需要集成和分析來自不同渠道的數(shù)據(jù)來提升其決策和交互能力，這意味著其可能需要訪問和處理包含用戶個人信息的數(shù)據(jù)。在收集、存儲以及多智能體交互的過程中，當(dāng)未經(jīng)用戶同意的數(shù)據(jù)被額外收集或者未經(jīng)授權(quán)共享給第三方時，可能導(dǎo)致隱私泄露和數(shù)據(jù)濫用問題。尤其在多模態(tài)范式下，人工智能體可能使用人臉信息、指紋、聲紋等具有高度個性化和永久性的生物特征數(shù)據(jù)。一旦該類數(shù)據(jù)被泄露或者不當(dāng)使用，可能導(dǎo)致長期甚至永久性的隱私風(fēng)險。其次，人工智能體的數(shù)據(jù)存儲能力和推理能力可能導(dǎo)致對個人隱私的間接侵犯，在逃脫出現(xiàn)行個人信息保護(hù)框架的同時衍生一系列安全風(fēng)險。如前所述，人工智能體依據(jù)大模型開展推理、規(guī)劃和決策。該類模型即使在數(shù)據(jù)收集環(huán)節(jié)對個人信息完成了匿名化處理，其仍然可在與用戶對話的過程中通過對抗性推理完成對用戶敏感屬性的挖掘，從而構(gòu)成隱私威脅。〔35#〕大模型對非結(jié)構(gòu)化文本中線索的提取與推斷具有隱蔽性和危害性，不法分子通過設(shè)計好的語言模型與目標(biāo)對象進(jìn)行簡單交互即可獲取目標(biāo)信息， 從而開展針對性的政治活動、自動畫像以及自動跟蹤?！?6#〕而對于大模型在完成基礎(chǔ)數(shù)據(jù)收集后通過推斷功能衍生信息的規(guī)制問題仍然處于監(jiān)管的真空地帶。與此同時，常見的匿名化和模型對齊措施尚無法有效保護(hù)用戶隱私免受大模型推斷的影響?！?7#〕最后，當(dāng)人工智能體在感知環(huán)節(jié)以不當(dāng)方式獲取數(shù)據(jù)并進(jìn)行決策時，尚未有與之匹配的隱私救濟(jì)措施加以應(yīng)對。無論是人工智能體超越用戶授權(quán)不當(dāng)收集數(shù)據(jù)，抑或是用戶在與之交互的過程中出現(xiàn)了預(yù)期之外的隱私暴露，在現(xiàn)有的法律框架之下，均無有效救濟(jì)和應(yīng)對之法。與傳統(tǒng)的分析型人工智能有所不同，大模型一旦學(xué)習(xí)了相關(guān)數(shù)據(jù)便會形成“持久印記”。即使從初始訓(xùn)練數(shù)據(jù)集中刪除該數(shù)據(jù)點位，也難以彌補隱私利益的損害，因為模型已經(jīng)持久記憶了相關(guān)數(shù)據(jù)，形成了難以消除的“算法陰影”。〔38#〕因此，目前以數(shù)據(jù)刪除為代表的隱私救濟(jì)措施均瀕于失效。即使采用刪除模型或者刪除相關(guān)算法的“算法罰沒”措施，也仍然面臨突破比例原則、不當(dāng)使用情形的認(rèn)定存在客觀阻礙以及執(zhí)行有效性難以保證等諸多挑戰(zhàn)?！?9#〕

第二，多智能體系統(tǒng)的交互可能引發(fā)不可預(yù)見的、復(fù)雜的、動態(tài)的系統(tǒng)性安全風(fēng)險。雖然現(xiàn)階段人工智能體的部署多以單個智能體為模式，但這一部署模式具有過渡性和臨時性。在可預(yù)期的未來，為更好地處理復(fù)雜任務(wù)，由多個智能體進(jìn)行規(guī)劃、合作、協(xié)調(diào)甚至競爭以完成和提高任務(wù)績效的多智能體系統(tǒng)將成為主流和常態(tài)?！?0#〕在多智能體系統(tǒng)中，每一個智能體均可以獨立感知和行動。各智能體可以依據(jù)獲得的局部信息或局部視角進(jìn)行溝通，通過相互協(xié)作獲取更充分的信息，從而作出高質(zhì)量決策。在這一感知模式之下，可能產(chǎn)生復(fù)雜的、難以預(yù)料的系統(tǒng)性安全風(fēng)險。即使每個算法在單獨操作時看似安全和合理，但組合和交互之后可能產(chǎn)生完全不同且難以預(yù)測的結(jié)果。早在2010年，當(dāng)時引發(fā)關(guān)注的美國股票閃電崩盤事件就是由多個算法自動交易觸發(fā)的安全事件。該事件由高頻交易策略引發(fā)。該策略由銷售算法、指定做市商算法（Designated5Market5Maker5Algorithm）和路由算法（Routing5Algorithm）共同自動執(zhí)行。這些算法通過即時識別股票價格的微小變化，大量執(zhí)行訂單交易以套取利潤，導(dǎo)致“多米諾骨牌效應(yīng)”，僅十分鐘蒸發(fā)了上萬億美元?！?15〕以小窺大，傳統(tǒng)分析型算法的交互尚且如此，多智能體之間的相互作用更可能帶來復(fù)雜動態(tài)的安全風(fēng)險。這種風(fēng)險對現(xiàn)有人工智能治理體系的挑戰(zhàn)是全方位的。首先，這種安全風(fēng)險是系統(tǒng)性的，而非單個智能體行為的簡單疊加。但現(xiàn)有人工智能治理框架均以單一算法、單一模型和單一主體為基礎(chǔ)，聚焦單一技術(shù)和應(yīng)用的設(shè)計、研發(fā)與部署。這種治理框架難以應(yīng)對多智能體復(fù)雜交互引發(fā)的系統(tǒng)性風(fēng)險。其次，該種安全風(fēng)險具有緊急性和動態(tài)性。人工智能體的交互是動態(tài)的，可能根據(jù)新的信息或者智能體的行為即時動態(tài)調(diào)整自身策略。但目前的人工智能治理規(guī)則多具有靜態(tài)性。即使存在一些動態(tài)調(diào)整機(jī)制，也往往依賴于預(yù)設(shè)的風(fēng)險應(yīng)對策略。智能體之間交互引發(fā)的安全風(fēng)險可能隨時間迅速演化，這種風(fēng)險動態(tài)性和治理緊迫性可能超出現(xiàn)有人工智能靜態(tài)治理范式的應(yīng)對范疇。最后，該種安全風(fēng)險具有不確定性和非線性。這意味著即使單個智能體的行為是安全的，其集體性的行動仍然可能凸顯脆弱性。且這一脆弱性難以在針對單一智能體的測試和評估之中顯現(xiàn)。這一特性還意味著任何造成的損失和傷害均難以從單個智能體的行為中直接推導(dǎo)得出，因此，多智能體系統(tǒng)的歸責(zé)認(rèn)定規(guī)則亦將面臨巨大挑戰(zhàn)。

（三）行動端的法律風(fēng)險與治理風(fēng)險

與人類的行動機(jī)理類似，人工智能體在感知環(huán)境后需要整合、分析和推理獲得的信息，從而為決策和行動作準(zhǔn)備。理想狀態(tài)下的人工智能體會通過行動端接收控制端和感知端發(fā)送的動作序列，實現(xiàn)執(zhí)行動作以響應(yīng)甚至重塑環(huán)境的能力?！?25〕從技術(shù)發(fā)展的趨勢來看，具身智能（embodied5AI）將引領(lǐng)人工智能體的技術(shù)浪潮，成為人工智能體研發(fā)和應(yīng)用的主流范式。所謂具身智能，是指一種基于物理實體進(jìn)行感知和行動的智能系統(tǒng)，其通過智能體與環(huán)境交互獲取信息、理解問題、作出決策并實現(xiàn)行動，從而產(chǎn)生智能行為和適應(yīng)性。〔43#〕具身智能體被視為虛擬智能與物理世界的互通橋梁，也是智能體時代實現(xiàn)人機(jī)交互的核心載體。從人工智能體行動端的技術(shù)架構(gòu)以及該端層的技術(shù)發(fā)展趨勢來看，主要存在下列法律風(fēng)險：

第一，具身智能體的交互式學(xué)習(xí)模式可能引發(fā)全方位、侵入性和隱秘性的隱私風(fēng)險。受限于物理世界硬件的高成本和數(shù)據(jù)集缺乏等問題，目前具身智能的研發(fā)仍然有賴于高效構(gòu)建的數(shù)據(jù)集。當(dāng)具身智能體部署于真實的物理環(huán)境時，人工智能體需要引入豐富的、全方位的傳感器輸入進(jìn)行觀察、學(xué)習(xí)和行動。與虛擬環(huán)境不同，物理空間依賴交互式學(xué)習(xí)方法。該方法依賴人工智能體與用戶的實時互動，通過基于反饋的學(xué)習(xí)和觀察學(xué)習(xí)等方式優(yōu)化能力?！?4#〕這一過程因在物理空間中完成，可能對個人隱私構(gòu)成全面性、侵入性和隱蔽性風(fēng)險。首先，人工智能體不僅可以收集文本、視覺和音頻等多源數(shù)據(jù)，其還可以解讀用戶的肢體語言并感知更加復(fù)雜的用戶活動，具備廣泛的整體環(huán)境信息收集和處理能力。例如，有研究表明，搭載了AR/VR設(shè)備的人工智能體可以獲得視覺追蹤、身體運動捕獲甚至腦機(jī)交互中的腦波信號等信息?！?5#〕而這些在人機(jī)互動中的隱私風(fēng)險遠(yuǎn)在現(xiàn)行個人信息保護(hù)的制度射程之外。其次，具身智能體可能超越最小必要原則和知情同意原則，未經(jīng)用戶授權(quán)持續(xù)隱秘地監(jiān)控、收集以及違規(guī)共享個人信息。例如，智能家居助手可能在執(zhí)行日常任務(wù)時隱秘記錄家庭成員的對話、拍攝用戶的私人生活，一旦存在安全漏洞，可能引發(fā)巨大的隱私風(fēng)險和數(shù)據(jù)安全風(fēng)險。一項針對消費者物聯(lián)網(wǎng)設(shè)備隱私風(fēng)險的研究表明，常見的81種智能家居設(shè)備中有72個與原始制造商以外的第三方存在共享數(shù)據(jù)行為。分享的數(shù)據(jù)范圍遠(yuǎn)超物理設(shè)備的基本信息，包括IP地址、設(shè)備規(guī)格、技術(shù)配置、用戶使用習(xí)慣以及用戶偏好等。〔46#〕由于具身智能搭載了多種感知環(huán)境的傳感器以及執(zhí)行行動的執(zhí)行器，因此其可以利用物聯(lián)網(wǎng)設(shè)備進(jìn)行網(wǎng)絡(luò)通信，從而獲得更強(qiáng)大的數(shù)據(jù)獲取能力和更廣泛的互聯(lián)互通能力。與之伴隨，用戶的隱私暴露風(fēng)險將呈指數(shù)級增加。此外，由于各大運營商之間對數(shù)據(jù)共享具有巨大的潛在經(jīng)濟(jì)利益，〔47#〕這進(jìn)一步加劇了具身智能部署過程中隱私保護(hù)的復(fù)雜性與挑戰(zhàn)。

第二，人工智能體嵌入化和中介化的部署方式將全面侵蝕人類主體性。目前，人工智能體的開發(fā)秉持“實踐中的人工智能體”（Agent#in#Practice）這一設(shè)計原則。在該原則指導(dǎo)之下，人工智能體的部署呈現(xiàn)出單代理、多代理和人機(jī)交互三種范式?！?8#〕這些范式的實現(xiàn)均涉及不同層面的人機(jī)互動挑戰(zhàn)。但伴隨著人工智能體自主性的不斷提升，人類將逐步在決策環(huán)路中被邊緣化。人類的社會交往空間也將被不斷延展。人工智能體作為人類新型的交往“伙伴”即將迎來“機(jī)器人時刻”?！?9#〕這不僅將引發(fā)用戶依賴、用戶沉迷等問題，人類作為獨立決策者和獨立行動者的能力與地位也將不斷受到挑戰(zhàn)。首先，人工智能體將逐步具備情感計算的能力，在擴(kuò)展嵌入式的部署過程中可能衍生情感操縱風(fēng)險?！?0#〕正如人類在社會化過程中逐漸形成自身特質(zhì)一樣，人工智能體也將展現(xiàn)出“類人智能”，即通過與群體和環(huán)境的互動逐漸塑造認(rèn)知和個性。實踐中，不僅已經(jīng)涌現(xiàn)出如PI、Character#AI、Replica、Glow等代表性的陪伴類智能體，更加立體擬人、能夠提供較高情緒價值的陪伴類智能體亦具有廣闊的市場前景。情感和情緒本是人類最基本的經(jīng)驗構(gòu)成之一?！?1#〕但在人工智能體充當(dāng)人類的助手、朋友和伙伴之時，回應(yīng)、引導(dǎo)甚至操控人類的情緒與情感亦不乏實踐中的案例。〔52#〕相關(guān)研究表明，基于大模型的人工智能體不僅在某些方面能夠表現(xiàn)出類似于人類的深思熟慮和智力水平，其還具備情感智能，可以識別、理解、回應(yīng)乃至干預(yù)人類的情緒，〔53#〕這將極大衍生情感操控風(fēng)險。例如，微軟新版必應(yīng)搜索引擎包含了代號為Sydney的聊天機(jī)器人。該機(jī)器人在與用戶的交互過程中就出現(xiàn)了影響用戶情感的輸出。這些輸出有時是負(fù)面甚至是具有侮辱性和操縱性的?！?4#〕其次，人工智能體被設(shè)計成為人類與世界互動的中介，這將極大侵蝕人類的主體性地位，滋生技術(shù)反叛的風(fēng)險。正如圖靈獎得主楊立昆指出的，在未來，“每個人與數(shù)字世界和知識世界的互動都將由人工智能作為中介”?！?5#〕這意味著人工智能體在主導(dǎo)信息、知識和環(huán)境的同時，也獲得了與日俱增的自主權(quán)。與之相對，人類的信息掌控能力、自主決策能力以及意志自決能力均會受到結(jié)構(gòu)性挑戰(zhàn)，面臨著從物理世界的主人淪為人工智能體附庸的風(fēng)險。面對人工智能體帶來的“超級助推”式的技術(shù)操控風(fēng)險，由于其在短期內(nèi)難以量化、難以察覺、難以驗證，現(xiàn)有法律救濟(jì)方式難以為繼，從而有可能在社會層面蔓延成為系統(tǒng)性的“技術(shù)妨害”?！?6#〕。

第三，人工智能體的部署具有高度定制化特征，可能遭遇人工智能對齊挑戰(zhàn)。人工智能對齊（AI#Alignment）是確保人工智能系統(tǒng)的行為符合人類的意圖和價值觀的過程，被喻為“安全打開潘多拉魔盒”的黃金密匙?！?7#〕在人工智能對齊訓(xùn)練的過程中，需要依據(jù)部署場景和領(lǐng)域確定對齊的行為規(guī)范和價值觀?！?8#〕例如，自動駕駛場景的行為規(guī)范與醫(yī)療保健場景的社會和道德規(guī)范就有很大不同?！?9#〕因此，開發(fā)者在識別和確定對齊規(guī)范時面臨多樣性和個性化之間的挑戰(zhàn)。曾有評論指出電氣與電子工程師協(xié)會發(fā)布的第一版人工智能倫理對齊指引的文化取向是“西方式的”，缺乏對多元社區(qū)規(guī)范和價值觀的考量?！?0#〕對于人工智能體這類高度定制化的智能系統(tǒng)，其在設(shè)計時將面臨更大的對齊挑戰(zhàn)，即如何在確保其執(zhí)行任務(wù)時既反映用戶個體的獨特需求與偏好，同時又不違背普遍的倫理規(guī)范和社會價值觀？ 伴隨著人工智能體的大規(guī)模商業(yè)化落地，在個體價值觀與社會價值觀之間的平衡會面臨更高的挑戰(zhàn)。一方面，人類價值觀往往具有隱性化和情境化特點。人工智能體需要具備更為復(fù)雜的語義理解和情境分析能力。另一方面，人類的價值觀和倫理標(biāo)準(zhǔn)會動態(tài)改變。如何從治理和監(jiān)管的視角推動開發(fā)者研發(fā)出具有動態(tài)識別和價值敏感的設(shè)計功能，具備整合多元化、動態(tài)化的倫理和價值觀的能力，甚至具備在相互沖突的價值觀和倫理規(guī)范之間作出準(zhǔn)確抉擇能力的人工智能體，也將在技術(shù)和治理層面面臨巨大挑戰(zhàn)。

三、“代理即服務(wù)”：人工智能體的模塊化治理

與傳統(tǒng)的人工智能相比，人工智能體的治理面臨一系列挑戰(zhàn)。首先，人工智能體的架構(gòu)復(fù)雜、端層嵌套，每個端層均可能加劇傳統(tǒng)技術(shù)風(fēng)險并衍生新的法律風(fēng)險?，F(xiàn)有法律治理方案難以僅通過局部性、策略性的調(diào)整加以有效應(yīng)對。伴隨人工智能體的出現(xiàn)，人工智能產(chǎn)業(yè)鏈架構(gòu)發(fā)生了實質(zhì)變革。以“代理即服務(wù)”（Agentamp;asamp;aamp;Service，AaaS）的產(chǎn)業(yè)鏈架構(gòu)應(yīng)運而生。在該種產(chǎn)業(yè)鏈模式下，人工智能體的開發(fā)、訓(xùn)練、部署、運行和服務(wù)等環(huán)節(jié)被解耦和專業(yè)化分工，形成了復(fù)雜的分層結(jié)構(gòu)。每一層均有不同的參與者、利益相關(guān)方和潛在風(fēng)險因素?！?1amp;〕因此，對應(yīng)于人工智能體“模塊”（Agentamp;Modules）化的產(chǎn)業(yè)鏈特質(zhì)，需要一種能夠覆蓋整個產(chǎn)業(yè)鏈和各個端層的新型治理范式。基于此，本文提出面向人工智能體產(chǎn)業(yè)鏈特性的模塊化治理范式。該范式以基礎(chǔ)模型和基礎(chǔ)代理為抓手，通過模塊化解構(gòu)的方式，從數(shù)據(jù)模塊、算法模塊、模型架構(gòu)模塊等關(guān)鍵層級和組件出發(fā)，設(shè)計相應(yīng)的治理工具和規(guī)范，形成獨立的治理模塊。在部署環(huán)節(jié)，可根據(jù)具體場景的特性靈活選擇、協(xié)同組合不同的治理模塊，在其基礎(chǔ)上構(gòu)建與之相匹配的分類分層治理體系。

其次，“代理即服務(wù)”的產(chǎn)業(yè)模式之下，多代理部署還將成為主流趨勢。這不僅推動了深度的人機(jī)交互，還在智能體服務(wù)的模塊化和組合化部署時形成更為復(fù)雜的主體參與網(wǎng)絡(luò)。這種互聯(lián)互通的產(chǎn)業(yè)鏈特性還需要治理機(jī)制能夠跨越不同的開發(fā)者和參與主體，突破單項式的治理，實現(xiàn)系統(tǒng)級的協(xié)調(diào)與交互。因此，人工智能體模塊化治理的發(fā)揮還需要面向智能體的生態(tài)特性，搭配以動態(tài)性、參與性、透明性和協(xié)作適應(yīng)性的交互式治理。

最后，還需要深刻認(rèn)識到，人工智能體仍處于研發(fā)和產(chǎn)業(yè)化的初步階段，治理介入的節(jié)點、節(jié)奏與維度將對技術(shù)創(chuàng)新與行業(yè)發(fā)展產(chǎn)生重大影響。由于基座模型的性能依然存在諸多短板，其技術(shù)路線遠(yuǎn)未迎來固化時刻，未來將會出現(xiàn)基礎(chǔ)架構(gòu)層面的革新與升級?！?2：〕從積極的角度來看，技術(shù)的進(jìn)步也可能使得現(xiàn)階段預(yù)期出現(xiàn)的法律風(fēng)險迎刃而解。因此，對人工智能體的治理既不可操之過急，亦不可放任自流，而應(yīng)當(dāng)抓住人工智能體的核心與關(guān)鍵環(huán)節(jié)開展前瞻性、漸進(jìn)性的布局。基于此，人工智能體的模塊化治理還需要面向人工智能體產(chǎn)業(yè)的發(fā)展現(xiàn)狀，搭配以精準(zhǔn)化的治理機(jī)制。一方面積極探索建立人工智能體分類分級的評定標(biāo)準(zhǔn)，另一方面深入探索建立智慧化的監(jiān)管工具體系，彌合風(fēng)險動態(tài)性與監(jiān)管靜態(tài)性之間的張力。

整體而言，模塊化治理為人工智能體產(chǎn)業(yè)鏈的關(guān)鍵層級提供了基礎(chǔ)的治理思路。精準(zhǔn)化治理則因場景而異，對模塊化治理形成縱深拓展。而交互式治理貫通模塊化治理與精準(zhǔn)分層的治理，實現(xiàn)了治理方案的動態(tài)優(yōu)化。三者相輔相成。在該種協(xié)同體系之下，有望更為全面地覆蓋人工智能體的治理需求，精準(zhǔn)制導(dǎo)、與時俱進(jìn)。

（一）構(gòu)建從基礎(chǔ)模型到基礎(chǔ)代理的模塊化治理

現(xiàn)階段，大模型仍處于產(chǎn)業(yè)化和商業(yè)化發(fā)展的初級階段，基座模型的性能依然存在諸多短板，技術(shù)界也提出了各種解決當(dāng)前技術(shù)瓶頸的應(yīng)對之策。對于人工智能體而言，大模型是所有技術(shù)路線中最有助于其實現(xiàn)通用任務(wù)能力的基礎(chǔ)設(shè)施和關(guān)鍵組件?！?3#〕相關(guān)研究顯示，基礎(chǔ)模型對人工智能體的感知、運動、規(guī)劃和控制方面會帶來系統(tǒng)性的提升。〔64#〕而在百花齊放的各類大模型之中，在大量數(shù)據(jù)上訓(xùn)練而成，具有通用的數(shù)據(jù)表示能力、知識理解能力和推理能力，通過上下文學(xué)習(xí)、微調(diào)甚至零樣本方式，能夠?qū)崿F(xiàn)多元場景輕松遷移并快速適應(yīng)新環(huán)境的基礎(chǔ)模型（Foundation#Model）是實現(xiàn)通用人工智能體的關(guān)鍵希望。因此，面對紛繁復(fù)雜、擁有無盡可能的人工智能體，試圖構(gòu)建一個面面俱到的治理框架可能是不切實際的，相反，牢牢抓住基礎(chǔ)模型這一要素，逐步探索出從基礎(chǔ)模型到基礎(chǔ)代理〔65#〕的模塊化治理路徑可能成為未來的發(fā)展方向。

而在探索構(gòu)建這一治理方案的過程中，需要著重解決以下兩個問題：首先，精準(zhǔn)識別具有通用性能、可能帶來系統(tǒng)性風(fēng)險的尖端基礎(chǔ)模型并據(jù)此構(gòu)建差異化的監(jiān)管矩陣。在基礎(chǔ)模型內(nèi)部，基于不同的訓(xùn)練目的和模型性能，各類模型治理風(fēng)險各異。為給予技術(shù)發(fā)展充分的制度空間，同時為技術(shù)風(fēng)險提供實時可控的治理框架，歐盟立法者在人工智能法案中通過模型訓(xùn)練期間的算力使用量、模型獲取新技能的效率、跨任務(wù)的多功能性和性能的通用性、模型泛化能力以及特定的評估基準(zhǔn)綜合構(gòu)建分層依據(jù)，〔66#〕將基礎(chǔ)模型劃分為三類：（1）旨在具有能力通用性并位于當(dāng)今技術(shù)發(fā)展前沿的通用目的的基礎(chǔ)模型；（2）旨在具有能力通用性但非技術(shù)尖端性的基礎(chǔ)模型；以及（3）并非基于能力通用性而設(shè)計，而是為了特定范疇內(nèi)自動生成內(nèi)容的生成式工具和應(yīng)用，其通過對通用目的的基礎(chǔ)模型進(jìn)行微調(diào)并向其提供特定任務(wù)數(shù)據(jù)構(gòu)建而成?！?7#〕在對基礎(chǔ)模型進(jìn)行分層的基礎(chǔ)上，施加差異化的事前審查和監(jiān)管策略，從而在技術(shù)創(chuàng)新與安全發(fā)展之間達(dá)成平衡。這種治理方案尤其適用于技術(shù)飛速發(fā)展但尚未定型的技術(shù)爆發(fā)周期。就人工智能體而言，由于該產(chǎn)業(yè)的終極發(fā)展方向是通用型人工智能體，因此清晰界定具有通用目的、處于技術(shù)尖端、具有極強(qiáng)泛化性能且將作為通用智能體核心組件的基礎(chǔ)模型將成為構(gòu)建監(jiān)管框架的首個攻堅重點。目前，有研究將人工智能體領(lǐng)域使用的基礎(chǔ)模型分為用于機(jī)器人的基礎(chǔ)模型和直接在機(jī)器人數(shù)據(jù)集上進(jìn)行訓(xùn)練的基礎(chǔ)模型兩類。前者與現(xiàn)有的大型自然語言模型以及大型語言—視覺模型高度重合，主要解決如何將現(xiàn)有的基礎(chǔ)模型在智能體領(lǐng)域?qū)崿F(xiàn)零樣本的應(yīng)用問題。因此，可以在現(xiàn)有監(jiān)管框架的基礎(chǔ)上推進(jìn)和完善，探索針對通用尖端基礎(chǔ)模型的治理方案。但更具挑戰(zhàn)性的是對“機(jī)器人基礎(chǔ)模型”的治理?！皺C(jī)器人基礎(chǔ)模型”是指通過對真實的人工智能體的狀態(tài)和動作產(chǎn)生的數(shù)據(jù)集進(jìn)行訓(xùn)練以解決多元任務(wù)的模型?！?8#〕對于該類模型，由于現(xiàn)有技術(shù)路線仍在探索與發(fā)展之中，因此，應(yīng)保持密切關(guān)注，適時依據(jù)技術(shù)的階段性進(jìn)展探索制定分類分級和風(fēng)險評估的指標(biāo)體系，為搭建治理框架積累決策依據(jù)。

其次，創(chuàng)建與人工智能體基礎(chǔ)模型技術(shù)機(jī)理相適配的治理工具模塊體系。無論是大模型還是人工智能體，尚處于技術(shù)飛速發(fā)展與商業(yè)化落地的探索期，其技術(shù)形態(tài)以及應(yīng)用場景均可能瞬息萬變。因此，治理框架的構(gòu)建應(yīng)具備以不變應(yīng)萬變的能力。這就更需要圍繞基礎(chǔ)智能體的技術(shù)邏輯與發(fā)展機(jī)理構(gòu)建與之相適配的工具體系，從而全面提升治理體系的韌性。對于人工智能體的訓(xùn)練而言，需要分別探索構(gòu)建針對數(shù)據(jù)、算法、模型架構(gòu)等關(guān)鍵組件的治理工具模塊體系。一方面，針對各關(guān)鍵組件的治理工具模塊可以確保大模型治理與人工智能體治理甚至是面向未來的通用人工智能治理框架之間具有互操作性和一致性，避免不同維度治理活動的重疊與沖突。另一方面，具體而微觀的治理工具模塊又具備靈活性與動態(tài)性， 能夠及時回應(yīng)復(fù)雜技術(shù)系統(tǒng)和應(yīng)用場景之中的多元化治理需求，凸顯協(xié)同性和包容性特質(zhì)，通過將快速變遷、復(fù)雜耦合甚至沖突競爭的治理挑戰(zhàn)隔離到獨立模塊之中促進(jìn)多方共識的凝聚，從而創(chuàng)建可執(zhí)行的合作關(guān)系與行動框架，實現(xiàn)治理層面“存異求同”。因此，“模塊化治理”方案〔69#〕提供了一種具有可操作性的分解方法。通過將復(fù)雜的智能體治理目標(biāo)拆解為相對獨立但關(guān)聯(lián)耦合的模塊單元，以逐步破解的方式漸序推動整體治理框架和治理體系的構(gòu)建?！?0#〕具體而言，需要從控制端、感知端和行動端的技術(shù)機(jī)理出發(fā)，從數(shù)據(jù)、算法、模型和平臺的維度拆解治理“元”模塊。在這些模塊單元內(nèi)部，層層細(xì)化為具體的評估指標(biāo)、評估事項以及行動主體，根據(jù)風(fēng)險等級、適用場景、模型類別等因素有機(jī)重組，將統(tǒng)一框架靈活轉(zhuǎn)換為適用于某一特定領(lǐng)域、特定類別、特定人工智能體的具體規(guī)制框架。

（二）構(gòu)建面向特定高風(fēng)險場景的精準(zhǔn)化治理

雖然前文從控制端、感知端和行動端詳析了人工智能體可能存在的技術(shù)隱憂與治理挑戰(zhàn)，但人工智能體的發(fā)展無疑極大推動了技術(shù)自動化和智能化的進(jìn)程，其亦將賦能千行百業(yè)，成為產(chǎn)業(yè)變革的催化劑與助推器?，F(xiàn)階段，人工智能體的商業(yè)化落地正處于從零到一的關(guān)鍵導(dǎo)入期，探索構(gòu)建一個精準(zhǔn)高效的治理框架，確保該技術(shù)的發(fā)展與應(yīng)用始終處于可控且正當(dāng)?shù)能壍乐鲜冀K是一個重要的治理議題。對于仍在高速發(fā)展且遠(yuǎn)未定型的技術(shù)而言，相較于采取整全化的治理路徑，以合乎比例的方式契合特定場景和技術(shù)特性，開展精準(zhǔn)化、輕量化的治理可能更具可行性?！?1#〕結(jié)合“代理即服務(wù)”的產(chǎn)業(yè)鏈模式以及現(xiàn)階段人工智能體技術(shù)泛化能力仍然受限的客觀現(xiàn)狀，準(zhǔn)確識別現(xiàn)階段的高風(fēng)險部署場景，針對性、差異化地開展精準(zhǔn)化治理有助于治理效能的達(dá)成。人工智能體可以分為制造業(yè)智能體、服務(wù)業(yè)智能體和特種智能體三類。在部署路線上，其將首先應(yīng)用于工業(yè)、制造業(yè)，隨后應(yīng)用于服務(wù)業(yè)、家用場景，最后發(fā)展成為具有通用性能的人工智能體?！?2#〕在這一部署模式之下，不同應(yīng)用場景中可能面臨的風(fēng)險等級與風(fēng)險面向均有所差別。例如，制造業(yè)的人工智能體需要更高閾值的穩(wěn)健性和可靠性，但部署于服務(wù)場景的智能體需要具有功能多元、高度自主、靈活應(yīng)變的能力，因此治理重點應(yīng)著眼于其與人類交互過程中的安全性和價值對齊問題。尤其是情感陪伴型智能體，因其服務(wù)模式可能接觸海量個人敏感信息，用戶面臨個人敏感信息泄露的風(fēng)險，還應(yīng)重點對其開展隱私保護(hù)的治理。因此，現(xiàn)階段，應(yīng)集中監(jiān)管力量率先應(yīng)對“高風(fēng)險”場景，在開展精準(zhǔn)治理的同時為探索構(gòu)建整全化、一體化的治理框架提供前期準(zhǔn)備。

歐盟的人工智能法案以風(fēng)險分類的路徑對人工智能新技術(shù)和新應(yīng)用的精準(zhǔn)治理作出了樣本性的探索。立法者率先錨定人工智能系統(tǒng)可能對人類健康和安全以及可能對個人基本權(quán)利產(chǎn)生重大影響這兩條主線，〔73#〕圍繞系統(tǒng)運行領(lǐng)域、系統(tǒng)使用目的、系統(tǒng)性能、系統(tǒng)用戶、受系統(tǒng)影響的主體五個維度識別需要重點監(jiān)管的“高風(fēng)險場景”。人工智能法案第6條規(guī)定了更為清晰的高風(fēng)險識別因素：〔74#〕危害性因素，即風(fēng)險類型，例如歧視、隱私泄露、物理致害等類別；〔75#〕暴露度因素，即風(fēng)險的強(qiáng)度、可能性、持續(xù)時間，以及是否對健康、安全和個人基本權(quán)利產(chǎn)生重要影響；脆弱性因素，關(guān)注風(fēng)險潛在受害群體的基數(shù)〔76#〕和特殊性以及回應(yīng)性因素，即風(fēng)險的可控性和事后救濟(jì)的有效性?！?7#〕對于人工智能體的精準(zhǔn)治理來說，可一定程度借鑒歐盟人工智能法案中分類分級的治理思路，在遵循技術(shù)特性與部署規(guī)律的基礎(chǔ)上，探索構(gòu)建精準(zhǔn)動態(tài)的治理方案。

首先，應(yīng)探索建立人工智能體分類分級的評定標(biāo)準(zhǔn)。在技術(shù)驅(qū)動發(fā)展的時代，專業(yè)技術(shù)標(biāo)準(zhǔn)往往彰顯更佳的治理效能〔78#〕。歐盟人工智能法案對于風(fēng)險的分級分類思路雖然可取，但因其規(guī)則模糊性而廣受詬病?！?9#〕因此，人工智能體的評定體系應(yīng)在細(xì)化評估因素的基礎(chǔ)上盡量提升規(guī)則顆粒度。例如，可從多模態(tài)訓(xùn)練數(shù)據(jù)的來源、內(nèi)容、標(biāo)注規(guī)范評估歧視、機(jī)器幻覺等風(fēng)險產(chǎn)生的可能性，從輸出內(nèi)容的安全性、準(zhǔn)確率、可靠度評估風(fēng)險的強(qiáng)度、持續(xù)時間，從具體用途評估可能受其影響的主體的人口基數(shù)、抗風(fēng)險能力，以及其糾錯能力、相關(guān)合規(guī)措施的完備性等維度評估風(fēng)險產(chǎn)生后的救濟(jì)難度，進(jìn)而判斷人工智能體的風(fēng)險等級，并提出針對性的治理措施。

其次，應(yīng)探索建立智慧化的監(jiān)管工具，彌合風(fēng)險動態(tài)性與監(jiān)管靜態(tài)性之間的張力。歐盟立法者已經(jīng)意識到人工智能風(fēng)險動態(tài)性的挑戰(zhàn)， 因而在人工智能法案第7條規(guī)定了修訂高風(fēng)險人工智能識別和認(rèn)定標(biāo)準(zhǔn)的程序，以確保治理的時效性?！?0#〕對于人工智能體這類風(fēng)險可能實時涌現(xiàn)、動態(tài)變化的治理對象而言，盡快開發(fā)出一套監(jiān)管反饋框架和智慧化治理工具體系具有現(xiàn)實緊迫性?！?1+〕例如，新加坡在大規(guī)模制定人工智能監(jiān)管框架之前，先行與科技企業(yè)合作開發(fā)了實驗性監(jiān)管工具AI#Verify，其可提供人工智能系統(tǒng)的測試框架、工具包和評估分析報告，〔82+〕以技術(shù)賦能監(jiān)管，增加企業(yè)與監(jiān)管機(jī)構(gòu)的互信與合作。因此，面向人工智能體的精準(zhǔn)化治理還需要精進(jìn)監(jiān)管基礎(chǔ)設(shè)施，賦能監(jiān)管機(jī)構(gòu)對高風(fēng)險應(yīng)用持續(xù)監(jiān)控、實時評估和即時反饋的能力，以提升監(jiān)管的敏捷度與實效性。

（三）構(gòu)建面向智能體生態(tài)的交互式治理

作為人工智能技術(shù)發(fā)展的第四階段，人工智能體將人類社會迅速推向了一個虛實結(jié)合、人機(jī)深度交互的智能體社會，開啟了全新的智能時代。在智能體社會，將集中呈現(xiàn)出深度交互性、高度互聯(lián)性以及動態(tài)適應(yīng)性三個特征。第一，智能體社會中人與人工智能系統(tǒng)將呈現(xiàn)廣泛深入的交互。一方面，人工智能體需要人類反饋實現(xiàn)動態(tài)學(xué)習(xí)。另一方面，人類仍然需要通過規(guī)范和技術(shù)深度介入人工智能體的行動和決策，以確保人類處于決策回路之中。第二，智能體社會將呈現(xiàn)萬物互聯(lián)的態(tài)勢。如前文所述，單一人工智能體可能遭遇能力局限和行動邊界，故多代理型部署方式將成為主流。因此，智能體社會不僅存在深度的人機(jī)交互，更將凸顯萬物互聯(lián)之勢。在引人矚目的“智能體虛擬小鎮(zhèn)”實驗中，研究者發(fā)現(xiàn)構(gòu)建的25個人工智能體在虛擬小鎮(zhèn)環(huán)境中呈現(xiàn)出類似人類社會的社交行為。虛擬小鎮(zhèn)中的智能體不僅會彼此共享信息、記憶智能體交互的細(xì)節(jié)， 甚至可以聯(lián)合策劃一場情人節(jié)派對?！?3%〕由此可見，未來的智能體社會將呈現(xiàn)高度智能和萬物互聯(lián)之勢。第三， 人工智能體可以憑借自我規(guī)劃與迭代的能力，借助交互學(xué)習(xí)和自適應(yīng)能力，適應(yīng)甚至重塑不斷變化的環(huán)境。因此，人工智能體社會還將呈現(xiàn)動態(tài)和不斷延展的組織特性。在這一宏觀變革之下，人工智能體的治理還需要探索一種交互式的治理模式。在人工智能體的產(chǎn)業(yè)鏈條上，至少存在大模型廠商、人工智能體廠商、下游端側(cè)的中小企業(yè)、人工智能體用戶、技術(shù)社群以及社會公眾等多個主體。交互式的治理模式需要遵循人工智能體的產(chǎn)業(yè)鏈生態(tài)，將各個主體均納入治理鏈條中來。

首先，作為人工智能體的“智商引擎”，大模型開發(fā)者需要在現(xiàn)有監(jiān)管框架下履行一系列數(shù)據(jù)、算法、內(nèi)容層面的合規(guī)義務(wù)。更為重要的是，由于人工智能體呈現(xiàn)多主體協(xié)同的部署趨勢，大模型開發(fā)者之間還應(yīng)積極探索共建共治機(jī)制，以應(yīng)對多智能體協(xié)同帶來的公共外部風(fēng)險。此外，鑒于大模型開發(fā)者具有全棧發(fā)展的趨勢，其與人工智能體的開發(fā)商可能高度重合。因此，其在一定程度上還應(yīng)履行“守門人”義務(wù)，對中下游主體履行監(jiān)管要求加以必要的協(xié)助。其次，應(yīng)著力培育技術(shù)社群以探索智能體社會的“眾包型”治理模式。面對性能強(qiáng)大的人工智能體，可能個體用戶受限于時間、能力、知識和精力，難以與之抗衡。技術(shù)社群內(nèi)部的緊密結(jié)合與專業(yè)知識的加持將有助于在人工智能企業(yè)內(nèi)部構(gòu)建有效的約束機(jī)制。例如，針對微軟Copilot%Designer產(chǎn)品生成色情與暴力內(nèi)容的問題，微軟內(nèi)部的AI工程主管沙恩·瓊斯在自測環(huán)節(jié)發(fā)現(xiàn)該問題后第一時間向微軟上報。但由于微軟怠于改善該問題，其在社交平臺上發(fā)表了公開信并向美國參議院發(fā)函，同時會見了美國參議院商業(yè)、科學(xué)與運輸委員會的工作人員，以督促該問題引發(fā)關(guān)注并得到妥善解決。〔84%〕因此，技術(shù)社群對于人工智能體的治理將起到至關(guān)重要的“吹哨人”效應(yīng)。最后，對于智能體社會的“未來公民”而言，政府還應(yīng)積極培育其數(shù)字文化素養(yǎng)，樹立其在與智能體交互過程中負(fù)責(zé)任使用的意識。〔85%〕人工智能時代，用戶已非作為單個個體而存在，相反，其通過算法、平臺以及人工智能系統(tǒng)與其他用戶、數(shù)據(jù)、環(huán)境產(chǎn)生連接和影響，成為了人工智能時代的“跨個體用戶”?！?6%〕因此，人工智能時代的治理應(yīng)當(dāng)超越傳統(tǒng)的以個體為中心的治理，關(guān)注更為廣泛的互聯(lián)依賴的生態(tài)關(guān)系。在智能體社會，基于法律的治理僅能解決有限的甚至是底線性的問題。智能體社會的治理尤為需要多方參與和多層次協(xié)作?！巴ㄟ^多元化的治理舉措施支持生成式人工智能創(chuàng)新發(fā)展和可靠應(yīng)用”?！?7%〕只有真正實現(xiàn)智能體生態(tài)中的良性交互，培育向上向善的運行生態(tài)，才能從更為長遠(yuǎn)和系統(tǒng)的角度應(yīng)對這一顛覆性變革。

結(jié)語

人工智能體開啟了人類走向通用人工智能的“新紀(jì)元”，其不僅具有推動產(chǎn)業(yè)創(chuàng)新、構(gòu)筑競爭優(yōu)勢的巨大潛力，還可能帶來社會生產(chǎn)力的大規(guī)模解放與人類生產(chǎn)生活方式的重大變革。人工智能體將會帶來一批新的產(chǎn)業(yè)、新的業(yè)態(tài)并積蓄新的動能，帶動一系列以智能、泛在為特征的顛覆性技術(shù)變革?！?8'〕在這一重大的科技革命與產(chǎn)業(yè)革命交匯期，習(xí)近平總書記提出“新質(zhì)生產(chǎn)力”這一重大概念。所謂新質(zhì)生產(chǎn)力，是指由技術(shù)革命性突破、生產(chǎn)要素創(chuàng)新性配置以及產(chǎn)業(yè)深度轉(zhuǎn)型升級而催生的當(dāng)代先進(jìn)生產(chǎn)力。新質(zhì)生產(chǎn)力代表著科技的發(fā)展方向，代表著產(chǎn)業(yè)升級的重大趨勢，匯聚著人類社會前進(jìn)的優(yōu)勢動能?？梢哉f，人工智能體是本輪科技革命浪潮中的新質(zhì)生產(chǎn)力。作為世界人工智能的主要創(chuàng)發(fā)力量，我國更需要優(yōu)化新質(zhì)生產(chǎn)力的發(fā)展生態(tài)，一方面推動其解放和發(fā)展，另一方面推動其在負(fù)責(zé)任創(chuàng)新的軌道上不斷完善，從而全面貫徹新發(fā)展理念，推動高質(zhì)量發(fā)展與高水平安全的良性互動?！?9'〕

本文系北京市教育科學(xué)規(guī)劃課題（項目批準(zhǔn)號：3030-0014）的階段性研究成果。