摘" "要：隨著進(jìn)入生成式人工智能時(shí)代，算法的快速發(fā)展和應(yīng)用顛覆了傳統(tǒng)的情報(bào)分析模式，成為情報(bào)信息采集和分析重要的工具。但隨著算法在軍事情報(bào)等重要領(lǐng)域的廣泛應(yīng)用，不僅引發(fā)了一系列挑戰(zhàn)和嚴(yán)重的安全風(fēng)險(xiǎn)，也引起全球范圍的擔(dān)憂。文章聚焦生成式人工智能視域下情報(bào)分析算法，在系統(tǒng)闡釋算法風(fēng)險(xiǎn)產(chǎn)生的內(nèi)外部因素的基礎(chǔ)上，通過(guò)有機(jī)融合協(xié)同治理、敏捷治理以及精準(zhǔn)治理理論，構(gòu)建情報(bào)分析算法風(fēng)險(xiǎn)的多重治理機(jī)制框架。內(nèi)容包括：事前治理：情報(bào)分析算法風(fēng)險(xiǎn)的源頭治理；事中治理：情報(bào)分析算法風(fēng)險(xiǎn)的敏捷治理；事后治理：情報(bào)分析算法風(fēng)險(xiǎn)的精準(zhǔn)治理。以期為有效防范和應(yīng)對(duì)生成式人工智能視域下情報(bào)分析算法風(fēng)險(xiǎn)提供參考，使情報(bào)分析能夠更好地服務(wù)于國(guó)家戰(zhàn)略需要。

關(guān)鍵詞：生成式人工智能；算法賦能；情報(bào)分析；風(fēng)險(xiǎn)治理；治理機(jī)制

中圖分類號(hào)：G353.1" "文獻(xiàn)標(biāo)識(shí)碼：Ａ" "DOI：10.11968/tsyqb.1003-6938.2024060

Research on Multi-layer Governance Mechanism for Algorithmic Risk in Intelligence Analysis under Generative Artificial Intelligence

Abstract With the emergence of generative artificial intelligence， the rapid advancement and application of algorithms have fundamentally transformed traditional models of intelligence analysis， establishing themselves as crucial tools for collecting and analyzing intelligence information. However， with the increasing application of algorithms in critical domains such as military intelligence， they have engendered a plethora of challenges and great security risks， thereby eliciting global apprehensions. This paper focuses on algorithmic risks in the context of intelligence analysis facilitated by generative artificial intelligence， systematically elucidating both internal and external factors that contribute to such risks. By seamlessly integrating theories on collaborative governance， agile governance， and precise governance into a cohesive framework， it establishes a multi-layered mechanism for governing algorithmic risk in intelligence analysis. This framework encompasses： Pre-event governance： source control over algorithmic risk in intelligence analysis; Mid-event governance： agile management of algorithmic risk in intelligence analysis; Post-event governance： precise handling of algorithmic risk in intelligence analysis. The objective is to provide guidance for effectively preventing and addressing algorithmic risks associated with intelligent analysis within the realm of generative artificial intelligence so that it may better serve national strategic requirements.

Key words Generative Artificial Intelligence; Algorithm Enablement; Intelligence Analysis; Risk Management; Governance Mechanism;

隨著生成式人工智能（GAI）時(shí)代的到來(lái)，從ChatGPT大語(yǔ)言模型到文生視頻模型Sora的發(fā)布，算法的自動(dòng)化、智能化以及便捷化程度不斷提高，成為提高情報(bào)分析工作效率和準(zhǔn)確度的有力途徑和新型生產(chǎn)工具，被廣泛應(yīng)用到情報(bào)分析豐富的應(yīng)用場(chǎng)景當(dāng)中，在國(guó)際戰(zhàn)略和企業(yè)方面均有體現(xiàn)：2023年8月，美國(guó)國(guó)家情報(bào)總監(jiān)辦公室（ODNI）發(fā)布了美國(guó)2023年《國(guó)家情報(bào)戰(zhàn)略》，強(qiáng)調(diào)充分利用開(kāi)源、大數(shù)據(jù)、人工智能和先進(jìn)的分析方法，提高準(zhǔn)確洞察競(jìng)爭(zhēng)對(duì)手意圖和行動(dòng)的能力［1］；2024年1月，OpenAI更新了其使用條款，不再禁止其技術(shù)用于軍事和戰(zhàn)爭(zhēng)目的。但同時(shí)算法也是一把“雙刃劍”，在賦能軍事情報(bào)、政治情報(bào)、金融情報(bào)等重要領(lǐng)域時(shí)可能引發(fā)“情報(bào)繭房”“深度偽造”等潛在的風(fēng)險(xiǎn)，引起了國(guó)際社會(huì)的廣泛關(guān)注和擔(dān)憂，特別是美國(guó)高科技公司與美國(guó)國(guó)防部及情報(bào)部門合作，利用算法打破俄烏沖突平衡事件以及詐騙分子利用“深度偽造”技術(shù)偽造公司高層的面部和聲音，詐騙2億港元事件、AI偽造拜登聲音的電話錄音等深受算法影響的重大事件發(fā)生后，給國(guó)家和社會(huì)造成的危害具有嚴(yán)重性、不可消除性和廣泛性。正是在生成式人工智能快速發(fā)展的大背景下，加強(qiáng)算法風(fēng)險(xiǎn)治理，防范和規(guī)避算法賦能情報(bào)帶來(lái)的一系列不確定性風(fēng)險(xiǎn)問(wèn)題亟需解決。近年來(lái)，我國(guó)已相繼出臺(tái)了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等政策法規(guī)以規(guī)制算法風(fēng)險(xiǎn)問(wèn)題［2］，這反映出我國(guó)已充分認(rèn)識(shí)到算法安全發(fā)展的重要性，并逐步推進(jìn)相關(guān)政策法規(guī)的完善，但實(shí)際在新質(zhì)生產(chǎn)力對(duì)技術(shù)創(chuàng)新有更高要求的背景下，國(guó)家對(duì)智能情報(bào)服務(wù)的需求不斷增加，當(dāng)前國(guó)家層面仍然缺乏且急需關(guān)于情報(bào)分析算法風(fēng)險(xiǎn)治理機(jī)制的成果。因此，開(kāi)展生成式人工智能視域下情報(bào)分析算法風(fēng)險(xiǎn)治理機(jī)制的研究，對(duì)充分發(fā)揮情報(bào)分析工作的“耳目、尖兵、參謀”作用，推動(dòng)情報(bào)更好服務(wù)國(guó)家發(fā)展戰(zhàn)略具有重要意義。

1" "研究現(xiàn)狀

目前已知的文心一言、ChatGPT等國(guó)內(nèi)外先進(jìn)的生成式大模型的核心都是以GPT算法作為支撐，或者以其作為根本原理來(lái)實(shí)現(xiàn)其功能和應(yīng)用［3］。鑒于此，本文將應(yīng)用在情報(bào)分析領(lǐng)域的生成式人工智能模型或算法統(tǒng)稱為情報(bào)分析算法進(jìn)行分析。伴隨著情報(bào)分析算法的快速發(fā)展，其如何賦能情報(bào)分析引起了學(xué)者們的廣泛關(guān)注。張智雄等基于ChatGPT的技術(shù)能力特點(diǎn)和文獻(xiàn)情報(bào)工作的方法和模式，分析了其對(duì)文獻(xiàn)情報(bào)工作的影響［4］。湯珊紅等基于國(guó)防科技情報(bào)工作的本質(zhì)特征，從情報(bào)收集到情報(bào)生成過(guò)程探討生成式人工智能如何賦能國(guó)防科技情報(bào)［5］。劉逸倫等通過(guò)分析AIGC的技術(shù)特征和探討在科技情報(bào)服務(wù)中的技術(shù)應(yīng)用路徑和場(chǎng)景，構(gòu)建了AIGC賦能的科技情報(bào)智能服務(wù)框架［6］。但同時(shí)由于算法自動(dòng)化決策的黑箱性質(zhì)，導(dǎo)致情報(bào)可信性降低和難以保護(hù)數(shù)據(jù)主體的算法解釋權(quán)［7］等不確定性風(fēng)險(xiǎn)，引起了圖情領(lǐng)域?qū)W者的關(guān)注，算法具有公平性、可問(wèn)責(zé)性以及透明性也逐漸成為學(xué)者廣泛認(rèn)同的算法風(fēng)險(xiǎn)治理目標(biāo)［8］，現(xiàn)有研究主要聚焦在以下三個(gè)方面：

一是情報(bào)分析算法風(fēng)險(xiǎn)研究。主要探討應(yīng)用情報(bào)分析算法產(chǎn)生的風(fēng)險(xiǎn)。如張國(guó)慶等基于情報(bào)工作流程（TCPED）視角，探討ChatGPT對(duì)TCPED路徑下情報(bào)工作的影響［9］。張濤和馬海群結(jié)合實(shí)際應(yīng)用場(chǎng)景對(duì)算法引發(fā)的風(fēng)險(xiǎn)及其風(fēng)險(xiǎn)間的交互關(guān)系進(jìn)行分析，并提出預(yù)防與規(guī)制算法風(fēng)險(xiǎn)的對(duì)策建議［10］。在此基礎(chǔ)上，通過(guò)構(gòu)建“數(shù)據(jù)－算法－流程”為一體的智能情報(bào)分析風(fēng)險(xiǎn)識(shí)別模型，深入探討智能情報(bào)分析領(lǐng)域數(shù)據(jù)與算法風(fēng)險(xiǎn)問(wèn)題［11］。

二是區(qū)塊鏈賦能情報(bào)分析算法風(fēng)險(xiǎn)治理研究。主要基于區(qū)塊鏈的去中心化、自治性、不可篡改性、可追溯性等特點(diǎn)賦能算法風(fēng)險(xiǎn)治理。如馬海群和張濤從用戶層、機(jī)制層和過(guò)程層三個(gè)視角分析了區(qū)塊鏈賦能智能情報(bào)分析算法風(fēng)險(xiǎn)治理框架［12］。周穎玉等從價(jià)值、實(shí)踐、目標(biāo)視角探討區(qū)塊鏈嵌入算法推薦的核心邏輯、過(guò)程和時(shí)間路徑［13］。

三是情報(bào)人員的算法素養(yǎng)研究。研究主題主要集中在平衡用戶對(duì)算法素養(yǎng)的期望與開(kāi)發(fā)人員對(duì)算法透明度的責(zé)任、吸引用戶提高素養(yǎng)的方法、發(fā)展素養(yǎng)的情感和行為、解決新的算法鴻溝等方面［14］。如吳丹和劉靜通過(guò)分析算法素養(yǎng)研究的內(nèi)外部驅(qū)動(dòng)因素和構(gòu)建算法素養(yǎng)能力框架，分別回答了“為什么需要研究算法素養(yǎng)”和“算法素養(yǎng)是什么”的問(wèn)題［15］。高國(guó)偉和賀帆從科技情報(bào)人員的維度，基于TTD（Theory of Technology Dominance）理論探討情報(bào)人員在人工智能環(huán)境下提升專業(yè)素養(yǎng)發(fā)展方向［16］。

綜上所述，在生成式人工智能背景下，現(xiàn)有研究基于多種視角探討情報(bào)分析算法風(fēng)險(xiǎn)治理問(wèn)題，從情報(bào)分析算法風(fēng)險(xiǎn)識(shí)別研究到引入?yún)^(qū)塊鏈嵌入情報(bào)分析算法風(fēng)險(xiǎn)治理研究等，但缺少對(duì)情報(bào)分析算法的風(fēng)險(xiǎn)治理機(jī)制系統(tǒng)研究的成果。基于此，本文聚焦生成式人工智能視域下情報(bào)分析算法，在系統(tǒng)闡釋算法風(fēng)險(xiǎn)產(chǎn)生的內(nèi)部因素和外部環(huán)境因素的基礎(chǔ)上，通過(guò)有機(jī)融合協(xié)同治理理論、敏捷治理理論以及精準(zhǔn)治理理論，構(gòu)建情報(bào)分析算法風(fēng)險(xiǎn)多重治理機(jī)制，以使算法更加安全可信地應(yīng)用于情報(bào)分析。

2" "情報(bào)分析算法風(fēng)險(xiǎn)影響因素分析

情報(bào)分析作為獲取、整合、分析和評(píng)估各類信息的關(guān)鍵環(huán)節(jié)，能夠揭示出數(shù)據(jù)背后隱藏的深層次規(guī)律和趨勢(shì)。伴隨生成式人工智能時(shí)代算法的快速迭代更新和海量多源異構(gòu)數(shù)據(jù)的涌現(xiàn)，通過(guò)自動(dòng)化、智能化的更高效、更精準(zhǔn)處理信息的理念被廣泛應(yīng)用于軍事、金融等情報(bào)工作領(lǐng)域，整體上呈現(xiàn)出從依靠人工檢索的傳統(tǒng)情報(bào)分析方式向算法賦能情報(bào)分析的計(jì)算方式演進(jìn)的趨勢(shì)。在此背景下，認(rèn)知情報(bào)分析算法風(fēng)險(xiǎn)，確保算法的安全可信尤為重要。因此，有必要基于算法賦能情報(bào)分析的邏輯，從算法內(nèi)部因素和算法外部環(huán)境因素兩個(gè)方面探討情報(bào)分析算法風(fēng)險(xiǎn)影響因素，以便更好地構(gòu)建情報(bào)分析算法風(fēng)險(xiǎn)的應(yīng)對(duì)機(jī)制。

2.1" " 算法內(nèi)部因素：數(shù)據(jù)與算法自身缺陷引發(fā)情報(bào)可信性風(fēng)險(xiǎn)

數(shù)據(jù)與算法自身缺陷是產(chǎn)生情報(bào)分析算法風(fēng)險(xiǎn)的源頭因素，其所引發(fā)的情報(bào)可信性風(fēng)險(xiǎn)阻礙了算法賦能情報(bào)分析的進(jìn)程［17］，主要體現(xiàn)在以下三個(gè)方面：一是算法訓(xùn)練數(shù)據(jù)存在偏差。通過(guò)算法快速挖掘和分析大量數(shù)據(jù)使其轉(zhuǎn)化為有效的情報(bào)信息是算法賦能情報(bào)分析最重要的優(yōu)勢(shì)之一。但算法本身也是基于已有的數(shù)據(jù)進(jìn)行訓(xùn)練，訓(xùn)練數(shù)據(jù)的準(zhǔn)確性、時(shí)效性、完整性會(huì)使得生成的算法不完善或生成“惡意算法”，從而引發(fā)算法偏見(jiàn)［18-19］，導(dǎo)致情報(bào)分析結(jié)果的偏差。二是算法可解釋性缺陷。通過(guò)提高算法的可解釋性并追蹤其運(yùn)行過(guò)程，是確保算法賦能情報(bào)分析可信性的重要保障［20］。但算法從情報(bào)信息輸入到情報(bào)結(jié)果輸出，通常由于自身的黑箱性質(zhì)，導(dǎo)致情報(bào)分析過(guò)程難以解釋，使得情報(bào)分析人員難以理解和信任算法的輸出結(jié)果，喪失了情報(bào)分析結(jié)果的可信性。因此，如何嵌入領(lǐng)域知識(shí)和專家經(jīng)驗(yàn)是提高算法可解釋性的重要手段。三是算法情報(bào)感知能力缺失。盡管算法在不斷進(jìn)行迭代更新，從ChatGPT4.0到ChatGPT-4o、Sora為顯著標(biāo)志，其智能化程度不斷提高，但算法仍無(wú)法完全感知內(nèi)外部環(huán)境對(duì)情報(bào)分析工作的影響，不具備情報(bào)人員的思維和判斷能力，對(duì)于復(fù)雜的任務(wù)仍需要進(jìn)行人機(jī)協(xié)同工作。尤其在面對(duì)復(fù)雜場(chǎng)景及不確定環(huán)境時(shí)，算法僅能基于特定的訓(xùn)練數(shù)據(jù)，無(wú)法充分學(xué)習(xí)到環(huán)境的特征，從而在情報(bào)分析時(shí)出現(xiàn)誤判的情況，是算法情報(bào)感知能力缺失的一個(gè)顯著表現(xiàn)。

2.2" " 主體環(huán)境因素：利益主體間算法權(quán)力失衡引發(fā)情報(bào)安全風(fēng)險(xiǎn)

基于多元治理主體協(xié)同參與風(fēng)險(xiǎn)治理的思路，情報(bào)分析算法風(fēng)險(xiǎn)治理涉及的利益相關(guān)主體應(yīng)包括：政府（監(jiān)管機(jī)構(gòu)）、企業(yè)、情報(bào)機(jī)構(gòu)以及評(píng)估機(jī)構(gòu)（第三方）等，其間存在復(fù)雜的博弈關(guān)系。從確保算法可信和提高情報(bào)分析效率、質(zhì)量的目標(biāo)出發(fā)，情報(bào)分析算法風(fēng)險(xiǎn)治理相關(guān)利益者之間的關(guān)系可以通過(guò)合作博弈理論進(jìn)行闡釋（見(jiàn)圖1）。合作博弈旨在使參與情報(bào)分析算法風(fēng)險(xiǎn)治理博弈的多方主體利益都有所增加，進(jìn)而為情報(bào)有效賦能數(shù)字化經(jīng)濟(jì)發(fā)展和數(shù)字中國(guó)建設(shè)提供安全保障，促進(jìn)整個(gè)社會(huì)利益增加。但同時(shí)由于不同利益相關(guān)者擁有算法權(quán)力不同，利益關(guān)系也不斷發(fā)生變化。而算法權(quán)力的失衡影響各利益相關(guān)者在情報(bào)分析算法風(fēng)險(xiǎn)治理中合作博弈關(guān)系的平衡［21］，進(jìn)而導(dǎo)致情報(bào)分析算法風(fēng)險(xiǎn)的形成。如在情報(bào)分析算法風(fēng)險(xiǎn)治理中，一是政府與企業(yè)之間的博弈：政府是算法的監(jiān)管機(jī)構(gòu)，對(duì)算法進(jìn)行行政監(jiān)管和問(wèn)責(zé)，但由于算法黑箱的不確定性和“技術(shù)中立”使得問(wèn)責(zé)主體的不明確，以及面臨我國(guó)算法治理法律規(guī)范體系尚未完善，導(dǎo)致政府與企業(yè)在博弈中經(jīng)常因?yàn)樗惴L(fēng)險(xiǎn)的難問(wèn)責(zé)性處于被動(dòng)防御和響應(yīng)的狀態(tài)，進(jìn)而使得治理效果不顯著、治理成本增加。二是情報(bào)機(jī)構(gòu)與企業(yè)之間的博弈：情報(bào)機(jī)構(gòu)是算法的使用者，企業(yè)是算法的設(shè)計(jì)者和擁有者，企業(yè)在算法權(quán)利方面具有主導(dǎo)性，并且由于情報(bào)人員算法素養(yǎng)問(wèn)題和算法本身可解釋性差，使得情報(bào)人員在博弈中經(jīng)常因?yàn)樗惴?quán)利的失衡處于弱勢(shì)。而合作博弈關(guān)系的失衡會(huì)導(dǎo)致利益相關(guān)者因?yàn)槔骊P(guān)系引發(fā)“情報(bào)信息泄露”“情報(bào)深度偽造”“情報(bào)分析算法濫用”等風(fēng)險(xiǎn)。并且隨著Sora的問(wèn)世，創(chuàng)建虛假情報(bào)的成本大幅度降低，情報(bào)深度偽造從文字、圖像到視頻變得多元異構(gòu)，將導(dǎo)致情報(bào)機(jī)構(gòu)信息分析難度增加，給國(guó)家和社會(huì)安全造成嚴(yán)重影響。

2.3" " 制度環(huán)境因素：算法風(fēng)險(xiǎn)治理制度固化引發(fā)潛在的情報(bào)風(fēng)險(xiǎn)

算法風(fēng)險(xiǎn)治理制度固化會(huì)引發(fā)潛在的情報(bào)風(fēng)險(xiǎn)，主要體現(xiàn)在兩個(gè)方面：一方面是算法風(fēng)險(xiǎn)治理制度固化可能導(dǎo)致情報(bào)獲取的滯后。以歐盟發(fā)布的《通用數(shù)據(jù)保護(hù)條例》制度為例，其對(duì)數(shù)據(jù)與算法進(jìn)行了嚴(yán)格規(guī)定，為數(shù)據(jù)與算法安全治理建構(gòu)了制度框架。但同時(shí)不可否認(rèn)的是嚴(yán)格的制度限制了算法的使用范圍和增加數(shù)據(jù)獲取成本［22］，特別是針對(duì)情報(bào)分析領(lǐng)域，可能導(dǎo)致情報(bào)信息獲取的滯后性和不準(zhǔn)確性。另一方面是算法風(fēng)險(xiǎn)治理制度固化可能降低情報(bào)分析算法應(yīng)用的力度和廣度。算法作為實(shí)現(xiàn)技術(shù)突破和應(yīng)用創(chuàng)新的關(guān)鍵所在，本質(zhì)上是一種具有許多潛在應(yīng)用的通用技術(shù)，情報(bào)分析算法更多的是基于特定領(lǐng)域的訓(xùn)練數(shù)據(jù)精心設(shè)計(jì)而成。因此，面對(duì)情報(bào)分析領(lǐng)域存在軍事、政治、金融等多元的應(yīng)用場(chǎng)景，開(kāi)展情報(bào)分析算法風(fēng)險(xiǎn)制度問(wèn)責(zé)，需要充分考慮情報(bào)分析領(lǐng)域的特殊性和多元場(chǎng)景需求，為特定的情報(bào)分析領(lǐng)域制定算法應(yīng)用規(guī)則，可以讓對(duì)特定領(lǐng)域有更深入專業(yè)知識(shí)的監(jiān)管機(jī)構(gòu)為情報(bào)分析算法應(yīng)用制定適當(dāng)?shù)囊?guī)則。如保險(xiǎn)監(jiān)管機(jī)構(gòu)可能已經(jīng)考慮過(guò)如何應(yīng)對(duì)難以捉摸的信用評(píng)分模型帶來(lái)的風(fēng)險(xiǎn)，故而保險(xiǎn)公司是否使用機(jī)器學(xué)習(xí)模型是無(wú)關(guān)緊要的。強(qiáng)迫所有領(lǐng)域部門對(duì)算法使用相同的規(guī)則，可能會(huì)對(duì)某些領(lǐng)域部門施加過(guò)多或重復(fù)的要求，而對(duì)其它領(lǐng)域部門則提供不足的要求，進(jìn)而導(dǎo)致情報(bào)分析算法的適用性降低。

3" "情報(bào)分析算法風(fēng)險(xiǎn)多重治理機(jī)制構(gòu)建

通過(guò)分析生成式人工智能環(huán)境下情報(bào)分析算法風(fēng)險(xiǎn)影響因素可知，情報(bào)分析算法風(fēng)險(xiǎn)治理機(jī)制構(gòu)建需要具備四個(gè)特征：系統(tǒng)性、協(xié)同性、靈活性和準(zhǔn)確性。（1）系統(tǒng)性。針對(duì)數(shù)據(jù)與算法自身缺陷引發(fā)情報(bào)可信性風(fēng)險(xiǎn)，需要關(guān)注算法設(shè)計(jì)到應(yīng)用決策的整體過(guò)程存在系統(tǒng)性風(fēng)險(xiǎn)［23］，確保算法可信。（2）協(xié)同性。針對(duì)利益主體間算法權(quán)力失衡引發(fā)情報(bào)安全風(fēng)險(xiǎn)，需要關(guān)注算法賦能情報(bào)分析風(fēng)險(xiǎn)治理主體間的協(xié)同性，確保合作博弈關(guān)系的平衡。（3）靈活性。針對(duì)算法治理制度固化引發(fā)潛在的情報(bào)風(fēng)險(xiǎn)，需要關(guān)注應(yīng)用場(chǎng)景的多元化，有機(jī)協(xié)調(diào)多種治理手段，彌補(bǔ)制度的靈活性。（4）準(zhǔn)確性。針對(duì)情報(bào)風(fēng)險(xiǎn)的不確定性引發(fā)治理成本增加，需要關(guān)注將不確定性的動(dòng)態(tài)風(fēng)險(xiǎn)問(wèn)題轉(zhuǎn)化為靜態(tài)的風(fēng)險(xiǎn)問(wèn)題，將風(fēng)險(xiǎn)治理過(guò)程設(shè)計(jì)為標(biāo)準(zhǔn)化的精準(zhǔn)治理路徑，提高治理的效率，節(jié)約風(fēng)險(xiǎn)治理成本，增加風(fēng)險(xiǎn)治理的績(jī)效價(jià)值?；诖耍疚膹闹贫群图夹g(shù)兩個(gè)層面，融合協(xié)同治理、敏捷治理和精準(zhǔn)治理理論，并以風(fēng)險(xiǎn)管理的理論視角對(duì)算法全生命周期內(nèi)可能引發(fā)風(fēng)險(xiǎn)的地方進(jìn)行韌性設(shè)計(jì)，構(gòu)建情報(bào)分析算法風(fēng)險(xiǎn)多重治理機(jī)制框架，具體有：事前治理：情報(bào)分析算法風(fēng)險(xiǎn)的源頭治理；事中治理：情報(bào)分析算法風(fēng)險(xiǎn)的敏捷治理；事后治理：情報(bào)分析算法風(fēng)險(xiǎn)的精準(zhǔn)治理（見(jiàn)圖2）。

3.1" " 事前治理：情報(bào)分析算法風(fēng)險(xiǎn)的源頭治理

事前治理主要是指情報(bào)分析算法上線前的風(fēng)險(xiǎn)治理，旨在對(duì)算法風(fēng)險(xiǎn)進(jìn)行防范，實(shí)現(xiàn)情報(bào)分析算法風(fēng)險(xiǎn)的源頭治理，包括算法備案和算法影響評(píng)估，即需要在情報(bào)分析算法上線前對(duì)算法進(jìn)行備案和影響評(píng)估。（1）算法備案。其是進(jìn)行算法影響評(píng)估、算法風(fēng)險(xiǎn)等級(jí)劃分、算法風(fēng)險(xiǎn)治理回溯的重要依據(jù)，也是我國(guó)進(jìn)行算法治理的主要手段之一，根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十九條算法備案規(guī)定取得初步成效，在第六批深度合成服務(wù)算法備案信息清單中已有492款算法進(jìn)行了備案。但目前算法備案存在算法分級(jí)分類困難的問(wèn)題，并沒(méi)有清晰的劃分需要算法備案的程度。因此，需要持續(xù)加強(qiáng)算法備案更新，其過(guò)程根據(jù)算法性質(zhì)逐層遞進(jìn)主要包括三個(gè)方面：一是提供算法的簡(jiǎn)短非技術(shù)描述，以及該算法是什么以及使用該算法的原因的概述；二是提供算法更詳細(xì)的技術(shù)信息，如誰(shuí)擁有并負(fù)責(zé)該算法、有關(guān)算法的工作方式和算法使用的數(shù)據(jù)的具體詳細(xì)信息等［24］；三是進(jìn)行可解釋性計(jì)算，可解釋性計(jì)算是用于控制或提取算法操作邏輯的統(tǒng)計(jì)方法，必須在自動(dòng)訓(xùn)練之前（即在數(shù)據(jù)集上）、期間和之后系統(tǒng)地應(yīng)用。這些計(jì)算可以降低算法的不透明度并控制其響應(yīng)及可變性，從而顯著降低技術(shù)歧視根源上的錯(cuò)誤或算法偏見(jiàn)的風(fēng)險(xiǎn)。（2）算法影響評(píng)估。開(kāi)展算法影響評(píng)估可以提前發(fā)現(xiàn)和糾正算法應(yīng)用中存在的問(wèn)題和風(fēng)險(xiǎn)，保障算法應(yīng)用的合法性、合規(guī)性和安全性。2024年2月，全國(guó)信息安全標(biāo)準(zhǔn)委員會(huì)發(fā)布了《生成式人工智能服務(wù)安全基本要求》，從語(yǔ)料安全、模型安全、安全措施等方面提出了安全評(píng)估要求，為政府等相關(guān)機(jī)構(gòu)開(kāi)展情報(bào)分析算法影響評(píng)估提供了重要參考。但目前在如何定義影響、如何評(píng)估影響以及如何建立健全的問(wèn)責(zé)形式方面，仍然存在很大的模糊性［25］。算法監(jiān)管沙盒作為一種針對(duì)技術(shù)創(chuàng)新的柔性監(jiān)管制度，為開(kāi)展情報(bào)分析算法風(fēng)險(xiǎn)影響評(píng)估提供了方向。其主要包括以下內(nèi)容：一是政府作為監(jiān)管機(jī)構(gòu)負(fù)責(zé)篩選、審查企業(yè)需要上線的情報(bào)分析算法項(xiàng)目，包括算法備案情況等；二是政府作為監(jiān)管機(jī)構(gòu)負(fù)責(zé)激勵(lì)達(dá)到要求的企業(yè)參與沙盒測(cè)試，并委托第三方評(píng)估機(jī)構(gòu)開(kāi)展沙盒測(cè)試；三是通過(guò)第三方評(píng)估機(jī)構(gòu)在內(nèi)部環(huán)境下進(jìn)行算法影響評(píng)估，包括數(shù)據(jù)保護(hù)影響評(píng)估、算法影響評(píng)估、倫理評(píng)估等進(jìn)行審查，以確定潛在的安全問(wèn)題，并在評(píng)估完成后將結(jié)果反饋給參與測(cè)試企業(yè)。在此過(guò)程中需重點(diǎn)關(guān)注監(jiān)管沙盒的協(xié)作，制定正確的激勵(lì)措施，加強(qiáng)企業(yè)和監(jiān)管機(jī)構(gòu)之間的合作，包括數(shù)據(jù)層面和算法層面。這意味著更廣泛地參與，允許代表最終用戶的情報(bào)機(jī)構(gòu)和企業(yè)參與算法規(guī)則的事前設(shè)計(jì)、評(píng)估和修訂，目的是在代表所有上述利益相關(guān)者的沙盒中進(jìn)行預(yù)先測(cè)試；通過(guò)反復(fù)測(cè)試和反饋，擺脫偏見(jiàn)和操縱風(fēng)險(xiǎn)，然后大規(guī)模實(shí)施。算法監(jiān)管沙盒的構(gòu)建能夠幫助企業(yè)節(jié)約算法風(fēng)險(xiǎn)治理的成本，同時(shí)也使得政府掌握主導(dǎo)權(quán)并確保用戶權(quán)益。

3.2" " 事中治理：情報(bào)分析算法風(fēng)險(xiǎn)的敏捷治理

事中治理主要是指在情報(bào)分析上線后的風(fēng)險(xiǎn)治理，實(shí)現(xiàn)對(duì)情報(bào)算法風(fēng)險(xiǎn)問(wèn)題的快速響應(yīng)和敏捷治理，包括情報(bào)分析算法風(fēng)險(xiǎn)分級(jí)分類、算法風(fēng)險(xiǎn)審計(jì)、算法素養(yǎng)教育以及算法風(fēng)險(xiǎn)動(dòng)態(tài)監(jiān)測(cè)。（1）算法分級(jí)分類。在算法備案的基礎(chǔ)上，進(jìn)行算法分級(jí)分類［26］，對(duì)不同級(jí)別的風(fēng)險(xiǎn)需要采取不同的控制措施。盡管《規(guī)定》提出根據(jù)算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對(duì)用戶行為的干預(yù)程度等對(duì)算法推薦服務(wù)提供者實(shí)施分級(jí)分類管理，但尚未提出有針對(duì)性的方案?；诖?，本文借鑒歐盟《人工智能法案》提出的場(chǎng)景化劃分風(fēng)險(xiǎn)級(jí)別和參照數(shù)據(jù)安全分級(jí)分類的基礎(chǔ)上，結(jié)合情報(bào)分析應(yīng)用場(chǎng)景，提出情報(bào)分析算法風(fēng)險(xiǎn)分級(jí)分類（見(jiàn)表1），將情報(bào)分析算法風(fēng)險(xiǎn)分為不可接受風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、中風(fēng)險(xiǎn)和低風(fēng)險(xiǎn)四個(gè)等級(jí)，并闡明了每個(gè)風(fēng)險(xiǎn)等級(jí)所對(duì)應(yīng)的情報(bào)分析應(yīng)用場(chǎng)景內(nèi)容。（2）算法風(fēng)險(xiǎn)審計(jì)。它是算法風(fēng)險(xiǎn)監(jiān)管的有力武器，針對(duì)治理對(duì)象中的算法、數(shù)據(jù)及流程技術(shù)性、合規(guī)性風(fēng)險(xiǎn)，用以監(jiān)督算法的正當(dāng)使用，進(jìn)而推動(dòng)算法向善。通常分為外部審計(jì)和內(nèi)部審計(jì)，兩者互為協(xié)同關(guān)系。外部審計(jì)主要由政府為主導(dǎo)機(jī)構(gòu)的合規(guī)性審計(jì)；內(nèi)部審計(jì)主要由企業(yè)內(nèi)部審計(jì)部門定期進(jìn)行合規(guī)性和技術(shù)性審計(jì)。其過(guò)程主要包括：首先根據(jù)情報(bào)分析算法風(fēng)險(xiǎn)等級(jí)來(lái)確定算法是否有可能成為審查或?qū)徲?jì)的目標(biāo)，通常著重審查除低風(fēng)險(xiǎn)以外的算法；其次，確定以用戶算法需求為導(dǎo)向的算法審計(jì)利益相關(guān)方；最后，識(shí)別算法風(fēng)險(xiǎn)的影響因素和確定算法風(fēng)險(xiǎn)評(píng)估方法［27］。其中，針對(duì)算法本身的審計(jì)方法包括：代碼審計(jì)、非侵入性用戶審計(jì)、抓取審計(jì)和代理審計(jì)等［28］。（3）算法素養(yǎng)教育。情報(bào)機(jī)構(gòu)人員算法素養(yǎng)水平的高低決定了通過(guò)人機(jī)協(xié)同進(jìn)行情報(bào)分析工作的效率和質(zhì)量。情報(bào)機(jī)構(gòu)需要通過(guò)定期開(kāi)展算法素養(yǎng)教育培訓(xùn)，培訓(xùn)內(nèi)容設(shè)置應(yīng)以安全應(yīng)用為導(dǎo)向，包括算法應(yīng)用技能知識(shí)以及算法安全專業(yè)知識(shí)、算法技術(shù)倫理規(guī)范及法律規(guī)范等［29］，逐漸將情報(bào)分析算法黑盒性質(zhì)過(guò)渡到灰盒、白盒的狀態(tài)，能夠感知情報(bào)分析算法對(duì)其決策的變化以及能夠以自主的方式理解、評(píng)估和使用算法［30］。（4）算法風(fēng)險(xiǎn)的動(dòng)態(tài)監(jiān)測(cè)。生成式人工智能視域下的情報(bào)分析算法作為風(fēng)險(xiǎn)程度較高的創(chuàng)新性應(yīng)用，應(yīng)加強(qiáng)沙盒測(cè)試與真實(shí)業(yè)務(wù)場(chǎng)景的對(duì)接，通過(guò)擴(kuò)展沙盒范圍到現(xiàn)實(shí)業(yè)務(wù)場(chǎng)景中，開(kāi)展算法風(fēng)險(xiǎn)動(dòng)態(tài)監(jiān)測(cè)，來(lái)最大限度地實(shí)現(xiàn)風(fēng)險(xiǎn)的預(yù)防和化解。具體需要通過(guò)政府聯(lián)合情報(bào)機(jī)構(gòu)協(xié)同構(gòu)建監(jiān)管沙盒，政府作為監(jiān)管機(jī)構(gòu)需制定清晰的監(jiān)管框架，提供法律和監(jiān)管支持，確保該框架能夠靈活適應(yīng)不同的測(cè)試需求并保護(hù)用戶權(quán)益；情報(bào)機(jī)構(gòu)作為用戶需要建立快速反應(yīng)的報(bào)告系統(tǒng)，以便在識(shí)別潛在問(wèn)題時(shí)迅速采取措施；除此之外，企業(yè)還需通過(guò)情報(bào)分析算法在實(shí)際應(yīng)用中的數(shù)據(jù)指標(biāo)，定期對(duì)情報(bào)分析算法進(jìn)行系統(tǒng)評(píng)估和有針對(duì)性的改進(jìn)。

3.3" " 事后治理：情報(bào)分析算法風(fēng)險(xiǎn)的精準(zhǔn)治理

事后治理主要是對(duì)情報(bào)分析算法風(fēng)險(xiǎn)治理過(guò)程進(jìn)行回溯、問(wèn)責(zé)與救濟(jì)，以設(shè)計(jì)精準(zhǔn)治理路徑，優(yōu)化安全風(fēng)險(xiǎn)治理路徑，提高治理效率。一是算法風(fēng)險(xiǎn)回溯。算法風(fēng)險(xiǎn)治理整體上遵循PDCA循環(huán)思想，針對(duì)已識(shí)別的風(fēng)險(xiǎn)的緣由和治理過(guò)程進(jìn)行回溯解決方案，總結(jié)治理經(jīng)驗(yàn)，主要包括對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行回溯、對(duì)算法進(jìn)行回溯以及對(duì)算法風(fēng)險(xiǎn)治理流程進(jìn)行回溯三個(gè)部分：第一，對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行回溯，需要全面分析訓(xùn)練數(shù)據(jù)的來(lái)源和質(zhì)量，確定數(shù)據(jù)中存在的偏差、錯(cuò)誤或不完整性等問(wèn)題，深入理解其對(duì)算法性能和結(jié)果可能產(chǎn)生的影響；第二，對(duì)算法進(jìn)行回溯，包括對(duì)算法的設(shè)計(jì)、實(shí)現(xiàn)和調(diào)優(yōu)過(guò)程記錄進(jìn)行全面的審查，必要時(shí)重新對(duì)算法的復(fù)雜性、穩(wěn)定性和泛化能力等進(jìn)行評(píng)估；第三，對(duì)算法風(fēng)險(xiǎn)治理流程進(jìn)行評(píng)估，包括對(duì)算法開(kāi)發(fā)、測(cè)試、部署和監(jiān)控等整個(gè)流程的梳理和分析，發(fā)現(xiàn)其中存在的漏洞和不足，從而制定相應(yīng)的改進(jìn)措施。同時(shí)為保障溯源的安全透明和高效可信，應(yīng)用梯度顯著度、加密算法、時(shí)間戳技術(shù)實(shí)現(xiàn)算法風(fēng)險(xiǎn)全鏈路、端對(duì)端的溯源追蹤機(jī)制，以便找到算法風(fēng)險(xiǎn)源頭和構(gòu)建精準(zhǔn)的算法風(fēng)險(xiǎn)治理路徑，如利用梯度顯著性回溯訓(xùn)練數(shù)據(jù)集問(wèn)題，即通過(guò)算法預(yù)測(cè)的結(jié)果來(lái)反推產(chǎn)生結(jié)果原因，評(píng)估數(shù)據(jù)集的質(zhì)量。二是算法風(fēng)險(xiǎn)問(wèn)責(zé)。通過(guò)算法風(fēng)險(xiǎn)回溯能夠精準(zhǔn)地找到算法風(fēng)險(xiǎn)源頭，進(jìn)而能夠?qū)崿F(xiàn)算法精準(zhǔn)問(wèn)責(zé)。算法風(fēng)險(xiǎn)問(wèn)責(zé)需要政府根據(jù)大量實(shí)際情報(bào)分析算法風(fēng)險(xiǎn)治理案例，在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等已有制度的基礎(chǔ)上，出臺(tái)特定領(lǐng)域的“軟法”標(biāo)準(zhǔn)，細(xì)化情報(bào)分析算法風(fēng)險(xiǎn)治理責(zé)任。提供算法問(wèn)責(zé)的法律依據(jù)和規(guī)范。三是算法風(fēng)險(xiǎn)救濟(jì)。包括情報(bào)服務(wù)能夠獲得情報(bào)分析算法應(yīng)用決策的可解釋的權(quán)利［31］，以及建立由于情報(bào)分析算法自動(dòng)化決策等造成不公平或損害的申訴機(jī)制。

4" "結(jié)語(yǔ)

算法驅(qū)動(dòng)情報(bào)分析或算法本身作為情報(bào)分析的生產(chǎn)要素，在生成式人工智能時(shí)代已成為不可回避的趨勢(shì)。本文在此背景下立足于國(guó)家對(duì)算法風(fēng)險(xiǎn)治理的戰(zhàn)略需求，在探討引發(fā)情報(bào)分析算法風(fēng)險(xiǎn)內(nèi)外部影響因素的基礎(chǔ)上，貫徹落實(shí)“有法可依、多元協(xié)同、多方參與的治理機(jī)制”等算法風(fēng)險(xiǎn)治理政策背景和戰(zhàn)略需求，以預(yù)防和解決情報(bào)分析算法風(fēng)險(xiǎn)問(wèn)題，提高風(fēng)險(xiǎn)治理的系統(tǒng)性、協(xié)同性、靈活性和準(zhǔn)確性為導(dǎo)向，融合協(xié)同治理、敏捷治理和精準(zhǔn)治理理論，構(gòu)建了符合我國(guó)戰(zhàn)略需求的情報(bào)分析算法風(fēng)險(xiǎn)多重治理機(jī)制。該機(jī)制從情報(bào)分析算法的全生命周期內(nèi)的事前、事中、事后流程設(shè)計(jì)了多重治理機(jī)制解決方案的具體思路，為我國(guó)情報(bào)分析算法風(fēng)險(xiǎn)治理工作提供決策依據(jù)和參考，為情報(bào)分析算法風(fēng)險(xiǎn)治理研究提供思路，尤其是在生成式人工智能背景下，更應(yīng)該發(fā)揮這種多重治理機(jī)制的重要作用，為我國(guó)情報(bào)分析算法風(fēng)險(xiǎn)治理工作提供決策依據(jù)和參考。伴隨著情報(bào)分析算法的迭代升級(jí)和廣泛應(yīng)用，未來(lái)研究可以深度探索機(jī)制中要素的具體實(shí)踐，特別是在本文提出加強(qiáng)沙盒測(cè)試與真實(shí)業(yè)務(wù)場(chǎng)景的對(duì)接框架下，開(kāi)展監(jiān)管沙盒在情報(bào)分析實(shí)際場(chǎng)景中的實(shí)踐研究，以更好地應(yīng)對(duì)復(fù)雜多變的情報(bào)分析算法風(fēng)險(xiǎn)問(wèn)題。

參考文獻(xiàn)：

［1］" National Intelligence Strategy［EB/OL］.［2024-08-10］.https：//www.dni.gov/files/ODNI/documents/National_Intelligence_Strategy_2023.pdf.

［2］" 羅飛，崔濱，辛小江，等.大語(yǔ)言模型嵌入圖書館知識(shí)服務(wù)的風(fēng)險(xiǎn)范式與管控策略［J］.圖書與情報(bào)，2023（3）：99-106.

［3］" 陳兵.如何加強(qiáng)對(duì)算法的治理［J］.國(guó)家治理，2020（27）：35-39.

［4］" 張智雄，于改紅，劉熠，等.ChatGPT對(duì)文獻(xiàn)情報(bào)工作的影響［J］.數(shù)據(jù)分析與知識(shí)發(fā)現(xiàn)，2023，7（3）：36-42.

［5］" 湯珊紅，李曉松，趙柯然，等.生成式人工智能賦能國(guó)防科技情報(bào)［J］.情報(bào)理論與實(shí)踐，2023，46（11）：81-85，99.

［6］" 劉逸倫，黃微，張曉君，等.AIGC賦能的科技情報(bào)智能服務(wù)：特征、場(chǎng)景與框架［J］.現(xiàn)代情報(bào)，2023，43（12）：88-99.

［7］" Chiao V.Fairness，accountability and transparency： notes on algorithmic decision-making in criminal justice［J］.International Journal of Law in Context，2019，15（2）：126-139.

［8］" 姜野.算法的法律規(guī)制研究［D］.長(zhǎng)春：吉林大學(xué)，2020.

［9］" 張國(guó)慶，肖延輝，田華偉，等.TCPED路徑下生成式人工智能對(duì)情報(bào)工作的影響——以ChatGPT為例［J］.情報(bào)雜志，2024，43（6）：79-88.

［10］" 張濤，馬海群.智能情報(bào)分析中算法風(fēng)險(xiǎn)及其規(guī)制研究［J］.圖書情報(bào)工作，2021，65（12）：47-56.

［11］" 張濤，馬海群.智能情報(bào)分析中數(shù)據(jù)與算法風(fēng)險(xiǎn)識(shí)別模型構(gòu)建研究［J］.情報(bào)學(xué)報(bào)，2022，41（8）：832-844.

［12］" 馬海群，張濤.區(qū)塊鏈賦能智能情報(bào)分析算法風(fēng)險(xiǎn)治理機(jī)制研究［J］.圖書與情報(bào)，2023（1）：48-56.

［13］" 周穎玉，柯平，劉海鷗.融合·賦能·共創(chuàng)：區(qū)塊鏈嵌入算法推薦的未來(lái)發(fā)展圖景［J］.圖書情報(bào)知識(shí)，2024，41（3）：144-153.

［14］" Oeldorf-Hirsch A，Neubaum G.What do we know about algorithmic literacy？The status quo and a research agenda for a growing field［J］.New Media amp; Society，2023：1-39.

［15］" 吳丹，劉靜.人工智能時(shí)代的算法素養(yǎng)：內(nèi)涵剖析與能力框架構(gòu)建［J］.中國(guó)圖書館學(xué)報(bào)，2022，48（6）：43-56.

［16］" 高國(guó)偉，賀帆.人工智能賦能下情報(bào)人員的專業(yè)素養(yǎng)發(fā)展研究［J］.數(shù)字圖書館論壇，2022（4）：43-52.

［17］" 朱禹，陳關(guān)澤，陸泳溶，等.生成式人工智能治理行動(dòng)框架：基于AIGC事故報(bào)道文本的內(nèi)容分析［J］.圖書情報(bào)知識(shí)，2023，40（4）：41-51.

［18］" 孫慶春，賈煥銀.算法治理與治理算法［J/OL］.重慶大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）：1-10［2024-03-20］.http：//hfffg5fce84748f1d

4cc2hxpvopx9cp9p560qv.fgfy.hlju.cwkeji.cn/kcms/detail/50.1023.C.20191207.1044.002.html.

［19］" 王靜靜，葉鷹.生成式AI及其GPT類技術(shù)應(yīng)用對(duì)信息管理與傳播的變革探析［J］.中國(guó)圖書館學(xué)報(bào)，2023，49（6）：41-50.

［20］" Xu Z.From algorithmic governance to govern algorithm［J］.AI amp; SOCIETY，2024，39（3）：1141-1150.

［21］" Walker R，Dillard-Wright J，Iradukunda F.Algorithmic bias in artificial intelligence is a problem—And the root issue is power［J］.Nursing Outlook，2023，71（5）：102023.

［22］" M？觟kander J，Juneja P，Watson D S，et al.The US Algorithmic Accountability Act of 2022 vs.The EU Artificial Intelligence Act： what can they learn from each other？［J］.Minds and Machines，2022，32（4）：751-758.

［23］" 劉倩倩，劉圣嬰，劉煒.圖書情報(bào)領(lǐng)域大模型的應(yīng)用模式和數(shù)據(jù)治理［J］.圖書館雜志，2023，42（12）：22-35.

［24］" Algorithmic Transparency Standard［EB/OL］.［2024-07-25］.https：//www.gov.uk/government/collections/algorithmic-transparency-standard.

［25］" Watkins E A，Moss E，Metcalf J，et al.Governing algorithmic systems with impact assessments： Six observations［A］.Proceedings of the 2021 AAAI/ACM Conference on AI［C］.Ethics，and Society，2021：1010-1022.

［26］" 張濤，韋曉霞.我國(guó)算法治理政策法規(guī)內(nèi)容及框架分析［J］.現(xiàn)代情報(bào)，2023，43（9）：98-110.

［27］" Boer A，de Beer L，van Praat F.Algorithm Assurance：Auditing Applications of Artificial Intelligence［J］.Advanced Digital Auditing，2023，149-183.

［28］" 張濤.通過(guò)算法審計(jì)規(guī)制自動(dòng)化決策以社會(huì)技術(shù)系統(tǒng)理論為視角［J］.中外法學(xué)，2024，36（1）：261-279.

［29］" 崔文波，張濤，孫欽瑩，等.算法推薦風(fēng)險(xiǎn)影響因素系統(tǒng)動(dòng)力學(xué)研究——以政策與科研主題協(xié)同為視角［J］.圖書與情報(bào)，2023（1）：66-76.

［30］" Dogruel L.What is algorithm literacy？A conceptualization and challenges regarding its empirical measurement［J］.In M.Taddicken amp; C.Schumann（Eds.），Algorithms and Communication，2021（9）：67-93.

［31］" 張凌寒.算法權(quán)力的興起、異化及法律規(guī)制［J］.法商研究，2019，36（4）：63-75.

作者簡(jiǎn)介：劉曉麗，女，東北農(nóng)業(yè)大學(xué)經(jīng)濟(jì)管理學(xué)院講師，研究方向：計(jì)量經(jīng)濟(jì)學(xué)；崔文波，男，華東師范大學(xué)經(jīng)濟(jì)與管理學(xué)院、國(guó)家教育宏觀政策研究院博士研究生，研究方向：科技情報(bào)與信息分析；張濤，男，黑龍江大學(xué)信息管理學(xué)院教授，研究方向：數(shù)據(jù)與算法安全治理。

*本文系國(guó)家社會(huì)科學(xué)基金一般項(xiàng)目“數(shù)智環(huán)境下情報(bào)分析算法風(fēng)險(xiǎn)治理路徑研究”（項(xiàng)目編號(hào)：22BTQ064）研究成果之一。

收稿日期：2024-09-08；通訊作者：張濤（（zhangtao@hlju.edu.cn）；責(zé)任編輯：劉婷