摘 要：隨著人工智能的飛速發(fā)展和廣泛應(yīng)用，技術(shù)在展現(xiàn)其強(qiáng)大功能的同時(shí)，與之相伴的應(yīng)用風(fēng)險(xiǎn)也在不斷凸顯，令關(guān)于算法透明度及其衍生技術(shù)的可解釋人工智能漸入研究視野。文章梳理了可解釋人工智能的發(fā)展脈絡(luò)，分析其應(yīng)用于檔案領(lǐng)域的可行性與必要性，并在理論分析的基礎(chǔ)上，嘗試提出三類可解釋人工智能在檔案領(lǐng)域的應(yīng)用場(chǎng)景，即檔案資政、檔案開(kāi)放審核、檔案數(shù)據(jù)治理，以期豐富檔案領(lǐng)域的技術(shù)研究視角。

關(guān)鍵詞：可解釋人工智能；檔案資政；檔案開(kāi)放審核；檔案數(shù)據(jù)治理

分類號(hào)：G271

Exploring the Application of Explainable Artificial Intelligence in Archival Field

Li Siyi， Wang Zhenjie， Chen Ziyi

（ School of Cultural Heritage and Information Management， Shanghai University， Shanghai， 200444 ）

Abstract： As artificial intelligence rapidly develops and finds widespread applications， it demonstrates powerful capabilities while also presenting significant risks. These concerns have brought algorithm transparency and explainable AI into the research spotlight. This paper traces the development of explainable AI and analyzes its feasibility and necessity in the archival field. Based on theoretical analysis， we propose three application scenarios for explainable AI in archival management： archives for political and public decision-making， open archive reviewing， and archival data governance. These scenarios aim to expand the technological applications within the archival field from new research perspectives.

Keywords： Explainable Artificial Intelligence； Archives for Political and Public Decision-making； Open Archive Reviewing； Archival Data Governance

人工智能已成為全球科技創(chuàng)新的前沿陣地，其應(yīng)用場(chǎng)景在各領(lǐng)域持續(xù)擴(kuò)展。各行業(yè)深入探索人工智能，不斷尋找融合創(chuàng)新機(jī)遇，借技術(shù)之力推動(dòng)行業(yè)蓬勃發(fā)展，現(xiàn)已取得眾多令人矚目的成果。以檔案領(lǐng)域?yàn)槔?，?0世紀(jì)中期起，國(guó)際檔案界便前瞻性地探討將人工智能技術(shù)融入檔案工作的可能性。進(jìn)入21世紀(jì)，隨著AI技術(shù)取得突破性進(jìn)展，國(guó)際檔案界對(duì)人工智能在檔案工作中的應(yīng)用實(shí)踐邁入嶄新階段。[1]澳大利亞維多利亞州的Poc項(xiàng)目使用eDiscovery和Nuix的機(jī)器學(xué)習(xí)工具輔助檔案鑒定[2]；新南威爾士州檔案館通過(guò)測(cè)試scikit-learn開(kāi)源和機(jī)器學(xué)習(xí)軟件輔助檔案鑒定，該工具有著專家系統(tǒng)、統(tǒng)計(jì)模型和深度學(xué)習(xí)算法[3]；意大利羅馬特雷大學(xué)的研究人員將機(jī)器視覺(jué)（Machine Vision）技術(shù)運(yùn)用于梵蒂岡秘密檔案的轉(zhuǎn)錄工作[4]；韓國(guó)翻譯機(jī)構(gòu)也應(yīng)用人工智能翻譯本國(guó)的經(jīng)典文獻(xiàn)，極大提高了工作效率。[5]

就我國(guó)而言，1991年，中央檔案館率先邁出實(shí)踐步伐，采用人工智能模擬編目檢索算法，成功設(shè)計(jì)出“中型計(jì)算機(jī)檔案資料智能軟件歷史檔案目錄數(shù)據(jù)庫(kù)”[6]，顯著提升了檔案檢索的精確度和全面性。隨后，我國(guó)檔案實(shí)踐領(lǐng)域不斷涌現(xiàn)出人工智能的應(yīng)用實(shí)例，為檔案工作的智能化發(fā)展注入了強(qiáng)大動(dòng)力。北京市市場(chǎng)監(jiān)督管理局將檔案圖像識(shí)別技術(shù)、內(nèi)容識(shí)別技術(shù)與專家系統(tǒng)結(jié)合，研發(fā)出頁(yè)面公開(kāi)級(jí)別的智能鑒定工具，對(duì)檔案圖像頁(yè)面的公開(kāi)級(jí)別進(jìn)行批量識(shí)別并處理，大幅提高了鑒定效率。[7]河南省數(shù)字檔案館基于館藏資源建成智能檢索系統(tǒng)，挖掘大量結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)，實(shí)現(xiàn)信息、數(shù)據(jù)的關(guān)聯(lián)，進(jìn)而形成知識(shí)圖譜和檔案知識(shí)庫(kù)，提高了檔案管理的效率和質(zhì)量。[8]云南稅務(wù)部門(mén)采用自然語(yǔ)言處理技術(shù)識(shí)別檔案中的文字，采用模式識(shí)別技術(shù)抽取音像內(nèi)容，從而實(shí)現(xiàn)稅務(wù)執(zhí)法音像檔案的數(shù)字化和數(shù)據(jù)化。[9]國(guó)能大渡河流域水電開(kāi)發(fā)有限公司結(jié)合自然語(yǔ)言處理技術(shù)、光學(xué)字符識(shí)別技術(shù)和機(jī)器學(xué)習(xí)技術(shù)，構(gòu)建出管理類檔案智能分類模型，有效提升了檔案分類與整理效率和質(zhì)量。[10]

然而，此類檔案實(shí)踐都只聚焦于人工智能技術(shù)的應(yīng)用，對(duì)于其應(yīng)用的風(fēng)險(xiǎn)性考量卻少之又少，如人工智能介入管理過(guò)程所生成的決策和結(jié)果是否可信、誰(shuí)來(lái)負(fù)責(zé)，其算法是否透明等。就人工智能自身的研究而言，對(duì)于其可解釋性的探究也缺乏一個(gè)系統(tǒng)科學(xué)的理論范式?？山忉屝詫?duì)于人工智能而言是至關(guān)重要的一部分，只有當(dāng)人工智能的所有活動(dòng)都有據(jù)可依、有跡可循，才能廣泛應(yīng)用于整個(gè)社會(huì)。國(guó)內(nèi)檔案學(xué)界有少量研究涉及可解釋人工智能，可分為兩類：一類是對(duì)國(guó)際檔案專家學(xué)者觀點(diǎn)的引入，如在可解釋人工智能框架下，檔案工作人員既需要存儲(chǔ)結(jié)果文件，也需要存儲(chǔ)大量的算法材料[11]；從文件管理的角度解決人工智能的可解釋性。[12]另一類是在數(shù)智背景下探討檔案管理相關(guān)問(wèn)題，例如可解釋人工智能是監(jiān)管算法隱蔽行為的方式，可以緩解檔案技術(shù)應(yīng)用下的隱私侵害風(fēng)險(xiǎn)[13]；檔案工作者作為組織與公眾的中介，是可解釋人工智能的關(guān)鍵。[14]本文嘗試探索可解釋人工智能在檔案領(lǐng)域的應(yīng)用，對(duì)其可行性與必要性進(jìn)行分析，并提出三類應(yīng)用場(chǎng)景，以確保數(shù)智環(huán)境下的檔案工作更加穩(wěn)健、可靠地開(kāi)展。

1 可解釋人工智能及其發(fā)展

可解釋人工智能的概念起源可以追溯到1983年，William R. Swartout提出Xplain系統(tǒng)，通過(guò)使用自動(dòng)編程器充分解釋程序行為，以解決代碼合理性問(wèn)題。[15]1991年，Garson等從敏感性分析的角度，首次提出要對(duì)機(jī)器學(xué)習(xí)模型的預(yù)測(cè)結(jié)果進(jìn)行解釋。[16]同年，Richard W. Southwick區(qū)分了兩類解釋路徑，分別是作為解決問(wèn)題過(guò)程的闡釋和解釋推理過(guò)程的闡釋。他認(rèn)為闡釋的有用性取決于用戶的期望，而用戶的期望又與系統(tǒng)環(huán)境有關(guān)，因此系統(tǒng)必須具備向用戶解釋其推理過(guò)程的能力。[17]隨后，學(xué)術(shù)界逐漸關(guān)注人工智能的可解釋力，并于2004年首次提出了可解釋人工智能（Explainable Artificial Intelligence，XAI）[18]的概念。至此，學(xué)界對(duì)于可解釋人工智能有了相對(duì)一致并且較為清晰的認(rèn)知，標(biāo)志著可解釋人工智能概念的正式誕生。然而，人工智能在21世紀(jì)初處于被各行業(yè)領(lǐng)域狂熱追逐與力捧的浪潮中，產(chǎn)業(yè)界對(duì)于人工智能的熱衷程度大大超越了學(xué)界對(duì)其安全性的警示。

2016年，美國(guó)國(guó)防部高級(jí)研究計(jì)劃局（Defense Advanced Research Projects Agency，DARPA）啟動(dòng)了“可解釋人工智能”[19]項(xiàng)目，嘗試研發(fā)可解釋模型，該模型的生成能夠使用戶理解機(jī)器決策過(guò)程和邏輯，從而改進(jìn)或創(chuàng)新人工智能技術(shù)，并提出此方式能將在“第三波”人工智能技術(shù)的發(fā)展和應(yīng)用中實(shí)現(xiàn)。美國(guó)計(jì)算機(jī)協(xié)會(huì)、美國(guó)公共政策委員會(huì)在2017年發(fā)布的《算法透明性和可問(wèn)責(zé)性聲明》中提出了七項(xiàng)基本原則，其中包含著對(duì)人工智能可解釋的要求，督促使用算法決策的系統(tǒng)和機(jī)構(gòu)要主動(dòng)對(duì)算法的過(guò)程和決策提供解釋。[20]此外，人工智能在智慧醫(yī)療、智能駕駛等前沿業(yè)務(wù)場(chǎng)景中的應(yīng)用也展示出對(duì)可解釋性的強(qiáng)烈需求。至此，業(yè)界逐漸將目光投向可解釋人工智能，學(xué)界關(guān)于可解釋人工智能的研究也在2016年迎來(lái)了一波高潮。此階段對(duì)可解釋人工智能的研究不僅停留在對(duì)概念的探討，而且陸續(xù)開(kāi)始討論可解釋人工智能的類型、解釋程度、解釋范圍、分類依據(jù)等。

2016年以來(lái)，許多國(guó)家的人工智能主管部門(mén)將“可解釋”納入人工智能倫理的治理框架。從這個(gè)意義上講，人工智能的可信性、透明性、安全性等倫理要求，都能夠通過(guò)可解釋人工智能實(shí)現(xiàn)。自2019年以來(lái)，歐盟、聯(lián)合國(guó)等區(qū)域及國(guó)際組織紛紛出臺(tái)人工智能倫理相關(guān)文件，其中明確提及算法透明度和可解釋性是人工智能規(guī)范的重要原則和可信人工智能的核心要求。[21-22]2023年11月，全球人工智能安全峰會(huì)上28國(guó)共同簽署的《布萊切利公園宣言》[23]更是直擊人工智能治理要害，即人工智能泛在使用所帶來(lái)的人權(quán)、隱私、偏見(jiàn)、數(shù)據(jù)安全等風(fēng)險(xiǎn)，這些風(fēng)險(xiǎn)一部分來(lái)源于技術(shù)本身，包括其透明度、可解釋性、公平性等問(wèn)題，“以人為本、可信和可問(wèn)責(zé)”的人工智能是重點(diǎn)關(guān)注方向。由此，可信人工智能（Trustworthy AI）是人工智能社會(huì)化應(yīng)用的倫理框架，可問(wèn)責(zé)人工智能（Responsible AI）是人工智能泛在使用的監(jiān)管要求，二者的實(shí)現(xiàn)需要技術(shù)、制度、法律共同發(fā)力，而可解釋人工智能則是可信人工智能技術(shù)實(shí)現(xiàn)的關(guān)鍵步驟。隨著人工智能倫理漸入視野，各行業(yè)對(duì)可解釋人工智能的需求愈發(fā)強(qiáng)烈。目前，可解釋人工智能已經(jīng)開(kāi)始應(yīng)用于醫(yī)療、教育、交通、金融、軍事等多個(gè)領(lǐng)域。

可解釋人工智能是可信人工智能的技術(shù)實(shí)現(xiàn)方式，其核心在于對(duì)決策過(guò)程和決策結(jié)果的闡釋。需要指出的是，可解釋人工智能并非指單一技術(shù)，而是通過(guò)一系列流程和方法使用戶能夠理解并信任機(jī)器學(xué)習(xí)算法輸出結(jié)果的技術(shù)集合，包括代理模型（LIME，SHAP）、特征重要性評(píng)分、可視化技術(shù)、因果推斷、規(guī)則提取、透明度優(yōu)化等。這些技術(shù)可以根據(jù)不同的應(yīng)用場(chǎng)景，基于可解釋性程度和范圍等需求進(jìn)行選擇和組合，做出具有適應(yīng)性的技術(shù)部署。

2 可解釋人工智能應(yīng)用于檔案領(lǐng)域的必要性

2.1 “熱”人工智能下的“冷”思考：打破“黑箱”

單從技術(shù)起源來(lái)論，深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)是推動(dòng)人工智能發(fā)展的核心技術(shù)，而關(guān)于神經(jīng)網(wǎng)絡(luò)方面的研究可以追溯到幾十年前，因此，人工智能并非一項(xiàng)嶄新的技術(shù)。在2012年ImageNet大規(guī)模視覺(jué)識(shí)別挑戰(zhàn)賽（ILSVRC）中，一個(gè)使用卷積神經(jīng)網(wǎng)絡(luò)的系統(tǒng)在分類準(zhǔn)確率上以超越其他競(jìng)爭(zhēng)對(duì)手41%的成績(jī)勝出時(shí)，神經(jīng)網(wǎng)絡(luò)首次成為主流，深度學(xué)習(xí)開(kāi)始迅速發(fā)展。[24]此后數(shù)年，人工智能呈鼎沸發(fā)展態(tài)勢(shì)，掀起了各行業(yè)、全領(lǐng)域的應(yīng)用熱潮。這股人工智能“熱”不僅席卷行業(yè)，更是獲得了各國(guó)政府層面的大力支持。根據(jù)經(jīng)濟(jì)合作與發(fā)展組織人工智能論壇（OECD.AI）統(tǒng)計(jì)結(jié)果，截至2024年5月31日，全球共有69個(gè)國(guó)家、地區(qū)發(fā)布了超過(guò)1000項(xiàng)人工智能政策或倡議，其中有370項(xiàng)關(guān)于人工智能指導(dǎo)與監(jiān)管、705項(xiàng)關(guān)于人工智能治理、352項(xiàng)關(guān)于資金投入與財(cái)政支持等。[25]這股人工智能“熱”在各國(guó)戰(zhàn)略的加持下迅速蔓延到各個(gè)領(lǐng)域。

近年來(lái)，檔案領(lǐng)域應(yīng)用人工智能的熱度只增不減。各國(guó)檔案主管部門(mén)紛紛出臺(tái)政策或?qū)嵤叭斯ぶ悄?檔案”的項(xiàng)目。我國(guó)《“十四五”全國(guó)檔案事業(yè)發(fā)展規(guī)劃》明確指出“要積極探索人工智能技術(shù)在檔案信息深層加工和利用中的應(yīng)用，加強(qiáng)大數(shù)據(jù)、人工智能等新一代信息技術(shù)在數(shù)字檔案館（室）建設(shè)中的應(yīng)用，推動(dòng)數(shù)字檔案館（室）建設(shè)優(yōu)化升級(jí)”[26]。瑞典檔案管理者協(xié)會(huì)2024年6月發(fā)布了《檔案中的機(jī)器學(xué)習(xí)：深度索引為檔案利用服務(wù)》白皮書(shū)，從檔案利用的角度，以自動(dòng)深度索引為重點(diǎn)，總結(jié)了當(dāng)前數(shù)字技術(shù)環(huán)境下檔案管理實(shí)踐的機(jī)遇和風(fēng)險(xiǎn)，重點(diǎn)介紹了三種應(yīng)用環(huán)境：文本識(shí)別、文本語(yǔ)言處理（如自動(dòng)索引或聚類）以及電影、聲音或圖像索引。[27]綜合而言，國(guó)內(nèi)外檔案界正在積極探索并推進(jìn)人工智能在檔案領(lǐng)域的實(shí)踐，并產(chǎn)生了豐富的應(yīng)用場(chǎng)景。從主要功能來(lái)看，大概分為兩類：一類是應(yīng)用于檔案業(yè)務(wù)的具體環(huán)節(jié)，如分類[28-29]、鑒定[30-31]、檢索[32-34]、處理敏感信息[35-37]、內(nèi)容提取和編制索引[38-39]、修復(fù)[40]等；另一類是應(yīng)用于檔案信息服務(wù)，如智能檔案咨詢[41]、檔案文獻(xiàn)智能解讀[42]、檔案信息智能推送[43]等。在科研方面，國(guó)際文件管理領(lǐng)域歷時(shí)最久、涉及研究人員最多的國(guó)際合作項(xiàng)目InterPARES（電子系統(tǒng)中文件真實(shí)性永久保障）也將第五階段的項(xiàng)目命名為“Trust AI”。由此可見(jiàn)，人工智能在檔案領(lǐng)域受到了廣泛的關(guān)注。

然而，如此熱度之下也存在安全與倫理的隱患，人工智能發(fā)展及其所使用模型的不透明性日益增加，這個(gè)情況引起了產(chǎn)業(yè)界的關(guān)注，如過(guò)度強(qiáng)調(diào)智能化或個(gè)性化服務(wù)而忽視算法歧視、注重決策結(jié)果而疏于考慮因果相關(guān)性等。在此背景下，可解釋人工智能作為人工智能研究的新領(lǐng)域漸入學(xué)界的視野。在機(jī)器學(xué)習(xí)國(guó)際會(huì)議（2016）、神經(jīng)信息處理系統(tǒng)年度會(huì)議（2016）、神經(jīng)網(wǎng)絡(luò)國(guó)際聯(lián)合會(huì)議（2017）和人工智能國(guó)際聯(lián)合會(huì)議（2017）上，都舉行了關(guān)于可解釋人工智能的研討會(huì)。2019年，Rolan等對(duì)檔案館應(yīng)用的人工智能作了分類，主要包括基于規(guī)則的系統(tǒng)、基于統(tǒng)計(jì)模型的系統(tǒng)和基于深度學(xué)習(xí)的系統(tǒng)，該分類強(qiáng)調(diào)的一個(gè)重要變量是系統(tǒng)是否透明。[44]與基于規(guī)則的系統(tǒng)和基于統(tǒng)計(jì)模型的系統(tǒng)相比，基于深度學(xué)習(xí)模型的系統(tǒng)會(huì)產(chǎn)生難以解釋的“黑箱”?？山忉屓斯ぶ悄艿陌l(fā)展與應(yīng)用正是破解“黑箱”的重要工具?；诖?，可解釋人工智能是可靠人工智能、道德人工智能、安全人工智能的重要保障，凡是應(yīng)用人工智能技術(shù)的領(lǐng)域，都應(yīng)當(dāng)考慮其可解釋性和解釋力，檔案領(lǐng)域亦不例外。

2.2 檔案信任的雙重維度：制度與技術(shù)

數(shù)字環(huán)境下，維系社會(huì)信任并非易事。虛假信息、虛假新聞層出不窮，帶來(lái)了不容忽視的信任危機(jī)。檔案信任是社會(huì)信任的重要構(gòu)件，檔案和檔案機(jī)構(gòu)憑借其獨(dú)有的信任機(jī)制參與到社會(huì)信任治理之中。檔案信任是一個(gè)由制度信任和技術(shù)信任共同構(gòu)建的機(jī)制框架，制度信任是對(duì)規(guī)則體系與專家系統(tǒng)的信任，技術(shù)信任是因新一代數(shù)字技術(shù)應(yīng)用而出現(xiàn)的新形態(tài)。目前，該形態(tài)下的信任機(jī)制主要體現(xiàn)為通過(guò)技術(shù)確保文件檔案的“四性”，這種技術(shù)信任是“檔案用戶對(duì)技術(shù)進(jìn)步而產(chǎn)生的普遍信任”[45]。然而，隨著技術(shù)不斷成熟且廣泛應(yīng)用，技術(shù)本身的不確定性帶入應(yīng)用場(chǎng)域會(huì)引起新一輪信任機(jī)制的重構(gòu)。就人工智能而言，其面臨的技術(shù)超前而倫理滯后的現(xiàn)狀是難以突破的信任困境，這也是近年來(lái)國(guó)際和各國(guó)人工智能相關(guān)法規(guī)和標(biāo)準(zhǔn)出臺(tái)的重要?jiǎng)右?。有學(xué)者提出“唯有算法信任，才是信任機(jī)制的終結(jié)模式”[46]，而算法信任的核心在于其透明度是否足夠。無(wú)論在技術(shù)發(fā)展或是民主政治進(jìn)程中，透明度與信任都是高度綁定的兩個(gè)概念，透明是信任的必要前提，信任是透明的衍生條件。由此，對(duì)人工智能的技術(shù)信任更多取決于其算法的透明度，可解釋性與解釋力是算法透明的核心指標(biāo)，可解釋人工智能是建立可信人工智能的核心解決方案。

在人工智能倫理、安全、可問(wèn)責(zé)等要求的推動(dòng)下，檔案信任中的技術(shù)信任或?qū)膶?duì)技術(shù)的普遍信任轉(zhuǎn)變?yōu)樗惴ㄐ湃?。在檔案技術(shù)信任變遷的過(guò)渡期，檔案領(lǐng)域需要將目光投向可解釋人工智能。換句話說(shuō)，在人工智能廣泛應(yīng)用的技術(shù)背景下，實(shí)現(xiàn)檔案信任需要將可解釋人工智能引入檔案領(lǐng)域。如前所述，制度與技術(shù)是檔案信任的雙重維度。從制度信任來(lái)看，可解釋性之于人工智能正如可問(wèn)責(zé)性之于檔案管理，信任建立的核心在于對(duì)檔案自身屬性與管理合規(guī)性的認(rèn)可，即檔案本身具備解釋力（檔案是反映業(yè)務(wù)活動(dòng)情況的原始憑證），以及檔案管理能夠滿足可解釋性（檔案管理確保檔案的真實(shí)性、可靠性），這些認(rèn)可來(lái)源于悠久的檔案保管歷史傳統(tǒng)與科學(xué)規(guī)范的檔案管理制度。檔案機(jī)構(gòu)作為聯(lián)結(jié)政府與公眾以滿足社會(huì)問(wèn)責(zé)需求的中介，其公共服務(wù)屬性更是加固了檔案制度信任機(jī)制。從技術(shù)信任來(lái)看，檔案信任機(jī)制或?qū)⒂蔁o(wú)意識(shí)的普遍信任轉(zhuǎn)向有條件的算法信任，可解釋是衡量技術(shù)可信性的重要指標(biāo)。因此，無(wú)論是制度信任或技術(shù)信任，檔案領(lǐng)域應(yīng)用人工智能技術(shù)都需要將可解釋性與解釋力納入考量范圍。

3 可解釋人工智能應(yīng)用于檔案領(lǐng)域的可行性

3.1 技術(shù)可行性

可解釋人工智能技術(shù)的逐步成熟為其在檔案領(lǐng)域的應(yīng)用奠定了技術(shù)基礎(chǔ)。隨著人工智能廣泛應(yīng)用而帶來(lái)的信任危機(jī)、監(jiān)管缺位、算法歧視等問(wèn)題的出現(xiàn)，在技術(shù)層面應(yīng)對(duì)這些問(wèn)題的可解釋人工智能研究受到了廣泛關(guān)注，其在算法優(yōu)化、工具開(kāi)發(fā)方面取得了顯著進(jìn)展，并廣泛應(yīng)用于司法審判、醫(yī)療診斷、工業(yè)制造、礦產(chǎn)預(yù)測(cè)等行業(yè)領(lǐng)域。在算法優(yōu)化方面，相關(guān)研究以提高基礎(chǔ)大模型的可解釋性為目標(biāo)，揭示算法背后的邏輯和決策依據(jù)，取得了多項(xiàng)突破。這包括基于特定模型的解釋方法、事后解釋等關(guān)鍵技術(shù)，來(lái)減少模型的復(fù)雜性，優(yōu)化模型的解釋力，如基于決策樹(shù)、線性和邏輯回歸的簡(jiǎn)單模型保障算法透明度；LIME、SHAP等事后方法則可以在不修改原始模型的基礎(chǔ)上，對(duì)模型如何做出預(yù)測(cè)進(jìn)行解釋。[47]在工具開(kāi)發(fā)方面，可解釋人工智能領(lǐng)域已經(jīng)涌現(xiàn)出了一批高效、易用、功能強(qiáng)大的開(kāi)源工具，提供了生成解釋和可視化模型行為的接口，如美國(guó)KitWare公司的Xaitk-Saliency、微軟公司的InterpretML、IBM公司的aix360系統(tǒng)、Google公司的What-If工具等。[48]這些工具能夠幫助開(kāi)發(fā)人員實(shí)施XAI技術(shù)，揭示模型在不同輸入條件下的行為模式。

可解釋人工智能技術(shù)的核心優(yōu)勢(shì)在于，能夠解釋人工智能模型的決策過(guò)程并使其可視化，這使得復(fù)雜的人工智能模型不再是難以理解的“黑箱”，而是一個(gè)透明、可被追溯行為的系統(tǒng)。全球范圍內(nèi)已有多個(gè)項(xiàng)目驗(yàn)證了XAI技術(shù)的廣泛適用性。檔案領(lǐng)域也有探索，英國(guó)國(guó)家檔案館牽頭的Deep Discoveries項(xiàng)目應(yīng)用計(jì)算機(jī)視覺(jué)技術(shù)和深度學(xué)習(xí)模型，結(jié)合可解釋性方法開(kāi)發(fā)了跨檔案館的視覺(jué)搜索工具。這些工具利用視覺(jué)特征識(shí)別和模式匹配技術(shù)，實(shí)現(xiàn)了檔案圖像的自動(dòng)化分類與跨平臺(tái)搜索，下一階段將進(jìn)一步探索新的XAI技術(shù)，通過(guò)可視化工具（例如熱圖）來(lái)解釋每個(gè)搜索結(jié)果中哪些區(qū)域與查詢圖像相匹配，向用戶解釋模型的決策依據(jù)。[49]此外，斯科特·卡梅倫等根據(jù)可解釋人工智能領(lǐng)域的相關(guān)發(fā)展，設(shè)計(jì)出在檔案環(huán)境中的Paradata框架，在不同歸檔流程中記錄人工智能的應(yīng)用，以確保檔案管理可問(wèn)責(zé)。[50]Paradata被用來(lái)記錄和分析人工智能在檔案處理中的具體行為，使得這些行為能夠被有效地記錄和分析，包括人工智能在數(shù)據(jù)處理中的輸入、輸出以及決策背后的邏輯過(guò)程，這對(duì)于理解和評(píng)價(jià)人工智能在檔案管理中的角色定位、作用等至關(guān)重要。這些實(shí)踐案例表明，可解釋人工智能技術(shù)已初步具備在檔案領(lǐng)域應(yīng)用的技術(shù)環(huán)境。

3.2 政策可行性

目前國(guó)內(nèi)外眾多國(guó)家和地區(qū)出臺(tái)了一系列與人工智能可解釋性問(wèn)題相關(guān)的倫理原則和指南，為可解釋人工智能技術(shù)在檔案領(lǐng)域的應(yīng)用提供了政策支撐。在國(guó)際上，聯(lián)合國(guó)發(fā)布首份人工智能倫理全球協(xié)議《人工智能倫理建議書(shū)》，提出要提高AI系統(tǒng)在其整個(gè)生命周期中的可解釋性。[51]歐盟出臺(tái)的《通用數(shù)據(jù)保護(hù)條例》（GDPR）提到用戶在受算法決策影響后“獲得解釋的權(quán)利”，進(jìn)而減少由“黑箱”造成的侵犯用戶隱私等風(fēng)險(xiǎn)問(wèn)題。[52]2019年，歐盟發(fā)布的《可信任人工智能道德準(zhǔn)則》指出，可解釋性對(duì)于建立和維護(hù)用戶對(duì)人工智能系統(tǒng)的信任至關(guān)重要，并提出借助可解釋人工智能（XAI）來(lái)解決這一問(wèn)題，以便更好地理解系統(tǒng)的底層機(jī)制。[53]在國(guó)內(nèi)，我國(guó)政府高度重視人工智能的發(fā)展與治理，將其視為推動(dòng)數(shù)字經(jīng)濟(jì)發(fā)展的重要抓手。國(guó)務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》（2017年）指出要“重點(diǎn)突破自適應(yīng)學(xué)習(xí)、自主學(xué)習(xí)等理論方法，實(shí)現(xiàn)具備高可解釋性、強(qiáng)泛化能力的人工智能”。[54]中國(guó)信息通信研究院發(fā)布的《人工智能白皮書(shū)》（2022年）指出建立適當(dāng)?shù)目梢暬瘷C(jī)制嘗試評(píng)估和解釋模型的中間狀態(tài)、使用簡(jiǎn)單的可解釋模型等路徑來(lái)增強(qiáng)人工智能系統(tǒng)的可解釋性。[55]2023年12月，中國(guó)信息通信研究院發(fā)布的《人工智能倫理治理研究報(bào)告（2023年）》認(rèn)為，生成式人工智能技術(shù)引發(fā)了偏見(jiàn)歧視、隱私侵犯、責(zé)任不明等倫理問(wèn)題，有待強(qiáng)化生成式人工智能技術(shù)的可解釋性和可信任性。[56]人工智能的倫理和治理框架為可解釋人工智能技術(shù)在檔案領(lǐng)域的應(yīng)用提供了政策保障，尤其在保障公共數(shù)據(jù)隱私和提升檔案系統(tǒng)透明度方面具有重要指導(dǎo)意義。在人工智能治理的政策框架內(nèi)，檔案管理的服務(wù)性決定了可解釋人工智能技術(shù)的應(yīng)用空間，檔案管理對(duì)象的公共性確保了可解釋人工智能技術(shù)的應(yīng)用價(jià)值。

4 可解釋人工智能應(yīng)用場(chǎng)景展望

4.1 數(shù)據(jù)驅(qū)動(dòng)模式下的檔案資政

檔案資政是指在充分開(kāi)發(fā)檔案信息的前提下，利用所開(kāi)發(fā)的檔案信息成果服務(wù)政府部門(mén)、輔助政府部門(mén)決策的過(guò)程。[57]隨著新一代信息技術(shù)的發(fā)展，人工智能廣泛應(yīng)用于檔案信息的分析和決策支持。這些決策可能涉及復(fù)雜的社會(huì)經(jīng)濟(jì)問(wèn)題和廣泛的利益相關(guān)者，如何確保人工智能輔助決策的可解釋性是實(shí)現(xiàn)科學(xué)決策、增進(jìn)公眾信任的關(guān)鍵?？蓮娜斯ぶ悄芸山忉屝缘男纬蛇壿嫵霭l(fā)，從“為什么解釋”“向誰(shuí)解釋”“怎么解釋”[58]三個(gè)方面展望可解釋人工智能在檔案資政服務(wù)領(lǐng)域的應(yīng)用。

《“十四五”全國(guó)檔案事業(yè)發(fā)展規(guī)劃》強(qiáng)調(diào)，提升檔案資政服務(wù)能力是檔案事業(yè)發(fā)展的重要目標(biāo)。[59]檔案資政所涉及的決策范圍包括政策制定、社會(huì)發(fā)展規(guī)劃、資源配置等關(guān)系國(guó)計(jì)民生、政府治理等關(guān)鍵領(lǐng)域，其廣泛且深入的影響力對(duì)決策的可問(wèn)責(zé)性提出了極高要求。因此，人工智能在檔案資政中的應(yīng)用需要具備高水平的可解釋性，才能夠保證決策者能夠理解和信任系統(tǒng)的輸出，并向公眾提供決策說(shuō)明。無(wú)論是對(duì)決策過(guò)程的合理性、合規(guī)性，還是對(duì)外部利益的考量，可解釋人工智能都是確保決策透明、可追溯的重要手段。在檔案資政中引入可解釋人工智能，決策者能夠理解決策的背景和邏輯，進(jìn)而確保決策過(guò)程的合理性和科學(xué)性，避免“黑箱”效應(yīng)產(chǎn)生的負(fù)面影響。

為了保證人工智能決策的透明性，要根據(jù)不同的目標(biāo)人群來(lái)調(diào)整解釋的焦點(diǎn)。[60]檔案資政的決策涉及多個(gè)利益相關(guān)方：一是檔案機(jī)構(gòu)，即決策資源提供方，利用人工智能分析公共決策需求，有效配置檔案資政服務(wù)資源。二是政府部門(mén)，即決策主體，需要理解人工智能如何分析檔案數(shù)據(jù)以及決策的邏輯，以確保模型的預(yù)測(cè)和決策符合社會(huì)的整體利益。三是企事業(yè)單位與社會(huì)公眾，即決策直接受益者或受影響者，作為社會(huì)參與的實(shí)體對(duì)決策制定過(guò)程與依據(jù)有迫切需求。四是人工智能研究者和專家，即決策技術(shù)提供方，可能會(huì)需要了解算法運(yùn)行過(guò)程，幫助優(yōu)化系統(tǒng)的應(yīng)用效果。需要指出的是，隨著公民權(quán)利意識(shí)在數(shù)字環(huán)境下不斷強(qiáng)化，公眾作為受決策直接影響的群體，對(duì)于決策背后的依據(jù)和邏輯解釋有更為迫切的現(xiàn)實(shí)需求。在這種多方利益的平衡與博弈中，人工智能應(yīng)用于檔案資政所產(chǎn)生的決策成果需要對(duì)利益相關(guān)方和公眾提供必要的解釋，以提升決策透明度，確保可問(wèn)責(zé)性。

根據(jù)算法解釋對(duì)象的不同，可解釋人工智能分為局部解釋（以主題為中心的解釋）和全局解釋（以模型為中心的解釋）。[61]局部解釋聚焦某一主題的決策過(guò)程，幫助理解模型為什么做出某個(gè)特定區(qū)域的判斷或預(yù)測(cè)。在人工智能技術(shù)應(yīng)用于檔案資政的過(guò)程中，可能會(huì)抽取不同檔案資料對(duì)決策提出建議，局部解釋可以揭示哪些特定數(shù)據(jù)或檔案信息對(duì)結(jié)果產(chǎn)生了影響并給出影響力賦值。對(duì)于政策制定者而言，局部解釋能夠幫助他們理解每個(gè)決策背后的具體依據(jù)、是否符合實(shí)際情況，以及該決策能否達(dá)到預(yù)期的效果。全局解釋則聚焦整體模型的行為和規(guī)律，展示模型如何整體運(yùn)作以及如何根據(jù)數(shù)據(jù)做出決策。人工智能基于檔案信息輔助分析政策的長(zhǎng)期影響，展示不同檔案數(shù)據(jù)對(duì)預(yù)測(cè)結(jié)果的影響程度。全局解釋有助于政策制定者把握模型如何根據(jù)不同時(shí)間段的數(shù)據(jù)變化來(lái)預(yù)測(cè)政策的效果，避免過(guò)度依賴個(gè)別數(shù)據(jù)。

4.2 可問(wèn)責(zé)的檔案開(kāi)放審核

檔案開(kāi)放審核是檔案開(kāi)放利用的前置機(jī)制，也是實(shí)現(xiàn)檔案價(jià)值的關(guān)鍵環(huán)節(jié)。[62]隨著信息技術(shù)的快速發(fā)展，不少檔案部門(mén)開(kāi)始利用人工智能輔助檔案開(kāi)放審核工作。而目前基于深度學(xué)習(xí)的人工智能模型，其決策過(guò)程多基于大規(guī)模數(shù)據(jù)集的模式識(shí)別，而非依賴明確的規(guī)則或邏輯推理，其決策機(jī)制不能為用戶所理解[63]，這種“AI黑箱”使得智能開(kāi)放審核結(jié)果的可信度存疑。而可解釋人工智能具備一定的解釋能力，在檔案開(kāi)放審核中具有廣泛的應(yīng)用前景，能夠有效提升審核過(guò)程的透明度，進(jìn)而增強(qiáng)利益相關(guān)方對(duì)于審核結(jié)果的信任度。

在技術(shù)實(shí)現(xiàn)方面，可解釋人工智能可以輔助設(shè)計(jì)和檢驗(yàn)檔案開(kāi)放審核模型，利用機(jī)器學(xué)習(xí)算法對(duì)檔案內(nèi)容進(jìn)行分類、標(biāo)注和敏感性分析。通過(guò)人工智能模型的應(yīng)用，審核人員能夠快速識(shí)別出檔案中可能存在的敏感信息、歷史遺留問(wèn)題或合規(guī)性隱患，從而提高審核的效率和準(zhǔn)確性。這一過(guò)程中，可解釋人工智能可以揭示模型的判斷依據(jù)和決策路徑，幫助審核人員理解模型的決策過(guò)程，驗(yàn)證審核結(jié)果是否符合實(shí)際情況，并在必要時(shí)進(jìn)行一定的人工干預(yù)，以應(yīng)對(duì)復(fù)雜多變的檔案開(kāi)放審核工作任務(wù)。[64]可解釋人工智能使得檔案開(kāi)放審核模型的輸出不僅是一個(gè)結(jié)果，而是可以被用戶理解的一個(gè)過(guò)程。通過(guò)對(duì)數(shù)據(jù)和決策過(guò)程的全面審查，確保檔案開(kāi)放審核模型的結(jié)果符合預(yù)定的規(guī)則和倫理標(biāo)準(zhǔn)。

在實(shí)踐認(rèn)知方面，可解釋人工智能可以輔助審核人員理解系統(tǒng)。從這一層面上看，系統(tǒng)不僅是進(jìn)行單個(gè)任務(wù)的決策，還需要提供對(duì)整個(gè)過(guò)程的輔助解釋，包括關(guān)于輸入特征、模型行為以及決策邏輯的詳細(xì)說(shuō)明，幫助審核人員做出更加合理的判斷。此外，可解釋人工智能可以基于檔案信息的公共價(jià)值、社會(huì)影響等維度，自動(dòng)計(jì)算檔案開(kāi)放的合規(guī)性評(píng)分，并在此基礎(chǔ)上有效支持智能審核的決策過(guò)程，提高審核質(zhì)量。通過(guò)可解釋的人工智能模型，審核人員可以更全面地掌握檔案背后的歷史信息和涉及個(gè)人數(shù)據(jù)隱私等問(wèn)題，避免開(kāi)放不當(dāng)或遺漏重要檔案。

可解釋人工智能的應(yīng)用將使檔案開(kāi)放審核不再局限于單一主題，而是在更廣泛的框架內(nèi)提供全局性審核決策支持。人工智能模型基于歷史背景、數(shù)據(jù)價(jià)值、公共需求等多個(gè)因素來(lái)分析海量的檔案信息，為決策者提供檔案開(kāi)放審核的戰(zhàn)略性建議。全局解釋可以幫助決策者理解決策結(jié)果如何影響整個(gè)檔案開(kāi)放政策的實(shí)施，提供長(zhǎng)遠(yuǎn)的戰(zhàn)略思考。此外，可解釋人工智能可以為監(jiān)管機(jī)構(gòu)、行業(yè)專家以及政策制定者提供強(qiáng)有力的支持，幫助他們更好地理解和評(píng)估大規(guī)模的檔案數(shù)據(jù)集，及時(shí)發(fā)現(xiàn)審核決策的潛在問(wèn)題、風(fēng)險(xiǎn)或合規(guī)性問(wèn)題。基于可解釋人工智能的檔案開(kāi)放審核工作模式能夠有效減少智能決策的錯(cuò)誤和偏差，實(shí)現(xiàn)檔案開(kāi)放與隱私信息保護(hù)之間的動(dòng)態(tài)平衡。

4.3 符合倫理規(guī)范的檔案數(shù)據(jù)治理

隨著數(shù)字技術(shù)的快速發(fā)展、數(shù)據(jù)價(jià)值不斷凸顯，檔案數(shù)據(jù)治理逐漸成為檔案學(xué)界與業(yè)界的重點(diǎn)關(guān)注領(lǐng)域。在數(shù)字治理環(huán)境下，數(shù)據(jù)量的激增以及數(shù)據(jù)權(quán)屬、數(shù)據(jù)壁壘、數(shù)據(jù)倫理等問(wèn)題越發(fā)突出[65]，如何高效且合規(guī)地管控?cái)?shù)據(jù)、釋放數(shù)據(jù)要素價(jià)值潛能已然成為亟須解決的問(wèn)題。檔案數(shù)據(jù)治理面臨同樣的挑戰(zhàn)：如何完成檔案數(shù)據(jù)資源化、資本化、資產(chǎn)化的路徑轉(zhuǎn)換，即通過(guò)變現(xiàn)實(shí)現(xiàn)檔案數(shù)據(jù)的市場(chǎng)價(jià)值，以及怎樣推動(dòng)檔案數(shù)據(jù)賦能社會(huì)治理，即通過(guò)參與治理實(shí)現(xiàn)檔案數(shù)據(jù)的公共價(jià)值?？山忉屓斯ぶ悄茉跈n案數(shù)據(jù)治理中具有廣泛的應(yīng)用前景，在檔案數(shù)據(jù)治理的決策制定、流程優(yōu)化和場(chǎng)域重塑中都可以發(fā)揮作用，從而有效提高檔案數(shù)據(jù)治理的效率，并確保治理透明及合規(guī)。

在檔案數(shù)據(jù)治理決策制定方面，可解釋人工智能在技術(shù)上確保決策過(guò)程的透明與可問(wèn)責(zé)。數(shù)智時(shí)代的檔案數(shù)據(jù)治理是一個(gè)人智協(xié)同發(fā)展的決策系統(tǒng)，可解釋人工智能的嵌入可以揭示AI模型的決策邏輯和過(guò)程，幫助決策者理解輸入與輸出的因果關(guān)系，從而理解決策過(guò)程并進(jìn)一步優(yōu)化決策內(nèi)容。例如，通過(guò)引入全局解釋方法，決策者可以洞察人工智能如何優(yōu)化整個(gè)檔案數(shù)據(jù)治理流程，包括如何選擇最合適的檔案數(shù)據(jù)存儲(chǔ)方案、設(shè)置檔案數(shù)據(jù)訪問(wèn)權(quán)限、制定檔案數(shù)據(jù)共享策略等。可解釋人工智能不僅為決策者提供切實(shí)可行的、具有前瞻性的決策支持，還幫助其預(yù)測(cè)不同治理策略的長(zhǎng)期效果與潛在風(fēng)險(xiǎn)，確保檔案數(shù)據(jù)治理結(jié)果的合理性與可持續(xù)性。

在檔案數(shù)據(jù)治理流程優(yōu)化方面，可解釋人工智能的嵌入能夠形成關(guān)于數(shù)據(jù)處理環(huán)境的解釋框架。內(nèi)容、背景、結(jié)構(gòu)是確保檔案“四性”的核心維度，也是檔案數(shù)據(jù)區(qū)別于其他數(shù)據(jù)的重要特征，更是文件檔案管理領(lǐng)域的前端控制與全程管理理論的邏輯起點(diǎn)。與非檔案數(shù)據(jù)相比，檔案數(shù)據(jù)質(zhì)量不僅體現(xiàn)在技術(shù)可用性上，更多的是法律憑證效力，因此檔案數(shù)據(jù)的生成與利用對(duì)前端業(yè)務(wù)環(huán)境與數(shù)據(jù)管理流程有更高的要求。數(shù)字時(shí)代的業(yè)務(wù)環(huán)境下，人工智能被廣泛應(yīng)用于各類業(yè)務(wù)活動(dòng)中，就數(shù)據(jù)處理方面而言，最為普遍的用法是通過(guò)語(yǔ)義識(shí)別等技術(shù)分析數(shù)據(jù)，識(shí)別其中的錯(cuò)誤、冗余信息，并進(jìn)行相應(yīng)的清理、優(yōu)化。這一過(guò)程中，應(yīng)用可解釋人工智能技術(shù)可以幫助管理人員透視數(shù)據(jù)清洗過(guò)程并掌握判斷依據(jù)。這種可解釋性能夠展示模型對(duì)每一條數(shù)據(jù)的處理行為，并揭示出背后的邏輯和規(guī)則。通過(guò)這種方式可以形成關(guān)于數(shù)據(jù)處理環(huán)境的解釋框架，有效避免人工智能對(duì)數(shù)據(jù)的“黑箱操作”，確保數(shù)據(jù)處理過(guò)程的可問(wèn)責(zé)性，進(jìn)而保障檔案數(shù)據(jù)的質(zhì)量與合規(guī)性。

在檔案數(shù)據(jù)治理場(chǎng)域重塑方面，可解釋人工智能的應(yīng)用能夠拓展檔案數(shù)據(jù)的價(jià)值發(fā)揮空間。檔案數(shù)據(jù)往往涉及大量個(gè)人信息或隱私數(shù)據(jù)，然而，參與治理的檔案數(shù)據(jù)則需要隱匿其中的私人和秘密屬性，使其公共性最大化。換句話說(shuō)，參與治理的數(shù)據(jù)公共性與檔案數(shù)據(jù)私密性之間的矛盾，即數(shù)據(jù)安全與隱私保護(hù)成為制約檔案數(shù)據(jù)價(jià)值發(fā)揮的重要因素，導(dǎo)致檔案數(shù)據(jù)治理場(chǎng)域并未延展至更廣闊的社會(huì)公共空間。人工智能模型可以通過(guò)隱私保護(hù)算法對(duì)敏感數(shù)據(jù)進(jìn)行匿名化處理，防止在利用數(shù)據(jù)的過(guò)程中泄露隱私。在此過(guò)程中，應(yīng)用可解釋人工智能技術(shù)可以說(shuō)明算法如何對(duì)檔案數(shù)據(jù)進(jìn)行隱私保護(hù)的操作，以確保利益相關(guān)方能夠理解和信任檔案數(shù)據(jù)保護(hù)的處理方式。可解釋人工智能技術(shù)的應(yīng)用在提升檔案數(shù)據(jù)處理效率的基礎(chǔ)上，加強(qiáng)對(duì)檔案數(shù)據(jù)安全的監(jiān)管與審查，進(jìn)而在合法合規(guī)的框架下充分挖掘檔案信息資源以釋放數(shù)據(jù)價(jià)值。

5 結(jié) 語(yǔ)

處于泛人工智能時(shí)代的人們浸染在大語(yǔ)言模型所營(yíng)造的信息世界中，經(jīng)過(guò)精心制作的真假信息突破個(gè)人知識(shí)盲區(qū)進(jìn)入學(xué)習(xí)范疇，作為學(xué)習(xí)內(nèi)容的假信息經(jīng)過(guò)公開(kāi)渠道反饋后又被新的大語(yǔ)言模型所采用，成為規(guī)劃、決策、投票的新基礎(chǔ)。在熱衷于推崇人工智能技術(shù)應(yīng)用的社會(huì)環(huán)境中，算法之下的數(shù)據(jù)失控、信息繭房等問(wèn)題[66]往往會(huì)被忽視。正如梅宏院士在以“跨越邊界的科技倫理”為主題的第二屆中國(guó)科技倫理高峰論壇上的發(fā)言：“人工智能泡沫太大，喧囂埋沒(méi)理性，需要一個(gè)冷靜期?！盵67]類似的反思促使各國(guó)陸續(xù)關(guān)注人工智能倫理、風(fēng)險(xiǎn)等與治理相關(guān)的議題并制定相應(yīng)政策與白皮書(shū)。與這些制度相對(duì)應(yīng)，可解釋人工智能作為重要的技術(shù)治理工具也逐漸被應(yīng)用于若干領(lǐng)域。本研究從算法信任、社會(huì)透明度等倫理角度展開(kāi)檔案領(lǐng)域應(yīng)用人工智能的思考，在技術(shù)主導(dǎo)的實(shí)踐趨勢(shì)中嘗試引入可解釋人工智能技術(shù)，探討其應(yīng)用于檔案領(lǐng)域的理論基礎(chǔ)及可行場(chǎng)景，旨在拓展倫理視閾下檔案領(lǐng)域應(yīng)用人工智能技術(shù)的新視角。

*本文系國(guó)家社科基金青年項(xiàng)目“面向數(shù)字政府建設(shè)的數(shù)字檔案資源優(yōu)化配置研究”（項(xiàng)目編號(hào)：23CTQ033）階段性研究成果。

作者貢獻(xiàn)說(shuō)明

李思藝：確定論文框架，撰寫(xiě)、修改與審定論文；王振杰：案例收集；陳子憶：撰寫(xiě)與修改論文。

注釋與參考文獻(xiàn)

[1][12]潘未梅，馬林青.國(guó)際檔案領(lǐng)域人工智能研究進(jìn)展分析及啟示[J].浙江檔案，2024（4）：21-27.

[2][11]程妍妍，宋瑩，鄭伽.國(guó)外檔案工作與人工智能：潛力和挑戰(zhàn)[J].中國(guó)檔案，2022（8）：78-80.

[3]代林序，張玉潔.機(jī)器學(xué)習(xí)在檔案管理中的應(yīng)用與挑戰(zhàn)——基于新南威爾士州檔案館機(jī)器學(xué)習(xí)實(shí)驗(yàn)的調(diào)查與啟示[J].檔案與建設(shè)，2021（5）：42-47.

[4]ISACA.Using the Digital Trust Ecosystem Framework to Achieve Trustworthy Al[EB/OL].[2024-06-07].https：//www.isaca.org/resources/ white-papers/2024/using-dtef-to-achievetrustworthy-ai.

[5]黃霄羽，管清瀠.新聞視角評(píng)析近期國(guó)外檔案工作技術(shù)應(yīng)用的特點(diǎn)[J].中國(guó)檔案，2018（7）：71-73.

[6]蘇玉文.1991年度國(guó)家檔案局科技進(jìn)步獎(jiǎng)評(píng)審揭曉[J].檔案工作，1992（1）：12.

[7]陳會(huì)明，史愛(ài)麗，王寧，等.人工智能在檔案工作中的應(yīng)用實(shí)踐與挑戰(zhàn)——以北京市市場(chǎng)監(jiān)督管理局為例[J].檔案與建設(shè)，2019（7）：53-56.

[8]提升檔案信息化發(fā)展水平實(shí)現(xiàn)遠(yuǎn)程利用社會(huì)共享——河南省數(shù)字檔案館建設(shè)概述[EB/OL].[2024-06-07].https：//www.saac.gov.cn/daj/c100226/ 202006/6d0ad86e8a4443e187bbe67908b4ffab.shtml.

[9]云南稅務(wù)征管電子文件單套制歸檔試點(diǎn)通過(guò)驗(yàn)收[EB/OL].[2024-06-07].https//www.saac. gov.cn/daj/c100262/202110/4528cbde36e24bea88ce4 57bfb8bae21.shtml.

[10][28]陳功娥.人工智能技術(shù)在檔案管理中的應(yīng)用與實(shí)踐[J].四川檔案，2022（3）：26-28.

[13]白銀.檔案數(shù)字化轉(zhuǎn)型中隱私保護(hù)的理論優(yōu)化與制度完善[J].檔案學(xué)通訊，2024（3）：19-28.

[14]陳曉婷，徐擁軍，胡嘯林.人工智能時(shí)代下檔案工作的變革：機(jī)遇、挑戰(zhàn)與應(yīng)對(duì)策略[J].檔案學(xué)研究，2024（5）：4-13.

[15]Swartout W.XPLAIN：A System for Creating and Explaining Expert Consulting Programs[J]. Artificial Intelligence，1993，21（3）：285-325.

[16]Garson G D.Interpreting neural network connection weights[J].AI Expert，1991，6（4）：46-51.

[17]Southwick R.Explaining Reasoning：An Overview of Explanation in Knowledge-Based Systems[J].Knowledge Engineering Review，1991，6（1）：1-19.

[18]VanLent M，F(xiàn)isher W，Mancuso M.An explainable artificial intelligence system for small-unit tactical behavior[C]//Proceedings of 16th Conference on Innovative Applications of Artificial Intelligence. AAAIPress，2004：900-907.

[19]Gunning D，Aha D W.DARPA’s explainable artificial intelligence program[J].AI Magazine，2019，40（2）：44-58.

[20]人工智能的倫理問(wèn)題與治理原則[EB/ OL].[2024-06-07].https：//www.sohu.com/ a/347442962_468638.

[21][51]UNESCO.Recommendation on the Ethics of Artificial Intelligence[EB/OL].[2024-06-07]. https：//www.unesco.org/en/articles/recommendationethics-artificial-intelligence.

[22]The White House.Executive Order on the Safe，Secure，and Trustworthy Development and Use of Artificial Intelligence[EB/OL].[2024-06-07].https：//www.whitehouse.gov/briefing-room/ presidential-actions/2023/10/30/executive-order-onthe-safe-secure-and-trustworthy-development-anduse-of-artificial-intelligence/.

[23]AI Safety Summit.The Bletchley Declaration by Countries Attending the AI Safety Summit[EB/ OL].[2024-06-07].https：//www.gov.uk/ government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declarationby-countries-attending-the-ai-safety-summit-1-2-november-2023.

[24]Krizhevsky A，Sutskever I，Hinton G.ImageNet Classification with Deep Convolutional Neural Networks[J].Communications of the ACM，2017，60（6）：84-90..

[25]OECD.AI.Policies，data and analysis for trustworthy artificial intelligence[EB/OL].[2024-06-07].https：//oecd.ai/en/.

[26][59]中辦國(guó)辦印發(fā)《“十四五”全國(guó)檔案事業(yè)發(fā)展規(guī)劃》[EB/OL].[2024-06-07].https：//www. saac.gov.cn/daj/yaow/202106/899650c1b1ec4c0e9ad3c2 ca7310eca4.shtml.

[27]VSA-AAS.Machine learning in the archive：depth indexing in the service of access to archives[EB/ OL].[2024-06-07].https：//vsa-aas.ch/wpcontent/uploads/2024/08/MachineLearning_im_Archiv_ Whitepaper_2024-08-08_en.pdf.

[29]Vellino A，Alberts I.Assisting the appraisal of e-mail records with automatic classification[J].Records management journal，2016，26（3）：293-313.

[30]曲晶瑤.人工智能在我國(guó)檔案領(lǐng)域的應(yīng)用實(shí)踐落地研究[J].黑龍江檔案，2021（2）：52-53.

[31]Lee C A.Computer-Assisted Appraisal and Selection of Archival Materials[C]//2018 IEEE International Conference on Big Data （Big Data）.IEEE，2018：2721-2724.

[32]陳會(huì)明，史愛(ài)麗，王寧，等.人工智能技術(shù)在檔案工作中的應(yīng)用與發(fā)展芻議[J].中國(guó)檔案，2020（3）：72-74.

[33]陳亮.人工智能技術(shù)在智慧檔案館建設(shè)中的應(yīng)用初探——以太倉(cāng)市檔案館為例[J].檔案與建設(shè)，2016（7）：80-82.

[34]Lee B C G.Machine learning，template matching，and the International Tracing Service digital archive：Automating the retrieval of death certificate reference cards from 40 million document scans[J]. Digital Scholarship in the Humanities，2019，34（3）：513–535.

[35]Schneider J，Adams C，Debauche S，et al.Appraising，processing，and providing access to email in contemporary literary archives[J].Archives and manuscripts，2019，47（3）：305-326.

[36]Souza R R，Coelho F C，Shah R，et al.Using Artificial Intelligence to Identify State Secrets[EB/OL].[2024-10-22].https：//arxiv.org/abs/1611.00356.

[37]Hutchinson T.Protecting Privacy in the Archives：Supervised Machine Learning and BornDigital Records[C]//2018 IEEE International Conference on Big Data（Big Data）.IEEE，2018：2696-2701.

[38]Binmakhashen G M，Mahmoud S A.Document Layout Analysis： A Comprehensive Survey[J].ACM Computing Surveys，2019，52（6）：1-36.

[39]Muehlberger G，Seaward L，Terras M，et al.Transforming Scholarship in the Archives Through Handwritten Text Recognition： Transkribus as a Case Study[J].Journal of Documentation，2019，75（5）：954-976.

[40]周子晴.人工智能視域下影音檔案修復(fù)與傳播路徑探討——以百年前北京影像修復(fù)為例[J].北京檔案，2021（6）：28-30.

[41]何文麗.人工智能背景下檔案信息服務(wù)的應(yīng)用研究[J].黑龍江檔案，2021（2）：30-31.

[42]劉珂.人工智能在檔案管理中的應(yīng)用探析[J].蘭臺(tái)世界，2019（2）：19-23.

[43]胡國(guó)強(qiáng)，楊彥榮，李高峰.基于信息鏈角度分析人工智能在檔案館的應(yīng)用前景[J].北京檔案，2019（2）：34-36.

[44]Rolan G，Humphries G，Jeffrey L，et al.More human than human Artificial intelligence in the archive[J]. Archives and Manuscripts，2019，47（2）：179-203.

[45]于英香，張期勇.從制度信任到技術(shù)信任：檔案信任機(jī)制的變遷與發(fā)展[J].浙江檔案，2022（12）：30-33.

[46]郭彬，于飛，陳勁.區(qū)塊鏈技術(shù)與信任世界的構(gòu)建[J].企業(yè)管理，2016（11）：110-113.

[47]廖勇，韓小金，劉金林，等.可解釋性人工智能研究進(jìn)展[J/OL].計(jì)算機(jī)工程，1-28[2024-11-26].https：//doi.org/10.19678/j.issn.1000-3428.0069925.

[48]王梓屹，簡(jiǎn)萌，李彬，等.2023年可解釋人工智能技術(shù)主要發(fā)展動(dòng)向分析[J].無(wú)人系統(tǒng)技術(shù)，2024（2）：113-120.

[40]Lora Angelova，The National Archives，UK.Deep Discoveries[EB/OL].[2024-11-26]. https：//www.nationalcollection.org.uk/FoundationProjects.

[50]Cameron S，F(xiàn)ranks P，Hamidzadeh B.Positioning Paradata：A Conceptual Frame for AI Processual Documentation in Archives and Recordkeeping Contexts[J].ACM Journal on Computing and Cultural Heritage，2023，16（4）：1-19.

[52]European Union.General Data Protection Regulation[EB/OL].[2024-11-26].https：//gdprinfo.eu/.

[53]The High-Level Expert Group on AI.Ethics guidelines for trustworthy AI[EB/OL].[2024-11-26]. https：//ec.europa.eu/digital-single-market/en/news/ ethics-guidelines-trustworthy-ai.

[54]國(guó)務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知[EB/OL].[2024-11-26].https：//www.gov. cn/zhengce/zhengceku/2017-07/20/content_5211996. htm.

[55]人工智能白皮書(shū)（2022年）[EB/OL].[2024-11-26].https：//www.scdsjzx.cn/scdsjzx/ ziliaoxiazai/2022/4/18/d03a2d33b67d4c398ddfca504cf41 0ab/files/43b00b8feccd423ea2e2a4014e9d672a.pdf.

[56]中國(guó)信息通信研究院.人工智能倫理治理研究報(bào)告（2023年）[EB/OL].[2024-11-26]. http：//www.caict.ac.cn/kxyj/qwfb/ztbg/202312/ P020240103531660935078.pdf.

[57]牛力，王鈺涵.面向政府的檔案信息資源開(kāi)發(fā)利用研究綜述[J].檔案學(xué)研究，2016（2）：60-66.

[58][60]呂雯瑜，曹康康.走向道德人工智能（AI）——賦予人工智能系統(tǒng)道德人格和構(gòu)建可解釋人工智能[J].學(xué)術(shù)探索，2023（12）：24-34.

[61]楊志航.算法透明實(shí)現(xiàn)的另一種可能：可解釋人工智能[J].行政法學(xué)研究，2024（3）：154-163.

[62]劉子聰.《中華人民共和國(guó)檔案法實(shí)施條例》的功能定位、缺憾檢視與優(yōu)化路徑[J].檔案學(xué)研究，2024（5）：64-70.

[63]VON ESCHENBACH W J.Transparency and the black box problem： Why we do not trust AI[J]. PhilosophyTechnology，2021，34（4）：1607-1622.

[64]劉越男，張茜雅，楊建梁.大語(yǔ)言模型在檔案開(kāi)放審核中的應(yīng)用框架與路徑探究[J/OL].檔案學(xué)通訊，1-15[2024-11-28].https：//doi.org/10.16113/ j.cnki.daxtx.20240923.001.

[65]金波，楊鵬.檔案數(shù)據(jù)治理賦能的思維意象與行動(dòng)具象[J].檔案學(xué)研究，2024（3）：4-12.

[66]王敏芝.算法之下：“透明社會(huì)”的技術(shù)與觀念[J].探索與爭(zhēng)鳴，2021（3）：29-31.

[67]第二屆中國(guó)科技倫理高峰論壇舉辦[EB/ OL].[2024-11-26].https：//news.sciencenet.cn/ sbhtmlnews/2024/11/382150.shtm.

（責(zé)任編輯：馮婧愷 張 帆）