岳幸暉 楊智勇

（上海大學文化遺產(chǎn)與信息管理學院，上海，200444）

當下，人工智能正加速與經(jīng)濟社會各行各業(yè)深度融合，檔案行業(yè)也概莫能外?！丁笆奈濉比珖鴻n案事業(yè)發(fā)展規(guī)劃》明確指出“加強大數(shù)據(jù)、人工智能等新一代信息技術(shù)在數(shù)字檔案館（室）建設(shè)中的應用，推動數(shù)字檔案館（室）建設(shè)優(yōu)化升級”[1］；2023年度國家檔案局擬立項的科技項目中涉及人工智能的多達28個[2］。與其他信息技術(shù)相比，人工智能的特殊性主要體現(xiàn)在其具有生物智能的自學習、自組織、自適應、自行動等特征[3］，借助數(shù)據(jù)、算力和算法來模仿人類認知過程和思維能力，在面臨復雜且多樣的檔案管理場景時能夠自主學習和適應，進而做出最優(yōu)選擇。目前，人工智能在檔案管理中的應用這一主題已引起國內(nèi)外學者的廣泛關(guān)注，相關(guān)研究主要集中于三個維度：一是從宏觀層面探討人工智能應用于檔案管理的影響，如人工智能的方法與技術(shù)將推動檔案管理理論創(chuàng)新、檔案管理實踐優(yōu)化、檔案管理人員角色轉(zhuǎn)變等[4-5］；二是從中觀層面分析人工智能嵌入檔案管理的具體環(huán)節(jié)；[6］三是從微觀層面剖析人工智能中的某一類技術(shù)如何應用于檔案管理，如機器學習[7］、ChatGPT[8］、圖像和語音識別[9］等。

總體而言，上述研究表明人工智能在檔案管理領(lǐng)域已得到一定的發(fā)展與應用，但現(xiàn)有文獻對人工智能可能給檔案管理帶來的風險鮮有提及?；诖耍疚穆淠_于中觀層面，系統(tǒng)分析人工智能在檔案管理中的應用現(xiàn)狀，深入探討檔案管理應用人工智能技術(shù)所面臨的潛在風險，并提出風險的防范策略，以期提高檔案管理智能化、科學化水平，助力檔案工作智慧化轉(zhuǎn)型升級。

1 人工智能在檔案管理中的應用圖景

人工智能的主要技術(shù)領(lǐng)域包括：計算機視覺、自然語言處理、機器學習、智能機器人、模式識別等[10］，這些技術(shù)目前在檔案“收管存用”的具體環(huán)節(jié)中已實現(xiàn)不同程度的探索應用，切實提高了檔案管理的效率與水平。未來，利用人工智能逐步實現(xiàn)檔案管理全流程智能化將成為實踐發(fā)展的重要方向。

1.1 電子文件歸檔

大數(shù)據(jù)時代，各類電子文件指數(shù)級增長，迫切需要信息技術(shù)的嵌入來滿足電子文件的歸檔要求，而人工智能可介入電子文件前端控制，提高電子文件歸檔質(zhì)量。借助機器學習、自然語言處理、模式識別等技術(shù)，提前將電子文件的歸檔范圍、分類方案、歸檔時間、通用文件格式要求、元數(shù)據(jù)方案、命名規(guī)則、封裝要求等配置在業(yè)務(wù)系統(tǒng)或歸檔接口中[11］，根據(jù)預先設(shè)定的形式實現(xiàn)電子文件的在線自動歸檔和全程留痕，從前端確保電子文件的真實、完整、可用、安全。如上海市浦東新區(qū)檔案館運用人工智能技術(shù)，將電子檔案管理和“四性”檢測需求融入受理平臺和業(yè)務(wù)系統(tǒng)，確保電子文件在審批服務(wù)過程中即符合歸檔要求，實現(xiàn)事項隨辦隨歸、要素自動歸集。[12］

1.2 檔案智能采集

在網(wǎng)絡(luò)環(huán)境下，檔案數(shù)據(jù)廣泛產(chǎn)生于電子辦公、電子業(yè)務(wù)、信息系統(tǒng)、網(wǎng)站網(wǎng)頁、新媒體及傳感設(shè)備等環(huán)境[13］，而人工智能可輔助檔案數(shù)據(jù)全域采集。通過融合智能感知終端、網(wǎng)絡(luò)爬蟲、數(shù)據(jù)采集、智能轉(zhuǎn)錄等人工智能技術(shù)，感知采集多模態(tài)、多來源檔案信息資源，有效提升檔案收集質(zhì)量與效率，構(gòu)建立體多元的館藏檔案資源體系。如浙江省檔案館與科大訊飛公司合作，綜合運用卷積神經(jīng)網(wǎng)絡(luò)、AI識別等技術(shù)，實現(xiàn)對音視頻檔案的采集、整理和有效利用，有效盤活音視頻檔案資源。[14］

1.3 檔案智能整理

就檔案形態(tài)而言，檔案資源包括實體檔案資源和數(shù)字檔案資源。針對實體檔案資源，OCR識別、人臉識別、語音識別等技術(shù)的應用，能夠自動識別并提取檔案中的關(guān)鍵信息和文字內(nèi)容，將其轉(zhuǎn)化為可供計算機編輯處理的數(shù)字化、數(shù)據(jù)化信息。如荷蘭國家檔案館和KNAW人文小組聯(lián)合開發(fā)了開源轉(zhuǎn)錄軟件Loghi，目前該軟件對手寫、打字、印刷文本轉(zhuǎn)錄識別率已達到96%，有效提高了歷史檔案數(shù)字化的效率。[15］針對數(shù)字檔案資源，借助自然語言處理、機器學習等技術(shù)，可對檔案進行聚類分析，發(fā)現(xiàn)不同文本間的關(guān)聯(lián)與特征，實現(xiàn)文本型數(shù)字檔案資源的自動著錄標引、分類排序；還可基于模式識別技術(shù)，實現(xiàn)照片檔案、錄音錄像檔案等媒體型數(shù)字檔案信息資源的一站式檢索。

1.4 檔案智能鑒定

借助專家系統(tǒng)、機器學習、語義分析等技術(shù)，在對已開放鑒定的成果進行模型訓練的基礎(chǔ)上，結(jié)合專家提供的理論知識和已有的鑒定規(guī)則，預制敏感詞庫和規(guī)則庫，實現(xiàn)檔案目錄、原文信息審讀和段落、詞句語義理解，進而作出檔案內(nèi)容的價值判斷與開放結(jié)果的預測。如遼寧省檔案館結(jié)合人工智能技術(shù)，構(gòu)建多維語義理解算法模型，從敏感字段、敏感詞、敏感語句、敏感圖像等多層次對檔案全件進行語義分析，提升檔案開放審核業(yè)務(wù)的智能化水平。[16］

1.5 檔案智能服務(wù)

一方面，人工智能有助于實現(xiàn)檔案資源的多層次開發(fā)。運用數(shù)據(jù)挖掘、數(shù)據(jù)分析、知識圖譜、知識地圖等智能技術(shù)對檔案資源進行細粒度、內(nèi)容級開發(fā)，發(fā)現(xiàn)檔案數(shù)據(jù)間的內(nèi)在關(guān)聯(lián)和趨勢脈絡(luò)，并以可視化的形式構(gòu)建知識要素的關(guān)系網(wǎng)絡(luò)，以便最大限度激活檔案信息資源的潛在價值，賦能政府決策、城市發(fā)展等宏觀場景。如上海市檔案館綜合運用人工智能、知識圖譜等技術(shù)，打造“跟著檔案觀上?！睌?shù)字人文平臺，將建筑、歷史事件以及身處其中的人有機融合，為了解城市文脈與歷史記憶提供檔案數(shù)據(jù)支撐。[17］另一方面，人工智能助推檔案資源的個性化供給。借助自然語言處理、用戶畫像、智能推送等技術(shù)，可從關(guān)鍵詞理解提高到語義、知識級別的理解，深度分析檔案用戶在利用過程中的需求、偏好、行為等信息，獲取檔案用戶個性化的服務(wù)訴求，主動為其推送更加精準的檔案信息。如可利用對話式語言模型ChatGPT，對大規(guī)模檔案數(shù)據(jù)資源進行訓練，并構(gòu)建檔案領(lǐng)域知識庫，以知識問答的形式提供智能化的檔案利用服務(wù)。[18］

2 人工智能在檔案管理中的應用風險

人工智能技術(shù)的應用也會對檔案管理帶來諸多挑戰(zhàn)。全面理解人工智能在檔案管理中的應用風險，是促使其良好發(fā)展的先決條件。

2.1 制度風險

制度風險指人工智能介入檔案管理的過程中，由于相關(guān)部門針對這一新型領(lǐng)域的制度制定和修改不及時、不到位而可能引發(fā)的風險。一方面，頂層設(shè)計尚不完善。當下檔案領(lǐng)域涉及人工智能的政策更側(cè)重于宏觀層面的方向引導，缺乏微觀層面具體性、針對性、配套性的實施辦法和操作指南，如人工智能在檔案領(lǐng)域中的應用范圍和準入條件、相關(guān)主體的職責分工和權(quán)屬規(guī)范、人工智能研發(fā)成果應用的評估體系等。人工智能的應用需要更為全面系統(tǒng)的戰(zhàn)略規(guī)劃進行引導和支持，而相關(guān)制度的缺失則成為掣肘。

另一方面，行業(yè)規(guī)范有待健全。人工智能在檔案管理中的運用需依賴大量的檔案數(shù)據(jù)作為語料投入，但當前缺乏體系化的檔案數(shù)據(jù)標準規(guī)范?，F(xiàn)有國家標準較多局限于數(shù)據(jù)存儲、系統(tǒng)功能等方面，如《檔案數(shù)據(jù)硬磁盤離線存儲管理規(guī)范》（DA/T 75—2019）、《電子檔案管理系統(tǒng)基本功能規(guī)定》等[19］，在檔案數(shù)據(jù)獲取、數(shù)據(jù)傳遞、數(shù)據(jù)利用、數(shù)據(jù)隱私保護等方面尚無明確規(guī)定，致使檔案數(shù)據(jù)化程度較低、數(shù)據(jù)質(zhì)量參差不齊、數(shù)據(jù)共享利用受限，直接影響和限制了人工智能在檔案領(lǐng)域的應用成效。

2.2 技術(shù)風險

技術(shù)風險指由于人工智能自身技術(shù)缺陷以及人類認知局限，在應用過程中可能產(chǎn)生技術(shù)濫用、技術(shù)誤用等現(xiàn)象，導致檔案數(shù)據(jù)泄漏、系統(tǒng)遭受攻擊等風險。一方面，內(nèi)部技術(shù)缺陷而引起的風險。人工智能技術(shù)本身具有高度的專業(yè)性、復雜性和不可解釋性，猶如不透明的“黑箱”，除少數(shù)技術(shù)設(shè)計者外，多數(shù)外部人員無法理解算法做出智能決策的邏輯和結(jié)果，一旦算法結(jié)構(gòu)具有缺陷、模型數(shù)據(jù)出現(xiàn)問題，則會對檔案安全造成威脅。如檔案鑒定環(huán)節(jié)涉及諸多復雜問題，算法無法完全量化，若由算法掌握檔案的“生殺大權(quán)”，可能會導致鑒定結(jié)果出現(xiàn)誤判、錯判。

另一方面，外部技術(shù)攻擊而引起的風險。檔案數(shù)據(jù)是人工智能應用于檔案領(lǐng)域的基礎(chǔ)和“燃料”，隨著各種智能感知終端、采集終端在檔案系統(tǒng)、檔案網(wǎng)站中的落地，大量非結(jié)構(gòu)化的檔案數(shù)據(jù)在匯聚流轉(zhuǎn)過程中易被未授權(quán)人員或非法組織竊取、篡改，尤其是檔案用戶在利用檔案信息的過程中，個人行為軌跡、敏感信息等被不可避免地記錄在網(wǎng)絡(luò)中，極易造成檔案用戶隱私信息的泄露。此外，部分檔案部門的基礎(chǔ)設(shè)施存在老化現(xiàn)象，加之檔案服務(wù)開放共享的天然特質(zhì)，一些不法分子可能會利用平臺漏洞以及病毒傳播、惡意代碼、智能技術(shù)等手段對檔案管理系統(tǒng)、人工智能模型、訓練數(shù)據(jù)集等進行非法攻擊、肆意刪除、違規(guī)使用，嚴重危害檔案信息安全和公共服務(wù)秩序。如2021 年11 月，美國執(zhí)法機構(gòu)的1.9TB監(jiān)控錄像機密數(shù)據(jù)被黑客組織竊取，致使美國警方400 萬份檔案永久丟失，影響到大約17500 個案件。[20］

2.3 倫理風險

倫理風險是由于人工智能研發(fā)與應用中的諸多不確定因素，導致其應用于檔案管理的過程中，可能引起歧視偏見、公平破壞、人機矛盾等負面影響。一方面，算法歧視引發(fā)檔案用戶的話語流失。算法是人工智能應用于檔案管理的核心要素，但算法本身是人的產(chǎn)物，在算法設(shè)定和開發(fā)的過程中不可避免會存在設(shè)計者的主觀意愿，如因設(shè)計者的性別歧視、個人經(jīng)歷、行為動機而忽視弱勢邊緣等特定群體的檔案需求；設(shè)計者的數(shù)據(jù)選擇、運用偏差等控制檔案用戶的信息推薦，這與檔案促進社會公平正義的價值理念相悖。由于算法的精準推薦機制，用戶個體只關(guān)注自身選擇和偏愛的檔案信息，長此以往，阻隔其他額外信息的傳播，檔案用戶被束縛于“信息繭房”“回音室”當中，容易導致用戶價值偏離、思想僵化、視角局限等問題。

另一方面，人機關(guān)系的“矛盾沖突”引發(fā)主體的認同危機。智能技術(shù)在推動檔案管理發(fā)展的同時也變革了其中的人機關(guān)系，人工智能的應用一定程度上加劇了檔案工作者、業(yè)務(wù)部門的職業(yè)危機。一部分檔案工作者對于人工智能技術(shù)產(chǎn)生的抵觸、恐慌、畏懼等情緒，認為其會取代自身職業(yè)；一部分則陷入“技術(shù)唯上”“技術(shù)決定論”的泥沼，期望通過人工智能技術(shù)來解決檔案管理中的一切問題。此外，截至2022 年底，在全國各級檔案主管部門和綜合檔案館共有專職人員中，研究生學歷僅占比10.5%，本科學歷占比達68.7%，大專及以下學歷占比20.8%，具有檔案學專業(yè)程度的僅占比18.12%。[21］現(xiàn)有的檔案人才隊伍專業(yè)程度和文化水平整體較低，尚處于技術(shù)弱勢和被動地位，這與人工智能所要求的技術(shù)素養(yǎng)和知識儲備不相匹配，難以保障人工智能在檔案領(lǐng)域的應用。

2.4 監(jiān)管風險

監(jiān)管風險指在檔案業(yè)務(wù)管理活動中，相關(guān)行為主體缺乏對于人工智能技術(shù)的控制或調(diào)節(jié)而引發(fā)的風險。一方面，檔案主管部門監(jiān)管力度不夠。目前，檔案領(lǐng)域雖然積極擁抱人工智能技術(shù)，但尚未意識到人工智能在應用過程中的合規(guī)性問題，面臨監(jiān)管責任不明確、監(jiān)管手段不能及、監(jiān)管能力與監(jiān)管要求不匹配等監(jiān)管風險。若人工智能在檔案管理中使用不當，將進一步加劇其帶來的制度風險、技術(shù)風險、倫理風險等，進而弱化人工智能在檔案領(lǐng)域的應用成效。

另一方面，缺乏多元主體的協(xié)同監(jiān)管。針對人工智能的監(jiān)管不僅是檔案主管部門的責任，更是在人工智能設(shè)計研發(fā)、生產(chǎn)制造、服務(wù)使用等過程中各方主體都需應對的問題。[22］其中，技術(shù)企業(yè)是人工智能程序與算法的設(shè)計者，扮演著“吹哨人”的角色，但現(xiàn)階段缺乏一定的激勵機制，使得第三方監(jiān)管組織參與和評估的積極性不足；公眾是人工智能研發(fā)成果的應用者和監(jiān)管者，可幫助檔案主管部門發(fā)現(xiàn)人工智能產(chǎn)品存在的問題。但通過對智能檢索系統(tǒng)、智能查檔機等檔案領(lǐng)域已有的人工智能產(chǎn)品調(diào)研發(fā)現(xiàn)，較少產(chǎn)品開通了用戶滿意度評價、匿名意見反饋等功能入口，致使公眾參與人工智能監(jiān)管的渠道缺失。

3 人工智能在檔案管理中的應用策略

有效識別、管控、規(guī)避風險是提升人工智能應用效能的必然要求。為此，文章按照“制度先行—技術(shù)集成—倫理規(guī)約—監(jiān)管防控”的路線，提出應對風險的防范策略。

3.1 制度先行：加強頂層謀劃，完善檔案數(shù)據(jù)標準體系

完備的制度體系是檔案領(lǐng)域應用人工智能技術(shù)的基本前提，推進人工智能管理制度的構(gòu)建能夠遏制人工智能所帶來的風險。第一，加強人工智能應用的頂層設(shè)計。自2019 年以來，國家層面針對人工智能技術(shù)已相繼發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》《國家新一代人工智能標準體系建設(shè)指南》《生成式人工智能服務(wù)管理暫行辦法》等指引性文件，為人工智能應用提供治理框架和行動指南。檔案主管部門應以上述文件為指引，發(fā)揮“元治”角色，從前端性、全局性、系統(tǒng)性的視角，科學謀劃人工智能等新一代信息技術(shù)在檔案領(lǐng)域的應用規(guī)劃和行動計劃；從制度層面明確人工智能應用的權(quán)責分配、管理模式、安全保障、組織架構(gòu)等，并將人工智能風險管理貫穿于檔案管理的全過程；積極支持企業(yè)、高校、科研院所等主體協(xié)同參與人工智能的前沿課題研究，鼓勵和引導人工智能在檔案領(lǐng)域的持續(xù)健康應用。

第二，健全檔案數(shù)據(jù)標準規(guī)范體系。一方面，構(gòu)建包括檔案數(shù)據(jù)管理標準、技術(shù)標準、安全標準、隱私保護在內(nèi)的標準體系，明確檔案數(shù)據(jù)管理的職責權(quán)限和組織架構(gòu)，強化檔案數(shù)據(jù)質(zhì)量控制和權(quán)益保障；另一方面，制定涵蓋檔案數(shù)據(jù)全生命周期的配套細則，確保其來源可靠、程序規(guī)范、要素合規(guī)，為推進人工智能在檔案領(lǐng)域的應用提供數(shù)據(jù)資源保障。如2022年，浙江省出臺的《浙江省公共數(shù)據(jù)條例》，從公共數(shù)據(jù)收集、歸集、存儲、加工、傳輸、共享、開放、利用等方面作出明確規(guī)定，促進了公共數(shù)據(jù)依法有序自由流動。[23］

3.2 技術(shù)集成：融入多元技術(shù)，搭建檔案安全保護屏障

人工智能不是一項自成體系的技術(shù)，其應用場景的深化需要與其他技術(shù)手段相互支撐，因此，加強區(qū)塊鏈、數(shù)字孿生等新一代信息技術(shù)的集成運用，構(gòu)筑技術(shù)風險防御屏障是保障檔案安全的重要途徑。一是區(qū)塊鏈技術(shù)?？赏ㄟ^可信時間戳和非對稱加密技術(shù)，為檔案數(shù)據(jù)創(chuàng)建唯一標識符，防止其被篡改、損壞、盜取，確保在傳輸過程中的真實性和可靠性；通過智能合約和共識機制，控制檔案數(shù)據(jù)訪問權(quán)限，以節(jié)點對節(jié)點的形式加強數(shù)據(jù)的互聯(lián)互通和溯源追蹤；通過去中心化存儲，將檔案數(shù)據(jù)分散于多個節(jié)點并實現(xiàn)實時備份，提高檔案數(shù)據(jù)的安全性和穩(wěn)定性。

二是數(shù)字孿生技術(shù)。數(shù)字孿生是以數(shù)字化方式創(chuàng)建物理實體的虛擬模型， 借助數(shù)據(jù)實現(xiàn)物理世界與數(shù)字世界的虛實映射。[24］利用數(shù)字孿生技術(shù)可將檔案館建筑、檔案實體、系統(tǒng)設(shè)備的狀態(tài)以可視化的形式呈現(xiàn)，根據(jù)實時數(shù)據(jù)感知、監(jiān)測、溯源檔案館運行過程中面臨的不確定因素和風險狀況，從而提高檔案館的風險防御水平。如上海市靜安區(qū)運用數(shù)字孿生技術(shù)實現(xiàn)檔案庫房、館藏資源在數(shù)字空間中的映射，提高了數(shù)據(jù)積累、分析和挖掘能力，為后續(xù)人工智能的應用奠定基礎(chǔ)。[25］

3.3 倫理規(guī)約：秉承人本理念，構(gòu)建算法柔性治理格局

第一，檔案工作者應堅持人本理念，秉承包容審慎的原則?！懊鞔_人工智能應先‘人工’再‘智能’，即智能技術(shù)在檔案工作的輔助性作用，人的‘智慧’始終占據(jù)主導地位”[26］，避免由于過度依賴技術(shù)而導致檔案管理人員角色地位的邊緣化與削弱。同時，數(shù)智化的發(fā)展潮流也為檔案工作者提出新的要求，檔案工作者既要順勢而為，具備駕馭新技術(shù)的能力，密切關(guān)注外部技術(shù)環(huán)境的發(fā)展變化，提高自身數(shù)字素養(yǎng)；又要應勢而動，充分了解人工智能等新一代信息技術(shù)的應用風險及其負面效應，提升風險認知能力。

第二，推動算法設(shè)計的不斷優(yōu)化。一方面，檔案部門應充分發(fā)揮主觀能動性，主動介入算法研發(fā)和設(shè)計的前端，將檔案專業(yè)理論、服務(wù)理念與算法設(shè)計高度融合，把公平、正義、平等等主流價值觀念嵌入算法應用的全過程，適時優(yōu)化和完善算法模型，加強論證、測試與審核，以人的價值理性規(guī)約智能技術(shù)的歧視與偏見，提高算法決策的科學性；另一方面，進一步擴大算法模型的信息推薦范疇，增加更加多元化的信息推送內(nèi)容，例如可采用逆向推薦思維，為檔案用戶提供可能“不感興趣”“應關(guān)注但沒有關(guān)注”的檔案信息，從而構(gòu)建立體化的信息推送機制，避免由“信息繭房”效應帶來的認知窄化現(xiàn)象。

3.4 監(jiān)管防范：堅持多方協(xié)同，建立全鏈條式監(jiān)管機制

我國《新一代人工智能發(fā)展規(guī)劃》明確指出“建立健全公開透明的人工智能監(jiān)管體系，實行設(shè)計問責和應用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu)，實現(xiàn)對人工智能算法設(shè)計、產(chǎn)品開發(fā)和成果應用等的全流程監(jiān)管?！盵27］檔案領(lǐng)域針對人工智能應用的監(jiān)管是多方聯(lián)動的動態(tài)過程，亟須構(gòu)建覆蓋事前、事中、事后的全生命周期的協(xié)同監(jiān)管機制，推動人工智能風險預警與化解。

在事前階段，檔案部門應加強人工智能技術(shù)的前瞻預防與約束引導，強化質(zhì)量認證的準入監(jiān)管，建立由業(yè)務(wù)部門、技術(shù)企業(yè)、第三方監(jiān)管組織、專家等多方力量組成的監(jiān)管小組，對人工智能設(shè)計、產(chǎn)品和系統(tǒng)的復雜性、風險性、可解釋性等進行安全評估，未達標或未通過安全評估的算法、產(chǎn)品或系統(tǒng)不能使用，將風險防患于未然。在事中階段，按照“誰使用誰負責，誰運行誰負責”的原則，明確監(jiān)管主體必須遵守的原則和義務(wù)，重點監(jiān)督和審查相關(guān)使用者應用人工智能系統(tǒng)或產(chǎn)品的合規(guī)性和合法性，強化組織內(nèi)部風險管理的技術(shù)和安全保障，避免技術(shù)失控、技術(shù)濫用風險的發(fā)生。在事后階段，構(gòu)建問責機制，整合分析在人工智能系統(tǒng)應用、算法應用、檔案數(shù)據(jù)使用過程中的現(xiàn)存問題，及時調(diào)整和優(yōu)化監(jiān)管措施、使用流程、評估體系等，實現(xiàn)人工智能應用風險的閉環(huán)控制，進而確保人工智能在檔案領(lǐng)域的應用成效。