尹良鑫

（福建醫(yī)科大學附屬協(xié)和醫(yī)院，福建福州， 350001）

生成式人工智能具有強大的功能，不僅能夠提供信息內(nèi)容服務(wù)，還可以作為“技術(shù)基座”，為金融、醫(yī)療、自動駕駛等多個領(lǐng)域賦能。［1］隨著生成式人工智能產(chǎn)業(yè)的持續(xù)升級，其在檔案領(lǐng)域也將大有可為，除了可以自動完成檔案分類、檔案審核開放、檔案智能搜索等工作外，還可以產(chǎn)出檔案摘要、檔案編研產(chǎn)品、檔案知識圖譜、檔案知識問答等多樣化檔案產(chǎn)品，能夠為檔案信息資源開發(fā)提供新的思路，甚至可能催生出智慧檔案開發(fā)新范式。然而，生成式人工智能的應(yīng)用在給檔案信息資源開發(fā)帶來機遇的同時，也給檔案產(chǎn)品的真實性維護帶來了巨大挑戰(zhàn)。在生成式人工智能應(yīng)用的各個環(huán)節(jié)中，如語言模型訓練環(huán)節(jié)、檔案語料庫建設(shè)環(huán)節(jié)、檔案產(chǎn)品生成環(huán)節(jié)、社會傳播環(huán)節(jié)等，檔案產(chǎn)品的真實性都可能會受到一定的損害。因此，如何應(yīng)對和解決這一問題將成為檔案人需要重點考慮的問題。

我國部分檔案學者對生成式人工智能在檔案領(lǐng)域的應(yīng)用問題已經(jīng)展開了前瞻性研究，并產(chǎn)出了相應(yīng)成果。如王冠、袁燁認為當下生成式人工智能應(yīng)用于檔案開發(fā)利用時，在數(shù)據(jù)準備階段、內(nèi)容生成階段和社會傳播階段均存在風險；［2］岳幸暉、楊智勇認為，人工智能在檔案管理中有廣闊的應(yīng)用圖景，但也面臨著制度風險、技術(shù)風險、倫理風險、監(jiān)管風險；［3］陳艷紅和李健研究了新一代人工智能生成內(nèi)容檔案身份認定的嬗變與機遇、風險與困境、規(guī)制措施［4］，將該主題的研究從技術(shù)應(yīng)用層面引入更深層次的生成內(nèi)容層面。綜合來看，相關(guān)學者對生成式人工智能在檔案領(lǐng)域的應(yīng)用問題秉持著謹慎迎接的態(tài)度。生成式人工智能在檔案領(lǐng)域的應(yīng)用是大勢所趨，不可否認的是，檔案人在積極擁抱生成式人工智能的同時，也應(yīng)具備風險防范意識，特別是在研究范式轉(zhuǎn)向生成內(nèi)容的背景下，更應(yīng)高度重視檔案產(chǎn)品的真實性維護這一事關(guān)行業(yè)公信力和生命力的問題，通過開展前瞻性研究，探析和應(yīng)對潛在應(yīng)用風險，進而提出科學合理的風險防控和治理方案。

1 生成式人工智能檔案產(chǎn)品及其類型

2023年7月10日，國家網(wǎng)信辦、國家發(fā)展改革委、教育部等七部門聯(lián)合發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《暫行辦法》）第二十二條明確了生成式人工智能技術(shù)的含義，即“具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)”［5］。在檔案信息資源的開發(fā)利用中，檔案工作人員和用戶利用生成式人工智能技術(shù)可以產(chǎn)出相應(yīng)的文本、圖片、音頻、視頻等內(nèi)容。從產(chǎn)品概念的廣義層面上講，具有一定使用價值、能夠滿足某種需求的生成內(nèi)容即可構(gòu)成檔案產(chǎn)品。因此，在生成式人工智能檔案產(chǎn)品的概念范疇中，生成式人工智能是手段，且是該概念形成的前置條件之一；而生成式人工智能檔案產(chǎn)品則是生成式人工智能應(yīng)用的產(chǎn)物，屬于檔案產(chǎn)品的范疇。值得注意的是，《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡稱《征求意見稿》）第四條中出現(xiàn)了生成式人工智能產(chǎn)品的術(shù)語，并將其與生成式人工智能服務(wù)并列，雖然在正式施行的《暫行辦法》中未采用這一術(shù)語，但是能出現(xiàn)于《征求意見稿》中也在一定程度上顯示了其權(quán)威性和共識性。因此，生成式人工智能檔案產(chǎn)品的概念具有一定的合理性，也較易獲得廣泛認同。

生成式人工智能在檔案領(lǐng)域有著多元化的潛在應(yīng)用場景，由此也將會形成多樣化的生成式人工智能檔案產(chǎn)品。按照內(nèi)容加工程度可將其分為兩類：一類是淺加工生成式人工智能檔案產(chǎn)品，包括檔案分類方案、檔案開放方案、檔案智能搜索結(jié)果等；一類是深加工生成式人工智能檔案產(chǎn)品，包括檔案摘要、檔案編研產(chǎn)品、檔案知識圖譜、檔案知識問答等。

2 生成式人工智能檔案產(chǎn)品真實性維護的重要性

2.1 檔案產(chǎn)品的生命力所在

檔案信息資源開發(fā)，真實、準確是其生命，客觀、公正是其理想，失去了真實與準確的檔案信息資源開發(fā)是對歷史的犯罪。［6］真實性與準確性是檔案信息資源開發(fā)高質(zhì)量發(fā)展的內(nèi)生力所在，也是其開發(fā)成果——檔案產(chǎn)品，充分發(fā)揮其價值、更好地滿足工作要求和用戶需求的生命力所在。具體來看，由于淺加工生成式人工智能檔案產(chǎn)品主要應(yīng)用于檔案分類、檔案開放、檔案搜索等工作領(lǐng)域，因此其真實性將會直接決定相應(yīng)檔案工作結(jié)果的性質(zhì)，如檔案分類、開放、搜索等結(jié)果是否合理；深加工生成式人工智能檔案產(chǎn)品則主要在知識性管理和服務(wù)等領(lǐng)域使用，其真實性會對產(chǎn)品價值及成效的大小產(chǎn)生決定性影響。一般而言，真實度越高的產(chǎn)品，其價值越高、發(fā)揮出的成效也會越大。

2.2 檔案部門重要的法定職責

《暫行辦法》第四條規(guī)定：“提供和使用生成式人工智能服務(wù)，應(yīng)當遵守法律、行政法規(guī)，尊重社會公德和倫理道德”，其中，“提高生成內(nèi)容的準確性和可靠性”［7］是其重要要求之一。檔案部門作為未來生成式人工智能檔案產(chǎn)品的提供者，應(yīng)采取措施保障檔案產(chǎn)品的真實準確，這是其應(yīng)承擔的重要法定職責；還應(yīng)承擔相關(guān)產(chǎn)品生成內(nèi)容生產(chǎn)者的責任，即對生成式人工智能檔案產(chǎn)品也應(yīng)承擔相應(yīng)的法律責任。此外，維護生成式人工智能檔案產(chǎn)品的真實性不僅是檔案部門履職盡責的重要內(nèi)容之一，也是維護其社會公信力的重要手段。

2.3 檔案需求滿足的基本保障

當前，人民群眾的檔案需求已越來越呈現(xiàn)出多元化態(tài)勢，除工作需求、學習需求、生活需求之外，信息需求和文化需求越來越凸顯，如《“十四五”全國檔案事業(yè)發(fā)展規(guī)劃》即將“滿足人民群眾的檔案信息和檔案文化需求”［8］作為重要任務(wù)之一，而生成式人工智能檔案產(chǎn)品可以很好地滿足這兩類檔案需求。檔案信息和檔案文化需求得以滿足的關(guān)鍵在于檔案產(chǎn)品的內(nèi)容應(yīng)真實、準確和完整，唯有如此才能符合人民群眾對檔案信息的要求并為其帶來真實的檔案文化體驗。

3 生成式人工智能檔案產(chǎn)品真實性失范的風險源

3.1 語料庫的數(shù)據(jù)污染

海量數(shù)據(jù)和訓練是生成式人工智能的兩大核心競爭力，其中，海量訓練又是基于一個固定的數(shù)據(jù)庫展開的，數(shù)據(jù)庫中的數(shù)據(jù)容量越大訓練結(jié)果就越準確。同時，生成式人工智能投入應(yīng)用后，訓練數(shù)據(jù)庫會轉(zhuǎn)換為語料庫，進而成為其內(nèi)容生成的基本依據(jù)。生成式人工智能的語料庫是不斷擴容的，其主要來源包括網(wǎng)絡(luò)數(shù)據(jù)、用戶數(shù)據(jù)和生成內(nèi)容。將生成式人工智能應(yīng)用于檔案信息資源的開發(fā)，首要任務(wù)即是構(gòu)建檔案語料庫，而在此過程中可能產(chǎn)生的數(shù)據(jù)污染，將給檔案產(chǎn)品的真實性維護帶來巨大挑戰(zhàn)。表現(xiàn)為：其一，原始檔案數(shù)據(jù)不真實。由于各種主客觀原因，內(nèi)容失真檔案在各個歷史時期均有存在。而在信息時代，電子文件具有易變性、可操作性等特點，這給電子檔案的真實性鑒定和維護帶來了巨大挑戰(zhàn)。檔案語料庫的建設(shè)需要巨大體量檔案數(shù)據(jù)的支撐，在此背景下，大量內(nèi)容失真的檔案數(shù)據(jù)可能會進入檔案語料庫，從而造成數(shù)據(jù)污染。其二，擴容網(wǎng)絡(luò)數(shù)據(jù)不真實。隨著社交媒體的廣泛應(yīng)用，虛假信息、合成信息等大量充斥網(wǎng)絡(luò)，如果檔案語料庫面向互聯(lián)網(wǎng)開源，不實信息將會很快影響檔案語料庫，造成嚴重的數(shù)據(jù)污染。其三，用戶數(shù)據(jù)不真實。在已有生成式人工智能的應(yīng)用中，用戶上傳數(shù)據(jù)的真實性尚無法得到有效維護。此外，用戶獲得的答案中也存在大量不實信息。因此，如果檔案部門對用戶信息和生成內(nèi)容缺乏有效監(jiān)管的話，這兩類數(shù)據(jù)被納入檔案語料庫后會進一步加劇數(shù)據(jù)污染。

3.2 生成機制的負向力

其一，生成式人工智能在內(nèi)容生成方面采用的是關(guān)聯(lián)統(tǒng)計機制，如ChatGPT以“共生則關(guān)聯(lián)”為標準，“通過所挖掘的單詞之間的關(guān)聯(lián)統(tǒng)計關(guān)系合成語言答案”［9］。利用生成式人工智能，檔案部門可深入挖掘海量檔案數(shù)據(jù)中字與字、句子與句子以及圖片、視頻等信息之間的關(guān)聯(lián)性，從而產(chǎn)出細粒度的檔案產(chǎn)品，并可通過機器智能的方式呈現(xiàn)出來。這不僅有助于擴展檔案數(shù)據(jù)挖掘的深度和廣度，還可以極大限度地提升檔案產(chǎn)品的智慧含量。但與此同時，關(guān)聯(lián)統(tǒng)計機制的運行也會使生成式人工智能由于無效關(guān)聯(lián)、虛假關(guān)聯(lián)等原因產(chǎn)出大量由不存在、不真實或東拼西湊的信息合成的內(nèi)容，而其本身卻無法明確判斷出生成內(nèi)容的可信度，如此一來，生成式人工智能檔案產(chǎn)品的真實性則無法得到保證。其二，人類反饋強化學習是生成式人工智能的底層技術(shù)之一，其可通過接受用戶的反饋和批評不斷優(yōu)化和完善，以保證生成內(nèi)容的正確性和權(quán)威性。但是，人類反饋強化學習的效果與工作人員和用戶的素養(yǎng)、品行等直接相關(guān)。對于檔案信息資源的開發(fā)而言，一方面，檔案工作人員的專業(yè)素養(yǎng)、信息素養(yǎng)等將會對檔案語料的鑒定和標注質(zhì)量產(chǎn)生重要影響，進而會影響到檔案產(chǎn)品的質(zhì)量；另一方面，用戶設(shè)置的生成條件會對檔案產(chǎn)品的真實性產(chǎn)生直接影響。因此，如果檔案工作人員對檔案數(shù)據(jù)的真實性鑒定不到位或元數(shù)據(jù)信息標注錯誤、用戶設(shè)置了迷惑性較強甚至是欺詐性的生成條件等，均會導致生成式人工智能產(chǎn)出內(nèi)容失真的檔案產(chǎn)品。

3.3 社會傳播的不可控

生成式人工智能的一大特點是高并發(fā)性，可以同時處理多個用戶的生成條件，并產(chǎn)出相應(yīng)內(nèi)容。同時，其生成的內(nèi)容又可借助社交媒體廣泛傳播出去。檔案部門應(yīng)用生成式人工智能開發(fā)檔案信息資源，不僅能夠充分利用其高并發(fā)性特點提升服務(wù)效率，產(chǎn)出更多檔案產(chǎn)品，而且可以直接借助生成式人工智能的插件化優(yōu)勢，使檔案產(chǎn)品能夠快速、廣泛地傳播出去。但與此同時，社會傳播過程和結(jié)果往往是不可控的，尤其是對于惡意傳播虛假信息甚至詐騙信息等行為的監(jiān)管難度非常大，譬如不法分子可能會利用真實的檔案語料作為制造假文件、公文等的訓練范本，進而產(chǎn)出大量的假政策文件、政府公文等，借此實施大規(guī)模詐騙。此外，生成式人工智能雖然在生成文本時會考慮上下文語境，并根據(jù)訓練數(shù)據(jù)和算法生成合理的回答，但是在社會傳播過程中，如果部分網(wǎng)友對相關(guān)情況了解不夠全面或者有意肢解文意，也會造成傳播的失真。而在檔案信息資源的開發(fā)利用中由此造成的后果可能會更加嚴重，因為在基于檔案真實性而構(gòu)建起來的公信力和相應(yīng)的價值觀業(yè)已被社會公眾廣泛認同和接受的背景下，檔案產(chǎn)品在傳播過程中的失真可能會引發(fā)漣漪效應(yīng)甚至發(fā)展為網(wǎng)絡(luò)輿情。

4 生成式人工智能檔案產(chǎn)品真實性維護的著力點

4.1 堅持謹慎性原則

謹慎性原則主要是用于處理“可能發(fā)生”的事項，要求相關(guān)人員在有不確定性因素的情況下做出決策時應(yīng)充分評估風險，保持必要的謹慎，這樣不僅可以保證決策的有用性，還能夠起到預警風險和化解風險的作用。謹慎性原則對生成式人工智能應(yīng)用于檔案信息資源開發(fā)具有重要的啟示意義。當前，信息隱私與安全風險、技術(shù)倫理風險、社會傳播風險等諸多潛在風險普遍存在，一方面，檔案部門應(yīng)持續(xù)跟蹤生成式人工智能的進展情況，尤其是應(yīng)重點關(guān)注相關(guān)國產(chǎn)產(chǎn)品的研發(fā)和插件化應(yīng)用情況；同時還應(yīng)綜合考慮生成式人工智能商業(yè)化發(fā)展的程度及其監(jiān)管、倫理等因素，待其發(fā)展成熟時再考慮大規(guī)模應(yīng)用。另一方面，檔案學術(shù)共同體也應(yīng)依據(jù)謹慎性原則對生成式人工智能應(yīng)用的潛在風險及其治理、成本與效益等問題展開前瞻性研究，為檔案部門的應(yīng)用決策提供依據(jù)和支持。

4.2 建設(shè)純凈語料庫

其一，檔案部門應(yīng)自主建立檔案語料庫用于生成式人工智能的模型訓練和內(nèi)容生成，不僅須確保上傳的檔案數(shù)據(jù)是可以開放利用的，而且應(yīng)盡可能剔除內(nèi)容失真的檔案數(shù)據(jù)。從所需的數(shù)據(jù)體量來看，檔案語料庫的建設(shè)需要集全國公共檔案館之力方可達到要求。其二，檔案部門在建設(shè)檔案語料庫的過程中可實行分級管理，并通過建立主副語料庫來實現(xiàn)純凈語料庫的建設(shè)。其中，主語料庫應(yīng)是由檔案部門自主上傳的檔案內(nèi)容數(shù)據(jù)、檔案實體數(shù)據(jù)、檔案環(huán)境數(shù)據(jù)、其他數(shù)據(jù)等構(gòu)成。副語料庫由網(wǎng)絡(luò)數(shù)據(jù)、用戶數(shù)據(jù)和生成內(nèi)容構(gòu)成，其中，網(wǎng)絡(luò)數(shù)據(jù)應(yīng)采取定向采集的方式獲取，如網(wǎng)絡(luò)瀏覽插件的檢索條件設(shè)置中只添加立檔單位的官方網(wǎng)站、官方微信公眾號等網(wǎng)址；用戶上傳的數(shù)據(jù)和生成內(nèi)容應(yīng)在通過人工智能內(nèi)容監(jiān)測系統(tǒng)的鑒別處置之后方可進入檔案語料庫。在內(nèi)容生成的條件設(shè)置中，應(yīng)優(yōu)先調(diào)用主語料庫中的檔案數(shù)據(jù)；同時，對于在生成式人工智能運行中發(fā)現(xiàn)或用戶舉報的不實信息，應(yīng)采取內(nèi)容過濾措施及時清理出副數(shù)據(jù)庫。

4.3 強化專業(yè)性訓練

其一，在檔案語料庫中進行訓練。“許多高價值、特定領(lǐng)域的工作流程依賴于豐富的、專有的數(shù)據(jù)集。這些工作流程的最佳人工智能解決方案將需要在這些數(shù)據(jù)上進行訓練。”［10］基于此，要想在檔案信息資源的開發(fā)中應(yīng)用生成式人工智能，并產(chǎn)出符合專業(yè)性要求和用戶需求的檔案產(chǎn)品，就必須要在檔案語料庫中進行海量的模型訓練。具體來看，檔案部門在模型訓練時應(yīng)選擇真實、可靠的檔案數(shù)據(jù)作為訓練對象，摒棄不實數(shù)據(jù)；應(yīng)實施預處理機制，將帶有種族、民族、宗教信仰、國別、地域、性別、年齡、職業(yè)等歧視性數(shù)據(jù)進行篩除和處理；還應(yīng)加強對預訓練數(shù)據(jù)和優(yōu)化訓練數(shù)據(jù)來源的合法性和真實性的監(jiān)管。其二，提升檔案專業(yè)性知識含量。首先，檔案部門應(yīng)深度參與備選生成式人工智能產(chǎn)品的研制和數(shù)據(jù)庫建設(shè)工作，在數(shù)據(jù)集的標注中盡量采用人工標注。此外，關(guān)于標注，不僅應(yīng)在《檔案著錄規(guī)則》《錄音錄像類電子檔案元數(shù)據(jù)方案》等國家標準的基礎(chǔ)上制定符合生成式人工智能應(yīng)用要求的標注規(guī)則，還應(yīng)對擬參加標注工作的人員進行必要的專業(yè)培訓和技術(shù)培訓。其次，在模型訓練過程中，檔案部門應(yīng)對標注內(nèi)容展開抽樣核驗，以進一步保證訓練數(shù)據(jù)的真實、準確；還應(yīng)根據(jù)訓練反饋不斷改進和完善程序與算法，以使其產(chǎn)出的檔案產(chǎn)品符合專業(yè)性要求。最后，檔案部門應(yīng)重視用戶在生成式人工智能產(chǎn)品測試過程中反饋的意見，以進一步優(yōu)化性能并提升檔案產(chǎn)品的真實性和準確性。

4.4 加強用戶的管控

用戶在生成式人工智能檔案產(chǎn)品的生成和傳播中將發(fā)揮重要作用，檔案部門應(yīng)按照相應(yīng)法律法規(guī)加強對用戶的管控。其一，根據(jù)《暫行辦法》，檔案部門有權(quán)要求用戶提供真實身份信息，此舉可有效保障用戶上傳數(shù)據(jù)的真實性，且有助于對用戶開展進一步監(jiān)管。其二，檔案部門應(yīng)秉持科技向善的理念對用戶展開引導，并通過編制電子培訓手冊、及時接收反饋信息等方式，指導用戶對生成式人工智能檔案產(chǎn)品形成科學認知并理性使用和傳播，減少乃至避免包含不實信息的檔案知識圖譜、檔案知識問答等生產(chǎn)和傳播。其三，檔案部門發(fā)現(xiàn)用戶有生成和傳播虛假檔案產(chǎn)品甚至違法行為時，有權(quán)暫停或終止向其提供生成式人工智能檔案產(chǎn)品。其四，檔案部門應(yīng)通過各類獎勵措施鼓勵用戶舉報違規(guī)使用和傳播的行為，并應(yīng)在一定期限內(nèi)通過模型優(yōu)化訓練的方式，防止違規(guī)行為的發(fā)生。

5 結(jié) 語

當前生成式人工智能產(chǎn)品的插件化發(fā)展速度越來越快，部分國內(nèi)的相關(guān)產(chǎn)品業(yè)已實現(xiàn)了插件化應(yīng)用，也為其在檔案領(lǐng)域的應(yīng)用提供了現(xiàn)實可能。生成式人工智能檔案產(chǎn)品是將生成式人工智能技術(shù)應(yīng)用于檔案信息資源開發(fā)工作的產(chǎn)物，其真實性維護的前瞻性研究至關(guān)重要且日益緊迫。可以預見，作為催生新一輪科技革命的關(guān)鍵力量，生成式人工智能在檔案信息資源的管理和開發(fā)中擁有廣闊的應(yīng)用前景，將會進一步推進智慧檔案管理的發(fā)展、極大提升檔案產(chǎn)品的智慧含量。但同時，其在應(yīng)用過程中可能會產(chǎn)生的各種潛在風險也需要引起檔案人的警惕。