摘 要：生成式人工智能技術(shù)表現(xiàn)出輔助數(shù)字政府建設(shè)的巨大潛力，如能夠有效提升數(shù)字政府決策的科學性、實現(xiàn)數(shù)字政府治理的精準性、推動數(shù)字政府服務(wù)的高效性等，已成為國家治理現(xiàn)代化的重要組成部分。國內(nèi)外已有部分地區(qū)應(yīng)用生成式人工智能技術(shù)來輔助數(shù)字政府建設(shè)。然而，生成式人工智能技術(shù)也給數(shù)字政府建設(shè)帶來了一系列亟待解決的新問題，數(shù)字政府面臨著數(shù)據(jù)信息安全、社會秩序紊亂、行政權(quán)力失信的嚴峻挑戰(zhàn)。亟待從法律的風險規(guī)制手段等維度出發(fā)，采取相應(yīng)舉措防范生成式人工智能技術(shù)在輔助數(shù)字政府建設(shè)過程中的諸多風險，以期更好地發(fā)揮其支撐數(shù)字政府現(xiàn)代化建設(shè)的重要作用。

關(guān)鍵詞：數(shù)字政府；生成式人工智能；風險控制；法律規(guī)制

中圖分類號：TP18；D63；D922.1

文獻標識碼：A

doi：10.3969/j.issn.1672-2272.202406010

The Possibility，Risks，and Approaches of Artificial Intelligence Generated Content Assisted Digital Government Construction

Yin Xinjing

（School of Law，Humanities and Society，Wuhan University of Technology，Wuhan 430070，China）

Abstract： Artificial Intelligence Generated Content has shown great potential to assist the construction of digital government，which can effectively improve the scientific decision-making of digital government，achieve the precision of digital government governance，and promote the efficiency of digital government services，and become an important part of the modernization of national governance.Some regions at home and abroad have applied generative artificial intelligence technology to assist digital government construction.However，generative artificial intelligence technology has also brought a series of new problems to be solved urgently for digital government，digital government is facing serious challenges such as data information security，social order disorder，and administrative power breach of trust.It is urgent to start from the dimensions of legal risk regulation means and take corresponding measures to prevent many risks of technology in the process of assisting digital government construction，so as to better play the important role of generative artificial intelligence technology in supporting the modernization of digital government.

Key Words：Digital Government；Artificial Intelligence Generated Content；Risk Control；Legal Regulation

0 引言

黨的十九屆四中全會提出，“建立健全運用互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等技術(shù)手段進行行政管理的制度規(guī)則”，首次將數(shù)字政府建設(shè)由地方探索提升至國家頂層設(shè)計層面[1]，而數(shù)字政府建設(shè)的持續(xù)推進需要不斷利用新的技術(shù)革命成果?！?024年政府工作報告》提出：“以廣泛深刻的數(shù)字變革，賦能經(jīng)濟發(fā)展、豐富人民生活、提升社會治理現(xiàn)代化水平?！薄叭斯ぶ悄?”首次被寫入政府工作報告，開啟了人工智能技術(shù)在各行業(yè)廣泛應(yīng)用的新篇章。推動數(shù)字政府創(chuàng)新發(fā)展是順應(yīng)科技革命和產(chǎn)業(yè)變革趨勢、引領(lǐng)數(shù)字經(jīng)濟發(fā)展和數(shù)字社會建設(shè)、營造良好數(shù)字生態(tài)的必然要求[2]。

生成式人工智能，作為近年來人工智能領(lǐng)域的重大技術(shù)突破，因其在自然語言表達和智力工作領(lǐng)域展現(xiàn)出的強大應(yīng)用能力而受到廣泛關(guān)注。根據(jù)我國國家網(wǎng)信辦在2023年7月13日發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》（下稱《管理辦法》）的規(guī)定，生成式人工智能是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)[3]。《2022 聯(lián)合國電子政務(wù)調(diào)查報告》顯示，全球政府數(shù)字化轉(zhuǎn)型正在快速推進。從2020年的0.598 8提升到2022年的0.610 2，成員國電子政務(wù)發(fā)展指數(shù)（EGDI）平均值呈現(xiàn)上升趨勢。此外，高水平以上評分的國家數(shù)量持續(xù)增加，占聯(lián)合國成員國的69%，顯示了全球電子政務(wù)水平的持續(xù)提高[4]。

繼2022年11月美國OpenAI公司推出聊天機器人程序ChatGPT之后，國內(nèi)多家互聯(lián)網(wǎng)科技公司也陸續(xù)推出了生成式人工智能產(chǎn)品，例如百度的文心一言、阿里巴巴的通義千問、華為的盤古大模型等[5]。政府數(shù)字化轉(zhuǎn)型作為引領(lǐng)各國政府走向現(xiàn)代化、高效化、智能化的必經(jīng)之路，已經(jīng)得到越來越多實踐的驗證[6]。近年來，北京、上海、廣東等地推進“接訴即辦”“一網(wǎng)通辦”“一網(wǎng)統(tǒng)管”等改革，在數(shù)字技術(shù)應(yīng)用中強化了政府跨地域、跨層級、跨部門的聯(lián)動，證明了數(shù)字技術(shù)能夠在比工具性賦能更深刻的體制機制層面提升政府治理能力。《管理辦法》的出臺也從側(cè)面說明了國家對生成式人工智能發(fā)展持支持和鼓勵的態(tài)度?；诖?，本文將對生成式人工智能技術(shù)如何推動數(shù)字政府建設(shè)、國內(nèi)外相關(guān)實踐、具有的風險以及治理進路展開探討。

1 功能實現(xiàn)：生成式人工智能輔助數(shù)字政府建設(shè)的現(xiàn)實可行性

生成式人工智能具有獨特的深度學習和內(nèi)容生產(chǎn)能力。它不僅可以提取信息，還可以利用現(xiàn)有的數(shù)字內(nèi)容來創(chuàng)建反饋模型，并從中學習模式和分布[7]，實現(xiàn)學習遷移和零樣本能力。數(shù)字政府建設(shè)是一個全面而復(fù)雜的系統(tǒng)工程，其超越了“信息化+政府管理”的基礎(chǔ)模式。生成式人工智能的融入與政府的公共服務(wù)職能緊密相連，為政府決策提供了強大的支持，有助于規(guī)避傳統(tǒng)決策中的風險，提高政府的運營效率。

1.1 提升數(shù)字政府決策的科學性

生成式人工智能可以幫助數(shù)字政府從海量的數(shù)據(jù)中提取有價值的信息，還能發(fā)現(xiàn)數(shù)據(jù)中隱藏的模式和趨勢，并從中提取出對決策具有重要參考價值的信息。這有助于數(shù)字政府準確把握政策環(huán)境、預(yù)測社會發(fā)展趨勢，為決策提供科學的依據(jù)[8]。構(gòu)建智能決策支持系統(tǒng)，通過融合多種數(shù)據(jù)和算法模型，基于歷史數(shù)據(jù)和實時數(shù)據(jù)進行分析，幫助決策者識別和評估不同決策方案的風險和潛在影響，提供優(yōu)化的決策方案，使數(shù)字政府能夠避免主觀偏見的干擾，提高決策的科學性和客觀性。

2024年5月11日美國加州政府宣布，正在測試ChatGPT等生成式人工智能工具在稅收和收費管理部、交通部、公共衛(wèi)生部以衛(wèi)生與公眾服務(wù)部四大部門的應(yīng)用。據(jù)加州交通主管Toks Omishakin 介紹，平均每天有12名加州人在公路上喪生，因此利用生成式人工智能等工具來改善交通安全問題至關(guān)重要。通過集成生成式人工智能監(jiān)控系統(tǒng)，交通部門可以實時分析交通數(shù)據(jù)，監(jiān)測交通流量和行為模式，并識別潛在的危險行為和交通擁堵情況。一旦發(fā)現(xiàn)潛在風險，可以立即通知附近的司機，從而減輕交通壓力。此外，在稅收和收費管理領(lǐng)域，生成式人工智能也能發(fā)揮重要作用。通過開發(fā)虛擬助手，生成式人工智能可以分析納稅申報，比對歷史數(shù)據(jù)，檢測異常模式，并識別可疑活動。同時，還可以利用生成式人工智能開發(fā)出虛擬稅務(wù)顧問，為民眾提供7×24小時的自助咨詢服務(wù)，解答有關(guān)稅率、抵扣、退稅和合規(guī)性等問題，還能根據(jù)最新的稅法變動進行實時更新。

1.2 實現(xiàn)數(shù)字政府治理的精準性

大數(shù)據(jù)時代，政府所面臨的數(shù)據(jù)十分龐大。生成式人工智能技術(shù)通過訓練模型和算法，自動發(fā)現(xiàn)數(shù)據(jù)中的模式、趨勢和關(guān)聯(lián)性，提供數(shù)據(jù)驅(qū)動的決策依據(jù)。利用數(shù)據(jù)驅(qū)動進行治理，可以更準確地了解社會、經(jīng)濟和環(huán)境狀況，從而發(fā)現(xiàn)問題并制定政策，提供精準的公共服務(wù)。其次，生成式人工智能可以幫助數(shù)字政府實現(xiàn)個性化和定制化的治理。政府面對的問題和需求在不同的行政相對人之間存在差異，生成式人工智能技術(shù)通過分析和挖掘數(shù)據(jù)，能夠為行政相對人提供個性化的服務(wù)。

新加坡政府推出一款面向公職人員的人工智能驅(qū)動的“AISAY”文檔閱讀器，可以自動檢測、掃描和理解各種文檔，包括手寫筆記、印刷文章、結(jié)構(gòu)化或非結(jié)構(gòu)化文檔等，還能自動填寫表單的關(guān)鍵數(shù)據(jù)，減少手動錯誤，提高數(shù)據(jù)識別準確性。美國數(shù)字政府采用“場景化”模式構(gòu)建網(wǎng)站幫助用戶高效查找，以快速滿足公眾需求。通過將服務(wù)群體細分，強化基于事件和特定地點的個性化服務(wù)。通過對社交媒體數(shù)據(jù)的分析，政府可以把握民意、輿論和需求，更好地回應(yīng)社會訴求。深圳市實行的“多證合一、一證一碼”改革已走在我國前列，其通過整合跨部門的業(yè)務(wù)流程并共享數(shù)據(jù)，遵循政務(wù)服務(wù)便捷化和數(shù)字化改革的要求，致力于構(gòu)建全流程網(wǎng)上業(yè)務(wù)辦理體系。打造了安全可靠的政務(wù)云、開放共享的大數(shù)據(jù)中心以及一體化的網(wǎng)上政務(wù)服務(wù)平臺。

1.3 推動數(shù)字政府服務(wù)的高效性

首先，通過自動化工作流程和機器學習算法，生成式人工智能可以用于自動化審批流程，例如自動審核文件等。政府可以實現(xiàn)更高效的審批流程，減少人為錯誤和延誤。其次，傳統(tǒng)的政府服務(wù)常常需要公民在柜臺或電話中與工作人員進行交互，但這種方式往往效率低下，還容易出現(xiàn)延誤和信息丟失。而引入生成式人工智能技術(shù)，利用自然語言處理和語音識別功能，可以實現(xiàn)智能化的交互方式。

英國政府利用高質(zhì)量數(shù)據(jù)推進數(shù)字化政府建設(shè)，并致力于促進各部門更簡便地共享和利用數(shù)據(jù)，以提高政策和服務(wù)的效率；還將通過獲得用戶同意的高質(zhì)量在線互動數(shù)據(jù)用于優(yōu)化政策以及立法，促進數(shù)據(jù)要素的流動與創(chuàng)新。目前我國多個省市使用智慧政務(wù)，讓機器人“上崗”為市民和企業(yè)辦事提供更加智慧、便捷的服務(wù)。例如上海市松江政務(wù)服務(wù)中心的“小智”，長沙市天心區(qū)政務(wù)大廳的RPA機器人“小天”，通過語音和觸摸屏與辦事人進行實時互動，實現(xiàn)了主動問候迎賓、業(yè)務(wù)辦理引導、資訊推送輪播、智能交互解答等功能。同時依托專業(yè)的政務(wù)服務(wù)知識庫，向來訪辦事群眾提供進廳業(yè)務(wù)咨詢、指引帶路、取號排隊協(xié)助等多場景政務(wù)服務(wù)，這種高效的智能服務(wù)模式，做到一人分飾多角，有利于解決群眾咨詢量大、重復(fù)性強的問題，從而實現(xiàn)高質(zhì)量的“一次性告知”。

2 應(yīng)用風險：生成式人工智能輔助數(shù)字政府建設(shè)的安全隱患

2.1 數(shù)據(jù)信息安全風險

2.1.1 以數(shù)據(jù)內(nèi)容為參照

生成式人工智能應(yīng)用中所涉數(shù)據(jù)可能包含個人隱私甚至政務(wù)信息、國家數(shù)據(jù)等。將生成式人工智能技術(shù)應(yīng)用于數(shù)字政府建設(shè)中，意味著需要將關(guān)鍵基礎(chǔ)信息的使用和處理權(quán)交予數(shù)字平臺處置，數(shù)字平臺稍有不慎極易引發(fā)大規(guī)模信息泄露，威脅國家信息安全。首先，人工智能技術(shù)在數(shù)字政府中的應(yīng)用需要處理大量的個人信息，如身份信息、聯(lián)系方式、教育工作信息等。這些信息具有敏感性，一旦數(shù)據(jù)泄露或未得到正確處理，可能侵犯個人隱私權(quán)甚至導致身份盜竊等問題。其次，在數(shù)字政府建設(shè)過程中，政務(wù)處理以及行政執(zhí)法流程中的政務(wù)數(shù)據(jù)[9]，可能成為不當收集的對象，這些數(shù)據(jù)中不僅涉及政務(wù)信息，甚至包含有關(guān)國家安全的信息，一旦被泄漏可能對國家安全造成嚴重威脅。

2.1.2 以技術(shù)階段為參照

生成式人工智能在運作的全流程特別是在數(shù)據(jù)收集、分析和文本生成階段，都伴隨著潛在的數(shù)據(jù)安全風險。首先，在數(shù)據(jù)收集階段，由于技術(shù)的自動化，可能無意識地收集到個人敏感信息，如上網(wǎng)記錄、消費行為和行程軌跡等[10]。這些信息一旦被不當使用，就可能成為個人隱私泄露的源頭。其次，在數(shù)據(jù)分析階段，雖然生成式人工智能依賴于大量的數(shù)據(jù)來優(yōu)化其性能，但由于其邏輯分析能力尚未達到人類水平，可能存在誤判和生成虛假信息的風險。這不僅會影響決策的準確性，還可能加劇數(shù)據(jù)安全的風險。最后，在文本生成階段，生成式人工智能在接收到指令并生成文本時，如果原數(shù)據(jù)中包含個人隱私或機密信息，且系統(tǒng)缺乏相應(yīng)的過濾和保護機制，那么這些敏感信息就可能被公開，導致用戶面臨重大的數(shù)據(jù)泄露風險。

2.2 社會秩序紊亂風險

2.2.1 算法歧視導致決策不公正

在實踐中，算法歧視可能表現(xiàn)為多種基本樣態(tài)，常見的包括：數(shù)據(jù)偏見、特征選擇偏見、標簽偏見等[11]。數(shù)字政府通過生成式人工智能提供福利分配、就業(yè)機會、公共資源分配等服務(wù)。如果算法存在歧視，就會導致對某些群體的不公平對待，加劇社會不平等，這與我國行政法規(guī)定的平等原則相悖。其次，在數(shù)字政府決策中，生成式人工智能往往基于數(shù)據(jù)和算法，如果算法存在偏見，可能導致政府決策會偏向某些群體或地區(qū)，從而忽視其他群體的利益，加劇社會緊張和不穩(wěn)定。生成式人工智能作為技術(shù)中介將社會現(xiàn)實與行政權(quán)連接，進而成為數(shù)字時代行政權(quán)面向社會大眾的數(shù)字化窗口，但若生成式人工智能算法中存在歧視與偏見，會直接影響政府決策的中立性與公正性。

2.2.2 算法黑箱挑戰(zhàn)行政透明度

算法黑箱指的是算法缺乏透明度和可解釋性，其內(nèi)部運行機制和決策過程對外部用戶不可見或難以理解。算法黑箱的不可解釋性使得數(shù)字政府決策的結(jié)果可能變得不可預(yù)測，導致公民無法準確了解決策的依據(jù)和邏輯，難以預(yù)測政策實施的影響和后果，從而造成政府的信賴流失[12]。并且由于算法黑箱的不透明性，數(shù)字政府在決策和行動中可能難以追溯到具體的責任人和決策，導致責任不明確，增加了政府層面法律和道德風險。此外，由于公民無法了解算法的內(nèi)部工作原理，也無法提出有效的改進建議或反饋意見，使得算法難以進行優(yōu)化和升級，從而使得數(shù)字政府無法根據(jù)形勢及時、迅速作出改變。在生成式人工智能輔助實施及實施后的階段中，算法黑箱與行政公開性原則相背離。

2.3 行政權(quán)力失信風險

2.3.1 技術(shù)資本削弱政府權(quán)威

隨著生成式人工智能技術(shù)在數(shù)字政府運行全過程中的廣泛應(yīng)用，政府對數(shù)字技術(shù)的依賴也日益增強。當前，數(shù)字政府決策主要依賴于技術(shù)資本主體構(gòu)建的各個數(shù)據(jù)庫資源，例如，阿里云成立了智能數(shù)字政府事業(yè)部，提供云計算、大數(shù)據(jù)、人工智能等技術(shù)服務(wù)。中國信息通信研究院還與阿里云簽署了《數(shù)字政府協(xié)同推進框架合作協(xié)議》，充分發(fā)揮雙方資源優(yōu)勢，在政務(wù)基礎(chǔ)設(shè)施建設(shè)等方面共同推動成果輸出，為政府行業(yè)持續(xù)賦能。

一方面，技術(shù)資本往往擁有豐富的數(shù)據(jù)資源和領(lǐng)先的數(shù)據(jù)處理能力，這使得其在數(shù)字政府的數(shù)據(jù)采集、處理和分析方面具有較大的控制權(quán)。因此如果政府過度依賴技術(shù)資本提供的數(shù)據(jù)和技術(shù)，可能會導致技術(shù)資本對政府數(shù)據(jù)基礎(chǔ)設(shè)施的控制增強，削弱政府對數(shù)據(jù)資源的主導地位。另一方面技術(shù)資本往往掌握著先進的技術(shù)和專利，擁有雄厚的技術(shù)研發(fā)實力和市場份額，這使得其在數(shù)字政府的技術(shù)采購和應(yīng)用方面具有較大的話語權(quán)。政府過度依賴技術(shù)資本提供的技術(shù)解決方案，可能會導致技術(shù)壟斷現(xiàn)象的加劇，削弱政府自主選擇技術(shù)路徑的能力。

2.3.2 多元主體導致責任模糊

數(shù)字政府在運用生成式人工智能時，責任承擔涉及政府、技術(shù)平臺以及公民等多個主體。一方面，政府作為主體和決策者，負責制定政策來規(guī)范生成式人工智能應(yīng)用的標準和流程，確保技術(shù)平臺的合法性、公正性和透明度。另一方面，技術(shù)平臺應(yīng)該對其算法的選擇、數(shù)據(jù)的使用等方面負責，確保技術(shù)平臺的安全性、準確性和公正性。這與傳統(tǒng)的行政法中行政主體與行政相對人的法律關(guān)系不同，技術(shù)平臺負有保證義務(wù)，成為法律責任承擔的新興主體[13]?！秱€人信息保護法》確立了算法自動化決策治理的基本框架，要求平臺對自動化決策的過程和結(jié)果負責?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》對相關(guān)主體的法律責任和處罰權(quán)的歸屬進行了明確的規(guī)定。人工智能技術(shù)造成的問題，需要政府或技術(shù)企業(yè)根據(jù)具體情況承擔相應(yīng)的責任。但是，數(shù)字政府面臨的責任界定與普通互聯(lián)網(wǎng)平臺或傳統(tǒng)政府不同，可能會造成責任混同以及立法界定的缺失，導致責任主體不明而相互推卸責任，且現(xiàn)有的行政訴訟制度難以調(diào)整。如此一來，責任監(jiān)管難度加大，問責機制將陷入困境，受到損害的行政相對人難以尋求救濟，最終造成行政權(quán)力失信。

3 風險控制：生成式人工智能輔助數(shù)字政府建設(shè)的治理進路

建立有針對性的風險控制機制已成為建設(shè)數(shù)字法治政府的當務(wù)之急。如果不對數(shù)據(jù)信息安全風險、社會秩序紊亂風險、行政權(quán)力失信風險等進行有效控制，可能會使數(shù)字政府背離法治原則，導致公眾對數(shù)字政府建設(shè)產(chǎn)生信任危機。

3.1 社會治理：研發(fā)適于數(shù)字政府建設(shè)的自主平臺

3.1.1 提升自主研發(fā)能力，完善人才培養(yǎng)機制

生成式人工智能技術(shù)在人機交互、決策分析等領(lǐng)域有很大優(yōu)勢，但在數(shù)字政府建設(shè)中表現(xiàn)并不理想。建議提升自主研發(fā)能力，開發(fā)適合數(shù)字政府的模型應(yīng)用。研發(fā)自主平臺，需要解決技術(shù)和人才瓶頸。第一，政府可以投資建立自主研發(fā)平臺，專注研發(fā)數(shù)字政府建設(shè)所需的技術(shù)和工具。包括開發(fā)自主可控的類ChatGPT平臺，以及其他數(shù)字化技術(shù)的研發(fā)平臺。第二，通過提供政策和資金支持等方式，促進科研機構(gòu)和企業(yè)在數(shù)字政府領(lǐng)域加快進行技術(shù)創(chuàng)新，包括ChatGPT類技術(shù)、虛擬仿真技術(shù)、人機互動技術(shù)、安全防御技術(shù)等。第三，支持開源項目，促進技術(shù)共享合作，有助于加速數(shù)字政府建設(shè)所需技術(shù)的發(fā)展，減少對外部技術(shù)的依賴。第四，通過教育和培訓計劃，培養(yǎng)更多的專業(yè)人才，包括生成式人工智能、數(shù)據(jù)分析等方面的專業(yè)人才，以滿足數(shù)字政府建設(shè)的人才需求。在涉及生成式人工智能技術(shù)應(yīng)用的政府部門及崗位，應(yīng)盡量要求該崗位人員具備相關(guān)專業(yè)技能。

3.1.2 構(gòu)建整體協(xié)同的平臺支撐體系

《關(guān)于加強數(shù)字政府建設(shè)的指導意見》（以下簡稱《指導意見》）為數(shù)字政府的發(fā)展提供了指導和規(guī)劃。該文件在構(gòu)建智能集約平臺支撐體系方面作出明確部署，指出數(shù)字政府建設(shè)需要構(gòu)建智能集約平臺支撐體系，以促進數(shù)據(jù)共享和政府業(yè)務(wù)整體協(xié)同。為此，需要加強信息技術(shù)應(yīng)用創(chuàng)新，整合現(xiàn)有信息資源，全面夯實數(shù)字政府建設(shè)的基礎(chǔ)?！吨笇б庖姟诽岢鲆皹?gòu)建智能集約的平臺支撐體系”，對基礎(chǔ)設(shè)施賦予“智能”“集約”“融合”的新要求。以浙江省為例，該省借助“最多跑一次”改革，積極推動政務(wù)信息資源的整合與共享，通過“V”字型理論模型，有效打破了數(shù)據(jù)壁壘，實現(xiàn)了高頻事務(wù)的數(shù)據(jù)互通。山東省司法廳、自然資源廳、民政廳簽署信息共享協(xié)議，實現(xiàn)公證、不動產(chǎn)、婚姻登記數(shù)據(jù)共享[14]，依托政務(wù)信息共享網(wǎng)實現(xiàn)自動審核，便利公證服務(wù)。構(gòu)建整體協(xié)同的平臺支撐體系，有利于促進整體協(xié)調(diào)。數(shù)據(jù)共享，是提升政務(wù)工作效率和質(zhì)量的關(guān)鍵舉措[15]。

3.2 技術(shù)治理：破解算法困境，加強流程管理

3.2.1 強化數(shù)據(jù)與透明度管理

第一，加強數(shù)據(jù)多樣性與質(zhì)量控制。確保訓練數(shù)據(jù)集的多樣性和代表性，盡可能涵蓋各種群體的信息，以減少算法歧視的風險。同時，對數(shù)據(jù)進行質(zhì)量控制，排除不準確、不完整或有偏見的數(shù)據(jù)，以提高算法的準確性和公正性。第二，增強算法的透明度和可解釋性。數(shù)字政府運行過程中應(yīng)貫徹行政公開原則，使用模型解釋工具來分析模型的決策過程，例如局部和全局解釋方法、特征重要性分析等，以揭示模型的工作原理和預(yù)測依據(jù)；且決策過程對利益相關(guān)者可見。采用可解釋人工智能（XAI）技術(shù)，使算法的決策過程可解釋，包括決策依據(jù)、權(quán)重分配等，以便用戶和監(jiān)管機構(gòu)理解和審查算法的運行邏輯。設(shè)計算法或模型時應(yīng)考慮透明性，包括記錄模型訓練過程中的決策路徑、參數(shù)變化等信息，以便追溯和驗證模型的決策過程。

3.2.2 構(gòu)建審查與監(jiān)督機制

第一，建立相應(yīng)的審查機制，對算法進行定期審查和監(jiān)督。成立由專家組成的審查委員會或監(jiān)管部門，負責評估算法的設(shè)計、實施和運行，確保其符合道德、法律和公共政策的要求。第二，鼓勵社會各界參與平臺的設(shè)計、實施和監(jiān)督，積極聽取其反饋和建議。可以通過召開聽證會、宣傳講座以及開通留言渠道等形式，讓公眾參與到技術(shù)治理的過程中，促進公眾對數(shù)字政府的信任和接受度。第三，完善流程管理機制，確保平臺運行符合規(guī)定和標準。建立監(jiān)控系統(tǒng)，利用自動化技術(shù)對算法流程進行審查與實時監(jiān)測，識別潛在風險并提供警報或修復(fù)建議，從而減少人為錯誤和延誤。

3.3 規(guī)范治理：保障公民權(quán)利，促進技術(shù)法治融合

3.3.1 事前：完善立法保障機制

現(xiàn)行法律對于數(shù)字政府以及數(shù)據(jù)治理的規(guī)定相對零散，無法滿足數(shù)字服務(wù)需求。行政法應(yīng)結(jié)合數(shù)字化發(fā)展趨勢，確保制度的協(xié)調(diào)性和可行性，健全數(shù)字政府中的數(shù)據(jù)使用規(guī)則[16]。

首先，明確政務(wù)數(shù)據(jù)分級分類。由表1可知，現(xiàn)有法律尚無專門針對政務(wù)領(lǐng)域的統(tǒng)一數(shù)據(jù)分級分類規(guī)定，建議在《數(shù)據(jù)安全法》和《個人信息保護法》的基礎(chǔ)上制定數(shù)據(jù)分級分類規(guī)則。再根據(jù)數(shù)據(jù)分類規(guī)則進行數(shù)據(jù)風險識別，進而采取不同級別的應(yīng)對措施；還應(yīng)圍繞數(shù)據(jù)生命周期，在數(shù)據(jù)收集、儲存、處理、共享全環(huán)節(jié)建立動態(tài)的數(shù)據(jù)安全保護體系。

其次，建立政務(wù)數(shù)據(jù)處理規(guī)則。就個人信息保護而言，《個人信息保護法》雖然包含了國家機關(guān)處理個人信息的特別規(guī)定，但是相關(guān)內(nèi)容過于籠統(tǒng)和簡單，存在著一定的不明確性，需要通過專門立法進一步明確行政機關(guān)處理個人信息的規(guī)則[17]。應(yīng)確保行政機關(guān)對個人信息的采集具備合法性、正當性、必要性，以及細化到信息處理的具體規(guī)則、信息主體享有的權(quán)利、國家機關(guān)違法處理個人信息應(yīng)當承擔的責任等關(guān)鍵問題。就政務(wù)數(shù)據(jù)共享和開放而言，《數(shù)據(jù)安全法》雖然設(shè)立了“政務(wù)數(shù)據(jù)安全與開放”專章，但相關(guān)規(guī)定過于籠統(tǒng)，未形成清晰明確的操作指引，導致地方進行立法探索時出現(xiàn)基礎(chǔ)性制度缺失的問題[18]。未來應(yīng)準確界定公共數(shù)據(jù)范圍，明確數(shù)據(jù)共享和開放的規(guī)則，建立激勵和監(jiān)督問責機制，以確保公共數(shù)據(jù)的合理利用，避免可能帶來的風險和挑戰(zhàn)。

3.3.2 事中：加強監(jiān)管保障機制

目前數(shù)據(jù)信息的監(jiān)督機構(gòu)和權(quán)力配置問題亟需解決。現(xiàn)有規(guī)范中的監(jiān)督機構(gòu)規(guī)定零散，例如《個人信息保護法》第68條規(guī)定了國家機關(guān)不履行個人信息保護義務(wù)的，由其上級機關(guān)或者履行個人信息保護職責的部門責令改正；對直接負責的主管人員和其他直接責任人員依法給予處分[19]；《數(shù)據(jù)安全法》賦予各行業(yè)、地區(qū)主管部門監(jiān)管權(quán)。一些地方性法規(guī)規(guī)定“大數(shù)據(jù)主管部門”負責政府數(shù)據(jù)治理。而將大數(shù)據(jù)發(fā)展部門同時作為監(jiān)督問責主體可能會影響公正性。因此，應(yīng)當貫徹職能分離原則，由專門的風險規(guī)制機構(gòu)負責監(jiān)督和問責，確保中立性[20]。需將系統(tǒng)性理念和風險規(guī)制邏輯融入數(shù)字政府平臺，由政務(wù)數(shù)據(jù)管理機構(gòu)制定規(guī)范和指引，行政機關(guān)設(shè)置專業(yè)職位進行評估審查，最后通過協(xié)調(diào)機構(gòu)形成統(tǒng)一風險管理標準。例如，美國通過《2018年循證決策基礎(chǔ)法》設(shè)立政府首席數(shù)據(jù)官的協(xié)調(diào)網(wǎng)絡(luò)，確立數(shù)據(jù)共享最佳實踐，促進了不同部門間的溝通、交流和協(xié)調(diào)[21]。在此過程中可以充分發(fā)揮數(shù)字系統(tǒng)的自身優(yōu)勢，以探索更多元化的監(jiān)督手段。例如，《法治政府建設(shè)實施綱要（2021-2025年）》提倡搭建統(tǒng)一公開數(shù)字查詢平臺，便于公眾監(jiān)督[22]。在地方層面，如浙江省推行“行政行為碼”制度，利用數(shù)字化監(jiān)管應(yīng)用生成不可篡改的監(jiān)管代碼，實現(xiàn)全程監(jiān)管和復(fù)盤。

3.3.3 事后：健全司法救濟機制

在生成式人工智能輔助數(shù)字政府建設(shè)時，需將行政法權(quán)責一致的原則貫穿其全過程，確保行政行為的可問責性，使得公民遭受行政行為侵權(quán)時能夠有效得到救濟，保障公民的基本權(quán)利。

首先，厘清責任主體。政府與技術(shù)提供企業(yè)之間簽訂明確的行政協(xié)議，約定雙方的責任和義務(wù)。行政協(xié)議中應(yīng)包括數(shù)據(jù)安全、隱私保護、服務(wù)質(zhì)量、風險分擔等方面的內(nèi)容[23]，以確保各方的權(quán)益得到有效保障。在責任分配上，數(shù)字政府平臺運行中，其性質(zhì)應(yīng)被視為行政機關(guān)行使行政權(quán)力的延伸，而非獨立的主體。因此，系統(tǒng)運行過程中所產(chǎn)生的法律后果應(yīng)由行政機關(guān)承擔。行政機關(guān)依據(jù)法律或協(xié)議規(guī)定，向技術(shù)提供企業(yè)進行追責。

其次，保障救濟途徑。在人工智能輔助數(shù)字政府建設(shè)過程中，公民面臨的數(shù)據(jù)與信息權(quán)挑戰(zhàn)愈加明顯，司法救濟成為維護公民權(quán)益的重要手段。因此，應(yīng)當完善相應(yīng)的行政復(fù)議、行政訴訟和國家賠償機制。第一，在確定復(fù)議被申請人或訴訟被告時，應(yīng)當基于行政法高效便民原則。譬如行政訴訟中，行政相對人可選擇行政機關(guān)或技術(shù)提供企業(yè)作為被告，若兩者之間簽訂行政協(xié)議，則可根據(jù)協(xié)議確定被告。法院在審理時可將另一主體列為第三人[24]。第二，考慮采用更有利于被害人的舉證制度，以確保其權(quán)益得到有效保護。一種可能的做法是采用過錯推定制或舉證責任倒置。由侵權(quán)方來承擔舉證責任，證明其沒有侵害個人信息的行為。同時，數(shù)字化技術(shù)也可以為司法救濟提供支持。例如，利用區(qū)塊鏈技術(shù)和智能合約建立全鏈條的數(shù)字證據(jù)體系，確保司法救濟過程的公正和透明。第三，通過完善國家賠償制度，增加侵害行為的成本，杜絕行政機關(guān)及其工作人員的違法行為發(fā)生，保障行政相對人的權(quán)益[25]。

4 結(jié)語

在數(shù)字政府的建設(shè)過程中，生成式人工智能擁有顯著的技術(shù)優(yōu)勢。為了有效應(yīng)對這一優(yōu)勢帶來的挑戰(zhàn)，需要綜合考慮技術(shù)賦能、應(yīng)用風險以及風險規(guī)制等方面的因素，從根本上解決生成式人工智能技術(shù)帶來的各種問題，確保數(shù)字政府現(xiàn)代化建設(shè)能夠持續(xù)健康發(fā)展。實踐表明，生成式人工智能技術(shù)助推數(shù)字政府現(xiàn)代化建設(shè)可以使數(shù)字政府決策更加科學化、數(shù)字政府治理更加精準化、數(shù)字政府服務(wù)更加高效化，但也可能誘發(fā)數(shù)據(jù)信息安全風險、社會秩序紊亂風險，以及行政權(quán)力失信風險等，解決這些問題亟須從社會治理、技術(shù)治理、規(guī)范治理方面進行風險控制。綜上所述，為了在推動數(shù)字政府創(chuàng)新發(fā)展過程中充分利用人工智能技術(shù)，我們必須始終遵循法治原則，在了解人工智能技術(shù)發(fā)展規(guī)律的基礎(chǔ)上，通過法治化手段來規(guī)避技術(shù)風險，從而讓人工智能技術(shù)更好地服務(wù)于我國數(shù)字政府建設(shè)現(xiàn)代化的發(fā)展要求。

參考文獻

參考文獻：

[1] 朱嫣丹.類ChatGPT模型輔助數(shù)字政府建設(shè)的可能、風險與模式[J].企業(yè)經(jīng)濟，2024，43（4）：64-74.

［2］ 邵景均.以人民為中心加強數(shù)字政府建設(shè)[J].中國行政管理，2022（7）：5.

［3］ 歐陽日輝.生成式人工智能與金融業(yè)深度融合：理論機理及發(fā)展路徑[J].求索，2024（1）：57-65.

［4］ 李興騰.部分國家政府數(shù)字化轉(zhuǎn)型實踐及啟示[J].通信企業(yè)管理，2024（2）：56-59.

［5］ 徐繼敏.生成式人工智能治理原則與法律策略[J].理論與改革，2023（5）：72-83.

［6］ 張夏恒.類 ChatGPT人工智能技術(shù)嵌入數(shù)字政府治理：價值、風險及其防控[J].電子政務(wù)，2023（4）：45-56.

［7］ 畢文軒.生成式人工智能的風險規(guī)制困境及其化解：以ChatGPT的規(guī)制為視角[J].比較法研究，2023（3）：155-172.

［8］ 左崇良.大數(shù)據(jù)背景下高等教育管理信息化創(chuàng)新路徑研究[C].延安市教育學會.第四屆創(chuàng)新教育與發(fā)展學術(shù)會議論文集（一）.衡陽師范學院，2023.

［9］ 周佑勇.健全行政裁量基準的新使命新任務(wù)[J].行政法學研究，2023（1）：18-22.

［10］ 吳宗憲，肖艷秋.生成式人工智能的應(yīng)用、風險與法律回應(yīng)——以ChatGPT為視角[J].天津師范大學學報（社會科學版），2024（3）：12-20.

［11］ 鄭智航，徐昭曦.大數(shù)據(jù)時代算法歧視的法律規(guī)制與司法審查：以美國法律實踐為例[J].比較法研究，2019（4）：111-122.

［12］ 馮子軒.智能行政執(zhí)法的過程機理及其沖突調(diào)適[J].行政法學研究，2022（6）：75-85.

［13］ 彭簫劍.平臺型政府及行政法律關(guān)系初論[J].蘭州學刊，2020（7）：54-72.

［14］ 鄭愛軍.政務(wù)信息資源整合共享：數(shù)字政府的創(chuàng)新與實踐[J].數(shù)字經(jīng)濟，2024（4）：30-33.

［15］ 北京大學課題組，黃璜.平臺驅(qū)動的數(shù)字政府：能力、轉(zhuǎn)型與現(xiàn)代化[J].電子政務(wù)，2020（7）：2-30.

［16］ 陳可翔.數(shù)字時代公共服務(wù)行政法構(gòu)建的法理及進路[J].中外法學，2024，36（3）：627-647.

［17］ 馬懷德.數(shù)字法治政府的內(nèi)涵特征、基本原則及建設(shè)路徑[J].華東政法大學學報，2024（3）：6-22.

［18］ 王錫鋅，王融.公共數(shù)據(jù)概念的擴張及其檢討[J].華東政法大學學報，2023，26（4）：17-27.

［19］ 張濤.個人信息保護中獨立監(jiān)管機構(gòu)的組織法構(gòu)造[J].河北法學，2022，40（7）：91-118.

［20］ 王貴松.風險行政的組織法構(gòu)造[J].法商研究，2016，33（6）：13-23.

［21］ 張濤.數(shù)據(jù)治理的組織法構(gòu)造：以政府首席數(shù)據(jù)官制度為視角[J].電子政務(wù)，2021（9）：58-72.

［22］ 賀芳.人工智能生成內(nèi)容的發(fā)展趨勢、風險與善治[J].科技創(chuàng)業(yè)月刊，2023，36（12）：104-108.

［23］ 王張華，周夢婷，顏佳華.互聯(lián)網(wǎng)企業(yè)參與數(shù)字政府建設(shè)：角色定位與制度安排——基于角色理論的分析[J].電子政務(wù)，2021（11）：45-55.

［24］ 王錫鋅.政務(wù)數(shù)據(jù)匯集的風險及其法律控制[J].華東政法大學學報，2024（3）：23-38.

［25］ 葉戰(zhàn)備，閆釗.個人信息保護的行政規(guī)制：實踐檢視及完善路徑[J].中共山西省委黨校學報，2024，47（2）：82-86.

（責任編輯：李苗苗）