龐 洋

(東北師范大學 馬克思主義學院,長春 130024;哈爾濱職業(yè)技術學院 馬克思主義學院,哈爾濱 150081)

黨的十九屆四中全會提出“建立健全運用互聯(lián)網、大數據、人工智能等技術手段進行行政管理的制度規(guī)則”,而數字政府建設的持續(xù)推進需要不斷利用新的技術革命成果。繼2022年11月美國OpenAI公司推出聊天機器人程序ChatGPT(Chat Generative Pre-trained Transformer)之后,國內多家互聯(lián)網科技公司也陸續(xù)推出了更多的生成式人工智能產品,例如百度的文心一言、阿里巴巴的通義千問、華為的盤古大模型等。這些產品的核心技術支撐被統(tǒng)稱為生成式人工智能。按照國家互聯(lián)網信息辦公室2023年4月11日發(fā)布的《生成式人工智能服務管理辦法(征求意見稿)》第二條的表述,生成式人工智能是指“基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內容的技術”;2023年7月10日正式出臺的《生成式人工智能服務管理暫行辦法》則在附則中說明,生成式人工智能技術是指“具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術”。

目前學界對生成式人工智能的探討主要關注兩大方面:一是生成式人工智能在各行各業(yè)的應用前景,其中討論最多的是生成式人工智能為教育領域革新創(chuàng)造的機遇[1-3];二是生成式人工智能的應用可能引發(fā)的風險,備受關注的大致包括著作權風險[4]16-33、國家安全風險[5]、法律規(guī)制風險[4]16-33;[6]等?？傮w來看,目前關于生成式人工智能的研究主要還是以ChatGPT為核心而展開的,且鮮少涉及數字政府建設領域(1)盡管也有學者對生成式人工智能在數字政府建設領域的應用展開了初步探討,但他們也主要是圍繞ChatGPT來展開的。其中,比較具有代表性的論文主要有兩篇:周智博.ChatGPT模型引入我國數字政府建設:功能、風險及其規(guī)制[J].山東大學學報(哲學社會科學版),2023(3):144-154;張夏恒.類ChatGPT人工智能技術嵌入數字政府治理:價值、風險及其防控[J].電子政務,2023(4):45-56.。但事實上,ChatGPT并不對中國用戶開放,從嚴格意義上講,“將ChatGPT運用到我國數字政府建設中”可能并不切合實際。不過,以ChatGPT為基礎原型,越來越多的生成式人工智能產品開始涌現,因而,生成式人工智能進入我國數字政府建設中不僅是大勢所趨,更是數字政府建設本身技術革新的需求所在。因此,我國數字政府建設的技術突破應當著眼于ChatGPT之后衍生的一系列生成式人工智能產品?！渡墒饺斯ぶ悄芊展芾頃盒修k法》的出臺也從側面說明了國家對生成式人工智能發(fā)展“支持和鼓勵”的主基調。在此背景下,探討如何利用生成式人工智能技術來推進數字政府建設,從而為新時代國家治理現代化提供最新的技術驅動,就具有重要意義。

一、數字政府的技術迭代與能力攀升——生成式人工智能的現實作用

生成式人工智能在自然語言理解和處理、內容生成、知識更新三個方面實現了較大跨度的技術升級。將生成式人工智能運用到數字政府建設中,能夠克服以往人工智能的諸多弊端,促進政府服務能力的提升,從而更高效地實現社會治理目標。

(一)“身臨其境”——數字政府借助生成式人工智能實現溝通升級

在以往人工智能技術的運用中,存在一個很明顯的缺陷,即機器算法僅能夠根據對話者的提問而從已有的答案數據庫當中提取相關回答,這些回答是由設計者根據各種可能的情境而提前設置好并內嵌于智能算法之內的,其問題在于:一方面,這種弱人工智能往往并不能真正有效地理解對話者提出的問題,可能產生錯誤理解;另一方面,對話者提出的個性化問題往往并不能得到解決,凸顯出“人工智能不智能”的窘境。而生成式人工智能通過“基于人類反饋的強化學習技術”(Reinforcement Learning with Human Feedback,RLHF),在對自然語言的理解和處理上實現了技術躍遷。RLHF技術一方面使得人工智能算法能夠清晰地理解用戶的提問,另一方面通過模仿人類思維的聯(lián)想和關注機制而使得生成式人工智能作出的回答能夠與人類思維一致,不僅能夠回應一般性問題,還能有效解決對話者提出的個性化問題。生成式人工智能的這種技術躍遷在數字政府建設的內、外兩個層面上都能有效輔助政府提供公共服務。

在數字政府建設的內部層面上,生成式人工智能的自然語言理解能力和處理能力的提升有助于政府內部不同部門之間協(xié)調溝通,破除“部門孤島”和“數據孤島”現象。數字政府建設的一大特征在于政府部門之間公共數據開放共享,由數據驅動部門間協(xié)調能力的提升,從而更好地為公眾提供服務。但在數字政府建設初期,“數據孤島”問題給部門間數據溝通和協(xié)調造成了較大困擾[7]。利用生成式人工智能,不僅可實現各個部門之間的數據聯(lián)結,還能以自然語言方式向有使用需求的其他部門人員闡明專業(yè)性部門的數據,從而打破不同部門工作人員之間的專業(yè)知識壁壘和專業(yè)語言壁壘。

在數字政府建設的外部層面上,生成式人工智能的自然語言理解和處理能力有助于節(jié)省政府人力成本,有效提升政府對外公共服務效能。其一,如上所述,囿于弱人工智能的技術限制,當前很多地區(qū)的數字政府服務存在“人工智能不智能”的問題。面對公眾復雜的公共服務需求,原有的智能算法技術并不能有效地理解人類語言,這就限制了智能技術參與公共服務的覆蓋面的擴展。而生成式人工智能則可以憑借自身超強的自然語言理解能力和生成能力,克服當前數字政府中機器翻譯、自動問答、智能服務等數字化政務服務項目對語言的理解能力的局限,從而提升智能化政務服務的質量和效率。其二,面對公眾個性化的服務需求,生成式人工智能基于RLHF技術,能夠輕松應對。譬如,在個人稅務辦理服務中,每個主體的專項扣除、專項附加扣除以及依法確定的其他扣除金額都不一樣,呈現出極大的個體化差異,而一般公眾又欠缺稅法知識和稅法運用能力,難以明晰自己的應扣除金額,部分情況下甚至因為對法律條文的不理解而放棄自己的專項附加扣除,減損了法律賦予納稅人的權益。生成式人工智能有助于解決公共服務中的這種個性化問題,通過與用戶的對話來不斷強化學習,并根據前后對話背景等給出有效反饋,從而促進數字政府從“對話智能體”(conversational agent)向“涉身對話智能”(embodied conversational agent)的轉型[8]145。

(二)量變質變——數字政府借助生成式人工智能實現效率進化

有研究發(fā)現,ChatGPT在文本理解和生成等自然語言處理任務上有較大的進步,如在文本修正能力、長文本輸出能力、生成內容個性化和輸出形式多元化等方面實現了技術的躍遷。從技術層面分析,這得益于深度神經網絡、大型語言研究模型的不斷發(fā)展,即海量數據加上巨大的算力催生了這樣一個大型語言模型。在一定程度上,也正是因為文本生成能力的躍遷,生成式人工智能對于促進數字政府建設、提升公共服務效果的積極作用更加顯著,其具體表現至少有以下四個方面:

第一,文本生成能力的躍遷有利于提高數字政府的治理效率。政府治理效率是指政府治理中產出與投入的比率。隨著我國行政體制的不斷改革,政府的行政管理效率不斷提高,但毋庸諱言,與民眾對政府效率的期待相比仍有差距,黨的二十大報告也提出要“提高行政效率”。如何更有效地提高政府治理效率,是我們必須面對的問題。實際上,生成式人工智能的應用便有利于促進上述需求的滿足和目標的實現。這是因為,以ChatGPT為代表的生成式人工智能為數字政府治理提供了新的工具,能夠讓公職人員較為輕松快速地展開工作、履行職能。在公職人員輸入工作需求后,系統(tǒng)能直接替他們進行資料總結甚至完成初稿寫作,把他們從煩瑣的文字工作中解放出來。當前,美國、英國、日本和新加坡等國政府部門已經明確發(fā)出了與ChatGPT合作的信號。以新加坡為例,政府正在開發(fā)一套類似于ChatGPT的系統(tǒng),以輔助公職人員草擬報告和演講稿等一系列政務文檔。這不僅可以有效提升政府部門工作效率,還能解決相關工作人員能力不足等問題。

第二,文本生成能力的躍遷有利于降低數字政府的管理成本。誠如學者所言:“政府治理成本反映在政府治理體系運行的方方面面,又以政府運行成本、資源配置成本及社會摩擦成本為主。政府治理成本支出的高效化是政府治理的核心,是公眾滿意的必要條件?！盵9]48具體而言,管理成本因文本生成能力躍遷而降低的表現有以下幾方面:一是降低學習成本。ChatGPT等生成式人工智能具有強大的文本生成能力,可以幫助行政機關更加輕松地獲取行政程序中所需要的相關文本和內容,而不需要再投入人力、物力、財力對行政人員進行某些專門培訓。二是降低組織成本。實際上,上文所言的治理效率的提升與組織成本的降低是事物的一體兩面,在效率明顯提高之后,自然就意味著人員和組織體系的精簡,就能夠大幅度降低政府組織成本和運行成本。三是降低維護成本。文本生成能力的自主自發(fā)性更強了,則學習過程無須人的介入就能靈活應用所學知識解決實際問題[10]。因此,并不需要再投入過多的成本來實現對文字生成能力的維護。而且,基于系統(tǒng)的高度智能化,還能降低行政管理過程中發(fā)生低級錯誤的概率,這也是降低維護成本的一大表現。

第三,文本生成能力的躍遷有利于增進數字政務的精細化。黨的二十大報告提出完善“精細化服務”。我國目前正處于全面深化改革的關鍵時期,人民的個性化需求不斷增多,這就要求我們轉變法治政府的治理思路,實現數字政府的精細化治理。實際上,人工智能文本生成能力的躍遷對于數字政府的精細化治理就大有裨益?！暗烷T檻、多元化、智能化始終是ChatGPT模型的最大優(yōu)勢,強大的語言算法系統(tǒng),能夠讓ChatGPT模型全方位了解不同學歷背景、不同年齡階段、不同專業(yè)能力的行政相對人需求?！盵8]147也就是說,生成式人工智能可在充分兼顧不同主體特征和需求的基礎上,根據提問者的不同問題和要求,智能化地生成相應文本內容。舉例而言,在數字政府行政過程中,生成式人工智能會在有效理解行政相對人和具體事實等個性化因素的基礎上生成規(guī)則與事實相融合的說理性文書內容,提升文書的說理性和精細化程度。此外,生成式人工智能融入數字政府后,文書的準確性和內容豐富性隨之增強,從而使政府的思路更為開闊,這也為數字政府的精細化奠定了重要基礎。

第四,文本生成能力的躍遷有利于控制數字政府的規(guī)模。政府規(guī)模是指各級政府和各個部門數量的總和?！皵底终?guī)模取決于數字政府對治理范圍、數量的界定及其政務的復雜程度,又與各級政府及各個部門在具體運行中涉及數據的分析與把握存在顯著的關聯(lián)。”[9]46在數字政府構建過程中,要注重對數字政府規(guī)模的控制,防止形成結構過于精簡或過于龐大的數字政府。實際上,文本生成能力是有效控制數字政府規(guī)模的重要技術支撐。這是因為,生成式人工智能可為數字政府提供以下方面的幫助:一是輔助性的資料收集、信息發(fā)布、行政問詢等政務工作可由生成式人工智能予以替代;二是諸多簡單的文書寫作工作可由生成式人工智能完成,如寫一些簡單的文件、方案、發(fā)言稿、匯報材料、總結材料等常規(guī)文稿不需要再由人工進行。當這些工作由生成式人工智能替代時,治理主體就可以從簡單事務中解放出來,繼而可以減少部分編制和工作人員數量,進一步實現行政機構的精簡化。

(三)知識升級——數字政府借助生成式人工智能實現認知躍遷

數字政府建設需要緊跟技術應用的發(fā)展,并借助新技術來及時應對新知識和新問題。傳統(tǒng)人工智能技術由于缺乏自主學習能力,在應對新的社會領域和問題時存在困難。而生成式人工智能在知識更新方面具有顯著優(yōu)勢,可在數字政府建設中助力應對新知識、新技術和新問題所帶來的挑戰(zhàn)。

首先,生成式人工智能的知識更新能力集中體現于其參數量的高速膨脹。這對于數字政府建設具有重要意義,因為這種知識更新能力有助于行政機關及時了解和學習新知識。以ChatGPT為例,其前身是2018年OpenAI公司發(fā)布的第一個GPT模型,它被稱為GPT-1。隨后的GPT-2、GPT-3、InstructGPT分別在2019年、2020年和2022年3月發(fā)布。每一代技術更新都帶來了不同的功能,從最初基于文本的回答逐漸升級到能夠回答基于圖像的問題。與技術更新相伴的是參數量的劇增,從GPT-1的1.17億個參數迅速膨脹到GPT-3的1 750億個參數。目前,ChatGPT使用了全球互聯(lián)網三分之二的數據來進行訓練,并且隨著知識的更新而不斷擴大數據范圍。除此之外,與傳統(tǒng)人工智能技術相比,生成式人工智能通過利用持續(xù)輸入的大量數據來獲取豐富的知識,不需要研究人員進行先期編程,而是通過使用合成的新數據來進行迭代訓練,從而改進模型的性能。這就意味著生成式人工智能能夠不斷升級自身,并以高效及時的方式進行知識的分析、歸納和輸出,從而滿足數字政府建設對新知識的需求。

其次,生成式人工智能的知識更新能力躍遷體現在其類比推理能力上。這一能力對數字政府建設具有重要意義,因為類比推理能夠幫助行政機關提升對新技術的運用和應對能力。生成式人工智能的類比推理能力是指其強大的抽象、歸納和拓展數據的能力。在缺乏一致性標準答案的情況下,通過這種類比推理可得出相應的結論。研究表明,生成式人工智能的類比推理通過整體計算的方式來解決問題,其能力源于訓練數據的海量規(guī)模和多樣性[11]。因此,行政機關面臨新技術的利益最大化與風險規(guī)避之間的權衡且無法根據現有經驗得出確定性結論時,可以運用生成式人工智能的類比推理能力,在智能社會治理中探索新技術的利用方式和規(guī)制方法。

最后,生成式人工智能的知識更新能力體現在其泛化能力上。這一能力對數字政府建設也有重要意義,因為這種泛化可幫助行政機關增強解決新問題的能力。生成式人工智能的“泛化能力”[12]是指其在新的數據和任務上的優(yōu)異表現,即能通過普適性、廣泛性和通用性的應用來實現多樣的任務。這意味著,在數字政府的實際應用中,生成式人工智能可依靠其泛化能力來應對復雜社會中的新問題,并借助學習和應用場景的遷移,在智能涌現的基礎上靈活應變,以應對不斷變化的情境。

二、數字政府運用生成式人工智能的前置基礎和倫理限制

為了確保生成式人工智能在數字政府建設中的技術賦能不偏離正確方向,必須明確生成式人工智能參與數字政府建設的目標導向。只有當生成式人工智能的實際應用與數字政府建設的目標導向一致時,才能確保技術的應用不會削弱人和國家的自主性。在數字政府建設中運用生成式人工智能技術的根本目標是建設人文數字政府,直接目標是實現高效的數字政府,而最終的長期目標則是構建智慧型數字政府。

(一)人民中心——數字政府與人文政府的交匯

目前,有關生成式人工智能對數字政府建設的作用的討論主要集中在提升政府效率上,包括提高決策效率、治理效率、服務效率和監(jiān)督效率[9]47-49。有學者指出:“利用數字化提升組織效率、擴展競爭機會雖然不錯,但是遠遠不夠。數字化建設應指向更廣的經濟和社會建設目標,服務于企業(yè)、居民及其經濟和社會問題解決,把人的創(chuàng)造性從被動的受控中釋放出來。”[13]

黨的二十大報告強調必須堅持人民至上,“站穩(wěn)人民立場、把握人民愿望、尊重人民創(chuàng)造、集中人民智慧”。這意味著,數字政府建設的根本目標是為人民群眾追求和向往美好生活服務,而實現這一目標的路徑在于堅持以人民為中心的發(fā)展理念,利用數字技術實現人的主體性、創(chuàng)造性和自主價值。通過建設人文數字政府,我們可以實現民眾參與、權益保障、社會公正和民生福祉的提升。

一方面,建設人文數字政府意味著人的價值在效率價值中占據優(yōu)勢地位。生成式人工智能參與數字政府建設的一個重要意義在于提升政府的工作效率。然而,在這一過程中,存在著人的尊嚴價值、隱私價值、自主意志與效率價值之間的張力。例如,作為一個大語言模型,ChatGPT的高效智能展現(scale up)離不開海量數據,而這些數據中不可避免地包含著未經同意而收集的大量個人敏感信息。在未經同意的情況下大量收集個人敏感信息嚴重侵犯了人的尊嚴價值。同時,生成式人工智能的回答質量與提問者提供的具體背景知識數量以及任務準確度之間存在著正相關關系。提問者提供的背景知識多、任務準確度高,生成式人工智能就能生成更高質量的答案。這意味著,生成式人工智能的效率價值往往是以犧牲人的隱私價值為代價的。在生成式人工智能參與數字政府建設的過程中,當與人相關的價值跟效率價值發(fā)生沖突,并且必須在二者之間作出選擇時,我們務必堅持“人的價值優(yōu)先”原則。此外,生成式人工智能的“智能”是基于大型模型的“涌現”,但是,“為何能夠涌現,其涌現的相變點受哪些因素影響,目前均為未知”[14]。在“涌現”原理未知且算法不可解釋的情況下,“數據偏差”“算法黑箱”等傳統(tǒng)問題仍然對人的尊嚴價值構成威脅。

另一方面,建設人文數字政府意味著公共倫理在技術資本運行邏輯中占據優(yōu)勢。目前,由于成本高昂,生成式人工智能產品主要是由微軟、谷歌、Meta、百度、阿里巴巴等國內外科技資本巨頭開發(fā)的。由于技術資本的邏輯與數字政府的人本建設邏輯、公共行政屬性和公共倫理價值追求之間存在緊張關系,生成式人工智能參與數字政府建設不可避免地面臨技術資本侵入的風險。一旦作為數字技術成果的生成式人工智能借助數字政府的公共權力平臺來為資本力量、資本增值服務,就會從根本上破壞數字政府建設的公共倫理,使得數字政府成為資本“俘獲”國家權力的橋梁,導致資本的價值取代人的價值。因此,生成式人工智能參與數字政府建設必須在“消除技術資本侵蝕公共倫理的風險”這一前提性基礎之上進行。

(二)效率優(yōu)化——數字政府與傳統(tǒng)政府的分離點

效率始終是現代國家治理追求的主要目標之一,也是現代數字科技賦能數字政府建設最為重要的領域。我國在數字政府建設歷程中,始終高度重視利用最新的數字科技成果來提升政府效率。就生成式人工智能而言,與以往的人工智能技術相比,其生成文本、圖片、音頻、視頻、PPT、算法等內容的強大能力優(yōu)勢可大幅度優(yōu)化數字政府的工作模式,以前所未有的力度促進數字政府的效率提升。因此,助力高效數字政府建設是生成式人工智能參與數字政府建設的直接目標和工作重心。具體來說,生成式人工智能的不同生成內容在不同領域有助于政府工作模式的優(yōu)化,從而促成高效數字政府建設目標的實現。

第一,生成式人工智能促進數字政府文本生成效率提升。生成式人工智能的文本生成能力助力高效數字政府建設主要體現于優(yōu)化政府內部文書工作模式和優(yōu)化政務服務對象政務文書填寫模式兩方面。一方面,優(yōu)化政府內部文書工作模式[15],提升文書生成和處理的效率。文書是行政信息的基本載體,行政信息的精準上傳下達都高度依賴于文書的生成效率和文字質量。其一,如果文書不能高效生成,就會導致行政信息傳輸的遲滯,影響行政目標的實現。將生成式人工智能引入政務文書撰寫流程,使之成為政府內部文書工作模式的組成部分,能夠有效提升文書生成效率。具體來說,在政府內部文書工作模式中,可以區(qū)分高度模式化的文書工作和個性化的文書工作。對于高度模式化文書的生成,可以充分發(fā)揮生成式人工智能的模式化文字生成能力優(yōu)勢,采取向生成式人工智能輸入基本信息而由生成式人工智能批量生成初稿的操作方式;對于個性化文書的生成,則仍然主要依靠傳統(tǒng)的文書撰寫模式。其二,如果文書不能精準表達需要承載的信息,就可能導致向上傳遞的行政信息被扭曲而對依賴精準信息來作出的行政決策造成負面影響,或者向下傳遞的行政信息被誤讀而使上層行政決策的意志無法得到準確貫徹。為了解決這一問題,行政機關內部文書工作模式中通常設置了人工校對環(huán)節(jié)。今后如將具有強大文字糾錯能力的生成式人工智能引入政務文書校對流程,作為文書校對的首道流程,顯然有助于提升政務文書的校對效率。另一方面,優(yōu)化政務服務對象政務文書填寫模式,提升辦事效率和政務服務效率。在政務服務中,服務對象通常需要通過文書方式向行政機關表達訴求。因此,政務服務對象也存在著了解政務文書撰寫要求、實際撰寫政務文書的需求。把掌握了海量信息的生成式人工智能以線上方式引入政務服務對象“了解政務文書撰寫要求”的環(huán)節(jié),能夠有效幫助政務服務對象隨時隨地迅速了解政務文書撰寫要求,以便及時準備好相應的材料,減少在此階段的溝通成本和交通成本。政務服務對象撰寫的政務文書中,模式化文書的比例較高,行政機關可以充分發(fā)揮生成式人工智能在模式化文字生成領域的優(yōu)勢,提供生成式人工智能輔助政務服務對象撰寫政務文書的技術性服務。

第二,生成式人工智能促進數字政府圖片、音頻、視頻、PPT生成效率提升。行政機關的政務信息載體是隨著新技術的發(fā)明而不斷擴展的。隨著照相機、電子音響、電影、電視、電腦、投影儀的陸續(xù)發(fā)明和普及應用,無論是在行政機關內部的行政流程中,還是在行政信息的外部傳達中,圖片、音頻、視頻和PPT都逐漸成為重要的信息載體。行政機關需要的圖片、音頻、視頻等素材可以分為原始素材和加工素材。原始素材的形成較為簡單,往往由行政機關內部工作人員運用相關設備直接生成,或者以民眾提供素材的方式獲取。而在原始素材基礎上通過加工得到的素材往往由行政機關的專門部門進行加工制作,或者由行政機關委托第三方進行制作。將具有強大的圖片、音頻、視頻、PPT生成能力的生成式人工智能引入數字政府建設,能夠優(yōu)化圖片、音頻、視頻、PPT的加工模式。一方面,行政機關的一般工作人員可以利用生成式人工智能進行圖片、音頻、視頻、PPT的初步加工,這就意味著一些原本由行政機關專門部門負責的圖片、音頻、視頻、PPT處理工作能夠由行政機關的一般工作人員完成,從而有效提升此類素材加工的效率。另一方面,原本委托第三方機構或個人加工制作的素材,在生成式人工智能的幫助下也可轉由行政機關專門部門制作,從而降低行政機關采購第三方服務的經濟成本和與第三方進行溝通的時間成本。概言之,把生成式人工智能引入行政機關的圖片、音頻、視頻、PPT制作中,會改變傳統(tǒng)的以“專門部門+委托第三方”為主的工作模式,形成以“一般工作人員+專門部門”為主的新工作模式,只需把超出生成式人工智能處理能力的少數復雜工作委托第三方制作。

第三,生成式人工智能促進數字政府算法生成效率提升。數字政府建設進入智能時代以后,利用算法技術生成的程序或軟件來優(yōu)化政府組織內部工作形態(tài)、增強公共服務便利性越來越重要,各地行政機關及其工作部門開發(fā)了大量的政務App或政務小程序,供內部和外部使用。由于行政機關缺乏算法生成能力,這些政務App或政務小程序主要是以行政機關采購第三方服務的方式進行建設的,甚至這些政務App或政務小程序的日常運營和維護工作都是由第三方服務商提供的,行政機關主要通過提出技術目標、進行風險監(jiān)管的方式參與到政務App或政務小程序建設之中。生成式人工智能具有算法生成和算法檢查的強大能力,這就意味著一些簡單的算法可由行政機關的工作人員運用生成式人工智能直接生成。將生成式人工智能引入數字政府算法工作模式中,能夠有效增強行政機關直接生成政務工作所需算法和檢查第三方服務商提供的算法的能力。這將改變傳統(tǒng)的“第三方建設+政府監(jiān)督”的數字政府算法工作模式,政府借助生成式人工智能技術而具有了直接的初步算法生成能力。

(三)智慧決策——數字政府與新型政府的立足點

利用數字技術來輔助政務決策的“智慧數字政府”是數字政府建設的重要目標。盡管生成式人工智能技術取得了巨大的技術躍遷,但目前的人工智能技術還將在較長時期內處于弱人工智能階段,生成式人工智能在參與政府決策的過程中仍然只能扮演輔助性的角色。生成式人工智能通過賦能于民主決策、科學決策來造就智慧數字政府,這仍然是生成式人工智能參與數字政府建設的長期目標。智慧數字政府建設的長期目標對生成式人工智能參與數字政府建設發(fā)揮著指引作用。

一方面,正確的政務決策的作出依賴于對信息的充分、精準掌握。我國在20世紀90年代啟動電子政務建設的目的之一,就在于利用現代信息技術打破中央政府與地方政府之間、地方上級政府與下級政府之間的信息壁壘,使得上級政府能夠根據真實的信息作出科學決策。生成式人工智能具有強大的信息自主檢索和自主收集能力,能夠在傳統(tǒng)科層制由下至上傳遞信息的基礎上,從互聯(lián)網中更加全面地收集來自社會的可供決策參考的信息。在這個意義上,生成式人工智能具有從根本上打破行政科層制中不同級別間的信息壁壘、突破信息收集中的視野局限的可能性。生成式人工智能在參與智慧數字政府建設的過程中具有獨特的社情民意反饋優(yōu)勢,使民主決策獲得技術助力。因此,強化信息檢索和信息收集能力是未來生成式人工智能參與智慧數字政府建設、賦能科學決策的最為重要的方向。

另一方面,正確的政務決策的作出還依賴于對實際情況的科學分析和判斷。如前所述,目前的生成式人工智能技術所生成的結論是由大模型“涌現”的,而“涌現”的機理尚不明確。這就意味著傳統(tǒng)人工智能參與政務決策時面臨的“算法黑箱”“算法歧視”等問題在生成式人工智能參與政務決策的過程中依舊存在。除此之外,生成式人工智能所給結論的可信性仍然無法保障,在受到錯誤指引的情況下尤其如此。例如,ChatGPT作出的回復常常是“一本正經的胡說八道”,其回答的語句看似通暢、合理,但其回答的結論往往與實際情況大相徑庭。概言之,目前的大模型還不能提供合理的證據來進行可信性的驗證。這就導致生成式人工智能在賦能政務決策的過程中給出的結論難以滿足政務決策的科學性要求,難以通過政務決策的科學性檢驗。在現有的技術發(fā)展水平下,生成式人工智能無法實質性地參與到政務決策的分析判斷和結論生成環(huán)節(jié),其分析結論僅供政務決策者參考,決策者應謹慎對待。

因此,在當前和今后相當長一段時間內的技術條件下,生成式人工智能通過賦能政務決策來實現推動智慧數字政府建設的目標,其主要的作用領域是政務決策的信息檢索和信息收集環(huán)節(jié),即為決策者提供豐富、全面的決策信息。

三、數字政府借助生成式人工智能的可行路徑和制度方案

生成式人工智能參與數字政府建設雖然尚未真正進入實踐階段,但在我國技術驅動數字政府建設的數字政府發(fā)展邏輯下,在生成式人工智能理想目標的牽引下,前景是十分廣闊的。目前,生成式人工智能從理想目標落實到應用實踐還面臨著諸多困難和風險。因此,需要探索生成式人工智能參與數字政府建設的切實有效的可行路徑,以期人工智能參與數字政府建設的理想目標早日實現。

(一)權利確認與權利保障——人文數字政府的應有之義

我國數字政府建設的顯著特征在于強調人在數字政府建設中的根本價值和核心地位,即數字政府建設的落腳點在于通過數字技術而在治理中更好地實現民眾的主體性,充分滿足人民群眾對未來美好生活的向往。因此,在生成式人工智能參與數字政府建設的過程中必須將保障人民各項權利置于首位,要圍繞民眾權利的充分實現設計生成式人工智能參與數字政府建設的主要路徑。國家網信辦聯(lián)合國家發(fā)改委、教育部、科技部、工信部、公安部、廣電總局公布的《生成式人工智能服務管理暫行辦法》在第四條中規(guī)定了生成式人工智能服務應當保障的民眾權利,主要包括平等權、知識產權、人格權和個人信息權益。而生成式人工智能參與數字政府建設主要涉及這四類權利中的平等權、人格權和個人信息權益。我們很有必要按照《生成式人工智能服務管理暫行辦法》的要求,結合生成式人工智能參與數字政府建設的目標和生成式人工智能的技術特點,深入探究生成式人工智能參與數字政府建設的權利保障路徑。

一方面,在生成式人工智能參與數字政府建設的過程中,應當有效保障民眾的人格權和個人信息權益。其一,要在生成式人工智能的訓練過程中有效保障民眾的人格權和個人信息權益。生成式人工智能需要經過海量數據的訓練,才能夠實現智能“涌現”。生成式人工智能訓練中所用的海量數據必然包含著一些應當通過知情、同意才能夠獲取的敏感信息。而訓練專門應用于數字政府建設的大模型時,往往需要使用政府數據庫中掌握的包括個人肖像、家庭住址、血型等人格信息和敏感個人信息在內的海量數據。根據《個人信息保護法》中個人信息處理一般規(guī)則的規(guī)定,在利用這些信息來訓練生成式人工智能的過程中,要確保這些信息只能用于公共利益目的,而且需要在經過脫敏處理的基礎上使用。其二,在生成式人工智能提供政務服務的過程中,要按照《個人信息保護法》中國家機關處理個人信息的一般規(guī)定和特別規(guī)定,充分保障民眾的個人信息權益。生成式人工智能在服務過程中會難以避免地自動收集提問信息并向服務器傳輸,對此,應當將其智能收集個人信息的內容和范圍充分告知應用該服務的民眾,防止民眾在提問中不慎泄露敏感個人信息而被生成式人工智能掌握個人秘密或隱私。要對應用于政務服務的生成式人工智能收集信息的程序和范圍進行限度設置,使生成式人工智能嚴格遵守法律、行政法規(guī)所規(guī)定的權限和程序,在履行法定職責所必需的范圍和限度內收集信息。

另一方面,在生成式人工智能參與數字政府建設的過程中,應當充分保障民眾的平等權利?！渡墒饺斯ぶ悄芊展芾頃盒修k法》第四條中“在算法設計、訓練數據選擇、模型生成和優(yōu)化、提供服務等過程中,采取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視”的規(guī)定同樣適用于行政機關。與生成式人工智能服務的一般提供者相比,行政機關以公共利益為導向、以實現人的主體性為價值目標而開展生成式人工智能的應用,理所當然地要采取更為嚴格的措施來保障民眾的平等權利。其一,要在專門應用于數字政府建設的生成式人工智能的訓練過程中,建立更為嚴格的訓練數據篩選和審核機制,將具有歧視傾向、違背社會主義核心價值觀的數據及時排除,從數據根源上盡可能消除生成式人工智能生成歧視性內容的可能。其二,投入政務應用前,對參與政務服務的生成式人工智能的模型生成和優(yōu)化過程進行審查、備案。如果審查發(fā)現模型算法及其優(yōu)化過程中存在歧視風險,則禁止將該模型投入政務應用;如果暫未發(fā)現歧視風險,則對該模型的算法進行備案。其三,在生成式人工智能應用于政務服務后,如果其生成了歧視性的內容,則應當第一時間暫停其政務應用,并結合備案的模型算法對該模型加以有效的修改。

(二)效率優(yōu)化與責任分配——傳統(tǒng)數字政府的迭代方向

生成式人工智能作為數字政府建設的有效手段,雖然提升了政府工作效率,但由于技術發(fā)展水平的限制,在實際操作中仍然存在發(fā)生運算錯誤的可能。因此,在數字政府建設的大背景下,既要充分利用數字計算能力來實現政府服務效率的提升,又要確保數字算法的準確性。為此,如何規(guī)避生成式人工智能可能產生的錯誤以及當錯誤發(fā)生時如何進行責任分配等問題也是我們要關注的內容。

一方面,從生成式人工智能的運行機制出發(fā),其結論的作出依賴于以現實素材數據的收集為基礎而展開的算法邏輯推演。由于生成式人工智能的發(fā)展仍處于初期階段,其數據庫不可能充分收集并掌握人類所有領域的所有知識。即便其收集了足夠的數據信息,也仍然面臨“大模型預訓練所需要的天文級數據,不可能全部進行準確性驗證,而如果數據不準確或缺失,必然影響到結果的可靠性”[16]的問題。與此同時,生成式人工智能的算法邏輯也尚未經受市場和實踐的充分考驗,因此,對于一些冷門的或者具有較強專業(yè)性的話題,生成式人工智能在實踐運用中往往會出現邏輯和內容上的錯誤。政府事務具有公共性,其服務對象具有普遍性,一旦生成式人工智能系統(tǒng)的運算結果存在問題,則既會在社會上造成普遍性的嚴重后果,又會對政府的公信力產生沖擊。因此,充分利用人工智能系統(tǒng)的高效算力,同時保證運算結論的正確性,是數字政府建設順利開展的兩個重要方面。與運算程序的專業(yè)性、抽象性和隱蔽性相比,運算結論更為直接、可察,因此,政府應當建立對生成式人工智能系統(tǒng)所給答案的人工審核機制,進行實質性審核,確保政務的順利展開。

另一方面,人工智能對政府事務的處理改變了傳統(tǒng)的人與人互相交接的政務工作模式,當這種算法科技運行出現錯誤并導致危害結果發(fā)生時,在責任的認定和承擔上就涉及生產、銷售和使用等不同流程的多方主體。由生成式人工智能引致的社會風險“具有極強的不確定性、無邊界性和規(guī)?；?其絕非人類個體用戶或社交網絡平臺所能防范和處置的,強有力的法律監(jiān)管更為必要”[17]。對生成式人工智能的監(jiān)督管理的落實離不開政府的主體性優(yōu)勢,“監(jiān)管機構應加強事前、事中、事后全鏈條監(jiān)管,保障生成式人工智能技術的發(fā)展和安全”[18]。具體而言,在生成式人工智能系統(tǒng)的生產環(huán)節(jié),政府部門應當對其生產主體、運算邏輯等各方面實施規(guī)范化管理,例如可以通過準入制度對生產廠家的資質進行規(guī)范審查,以避免智能系統(tǒng)出現政治立場、算法偏見等問題。在智能系統(tǒng)的使用環(huán)節(jié),應當對智能系統(tǒng)實行定期檢查評估,建立起多方主體在多環(huán)節(jié)的共同監(jiān)督機制,確保運算程序所涉及的政府、社會、個人信息的安全。在事后環(huán)節(jié),應當完善和細化追責機制,對可能出現的損害后果根據不同責任主體的參與程度進行明確的責任劃分,確保事事留痕,事事可追查。

(三)助力發(fā)展與維護安全——新型數字政府的均衡導向

我國政府的服務對象是全國人民,政府職能涉及國家、社會和個人發(fā)展的各種細枝末節(jié)。為了實現政府治理的有效性和效率性,政府的數字化建設必然涉及對相關數據信息的抓取和分析。如果政府的數據安全發(fā)生問題,則整個國家和社會的運行乃至個人的生活都將透明地暴露在敵對勢力的觀察之下,給國家安全造成嚴重威脅。生成式人工智能的應用“對于國家數據所可能帶來的法律風險,應該基于總體國家安全觀的理念進行統(tǒng)籌規(guī)劃”[19]。

從宏觀層面而言,政府在數字化建設中的數據安全問題主要涉及兩個方面:一方面是以“技術中立”為外衣而隱藏著的算法偏見風險。算法偏見具有一定的隱蔽性,其對公眾認知的引導也是潛移默化的?！霸趪覍用?以ChatGPT為代表的生成式人工智能基于西方價值觀和思維導向建立,其回答也通常迎合西方立場和喜好……可以說,ChatGPT具備明顯的偏見,并會潛移默化影響用戶,動搖國民意識形態(tài),形成新的國家安全風險?！盵20]6為了規(guī)避算法偏見可能導致的不良后果,我們就不能在政府的數字化建設中實行徹底的技術“拿來主義”?！皯搹母旧先胧?在軟硬件關鍵技術上實現突破,奪取技術的制高點?！盵21]另一方面是數字政府的數據泄露風險。生成式人工智能的數據具有流動性特點,不受國境和地區(qū)邊界的限制,而數據在流動中就會有泄露的風險?！盀闈M足我國數據跨境流動國家安全的要求,生成式人工智能必須明確數據跨境流動的原則,確保對一般數據和敏感數據進行區(qū)分,且重要數據的流動應按照要求進行審批?！盵20]14-15通過算法邏輯的內在監(jiān)督和政府對數據流動的外在監(jiān)管,才能保證生成式人工智能對政府數字化轉型的正向推動作用。

在具體操作層面,由于相關企業(yè)在數字科技上的技術優(yōu)勢,當前我國的政府數字化轉型是以政府引導、企業(yè)主導、公眾參與的模式展開的。不同主體在政府數字化建設中有各自的優(yōu)勢和缺點:政府具有強大的組織和執(zhí)行能力,能夠保證數字安全監(jiān)管及處罰活動的順利開展,但在數字技術的專業(yè)性上卻存在欠缺;社會相關企業(yè)作為政府數字化轉型的主導者,具有技術上的優(yōu)勢和話語權,但由于企業(yè)的營利本性,企業(yè)私利與公共利益之間難免存在一定程度的張力;人民群眾盡管不具有政府和企業(yè)的上述優(yōu)勢,但卻是政府數字化轉型的最直接的體驗者,其樸素的價值觀是衡量生成式人工智能系統(tǒng)運算邏輯正義與否、結論合理與否的最直接依據。因此,政府數字化轉型中的安全保障就要依托不同主體的優(yōu)勢,構建一種互相聯(lián)結的多元共治體系。既要“構建科技企業(yè)自我規(guī)制與政府監(jiān)管的銜接互動機制”[22]118,又要“為專業(yè)性非營利組織和用戶社群參與人工智能治理創(chuàng)造制度環(huán)境,探索符合我國發(fā)展特點的協(xié)同治理范式,促進社會監(jiān)督與政府監(jiān)管的協(xié)同聯(lián)動”[22]118,從而促進不同主體監(jiān)督監(jiān)管優(yōu)勢的互補。通過對數字政府建設的不同環(huán)節(jié)中的各類主體進行相應的權責規(guī)制,積極聽取不同群體的不同訴求,才能夠最大化地保證數字政府建設的安全和均衡。

四、結束語

高度便捷的生成式人工智能的出現和爆火讓人們看到了強人工智能時代到來的可能,然而,技術的發(fā)展離不開倫理的反思,即便該項技術是具有高度革新意義的。有鑒于此,必須加強數字政府的人文傾向和發(fā)展路徑研究。《生成式人工智能服務管理暫行辦法》的出臺不僅代表著我國已然對生成式人工智能的應用和發(fā)展產生警惕,同時也意味著我國對這項人工智能技術的發(fā)展持樂觀態(tài)度。因而,應當將生成式人工智能納入數字政府建設和發(fā)展的框架之中?？梢灶A見的是,未來部署于政府中的人工智能技術和應用于社會中的人工智能技術之間會存在較大的樣態(tài)差異,二者應當區(qū)別看待、分別規(guī)制,其中,對前者的倫理限制應當更為充分、提前。