紀光欣 王英明

〔摘要〕作為一種新興技術，人工智能日益廣泛地應用于政務服務中，不斷驅動政府服務理念革新、促進政府服務方式和服務手段的智能化發(fā)展，有效提高了政務服務效能。但同時也要看到，人工智能存在的算法歧視、數(shù)據(jù)缺陷、技術審查難等問題給政務服務帶來了技術至上、數(shù)據(jù)安全、行政倫理等方面的風險。為此，必須通過強化頂層規(guī)制，防范技術風險；完善人才保障，保障數(shù)據(jù)安全；增強組織韌性，規(guī)范行政倫理等途徑來規(guī)避或克服其風險，更好地發(fā)揮人工智能推動政務服務創(chuàng)新的積極作用。

〔關鍵詞〕人工智能；政務服務；技術風險；智能服務

〔中圖分類號〕D63〔文獻標識碼〕A〔文章編號〕2096-8442（2021）01-0072-05

隨著智能政府（IntelligentGovernment）、智能服務（IntelligentService）、智能辦公（IntelligentOffice）等生澀詞匯逐漸進入公眾視野，作為引領第四次工業(yè)革命的顛覆性技術—人工智能（ArtificialIntelligence）不斷嵌入政務服務，為世界各國政務服務創(chuàng)新提供新的技術手段，并且越來越廣泛地影響社會發(fā)展。然而，人工智能給政務服務帶來發(fā)展契機的同時，也存在著無法有效規(guī)避的技術問題：程序設計失當及帶有缺陷的數(shù)據(jù)訓練會形成有害的AI系統(tǒng)，而產(chǎn)生一系列歧視，引發(fā)“技術利維坦”①操控行政的現(xiàn)象，從而觸發(fā)未知風險。鑒于此，需要剖析人工智能賦能政務服務過程中可能會產(chǎn)生的風險，并為人工智能更好地嵌入政務服務提供理論層面的建議。

一、人工智能賦能政務服務

人工智能在政務服務中的應用愈來愈顯示出強大動能，政務服務方式、方法已經(jīng)悄然發(fā)生變革，主要在政務服務輔助系統(tǒng)和個性化服務兩個領域，以數(shù)字化、信息化、智能化的方式建立公民與政府的溝通渠道，為公眾提供個性化、定制化服務，帶來政務服務質量、效率的雙重提升。

（一）人工智能促進政府服務效率提升

效率是政務服務追求的首要目標，隨著人工智能的發(fā)展，越來越多的政務服務通過人工智能技術來提供服務，不斷為政務服務效率提升提供動能。在人工智能賦能政務服務的過程中，人工智能通過自然語言學習、機器學習和數(shù)據(jù)挖掘等技術，利用各種形式的現(xiàn)有數(shù)據(jù)，開發(fā)公民與政府高效溝通的數(shù)字化溝通渠道〔1〕，以達到提升政務服務效率的目的。這樣的數(shù)字化溝通渠道主要有兩種方式：一是人工智能通過深度學習功能，依托語音識別、文字識別、自然語言識別等技術實現(xiàn)政府表單填報、信息搜集、客服受理、線上審批、身份認證等服務性工作，極大地提高了政務服務的效率。二是公民通過網(wǎng)絡平臺、數(shù)據(jù)平臺、機器人等有人工智能底層算法支撐的技術平臺享受業(yè)務查詢、業(yè)務辦理、民情上傳、監(jiān)督政府等與政府管理有關的政務服務。這些高效便捷的數(shù)字化溝通渠道有效提升了政務服務的效率和質量，增強了公民對政務服務的參與度，實現(xiàn)了政府與公民之間的良性互動。

（二）人工智能驅動政務服務方式變革

人工智能在大幅提高政務服務效率的同時，驅動政務服務的方式方法正在發(fā)生變革。一是政務服務主體機器化。治理主體已由傳統(tǒng)的“人”轉向“機器”〔2〕。智能機器人借助認知自動化技術、認知預測技術、認知參與技術等人工智能技術完成政府公務人員角色的模擬，并通過深度學習模擬公眾的邏輯思維以及對話管理實現(xiàn)與公眾的正常溝通，從而實現(xiàn)服務社會的功能。二是政府公民互動數(shù)字化。政務服務通過數(shù)字化操作平臺提供政府與公眾交互渠道，并由經(jīng)過大量數(shù)據(jù)訓練的人工智能機器完成。高度的數(shù)字化政務服務取代以往通過電話、面對面溝通的互動形式，服務流程與信息由機器特殊處理過的數(shù)字呈現(xiàn)，并通過提高透明度以及在政府和公民之間提供無縫隙服務來提高效率和服務質量〔3〕。三是政務服務手段算法化。人工智能的能力根據(jù)基礎算法、訓練程序和訓練數(shù)據(jù)而有所不同〔4〕。人工智能嵌入政務服務的情景中，都是依靠程序設計的底層算法模擬公眾思維模式、倫理價值、道德觀念來實現(xiàn)的?！爸悄堋狈杖〈叭斯ぁ狈眨谀撤N程度上是依托算法理性代替人類邏輯和思維，進而驅動政府進行新一輪的機構、人事、思維變革。

（三）人工智能增強政務服務韌性

人工智能嵌入政府服務的進程就是技術和組織結合并優(yōu)化，最終實現(xiàn)跨機構的協(xié)作并重構復雜的技術和組織集成平臺的過程。在這個過程中，利用現(xiàn)代信息通信技術力量從根本上重新設計政務服務業(yè)務流程，以實現(xiàn)其績效的顯著改善〔5〕。一是使傳統(tǒng)科層制趨向扁平化。人工智能憑借強大的運行能力、分析能力、整合能力，實現(xiàn)政府部門之間的業(yè)務重組、組織優(yōu)化、服務升級。多部門協(xié)同服務擺脫科層制的束縛，實現(xiàn)組織縱向與橫向信息交互，從而減少政務服務中出現(xiàn)的重復性、無效性工作。二是打破傳統(tǒng)政務服務局限。傳統(tǒng)政務服務受限于時間、空間，政務辦理程序和政務公開并不同步，使公眾精力浪費在“跑腿”上，從而產(chǎn)生不必要的時間成本和勞動成本，無形之中損害了政務服務的績效。人工智能依靠遠程智慧終端實現(xiàn)自主辦理，多智能體通過數(shù)據(jù)交互實現(xiàn)服務過程公開化和透明化，實現(xiàn)政務服務質量和數(shù)量的雙重提升，從而優(yōu)化政務服務績效。三是為公眾提供個性化政務服務。服務質量因個人的期望而異，基礎設施、社會文化、個人教育、收入狀況、位置差異等因素都會影響公民的政務服務體驗感，而各地政府由于資源有限，政務服務具有同質化或簡單異質化問題，使得部分公眾無法獲得較好體驗感。通過大數(shù)據(jù)訓練的人工智能可以根據(jù)用戶以往服務反饋進行深度學習，洞悉公眾偏好，主動地、精準地和有溫度地向公眾營銷政務服務〔6〕，有針對性地提供定制化、個性化服務，從而提升公眾對政務服務的滿意度。

二、人工智能嵌入政務服務的風險

人工智能為政務服務創(chuàng)新提供了一套新型的技術框架，但是仍然存在技術悖論與潛在風險所產(chǎn)生的政務服務困境。作為一把嵌入政務服務的“雙刃劍”，自身的缺陷和不足，會衍生出技術至上、數(shù)據(jù)安全、行政倫理等一系列的問題。

（一）技術至上風險

1.強調(diào)技術效率而忽視社會公平。首先，人工智能嵌入政務服務仍處于起步階段，許多政務服務系統(tǒng)設計者并沒有掌握完善的公共管理模型來描繪政府治理過程〔7〕，設計出的政務服務系統(tǒng)也會因存在漏洞，而引發(fā)未知風險。其次，人工智能算法風險成為一個需要高度重視的問題〔8〕。人工智能依靠底層算法運作，算法和編程都是由人來操作完成的，會受到個人價值理念和思維觀念影響，無法完全實現(xiàn)“價值中立”。再次，技術至上損害社會公平正義，蘊含不容忽視的社會道德風險。人工智能在潛移默化之中改變了社會公眾的生活方式，使得人們自然地認為人工智能對自身是有益無害的，由此產(chǎn)生對于數(shù)據(jù)的盲目信任。

2.政務服務中弱勢群體邊緣化。一方面，人工智能訓練所需要的數(shù)據(jù)是以往從公眾中獲取的，難免摻雜著社會中虛偽、不公、偏見、歧視等因素，經(jīng)過帶有偏見性數(shù)據(jù)的訓練后，人工智能系統(tǒng)也會出現(xiàn)系統(tǒng)性偏差，如在參與政務服務過程中可能會出現(xiàn)地域歧視、學歷歧視、性別歧視等偏見行為，這些偏見行為可能會無形之中損害公民的時間、金錢等成本。另一方面，處于位置偏遠、網(wǎng)絡信息不暢通的地區(qū)，其數(shù)據(jù)的收集和分析會存在缺失、滯后現(xiàn)象，使人工智能在嵌入政務服務過程中受到地區(qū)、環(huán)境、經(jīng)濟發(fā)展的制約。在考慮政務服務優(yōu)化的決策中，極有可能會忽略偏遠地區(qū)的弱勢群體，使享受智能政務服務的權利掌握在擁有強大算法的極少數(shù)精英手中〔9〕，使得弱勢群體不能有效地、平等地、公正地享受應有的政務服務。

3.政務服務中公眾需求誤判。一方面，人工智能算法存在不可避免的數(shù)據(jù)分析誤差。我國社會公眾基數(shù)較大，人工智能在分析社會公眾對政務服務的需求時，即便是極其微小的誤差，也會使得大量公民的需求預測有偏差。即使一小部分人受到不公正的待遇，也會形成技術損害社會公平正義的局面。另一方面，隨著人工智能的嵌入，政務服務外延逐步向信息傳媒、新聞宣傳等方向擴展，人們?nèi)粘＋@取的信息服務，越來越受到人工智能的影響?；谌斯ぶ悄芩惴ǖ恼辗障到y(tǒng)向公眾推送大量相似新聞或訊息，會潛移默化地割裂公眾認知，使公眾關注點和需求點集中在某一領域。

（二）數(shù)據(jù)安全風險

1.政務服務信息安全存在隱患。政府受到自身技術水平、人才結構的局限，網(wǎng)絡信息安全防火墻不能達到專業(yè)化的水準，數(shù)據(jù)面臨著被篡改、丟失、泄露等風險，數(shù)據(jù)真實性、可靠性受到威脅，這將會對以真實數(shù)據(jù)為基礎的人工智能系統(tǒng)帶來致命的打擊。這種數(shù)據(jù)安全風險包括兩個方面：一是政府利用不安全數(shù)據(jù)訓練的人工智能提供公共服務，使政府自身公共服務建設受到威脅，項目被篡改、信息泄露、審批混亂等風險便接踵而來。二是人工智能很容易就能通過其自主學習和分析獲取包含個人隱私的隱秘數(shù)據(jù)信息〔10〕，公眾的隱私和信息充分暴露在人工智能視野中，導致公眾身份、財產(chǎn)、個人隱私等信息泄露，造成公民信息和財產(chǎn)的損失，引發(fā)政務服務喪失公眾信任的危機。

2.人工智能自身安全性有待提升。技術的限制使得人工智能只能在某一方面或者某一領域擁有“超能力”，其所依賴的學習算法同樣有“笨拙”的一面，在人為干擾下，程序很容易就出現(xiàn)“失算”的尷尬局面〔11〕。一些黑客極有可能利用程序漏洞繞過內(nèi)部的防火裝置，并通過篡改數(shù)據(jù)來攻擊人工智能，讓人工智能失去效用，從而做出完全錯誤的決策。

（三）行政倫理風險

人工智能技術嵌入到政務服務中，為科層制縱向與橫向信息流動帶來了短期躍進效應，但同時使原本復雜的科層體系亦產(chǎn)生新的復雜性，甚至引發(fā)科層制的長期固化，導致公民對電子政府的使用意愿持續(xù)下降，這已成為中國電子政務發(fā)展面臨的巨大挑戰(zhàn)〔12〕。

1.服務主體機器化使行政主體責任模糊。人工智能程序開發(fā)者作為人工智能機器的研發(fā)者，人工智能機器作為政務服務的工具手段，政府作為人工智能嵌入政務服務的應用者，三者都是人工智能安全責任的主體。一旦出現(xiàn)安全問題，難以明確安全責任的主體，陷入問責難的境地。一方面，人工智能嵌入政務服務，使得政務服務主體機器化，在某些領域人工智能終端、人工智能程序替代政務服務的公務人員及其行政行為，在政務服務過程中必然會體現(xiàn)機器意志。另一方面，人工智能本質上是由人開發(fā)的機器，受到程序開發(fā)者的主觀意志和選擇的影響，將主觀思維和偏見引入人工智能系統(tǒng)中，在缺乏人類倫理引導的前提下，極易產(chǎn)生行政倫理問題。

2.技術棱鏡還原服務情景觀測偏差。一方面，在人工智能嵌入政務服務的過程中，嚴密化的數(shù)字技術不斷在現(xiàn)實中得以強化，真實服務場景不斷抽象化、數(shù)字化、結構化。當儲備海量信息時，考慮到自身技術和存儲量，政府可能會刪除或擱置部分數(shù)據(jù)，保留有利于自身的數(shù)據(jù)。這樣一來，由于支撐人工智能提供政務服務的數(shù)據(jù)存在偏差，導致技術棱鏡難以還原服務場景，表面上通過精簡數(shù)字提高了效率，實際上造成場景失真。另一方面，在許多決策場景中，民族、性別、貧富等可能會是人工智能嵌入政務服務的影響因素，使人工智能無法達到“無意識公平”，從而導致在相同標準下工作的人工智能產(chǎn)生較大的群體差異。為解決人工智能存在的歧視，只能通過更多的數(shù)據(jù)訓練人工智能，糾正算法歧視。

三、人工智能嵌入政務服務的風險治理

針對人工智能因自身缺陷而帶來的嵌入政務服務風險，必須以加強政策、法律的引導和規(guī)制為重點，強化風險評估，完善人工智能的監(jiān)管和人才保障體系，真正發(fā)揮人工智能推動政府治理、提升政務服務質量的積極作用。

（一）頂層制度：防范技術風險

國家從頂層設計規(guī)范人工智能嵌入政務服務的方式是規(guī)制人工智能風險的有效手段，要基于國家人工智能發(fā)展戰(zhàn)略，更好地明確人工智能嵌入政務服務可能帶來的風險與挑戰(zhàn)，通過立法、政策、戰(zhàn)略等多種手段引導人工智能向良好方向發(fā)展。

1.堅持“工具理性”與“價值理性”相結合的原則。一是要堅持引導人工智能的道德和倫理原則，減少因為社會環(huán)境、數(shù)據(jù)訓練等帶來人工智能的偏見影響，負責任地使人工智能嵌入政務服務。二是要堅持“以人為中心”的倫理規(guī)范和社會價值觀的發(fā)展戰(zhàn)略，積極引導人工智能的“工具理性”，使之向正確方向發(fā)展，優(yōu)化人工智能嵌入政務服務的績效，消解可能帶來的技術風險和倫理風險。三是要把價值理性整合進人工智能的基礎架構，用對正義、善良、公平的價值追求來控制和教育人工智能〔13〕，使得工具理性與價值理性相結合，讓人工智能嵌入政務服務既能體現(xiàn)人的情感、價值和溫度，又能摒棄偏見，向著人類所期望的方向發(fā)展。

2.堅持以創(chuàng)新引領人工智能嵌入政務服務的原則。人工智能嵌入政務服務時要堅持試點先行、創(chuàng)新驅動策略，采用逐步推進、創(chuàng)新引領的方式，實現(xiàn)人工智能驅動政務服務變革的愿景。2019年8月，科技部為推動人工智能創(chuàng)新與發(fā)展，發(fā)布了《國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)建設工作指引》。截至2020年12月，科技部已批復支持建設13個國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)，有效推動了人工智能在創(chuàng)新發(fā)展方面先行先試，搶占了人工智能在應用方面的戰(zhàn)略高地，同時也加快了智能化政務服務的進程。

3.堅持保護公民隱私的原則。國家高層機構、智庫等機構應開設人工智能時代的個人隱私、個人信息保護專項研究議題。并通過制定國家級AI戰(zhàn)略，出臺相關法規(guī)、政策，加強對人工智能在倫理、法律、文化和制度等方面的政治引導，將保護人工智能時代的公民隱私上升至頂層設計層面，為保護社會公眾信息提供法治上的保障。同時，加強國際交流與合作，構建人工智能發(fā)展共同體，方能使人工智能嵌入政務服務有序地推進。

（二）人才戰(zhàn)略：保障數(shù)據(jù)安全

要使人工智能嵌入政務服務更好地保護數(shù)據(jù)安全，不但需要技術的進步，也需要全面提升政府公務人員的素質。這就需要進一步立足人才發(fā)展戰(zhàn)略，構建數(shù)據(jù)安全保護的人才支撐體系，推動政府更好地適應人工智能嵌入政務服務的浪潮。

1.推進人工智能開發(fā)隊伍專家化。政府公務人員的綜合素質決定著未來人工智能嵌入政務服務的安全水平。一方面，要加強政府在人工智能基礎設施、技術框架、安全認證、運行機制等方面的專業(yè)化教育。同時，招聘算法專家、編程專家參與安全保障系統(tǒng)研發(fā)、應用與維護，使之成為人工智能嵌入政務服務的“技術官僚”。另一方面，要從底層技術支撐、智能化應用、安全保障等方面穩(wěn)定人工智能系統(tǒng)的運行，構建專業(yè)化的人才保障體系，輔以理論知識、實踐能力、操作能力等不同的上崗培訓和職業(yè)教育，提升政務服務工作者在人工智能方面的知識、業(yè)務素養(yǎng)，為政務服務革新提供人才支撐。

2.完善政府部門用人策略。一是要加強針對人工智能程序開發(fā)者的心理測試、行為觀察、道德評估、價值評估、人生經(jīng)歷評估、人生背景評估〔14〕，以確保招聘的人工智能程序設計者不會帶來人工智能應用風險。二是要針對人工智能終端的維護人員進行專業(yè)訓練、專業(yè)檢測、實戰(zhàn)操作等測試，選拔具有實踐經(jīng)驗的人工智能技術專家，為人工智能終端的安全護航。三是要重視人工智能風險的監(jiān)管，培養(yǎng)在數(shù)據(jù)容災、數(shù)據(jù)備份、數(shù)據(jù)安全等方面的監(jiān)管者，使得人工智能嵌入政務服務更加安全、可靠。

3.提升政務服務工作者適應人工智能的能力。一方面，要對政務服務工作者進行價值引導和思維提升，使政務服務工作者秉承“價值中立”原則，摒棄“技術至上”的觀念，使其樹立公共精神，能夠借助人工智能更好的服務廣大群眾。另一方面，要加強對政務服務工作者的智能化服務理念培訓，著重提升對技術進步的應變能力和適應能力，培養(yǎng)政務服務工作者的智能化服務觀念。

（三）組織韌性：規(guī)范行政倫理

1.強化科層制組織適應人工智能的韌性。一是要明晰科層制組織內(nèi)部架構和責任主體，從而適應人工智能嵌入政務服務的潮流。二是政府要運用科學標準、正確方法和規(guī)范程序，對人工智能的業(yè)務動態(tài)、業(yè)績水平進行綜合考量和監(jiān)管，建構人工智能嵌入政務服務的開發(fā)、維護、監(jiān)管等專業(yè)化系統(tǒng)，形成專業(yè)化的保障預案。三是要強化政府的數(shù)據(jù)存儲、數(shù)據(jù)轉移、數(shù)據(jù)共享、數(shù)據(jù)挖掘等系統(tǒng)，實現(xiàn)政府對服務對象和服務終端的智能感知、自動識別和定向追蹤，增強科層制組織對人工智能嵌入政務服務適應性、靈活性、專業(yè)性。

2.建立嚴格的數(shù)據(jù)采集體系。一是要以人工智能嵌入政務服務的風險發(fā)生邏輯為核心，對數(shù)據(jù)采集人員心理、性格、能力、價值觀等進行系列測試，通過嚴格培訓使之掌握數(shù)據(jù)采集流程、數(shù)據(jù)采集方法、數(shù)據(jù)保障策略，形成嚴密的數(shù)據(jù)篩選流程，以此保障數(shù)據(jù)真實性和有效性。二是要在嚴格的數(shù)據(jù)采集基礎上，對人工智能系統(tǒng)進行嚴格的專家審查，對人工智能做出的舉措進行評估和分析，預判可能帶來的風險，提出針對性的防范措施。三是要在數(shù)據(jù)采集、人工智能審查、措施應對方面明確響應責任主體，有效糾正人工智能嵌入政務服務可能帶來的偏差，消弭人工智能帶來的算法歧視、需求誤判。四是要建立基于真實有效數(shù)據(jù)的綜合考量、全面分析倫理問題的智能化政務服務系統(tǒng)，推動大眾需求、智能服務、思維理念三者相互統(tǒng)一，從而消解人工智能嵌入政務服務的倫理風險。

〔注釋〕

①技術利維坦是指在技術應用過程中形成的資源分配方式超前于現(xiàn)有的政府管制體系所引發(fā)的潛在風險，技術表征是沉默和中性的，但是在現(xiàn)實中往往對政治、行政產(chǎn)生難以估量的影響。

〔參考文獻〕

〔1〕AndroutsopoulouA，KaracapilidisN，LoukisE，etal. Transforming the Communication Between Citizens and Government Through AI-guided Chatbots〔J〕.Government Information Quarterly，2019（02）：358-367.

〔2〕王小芳，王磊.“技術利維坦”：人工智能嵌入社會治理的潛在風險與政府應對〔J〕.電子政務，2019（05）：86-93.

〔3〕Lindgren I，Madsen CS，Hofmann S，et al.Close Encounters of the Digital Kind：A Research Agenda for the Digitalization of Public Services〔J〕.Government Information Quarterly，2019（03）：427-436.

〔4〕Shank DB，Graves C，Gott A，et al.Feeling Our Way to Machine Minds：People’s Emotions When Perceiving Mind in Artificial Intelligence〔J〕.Computers in Human Behavior，2019（98）：256-266.

〔5〕Elnaghi M，Alshawi SN，Kamal MM，et al.Exploring the Role of a Government Authority in Managing Transformation in Service Re-engineering–Experiences from Dubai Police〔J〕.Government Information Quarterly，2019（02）：196-207.

〔6〕劉曉洋.人工智能重塑政務服務流程的認知邏輯與技術路徑〔J〕.電子政務，2019（11）：104-111.

〔7〕Sharma GD，Yadav A，Chopra R.Artificial Intelligence and Effective Governance：A Review，Critique and Research Agenda〔J〕.Sustainable Futures，2020（02）：100004.

〔8〕汝緒華.算法政治：風險、發(fā)生邏輯與治理〔J〕.廈門大學學報（哲學社會科學版），2018（06）：27-38.

〔9〕葉娟麗，徐琴.去中心化與集中化：人工智能時代的權力悖論〔J〕.上海大學學報（社會科學版），2019（06）：1-12.

〔10〕祝高峰.論人工智能領域個人信息安全法律保護〔J〕.重慶大學學報（社會科學版），2020（04）：150-160.

〔11〕胡洪彬.人工智能時代政府治理模式的變革與創(chuàng)新〔J〕.學術界，2018（04）：75-87.

〔12〕Yan L，Huping S.Service Quality，Perceived Value，and Citizens’Continuous-use Intention Regarding E-government：EmpiricalEvidencefromChina〔J〕.Information& Management，2017（03）：103197.

〔13〕胡曙光，陳昌鳳.觀念與規(guī)范：人工智能時代媒介倫理困境及其引導〔J〕.中國出版，2019（02）：11-15.

〔14〕張愛軍.人工智能：國家治理的契機、挑戰(zhàn)與應對〔J〕.哈爾濱工業(yè)大學學報（社會科學版），2020（01）：1-7.

責任編輯董軍