冉龍亞，陳 濤，孫寧華

(華中科技大學(xué)公共管理學(xué)院，湖北 武漢 430074)

0 前言

縱觀人類社會發(fā)展史，科技創(chuàng)新與政府治理之間一直存在著密切關(guān)聯(lián)，同時也正是這種二元聯(lián)系，促進了彼此的進一步發(fā)展。一方面，作為政府治理的一種工具和手段，政府的治理需求客觀形塑了技術(shù)發(fā)展的方向與進程，政府的相關(guān)政策也會影響到技術(shù)的實際發(fā)展；另一方面，科技創(chuàng)新會涉及政治制度、民主法治、行政體系、公共政策和權(quán)力劃分等各方面的內(nèi)容,從而引起政府治理的變遷[1]?？梢院敛豢鋸埖卣f，任何一次重大的科技創(chuàng)新，都會對世界各國的治理理念、制度設(shè)計、治理方式等產(chǎn)生全方位、多層次的廣泛影響[2]。當前，人工智能技術(shù)正在全世界范圍內(nèi)迅速蔓延，并對人類社會生活產(chǎn)生了猛烈沖擊和影響。有鑒于此，在人類社會即將進入人工智能時代之際，有必要對人工智能可能帶給政府治理的機遇與挑戰(zhàn)進行系統(tǒng)剖析，從而對其形成客觀全面的認識，以期最大化人工智能的價值。

作為一門突破性的科學(xué)技術(shù)，人工智能對于社會生活各方面的影響都十分巨大，甚至是變革性的。受私營部門影響，人工智能對于政府部門的吸引力正在變得越來越強烈。各國政府，尤其是美國和中國，已經(jīng)充分意識到人工智能技術(shù)所蘊含的巨大價值與機遇，并啟動了一系列發(fā)展人工智能技術(shù)的國家計劃。然而，作為一個相對較新的領(lǐng)域，關(guān)于政府部門運用人工智能技術(shù)的相關(guān)研究仍然處于起步階段，政府部門還沒有對應(yīng)用人工智能進行社會治理的潛在機遇和挑戰(zhàn)形成全面認識。為此，本文從公共管理的學(xué)科背景出發(fā)，嘗試以一個綜合的、系統(tǒng)的視角來梳理、探討與反思人工智能技術(shù)可能給政府治理帶來的機遇與挑戰(zhàn)。

1 人工智能與政府治理：從研究的不足說起

人工智能這一概念及其相關(guān)研究內(nèi)容起始于1956年的達特茅斯會議，此后經(jīng)過數(shù)次沉浮，逐漸取得技術(shù)上的突破，并在商業(yè)領(lǐng)域逐步獲得廣泛應(yīng)用。由于具有自動、智能、高效等特點，人工智能在金融服務(wù)、零售、媒體、教育和旅游等領(lǐng)域取得了良好的應(yīng)用和經(jīng)濟效益[3]。在技術(shù)發(fā)展與商業(yè)應(yīng)用的同時，學(xué)界對于人工智能的研究也開始日益增多。以國內(nèi)為例，從2016年開始，學(xué)界對人工智能的研究開始大幅增多，相關(guān)研究直線上升。

盡管關(guān)于人工智能的相關(guān)研究已經(jīng)較多，但對政府部門人工智能的研究仍較為匱乏[4-5]。對中國知網(wǎng)的文獻檢索結(jié)果表明，當前國內(nèi)學(xué)界關(guān)于人工智能的研究主要集中在自動化技術(shù)、計算機軟件及計算機應(yīng)用領(lǐng)域。與此形成鮮明對比的是，在與政府治理密切相關(guān)的公共管理學(xué)、政治學(xué)、社會學(xué)等領(lǐng)域，相關(guān)研究仍顯不足，同時研究內(nèi)容也比較分散，尚缺少相關(guān)的系統(tǒng)性思考與梳理。值得強調(diào)的是，作為一個動態(tài)的調(diào)試過程，隨著人工智能技術(shù)和政府治理的不斷融合交互，其所展現(xiàn)的形態(tài)和特征將會越發(fā)復(fù)雜多樣，這也需要學(xué)者們不斷在新的視野和方法的指引下，從更加全面多樣的視角來探討人工智能與政府治理的相關(guān)議題。為此，本文從政府治理的三個方面，即理念、方式與過程、結(jié)構(gòu)，探討人工智能可能為其帶來的機遇。同時，循著人工智能技術(shù)本身、人工智能的應(yīng)用及社會化以及政府對人工智能的治理這樣一條邏輯主線，在前人研究的基礎(chǔ)上，將面臨的挑戰(zhàn)劃分為安全與隱私、倫理與法律以及組織與管理三大類。通過對人工智能帶給政府治理的潛在機遇及挑戰(zhàn)進行系統(tǒng)梳理與分析，希望能夠從學(xué)術(shù)研究角度彌補現(xiàn)有相關(guān)研究的不足，從而加深政府部門對于人工智能的理解，以求最大程度發(fā)揮人工智能在政府治理中的積極作用。

為了全面掌握現(xiàn)有相關(guān)研究現(xiàn)狀，本文對自2016年開始發(fā)表的國內(nèi)外文獻進行了系統(tǒng)檢索與分析，大體循著PRISMA文獻梳理方法，對相關(guān)文獻進行查找與篩選。對于國內(nèi)的相關(guān)研究，我們在中國知網(wǎng)中以 “人工智能”和 “政府”為主題進行文獻的初步檢索，并根據(jù)具體內(nèi)容進行人工篩選，大體檢索過程和結(jié)果如表1所示 (檢索時間：2021年3月13日)。通過對檢索到的文獻進行分析，發(fā)現(xiàn)國內(nèi)相關(guān)研究主要包括以下四個方面：①人工智能對政府治理的價值與影響；②對人工智能技術(shù)的治理；③人工智能在政府部門特定情景的應(yīng)用；④人工智能與政府治理變革路徑研究。上述研究從一定角度探討了人工智能對政府治理的機遇與挑戰(zhàn)，并提出了很多獨到的、有價值的見解，這些都是本研究的重要基礎(chǔ)，但是從整體而言，目前的研究仍較為零散，尚未搭建起相應(yīng)的理論框架以進行系統(tǒng)性的梳理與探討，這也正是本文的主旨及意圖所在。

表1 國內(nèi)相關(guān)文獻檢索過程及結(jié)果

對于國外相關(guān)研究，我們選取ScienceDirect和Web of Science這兩個得到學(xué)界廣泛認可，且重點關(guān)注社會科學(xué)與技術(shù)的國際跨學(xué)科研究數(shù)據(jù)庫作為數(shù)據(jù)來源。在篩選方法上，我們大致重復(fù)了上面的文獻檢索和篩選過程，檢索結(jié)果如表2所示 (檢索時間：2021年3月17日)。

表2 國外相關(guān)文獻檢索過程及結(jié)果

為了緊跟國際最新研究進展，我們也將數(shù)字政府領(lǐng)域最新的相關(guān)會議論文和研究報告納入了研究范疇。通過對查找到的文獻進行分析，發(fā)現(xiàn)國外的相關(guān)研究在內(nèi)容和特征上既與國內(nèi)存在共通之處，同時也具有很多不同。具體體現(xiàn)在：①研究的起步時間較早，早在20世紀末就已經(jīng)有研究關(guān)注到了人工智能與政府治理相關(guān)議題。②注重人文倫理問題，關(guān)于挑戰(zhàn)方面，國外專家學(xué)者將更多的關(guān)注點聚焦在人工智能可能帶來的倫理問題及其應(yīng)對上。③研究方法與主題更多樣，具體有三個方面的表現(xiàn)：一是除了對人工智能對政府治理的價值與意義、機遇與挑戰(zhàn)等問題進行定性探討之外，有不少文章采用案例研究的形式，探索人工智能在公共部門的實際應(yīng)用等問題；二是已經(jīng)有部分文章開始采用實驗法、結(jié)構(gòu)方程模型等方法，對人工智能技術(shù)在政府部門應(yīng)用中的信任、用戶體驗問題等進行定量研究；三是部分文章采用文獻計量的方式，對當前公共管理學(xué)科下的人工智能相關(guān)研究現(xiàn)狀進行回顧、總結(jié)與展望?？傮w來說，目前國外在公共管理背景下對人工智能進行的研究仍然處于前列，一些研究思路、方法以及結(jié)果對于我們系統(tǒng)探討人工智能技術(shù)給政府治理帶來的機遇與挑戰(zhàn)，都具有極其重要的參考借鑒價值。

2 人工智能帶來的機遇：從政府治理理念到結(jié)構(gòu)變革

一般而言，政府治理指的是政府部門在市場經(jīng)濟條件下對社會公共事務(wù)進行的治理，而在理論界尤其是西方國家，政府治理的內(nèi)涵則更為豐富，涵蓋了政府治理理念、治理方式與過程以及治理結(jié)構(gòu)三個方面。隨著新技術(shù)的不斷突破和在政府部門應(yīng)用程度的加深，人工智能技術(shù)將會給政府治理帶來翻天覆地的變化。

2.1 治理理念

人工智能在私營部門的普及和廣泛應(yīng)用為社會公眾帶來了良好的辦事體驗，自然而然會驅(qū)使公眾對政府部門的管理和服務(wù)提出更高要求。在此背景下，政府部門有必要對自身的治理理念進行深刻反思，并做出積極有效的回應(yīng)，不斷推動政府治理理念朝著服務(wù)型、開放型以及合作型政府轉(zhuǎn)變。

人工智能技術(shù)有助于服務(wù)型政府建設(shè)。人工智能提供的技術(shù)支持使得政府部門有了更多的創(chuàng)新空間，從而能夠提高主動服務(wù)的能力和意識[7]。一方面，隨著人工智能應(yīng)用程度的加深，公共部門在常規(guī)性、重復(fù)性工作上的投入將大幅減少，使得其進一步提升服務(wù)的主動性與積極性、落實 “以服務(wù)為中心”的要求、彰顯服務(wù)型政府的定位成為可能。另一方面，技術(shù)發(fā)展使得政府部門有了更多途徑去收集公眾的信息，通過對這些數(shù)據(jù)進行深入分析與挖掘，政府部門便可以掌握到不同個體的興趣愛好、生活軌跡等個性化信息。通過進一步分析，政府部門便能夠分辨出不同個體的辦事服務(wù)需求[8]。在此基礎(chǔ)上，政府部門就可以為辦事群眾提供 “千人千面”的公共服務(wù)，從而真正將服務(wù)型政府的要求落到實處。

人工智能技術(shù)有助于開放型和合作型政府建設(shè)。人工智能技術(shù)的應(yīng)用會導(dǎo)致社會問題更加復(fù)雜多元，迫切需要新手段、新思路進行治理。政府在治理過程中，需要考慮將多元的思維和多樣化的手段納入思考范圍，包括共享公共人力資源的開發(fā)與利用、共享人工智能技術(shù)的外溢成果、協(xié)作制定算法規(guī)則、共同對人工智能技術(shù)進行監(jiān)管等，從而朝著合作治理轉(zhuǎn)變[9]。同時，隨著新技術(shù)的興起與應(yīng)用，掌握新技術(shù)的私營企業(yè)在社會治理中扮演的角色將更加重要，政府迫切需要加強與這些企業(yè)的深度合作；另外，新技術(shù)的應(yīng)用也會加速推動公民在社會治理中從傳統(tǒng)的被動參與、間接參與轉(zhuǎn)變成為主動參與和直接參與[10]?？偟膩碚f，開放和合作型治理理念強調(diào)的是政府在治理過程中實現(xiàn)對社會的公開透明，并在共同的價值基礎(chǔ)上對社會事務(wù)開展合作治理，這意味著相關(guān)各方都將在治理過程中成為有意義的參與者。

2.2 治理方式與過程

當前，由人工智能等新技術(shù)所帶來的社會發(fā)展大躍遷，已經(jīng)對人類社會生活各方面產(chǎn)生了廣泛深刻的影響。具體到政府治理的方式與過程方面，這種影響可以體現(xiàn)在公共服務(wù)供給、市場監(jiān)管以及決策制定等多方面。

隨著政府部門尋求改善公共服務(wù)以提升公眾的滿意度，人工智能等新技術(shù)逐漸被應(yīng)用到公共服務(wù)的供給中。目前來看，人工智能等新技術(shù)已經(jīng)被應(yīng)用到從事前咨詢、到事中審批、再到事后服務(wù)優(yōu)化的全過程中[11]。在事前咨詢方面，智能客服具備回答提問、指導(dǎo)填寫表格、引導(dǎo)辦事等多種功能，可以為公眾提供全天候、多渠道的服務(wù)，從而能夠從根本上解決以往辦事中存在的溝通不暢、響應(yīng)不及時、服務(wù)態(tài)度惡劣等難題[12]。在事中的審批方面，目前已經(jīng)有地區(qū)開始使用人工智能技術(shù)對簡單事項進行審批，審批全過程無人工參與，實現(xiàn)了 “無人辦”[13]；在審批后的服務(wù)優(yōu)化方面，通過對過往的辦事數(shù)量、辦理時限以及公眾評價等信息進行挖掘與分析，人工智能技術(shù)可以為政府部門縮減辦事時限、優(yōu)化辦事流程等提供科學(xué)依據(jù)。此外，在常規(guī)工作處理方面，人工智能技術(shù)已經(jīng)完全可以勝任填寫表單、搜索信息等簡單重復(fù)性工作，從而使工作人員能有更多精力去處理那些難度和創(chuàng)造性更高的問題[14]?？傮w而言，人工智能的應(yīng)用可以有效彌補當前服務(wù)供給中存在的不足，并引起公共服務(wù)領(lǐng)域的顛覆性變革，從而讓公眾享受到更優(yōu)質(zhì)高效的服務(wù)。

在社會監(jiān)管方面探索引入人工智能技術(shù)，有助于實現(xiàn)監(jiān)管的實時化、精準化，有利于提升監(jiān)管的公平公正性，能夠有效提升政府部門的監(jiān)管能力與水平。在市場監(jiān)管方面，通過將工商、銀行、稅務(wù)等相關(guān)數(shù)據(jù)統(tǒng)一歸集到企業(yè)社會信用代碼 (個人則為身份證)之下，形成關(guān)于市場主體的多維信息視圖和 “信用畫像”，方便監(jiān)管部門實時了解市場主體的全面信息[15]。在社會治安方面，一方面既能通過人臉識別等技術(shù)及時找到可能危害社會安全的不穩(wěn)定因素，從而有效化解社會生活中的潛在風(fēng)險[16]；另一方面又能在對過往案例等進行分析的基礎(chǔ)上構(gòu)建起相應(yīng)的算法模型，從而及早發(fā)現(xiàn)社會治安事件的規(guī)律與特征，提升政府的預(yù)判預(yù)警能力，做到及早發(fā)現(xiàn)和及時處理，大幅提升社會治安監(jiān)管能力。

人工智能技術(shù)在政府決策制定方面，具有全面識別決策對象、降低決策成本和提升決策科學(xué)性等眾多好處；在決策對象或政策議題的識別方面，通過對政府部門積累的歷史基礎(chǔ)數(shù)據(jù)進行采集與挖掘，可以幫助決策者快速全面獲取與決策對象有關(guān)的所有信息，從而能對決策對象形成更加全面真實的了解[17]；在決策成本方面，以往政府在制定決策的過程中需要在信息搜尋、數(shù)據(jù)分析處理、方案論證等方面進行大量投入，而人工智能技術(shù)的引入可以實現(xiàn)對上述基礎(chǔ)常規(guī)工作的有效替代，從而大幅降低決策成本；在決策科學(xué)性方面，通過深度學(xué)習(xí)算法等的應(yīng)用，可以充分挖掘出決策對象有關(guān)的所有信息及其存在的深度關(guān)聯(lián)，從而幫助政府部門在準確掌握相關(guān)信息的前提下做出決策[18]。既有助于提高政府決策的精準性和針對性，同時也能夠通過智能信息收集和預(yù)測需求，實現(xiàn)政府決策從以往的被動回應(yīng)向主動設(shè)定的轉(zhuǎn)變，從而使得其科學(xué)性和有效性進一步得到提升。

2.3 治理結(jié)構(gòu)

人工智能時代的到來及應(yīng)用，會推動政府的組織架構(gòu)從職能分工向整體性政府進行轉(zhuǎn)變。在強調(diào)社會分工的工業(yè)化時代，建立在職能分工基礎(chǔ)上的官僚制組織無疑具有突出的優(yōu)勢，而到了萬物互聯(lián)的智能化時代，這種優(yōu)勢顯然又會掣肘社會發(fā)展，必須要求政府部門按照整體性的思維進行重構(gòu)。在人工智能等新信息技術(shù)的聯(lián)接下，原本按照職能條塊分割的各政府部門被整合為一個有機整體。這意味著當一個整合后的整體性政府呈現(xiàn)在我們面前時，從空間的角度來說，政府部門已經(jīng)完成了從分割到整體的變革，社會公眾與政府部門之間也開始轉(zhuǎn)變?yōu)橐环N前后臺的關(guān)系[19]。而在這一整體的內(nèi)部，由于人工智能等新信息技術(shù)的聯(lián)接和智能機器的應(yīng)用，部門間的邊界與壁壘被打破，信息和資源的流動共享變得更加順暢，跨部門的協(xié)作治理變得更為便捷，政府部門的辦事效率也將進一步得以提高。

人工智能的發(fā)展與運用，為政府部門實現(xiàn)從實體組織向虛實深度融合提供了強大技術(shù)支撐。隨著人工智能等新技術(shù)在政府部門的應(yīng)用程度得到加深，將為政府部門開辟出一個新的虛擬空間，這個虛擬空間將不僅帶來政府組織存在空間的延伸，同時更有可能帶來對政府組織的整體重塑。從組織層面來說，當政府部門完成了虛實融合后，一個顯而易見的變化將是新技術(shù)在政府治理中發(fā)揮重大作用，同時會對公務(wù)員的行為方式造成沖擊，在具體的治理過程中，新技術(shù)將與人類形成一種相依相存的關(guān)系。從結(jié)果來看，不僅會帶來政府組織結(jié)構(gòu)的轉(zhuǎn)變，推動政府朝著虛實結(jié)合以及人機協(xié)同治理方向發(fā)展，而且也將帶來治理模式的變革，使得全天候、智能化的政府治理成為可能。

當前在全世界范圍內(nèi)，已經(jīng)有了人工智能在政府治理中的部分嘗試，但無論從數(shù)量還是程度上，這種應(yīng)用都還處于開始階段。因此，本文及相關(guān)研究在論述人工智能對政府治理的機遇上必然帶有一定的預(yù)判性質(zhì)，當這種預(yù)判與人工智能技術(shù)發(fā)展的不確定性聯(lián)系到一起時，會不可避免地難以對人工智能對政府治理所帶來的所有機遇形成全貌的認識。特別是當前關(guān)于 “強人工智能”甚至是 “超人工智能”的探討，都使得這種機遇有了更多的可能?；诖宋覀冋J為，關(guān)于人工智能對政府治理的機遇問題，有待學(xué)者在技術(shù)和實踐的發(fā)展基礎(chǔ)上進一步加以探討與驗證，從而形成客觀全面的認知。

3 政府治理面臨的挑戰(zhàn)：從技術(shù)本身到政府管理

在文獻梳理的過程中我們發(fā)現(xiàn)，當前關(guān)于相關(guān)挑戰(zhàn)的論述已經(jīng)較多，但是整體上國內(nèi)公共管理學(xué)界對這些挑戰(zhàn)的分析與反思仍顯不足[20]，并且相應(yīng)的研究也尚未形成體系，這顯然不利于政府部門對其形成全面的認識。為了使政府部門更容易理解相關(guān)挑戰(zhàn)，我們選擇將它們從政府治理的視角中分離出來。本文將相關(guān)挑戰(zhàn)歸納為13項，并在分析梳理其背后特征和邏輯關(guān)系的基礎(chǔ)上，將其劃分為安全與隱私、倫理與法律以及組織與管理三個類別，這三個類別分別代表與人工智能技術(shù)本身、人工智能技術(shù)應(yīng)用及社會化以及政府對人工智能的治理等方面的相關(guān)挑戰(zhàn)。

3.1 安全與隱私

人工智能的技術(shù)安全挑戰(zhàn)主要是指技術(shù)本身的安全性以及在應(yīng)用中可能給人類帶來的安全問題，這是人工智能技術(shù)在發(fā)展與應(yīng)用過程中的第一個嚴峻挑戰(zhàn)，并已經(jīng)引起理論界和實踐界的重點關(guān)注。一方面，要注重保護人工智能系統(tǒng)本身的安全性，防止其被惡意篡改或攻擊，確保其能夠正常運轉(zhuǎn)；另一方面，也要關(guān)注人工智能系統(tǒng)學(xué)習(xí)環(huán)境和運行環(huán)境的安全，防止其從環(huán)境中學(xué)習(xí)負面行為或執(zhí)行災(zāi)難性動作，從而保證人類自身的安全[21]。另外需要強調(diào)的是，系統(tǒng)的安全還表現(xiàn)在數(shù)據(jù)安全上面，在人工智能技術(shù)的研發(fā)與應(yīng)用過程中，不管是對于數(shù)據(jù)的收集與使用，還是對于數(shù)據(jù)的存儲與傳輸，都面臨被攻擊的風(fēng)險?？傮w來說，人工智能的安全性問題是政府在治理過程中面臨的首要挑戰(zhàn)，如不能有效處理，那么其在任何場景下的應(yīng)用都將沒有價值與意義。

在大數(shù)據(jù)等技術(shù)的助力下，人工智能對個人隱私保護產(chǎn)生了巨大的沖擊。關(guān)于隱私保護，最重要的一點就在于個人的數(shù)據(jù)是在征求本人同意和遵守各自法律的情況下收集和處理的。但實際上，人工智能在社會化應(yīng)用過程中 (如監(jiān)控攝像頭)會發(fā)生信息的采集與整合，因此公眾的大量個人信息將會匯聚到政府或私營部門，一旦這些信息被非法使用，就會帶來廣泛的隱私泄露問題[22]。另外一點需要警惕的是，以往公眾認為并不屬于隱私或無關(guān)痛癢的信息，在人工智能等技術(shù)的挖掘與整合下，正在以一種我們沒有注意到的方式泄露重要的個人隱私并蠶食公眾自由。由此可以看出，人工智能對人們的隱私產(chǎn)生了巨大威脅，使隱私保護成為人工智能背景下亟待解決的一個挑戰(zhàn)，但由于涉及技術(shù)與法律等方面的難點，使得這一問題截止到現(xiàn)在仍難以得到有效解決。

3.2 倫理與法律

倫理與法律方面的挑戰(zhàn)是指人工智能技術(shù)在應(yīng)用和社會化過程中可能帶來的與倫理道德、法律監(jiān)管以及社會保障等相關(guān)的挑戰(zhàn)，這些挑戰(zhàn)體現(xiàn)在人工智能制定的決策與規(guī)則是否合法、有效、公平，人工智能所遵循的價值準則是否與人類兼容，出現(xiàn)問題后如何進行問責，人工智能對勞動力的替代及財富的再分配以及對人工智能的接受與信任等方面。

人工智能在治理過程中會面臨合法性、有效性以及公平性難題。在合法性方面，人工智能與人類并不是享有平等的地位，因此，賦予人工智能同人類相同的權(quán)利并允許其參與到政府治理中，其合法性仍然有待商榷[23]。在有效性方面，對于一些非常規(guī)的、重大或創(chuàng)新性事件的決策，直覺、意識等人類所特有的特征往往扮演著更加重要的角色。因此在這類事件上，人工智能所制定的決策與規(guī)則并不必然優(yōu)于人類。在公平性方面，機器學(xué)習(xí)從過去的數(shù)據(jù)中識別模式，并基于這些模式做出新的決定，因此人工智能系統(tǒng)有可能鞏固或放大歷史偏見[24]，從而帶來算法的公平性和歧視問題。總體而言，合法性、有效性以及公平性作為公共治理中的基本準則和社會人文學(xué)者重點推崇的價值追求，迫切需要政府部門從法律、倫理以及技術(shù)等多個角度采取措施加以解決。

機器與人的價值判斷的兼容性問題與上文中討論的人類與人工智能的差異密切相關(guān)。與人工智能系統(tǒng)相比，人類的決策不僅受到理性原則的影響，還受到情感和意識等因素的影響，因此在某些情況下，人類的價值取舍可能會有所不同。另外，隨著人工智能算法的進步和學(xué)習(xí)能力的提高，人工智能系統(tǒng)可能會發(fā)展自己的價值體系，并創(chuàng)建自己的倫理道德框架，這可能與人類的價值體系不相容。在最壞的情況下，機器的判斷將會與人類的價值判斷相抵觸，人工智能系統(tǒng)也將轉(zhuǎn)向獨立并最終對人類造成傷害[25]。因此，謀求將正確的價值倫理植入人工智能，以確保其行為合乎人類的道德體系框架就顯得十分必要。

責任劃分和承擔是在人工智能技術(shù)運行失敗甚至導(dǎo)致不良后果的情況下政府部門將面臨的一個巨大難點，如果因為使用人工智能技術(shù)而產(chǎn)生不良后果，那么到底是硬件或軟件設(shè)計人員、供應(yīng)商或運營商、使用方甚至人工智能系統(tǒng)本身應(yīng)該承擔相應(yīng)后果[26]?有觀點認為，人類總是應(yīng)對與技術(shù)相關(guān)的后果負責，但是隨著人工智能系統(tǒng)在運行過程中不斷自主學(xué)習(xí)與行動，開發(fā)人員或操作人員可能無法控制或預(yù)測他們隨后的行為，從而帶來所謂的 “責任鴻溝”問題[27]?？傮w來說，人工智能的社會化應(yīng)用主要是實現(xiàn)機器對人類的代替，相應(yīng)地不可避免就會帶來責任的模糊，截止到目前，已經(jīng)有各種各樣的方法來探討解決責任和問責挑戰(zhàn)，并尋求克服 “責任鴻溝”，但卻尚未達成共識。

對勞動力的替代以及轉(zhuǎn)型等方面的影響，是目前人工智能在社會化過程中所遭遇的最普遍的挑戰(zhàn)之一。越來越多的人開始擔憂，人工智能的推進和實施將導(dǎo)致失業(yè)問題，普華永道 (PwC)的一項研究證實了這一點，有超過三分之一的員工擔心自動化帶來的潛在失業(yè)[28]。盡管各個機構(gòu)或組織對于人工智能對現(xiàn)有工作崗位替代的預(yù)估從30%～80%不等，但是現(xiàn)有事實已經(jīng)開始證明這種替代確實普遍存在。與失業(yè)問題同時存在的還有勞動力的轉(zhuǎn)型問題，雖然數(shù)據(jù)科學(xué)家、機器學(xué)習(xí)工程師等與人工智能密切相關(guān)的新崗位已經(jīng)開始逐漸出現(xiàn)，但是不容忽視的是，越來越多的人將不得不去從事工資更低廉的工作，甚至是兼職零工。從現(xiàn)實的情況來看，由自動化技術(shù)發(fā)展所帶來的技術(shù)性失業(yè)正以各種形式出現(xiàn)在我們身邊， “凱恩斯拐點”正在逐步到來。

人工智能的社會化所帶來的更深層次問題在于社會分化，貧富差距進一步擴大。和歷史上的任何一次技術(shù)革命一樣，人工智能技術(shù)每向前推進一步，都將帶來社會各階層利益的劃分與重構(gòu)[29]。科技發(fā)展正在創(chuàng)造大量的新財富，但這些財富主要集中在少數(shù)愿意冒險的企業(yè)家和那些擁有支持顛覆性行業(yè)和風(fēng)險投資技能的人身上[30]。當勞動力被自動化逐漸替代，大量的新財富將更多流向資本或技術(shù)的所有者，這會進一步導(dǎo)致中產(chǎn)階級萎縮和社會貧富分化。當民眾失去生產(chǎn)的機會，政府部門要面對且必須設(shè)法解決的根本性問題已經(jīng)從生產(chǎn)轉(zhuǎn)變?yōu)榉峙洹绾畏峙渥詣踊夹g(shù)所生產(chǎn)出的產(chǎn)品和財富。

政府以及社會對于人工智能技術(shù)的信任或接受，與上述關(guān)于人工智能技術(shù)安全、隱私、歧視和勞動力替代等可能直接對公民產(chǎn)生負面影響的其他挑戰(zhàn)密切相關(guān)。如果這些挑戰(zhàn)得以順利解決，公眾對于人工智能的信任程度自然能夠得到提高。如果公眾感到人工智能并沒有帶來公平公正的決定，或者威脅到他們的安全、隱私或就業(yè)，從而違背他們對于人工智能的美好期望，公眾將非常不可能接受或信任人工智能。如果人工智能帶來的失業(yè)和財富的集聚加劇了社會不平等、拉大了貧富差距，這可能會導(dǎo)致普遍的社會不滿而不是接受與信任[31]。另外，隨著人工智能技術(shù)對人類的理解越來越深，人類可能會越發(fā)有心理恐慌或情緒焦慮，這或許將導(dǎo)致更深層次的不信任。

3.3 組織與管理

組織與管理方面的挑戰(zhàn)是指政府部門在有效運用和管理人工智能技術(shù)時所面臨的挑戰(zhàn)?；谇叭说难芯?，我們將政府部門在組織與管理方面的挑戰(zhàn)分為五個方面：人力資源儲備、治理權(quán)威、治理理念、治理結(jié)構(gòu)轉(zhuǎn)型、數(shù)據(jù)共享與集成。

人力資源儲備情況是政府部門有效運用人工智能技術(shù)進行社會治理的關(guān)鍵要素，然而現(xiàn)實情況卻是相關(guān)專家人才的缺乏，已經(jīng)成為人工智能技術(shù)實施與運用的一大阻礙。關(guān)于這一點，政府部門所面對的挑戰(zhàn)顯然更為嚴峻。與私營部門相比，政府部門在信息技術(shù)的運用上一直都較為滯后，同時相應(yīng)的專業(yè)化人才也更為匱乏，這種人才匱乏的現(xiàn)狀導(dǎo)致人工智能技術(shù)難以在政府治理進程中發(fā)揮出應(yīng)有作用。

與上一個挑戰(zhàn)密切相關(guān)的另一個問題在于政府的治理權(quán)威將面臨威脅。隨著應(yīng)用程度的加深，人工智能技術(shù)在政府治理中占據(jù)著越發(fā)重要的位置，誰掌握了相關(guān)數(shù)據(jù)和算法，誰就可能在政府治理中占據(jù)核心地位。由于人力資源儲備或?qū)I(yè)化水平不足，政府部門現(xiàn)有的許多相關(guān)應(yīng)用都是由掌握技術(shù)優(yōu)勢的科技巨頭研發(fā)完成，因此政府部門對這些企業(yè)的依賴正日益加深[32]。從一定意義上來說，政府已經(jīng)將政治考量、政策制定和公共事務(wù)處理交給了機器及其背后的大企業(yè)。從深層次來看，由于算法具有不透明性，就使得這些大企業(yè)在一定程度上扮演起 “算法影子官僚”的角色[33]。未來，這些具備 “算法權(quán)力”的科技巨頭或?qū)φ闹卫頇?quán)威形成對抗、消解甚至支配。因此，探討如何最大限度將私營部門的技術(shù)優(yōu)勢運用到政府治理中，同時又防止科技巨頭因過度染指公共權(quán)力而對政府的公共管理權(quán)威造成威脅，將是政府部門迫切需要化解的一大難題。

及時轉(zhuǎn)變政府部門的治理思維和理念是一個重大挑戰(zhàn)。與運用其他技術(shù)一樣，政府在運用人工智能的過程中常常存在 “技術(shù)導(dǎo)向”和 “技術(shù)依賴”兩種不良傾向。一般而言，新技術(shù)往往會具有短期的躍進效應(yīng)和長期的固化效應(yīng)。人工智能的確能夠以 “躍進”的方式提升體制效率和體制韌性，但是這種提升效應(yīng)是短期的，不僅難以持續(xù)，而且還會造成體制的長期固化[34]。所以，人工智能技術(shù)的成熟并廣泛應(yīng)用于政府治理領(lǐng)域可能會使治理主體產(chǎn)生技術(shù)依賴，將政府治理過程簡化并固化為購買機器設(shè)備、建設(shè)基礎(chǔ)設(shè)施、培訓(xùn)技術(shù)人員和技術(shù)手段常規(guī)化的過程[35]，而卻忽視治理理念的與時俱進，導(dǎo)致技術(shù)與管理之間不對等，從而使得管理者無法按預(yù)期的方式服務(wù)公眾。人工智能技術(shù)確實為政府治理帶來了變革的可能性，但是它卻不會自動實現(xiàn)，亟待政府部門及時轉(zhuǎn)變治理思維和理念，并在這種可能性的基礎(chǔ)上建構(gòu)起相應(yīng)的體系與制度。

政府部門治理結(jié)構(gòu)的僵化在人工智能時代會表現(xiàn)得更為突出。人工智能技術(shù)具有開放性的特征，但是這種開放性也極有可能導(dǎo)致發(fā)展的不確定，如果缺乏有效監(jiān)管，人工智能最終很可能對人類社會造成難以估量的傷害[36]。由于生產(chǎn)網(wǎng)絡(luò)遍布在社會各個角落，對人工智能的治理就具有了跨部門的性質(zhì)，政府現(xiàn)行的單部門、事后監(jiān)管式的手段已經(jīng)難以起到治理效果。因此，政府部門一方面需要在新技術(shù)的基礎(chǔ)上加緊推動自身從結(jié)構(gòu)到功能的重塑，促進整體性政府的建設(shè)，另一方面也迫切需要加強與其他利益相關(guān)者 (如學(xué)術(shù)界、工業(yè)界等)的緊密合作，并構(gòu)建起多方協(xié)作的治理機制，從而共同面對潛在風(fēng)險與挑戰(zhàn)。

數(shù)據(jù)質(zhì)量與共享是一個老生常談的話題，也是人工智能時代政府治理不得不面對的一大艱巨挑戰(zhàn)。一方面，數(shù)據(jù)作為人工智能的 “石油”，其質(zhì)量十分重要，人工智能系統(tǒng)需要不斷從高質(zhì)量的數(shù)據(jù)中進行學(xué)習(xí)才能達到最終的智能；另一方面，數(shù)據(jù)共享也十分關(guān)鍵，但目前 “數(shù)據(jù)孤島” “數(shù)據(jù)壁壘”現(xiàn)象在政府部門十分廣泛，各部門之間的數(shù)據(jù)共享程度較低、互聯(lián)互通尚未實現(xiàn)[37]。為此，為了能在政府部門成功實施人工智能，收集、聚合、存儲和使用無偏倚的相關(guān)數(shù)據(jù)是必要的，同時也會不可避免地成為政府部門運用人工智能技術(shù)過程中面臨的艱巨挑戰(zhàn)。

整體而言，當前關(guān)于人工智能技術(shù)對政府治理帶來的挑戰(zhàn)已經(jīng)引起學(xué)界和實踐界的廣泛關(guān)注，并嘗試采取各種措施加以解決，但作為一項新科學(xué)技術(shù)，人工智能極有可能造成這些挑戰(zhàn)的多樣化以及解決措施的多元化。從挑戰(zhàn)的多樣化來看，人工智能的發(fā)展具有極其嚴重的不確定性，這也是造成當前關(guān)于 “強人工智能”和 “奇點”等紛爭的根本原因所在。由于人工智能的發(fā)展方向存在多種可能性，也導(dǎo)致其可能帶來多樣化的挑戰(zhàn)。從解決措施的復(fù)雜化來看，作為一種新的尖端科技，人工智能不管是從形態(tài)還是功能上來說都具有其獨特性，這就導(dǎo)致傳統(tǒng)的治理手段和方式都難以達到有效的效果，因此亟待政府部門采取新的多元化解決措施加以應(yīng)對。

4 總結(jié)

本文對人工智能為政府治理帶來的機遇與挑戰(zhàn)進行了系統(tǒng)梳理與歸納，從政府的治理理念、治理方式與過程、治理結(jié)構(gòu)出發(fā)，探討了人工智能可能為政府治理帶來的機遇，以期促進政府部門全面了解與認知人工智能帶給政府治理的機遇與可能。關(guān)于挑戰(zhàn)方面，本文循著人工智能技術(shù)本身、技術(shù)的應(yīng)用與社會化、政府對人工智能的運用及治理這樣一條邏輯主線，將潛在的各種挑戰(zhàn)劃分為安全與隱私、倫理與法律、組織與管理三個類別，希望能提醒政府部門對可能出現(xiàn)的各種挑戰(zhàn)保持高度警惕并做好應(yīng)對準備。政府部門有必要抓住這一歷史機遇，實現(xiàn)從治理理念到結(jié)構(gòu)的全方位變革。而對于存在的種種挑戰(zhàn)，政府部門也應(yīng)盡早采取必要措施加以積極有效的應(yīng)對，從而盡可能最大化人工智能技術(shù)的正面價值。

目前西方國家進行的一些探討與實踐為我們解決上述這些挑戰(zhàn)提供了一定借鑒，如在人工智能倫理治理方面，歐盟分別于2019年4月和2020年2月發(fā)布了 《可信賴的人工智能倫理準則》和 《人工智能白皮書》兩份報告，謀求從遵循人類價值、技術(shù)安全、可持續(xù)發(fā)展、透明與公平等倫理監(jiān)管的角度入手，消解人工智能發(fā)展中可能存在的風(fēng)險和挑戰(zhàn)；英國也于2019年6月和2020年2月先后發(fā)布了 《公共部門人工智能使用指南》和 《人工智能與公共標準》兩份報告，分別從公平、可責性、透明度和可持續(xù)等標準出發(fā)，為政府部門合理、安全使用人工智能提供了包含倫理原則、法律體系以及監(jiān)管制度等在內(nèi)的路線指引和具體建議。中國在發(fā)展人工智能的進程中也應(yīng)該采取自上而下的方式，建構(gòu)起包括以人為本、公平透明、可持續(xù)發(fā)展、尊重人的基本權(quán)利和價值等在內(nèi)的倫理道德體系，以最大限度規(guī)避人工智能技術(shù)可能帶來的風(fēng)險與挑戰(zhàn)。