周曉麗,姬曉暄

中央民族大學(xué) 管理學(xué)院, 北京 100081

一、問題提出

近年來(lái),隨著新一輪科技革命取得突破性進(jìn)展,大數(shù)據(jù)、云計(jì)算、人工智能已深刻嵌入社會(huì)生活的方方面面。從人臉識(shí)別到安全監(jiān)控,從智能家居到自動(dòng)駕駛,從人機(jī)交互到數(shù)字孿生,數(shù)字化、智能化的技術(shù)手段不斷重塑社會(huì)樣態(tài),驅(qū)動(dòng)人類社會(huì)朝著智慧化邁進(jìn)。其中,算法作為一切智能技術(shù)的基礎(chǔ)要素發(fā)揮著關(guān)鍵性作用。憑借高效的信息處理能力、自主的校準(zhǔn)修正能力以及持續(xù)的深度學(xué)習(xí)能力,算法能夠以機(jī)器語(yǔ)言對(duì)海量數(shù)據(jù)信息加以處理,以預(yù)先設(shè)定好的策略機(jī)制解決現(xiàn)實(shí)問題,為整個(gè)社會(huì)高效有序運(yùn)行提供邏輯參照。同時(shí),在“算法社會(huì)”時(shí)代,算法技術(shù)也為政府治理提供了更為廣泛的思路參考,如何推進(jìn)算法技術(shù)與政府治理場(chǎng)景廣泛融合,發(fā)揮好算法技術(shù)在促進(jìn)政府決策理性化、公共服務(wù)精準(zhǔn)化、行政績(jī)效高效化方面的優(yōu)勢(shì)成為亟待解決的現(xiàn)實(shí)議題?！丁笆奈濉睌?shù)字經(jīng)濟(jì)發(fā)展規(guī)劃》明確提出,要加快構(gòu)建算力、算法、數(shù)據(jù)、應(yīng)用資源協(xié)同的全國(guó)一體化大數(shù)據(jù)中心體系,提高中國(guó)數(shù)字經(jīng)濟(jì)治理水平,走高質(zhì)量發(fā)展道路;《國(guó)務(wù)院關(guān)于加強(qiáng)數(shù)字政府建設(shè)的指導(dǎo)意見》指出,要主動(dòng)順應(yīng)經(jīng)濟(jì)社會(huì)數(shù)字化轉(zhuǎn)型趨勢(shì),充分釋放數(shù)字化發(fā)展紅利,建立健全對(duì)算法的審核、運(yùn)用、監(jiān)督等管理制度和技術(shù)措施,以數(shù)字化改革助力政府職能轉(zhuǎn)變?？梢?在當(dāng)下如何推進(jìn)算法技術(shù)深度嵌入政府治理,促進(jìn)政府治理模式優(yōu)化升級(jí),以期更好地實(shí)現(xiàn)公共價(jià)值是亟須關(guān)注的時(shí)代命題。

從廣義上說(shuō),“算法”是模型、目標(biāo)、數(shù)據(jù)、訓(xùn)練數(shù)據(jù)、應(yīng)用程序、硬件等一系列要素組成的概念網(wǎng)絡(luò),能夠?qū)⑷祟愓Z(yǔ)言中的社會(huì)規(guī)范和法律規(guī)則轉(zhuǎn)化為計(jì)算機(jī)代碼[1]。其雛形最早出現(xiàn)在中國(guó)周朝時(shí)期,商高提出的“勾三股四弦五”定律即為數(shù)學(xué)算法的初級(jí)推演。此后,歐幾里得算法、《九章算術(shù)》、《周髀算經(jīng)》等不斷推進(jìn)算法演進(jìn),為現(xiàn)代算法設(shè)計(jì)的形成奠定了理論基礎(chǔ)。隨著Ada Byron程序設(shè)計(jì)流程圖、圖靈計(jì)算機(jī)的發(fā)明,人類社會(huì)逐漸步入信息化時(shí)代,人們開始探求以計(jì)算機(jī)語(yǔ)言描述算法程序的可行性路徑,嘗試通過(guò)一套包含算數(shù)運(yùn)算、邏輯運(yùn)算、關(guān)系運(yùn)算的計(jì)算過(guò)程高效、理性、客觀地解決現(xiàn)實(shí)問題。從當(dāng)前有關(guān)算法與社會(huì)發(fā)展關(guān)系的研究成果來(lái)看,學(xué)界多從技術(shù)、規(guī)則以及功能三個(gè)方面展開研究。從技術(shù)角度而言,一方面,“算法積極論者”認(rèn)為,人類社會(huì)應(yīng)因技術(shù)革命發(fā)展方向進(jìn)行結(jié)構(gòu)性演變,算法能夠促進(jìn)信息流彼此聯(lián)結(jié)形成網(wǎng)絡(luò)系統(tǒng),實(shí)現(xiàn)對(duì)各社會(huì)事務(wù)的標(biāo)準(zhǔn)化和程式化處理,提高社會(huì)運(yùn)轉(zhuǎn)效率和整體效益,豐富和便利社會(huì)生活,提升公民對(duì)于復(fù)雜技術(shù)規(guī)則的學(xué)習(xí)與掌握能力,推動(dòng)社會(huì)形成開放多元的思維方式和價(jià)值理念。另一方面,“算法消極論者”認(rèn)為,歷史上的所有技術(shù)應(yīng)用都存在異化的風(fēng)險(xiǎn),算法的純工具理性可能會(huì)限制市場(chǎng)競(jìng)爭(zhēng)、威脅數(shù)據(jù)安全,導(dǎo)致社會(huì)公正性減損、個(gè)體權(quán)利湮沒等問題,因而需要警惕算法給社會(huì)帶來(lái)的風(fēng)險(xiǎn)。就規(guī)則層面而言,算法不僅是構(gòu)建網(wǎng)絡(luò)空間的代碼和技術(shù),也是對(duì)現(xiàn)實(shí)世界的制度供給[2]。算法將海量的數(shù)據(jù)資源放置在預(yù)先設(shè)定好的程序框架內(nèi),經(jīng)由一套確定的規(guī)則轉(zhuǎn)化為現(xiàn)實(shí)的問題解決路徑,以可視的正式的制度安排引導(dǎo)、推動(dòng)甚至決定社會(huì)事務(wù)發(fā)展方向,同時(shí)算法開發(fā)者、測(cè)試者、使用者基于個(gè)人潛在意識(shí)賦予算法的非正式制度安排也在潛移默化中作用于社會(huì)生活,形成對(duì)現(xiàn)實(shí)世界的規(guī)則。從功能層面而言,學(xué)界已普遍關(guān)注算法嵌入社會(huì)醫(yī)療衛(wèi)生、金融科技、腐敗治理、政務(wù)服務(wù)、文化傳播、信用評(píng)價(jià)等領(lǐng)域,認(rèn)為具備自主學(xué)習(xí)能力的算法已不僅僅是處理社會(huì)事務(wù)的技術(shù)和規(guī)則,更是推動(dòng)社會(huì)權(quán)力運(yùn)行的重要機(jī)制[3]。掌握核心算法技術(shù)的個(gè)人或組織能夠憑借技術(shù)優(yōu)勢(shì)把控社會(huì)資源,在政治、經(jīng)濟(jì)、社會(huì)等領(lǐng)域?qū)崿F(xiàn)對(duì)傳統(tǒng)權(quán)力的虛擬化延伸,逐漸構(gòu)建起復(fù)雜的算法權(quán)力網(wǎng)絡(luò),對(duì)社會(huì)進(jìn)行構(gòu)建、干預(yù)、引導(dǎo)和改造[4]。

關(guān)于算法嵌入政府治理,既有研究呈現(xiàn)較明顯的“樂觀”與“悲觀”兩極化態(tài)勢(shì)。樂觀主義者認(rèn)為,現(xiàn)階段面對(duì)日益復(fù)雜的治理環(huán)境,傳統(tǒng)政府部門決策可能存在“認(rèn)知負(fù)荷”[5],而算法憑借獨(dú)有的算力優(yōu)勢(shì)能夠有效減少政府機(jī)構(gòu)工作人員的投入,降低治理成本[6]的同時(shí),能夠?qū)Ａ啃畔①Y源進(jìn)行轉(zhuǎn)碼和解碼,通過(guò)統(tǒng)一規(guī)范的程序產(chǎn)出問題解決方案,有利于提升公共部門決策質(zhì)量[2];此外,算法嵌入還有利于將碎片化治理轉(zhuǎn)變?yōu)檎线B接式治理[7],保障公共部門決策的中立性和客觀性[8],更好地實(shí)現(xiàn)公眾個(gè)性化公共服務(wù)需求,推進(jìn)社會(huì)治理逐步向開放化、透明化與智能化發(fā)展[9]。悲觀主義者則認(rèn)為要對(duì)算法嵌入政府治理保持警惕,公共部門決策過(guò)度依賴算法可能會(huì)削弱政府和民眾的自主性,侵犯公民隱私權(quán)[10],產(chǎn)生算法歧視與算法共謀[11],使得公共秩序被算法支配,最終導(dǎo)致政治正義的解體。因而,要審慎對(duì)待算法技術(shù),謹(jǐn)防工具理性對(duì)公共價(jià)值可能造成的損害。

通過(guò)梳理可以發(fā)現(xiàn),既有研究中“樂觀”與“悲觀”兩種研究論調(diào)出現(xiàn)的原因在于算法作用于政府治理可能產(chǎn)生的正負(fù)外部性間存在的結(jié)構(gòu)性張力。事實(shí)上,承認(rèn)算法對(duì)于政府治理的正外部性,即從效率、效益角度強(qiáng)調(diào)算法以遠(yuǎn)勝于人腦的技術(shù)優(yōu)勢(shì)賦能公共組織,提高公共決策效率,提升公共服務(wù)質(zhì)量,更好實(shí)現(xiàn)公共福祉;而承認(rèn)算法在政府治理中的負(fù)外部性,更多是看到了算法的權(quán)力內(nèi)核,強(qiáng)調(diào)公共部門要秉持公共性,善用技術(shù)權(quán)力,以算法驅(qū)動(dòng)公共價(jià)值實(shí)現(xiàn),旨在從價(jià)值層面強(qiáng)調(diào)平等、民主、責(zé)任等公共價(jià)值對(duì)于政府治理的重要意義?？梢?無(wú)論是作為技術(shù)的算法,還是作為權(quán)力的算法;無(wú)論是從效率角度還是從價(jià)值層面來(lái)說(shuō),算法的正負(fù)外部性是一體兩面的,統(tǒng)一于公共價(jià)值實(shí)現(xiàn)。那么,應(yīng)該如何調(diào)節(jié)二者間的結(jié)構(gòu)張力,在充分發(fā)揮技術(shù)效益的同時(shí)反制技術(shù)濫用,實(shí)現(xiàn)公共價(jià)值最大化目標(biāo)?本文嘗試從“技術(shù)—權(quán)力—規(guī)則”三個(gè)維度搭建研究算法嵌入政府治理的分析框架,探索算法技術(shù)賦能政府治理的價(jià)值意蘊(yùn)與運(yùn)作邏輯,同時(shí)聚焦算法權(quán)力作用于政府治理可能帶來(lái)的風(fēng)險(xiǎn)與挑戰(zhàn),細(xì)化未來(lái)算法嵌入政府治理的實(shí)踐進(jìn)路。

二、算法嵌入政府治理:“技術(shù)—權(quán)力—規(guī)則”的解釋框架

“算法”最初始的含義即為一種計(jì)算機(jī)科學(xué)技術(shù),通過(guò)“邏輯+控制”[10]系統(tǒng)將輸入的數(shù)據(jù)轉(zhuǎn)化為編碼程序,經(jīng)由確定的計(jì)算過(guò)程形成切實(shí)可行的問題解決方案,在實(shí)踐中以自動(dòng)化、智能化邏輯輔助決策,此為算法的淺層表征。同時(shí),由于算法具有構(gòu)建規(guī)則、執(zhí)行規(guī)則的能力,在運(yùn)行過(guò)程中的算法不斷突破自身技術(shù)邊界,嘗試與諸社會(huì)領(lǐng)域加深融合,憑借技術(shù)優(yōu)勢(shì)逐漸形成了達(dá)成目的和獲得利益的能力,并不斷編織起以技術(shù)為核心的權(quán)力網(wǎng)絡(luò),最終具備了自主分配社會(huì)資源的權(quán)力。此外,從制度化角度看,隨著智能技術(shù)不斷更新迭代,算法的開發(fā)者、測(cè)試者賦予算法以運(yùn)行邏輯,而算法憑借自主學(xué)習(xí)能力和預(yù)測(cè)能力不斷調(diào)適、修正網(wǎng)絡(luò)空間的制度供給,構(gòu)建起對(duì)技術(shù)權(quán)力的約束框架,因而算法也作為制度化的規(guī)則而存在?；谶@一邏輯,作為技術(shù)的算法、作為權(quán)力的算法以及作為規(guī)則的算法統(tǒng)一作用于網(wǎng)絡(luò)空間,持續(xù)性地對(duì)整個(gè)社會(huì)產(chǎn)生影響。因而,以“技術(shù)—權(quán)力—規(guī)則”框架(見圖1)分析算法嵌入政府治理具有現(xiàn)實(shí)意義。

圖1 “技術(shù)—權(quán)力—規(guī)則”解釋框架

(一)“技術(shù)—權(quán)力—規(guī)則”的運(yùn)作邏輯與場(chǎng)景呈現(xiàn)

1.作為技術(shù)的算法塑造了智慧化公共決策場(chǎng)景,促進(jìn)政府治理提質(zhì)增效

在萬(wàn)物互聯(lián)的今天,社會(huì)公眾已然習(xí)慣于在互聯(lián)網(wǎng)平臺(tái)獲取自身渴望關(guān)注的社會(huì)各領(lǐng)域信息資訊,而在平臺(tái)上點(diǎn)擊閱讀、點(diǎn)贊轉(zhuǎn)發(fā)、評(píng)論褒貶之間,每個(gè)人的“數(shù)字足跡”已被各種搜索引擎記錄,公眾通過(guò)網(wǎng)絡(luò)行為反映出的對(duì)某一個(gè)或某一類社會(huì)問題的關(guān)注實(shí)際上就在向政府傳遞重要的公共問題數(shù)據(jù)信息,而算法能夠?qū)Ａ?、?dòng)態(tài)、多元的網(wǎng)絡(luò)數(shù)據(jù)行為進(jìn)行分布式并行信息處理[12],通過(guò)清洗、篩選、挖掘各信息要素之間的相關(guān)關(guān)系,將眾多孤立個(gè)體的“數(shù)字足跡”編織成社會(huì)整體的“數(shù)字網(wǎng)絡(luò)”,刻畫出社會(huì)公眾普遍關(guān)注的公共議題版圖,并通過(guò)大數(shù)據(jù)賦值規(guī)則評(píng)定每一公共議題重要程度,判別社會(huì)公眾對(duì)美好生活的需求熱點(diǎn),據(jù)此積極主動(dòng)作為,使公共決策更加符合百姓期望。此后,在對(duì)初步設(shè)計(jì)好的公共政策進(jìn)行科學(xué)論證時(shí),也可以基于公民基本信息數(shù)據(jù)庫(kù),利用算法數(shù)據(jù)畫像技術(shù)將初步設(shè)定的政策動(dòng)議推送給相關(guān)利益群體,并及時(shí)收集聚類相關(guān)反饋信息,為進(jìn)一步調(diào)整、修正公共政策問題解決方案提供參考依據(jù)。與之相適應(yīng),在實(shí)踐中,算法依據(jù)不同的計(jì)算模型切實(shí)為輔助公共決策助益。比如,北大方正技術(shù)研究所設(shè)計(jì)研發(fā)的“方正智思輿情監(jiān)測(cè)系統(tǒng)”廣泛收集社會(huì)公民包括性別年齡、工作經(jīng)歷、教育背景等方面的數(shù)據(jù)信息,對(duì)海量數(shù)據(jù)進(jìn)行篩選和歸類,按邏輯相關(guān)原則將可能具有相似公共服務(wù)需求的公民納入同一服務(wù)單元,繪制出服務(wù)需求熱點(diǎn)動(dòng)態(tài)圖譜,持續(xù)追蹤不同群體的訴求變化,整體把控社會(huì)公眾需求,使政府行政真正做到想民之所想、辦民之所需、行民之所盼。

同時(shí),作為技術(shù)的算法不僅能夠助力識(shí)別公共政策問題,還能夠?qū)σ恍┕舱邌栴}進(jìn)行輔助回應(yīng)。算法技術(shù)能夠根據(jù)公共決策需要,對(duì)海量數(shù)據(jù)迅速進(jìn)行自動(dòng)追蹤、抓取、聚類和整理,通過(guò)程序規(guī)則將經(jīng)過(guò)處理的數(shù)據(jù)信息轉(zhuǎn)化為算法程序的底層代碼和計(jì)算單元,并模擬人腦思維對(duì)數(shù)據(jù)建模生成公共決策的虛擬化樣態(tài),在虛擬樣態(tài)中推演底層代碼與計(jì)算單元之間的動(dòng)態(tài)演化過(guò)程,經(jīng)過(guò)自動(dòng)化的深度學(xué)習(xí)進(jìn)行修正更新,最終形成一套標(biāo)準(zhǔn)化的問題解決程序,為公共部門制定決策提供科學(xué)依據(jù)。因此,從理論上說(shuō),作為技術(shù)的算法搭建起了數(shù)據(jù)信息與政府行政之間的邏輯計(jì)算關(guān)系,將公共部門決策轉(zhuǎn)化為基于信息資源高效供給的標(biāo)準(zhǔn)化作業(yè)程序,有效降低了非結(jié)構(gòu)化公共問題的復(fù)雜性和不確定性,提升了政府行政的精準(zhǔn)性和高效性?；诖诉壿?在實(shí)踐中,算法也被廣泛寄望于智慧城市、社會(huì)保障、基礎(chǔ)設(shè)施管理等諸多政府治理領(lǐng)域,不斷創(chuàng)設(shè)出更智慧、更便捷、更高效的公共服務(wù)新場(chǎng)景。例如,當(dāng)前算法技術(shù)已嵌入中國(guó)各級(jí)地方政府的政務(wù)網(wǎng)站建設(shè)中,從公民登錄政務(wù)服務(wù)平臺(tái)起,前端算法已經(jīng)在詳細(xì)記錄用戶的個(gè)人信息和服務(wù)訴求,并通過(guò)調(diào)取移動(dòng)設(shè)備后臺(tái)信息不斷搜索完善用戶的個(gè)人信息庫(kù)。隨后,基于政務(wù)服務(wù)信息數(shù)據(jù)庫(kù),根據(jù)預(yù)先設(shè)定好的規(guī)則程序?qū)裨V求進(jìn)行自動(dòng)識(shí)別與回應(yīng)。如遇算法程序難以界定的問題,算法則會(huì)歸納判別各類訴求的責(zé)任主體并生成任務(wù)窗格,再將不同的任務(wù)窗格分配給相應(yīng)的責(zé)任部門進(jìn)行集中處理。由此,算法借助制式化的規(guī)則程序?qū)崿F(xiàn)了海量訴求與政府責(zé)任部門相銜接,把公共部門從瑣碎的信息分析處理中解放出來(lái),促進(jìn)公共服務(wù)效率提升。

2.算法技術(shù)在與政府治理不斷加深聯(lián)結(jié)的過(guò)程中也逐漸衍生出權(quán)力屬性

算法以社會(huì)各領(lǐng)域大數(shù)據(jù)的抓取和收集為基礎(chǔ),通過(guò)挖掘非結(jié)構(gòu)性數(shù)據(jù)要素間的聯(lián)系,以程序化規(guī)則探求非結(jié)構(gòu)化問題的決策最優(yōu)解,以此對(duì)公共部門決策行為進(jìn)行引導(dǎo)和控制。在此基礎(chǔ)上,通過(guò)強(qiáng)大的自主學(xué)習(xí)和預(yù)測(cè)能力,對(duì)不同的社會(huì)治理場(chǎng)景進(jìn)行感知和探測(cè),形成更加主動(dòng)的算法運(yùn)作邏輯,依附于公共部門掌握的公共權(quán)力,不斷將權(quán)力觸角伸向更廣闊的社會(huì)生活領(lǐng)域。由此,算法已不僅僅代表新技術(shù)手段,還逐漸表現(xiàn)出了權(quán)力屬性。作為權(quán)力的算法在加速嵌入政府治理的過(guò)程中表現(xiàn)出重要特征。一是技術(shù)驅(qū)動(dòng)性。隨著人工智能技術(shù)的不斷發(fā)展,算法對(duì)公共事務(wù)的學(xué)習(xí)、感知、預(yù)測(cè)能力不斷強(qiáng)化,憑借技術(shù)優(yōu)勢(shì)輔助政府公共決策并逐漸與政府治權(quán)相結(jié)合,形成了對(duì)社會(huì)資源進(jìn)行調(diào)配控制的能力,因而作為權(quán)力的算法本質(zhì)上具有技術(shù)驅(qū)動(dòng)性。二是場(chǎng)景虛擬性。算法權(quán)力意志實(shí)質(zhì)上是經(jīng)建構(gòu)的代碼規(guī)則和數(shù)據(jù)秩序的體現(xiàn),具有很強(qiáng)的虛擬性,在其憑借技術(shù)優(yōu)勢(shì)進(jìn)入公共決策場(chǎng)域后,能夠主動(dòng)搭建數(shù)字空間與現(xiàn)實(shí)場(chǎng)景間交融互構(gòu)關(guān)系,皈依有形的公共權(quán)力主體,隱蔽于代碼規(guī)則和數(shù)據(jù)秩序之中,因而算法權(quán)力具有場(chǎng)景虛擬性。三是動(dòng)態(tài)擴(kuò)散性。數(shù)據(jù)資源是算法權(quán)力運(yùn)作的核心,由于數(shù)據(jù)資源具有高度的動(dòng)態(tài)性、共享性、交互性,能夠在不同權(quán)力主體間流動(dòng)和轉(zhuǎn)化,算法權(quán)力也因此具備動(dòng)態(tài)性擴(kuò)散的能力,使得政府治理呈現(xiàn)一定程度的“多元化”結(jié)構(gòu)特征。在實(shí)踐中,作為權(quán)力的算法在政府治理場(chǎng)域也發(fā)揮著重要作用,為多元化公共服務(wù)場(chǎng)景賦能。比如,在金融科技監(jiān)管領(lǐng)域,基于算法權(quán)力中心的“監(jiān)管沙盒”已在北京、上海、廣東、江蘇、浙江等10余個(gè)省市應(yīng)用試點(diǎn)。“監(jiān)管沙盒”運(yùn)作的核心是算法程序基于預(yù)先收集好的數(shù)據(jù)信息,在一定測(cè)試空間內(nèi)模擬金融業(yè)現(xiàn)實(shí)市場(chǎng)環(huán)境,通過(guò)研究聚合多模態(tài)數(shù)據(jù)與市場(chǎng)風(fēng)險(xiǎn)間的關(guān)系,自主劃定需要金融監(jiān)管部門介入的風(fēng)險(xiǎn)管控閾值,允許在真實(shí)的市場(chǎng)環(huán)境中適當(dāng)放寬監(jiān)管規(guī)定,企業(yè)在一定風(fēng)險(xiǎn)限度內(nèi)可以自主創(chuàng)新產(chǎn)品、服務(wù)和商業(yè)模式,縮減對(duì)創(chuàng)新的限制和約束。當(dāng)前,“沙盒監(jiān)管”已在消費(fèi)金融、小微信貸、智能風(fēng)控等領(lǐng)域正式推行,以算法規(guī)則和程序更有效地平衡了政府監(jiān)管與企業(yè)創(chuàng)新之間的關(guān)系。類似地,杭州市“城市大腦”依托阿里云的“飛天”算法模型,將人、車、房、?；返戎伟不A(chǔ)要素與治安風(fēng)險(xiǎn)防控相聯(lián)結(jié),構(gòu)建“在線警務(wù)”服務(wù)系統(tǒng),發(fā)現(xiàn)風(fēng)險(xiǎn)可在5分鐘內(nèi)判別,形成了對(duì)城市風(fēng)險(xiǎn)的全局感知、精準(zhǔn)處置?？梢?作為權(quán)力的算法已形成針對(duì)不同政務(wù)服務(wù)場(chǎng)景的感知、預(yù)測(cè)和決策能力,這使得機(jī)械的算法邏輯轉(zhuǎn)變?yōu)閯?dòng)態(tài)的行為規(guī)劃,形成了新的權(quán)力運(yùn)行模式。

3.作為規(guī)則的算法以程序規(guī)范化設(shè)計(jì)引導(dǎo)、約束公權(quán)力行使

算法作為一套數(shù)字空間的規(guī)則組合,包括正式和非正式的制度供給[13]。正式制度供給意為經(jīng)算法推導(dǎo)的公共部門自動(dòng)化決策的邏輯程序完全透明,在邏輯規(guī)則的控制下,從數(shù)據(jù)輸入到建立數(shù)據(jù)聯(lián)結(jié)再到輸出公共決策,整個(gè)流程都以算法意志為意志、以算法規(guī)則為規(guī)則,以透明公開的程序?qū)崿F(xiàn)對(duì)人為裁量的替代;非正式制度供給則是指算法設(shè)計(jì)者在設(shè)定算法規(guī)則時(shí)隱含的個(gè)人潛在意志的集合,是社會(huì)價(jià)值判斷與技術(shù)工具理性的統(tǒng)一。作為規(guī)則的算法在政府治理中具有以下優(yōu)勢(shì):第一,算法明確了數(shù)字空間的規(guī)則,劃定了行政主體權(quán)力作用的界限,有助于保證公共決策公正性,減少權(quán)力僭越的可能;第二,行政主體的潛在意志、社會(huì)的倫理秩序也被包含在算法規(guī)則之中,使算法治理在保證工具理性的同時(shí)尊重價(jià)值理性,在雙向平衡中實(shí)現(xiàn)治理效能的提升。為此,作為規(guī)則的算法在實(shí)踐中也為規(guī)范政府公權(quán)力行使助力。在行政監(jiān)督領(lǐng)域,通過(guò)對(duì)公務(wù)人員的資產(chǎn)申報(bào)情況、銀行流水明細(xì)等數(shù)據(jù)進(jìn)行分析,聚合個(gè)人政治生活軌跡,測(cè)算腐敗高發(fā)點(diǎn)與風(fēng)險(xiǎn)值,據(jù)此對(duì)公務(wù)人員腐敗行為進(jìn)行識(shí)別,把公權(quán)力關(guān)進(jìn)算法規(guī)則的籠子里,提高對(duì)腐敗行為的治理效率,維護(hù)公共部門公信力。在行政審批領(lǐng)域,深圳市的“秒批”工作方案,利用智能算法模擬人腦結(jié)構(gòu),通過(guò)算法系統(tǒng)自動(dòng)審核申請(qǐng)對(duì)象提交的材料并進(jìn)行相關(guān)信息比對(duì),從而提升審批效率、約束權(quán)力運(yùn)作、保證審批公正性。此外,作為規(guī)則的算法還被廣泛運(yùn)用于智慧城市建設(shè)、精準(zhǔn)扶貧、治安管理等領(lǐng)域,通過(guò)預(yù)先設(shè)定的算法程序精準(zhǔn)描繪服務(wù)對(duì)象的數(shù)字畫像,規(guī)范權(quán)力行使。

因此,作為技術(shù)的算法、作為權(quán)力的算法以及作為規(guī)則的算法統(tǒng)一作用于數(shù)字空間,在與政府治理不斷加深融合的過(guò)程中持續(xù)性地作用于社會(huì)生活,對(duì)社會(huì)治理的各領(lǐng)域產(chǎn)生積極影響。

(二)算法嵌入政府治理的價(jià)值意蘊(yùn)

1.算法技術(shù)推動(dòng)公共決策更具理性

算法技術(shù)通過(guò)數(shù)據(jù)聚合繪制社會(huì)熱點(diǎn)動(dòng)態(tài)圖譜,明確治理對(duì)象的精準(zhǔn)訴求,精確化識(shí)別公共問題,推動(dòng)公共問題快速進(jìn)入政府議程,并通過(guò)機(jī)器算法推演生成理性、科學(xué)的決策模型,助力政府決策。因而,作為技術(shù)的算法能夠推動(dòng)政府治理更具理性。第一,信息是治理的基礎(chǔ),算法技術(shù)提高了對(duì)海量信息進(jìn)行清洗、篩選、聚類的效率,能夠快速精準(zhǔn)建立數(shù)據(jù)間的聯(lián)結(jié),為公共部門科學(xué)決策提供依據(jù)。第二,從治理過(guò)程而言,算法以規(guī)范化代碼復(fù)刻行政決策的程序,生成輔助公共治理主體決策的科學(xué)化決策方案,并根據(jù)現(xiàn)實(shí)情況自動(dòng)反饋和調(diào)試,利于科學(xué)制定治理方案,合理分配治理資源,提升政府治理效能。第三,從治理能力看,算法憑借全天候自動(dòng)化、即時(shí)性的工作能力,能夠在一定程度上替代傳統(tǒng)上需要大量人工才能完成的瑣粹而重復(fù)的經(jīng)濟(jì)技術(shù)分析工作,精簡(jiǎn)政府機(jī)構(gòu)和工作人員,顯著降低治理成本,提升治理效率。

2.算法權(quán)力促進(jìn)治理行為更具包容性

隨著算法技術(shù)與政府治理的聯(lián)結(jié)不斷加深,算法逐漸成為一種技術(shù)性權(quán)力,促進(jìn)了政府治理行為更具包容性。首先,算法具有多元的信息獲取渠道和強(qiáng)大的程序運(yùn)算能力,能夠精準(zhǔn)分析治理對(duì)象的服務(wù)需求和治理環(huán)境狀況,從源頭保證決策依據(jù)更具包容性、廣泛性,規(guī)避傳統(tǒng)政府決策因數(shù)據(jù)信息不足造成的決策失靈問題。其次,算法在廣泛抓取社會(huì)各領(lǐng)域數(shù)據(jù)信息時(shí),實(shí)際上也在與治理對(duì)象進(jìn)行著潛在互動(dòng),通過(guò)數(shù)據(jù)反饋與收集保障社會(huì)各主體意志能夠被表現(xiàn)和反映,以算法、數(shù)據(jù)與公共部門進(jìn)行的對(duì)話一定程度上保證了公民平等參與權(quán)。再次,在算法服務(wù)場(chǎng)景內(nèi),基于算法邏輯形成的應(yīng)用服務(wù)能夠輻射更廣范圍的治理對(duì)象,使社會(huì)各主體能夠有機(jī)會(huì)平等享受更友好、更普惠的公共服務(wù)。

3.算法規(guī)則推動(dòng)政府治理更加公平

數(shù)字空間的算法技術(shù)在與公共部門加深聯(lián)結(jié)的過(guò)程中逐漸形成算法權(quán)力,影響著公共部門決策,而算法權(quán)力通過(guò)持續(xù)自主學(xué)習(xí)搭建形成一套程序規(guī)范化的設(shè)計(jì)體系,通過(guò)策略規(guī)范反制公共部門行政,規(guī)范公權(quán)力行使,使政府治理更加公平。第一,算法程序明確、規(guī)則透明,在實(shí)踐中公共權(quán)力依照算法程序規(guī)定的方向運(yùn)作,公共權(quán)力涉及的事務(wù)界限也由預(yù)先設(shè)定好的算法劃定,有利于規(guī)范權(quán)力主體的行政行為,增強(qiáng)公權(quán)力運(yùn)行的公正透明性。第二,算法規(guī)則能夠突破時(shí)間、地點(diǎn)的限制對(duì)權(quán)力主體行使權(quán)力的全過(guò)程做追蹤記錄,使公共部門行為真正“有跡可循”,無(wú)形之中強(qiáng)化了對(duì)公共主體的監(jiān)督和約束,保障社會(huì)資源合理有效配置,強(qiáng)化決策公平性;此外,如若社會(huì)主體對(duì)政府決策公平性提出質(zhì)疑,公共部門也能夠因循算法邏輯對(duì)決策進(jìn)行解釋,強(qiáng)化政府公信力。第三,依賴算法技術(shù)的自動(dòng)反饋和預(yù)測(cè)機(jī)制,公共部門能夠及時(shí)發(fā)掘潛藏的治理風(fēng)險(xiǎn),并及時(shí)做出理性化決策規(guī)避風(fēng)險(xiǎn),從而降低風(fēng)險(xiǎn)外溢的可能性,保障公共行政效力。第四,算法規(guī)則具有包容、透明的屬性,有利于多元社會(huì)主體在協(xié)同治理過(guò)程中參與監(jiān)督和反饋,強(qiáng)化了社會(huì)信任機(jī)制,密切了社會(huì)公眾與政府間的聯(lián)結(jié)。

三、算法嵌入政府治理的風(fēng)險(xiǎn)與挑戰(zhàn)

算法技術(shù)、算法權(quán)力以及算法規(guī)則統(tǒng)一作用于數(shù)字空間,推動(dòng)公共決策更具理性,促進(jìn)治理行為更具包容性,促使政府治理更加公平,提升了社會(huì)治理整體智慧化、精準(zhǔn)化水平。但是,不可否認(rèn)的是,現(xiàn)階段算法嵌入中國(guó)政府治理仍面臨著某些現(xiàn)實(shí)風(fēng)險(xiǎn)與挑戰(zhàn)。

(一)算法技術(shù)黑箱阻滯公共責(zé)任認(rèn)定

從技術(shù)層面而言,智能算法發(fā)揮作用的前提在于技術(shù)邏輯的有效性。算法技術(shù)穩(wěn)定運(yùn)行首先需要海量大數(shù)據(jù)作支撐,其次需要強(qiáng)大的數(shù)據(jù)處理能力作保障,還要整合相關(guān)數(shù)據(jù)信息,依據(jù)運(yùn)算規(guī)則在各信息要素間精準(zhǔn)建立正確的相關(guān)關(guān)系,最后結(jié)合預(yù)先設(shè)定的運(yùn)算法則輸出決策結(jié)果,以此輔助公共決策。在這一過(guò)程中,一方面,算法邏輯雖遵循機(jī)器理性,但算法程序畢竟由人設(shè)計(jì),程序設(shè)計(jì)優(yōu)劣在很大程度上受制于設(shè)計(jì)者的知識(shí)水平,一旦設(shè)計(jì)者有所疏漏,算法程序運(yùn)作將發(fā)生不可預(yù)測(cè)的偏差;另一方面,即使設(shè)計(jì)者知識(shí)水平較高,具備算法設(shè)計(jì)所必須的技能,但社會(huì)環(huán)境因素也在不斷發(fā)生動(dòng)態(tài)變化,很難在設(shè)計(jì)之初全面預(yù)測(cè)社會(huì)問題可能發(fā)生的未來(lái)變化,因而即使是經(jīng)過(guò)精準(zhǔn)測(cè)算的算法模型也難與動(dòng)態(tài)變化的社會(huì)問題完全適配,導(dǎo)致算法失誤[14]。實(shí)踐中,由于各種因素導(dǎo)致的算法失誤已屢見不鮮,比如在美國(guó)司法實(shí)踐中就曾出現(xiàn)法院利用COMPAS算法技術(shù)分析當(dāng)事人的數(shù)字畫像輔助進(jìn)行司法判定,結(jié)果在對(duì)案件回溯的過(guò)程中發(fā)現(xiàn)算法模型多次給出與事實(shí)完全相反的判決依據(jù)。當(dāng)算法模型為公共部門提供了錯(cuò)誤的決策判斷,公共部門又依據(jù)算法指示不假思索地執(zhí)行時(shí),必定會(huì)對(duì)社會(huì)各領(lǐng)域造成一系列負(fù)面影響。對(duì)錯(cuò)誤決策進(jìn)行追責(zé)毋庸置疑,但關(guān)鍵問題在于,當(dāng)公共部門決策失誤是由算法技術(shù)導(dǎo)致時(shí),追責(zé)的對(duì)象到底是算法設(shè)計(jì)工程師、提供算法程序的私主體,還是相關(guān)的公共部門?回顧算法發(fā)揮作用的機(jī)制,由于算法技術(shù)能夠進(jìn)行主動(dòng)學(xué)習(xí)和預(yù)測(cè),因而即使是最杰出的算法工程師也只能知道最初設(shè)定的算法程序,無(wú)法完全清楚從輸入數(shù)據(jù)到產(chǎn)出決策間的程序機(jī)制,這就導(dǎo)致了“算法黑箱”[15]。有了“算法黑箱”的存在,當(dāng)公共部門決策出現(xiàn)失誤,公權(quán)力主體能夠?qū)⒇?zé)任推諉于提供算法的私主體,而私主體又能以“黑箱”作為理由逃避審查、敷衍塞責(zé)。如此一來(lái),不斷延伸的卸責(zé)鏈條導(dǎo)致問責(zé)高高舉起又輕輕放下,好似沒有任何一方權(quán)力主體應(yīng)該為算法導(dǎo)致的公共決策失誤買單。因此,由于“算法黑箱”的客觀存在,當(dāng)政府治理逐漸依賴算法技術(shù),如何對(duì)決策選擇后果進(jìn)行責(zé)任界定以及如何對(duì)決策選擇行為追責(zé)問責(zé),將成為亟待解決的現(xiàn)實(shí)問題。

(二)算法權(quán)力削弱政府與民眾自主性

從權(quán)力層面而言,作為治理權(quán)力的算法存在被私人資本俘獲的風(fēng)險(xiǎn),突出表現(xiàn)在以下兩個(gè)方面。一是在現(xiàn)代算法社會(huì),算法核心技術(shù)邏輯仍由商業(yè)資本掌握,商業(yè)公司以巨額資金投入廣納技術(shù)人才,強(qiáng)化數(shù)據(jù)平臺(tái)建設(shè),將算法核心技術(shù)牢牢掌握在手中,并能夠以商業(yè)秘密為由拒絕技術(shù)公開,隱蔽搭建專屬的算法技術(shù)生態(tài)網(wǎng)絡(luò)[2],壟斷對(duì)數(shù)據(jù)等治理資源的支配能力。由于現(xiàn)階段主要通過(guò)簽約外包的方式將算法引入政府治理,而私部門憑借技術(shù)優(yōu)勢(shì)能夠?qū)膊块T的部分監(jiān)督、審查加以規(guī)避,因而隨著算法嵌入政府治理的程度不斷加深,掌握算法核心技術(shù)的逐利性商業(yè)機(jī)構(gòu)還會(huì)想方設(shè)法進(jìn)一步擴(kuò)大自主權(quán)限,最終使公權(quán)力淪為為私人牟利的機(jī)器。二是算法所具備的優(yōu)越的算力優(yōu)勢(shì)和自主預(yù)測(cè)能力使其在多數(shù)服務(wù)場(chǎng)景下做出的決策都要優(yōu)于人腦,在治理環(huán)境日趨復(fù)雜的今天,公共部門為減少?zèng)Q策失誤越來(lái)越依賴和信任算法給出的自動(dòng)化決策結(jié)果,這也為逐利的商業(yè)資本介入公權(quán)力運(yùn)行場(chǎng)域提供了契機(jī)。一旦公權(quán)力被私部門俘獲,政府權(quán)力行使的正當(dāng)性和合法性將被質(zhì)疑,政府不得不面對(duì)信任危機(jī),社會(huì)公共利益也存在被商業(yè)利益蠶食的風(fēng)險(xiǎn)。此外,倘若公權(quán)力被私部門俘獲,商業(yè)資本將更為狂熱地發(fā)展算法核心技術(shù)優(yōu)勢(shì),以便更進(jìn)一步延展在社會(huì)治理領(lǐng)域內(nèi)的權(quán)力,謀求壟斷地位,將有可能造成政府和公眾在社會(huì)治理中的主體地位逐步被削弱:在算法社會(huì),為實(shí)現(xiàn)與社會(huì)公眾間的持續(xù)高效溝通,除傳統(tǒng)溝通協(xié)商渠道外,公共部門往往也會(huì)借助算法應(yīng)用程序廣泛收集并回應(yīng)民意,在這一過(guò)程中公民的普遍意志被轉(zhuǎn)化為數(shù)字化的社會(huì)要素以一行代碼、幾串?dāng)?shù)字的形式直接輸入算法模型之中;而算法模型本身在信息獲取、數(shù)據(jù)轉(zhuǎn)化、結(jié)果輸出任一環(huán)節(jié)都有可能沉淀著設(shè)計(jì)者自覺或不自覺的主觀意識(shí),這就使得經(jīng)算法程序投射出的民意數(shù)據(jù)易出現(xiàn)損耗、膨脹或是收縮,呈現(xiàn)出的結(jié)果也可能傾向于對(duì)私部門有利的一面,誘使商業(yè)資本更進(jìn)一步利用技術(shù)優(yōu)勢(shì)延展對(duì)社會(huì)治理的影響,一定程度上削弱了政府和民眾自主性。綜上,從算法技術(shù)的潛力來(lái)看,掌握核心算法的私部門與政府部門分享公權(quán)力的可能性客觀存在,要在發(fā)揮技術(shù)潛能的同時(shí)對(duì)算法權(quán)力進(jìn)行限制和約束,以此確保公共利益切實(shí)實(shí)現(xiàn)。

(三)算法規(guī)則偏好導(dǎo)致治理正義性減損

在理想狀態(tài)下,作為規(guī)則的算法能夠?qū)珯?quán)力進(jìn)行約束,將權(quán)力關(guān)進(jìn)“代碼”的籠子,保障權(quán)力公允有序運(yùn)行,實(shí)現(xiàn)政府治理的公平正義。但同樣不可忽視的是,雖然依照算法邏輯得出的決策結(jié)果能夠?qū)崿F(xiàn)相對(duì)公平,但算法規(guī)則本身不具備天生的中立性,隱藏著對(duì)社會(huì)正義性的挑戰(zhàn):在政府決策過(guò)程中,算法實(shí)質(zhì)上充當(dāng)了“信息守門員”的角色,政府依靠智能算法識(shí)別抓取公共問題信息流中的關(guān)鍵要素,基于算法程序繪制公共議題版圖,以此輔助政府決定問題解決的優(yōu)先次序。換而言之,大多數(shù)公共問題都是經(jīng)由算法程序分析篩選后以“清單”形式呈現(xiàn)在決策者眼前的,算法在遞送相關(guān)信息時(shí)能夠決定哪些利益訴求會(huì)得到?jīng)Q策者的優(yōu)先處理,哪些公共問題只能被放在次要位置解決。在這一過(guò)程中,數(shù)據(jù)選取的指標(biāo)、數(shù)據(jù)賦值的原則以及數(shù)據(jù)清洗的方法等都是人為設(shè)定的,如果算法程序被設(shè)計(jì)者的潛在偏好所裹挾,那么算法決策得出的結(jié)果必然帶有偏見性、非代表性,輔助形成的公共決策也將帶有系統(tǒng)性的歧視。不僅如此,如果算法設(shè)計(jì)者想要將某種偏好選擇不斷進(jìn)行復(fù)制,算法在不斷學(xué)習(xí)優(yōu)化的過(guò)程中也已經(jīng)具備了成熟的技術(shù)手段能夠?qū)ο嚓P(guān)政策法律進(jìn)行規(guī)制,這勢(shì)必會(huì)造成對(duì)相應(yīng)數(shù)據(jù)主體的歧視和傷害,導(dǎo)致治理正義性的減損。比如,美國(guó)Northpointe公司基于算法技術(shù)設(shè)計(jì)的犯罪風(fēng)險(xiǎn)評(píng)估系統(tǒng)對(duì)黑人二次犯罪的風(fēng)險(xiǎn)評(píng)分是白人的兩倍。然而,在對(duì)典型案例進(jìn)行不斷追蹤調(diào)查后發(fā)現(xiàn),白人群體二次犯罪的概率與黑人幾乎不存在差別,算法對(duì)公共決策公正性的影響可見一斑。更為嚴(yán)重的是,算法憑借極強(qiáng)的技術(shù)理性使得社會(huì)逐步衍生出“算法崇拜”[16],人們?cè)谶M(jìn)行行動(dòng)選擇時(shí)往往傾向于自動(dòng)化、程序化的算法決策,缺少對(duì)算法決策結(jié)果的反思意識(shí),導(dǎo)致算法程序內(nèi)部可能潛藏的偏見很難被發(fā)掘,即使在實(shí)踐中因算法偏見造成了不公正的決策,人們也會(huì)為尋求所謂“科學(xué)客觀”努力為算法“開脫”,而不會(huì)向算法溯源。因此,算法技術(shù)不具備必然的中立性,設(shè)計(jì)測(cè)算過(guò)程中容易夾雜設(shè)計(jì)者主觀偏見,政府在將算法技術(shù)納入治理視域時(shí)也要警惕其對(duì)社會(huì)正義造成的沖擊。

四、算法嵌入政府治理的實(shí)踐進(jìn)路

(一)推進(jìn)技術(shù)適度透明化,明晰責(zé)任關(guān)系鏈條

要解決“算法技術(shù)黑箱”導(dǎo)致公私部門形成卸責(zé)鏈條、各方權(quán)力主體推諉塞責(zé)、決策失誤無(wú)人買單的現(xiàn)實(shí)困境,就要著力打開算法“黑箱”,推進(jìn)算法技術(shù)適度透明化,明晰責(zé)任關(guān)系鏈條,使相關(guān)主體切實(shí)負(fù)起責(zé)任。

第一,政府部門制定完善相關(guān)法律法規(guī),明確要求商業(yè)資本向社會(huì)公開算法設(shè)計(jì)理念、數(shù)據(jù)信息來(lái)源、數(shù)據(jù)篩選機(jī)制等內(nèi)容,同時(shí)要求提供算法技術(shù)的平臺(tái)對(duì)公眾提出的質(zhì)疑進(jìn)行及時(shí)解釋和回應(yīng),打破“算法黑箱”,保障算法機(jī)制公平正義。在此基礎(chǔ)上,為促進(jìn)商業(yè)資本與政府治理更有效協(xié)同,政府部門也有義務(wù)在要求算法公開的同時(shí)保守技術(shù)公司商業(yè)機(jī)密,允許其在豁免公開算法范圍內(nèi)的有限例外。

第二,在算法公開的基礎(chǔ)上,建立統(tǒng)一的算法監(jiān)管機(jī)制也十分必要。為進(jìn)一步規(guī)范算法技術(shù)在政府治理中的作用路徑,公共部門應(yīng)當(dāng)設(shè)置專業(yè)化監(jiān)管機(jī)構(gòu)負(fù)責(zé)動(dòng)態(tài)監(jiān)管商業(yè)資本提供的算法設(shè)計(jì)準(zhǔn)則、算法運(yùn)作模型、算法價(jià)值規(guī)范等內(nèi)容,并且在算法形成的結(jié)果運(yùn)用于公共政策之前,積極利用風(fēng)險(xiǎn)監(jiān)測(cè)等技術(shù)手段審查其決策正當(dāng)性、論證充分性和價(jià)值適當(dāng)性。當(dāng)前,國(guó)際上通用的價(jià)值敏感設(shè)計(jì)方法(VSD)能夠通過(guò)數(shù)據(jù)代碼監(jiān)測(cè)目標(biāo)算法所遵照的價(jià)值準(zhǔn)則,并計(jì)算對(duì)不同價(jià)值觀念賦值的權(quán)重優(yōu)先級(jí),如若發(fā)現(xiàn)目標(biāo)算法存在價(jià)值偏離,能夠自動(dòng)修正或停止不符合基本倫理規(guī)范的程序,保障算法決策最大程度符合社會(huì)公共價(jià)值,從源頭預(yù)防算法“黑箱”的產(chǎn)生。

第三,要實(shí)現(xiàn)對(duì)算法技術(shù)的有效約束、把控算法運(yùn)行邏輯,社會(huì)組織的力量也應(yīng)得到重視。社會(huì)組織作為第三方機(jī)構(gòu),超脫于政府部門和商業(yè)資本之外,能夠?qū)λ惴ㄟ\(yùn)行全流程進(jìn)行更客觀、更細(xì)致的監(jiān)督,對(duì)算法的社會(huì)影響進(jìn)行更多維度的審視,打破算法治理中的信息不對(duì)稱,協(xié)助破除算法“黑箱”。

第四,在此基礎(chǔ)上更重要的是對(duì)算法技術(shù)背后所涉及各相關(guān)權(quán)力主體的責(zé)任范圍做出明確劃定,培育治理主體的責(zé)任意識(shí),依法向相關(guān)商業(yè)算法平臺(tái)開展追責(zé),倒逼私權(quán)力主體明確責(zé)任承擔(dān)內(nèi)容,切實(shí)對(duì)算法結(jié)果負(fù)起責(zé)任。具體而言,在算法平臺(tái)內(nèi)部要保證責(zé)任到人,可設(shè)置專崗對(duì)數(shù)據(jù)維護(hù)、平臺(tái)建設(shè)、模型運(yùn)作等各方面的情況進(jìn)行監(jiān)測(cè),對(duì)算法程序形成的決策樣態(tài)予以審核,當(dāng)算法出現(xiàn)異常操作時(shí)即刻采取人工干預(yù),強(qiáng)制修改或者暫停相關(guān)服務(wù),保障決策權(quán)限始終掌握在高素質(zhì)人才手中;對(duì)于商業(yè)資本惡意篡改數(shù)據(jù)信息、恣意套取用戶個(gè)人信息以及隨意更改模型邏輯等行為更要嚴(yán)格追責(zé),以硬性制度手段規(guī)范商業(yè)資本,保障公共權(quán)力正義性的發(fā)揮。

第五,就社會(huì)心理層面而言,社會(huì)各界要進(jìn)一步強(qiáng)化對(duì)算法的正確認(rèn)識(shí)。一方面,應(yīng)擯棄對(duì)算法的盲目欣賞,理性看待算法推送的決策結(jié)果,避免過(guò)分信任算法而產(chǎn)生的自動(dòng)化偏見。社會(huì)對(duì)算法自動(dòng)化決策的信任度極高,這種信任從本質(zhì)上說(shuō)是由于社會(huì)對(duì)算法技術(shù)的“無(wú)知”而形成的盲目信任,缺乏對(duì)其決策結(jié)果的反思意識(shí),導(dǎo)致算法程序內(nèi)部可能潛藏的風(fēng)險(xiǎn)很難被發(fā)掘,影響社會(huì)治理效能發(fā)揮。另一方面,也不應(yīng)抱有算法厭惡情緒,而要理性接納算法,更好地發(fā)揮智能技術(shù)為政府治理帶來(lái)的有利影響。算法厭惡一定程度上源于算法技術(shù)的不透明性,由于社會(huì)大眾與算法的接觸歷史很短,加之算法技術(shù)的不完全公開、不完全透明,使得某些情況下即使算法推薦決策優(yōu)于人類,但人們?nèi)匀徊辉敢饨蛹{算法系統(tǒng)。

因此,在政府治理實(shí)踐中,迫切需要對(duì)算法技術(shù)“祛魅”,可以集合科學(xué)技術(shù)專家、高?？蒲性核戎菐?kù)力量,客觀討論算法的價(jià)值目標(biāo)與技術(shù)局限,科學(xué)評(píng)議其可能帶來(lái)的積極效益與風(fēng)險(xiǎn)后果,以此作為公共部門參考決策的依據(jù),最大程度發(fā)揮算法技術(shù)對(duì)政府治理的積極價(jià)值。

(二)規(guī)范算法權(quán)力運(yùn)作,堅(jiān)持人本主義治理理念

在算法嵌入政府治理的實(shí)踐中,“算法依賴”容易導(dǎo)致政府權(quán)力被商業(yè)機(jī)構(gòu)俘獲,這不僅對(duì)政府權(quán)力行使的正當(dāng)性和合法性產(chǎn)生了挑戰(zhàn),也使得公共利益面臨被商業(yè)利益蠶食的風(fēng)險(xiǎn)。隨著新興技術(shù)手段融入社會(huì)治理的程度不斷深化,對(duì)智能技術(shù)顛覆“人機(jī)關(guān)系”的討論越發(fā)引起關(guān)注,作為權(quán)力的算法在一定程度上已經(jīng)能夠?qū)崿F(xiàn)對(duì)多元社會(huì)治理情境的“全景敞視”式監(jiān)管[8],可能會(huì)使得人類在社會(huì)治理中的主導(dǎo)地位逐漸弱化,導(dǎo)致技術(shù)理性對(duì)人類價(jià)值的僭越,因此智能化時(shí)代如何保證政府和社會(huì)公眾在社會(huì)治理中的主體地位,規(guī)范算法權(quán)力運(yùn)作成為需要引起關(guān)注的問題。

一是要進(jìn)一步完善算法權(quán)力治理機(jī)制,由政府主導(dǎo)建立總體治理框架,明確政府對(duì)算法治理的主體責(zé)任,從促進(jìn)算法數(shù)據(jù)公開透明、算法運(yùn)作邏輯公正客觀、算法作用主體一視同仁等方面建立全流程風(fēng)險(xiǎn)防控機(jī)制;同時(shí),綜合運(yùn)用多元化規(guī)制工具,比如算法影響評(píng)估、算法審計(jì)等[11],對(duì)算法自動(dòng)化決策的全流程進(jìn)行二次分析檢視,及時(shí)識(shí)別和糾正自動(dòng)化決策產(chǎn)生的漏洞,規(guī)避算法技術(shù)可能為政府治理帶來(lái)的風(fēng)險(xiǎn)挑戰(zhàn)。此外,縱觀中國(guó)算法治理實(shí)踐,公共服務(wù)智能化轉(zhuǎn)型所必需的絕大部分核心技術(shù)研發(fā)主要由商業(yè)資本主導(dǎo),算法模型即使在運(yùn)行過(guò)程中也需要企業(yè)提供技術(shù)支持以維持治理系統(tǒng)的正常運(yùn)轉(zhuǎn),這為商業(yè)資本權(quán)力恣意擴(kuò)張?zhí)峁┝丝臻g,更為政府治理的技術(shù)安全性帶來(lái)了隱患。為進(jìn)一步發(fā)揮算法技術(shù)在政府治理中的核心優(yōu)勢(shì),保障政府治理的絕對(duì)安全,相關(guān)部門也要加大對(duì)新興技術(shù)的重視程度,統(tǒng)籌調(diào)動(dòng)國(guó)內(nèi)科研院所和各大高校的力量,打造政府內(nèi)部核心技術(shù)智庫(kù),打通各部門、各層級(jí)之間的數(shù)據(jù)壁壘,將算法核心技術(shù)更多掌握在公權(quán)力手中,減少對(duì)商業(yè)資本的依賴,確保政府?dāng)?shù)字化、智能化治理的技術(shù)安全。

二是從價(jià)值理念層面而言,要在算法技術(shù)嵌入政府治理的整體性過(guò)程中時(shí)刻堅(jiān)持“人類中心主義”的價(jià)值準(zhǔn)繩,堅(jiān)持人本主義治理理念。一方面,始終堅(jiān)持公共管理者在政府治理中的主導(dǎo)地位,不斷強(qiáng)化政府治理場(chǎng)域中“人機(jī)協(xié)同發(fā)展”理念。算法價(jià)值與人類理性、算法技術(shù)與政府治理并不是截然對(duì)立的,而是互補(bǔ)的、統(tǒng)一的、協(xié)同發(fā)展的,算法技術(shù)能夠推動(dòng)政府治理提質(zhì)增效,因而在政府治理中更要發(fā)揮技術(shù)優(yōu)勢(shì),把機(jī)器擅長(zhǎng)的交由機(jī)器,并適時(shí)對(duì)其加以約束和規(guī)制,在防止技術(shù)僭越的同時(shí)促進(jìn)技術(shù)自身不斷發(fā)展完善,這樣一來(lái),算法技術(shù)與政府治理間也就形成了雙向互動(dòng),以人類價(jià)值理性驅(qū)動(dòng)算法技術(shù)理性發(fā)展。另一方面,在運(yùn)用算法技術(shù)發(fā)展政府治理實(shí)踐中打造“人機(jī)協(xié)同、線上線下”的服務(wù)模式,避免“一刀切”的數(shù)字化轉(zhuǎn)型,針對(duì)老年人、殘疾人等技術(shù)弱勢(shì)群體也要保留人工服務(wù)窗口,以滿足不同社會(huì)群體多元化的公共服務(wù)需求,切實(shí)增進(jìn)人民群眾的幸福感和獲得感。同時(shí),持續(xù)創(chuàng)新數(shù)字化公共服務(wù)供給模式,充分發(fā)揮算法技術(shù)對(duì)信息聚集的優(yōu)勢(shì),引導(dǎo)社會(huì)公眾通過(guò)自下而上的參與機(jī)制充分表達(dá)自身需求,并與自上而下的數(shù)字技術(shù)供給有效結(jié)合,及時(shí)、主動(dòng)地公開涉及群眾切身利益的服務(wù)信息,保障群眾知情權(quán)并自覺接受群眾的監(jiān)督,增進(jìn)政府與人民間的信任,促進(jìn)“數(shù)字紅利”更充分涌流?？傊?公共部門需秉持“以人民為中心”的服務(wù)理念規(guī)范算法權(quán)力運(yùn)作,提升政府治理的質(zhì)量與水平。

(三)明確算法規(guī)則決策限度,強(qiáng)化治理正義性

由于算法規(guī)則本身不具備天生的中立性,在嵌入政府治理的過(guò)程中可能隱藏著對(duì)社會(huì)正義的挑戰(zhàn)。為解決這一問題,需要進(jìn)一步明確算法規(guī)則決策限度,細(xì)化技術(shù)介入政府治理場(chǎng)域的范圍和邊界,完善算法應(yīng)用清單制度,明晰在哪些政府服務(wù)場(chǎng)域內(nèi)可以借助算法進(jìn)行決策、哪些治理場(chǎng)域絕對(duì)禁止算法涉足,為保障公權(quán)力有序運(yùn)行構(gòu)建安全過(guò)濾屏障。

一是要明確算法技術(shù)應(yīng)用的相關(guān)法律依據(jù),完善政府治理過(guò)程中使用大數(shù)據(jù)、云計(jì)算、智能算法等技術(shù)的制度和標(biāo)準(zhǔn)體系,明確規(guī)定被運(yùn)用于政府治理的算法技術(shù)必須具備清晰的計(jì)算邏輯、合理的裁量區(qū)間、明確的價(jià)值指向以及可預(yù)見的決策結(jié)果等,以完善的法律法規(guī)對(duì)技術(shù)進(jìn)行規(guī)制。

二是要?jiǎng)澏ㄋ惴ㄒ?guī)則決策的權(quán)限,明確算法技術(shù)在政府治理場(chǎng)域的決策限度?？梢砸罁?jù)環(huán)境的復(fù)雜性和不確定性程度對(duì)各項(xiàng)治理事務(wù)加以區(qū)分:當(dāng)面臨高復(fù)雜性、高不確定性的公共問題時(shí),可借助智能算法技術(shù)輔助公共決策,此時(shí)需要在工作人員的全程監(jiān)督和參與之下,由機(jī)器算法自主地對(duì)數(shù)據(jù)進(jìn)行收集、歸納并建構(gòu)相應(yīng)決策模型,通過(guò)精準(zhǔn)測(cè)算產(chǎn)出政策結(jié)果。這一過(guò)程中算法應(yīng)用者能夠主動(dòng)監(jiān)測(cè)算法規(guī)則運(yùn)作方向,對(duì)算法決策和預(yù)設(shè)結(jié)果加以比對(duì)和控制,保證復(fù)雜應(yīng)用場(chǎng)景下既能發(fā)揮算法技術(shù)決策優(yōu)勢(shì),又能使決策結(jié)果不偏離公共價(jià)值準(zhǔn)則;而當(dāng)政府面對(duì)低復(fù)雜性、低不確定性公共事務(wù),比如要對(duì)海量數(shù)據(jù)信息進(jìn)行清洗、歸類和整合時(shí),則由算法自動(dòng)化決策充分發(fā)揮工具價(jià)值,提高公共部門整合處理信息的能力,將公務(wù)人員從瑣碎的簡(jiǎn)單工作中解脫出來(lái),提升公共行政的效率。

三是要對(duì)算法清單進(jìn)行及時(shí)更新和調(diào)整,以更好發(fā)揮新興技術(shù)手段對(duì)政府治理的積極價(jià)值。隨著智能技術(shù)不斷更新迭代,智能算法的便捷性、效率性以及安全性都不斷得到提升,算法嵌入社會(huì)治理也已是大勢(shì)所趨,當(dāng)多元化的算法技術(shù)模型隨著實(shí)踐發(fā)展變得更具理性,算法清單也應(yīng)隨之調(diào)整完善,使得更多安全可靠的技術(shù)應(yīng)用方案能夠?yàn)檎卫碣x能,推動(dòng)公共行政智能化、智慧化發(fā)展,同時(shí)促進(jìn)政府、市場(chǎng)和社會(huì)協(xié)同增效。

五、結(jié)語(yǔ)

智能算法作為當(dāng)下的技術(shù)熱點(diǎn)正成為國(guó)家治理現(xiàn)代化過(guò)程中的重要驅(qū)動(dòng)力,推動(dòng)政府治理朝著智慧化樣態(tài)不斷邁進(jìn)。作為技術(shù)的算法、作為權(quán)力的算法以及作為規(guī)則的算法統(tǒng)一作用于數(shù)字空間,在理想狀態(tài)下能夠?qū)崿F(xiàn)政府治理的理性、包容性和公平性。然而在實(shí)踐中,政府在運(yùn)用算法提升治理效能的同時(shí),也存有公共責(zé)任難以劃定、政府與民眾自主性被削弱、治理正義性減損等風(fēng)險(xiǎn)。要清醒地認(rèn)識(shí)到算法嵌入政府治理既是人工智能技術(shù)的擴(kuò)展,亦是社會(huì)治理效能的延伸,不能因?yàn)槲磥?lái)可能出現(xiàn)技術(shù)負(fù)外部性就摒棄算法,而要在智能技術(shù)和政府治理的雙向互動(dòng)間尋求平衡,最大程度發(fā)揮算法技術(shù)優(yōu)勢(shì)以期更好地賦能政府治理。因此,需要始終堅(jiān)持把增進(jìn)公共福祉作為治理的終極價(jià)值,從推進(jìn)算法技術(shù)適度透明化、規(guī)范算法權(quán)力運(yùn)作、明確算法規(guī)則決策限度等方面尋求推進(jìn)算法更有效地嵌入治理的實(shí)踐進(jìn)路。當(dāng)然,對(duì)算法嵌入政府治理進(jìn)路的探索不能一勞永逸,隨著治理實(shí)踐的進(jìn)一步發(fā)展,也要提出更具動(dòng)態(tài)性、精細(xì)化和系統(tǒng)化的方案,為進(jìn)一步推動(dòng)政府治理現(xiàn)代化助力。