張紅春,章知連

(貴州大學(xué) 公共管理學(xué)院，貴州 貴陽(yáng) 550025)

時(shí)至今日，算法已經(jīng)廣泛分布于人們的公共和商業(yè)生活。從概念上來(lái)看，算法指一種有限、確定、有效的并適合用計(jì)算機(jī)程序來(lái)實(shí)現(xiàn)解決問(wèn)題的方法。從表現(xiàn)形式來(lái)看，它是數(shù)據(jù)算料的輸入到輸出信息指令的自動(dòng)決策過(guò)程。作為人工智能技術(shù)的核心精髓，算法技術(shù)日益在社會(huì)各個(gè)領(lǐng)域得到廣泛應(yīng)用，現(xiàn)如今政府也經(jīng)常性地利用算法進(jìn)行公共決策和管理。2017 年，《新一代人工智能發(fā)展規(guī)劃》發(fā)布，提出要在教育、醫(yī)療、養(yǎng)老以及行政管理、司法管理、城市管理、環(huán)境保護(hù)等社會(huì)治理的熱點(diǎn)難點(diǎn)問(wèn)題上加快人工智能創(chuàng)新應(yīng)用，提高政府治理現(xiàn)代化水平。在頂層規(guī)劃的推動(dòng)之下，算法在精準(zhǔn)扶貧、疫情防控、偵破案件、教育管理、城市管理、社區(qū)治理、警務(wù)決策、司法審判等政府治理領(lǐng)域中應(yīng)用如雨后春筍勃興。譬如，在杭州的城市大腦建設(shè)中，算法根據(jù)相關(guān)路段實(shí)際車輛數(shù)量等情況合理規(guī)劃紅綠燈時(shí)間，大幅度地提升了交通暢通度，正是強(qiáng)大的算法和算力構(gòu)成智慧城市建設(shè)的核心。再如，在政務(wù)服務(wù)領(lǐng)域中的人工智能應(yīng)用，一些地方已經(jīng)實(shí)現(xiàn)了智能問(wèn)答、智能填單、智能審批等自動(dòng)化功能，實(shí)現(xiàn)政務(wù)服務(wù)效能提升。

隨著人工智能技術(shù)與政府治理的深度融嵌，一種新的政府算法治理樣態(tài)呼之欲出。所謂算法治理，是指以算法決策為核心的一種治理模式。算法治理是人工智能技術(shù)與政府治理日益融合的必然產(chǎn)物，它以算法技術(shù)為內(nèi)核，以大數(shù)據(jù)、人工智能、云計(jì)算為支撐技術(shù)，對(duì)公共事務(wù)實(shí)施算法驅(qū)動(dòng)的自動(dòng)化、智能化的管理和服務(wù)模式。就其內(nèi)涵而言，算法治理是一種技術(shù)治理，它對(duì)以算法為代表的新型信息技術(shù)予以系統(tǒng)化和集成化利用。就其外延來(lái)說(shuō)，算法治理又是算法技術(shù)嵌入并重構(gòu)政府治理場(chǎng)域的主體結(jié)構(gòu)、事務(wù)流程、目標(biāo)結(jié)果的總和樣態(tài)。從治理目標(biāo)來(lái)看，無(wú)論是在理論界還是實(shí)踐領(lǐng)域，算法治理被寄予提高政府治理能力，促使固有的傳統(tǒng)政府治理模式向自動(dòng)化、精準(zhǔn)化、智能化、智慧化的治理形態(tài)轉(zhuǎn)軌的作用期許。

然而，正如新興事物都具有兩面性一樣，算法技術(shù)在給政府治理帶來(lái)精準(zhǔn)、高效、智能的治理勢(shì)能之外，也滋生了諸多治理風(fēng)險(xiǎn)。這其中，算法黑箱問(wèn)題首當(dāng)其沖，算法的不透明性被視為算法治理的最大挑戰(zhàn)。作為一種隱喻，黑箱術(shù)語(yǔ)最早起源于控制論中，后來(lái)被用來(lái)指代那些不為人知、不能從外部直接觀察其內(nèi)部狀態(tài)的政策、技術(shù)與管理系統(tǒng)。隨著算法技術(shù)的崛起和技術(shù)黑箱問(wèn)題的顯現(xiàn)，人們用算法黑箱來(lái)特指代算法的不透明性。弗蘭克·帕斯奎爾(Frank Pasquale)在《黑箱社會(huì)》中最早使用算法黑箱隱喻，認(rèn)為美國(guó)社會(huì)正陷入被金融和科技行業(yè)的秘密算法所操控的、令人難以理解的黑箱社會(huì)狀態(tài)，在這個(gè)社會(huì)中，算法編碼規(guī)則所設(shè)定的值和特權(quán)隱藏在黑箱里，形成了算法黑箱(Black Box Algorithms)。從概念上來(lái)看，算法黑箱是算法系統(tǒng)從輸入到輸出之間的不公開(kāi)和不透明狀態(tài)。就其本質(zhì)而言，算法黑箱本質(zhì)上是算法產(chǎn)品的使用者對(duì)算法系統(tǒng)的不知情。廣為人知的是，不論是商業(yè)算法還是政府算法，都未能逃脫算法黑箱的窠臼。研究指出，雖然社會(huì)廣泛應(yīng)用算法，但是算法的透明度卻有限。尤其是在公共治理當(dāng)中，政府正在大量使用自動(dòng)決策系統(tǒng)替代或者輔助公共管理者進(jìn)行自動(dòng)化行政決策，但是公眾卻又無(wú)法觀察和理解“黑箱”內(nèi)的邏輯或決策機(jī)制，算法治理黑箱化的趨勢(shì)日益凸顯。如果說(shuō)商業(yè)領(lǐng)域的算法黑箱因其私人領(lǐng)域的私密性特質(zhì)護(hù)持而具有一定合理性依據(jù)的話，而政府治理中的算法黑箱則和公共場(chǎng)域的公共性與公開(kāi)性特質(zhì)格格不入。算法黑箱在挑戰(zhàn)公民對(duì)于政府決策的知情權(quán)，影響到政府決策的合法性，它也由此成為政府算法治理亟待解決的一個(gè)重大問(wèn)題。

可喜的是，實(shí)踐和學(xué)術(shù)領(lǐng)域已經(jīng)對(duì)算法黑箱問(wèn)題共同展開(kāi)了關(guān)注和討論。2019年發(fā)布的《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》指南中，提出人工智能系統(tǒng)應(yīng)堅(jiān)持開(kāi)放包容原則，不斷提升透明性。2022年，國(guó)家互聯(lián)網(wǎng)信息辦公室等部委頒布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，指出算法推薦服務(wù)應(yīng)堅(jiān)持公開(kāi)透明的原則。然而，頗為悖謬的是，學(xué)術(shù)研究中關(guān)于算法是否要透明仍存爭(zhēng)議。就算法透明而言，并非所有學(xué)者都持肯定態(tài)度。有的法律學(xué)者以算法透明的規(guī)制效力有限為由，指出算法透明原則通常既不可行，也無(wú)必要。還有研究以算法透明的法律缺失為由，認(rèn)為在沒(méi)有法律明確哪些算法應(yīng)該公開(kāi)以及如何公開(kāi)的情況下，算法的不公開(kāi)是原則，公開(kāi)是例外的觀點(diǎn)。這顯然是默許了算法黑箱常態(tài)。但在這些算法黑箱擁躉者對(duì)立面，也出現(xiàn)了對(duì)算法透明的支持者，并從多個(gè)視角提出了算法黑箱治理對(duì)策。代表性的觀點(diǎn)有：吳椒軍分析了算法黑箱帶來(lái)的危機(jī)，主張從技術(shù)角度、法律角度與倫理角度對(duì)算法黑箱進(jìn)行法治化管理，姜野等提出通過(guò)算法解釋權(quán)來(lái)破解算法黑箱，等等。不難看出，雖然算法黑箱問(wèn)題已受到學(xué)界關(guān)注，但是已有研究以法學(xué)視角的研究為主，且研究共識(shí)嚴(yán)重不足。而且，已有研究似乎模糊了一個(gè)算法透明問(wèn)題的場(chǎng)景因素，即公共算法和商業(yè)算法在透明原則的適用上應(yīng)該是不一樣的。

作為一種技術(shù)，算法本身沒(méi)有權(quán)力屬性，但是算法一旦應(yīng)用于公共領(lǐng)域，就會(huì)帶有公共權(quán)力色彩，并應(yīng)接受公共場(chǎng)域倫理的規(guī)約?；诖耍疚拈_(kāi)宗明義地提出以下論點(diǎn)：如果說(shuō)公開(kāi)性是公共場(chǎng)域內(nèi)公共事務(wù)治理的準(zhǔn)則，那么嵌入其中的算法技術(shù)也應(yīng)秉持透明性原則。本文接下來(lái)的論證分三部分，我們首先從學(xué)理層面分析政府算法黑箱問(wèn)題是如何形成的；其次，從透明性的治理價(jià)值和工具功效入手，論證算法透明原則的嵌入邏輯；最后，文章提出了政府算法治理透明化的實(shí)現(xiàn)路徑。

一、政府算法黑箱的生成：技術(shù)與制度的雙重解釋

是何種因素引致了政府算法黑箱？筆者認(rèn)為，政府算法的低透明度是算法技術(shù)自身特質(zhì)和政府使用算法技術(shù)的制度方式耦合的產(chǎn)物。

從技術(shù)本身來(lái)看，技術(shù)天生帶有了不透明的特性。抽象意義的技術(shù)是實(shí)現(xiàn)人的目的的一種手段，它表現(xiàn)為各種工具、裝置及其集合。不同于先天之物，技術(shù)是人類發(fā)明創(chuàng)造的產(chǎn)物。然而，隨著技術(shù)的發(fā)明、擴(kuò)散與應(yīng)用造成了技術(shù)發(fā)明者和技術(shù)使用者的分離，兩者之間的技術(shù)信息與知識(shí)的不對(duì)稱越發(fā)嚴(yán)重，可以說(shuō)，技術(shù)使用者相對(duì)技術(shù)發(fā)明者而言面臨著天然的技術(shù)黑箱問(wèn)題。算法作為科技革命以來(lái)的最前沿成果，其復(fù)雜性和自主性的技術(shù)特質(zhì)將技術(shù)不對(duì)稱問(wèn)題發(fā)展到了極致。

人工智能算法技術(shù)是一種典型的復(fù)雜性技術(shù)。技術(shù)按照其運(yùn)行機(jī)理和目的難度可以劃分為簡(jiǎn)單性技術(shù)和復(fù)雜性技術(shù)，算法技術(shù)顯然屬于后者。有效的算法離不開(kāi)算料、算法、算力的協(xié)同，這依賴大數(shù)據(jù)、云計(jì)算等復(fù)雜技術(shù)系統(tǒng)的支撐。人工智能算法系統(tǒng)內(nèi)部、系統(tǒng)之間的互動(dòng)關(guān)系變得復(fù)雜而高深莫測(cè)，甚至連設(shè)計(jì)者都難以理解算法機(jī)制，更何況普羅大眾。在技術(shù)目的上，人工智能以模擬和逼近人類的復(fù)雜認(rèn)知與行動(dòng)為目標(biāo)，這也就決定算法技術(shù)的目的是朝向復(fù)雜適應(yīng)性轉(zhuǎn)變的。為了提高算法的準(zhǔn)確性，算法的復(fù)雜性必然會(huì)加強(qiáng)。算法解決的問(wèn)題越復(fù)雜，算法代碼的需求就會(huì)增加幾倍。不難看出，算法技術(shù)系統(tǒng)的復(fù)雜性是社會(huì)公眾認(rèn)知和理解政府算法難以逾越的、堅(jiān)固的專業(yè)壁壘。

除了算法復(fù)雜性的專業(yè)鴻溝，算法技術(shù)的自主性特征也在加劇其封閉性技術(shù)空間的建構(gòu)。算法技術(shù)以模擬甚至代替人類的認(rèn)知和決策為使命，它是具有技術(shù)自主性抱負(fù)的。機(jī)器學(xué)習(xí)是算法生成和計(jì)算機(jī)擁有智能的根本途徑，機(jī)器學(xué)習(xí)能夠從海量人類數(shù)據(jù)集中自主學(xué)習(xí)人類的模式和規(guī)律，并且生成精準(zhǔn)的判斷、預(yù)測(cè)、決策與行動(dòng)。根據(jù)人類對(duì)算法生成的干預(yù)和控制程度，機(jī)器學(xué)習(xí)可以分為有監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)、無(wú)監(jiān)督學(xué)習(xí)。無(wú)監(jiān)督學(xué)習(xí)也叫深度學(xué)習(xí)，即無(wú)須人為設(shè)計(jì)特征提取，特征從數(shù)據(jù)中學(xué)習(xí)而來(lái)。從算法技術(shù)的演化趨勢(shì)來(lái)看，以深度學(xué)習(xí)為標(biāo)志的自主性人工智能算法的日漸興起，標(biāo)志著算法自主性達(dá)到了一個(gè)新高度。其帶來(lái)的必然結(jié)果就是人類對(duì)算法技術(shù)的控制減少乃至缺失，算法無(wú)師自通的自主認(rèn)知、決策和行動(dòng)更加普遍。機(jī)器學(xué)習(xí)讓算法從 “輸入”到 “輸出”的中間環(huán)節(jié)逐漸成為人類社會(huì)無(wú)法掌控的 “黑箱”，而無(wú)監(jiān)督的深度學(xué)習(xí)技術(shù)對(duì)應(yīng)的是算法黑箱的高級(jí)形態(tài)。隨著深度學(xué)習(xí)日益成為人工智能算法的未來(lái)主流趨勢(shì)，政府人工智能由弱人工智能向強(qiáng)人工智能的轉(zhuǎn)變下，機(jī)器學(xué)習(xí)越來(lái)越朝著深度化、自動(dòng)化、擬人化的方向發(fā)展，算法驅(qū)動(dòng)的公共管理和決策的自主優(yōu)化和自主決策特性日漸增強(qiáng)，政府算法的認(rèn)知和決策黑箱特征因而越來(lái)越明顯。

如果說(shuō)技術(shù)因素是算法黑箱的先天因素，政府將算法引入到公共場(chǎng)域當(dāng)中的制度方式則是其問(wèn)題的后天變量。從算法技術(shù)導(dǎo)入政府部門的方式來(lái)看，市場(chǎng)化和管理主義的算法治理制度設(shè)計(jì)不僅沒(méi)有有效打開(kāi)算法黑箱，反而降低了算法透明度。

一個(gè)明顯的常識(shí)是，政府并不擅長(zhǎng)算法技術(shù)的發(fā)明和創(chuàng)制，政府采納算法技術(shù)必須求助于企業(yè)和市場(chǎng)機(jī)制。在政府采購(gòu)、政府購(gòu)買服務(wù)、合同外包等市場(chǎng)化制度安排之下，政府使用的人工智能系統(tǒng)更經(jīng)常的是要么在市場(chǎng)上采購(gòu)人工智能系統(tǒng)，要么將人工智能產(chǎn)品和服務(wù)的研發(fā)外包給更為專業(yè)的科技公司。例如，杭州市的智慧城市建設(shè)項(xiàng)目由阿里巴巴提供技術(shù)解決方案，廣東省的“粵省事”移動(dòng)辦公平臺(tái)則由騰訊云幫助搭建?？萍计髽I(yè)引入算法治理中可以彌補(bǔ)政府在算法技術(shù)上的短板，但是政府也部分甚至全部讓渡了對(duì)算法黑箱的控制和改造權(quán)利。科技企業(yè)通過(guò)算法人才控制、算法專利控制等一系列知識(shí)保護(hù)機(jī)制將算法資本化、商業(yè)化和專有化?？萍计髽I(yè)與政府部門簽訂的算法研發(fā)合同勢(shì)必固化和強(qiáng)化其算法的資產(chǎn)專用性，指望以算法為營(yíng)生的科技企業(yè)公開(kāi)其算法無(wú)異于與虎謀皮。科技公司通常強(qiáng)調(diào)算法的產(chǎn)權(quán)，由于其營(yíng)利性和排他性商業(yè)政策，科技公司不愿公開(kāi)算法和數(shù)據(jù)也就不難理解了，公眾被再次排外。可見(jiàn)，在市場(chǎng)化的算法應(yīng)用制度之下，在政府和公眾之間制造了營(yíng)利性、封閉性的市場(chǎng)主體，使得政府算法移植保持了商業(yè)算法固有的黑箱特征。

政府算法應(yīng)用的管理主義的制度范式則進(jìn)一步固化、維持了算法黑箱。以深度學(xué)習(xí)為代表的人工智能算法盡管具有突破性特征，但其在政府部門中的應(yīng)用依然是嵌入式的。算法進(jìn)入政府科層結(jié)構(gòu)當(dāng)中，成為政府行政決策、行政規(guī)則制定、權(quán)力運(yùn)行的技術(shù)工具，因而算法是否透明不僅取決于算法研發(fā)者、算法本身的可觀察性，還取決于工具使用主體，也即政府的透明度。政府應(yīng)用算法技術(shù)并沒(méi)有促使政府行政流程和運(yùn)行機(jī)制走向開(kāi)放，而是存在技術(shù)行政化、技術(shù)內(nèi)卷化的傾向。政府引入人工智能算法技術(shù)的決策封閉，政府算法研發(fā)設(shè)計(jì)的過(guò)程對(duì)外封閉，政府算法的生成和應(yīng)用的全流程由政府和科技企業(yè)主導(dǎo)，缺乏有效的公眾參與?？梢哉f(shuō)，人工智能算法技術(shù)的廣泛應(yīng)用，并沒(méi)有顯著提升政府管理全過(guò)程的透明性。

以上分析表明，政府算法黑箱式的應(yīng)用是技術(shù)與制度耦合的產(chǎn)物。算法的技術(shù)特質(zhì)使其具有了天然的不易理解性、不易參與性，而政府算法制度的市場(chǎng)化和管理主義特征又進(jìn)一步固化了其封閉性和排斥性特征。當(dāng)公眾缺乏理解算法所需的專業(yè)知識(shí)，當(dāng)公眾缺乏接觸和了解算法過(guò)程的機(jī)會(huì)時(shí)，公眾面臨的顯然是一個(gè)不折不扣的技術(shù)黑箱和治理黑箱。

算法黑箱的理論基因是技治主義和管理主義，其現(xiàn)實(shí)表現(xiàn)是政府算法成為官僚制組織的內(nèi)部行政與控制工具，而未能成為政府包容和吸納公眾參與政府治理的治理平臺(tái)與工具，并由此而產(chǎn)生一系列威脅政府治理有效性的延伸問(wèn)題。一是算法黑箱侵蝕了公眾對(duì)政府算法治理知情權(quán)。當(dāng)算法技術(shù)進(jìn)入政府治理場(chǎng)域的全流程都處于“黑箱”密閉狀態(tài)時(shí)，政府算法治理勢(shì)必形成公共決策黑箱、監(jiān)管黑箱、服務(wù)黑箱等新問(wèn)題，這將嚴(yán)重制約在人工智能時(shí)代下公眾對(duì)政府治理的知情程度。二是算法黑箱阻礙公眾參與政府治理。算法黑箱所構(gòu)筑的技術(shù)壁壘、制度藩籬和信息隔閡都在排斥而不是吸納公眾參與，而公眾自身的參與意識(shí)、算法知識(shí)和素養(yǎng)的缺失又加劇了公眾對(duì)算法的冷漠。低效參與使得公眾在政府算法治理中被動(dòng)地充當(dāng)人工智能公共產(chǎn)品服務(wù)的接受者。三是黑箱算法易侵蝕公眾隱私權(quán)。個(gè)人隱私受到國(guó)家相關(guān)法律法規(guī)的保護(hù)。但是算法的形成都依賴大量的用戶特征、屬性、行為數(shù)據(jù)的輸入和分析，政府算法生成也不例外。在算法市場(chǎng)化制度之下，政府算法研發(fā)過(guò)程中政府不得不將政府掌握的大量公共數(shù)據(jù)使用權(quán)授權(quán)給技術(shù)公司，如果存在數(shù)據(jù)存儲(chǔ)不安全、算法安全漏洞、私人利益等問(wèn)題，個(gè)人信息可能會(huì)存在被泄漏、篡改和挪作他用，給公民隱私、人身、財(cái)產(chǎn)、職業(yè)等造成數(shù)據(jù)安全風(fēng)險(xiǎn)。最后，黑箱算法降低了政府算法治理的整體有效性。尤其是，鑒于政府與技術(shù)公司之間的信息不對(duì)稱性，算法“黑箱”的存在直接導(dǎo)致了公共利益被私人利益俘獲、資本支配公權(quán)力等風(fēng)險(xiǎn)的產(chǎn)生。政府算法技術(shù)在研發(fā)過(guò)程難免會(huì)受到資本裹挾而發(fā)生價(jià)值扭曲，還可能導(dǎo)致算法與資本或權(quán)力相連接，算法成為“損害個(gè)人權(quán)益和社會(huì)福利的工具”。但正是因?yàn)檎惴ê谙涞拇嬖冢惴ê谙湟环矫娉蔀樽躺惴▎?wèn)題的溫床，另一方面算法黑箱使得公共算法缺乏有效的監(jiān)督機(jī)制，使得問(wèn)題的識(shí)別、暴露和解決變得遲緩，最終損失公共利益，降低算法治理的公信力。

歸納起來(lái)，政府算法黑箱是技術(shù)理性主導(dǎo)下的制度異化產(chǎn)物，雖然它展現(xiàn)了技術(shù)的精準(zhǔn)性、效率性的工具理性價(jià)值，但是卻與政府治理所處公共場(chǎng)域的多元公共價(jià)值訴求格格不入。算法黑箱損失了政府治理應(yīng)有的透明性價(jià)值，還連貫損失了參與性、責(zé)任性、回應(yīng)性的治理價(jià)值標(biāo)準(zhǔn)，進(jìn)而反噬政府算法治理的有效性和合法性。正是因?yàn)樗惴ê谙渌碌乃惴ㄖ卫砝Ь?，使得將透明機(jī)制引入政府算法應(yīng)用當(dāng)中應(yīng)受到格外的重視。

二、破解政府算法黑箱：透明性的嵌入邏輯

透明性是公共治理領(lǐng)域中廣為接受一個(gè)價(jià)值準(zhǔn)則。政治學(xué)家漢娜·阿倫特(Hannal Arendt)在區(qū)別公共領(lǐng)域和私人領(lǐng)域時(shí)指出，公共首先意味著出現(xiàn)于公共場(chǎng)合的東西能夠?yàn)槊總€(gè)人所看見(jiàn)和聽(tīng)見(jiàn)，具有最廣泛的公開(kāi)性。政府作為核心的公共治理主體，其治理主體、方式、過(guò)程和結(jié)果的強(qiáng)公共性使其應(yīng)當(dāng)堅(jiān)持公開(kāi)透明原則。故而，進(jìn)入現(xiàn)代社會(huì)以來(lái)，透明原則日益成為國(guó)內(nèi)外政府治理的基本原則。西方國(guó)家紛紛頒布信息公開(kāi)與自由方面的法律，我國(guó)也于2007年首次通過(guò)《政府信息公開(kāi)條例》，2018年該條例修訂后繼續(xù)實(shí)施，政府公開(kāi)透明日益邁向制度深化時(shí)期。

字面意義上的透明隱喻物體在視線上的通透性，而在學(xué)術(shù)意義的透明意指對(duì)象具備可觀察性,即公眾能從外部了解觀察對(duì)象的結(jié)構(gòu)與運(yùn)行?？梢?jiàn)，政府透明是一個(gè)雙向度的概念，高質(zhì)量的透明政府需要政府和公眾之間有效互動(dòng)，它一方面仰賴政府組織的公開(kāi)性，另一方面需要公眾的積極參與政府公開(kāi)內(nèi)容的學(xué)習(xí)。

透明性之所以能成為現(xiàn)代政府治理的目標(biāo)愿景，根源于透明性的巨大治理作用。從治理理論來(lái)看，透明不僅是一種治理目標(biāo)所系，還是一種實(shí)現(xiàn)其他公共價(jià)值的治理工具。從治理目標(biāo)來(lái)看，國(guó)內(nèi)外治理學(xué)者都認(rèn)為透明性也被視為一個(gè)政府善治與否的重要價(jià)值標(biāo)準(zhǔn)。在公共價(jià)值研究文獻(xiàn)中，已有研究所歸納的公共價(jià)值清單中也包含公開(kāi)性價(jià)值，意指公共行政應(yīng)當(dāng)是透明的。其理論緣由根源于公共場(chǎng)域的公共性和公開(kāi)性的內(nèi)在訴求。為此，政府透明經(jīng)常性被作為政府善治的衡量指標(biāo)，例如，俞可平教授開(kāi)發(fā)的中國(guó)國(guó)家治理評(píng)估指數(shù)中就包含公開(kāi)透明性的指標(biāo)。從治理工具來(lái)看，透明性還是政府實(shí)現(xiàn)其他善治價(jià)值和公共價(jià)值的橋梁，是政府治理邁向系統(tǒng)性善治的催化劑。這是因?yàn)橥该饕馕吨袨楹徒Y(jié)果信息的充分披露，它可以保障公眾對(duì)政府的知情權(quán)。而公眾的知情權(quán)又是公眾實(shí)現(xiàn)參與權(quán)、表達(dá)權(quán)和監(jiān)督權(quán)的一種方式。由此而論，透明政府還是政府實(shí)現(xiàn)責(zé)任性、回應(yīng)性、法治性、合法性等其他治理價(jià)值的有效工具。

在大數(shù)據(jù)和人工智能時(shí)代，政府透明具有了新的公開(kāi)對(duì)象，算法透明成為透明政府建設(shè)的最新途徑。在信息化早期，政府可供公開(kāi)的透明媒介資源還不豐富，由政府加工和生產(chǎn)的政府信息因而被視為公眾觀察政府的唯一媒介，政府信息公開(kāi)成為政府透明的唯一路徑選擇，政府通過(guò)出版物和網(wǎng)站來(lái)披露政府信息，保障公眾對(duì)公共事務(wù)的知情權(quán)。但是以政府信息來(lái)實(shí)現(xiàn)透明政府的效力存在天然缺陷，因?yàn)樗菃蜗蚨鹊男畔鬟f與行政告知，公眾無(wú)從考證和質(zhì)疑信息的真實(shí)性。隨著人類世界和物理世界的數(shù)據(jù)化、信息化程度提高，多源、異構(gòu)、海量的復(fù)雜性大數(shù)據(jù)資源不斷生成。隨著大數(shù)據(jù)技術(shù)嵌入行政過(guò)程，政府積累的數(shù)據(jù)資源越來(lái)越豐富，海量數(shù)據(jù)資源不僅能夠讓政府決策更加客觀和科學(xué)，也提供了讓社會(huì)公眾回溯和觀察政府行政行為與結(jié)果的客觀證據(jù)。為此，學(xué)界提出了從政府信息公開(kāi)到政府?dāng)?shù)據(jù)開(kāi)放的路徑嬗變，以此提高政府透明度的深度和質(zhì)量。從海量數(shù)據(jù)資源提取有價(jià)值的信息并支撐管理決策是大數(shù)據(jù)時(shí)代海量數(shù)據(jù)資源根本使命，而人工智能算法技術(shù)應(yīng)運(yùn)而生成為幫助政府實(shí)現(xiàn)自動(dòng)化、智能化、智慧化的決策、監(jiān)管和服務(wù)利器。在人工智能時(shí)代，政府應(yīng)用人工智能技術(shù)進(jìn)行政府治理時(shí)，對(duì)透明政府和責(zé)任政府的追求在某種程度上已經(jīng)開(kāi)始遷移至對(duì)技術(shù)透明度的理解和對(duì)技術(shù)責(zé)任的承擔(dān)。換言之，在人工智能時(shí)代，隨著政府行政的智能化和算法化，算法系統(tǒng)已經(jīng)成為公眾認(rèn)知政府行政方式與結(jié)果的最精華載體。而從現(xiàn)實(shí)來(lái)看，算法黑箱已然成為人工智能時(shí)代政府透明的羈絆，用透明性的價(jià)值重構(gòu)算法黑箱系統(tǒng)具有必然性。

從理論層面來(lái)看，用透明性價(jià)值破解算法黑箱之后，政府算法治理的價(jià)值和功能系統(tǒng)得以重塑，其積極的治理效果體現(xiàn)在:其一，算法透明促使政府算法治理回歸公共性的本質(zhì)要求。不同于商業(yè)算法應(yīng)用領(lǐng)域的私有性、排他性和秘密性，政府算法廣泛應(yīng)用在公共服務(wù)、社會(huì)治理等公共領(lǐng)域當(dāng)中。透明算法將促使政府算法從私有性、排他性和秘密性走向公有性、包容性和開(kāi)放性。其二，算法透明促進(jìn)公眾參與政府算法治理。為了讓公眾參與算法治理，必須讓公眾接觸和了解算法，這反過(guò)來(lái)又要求政府算法治理保持高度的開(kāi)放性與透明性。算法透明建構(gòu)開(kāi)放性的數(shù)據(jù)—算法—信息生態(tài)體系可以賦予公眾在算法信息和知識(shí)上的能力優(yōu)勢(shì)，為吸納公眾參與算法治理提供了前提條件。其三，算法透明可以促進(jìn)政府算法治理的法治化。算法黑箱容易引發(fā)算法歧視、算法殺熟、算法濫用的技術(shù)風(fēng)險(xiǎn)，容易導(dǎo)致公共利益被私人利益俘獲、資本支配公權(quán)力等治理風(fēng)險(xiǎn)的產(chǎn)生。陽(yáng)光是最好的防腐劑，算法透明可以成為治理算法失靈的利器。這是因?yàn)樗惴ǖ墓_(kāi)透明提供了社會(huì)監(jiān)督介入的可能性，可以讓社會(huì)公眾監(jiān)督政府算法應(yīng)用中的安全、隱私、倫理問(wèn)題和其他風(fēng)險(xiǎn)，防止算法的濫用和誤用。其四，算法透明增進(jìn)公眾對(duì)算法治理的信任感，提高政府算法治理的公信力。算法黑箱的不透明狀態(tài)容易引起公眾對(duì)算法的猜疑，降低對(duì)政府算法決策與執(zhí)行的認(rèn)同感。反之，通過(guò)及時(shí)披露算法治理中的數(shù)據(jù)信息，不僅可以促進(jìn)算法治理的規(guī)范性，也有利于消除社會(huì)公眾對(duì)算法的恐懼與疑惑，提高政府算法治理的社會(huì)認(rèn)同度與公信力。一言以蔽之，之所以將透明價(jià)值融入算法，是因?yàn)樗梢园l(fā)揮治理目標(biāo)引領(lǐng)和治理工具的雙導(dǎo)效應(yīng)。

三、邁向透明化的政府算法治理：形態(tài)與路徑構(gòu)建

通過(guò)前面的討論，不難看出算法透明既能夠提升政府算法自身的公開(kāi)性，讓社會(huì)公眾觀察和監(jiān)督政府算法治理方向、過(guò)程與結(jié)果，還能夠借此讓公眾參與、問(wèn)責(zé)和監(jiān)督政府算法治理體系。因循算法透明邏輯，政府算法治理體系也最終向透明化系統(tǒng)性轉(zhuǎn)軌。那么透明化的政府算法治理的衡量標(biāo)準(zhǔn)是什么，又如何有效實(shí)現(xiàn)這一算法治理目標(biāo)呢？本部分首先按照全過(guò)程透明原則，描述透明化的政府算法治理形態(tài)與標(biāo)準(zhǔn)，然后從政民互動(dòng)的雙向透明性建構(gòu)視角出發(fā)，分別構(gòu)建政府與公眾各自的透明責(zé)任與行動(dòng)義務(wù)。

1.透明化的政府算法治理形態(tài)建構(gòu)：全過(guò)程的算法透明

從過(guò)程視角來(lái)，算法技術(shù)嵌入政府組織必然是一個(gè)持續(xù)動(dòng)態(tài)的治理過(guò)程，算法透明及其透明化的政府算法治理形態(tài)可以按階段分別予以描述：

第一，政府算法治理決策的透明化。算法技術(shù)嵌入政府治理場(chǎng)景是一項(xiàng)涉及公共利益的重大公共決策，算法治理決策的透明化是算法公開(kāi)的首位要素。具體來(lái)說(shuō)，它包括：一是政府算法治理的政策公開(kāi)。人工智能算法技術(shù)嵌入政府治理勢(shì)必會(huì)改變已有的行政流程和服務(wù)樣態(tài)，勢(shì)必會(huì)產(chǎn)生諸多新現(xiàn)象、新事務(wù)和新風(fēng)險(xiǎn)。因而，制定人工智能算法的應(yīng)用規(guī)則是政府算法治理制度化、規(guī)范化的首要任務(wù)。將透明性的價(jià)值嵌入政府算法治理政策與制度設(shè)計(jì)環(huán)節(jié)，需要政府主動(dòng)公開(kāi)關(guān)于算法治理政策制定過(guò)程及其政策文件成果，讓利益相關(guān)主體認(rèn)知算法治理中應(yīng)遵守的權(quán)責(zé)規(guī)范。二是算法技術(shù)的場(chǎng)景引入決策公開(kāi)。算法技術(shù)的應(yīng)用是面向場(chǎng)景和問(wèn)題的，一個(gè)治理場(chǎng)景和問(wèn)題是否要引入人工智能算法是一項(xiàng)關(guān)切社會(huì)利益的重大決策。因此，政府應(yīng)向社會(huì)披露在具體公共事務(wù)場(chǎng)域中引入算法的決策緣由、決策主體、決策過(guò)程、決策依據(jù)、決策結(jié)果等重大決策信息。三是算法技術(shù)委托決策公開(kāi)。政府算法的專業(yè)性使得政府算法設(shè)計(jì)開(kāi)發(fā)必須委托給技術(shù)公司，政府將算法委托給科技企業(yè)的決策過(guò)程應(yīng)予公開(kāi)透明，政府應(yīng)主動(dòng)公開(kāi)人工智能算法技術(shù)與平臺(tái)的采購(gòu)或者招投標(biāo)信息，向社會(huì)披露中標(biāo)企業(yè)技術(shù)公司名稱、資質(zhì)、合同任務(wù)，增加公眾對(duì)所委托的算法技術(shù)公司的了解和監(jiān)督。

第二，政府算法的研發(fā)透明化。算法研發(fā)是政府算法生成全過(guò)程中的核心技術(shù)環(huán)節(jié)，而且算法研發(fā)固有的專業(yè)性、自主性使其最容易成為一個(gè)技術(shù)黑箱，也成為算法透明的難點(diǎn)之處。在透明化的政府算法治理理念之下，必須用透明性原則重塑算法研發(fā)過(guò)程，形成可觀察、可追溯、可監(jiān)督的政府算法研發(fā)。從技術(shù)應(yīng)用過(guò)程來(lái)看，算法研發(fā)一般包括算法設(shè)計(jì)、算料采集和算法訓(xùn)練等技術(shù)過(guò)程，算法研發(fā)透明化也可按算法形成過(guò)程鏈條漸次展開(kāi)。一是，政府算法的設(shè)計(jì)公開(kāi)。算法設(shè)計(jì)是對(duì)算法過(guò)程的規(guī)劃，表現(xiàn)為算法研發(fā)的主體、目的、流程、結(jié)果預(yù)期等，公開(kāi)這些設(shè)計(jì)信息要素有利于社會(huì)公眾了解和監(jiān)督算法研發(fā)主體的算法研發(fā)目的、計(jì)劃和行為。二是，政府算法研發(fā)的算料公開(kāi)。算法是將數(shù)據(jù)進(jìn)行轉(zhuǎn)換形成有價(jià)值的信息、知識(shí)與行動(dòng)工具的程序模型，政府算法研發(fā)也離不開(kāi)海量公眾數(shù)據(jù)的輸入。政府要保障公眾對(duì)自身數(shù)據(jù)被算法如何利用的知情權(quán)，向社會(huì)公開(kāi)具體算法應(yīng)用的數(shù)據(jù)來(lái)源、數(shù)據(jù)類型及其數(shù)據(jù)安全規(guī)范。在保障國(guó)家安全、數(shù)據(jù)安全和公民個(gè)人合法權(quán)益的前提條件下，應(yīng)將政府算法輸入的公共數(shù)據(jù)算料開(kāi)源給社會(huì)大眾，通過(guò)數(shù)據(jù)開(kāi)放、算料開(kāi)源提升政府算料透明度。三是，政府算法訓(xùn)練規(guī)則公開(kāi)。雖然算法訓(xùn)練過(guò)程具有自主性特征，但是選用何種算法訓(xùn)練方法的規(guī)則是需要人類輸入的，算法規(guī)則的選擇會(huì)極大地影響算法結(jié)果的走向。因此，政府應(yīng)指導(dǎo)算法企業(yè)向社會(huì)公開(kāi)算法規(guī)則，有利于公眾知曉和監(jiān)督算法結(jié)果形成機(jī)理，提高社會(huì)公眾對(duì)算法的理解能力?？偠灾?，提高算法研發(fā)的透明度可以讓社會(huì)公眾了解算法設(shè)計(jì)的目的意圖、基本原理和主要運(yùn)行機(jī)制，而公眾的監(jiān)督可以有效地規(guī)避算法研發(fā)企業(yè)的機(jī)會(huì)主義動(dòng)機(jī)與行為，保證算法利益的公共性。

第三，政府算法應(yīng)用的透明化。政府算法應(yīng)用是算法技術(shù)嵌入具體公共領(lǐng)域和公共事務(wù)的實(shí)踐，表現(xiàn)為人工智能公共產(chǎn)品和公共服務(wù)供給和消費(fèi)。在算法應(yīng)用環(huán)節(jié)，政府要保障人工智能產(chǎn)品和服務(wù)的消費(fèi)知情權(quán)，告知算法驅(qū)動(dòng)的產(chǎn)品與服務(wù)的背景、目的、方式和結(jié)果。具體來(lái)說(shuō)，算法應(yīng)用的透明度可以從以下兩個(gè)方面構(gòu)建：一方面要公開(kāi)政府算法場(chǎng)景應(yīng)用的服務(wù)主體信息。算法技術(shù)嵌入稅收、警務(wù)、交通、健康、教育等領(lǐng)域中表現(xiàn)為一個(gè)個(gè)在地化的場(chǎng)景，算法應(yīng)用場(chǎng)景包括行政主體、服務(wù)對(duì)象、人工智能算法技術(shù)設(shè)備、事務(wù)、流程等要素。這些人工智能服務(wù)的主體、設(shè)備、流程、規(guī)則、技術(shù)標(biāo)準(zhǔn)應(yīng)充分公開(kāi)，讓社會(huì)公眾充分知情算法應(yīng)用的規(guī)范，讓社會(huì)公眾知道誰(shuí)在為他們服務(wù)、如何服務(wù)，并了解算法可能對(duì)自己的生活產(chǎn)生的影響。另一方面，政府算法應(yīng)用的結(jié)果公開(kāi)。人工智能算法所做出的行政決策和服務(wù)結(jié)果應(yīng)當(dāng)向算法行政相對(duì)人公開(kāi)，保障其知情權(quán)。同時(shí)，算法應(yīng)用結(jié)果還應(yīng)向社會(huì)公眾以脫敏和匯總方式公開(kāi)，告知社會(huì)大眾算法技術(shù)應(yīng)用整體成果與發(fā)展態(tài)勢(shì)。

第四，政府算法監(jiān)督的透明化。規(guī)范化、法治化的政府算法治理離不開(kāi)嚴(yán)密的監(jiān)督體系，政府應(yīng)構(gòu)建針對(duì)人工智能算法的安全與風(fēng)險(xiǎn)評(píng)估、算法設(shè)計(jì)、產(chǎn)品開(kāi)發(fā)和成果應(yīng)用等全流程予以監(jiān)管，并將算法監(jiān)督過(guò)程和結(jié)果公開(kāi)透明。其一，公開(kāi)算法監(jiān)督渠道。政府要提供公眾反饋算法問(wèn)題、算法風(fēng)險(xiǎn)的線上線下渠道。保持算法系統(tǒng)的可訪問(wèn)性和開(kāi)放性，便于外部審計(jì)代理或機(jī)構(gòu)可以訪問(wèn)算法來(lái)評(píng)估算法研發(fā)者、算法設(shè)計(jì)者的道德倫理以及對(duì)法規(guī)的遵守。其二，算法影響評(píng)估結(jié)果公開(kāi)。算法影響評(píng)估是算法導(dǎo)入政府治理場(chǎng)景的一項(xiàng)事前評(píng)估制度，它由專業(yè)評(píng)估結(jié)構(gòu)對(duì)算法技術(shù)的潛在風(fēng)險(xiǎn)點(diǎn)、風(fēng)險(xiǎn)后果、風(fēng)險(xiǎn)預(yù)警、風(fēng)險(xiǎn)治理做出的專業(yè)評(píng)估和建議，是算法應(yīng)用的事前監(jiān)督機(jī)制。通過(guò)引入算法風(fēng)險(xiǎn)評(píng)估制度并公開(kāi)算法風(fēng)險(xiǎn)評(píng)估結(jié)果，可以告知社會(huì)公眾算法的潛在后果，并吸引社會(huì)公眾監(jiān)督算法風(fēng)險(xiǎn)。其三，算法績(jī)效評(píng)估結(jié)果公開(kāi)。算法技術(shù)在具體行政領(lǐng)域的應(yīng)用效果如何，是否遵循相應(yīng)規(guī)則，是否實(shí)現(xiàn)了預(yù)期的治理目標(biāo)，是否展現(xiàn)了相應(yīng)的公共價(jià)值，為了回答這些問(wèn)題應(yīng)該對(duì)算法技術(shù)的應(yīng)用績(jī)效進(jìn)行系統(tǒng)評(píng)價(jià)，并將算法績(jī)效評(píng)估結(jié)果向社會(huì)公布，讓社會(huì)監(jiān)督政府算法治理的效能。

2.實(shí)現(xiàn)透明化算法治理的政府責(zé)任與路徑：算法公開(kāi)

算法黑箱的關(guān)鍵問(wèn)題就在于公眾無(wú)法觀察和理解算法，破解算法黑箱首先要求的就是打開(kāi)算法黑箱、推進(jìn)算法透明。而政府作為算法治理的主體，是算法技術(shù)的引入、應(yīng)用、管理和監(jiān)督的主體，其承擔(dān)算法治理的主體責(zé)任，并掌握算法治理的全面信息。因此，政府應(yīng)以算法公開(kāi)為透明化算法治理的責(zé)任定位。

政府應(yīng)構(gòu)建有效的算法公開(kāi)機(jī)制，以改善公眾對(duì)算法信息獲取、認(rèn)知與學(xué)習(xí)體驗(yàn)，完善公眾需求導(dǎo)向的政府算法信息提供機(jī)制，構(gòu)建算法要素全面公開(kāi)體系。具體來(lái)說(shuō)：

第一，實(shí)施算法全要素公開(kāi)制度。從形式上來(lái)講，算法是輸入和輸出系統(tǒng)，全面的算法透明需要政府將算法要素安全地、系統(tǒng)地、制度化地向公眾開(kāi)放。一是構(gòu)建算法制度公開(kāi)機(jī)制。算法制度是政府引入人工智能算法的規(guī)則，包括制定的相關(guān)政策、法律法規(guī)、倫理道德規(guī)范、算法行業(yè)技術(shù)標(biāo)準(zhǔn)。算法制度規(guī)定了算法設(shè)計(jì)者、算法使用者等相關(guān)利益主體的權(quán)力和應(yīng)該履行的法律義務(wù)，對(duì)算法法律責(zé)任確認(rèn)、隱私和產(chǎn)權(quán)保護(hù)、信息安全利用等有重要作用。算法制度公開(kāi)可以賦予算法用戶對(duì)算法設(shè)計(jì)者、決策者提出合理性質(zhì)疑權(quán)利。二是構(gòu)建算料開(kāi)源機(jī)制，也即是數(shù)據(jù)開(kāi)放。算料開(kāi)源是指在保障國(guó)家安全、數(shù)據(jù)安全和公民個(gè)人合法權(quán)益的條件下，算料收集的數(shù)據(jù)來(lái)源主體、數(shù)據(jù)類型、數(shù)據(jù)庫(kù)安全技術(shù)、用前脫敏技術(shù)等要通過(guò)數(shù)據(jù)開(kāi)放平臺(tái)向社會(huì)公眾公開(kāi)，以便公眾知道數(shù)據(jù)來(lái)源、數(shù)據(jù)運(yùn)用以及數(shù)據(jù)安全保障情況。三是構(gòu)建算法規(guī)則公開(kāi)機(jī)制。算法規(guī)則是算法處理數(shù)據(jù)和樣本的策略與方法，表現(xiàn)為句法、表征、符號(hào)等計(jì)算機(jī)技術(shù)語(yǔ)言構(gòu)成的算法代碼。根據(jù)算法的功能可以將算法分為分類算法、排序算法，等等，采用何種方法來(lái)排序決定最終的算法結(jié)果。針對(duì)每一項(xiàng)智能化的公共決策和服務(wù)產(chǎn)品，政府都應(yīng)當(dāng)公開(kāi)其算法規(guī)則及其背后的算法方法，讓社會(huì)公眾知曉算法的運(yùn)行邏輯及其結(jié)果。

第二，構(gòu)建多渠道的算法公開(kāi)途徑。多維算法要素以什么方式向社會(huì)公眾交付是決定算法公開(kāi)有效性的關(guān)鍵變量。針對(duì)算法系統(tǒng)的多樣性要素，采用不同的信息技術(shù)實(shí)現(xiàn)算法要素的無(wú)縫傳遞。一是，利用政府網(wǎng)站和新媒體及時(shí)公開(kāi)算法應(yīng)用的政策、運(yùn)行和效果信息。在信息化時(shí)代，算法類信息公開(kāi)渠道不僅包括傳統(tǒng)政府信息門戶網(wǎng)站，還包括政務(wù)微博、政務(wù)微信、抖音號(hào)等新型信息傳播方式，這些渠道都成為讓社會(huì)公眾接觸算法制度、產(chǎn)品和服務(wù)信息的便捷渠道；二是，構(gòu)建算法開(kāi)源平臺(tái)。集聚政府算法生成和應(yīng)用中的數(shù)據(jù)資源、算法資源等算料要素，構(gòu)建在線、持續(xù)供給的數(shù)據(jù)開(kāi)放與算法代碼公開(kāi)，在提升算法透明度的同時(shí)，也有利于吸收社會(huì)公眾的力量參與算法反饋并反哺算法本身的迭代升級(jí)。三是，構(gòu)建公眾參與政府算法治理的機(jī)制。政府要利用線上、線下渠道，通過(guò)聽(tīng)證會(huì)、公眾調(diào)查、專家咨詢等多渠道吸納社會(huì)公眾參與算法制度設(shè)計(jì)、算法設(shè)計(jì)、算法評(píng)估和算法優(yōu)化等算法流程，讓公眾在算法參與中實(shí)現(xiàn)知情知曉，提高公眾算法參與和知情的實(shí)效性。

第三，構(gòu)建政府算法解釋機(jī)制。算法的專業(yè)性提高了社會(huì)公眾理解算法的障礙，而算法解釋有助于公眾理解算法技術(shù)是什么以及它是如何形成的。算法解釋可認(rèn)為是以一種可接受、可被普遍理解的形式對(duì)特定結(jié)論的決策過(guò)程出具算法解釋報(bào)告，切實(shí)解決決策相關(guān)者對(duì)于最終結(jié)果的疑惑。如今，算法解釋正在成為算法應(yīng)用的一項(xiàng)基本倫理準(zhǔn)則。美國(guó)計(jì)算機(jī)協(xié)會(huì)在2017年發(fā)布《關(guān)于算法透明性和可問(wèn)責(zé)性的聲明》的七條原則中第四條是算法解釋原則，鼓勵(lì)使用算法決策的組織和機(jī)構(gòu)對(duì)算法所遵循的程序和所做出的具體決策提供解釋。對(duì)于政府算法而言，算法解釋是解決社會(huì)公眾與算法規(guī)則之間技術(shù)鴻溝的橋梁，是實(shí)現(xiàn)政府治理主體與社會(huì)公眾之間有效溝通的工具，因而，算法解釋是用一種可被理解的方式來(lái)提高算法的透明度的救濟(jì)機(jī)制。在算法解釋機(jī)制的構(gòu)建過(guò)程中，政府要遵循真實(shí)性、可接受性的算法解釋原則，利用算法宣傳、科普、培訓(xùn)等多重宣貫手段，努力消除公眾算法理解中的疑惑，說(shuō)明算法規(guī)則背后的理由，取得公眾對(duì)算法的理解和信任。

3.實(shí)現(xiàn)透明化算法治理的公眾責(zé)任與路徑：算法參與

按照政民互動(dòng)的透明度生成邏輯，創(chuàng)造透明政府需要公眾貢獻(xiàn)時(shí)間、精力與能力并承擔(dān)責(zé)任。這是因?yàn)橥该髡谋举|(zhì)是公眾知情，缺乏公眾參與就不會(huì)形成對(duì)政府運(yùn)行的實(shí)質(zhì)理解。同樣，對(duì)政府算法而言，如果算法應(yīng)用缺乏公眾參與，那仍然是單向度的政府算法公開(kāi)，無(wú)法實(shí)現(xiàn)公眾對(duì)算法嵌入公共事務(wù)的實(shí)質(zhì)知情。相反，公眾參與算法全流程中，不僅可以讓公眾表達(dá)對(duì)算法的需求信息以實(shí)現(xiàn)回應(yīng)性和民主性的算法設(shè)計(jì)和應(yīng)用，公眾還能在參與過(guò)程中直接觀察、見(jiàn)證算法的運(yùn)行流程，通過(guò)算法要素生成、學(xué)習(xí)形成對(duì)政府算法的實(shí)質(zhì)理解?？梢?jiàn)，公眾算法參與是實(shí)現(xiàn)透明化算法治理的必要條件和有效機(jī)制。

通過(guò)公眾參與算法，創(chuàng)造公眾接觸并了解算法，排除公眾對(duì)算法的恐懼，同時(shí)也為公眾提供了算法教育和培訓(xùn)的機(jī)會(huì)，提高公眾算法素養(yǎng)，減少公眾的算法不對(duì)稱，從而提高算法的透明度。為了提高公眾算法知情效果，提高公眾參與政府算法治理效能，公眾的算法參與責(zé)任機(jī)制包括：

第一，提高公眾算法素養(yǎng)，增進(jìn)算法知情和參與能力。透明性原則的核心是通過(guò)公眾的知曉和理解來(lái)防止決策的失誤和不公正，看懂和理解則是公眾監(jiān)督的前提。而對(duì)算法的理解離不開(kāi)算法素養(yǎng)。算法素養(yǎng)是公眾所具備的認(rèn)識(shí)、評(píng)價(jià)、運(yùn)用算法的態(tài)度、知識(shí)和能力。研究指出，算法素養(yǎng)包括三個(gè)層次：一是態(tài)度層面，指對(duì)算法的設(shè)計(jì)和運(yùn)行原理有一定的認(rèn)識(shí)，對(duì)算法本身及其結(jié)論的得出持批判態(tài)度；二是能力層面，掌握常見(jiàn)算法的設(shè)計(jì)能力，對(duì)試驗(yàn)數(shù)據(jù)、算法設(shè)計(jì)、結(jié)果輸出有一定的辨別、判斷和解釋能力；三是規(guī)范層面，算法應(yīng)用合理、合法，遵循專業(yè)規(guī)范和社會(huì)規(guī)范。隨著大數(shù)據(jù)和人工智能時(shí)代的到來(lái)，算法素養(yǎng)是未來(lái)公民的基本素質(zhì)，也是公民參與政府算法治理的能力基礎(chǔ)。為了有效提升公眾對(duì)政府算法治理的知情度，公眾可通過(guò)培育算法態(tài)度、學(xué)習(xí)算法知識(shí)、掌握算法技能三個(gè)層面來(lái)提高公眾的算法素養(yǎng)，彌合算法鴻溝。在提升公眾算法態(tài)度層面，公眾應(yīng)當(dāng)培育對(duì)人工智能算法的價(jià)值感知和偏好，消除算法偏見(jiàn)和恐懼，培育對(duì)算法的理性認(rèn)同度。在提升公眾算法理解能力層面，公眾要想理解算法，就必須具備相應(yīng)的知識(shí)體系和認(rèn)知能力。因此，公眾必須學(xué)習(xí)和掌握相應(yīng)的算法基本知識(shí)，對(duì)算法的基礎(chǔ)知識(shí)、數(shù)據(jù)結(jié)構(gòu)、經(jīng)典算法等知識(shí)進(jìn)行學(xué)習(xí)，為能識(shí)別、理解算法提供知識(shí)基礎(chǔ)。在算法應(yīng)用能力方面，具有一定算法專業(yè)技術(shù)的社會(huì)大眾應(yīng)優(yōu)先培育其對(duì)政府算法設(shè)計(jì)、檢測(cè)的能力，進(jìn)而用專業(yè)知識(shí)來(lái)檢驗(yàn)、重測(cè)和輔助優(yōu)化政府算法?？梢哉f(shuō)，提升公眾算法素養(yǎng)是公眾認(rèn)知政府算法、參與政府算法、監(jiān)督政府參與的信息資本、知識(shí)資本，至關(guān)重要。

第二，積極參與政府算法的學(xué)習(xí)和體驗(yàn)，生成算法透明度。從知情的角度定義的政府算法透明度，它離不開(kāi)社會(huì)公眾對(duì)算法制度、數(shù)據(jù)算料、算法規(guī)則、算法結(jié)果等方方面面算法要素的學(xué)習(xí)?？梢哉f(shuō)，只有通過(guò)積極參與政府算法學(xué)習(xí)，才會(huì)增加公眾對(duì)算法的知情程度。為此，一方面，社會(huì)公眾要積極參與體驗(yàn)政府供給的人工智能公共產(chǎn)品和公共服務(wù)，獲取和學(xué)習(xí)蘊(yùn)含其中的相關(guān)算法信息，通過(guò)算法體驗(yàn)來(lái)學(xué)習(xí)、判斷、反饋政府算法的有效性。另一方面，社會(huì)公眾要主動(dòng)獲取政府公開(kāi)的各類算法信息，通過(guò)算法制度、產(chǎn)品、服務(wù)等要素的搜尋、整理、學(xué)習(xí)和利用才能轉(zhuǎn)化為自身對(duì)政府算法治理全過(guò)程的實(shí)質(zhì)性知情。

第三，積極參與政府算法治理的決策、執(zhí)行和監(jiān)督的全過(guò)程環(huán)節(jié)，實(shí)現(xiàn)對(duì)政府算法治理的全過(guò)程知情和反饋優(yōu)化。公眾參與提升政府透明度的機(jī)理在于，公眾參與政府治理的決策、執(zhí)行和監(jiān)督意味著公眾能夠直接參與政府信息的生成，見(jiàn)證政府治理決策、執(zhí)行和監(jiān)督的事實(shí)，提高了政府透明度的親身性。為此，在算法治理當(dāng)中，政府應(yīng)廣泛吸納民眾積極參與到政府算法治理的決策、研發(fā)、應(yīng)用和監(jiān)督全過(guò)程。在政府算法治理決策環(huán)節(jié)，因?yàn)樗惴ㄒ氲秸卫韴?chǎng)域涉及公共利益的重大調(diào)整，政府可以引入算法聽(tīng)證、公眾意見(jiàn)征集等方式吸納公眾參與政府算法治理技術(shù)嵌入決策、算法治理制度設(shè)計(jì)決策，提高政府算法治理決策的開(kāi)放性和公開(kāi)性。在政府算法的研發(fā)階段，政府算料生成和采集、算法設(shè)計(jì)等研發(fā)環(huán)節(jié)可以引入公眾數(shù)據(jù)眾籌、算料公示、多元專家參與算法選擇等參與方式，促進(jìn)算法設(shè)計(jì)、算料采集、算法規(guī)訓(xùn)的每個(gè)步驟符合公共價(jià)值要求，保障公眾的公共權(quán)益。在政府算法治理應(yīng)用階段，政府應(yīng)保證算法產(chǎn)品與服務(wù)使用者的知情權(quán)，在公民使用人工智能產(chǎn)品與服務(wù)的事前、事中、事后全過(guò)程及時(shí)向公眾披露服務(wù)主體、方式與后果信息，提高政府算法治理應(yīng)用透明度。在政府算法治理監(jiān)督方面，政府可以在算法風(fēng)險(xiǎn)評(píng)估、算法績(jī)效評(píng)估等環(huán)節(jié)廣泛引入公眾調(diào)查工具。例如，政府通過(guò)對(duì)一定規(guī)模的公眾進(jìn)行問(wèn)卷調(diào)查或訪談，向公眾收集人工智能產(chǎn)品和服務(wù)的風(fēng)險(xiǎn)感知信息、質(zhì)量評(píng)價(jià)信息，獲取公眾對(duì)算法應(yīng)用的感知度、體驗(yàn)度、滿意度，幫助政府算法的優(yōu)化。總而言之，當(dāng)政府打開(kāi)算法公開(kāi)、算法開(kāi)放和算法參與的渠道之后，社會(huì)公眾應(yīng)當(dāng)積極履行參與責(zé)任，幫助政府的算法應(yīng)用產(chǎn)品和服務(wù)的持續(xù)改進(jìn)。

四、結(jié)語(yǔ)

在人工智能技術(shù)快速蔓延至政府治理場(chǎng)景的背景下，依算法而治理的算法治理模式正成為政府治理創(chuàng)新的前沿。算法黑箱問(wèn)題由來(lái)已久，并且由于其問(wèn)題的根本性和復(fù)雜性，其問(wèn)題表征還將持續(xù)下去。毋庸置疑的是，人工智能算法技術(shù)嵌入公共場(chǎng)域應(yīng)進(jìn)行公共性的重構(gòu)，實(shí)現(xiàn)價(jià)值理性與技術(shù)理性的平衡，而對(duì)政府算法進(jìn)行公共性和透明性的重構(gòu)是其必然選擇。本文從學(xué)理層面論證了從算法黑箱到算法透明轉(zhuǎn)軌的理論邏輯，并嘗試設(shè)計(jì)了一個(gè)透明化政府算法治理的樣態(tài)和實(shí)現(xiàn)路徑。顯然，這對(duì)于解決公共場(chǎng)域的算法黑箱問(wèn)題還是不足的，未來(lái)研究還需要更多理論和經(jīng)驗(yàn)研究對(duì)政府算法問(wèn)題的因果機(jī)制展開(kāi)深入探究，而本文權(quán)做拋磚引玉。