王 賓

內(nèi)容提要:自動(dòng)化行政中的算法可分為轉(zhuǎn)譯型算法和自我學(xué)習(xí)型算法。算法的運(yùn)用面臨合法性危機(jī)：處于私主體地位的算法設(shè)計(jì)師將法律語(yǔ)言轉(zhuǎn)譯成機(jī)器語(yǔ)言時(shí)會(huì)嵌入自身的判斷，帶來(lái)改寫(xiě)法律的風(fēng)險(xiǎn)；算法決策有時(shí)在事實(shí)上超出法律授權(quán)范圍，且缺乏暢通的救濟(jì)機(jī)制。算法的合法性控制方式應(yīng)與算法類(lèi)型適配。針對(duì)轉(zhuǎn)譯型算法，需結(jié)合算法的性質(zhì)以及技術(shù)特點(diǎn)，從轉(zhuǎn)譯主體、所譯法律的明確性、轉(zhuǎn)譯過(guò)程的透明度等方面施以控制。針對(duì)自我學(xué)習(xí)型算法，首先應(yīng)當(dāng)確立“民主—科學(xué)”的合法性框架，其次應(yīng)當(dāng)從建立算法信任的角度，圍繞保障公眾主體地位和算法科學(xué)性對(duì)算法進(jìn)行控制。

一、引 言

隨著人工智能技術(shù)的迅猛發(fā)展，數(shù)字技術(shù)越來(lái)越多地被嵌入公共行政領(lǐng)域，數(shù)字法治政府建設(shè)已上升為一項(xiàng)國(guó)家戰(zhàn)略。中共中央、國(guó)務(wù)院印發(fā)的《法治政府建設(shè)實(shí)施綱要(2021—2025年)》提出健全法治政府建設(shè)科技保障，全面建設(shè)數(shù)字法治政府，堅(jiān)持運(yùn)用互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等技術(shù)手段促進(jìn)依法行政，著力實(shí)現(xiàn)政府治理信息化與法治化深度融合，優(yōu)化革新政府治理流程和方式，大力提升法治政府建設(shè)數(shù)字化水平?！秶?guó)務(wù)院關(guān)于加強(qiáng)數(shù)字政府建設(shè)的指導(dǎo)意見(jiàn)》提出“將數(shù)字技術(shù)廣泛應(yīng)用于政府管理服務(wù)，推進(jìn)政府治理流程優(yōu)化、模式創(chuàng)新和履職能力提升，構(gòu)建數(shù)字化、智能化的政府運(yùn)行新形態(tài)”。數(shù)字法治政府建設(shè)的潮流不可逆轉(zhuǎn)，其中需要關(guān)注的重點(diǎn)問(wèn)題之一是如何保證“數(shù)字”與“法治”共生。由于技術(shù)水平的迭代發(fā)展，政府開(kāi)展行政活動(dòng)所借助的數(shù)字技術(shù)已經(jīng)超出了亞里士多德所想象的“按照人的意志或命令自動(dòng)工作的無(wú)生命工具”(1)〔古希臘〕亞里士多德：《政治學(xué)》，吳壽彭譯，商務(wù)印書(shū)館1983年版，第11-12頁(yè)。的范疇。機(jī)器學(xué)習(xí)通過(guò)算法，讓機(jī)器可以從外界輸入的大量數(shù)據(jù)中學(xué)習(xí)到規(guī)律，從而進(jìn)行識(shí)別判斷。(2)參見(jiàn)郭麗麗、丁世飛：《深度學(xué)習(xí)研究進(jìn)展》，載《計(jì)算機(jī)科學(xué)》2015年第5期。機(jī)器學(xué)習(xí)算法都有一定程度的自主性，它們通常無(wú)法為證明行政決策合理性的這類(lèi)因果陳述提供任何依據(jù)(例如“因?yàn)閄導(dǎo)致Y，所以X是正當(dāng)?shù)摹?。(3)參見(jiàn)〔美〕卡里·科利亞尼斯：《自動(dòng)化國(guó)家的行政法》，蘇苗罕、王夢(mèng)菲譯，載《法治社會(huì)》2022年第1期。當(dāng)行政機(jī)關(guān)使用機(jī)器學(xué)習(xí)系統(tǒng)作出行政決策時(shí)，很難保證該決策體現(xiàn)的是特定人的意志。

有觀點(diǎn)認(rèn)為，行政國(guó)家的自動(dòng)化程度越高，就越有可能減損行政國(guó)家存在的正當(dāng)性，理由有二：一方面，自動(dòng)化系統(tǒng)的復(fù)雜性使得利用其執(zhí)行任務(wù)的行政機(jī)關(guān)工作人員并不了解系統(tǒng)的運(yùn)行原理，更無(wú)法在法庭上給出任何解釋說(shuō)明；另一方面，行政規(guī)則以機(jī)器語(yǔ)言的形式被嵌入自動(dòng)化系統(tǒng)之后，行政機(jī)關(guān)再也無(wú)法像過(guò)去一樣通過(guò)行使裁量權(quán)來(lái)回應(yīng)變動(dòng)不居的實(shí)際情況。(4)See Ryan Calo & Danielle K.Citron, The Automated Administrative State: A Crisis of Legitimacy,70 Emory Law Journal 797，804(2021).在高度自動(dòng)化行政的背景下，行政機(jī)關(guān)同時(shí)放棄了專(zhuān)業(yè)知識(shí)和裁量權(quán)。行政機(jī)關(guān)對(duì)專(zhuān)業(yè)知識(shí)和裁量權(quán)的放棄，意味著其將行政權(quán)力讓渡給了自動(dòng)化系統(tǒng)。而自動(dòng)化決策的正當(dāng)性、合理性、合法性是數(shù)字法治政府建設(shè)中應(yīng)當(dāng)認(rèn)真對(duì)待的重要基礎(chǔ)和法治前提。(5)參見(jiàn)馬長(zhǎng)山：《數(shù)字法治政府的機(jī)制再造》，載《政治與法律》2022年第11期。有學(xué)者對(duì)無(wú)人工介入的自動(dòng)化行政提出合法性疑問(wèn)：由第三方主體設(shè)計(jì)的機(jī)器和程序過(guò)程取代行政機(jī)關(guān)一方的意思表示是否具有權(quán)力主體上的合法性，用以作出行政決定的算法是否如實(shí)復(fù)刻了實(shí)體法中的內(nèi)容。(6)參見(jiàn)展鵬賀：《數(shù)字化行政方式的權(quán)力正當(dāng)性檢視》，載《中國(guó)法學(xué)》2021年第3期。對(duì)此，有觀點(diǎn)認(rèn)為，在自動(dòng)化行政中，算法設(shè)計(jì)師在轉(zhuǎn)譯法律語(yǔ)言時(shí)，可能會(huì)扭曲法律法規(guī)的內(nèi)容，導(dǎo)致法律規(guī)則的異化執(zhí)行或適用，不符合形式合法性的要求，而且，由于自動(dòng)化行政中存在技術(shù)壁壘，公眾的知情權(quán)、異議權(quán)和建議權(quán)難以實(shí)現(xiàn)，行政過(guò)程缺乏民主正當(dāng)性。(7)參見(jiàn)王懷勇、鄧若翰：《算法行政：現(xiàn)實(shí)挑戰(zhàn)與法律應(yīng)對(duì)》，載《行政法學(xué)研究》2022年第4期。

在傳統(tǒng)行政法中，行政機(jī)關(guān)的權(quán)力來(lái)源于立法授權(quán)，立法機(jī)關(guān)被設(shè)定為代表民意的政治機(jī)構(gòu)，負(fù)責(zé)民意的匯集和表達(dá)，制定法律并承擔(dān)政治上的責(zé)任，行政機(jī)關(guān)負(fù)責(zé)法律的執(zhí)行。行政機(jī)關(guān)只要嚴(yán)格依法行政，便可以借助政治權(quán)威(立法機(jī)關(guān))的正當(dāng)性而獲得“合法化”。(8)參見(jiàn)王錫鋅：《行政正當(dāng)性需求的回歸——中國(guó)新行政法概念的提出、邏輯與制度框架》，載《清華法學(xué)》2009年第2期。在自動(dòng)化行政中，自動(dòng)化系統(tǒng)運(yùn)行算法的過(guò)程相當(dāng)于執(zhí)行法律的過(guò)程，面對(duì)自動(dòng)化執(zhí)法合法性不足的問(wèn)題，該如何對(duì)算法施以法律控制？這是本文重點(diǎn)回答的問(wèn)題。首先，文章結(jié)合算法的工作原理對(duì)實(shí)踐中的自動(dòng)化行政樣態(tài)和算法類(lèi)型進(jìn)行分類(lèi)；其次，在類(lèi)型化的基礎(chǔ)上具體分析可能面臨的合法性問(wèn)題；最后，針對(duì)不同類(lèi)型的算法，提出合法性控制手段。

二、自動(dòng)化行政中的算法及其應(yīng)用分類(lèi)

(一)自動(dòng)化行政中的算法工作原理

“自動(dòng)化行政”是一個(gè)描述性用語(yǔ)，指行政程序中特定環(huán)節(jié)或所有環(huán)節(jié)由人工智能代為處理，而無(wú)需人工的個(gè)別介入，從而實(shí)現(xiàn)部分或全部無(wú)人化的行政活動(dòng)。(9)參見(jiàn)馬顏昕：《自動(dòng)化行政的分級(jí)與法律控制變革》，載《行政法學(xué)研究》2019年第1期。學(xué)界也用“算法行政”(10)參見(jiàn)虞青松：《算法行政：社會(huì)信用體系治理范式及其法治化》，載《法學(xué)論壇》2020年第2期?！皵?shù)字化行政”(11)參見(jiàn)前引〔6〕，展鵬賀文?！叭斯ぶ悄芩惴Q策”(12)參見(jiàn)張恩典：《人工智能算法決策對(duì)行政法治的挑戰(zhàn)及制度因應(yīng)》，載《行政法學(xué)研究》2020年第4期。等名稱(chēng)來(lái)描述這一現(xiàn)象。自動(dòng)化行政中的技術(shù)載體是計(jì)算機(jī)，而計(jì)算機(jī)的工作過(guò)程就是執(zhí)行程序，該程序是由程序開(kāi)發(fā)人員使用某種程序設(shè)計(jì)語(yǔ)言編寫(xiě)的，以代碼形式表示的，能夠?yàn)橛?jì)算機(jī)識(shí)別并予以執(zhí)行的指令集合，程序的核心是算法。(13)參見(jiàn)劉東亮：《技術(shù)性正當(dāng)程序：人工智能時(shí)代程序法和算法的雙重變奏》，載《比較法研究》2020年第5期。程序與算法實(shí)際上具有相同含義，計(jì)算機(jī)執(zhí)行程序本質(zhì)上就是執(zhí)行算法。有學(xué)者指出，算法是一套求解邏輯，在計(jì)算科學(xué)領(lǐng)域，其表現(xiàn)為由代碼連結(jié)且結(jié)構(gòu)化的一系列問(wèn)題和求解數(shù)學(xué)模型的集合，單一代碼向計(jì)算機(jī)傳達(dá)的是簡(jiǎn)單的做或不做的指令，若干單一代碼有機(jī)連結(jié)后構(gòu)成解決具體問(wèn)題的復(fù)雜算法。(14)參見(jiàn)邱澤奇：《算法治理的技術(shù)迷思與行動(dòng)選擇》，載《人民論壇·學(xué)術(shù)前沿》2022年第10期。將算法視作求解邏輯是最廣義的定義，可以涵蓋所有決策程序和步驟，而將其限定于計(jì)算科學(xué)的定義，是狹義的算法定義。也有學(xué)者采用中義的算法定義，將算法界定為人類(lèi)和機(jī)器交互的決策，即人類(lèi)通過(guò)代碼設(shè)置、數(shù)據(jù)運(yùn)算與機(jī)器自動(dòng)化判斷進(jìn)行決策的一套機(jī)制。(15)參見(jiàn)丁曉東：《論算法的法律規(guī)制》，載《中國(guó)社會(huì)科學(xué)》2020年第12期。本文采取中義的算法定義。

從技術(shù)層面來(lái)講，有兩種構(gòu)建算法規(guī)則的模式：一是專(zhuān)家系統(tǒng)模式，二是機(jī)器學(xué)習(xí)模式。專(zhuān)家系統(tǒng)是利用人類(lèi)預(yù)先設(shè)定的專(zhuān)家知識(shí)數(shù)據(jù)庫(kù)來(lái)解決相應(yīng)的問(wèn)題。其發(fā)展的近期目標(biāo)是建造能用于代替人類(lèi)高級(jí)腦力勞動(dòng)的專(zhuān)家系統(tǒng)。(16)參見(jiàn)張煜東等：《專(zhuān)家系統(tǒng)發(fā)展綜述》，載《計(jì)算機(jī)工程與應(yīng)用》2010年第19期。以構(gòu)建認(rèn)定故意傷害罪的算法為例，專(zhuān)家系統(tǒng)構(gòu)建路徑首先需要法律專(zhuān)家確認(rèn)構(gòu)建知識(shí)圖譜的犯罪構(gòu)成理論(犯罪三階層、四階層抑或其他理論)，然后在確定的大框架下，根據(jù)故意傷害罪的法律特征，精細(xì)化拆分犯罪構(gòu)成要素，定義基本的法律模式圖。定義好數(shù)據(jù)模式之后，再?gòu)拇罅空鎸?shí)的法律數(shù)據(jù)中抽取相關(guān)知識(shí)點(diǎn)以及知識(shí)點(diǎn)之間的邏輯關(guān)系，將這些實(shí)體信息相應(yīng)掛接在要件要素上，從而形成具有高度邏輯的知識(shí)組織形式。(17)參見(jiàn)葉衍艷：《法律知識(shí)圖譜的概念與建構(gòu)》，載華宇元典法律人工智能研究院編：《讓法律人讀懂人工智能》，法律出版社2019年版，第25頁(yè)。專(zhuān)家系統(tǒng)具有可理解性，即在執(zhí)行過(guò)程中，系統(tǒng)能解釋推理步驟，使之易于理解，其解釋的方式應(yīng)與專(zhuān)家解釋他們推理的方式一樣。(18)參見(jiàn)〔美〕吉奧克等：《專(zhuān)家系統(tǒng)原理與編程》，印鑒等譯，機(jī)械工業(yè)出版社2006年版，第7頁(yè)。

機(jī)器學(xué)習(xí)是通過(guò)接收外界信息(包括觀察樣例、外來(lái)監(jiān)督、交互反饋等)獲得一系列知識(shí)、規(guī)則、方法和技能的過(guò)程。這一過(guò)程對(duì)人類(lèi)和其他生物而言稱(chēng)為“生物學(xué)習(xí)”，對(duì)計(jì)算機(jī)而言稱(chēng)為“機(jī)器學(xué)習(xí)”。(19)參見(jiàn)王東：《機(jī)器學(xué)習(xí)導(dǎo)論》，清華大學(xué)出版社2021年版，第2頁(yè)。簡(jiǎn)單來(lái)說(shuō)，機(jī)器學(xué)習(xí)是在樣本數(shù)據(jù)的基礎(chǔ)上找出一個(gè)公式或者多個(gè)公式的組合模型來(lái)解決特定的問(wèn)題。(20)參見(jiàn)鄒劭坤：《機(jī)器學(xué)習(xí)的“黑盒”是什么？》，載華宇元典法律人工智能研究院編：《讓法律人讀懂人工智能》，法律出版社2019年版，第37頁(yè)。中間尋找模型(確定算法)的過(guò)程是不可知的、難以解釋的。在專(zhuān)家系統(tǒng)模式下，自動(dòng)化系統(tǒng)的算法是由算法設(shè)計(jì)師確定的；而在機(jī)器學(xué)習(xí)模式下，算法是由算法設(shè)計(jì)師和機(jī)器共同確定的，設(shè)計(jì)師為機(jī)器制定“學(xué)習(xí)規(guī)則”，機(jī)器在“學(xué)習(xí)規(guī)則”的指示下，通過(guò)對(duì)海量數(shù)據(jù)的學(xué)習(xí)確定算法。

(二)自動(dòng)化行政中的算法應(yīng)用分類(lèi)

既有研究對(duì)自動(dòng)化行政進(jìn)行了不同的類(lèi)型化處理。有學(xué)者將特定行政活動(dòng)區(qū)分為識(shí)別與輸入、分析與決定、輸出與實(shí)現(xiàn)三個(gè)環(huán)節(jié)，根據(jù)自動(dòng)化系統(tǒng)發(fā)揮作用的環(huán)節(jié)不同，將自動(dòng)化行政分為0～4級(jí)，分別為無(wú)自動(dòng)化行政、自動(dòng)化輔助行政、部分自動(dòng)化行政、無(wú)裁量能力的完全自動(dòng)化行政、有裁量能力的完全自動(dòng)化行政。(21)參見(jiàn)前引〔9〕，馬顏昕文。自動(dòng)化輔助行政和部分自動(dòng)化行政中，分析與決定的權(quán)力仍掌握在人類(lèi)手中；而在完全自動(dòng)化行政中，行政活動(dòng)不再需要人類(lèi)介入。也有學(xué)者從是否排除人工介入的角度，將自動(dòng)化行政分為需要人工介入的半自動(dòng)行政行為和不需要人工介入的全自動(dòng)行政行為。(22)參見(jiàn)查云飛：《人工智能時(shí)代全自動(dòng)具體行政行為研究》，載《比較法研究》2018年第5期。

還有學(xué)者將行政過(guò)程中是否有人工干預(yù)和自動(dòng)化對(duì)最終決定的實(shí)際影響結(jié)合起來(lái)，將自動(dòng)化行政分為三類(lèi)：(1)數(shù)字化程序?qū)嵤?，但?shí)體決定仍為人工作出；(2)“程序?qū)嵤?實(shí)體決定”的完全數(shù)字化，但實(shí)體決定非以人工智能的方式作出；(3)“程序?qū)嵤?實(shí)體決定”的完全數(shù)字化，且實(shí)體決定由人工智能作出。(23)參見(jiàn)前引〔6〕，展鵬賀文?！胺且匀斯ぶ悄艿姆绞阶鞒觥笔侵缸詣?dòng)化系統(tǒng)中的算法是專(zhuān)家系統(tǒng)模式下預(yù)先設(shè)定好的規(guī)則，系統(tǒng)并不進(jìn)行自主學(xué)習(xí)。在此語(yǔ)境下，人工智能僅包括能夠進(jìn)行機(jī)器學(xué)習(xí)的自動(dòng)化系統(tǒng)。

這種兼顧行政活動(dòng)的實(shí)現(xiàn)方式和技術(shù)影響力的分類(lèi)方式，于本文研究而言，更具有相關(guān)意義，但其在表述上不當(dāng)限縮了“人工智能”概念的范圍，因此應(yīng)該稍作修正。按照其分類(lèi)依據(jù)，自動(dòng)化行政可以分為：(1)自動(dòng)化程序?qū)嵤?，但?shí)體決定仍為人工作出；(2)“程序?qū)嵤?實(shí)體決定”的完全自動(dòng)化，但實(shí)體決定是人為設(shè)定算法的表達(dá)；(3)“程序?qū)嵤?實(shí)體決定”的完全自動(dòng)化，但實(shí)體決定是機(jī)器學(xué)習(xí)后算法的表達(dá)。以下將該三類(lèi)自動(dòng)化行政分別簡(jiǎn)稱(chēng)為自動(dòng)化行政Ⅰ、自動(dòng)化行政Ⅱ、自動(dòng)化行政Ⅲ。

在自動(dòng)化行政Ⅰ中，自動(dòng)化系統(tǒng)輸出的結(jié)果對(duì)實(shí)體決定發(fā)揮作用的方式有兩種：一是為實(shí)體決定的作出提供參考，例如南京市環(huán)保行政處罰自由裁量輔助決策系統(tǒng)。(24)參見(jiàn)《規(guī)范執(zhí)法流程 提升執(zhí)法精準(zhǔn)性 南京輔助決策系統(tǒng)實(shí)現(xiàn)全覆蓋》，載https://www.mee.gov.cn/home/ztbd/qt/szhb/201507/t20150713_306216.shtml，最后訪問(wèn)時(shí)間：2022年11月3日。二是作為實(shí)體決定作出的依據(jù)。例如，根據(jù)《道路交通安全法》第114條的規(guī)定，公安機(jī)關(guān)交通管理部門(mén)根據(jù)交通技術(shù)監(jiān)控記錄資料，可以對(duì)有關(guān)人員依法予以處罰。依據(jù)授權(quán)法律的規(guī)定，電子警察系統(tǒng)的作用是收集、固定違法事實(shí)，為最終處罰決定的作出提供證據(jù)。有觀點(diǎn)認(rèn)為，在我國(guó)智慧交通體系的建設(shè)中，算法可以直接對(duì)監(jiān)控查獲的交通違法行為處以罰款，這意味著在此領(lǐng)域，算法已經(jīng)可以直接作為決策者作出具體行政行為。(25)參見(jiàn)張凌寒：《算法權(quán)力的興起、異化及法律規(guī)制》，載《法商研究》2019年第4期。本文在第三部分將對(duì)這一觀點(diǎn)展開(kāi)論證。

自動(dòng)化行政Ⅱ的典型范例是深圳市用于高校應(yīng)屆畢業(yè)生引進(jìn)和落戶的“無(wú)人干預(yù)自動(dòng)審批”系統(tǒng)。審批系統(tǒng)按照既定的規(guī)則自動(dòng)進(jìn)行數(shù)據(jù)比對(duì)，全程自動(dòng)辦理，無(wú)人工干預(yù)。(26)參見(jiàn)《推動(dòng)無(wú)人干預(yù)自動(dòng)審批(秒批)改革(深圳做法)》，載https://www.gd.gov.cn/gdywdt/zwzt/szhzy/jytg/content/post_2906394.html，最后訪問(wèn)時(shí)間：2022年11月3日。除此之外，疫情防控中所廣泛應(yīng)用的健康碼也屬于此類(lèi)自動(dòng)化行政的范圍，健康碼經(jīng)由機(jī)器自動(dòng)化決策生成，行政機(jī)關(guān)先將評(píng)判標(biāo)準(zhǔn)程式化，然后相對(duì)人在線提交信息并申請(qǐng)，最終由系統(tǒng)自動(dòng)分配不同顏色標(biāo)識(shí)的二維碼。(27)參見(jiàn)查云飛：《健康碼：個(gè)人疫情風(fēng)險(xiǎn)的自動(dòng)化評(píng)級(jí)與利用》，載《浙江學(xué)刊》2020年第3期。

自動(dòng)化行政Ⅲ的實(shí)踐樣本尚未在我國(guó)出現(xiàn)。該自動(dòng)化行政方式意味著系統(tǒng)將在不預(yù)設(shè)“裁量規(guī)則”的前提下代替人類(lèi)作出裁量性具體行政行為。德國(guó)《行政程序法》第35a條將具有不確定法律概念和裁量的行政行為排除于全自動(dòng)程序的適用范圍之外，即只允許羈束具體行政行為適用全自動(dòng)化程序。(28)參見(jiàn)前引〔22〕，查云飛文。德國(guó)立法例屬于自動(dòng)化行政Ⅱ的范圍，即人工為系統(tǒng)設(shè)定算法，系統(tǒng)執(zhí)行。美國(guó)勞工統(tǒng)計(jì)局使用監(jiān)督學(xué)習(xí)系統(tǒng)代替工作人員對(duì)收集到的大量關(guān)于就業(yè)、人力成本等專(zhuān)題信息進(jìn)行編碼。(29)將自然語(yǔ)言轉(zhuǎn)換為統(tǒng)計(jì)數(shù)據(jù)是編碼的過(guò)程，例如為了回答“門(mén)衛(wèi)人員在工作中最常見(jiàn)的傷害原因是什么”這一問(wèn)題，工作人員需要閱讀每一份描述，以編碼的方式將對(duì)方的職業(yè)與造成傷害的因素關(guān)聯(lián)起來(lái)?，F(xiàn)在機(jī)器學(xué)習(xí)系統(tǒng)代替勞工局工作人員完成這項(xiàng)任務(wù)。參見(jiàn)《采訪Alex Measure：機(jī)器學(xué)習(xí)應(yīng)用于政府業(yè)務(wù)場(chǎng)景》，載https://m.elecfans.com/article/1281070.html，最后訪問(wèn)時(shí)間：2022年11月4日。盡管在該應(yīng)用場(chǎng)景中，自動(dòng)化系統(tǒng)并未直接對(duì)公民作出決定，但其的確已經(jīng)獨(dú)立完成本應(yīng)由人類(lèi)完成的編碼工作，該工作將會(huì)影響勞工統(tǒng)計(jì)局相關(guān)的政策制定。

三、算法支配的自動(dòng)化行政的合法性危機(jī)

傳統(tǒng)行政法通過(guò)依法行政原則建立起用于擔(dān)保行政機(jī)關(guān)合法行使行政權(quán)的框架性法律制度，依法行政原理的邏輯基點(diǎn)是由人民代表大會(huì)及其常務(wù)委員會(huì)制定的法律為行政機(jī)關(guān)提供行政權(quán)的依據(jù)，行政機(jī)關(guān)必須在法律規(guī)定的范圍內(nèi)行使行政權(quán)。(30)參見(jiàn)章劍生：《現(xiàn)代行政法總論》(第2版)，法律出版社2019年版，第36頁(yè)。在行政法的傳統(tǒng)模式之下，行政機(jī)關(guān)被設(shè)想為一個(gè)純粹的傳送帶，職責(zé)是在特定案件中執(zhí)行立法指令；行政機(jī)關(guān)的行為受制于司法審查以符合立法指令。(31)參見(jiàn)〔美〕理查德·B.斯圖爾特：《美國(guó)行政法的重構(gòu)》，沈巋譯，商務(wù)印書(shū)館2011年版，第11-12頁(yè)。當(dāng)行政機(jī)關(guān)以自動(dòng)化的方式執(zhí)行法律時(shí)，其同樣需符合依法行政原則的要求，接受合法性檢驗(yàn)。本部分將從自動(dòng)化系統(tǒng)中算法自身的合法性和算法決策的合法性?xún)煞矫?，展開(kāi)合法性問(wèn)題的討論。

(一)算法自身的合法性

自動(dòng)化行政中算法的生成方式大致可以分為人為設(shè)定和機(jī)器自我學(xué)習(xí)生成兩種。前者主要依靠算法設(shè)計(jì)師將法律語(yǔ)言轉(zhuǎn)譯成機(jī)器語(yǔ)言，可以稱(chēng)為“轉(zhuǎn)譯型算法”；后者是以算法設(shè)計(jì)師設(shè)計(jì)的學(xué)習(xí)規(guī)則為基礎(chǔ)，通過(guò)對(duì)海量數(shù)據(jù)的學(xué)習(xí)生成的新算法，可以稱(chēng)為“自我學(xué)習(xí)型算法”。自動(dòng)化行政Ⅱ中涉及的算法是轉(zhuǎn)譯型算法，自動(dòng)化行政Ⅲ中涉及的算法是自我學(xué)習(xí)型算法；而自動(dòng)化行政Ⅰ中的算法類(lèi)型取決于系統(tǒng)的技術(shù)應(yīng)用。

轉(zhuǎn)譯型算法的設(shè)計(jì)者通常是行政機(jī)關(guān)和私營(yíng)部門(mén)中的算法設(shè)計(jì)師，轉(zhuǎn)譯型算法制定的過(guò)程實(shí)質(zhì)是把行政規(guī)范、行政過(guò)程以及自由裁量轉(zhuǎn)化成計(jì)算邏輯和代碼的自動(dòng)執(zhí)行，這一過(guò)程無(wú)疑會(huì)嵌入主觀判斷、利益選擇和價(jià)值觀設(shè)定。(32)參見(jiàn)前引〔5〕，馬長(zhǎng)山文。例如，在設(shè)計(jì)識(shí)別車(chē)牌遮擋行為的交通監(jiān)控系統(tǒng)的過(guò)程中，當(dāng)存在多種識(shí)別車(chē)牌遮擋行為的技術(shù)時(shí)，如基于車(chē)牌結(jié)構(gòu)特征的檢測(cè)技術(shù)、基于顏色特征的檢測(cè)技術(shù)、基于機(jī)器學(xué)習(xí)的檢測(cè)技術(shù)(33)參見(jiàn)聶文真：《出租汽車(chē)車(chē)牌遮擋行為判定與圖像取證技術(shù)研究》，北京工業(yè)大學(xué)2019年碩士學(xué)位論文，第26-27頁(yè)。等，算法設(shè)計(jì)師應(yīng)該選擇何種檢測(cè)技術(shù)實(shí)現(xiàn)監(jiān)控系統(tǒng)的運(yùn)行目標(biāo)？不同檢測(cè)技術(shù)的準(zhǔn)確率和實(shí)現(xiàn)成本不同，受私益驅(qū)動(dòng)的算法設(shè)計(jì)者可能會(huì)和代表公共利益的行政機(jī)關(guān)作出不同的選擇。此時(shí)，引發(fā)的第一個(gè)合法性問(wèn)題是，不具有行政主體資格的算法設(shè)計(jì)師轉(zhuǎn)譯法律規(guī)范、主導(dǎo)自動(dòng)化行政過(guò)程的合法性基礎(chǔ)為何。這一問(wèn)題對(duì)自我學(xué)習(xí)型算法而言更加尖銳。盡管轉(zhuǎn)譯型算法的設(shè)計(jì)者包括除行政機(jī)關(guān)以外的第三方主體，但仍是特定個(gè)人決定了算法的表達(dá)，算法仍處于人類(lèi)的控制之下。自我學(xué)習(xí)型算法，以“學(xué)習(xí)規(guī)則”為基礎(chǔ)，利用海量和非結(jié)構(gòu)化的數(shù)據(jù)來(lái)確定解決既定問(wèn)題的最優(yōu)算法。除此之外，系統(tǒng)還可以根據(jù)外界環(huán)境的反饋持續(xù)更新算法，結(jié)果輸出具有不確定性。自我學(xué)習(xí)型算法的表達(dá)已經(jīng)超出了行政機(jī)關(guān)和設(shè)計(jì)者的嚴(yán)密控制，法律的實(shí)施具有更大的不確定性和不可解釋性。

算法生成過(guò)程存在改寫(xiě)法律的風(fēng)險(xiǎn)。傳統(tǒng)法律在制定時(shí)存在必要的模糊性，也未考慮到自動(dòng)化的要求，而自動(dòng)化系統(tǒng)中運(yùn)行的算法需要極高的精確度和嚴(yán)格度，這導(dǎo)致人類(lèi)語(yǔ)言與機(jī)器語(yǔ)言的轉(zhuǎn)譯過(guò)程充滿了不確定性。(34)參見(jiàn)〔美〕麗莎·A.謝伊、伍德羅·哈特佐格等：《機(jī)器人歡迎電子法嗎？一個(gè)法律內(nèi)部的算法實(shí)驗(yàn)》，載〔美〕瑞恩·卡洛、邁克爾·弗魯姆金、〔加〕伊恩·克爾主編：《人工智能與法律的對(duì)話》，陳吉棟、董惠敏、杭穎穎譯，上海人民出版社2018年版，第278頁(yè)。麗莎·A.謝伊和伍德羅·哈特佐格等學(xué)者在《機(jī)器人歡迎電子法嗎？一個(gè)法律內(nèi)部的算法實(shí)驗(yàn)》(35)參見(jiàn)前引〔34〕，麗莎·A.謝伊、伍德羅·哈特佐格等文。一文中構(gòu)建并實(shí)施了一個(gè)由52位電腦程序員參與的、將特定交通法規(guī)以代碼方式實(shí)現(xiàn)的實(shí)驗(yàn)。程序員被分為三組，第一組被要求實(shí)現(xiàn)“法律條文”，第二組被要求實(shí)現(xiàn)“法律意圖”，第三組得到了一份附加的、精心編寫(xiě)的說(shuō)明書(shū)，以此作為其軟件實(shí)現(xiàn)的基礎(chǔ)。無(wú)論是參考不同文本的不同組的程序員，還是參考同樣文本的同組程序員，其最終設(shè)計(jì)出的程序都存在較多差異。該實(shí)驗(yàn)的結(jié)論之一是程序員自身的假設(shè)和偏差會(huì)體現(xiàn)在代碼之中，雖然該問(wèn)題可以通過(guò)構(gòu)建良好的軟件設(shè)計(jì)說(shuō)明書(shū)來(lái)化解，但是對(duì)所有可能出現(xiàn)的問(wèn)題進(jìn)行預(yù)測(cè)的完美說(shuō)明書(shū)極難設(shè)計(jì)。實(shí)踐中，美國(guó)科羅拉多州福利管理系統(tǒng)(The Colorado Benefits Management System，CBMS)是確定申請(qǐng)人是否能夠獲得公共援助資格的自動(dòng)化系統(tǒng)，該系統(tǒng)自2004年9月應(yīng)用以來(lái)，作出了成千上萬(wàn)錯(cuò)誤的福利認(rèn)定，許多錯(cuò)誤都可以歸因于算法設(shè)計(jì)者在將法律轉(zhuǎn)譯為代碼的過(guò)程中出現(xiàn)偏差，扭曲了聯(lián)邦和州政策。(36)See Danielle Keats Citron,Technology Due Process,85(6) Washington University Law Review 1249(2007).轉(zhuǎn)譯型算法或可通過(guò)對(duì)轉(zhuǎn)譯主體、轉(zhuǎn)譯程序等施加嚴(yán)格法律要求的方式來(lái)保障其準(zhǔn)確性，補(bǔ)強(qiáng)合法性。但自我學(xué)習(xí)型算法的計(jì)算邏輯大多是從訓(xùn)練數(shù)據(jù)中得來(lái)的，很少反映在源代碼中，(37)See Kartik Hosanagar & Vivian Jair, We Need Transparency in Algorithms, but Too Much Can Backfire, Harvard Business Review(July 23, 2018), available at https://hbr.org/2018/07/we-need-transparency-in-algorithms-but-too-much-can-backfire,last visited on Dec.26,2022.因此，難以通過(guò)控制源代碼的方式證成其適用的合法性。

(二)算法決策的合法性

1.算法決策超出法律的授權(quán)范圍

自動(dòng)化行政Ⅰ中的系統(tǒng)可分為兩類(lèi)，一是為人工決定提供參考意見(jiàn)的自動(dòng)化輔助系統(tǒng)，二是為人工決定提供證據(jù)的自動(dòng)化系統(tǒng)，后者對(duì)實(shí)體決定的影響甚于前者。在自動(dòng)化輔助系統(tǒng)應(yīng)用的場(chǎng)景中，作出實(shí)體決定的權(quán)力掌握在執(zhí)法人員手中，即使執(zhí)法人員事實(shí)上高度依賴(lài)系統(tǒng)提供的建議，也不能將決策過(guò)程稱(chēng)為“算法決策”，因?yàn)橐蕾?lài)系統(tǒng)是人的主動(dòng)選擇。在第二類(lèi)自動(dòng)化系統(tǒng)的應(yīng)用場(chǎng)景中，盡管從形式上來(lái)看是由執(zhí)法人員根據(jù)系統(tǒng)提供的證據(jù)作出決定，但實(shí)質(zhì)上系統(tǒng)在固定證據(jù)的同時(shí)就完成了對(duì)違法行為的認(rèn)定，剝奪了屬于人的裁量空間，也超出了法律的授權(quán)范圍。

以電子警察系統(tǒng)為例，依據(jù)授權(quán)法律的規(guī)定，系統(tǒng)要實(shí)現(xiàn)的目標(biāo)是收集、固定違法事實(shí)，為最終處罰決定的作出提供證據(jù)。結(jié)合《道路交通安全違法行為處理程序規(guī)定》(以下簡(jiǎn)稱(chēng)《程序規(guī)定》)的要求，自動(dòng)化行政處罰流程可歸納為以下五步：第一，交通技術(shù)監(jiān)控設(shè)備收集違法事實(shí)；第二，經(jīng)人工審核無(wú)誤后錄入系統(tǒng)作為證據(jù)；第三，通知相對(duì)人違法信息；第四，告知相對(duì)人處罰事實(shí)、理由、依據(jù)及權(quán)利；第五，實(shí)施處罰并送達(dá)決定書(shū)。(38)參見(jiàn)謝明睿、余凌云：《技術(shù)賦能交警非現(xiàn)場(chǎng)執(zhí)法對(duì)行政程序的挑戰(zhàn)及完善》，載《法學(xué)雜志》2021年第3期。前兩個(gè)步驟屬于案件事實(shí)的認(rèn)定過(guò)程，由系統(tǒng)和人類(lèi)共同完成，系統(tǒng)用來(lái)收集、固定違法行為證據(jù)。需要注意的是，系統(tǒng)對(duì)行為的記錄并上傳過(guò)程意味著其已經(jīng)完成了對(duì)違法行為的第一次認(rèn)定，人工審核是一個(gè)復(fù)核的過(guò)程。在認(rèn)定案件事實(shí)的過(guò)程中，系統(tǒng)認(rèn)定的案件事實(shí)需要經(jīng)人工審核無(wú)誤后方可成為行政處罰決定的證據(jù)。結(jié)合《程序規(guī)定》第18條和第19條(39)《道路交通安全違法行為處理程序規(guī)定》第18條規(guī)定：“作為處理依據(jù)的交通技術(shù)監(jiān)控設(shè)備收集的違法行為記錄資料，應(yīng)當(dāng)清晰、準(zhǔn)確地反映機(jī)動(dòng)車(chē)類(lèi)型、號(hào)牌、外觀等特征以及違法時(shí)間、地點(diǎn)、事實(shí)。”第19條規(guī)定：“交通技術(shù)監(jiān)控設(shè)備收集違法行為記錄資料后五日內(nèi)，違法行為發(fā)生地公安機(jī)關(guān)交通管理部門(mén)應(yīng)當(dāng)對(duì)記錄內(nèi)容進(jìn)行審核，經(jīng)審核無(wú)誤后錄入道路交通違法信息管理系統(tǒng)，作為處罰違法行為的證據(jù)?！钡囊?guī)定，人工審核的內(nèi)容應(yīng)當(dāng)是違法行為記錄資料是否清晰、準(zhǔn)確地反映機(jī)動(dòng)車(chē)類(lèi)型、號(hào)牌、外觀等特征以及違法時(shí)間、地點(diǎn)、事實(shí)；對(duì)于系統(tǒng)認(rèn)定違法行為的標(biāo)準(zhǔn)(即預(yù)先設(shè)定的算法)是全盤(pán)接受的。因此，在案件事實(shí)認(rèn)定階段，系統(tǒng)與執(zhí)法人員共同認(rèn)定違法行為，前者通過(guò)算法實(shí)質(zhì)決定了違法行為的認(rèn)定標(biāo)準(zhǔn)，后者僅能從證據(jù)形式是否完備的角度否定不符合形式標(biāo)準(zhǔn)的違法行為。從執(zhí)法實(shí)踐來(lái)看，交警在大多數(shù)情況下僅依靠交通技術(shù)監(jiān)控設(shè)備或執(zhí)法設(shè)備所記錄的圖片或視頻就實(shí)施處罰。(40)參見(jiàn)前引〔38〕，謝明睿、余凌云文。雖然形式上執(zhí)法人員對(duì)處罰決定的作出保有審核的權(quán)力，但事實(shí)上系統(tǒng)已經(jīng)成為真正的處罰決定實(shí)施者。由此觀之，電子警察系統(tǒng)在應(yīng)用過(guò)程中，已經(jīng)超出了法律的授權(quán)。

2.算法決策的救濟(jì)渠道不暢

自動(dòng)化行政Ⅱ和Ⅲ是無(wú)人工干預(yù)下的算法決策，而完全自動(dòng)化系統(tǒng)在設(shè)計(jì)時(shí)可能缺乏糾錯(cuò)機(jī)制。以北京健康寶“彈窗3”為例，“彈窗3”產(chǎn)生的原理是系統(tǒng)認(rèn)定特定個(gè)人與京內(nèi)外風(fēng)險(xiǎn)地區(qū)、點(diǎn)位、人員等有時(shí)空關(guān)聯(lián)，需要進(jìn)行風(fēng)險(xiǎn)排查。但是健康寶的決策系統(tǒng)并未給個(gè)人提供直接的救濟(jì)途徑，使個(gè)人能夠通過(guò)提供不存在時(shí)空關(guān)聯(lián)證據(jù)的形式自行解除彈窗。被彈窗的公民只能通過(guò)人工申訴的方式解除彈窗，(41)參見(jiàn)《收到北京健康寶彈窗3怎么辦？怎樣處理高效便捷，方法來(lái)了！》，載http://beijing.qianlong.com/2022/0919/7635814.shtml，最后訪問(wèn)時(shí)間：2022年11月22日。而人工申訴解決往往耗時(shí)良久，彈窗狀態(tài)又嚴(yán)重影響公民的正常生活，被彈窗公民的救濟(jì)渠道并不順暢。

除此之外，公民事實(shí)上難以挑戰(zhàn)算法決策的準(zhǔn)確性。原因有二：一是公民的專(zhuān)業(yè)知識(shí)很難與算法所代表的行政機(jī)關(guān)的專(zhuān)業(yè)認(rèn)定相對(duì)抗；二是公民得知被“錯(cuò)誤”決策的時(shí)間通常晚于決策作出的時(shí)間，其難以收集并保留行為發(fā)生時(shí)的證據(jù)以自證清白。例如，在何凱與上海市公安局黃浦分局交通警察支隊(duì)行政二審案件(42)參見(jiàn)上海市高級(jí)人民法院(2019)滬行終204號(hào)行政判決書(shū)。中，何凱鳴喇叭的行為被電子警察記錄，交警對(duì)其作出行政處罰。何凱具有一定的聲學(xué)專(zhuān)業(yè)背景，在二審時(shí)其結(jié)合專(zhuān)業(yè)認(rèn)知陳述了異議，即根據(jù)照片上有關(guān)聲波的圖案無(wú)法對(duì)應(yīng)其車(chē)輛喇叭發(fā)聲的波段。這一異議并未推翻電子警察的認(rèn)定結(jié)果。同樣，在高彬與新民市公安局交通行政處罰糾紛案(43)參見(jiàn)遼寧省沈陽(yáng)市中級(jí)人民法院(2016)遼01行終386號(hào)行政判決書(shū)。中，高彬被電子監(jiān)控設(shè)備認(rèn)定為超速，并被交警予以頂格處罰。高彬依據(jù)監(jiān)控設(shè)備拍攝的照片上顯示的時(shí)間及其目測(cè)的位移，自行計(jì)算速度，認(rèn)為其并未超速，并且提供了相關(guān)的學(xué)術(shù)論文證明雷達(dá)測(cè)速對(duì)其車(chē)速的測(cè)量是誤判。同樣這一主張也未得到法院的認(rèn)可。

自動(dòng)化行政方式對(duì)傳統(tǒng)行政法中的法律約束框架提出挑戰(zhàn)：第三方設(shè)計(jì)主體的參與、轉(zhuǎn)譯型算法與自我學(xué)習(xí)型算法改寫(xiě)法律的風(fēng)險(xiǎn)、算法決策超越法律的授權(quán)等沖擊著立法對(duì)行政的約束能力；算法決策的救濟(jì)途徑不暢、算法的難以審查性也使得司法對(duì)行政的約束作用減弱。對(duì)此，一方面，應(yīng)當(dāng)反思傳統(tǒng)法律控制框架對(duì)自動(dòng)化行政發(fā)揮作用的場(chǎng)域；另一方面，在傳統(tǒng)框架規(guī)制不足的場(chǎng)域，應(yīng)當(dāng)探索新的合法性約束機(jī)制。接下來(lái)，文章將分別從轉(zhuǎn)譯型算法和自我學(xué)習(xí)型算法的控制角度對(duì)前述問(wèn)題作出回應(yīng)。

四、轉(zhuǎn)譯型算法的控制

轉(zhuǎn)譯型算法面臨的合法性問(wèn)題是轉(zhuǎn)譯者的主體適當(dāng)性、轉(zhuǎn)譯算法是否能夠準(zhǔn)確實(shí)現(xiàn)法律的要求。在自動(dòng)化行政中，“代碼即法律”(44)〔美〕勞倫斯·萊斯格：《代碼2.0：網(wǎng)絡(luò)空間中的法律》(修訂版)，李旭、沈偉偉譯，清華大學(xué)出版社2018年版，第1頁(yè)。，轉(zhuǎn)譯型算法的制定過(guò)程(轉(zhuǎn)譯過(guò)程)可類(lèi)比傳統(tǒng)行政法中的規(guī)則制定過(guò)程。轉(zhuǎn)譯型算法的裁量存在于轉(zhuǎn)譯過(guò)程，算法適用過(guò)程無(wú)裁量空間。對(duì)轉(zhuǎn)譯型算法系統(tǒng)而言，控制算法制定過(guò)程就能夠控制算法適用過(guò)程。針對(duì)轉(zhuǎn)譯過(guò)程的控制：首先，需要分析轉(zhuǎn)譯過(guò)程的法律性質(zhì)為何，應(yīng)該符合何種主體、程序的要求；其次，應(yīng)當(dāng)結(jié)合法律語(yǔ)言轉(zhuǎn)譯成算法的不確定性特點(diǎn)，探究通過(guò)何種方式縮減第三方中算法設(shè)計(jì)師的判斷空間。

(一)轉(zhuǎn)譯過(guò)程的法律性質(zhì)

轉(zhuǎn)譯型算法作為機(jī)器語(yǔ)言，其法律性質(zhì)與所需要執(zhí)行的規(guī)范條文的性質(zhì)有關(guān)，若其對(duì)應(yīng)的規(guī)范條文屬于裁量基準(zhǔn)，則算法就相當(dāng)于裁量基準(zhǔn)。例如，自動(dòng)化處罰系統(tǒng)中的轉(zhuǎn)譯過(guò)程相當(dāng)于將裁量基準(zhǔn)算法化。算法將裁量過(guò)程分解為可供機(jī)器運(yùn)行的計(jì)算步驟，而代碼則以機(jī)器語(yǔ)言的形式對(duì)計(jì)算步驟進(jìn)行具體化表達(dá)。在自動(dòng)化處罰裁量語(yǔ)境下，算法相當(dāng)于裁量基準(zhǔn)。不同于傳統(tǒng)裁量基準(zhǔn)，算法化裁量基準(zhǔn)將法律適用過(guò)程中的事實(shí)要素直接納入，實(shí)現(xiàn)事實(shí)與法律規(guī)范的具體對(duì)應(yīng)。(45)參見(jiàn)王正鑫：《機(jī)器何以裁量：行政處罰裁量自動(dòng)化及其風(fēng)險(xiǎn)控制》，載《行政法學(xué)研究》2022年第2期。

轉(zhuǎn)譯過(guò)程因存在必須由行政機(jī)關(guān)和算法設(shè)計(jì)師填補(bǔ)的判斷空間而具有立法的色彩，可以將其類(lèi)比為行政機(jī)關(guān)具有較大裁量空間的規(guī)則制定過(guò)程。例如，在設(shè)計(jì)CBMS系統(tǒng)時(shí)，由于算法設(shè)計(jì)師對(duì)規(guī)則進(jìn)行編碼時(shí)改變了上百條既定規(guī)則，系統(tǒng)相當(dāng)于在闡明新規(guī)則。(46)參見(jiàn)前引〔36〕，Danielle Keats Citron文，第1279頁(yè)。規(guī)則制定過(guò)程是在闡釋語(yǔ)義模糊的立法，在立法規(guī)定無(wú)法為規(guī)則制定提供清晰指引時(shí)，該過(guò)程會(huì)借助公眾和專(zhuān)家的參與來(lái)增強(qiáng)規(guī)則制定的合法性和科學(xué)性。轉(zhuǎn)譯過(guò)程需要減小法律語(yǔ)言與機(jī)器語(yǔ)言之間的模糊空間。在將法律語(yǔ)言細(xì)化至更容易為算法設(shè)計(jì)師操作的技術(shù)標(biāo)準(zhǔn)和設(shè)計(jì)說(shuō)明書(shū)過(guò)程中，可以借助公眾和專(zhuān)家的知識(shí)作出價(jià)值判斷和技術(shù)選擇。在具體轉(zhuǎn)譯算法之時(shí)，法律語(yǔ)言到機(jī)器語(yǔ)言之間的判斷空間，只能由行政機(jī)關(guān)和算法設(shè)計(jì)師來(lái)填補(bǔ)，此時(shí)算法可能偏離其所表達(dá)的法律的意圖，偏離程度與判斷空間的大小有關(guān)。下文主要針對(duì)法律語(yǔ)言到機(jī)器語(yǔ)言的轉(zhuǎn)譯過(guò)程，從轉(zhuǎn)譯過(guò)程的主體要求、所譯法律的明確性要求和轉(zhuǎn)譯過(guò)程的透明度要求三方面提出轉(zhuǎn)譯型算法的控制方式。

(二)轉(zhuǎn)譯過(guò)程的主體要求

首先，行政機(jī)關(guān)采取自動(dòng)化行政方式應(yīng)獲得立法的授權(quán)，即存在授權(quán)規(guī)范，具體規(guī)定何種行政機(jī)關(guān)在何種行政領(lǐng)域能夠以自動(dòng)化方式開(kāi)展行政管理活動(dòng)。當(dāng)然授權(quán)規(guī)范的層級(jí)、授權(quán)的范圍和事項(xiàng)，因自動(dòng)化系統(tǒng)適用的領(lǐng)域、對(duì)公民合法權(quán)益的影響程度大小而有所不同。例如，電子警察系統(tǒng)的應(yīng)用就需具備法律、行政法規(guī)的明確授權(quán)。新修訂的《行政處罰法》第41條規(guī)定，利用電子技術(shù)監(jiān)控設(shè)備收集、固定違法事實(shí)的行為，必須有法律、行政法規(guī)的授權(quán)，且需經(jīng)過(guò)法制審核。(47)《行政處罰法》第41條規(guī)定：“行政機(jī)關(guān)依照法律、行政法規(guī)規(guī)定利用電子技術(shù)監(jiān)控設(shè)備收集、固定違法事實(shí)的，應(yīng)當(dāng)經(jīng)過(guò)法制和技術(shù)審核，確保電子技術(shù)監(jiān)控設(shè)備符合標(biāo)準(zhǔn)、設(shè)置合理、標(biāo)志明顯，設(shè)置地點(diǎn)應(yīng)當(dāng)向社會(huì)公布?！薄兜缆方煌ò踩ā返?14條授予行政機(jī)關(guān)根據(jù)交通技術(shù)監(jiān)控記錄資料進(jìn)行處罰的權(quán)力。(48)《道路交通安全法》第114條規(guī)定：“公安機(jī)關(guān)交通管理部門(mén)根據(jù)交通技術(shù)監(jiān)控記錄資料，可以對(duì)違法的機(jī)動(dòng)車(chē)所有人或者管理人依法予以處罰。對(duì)能夠確定駕駛?cè)说?，可以依照本法的?guī)定依法予以處罰?！币陨峡梢钥醋魇切姓C(jī)關(guān)使用電子警察系統(tǒng)的授權(quán)規(guī)范。需要注意的是，前述條款授權(quán)的范圍限于“利用電子技術(shù)監(jiān)控設(shè)備收集、固定違法事實(shí)”，不能擴(kuò)大到利用電子警察系統(tǒng)直接作出行政處罰決定，進(jìn)行處罰的權(quán)力仍然屬于行政機(jī)關(guān)。從當(dāng)前的立法情況來(lái)看，針對(duì)電子監(jiān)控設(shè)備的使用問(wèn)題，只有交通執(zhí)法和市場(chǎng)監(jiān)管兩個(gè)領(lǐng)域有法律和行政法規(guī)的授權(quán)，環(huán)保、海關(guān)、農(nóng)業(yè)領(lǐng)域的授權(quán)規(guī)范位階是部門(mén)規(guī)章。(49)相關(guān)授權(quán)規(guī)范參見(jiàn)《環(huán)境行政處罰辦法》第36條、《海關(guān)監(jiān)管區(qū)管理暫行辦法》第17條、《農(nóng)業(yè)行政處罰程序規(guī)定》第37條。

其次，轉(zhuǎn)譯主體包括行政機(jī)關(guān)和私營(yíng)部門(mén)的算法設(shè)計(jì)師，具有立法色彩的轉(zhuǎn)譯過(guò)程應(yīng)滿足轉(zhuǎn)譯主體合法性的要求。以“類(lèi)裁量基準(zhǔn)”的算法為例，裁量基準(zhǔn)本身是行政機(jī)關(guān)根據(jù)授權(quán)法的旨意，對(duì)法定授權(quán)范圍內(nèi)的裁量權(quán)予以情節(jié)的細(xì)化和效果的格化而事先以規(guī)則的形式設(shè)定的一種具體化的判斷選擇標(biāo)準(zhǔn)，屬于行政自制規(guī)范。(50)參見(jiàn)周佑勇：《裁量基準(zhǔn)的制度定位——以行政自制為視角》，載《法學(xué)家》2011年第4期。行政機(jī)關(guān)制定裁量基準(zhǔn)的權(quán)力來(lái)自于立法授予的行政裁量權(quán)，其將裁量基準(zhǔn)轉(zhuǎn)譯成算法的過(guò)程本質(zhì)上仍是在行使行政裁量權(quán)。行政機(jī)關(guān)選擇與私營(yíng)部門(mén)的算法設(shè)計(jì)師合作共同制定轉(zhuǎn)譯型算法的行為也在裁量空間之內(nèi)，算法設(shè)計(jì)師的行為也因此具備了合法性基礎(chǔ)。此時(shí)，算法設(shè)計(jì)師可以看作是行政機(jī)關(guān)手腳的延伸，其行為歸屬于行政機(jī)關(guān)；行政機(jī)關(guān)也需要通過(guò)細(xì)密的規(guī)范設(shè)計(jì)約束算法設(shè)計(jì)師的行為。

(三)轉(zhuǎn)譯法律的明確性要求

為了縮小算法設(shè)計(jì)師“轉(zhuǎn)譯法律”時(shí)的判斷空間，行政機(jī)關(guān)應(yīng)當(dāng)盡可能地明確法律的含義。具體而言，在設(shè)計(jì)系統(tǒng)時(shí)，算法設(shè)計(jì)師需要明確系統(tǒng)將要實(shí)現(xiàn)的法律目標(biāo)是什么，即確定“目標(biāo)規(guī)范”，目標(biāo)規(guī)范是系統(tǒng)運(yùn)行時(shí)具體執(zhí)行的法律。目標(biāo)規(guī)范和算法之間是對(duì)應(yīng)關(guān)系，前者是人類(lèi)世界中由行政機(jī)關(guān)執(zhí)行的法律語(yǔ)言，后者是由系統(tǒng)執(zhí)行的機(jī)器語(yǔ)言，二者要實(shí)現(xiàn)的是同一行政目標(biāo)。例如，闖紅燈自動(dòng)記錄系統(tǒng)中運(yùn)行的算法是用來(lái)自動(dòng)認(rèn)定闖紅燈行為的機(jī)器語(yǔ)言，相應(yīng)的目標(biāo)規(guī)范是《道路交通安全法》第44條(51)《道路交通安全法》第44條規(guī)定：“機(jī)動(dòng)車(chē)通過(guò)交叉路口，應(yīng)當(dāng)按照交通信號(hào)燈、交通標(biāo)志、交通標(biāo)線或者交通警察的指揮通過(guò)；通過(guò)沒(méi)有交通信號(hào)燈、交通標(biāo)志、交通標(biāo)線或者交通警察指揮的交叉路口時(shí)，應(yīng)當(dāng)減速慢行，并讓行人和優(yōu)先通行的車(chē)輛先行?！焙汀兜缆方煌ò踩▽?shí)施條例》第38條(52)《道路交通安全法實(shí)施條例》第38條第1款規(guī)定：“機(jī)動(dòng)車(chē)信號(hào)燈和非機(jī)動(dòng)車(chē)信號(hào)燈表示：(一)綠燈亮?xí)r，準(zhǔn)許車(chē)輛通行，但轉(zhuǎn)彎的車(chē)輛不得妨礙被放行的直行車(chē)輛、行人通行；(二)黃燈亮?xí)r，已越過(guò)停止線的車(chē)輛可以繼續(xù)通行；(三)紅燈亮?xí)r禁止車(chē)輛通行?！敝?，紅燈亮?xí)r禁止機(jī)動(dòng)車(chē)通行的規(guī)定。目標(biāo)規(guī)范是行政機(jī)關(guān)的執(zhí)法依據(jù)。轉(zhuǎn)譯過(guò)程實(shí)際上是將目標(biāo)規(guī)范這一法律語(yǔ)言轉(zhuǎn)譯成機(jī)器語(yǔ)言的過(guò)程，轉(zhuǎn)譯時(shí)需要細(xì)化、解釋具體的法律用語(yǔ)，明確至機(jī)器可執(zhí)行的程度。仍以闖紅燈自動(dòng)記錄系統(tǒng)為例，《闖紅燈自動(dòng)記錄系統(tǒng)通用技術(shù)條件》(GA/T 496—2014)對(duì)如何認(rèn)定闖紅燈行為作了更具體的規(guī)定：系統(tǒng)需要監(jiān)測(cè)和記錄的闖紅燈行為是機(jī)動(dòng)車(chē)違反交通信號(hào)燈紅燈亮?xí)r禁止通行的規(guī)定，越過(guò)停止線并繼續(xù)行駛的行為。(53)參見(jiàn)《闖紅燈自動(dòng)記錄系統(tǒng)通用技術(shù)條件》(GA/T 496—2014)第3.1、3.2條。自動(dòng)記錄系統(tǒng)至少要記錄三張反映闖紅燈行為過(guò)程的圖片，圖片需符合《闖紅燈自動(dòng)記錄系統(tǒng)通用技術(shù)條件》的要求。(54)《闖紅燈自動(dòng)記錄系統(tǒng)通用技術(shù)條件》(GA/T 496—2014)第4.3.1.1條規(guī)定：“系統(tǒng)應(yīng)能至少記錄以下3張反映闖紅燈行為過(guò)程的圖片：a) 能反映機(jī)動(dòng)車(chē)未到達(dá)停止線的圖片，并能清晰辨別車(chē)輛類(lèi)型、交通信號(hào)燈紅燈、停止線；b) 能反映機(jī)動(dòng)車(chē)已越過(guò)停止線的圖片，并能清晰辨別車(chē)輛類(lèi)型、號(hào)牌號(hào)碼、交通信號(hào)燈紅燈、停止線；c) 能反映機(jī)動(dòng)車(chē)與b)圖片中機(jī)動(dòng)車(chē)向前位移的圖片，并能清晰辨別車(chē)輛類(lèi)型、交通信號(hào)燈紅燈、停止線。”為了減小法律語(yǔ)言轉(zhuǎn)譯為機(jī)器語(yǔ)言時(shí)可能出現(xiàn)的偏差，行政機(jī)關(guān)通常會(huì)發(fā)布相關(guān)技術(shù)標(biāo)準(zhǔn)，自動(dòng)化系統(tǒng)的設(shè)計(jì)必須符合技術(shù)標(biāo)準(zhǔn)的要求。在技術(shù)標(biāo)準(zhǔn)的基礎(chǔ)上，有必要事先為轉(zhuǎn)譯過(guò)程設(shè)計(jì)更為詳細(xì)的說(shuō)明書(shū)，盡可能地明確可能會(huì)引起算法設(shè)計(jì)師進(jìn)行獨(dú)立判斷的問(wèn)題。說(shuō)明書(shū)應(yīng)當(dāng)經(jīng)過(guò)法律專(zhuān)家與技術(shù)專(zhuān)家的審核，并應(yīng)當(dāng)被允許共享以及不斷完善，以促使算法設(shè)計(jì)師的行為合乎規(guī)范要求。(55)參見(jiàn)前引〔34〕，麗莎·A.謝伊、伍德羅·哈特佐格等文，第295頁(yè)。

行政機(jī)關(guān)通過(guò)發(fā)布技術(shù)標(biāo)準(zhǔn)和設(shè)計(jì)轉(zhuǎn)譯算法說(shuō)明書(shū)的方式減少法律語(yǔ)言的模糊性，為算法設(shè)計(jì)師提供更為明確的設(shè)計(jì)方向。但是，即便說(shuō)明書(shū)的表述極盡詳細(xì)，法律語(yǔ)言轉(zhuǎn)譯成算法的過(guò)程仍然存在算法設(shè)計(jì)師的主觀判斷空間。處于私主體地位的算法設(shè)計(jì)師受私益驅(qū)動(dòng)，而行政管理活動(dòng)需將公共利益作為首要考量因素，為了確保公共利益的實(shí)現(xiàn)，行政機(jī)關(guān)應(yīng)當(dāng)全程參與系統(tǒng)的設(shè)計(jì)過(guò)程，擔(dān)任重要問(wèn)題的最終決策者。

(四)轉(zhuǎn)譯過(guò)程的透明度要求

首先，轉(zhuǎn)譯型算法制定過(guò)程應(yīng)滿足公開(kāi)的要求。轉(zhuǎn)譯過(guò)程公開(kāi)的理論基點(diǎn)在于對(duì)公民知情權(quán)的保障，此處的知情權(quán)是指政治上的民主權(quán)利，即公民依法享有知道國(guó)家的活動(dòng)、了解國(guó)家的事務(wù)的權(quán)利，國(guó)家機(jī)關(guān)有依法向公民及社會(huì)公眾公開(kāi)自己活動(dòng)的義務(wù)，這是人民主權(quán)原則的延伸。(56)參見(jiàn)劉莘：《行政立法研究》，法律出版社2018年版，第167-168頁(yè)。轉(zhuǎn)譯過(guò)程公開(kāi)的內(nèi)容包括公開(kāi)轉(zhuǎn)譯主體、轉(zhuǎn)譯目的、轉(zhuǎn)譯依據(jù)以及源代碼等，算法公開(kāi)體現(xiàn)的是算法透明原則的要求。就具體規(guī)制手段而言，算法透明包含告知義務(wù)、向主管部門(mén)報(bào)備參數(shù)、向社會(huì)公開(kāi)參數(shù)和存檔數(shù)據(jù)、公開(kāi)源代碼等不同的形式。(57)參見(jiàn)汪慶華：《算法透明的多重維度和算法問(wèn)責(zé)》，載《比較法研究》2020年第6期。算法公開(kāi)的程序可參照行政規(guī)范性文件的公布程序。2008年起實(shí)施的《湖南省行政程序規(guī)定》率先規(guī)定了對(duì)規(guī)范性文件的統(tǒng)一登記、統(tǒng)一編號(hào)、統(tǒng)一公布制度，其后，“三統(tǒng)一”制度被推廣至其他省份，目前已被中央層面法律文件納入。(58)參見(jiàn)《國(guó)土資源部辦公廳關(guān)于實(shí)行規(guī)范性文件“三統(tǒng)一”制度的通知》(國(guó)土資廳函〔2015〕523號(hào))。

其次，應(yīng)在算法公開(kāi)的基礎(chǔ)上增強(qiáng)算法的可解釋性。反對(duì)算法公開(kāi)的理由之一是“算法透明≠算法可知”，即考慮到披露對(duì)象的技術(shù)能力、算法的復(fù)雜性、機(jī)器學(xué)習(xí)和干擾性披露四重因素，即使向公眾公開(kāi)源代碼，公眾也未必會(huì)理解算法的工作原理。(59)參見(jiàn)沈偉偉：《算法透明原則的迷思——算法規(guī)制理論批判》，載《環(huán)球法律評(píng)論》2019年第6期。對(duì)行政機(jī)關(guān)施加解釋算法的義務(wù)并非要求其準(zhǔn)確地說(shuō)明算法的工作原理，由于“算法黑箱”的制約，這可能在技術(shù)上也是不可行的。行政機(jī)關(guān)的解釋性義務(wù)只需要做到提供必要的信息證明系統(tǒng)產(chǎn)生的結(jié)果是合理的即可。換言之，行政機(jī)關(guān)需要提供有關(guān)其自動(dòng)化系統(tǒng)背后的目的及其通常如何運(yùn)作的基本信息，需要表明在設(shè)計(jì)系統(tǒng)時(shí)已經(jīng)仔細(xì)考慮了關(guān)鍵的設(shè)計(jì)選項(xiàng)，也可能需要借助公認(rèn)的審核和驗(yàn)證工作來(lái)證明系統(tǒng)確實(shí)能夠運(yùn)行并生成預(yù)期的結(jié)果。(60)參見(jiàn)前引〔3〕，卡里·科利亞尼斯文。對(duì)行政機(jī)關(guān)施加公開(kāi)算法和解釋算法的義務(wù)，一方面是為了滿足自動(dòng)化行政自身合法性的要求，另一方面也有助于個(gè)人對(duì)自動(dòng)化決策提出質(zhì)疑，引發(fā)關(guān)于技術(shù)的辯論，從長(zhǎng)遠(yuǎn)來(lái)看可以促進(jìn)社會(huì)對(duì)新技術(shù)的接受。

五、自我學(xué)習(xí)型算法的控制

針對(duì)轉(zhuǎn)譯型算法，可以通過(guò)控制轉(zhuǎn)譯過(guò)程的合法性來(lái)保證算法決策的合法性，確保系統(tǒng)始終處于行政機(jī)關(guān)的控制之下。此時(shí)的規(guī)制邏輯是通過(guò)形式合法性來(lái)解釋行政正當(dāng)性，核心技術(shù)是評(píng)估行政與法律的一致性。(61)參見(jiàn)前引〔8〕，王錫鋅文。但自我學(xué)習(xí)型算法是根據(jù)預(yù)先設(shè)定的“學(xué)習(xí)規(guī)則”，學(xué)習(xí)訓(xùn)練數(shù)據(jù)之后生成的，本身具有不確定性。自我學(xué)習(xí)型算法無(wú)法滿足形式合法性的要求，需要探索新的合法性框架，相應(yīng)控制方式應(yīng)在新的合法性框架下展開(kāi)。

(一)“民主—科學(xué)”的合法性框架

1.構(gòu)建合法性框架的目的

自我學(xué)習(xí)型算法的適用需要具備合法性基礎(chǔ)的本質(zhì)原因是要保證系統(tǒng)行使行政權(quán)時(shí)像行政機(jī)關(guān)一樣受到控制。傳統(tǒng)法律體系對(duì)公權(quán)力的控制機(jī)制，使得公民可以充分相信行政機(jī)關(guān)在行使權(quán)力時(shí)始終以維護(hù)公共利益為目的；而逸脫了法律控制機(jī)制的系統(tǒng)，難以使公民相信其同樣以維護(hù)公共利益的方式運(yùn)轉(zhuǎn)。換言之，控制系統(tǒng)是為了建立起公眾對(duì)系統(tǒng)的信任。公眾對(duì)系統(tǒng)的不信任不僅會(huì)導(dǎo)致系統(tǒng)本身合法性基礎(chǔ)缺失，還會(huì)引發(fā)公眾與系統(tǒng)的提供者——行政機(jī)關(guān)之間的信任危機(jī)。盡管自我學(xué)習(xí)型算法具有“黑箱”性質(zhì)，其決策過(guò)程難以為人類(lèi)理解，但這并不意味著人類(lèi)無(wú)法對(duì)其建立信任。正如在醫(yī)療領(lǐng)域，盡管患者對(duì)藥物或藥物治療的工作原理不甚了解，但其仍然愿意將生命健康托付給通常難以理解的治療手段；問(wèn)題的關(guān)鍵不在于人類(lèi)是否知道特定藥物的作用機(jī)理，而是該領(lǐng)域內(nèi)是否存在充分的規(guī)則、制度和專(zhuān)業(yè)知識(shí)給予我們信心，使我們對(duì)治療手段建立信任。(62)See Robin C.Feldman, Ehrik Aldana & Kara Stein,Artificial Intelligence in the Health Care Space: How We Can Trust What We Cannot Know, 30(2)Stanford Law & Policy Review 399 (2019).

2.合法性框架分析

行政管理過(guò)程偏離形式合法性要求的問(wèn)題并不限于自動(dòng)化行政領(lǐng)域，只不過(guò)在自我學(xué)習(xí)型算法上尤為突出。當(dāng)代行政是目標(biāo)導(dǎo)向的積極活動(dòng)，行政機(jī)關(guān)在目標(biāo)界定、手段選擇等方面，都擁有自主進(jìn)行權(quán)衡和選擇的權(quán)力；目標(biāo)導(dǎo)向的行政，意味著法律對(duì)行政的控制，通常只能是寬泛的目標(biāo)指引而非具體的指令控制。立法提出行政活動(dòng)的寬泛目標(biāo)，行政對(duì)目標(biāo)進(jìn)行判斷、權(quán)衡以及對(duì)實(shí)現(xiàn)目標(biāo)的手段進(jìn)行選擇裁量。(63)參見(jiàn)王錫鋅：《行政法治的邏輯及其當(dāng)代命題》，載《法學(xué)論壇》2011年第2期。例如，在風(fēng)險(xiǎn)行政領(lǐng)域，由于立法者不具備關(guān)于風(fēng)險(xiǎn)的完整知識(shí)，需要廣泛授予行政機(jī)關(guān)裁量權(quán)，依法行政實(shí)際上被依裁量行政替代。(64)參見(jiàn)趙鵬：《知識(shí)與合法性：風(fēng)險(xiǎn)社會(huì)的行政法治原理》，載《行政法學(xué)研究》2011年第4期。行政機(jī)關(guān)規(guī)制風(fēng)險(xiǎn)的活動(dòng)若要符合現(xiàn)代行政法治的基本要求，至少需要滿足兩個(gè)條件：一是價(jià)值合理性，即行政機(jī)關(guān)設(shè)定的風(fēng)險(xiǎn)規(guī)制目標(biāo)能夠?yàn)楣娝邮埽厦癖姷男枨?，反映民眾的偏好，體現(xiàn)盧梭所說(shuō)的“公意”的要求，從而具有正當(dāng)性；二是工具合理性，即行政機(jī)關(guān)規(guī)制風(fēng)險(xiǎn)的手段或措施基于精確的計(jì)算和預(yù)測(cè)，追求功效最大化，具有科學(xué)性。(65)參見(jiàn)戚建剛：《風(fēng)險(xiǎn)規(guī)制過(guò)程合法性之證成——以公眾和專(zhuān)家的風(fēng)險(xiǎn)知識(shí)運(yùn)用為視角》，載《法商研究》2009年第5期。風(fēng)險(xiǎn)行政背景下，行政機(jī)關(guān)通過(guò)增強(qiáng)行政過(guò)程中的民主性與科學(xué)性，來(lái)補(bǔ)強(qiáng)行政活動(dòng)正當(dāng)性。“民主—科學(xué)”的合法性框架也可以作為自我學(xué)習(xí)型算法適用的理論基礎(chǔ)。

3.合法性規(guī)制目的實(shí)現(xiàn)方式

“民主—科學(xué)”的合法性規(guī)制目的是建立公眾對(duì)算法的信任。與自我學(xué)習(xí)型算法相同，診療過(guò)程對(duì)于患者而言同樣具有“黑箱”性質(zhì)，因此，醫(yī)療領(lǐng)域信任機(jī)制的構(gòu)建方式可以為算法的規(guī)制提供借鑒。醫(yī)療領(lǐng)域的信任建立機(jī)制有以下三個(gè)要點(diǎn)：(1)醫(yī)療服務(wù)提供者的能力。以醫(yī)師為例，醫(yī)師培訓(xùn)和考核機(jī)制、醫(yī)師資格考試制度、醫(yī)師執(zhí)業(yè)注冊(cè)制度、醫(yī)師的執(zhí)業(yè)規(guī)范要求、衛(wèi)生健康主管部門(mén)和醫(yī)療衛(wèi)生機(jī)構(gòu)對(duì)醫(yī)師的監(jiān)督管理及問(wèn)責(zé)制度等共同建立起一個(gè)保證醫(yī)師專(zhuān)業(yè)水準(zhǔn)的框架，使得公眾即使無(wú)法直接評(píng)估其實(shí)際能力，也能對(duì)其建立信任。(2)保護(hù)患者的利益。醫(yī)學(xué)倫理規(guī)范和相關(guān)制度的存在使公眾相信，相較于個(gè)人的經(jīng)濟(jì)利益，醫(yī)師會(huì)將病人的利益放在首位。美國(guó)出臺(tái)了《聯(lián)邦反回扣法案》(The Federal Anti-Kickback Statute)、《醫(yī)師酬勞陽(yáng)光法案》(Physician Payments Sunshine Act)來(lái)監(jiān)督醫(yī)師從醫(yī)藥企業(yè)獲取利益的行為，平衡患者的最大利益與醫(yī)師個(gè)人利益之間的關(guān)系。(3)信息的完整性。醫(yī)師用于診療的數(shù)據(jù)的準(zhǔn)確性、診療數(shù)據(jù)使用方式的適當(dāng)性、診療數(shù)據(jù)的可訪問(wèn)性、可糾錯(cuò)性都有助于增進(jìn)患者的信任?？傮w而言，建立信任的路徑可以二分：一是建立患者的主體地位保障，對(duì)應(yīng)要點(diǎn)(2)；二是建立診療過(guò)程的科學(xué)性保障，對(duì)應(yīng)要點(diǎn)(1)(3)。兩種路徑大致可以分別與民主和科學(xué)相對(duì)應(yīng)。

(二)自我學(xué)習(xí)型算法的民主控制要求

與保障患者的主體地位類(lèi)似，自動(dòng)化行政中的民主參與是為了使公眾獲得自尊、自主和自治的心理。(66)參見(jiàn)沈巋：《風(fēng)險(xiǎn)規(guī)制決策程序的科學(xué)與民主》，載沈巋主編：《風(fēng)險(xiǎn)規(guī)制與行政法新發(fā)展》，法律出版社2013年版，第308頁(yè)。自我學(xué)習(xí)型算法的民主控制可以從兩方面展開(kāi)：一是行政機(jī)關(guān)在制定規(guī)制人工智能的法律法規(guī)、政策文件時(shí)，應(yīng)當(dāng)聽(tīng)取公眾意見(jiàn)，并提供充分交流意見(jiàn)的平臺(tái)；二是在算法投入運(yùn)用階段，拓寬公眾發(fā)現(xiàn)、識(shí)別算法風(fēng)險(xiǎn)的渠道。

以算法治理為代表的數(shù)治主要關(guān)注工具有效性和效率，側(cè)重于治理的事實(shí)和工具維度，對(duì)法治的“價(jià)值之治”側(cè)面帶來(lái)挑戰(zhàn)。(67)參見(jiàn)王錫鋅：《數(shù)治與法治：數(shù)字行政的法治約束》，載《中國(guó)人民大學(xué)學(xué)報(bào)》2022年第6期。這也導(dǎo)致算法治理中公眾意見(jiàn)表達(dá)的空間被進(jìn)一步壓縮。反對(duì)人工智能立法的理由之一是缺乏精確度的法律難以滿足對(duì)代碼的規(guī)制需求。對(duì)此的反駁為，法律是在民主程序中妥協(xié)的產(chǎn)物，在妥協(xié)的過(guò)程中，公眾不斷朝最適當(dāng)規(guī)則的方向達(dá)成共識(shí)。(68)See Paul Nemitz， Constitutional Democracy and Technology in the Age of Artificial Intelligence Philosophical Transactions: Mathematical,376(2133)Physical and Engineering Sciences 1(2018).規(guī)制算法的規(guī)則和政策的形成過(guò)程就是一個(gè)妥協(xié)和不斷達(dá)成共識(shí)的過(guò)程，對(duì)算法規(guī)制的價(jià)值選擇和目標(biāo)確定應(yīng)當(dāng)以公眾的意見(jiàn)為依據(jù)。應(yīng)當(dāng)規(guī)制哪些風(fēng)險(xiǎn)、如何進(jìn)行價(jià)值位階排序，以及置于何種議程進(jìn)行規(guī)制，體現(xiàn)的是公眾希望自己決定生活狀態(tài)的意愿。(69)參見(jiàn)前引〔65〕，戚建剛文。在參與過(guò)程中，公眾能夠從各種視角了解和理解算法，盡可能地消除對(duì)未知風(fēng)險(xiǎn)的疑慮，增進(jìn)信任。

算法決策過(guò)程的瞬時(shí)性剝奪了相對(duì)人在行政程序中向決策者表達(dá)意見(jiàn)的機(jī)會(huì)，算法決策的黑箱特點(diǎn)使公眾難以直接發(fā)現(xiàn)算法的技術(shù)性錯(cuò)誤。對(duì)此，有學(xué)者提出通過(guò)建立“前瞻性基準(zhǔn)”(prospective benchmarking)的方式對(duì)自我學(xué)習(xí)型算法的運(yùn)行情況進(jìn)行監(jiān)督，具體而言，在采取算法決策的場(chǎng)景中，行政機(jī)關(guān)應(yīng)當(dāng)隨機(jī)選取一組同類(lèi)型的人工執(zhí)法案例作為基準(zhǔn)，公眾能夠以此作為對(duì)比樣本，對(duì)算法決策結(jié)果進(jìn)行監(jiān)督，及時(shí)發(fā)現(xiàn)算法決策中可能存在的錯(cuò)誤。(70)See David Freeman Engstrom & Daniel E.Ho, Algorithmic Accountability in the Administrative State, 37 Yale Journal on Regulation 800,849(2020).除此之外，行政機(jī)關(guān)應(yīng)向公眾提供算法查驗(yàn)途徑，即面向用戶或公眾提供一個(gè)公開(kāi)的查驗(yàn)渠道，使用戶、交易者或第三方有機(jī)會(huì)檢驗(yàn)算法能否實(shí)現(xiàn)其所宣稱(chēng)的目標(biāo)，從而對(duì)算法的運(yùn)行機(jī)理建立相當(dāng)程度的了解和預(yù)期。(71)參見(jiàn)蘇宇：《算法規(guī)制的譜系》，載《中國(guó)法學(xué)》2020年第3期。

(三)自我學(xué)習(xí)型算法的科學(xué)控制要求

自我學(xué)習(xí)型算法的科學(xué)性控制要求體現(xiàn)在兩方面：一是對(duì)算法的提供者和算法技術(shù)的科學(xué)性、可靠性的保障；二是對(duì)數(shù)據(jù)可靠性的保障。在對(duì)算法提供者的控制方面，行政機(jī)關(guān)通過(guò)算法進(jìn)行治理，是自動(dòng)化行政行為的直接責(zé)任主體，應(yīng)當(dāng)承擔(dān)起對(duì)算法科學(xué)性的保障責(zé)任。第一，行政機(jī)關(guān)內(nèi)部應(yīng)該設(shè)立專(zhuān)門(mén)的算法審查機(jī)構(gòu)，承擔(dān)算法審查、算法監(jiān)測(cè)、算法糾錯(cuò)等具體工作?？紤]到當(dāng)前階段行政機(jī)關(guān)專(zhuān)業(yè)人才不足的問(wèn)題，有學(xué)者建議目前可依托具有相應(yīng)專(zhuān)業(yè)人才、技術(shù)支撐和監(jiān)管能力的行業(yè)自律組織，建立起由相關(guān)行政機(jī)關(guān)負(fù)責(zé)指導(dǎo)、行業(yè)自律組織負(fù)責(zé)實(shí)施的算法監(jiān)管體制。(72)參見(jiàn)孫清白：《人工智能算法的“公共性”應(yīng)用風(fēng)險(xiǎn)及其二元規(guī)制》，載《行政法學(xué)研究》2020年第4期。第二，行政機(jī)關(guān)在選擇第三方機(jī)構(gòu)共同設(shè)計(jì)算法時(shí)，應(yīng)當(dāng)遵循公開(kāi)透明、公平競(jìng)爭(zhēng)、公正原則，設(shè)計(jì)單位的資質(zhì)、選擇單位的程序和標(biāo)準(zhǔn)等信息需向社會(huì)公開(kāi)，并接受監(jiān)督。

在對(duì)算法技術(shù)的控制方面，第一，建立算法標(biāo)準(zhǔn)和算法備案制度。統(tǒng)一的技術(shù)標(biāo)準(zhǔn)有助于確認(rèn)某種算法現(xiàn)階段的科學(xué)性和合理性；而算法備案制度便于查明算法風(fēng)險(xiǎn)，明確責(zé)任主體。第二，建立算法審查制度。算法設(shè)計(jì)過(guò)程需嵌入算法倫理，因此在設(shè)計(jì)階段就應(yīng)當(dāng)以立法形式要求算法通過(guò)道德審查標(biāo)準(zhǔn)，防止產(chǎn)生不公平后果。(73)參見(jiàn)張凌寒：《算法規(guī)制的迭代與革新》，載《法學(xué)論壇》2019年第2期。第三，建立算法影響評(píng)估制度，以中立、專(zhuān)業(yè)、可信的評(píng)估主體為保證，對(duì)算法設(shè)計(jì)、部署、運(yùn)行的全部流程予以動(dòng)態(tài)評(píng)估，在算法系統(tǒng)應(yīng)用之前就進(jìn)行獨(dú)立的社會(huì)技術(shù)分析。(74)參見(jiàn)張欣：《算法影響評(píng)估制度的構(gòu)建機(jī)理與中國(guó)方案》，載《法商研究》2021年第2期。第四，開(kāi)發(fā)監(jiān)督算法運(yùn)行、監(jiān)測(cè)算法技術(shù)可靠性的算法。盡管對(duì)算法代碼進(jìn)行實(shí)時(shí)督導(dǎo)(monitoring)和審計(jì)(auditing)，需要具備與算法生產(chǎn)和使用相當(dāng)或超越的技術(shù)能力，成本巨大，(75)參見(jiàn)前引〔14〕，邱澤奇文。但以技術(shù)控制技術(shù)既可以推動(dòng)科技進(jìn)步，也能有效增進(jìn)公眾對(duì)科技的信任。前述控制手段大多是自上而下的機(jī)制設(shè)計(jì)，有可能因?yàn)槔骊P(guān)聯(lián)或認(rèn)知局限等原因阻礙算法的正常發(fā)展，因此，應(yīng)當(dāng)鼓勵(lì)產(chǎn)業(yè)界、社會(huì)組織及個(gè)人創(chuàng)造和發(fā)展自下而上的風(fēng)險(xiǎn)識(shí)別與防范工具。(76)參見(jiàn)前引〔71〕，蘇宇文。

在對(duì)數(shù)據(jù)可靠性的保障方面，第一，利用數(shù)據(jù)集缺陷檢測(cè)技術(shù)。目前的人工智能技術(shù)已經(jīng)完全可以為算法開(kāi)發(fā)者提供數(shù)據(jù)集及訓(xùn)練過(guò)程檢測(cè)工具，主要用于檢測(cè)訓(xùn)練人工智能的數(shù)據(jù)集是否存在偏差或缺陷，還可以通過(guò)一定的算法檢測(cè)在數(shù)據(jù)選取、數(shù)據(jù)標(biāo)注、數(shù)據(jù)清洗以及其他預(yù)處理工作過(guò)程中是否包含了偏離算法設(shè)計(jì)目標(biāo)或足以導(dǎo)致結(jié)果發(fā)生顯著偏差的操作。(77)參見(jiàn)前引〔71〕，蘇宇文。第二，提高數(shù)據(jù)的互操作性(interoperability)。(78)See Peter K.Yu, Beyond Transparency and Accountability: Three Additional Features Algorithm Designers Should Build into Intelligent Platforms, 13(1)Northeastern University Law Review 263，290(2021).互操作性要求不同行政機(jī)關(guān)之間共享數(shù)據(jù)，能夠更好地滿足自我學(xué)習(xí)型算法對(duì)數(shù)據(jù)數(shù)量的要求，進(jìn)而提高算法的準(zhǔn)確性。

六、結(jié) 語(yǔ)

在民主國(guó)家，主權(quán)統(tǒng)治通過(guò)雙重形式的透明實(shí)現(xiàn)合法性：首先，人民生活在自己制定的規(guī)則之下(民主參與)；其次，這些規(guī)則的適用能夠在打開(kāi)其解釋黑箱的訴訟程序中提出爭(zhēng)議(法治)。(79)See Mireille Hildebrandt, Law as Information in the Era of Data-Driven Agency, 79(1)Modern Law Review 1，23(2016).這也是傳統(tǒng)行政法中行政權(quán)獲得合法性的途徑，行政機(jī)關(guān)通過(guò)嚴(yán)格遵循依法行政原則，獲得民主正當(dāng)性。自動(dòng)化行政方式面臨合法性危機(jī)：轉(zhuǎn)譯型算法在轉(zhuǎn)譯過(guò)程中會(huì)嵌入算法設(shè)計(jì)師的判斷，而來(lái)自私營(yíng)部門(mén)的算法設(shè)計(jì)師可能尚未獲得執(zhí)行法律的授權(quán)，缺乏執(zhí)法的合法性基礎(chǔ)，這一問(wèn)題在自我學(xué)習(xí)型算法中更為突出；此外，當(dāng)前階段，算法決策有時(shí)在事實(shí)上超出法律的授權(quán)范圍，且缺乏暢通的救濟(jì)機(jī)制。

因此，應(yīng)當(dāng)結(jié)合算法類(lèi)型對(duì)算法進(jìn)行控制。針對(duì)轉(zhuǎn)譯型算法，需要保證轉(zhuǎn)譯過(guò)程的合法性：首先，要有上位法授權(quán)行政機(jī)關(guān)以自動(dòng)化的方式在某一領(lǐng)域開(kāi)展行政活動(dòng)，從而為引入第三方共同設(shè)計(jì)算法提供法律基礎(chǔ)；其次，行政機(jī)關(guān)有義務(wù)細(xì)化系統(tǒng)所需執(zhí)行的目標(biāo)法律規(guī)范，以縮小轉(zhuǎn)譯過(guò)程的判斷空間；最后，轉(zhuǎn)譯過(guò)程應(yīng)參考規(guī)則制定程序，符合相應(yīng)程序要求。針對(duì)自我學(xué)習(xí)型算法，傳統(tǒng)合法性框架失去作用，應(yīng)當(dāng)通過(guò)行政過(guò)程中的民主性和科學(xué)性重構(gòu)合法性基礎(chǔ)，具體控制措施也應(yīng)從公眾參與和算法科學(xué)的角度展開(kāi)。