劉嘉誠(chéng)

（湖南師范大學(xué)，湖南 長(zhǎng)沙 410081）

引言

隨著人臉識(shí)別、自動(dòng)駕駛、機(jī)器學(xué)習(xí)等算法技術(shù)與應(yīng)用逐漸進(jìn)入人們的視野，無(wú)論接受與否，人類(lèi)社會(huì)都已步入算法時(shí)代。從技術(shù)上看，算法是對(duì)人腦的一種模擬，通過(guò)對(duì)已有信息的數(shù)字化處理形成數(shù)據(jù)模型及范式，從而更好地對(duì)往后的信息進(jìn)行分析、加工及修正①參見(jiàn)王靜、王軒等：《算法：人工智能在想什么》，國(guó)家行政管理出版社2021 年版，第8 頁(yè)。。基于算法技術(shù)帶來(lái)的高效及便利，其以技術(shù)理性的形式嵌入公共行政的過(guò)程當(dāng)中，并形成了“自動(dòng)收集、自動(dòng)分析、自動(dòng)決策”的算法行政體系②參見(jiàn)翟月熒：《算法行政的興起、風(fēng)險(xiǎn)及其防控》，載《新視野》2022 年第3 期，第81-85 頁(yè)。。算法給行政活動(dòng)帶來(lái)了不少便利，其強(qiáng)大的數(shù)據(jù)收集及分析能力能顯著性地提高行政效率，減少行政負(fù)擔(dān)。與傳統(tǒng)行政活動(dòng)相比，算法行政可憑借自身計(jì)算能力的優(yōu)勢(shì)將碎片化的公共資源進(jìn)行重組，進(jìn)而提高治理效能。然而，科技是把雙刃劍，算法行政對(duì)行政法治帶來(lái)的挑戰(zhàn)也不容忽視。數(shù)據(jù)泄露、算法“黑箱”及算法歧視等問(wèn)題無(wú)不給行政活動(dòng)帶來(lái)負(fù)面影響。這是因?yàn)椤八惴ㄔ谛姓?guī)制中的實(shí)質(zhì)性運(yùn)用，并不能必然表明其在理論和規(guī)范層面的合法性”③王貴：《算法行政的興起、挑戰(zhàn)及法治化調(diào)適》，載《電子政務(wù)》2021 年第7 期，第2-14 頁(yè)。。值得注意的是，算法行政的背景下，傳統(tǒng)行政程序已然受到嚴(yán)重沖擊。算法的不透明性與專(zhuān)業(yè)性、算法歧視及算法的封閉性都對(duì)傳統(tǒng)行政程序的基本原則提出挑戰(zhàn)。如何應(yīng)對(duì)算法技術(shù)給行政正當(dāng)程序帶來(lái)的挑戰(zhàn)，有效地保障行政相對(duì)人的程序權(quán)利是算法時(shí)代不可忽視的法治問(wèn)題。

一、算法給行政活動(dòng)帶來(lái)的變化

隨著算法對(duì)行政活動(dòng)的不斷深入，政府公共行政逐漸走向數(shù)字時(shí)代。部分傳統(tǒng)行政方式被算法自動(dòng)化或半自動(dòng)化行政所替代，行政效率得到明顯增強(qiáng)。從當(dāng)前的數(shù)字政府建設(shè)實(shí)踐來(lái)看，算法技術(shù)對(duì)行政活動(dòng)帶來(lái)多方面的改變。

（一）從固定場(chǎng)所辦公到虛擬化作業(yè)

算法技術(shù)的革新將傳統(tǒng)的行政活動(dòng)從物理空間拓展至線(xiàn)上領(lǐng)域。以往行政活動(dòng)受時(shí)空限制，工作人員“坐堂辦事”，當(dāng)事人需要去指定地點(diǎn)才能享受政務(wù)服務(wù)。“互聯(lián)網(wǎng)+政務(wù)服務(wù)”帶來(lái)“最多跑一次”“一網(wǎng)通辦”“一網(wǎng)統(tǒng)管”“一網(wǎng)協(xié)同”等創(chuàng)新手段?！吨腥A人民共和國(guó)行政許可法》專(zhuān)門(mén)規(guī)定行政機(jī)關(guān)應(yīng)當(dāng)建立和完善有關(guān)制度，方便申請(qǐng)人采取數(shù)據(jù)電文等方式提出行政許可申請(qǐng)?？梢?jiàn)，行政算法化更新了以往傳統(tǒng)的書(shū)面形式。其中，較為典型的示例是電子政務(wù)服務(wù)平臺(tái)的出現(xiàn)，這使得當(dāng)事人在行政許可領(lǐng)域可網(wǎng)上辦理，“零跑堂”成為現(xiàn)實(shí)。以湖南為例，政務(wù)服務(wù)“新湘事成”APP 的上線(xiàn)實(shí)現(xiàn)46 個(gè)省直廳局1600 項(xiàng)行政審批事項(xiàng)“掌上辦”，當(dāng)事人僅需上傳申請(qǐng)材料至APP，相關(guān)責(zé)任部門(mén)便可實(shí)現(xiàn)相應(yīng)材料對(duì)接，各自審批，匯總后平臺(tái)再反饋至當(dāng)事人，這極大地簡(jiǎn)化了當(dāng)事人的辦事流程，提高了行政效率。

行政活動(dòng)從線(xiàn)下向線(xiàn)上的轉(zhuǎn)變得益于算法技術(shù)支持下實(shí)現(xiàn)的數(shù)字共享局面。在技術(shù)方面，算法數(shù)字技術(shù)打破政府部門(mén)之間的信息壁壘，各部門(mén)實(shí)現(xiàn)數(shù)據(jù)互通，交流共享，使政府跨部門(mén)交流協(xié)作成為可能。在行政組織層面，大數(shù)據(jù)強(qiáng)化了整體政府理念，推進(jìn)行政組織內(nèi)部?jī)?yōu)化升級(jí)，破除了科層制系統(tǒng)運(yùn)行碎片化、分散化的桎梏。目前，我國(guó)已設(shè)立國(guó)家數(shù)據(jù)局，其由國(guó)家發(fā)改委管理，承擔(dān)統(tǒng)籌數(shù)據(jù)資源整合和開(kāi)發(fā)利用的功能，將進(jìn)一步強(qiáng)化數(shù)字法治政府的功能作用。

（二）從現(xiàn)場(chǎng)執(zhí)法到非現(xiàn)場(chǎng)執(zhí)法

算法時(shí)代行政效率和執(zhí)法技術(shù)產(chǎn)生了新的標(biāo)準(zhǔn)，從而出現(xiàn)非現(xiàn)場(chǎng)執(zhí)法。電子監(jiān)控技術(shù)的發(fā)展使得行政機(jī)關(guān)在不接觸相對(duì)人的情況下，可通過(guò)電子監(jiān)控系統(tǒng)收集原始樣本，并通過(guò)算法自動(dòng)轉(zhuǎn)化成相應(yīng)的數(shù)值固定成電子證據(jù)，行政機(jī)關(guān)再基于此作出行政決定。早在1996 年，我國(guó)第一套“搶紅燈自動(dòng)拍攝器”在北京市試驗(yàn)成功，我國(guó)交通執(zhí)法領(lǐng)域就已開(kāi)始進(jìn)行監(jiān)控系統(tǒng)的運(yùn)用探索，隨著信息化技術(shù)的發(fā)展，新型科技更是給非現(xiàn)場(chǎng)監(jiān)管執(zhí)法領(lǐng)域注入了新的活力。GPS、人臉識(shí)別及無(wú)人機(jī)航拍等技術(shù)的出現(xiàn)，非現(xiàn)場(chǎng)執(zhí)法已從交通管理逐漸拓展至海事、市場(chǎng)監(jiān)管、生態(tài)環(huán)境保護(hù)等其他領(lǐng)域，相應(yīng)的規(guī)范性文件也逐漸出臺(tái)。此外，2021 年修正的《中華人民共和國(guó)行政處罰法》還專(zhuān)門(mén)規(guī)定電子技術(shù)監(jiān)控設(shè)備執(zhí)法的相關(guān)標(biāo)準(zhǔn)。

非現(xiàn)場(chǎng)執(zhí)法能夠輔助或者獨(dú)立進(jìn)行行政執(zhí)法活動(dòng)，極大地彌補(bǔ)了執(zhí)法上的人力不足。從執(zhí)法自動(dòng)化水平上看，完整的非現(xiàn)場(chǎng)執(zhí)法可以分為兩個(gè)階段：一是監(jiān)控技術(shù)設(shè)備記錄取證，二是以記錄的信息為證據(jù)進(jìn)行處罰④參見(jiàn)楊曦：《利用自動(dòng)監(jiān)控進(jìn)行非現(xiàn)場(chǎng)執(zhí)法的進(jìn)路及規(guī)范構(gòu)建——基于事實(shí)認(rèn)定的視角》，載《行政法學(xué)研究》2022 年第6 期，第86-96 頁(yè)。。第一階段主要由監(jiān)控技術(shù)設(shè)備發(fā)揮作用，通過(guò)算法自動(dòng)化系統(tǒng)對(duì)現(xiàn)場(chǎng)情況進(jìn)行識(shí)別，從而完成調(diào)查取證。第二階段則需要進(jìn)行人機(jī)互動(dòng)，行政機(jī)關(guān)依據(jù)通過(guò)技術(shù)監(jiān)控系統(tǒng)收集的數(shù)據(jù)而作出行政決定或者由算法直接作出行政決定。在交通執(zhí)法領(lǐng)域，自助處理平臺(tái)經(jīng)過(guò)算法處理后往往直接作出行政處罰決定。但由于其算法邏輯的關(guān)聯(lián)性與法律邏輯的因果性不相契合，故而難以獲得學(xué)理上的支持。就多數(shù)非現(xiàn)場(chǎng)執(zhí)法而言，通常由行政機(jī)關(guān)完成分析與決定環(huán)節(jié)。故此，非現(xiàn)場(chǎng)執(zhí)法中電子技術(shù)監(jiān)控設(shè)備的運(yùn)用僅發(fā)揮著輔助作用，行政機(jī)關(guān)及其工作人員仍然占據(jù)主導(dǎo)地位⑤參見(jiàn)李曉菲、張闖：《論非現(xiàn)場(chǎng)執(zhí)法中的行政相對(duì)人程序性權(quán)利保障》，載《長(zhǎng)春理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2023 年第1 期，第47-51 頁(yè)。。隨著算法技術(shù)的不斷進(jìn)步，未來(lái)行政活動(dòng)中自動(dòng)化程度將會(huì)不斷提高，但仍不可忽視人工在行政活動(dòng)當(dāng)中的作用。

（三）從人工裁量到算法決策

數(shù)字技術(shù)的飛速發(fā)展將國(guó)家工作人員從大量繁雜的行政任務(wù)中解放出來(lái)。對(duì)于過(guò)去需投入大量人力才能完成的機(jī)械性作業(yè)，如今行政機(jī)關(guān)借助算法技術(shù)就能夠完成，甚至在某些領(lǐng)域運(yùn)用算法決策完全替代人工裁量，幾乎實(shí)現(xiàn)完全意義上的算法行政。例如，美國(guó)阿肯色州衛(wèi)生部門(mén)就利用算法系統(tǒng)的自主分析來(lái)完成醫(yī)療資源的分配。有國(guó)家已經(jīng)以立法的形式確定了在行政活動(dòng)中運(yùn)用算法決策的行為。如德國(guó)《聯(lián)邦行政程序法》在2017 年修改時(shí)規(guī)定了完全自動(dòng)化行為。算法決策給行政活動(dòng)帶來(lái)了許多便利，但需要注意的是，算法運(yùn)作可在無(wú)人工干預(yù)下做出決策，即便是算法輔助決策，決策者往往也對(duì)算法的技術(shù)理性存在較高的依賴(lài)性。若算法的運(yùn)用在權(quán)利分配的過(guò)程當(dāng)中起到了決定作用，則此時(shí)的算法已成為某種意義上的權(quán)力主體⑥參見(jiàn)雷剛：《數(shù)字政府時(shí)代的算法行政：形成邏輯、內(nèi)涵要義及實(shí)踐理路》，載《 電子政務(wù)》2023 年第8 期，第73-89 頁(yè)。。

“在技術(shù)自主的維度下，以工具性、自主性和主體性作為判斷標(biāo)準(zhǔn)，可以將算法行政劃分為算法輔助行政、半自動(dòng)化算法行政和全自動(dòng)化算法行政，隨之對(duì)應(yīng)的‘人機(jī)關(guān)系’也是有差異的。”⑦參見(jiàn)前注⑥，雷剛文，第73-89 頁(yè)。算法輔助行政為一種“去人格化”的存在，其運(yùn)作方式如傳送帶一般將原始材料通過(guò)算法轉(zhuǎn)碼處理后再交由人工決斷。就其運(yùn)用而言，可對(duì)算法邏輯進(jìn)行預(yù)設(shè)，使其抓取特定人群的特定種類(lèi)信息，并進(jìn)一步推導(dǎo)出該類(lèi)特定人員的心理意愿，從而給行政決策提供有價(jià)值的參考信息⑧杜昕怡、肖澤晟：《人工智能算法輔助行政決策的法治風(fēng)險(xiǎn)及其化解路徑》，載《學(xué)習(xí)論壇》2023 年第3 期，第122-130 頁(yè)。。半自動(dòng)化的算法行政則出現(xiàn)一種“人機(jī)共治”的情形。此時(shí)的算法運(yùn)行不再是人工決策的替代運(yùn)行，而是起到建議、提示及預(yù)測(cè)作用的專(zhuān)家。“隨著技術(shù)的不斷發(fā)展和迭代，我們可以預(yù)期機(jī)器學(xué)習(xí)算法將用于政府部門(mén)做出更多的定性評(píng)估、建議和指導(dǎo)，甚至可能是評(píng)估性行政決定?！雹釓垵骸蹲詣?dòng)化行政對(duì)行政程序的挑戰(zhàn)及其制度因應(yīng)》，載《華中科技大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2022 年第5 期，第60-69+89 頁(yè)。全自動(dòng)化算法行政即為技術(shù)理性占據(jù)主導(dǎo)地位的行政活動(dòng)方式，此時(shí)需特別注意算法的運(yùn)作邏輯，以防止“算法官僚”現(xiàn)象的出現(xiàn)，從而造成算法歧視等不公正的社會(huì)問(wèn)題。

二、算法行政對(duì)行政正當(dāng)程序的沖擊

“權(quán)力行使高效化，權(quán)利保障卻邊緣化?！雹庵芪那澹骸哆^(guò)程論視野下自動(dòng)化行政行為的司法審查——以道路交通非現(xiàn)場(chǎng)執(zhí)法時(shí)空情境分析為視角》，載《行政法學(xué)研究》第2022 第1 期，第105-118 頁(yè)。數(shù)字技術(shù)的持續(xù)更新?lián)Q代使得算法行政廣泛應(yīng)用于行政活動(dòng)之中，行政方式出現(xiàn)變革式的轉(zhuǎn)變，但與此同時(shí)，算法裁量代替人工決策卻無(wú)法完全掌握復(fù)雜的人類(lèi)社會(huì)的語(yǔ)言。發(fā)揮到極致的技術(shù)理性固然能夠羈束行政權(quán)力的任意性，但卻無(wú)法匹配傳統(tǒng)行政活動(dòng)的溝通理性，隨之而來(lái)的便是算法行政與傳統(tǒng)行政程序的不兼容。

（一）算法的不透明性及專(zhuān)業(yè)性沖擊行政公開(kāi)原則

行政公開(kāi)是為成就公民對(duì)行政事務(wù)的知情權(quán)和參與權(quán)而對(duì)行政機(jī)關(guān)施加的義務(wù)。行政公開(kāi)原則要求行政權(quán)力的運(yùn)行邏輯、行使過(guò)程及結(jié)果向公眾公開(kāi)，并能夠使公眾理解。然而，在算法行政的背景下，算法成為行政權(quán)力運(yùn)行的主體，算法的運(yùn)行邏輯通常不會(huì)被公開(kāi)，即便是公開(kāi)，由于算法的專(zhuān)業(yè)性，一般人幾乎不可能理解算法的運(yùn)行邏輯，就更談不上像在傳統(tǒng)行政活動(dòng)中一樣行使自己的程序性權(quán)利。

算法的不透明性基于其具有商業(yè)秘密的屬性，且可能涉及對(duì)個(gè)人隱私的侵犯。算法行政的關(guān)鍵技術(shù)前提是符合預(yù)期目的的算法系統(tǒng)。然而，當(dāng)前僅憑行政機(jī)關(guān)自身的專(zhuān)業(yè)技術(shù)和能力還遠(yuǎn)遠(yuǎn)無(wú)法滿(mǎn)足所有行政領(lǐng)域的自動(dòng)化活動(dòng)。因此，目前的算法開(kāi)發(fā)及部署主要還是通過(guò)公私合作的方式來(lái)實(shí)現(xiàn)的?參見(jiàn)王懷勇、鄧若翰：《算法行政：現(xiàn)實(shí)挑戰(zhàn)與法律應(yīng)對(duì)》，載《行政法學(xué)研究》2022 年第4 期，第104-118 頁(yè)。。2022 年，在智搜公司訴光速蝸牛公司等侵犯商業(yè)秘密糾紛案中，深圳市中級(jí)人民法院將模型選擇優(yōu)化形成的核心算法認(rèn)定為商業(yè)秘密予以保護(hù)。該案作為我國(guó)首例將算法認(rèn)定成商業(yè)秘密予以保護(hù)的案例，進(jìn)一步明確了算法的商業(yè)秘密屬性。對(duì)于企業(yè)來(lái)說(shuō)，算法具有重要的商業(yè)價(jià)值，若將其運(yùn)行邏輯及基本架構(gòu)公開(kāi)，使其暴露在競(jìng)爭(zhēng)對(duì)手的視線(xiàn)之中，則極其不利。因此，作為企業(yè)方?jīng)]有理由公開(kāi)其制定的算法，而陷于技術(shù)困境的行政機(jī)關(guān)即便想公開(kāi)算法，又不得不考慮對(duì)合作企業(yè)方商業(yè)秘密的保護(hù)。此外，公開(kāi)算法可能涉及公民知情權(quán)和隱私權(quán)之間的博弈。算法的運(yùn)作需要大量的數(shù)據(jù)輸入，其模型架構(gòu)中可能包含大量的公民的個(gè)人信息。也就是說(shuō)，將算法公開(kāi)或造成公民個(gè)人信息的集體披露，而公民的信息群又構(gòu)成一種公共利益，行政機(jī)關(guān)將陷入兩種公共利益之間取舍的困境，使其不得不更加審慎地考慮。

算法的專(zhuān)業(yè)性導(dǎo)致即便算法得以公開(kāi)，行政相對(duì)人的知情權(quán)仍得不到落實(shí)。算法的技術(shù)構(gòu)造包括輸入端、技術(shù)程序?qū)蛹拜敵龆?。整體而言，算法運(yùn)行過(guò)程涉及大量的數(shù)據(jù)信息及精密的分析方法，并且以計(jì)算機(jī)語(yǔ)言的形式呈現(xiàn)。因此，對(duì)于大多數(shù)人來(lái)說(shuō)算法行政就是難以理解的技術(shù)“黑箱”。盡管早在2017 年《新一代人工智能發(fā)展規(guī)劃》中指出要“實(shí)現(xiàn)對(duì)人工智能算法設(shè)計(jì)等程序的全流程監(jiān)管”，但對(duì)于受數(shù)字素養(yǎng)限制而被排除在算法“黑箱”之外的普通民眾而言也僅是泛泛而談?！八惴ê谙涞拇嬖谑沟盟惴┒础⑺惴ㄈ毕莸靡噪[藏，一旦算法在數(shù)據(jù)、模型、方法等方面出現(xiàn)問(wèn)題，算法應(yīng)用結(jié)果將會(huì)與應(yīng)用目標(biāo)相悖?！?譚九生、范曉韻：《算法“黑箱”的成因、風(fēng)險(xiǎn)及其治理》，載《湖南科技大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2020 年第6 期，第92-99 頁(yè)。因此，在算法所營(yíng)造的隱秘空間內(nèi)，相對(duì)人缺乏算法的知識(shí)譜系，逐漸喪失原有的知情權(quán)所要求的心理能力，也就難以判斷行政主體是否仍在遵循普遍已知的和通常理解的行政權(quán)力行使規(guī)范?參見(jiàn)程關(guān)松、苗運(yùn)衛(wèi)：《相對(duì)人參與算法行政的困境與出路》，載《東南法學(xué)》2021 年第2 期，第43-57 頁(yè)。。

（二）算法歧視撼動(dòng)行政公正原則

行政公正要求行政機(jī)關(guān)在行政權(quán)力行使的全過(guò)程中平等對(duì)待每一個(gè)相對(duì)人，不論其身份、民族、性別和宗教等。行政公正原則的邏輯起點(diǎn)在于行政機(jī)關(guān)在行使公權(quán)力時(shí)享有自由裁量權(quán)，但該自由裁量權(quán)要受到正義與道德倫理的限制。算法時(shí)代的到來(lái)，使得部分自由裁量權(quán)轉(zhuǎn)交由算法行使。算法行政的預(yù)設(shè)目的是提升行政效率，運(yùn)用非情感導(dǎo)向的數(shù)字處理技術(shù)來(lái)減輕過(guò)多的行政負(fù)擔(dān)。因此，技術(shù)中立的算法被認(rèn)為在行政決策中是比行政人員更為公正的存在。然而，實(shí)踐卻證明即使是沒(méi)有感情的算法，同樣也存在歧視與偏見(jiàn)。例如，臉書(shū)（Facebook）的廣告管理系統(tǒng)（Ads Manager）傾向性地向某種特定性別或特定種族群體投放特定的廣告。

算法歧視的產(chǎn)生有多重原因。一是算法設(shè)計(jì)者本身的偏見(jiàn)。算法的數(shù)據(jù)處理邏輯歸根結(jié)底由人輸入。因此，在算法設(shè)計(jì)者設(shè)計(jì)算法時(shí)就存在將其本身的偏見(jiàn)植入算法當(dāng)中。帶有偏見(jiàn)的算法用歧視的角度處理行政過(guò)程，那么行政結(jié)果往往也難以得到保障。但又由于算法的技術(shù)隱秘性，此種算法歧視又難以發(fā)現(xiàn)。二是數(shù)據(jù)偏差。行政決策的作出需要適量的數(shù)據(jù)“喂養(yǎng)”?；跈C(jī)器學(xué)習(xí)系統(tǒng)，在接收大量數(shù)據(jù)之后會(huì)形成對(duì)特定事件處理的特定模式。如此一來(lái)，未被數(shù)據(jù)采樣的部分可能會(huì)被無(wú)差別地適用到既有的特定模式當(dāng)中，成為被歧視的對(duì)象。當(dāng)前的算法缺少?lài)?yán)格的數(shù)據(jù)過(guò)濾及篩選的功能，歧視性的數(shù)據(jù)信息往往無(wú)法被提前識(shí)別或抹除，反而進(jìn)一步出現(xiàn)在多種交互性場(chǎng)合，這將導(dǎo)致更加嚴(yán)重的算法歧視問(wèn)題?參見(jiàn)朱寶麗：《數(shù)據(jù)正義、算法歧視與規(guī)制》，載《征信》2023 年第3 期，第8-12 頁(yè)。。三是算法學(xué)習(xí)產(chǎn)生的偏見(jiàn)。對(duì)于機(jī)器自主學(xué)習(xí)的算法，其深度有時(shí)設(shè)計(jì)者自身都無(wú)法預(yù)估。算法具有技術(shù)中立性，而人類(lèi)社會(huì)卻充滿(mǎn)著傲慢與偏見(jiàn)。如果不對(duì)機(jī)器學(xué)習(xí)過(guò)程加以嚴(yán)格的監(jiān)控和把關(guān)，其發(fā)展到何種程度是難以預(yù)估的。據(jù)法國(guó)BFMTV 報(bào)道，ChatGPT 被人類(lèi)“挑戰(zhàn)權(quán)威”時(shí)，不僅會(huì)生氣，甚至?xí)鲅晕耆栌脩?hù)?參見(jiàn)《ChatGPT“學(xué)壞了？“虛擬朋友”發(fā)飆罵人、還性騷擾！歐盟即將立法監(jiān)管》，載網(wǎng)易網(wǎng)，https：//www.163.com/dy/article/HTSQN1360514BTOD.html，2023 年6 月27 日訪(fǎng)問(wèn)。。

任何技術(shù)都無(wú)法保證自身的絕對(duì)穩(wěn)定，算法基于其本身的技術(shù)缺陷導(dǎo)致其無(wú)法在所有行政決策中都做到公正對(duì)待。算法歧視必然造成個(gè)案的不公，每一個(gè)具體個(gè)案的不公通過(guò)疊加會(huì)導(dǎo)致群體的不公，亦會(huì)增加社會(huì)的不穩(wěn)定因素?參見(jiàn)崔冬、楊兆圓：《自動(dòng)化行政對(duì)行政正當(dāng)程序的挑戰(zhàn)與對(duì)策》，載《寶雞文理學(xué)院學(xué)報(bào)（社會(huì)科學(xué)版）》2023年第2 期，第43-49 頁(yè)。。故此，算法歧視對(duì)行政公正造成的動(dòng)搖問(wèn)題亟待解決。

（三）算法的封閉性動(dòng)搖行政參與原則

行政參與原則是民主原則在行政法中的體現(xiàn)，旨在行政相對(duì)人能在行政決策中施加影響力，對(duì)行政行為進(jìn)行監(jiān)督，對(duì)于不正當(dāng)?shù)暮蠊枰约m正。隨著民主思想深入人心及行政觀(guān)念的轉(zhuǎn)變，政府的職能與地位發(fā)生轉(zhuǎn)變，政府不再僅是管理者，而且還是服務(wù)者。行政權(quán)力的強(qiáng)制屬性慢慢地被合作治理理念所柔性化。而在行政權(quán)行使中貫徹合作要素的關(guān)鍵便是切實(shí)地保障行政相對(duì)人的行政參與權(quán)。行政參與的關(guān)鍵要素是政府與相對(duì)人的雙向互動(dòng)。相對(duì)人“合理期待”的實(shí)現(xiàn)需通過(guò)參與行政過(guò)程， 行政決策中相對(duì)人參與權(quán)的行使是一個(gè)利益整合與協(xié)調(diào)過(guò)程， 而這個(gè)過(guò)程必然是在行政機(jī)關(guān)和相對(duì)人的良性互動(dòng)中實(shí)現(xiàn)的?參見(jiàn)王學(xué)輝、王亞棟：《行政法治中實(shí)質(zhì)性公眾參與的界定與構(gòu)建》，載《法治研究》2019 年第2 期，第50-59 頁(yè)。。行政相對(duì)人在行政過(guò)程中提出陳述、進(jìn)行辯論是行政機(jī)關(guān)和相對(duì)人實(shí)現(xiàn)良性互動(dòng)最為重要的方式。行政相對(duì)人在行政機(jī)關(guān)作出行政決策（尤其是對(duì)自身不利的行政決策）中表達(dá)意見(jiàn)，形成約束行政權(quán)力濫用可能性的外在力量，從而提升行政決策的透明度、公正性和接受度?參見(jiàn)前注?，程關(guān)松、苗運(yùn)衛(wèi)文，第43-57 頁(yè)。。

在傳統(tǒng)的行政活動(dòng)當(dāng)中，行政機(jī)關(guān)在作出行政決策前應(yīng)當(dāng)聽(tīng)取行政相對(duì)人的意見(jiàn)，通常是行政機(jī)關(guān)的工作人員與行政相對(duì)人之間的當(dāng)面交談或是書(shū)面形式進(jìn)行。而基于算法決策的自動(dòng)化行政方式，由于其機(jī)械計(jì)算的瞬時(shí)性，行政過(guò)程通常是輸入數(shù)據(jù)——分析數(shù)據(jù)——輸出結(jié)果的無(wú)縫銜接閉環(huán)，導(dǎo)致相對(duì)人無(wú)法在行政決策中發(fā)表意見(jiàn)。此外，行政機(jī)關(guān)在傳統(tǒng)行政過(guò)程中的說(shuō)明理由義務(wù)往往也會(huì)因算法不具備可解釋性而大打折扣。因此，在行政決策中，算法總是掌握著話(huà)語(yǔ)主導(dǎo)權(quán)，相對(duì)人的參與權(quán)存在被架空的風(fēng)險(xiǎn)。盡管算法加持的自動(dòng)化行政方式在諸多方面給行政機(jī)關(guān)及相對(duì)人帶來(lái)便捷，但人類(lèi)情感的復(fù)雜性注定使人機(jī)互動(dòng)在某些方面無(wú)法替代人與人之間的互動(dòng)。

三、算法行政的程序保障完善路徑

在便利與風(fēng)險(xiǎn)并存的算法時(shí)代，必須時(shí)刻關(guān)注著公民的權(quán)利在時(shí)代洪流中是否得到彰顯。算法行政對(duì)行政正當(dāng)程序原則帶來(lái)的沖擊伴隨著的是行政相對(duì)人程序權(quán)利的缺失。因此，為完善算法行政的程序保障，彌補(bǔ)行政相對(duì)人程序權(quán)利的缺失，有必要通過(guò)增強(qiáng)算法行政透明程度，限制算法行政裁量空間及開(kāi)放算法行政全過(guò)程以改進(jìn)算法行政的程序路徑。

（一）增強(qiáng)算法行政透明程度落實(shí)行政公開(kāi)

1.構(gòu)建算法披露機(jī)制增強(qiáng)算法的透明度。算法披露機(jī)制是指行政機(jī)關(guān)將算法的邏輯結(jié)構(gòu)以自然語(yǔ)言的形式進(jìn)行有意義的披露，使行政相對(duì)人知曉算法在行政活動(dòng)中進(jìn)行決策的依據(jù)，以增強(qiáng)算法透明度的機(jī)制。透明化的行政活動(dòng)是公民參與合作治理的前提與基礎(chǔ)。將算法進(jìn)行有意義的披露可以達(dá)到行政公開(kāi)原則的要求，使相對(duì)人的知情權(quán)得到保障。有意義的算法披露不是簡(jiǎn)單地將代碼與數(shù)據(jù)公開(kāi)，而是要達(dá)到相對(duì)人知悉的程度，因此算法披露需達(dá)到一定的技術(shù)性標(biāo)準(zhǔn)。2021 年9 月29 日，國(guó)家網(wǎng)信辦等九部委聯(lián)合制定的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》中強(qiáng)調(diào)了算法自動(dòng)化決策的披露要求，要求引導(dǎo)算法應(yīng)用公平公正，透明可釋?zhuān)募?dāng)中大多是原則性的要求。因此，目前我國(guó)的算法披露機(jī)制仍缺乏具體可操作性的規(guī)定。對(duì)此，應(yīng)盡快明確算法披露的標(biāo)準(zhǔn)化技術(shù)規(guī)定?！八惴ň唧w透明要求在算法‘透明可釋’原則基礎(chǔ)上，對(duì)算法的運(yùn)行邏輯、運(yùn)行結(jié)果、算法參數(shù)和影響因子等予以公開(kāi)?！?靳雨露：《算法披露的域外經(jīng)驗(yàn)與啟示》，載《情報(bào)雜志》2022 年第7 期，第91-99 頁(yè)。對(duì)于算法行政而言，算法披露的內(nèi)容至少應(yīng)當(dāng)包括算法的法律授權(quán)、技術(shù)規(guī)范、預(yù)期目標(biāo)、適用范圍、對(duì)行政相對(duì)人及利害關(guān)系人可能造成的不利后果及算法合理性評(píng)估過(guò)程等。

2.構(gòu)建算法解釋機(jī)制增強(qiáng)算法的可釋義性。《中華人民共和國(guó)個(gè)人信息保護(hù)法》（以下簡(jiǎn)稱(chēng)《個(gè)人信息保護(hù)法》）第48 條規(guī)定：“個(gè)人有權(quán)要求個(gè)人信息處理者對(duì)其個(gè)人信息處理規(guī)則進(jìn)行解釋說(shuō)明。”這是個(gè)人信息保護(hù)領(lǐng)域?yàn)榱舜_保公民能夠理解個(gè)人信息處理規(guī)則所設(shè)定的應(yīng)對(duì)措施。因?yàn)榧幢阍谝?guī)則公開(kāi)的情況下（即便已轉(zhuǎn)化為自然語(yǔ)言），公民也有可能不能準(zhǔn)確地把握其含義，這時(shí)就需要對(duì)規(guī)則進(jìn)行解釋說(shuō)明。因此，只要有專(zhuān)業(yè)性的算法處理存在的領(lǐng)域，就存在即使公開(kāi)規(guī)則卻仍然無(wú)法理解的情況，而在算法行政領(lǐng)域，亦是如此。在傳統(tǒng)行政中，行政機(jī)關(guān)對(duì)行政相對(duì)人作出不利決定時(shí)，行政相對(duì)人通?？梢笮姓C(jī)關(guān)作出解釋。因此，可借鑒《個(gè)人信息保護(hù)法》第48條的規(guī)定，在算法行政中引入算法解釋機(jī)制，以確保算法公開(kāi)能落到實(shí)處。算法解釋機(jī)制遵循著以權(quán)利制約權(quán)力的邏輯，是矯正信息不對(duì)稱(chēng)，促進(jìn)平等、正義價(jià)值實(shí)現(xiàn)的工具?參見(jiàn)何新新：《算法解釋權(quán)的證成與限定》，載《大連理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2023 年第3 期，第65-73 頁(yè)。。算法解釋機(jī)制主要包括解釋主體、解釋內(nèi)容及解釋標(biāo)準(zhǔn)三個(gè)方面。在解釋主體方面，鑒于行政機(jī)關(guān)的算法技術(shù)支持通常來(lái)源于第三方企業(yè)，因此算法解釋主體應(yīng)包括行政主體及算法開(kāi)發(fā)主體，如此一來(lái)，可預(yù)防算法開(kāi)發(fā)主體只管開(kāi)發(fā)、逃逸責(zé)任的情況。在解釋內(nèi)容方面，結(jié)合前述算法披露的內(nèi)容，算法開(kāi)發(fā)主體應(yīng)對(duì)數(shù)據(jù)的收集和使用、算法設(shè)計(jì)的基本原理、算法程序運(yùn)行目的、原理以及算法標(biāo)準(zhǔn)等技術(shù)規(guī)范作出解釋?zhuān)姓C(jī)關(guān)則對(duì)算法決策的法律依據(jù)進(jìn)行解釋?zhuān)郧笙惴ㄒ?guī)則的歧義，增強(qiáng)相對(duì)人的可接受性。在解釋標(biāo)準(zhǔn)方面，歐盟《一般數(shù)據(jù)保護(hù)條例》中提出的“向數(shù)據(jù)主體提供與算法邏輯相關(guān)的有意義信息”?胡嘉妮、葛明瑜譯：歐盟《一般數(shù)據(jù)保護(hù)條例》，載《互聯(lián)網(wǎng)金融法律評(píng)論》2017 年第1 期，第28-120 頁(yè)?？蔀樗惴ń忉寵C(jī)制提供借鑒。行政相對(duì)人對(duì)算法決策規(guī)則提出解釋要求時(shí)，通常是在算法行政可能侵害其合法權(quán)益的情況?；诖耍坝幸饬x的信息”至少是與行政相對(duì)人合法權(quán)益相關(guān)的。除此之外，還要保證算法解釋的可理解性與可接受性。

（二）限制算法行政裁量空間保障行政公正

1.確保算法裁量正當(dāng)保障整體公正。根據(jù)算法決策系統(tǒng)的自動(dòng)化程度的不同，可將其分為基于規(guī)則的專(zhuān)家系統(tǒng)與基于機(jī)器學(xué)習(xí)的算法系統(tǒng)?See Monika Zalnieriute, lyria Bennett Moses ＆ George Williams, The Rule of Law and Automation of Government Decisionmaking, The modern law review, Vol.3, p.425-455（2019）.?；谝?guī)則的專(zhuān)家系統(tǒng)將數(shù)據(jù)輸入預(yù)先設(shè)定的規(guī)則并得出結(jié)果，其基本的邏輯形式是“如果—那么”邏輯。例如樂(lè)山市城管局自助開(kāi)發(fā)的“智能評(píng)判系統(tǒng)”對(duì)違法行為26 個(gè)裁量基準(zhǔn)因素和減輕從輕處罰11 個(gè)判別因素進(jìn)行識(shí)別、統(tǒng)計(jì)、疊加，最終得出違法程度和處罰階次?參見(jiàn)《首創(chuàng)！市城管局建設(shè)行政處罰裁量智能評(píng)判系統(tǒng)上線(xiàn)！》，載樂(lè)山市人民政府網(wǎng)，https：//www.leshan.gov.cn/lsswszf/bmdtthr/202304/23238315c0774f14b1f4e098a7fbf64e.shtml，2023 年6 月27 日訪(fǎng)問(wèn)。。為排除基于規(guī)則的專(zhuān)家系統(tǒng)的算法歧視，保障行政公正，應(yīng)當(dāng)對(duì)預(yù)設(shè)規(guī)則——即行政裁量基準(zhǔn)進(jìn)行規(guī)制。首先，要評(píng)估裁量基準(zhǔn)的合理性，審查其規(guī)范邏輯是否存在偏見(jiàn)的前提。其次，要盡可能地將裁量基準(zhǔn)細(xì)化，以追求結(jié)果一致性，保證同案同判?；跈C(jī)器學(xué)習(xí)的算法系統(tǒng)并不是人工預(yù)先輸入的固定程序及范式，而是對(duì)海量數(shù)據(jù)的發(fā)掘再據(jù)此作出決斷?；跈C(jī)器學(xué)習(xí)的算法系統(tǒng)“不僅可以完成效果裁量，尚可以不斷完善、充實(shí)裁量規(guī)則，尋求最優(yōu)的裁量結(jié)果”?王正鑫：《機(jī)器何以裁量：行政處罰裁量自動(dòng)化及其風(fēng)險(xiǎn)控制》，載《行政法學(xué)研究》2022 年第2 期，第166-176 頁(yè)。。能夠不斷自我更新完善是基于機(jī)器學(xué)習(xí)的算法系統(tǒng)的優(yōu)勢(shì)所在，但同時(shí)也會(huì)因決策能力的發(fā)展而導(dǎo)致決策結(jié)果沖出正當(dāng)邊界。對(duì)此，應(yīng)當(dāng)引入對(duì)基于機(jī)器學(xué)習(xí)的算法系統(tǒng)的專(zhuān)家審查機(jī)制，深入持續(xù)跟蹤算法系統(tǒng)，及時(shí)發(fā)現(xiàn)其缺陷并進(jìn)行修正。

2.健全人工干預(yù)機(jī)制保障個(gè)案公正。行使行政裁量權(quán)時(shí)，需在事實(shí)與規(guī)范之間不斷地審視，結(jié)合個(gè)人的特殊情況進(jìn)行衡平，而算法決策實(shí)難做到這點(diǎn)。無(wú)論是基于規(guī)則的專(zhuān)家系統(tǒng)還是基于機(jī)器學(xué)習(xí)的算法系統(tǒng)，因其關(guān)注點(diǎn)是既定的規(guī)則或過(guò)去的數(shù)據(jù)，故審視“未來(lái)的”案件時(shí)很可能帶入先驗(yàn)的偏見(jiàn)導(dǎo)致無(wú)法保障個(gè)案公正。換言之，在算法自動(dòng)化裁量過(guò)程中，算法無(wú)法在無(wú)數(shù)個(gè)差異的個(gè)案當(dāng)中靈活變通，也難以總結(jié)出新的經(jīng)驗(yàn)保障下一個(gè)個(gè)案的公正解決。因此，“需要建立系統(tǒng)裁量偏差的預(yù)警識(shí)別機(jī)制以及特定情形下的人工介入機(jī)制”?杜昕怡、肖澤晟：《人工智能算法輔助行政決策的法治風(fēng)險(xiǎn)及其化解路徑》，載《學(xué)習(xí)論壇》2023 年第3 期，第122-130 頁(yè)。。首先，要塑造服務(wù)行政的理念。在我國(guó)算法行政運(yùn)行的過(guò)程中人工干預(yù)機(jī)制之所以長(zhǎng)期缺位，與對(duì)待算法行政的理念存有偏差不無(wú)關(guān)系?施立棟：《自動(dòng)化行政中的人工干預(yù)機(jī)制：以公安領(lǐng)域?yàn)槔?，載《中國(guó)社會(huì)科學(xué)院大學(xué)學(xué)報(bào)》2022 年第6 期，第83-99+165 頁(yè)。。若不塑造服務(wù)行政的理念，算法行政的技術(shù)理性只會(huì)侵蝕行政公開(kāi)，僅僅將行政相對(duì)人當(dāng)作“流水線(xiàn)”上的處理對(duì)象對(duì)待。其次，要開(kāi)發(fā)切實(shí)可行的系統(tǒng)裁量偏差預(yù)警識(shí)別技術(shù)。例如，可建立類(lèi)案偏差預(yù)警機(jī)制。當(dāng)算法行政對(duì)個(gè)案作出嚴(yán)重偏離類(lèi)案結(jié)果一致性的裁斷時(shí)，則可提示人工介入。最后，要賦予行政機(jī)關(guān)主動(dòng)介入人工干預(yù)算法決策的權(quán)限。使算法裁量發(fā)生偏差時(shí)，行政機(jī)關(guān)工作人員享有介入、撤回及修正的權(quán)限，視具體情況進(jìn)行靈活處理。

（三）開(kāi)放算法行政全過(guò)程確保行政參與

公眾參與是民主政治中不可或缺的范疇。在任一行政法治政府作出重大決策之前，都將通過(guò)充分的公眾參與以保證潛在的利益相關(guān)團(tuán)體的發(fā)言權(quán)，從而使其作出的行政決策更具科學(xué)性及有效性。算法行政實(shí)質(zhì)上也是權(quán)力裁量的過(guò)程?；谒惴夹g(shù)的不斷更迭導(dǎo)致其將擴(kuò)充至更多重要的公共行政領(lǐng)域，有必要在算法行政全過(guò)程中確保公眾的行政參與。

1.在算法行政啟動(dòng)階段引入公眾參與。算法行政啟動(dòng)的物質(zhì)前提是具有能夠承載算法的自動(dòng)化設(shè)備。自動(dòng)化設(shè)備不同于政府機(jī)關(guān)采購(gòu)的其他商品或服務(wù)，它將顛覆式地變更政府行政活動(dòng)的方式，以代替人工的形式跨越內(nèi)部直接影響到行政相對(duì)人的合法權(quán)益?參見(jiàn)關(guān)保英、汪駿良：《行政處罰中自動(dòng)化方式適用的程序控制構(gòu)建》，載《青海社會(huì)科學(xué)》2021 年第6 期，第150-159 頁(yè)。。除此之外，若自動(dòng)化設(shè)備投入后，出現(xiàn)算法運(yùn)算錯(cuò)誤對(duì)行政相對(duì)人權(quán)益造成減損的情況，基于其計(jì)算過(guò)程的瞬時(shí)性，行政相對(duì)人將難以參與其中。故此，有必要在算法自動(dòng)化設(shè)備采購(gòu)環(huán)節(jié)中引入公眾參與機(jī)制。具體而言，可要求行政機(jī)關(guān)在設(shè)備選擇環(huán)節(jié)公開(kāi)自動(dòng)化設(shè)備的參數(shù)、性能特點(diǎn)以及可能對(duì)行政相對(duì)人權(quán)益造成的正面或負(fù)面的影響等因素，公眾可針對(duì)行政機(jī)關(guān)公開(kāi)的內(nèi)容進(jìn)行問(wèn)詢(xún)和質(zhì)疑，行政機(jī)關(guān)應(yīng)當(dāng)對(duì)此作出答復(fù)。

2.在算法行政運(yùn)行階段引入公眾參與。欲破解算法代替人工作出行政決定具有瞬時(shí)性導(dǎo)致行政相對(duì)人難以參與行政過(guò)程的困境，就要特別注重行政相對(duì)人對(duì)行政過(guò)程參與權(quán)的保障。第一，為避免算法自動(dòng)化行政行為直接作用于行政相對(duì)人的權(quán)利義務(wù)，應(yīng)確保算法決策的有效告知。有效告知的標(biāo)準(zhǔn)應(yīng)包括告知內(nèi)容全面、告知時(shí)限及時(shí)和告知方式合理等。首先，告知內(nèi)容全面要求告知的內(nèi)容不僅包括行政決定事實(shí)認(rèn)定與法律依據(jù)，還應(yīng)包括作出行政決定的算法邏輯。如此一來(lái)，不僅可以確保行政相對(duì)人在行政決定中的具體程序權(quán)利，還可強(qiáng)化其對(duì)算法決策本身的抽象性監(jiān)督。其次，告知時(shí)限及時(shí)要求算法在行政決定特別是損益性行政決定生效前要切實(shí)地通知行政相對(duì)人，允許行政相對(duì)人與算法權(quán)力主體商榷，否則行政相對(duì)人的后續(xù)參與就無(wú)法發(fā)揮實(shí)質(zhì)作用。最后，告知方式合理要求采用能夠切實(shí)送達(dá)行政相對(duì)人的告知方式。行政機(jī)關(guān)應(yīng)考慮不同行政相對(duì)人的數(shù)字素養(yǎng)，采用電子送達(dá)形式時(shí)要預(yù)先取得同意，且采取告知之后確保行政相對(duì)人已收悉的措施。第二，要保障行政相對(duì)人陳述與申辯的權(quán)利。當(dāng)前的人工智能技術(shù)盡管能夠做到與人類(lèi)進(jìn)行對(duì)話(huà)交流的程度，但其終究沒(méi)有人類(lèi)的情感，無(wú)法考慮到個(gè)案中的衡平因素。故此，欲保障行政相對(duì)人的陳述與申辯的權(quán)利，雙向交流論證環(huán)節(jié)仍需回歸傳統(tǒng)行政的方式。對(duì)此，可設(shè)置人工客服，以此保證行政機(jī)關(guān)與相對(duì)人的有效交流。

3.在算法行政反思階段引入公眾參與?！叭绻f(shuō)算法透明度和可解釋性的要求是以過(guò)程控制結(jié)果的機(jī)制設(shè)計(jì)的話(huà)，那么算法影響評(píng)估機(jī)制則是典型的‘過(guò)程+結(jié)果’ 控制型制度工具”?郭春鎮(zhèn)、勇琪：《算法的程序正義》，載《中國(guó)政法大學(xué)學(xué)報(bào)》2023 第1 期，第164-180 頁(yè)。。算法影響評(píng)估機(jī)制在結(jié)果上對(duì)算法行政運(yùn)作過(guò)程進(jìn)行風(fēng)險(xiǎn)把控，并以此作為改進(jìn)的前提，是算法行政最后環(huán)節(jié)中的重要反思機(jī)制。而社會(huì)公眾作為算法自動(dòng)化行政的最終承受者，來(lái)自他們的反饋信息是算法優(yōu)化與改進(jìn)的重要依據(jù)?張紅春、宋洪：《從排斥到包容公眾：參與式政府算法治理的邏輯與進(jìn)路》，載《貴州大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2023 年第2 期，第33-44 頁(yè)。。首先，可通過(guò)公眾調(diào)查的形式吸收公眾意見(jiàn)。數(shù)字化背景下的公眾調(diào)查可采取線(xiàn)上問(wèn)卷、線(xiàn)上留言以及意見(jiàn)征集等多種方式，其既具有較低的實(shí)施成本與公眾參與成本，又可廣泛收集公眾意見(jiàn)?；诠娬{(diào)查的隨機(jī)性與廣泛性，行政機(jī)關(guān)可接收到較為全面的算法行政的反饋信息。其次，可通過(guò)聽(tīng)證的形式加強(qiáng)政民雙向交流。聽(tīng)證是較為高效的雙向交流形式。可有針對(duì)性地邀請(qǐng)算法行政利益相關(guān)團(tuán)體參與聽(tīng)證，長(zhǎng)期與某一領(lǐng)域算法行政打交道的群體往往能提出建設(shè)性的改進(jìn)意見(jiàn)。