自動(dòng)化公共信用評(píng)價(jià)的程序控制
——以技術(shù)性正當(dāng)程序?yàn)橐暯?/h1>
2022-11-08 09:56:25張濤
湖北社會(huì)科學(xué) 2022年3期 關(guān)鍵詞：評(píng)價(jià)系統(tǒng)
張濤
一、問(wèn)題的提出
大數(shù)據(jù)、算法等技術(shù)的快速發(fā)展和廣泛運(yùn)用，使人類社會(huì)進(jìn)入了一個(gè)“被算法操控生活”的時(shí)代。在私人生活中，算法決策在個(gè)人的求職、消費(fèi)、出行、社交、愛(ài)好等方面發(fā)揮著越來(lái)越重要的作用。在公共行政中，政府決策的自動(dòng)化程度越來(lái)越高，行政機(jī)關(guān)運(yùn)用算法來(lái)預(yù)測(cè)打擊犯罪、評(píng)估社會(huì)風(fēng)險(xiǎn)、監(jiān)控環(huán)境污染風(fēng)險(xiǎn)、治理城市交通擁堵等。由于政府決策通常會(huì)對(duì)不確定多數(shù)人的合法權(quán)益產(chǎn)生重大影響，因此，算法自動(dòng)化決策系統(tǒng)在政府決策中的運(yùn)用引發(fā)了廣泛的關(guān)注。
在信用規(guī)制實(shí)踐中，算法自動(dòng)化決策系統(tǒng)廣泛運(yùn)用于信用規(guī)制活動(dòng)中，尤其是個(gè)人和組織的公共信用評(píng)價(jià)，絕大多數(shù)都是基于算法自動(dòng)化決策系統(tǒng)而開(kāi)發(fā)和運(yùn)行的。換言之，在信用規(guī)制中，自動(dòng)化公共信用評(píng)價(jià)已逐漸成為一種主要趨勢(shì)。由于算法自動(dòng)化決策系統(tǒng)普遍存在不透明性、自動(dòng)性、高度復(fù)雜性和模糊性等特征，這給傳統(tǒng)的法律程序帶來(lái)了挑戰(zhàn)，使得很多程序性權(quán)利難以實(shí)現(xiàn)。對(duì)此，理論界提出了許多規(guī)制策略，部分學(xué)者主張應(yīng)當(dāng)采取“適應(yīng)性正當(dāng)程序”（adaptable due process）理念，對(duì)正當(dāng)法律程序進(jìn)行改革和創(chuàng)新，使其能夠應(yīng)對(duì)算法自動(dòng)化決策系統(tǒng)帶來(lái)的挑戰(zhàn)。在法治政府建設(shè)、行政法典的制定以及對(duì)自動(dòng)化行政的法律控制上，學(xué)者也主張應(yīng)當(dāng)采取一種程序主義進(jìn)路。
自動(dòng)化公共信用評(píng)價(jià)是自動(dòng)化行政的縮影和實(shí)踐，如何通過(guò)一種程序主義進(jìn)路使其實(shí)現(xiàn)法治化成為當(dāng)下亟待解決的課題。鑒于此，本文以自動(dòng)化公共信用評(píng)價(jià)為研究對(duì)象，以捍衛(wèi)公民的程序基本權(quán)為價(jià)值支撐，剖析自動(dòng)化公共信用評(píng)價(jià)的實(shí)踐樣態(tài)及產(chǎn)生的法律效果，進(jìn)而指出其帶來(lái)的挑戰(zhàn)，并提出在自動(dòng)化公共信用評(píng)價(jià)中落實(shí)“技術(shù)性正當(dāng)程序”的建議。
二、算法自動(dòng)化決策在公共信用評(píng)價(jià)中的應(yīng)用
近年來(lái)，受大數(shù)據(jù)、算法等技術(shù)的影響，傳統(tǒng)消費(fèi)者信用評(píng)價(jià)系統(tǒng)不斷進(jìn)行技術(shù)迭代。“所有數(shù)據(jù)都是信用數(shù)據(jù)”（all data is credit data）已經(jīng)成為信用評(píng)分行業(yè)的重要口號(hào)，利用大數(shù)據(jù)技術(shù)、算法自動(dòng)化決策系統(tǒng)等技術(shù)，可將傳統(tǒng)的信用信息與個(gè)人的線下信息、網(wǎng)絡(luò)中爬取的數(shù)千個(gè)數(shù)據(jù)點(diǎn)結(jié)合起來(lái)，形成所謂的“大數(shù)據(jù)信用評(píng)分”（big-data credit scor?ing）。公共信用評(píng)價(jià)深受傳統(tǒng)消費(fèi)者信用評(píng)價(jià)的影響，其采用的技術(shù)系統(tǒng)與后者密切相關(guān)。
（一）何為算法自動(dòng)化決策
算法自動(dòng)化決策系統(tǒng)是使用復(fù)雜的數(shù)學(xué)算法來(lái)識(shí)別大型數(shù)據(jù)集中“有意義的關(guān)系”和“可能的模式”。例如，算法可以分析眾多變量，包括互聯(lián)網(wǎng)瀏覽行為、消費(fèi)歷史、居住地郵編、就業(yè)經(jīng)歷、教育背景、工資水平和家庭關(guān)系等，來(lái)預(yù)測(cè)具有特定特征的人成為高效員工、失信對(duì)象、有效領(lǐng)導(dǎo)者或合格醫(yī)療服務(wù)對(duì)象的可能性。從這個(gè)意義上看，算法可以描述為任何輸入一些值或一組值并輸出一些值或一組值的定義明確的計(jì)算程序。即，算法就是將輸入轉(zhuǎn)換為輸出的一系列計(jì)算步驟。以復(fù)雜程度為標(biāo)準(zhǔn)，算法可以分為用于解決簡(jiǎn)單、定義明確的問(wèn)題和用于解決復(fù)雜、定義不清的問(wèn)題。其中，將定義明確的問(wèn)題稱為結(jié)構(gòu)化問(wèn)題，定義不明的問(wèn)題稱為非結(jié)構(gòu)化問(wèn)題。由于結(jié)構(gòu)化問(wèn)題沒(méi)有內(nèi)在的隨機(jī)性和不確定性，因此，用于解決結(jié)構(gòu)化問(wèn)題的算法一般都是固定不變的，不會(huì)因輸入變量的不同而改變。非結(jié)構(gòu)化問(wèn)題的基礎(chǔ)過(guò)程以及輸入數(shù)據(jù)都存在不確定性，即，一個(gè)非結(jié)構(gòu)化問(wèn)題可以有多個(gè)“正確”答案，其中一些答案可能比其他答案更好。在此情況下，用于得出解決方案或輸出的公式通常不是一成不變的，可以根據(jù)輸入數(shù)據(jù)的不同而改變。
（二）我國(guó)自動(dòng)化公共信用評(píng)價(jià)的實(shí)踐
公共信用評(píng)價(jià)也稱公共信用評(píng)級(jí)，作為信用規(guī)制的中間環(huán)節(jié)，它是在信用信息的基礎(chǔ)上展開(kāi)的。公共信用評(píng)價(jià)結(jié)果既是信用公示的內(nèi)容之一，也是信用應(yīng)用（激勵(lì)、懲戒或者分級(jí)分類監(jiān)管）的重要參考依據(jù)。關(guān)于公共信用評(píng)價(jià)的確切內(nèi)涵，目前還存在爭(zhēng)議。有觀點(diǎn)認(rèn)為，信用評(píng)價(jià)是指行政主體基于歸集而來(lái)的信用信息，根據(jù)一定的評(píng)價(jià)標(biāo)準(zhǔn)和程序，對(duì)相對(duì)人的信用狀況進(jìn)行評(píng)價(jià)的行政活動(dòng)。國(guó)家標(biāo)準(zhǔn)《信用基本術(shù)語(yǔ)》（GB/T 22117—2018）則將“信用評(píng)分”界定為根據(jù)信息主體的信用信息，運(yùn)用統(tǒng)計(jì)和其他方法，建立信用評(píng)分模型，對(duì)信用主體的信用進(jìn)行評(píng)價(jià)，并用分?jǐn)?shù)的形式表現(xiàn)出來(lái)的活動(dòng)。本文所指的公共信用評(píng)價(jià)主要是指行政主體根據(jù)特定的標(biāo)準(zhǔn)，依靠大數(shù)據(jù)、算法等技術(shù)手段，對(duì)信用主體的信用狀況進(jìn)行綜合評(píng)價(jià)，并用簡(jiǎn)單明了的符號(hào)加以表達(dá)。
理論上，信用評(píng)價(jià)制度的形成與發(fā)展和聲譽(yù)理論密切相關(guān)。研究者認(rèn)為，在范圍較小的社會(huì)群體中，如果群體成員知道其他人過(guò)去的行為方式，良好的聲譽(yù)可以成為誠(chéng)實(shí)行為的有效紐帶，即使任何兩個(gè)特定的群體成員只是偶爾見(jiàn)面。聲譽(yù)機(jī)制可以激勵(lì)群體成員誠(chéng)實(shí)行事，通過(guò)制裁違規(guī)者，敦促群體成員改善其行為方式。信用評(píng)價(jià)制度正是一種以技術(shù)作為支撐的聲譽(yù)機(jī)制，可以激勵(lì)社會(huì)成員信守承諾，誠(chéng)實(shí)行事。作為一種“技術(shù)化”的聲譽(yù)機(jī)制，信用評(píng)價(jià)制度是信用規(guī)制的關(guān)鍵制度。2019 年7 月，國(guó)務(wù)院辦公廳印發(fā)的《關(guān)于加快推進(jìn)社會(huì)信用體系建設(shè)構(gòu)建以信用為基礎(chǔ)的新型監(jiān)管機(jī)制的指導(dǎo)意見(jiàn)》（國(guó)辦發(fā)〔2019〕35 號(hào)）明確提出“深入開(kāi)展公共信用綜合評(píng)價(jià)”，要求“依法依規(guī)整合各類信用信息，對(duì)市場(chǎng)主體開(kāi)展全覆蓋、標(biāo)準(zhǔn)化、公益性的公共信用綜合評(píng)價(jià)”。當(dāng)前，中央和地方各級(jí)政府部門均制定了大量有關(guān)信用評(píng)價(jià)的規(guī)范。在中央層面，交通運(yùn)輸部、水利部、國(guó)家稅務(wù)總局等部門分別就交通、水利、稅務(wù)等領(lǐng)域市場(chǎng)主體的信用評(píng)價(jià)制定了規(guī)范；在地方層面，與信用評(píng)價(jià)直接相關(guān)的地方規(guī)范性文件多達(dá)400 余份，涉及醫(yī)療保障、供水、園林綠化、電力交易、房地產(chǎn)開(kāi)發(fā)、公路施工、家政、旅游等眾多領(lǐng)域。從信用評(píng)價(jià)的實(shí)踐看，主要有四個(gè)特征：一是廣泛性，信用評(píng)價(jià)的對(duì)象幾乎涵蓋所有領(lǐng)域的市場(chǎng)主體；二是標(biāo)準(zhǔn)化，信用評(píng)價(jià)的標(biāo)準(zhǔn)基本上采取定量指標(biāo)，并以量化的分?jǐn)?shù)或等級(jí)作為評(píng)價(jià)結(jié)果的標(biāo)識(shí)；三是公益性，信用評(píng)價(jià)是由政府部門實(shí)施的，具有強(qiáng)烈的“公益取向性”特征；四是強(qiáng)制性，信用評(píng)價(jià)是由政府部門主動(dòng)依法實(shí)施的，不受相對(duì)人自身意愿的影響。
在我國(guó)信用規(guī)制實(shí)踐中，大數(shù)據(jù)、算法自動(dòng)化決策系統(tǒng)已被廣泛運(yùn)用于公共信用評(píng)價(jià)。從各個(gè)地方公共信用評(píng)價(jià)的實(shí)踐樣態(tài)看，目前主要是由公共部門委托私營(yíng)企業(yè)、科研機(jī)構(gòu)開(kāi)發(fā)或運(yùn)營(yíng)公共信用評(píng)價(jià)系統(tǒng)，包括個(gè)人信用評(píng)價(jià)系統(tǒng)和企業(yè)信用評(píng)價(jià)系統(tǒng)。這些被委托單位在開(kāi)發(fā)公共信用評(píng)價(jià)系統(tǒng)時(shí)，大多直接采用金融信用或者消費(fèi)信用中的信用評(píng)價(jià)模型，既包括傳統(tǒng)的FICO模型，更多的則是新型的以算法自動(dòng)化決策系統(tǒng)為基礎(chǔ)的“自動(dòng)化信用評(píng)價(jià)模型”。在這些信用評(píng)價(jià)系統(tǒng)中，極其復(fù)雜的信用評(píng)分算法旨在分析和識(shí)別大量數(shù)據(jù)中的關(guān)系，特別是來(lái)自個(gè)人社交媒體和在線消費(fèi)記錄的非傳統(tǒng)數(shù)據(jù)（如行為數(shù)據(jù)）。在監(jiān)督算法的背景下，原始數(shù)據(jù)有時(shí)必須被轉(zhuǎn)化為數(shù)據(jù)集。數(shù)據(jù)轉(zhuǎn)換只是使信用評(píng)分系統(tǒng)的使用復(fù)雜化的一個(gè)組成部分。一旦數(shù)據(jù)被實(shí)際轉(zhuǎn)化，它就會(huì)通過(guò)構(gòu)成算法的許多復(fù)雜模型進(jìn)行分析。這種復(fù)雜性要求調(diào)查現(xiàn)有監(jiān)管計(jì)劃的不足和最新發(fā)展，監(jiān)管計(jì)劃必須及時(shí)調(diào)整，以應(yīng)對(duì)如此復(fù)雜的過(guò)程所帶來(lái)的潛在風(fēng)險(xiǎn)。
盡管目前向社會(huì)公開(kāi)的公共信用評(píng)價(jià)系統(tǒng)的相關(guān)信息很少（如底層邏輯、數(shù)據(jù)參數(shù)、算法系統(tǒng)等），但是我們?nèi)匀豢梢詮呢?fù)責(zé)信用評(píng)價(jià)系統(tǒng)開(kāi)發(fā)的私營(yíng)企業(yè)或者科研機(jī)構(gòu)的專利公告中管窺自動(dòng)化公共信用評(píng)價(jià)的技術(shù)原理。例如，蕪湖市的個(gè)人社會(huì)信用評(píng)價(jià)系統(tǒng)——“樂(lè)惠分”?！皹?lè)惠分”背后的技術(shù)支撐正是惠國(guó)征信服務(wù)股份有限公司所掌握的“基于政務(wù)數(shù)據(jù)和應(yīng)用的個(gè)人社會(huì)信用評(píng)分方法”這一發(fā)明專利。根據(jù)該專利的公告信息，該專利采用了線性回歸和線性規(guī)劃的方法，利用政務(wù)大數(shù)據(jù)作為原始參數(shù)對(duì)個(gè)人信用狀況建模，通過(guò)各維度細(xì)分模型確定相關(guān)數(shù)據(jù)權(quán)重，最終形成個(gè)人社會(huì)信用評(píng)分。再如廈門市的個(gè)人社會(huì)信用評(píng)價(jià)系統(tǒng)——“白鷺?lè)帧?，其背后主要的技術(shù)支撐也是廈門信息集團(tuán)大數(shù)據(jù)運(yùn)營(yíng)有限公司所掌握的“信用數(shù)據(jù)的處理方法及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)”這一發(fā)明專利，該專利的主要功能是可以對(duì)原始的信用大數(shù)據(jù)進(jìn)行導(dǎo)入、編目、清洗、治理以及發(fā)布，使原本雜亂的數(shù)據(jù)具備實(shí)用價(jià)值。
三、自動(dòng)化公共信用評(píng)價(jià)對(duì)正當(dāng)法律程序的挑戰(zhàn)
算法自動(dòng)化決策系統(tǒng)以及大數(shù)據(jù)技術(shù)在信用評(píng)價(jià)中的運(yùn)用，既是信用規(guī)制作為政府規(guī)制創(chuàng)新的一種典型特征，也是信用規(guī)制的一種制度優(yōu)勢(shì)，它有利于提高行政治理效率、提升行政治理的針對(duì)性與精確性、降低行政決策及行政執(zhí)法的隨意性。然而，這種自動(dòng)化信用評(píng)價(jià)模式也對(duì)傳統(tǒng)的行政法治精神和原則提出了挑戰(zhàn)。
（一）自動(dòng)化公共信用評(píng)價(jià)的法律效果
在信用規(guī)制過(guò)程中，自動(dòng)化公共信用評(píng)價(jià)發(fā)揮著重要作用。2019年9月，國(guó)家發(fā)改委辦公廳印發(fā)了《關(guān)于推送并應(yīng)用市場(chǎng)主體公共信用綜合評(píng)價(jià)結(jié)果的通知》（發(fā)改辦財(cái)金〔2019〕885號(hào)），要求建立健全公共信用綜合評(píng)價(jià)機(jī)制，以公共信用綜合評(píng)價(jià)支撐分級(jí)分類監(jiān)管。從目前自動(dòng)化公共信用評(píng)價(jià)的實(shí)踐看，自動(dòng)化公共信用評(píng)價(jià)具有多種法律效果：一是，公共信用評(píng)價(jià)結(jié)果可以作為行政處理要件。在行政管理過(guò)程中，行政主體可以直接依據(jù)信用評(píng)價(jià)結(jié)果作出行政命令，如責(zé)令限期改正、取消行政獎(jiǎng)勵(lì)等。例如，《濟(jì)南市房屋建筑市場(chǎng)信用評(píng)價(jià)管理辦法》第29 條規(guī)定，對(duì)于信用評(píng)價(jià)等級(jí)為D 的企業(yè)，不得作為評(píng)優(yōu)表彰、政策試點(diǎn)和項(xiàng)目扶持對(duì)象。二是，公共信用評(píng)價(jià)結(jié)果可以作為行政檢查的裁量因素。在日常的行政檢查過(guò)程中，行政主體可以依據(jù)信用評(píng)價(jià)結(jié)果對(duì)相對(duì)人采取強(qiáng)度不同的檢查措施。例如，《長(zhǎng)春市房地產(chǎn)開(kāi)發(fā)企業(yè)信用評(píng)價(jià)暫行辦法》第16 條規(guī)定，對(duì)于AAA 級(jí)信用企業(yè)，可以免于常規(guī)檢查；對(duì)于B 級(jí)信用企業(yè)，則要重點(diǎn)檢查。三是，公共信用評(píng)價(jià)結(jié)果可以作為行政指導(dǎo)的依據(jù)。在行政管理過(guò)程中，行政主體可以依據(jù)信用評(píng)價(jià)結(jié)果對(duì)相對(duì)人采取不同形式的指導(dǎo)，如警示提醒、指導(dǎo)約談等。
（二）自動(dòng)化公共信用評(píng)價(jià)引發(fā)的程序挑戰(zhàn)
隨著我國(guó)社會(huì)信用體系建設(shè)的不斷推進(jìn)，信用已經(jīng)逐漸成為個(gè)人或組織在社會(huì)經(jīng)濟(jì)活動(dòng)中的“第二身份證”，基于信用評(píng)價(jià)結(jié)果的進(jìn)一步廣泛應(yīng)用將有可能對(duì)個(gè)人或者組織的合法權(quán)益產(chǎn)生重大影響。此外，盡管信用評(píng)價(jià)系統(tǒng)看上去是公平的，數(shù)字給人一種客觀、真實(shí)的感覺(jué)，但其中隱藏著隱秘的操作流程，導(dǎo)致無(wú)論是被評(píng)價(jià)者還是管理者都難以對(duì)其進(jìn)行質(zhì)疑和審查，這無(wú)疑對(duì)公民的程序性基本權(quán)利造成了干預(yù)，進(jìn)而也會(huì)影響實(shí)體性基本權(quán)利的實(shí)現(xiàn)和保障。
自動(dòng)化公共信用評(píng)價(jià)引發(fā)的挑戰(zhàn)與算法自動(dòng)化決策系統(tǒng)本身存在的問(wèn)題密切相關(guān)。有關(guān)算法自動(dòng)化決策系統(tǒng)對(duì)程序正義的沖擊，國(guó)內(nèi)外學(xué)者從不同的角度進(jìn)行了分析和闡述。例如，加拿大學(xué)者伊恩·克爾認(rèn)為，自動(dòng)化決策系統(tǒng)正在促成一種危險(xiǎn)的“先發(fā)制人”（pre-emption）新哲學(xué)，這嚴(yán)重威脅了正當(dāng)法律程序，這些未經(jīng)驗(yàn)證的預(yù)測(cè)性技術(shù)將賦予程序員和使用這些技術(shù)的人巨大的壓迫性權(quán)力，他們能夠利用各種軟件來(lái)規(guī)制人類的行為，并在不受常用法律機(jī)制制約的情況下對(duì)個(gè)人作出關(guān)鍵決定。美國(guó)學(xué)者丹妮爾·西特倫認(rèn)為，自動(dòng)化決定通常涉及對(duì)個(gè)人自由和財(cái)產(chǎn)的剝奪，這就觸發(fā)了憲法中“正當(dāng)程序條款”的保障措施。從程序保護(hù)的角度看，算法自動(dòng)化決策系統(tǒng)首先可能對(duì)受通知權(quán)造成限制，其次可能不利于聽(tīng)證權(quán)的行使；從規(guī)則制定的角度看，算法自動(dòng)化決策系統(tǒng)可能限制公眾參與和透明度，不利于發(fā)揮“通知和評(píng)論”機(jī)制的作用。張凌寒教授認(rèn)為，行政正當(dāng)程序本質(zhì)上具有“信息發(fā)送功能”，其諸多原則或制度均可視為一種“信息工具”，而反應(yīng)型算法和預(yù)測(cè)型算法均對(duì)行政正當(dāng)程序的功能造成了限制，具體表現(xiàn)為算法不透明遮蔽了行政信息公開(kāi)、算法技術(shù)壟斷架空了公眾參與、算法黑箱阻礙了說(shuō)明理由。
綜合已有研究成果，筆者認(rèn)為，在信用規(guī)制中，自動(dòng)化公共信用評(píng)價(jià)同樣也對(duì)正當(dāng)法律程序提出了諸多挑戰(zhàn)，主要表現(xiàn)在兩個(gè)方面。
第一，自動(dòng)化公共信用評(píng)價(jià)的自動(dòng)性、隱蔽性等特征將導(dǎo)致事先通知、陳述意見(jiàn)、聽(tīng)證等程序難以實(shí)現(xiàn)。盡管目前理論與實(shí)踐對(duì)信用評(píng)價(jià)的法律性質(zhì)存有爭(zhēng)議，一時(shí)難以準(zhǔn)確定位，但不可否認(rèn)的是，公共信用評(píng)價(jià)的背后是行政權(quán)力的行使，其結(jié)果將對(duì)公民、法人和其他組織的合法權(quán)益產(chǎn)生重要影響。在傳統(tǒng)行政決定的場(chǎng)景中，法律通常為行政決定的相對(duì)人提供事先通知、聽(tīng)取意見(jiàn)的機(jī)會(huì)，并設(shè)置各種具體的程序制度。然而，在基于算法自動(dòng)化決策系統(tǒng)的信用評(píng)價(jià)場(chǎng)景中，信用評(píng)價(jià)過(guò)程具有自動(dòng)化特征，它通常是由算法自動(dòng)化決策系統(tǒng)根據(jù)輸入的數(shù)據(jù)，按照預(yù)先設(shè)定的算法程式，甚至是在自主學(xué)習(xí)的基礎(chǔ)上，由算法模型自主完成的。此外，信用評(píng)價(jià)過(guò)程還具有隱蔽性。一方面，信用評(píng)價(jià)系統(tǒng)的開(kāi)發(fā)、部署、運(yùn)行等通常是在個(gè)人或公眾不知情的情況下進(jìn)行的；另一方面，信用評(píng)價(jià)系統(tǒng)中輸入的數(shù)據(jù)可能是在個(gè)人或組織不知情或未經(jīng)其同意的情況下收集的，還有可能是私人企業(yè)向政府機(jī)構(gòu)共享數(shù)據(jù)的結(jié)果。正是由于自動(dòng)化決策系統(tǒng)的自動(dòng)性、隱蔽性等特征，導(dǎo)致行政相對(duì)人和利益相關(guān)者在信用評(píng)價(jià)決定作出之前，無(wú)法通過(guò)法定的程序制度參與行政決定過(guò)程，無(wú)法充分行使陳述、申辯、要求聽(tīng)證等各項(xiàng)程序性權(quán)利，而只能被動(dòng)接受由自動(dòng)化算法系統(tǒng)給出的評(píng)價(jià)結(jié)果。
第二，自動(dòng)化公共信用評(píng)價(jià)的不透明、封閉性等特征將導(dǎo)致說(shuō)明理由這一程序機(jī)制難以實(shí)現(xiàn)。說(shuō)明理由是正當(dāng)程序的一項(xiàng)基本要素，它要求行政機(jī)關(guān)在作出行政決定時(shí)，應(yīng)當(dāng)向受決定影響的相對(duì)人說(shuō)明事實(shí)和理由，以表明其合法性和合理性。在算法自動(dòng)化決策中，算法系統(tǒng)通常不透明（opaci?ty），即使相對(duì)方知道自己可能受到自動(dòng)化決策的不利影響，卻無(wú)法確定該決策的合理依據(jù)，進(jìn)而無(wú)法提出“有意義的質(zhì)疑和挑戰(zhàn)”。一般認(rèn)為，算法的不透明可以大致分為三種情形：（1）故意的不透明（intentional opacity），即故意隱瞞程序。算法系統(tǒng)的程式代碼通常受商業(yè)秘密或版權(quán)的保護(hù)，因此很難知道“黑箱”的確切內(nèi)容。（2）無(wú)知的不透明（illiterate opacity），即由于缺乏專業(yè)知識(shí)無(wú)法讀懂代碼。算法系統(tǒng)的邏輯通常由一系列符號(hào)、公式構(gòu)成，即使公布了算法系統(tǒng)的過(guò)程（如源代碼），受專業(yè)知識(shí)的限制，對(duì)于普通公眾而言，不透明的現(xiàn)狀仍然存在。（3）固有的不透明（intrinsic opacity），即算法系統(tǒng)的復(fù)雜性導(dǎo)致算法系統(tǒng)在本質(zhì)上可能是無(wú)法解釋的，即使有幸拿到了打開(kāi)黑箱的鑰匙，也很難揭開(kāi)決策的邏輯。這三種不透明也可能出現(xiàn)在自動(dòng)化公共信用評(píng)價(jià)系統(tǒng)中，行政機(jī)關(guān)和算法系統(tǒng)開(kāi)發(fā)者同樣可能以“故意的不透明”和“固有的不透明”為由拒絕對(duì)其決策承擔(dān)說(shuō)明理由的義務(wù)。與此同時(shí)，個(gè)人或公眾也可能因?yàn)椤盁o(wú)知的不透明”而難以知曉信用評(píng)價(jià)結(jié)果到底是依據(jù)何種理由作出的、此種理由是否合法及合理。
四、自動(dòng)化公共信用評(píng)價(jià)的程序控制
科學(xué)技術(shù)的變化正在重塑我們的社會(huì)，也影響了公民可獲得的程序性保障，正當(dāng)法律程序的基本要求也必須適應(yīng)不斷變化的現(xiàn)實(shí)世界。政府在采用自動(dòng)化決策系統(tǒng)時(shí)，不僅要考慮這些決策的實(shí)質(zhì)內(nèi)容，還要考慮這些治理方式的轉(zhuǎn)變?nèi)绾斡绊懝矄?wèn)責(zé)、信任和民主監(jiān)督。這符合正當(dāng)法律程序的基本價(jià)值，即政府程序應(yīng)當(dāng)是透明的、可理解的和可預(yù)測(cè)的。自動(dòng)化公共信用評(píng)價(jià)帶來(lái)的新事實(shí)、新情勢(shì)、新挑戰(zhàn)及其對(duì)正當(dāng)法律程序的影響，引發(fā)了新的程序保障需求。首先，有必要建立一種“預(yù)聽(tīng)證程序”（pre-hearing process），以確定并推翻沒(méi)有事實(shí)或法律依據(jù)的部署自動(dòng)化決策系統(tǒng)的提議。其次，有必要提高自動(dòng)化決策的透明度，尤其是當(dāng)行政機(jī)關(guān)試圖依據(jù)自動(dòng)化決定對(duì)相對(duì)方的合法權(quán)益造成限制時(shí)。再次，聽(tīng)取意見(jiàn)的時(shí)間應(yīng)當(dāng)更為靈活，方式應(yīng)當(dāng)盡可能確保利益相關(guān)者無(wú)須借助法律專業(yè)人員也能有意義地參與。最后，應(yīng)當(dāng)通過(guò)程序機(jī)制強(qiáng)化行政機(jī)關(guān)的說(shuō)理義務(wù)，破除算法黑箱。
有鑒于此，學(xué)者們提出應(yīng)當(dāng)將正當(dāng)程序創(chuàng)造性地運(yùn)用到算法自動(dòng)化決策系統(tǒng)中。其中，最具代表性的是美國(guó)學(xué)者丹妮爾·西特倫提出的“技術(shù)性正當(dāng)程序”（technological due process）理論。美國(guó)學(xué)者凱特·克勞福德和杰森·舒爾茨以此為理論原型，提出了“數(shù)據(jù)正當(dāng)程序”（data due process），主張應(yīng)當(dāng)建立所謂的數(shù)據(jù)程序權(quán)利體系。劉東亮教授認(rèn)為，對(duì)算法權(quán)力的規(guī)制和監(jiān)督，需要從算法設(shè)計(jì)的源頭建構(gòu)“技術(shù)性正當(dāng)程序”，實(shí)現(xiàn)程序的代碼化。筆者認(rèn)為，自動(dòng)化公共信用評(píng)價(jià)是算法自動(dòng)化決策的一種具體情形，因此，“技術(shù)性正當(dāng)程序”對(duì)于正當(dāng)程序在算法自動(dòng)化決策中的適用所提出的創(chuàng)見(jiàn)值得借鑒。
（一）技術(shù)性正當(dāng)程序：西特倫的分析
西特倫教授提出，法律學(xué)者和系統(tǒng)專家必須共同努力，在自動(dòng)化時(shí)代塑造正當(dāng)程序的新輪廓。她認(rèn)為，在方法上，“技術(shù)性正當(dāng)程序”主要借鑒了理論界有關(guān)“規(guī)則與標(biāo)準(zhǔn)”的討論，以系統(tǒng)性的視角來(lái)思考自動(dòng)化與人工裁量之間的關(guān)系；在內(nèi)容上，“技術(shù)性正當(dāng)程序”主要是通過(guò)提供維護(hù)正當(dāng)程序和規(guī)則制定規(guī)范的機(jī)制，重新設(shè)想了自動(dòng)化時(shí)代的程序保障。在西特倫教授看來(lái)，“技術(shù)性正當(dāng)程序”理論在重塑自動(dòng)化行政國(guó)家的程序保障機(jī)制時(shí)可以從兩個(gè)方面著手。
其一，保護(hù)個(gè)人權(quán)利。西特倫教授認(rèn)為，算法自動(dòng)化決策損害了有意義的通知和陳述意見(jiàn)的機(jī)會(huì)這兩項(xiàng)正當(dāng)程序保障機(jī)制，應(yīng)當(dāng)從技術(shù)和法律兩個(gè)角度予以回應(yīng)。具體而言，首先是要確保有意義的通知。在設(shè)計(jì)自動(dòng)化決策系統(tǒng)時(shí)應(yīng)當(dāng)建立審計(jì)追蹤機(jī)制（audit trails），對(duì)支持自動(dòng)化決定的事實(shí)和規(guī)則予以記錄。審計(jì)追蹤應(yīng)當(dāng)詳細(xì)說(shuō)明系統(tǒng)作出的每一項(xiàng)細(xì)微決定所適用的實(shí)際規(guī)則，有了審計(jì)追蹤，行政機(jī)關(guān)就有辦法向個(gè)人提供支持自動(dòng)化決策系統(tǒng)對(duì)其重要權(quán)利作出裁決的理由。其次是要保障聽(tīng)證權(quán)利。行政法必須正視自動(dòng)化決策系統(tǒng)存在的偏見(jiàn)，這種偏見(jiàn)影響了聽(tīng)證官員的公正性，剝奪了個(gè)人發(fā)表意見(jiàn)的機(jī)會(huì)。盡管徹底消除自動(dòng)化決策系統(tǒng)存在的偏見(jiàn)非常困難，但是有兩項(xiàng)規(guī)則至少應(yīng)當(dāng)實(shí)施：一是行政機(jī)關(guān)應(yīng)當(dāng)向聽(tīng)證官員明確說(shuō)明，自動(dòng)化決策系統(tǒng)是容易出錯(cuò)的，為此，聽(tīng)證官員應(yīng)當(dāng)接受有關(guān)自動(dòng)化系統(tǒng)的培訓(xùn)。二是行政機(jī)關(guān)應(yīng)當(dāng)要求聽(tīng)證官員詳細(xì)解釋其對(duì)自動(dòng)化系統(tǒng)的依賴程度，為此，行政機(jī)關(guān)應(yīng)當(dāng)查明其在作出行政決定時(shí)所依據(jù)的計(jì)算機(jī)生成的事實(shí)或法律結(jié)論。
其二，取代規(guī)則制定程序。西特倫教授認(rèn)為，自動(dòng)化決策系統(tǒng)的設(shè)計(jì)必須以透明和問(wèn)責(zé)制為主要目標(biāo)，以防止制定程序上有缺陷的規(guī)則，主要有以下幾種基本的行為規(guī)范：（1）自動(dòng)化決策系統(tǒng)的開(kāi)發(fā)者應(yīng)當(dāng)向公眾發(fā)布系統(tǒng)的源代碼，源代碼應(yīng)當(dāng)能夠展示系統(tǒng)的工作原理。（2）行政機(jī)關(guān)應(yīng)當(dāng)測(cè)試自動(dòng)化決策系統(tǒng)及其軟件，測(cè)試應(yīng)當(dāng)在系統(tǒng)啟動(dòng)前、實(shí)施過(guò)程中和系統(tǒng)所依據(jù)的規(guī)則改變之時(shí)實(shí)施。（3）行政機(jī)關(guān)應(yīng)當(dāng)積極探討如何讓公眾參與自動(dòng)化決策系統(tǒng)的建設(shè)，例如，行政機(jī)關(guān)可以設(shè)立“信息技術(shù)審查委員會(huì)”，為利益相關(guān)者和公眾評(píng)價(jià)系統(tǒng)設(shè)計(jì)和測(cè)試提供機(jī)會(huì)。（4）行政機(jī)關(guān)應(yīng)當(dāng)避免將未經(jīng)過(guò)正式或非正式規(guī)則制定程序的政策自動(dòng)化，如解釋性規(guī)則和政策聲明。換言之，由程序員編寫的解釋性規(guī)則和政策聲明應(yīng)當(dāng)遵守規(guī)則制定程序，盡管這并不能徹底解決無(wú)意中將“立法權(quán)”下放給代碼編寫者而帶來(lái)的“問(wèn)責(zé)赤字”，卻可以在一定程度上減輕這方面的隱憂。
總的來(lái)說(shuō)，西特倫教授認(rèn)為，自動(dòng)化決策系統(tǒng)具備許多優(yōu)勢(shì)，它在一定程度上能夠消除人為決策中存在的錯(cuò)誤或失誤，并促進(jìn)決策的一致性，因此，政府決策的自動(dòng)化已經(jīng)不可避免。然而，自動(dòng)化決策系統(tǒng)也帶來(lái)了諸多挑戰(zhàn)，它未能利用其糾正錯(cuò)誤的潛力，反而成為傳播錯(cuò)誤的工具，因此，行政法應(yīng)當(dāng)正視自動(dòng)化決策系統(tǒng)帶來(lái)的挑戰(zhàn)?！凹夹g(shù)性正當(dāng)程序”理論是在不放棄自動(dòng)化決策系統(tǒng)帶來(lái)的益處之前提下，為保護(hù)個(gè)人或組織在公平的、可問(wèn)責(zé)的和透明的裁決和規(guī)則制定方面的利益提供新的程序性保障。
（二）技術(shù)性正當(dāng)程序嵌入自動(dòng)化公共信用評(píng)價(jià)
由于政府部門在個(gè)人和組織的信用評(píng)價(jià)中廣泛運(yùn)用了算法自動(dòng)化決策系統(tǒng)，因此，算法自動(dòng)化決策系統(tǒng)的設(shè)計(jì)、實(shí)施或運(yùn)行中的缺陷有可能侵犯?jìng)€(gè)人和組織的合法權(quán)益。對(duì)此，公法應(yīng)當(dāng)采取措施，除了保護(hù)特定個(gè)人和組織獲取信息或獲得救濟(jì)的權(quán)利外，還應(yīng)當(dāng)解決系統(tǒng)性問(wèn)題?！凹夹g(shù)性正當(dāng)程序”理論正是公法作出的回應(yīng)，其可以為理論和實(shí)踐提供指引。目前，在世界范圍內(nèi)，一些國(guó)家或地區(qū)已經(jīng)專門為政府部門的自動(dòng)化決策制定了法律規(guī)則，如紐約市于2018 年1 月頒布了《行政機(jī)關(guān)使用自動(dòng)化決策系統(tǒng)的地方法》，大量條款涉及建立自動(dòng)化決策系統(tǒng)的程序保障機(jī)制，包括信息公開(kāi)、影響評(píng)估、解釋決定等；加拿大政府于2019年4 月頒布了《自動(dòng)化決策指令》，對(duì)自動(dòng)化決策系統(tǒng)提出了要求：（1）算法影響評(píng)估；（2）透明度，包括決定之前提供通知、決定之后提供解釋、訪問(wèn)組建、發(fā)布源代碼等；（3）質(zhì)量保證，包括測(cè)試和監(jiān)控結(jié)果、數(shù)據(jù)質(zhì)量、同行評(píng)審、員工培訓(xùn)、應(yīng)急程序、安全保障、法律咨詢、人為干預(yù)等；（4）追償權(quán)，向個(gè)人或組織提供所有可用的救濟(jì)途徑，允許他們對(duì)行政決定提出質(zhì)疑；（5）信息公開(kāi)，發(fā)布有關(guān)自動(dòng)化決策系統(tǒng)有效性和效率的信息。新西蘭政府于2020 年7 月頒布了《算法憲章》，要求政府機(jī)構(gòu)在使用算法時(shí)應(yīng)當(dāng)履行以下義務(wù)：（1）指定一個(gè)聯(lián)絡(luò)點(diǎn)，負(fù)責(zé)處理公眾對(duì)算法的詢問(wèn)；（2）為質(zhì)疑或起訴由算法作出的決定提供一個(gè)渠道；（3）明確解釋人類在以算法為依據(jù)的決定中的作用。我國(guó)《個(gè)人信息保護(hù)法》也對(duì)自動(dòng)化決策作出了回應(yīng)：第73條對(duì)自動(dòng)化決策進(jìn)行了界定；第24條對(duì)自動(dòng)化決策的透明度、解釋說(shuō)明以及公民的拒絕權(quán)作出了規(guī)定；第55條規(guī)定了自動(dòng)化決策的個(gè)人信息保護(hù)影響評(píng)估制度。綜合國(guó)內(nèi)外已有的理論和實(shí)踐經(jīng)驗(yàn)，以“技術(shù)性正當(dāng)程序”理論作為指引，筆者認(rèn)為，可以從兩個(gè)方面對(duì)自動(dòng)化公共信用評(píng)價(jià)進(jìn)行程序控制。
1.基于算法信息公開(kāi)增強(qiáng)算法系統(tǒng)的透明度
雖然透明度是經(jīng)濟(jì)學(xué)和政治學(xué)的一個(gè)重要概念，但其思想根源在于政府信息的獲取。在理論上，透明度主要分為兩種類型：一種是所謂的“魚(yú)缸透明度”（fishbowl transparency），指的是公眾窺探政府內(nèi)部并獲取有關(guān)政府官員所作所為信息的能力。這種透明度關(guān)注的重點(diǎn)是公眾獲取政府所掌握的信息和有關(guān)政府工作的信息，它包括公眾對(duì)政府聽(tīng)證會(huì)、檔案柜中的記錄和計(jì)算機(jī)系統(tǒng)中的材料的獲取。另一種是“說(shuō)理透明度”（reasoned trans?parency），強(qiáng)調(diào)的是信息的有用性，即政府是否揭示其采取行動(dòng)的原因。換言之，“說(shuō)理透明度”強(qiáng)調(diào)政府通過(guò)說(shuō)明理由來(lái)解釋其行為的重要性。
那么，如何通過(guò)算法信息公開(kāi)來(lái)增強(qiáng)算法系統(tǒng)的透明度？筆者認(rèn)為，首先應(yīng)當(dāng)明確兩項(xiàng)基本原則：一是算法自動(dòng)化決策的可見(jiàn)性，應(yīng)當(dāng)成為行政信息公開(kāi)的基本要求；二是算法作出決策的基本規(guī)則和因素權(quán)重，應(yīng)當(dāng)向社會(huì)公眾公開(kāi)。其次應(yīng)當(dāng)處理好算法信息公開(kāi)與商業(yè)秘密保護(hù)之間的關(guān)系。美國(guó)學(xué)者羅伯特·布勞內(nèi)斯和埃倫·古德曼提出的方案或許值得我們借鑒。他們認(rèn)為，為了在行政信息公開(kāi)與商業(yè)秘密保護(hù)之間取得平衡，實(shí)現(xiàn)“有意義的透明度”，政府部門應(yīng)當(dāng)利用其“訂約權(quán)”（contracting powers），堅(jiān)持適當(dāng)?shù)挠涗浗?、提供和披露。具體而言，當(dāng)政府部門與算法系統(tǒng)開(kāi)發(fā)商在簽訂開(kāi)發(fā)協(xié)議時(shí)，應(yīng)當(dāng)將行政信息公開(kāi)的要求與商業(yè)秘密保護(hù)條款聯(lián)系起來(lái)，要求系統(tǒng)開(kāi)發(fā)商必須在合同中標(biāo)明具體受商業(yè)秘密保護(hù)的記錄以及可以公開(kāi)的記錄。換言之，系統(tǒng)開(kāi)發(fā)商不能籠統(tǒng)地以商業(yè)秘密受法律保護(hù)而拒絕公開(kāi)算法系統(tǒng)相關(guān)信息，而是需要將合同中商業(yè)秘密保護(hù)條款的內(nèi)容進(jìn)行細(xì)化，具體區(qū)分受保護(hù)和不受保護(hù)的記錄，這并不是要求系統(tǒng)開(kāi)發(fā)商公布源代碼，而是要求其公開(kāi)系統(tǒng)所依據(jù)的法律規(guī)則以及將其轉(zhuǎn)換為代碼的基本原理。通過(guò)在算法系統(tǒng)開(kāi)發(fā)合同中載明相關(guān)記錄，公眾可以申請(qǐng)政府公開(kāi)合同來(lái)滿足對(duì)算法透明度的需求。
通過(guò)算法信息公開(kāi)來(lái)增強(qiáng)算法透明度也越來(lái)越受到各國(guó)的重視，可以為我國(guó)制定相應(yīng)的規(guī)范提供參考。例如，德國(guó)信息自由專員會(huì)議于2018年10月通過(guò)一份決議，要求公共機(jī)構(gòu)必須確保算法足夠透明，在法律允許的情況下，應(yīng)當(dāng)公開(kāi)如下信息：（1）數(shù)據(jù)類別的信息；（2）算法的技術(shù)邏輯；（3）算法自動(dòng)化決定可能產(chǎn)生的后果。為了確保能夠?qū)崿F(xiàn)前述基本要求，公共行政部門應(yīng)當(dāng)在制定算法系統(tǒng)開(kāi)發(fā)方案時(shí)就考慮上述內(nèi)容，通過(guò)設(shè)計(jì)實(shí)現(xiàn)透明度。法國(guó)《公眾與行政部門關(guān)系法典》第R.311-3-1-2 條規(guī)定，行政部門應(yīng)當(dāng)在不侵犯受法律保護(hù)的秘密之前提下，應(yīng)個(gè)人行政決定的對(duì)象之要求，以可理解之形式向其提供以下信息：（1）算法處理對(duì)決定的貢獻(xiàn)程度和方式；（2）處理的數(shù)據(jù)及其來(lái)源；（3）處理參數(shù)及其加權(quán)；（4）進(jìn)行這種處理的具體操作。此外，法國(guó)憲法委員會(huì)于2018年在審查法國(guó)數(shù)據(jù)保護(hù)法與歐盟GDPR 保持一致的法案時(shí)指出，當(dāng)一種算法的操作規(guī)則不能在不侵犯受保護(hù)之秘密或利益的情況下進(jìn)行傳達(dá)時(shí)，行政部門不能僅根據(jù)這種算法作出個(gè)人行政決定，即，如果一個(gè)行政部門在行政決定中完全依靠算法，則不得以商業(yè)秘密為借口不公開(kāi)其運(yùn)作情況。
2.通過(guò)算法影響評(píng)估增強(qiáng)算法系統(tǒng)的問(wèn)責(zé)制
保障公眾參與是正當(dāng)法律程序的基本要素之一，參與可以帶來(lái)更多的信任、更多的滿意度和更大的公民接受度，最終結(jié)果是公共行政績(jī)效的正當(dāng)性得以提升。對(duì)于政府部門而言，如果在沒(méi)有建立適當(dāng)?shù)膯?wèn)責(zé)制框架的情況下就在公共行政中部署針對(duì)不特定多數(shù)人的算法決策系統(tǒng)，很有可能導(dǎo)致他們不了解決策過(guò)程，從而難以發(fā)現(xiàn)或應(yīng)對(duì)偏見(jiàn)、錯(cuò)誤或其他問(wèn)題，最終導(dǎo)致合法性或正當(dāng)性質(zhì)疑。
算法影響評(píng)估是指能夠幫助行政機(jī)關(guān)更好地理解和減少自動(dòng)化決策系統(tǒng)相關(guān)的風(fēng)險(xiǎn)，并提供與所設(shè)計(jì)的應(yīng)用程序類型相匹配的適當(dāng)?shù)闹卫怼⒈O(jiān)督和審計(jì)需求的框架。這并非一種全新的制度，影響評(píng)估早已在科學(xué)和政策領(lǐng)域廣泛實(shí)施。算法影響評(píng)估可以充分利用已有的制度框架，并結(jié)合科學(xué)和政策領(lǐng)域內(nèi)影響評(píng)估的研究和實(shí)踐成果，形成專門針對(duì)算法的評(píng)估機(jī)制，并為建構(gòu)系統(tǒng)性的算法問(wèn)責(zé)機(jī)制提供重要支撐。
盡管算法影響評(píng)估不能解決自動(dòng)化決策系統(tǒng)可能產(chǎn)生的所有問(wèn)題，但它確實(shí)提供了一種重要的機(jī)制，讓公眾了解情況，并讓決策者和研究人員展開(kāi)富有成效的對(duì)話。具體而言，算法影響評(píng)估有助于實(shí)現(xiàn)以下幾個(gè)政策目標(biāo)：（1）尊重社會(huì)公眾的知情權(quán)，讓公眾能夠了解影響其日常生活的自動(dòng)化系統(tǒng)有哪些，這些系統(tǒng)會(huì)在哪些方面對(duì)其合法權(quán)益產(chǎn)生影響。（2）提高政府部門的專業(yè)知識(shí)和能力，讓政府部門能夠?qū)ζ溟_(kāi)發(fā)或采購(gòu)的自動(dòng)化系統(tǒng)作出科學(xué)評(píng)價(jià)，以便能夠預(yù)見(jiàn)應(yīng)當(dāng)注意的風(fēng)險(xiǎn)，如產(chǎn)生歧視性影響、侵犯公民隱私、違反正當(dāng)程序等。（3）確保加強(qiáng)自動(dòng)化決策系統(tǒng)的問(wèn)責(zé)制，為外部研究人員提供有意義的、持續(xù)不斷的機(jī)會(huì)，使他們能夠利用發(fā)現(xiàn)和測(cè)算問(wèn)題的方法審查、審計(jì)和評(píng)估這些系統(tǒng)。（4）確保社會(huì)公眾具備申訴機(jī)會(huì)，能夠?qū)δ骋蛔詣?dòng)化系統(tǒng)的使用或行政機(jī)關(guān)的算法問(wèn)責(zé)辦法作出積極回應(yīng)。
算法影響評(píng)估已經(jīng)成為世界公認(rèn)的算法治理機(jī)制。許多專家學(xué)者、技術(shù)人員、政策制定者都在積極推廣算法影響評(píng)估，一些國(guó)家甚至已經(jīng)（準(zhǔn)備）將算法影響評(píng)估予以法制化。例如，加拿大《自動(dòng)化決策指令》規(guī)定：（1）在生成任何自動(dòng)化決策系統(tǒng)之前，應(yīng)當(dāng)完成算法影響評(píng)估；（2）當(dāng)系統(tǒng)功能或自動(dòng)化決策系統(tǒng)的范圍發(fā)生變化時(shí)，應(yīng)當(dāng)更新算法影響評(píng)估。綜合已有的研究成果和實(shí)踐經(jīng)驗(yàn)，筆者認(rèn)為，我國(guó)應(yīng)當(dāng)建立統(tǒng)一的算法影響評(píng)估框架，對(duì)自動(dòng)化決策系統(tǒng)在公共行政中的運(yùn)用進(jìn)行評(píng)估。具體到自動(dòng)化公共信用評(píng)價(jià)系統(tǒng)而言，算法影響評(píng)估框架應(yīng)當(dāng)至少包含以下要素：（1）行政機(jī)關(guān)應(yīng)當(dāng)對(duì)現(xiàn)有的或擬部署的自動(dòng)化信用評(píng)價(jià)系統(tǒng)進(jìn)行自我評(píng)估，評(píng)估該系統(tǒng)對(duì)公平、正義、公正等價(jià)值的潛在沖擊，了解該系統(tǒng)對(duì)個(gè)人和組織的合法權(quán)益可能造成的潛在影響。（2）行政機(jī)關(guān)應(yīng)當(dāng)制定有意義的外部審查程序，允許技術(shù)專家、法律專家等組成算法影響評(píng)估工作小組，對(duì)自動(dòng)化信用評(píng)價(jià)系統(tǒng)進(jìn)行長(zhǎng)期跟蹤調(diào)查研究。（3）行政機(jī)關(guān)在部署自動(dòng)化信用評(píng)價(jià)系統(tǒng)前，應(yīng)當(dāng)向社會(huì)公布有關(guān)自動(dòng)化信用評(píng)價(jià)系統(tǒng)的內(nèi)部評(píng)估報(bào)告和外部評(píng)估報(bào)告。（4）行政機(jī)關(guān)在決定采用自動(dòng)化信用評(píng)價(jià)系統(tǒng)前應(yīng)當(dāng)公開(kāi)征求公眾意見(jiàn)，主動(dòng)澄清比較重要的問(wèn)題以及可能引發(fā)爭(zhēng)議的問(wèn)題。（5）自動(dòng)化信用評(píng)價(jià)系統(tǒng)在正式作出信用評(píng)價(jià)結(jié)果之前，應(yīng)當(dāng)通過(guò)技術(shù)設(shè)計(jì)將“通知”融入其中，自動(dòng)通知個(gè)人或組織將對(duì)其信用狀況進(jìn)行評(píng)價(jià)，并給予個(gè)人或組織一定的時(shí)間進(jìn)行回應(yīng)。（6）自動(dòng)化信用評(píng)價(jià)系統(tǒng)在正式作出信用評(píng)價(jià)結(jié)果之后，應(yīng)當(dāng)自動(dòng)告知個(gè)人或組織，并允許其查閱具體的評(píng)價(jià)過(guò)程以及依據(jù)。允許當(dāng)事人對(duì)評(píng)價(jià)結(jié)果提出異議，可以通過(guò)內(nèi)部申訴、行政復(fù)議、行政訴訟等途徑尋求權(quán)利救濟(jì)。
結(jié)語(yǔ)
在大數(shù)據(jù)時(shí)代，盡管大數(shù)據(jù)、算法等技術(shù)可以彌補(bǔ)傳統(tǒng)信用評(píng)價(jià)之不足，提升公共信用評(píng)價(jià)的準(zhǔn)確性、及時(shí)性和完整性，但也引發(fā)了新的問(wèn)題，尤其是算法系統(tǒng)的“黑箱化”、自動(dòng)化趨勢(shì)，已經(jīng)威脅到公民的程序性基本權(quán)利。對(duì)此，我們應(yīng)當(dāng)堅(jiān)持行政法治的基本理念，并積極拓展相關(guān)原則或者規(guī)則的可適用性，以此來(lái)適應(yīng)自動(dòng)化行政提出的挑戰(zhàn)?！凹夹g(shù)性正當(dāng)程序”正是傳統(tǒng)正當(dāng)程序原則在自動(dòng)化行政國(guó)家中的發(fā)展，它不僅可以為自動(dòng)化公共信用評(píng)價(jià)的程序控制提供解決方案，也可以為整個(gè)自動(dòng)化行政的法律控制提供啟迪。
猜你喜歡
Smartflower POP 一體式光伏系統(tǒng)工業(yè)設(shè)計(jì)(2022年8期)2022-09-09 07:43:20 SBR改性瀝青的穩(wěn)定性評(píng)價(jià)石油瀝青(2021年4期)2021-10-14 08:50:44 WJ-700無(wú)人機(jī)系統(tǒng)軍民兩用技術(shù)與產(chǎn)品(2021年10期)2021-03-16 06:05:30 中藥治療室性早搏系統(tǒng)評(píng)價(jià)再評(píng)價(jià)世界科學(xué)技術(shù)-中醫(yī)藥現(xiàn)代化(2021年10期)2021-03-02 05:52:06 ZC系列無(wú)人機(jī)遙感系統(tǒng)北京測(cè)繪(2020年12期)2020-12-29 01:33:58 基于PowerPC+FPGA顯示系統(tǒng)裝備制造技術(shù)(2019年12期)2019-12-25 03:06:46 半沸制皂系統(tǒng)(下)中國(guó)洗滌用品工業(yè)(2019年4期)2019-05-11 09:27:34 連通與提升系統(tǒng)的最后一塊拼圖 Audiolab 傲立 M-DAC mini家庭影院技術(shù)(2017年9期)2017-09-26 03:41:45 基于Moodle的學(xué)習(xí)評(píng)價(jià)中國(guó)教育技術(shù)裝備(2015年19期)2015-03-01 02:43:07 關(guān)于項(xiàng)目后評(píng)價(jià)中“專項(xiàng)”后評(píng)價(jià)的探討中國(guó)工程咨詢(2015年2期)2015-02-14 02:59:26
張濤
一、問(wèn)題的提出
大數(shù)據(jù)、算法等技術(shù)的快速發(fā)展和廣泛運(yùn)用，使人類社會(huì)進(jìn)入了一個(gè)“被算法操控生活”的時(shí)代。在私人生活中，算法決策在個(gè)人的求職、消費(fèi)、出行、社交、愛(ài)好等方面發(fā)揮著越來(lái)越重要的作用。在公共行政中，政府決策的自動(dòng)化程度越來(lái)越高，行政機(jī)關(guān)運(yùn)用算法來(lái)預(yù)測(cè)打擊犯罪、評(píng)估社會(huì)風(fēng)險(xiǎn)、監(jiān)控環(huán)境污染風(fēng)險(xiǎn)、治理城市交通擁堵等。由于政府決策通常會(huì)對(duì)不確定多數(shù)人的合法權(quán)益產(chǎn)生重大影響，因此，算法自動(dòng)化決策系統(tǒng)在政府決策中的運(yùn)用引發(fā)了廣泛的關(guān)注。
在信用規(guī)制實(shí)踐中，算法自動(dòng)化決策系統(tǒng)廣泛運(yùn)用于信用規(guī)制活動(dòng)中，尤其是個(gè)人和組織的公共信用評(píng)價(jià)，絕大多數(shù)都是基于算法自動(dòng)化決策系統(tǒng)而開(kāi)發(fā)和運(yùn)行的。換言之，在信用規(guī)制中，自動(dòng)化公共信用評(píng)價(jià)已逐漸成為一種主要趨勢(shì)。由于算法自動(dòng)化決策系統(tǒng)普遍存在不透明性、自動(dòng)性、高度復(fù)雜性和模糊性等特征，這給傳統(tǒng)的法律程序帶來(lái)了挑戰(zhàn)，使得很多程序性權(quán)利難以實(shí)現(xiàn)。對(duì)此，理論界提出了許多規(guī)制策略，部分學(xué)者主張應(yīng)當(dāng)采取“適應(yīng)性正當(dāng)程序”（adaptable due process）理念，對(duì)正當(dāng)法律程序進(jìn)行改革和創(chuàng)新，使其能夠應(yīng)對(duì)算法自動(dòng)化決策系統(tǒng)帶來(lái)的挑戰(zhàn)。在法治政府建設(shè)、行政法典的制定以及對(duì)自動(dòng)化行政的法律控制上，學(xué)者也主張應(yīng)當(dāng)采取一種程序主義進(jìn)路。
自動(dòng)化公共信用評(píng)價(jià)是自動(dòng)化行政的縮影和實(shí)踐，如何通過(guò)一種程序主義進(jìn)路使其實(shí)現(xiàn)法治化成為當(dāng)下亟待解決的課題。鑒于此，本文以自動(dòng)化公共信用評(píng)價(jià)為研究對(duì)象，以捍衛(wèi)公民的程序基本權(quán)為價(jià)值支撐，剖析自動(dòng)化公共信用評(píng)價(jià)的實(shí)踐樣態(tài)及產(chǎn)生的法律效果，進(jìn)而指出其帶來(lái)的挑戰(zhàn)，并提出在自動(dòng)化公共信用評(píng)價(jià)中落實(shí)“技術(shù)性正當(dāng)程序”的建議。
二、算法自動(dòng)化決策在公共信用評(píng)價(jià)中的應(yīng)用
近年來(lái)，受大數(shù)據(jù)、算法等技術(shù)的影響，傳統(tǒng)消費(fèi)者信用評(píng)價(jià)系統(tǒng)不斷進(jìn)行技術(shù)迭代。“所有數(shù)據(jù)都是信用數(shù)據(jù)”（all data is credit data）已經(jīng)成為信用評(píng)分行業(yè)的重要口號(hào)，利用大數(shù)據(jù)技術(shù)、算法自動(dòng)化決策系統(tǒng)等技術(shù)，可將傳統(tǒng)的信用信息與個(gè)人的線下信息、網(wǎng)絡(luò)中爬取的數(shù)千個(gè)數(shù)據(jù)點(diǎn)結(jié)合起來(lái)，形成所謂的“大數(shù)據(jù)信用評(píng)分”（big-data credit scor?ing）。公共信用評(píng)價(jià)深受傳統(tǒng)消費(fèi)者信用評(píng)價(jià)的影響，其采用的技術(shù)系統(tǒng)與后者密切相關(guān)。
（一）何為算法自動(dòng)化決策
算法自動(dòng)化決策系統(tǒng)是使用復(fù)雜的數(shù)學(xué)算法來(lái)識(shí)別大型數(shù)據(jù)集中“有意義的關(guān)系”和“可能的模式”。例如，算法可以分析眾多變量，包括互聯(lián)網(wǎng)瀏覽行為、消費(fèi)歷史、居住地郵編、就業(yè)經(jīng)歷、教育背景、工資水平和家庭關(guān)系等，來(lái)預(yù)測(cè)具有特定特征的人成為高效員工、失信對(duì)象、有效領(lǐng)導(dǎo)者或合格醫(yī)療服務(wù)對(duì)象的可能性。從這個(gè)意義上看，算法可以描述為任何輸入一些值或一組值并輸出一些值或一組值的定義明確的計(jì)算程序。即，算法就是將輸入轉(zhuǎn)換為輸出的一系列計(jì)算步驟。以復(fù)雜程度為標(biāo)準(zhǔn)，算法可以分為用于解決簡(jiǎn)單、定義明確的問(wèn)題和用于解決復(fù)雜、定義不清的問(wèn)題。其中，將定義明確的問(wèn)題稱為結(jié)構(gòu)化問(wèn)題，定義不明的問(wèn)題稱為非結(jié)構(gòu)化問(wèn)題。由于結(jié)構(gòu)化問(wèn)題沒(méi)有內(nèi)在的隨機(jī)性和不確定性，因此，用于解決結(jié)構(gòu)化問(wèn)題的算法一般都是固定不變的，不會(huì)因輸入變量的不同而改變。非結(jié)構(gòu)化問(wèn)題的基礎(chǔ)過(guò)程以及輸入數(shù)據(jù)都存在不確定性，即，一個(gè)非結(jié)構(gòu)化問(wèn)題可以有多個(gè)“正確”答案，其中一些答案可能比其他答案更好。在此情況下，用于得出解決方案或輸出的公式通常不是一成不變的，可以根據(jù)輸入數(shù)據(jù)的不同而改變。
（二）我國(guó)自動(dòng)化公共信用評(píng)價(jià)的實(shí)踐
公共信用評(píng)價(jià)也稱公共信用評(píng)級(jí)，作為信用規(guī)制的中間環(huán)節(jié)，它是在信用信息的基礎(chǔ)上展開(kāi)的。公共信用評(píng)價(jià)結(jié)果既是信用公示的內(nèi)容之一，也是信用應(yīng)用（激勵(lì)、懲戒或者分級(jí)分類監(jiān)管）的重要參考依據(jù)。關(guān)于公共信用評(píng)價(jià)的確切內(nèi)涵，目前還存在爭(zhēng)議。有觀點(diǎn)認(rèn)為，信用評(píng)價(jià)是指行政主體基于歸集而來(lái)的信用信息，根據(jù)一定的評(píng)價(jià)標(biāo)準(zhǔn)和程序，對(duì)相對(duì)人的信用狀況進(jìn)行評(píng)價(jià)的行政活動(dòng)。國(guó)家標(biāo)準(zhǔn)《信用基本術(shù)語(yǔ)》（GB/T 22117—2018）則將“信用評(píng)分”界定為根據(jù)信息主體的信用信息，運(yùn)用統(tǒng)計(jì)和其他方法，建立信用評(píng)分模型，對(duì)信用主體的信用進(jìn)行評(píng)價(jià)，并用分?jǐn)?shù)的形式表現(xiàn)出來(lái)的活動(dòng)。本文所指的公共信用評(píng)價(jià)主要是指行政主體根據(jù)特定的標(biāo)準(zhǔn)，依靠大數(shù)據(jù)、算法等技術(shù)手段，對(duì)信用主體的信用狀況進(jìn)行綜合評(píng)價(jià)，并用簡(jiǎn)單明了的符號(hào)加以表達(dá)。
理論上，信用評(píng)價(jià)制度的形成與發(fā)展和聲譽(yù)理論密切相關(guān)。研究者認(rèn)為，在范圍較小的社會(huì)群體中，如果群體成員知道其他人過(guò)去的行為方式，良好的聲譽(yù)可以成為誠(chéng)實(shí)行為的有效紐帶，即使任何兩個(gè)特定的群體成員只是偶爾見(jiàn)面。聲譽(yù)機(jī)制可以激勵(lì)群體成員誠(chéng)實(shí)行事，通過(guò)制裁違規(guī)者，敦促群體成員改善其行為方式。信用評(píng)價(jià)制度正是一種以技術(shù)作為支撐的聲譽(yù)機(jī)制，可以激勵(lì)社會(huì)成員信守承諾，誠(chéng)實(shí)行事。作為一種“技術(shù)化”的聲譽(yù)機(jī)制，信用評(píng)價(jià)制度是信用規(guī)制的關(guān)鍵制度。2019 年7 月，國(guó)務(wù)院辦公廳印發(fā)的《關(guān)于加快推進(jìn)社會(huì)信用體系建設(shè)構(gòu)建以信用為基礎(chǔ)的新型監(jiān)管機(jī)制的指導(dǎo)意見(jiàn)》（國(guó)辦發(fā)〔2019〕35 號(hào)）明確提出“深入開(kāi)展公共信用綜合評(píng)價(jià)”，要求“依法依規(guī)整合各類信用信息，對(duì)市場(chǎng)主體開(kāi)展全覆蓋、標(biāo)準(zhǔn)化、公益性的公共信用綜合評(píng)價(jià)”。當(dāng)前，中央和地方各級(jí)政府部門均制定了大量有關(guān)信用評(píng)價(jià)的規(guī)范。在中央層面，交通運(yùn)輸部、水利部、國(guó)家稅務(wù)總局等部門分別就交通、水利、稅務(wù)等領(lǐng)域市場(chǎng)主體的信用評(píng)價(jià)制定了規(guī)范；在地方層面，與信用評(píng)價(jià)直接相關(guān)的地方規(guī)范性文件多達(dá)400 余份，涉及醫(yī)療保障、供水、園林綠化、電力交易、房地產(chǎn)開(kāi)發(fā)、公路施工、家政、旅游等眾多領(lǐng)域。從信用評(píng)價(jià)的實(shí)踐看，主要有四個(gè)特征：一是廣泛性，信用評(píng)價(jià)的對(duì)象幾乎涵蓋所有領(lǐng)域的市場(chǎng)主體；二是標(biāo)準(zhǔn)化，信用評(píng)價(jià)的標(biāo)準(zhǔn)基本上采取定量指標(biāo)，并以量化的分?jǐn)?shù)或等級(jí)作為評(píng)價(jià)結(jié)果的標(biāo)識(shí)；三是公益性，信用評(píng)價(jià)是由政府部門實(shí)施的，具有強(qiáng)烈的“公益取向性”特征；四是強(qiáng)制性，信用評(píng)價(jià)是由政府部門主動(dòng)依法實(shí)施的，不受相對(duì)人自身意愿的影響。
在我國(guó)信用規(guī)制實(shí)踐中，大數(shù)據(jù)、算法自動(dòng)化決策系統(tǒng)已被廣泛運(yùn)用于公共信用評(píng)價(jià)。從各個(gè)地方公共信用評(píng)價(jià)的實(shí)踐樣態(tài)看，目前主要是由公共部門委托私營(yíng)企業(yè)、科研機(jī)構(gòu)開(kāi)發(fā)或運(yùn)營(yíng)公共信用評(píng)價(jià)系統(tǒng)，包括個(gè)人信用評(píng)價(jià)系統(tǒng)和企業(yè)信用評(píng)價(jià)系統(tǒng)。這些被委托單位在開(kāi)發(fā)公共信用評(píng)價(jià)系統(tǒng)時(shí)，大多直接采用金融信用或者消費(fèi)信用中的信用評(píng)價(jià)模型，既包括傳統(tǒng)的FICO模型，更多的則是新型的以算法自動(dòng)化決策系統(tǒng)為基礎(chǔ)的“自動(dòng)化信用評(píng)價(jià)模型”。在這些信用評(píng)價(jià)系統(tǒng)中，極其復(fù)雜的信用評(píng)分算法旨在分析和識(shí)別大量數(shù)據(jù)中的關(guān)系，特別是來(lái)自個(gè)人社交媒體和在線消費(fèi)記錄的非傳統(tǒng)數(shù)據(jù)（如行為數(shù)據(jù)）。在監(jiān)督算法的背景下，原始數(shù)據(jù)有時(shí)必須被轉(zhuǎn)化為數(shù)據(jù)集。數(shù)據(jù)轉(zhuǎn)換只是使信用評(píng)分系統(tǒng)的使用復(fù)雜化的一個(gè)組成部分。一旦數(shù)據(jù)被實(shí)際轉(zhuǎn)化，它就會(huì)通過(guò)構(gòu)成算法的許多復(fù)雜模型進(jìn)行分析。這種復(fù)雜性要求調(diào)查現(xiàn)有監(jiān)管計(jì)劃的不足和最新發(fā)展，監(jiān)管計(jì)劃必須及時(shí)調(diào)整，以應(yīng)對(duì)如此復(fù)雜的過(guò)程所帶來(lái)的潛在風(fēng)險(xiǎn)。
盡管目前向社會(huì)公開(kāi)的公共信用評(píng)價(jià)系統(tǒng)的相關(guān)信息很少（如底層邏輯、數(shù)據(jù)參數(shù)、算法系統(tǒng)等），但是我們?nèi)匀豢梢詮呢?fù)責(zé)信用評(píng)價(jià)系統(tǒng)開(kāi)發(fā)的私營(yíng)企業(yè)或者科研機(jī)構(gòu)的專利公告中管窺自動(dòng)化公共信用評(píng)價(jià)的技術(shù)原理。例如，蕪湖市的個(gè)人社會(huì)信用評(píng)價(jià)系統(tǒng)——“樂(lè)惠分”?！皹?lè)惠分”背后的技術(shù)支撐正是惠國(guó)征信服務(wù)股份有限公司所掌握的“基于政務(wù)數(shù)據(jù)和應(yīng)用的個(gè)人社會(huì)信用評(píng)分方法”這一發(fā)明專利。根據(jù)該專利的公告信息，該專利采用了線性回歸和線性規(guī)劃的方法，利用政務(wù)大數(shù)據(jù)作為原始參數(shù)對(duì)個(gè)人信用狀況建模，通過(guò)各維度細(xì)分模型確定相關(guān)數(shù)據(jù)權(quán)重，最終形成個(gè)人社會(huì)信用評(píng)分。再如廈門市的個(gè)人社會(huì)信用評(píng)價(jià)系統(tǒng)——“白鷺?lè)帧?，其背后主要的技術(shù)支撐也是廈門信息集團(tuán)大數(shù)據(jù)運(yùn)營(yíng)有限公司所掌握的“信用數(shù)據(jù)的處理方法及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)”這一發(fā)明專利，該專利的主要功能是可以對(duì)原始的信用大數(shù)據(jù)進(jìn)行導(dǎo)入、編目、清洗、治理以及發(fā)布，使原本雜亂的數(shù)據(jù)具備實(shí)用價(jià)值。
三、自動(dòng)化公共信用評(píng)價(jià)對(duì)正當(dāng)法律程序的挑戰(zhàn)
算法自動(dòng)化決策系統(tǒng)以及大數(shù)據(jù)技術(shù)在信用評(píng)價(jià)中的運(yùn)用，既是信用規(guī)制作為政府規(guī)制創(chuàng)新的一種典型特征，也是信用規(guī)制的一種制度優(yōu)勢(shì)，它有利于提高行政治理效率、提升行政治理的針對(duì)性與精確性、降低行政決策及行政執(zhí)法的隨意性。然而，這種自動(dòng)化信用評(píng)價(jià)模式也對(duì)傳統(tǒng)的行政法治精神和原則提出了挑戰(zhàn)。
（一）自動(dòng)化公共信用評(píng)價(jià)的法律效果
在信用規(guī)制過(guò)程中，自動(dòng)化公共信用評(píng)價(jià)發(fā)揮著重要作用。2019年9月，國(guó)家發(fā)改委辦公廳印發(fā)了《關(guān)于推送并應(yīng)用市場(chǎng)主體公共信用綜合評(píng)價(jià)結(jié)果的通知》（發(fā)改辦財(cái)金〔2019〕885號(hào)），要求建立健全公共信用綜合評(píng)價(jià)機(jī)制，以公共信用綜合評(píng)價(jià)支撐分級(jí)分類監(jiān)管。從目前自動(dòng)化公共信用評(píng)價(jià)的實(shí)踐看，自動(dòng)化公共信用評(píng)價(jià)具有多種法律效果：一是，公共信用評(píng)價(jià)結(jié)果可以作為行政處理要件。在行政管理過(guò)程中，行政主體可以直接依據(jù)信用評(píng)價(jià)結(jié)果作出行政命令，如責(zé)令限期改正、取消行政獎(jiǎng)勵(lì)等。例如，《濟(jì)南市房屋建筑市場(chǎng)信用評(píng)價(jià)管理辦法》第29 條規(guī)定，對(duì)于信用評(píng)價(jià)等級(jí)為D 的企業(yè)，不得作為評(píng)優(yōu)表彰、政策試點(diǎn)和項(xiàng)目扶持對(duì)象。二是，公共信用評(píng)價(jià)結(jié)果可以作為行政檢查的裁量因素。在日常的行政檢查過(guò)程中，行政主體可以依據(jù)信用評(píng)價(jià)結(jié)果對(duì)相對(duì)人采取強(qiáng)度不同的檢查措施。例如，《長(zhǎng)春市房地產(chǎn)開(kāi)發(fā)企業(yè)信用評(píng)價(jià)暫行辦法》第16 條規(guī)定，對(duì)于AAA 級(jí)信用企業(yè)，可以免于常規(guī)檢查；對(duì)于B 級(jí)信用企業(yè)，則要重點(diǎn)檢查。三是，公共信用評(píng)價(jià)結(jié)果可以作為行政指導(dǎo)的依據(jù)。在行政管理過(guò)程中，行政主體可以依據(jù)信用評(píng)價(jià)結(jié)果對(duì)相對(duì)人采取不同形式的指導(dǎo)，如警示提醒、指導(dǎo)約談等。
（二）自動(dòng)化公共信用評(píng)價(jià)引發(fā)的程序挑戰(zhàn)
隨著我國(guó)社會(huì)信用體系建設(shè)的不斷推進(jìn)，信用已經(jīng)逐漸成為個(gè)人或組織在社會(huì)經(jīng)濟(jì)活動(dòng)中的“第二身份證”，基于信用評(píng)價(jià)結(jié)果的進(jìn)一步廣泛應(yīng)用將有可能對(duì)個(gè)人或者組織的合法權(quán)益產(chǎn)生重大影響。此外，盡管信用評(píng)價(jià)系統(tǒng)看上去是公平的，數(shù)字給人一種客觀、真實(shí)的感覺(jué)，但其中隱藏著隱秘的操作流程，導(dǎo)致無(wú)論是被評(píng)價(jià)者還是管理者都難以對(duì)其進(jìn)行質(zhì)疑和審查，這無(wú)疑對(duì)公民的程序性基本權(quán)利造成了干預(yù)，進(jìn)而也會(huì)影響實(shí)體性基本權(quán)利的實(shí)現(xiàn)和保障。
自動(dòng)化公共信用評(píng)價(jià)引發(fā)的挑戰(zhàn)與算法自動(dòng)化決策系統(tǒng)本身存在的問(wèn)題密切相關(guān)。有關(guān)算法自動(dòng)化決策系統(tǒng)對(duì)程序正義的沖擊，國(guó)內(nèi)外學(xué)者從不同的角度進(jìn)行了分析和闡述。例如，加拿大學(xué)者伊恩·克爾認(rèn)為，自動(dòng)化決策系統(tǒng)正在促成一種危險(xiǎn)的“先發(fā)制人”（pre-emption）新哲學(xué)，這嚴(yán)重威脅了正當(dāng)法律程序，這些未經(jīng)驗(yàn)證的預(yù)測(cè)性技術(shù)將賦予程序員和使用這些技術(shù)的人巨大的壓迫性權(quán)力，他們能夠利用各種軟件來(lái)規(guī)制人類的行為，并在不受常用法律機(jī)制制約的情況下對(duì)個(gè)人作出關(guān)鍵決定。美國(guó)學(xué)者丹妮爾·西特倫認(rèn)為，自動(dòng)化決定通常涉及對(duì)個(gè)人自由和財(cái)產(chǎn)的剝奪，這就觸發(fā)了憲法中“正當(dāng)程序條款”的保障措施。從程序保護(hù)的角度看，算法自動(dòng)化決策系統(tǒng)首先可能對(duì)受通知權(quán)造成限制，其次可能不利于聽(tīng)證權(quán)的行使；從規(guī)則制定的角度看，算法自動(dòng)化決策系統(tǒng)可能限制公眾參與和透明度，不利于發(fā)揮“通知和評(píng)論”機(jī)制的作用。張凌寒教授認(rèn)為，行政正當(dāng)程序本質(zhì)上具有“信息發(fā)送功能”，其諸多原則或制度均可視為一種“信息工具”，而反應(yīng)型算法和預(yù)測(cè)型算法均對(duì)行政正當(dāng)程序的功能造成了限制，具體表現(xiàn)為算法不透明遮蔽了行政信息公開(kāi)、算法技術(shù)壟斷架空了公眾參與、算法黑箱阻礙了說(shuō)明理由。
綜合已有研究成果，筆者認(rèn)為，在信用規(guī)制中，自動(dòng)化公共信用評(píng)價(jià)同樣也對(duì)正當(dāng)法律程序提出了諸多挑戰(zhàn)，主要表現(xiàn)在兩個(gè)方面。
第一，自動(dòng)化公共信用評(píng)價(jià)的自動(dòng)性、隱蔽性等特征將導(dǎo)致事先通知、陳述意見(jiàn)、聽(tīng)證等程序難以實(shí)現(xiàn)。盡管目前理論與實(shí)踐對(duì)信用評(píng)價(jià)的法律性質(zhì)存有爭(zhēng)議，一時(shí)難以準(zhǔn)確定位，但不可否認(rèn)的是，公共信用評(píng)價(jià)的背后是行政權(quán)力的行使，其結(jié)果將對(duì)公民、法人和其他組織的合法權(quán)益產(chǎn)生重要影響。在傳統(tǒng)行政決定的場(chǎng)景中，法律通常為行政決定的相對(duì)人提供事先通知、聽(tīng)取意見(jiàn)的機(jī)會(huì)，并設(shè)置各種具體的程序制度。然而，在基于算法自動(dòng)化決策系統(tǒng)的信用評(píng)價(jià)場(chǎng)景中，信用評(píng)價(jià)過(guò)程具有自動(dòng)化特征，它通常是由算法自動(dòng)化決策系統(tǒng)根據(jù)輸入的數(shù)據(jù)，按照預(yù)先設(shè)定的算法程式，甚至是在自主學(xué)習(xí)的基礎(chǔ)上，由算法模型自主完成的。此外，信用評(píng)價(jià)過(guò)程還具有隱蔽性。一方面，信用評(píng)價(jià)系統(tǒng)的開(kāi)發(fā)、部署、運(yùn)行等通常是在個(gè)人或公眾不知情的情況下進(jìn)行的；另一方面，信用評(píng)價(jià)系統(tǒng)中輸入的數(shù)據(jù)可能是在個(gè)人或組織不知情或未經(jīng)其同意的情況下收集的，還有可能是私人企業(yè)向政府機(jī)構(gòu)共享數(shù)據(jù)的結(jié)果。正是由于自動(dòng)化決策系統(tǒng)的自動(dòng)性、隱蔽性等特征，導(dǎo)致行政相對(duì)人和利益相關(guān)者在信用評(píng)價(jià)決定作出之前，無(wú)法通過(guò)法定的程序制度參與行政決定過(guò)程，無(wú)法充分行使陳述、申辯、要求聽(tīng)證等各項(xiàng)程序性權(quán)利，而只能被動(dòng)接受由自動(dòng)化算法系統(tǒng)給出的評(píng)價(jià)結(jié)果。
第二，自動(dòng)化公共信用評(píng)價(jià)的不透明、封閉性等特征將導(dǎo)致說(shuō)明理由這一程序機(jī)制難以實(shí)現(xiàn)。說(shuō)明理由是正當(dāng)程序的一項(xiàng)基本要素，它要求行政機(jī)關(guān)在作出行政決定時(shí)，應(yīng)當(dāng)向受決定影響的相對(duì)人說(shuō)明事實(shí)和理由，以表明其合法性和合理性。在算法自動(dòng)化決策中，算法系統(tǒng)通常不透明（opaci?ty），即使相對(duì)方知道自己可能受到自動(dòng)化決策的不利影響，卻無(wú)法確定該決策的合理依據(jù)，進(jìn)而無(wú)法提出“有意義的質(zhì)疑和挑戰(zhàn)”。一般認(rèn)為，算法的不透明可以大致分為三種情形：（1）故意的不透明（intentional opacity），即故意隱瞞程序。算法系統(tǒng)的程式代碼通常受商業(yè)秘密或版權(quán)的保護(hù)，因此很難知道“黑箱”的確切內(nèi)容。（2）無(wú)知的不透明（illiterate opacity），即由于缺乏專業(yè)知識(shí)無(wú)法讀懂代碼。算法系統(tǒng)的邏輯通常由一系列符號(hào)、公式構(gòu)成，即使公布了算法系統(tǒng)的過(guò)程（如源代碼），受專業(yè)知識(shí)的限制，對(duì)于普通公眾而言，不透明的現(xiàn)狀仍然存在。（3）固有的不透明（intrinsic opacity），即算法系統(tǒng)的復(fù)雜性導(dǎo)致算法系統(tǒng)在本質(zhì)上可能是無(wú)法解釋的，即使有幸拿到了打開(kāi)黑箱的鑰匙，也很難揭開(kāi)決策的邏輯。這三種不透明也可能出現(xiàn)在自動(dòng)化公共信用評(píng)價(jià)系統(tǒng)中，行政機(jī)關(guān)和算法系統(tǒng)開(kāi)發(fā)者同樣可能以“故意的不透明”和“固有的不透明”為由拒絕對(duì)其決策承擔(dān)說(shuō)明理由的義務(wù)。與此同時(shí)，個(gè)人或公眾也可能因?yàn)椤盁o(wú)知的不透明”而難以知曉信用評(píng)價(jià)結(jié)果到底是依據(jù)何種理由作出的、此種理由是否合法及合理。
四、自動(dòng)化公共信用評(píng)價(jià)的程序控制
科學(xué)技術(shù)的變化正在重塑我們的社會(huì)，也影響了公民可獲得的程序性保障，正當(dāng)法律程序的基本要求也必須適應(yīng)不斷變化的現(xiàn)實(shí)世界。政府在采用自動(dòng)化決策系統(tǒng)時(shí)，不僅要考慮這些決策的實(shí)質(zhì)內(nèi)容，還要考慮這些治理方式的轉(zhuǎn)變?nèi)绾斡绊懝矄?wèn)責(zé)、信任和民主監(jiān)督。這符合正當(dāng)法律程序的基本價(jià)值，即政府程序應(yīng)當(dāng)是透明的、可理解的和可預(yù)測(cè)的。自動(dòng)化公共信用評(píng)價(jià)帶來(lái)的新事實(shí)、新情勢(shì)、新挑戰(zhàn)及其對(duì)正當(dāng)法律程序的影響，引發(fā)了新的程序保障需求。首先，有必要建立一種“預(yù)聽(tīng)證程序”（pre-hearing process），以確定并推翻沒(méi)有事實(shí)或法律依據(jù)的部署自動(dòng)化決策系統(tǒng)的提議。其次，有必要提高自動(dòng)化決策的透明度，尤其是當(dāng)行政機(jī)關(guān)試圖依據(jù)自動(dòng)化決定對(duì)相對(duì)方的合法權(quán)益造成限制時(shí)。再次，聽(tīng)取意見(jiàn)的時(shí)間應(yīng)當(dāng)更為靈活，方式應(yīng)當(dāng)盡可能確保利益相關(guān)者無(wú)須借助法律專業(yè)人員也能有意義地參與。最后，應(yīng)當(dāng)通過(guò)程序機(jī)制強(qiáng)化行政機(jī)關(guān)的說(shuō)理義務(wù)，破除算法黑箱。
有鑒于此，學(xué)者們提出應(yīng)當(dāng)將正當(dāng)程序創(chuàng)造性地運(yùn)用到算法自動(dòng)化決策系統(tǒng)中。其中，最具代表性的是美國(guó)學(xué)者丹妮爾·西特倫提出的“技術(shù)性正當(dāng)程序”（technological due process）理論。美國(guó)學(xué)者凱特·克勞福德和杰森·舒爾茨以此為理論原型，提出了“數(shù)據(jù)正當(dāng)程序”（data due process），主張應(yīng)當(dāng)建立所謂的數(shù)據(jù)程序權(quán)利體系。劉東亮教授認(rèn)為，對(duì)算法權(quán)力的規(guī)制和監(jiān)督，需要從算法設(shè)計(jì)的源頭建構(gòu)“技術(shù)性正當(dāng)程序”，實(shí)現(xiàn)程序的代碼化。筆者認(rèn)為，自動(dòng)化公共信用評(píng)價(jià)是算法自動(dòng)化決策的一種具體情形，因此，“技術(shù)性正當(dāng)程序”對(duì)于正當(dāng)程序在算法自動(dòng)化決策中的適用所提出的創(chuàng)見(jiàn)值得借鑒。
（一）技術(shù)性正當(dāng)程序：西特倫的分析
西特倫教授提出，法律學(xué)者和系統(tǒng)專家必須共同努力，在自動(dòng)化時(shí)代塑造正當(dāng)程序的新輪廓。她認(rèn)為，在方法上，“技術(shù)性正當(dāng)程序”主要借鑒了理論界有關(guān)“規(guī)則與標(biāo)準(zhǔn)”的討論，以系統(tǒng)性的視角來(lái)思考自動(dòng)化與人工裁量之間的關(guān)系；在內(nèi)容上，“技術(shù)性正當(dāng)程序”主要是通過(guò)提供維護(hù)正當(dāng)程序和規(guī)則制定規(guī)范的機(jī)制，重新設(shè)想了自動(dòng)化時(shí)代的程序保障。在西特倫教授看來(lái)，“技術(shù)性正當(dāng)程序”理論在重塑自動(dòng)化行政國(guó)家的程序保障機(jī)制時(shí)可以從兩個(gè)方面著手。
其一，保護(hù)個(gè)人權(quán)利。西特倫教授認(rèn)為，算法自動(dòng)化決策損害了有意義的通知和陳述意見(jiàn)的機(jī)會(huì)這兩項(xiàng)正當(dāng)程序保障機(jī)制，應(yīng)當(dāng)從技術(shù)和法律兩個(gè)角度予以回應(yīng)。具體而言，首先是要確保有意義的通知。在設(shè)計(jì)自動(dòng)化決策系統(tǒng)時(shí)應(yīng)當(dāng)建立審計(jì)追蹤機(jī)制（audit trails），對(duì)支持自動(dòng)化決定的事實(shí)和規(guī)則予以記錄。審計(jì)追蹤應(yīng)當(dāng)詳細(xì)說(shuō)明系統(tǒng)作出的每一項(xiàng)細(xì)微決定所適用的實(shí)際規(guī)則，有了審計(jì)追蹤，行政機(jī)關(guān)就有辦法向個(gè)人提供支持自動(dòng)化決策系統(tǒng)對(duì)其重要權(quán)利作出裁決的理由。其次是要保障聽(tīng)證權(quán)利。行政法必須正視自動(dòng)化決策系統(tǒng)存在的偏見(jiàn)，這種偏見(jiàn)影響了聽(tīng)證官員的公正性，剝奪了個(gè)人發(fā)表意見(jiàn)的機(jī)會(huì)。盡管徹底消除自動(dòng)化決策系統(tǒng)存在的偏見(jiàn)非常困難，但是有兩項(xiàng)規(guī)則至少應(yīng)當(dāng)實(shí)施：一是行政機(jī)關(guān)應(yīng)當(dāng)向聽(tīng)證官員明確說(shuō)明，自動(dòng)化決策系統(tǒng)是容易出錯(cuò)的，為此，聽(tīng)證官員應(yīng)當(dāng)接受有關(guān)自動(dòng)化系統(tǒng)的培訓(xùn)。二是行政機(jī)關(guān)應(yīng)當(dāng)要求聽(tīng)證官員詳細(xì)解釋其對(duì)自動(dòng)化系統(tǒng)的依賴程度，為此，行政機(jī)關(guān)應(yīng)當(dāng)查明其在作出行政決定時(shí)所依據(jù)的計(jì)算機(jī)生成的事實(shí)或法律結(jié)論。
其二，取代規(guī)則制定程序。西特倫教授認(rèn)為，自動(dòng)化決策系統(tǒng)的設(shè)計(jì)必須以透明和問(wèn)責(zé)制為主要目標(biāo)，以防止制定程序上有缺陷的規(guī)則，主要有以下幾種基本的行為規(guī)范：（1）自動(dòng)化決策系統(tǒng)的開(kāi)發(fā)者應(yīng)當(dāng)向公眾發(fā)布系統(tǒng)的源代碼，源代碼應(yīng)當(dāng)能夠展示系統(tǒng)的工作原理。（2）行政機(jī)關(guān)應(yīng)當(dāng)測(cè)試自動(dòng)化決策系統(tǒng)及其軟件，測(cè)試應(yīng)當(dāng)在系統(tǒng)啟動(dòng)前、實(shí)施過(guò)程中和系統(tǒng)所依據(jù)的規(guī)則改變之時(shí)實(shí)施。（3）行政機(jī)關(guān)應(yīng)當(dāng)積極探討如何讓公眾參與自動(dòng)化決策系統(tǒng)的建設(shè)，例如，行政機(jī)關(guān)可以設(shè)立“信息技術(shù)審查委員會(huì)”，為利益相關(guān)者和公眾評(píng)價(jià)系統(tǒng)設(shè)計(jì)和測(cè)試提供機(jī)會(huì)。（4）行政機(jī)關(guān)應(yīng)當(dāng)避免將未經(jīng)過(guò)正式或非正式規(guī)則制定程序的政策自動(dòng)化，如解釋性規(guī)則和政策聲明。換言之，由程序員編寫的解釋性規(guī)則和政策聲明應(yīng)當(dāng)遵守規(guī)則制定程序，盡管這并不能徹底解決無(wú)意中將“立法權(quán)”下放給代碼編寫者而帶來(lái)的“問(wèn)責(zé)赤字”，卻可以在一定程度上減輕這方面的隱憂。
總的來(lái)說(shuō)，西特倫教授認(rèn)為，自動(dòng)化決策系統(tǒng)具備許多優(yōu)勢(shì)，它在一定程度上能夠消除人為決策中存在的錯(cuò)誤或失誤，并促進(jìn)決策的一致性，因此，政府決策的自動(dòng)化已經(jīng)不可避免。然而，自動(dòng)化決策系統(tǒng)也帶來(lái)了諸多挑戰(zhàn)，它未能利用其糾正錯(cuò)誤的潛力，反而成為傳播錯(cuò)誤的工具，因此，行政法應(yīng)當(dāng)正視自動(dòng)化決策系統(tǒng)帶來(lái)的挑戰(zhàn)?！凹夹g(shù)性正當(dāng)程序”理論是在不放棄自動(dòng)化決策系統(tǒng)帶來(lái)的益處之前提下，為保護(hù)個(gè)人或組織在公平的、可問(wèn)責(zé)的和透明的裁決和規(guī)則制定方面的利益提供新的程序性保障。
（二）技術(shù)性正當(dāng)程序嵌入自動(dòng)化公共信用評(píng)價(jià)
由于政府部門在個(gè)人和組織的信用評(píng)價(jià)中廣泛運(yùn)用了算法自動(dòng)化決策系統(tǒng)，因此，算法自動(dòng)化決策系統(tǒng)的設(shè)計(jì)、實(shí)施或運(yùn)行中的缺陷有可能侵犯?jìng)€(gè)人和組織的合法權(quán)益。對(duì)此，公法應(yīng)當(dāng)采取措施，除了保護(hù)特定個(gè)人和組織獲取信息或獲得救濟(jì)的權(quán)利外，還應(yīng)當(dāng)解決系統(tǒng)性問(wèn)題?！凹夹g(shù)性正當(dāng)程序”理論正是公法作出的回應(yīng)，其可以為理論和實(shí)踐提供指引。目前，在世界范圍內(nèi)，一些國(guó)家或地區(qū)已經(jīng)專門為政府部門的自動(dòng)化決策制定了法律規(guī)則，如紐約市于2018 年1 月頒布了《行政機(jī)關(guān)使用自動(dòng)化決策系統(tǒng)的地方法》，大量條款涉及建立自動(dòng)化決策系統(tǒng)的程序保障機(jī)制，包括信息公開(kāi)、影響評(píng)估、解釋決定等；加拿大政府于2019年4 月頒布了《自動(dòng)化決策指令》，對(duì)自動(dòng)化決策系統(tǒng)提出了要求：（1）算法影響評(píng)估；（2）透明度，包括決定之前提供通知、決定之后提供解釋、訪問(wèn)組建、發(fā)布源代碼等；（3）質(zhì)量保證，包括測(cè)試和監(jiān)控結(jié)果、數(shù)據(jù)質(zhì)量、同行評(píng)審、員工培訓(xùn)、應(yīng)急程序、安全保障、法律咨詢、人為干預(yù)等；（4）追償權(quán)，向個(gè)人或組織提供所有可用的救濟(jì)途徑，允許他們對(duì)行政決定提出質(zhì)疑；（5）信息公開(kāi)，發(fā)布有關(guān)自動(dòng)化決策系統(tǒng)有效性和效率的信息。新西蘭政府于2020 年7 月頒布了《算法憲章》，要求政府機(jī)構(gòu)在使用算法時(shí)應(yīng)當(dāng)履行以下義務(wù)：（1）指定一個(gè)聯(lián)絡(luò)點(diǎn)，負(fù)責(zé)處理公眾對(duì)算法的詢問(wèn)；（2）為質(zhì)疑或起訴由算法作出的決定提供一個(gè)渠道；（3）明確解釋人類在以算法為依據(jù)的決定中的作用。我國(guó)《個(gè)人信息保護(hù)法》也對(duì)自動(dòng)化決策作出了回應(yīng)：第73條對(duì)自動(dòng)化決策進(jìn)行了界定；第24條對(duì)自動(dòng)化決策的透明度、解釋說(shuō)明以及公民的拒絕權(quán)作出了規(guī)定；第55條規(guī)定了自動(dòng)化決策的個(gè)人信息保護(hù)影響評(píng)估制度。綜合國(guó)內(nèi)外已有的理論和實(shí)踐經(jīng)驗(yàn)，以“技術(shù)性正當(dāng)程序”理論作為指引，筆者認(rèn)為，可以從兩個(gè)方面對(duì)自動(dòng)化公共信用評(píng)價(jià)進(jìn)行程序控制。
1.基于算法信息公開(kāi)增強(qiáng)算法系統(tǒng)的透明度
雖然透明度是經(jīng)濟(jì)學(xué)和政治學(xué)的一個(gè)重要概念，但其思想根源在于政府信息的獲取。在理論上，透明度主要分為兩種類型：一種是所謂的“魚(yú)缸透明度”（fishbowl transparency），指的是公眾窺探政府內(nèi)部并獲取有關(guān)政府官員所作所為信息的能力。這種透明度關(guān)注的重點(diǎn)是公眾獲取政府所掌握的信息和有關(guān)政府工作的信息，它包括公眾對(duì)政府聽(tīng)證會(huì)、檔案柜中的記錄和計(jì)算機(jī)系統(tǒng)中的材料的獲取。另一種是“說(shuō)理透明度”（reasoned trans?parency），強(qiáng)調(diào)的是信息的有用性，即政府是否揭示其采取行動(dòng)的原因。換言之，“說(shuō)理透明度”強(qiáng)調(diào)政府通過(guò)說(shuō)明理由來(lái)解釋其行為的重要性。
那么，如何通過(guò)算法信息公開(kāi)來(lái)增強(qiáng)算法系統(tǒng)的透明度？筆者認(rèn)為，首先應(yīng)當(dāng)明確兩項(xiàng)基本原則：一是算法自動(dòng)化決策的可見(jiàn)性，應(yīng)當(dāng)成為行政信息公開(kāi)的基本要求；二是算法作出決策的基本規(guī)則和因素權(quán)重，應(yīng)當(dāng)向社會(huì)公眾公開(kāi)。其次應(yīng)當(dāng)處理好算法信息公開(kāi)與商業(yè)秘密保護(hù)之間的關(guān)系。美國(guó)學(xué)者羅伯特·布勞內(nèi)斯和埃倫·古德曼提出的方案或許值得我們借鑒。他們認(rèn)為，為了在行政信息公開(kāi)與商業(yè)秘密保護(hù)之間取得平衡，實(shí)現(xiàn)“有意義的透明度”，政府部門應(yīng)當(dāng)利用其“訂約權(quán)”（contracting powers），堅(jiān)持適當(dāng)?shù)挠涗浗?、提供和披露。具體而言，當(dāng)政府部門與算法系統(tǒng)開(kāi)發(fā)商在簽訂開(kāi)發(fā)協(xié)議時(shí)，應(yīng)當(dāng)將行政信息公開(kāi)的要求與商業(yè)秘密保護(hù)條款聯(lián)系起來(lái)，要求系統(tǒng)開(kāi)發(fā)商必須在合同中標(biāo)明具體受商業(yè)秘密保護(hù)的記錄以及可以公開(kāi)的記錄。換言之，系統(tǒng)開(kāi)發(fā)商不能籠統(tǒng)地以商業(yè)秘密受法律保護(hù)而拒絕公開(kāi)算法系統(tǒng)相關(guān)信息，而是需要將合同中商業(yè)秘密保護(hù)條款的內(nèi)容進(jìn)行細(xì)化，具體區(qū)分受保護(hù)和不受保護(hù)的記錄，這并不是要求系統(tǒng)開(kāi)發(fā)商公布源代碼，而是要求其公開(kāi)系統(tǒng)所依據(jù)的法律規(guī)則以及將其轉(zhuǎn)換為代碼的基本原理。通過(guò)在算法系統(tǒng)開(kāi)發(fā)合同中載明相關(guān)記錄，公眾可以申請(qǐng)政府公開(kāi)合同來(lái)滿足對(duì)算法透明度的需求。
通過(guò)算法信息公開(kāi)來(lái)增強(qiáng)算法透明度也越來(lái)越受到各國(guó)的重視，可以為我國(guó)制定相應(yīng)的規(guī)范提供參考。例如，德國(guó)信息自由專員會(huì)議于2018年10月通過(guò)一份決議，要求公共機(jī)構(gòu)必須確保算法足夠透明，在法律允許的情況下，應(yīng)當(dāng)公開(kāi)如下信息：（1）數(shù)據(jù)類別的信息；（2）算法的技術(shù)邏輯；（3）算法自動(dòng)化決定可能產(chǎn)生的后果。為了確保能夠?qū)崿F(xiàn)前述基本要求，公共行政部門應(yīng)當(dāng)在制定算法系統(tǒng)開(kāi)發(fā)方案時(shí)就考慮上述內(nèi)容，通過(guò)設(shè)計(jì)實(shí)現(xiàn)透明度。法國(guó)《公眾與行政部門關(guān)系法典》第R.311-3-1-2 條規(guī)定，行政部門應(yīng)當(dāng)在不侵犯受法律保護(hù)的秘密之前提下，應(yīng)個(gè)人行政決定的對(duì)象之要求，以可理解之形式向其提供以下信息：（1）算法處理對(duì)決定的貢獻(xiàn)程度和方式；（2）處理的數(shù)據(jù)及其來(lái)源；（3）處理參數(shù)及其加權(quán)；（4）進(jìn)行這種處理的具體操作。此外，法國(guó)憲法委員會(huì)于2018年在審查法國(guó)數(shù)據(jù)保護(hù)法與歐盟GDPR 保持一致的法案時(shí)指出，當(dāng)一種算法的操作規(guī)則不能在不侵犯受保護(hù)之秘密或利益的情況下進(jìn)行傳達(dá)時(shí)，行政部門不能僅根據(jù)這種算法作出個(gè)人行政決定，即，如果一個(gè)行政部門在行政決定中完全依靠算法，則不得以商業(yè)秘密為借口不公開(kāi)其運(yùn)作情況。
2.通過(guò)算法影響評(píng)估增強(qiáng)算法系統(tǒng)的問(wèn)責(zé)制
保障公眾參與是正當(dāng)法律程序的基本要素之一，參與可以帶來(lái)更多的信任、更多的滿意度和更大的公民接受度，最終結(jié)果是公共行政績(jī)效的正當(dāng)性得以提升。對(duì)于政府部門而言，如果在沒(méi)有建立適當(dāng)?shù)膯?wèn)責(zé)制框架的情況下就在公共行政中部署針對(duì)不特定多數(shù)人的算法決策系統(tǒng)，很有可能導(dǎo)致他們不了解決策過(guò)程，從而難以發(fā)現(xiàn)或應(yīng)對(duì)偏見(jiàn)、錯(cuò)誤或其他問(wèn)題，最終導(dǎo)致合法性或正當(dāng)性質(zhì)疑。
算法影響評(píng)估是指能夠幫助行政機(jī)關(guān)更好地理解和減少自動(dòng)化決策系統(tǒng)相關(guān)的風(fēng)險(xiǎn)，并提供與所設(shè)計(jì)的應(yīng)用程序類型相匹配的適當(dāng)?shù)闹卫怼⒈O(jiān)督和審計(jì)需求的框架。這并非一種全新的制度，影響評(píng)估早已在科學(xué)和政策領(lǐng)域廣泛實(shí)施。算法影響評(píng)估可以充分利用已有的制度框架，并結(jié)合科學(xué)和政策領(lǐng)域內(nèi)影響評(píng)估的研究和實(shí)踐成果，形成專門針對(duì)算法的評(píng)估機(jī)制，并為建構(gòu)系統(tǒng)性的算法問(wèn)責(zé)機(jī)制提供重要支撐。
盡管算法影響評(píng)估不能解決自動(dòng)化決策系統(tǒng)可能產(chǎn)生的所有問(wèn)題，但它確實(shí)提供了一種重要的機(jī)制，讓公眾了解情況，并讓決策者和研究人員展開(kāi)富有成效的對(duì)話。具體而言，算法影響評(píng)估有助于實(shí)現(xiàn)以下幾個(gè)政策目標(biāo)：（1）尊重社會(huì)公眾的知情權(quán)，讓公眾能夠了解影響其日常生活的自動(dòng)化系統(tǒng)有哪些，這些系統(tǒng)會(huì)在哪些方面對(duì)其合法權(quán)益產(chǎn)生影響。（2）提高政府部門的專業(yè)知識(shí)和能力，讓政府部門能夠?qū)ζ溟_(kāi)發(fā)或采購(gòu)的自動(dòng)化系統(tǒng)作出科學(xué)評(píng)價(jià)，以便能夠預(yù)見(jiàn)應(yīng)當(dāng)注意的風(fēng)險(xiǎn)，如產(chǎn)生歧視性影響、侵犯公民隱私、違反正當(dāng)程序等。（3）確保加強(qiáng)自動(dòng)化決策系統(tǒng)的問(wèn)責(zé)制，為外部研究人員提供有意義的、持續(xù)不斷的機(jī)會(huì)，使他們能夠利用發(fā)現(xiàn)和測(cè)算問(wèn)題的方法審查、審計(jì)和評(píng)估這些系統(tǒng)。（4）確保社會(huì)公眾具備申訴機(jī)會(huì)，能夠?qū)δ骋蛔詣?dòng)化系統(tǒng)的使用或行政機(jī)關(guān)的算法問(wèn)責(zé)辦法作出積極回應(yīng)。
算法影響評(píng)估已經(jīng)成為世界公認(rèn)的算法治理機(jī)制。許多專家學(xué)者、技術(shù)人員、政策制定者都在積極推廣算法影響評(píng)估，一些國(guó)家甚至已經(jīng)（準(zhǔn)備）將算法影響評(píng)估予以法制化。例如，加拿大《自動(dòng)化決策指令》規(guī)定：（1）在生成任何自動(dòng)化決策系統(tǒng)之前，應(yīng)當(dāng)完成算法影響評(píng)估；（2）當(dāng)系統(tǒng)功能或自動(dòng)化決策系統(tǒng)的范圍發(fā)生變化時(shí)，應(yīng)當(dāng)更新算法影響評(píng)估。綜合已有的研究成果和實(shí)踐經(jīng)驗(yàn)，筆者認(rèn)為，我國(guó)應(yīng)當(dāng)建立統(tǒng)一的算法影響評(píng)估框架，對(duì)自動(dòng)化決策系統(tǒng)在公共行政中的運(yùn)用進(jìn)行評(píng)估。具體到自動(dòng)化公共信用評(píng)價(jià)系統(tǒng)而言，算法影響評(píng)估框架應(yīng)當(dāng)至少包含以下要素：（1）行政機(jī)關(guān)應(yīng)當(dāng)對(duì)現(xiàn)有的或擬部署的自動(dòng)化信用評(píng)價(jià)系統(tǒng)進(jìn)行自我評(píng)估，評(píng)估該系統(tǒng)對(duì)公平、正義、公正等價(jià)值的潛在沖擊，了解該系統(tǒng)對(duì)個(gè)人和組織的合法權(quán)益可能造成的潛在影響。（2）行政機(jī)關(guān)應(yīng)當(dāng)制定有意義的外部審查程序，允許技術(shù)專家、法律專家等組成算法影響評(píng)估工作小組，對(duì)自動(dòng)化信用評(píng)價(jià)系統(tǒng)進(jìn)行長(zhǎng)期跟蹤調(diào)查研究。（3）行政機(jī)關(guān)在部署自動(dòng)化信用評(píng)價(jià)系統(tǒng)前，應(yīng)當(dāng)向社會(huì)公布有關(guān)自動(dòng)化信用評(píng)價(jià)系統(tǒng)的內(nèi)部評(píng)估報(bào)告和外部評(píng)估報(bào)告。（4）行政機(jī)關(guān)在決定采用自動(dòng)化信用評(píng)價(jià)系統(tǒng)前應(yīng)當(dāng)公開(kāi)征求公眾意見(jiàn)，主動(dòng)澄清比較重要的問(wèn)題以及可能引發(fā)爭(zhēng)議的問(wèn)題。（5）自動(dòng)化信用評(píng)價(jià)系統(tǒng)在正式作出信用評(píng)價(jià)結(jié)果之前，應(yīng)當(dāng)通過(guò)技術(shù)設(shè)計(jì)將“通知”融入其中，自動(dòng)通知個(gè)人或組織將對(duì)其信用狀況進(jìn)行評(píng)價(jià)，并給予個(gè)人或組織一定的時(shí)間進(jìn)行回應(yīng)。（6）自動(dòng)化信用評(píng)價(jià)系統(tǒng)在正式作出信用評(píng)價(jià)結(jié)果之后，應(yīng)當(dāng)自動(dòng)告知個(gè)人或組織，并允許其查閱具體的評(píng)價(jià)過(guò)程以及依據(jù)。允許當(dāng)事人對(duì)評(píng)價(jià)結(jié)果提出異議，可以通過(guò)內(nèi)部申訴、行政復(fù)議、行政訴訟等途徑尋求權(quán)利救濟(jì)。
結(jié)語(yǔ)
在大數(shù)據(jù)時(shí)代，盡管大數(shù)據(jù)、算法等技術(shù)可以彌補(bǔ)傳統(tǒng)信用評(píng)價(jià)之不足，提升公共信用評(píng)價(jià)的準(zhǔn)確性、及時(shí)性和完整性，但也引發(fā)了新的問(wèn)題，尤其是算法系統(tǒng)的“黑箱化”、自動(dòng)化趨勢(shì)，已經(jīng)威脅到公民的程序性基本權(quán)利。對(duì)此，我們應(yīng)當(dāng)堅(jiān)持行政法治的基本理念，并積極拓展相關(guān)原則或者規(guī)則的可適用性，以此來(lái)適應(yīng)自動(dòng)化行政提出的挑戰(zhàn)?！凹夹g(shù)性正當(dāng)程序”正是傳統(tǒng)正當(dāng)程序原則在自動(dòng)化行政國(guó)家中的發(fā)展，它不僅可以為自動(dòng)化公共信用評(píng)價(jià)的程序控制提供解決方案，也可以為整個(gè)自動(dòng)化行政的法律控制提供啟迪。
猜你喜歡
工業(yè)設(shè)計(jì)(2022年8期)2022-09-09 07:43:20
石油瀝青(2021年4期)2021-10-14 08:50:44
軍民兩用技術(shù)與產(chǎn)品(2021年10期)2021-03-16 06:05:30
世界科學(xué)技術(shù)-中醫(yī)藥現(xiàn)代化(2021年10期)2021-03-02 05:52:06
北京測(cè)繪(2020年12期)2020-12-29 01:33:58
裝備制造技術(shù)(2019年12期)2019-12-25 03:06:46
中國(guó)洗滌用品工業(yè)(2019年4期)2019-05-11 09:27:34
家庭影院技術(shù)(2017年9期)2017-09-26 03:41:45
中國(guó)教育技術(shù)裝備(2015年19期)2015-03-01 02:43:07
中國(guó)工程咨詢(2015年2期)2015-02-14 02:59:26
