〔摘要〕 在技術(shù)驅(qū)動(dòng)和公共管理職能轉(zhuǎn)變的需求下，公共領(lǐng)域算法決策得到廣泛應(yīng)用，其在管理職能和方式中的獨(dú)特性是規(guī)則調(diào)整的前提。算法決策同公共權(quán)力的結(jié)合，使得技術(shù)發(fā)展無(wú)法中立，且在機(jī)會(huì)平等表象下可能造成對(duì)權(quán)力秩序的沖擊和對(duì)個(gè)體權(quán)利的侵害。傳統(tǒng)的法學(xué)調(diào)整方法面臨分散的個(gè)體發(fā)展同民主秩序穩(wěn)定、風(fēng)險(xiǎn)預(yù)測(cè)與因果關(guān)系、權(quán)力賦予與權(quán)利保障等矛盾的協(xié)調(diào)問(wèn)題。公共領(lǐng)域算法決策的法律規(guī)制必須在算法系統(tǒng)、價(jià)值選擇、制度構(gòu)建和評(píng)估標(biāo)準(zhǔn)層面進(jìn)行引導(dǎo)。

〔關(guān)鍵詞〕 公共管理，算法決策，自由裁量權(quán)，權(quán)力邏輯

〔中圖分類(lèi)號(hào)〕D90 ?? 〔文獻(xiàn)標(biāo)識(shí)碼〕A〔文章編號(hào)〕1004-4175（2020）03-0113-08

我們身處的時(shí)代，信息成為一種有價(jià)值的資源，算法開(kāi)始介入其中。算法幫助人們將分散的信息和數(shù)據(jù)整合為有用的概念、規(guī)則甚至模式。同時(shí)，信息的膨脹，讓數(shù)據(jù)挖掘和知識(shí)發(fā)現(xiàn)成為必然選擇，這意味著算法不再止步于信息查詢(xún)，而是能夠發(fā)現(xiàn)數(shù)據(jù)之間的潛在聯(lián)系，以便在準(zhǔn)確預(yù)測(cè)的前提下，更合理地制定決策。算法可以在短時(shí)間內(nèi)對(duì)大量數(shù)據(jù)進(jìn)行分類(lèi)篩選，并進(jìn)行深度挖掘，將通常是非結(jié)構(gòu)化的數(shù)據(jù)進(jìn)行模式或者關(guān)聯(lián)性的構(gòu)建，是一種新的知識(shí)生產(chǎn)方式。

伴隨計(jì)算機(jī)技術(shù)和智能硬件設(shè)備的發(fā)展，人們愈加能夠享受基于機(jī)器學(xué)習(xí)算法決策所帶來(lái)的便利，算法解決了諸多復(fù)雜的問(wèn)題，節(jié)約或者超越了人力，對(duì)社會(huì)產(chǎn)生了深刻的影響。有學(xué)者研究算法作為一種權(quán)力的特征 〔1 〕，或者討論算法決策對(duì)整個(gè)法律體系和法制建設(shè)可能產(chǎn)生的影響 〔2 〕;既有的研究有從個(gè)案出發(fā)討論法律調(diào)整算法歧視的范圍和類(lèi)型 〔3 〕，也有從憲法或者其他實(shí)體法出發(fā)尋找調(diào)整算法的依據(jù) 〔4 〕與方法 〔5 〕。在肯定這些研究對(duì)算法和法律之間的互動(dòng)關(guān)系做出努力的同時(shí)，同樣應(yīng)當(dāng)關(guān)注算法在不同場(chǎng)景的應(yīng)用，尤其是以公共管理為目的的算法決策的獨(dú)特性，進(jìn)而探知公共領(lǐng)域算法決策的驅(qū)動(dòng)因素和價(jià)值追求，作為公共領(lǐng)域算法決策法律規(guī)制的依據(jù)。

一、算法決策為什么被應(yīng)用在公共領(lǐng)域

算法決策是大數(shù)據(jù)時(shí)代的必然產(chǎn)物，對(duì)公共事務(wù)的發(fā)展具有技術(shù)性驅(qū)動(dòng)作用，它滿(mǎn)足了公共管理職能轉(zhuǎn)變的需求，體現(xiàn)出其獨(dú)特的功能優(yōu)勢(shì)和存在的系統(tǒng)性問(wèn)題。

（一）公共領(lǐng)域算法決策的應(yīng)用優(yōu)勢(shì)。公共領(lǐng)域算法決策是指對(duì)大量公共管理中的數(shù)據(jù)進(jìn)行深層次分析之后，按照既定組織目標(biāo)和秩序，進(jìn)行管理方法的探索，重復(fù)既有成功的、驗(yàn)證已知的、揭秘隱藏的、發(fā)現(xiàn)未知的有效信息和規(guī)律價(jià)值，并創(chuàng)建模型，促進(jìn)公共管理運(yùn)作。算法決策在公共領(lǐng)域的應(yīng)用，是基于結(jié)構(gòu)化的數(shù)據(jù)而獲得較強(qiáng)的驅(qū)動(dòng)力。公共服務(wù)傾向于使用數(shù)據(jù)分析和算法決策來(lái)實(shí)現(xiàn)政府服務(wù)的轉(zhuǎn)型，以期待更好的公共服務(wù)，比如提高工作效率，讓行政相對(duì)人獲得更好的體驗(yàn)，或者以更加廣泛的決策促進(jìn)市場(chǎng)經(jīng)濟(jì)的發(fā)展。為了實(shí)現(xiàn)這些目的，公共服務(wù)算法的應(yīng)用也經(jīng)歷了從作為傳統(tǒng)決策的證據(jù)，向構(gòu)建算法模型的轉(zhuǎn)變。

算法在決策層面具有兩個(gè)明顯的優(yōu)勢(shì)：第一，具有更準(zhǔn)確或者更強(qiáng)大的數(shù)據(jù)計(jì)算能力;第二，能夠考慮到更多的因素，并發(fā)現(xiàn)這些變量之間意外的關(guān)聯(lián)。算法雖然無(wú)法預(yù)測(cè)未來(lái)，但是可以根據(jù)現(xiàn)有的數(shù)據(jù)評(píng)估發(fā)生某件事情的可能性，尤其是在錯(cuò)綜復(fù)雜的因素中，發(fā)現(xiàn)那些容易被人們忽略的某些因素混合以后產(chǎn)生結(jié)果的可能性——因此可以做人類(lèi)在通常的計(jì)算中無(wú)法做到的事情。

算法決策服務(wù)于行政關(guān)系，第一，加強(qiáng)內(nèi)部組織職能，規(guī)范權(quán)力行使的方式和標(biāo)準(zhǔn)，排除個(gè)人行為對(duì)整體行政職能的損害;第二，加強(qiáng)對(duì)行政相對(duì)人的監(jiān)管，改變管理方式，適應(yīng)新的時(shí)代特征，提高效率且有助于約束個(gè)人行為;第三，幫助公共管理凝聚共識(shí)，使得人在物理和信息層面的流動(dòng)性加強(qiáng)，導(dǎo)致法律關(guān)系主體復(fù)雜化，客體多元化，法律關(guān)系在多層次和多場(chǎng)景中展開(kāi)。這使得自發(fā)形成的社會(huì)規(guī)范如習(xí)慣和道德倫理愈加無(wú)法得到統(tǒng)一和普遍適用，而算法決策對(duì)于建構(gòu)性規(guī)則在作為證據(jù)和價(jià)值指引層面的作用得以增強(qiáng)，從而有助于規(guī)則的統(tǒng)一，并可以為立法提供依據(jù)。

（二）公共領(lǐng)域算法決策的方式及問(wèn)題。公共決策應(yīng)用算法的形式主要有兩種，第一是自動(dòng)化系統(tǒng)，第二種是深度學(xué)習(xí)系統(tǒng)。在算法的自動(dòng)化階段，算法決策帶來(lái)的進(jìn)步主要體現(xiàn)在技術(shù)層面，比如行業(yè)基礎(chǔ)規(guī)則的嵌入、算法在特定場(chǎng)景的應(yīng)用、底層技術(shù)與交互技術(shù)的融合、算法語(yǔ)言與可視化系統(tǒng)的發(fā)展以及數(shù)據(jù)開(kāi)發(fā)精確性的進(jìn)步 〔6 〕。自動(dòng)化系統(tǒng)的優(yōu)勢(shì)符合公共服務(wù)的決策原則，即政府應(yīng)當(dāng)以合法的方式行使權(quán)力，并以公平、有效、高效的方式輸出決策。自動(dòng)化系統(tǒng)傾向于處理較為簡(jiǎn)單的問(wèn)題，在決策程序上更多的扮演證據(jù)的效力或者是發(fā)揮輔助的作用。所以在這一層面，其法律問(wèn)題爭(zhēng)議不大。算法發(fā)揮輔助作用，讓決策者對(duì)公共管理所預(yù)期的結(jié)果有了更清晰的認(rèn)識(shí);可以對(duì)結(jié)果或者目標(biāo)是否達(dá)成進(jìn)行實(shí)時(shí)測(cè)量或者監(jiān)控;在這一過(guò)程中運(yùn)用算法對(duì)行政行為進(jìn)行糾正，并且讓定期科學(xué)的事后評(píng)估成為可能。

對(duì)于自動(dòng)化系統(tǒng)，公共服務(wù)面臨的一個(gè)問(wèn)題是，如何將越來(lái)越復(fù)雜的元素結(jié)合在一起得出簡(jiǎn)單并且客觀的結(jié)果。海量數(shù)據(jù)可能會(huì)讓機(jī)械性的決策系統(tǒng)效率低下。另外，行政相對(duì)人也愈加需要個(gè)性化的服務(wù)。而這一層次的問(wèn)題特別需要技術(shù)的進(jìn)步，以實(shí)現(xiàn)更加有效和個(gè)性的公共產(chǎn)品輸出。在這種需求的推動(dòng)下，算法向深度學(xué)習(xí)系統(tǒng)轉(zhuǎn)變。深度學(xué)習(xí)系統(tǒng)不僅可以加速?zèng)Q策，而且可以改善決策。在滿(mǎn)足決策的專(zhuān)業(yè)性和標(biāo)準(zhǔn)化要求層面，深度學(xué)習(xí)系統(tǒng)發(fā)揮了重要的作用，即可以讓政府通過(guò)系統(tǒng)地利用知識(shí)來(lái)指導(dǎo)具有前瞻性和社會(huì)變化的決策方式;通過(guò)這些算法來(lái)幫助政府應(yīng)對(duì)耦合和復(fù)雜的問(wèn)題;通過(guò)分析復(fù)雜的數(shù)據(jù)，并結(jié)合其他領(lǐng)域的資源，挖掘那些容易被忽略和錯(cuò)過(guò)的信息，或者排除不必要因素的干擾。所以與自動(dòng)化系統(tǒng)不同，深度學(xué)習(xí)算法不僅可以復(fù)制既有的成功做法并降低人工成本，而且可以比人類(lèi)做得更好。因此將深度學(xué)習(xí)算法制定的政府決策納入合法性評(píng)價(jià)體系中，還必須思考：第一，這種深度學(xué)習(xí)算法追求何種價(jià)值，其應(yīng)用的績(jī)效以及執(zhí)行的標(biāo)準(zhǔn)為何，在進(jìn)行法律的評(píng)估之前這些問(wèn)題都必須加以明確。第二，由于這一系統(tǒng)不僅承擔(dān)了人類(lèi)決策的工具性作用，而且對(duì)決策具有結(jié)構(gòu)化增強(qiáng)作用，因此，必須考慮如何讓傳統(tǒng)的行政法主體去承擔(dān)責(zé)任。第三，如何讓基于深度學(xué)習(xí)系統(tǒng)的政府行為具有可預(yù)測(cè)性、可解釋性和可控制性。這些問(wèn)題的實(shí)質(zhì)就是解決公共領(lǐng)域算法決策的合法性問(wèn)題。

二、公共領(lǐng)域的算法決策為什么需要規(guī)制

公共領(lǐng)域的算法決策具有人力所無(wú)法實(shí)現(xiàn)的優(yōu)勢(shì)，驅(qū)動(dòng)著決策系統(tǒng)的技術(shù)升級(jí)。隨之而來(lái)的問(wèn)題是政府依靠大量數(shù)據(jù)作出的決策，如果違背行政實(shí)體法或者程序法，是否可以被問(wèn)責(zé);實(shí)踐中政府對(duì)算法決策的快速部署，比如在福利分配或者安全防控方面，會(huì)給公民權(quán)利帶來(lái)風(fēng)險(xiǎn)，這使得算法如何對(duì)規(guī)范結(jié)構(gòu)產(chǎn)生作用受到關(guān)注;如果行政主體的決策可以基于算法主張免責(zé)，背后的數(shù)據(jù)驅(qū)動(dòng)可以跳脫法律價(jià)值的判斷，屬于政府監(jiān)管或服務(wù)的對(duì)象，是否可以因?yàn)樗惴ǖ膽?yīng)用而主張免除責(zé)任，是否可以同公共領(lǐng)域算法決策起到同樣的效果。要回答這些問(wèn)題，就必須對(duì)公共領(lǐng)域算法決策中立性問(wèn)題和合法性問(wèn)題進(jìn)行思考。

（一）算法決策的中立性判斷和透明度需求。從政治哲學(xué)出發(fā)，“政治事務(wù)依照其本性容易受到支持與反對(duì)、選擇與抵制以及稱(chēng)贊與責(zé)怪” 〔7 〕3。因此，算法決策作為一種公共管理的手段，本質(zhì)性的知識(shí)和判斷性的標(biāo)準(zhǔn)應(yīng)當(dāng)為人們所了解。就這一問(wèn)題的回答，西方學(xué)者歷來(lái)存在爭(zhēng)議。一種傾向認(rèn)為，數(shù)十年來(lái)，將技術(shù)應(yīng)用于政務(wù)決策的實(shí)踐一直存在，因此依靠算法做出管理決策并非深層次的改變 〔8 〕86;與之相對(duì)應(yīng)，近年來(lái)有學(xué)者傾向于認(rèn)為，技術(shù)已經(jīng)成為公共管理的中心 〔9 〕，公共領(lǐng)域算法決策應(yīng)當(dāng)被重新定義為數(shù)字時(shí)代的治理;還有學(xué)者關(guān)注如何將分散的數(shù)據(jù)進(jìn)行共享，并建立一站式服務(wù)，在這個(gè)層次上已經(jīng)涉及權(quán)力的分配問(wèn)題。

技術(shù)變革通過(guò)影響公共管理能力而更廣泛地對(duì)制度決策產(chǎn)生影響。因此關(guān)于公共領(lǐng)域的算法決策，與其單純地在公共職能視角下理解技術(shù)的發(fā)展和應(yīng)用，毋寧說(shuō)是理解技術(shù)對(duì)傳統(tǒng)公權(quán)力的影響。人們普遍接受電子政務(wù)在現(xiàn)代行政權(quán)力中所發(fā)揮的作用，并就權(quán)力機(jī)關(guān)的職責(zé)形成普遍共識(shí)，那么算法決策是否可以視為電子政務(wù)呢？或許有人會(huì)說(shuō)，電子政務(wù)具有輔助性，而算法決策是對(duì)人力的替代，因此，電子政務(wù)是傳統(tǒng)行政權(quán)力的延伸，而算法則不能依照傳統(tǒng)的程序和實(shí)體性法律問(wèn)責(zé)。算法應(yīng)用于決策之中，是一種輔助證據(jù)還是決策取代因素在實(shí)踐中并沒(méi)有嚴(yán)格限制。從目前來(lái)看，決策者可以開(kāi)發(fā)風(fēng)險(xiǎn)評(píng)估的簡(jiǎn)單方法，基于上下文的簡(jiǎn)單規(guī)則進(jìn)行評(píng)估，這個(gè)時(shí)候行政相對(duì)人被分配的風(fēng)險(xiǎn)就較少;隨著數(shù)據(jù)收集和分析工具的增加，決策者可以使用算法來(lái)加權(quán)和聚合承擔(dān)管理職能的人所選擇的大量指標(biāo)，進(jìn)而提供對(duì)決策具有重要影響的報(bào)告;算法同樣可以基于機(jī)器學(xué)習(xí)來(lái)識(shí)別、加權(quán)和匯集有用的指標(biāo)并且開(kāi)發(fā)最佳的統(tǒng)計(jì)模型，進(jìn)而無(wú)需人工的參與。這表明，當(dāng)技術(shù)性因素?cái)z入較少而依然保持權(quán)力機(jī)關(guān)工作人員的主導(dǎo)性時(shí)，算法決策與電子政務(wù)一樣可以納入行政法調(diào)控的范疇。

但當(dāng)算法決策超越傳統(tǒng)的決策能力時(shí)，是否可依技術(shù)中立而拒絕承擔(dān)責(zé)任呢？問(wèn)題集中到，公共領(lǐng)域技術(shù)應(yīng)用是中立的嗎？答案是否定的。認(rèn)為人工智能與算法奉行價(jià)值中立原則的人，往往基于算法可以將信息篩查與風(fēng)險(xiǎn)評(píng)估適用于所有全體，因此可以同平等相兼容。而傳統(tǒng)的分類(lèi)是建立排斥系統(tǒng)的重要步驟，即將個(gè)人從一組中分離出來(lái)，或者將一個(gè)組從一個(gè)類(lèi)別當(dāng)中分離出來(lái)。南非歷史上的種族制度，比利時(shí)在盧旺達(dá)殖民時(shí)期的特權(quán)制度，以及納粹的優(yōu)生制度，甚至美國(guó)的Jim Crow制度都是被法律所明確的分離標(biāo)準(zhǔn)的典型代表 〔10 〕。這一法律分離的標(biāo)準(zhǔn)還需要其他社會(huì)規(guī)則維持附加規(guī)則。因?yàn)閭鹘y(tǒng)的分離和篩查制度是為了維護(hù)分離的實(shí)質(zhì)。傳統(tǒng)的公共管理決策中，這些不公平的決策容易引起公民的警惕，因?yàn)檫@些篩選的依據(jù)可能是歧視性的，判斷的標(biāo)準(zhǔn)也不客觀。在算法決策中，篩選對(duì)全部公民是平等的，但分類(lèi)是個(gè)別的，分類(lèi)被隱藏在表面平等之下。所以法律一旦確認(rèn)了誰(shuí)享有特權(quán)或者誰(shuí)沒(méi)有特權(quán)進(jìn)行分類(lèi)，那么分類(lèi)與篩選都只是一種隱藏特權(quán)的表象：其一，算法可能不是簡(jiǎn)單地復(fù)制歧視性的標(biāo)準(zhǔn)，比如把種族、國(guó)籍、宗教等作為分類(lèi)標(biāo)準(zhǔn)，但是算法有能力使用有關(guān)的抽象信息達(dá)到同樣的效果，比如生物數(shù)據(jù)、網(wǎng)路活動(dòng)軌跡、社交信息，然后進(jìn)行記錄、提取與分析。其二，在這一過(guò)程中機(jī)器學(xué)習(xí)取代了人力的判斷，算法決策無(wú)需對(duì)個(gè)人進(jìn)行分類(lèi)就可以實(shí)現(xiàn)篩選的目的，而在人工的時(shí)代分離往往是篩選的前提，擁有了種族制度或者特權(quán)制度，才需要在教育、職業(yè)甚至娛樂(lè)層面進(jìn)行區(qū)別。分離是篩選的前提還體現(xiàn)在分離強(qiáng)調(diào)諸多的外在形式，比如檔案記錄、流程的連續(xù)以提供人工篩選使用。但是這些形式化要求都被算法所突破，分類(lèi)并非篩選的必經(jīng)程序。二者的順序可以互換也可以同步完成。其三，以往篩選與分離經(jīng)過(guò)長(zhǎng)期發(fā)展，在民主決策與平權(quán)運(yùn)動(dòng)的推動(dòng)下，篩選的目的必須為社會(huì)公眾所認(rèn)可，比如基于反恐和安全的需要，而分離的標(biāo)準(zhǔn)也必須是法律明確規(guī)定或授權(quán)使用的依據(jù)。算法決策不僅可以對(duì)流程進(jìn)行組合，而且可以對(duì)數(shù)據(jù)目的進(jìn)行延伸性使用，完全數(shù)字化和自動(dòng)化的結(jié)果導(dǎo)致公民幾乎不可能查閱與追問(wèn)這一分類(lèi)和篩選的過(guò)程，也就無(wú)法對(duì)其目的、主體、程序和結(jié)果進(jìn)行合法性判斷。因此，算法介入公共決策的程度可以由淺入深，但是算法對(duì)人力的徹底取代或者管理方式的創(chuàng)新，并不能實(shí)現(xiàn)真正的中立，且會(huì)將過(guò)去很多違背法治價(jià)值的現(xiàn)象被隱藏或者被放大。

（二）算法決策的權(quán)力賦予與法治需求。在現(xiàn)代法治國(guó)家，人們普遍認(rèn)為行政權(quán)力應(yīng)當(dāng)受到法律約束。雖然就算法決策對(duì)基本權(quán)利、民主制度以及善的理念的影響，各國(guó)憲法和行政法如何調(diào)整有所不同，但是對(duì)算法決策的法律規(guī)制應(yīng)當(dāng)包括形式和實(shí)質(zhì)兩個(gè)方面業(yè)已達(dá)成共識(shí)，前者側(cè)重合法性的來(lái)源和形式，后者側(cè)重程序和實(shí)質(zhì)性具體制度規(guī)定 〔11 〕。而算法決策代表著一種權(quán)力話(huà)語(yǔ)的轉(zhuǎn)換，其結(jié)果是防止那些受到自動(dòng)化系統(tǒng)影響的人理解決定如何做出以及背后的邏輯和推理。正如?？滤?，語(yǔ)言塑造著我們對(duì)合法性的理解和認(rèn)識(shí)。在從人工向算法決策轉(zhuǎn)變的過(guò)程中，當(dāng)然隱匿著權(quán)力的轉(zhuǎn)換，但這不是一個(gè)新穎性的話(huà)題。這種權(quán)力轉(zhuǎn)換在法律規(guī)制層面并不陌生，因?yàn)閷?duì)國(guó)家安全、商業(yè)秘密、個(gè)人隱私的保護(hù)，其背后都是一種權(quán)力對(duì)信息和財(cái)產(chǎn)的控制。公共領(lǐng)域算法決策代表著向誰(shuí)賦予權(quán)力的問(wèn)題，因此必然涉及合法性問(wèn)題。

算法決策對(duì)整個(gè)法律體系方面的影響，比如創(chuàng)新行為規(guī)則，對(duì)既有規(guī)則進(jìn)行補(bǔ)充，其本質(zhì)是擴(kuò)展并深化權(quán)力對(duì)社會(huì)的滲透。雖然算法決策同社會(huì)流動(dòng)性與信息化密不可分，但是其在私人領(lǐng)域的應(yīng)用與政府制定公共決策存在較大區(qū)別，二者所追求的價(jià)值不同。商業(yè)決策在主體地位平等的情景下，對(duì)自由價(jià)值的追尋，通過(guò)新型權(quán)力的創(chuàng)設(shè)，形成同國(guó)家法律、市場(chǎng)和技術(shù)的競(jìng)爭(zhēng)關(guān)系，是對(duì)現(xiàn)有規(guī)則的創(chuàng)新和補(bǔ)充;公共領(lǐng)域算法決策則追求實(shí)質(zhì)平等的結(jié)果，是權(quán)力對(duì)分散的市場(chǎng)決策則所進(jìn)行的整合。政府通過(guò)算法決策增強(qiáng)其權(quán)力的實(shí)施，對(duì)既有的管理對(duì)象進(jìn)行規(guī)范的整合。以算法制定的公共決策更加的不透明和復(fù)雜，可能會(huì)加劇既有的不平等。算法決策會(huì)將設(shè)計(jì)者固有的偏見(jiàn)擴(kuò)大。較之于商業(yè)算法，公共決策中的算法歧視往往更具有隱蔽性，原因歸結(jié)為：第一，算法決策表面上使用的基礎(chǔ)數(shù)據(jù)是中立的，但是因?yàn)槭褂玫臄?shù)據(jù)中隱藏著應(yīng)保護(hù)的敏感信息，即“冗余編碼” 〔12 〕的存在，這些原本客觀的數(shù)據(jù)一旦被組合在一起，便成為歧視的根源。公權(quán)力較之于私人決策者具有更廣泛的資源和手段獲取公民的敏感信息。第二，設(shè)計(jì)者偏見(jiàn)的輸入因政府利用數(shù)據(jù)決策的系統(tǒng)而變得更為復(fù)雜，數(shù)據(jù)處理階段、信息控制挖掘階段、結(jié)果展示階段都有可能帶入偏見(jiàn)，而僅僅在結(jié)果展示層面歧視容易被發(fā)現(xiàn)，事實(shí)上是數(shù)據(jù)的獲取、取樣、篩選、轉(zhuǎn)換以及數(shù)據(jù)存儲(chǔ)的管理、規(guī)則的設(shè)計(jì)與評(píng)價(jià)都有可能存在歧視。公共管理合法性對(duì)主體具有嚴(yán)格的限制，這導(dǎo)致依靠技術(shù)層面服務(wù)器所產(chǎn)生的問(wèn)題和發(fā)生在網(wǎng)絡(luò)信息空間的問(wèn)題比較容易規(guī)避行政法的調(diào)控。

因此，算法決策雖然對(duì)傳統(tǒng)行政權(quán)力為代表的公共權(quán)力有不同程度的影響，但并不能基于技術(shù)中立而免除公共領(lǐng)域算法決策的問(wèn)責(zé)。算法決策的本質(zhì)是一種權(quán)力的賦予。算法決策小心謹(jǐn)慎地收集和分析有關(guān)公共事務(wù)的信息和數(shù)據(jù)，同公共權(quán)力的結(jié)合，使得決策對(duì)社會(huì)治理結(jié)構(gòu)性影響和對(duì)私權(quán)利的風(fēng)險(xiǎn)更具有隱蔽性，因此必須以法治目標(biāo)對(duì)算法決策進(jìn)行評(píng)價(jià)和規(guī)范。

三、公共領(lǐng)域算法決策對(duì)傳統(tǒng)法律規(guī)制的挑戰(zhàn)

對(duì)算法決策中立性的否定和透明度的需求分析說(shuō)明將公共領(lǐng)域算法決策納入法律規(guī)制的必要性。但是算法決策合法性問(wèn)題的核心不在于它比人類(lèi)更加不透明，更加復(fù)雜或者更具有偏見(jiàn)，如果是這樣，那么對(duì)人類(lèi)決策起作用的問(wèn)題機(jī)制經(jīng)過(guò)一系列的修改，即規(guī)則的精細(xì)化將起到作用。公共領(lǐng)域算法決策本身蘊(yùn)含著這樣的矛盾，創(chuàng)造價(jià)值并制造價(jià)值沖突，即當(dāng)在公共管理視域中，法治的進(jìn)步蘊(yùn)含著對(duì)以知識(shí)代替意見(jiàn)與以客觀標(biāo)準(zhǔn)代替主觀隨意性的要求，由此建立起為社會(huì)一般公眾所認(rèn)可的規(guī)則體系，這一過(guò)程并不摒棄價(jià)值的存在。尤其是在社會(huì)公共領(lǐng)域，如果沒(méi)有價(jià)值判斷就不能進(jìn)行重要社會(huì)現(xiàn)象的研究。但是承認(rèn)價(jià)值評(píng)價(jià)，并不代表拒絕和排斥價(jià)值的沖突，比如在制度構(gòu)建上自由和秩序的選擇，在路徑上保守還是改革的方法，在歷史進(jìn)程中前學(xué)科知識(shí)和現(xiàn)代知識(shí)體系的優(yōu)越性判斷，而這恰恰是算法決策必須面對(duì)的困境。因此，厘清算法決策作為一種知識(shí)形態(tài)或者技術(shù)方法及其對(duì)法律傳統(tǒng)方法形成的挑戰(zhàn)就成為法律規(guī)制的前提。

（一）以分散個(gè)體為導(dǎo)向沖擊法律秩序的追求。算法決策代表了一種明顯的市場(chǎng)向度，無(wú)論從理論上還是實(shí)踐上，都對(duì)社會(huì)政治和經(jīng)濟(jì)制度構(gòu)建影響深刻 〔13 〕。算法決策的核心價(jià)值追求是效率，促使社會(huì)資源的投入向著超過(guò)人工生產(chǎn)力的大規(guī)模機(jī)械化作業(yè)進(jìn)行傾斜，包括人工智能和自動(dòng)化決策。其在市場(chǎng)機(jī)制中體現(xiàn)的尤為明顯 〔14 〕。在制度上，算法決策削弱了程序護(hù)欄確保問(wèn)責(zé)機(jī)制的有效性。對(duì)于傳統(tǒng)的法學(xué)價(jià)值，其目的機(jī)制在于公平、非歧視和人權(quán)保障等，以此作為標(biāo)準(zhǔn)進(jìn)行審視，算法決策很有可能被認(rèn)為具有“違法性”。但是，算法決策的創(chuàng)新和效率等價(jià)值卻受到重視，這就要求我們要學(xué)會(huì)審核代碼，而不僅僅將重心局限于合規(guī)程序。算法決策與其是一種政治哲學(xué)，毋寧說(shuō)以私有財(cái)產(chǎn)權(quán)、個(gè)人自由、不受阻礙的市場(chǎng)和自由貿(mào)易為特征的制度取代基于正義和福利為特征的制度，通過(guò)網(wǎng)絡(luò)機(jī)構(gòu)和人工智能培養(yǎng)個(gè)人選擇美好生活的能力來(lái)最大程度地提高個(gè)人福祉，這為算法的合法性帶來(lái)系統(tǒng)性問(wèn)題。因?yàn)樗惴Q策的平等是機(jī)會(huì)均等，或者選擇均等。因此，平等的理念與社會(huì)實(shí)踐之間的差距不是因?yàn)橹贫仍O(shè)計(jì)而成為個(gè)人問(wèn)題，自動(dòng)化決策恰好適應(yīng)了新自由主義的認(rèn)識(shí)，平等地將有差別的人作為無(wú)差別的數(shù)字符號(hào)。超越單純的機(jī)制選擇與迭代的技術(shù)，政府一直是推動(dòng)算法決策并將之用于公共服務(wù)的重要推動(dòng)力量。由于經(jīng)濟(jì)社會(huì)的高速數(shù)字轉(zhuǎn)型，數(shù)據(jù)主體的有效控制，收集和處理的合法、公開(kāi)、透明，輸入和輸出的充分和準(zhǔn)確，數(shù)據(jù)的存儲(chǔ)與訪(fǎng)問(wèn)，技術(shù)措施的安全等問(wèn)題都會(huì)引發(fā)關(guān)注。算法決策法律規(guī)制的背后，存在著明顯的價(jià)值沖突：有人保持對(duì)新技術(shù)的熱情，認(rèn)為其是解決問(wèn)題的關(guān)鍵;有人擁護(hù)自由的發(fā)展，認(rèn)為個(gè)性與私營(yíng)主體的多元?jiǎng)?chuàng)新能力優(yōu)于政府的利益;也有人主張?zhí)摂M的空間自由，防止公權(quán)力的介入。但是，如果一項(xiàng)技術(shù)是服務(wù)于社會(huì)中的大多數(shù)群體，政府的作用就不可替代，無(wú)論是作為社會(huì)系統(tǒng)的設(shè)計(jì)者還是行業(yè)領(lǐng)域技術(shù)創(chuàng)新的監(jiān)管者，政府都應(yīng)承擔(dān)其職責(zé)，打破技術(shù)中心主義的局限，將個(gè)體保護(hù)納入到社會(huì)系統(tǒng)的構(gòu)建中，不僅列明算法決策透明度規(guī)則的強(qiáng)制性規(guī)定，而且強(qiáng)調(diào)民主的控制。所以公共領(lǐng)域算法決策的法律規(guī)制并非讓法律保障算法，而是應(yīng)當(dāng)讓算法同法律一樣，服務(wù)于構(gòu)建公共基礎(chǔ)性的架構(gòu)。

（二）控制論基礎(chǔ)沖擊線(xiàn)性邏輯。問(wèn)責(zé)離不開(kāi)對(duì)因果關(guān)系的關(guān)注。法律責(zé)任通過(guò)線(xiàn)性邏輯和程序規(guī)定了被問(wèn)責(zé)行為的實(shí)現(xiàn)方式。算法會(huì)為了利益進(jìn)行程序性的選擇。算法可以識(shí)別和評(píng)估所有風(fēng)險(xiǎn)，考慮替代方案，確定減輕的風(fēng)險(xiǎn)，并幫助闡明自動(dòng)化的基本原理。算法注定了對(duì)于數(shù)據(jù)和過(guò)程的關(guān)注，也導(dǎo)致了將符號(hào)結(jié)構(gòu)提升為實(shí)際遵守的法律證據(jù)，從而有可能忽略被算法決策實(shí)質(zhì)性侵害的公正、平等和人性尊嚴(yán)的基本價(jià)值。

算法決策在邏輯上是一種以控制論為基礎(chǔ)，通過(guò)對(duì)“元數(shù)據(jù)”和“原始數(shù)據(jù)”進(jìn)行收集和分析，使用智能化設(shè)備記錄數(shù)據(jù)的頻率、時(shí)間和階段，通過(guò)網(wǎng)絡(luò)進(jìn)行設(shè)備和設(shè)備之間的通信，并且通過(guò)算法挖掘組合數(shù)據(jù)，觸發(fā)自動(dòng)化的響應(yīng)機(jī)制。所以從機(jī)制上來(lái)看，算法決策是通過(guò)循環(huán)控制實(shí)現(xiàn)自動(dòng)化，反對(duì)因果關(guān)系的線(xiàn)性邏輯。立法確認(rèn)和調(diào)整社會(huì)關(guān)系離不開(kāi)從具體到抽象的總結(jié)，因此是以個(gè)體為基礎(chǔ)的規(guī)范機(jī)制。機(jī)器學(xué)習(xí)算法則通過(guò)網(wǎng)路基礎(chǔ)架構(gòu)和云端，不局限于個(gè)體用戶(hù)的定位，還包括對(duì)分散的群體數(shù)據(jù)進(jìn)行監(jiān)控。因此算法從一開(kāi)始就能以敏銳的洞察力預(yù)測(cè)個(gè)體和群體層面的行為，而不需要經(jīng)過(guò)多個(gè)個(gè)體的累加和結(jié)果的總結(jié)，這種預(yù)測(cè)能力恰恰是人類(lèi)認(rèn)知所無(wú)法實(shí)現(xiàn)的。

關(guān)于符號(hào)的輸入，做到完全無(wú)差別是一種絕對(duì)理想的狀態(tài)。在這一過(guò)程中，固有的偏見(jiàn)可能會(huì)被強(qiáng)化，但這不是最重要的問(wèn)題。問(wèn)題在于設(shè)計(jì)者制定的算法和決策系統(tǒng)，貫徹執(zhí)行的標(biāo)準(zhǔn)明顯優(yōu)于社會(huì)業(yè)已形成的線(xiàn)性關(guān)系，即傳統(tǒng)的因果關(guān)系。二戰(zhàn)以后跨學(xué)科的控制論發(fā)展，像美國(guó)的國(guó)防建設(shè)、英國(guó)的認(rèn)知科學(xué)，以及俄羅斯的計(jì)算機(jī)和網(wǎng)絡(luò)發(fā)展都是控制論推動(dòng)算法在公共服務(wù)領(lǐng)域的實(shí)踐 〔10 〕。而公共領(lǐng)域算法決策既有的實(shí)踐表明，如果不將個(gè)人獨(dú)特的知識(shí)體系納入決策系統(tǒng)中，將是機(jī)器代替人類(lèi)的延伸，由此創(chuàng)造了大量的無(wú)用階級(jí)，而這可能會(huì)對(duì)整個(gè)社會(huì)結(jié)構(gòu)帶來(lái)影響。

（三）算法精確性沖擊著權(quán)力-權(quán)利的運(yùn)行。公共領(lǐng)域算法決策的法律規(guī)制所面臨的另一問(wèn)題是如何通過(guò)比例原則在政府算法決策與公民個(gè)體權(quán)利保護(hù)之間取得協(xié)調(diào)。法國(guó)行政法典要求算法決策必須向數(shù)據(jù)主體說(shuō)明以下要素：第一，算法決策的貢獻(xiàn)程度和方式;第二，處理的數(shù)據(jù)和數(shù)據(jù)的來(lái)源;第三，處理數(shù)據(jù)參數(shù)以及酌情加權(quán)適用于有關(guān)人員的情況;第四，處理所有進(jìn)行的操作。法國(guó)的行政法典雖然規(guī)定了政府向個(gè)人說(shuō)明的義務(wù)，但是綜合這四項(xiàng)要素，能夠?qū)φ袨楹侠硇耘袛喈a(chǎn)生影響的只有貢獻(xiàn)程度這一實(shí)質(zhì)要素，其他三項(xiàng)僅是一種說(shuō)明的義務(wù)。但是在行政法上，解釋與辯解歷來(lái)存在張力，因此，當(dāng)我們按照行政法要求公共領(lǐng)域算法決策的可解釋性時(shí)，并不能夠證成其合理性。另外，還必須思考的問(wèn)題是，行政法所要求的合理性不允許算法錯(cuò)誤的存在，這種算法錯(cuò)誤有可能是基于技術(shù)的錯(cuò)誤，也可能是基于歧視的錯(cuò)誤。

提高算法透明度是法治的要求。算法可能帶來(lái)國(guó)家權(quán)力和平臺(tái)權(quán)力的擴(kuò)張，從而擠壓公民個(gè)人權(quán)利的實(shí)現(xiàn)，因此必須通過(guò)信息公開(kāi)以保障對(duì)個(gè)體行為的預(yù)測(cè)能力，防止權(quán)力在技術(shù)支撐下對(duì)個(gè)體權(quán)利進(jìn)行侵害;公共領(lǐng)域算法的應(yīng)用必須防止權(quán)力的膨脹，實(shí)現(xiàn)有序的制度安排;算法所支撐的權(quán)力除傳統(tǒng)意義上自上而下的滲透，還體現(xiàn)出實(shí)際應(yīng)用中的網(wǎng)絡(luò)化結(jié)構(gòu)和彌散性，因此也要防止數(shù)字精英對(duì)政府權(quán)力的實(shí)質(zhì)性取代。所以，對(duì)政府的算法決策應(yīng)當(dāng)采取預(yù)防性審查機(jī)制，進(jìn)行算法審查和評(píng)估，首要原則是進(jìn)行公開(kāi)，以排除不合法的敏感數(shù)據(jù)的使用，確保決策的公正。同時(shí)，政府的算法決策要有民眾參與與退出機(jī)制，這是行政權(quán)在實(shí)體和程序?qū)用婧戏ㄐ缘囊蟆?/p>

算法決策挑戰(zhàn)了自由裁量權(quán)，而這關(guān)系到權(quán)力在公共管理中的運(yùn)行問(wèn)題。為了讓權(quán)力具有生命力，并在落實(shí)的過(guò)程中保持活力，決策的模糊性是必需的。決策期待更低層次的執(zhí)行者，對(duì)法律進(jìn)行具體的實(shí)踐和定義的完善。這意味著傳統(tǒng)的決策與執(zhí)行之間雖然并非完全一致，但是在實(shí)踐中卻保持了系統(tǒng)的有效運(yùn)作。算法的精確性可能導(dǎo)致權(quán)力的集中。強(qiáng)大的數(shù)據(jù)分析和人工智能技術(shù)，作為創(chuàng)新驅(qū)動(dòng)在諸多國(guó)家戰(zhàn)略決策層面得到重視。較之于需要長(zhǎng)期等待的實(shí)踐和分散信息的反饋，在宏觀層面建立新的協(xié)調(diào)機(jī)制加強(qiáng)數(shù)據(jù)監(jiān)管和算法決策的方法備受青睞，比如數(shù)據(jù)管理機(jī)構(gòu)的設(shè)立，英國(guó)、法國(guó)、德國(guó)等國(guó)家均采取了這種策略。這種新興協(xié)調(diào)機(jī)制的具體任務(wù)包括確立步驟以明確法律法規(guī)指導(dǎo)數(shù)據(jù)應(yīng)用與人工智能技術(shù)發(fā)展。新興數(shù)據(jù)機(jī)構(gòu)向政府提供有關(guān)于人工智能和數(shù)據(jù)安全的倫理性建議，并且根據(jù)數(shù)據(jù)使用和技術(shù)應(yīng)用產(chǎn)生的潛在風(fēng)險(xiǎn)提供專(zhuān)家建議和解決途徑的支撐論證。在這一層面上，歐盟的GDPR與英國(guó)的數(shù)據(jù)保護(hù)條例都被視為創(chuàng)新協(xié)調(diào)機(jī)制的體現(xiàn)。

四、公共領(lǐng)域算法決策的法律規(guī)制

公共領(lǐng)域的算法決策具有數(shù)字經(jīng)濟(jì)時(shí)代的流動(dòng)性特征，這是由宏觀環(huán)境決定的。公共管理要體現(xiàn)技術(shù)進(jìn)步帶來(lái)的歷史性特征，并基于算法的應(yīng)用具有自身的獨(dú)特性，這取決于技術(shù)的發(fā)展和法治的本質(zhì)追求。因此公共領(lǐng)域算法決策的法律規(guī)制在算法系統(tǒng)、價(jià)值選擇、制度構(gòu)建和評(píng)估標(biāo)準(zhǔn)層面需要對(duì)時(shí)代要求和技術(shù)特征作出回應(yīng)。

（一）將結(jié)果評(píng)估與裁量權(quán)控制相結(jié)合。算法應(yīng)用的反應(yīng)性系統(tǒng)在實(shí)現(xiàn)行政監(jiān)管時(shí)側(cè)重以結(jié)果為中心，其優(yōu)勢(shì)是可以保障管理質(zhì)量的實(shí)現(xiàn)，主要工作方法是通過(guò)算法制定標(biāo)準(zhǔn)，現(xiàn)實(shí)中主要針對(duì)作為市場(chǎng)主體的生產(chǎn)者。在監(jiān)督和評(píng)估過(guò)程中，反應(yīng)性系統(tǒng)算法雖然給予數(shù)據(jù)輸入層面（對(duì)應(yīng)著生產(chǎn)條件）的自由，但是結(jié)果的控制迫使其必須通過(guò)降低成本才有可能獲取更大的優(yōu)勢(shì)，這在一定程度上鼓勵(lì)技術(shù)創(chuàng)新。但是以結(jié)果為導(dǎo)向的算法決策，可能存在嚴(yán)重問(wèn)題：第一，基于算法決策而無(wú)法進(jìn)行有意義的說(shuō)明和解釋;第二，為了實(shí)現(xiàn)結(jié)果目標(biāo)而進(jìn)行的數(shù)字創(chuàng)造并非真正聚焦于公共服務(wù)的質(zhì)量;第三，決策會(huì)為實(shí)現(xiàn)目標(biāo)而壓制管理人員的能動(dòng)性，或者為了壓制群體和目標(biāo)之間的實(shí)際差異而最終導(dǎo)致系統(tǒng)的整體性僵化。

如果反應(yīng)系統(tǒng)以結(jié)果為導(dǎo)向，其目的是為了防止違法現(xiàn)象的出現(xiàn)，那么預(yù)測(cè)性系統(tǒng)就以干預(yù)自由裁量權(quán)為導(dǎo)向，其目的則是防止風(fēng)險(xiǎn)的出現(xiàn)。預(yù)測(cè)性系統(tǒng)的作用在于降低行政負(fù)擔(dān)，并最大限度地符合比例原則，尤其是在檢查和監(jiān)視方面作用明顯。因此，算法決策實(shí)際上是幫助分配執(zhí)法資源，通過(guò)過(guò)濾和分類(lèi)，對(duì)風(fēng)險(xiǎn)進(jìn)行優(yōu)先性的自動(dòng)排序，根據(jù)算法結(jié)果，進(jìn)行具有針對(duì)性和有效性的應(yīng)對(duì)。但預(yù)測(cè)性系統(tǒng)本身也存在風(fēng)險(xiǎn)，比如預(yù)測(cè)性警務(wù)目前雖然被普遍接受，但是公共服務(wù)尤其是安全需求中所使用的數(shù)據(jù)和結(jié)果卻容易被動(dòng)性泄露，進(jìn)而會(huì)造成其他資源分配的不公，或者權(quán)力的主動(dòng)性擴(kuò)張，比如從基于安全性的公共領(lǐng)域向司法領(lǐng)域延伸。這種現(xiàn)象應(yīng)該引起足夠警惕，因?yàn)閭€(gè)人完全被消失在社會(huì)現(xiàn)象中，存在被物化的危險(xiǎn)。雖然都是依靠數(shù)據(jù)分析和自動(dòng)化決策，公共領(lǐng)域的算法決策卻可以體現(xiàn)為不同的系統(tǒng)，結(jié)果和過(guò)程應(yīng)當(dāng)互為標(biāo)準(zhǔn)，并在法律監(jiān)管和評(píng)估當(dāng)中予以確立，防止偏廢其一而造成公權(quán)力和私權(quán)利的緊張關(guān)系。

（二）正當(dāng)程序與實(shí)質(zhì)性公平的并重。影響公民個(gè)人的法律決策應(yīng)根據(jù)正當(dāng)程序行使，而自由裁量權(quán)必須合法。因此算法決策在影響公職人員的決定時(shí)應(yīng)當(dāng)滿(mǎn)足合法性要求。另一方面，算法系統(tǒng)可能導(dǎo)致隱藏的或者意外的偏差，這些偏差既有人為的參與也可能由系統(tǒng)自身因素造成。雖然數(shù)據(jù)作為一種客觀存在已經(jīng)取得普遍共識(shí)，且為社會(huì)現(xiàn)象提供了廣泛的解釋權(quán)，但是算法并非是全知全能的，數(shù)據(jù)收集與校準(zhǔn)、過(guò)濾和解釋、設(shè)計(jì)和計(jì)算、路徑選擇和輸出本質(zhì)上都無(wú)法排除主觀因素的存在。在商業(yè)算法層面，法律規(guī)制要消除依賴(lài)、打破壟斷、形成良性的市場(chǎng)競(jìng)爭(zhēng)，并且平衡相關(guān)利益，防止數(shù)字權(quán)力對(duì)消費(fèi)者個(gè)體權(quán)利的侵蝕。因此往往采取事后救濟(jì)的方式，特別強(qiáng)調(diào)結(jié)果的正義，即當(dāng)商業(yè)利益對(duì)公民個(gè)體或者其他競(jìng)爭(zhēng)者產(chǎn)生侵害時(shí)，應(yīng)當(dāng)追究責(zé)任。公共領(lǐng)域算法決策能力的提高，離不開(kāi)技術(shù)創(chuàng)新與節(jié)約資本的相互結(jié)合 〔15 〕，比如智利的Cybersyn系統(tǒng)性設(shè)計(jì)。算法作為一種有效的設(shè)計(jì)有時(shí)的確以較低的技術(shù)投入改善政府的溝通能力，這與商業(yè)和市場(chǎng)對(duì)智能設(shè)備的更新?lián)Q代相分離。除卻技術(shù)和利益性影響，更為重要的是公共領(lǐng)域的算法應(yīng)當(dāng)遵循不同的治理規(guī)則。正當(dāng)程序不僅要求排除算法的固有偏見(jiàn)，而且應(yīng)當(dāng)保證正當(dāng)程序的雙重面向，即決策過(guò)程中執(zhí)法人員的決策權(quán)（因保護(hù)弱勢(shì)群體需求的酌情決定權(quán)與不采取算法作為主要證據(jù)的指導(dǎo)權(quán)）和被執(zhí)法者公正參加聽(tīng)證和獲得被公開(kāi)審判的權(quán)利。所以公共領(lǐng)域算法決策中的程序救濟(jì)要以實(shí)體正義作為標(biāo)準(zhǔn)，這既由算法決策的特殊性決定，也是基于公權(quán)力自身合法性與合理性的需求。

（三）構(gòu)建公共服務(wù)算法決策的民主程序。算法決策較之于人類(lèi)決策更具有隱蔽性，因此算法的可解釋性尤為重要。算法的不透明可能是多種因素造成的 〔16 〕，其中之一是商業(yè)優(yōu)先權(quán)和商業(yè)秘密的存在。但是行政權(quán)力的行使不同于商業(yè)算法，其可解釋性要具備必要性：第一，法治要求個(gè)人應(yīng)當(dāng)知道不利于其決定的原因，這些原因還必須伴隨因果關(guān)系。第二，行政程序不僅僅強(qiáng)調(diào)決策的過(guò)程，而且強(qiáng)調(diào)以問(wèn)責(zé)制保證決策的結(jié)果，即要求決策者必須根據(jù)某種標(biāo)準(zhǔn)來(lái)解釋和證明自己的決策，然后對(duì)過(guò)失和錯(cuò)誤進(jìn)行修正。第三，法治要求社會(huì)秩序整體上的透明性，即運(yùn)作的方式和原則都是透明的，為社會(huì)公眾所理解，且具有穩(wěn)定性，這是政府對(duì)于社會(huì)公眾的持久性承諾。第四，公共服務(wù)決策過(guò)程，不僅僅是一種制度性安排，還應(yīng)該是對(duì)集體道德和文化結(jié)構(gòu)的保障。因此算法還必須保障民主機(jī)制的平衡，這意味著人們不僅可以在透明的規(guī)則下實(shí)現(xiàn)民主的參與，還能夠創(chuàng)設(shè)其他的規(guī)則與自上而下的統(tǒng)合形成競(jìng)爭(zhēng)機(jī)制，所以公共管理的目的不是僅僅讓個(gè)體成為被管理的對(duì)象，而應(yīng)該是一種集體化的主體，由此決定了公共決策中的算法也不應(yīng)該僅僅掌握在權(quán)力執(zhí)行者手中，個(gè)人和社會(huì)的公開(kāi)與應(yīng)用是保障這種競(jìng)爭(zhēng)與平衡的前提。

（四）滿(mǎn)足透明度和一致性的要求。透明要求程序性的法律規(guī)范，比如在歐盟法律層面依賴(lài)于歐盟數(shù)據(jù)保護(hù)原則，但一致性原則則要求不同效力位階的規(guī)范在數(shù)據(jù)收集預(yù)算決策時(shí)以結(jié)果和目標(biāo)為導(dǎo)向，所以算法決策又是一種流程性的規(guī)制模式。歐盟對(duì)算法決策的法律規(guī)制，貫徹?cái)?shù)據(jù)保護(hù)法的傳統(tǒng)，這一框架性的法律具有如下特征：算法決策必須符合歐盟層面法律制度的“命令與控制” 〔17 〕，其具體舉措必須滿(mǎn)足核心法律標(biāo)準(zhǔn)，比如第5條①或者第22條②的規(guī)定;歐盟數(shù)據(jù)框架還賦予一些數(shù)據(jù)主體權(quán)利，成為數(shù)據(jù)控制者必須遵守的義務(wù)。因此算法決策的治理應(yīng)當(dāng)是公共服務(wù)機(jī)構(gòu)采取常規(guī)命令與控制技術(shù)的組合，但以私權(quán)利作為補(bǔ)充。此外，雖然數(shù)據(jù)保護(hù)法是框架性命令，但是要避免過(guò)于原則。比如GDPR第25條第2款③，是一種具體方式和實(shí)質(zhì)性結(jié)果的結(jié)合。此外，歐盟對(duì)算法決策的監(jiān)管依賴(lài)于獨(dú)立的數(shù)據(jù)保護(hù)機(jī)構(gòu)，這一機(jī)構(gòu)被賦予廣泛的執(zhí)行權(quán)和解釋裁量權(quán);與自上而下的監(jiān)督相對(duì)應(yīng)，歐盟法律賦予數(shù)據(jù)主體申請(qǐng)強(qiáng)制執(zhí)行等廣泛的救濟(jì)性權(quán)利，讓數(shù)據(jù)主體的同意成為一種可能。

法律的目的可能不是真的讓處于技術(shù)和資源相對(duì)貧乏的個(gè)人通過(guò)終止侵權(quán)、強(qiáng)制執(zhí)行與行政賠償?shù)姆绞綄?duì)抗政府的公共決策，而是敦促公共管理主體的義務(wù)履行，進(jìn)而確保算法的升級(jí)不排除個(gè)人的參與，所以政府依然被視為制度的設(shè)計(jì)者。為此，雖然諸多的個(gè)體權(quán)利被予以確認(rèn)，算法決策法律規(guī)制絕非應(yīng)該定位于單一的隱私保護(hù)或者數(shù)據(jù)財(cái)產(chǎn)權(quán)利。計(jì)算機(jī)技術(shù)和算法讓行政行為在先進(jìn)性和效益方面有了非凡的增長(zhǎng)，但是將這些單一的個(gè)體組合在一起，不僅會(huì)對(duì)個(gè)人自主權(quán)和人性尊嚴(yán)等一系列的價(jià)值產(chǎn)生影響，最重要的是可能會(huì)對(duì)民主的共同體造成影響。所以算法決策不是單純?cè)诩夹g(shù)上對(duì)唯理論的追尋，還必須滿(mǎn)足對(duì)道德、民主和政治的維護(hù)。

總之，對(duì)公共領(lǐng)域算法決策進(jìn)行法律規(guī)制，需要解決傳統(tǒng)調(diào)整方法在動(dòng)態(tài)社會(huì)所面臨的矛盾：認(rèn)識(shí)層面的技術(shù)中立性隱藏著“算法監(jiān)獄”“算法暴政” 〔18 〕與追求共同善之間的沖突;方法層面自上而下的權(quán)力滲透與自下而上的自我整體性監(jiān)管之間的張力;具體操作層面追求結(jié)果的效率導(dǎo)向和追求控制的過(guò)程監(jiān)督之間的區(qū)別，為此，必須具有權(quán)力-權(quán)利秩序構(gòu)建的雙重面向，以實(shí)現(xiàn)制度的構(gòu)建和價(jià)值的保障。從更廣闊的視角看，算法決策并非在尋求放之四海而皆準(zhǔn)的真理，也不是通過(guò)抽象數(shù)學(xué)公式、物理定律或者機(jī)器原理對(duì)數(shù)字經(jīng)濟(jì)進(jìn)行哲理上的定義，而應(yīng)當(dāng)是通過(guò)對(duì)信息的處理使其針對(duì)細(xì)分的場(chǎng)景和特定的條件，更便于操作和理解，更能夠被大眾所認(rèn)知并被自然語(yǔ)言所描述，進(jìn)而促進(jìn)公共管理職能的實(shí)現(xiàn)和數(shù)字社會(huì)的進(jìn)步。

注 釋?zhuān)?/p>

①Art. 5 GDPR Principles relating to processing of personal data

②Art. 22 GDPR Automated individual decision-making，including profiling

③Art. 25 GDPR Data protection by design and by default：The controller shall implement appropriate technical and organisational measures for ensuring that，by default，only personal data which are necessary for each specific purpose of the processing are processed.2That obligation applies to the amount of personal data collected， the extent of their processing，the period of their storage and their accessibility.3In particular，such measures shall ensure that by default personal data are not made accessible without the individuals intervention to an indefinite number of natural persons.

參考文獻(xiàn)：

〔1〕張凌寒.算法權(quán)力的興起、異化及法律規(guī)制〔J〕.法商研究，2019（04）：64-75.

〔2〕胡 凌.數(shù)字社會(huì)權(quán)力的來(lái)源：評(píng)分、算法與規(guī)范的再生產(chǎn)〔J〕.交大法學(xué)，2019（01）：21-34.

〔3〕鄭智航，徐昭曦.大數(shù)據(jù)時(shí)代算法歧視的法律規(guī)制與司法審查〔J〕.比較法研究，2019（04）：111-122.

〔4〕段偉文.數(shù)據(jù)智能的算法權(quán)力及其邊界?？薄睯〕.探索與爭(zhēng)鳴，2018（10）：92-100+143.

〔5〕林洹民.自動(dòng)決策算法的法律規(guī)制：以數(shù)據(jù)活動(dòng)顧問(wèn)為核心的二元監(jiān)管路徑〔J〕.法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2019（03）：43-53.

〔6〕Cobber.J.Administrative law and the ma chines of government〔J〕.judicial review of automated public-sector decisionmaking Legal Studies，2019（39）：636-655.

〔7〕施特勞斯.什么是政治哲學(xué)〔M〕.北京：華夏出版社，2014.

〔8〕Margetts，H.Information Technology in Government：Britain and America〔M〕.London：Routledge，1999

〔9〕Hood.C，Peters.G.The Middle Aging of New Public Management：Into the Age of Paradox〔J〕.Journal of Public Administration Research and Theory，2004（03）：267-282.

〔10〕Margaret.H，Algorithmic Jim Crow〔J〕.Fordham Law Review，2017（02）：633-696.

〔11〕Zalnieriute.M，Moses.B，Williams.G.The Rule of Law and Automation of Government Decision-Making〔J〕.Modern Law Review，2019（03）：425-455.

〔12〕Barocas.S，Selbst.A.D.Big Datas Disparate Impact〔J〕.California Law Review，2016（03）：671-732.

〔13〕Michael Veale and Irina Brass，Administration by Algorithm？Public Management meets Public Sector Machine Learning〔EB/OL〕.publication available at：https：//ssrn.com/abstract=3375391（Feb.1，2020）.

〔14〕王延川.算法價(jià)格歧視的市場(chǎng)解決機(jī)制〔N〕.學(xué)習(xí)時(shí)報(bào)，2019-10-18（03）.

〔15〕Mergel，I.Open innovation in the public sector：drivers and barriers for the adoption of Challenge.gov〔J〕.Public Management Review，2018（20）：726-745.

〔16〕陳姿含.人工智能算法中的法律主體性危機(jī)〔J〕.法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2019（04）：40-47.

〔17〕Roig，A.Safeguards for the right not to be subject to a decision based solely on automated processing（Article 22 GDPR）〔J〕.European Journal of Law and Technology，2017（08）：1-17.

〔18〕徐 風(fēng).人工智能算法黑箱的法律規(guī)制——以智能投顧為例展開(kāi)〔J〕.東方法學(xué)，2019（06）：78-86.

責(zé)任編輯 楊在平

〔收稿日期〕2020-02-02

〔基金項(xiàng)目〕司法部《國(guó)家法治與法學(xué)理論研究》項(xiàng)目（18SFB1005），主持人齊延平。

〔作者簡(jiǎn)介〕陳姿含（1987-），女，山東濰坊人，北京理工大學(xué)法學(xué)院講師、法學(xué)博士、生物醫(yī)藥法學(xué)博士，工信部智能科技風(fēng)險(xiǎn)法律防控重點(diǎn)實(shí)驗(yàn)室辦公室主任，主要研究方向?yàn)橹悄芸萍寂c法理學(xué)。