[美]卡里·科利亞尼斯 著 蘇苗罕 王夢(mèng)菲 譯

內(nèi)容提要：行政機(jī)關(guān)將日益依賴機(jī)器學(xué)習(xí)算法驅(qū)動(dòng)的數(shù)字自動(dòng)化。美國(guó)行政法可以適應(yīng)這樣的未來(lái)嗎？不僅高度自動(dòng)化的國(guó)家完全可以符合存在已久的行政法原則，而且在實(shí)現(xiàn)行政法的專家決策和民主問(wèn)責(zé)的核心價(jià)值方面，負(fù)責(zé)任地使用機(jī)器學(xué)習(xí)算法的效果可能更優(yōu)于現(xiàn)狀。顯然，算法治理有可能做出更為準(zhǔn)確的、由數(shù)據(jù)驅(qū)動(dòng)的決策。此外，由于其數(shù)學(xué)特性，算法很可能成為民主機(jī)構(gòu)更為忠實(shí)的智能體（agent）。然而，即使自動(dòng)化國(guó)家更為智能、具有更高問(wèn)責(zé)度，它也可能存在缺乏同理心（empathy）的風(fēng)險(xiǎn)。盡管我們不應(yīng)夸大人工驅(qū)動(dòng)的官僚機(jī)構(gòu)現(xiàn)在所具有的同理心程度，但是大規(guī)模轉(zhuǎn)向算法治理將給行政法帶來(lái)新的挑戰(zhàn)，那就是如何確保自動(dòng)化政府同時(shí)也是具有同理心的政府。

一

未來(lái)無(wú)極限，行政法的前景很廣闊。在近期內(nèi)，美國(guó)的行政法無(wú)疑關(guān)注的是最高法院如何裁決引發(fā)行政法核心問(wèn)題的案件，這些問(wèn)題的例子包括禁止權(quán)力授出（nondelegation）原則和法院對(duì)行政機(jī)關(guān)所作法律解釋的尊重。但從長(zhǎng)遠(yuǎn)來(lái)看，隨著政府和社會(huì)出現(xiàn)一些新的變化，行政法領(lǐng)域?qū)⒚媾R新的問(wèn)題。即將出現(xiàn)的一項(xiàng)重大變化是行政國(guó)家自動(dòng)化程度的日益加深，數(shù)字系統(tǒng)，尤其是那些由機(jī)器學(xué)習(xí)算法驅(qū)動(dòng)的系統(tǒng)，將承擔(dān)政府的眾多任務(wù)。

行政機(jī)關(guān)現(xiàn)在承擔(dān)著發(fā)放許可證、支付款項(xiàng)、裁決爭(zhēng)議和制定規(guī)則等一系列工作，這些在傳統(tǒng)上都是由政府官員執(zhí)行的。但是，既不難想象，也并非不切實(shí)際的是，未來(lái)在公眾與政府打交道時(shí)，他們會(huì)越來(lái)越多地發(fā)現(xiàn)自己主要是與數(shù)字系統(tǒng)而非人類官員打交道。即使在今天，計(jì)算機(jī)系統(tǒng)也越來(lái)越多地完成了長(zhǎng)期以來(lái)一直由人類負(fù)責(zé)的傳統(tǒng)行政任務(wù)。如今，在美國(guó)很少有人在使用政府網(wǎng)站申請(qǐng)失業(yè)救濟(jì)、投訴或提交文件時(shí)猶豫再三，而選擇直接訪問(wèn)或致電政府辦公室。聯(lián)邦政府甚至創(chuàng)建了一家在線門戶網(wǎng)站（USA.gov），為用戶訪問(wèn)各種資源提供便利，現(xiàn)在公眾可以通過(guò)州和聯(lián)邦政府網(wǎng)站的廣泛網(wǎng)絡(luò)使用各種數(shù)字應(yīng)用程序了。

在過(guò)去的25年里，這種轉(zhuǎn)向與政府在線互動(dòng)的發(fā)展預(yù)示著，在接下來(lái)的25年里，政府程序?qū)⒔?jīng)歷更深入、更廣泛的技術(shù)變革。除了與政府前端的通信數(shù)字化之外，未來(lái)可能還會(huì)出現(xiàn)更廣泛的后端決策自動(dòng)化，盡管后端決策如今仍然由行政官員裁量決定?；蛟S只需再過(guò)幾十年時(shí)間，我們就能實(shí)現(xiàn)在采用機(jī)器學(xué)習(xí)算法構(gòu)建的自動(dòng)化系統(tǒng)基礎(chǔ)上運(yùn)行的行政國(guó)家，私營(yíng)部門的重要方面很大程度上也是如此。這種行政國(guó)家具有的兩項(xiàng)特征是算法裁決（algorithmic adjudication）和自動(dòng)化規(guī)則制定（robotic rulemaking）。①See Cary Coglianese and David Lehr,Regulating by Robot:Administrative Decision Making in the Machine-Learning Era,105 Georgetown Law Journal 1147,1171（2017）.行政機(jī)關(guān)將不再由行政官員作出裁量性決定，而是能夠依靠自動(dòng)化系統(tǒng)作出這些決定，例如判斷申領(lǐng)者個(gè)人是否有資格獲得殘疾人福利。例如，我們可以對(duì)福利申領(lǐng)處理系統(tǒng)進(jìn)行設(shè)計(jì)以便自動(dòng)從電子病歷中導(dǎo)入大量數(shù)據(jù)，然后采用人工智能系統(tǒng)處理這些數(shù)據(jù)，確定申領(lǐng)人是否達(dá)到特定的概率閾值從而具備福利申領(lǐng)的資格。②See Cary Coglianese and David Lehr,Transparency and Algorithmic Governance,71Administrative Law Review 1,9（2019）.

目前政府通過(guò)行政人員決策來(lái)完成的許多任務(wù)，如果完全交由自動(dòng)化決策工具和計(jì)算機(jī)系統(tǒng)來(lái)執(zhí)行，行政法會(huì)如何應(yīng)對(duì)這種邁向自動(dòng)化國(guó)家的轉(zhuǎn)型？行政法應(yīng)該怎樣應(yīng)對(duì)呢？

現(xiàn)有的行政法原則大多數(shù)已經(jīng)可以適應(yīng)整個(gè)行政國(guó)家廣泛采用自動(dòng)化的情況。不僅各行政機(jī)關(guān)已經(jīng)長(zhǎng)期依賴各種有形機(jī)器來(lái)實(shí)現(xiàn)自動(dòng)化，而且自動(dòng)化國(guó)家，或者至少是負(fù)責(zé)任的自動(dòng)化國(guó)家，可以被認(rèn)為是行政法對(duì)政府基本愿景的頂點(diǎn)，即立法授權(quán)的中立的公共行政。我們不需要徹底改變行政法才能讓其在自動(dòng)化程度越來(lái)越高的時(shí)代運(yùn)作，因?yàn)槿绻覀兡軌蜇?fù)責(zé)任地實(shí)施自動(dòng)化，它將推進(jìn)長(zhǎng)期以來(lái)作為行政法基礎(chǔ)的民主原則和善治價(jià)值的實(shí)現(xiàn)。

盡管如此，即使在負(fù)責(zé)任的自動(dòng)化國(guó)家，也會(huì)存在善治的一項(xiàng)重要因素，而且這項(xiàng)因素越來(lái)越可能隨著自動(dòng)化而消失，那就是人類的同理心。即使由官員組成的官僚機(jī)構(gòu)也可能冷酷無(wú)情，但是極端自動(dòng)化的時(shí)代可能會(huì)呈現(xiàn)出人類關(guān)懷的危機(jī)狀態(tài)，或者更準(zhǔn)確地說(shuō)，是缺乏人類關(guān)懷的危機(jī)。在日益自動(dòng)化的國(guó)家中，行政法需要尋找各種方法以鼓勵(lì)各機(jī)構(gòu)確保公眾繼續(xù)有機(jī)會(huì)與人類接觸，表達(dá)他們的心聲，并讓人們了解其處境現(xiàn)狀。簡(jiǎn)而言之，自動(dòng)化國(guó)家也得是有同理心的國(guó)家。

二

幾十年前發(fā)起的信息技術(shù)革命幾乎沒有消退的跡象。今天的技術(shù)人員通過(guò)使用人工智能、機(jī)器學(xué)習(xí)和預(yù)測(cè)分析等高級(jí)算法技術(shù)，揭示并觸及各種新領(lǐng)域。這些術(shù)語(yǔ)（有時(shí)互換使用）所包含的一系列工具，能夠快速處理大量數(shù)據(jù)，產(chǎn)生高度準(zhǔn)確的預(yù)測(cè)，從而促進(jìn)許多不同任務(wù)的自動(dòng)化。在私營(yíng)部門，之前由經(jīng)過(guò)訓(xùn)練的人類處理的大量任務(wù)，例如讀取胸部X光片、駕駛汽車和金融機(jī)構(gòu)發(fā)放貸款，都通過(guò)算法創(chuàng)新實(shí)現(xiàn)了自動(dòng)化處理。

公共管理部門已經(jīng)注意到了私營(yíng)部門的算法進(jìn)展。商業(yè)世界的一些進(jìn)展甚至與政府任務(wù)有異曲同工之處。例如，像eBay和PayPal等公司已經(jīng)開發(fā)了非常成功的自動(dòng)化在線糾紛解決工具，在沒有員工直接參與的情況下也能處理投訴。③See Benjamin H.Barton and Stephanos Bibas,Rebooting Justice:More Technology,Fewer Lawyers,and the Future of Law（New York:Encounter Books,2017），pp.111-115.總的來(lái)說(shuō)，政府官員在現(xiàn)代數(shù)據(jù)分析中看到了構(gòu)建可以自動(dòng)化處理各種政府任務(wù)的系統(tǒng)的可能性，所有這些都有可能提高行政效率、速度、一致性和準(zhǔn)確性。

自動(dòng)化行政國(guó)家之愿景的最佳例證可能是在愛沙尼亞共和國(guó)，這個(gè)波羅的海小國(guó)已經(jīng)全面擁抱數(shù)字政府，并將其作為獨(dú)特的標(biāo)志。愛沙尼亞的“e-Estonia”項(xiàng)目已經(jīng)將醫(yī)療記錄、就業(yè)信息、財(cái)務(wù)報(bào)表等大量個(gè)人信息加以數(shù)字化并安全存儲(chǔ)，從而改變了該國(guó)的行政管理。④See Nathan Heller,Estonia,the Digital Republic,The New Yorker,December 11,2017,（https://www.newyorker.com/magazine/2017/12/18/estonia-the-digital-republic）；and Republic of Estonia,Ministry of Economic Affairs and Communications,Report of Estonia’s AI Taskforce（Tallinn:Republic of Estonia,Ministry of Economic Affairs and Communications,2019）,（https://f98cc689-5814-47ec-86b3-db505a7c3978.filesusr.com/ugd/7df26f_486454c9f32340b28206e140350159cf.pdf）.這些信息通過(guò)XRoad這一數(shù)字基礎(chǔ)設(shè)施實(shí)現(xiàn)交叉鏈接（cross-link），從而讓有需要的任何實(shí)體可以立即訪問(wèn)個(gè)人記錄，同時(shí)遵守旨在防止不法行為的限制。廣泛數(shù)字化促進(jìn)了一系列政府服務(wù)的自動(dòng)化:個(gè)人可以在不與行政官員打交道的情況下，只需傳輸他們的數(shù)字信息以完成表格并提交請(qǐng)求，就能輕松完成投票、申請(qǐng)貸款、報(bào)稅等各種行政任務(wù)。通過(guò)眾多行政程序的自動(dòng)化，愛沙尼亞每年大約節(jié)省了GDP的2%。該國(guó)甚至正在探索使用自動(dòng)化的“法官”裁決小額索賠糾紛。⑤See Eric Niler,Can AI Be a Fair Judge?Estonia Thinks So,Wired,March 25,2019,（https://www.wired.com/story/can-ai-be-fairjudge-court-estonia-thinks-so/）.

丹麥和韓國(guó)等國(guó)在采用電子政務(wù)工具方面也處于世界領(lǐng)先地位。⑥See United Nations Department of Economic and Social Affairs,E-Government Survey 2020:Digital Government in the Decade of Action for Sustainable Development（New York:United Nations,2020）,（https://publicadministration.un.org/egovkb/Portals/egovkb/Documents/un/2020-Survey/2020%20UN%20E-Government%20Survey%20（Full%20Report）.pdf）美國(guó)可能還沒有實(shí)現(xiàn)相同水平的自動(dòng)化政府，但是肯定也不會(huì)落后太多。美國(guó)的聯(lián)邦、州和地方機(jī)構(gòu)不僅采用了網(wǎng)絡(luò)應(yīng)用程序(如USA.gov網(wǎng)站上匯編的程序)，而且開始用機(jī)器學(xué)習(xí)算法讓一系列行政決策過(guò)程實(shí)現(xiàn)自動(dòng)化。在大多數(shù)情況下，行政官員仍然在一定程度上參與其中，但是大量的行政工作正越來(lái)越多地通過(guò)數(shù)字系統(tǒng)進(jìn)行。

自動(dòng)化幫助美國(guó)聯(lián)邦、州和地方政府在公共項(xiàng)目管理過(guò)程中處理具有挑戰(zhàn)性的資源配置決策。美國(guó)多個(gè)州已經(jīng)實(shí)施了算法工具來(lái)幫助做出發(fā)放醫(yī)療補(bǔ)助和其他社會(huì)福利的決策，以便加快進(jìn)度并提高福利申領(lǐng)程序處理的一致性。⑦See Cary Coglianese and Lavi M.Ben Dor,AI in Adjudication and Administration,86 Brooklyn Law Review 791（2021）.同樣，聯(lián)邦社會(huì)保障局利用自動(dòng)化工具來(lái)支持人類上訴法官個(gè)人的工作，對(duì)每年處理多達(dá)250萬(wàn)份殘疾福利申請(qǐng)的行政裁決程序進(jìn)行有效監(jiān)督。⑧See David Freeman Engstrom,Daniel E.Ho,Catherine M.Sharkey,and Mariano Florentino Cuéllar,Government by Algorithm:Artificial Intelligence in Federal Administrative Agencies（Washington,D.C.:The Administrative Conference of the United States,2020）,（https://www-cdn.law.stanford.edu/wp-content/uploads/2020/02/ACUS-AI-Report.pdf）.

有的市政當(dāng)局依靠自動(dòng)化系統(tǒng)來(lái)決定將衛(wèi)生和建筑檢查員派往何處。⑨See Gabe Cherry,Google,U-M to Build Digital Tools for Flint Water Crisis,Universityof Michigan News,May 3,2016,（https://news.umich.edu/google-u-m-to-build-digital-tools-for-flint-water-crisis/）;City of Chicago,Food Inspection Forecasting:Optimizing Inspections with Analytics,（https://chicago.github.io/food-inspections-evaluation/）（accessed November 21,2020）;Robert Sullivan,Innovations in Identifying People Who Frequently Use Criminal Justice and Healthcare Systems,Policy Research Associates,May 16,2018,（https://www.prainc.com/innovations-identification-cj-healthcare/）;Harvard Kennedy School,Data-Smart City Solutions,A Catalogue of Civic Data Use Cases:How Can Data and Analytics Be Used to Enhance City Operations?October 9,2019,（https://datasmart.ash.harvard.edu/news/article/how-can-data-and-analytics-be-used-to-enhance-city-operations-723）;and University of Pennsylvania,Uses in Government,（https://www.law.upenn.edu/institutes/ppr/optimizing-government-project/government.php#municipal）（accessed November 21,2020）.有的地方當(dāng)局則使用這種系統(tǒng)決定在何時(shí)何地部署社會(huì)工作者跟進(jìn)有關(guān)虐待和忽視（neglect）兒童的指控。⑩Dan Hurley,Can an Algorithm Tell When Kids Are in Danger?The New York Times Magazine,January 2,2018,（https://www.nytimes.com/2018/01/02/magazine/can-an-algorithm-tell-when-kids-are-in-danger.html）.與此同時(shí)，聯(lián)邦機(jī)構(gòu)已經(jīng)用算法系統(tǒng)來(lái)分析消費(fèi)者投訴，處理工傷報(bào)告，并評(píng)估公眾對(duì)擬議規(guī)則提出的意見了。?See Coglianese and Ben Dor,supra note⑦.

美國(guó)各地的刑事執(zhí)法機(jī)構(gòu)也依賴各種自動(dòng)化工具。他們采用了一些工具，根據(jù)對(duì)城市中最可能發(fā)生犯罪的地點(diǎn)的預(yù)測(cè)，自動(dòng)部署巡邏警察。?See Tim Lau,Predicting Policing Explained,Brennan Center for Justice,April 1,2020,（https://www.brennancenter.org/our-work/research-reports/predictive-policing-explained）.許多執(zhí)法機(jī)構(gòu)還廣泛運(yùn)用自動(dòng)化的人臉識(shí)別工具來(lái)識(shí)別嫌疑人或進(jìn)行安全檢查。?See Shirin Ghaffary and Rani Molla,Here’s Where the U.S.Government Is Using Facial Recognition Technology to Surveil Americans,Vox,December 10,2019,(https://www.vox.com/recode/2019/7/18/20698307/facial-recognition-technology-us-govern ment-fight-for-the-future).

監(jiān)管機(jī)構(gòu)同樣也使用了自動(dòng)化工具來(lái)確定審計(jì)和執(zhí)法資源的使用對(duì)象。各州采用了數(shù)據(jù)分析技術(shù)來(lái)查找失業(yè)保險(xiǎn)項(xiàng)目存在的欺詐和錯(cuò)誤。?See Tod Newcombe,Aiming Analytics at Our $3.5 Billion Unemployment Insurance Problem,Government Technology,March 2017,（https://www.govtech.com/data/Aiming-Analytics-at-Our-35-Billion-Unemployment-Insurance-Problem.html）.聯(lián)邦證券交易委員會(huì)（SEC）和國(guó)稅局（Internal Revenue Service）采用了算法工具來(lái)幫助發(fā)現(xiàn)欺詐和其他不當(dāng)行為。?See David Freeman Engstrom and Daniel E.Ho,Algorithmic Accountability in the Administrative State,37 Yale Journal on Regulation 800,815-819（2020）;and Richard Rubin,AI Comes to the Tax Code,The Wall Street Journal,February 26,2020,（https://www.wsj.com/articles/ai-comes-to-the-tax-code-11582713000）.

運(yùn)用諸如此類的各種方式，美國(guó)公共當(dāng)局已經(jīng)在朝向日益自動(dòng)化的政府的方向上取得了長(zhǎng)足進(jìn)步。在接下來(lái)的幾十年里，由人工智能工具驅(qū)動(dòng)的自動(dòng)化在政府中的應(yīng)用肯定會(huì)進(jìn)一步擴(kuò)大，并可能導(dǎo)致目前由政府雇員從事的許多工作轉(zhuǎn)型或被逐步淘汰。?Partnership for Public Service and IBM Center for the Business of Government,More Than Meets AI:Assessing the Impact of Artificial Intelligence on the Work of Government（Washington,D.C.:Partnership for Public Service and IBM Center for the Business of Government,2019）,（https://ourpublicservice.org/wp/content/uploads/2019/02/More-Than-Meets-AI.pdf）.行政法未來(lái)所要治理的國(guó)家將是行政自動(dòng)化程度日益提高的政府。

三

行政法可以適應(yīng)自動(dòng)化國(guó)家的發(fā)展嗎？乍一看，自動(dòng)化國(guó)家的前景似乎需要對(duì)行政法進(jìn)行根本性改寫。畢竟，行政法的出現(xiàn)是為了約束行政人員的裁量權(quán)，使其在法律范圍內(nèi)工作，并防止人類決策者之間的聯(lián)系可能出現(xiàn)的委托-代理問(wèn)題。此外，行政法的重要信條之一是行政程序應(yīng)當(dāng)是透明的，同時(shí)能夠說(shuō)明理由；對(duì)于推動(dòng)自動(dòng)化之新興趨勢(shì)的機(jī)器學(xué)習(xí)算法來(lái)說(shuō)，這一信條似乎會(huì)成為算法應(yīng)用的障礙。?這種信條既反映在正當(dāng)程序的概念中，也反映在行政行為不得武斷和恣意的一般性標(biāo)準(zhǔn)中。這是因?yàn)闄C(jī)器學(xué)習(xí)算法有時(shí)也被稱為“黑盒”算法，它所具有的一些特性使其晦澀難懂，難以解釋。在傳統(tǒng)算法中，變量是由人類選擇的，結(jié)果系數(shù)可以用來(lái)解釋因變量中特定數(shù)量的變化，而學(xué)習(xí)算法則有所不同，它能在數(shù)據(jù)中有效地發(fā)現(xiàn)其中存在的模式，并不產(chǎn)生將解釋力與特定變量相關(guān)聯(lián)的結(jié)果。數(shù)據(jù)科學(xué)家當(dāng)然能夠理解并解釋機(jī)器學(xué)習(xí)算法的目標(biāo)和一般屬性，但總的來(lái)說(shuō)這些算法都有一定程度的自主性，也因此被冠以“學(xué)習(xí)”之名，而這可能會(huì)使人更難準(zhǔn)確地解釋其做出任何特定預(yù)測(cè)的原因。它們通常無(wú)法為證明行政決策合理性的這類因果陳述提供任何依據(jù)（例如“因?yàn)閄導(dǎo)致Y，所以X是正當(dāng)?shù)摹保?/p>

因此，考慮到自動(dòng)化國(guó)家的未來(lái)是建立在機(jī)器學(xué)習(xí)系統(tǒng)基礎(chǔ)之上，對(duì)透明度的關(guān)切是合理的。但是，即使是輕微的額外反思，這些擔(dān)憂似乎既不會(huì)對(duì)依賴機(jī)器學(xué)習(xí)自動(dòng)化構(gòu)成內(nèi)在障礙，也不一定需要對(duì)美國(guó)行政法進(jìn)行根本性改革以適應(yīng)自動(dòng)化國(guó)家。即使根據(jù)《行政程序法》第706節(jié)規(guī)定的武斷恣意標(biāo)準(zhǔn)，行政法也從未苛求接近絕對(duì)的透明，或者要求一絲不茍或詳盡的推理。?See Cary Coglianese and David Lehr,supra note②，at 26-29.根據(jù)現(xiàn)有法律原則，行政機(jī)構(gòu)依靠機(jī)器學(xué)習(xí)系統(tǒng)時(shí)，如果用一般性的術(shù)語(yǔ)解釋該算法是如何設(shè)計(jì)的，并將其結(jié)果與現(xiàn)有程序所產(chǎn)生的結(jié)果進(jìn)行比較，以此證明其運(yùn)作符合算法設(shè)計(jì)要求，應(yīng)該能夠滿足任何說(shuō)明理由義務(wù)的要求。充分的解釋可能只涉及描述所使用算法的類型，披露搭建算法所要滿足的目標(biāo)，并顯示該算法是如何處理某類數(shù)據(jù)并生成結(jié)果，以及這些結(jié)果表明符合該算法所定義的目標(biāo)與目前的程序一樣好甚至更好。

這種解釋實(shí)際上與行政官員目前使用物理機(jī)器而非數(shù)字機(jī)器時(shí)的解釋類似。例如，為了證明對(duì)未在低溫下儲(chǔ)存易腐爛食品的食品加工者實(shí)施的行政處罰是合理的，行政官員不需要詳細(xì)解釋溫度計(jì)如何工作，只需要證明它準(zhǔn)確讀取了溫度計(jì)顯示度數(shù)即可。長(zhǎng)期以來(lái)，法院一直將物理機(jī)器的儀器有效性視為使用該儀器的行政行為的充分依據(jù)。此外，在行政官員依賴復(fù)雜儀器或數(shù)學(xué)分析的情況下，法院通常會(huì)尊重行政官員的專業(yè)知識(shí)。事實(shí)上，在Baltimore Gas & Electric Co.v.Natural Resources Defense Council中，美國(guó)最高法院呼吁法院在行政機(jī)構(gòu)“在其特殊專業(yè)領(lǐng)域內(nèi)，在科學(xué)前沿進(jìn)行預(yù)測(cè)”的時(shí)候，保持“最大程度尊重”的態(tài)度。?462 U.S.87,103（1983）.最近，在Marsh v.Oregon Natural Resource Council中，最高法院指出，只要行政決定“‘需要高度的技術(shù)性專業(yè)能力’，我們必須尊重‘負(fù)責(zé)行政機(jī)關(guān)的知情決定權(quán)’”。?490 U.S.360,371（2011）,quoting Kleppe v.Sierra Club,427 U.S.390,412（1976）.下級(jí)法院遵循這些指示，支持了行政機(jī)關(guān)在各種場(chǎng)景下依賴復(fù)雜算法（即使不是機(jī)器學(xué)習(xí)算法）作出的決定。

當(dāng)技術(shù)和統(tǒng)計(jì)技術(shù)在機(jī)器學(xué)習(xí)時(shí)代變得更加復(fù)雜時(shí)，很難看到最高法院對(duì)法官提供獨(dú)立技術(shù)評(píng)估的能力有更多信心。除非最高法院有新的來(lái)源獲得這種信心，并放棄它在Baltimore Gas &Electric Co.v.Natural Resources Defense Council和Marsh v.Oregon Natural Resource Council中采 取的立場(chǎng)，否則，行政法上的說(shuō)明理由義務(wù)似乎并不能成為行政機(jī)構(gòu)更廣泛地依賴基于機(jī)器學(xué)習(xí)或其他先進(jìn)預(yù)測(cè)技術(shù)系統(tǒng)的任何不可逾越的障礙，即使今天人們可以合理地稱之為“黑箱算法”。將機(jī)器學(xué)習(xí)算法描述為黑箱，這種說(shuō)法在未來(lái)幾十年似乎將不再合適，因?yàn)槟壳皵?shù)據(jù)科學(xué)家正在進(jìn)行大量工作以開發(fā)先進(jìn)技術(shù)，試圖更好地解釋這種復(fù)雜算法的輸出。?See Cary Coglianese and David Lehr,supra note②，at 49-55.“可解釋的”人工智能技術(shù)的進(jìn)步可能只會(huì)讓自動(dòng)化與長(zhǎng)期存在的行政法價(jià)值觀更加相容。

當(dāng)然，上述這一切并不是說(shuō)，在設(shè)計(jì)或操作其系統(tǒng)的問(wèn)題上，行政機(jī)關(guān)將會(huì)或者應(yīng)當(dāng)一直得到尊重。根據(jù)Motor Vehicle Manufacturers Association v.State Farm Insurance Co.提出的標(biāo)準(zhǔn)，行政機(jī)關(guān)仍然需要提供有關(guān)其自動(dòng)化系統(tǒng)背后的目的及其通常如何運(yùn)作的基本信息。?463 U.S.29（1983）.他們需要表明他們已經(jīng)仔細(xì)考慮了關(guān)鍵的設(shè)計(jì)選項(xiàng)。他們也可能需要通過(guò)公認(rèn)的審核和驗(yàn)證工作來(lái)證明這些系統(tǒng)確實(shí)能夠運(yùn)行并生成預(yù)期的結(jié)果。?在放棄以人為基礎(chǔ)的程序現(xiàn)狀之前，應(yīng)進(jìn)行驗(yàn)證，包括在隨機(jī)選擇的案件上測(cè)試算法，這些案件也是由人類按照正常程序決定的。人類專家小組可以對(duì)數(shù)字系統(tǒng)的結(jié)果和最初人類決策者之間的差異進(jìn)行更嚴(yán)格的審查。但是，這一切都意味著，幾乎可以肯定的是行政機(jī)關(guān)可以提供必要的信息以證明其系統(tǒng)產(chǎn)生的結(jié)果是合理的。換句話說(shuō)，長(zhǎng)期存在的行政法原則似乎已經(jīng)可以適應(yīng)自動(dòng)化時(shí)代。

四

從一些重要的方面看，向自動(dòng)化行政的轉(zhuǎn)變甚至可以說(shuō)是對(duì)行政法背后原則的某種神化。許多行政法規(guī)范聚焦的是行政官員根據(jù)授權(quán)行使裁量權(quán)時(shí)所產(chǎn)生的潛在問(wèn)題。通過(guò)行政的自動(dòng)化，這些潛在問(wèn)題可以得到緩解，而隨著某些政府任務(wù)的自動(dòng)化，人類可能會(huì)強(qiáng)化對(duì)裁量權(quán)的控制。

自動(dòng)化可以推進(jìn)長(zhǎng)期以來(lái)構(gòu)成美國(guó)行政法主要特征的兩大主題：一項(xiàng)主題關(guān)注的是確?？梢詫?duì)行政權(quán)力的行使進(jìn)行民主問(wèn)責(zé)；另一項(xiàng)主題是試圖確保這種權(quán)力是基于可靠專家判斷的。例如，《行政程序法》規(guī)定的武斷恣意標(biāo)準(zhǔn)背后的說(shuō)明理由義務(wù)就反映了這兩項(xiàng)主題。行政決定的說(shuō)明理由作為一個(gè)基礎(chǔ)，既可以有助于確保各行政機(jī)關(guān)忠實(shí)于其民主任務(wù)，又可以將其決定建立在合理的證據(jù)和分析基礎(chǔ)之上。類似地，白宮對(duì)未來(lái)規(guī)章的制度化審查，既有利于加強(qiáng)對(duì)民選總統(tǒng)的問(wèn)責(zé)，又能通過(guò)要求行政機(jī)關(guān)開展利益成本分析來(lái)促進(jìn)其專業(yè)決策。?這種規(guī)制審查制度的基本內(nèi)容，參見Executive Order 12866 of September 30,1993 Regulatory Planning and Review,58 Federal Register 51735（1993）.

同樣，在Chevron v.Natural Resources Defense Council這一被廣泛引用的判決中，最高法院在支持司法尊重行政機(jī)關(guān)的法律解釋，同時(shí)強(qiáng)調(diào)了民主問(wèn)責(zé)制和實(shí)質(zhì)性專業(yè)知識(shí)這兩項(xiàng)理由，這么做絕不是偶然的。?467 U.S.837（1984）.作為正式事項(xiàng)，最高法院認(rèn)為雪佛龍尊重原則的基礎(chǔ)是國(guó)會(huì)明確或隱含地將澄清或填補(bǔ)空白的權(quán)力授予行政機(jī)關(guān)。See Cary Coglianese,Chevron’s Interstitial Steps,85 George Washington Law Review1339,1347-1351（2017）.它強(qiáng)調(diào)了行政機(jī)關(guān)是如何位于“政府的政治分支”，以及他們?nèi)绾瓮瑫r(shí)擁有“豐富的專業(yè)知識(shí)”，從而比法院更適合對(duì)模棱兩可的法定術(shù)語(yǔ)之含義作出判斷。?467 U.S.837,865.盡管雪佛龍?jiān)瓌t（the Chevron doctrine）本身的未來(lái)似乎是不確定的，但是最高法院對(duì)問(wèn)責(zé)和專業(yè)知識(shí)的強(qiáng)調(diào)不太可能消失，因?yàn)樗鼈兪切姓卫淼墓逃衅焚|(zhì)。

機(jī)器學(xué)習(xí)和自動(dòng)化可以提高問(wèn)責(zé)和專業(yè)知識(shí)這兩種品質(zhì)。自動(dòng)化最明顯的作用可能是有助于實(shí)現(xiàn)專家治理的目標(biāo)。當(dāng)自動(dòng)化系統(tǒng)提高行政決策的準(zhǔn)確性的同時(shí)，必然會(huì)促進(jìn)行政法提高行政機(jī)關(guān)提高專業(yè)能力的目標(biāo)，這也正是機(jī)器學(xué)習(xí)和其他數(shù)據(jù)分析技術(shù)看起來(lái)前景可期的原因。在專家治理方面，人工智能有望提供最先進(jìn)的技術(shù)。例如，退伍軍人管理局（Veterans Administration）最近選擇用自動(dòng)化算法系統(tǒng)來(lái)預(yù)測(cè)哪些退伍軍人自殺的風(fēng)險(xiǎn)更高（因此需要更緊急的關(guān)懷），因?yàn)檫@個(gè)分析系統(tǒng)甚至比經(jīng)驗(yàn)豐富的精神科醫(yī)生更為智能。?Benedict Carey,Can an Algorithm Prevent Suicide?The New York Times,November 23,2020,（https://www.nytimes.com/2020/11/23/health/artificial-intelligence-veterans-suicide.html）.退伍軍人管理局的一位精神病學(xué)家指出，“事實(shí)是，我們不能依靠經(jīng)過(guò)訓(xùn)練的醫(yī)學(xué)專家來(lái)識(shí)別真正處于高風(fēng)險(xiǎn)的人，（因?yàn)樗麄儯┎簧瞄L(zhǎng)這一點(diǎn)?！?Id.

類似地，當(dāng)涉及到行政法的其他主要目標(biāo)——民主問(wèn)責(zé)時(shí)，自動(dòng)化系統(tǒng)也能起到推動(dòng)作用。自動(dòng)化具有民主優(yōu)勢(shì)，這一點(diǎn)初看起來(lái)似乎與直覺相悖：基于機(jī)器的治理似乎很難與林肯提出的“民治”政府概念相一致。但是，現(xiàn)實(shí)是自動(dòng)化系統(tǒng)本身仍然需要能夠設(shè)計(jì)、測(cè)試和審計(jì)這些系統(tǒng)的人。只要設(shè)計(jì)者和監(jiān)督者按照相關(guān)法律用與行政機(jī)關(guān)設(shè)定的參數(shù)相一致的方式操作系統(tǒng)，自動(dòng)化系統(tǒng)本身就可以預(yù)防由數(shù)以千計(jì)的行政官員實(shí)施重大國(guó)家項(xiàng)目和政策時(shí)可能會(huì)出現(xiàn)的偏離和推諉現(xiàn)象。即使是根據(jù)國(guó)會(huì)授權(quán)制定新的規(guī)則，行政機(jī)關(guān)也很可能會(huì)發(fā)現(xiàn)，自動(dòng)化促進(jìn)而非削弱了民主問(wèn)責(zé)制。機(jī)器學(xué)習(xí)算法本身的特性會(huì)要求一定程度的問(wèn)責(zé)制。這些算法如果要發(fā)揮作用，不僅依賴“明確性原則（intelligible principle）”提供指引，還需要有可用數(shù)學(xué)術(shù)語(yǔ)精確說(shuō)明的原理。?關(guān)于明確性原則學(xué)說(shuō)的討論，參見Cary Coglianese,Dimensions of Delegation,167 University of Pennsylvania Law Review1849（2019）.如此一來(lái)，自動(dòng)化很可能推動(dòng)在法律中對(duì)行政目標(biāo)作出更明確的規(guī)定，甚至超過(guò)法院可能復(fù)興禁止權(quán)力授出原則時(shí)要求規(guī)定的明確性。

雖然為了確保所創(chuàng)造的自動(dòng)化系統(tǒng)符合以民主方式確認(rèn)的價(jià)值觀，對(duì)自動(dòng)化系統(tǒng)設(shè)計(jì)和開發(fā)過(guò)程的監(jiān)督仍然很重要，但是自動(dòng)化系統(tǒng)一旦投入運(yùn)行，它們就會(huì)大幅減少出現(xiàn)俘獲和腐敗的機(jī)會(huì)，而這些問(wèn)題都是行政法長(zhǎng)期以來(lái)試圖防止的。人類可能會(huì)追求自己的狹隘利益而非更廣泛的公眾利益，而算法編程則是為了優(yōu)化其設(shè)計(jì)者所定義的各項(xiàng)目標(biāo)。只要這些設(shè)計(jì)者向公眾負(fù)責(zé)，只要系統(tǒng)目標(biāo)是按照相關(guān)法律的規(guī)定，以非自利方式定義的，那么，算法本身就不會(huì)產(chǎn)生俘獲和腐敗的風(fēng)險(xiǎn)。重要的是，它們?cè)趯?shí)施法律時(shí)比行政官員更具有可問(wèn)責(zé)性。

自動(dòng)化系統(tǒng)并非萬(wàn)能靈藥，負(fù)責(zé)任地開發(fā)和使用自動(dòng)化系統(tǒng)亦非易事。它們當(dāng)然可以在法律和道德上有問(wèn)題的情況下使用。此外，行政機(jī)關(guān)使用自動(dòng)化系統(tǒng)，依然要受到行政法以外的約束，例如，根據(jù)《憲法》第一修正案或平等保護(hù)條款（Equal Protection Clause）適用于所有政府行為的法律約束。事實(shí)上，算法偏見的可能性所引發(fā)的對(duì)平等的關(guān)切，很可能成為自動(dòng)化系統(tǒng)在未來(lái)幾年內(nèi)所面臨的最突出的法律問(wèn)題。人類決策顯然存在偏見，但機(jī)器學(xué)習(xí)算法也存在偏見，尤其是當(dāng)用于訓(xùn)練這些算法的基礎(chǔ)數(shù)據(jù)已經(jīng)包含（人為制造的）偏見時(shí)。盡管如此，如果沒有獨(dú)立的敵意表現(xiàn)，基于機(jī)器學(xué)習(xí)算法的自動(dòng)化系統(tǒng)很可能會(huì)順利通過(guò)平等保護(hù)原則的審查，至少在平等保護(hù)原則沒有隨著時(shí)間推移而發(fā)生太大變化時(shí)是如此。?See Washington v.Davis,426 U.S.229,239(1976).

即使行政官員選擇采用包括種族、性別或其他受保護(hù)的變量類型的數(shù)據(jù)，政府使用機(jī)器學(xué)習(xí)算法也能夠避免根據(jù)平等保護(hù)條款的分析對(duì)其行為提起訴訟。只要算法編程時(shí)所要實(shí)現(xiàn)的目標(biāo)不是以這種受保護(hù)的分類來(lái)表述的，我們就很難，甚至不可能證明算法將某類變量作為任何特定結(jié)果的決定性依據(jù)。這些算法生成的結(jié)果來(lái)自有效的自主數(shù)學(xué)過(guò)程，這些數(shù)學(xué)過(guò)程可以發(fā)現(xiàn)變量之間的模式和不同變量之間的關(guān)系?？梢酝茢嗟氖?，在種族或其他受保護(hù)的階級(jí)在政府決策中被賦予了明確的甚至是決定性的權(quán)重時(shí)，機(jī)器學(xué)習(xí)算法將很少會(huì)支持根據(jù)已經(jīng)被最高法院否定的階級(jí)相關(guān)變量而做出的決定。?See Fisher v.University of Texas at Austin,133 S.Ct.2411（2013）;Grutter v.Bollinger,539 U.S.306（2003）;Gratz v.Bollinger,539 U.S.244（2003）;and Cary Coglianese and David Lehr,supra note①,at 1147.即使在使用階級(jí)變量的數(shù)據(jù)時(shí)，機(jī)器學(xué)習(xí)算法的使用，整體上來(lái)說(shuō)也可能會(huì)給受保護(hù)階級(jí)的成員帶來(lái)更好的結(jié)果。?對(duì)算法公平的技術(shù)問(wèn)題所作的清晰解釋,參見Michael Kearns and Aaron Roth,The Ethical Algorithm:The Science of Socially Aware Algorithm Design（New York:Oxford University Press,2019）,pp.57-93.圍繞數(shù)字算法如何產(chǎn)生比人類程序更公平的結(jié)果而展開的令人信服的討論,參見Sandra G.Mayson,Bias In,Bias Out,128 Yale Law Journal 2218,2277-2281（2019）.

此外，隨著對(duì)基于算法的自動(dòng)化系統(tǒng)的依賴不斷加深，政府將獲得一種新的能力，即通過(guò)對(duì)其算法進(jìn)行數(shù)學(xué)調(diào)整，減少不必要的偏見，有時(shí)對(duì)準(zhǔn)確度并不會(huì)產(chǎn)生明顯影響。?例可參見Richard A.Berk and Arun Kumar Kuchibhotla,Improving Fairness in Criminal Justice Algorithmic Risk Assessments Using Conformal Prediction Sets（2021）,arXiv:2008.11664[stat.AP];James E.Johndrow and Kristian Lum,An Algorithm for Removing Sensitive Information:Application to Race-Independent Recidivism Prediction,13 Annals of Applied Statistics 189（2019）;Jon Kleinberg,Jens Ludwig,Sendhil Mullainathan,and Cass R.Sunstein,Discrimination in the Age of Algorithms,10 Journal of Legal Analysis 113（2018）.以這種方式消除算法偏見肯定比目前消除人類隱性偏見更容易。在未來(lái)的自動(dòng)化國(guó)家里，政府可能會(huì)發(fā)現(xiàn)自己不太會(huì)受到過(guò)度歧視的指控。

基于上述理由，長(zhǎng)期存在的行政法原則，甚至憲法原則，很可能將繼續(xù)在自動(dòng)化國(guó)家中發(fā)揮效力，并鼓勵(lì)行政機(jī)構(gòu)負(fù)責(zé)任地行事，既能保留民主問(wèn)責(zé)制，又能做出更明智、更公平的決定。但是，這并不是說(shuō)現(xiàn)有的原則將一成不變。誰(shuí)都不應(yīng)指望任何領(lǐng)域的法律始終一成不變。鑒于一些學(xué)者和觀察者已經(jīng)開始以批判的眼光審視政府對(duì)算法的使用，在具體針對(duì)未來(lái)行政國(guó)家的自動(dòng)化特征方面，公眾態(tài)度的轉(zhuǎn)變也許將導(dǎo)致新的、可能更為苛刻的行政法原則。?例可參見，Danielle Keats Citron,Technological Due Process,85 Washington University Law Review1249（2008）;Karen Yeung,Algorithmic Regulation:A Critical Interrogation,12 Regulation and Government 505（2018）.

盡管政府官員無(wú)疑將會(huì)繼續(xù)強(qiáng)化自動(dòng)化系統(tǒng)相關(guān)的規(guī)范和實(shí)踐，正如為了利用收益-成本分析等其他分析工具而在過(guò)去多年里實(shí)現(xiàn)的發(fā)展一樣，但是行政法的基本原理是否會(huì)在算法治理的時(shí)代發(fā)生巨大變化，這一點(diǎn)還遠(yuǎn)遠(yuǎn)沒有達(dá)到明朗的程度。?例如，行政機(jī)關(guān)在設(shè)計(jì)算法系統(tǒng)時(shí)所作的選擇，對(duì)此如何記錄的規(guī)范肯定會(huì)發(fā)展起來(lái)。例可參見Timnit Gebru,Jamie Morgenstern,Briana Vecchione,et al.,Datasheets for Datasets（2020）,（https://arxiv.org/abs/1803.09010）.畢竟，法官們?cè)趯彶闄C(jī)器學(xué)習(xí)算法時(shí)會(huì)遇到許多困難，就像他們過(guò)去在行政管理的其他統(tǒng)計(jì)和技術(shù)方面所遇到的困難一樣，這可能會(huì)導(dǎo)致Baltimore Gas & Electric案所體現(xiàn)的司法尊重繼續(xù)存在。?借用伏爾泰（Voltaire）的話來(lái)說(shuō)，如果Baltimore Gas & Electric案沒有發(fā)生，聯(lián)邦各級(jí)法院仍會(huì)認(rèn)為有必要給予尊重。See Adrian Vermeule,Law’s Abnegation:From Law’s Empire to the Administrative State（Cambridge,Mass.:Harvard University Press,2016）.（伏爾泰曾經(jīng)說(shuō)過(guò)，如果上帝不存在，就應(yīng)該創(chuàng)造一個(gè)?！g者注）此外，與其說(shuō)公眾的態(tài)度轉(zhuǎn)向反對(duì)政府使用算法工具，不如說(shuō)公眾的期望將受到人工智能在生活其他方面被廣泛接受的影響，甚至可能導(dǎo)致其對(duì)政府使用算法工具的肯定，而不是繼續(xù)依賴與算法相比更慢而又更不可靠的程序。出于對(duì)算法治理陷入僵化的警惕，法官和行政法學(xué)者可能會(huì)克制對(duì)自動(dòng)化增加設(shè)置學(xué)理障礙的沖動(dòng)。?正如Steven M.Appel和我曾經(jīng)指出的，“不難想象，在不久的將來(lái)，公眾真的會(huì)期待他們的公務(wù)員依賴這些技術(shù)”。隨著復(fù)雜機(jī)器學(xué)習(xí)算法在私營(yíng)部門的迅速推廣，公眾很可能會(huì)期望政府提供類似的準(zhǔn)確性和自動(dòng)化服務(wù)。Steven M.Appel and Cary Coglianese,Algorithmic Governance and Administrative Law,in Woodrow Barfield ed.,Cambridge Handbook on the Law of Algorithms:Human Rights,Intellectual Property,Government Regulation（Cambridge:Cambridge University Press,2021）,pp.162,165.他們還可能會(huì)認(rèn)定現(xiàn)有的行政法理論包含了確保政府機(jī)構(gòu)負(fù)責(zé)任地使用自動(dòng)化系統(tǒng)所需的內(nèi)容，這也是言之成理的。

因此，如果政府機(jī)構(gòu)希望擴(kuò)大負(fù)責(zé)任地使用經(jīng)過(guò)合理培訓(xùn)、審計(jì)和驗(yàn)證的自動(dòng)化系統(tǒng)，確保其符合法律要求，并提高行政機(jī)關(guān)實(shí)施關(guān)鍵任務(wù)的能力，他們幾乎不需要改變傳統(tǒng)的行政法原則就能適應(yīng)這些創(chuàng)新。行政法也不需要做太多調(diào)整（如果有的話），以確保負(fù)責(zé)任地使用算法治理?？偟膩?lái)說(shuō)，我們可以想見的是自動(dòng)化的國(guó)家可以比以前更好地實(shí)現(xiàn)長(zhǎng)期以來(lái)為行政法注入活力的善治愿景。

五

盡管行政法的主流原則能夠充分應(yīng)對(duì)公共部門對(duì)機(jī)器學(xué)習(xí)算法的使用，但是在自動(dòng)化國(guó)家中有些重要的問(wèn)題可能很容易陷入迷失。自動(dòng)化國(guó)家中，政府可能會(huì)更智能，更具有民主可問(wèn)責(zé)性，甚至更公平，但是它甚至可能比今天毫無(wú)生氣的官僚程序更缺乏感情。通過(guò)智能手機(jī)和自動(dòng)聊天與政府進(jìn)行互動(dòng)，對(duì)于在國(guó)家公園預(yù)訂露營(yíng)地，甚至報(bào)稅來(lái)講都是不錯(cuò)的選擇，但是，當(dāng)政府必須作出對(duì)于個(gè)人福利產(chǎn)生深遠(yuǎn)影響的重大決策時(shí)，這些互動(dòng)方式可能會(huì)忽略善治的一項(xiàng)重要因素，即同理心。在這些情況下，同理心要求行政機(jī)構(gòu)提供人際互動(dòng)、傾聽和表達(dá)關(guān)切的機(jī)會(huì)。未來(lái)幾十年，行政法面臨的一項(xiàng)重要挑戰(zhàn)將是尋求方法以推動(dòng)自動(dòng)化國(guó)家同時(shí)成為具有同理心的國(guó)家。

當(dāng)然，對(duì)同理心的渴求并不必然阻礙自動(dòng)化的發(fā)展。?值得注意的是，技術(shù)人員甚至正在探索在自動(dòng)化工具中構(gòu)建同理心的可能性。例可參見，Pascale Fung,Dario Bertero,Yan Wan,et al.,Towards Empathetic Human-Robot Interactions,in Alexander Gelbukh ed.,Computational Linguistics and Intelligent Text Processing（New York:Springer International Publishing,2018）.如果政府順利完成向自動(dòng)化國(guó)家的轉(zhuǎn)型，那么自動(dòng)化就有可能提高政府對(duì)公眾提供同理心的能力，但前提是政府官員充分意識(shí)到這樣做的需要。隨著整個(gè)經(jīng)濟(jì)體越來(lái)越依賴人工智能和其他自動(dòng)化系統(tǒng)，這種需求將會(huì)變得更大。社會(huì)需要重視并找到新的方法來(lái)完成那些人類擅長(zhǎng)的涉及同理心的任務(wù)。正如技術(shù)專家李開復(fù)所指出的那樣，目標(biāo)應(yīng)該是確?！叭斯ぶ悄芴幚淼氖侨粘５膬?yōu)化任務(wù)，而人類……帶來(lái)個(gè)人的、創(chuàng)造性的和富有同情心的風(fēng)格。?Kai-Fu Lee,AI Superpowers:China,Silicon Valley,and the New World Order（New York:Houghton Mifflin Harcourt,2018）,p.210.

公共管理專家認(rèn)識(shí)到，這是遷移到自動(dòng)化國(guó)家的巨大潛在優(yōu)勢(shì)之一。它可以把政府工作人員從繁重的工作和積壓的文件中解放出來(lái)，讓他們有更多的時(shí)間和機(jī)會(huì)去聯(lián)系那些受行政決定影響的人。?自動(dòng)化國(guó)家的出現(xiàn)無(wú)疑將導(dǎo)致政府勞動(dòng)力的變化，就像人工智能在私營(yíng)部門的擴(kuò)大使用將導(dǎo)致勞動(dòng)力市場(chǎng)的變化一樣。David Autor and Anna M.Salomons,Is Automation Labor-Displacing?Productivity Growth,Employment,and the Labor Share,Brookings Papers on Economic Activity,March 8,2018;and David Autor,David Mindell,and Elisabeth Reynolds,The Work of the Future:Building Better Jobs in an Age of Intelligent Machines（Cambridge,Mass.:MIT Work of the Future,2020）,（https://workofthefuture.mit.edu/wp-content/uploads/2021/01/2020-Final-Report4.pdf）.政府工作人員越來(lái)越多地圍繞同理心組織起來(lái)，這與制造業(yè)經(jīng)濟(jì)向服務(wù)經(jīng)濟(jì)或進(jìn)一步向“共享”經(jīng)濟(jì)的更廣泛轉(zhuǎn)變相符。See Cary Coglianese,Optimizing Regulation for an Optimizing Economy,4 University of Pennsylvania Journal of Law and Public Affairs 3-4（2018）.公共服務(wù)伙伴關(guān)系（Partnership for Public Service）和IBM商業(yè)與政府中心（IBM Center for Business and Government）最近聯(lián)合發(fā)布的一份研究報(bào)告解釋了這種轉(zhuǎn)變對(duì)政府雇員工作的重要性:

“許多展望人工智能在政府中更廣泛應(yīng)用的觀察者認(rèn)為，政府雇員和行政相對(duì)人之間將有更多面對(duì)面的互動(dòng)，并有更多機(jī)會(huì)提供更多的個(gè)性化客戶服務(wù)。政府雇員與行政相對(duì)人開展更多接觸的轉(zhuǎn)變，預(yù)計(jì)將成為自動(dòng)化行政任務(wù)若干可能的影響之一。擺脫了繁重的文書工作之后，移民官員可以花更多的時(shí)間與簽證申請(qǐng)人互動(dòng)，或跟進(jìn)處理個(gè)人移民案件?？茖W(xué)家可以把更多的時(shí)間分配給研究項(xiàng)目的參與者。政府撥款項(xiàng)目的經(jīng)理可以花更多的時(shí)間來(lái)了解和支持個(gè)別接受撥款者。一項(xiàng)研究表明，聯(lián)邦雇員現(xiàn)在平均只花2%或者每周不到一小時(shí)的時(shí)間與客戶和機(jī)構(gòu)以外的其他人溝通。與此同時(shí)，公民希望政府做得更好。行政相對(duì)人與公司之間互動(dòng)的體驗(yàn)推動(dòng)了他們對(duì)個(gè)性化政府服務(wù)的需求。在一項(xiàng)對(duì)美國(guó)等六個(gè)國(guó)家的6000多人的調(diào)查中，44%的受訪者優(yōu)先考慮個(gè)性化政府服務(wù)?！?Partnership for Public Service and IBM Center for Business and Government,supra note ?,at 8.

不僅相當(dāng)一部分公眾已經(jīng)認(rèn)識(shí)到自己需要與政府有同理心、個(gè)性化的接觸機(jī)會(huì)，而且隨著私營(yíng)部門各個(gè)組織在個(gè)性化服務(wù)方面加大投入，這也會(huì)提高和擴(kuò)大對(duì)政府具有同理心的類似期望。根據(jù)對(duì)程序公正的大量研究，我們已經(jīng)知道，政府對(duì)待公眾的方式會(huì)影響他們對(duì)所獲得結(jié)果合法性的認(rèn)知。?Allen E.Lind and Tom Tyler,The Social Psychology of Procedural Justice（New York:Springer International Publishing,1988）.為了建立公眾對(duì)自動(dòng)化國(guó)家的信任，政府機(jī)構(gòu)需要確保公眾仍能感受到人與人之間的聯(lián)系。正如政治哲學(xué)家Amanda Greene所指出的，“政府必須讓人看到它在真誠(chéng)地關(guān)心每個(gè)人的福利。?Amanda Greene,Competence,Fairness,and Caring:The Three Keys to Government Legitimacy,Centre for Public Impact,February 27,2018,（https://www.centreforpublicimpact.org/the-three-keys-government-legitimacy/）.

行政法能否有助于鼓勵(lì)有同理心的行政程序？有人可能會(huì)說(shuō)，這已經(jīng)構(gòu)成了行政法上正當(dāng)程序原則的基礎(chǔ)目的。畢竟，Goldberg v.Kelly保證某些政府福利的領(lǐng)受人在福利被終止之前，有權(quán)在中立決策者面前舉行口頭聽證會(huì)，這一權(quán)利至少為受到影響的個(gè)人提供了與理論上有同理心的行政法官接觸的機(jī)會(huì)。?397 U.S.254（1970）.See Lucie E.White,Subordination,Rhetorical Survival Skills,and Sunday Shoes:Notes on the Hearing of Mrs.G.,38 Buffalo Law Review 1（1990）.但是，Mathews v.Eldridge所反映的如今成為經(jīng)典的程序性正當(dāng)程序測(cè)試標(biāo)準(zhǔn)，幾乎完全沒有注意到在政府與公眾的互動(dòng)中傾聽、關(guān)懷和關(guān)切的作用。?424 U.S.319（1976）.Mathews案對(duì)程序性正當(dāng)程序的定義是基于下列三項(xiàng)因素的平衡：（1）受影響的私人利益；（2）減少?zèng)Q策錯(cuò)誤的可能性；（3）財(cái)政和行政負(fù)擔(dān)相關(guān)的政府利益。機(jī)器學(xué)習(xí)的自動(dòng)化似乎很容易通過(guò)Mathews的權(quán)衡測(cè)試標(biāo)準(zhǔn)。其中，第一項(xiàng)因素即受影響的私人利益，與機(jī)器學(xué)習(xí)無(wú)關(guān)，而根據(jù)后兩項(xiàng)因素，機(jī)器學(xué)習(xí)系統(tǒng)似乎總是表現(xiàn)良好，因?yàn)樽詣?dòng)化最大的優(yōu)勢(shì)就是可以減少錯(cuò)誤和降低行政成本。

這就是現(xiàn)有的行政法原則在自動(dòng)化狀態(tài)下的不足之處，也是需要更多遠(yuǎn)見的地方。聽證權(quán)和說(shuō)明理由的需要不僅僅是為了實(shí)現(xiàn)準(zhǔn)確的結(jié)果，這也正是Mathews原則的框架所暗示的。相反，聽證和說(shuō)明理由并不總是擅長(zhǎng)獲得準(zhǔn)確結(jié)果，至少不像自動(dòng)化系統(tǒng)那樣穩(wěn)定。2011年的一項(xiàng)研究表明，在社會(huì)安全保障局某辦公室15名最活躍的行政法官中，“不同法官批準(zhǔn)福利的比例……從不到10%到90%以上不等”。?Social Security Awards Depend More on Judge Than Facts,TRAC Social Security Administration,July 4,2011,（https://trac.syr.edu/tracreports/ssa/254/）.社會(huì)保障局對(duì)這項(xiàng)研究的某些方面提出了尖銳的異議。例如，該研究顯示，同一辦公室的三名法官批準(zhǔn)不超過(guò)30%的申請(qǐng)人獲得福利，而另外三名法官則批準(zhǔn)超過(guò)70%的申請(qǐng)人獲得福利。?Id.其他研究表明，社會(huì)保障殘疾福利裁決可能存在種族差異，某些黑人申請(qǐng)者往往比白人申請(qǐng)者獲得更不利的結(jié)果。?例可參見，U.S.General Accounting Office,Racial Difference in Disability Decisions Warrants Further Investigation,B-247327（Washington,D.C.:U.S.General Accounting Office,1992）,（https://www.gao.gov/assets/160/151781.pdf）;and Erin M.Godtland,Michele Grgich,Carol Dawn Petersen,et al.,Racial Disparities in Federal Disability Benefits,25 Contemporary Economic Policy 27（2007）.與這樣的歷史記錄不同，自動(dòng)化系統(tǒng)具有獨(dú)特的優(yōu)勢(shì)，能夠提供更公平、更一致、甚至更快速的決定。

但是，對(duì)于那些向政府申請(qǐng)?jiān)蚱渌麤Q定的人，或者那些發(fā)現(xiàn)自己本身受到政府限制的人來(lái)說(shuō)，人類仍然善于傾聽和同情他們的困境。?關(guān)于同理心在行使監(jiān)管權(quán)力中重要性的討論，see Cary Coglianese,Listening,Learning,and Leading:A Framework for Regulatory Excellence（Philadelphia:University of Pennsylvania Law School,2015）,pp.23-25,（https://www.law.upenn.edu/live/files/4946-pprfinalconvenersreport.pdf）.我們應(yīng)當(dāng)讓人類具有的同理心之品質(zhì)引導(dǎo)程序性正當(dāng)程序的行政法超越目前只強(qiáng)調(diào)減少錯(cuò)誤和降低成本的做法。

對(duì)一些法官來(lái)說(shuō)，對(duì)具備同理心的行政法之需要，可能會(huì)讓他們發(fā)問(wèn)，在自動(dòng)化國(guó)家中公眾是否擁有“接受人類決策的權(quán)利”。?對(duì)該問(wèn)題的完美處理，參見Aziz Z.Huq,A Right to a Human Decision,106 Virginia Law Review 611（2020）.但是，并非所有的人類決策必然具有同理心。此外，接受人類決策的權(quán)利可能會(huì)帶來(lái)一種可能性，即只是為了保留人類參與的這一優(yōu)點(diǎn)，法律需要接受人類決策的所有缺陷。如果事實(shí)證明自動(dòng)化決策越來(lái)越比人類決策更準(zhǔn)確、更少偏見，那么接受人類決策的權(quán)利似乎會(huì)讓公眾失去因算法應(yīng)用而帶來(lái)政府績(jī)效改善的機(jī)會(huì)。

行政法不需要阻礙這些改進(jìn)。它可以在使用機(jī)器學(xué)習(xí)算法的同時(shí)，推動(dòng)政府尋求更多傾聽和同情回應(yīng)的機(jī)會(huì)。有時(shí)，富有同情心的反應(yīng)甚至可能要求推翻自動(dòng)決策，即讓人類官員表現(xiàn)出仁慈，在個(gè)案基礎(chǔ)上做出不同的決定。畢竟，自動(dòng)化系統(tǒng)本身仍然會(huì)導(dǎo)致錯(cuò)誤，而聯(lián)合的人機(jī)系統(tǒng)在減少錯(cuò)誤方面有時(shí)可能比單獨(dú)操作的人或機(jī)器做得更好。然而，挑戰(zhàn)在于要確保有足夠的裁量權(quán)結(jié)構(gòu)來(lái)推翻自動(dòng)化的結(jié)果，以免人類的例外情況吞噬了自動(dòng)化規(guī)則。See Cary Coglianese,Gabriel Scheffler,and Daniel E.Walters,Unrules,73 Stanford Law Review 885（2021）.一種解決方案可能是創(chuàng)建專門用于幫助解決這個(gè)問(wèn)題的自動(dòng)化系統(tǒng)。如果自動(dòng)化系統(tǒng)不僅能生成結(jié)果，而且還生成對(duì)該結(jié)果的置信度預(yù)估值時(shí)，那么只在系統(tǒng)的置信度預(yù)估值足夠低的情況下，才能引導(dǎo)人類超越同情的傾聽，并提供仁慈的例外。正如最高法院在Goldberg v.Kelly中堅(jiān)持對(duì)福利領(lǐng)受人終止福利前舉行聽證一樣，未來(lái)法院可以詢問(wèn)特定利益是否具有足夠的品質(zhì)和重要性，從而要求行政機(jī)關(guān)為受自動(dòng)化程序影響的個(gè)人提供更多的接觸和援助。各級(jí)法院可以通過(guò)這種方式強(qiáng)化行政機(jī)關(guān)工作中的最佳實(shí)踐，以提供具有同理心的接觸和援助。

最后，如果自動(dòng)化國(guó)家的行政法要采用任何新權(quán)利，法院拒絕承認(rèn)接受人類決策的權(quán)利，對(duì)社會(huì)更為有利。相反，法院可以考慮并嘗試界定獲得人類同理心的權(quán)利（right to human empathy）。