蘇穩(wěn)

摘 ? ? ?要：政府自動化決策是一種由人工智能參與，部分或者完全取代行政主體參與，實現行政行為過程的自動化、無人化甚至智能化，從而產生對外法律效果的行政行為。行政自動化決策在提升行政效率、堅守決策中立等方面意義凸出，但仍暴露出諸多不敷適用之處，尤其表現在責任認定標準存疑、責任主體識別困難、責任范圍劃分模糊以及侵權賠償標準混亂等?；诖?，當前應依據實際參與原則與契約自由理念厘清政府自動化決策的責任主體，明確政府自動化決策的責任范圍，健全政府自動化決策的監(jiān)督評估機制，形塑以算法解釋權、算法拒絕權、損害評估標準為核心的救濟機制。

關 ?鍵 ?詞：政府自動化決策;行政效率;責任認定;責任主體;責任范圍

中圖分類號：D922.1 ? ? ?文獻標識碼：A ? ? ?文章編號：1007-8207（2024）05-0104-11

一、問題的提出

進入數字時代以來，算法、大數據、人工智能與社會生活的深度契合衍生出諸多新場景，其中，自動化行政借助數字技術，以預測資源分配、輔助行政裁量的方式，通過算法決策程序對海量數據進行分析處理并完成替代性決策，從而優(yōu)化行政效能?？茖W、客觀、快捷、精準地嵌入政府行政決策，有效提高行政決策效能。[1]同時，囿于決策技術的自身弊端和社會環(huán)境存在的諸多主客觀原因，伴隨著技術內生的不確定性風險、法律層面權力行使與權利保障的挑戰(zhàn)，價值層面中技術理性吞噬價值理性等桎梏，相關法律法規(guī)逐漸滯后，如何進行規(guī)制成為政府行政繞不開的話題。國務院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》提出，支持人工智能技術和應用發(fā)展的三步走戰(zhàn)略目標，并要求建立人工智能法律法規(guī)理論體系。在學界中，部分學者從主體、程序以及救濟方式等方面，對傳統行政方式與自動化行政相關關系、自動化行政類型化分級、自動化行政應用范圍以及應用中問題及風險控制等方面進行研究，但在公共決策過程中，算法決策所產生的風險的具體形式和原因，以及算法和數據管理的責任劃分，已有研究成果尚未形成完善的理論系統，無法為政府自動化決策的責任認定等問題提供可操作性的因應對策?；诖?，筆者立足于自動化行政的行為解構和類型化分類，通過探究政府自動化決策中產生的法律困境，以期對數字政府建設有所裨益。

二、政府自動化決策的基本邏輯

（一）政府自動化決策的行為解構

政府自動化決策是指以數字化技術為基礎，以自動化行政系統為載體，部分或完全替代行政主體參與行政過程，實現行政行為過程自動化、無人化甚至智能化，由人工智能參與的一種行政行為。[2]自動化行政中信息交互關系由傳統兩元式轉變?yōu)椤靶姓鄬θ?自動化行政系統-行政主體”的三元式。不論大數據和人工智能的參與程度如何，在自動化行政法律關系中，行政主體理應是行政機關及法律法規(guī)授權的組織。自動化行政系統在政府自動化決策中扮演著傳統行政機構的角色，獲得具有法律屬性的“公務員”職能和“主體性”地位。需要注意的是，“主體性”地位并不能與法律意義上的“行政主體”劃等號，“主體性”強調在政府自動化決策中，自動化行政系統不再只局限于單純意義上的輔助工具，而是超越“物”本身的客體屬性，對政府行政行為和決策在一定程度上具有意思表達的法律效果，代表所屬行政主體的決策意志，并對行政相對人產生法律效力。[3]現代行政決策的動態(tài)性特征明顯，尤其體現在人工智能算法可以實現行政決策過程的前、中、后期全過程參與。具言之，在政府自動化決策的前期，人工智能系統可以自動抓取特定信息，留待政府決策取用;在中期，人工智能則可以依托二進位制算法模擬專家決策，研判不同政策方案預期;在后期，人工智能算法可以進行后果預測，監(jiān)督行政決策的執(zhí)行，形塑行政決策與決策效果的因果關系。

（二）政府自動化決策的類型化

依據政府自動化決策的參與程度、決策領域、決策階段等不同分類邏輯，可將政府自動化決策予以類型化。同時，類型化的機制也可以防控政府自動化決策的法律風險，實施更加精準的法律規(guī)制。有學者參考自動駕駛領域分級標準，結合行政任務的“識別輸入”“分析決定”“輸出實現”三個關鍵環(huán)節(jié)，依據人類與人工智能系統的分工以及適用場景的不同對行政自動化進行二輪分類，將自動化行政分為五級。[4]基于此，自動化行政決策同樣可以參考上述思路，分為低階、初階、中階、高階四個階段。低階自動化決策是指自動化行政系統輔助行政機關完成特定的行政活動。在不同行政環(huán)節(jié)中，自動化行政系統可以輔助人工完成部分任務，但尚無法實現獨立完成的目標。初階自動化決策是指自動化行政系統可以獨立完成行政行為中的某一個部分，但不能獨立作出一個行政行為，在該部分中，不再需要人工干預，如實踐中廣泛使用的執(zhí)法記錄儀。中階自動化決策是指無裁量能力的完全自動化行政。自動化行政系統可以獨立完成一個行政行為，全部環(huán)節(jié)都由自動化行政系統完成，對不需裁量的行政行為進行獨立處理，較為典型的實踐是深圳市的“秒批”服務。高階自動化決策指有裁量能力的完全自動化行政。自動化行政系統獨立完成數據獲取、分析識別、判斷認定等環(huán)節(jié)，并且做出相應分析與決策。在廣義的自動化行政行為中，高階自動化決策是自動化行政行為的最高階段，此時自動化行政系統具有獨立裁量能力，可以在一定的裁量空間中完成自動化決策行為。

（三）政府自動化決策的特點臚列

⒈決策效率性。政府自動化決策通過算法來實現，在龐大的數據信息資源庫中，算法根據現有模型，實現信息的高效互通，通過深度學習不斷提高分析能力和決策精準度，再加上人工智能算法主要以直接結果輸出方式出現，將繁瑣的行政流程轉換為直線輸出的方式，告別傳統“一人一事”行政手段，節(jié)省行政人員時間成本，實現讓信息輸入獲得客觀結果，提高公共行政決策便捷性。[5]同時，政府自動化決策所用到的自動化行政系統，能夠依靠數字化技術短時間內處理海量信息，并嵌入特定的算法和程序設計中，最終自動輸出結果，將行政裁量大幅度壓縮，減少傳統行政程序中的繁瑣步驟。此外，傳統政府決策的完成需要工作人員通過調查、詢問等對相關情形進行自由裁量，存在冗雜的人為處理過程。相比之下，政府自動化決策則不需要耗費大量人力，在減輕公職人員壓力的同時也提高了行政機關的工作效率。

⒉結果中立性。保障行政決策公正性是政府自動化決策的優(yōu)勢所在。基層社會治理活動中人情、關系等因素作用明顯，對基層行政治理活動公正性產生嚴重影響。在傳統行政決策過程中，行政決策判斷容易受到情緒、情感等傳統人為因素影響而出現偏私、偏頗甚至歧視，違背行政決策公正性、客觀性要求。[6]而以“技術中立”為優(yōu)勢的自動化行政系統能有效避免行政決策的獨斷專行和隨心所欲，將復雜的人情、關系等傳統人為因素排除在自動化決策過程之外，實現行政決策客觀公正的目標。[7]政府行政中自動化決策要求不分年齡、不分職業(yè)、不分性別對待行政相對人，即確保行政公平。[8]技術意義上的“人人平等”依托數據測算和代碼編寫規(guī)則得以實現，能夠有效解決人情干預決策、權力尋租、公共資源配置低效等問題，減少行政決策裁量權濫用的可能性，為廉潔政府建設提供技術支撐。

⒊算法隱蔽性。政府算法的隱蔽性是政府利用算法技術的制度方式耦合的產物，是算法技術本身所具有的特性?！逗谙渖鐣分凶钤缡褂盟惴ê谙溥M行隱喻，從概念上來說，算法黑箱是指算法系統內，存在于輸入到輸出之間不公開、不透明，且難以被理解和觀察的隱層。[9]技術本身天然地具有不透明性，無法充分考慮數字和規(guī)則之外的因素。自動化系統主導的行政行為往往以不透明方式完成操作的分析過程，這使得二者之間的信息不對稱問題變得更加嚴重，特別是行政人員普遍不具備較高的算法控制技術，開發(fā)者和使用者之間存在技術鴻溝。自動化系統的運行機理與商業(yè)秘密之間的沖突加劇。且囿于數據篡改與刪除的風險，行政機關不僅不會直觀解釋行政決策結果，更難以向社會公眾公開相關過程?；诖?，行政相對人難以突破技術壁壘，使得其無法知曉自動化系統算法的底層邏輯，便難以發(fā)現自動化行政中的錯誤和漏洞，無法對因自動化決策導致的權益侵害進行有效救濟。

三、政府自動化決策的法理依據

（一）價值維度：行政決策效率的現實考量

在數字化政府建設背景下，政府治理呈現出需求多樣化、對象多元化、內容復雜化等特征，社會公眾對行政管理活動的要求也由原來的消極被動轉為積極主動，對建設“服務型政府”“高效政府”提出更高要求，據此，提高政府行政決策效率成為建設高效政府的必然要求。傳統法治政府的高效運行面臨科層體制的困境，囿于治理事項碎片分裂、組織結構協同失靈、官僚行為消極禁錮等弊端，傳統依法行政無法滿足深層次服務型政府和高效政府建設目標，難以實現政府治理現代化需求。依托人工智能技術，現代法治政府突破科層治理的禁錮限制，以公共需求為導向，有效彌合政府與社會、公眾等相關主體之間的分離裂隙，構建起政務活動全方位、全流程、全覆蓋、全時空的新樣態(tài)。[10]行政效率提高能夠健全政府決策、執(zhí)行、監(jiān)督等各環(huán)節(jié)，讓政府組織機構設置、權責分配與運行機制達到系統化、科學化、完善化效果，保證地方政府在規(guī)定時限內以最快速度完成最大工作量，實現行政管理體制中的人、財、物等各要素科學組合配置，有助于構建起政府與社會、公眾之間的良性關系，從而更好服務于人民。[11]地方政府實踐中，浙江省杭州市率先開啟數字化改革探索實踐，突破時空局限下的政務不足，通過數據共享推動“最多跑一次”改革，實現“讓群眾少跑腿，讓數據多跑路”。

（二）技術維度：生成式人工智能等技術的邏輯支撐

構建包括信息技術、人工智能等技術在內的新增長引擎，完善精細化服務、信息化支撐的基層治理平臺，提升社會治理效能，顯示出在數字政府中嵌入人工智能技術的必要性。[12]生成式人工智能憑借深度自我學習，將決策問題轉化為算法能夠理解的數據模型，基于“信息輸入-數據分析-決策輸出”的自動化決策公式，突破原有政務人工智能的功能界限。生成式人工智能參與數字政府建設的可行路徑在于實現權利保障優(yōu)位、效率與責任并行，保持安全與發(fā)展均衡。作為人工智能時代的一次重大技術躍遷，生成式人工智能本身帶有很強賦能特征，其高效的信息協同能力、精密的算法運行能力以及深度的人機交互能力對數字政府建設的縱深發(fā)展大有裨益。[13]生成式人工智能的引入增強了政府自動化決策的科學性。生成式人工智能通過自動抓取和精準識別，實現對相關數據的全面獲取，提升政府自動化決策的準確性和高效性，使基于人工智能算法和系統的政府自動化決策成為可能。生成式人工智能在技術上促進政府與公眾之間信息交流與共享。生成式人工智能根據用戶指令基于條件語言模型生成答案，幫助政府在收集、處理公眾信息與公眾訴求的基礎上為社會公眾生成更精確、更個性化的服務信息。面對當前以算法技術塑造全新社會秩序的智能社會，以生產式人工智能為核心的人工智能、大數據、云計算、區(qū)塊鏈等技術相繼應用于行政決策系統，能夠協助數字政府建設及時有效應對自然語言理解、文本生成能力、知識更新響應等方面的新問題新挑戰(zhàn)，強化數字政府的協同和服務能力，提升數字政府政務效能。

（三）經驗維度：電子政務轉型自動化決策的域外參考

西方發(fā)達國家以電子政務為雛形，較早提出自動化行政概念，探索數字政府建設。美國是最早發(fā)展電子政務的國家，并率先將人工智能上升到國家治理層面，以《2002年電子政務法》為基礎，先后出臺了《國家機器人計劃》《人工智能參與國家安全》《人工智能未來法案》等一系列政策規(guī)劃，為電子政務發(fā)展提供完善的法律依據。[14]2011年新加坡政府發(fā)布《新加坡電子政務總體規(guī)劃（2011-2015）》，并于2015年實現全面電子政務的目標，建成政府與公眾深度融合的互動體系。[15]2012年英國政府發(fā)布《數字政府戰(zhàn)略》，開始正式開啟數字政府建設。[16]2017年德國在《聯邦行政程序法》的修改中引入“全自動具體行政行為”概念，對全自動行政決定的應用范疇進行嚴格控制，后又出臺了《在線入口法》，為建設全德政務服務平臺提供法律保障。[17]日本建立電子政務績效考評，注重保護“個人編號制度”中的個人數據安全，采取質、量相結合的考評體系，完善各府省信息系統評價體制。2007年韓國實施《推進電子政務戰(zhàn)略》，采用“政府主導”模式，打造“足不出戶的民政時代”，完成政府流程改造和提升。[18]綜上，域外國家推進行政自動化決策的過程中，傾向通過頒布戰(zhàn)略規(guī)劃進行整體布局，甚至上升到國家戰(zhàn)略層面。同時，注重構建配套政策或者法治保障體系，即關注基礎設施建設、技術研發(fā)、資金投入、人才培養(yǎng)、多元參與和數據開放共享等問題，進而保障數字政府建設的現實應用。[19]

（四）理論維度：“敏捷治理”范式的理論支撐

世界經濟論壇發(fā)布的《敏捷治理：第四次工業(yè)革命時代政策制定的重構》正式提出敏捷治理概念，并將其定義為“一種自適應、以人為本以及具有包容性的可持續(xù)決策過程，具有柔韌性、流動性、靈活性和適應性特點”[20]。敏捷治理的核心是改變第四次工業(yè)革命時期公共政策的產生、分析、決策及執(zhí)行，“全局、適應、靈活”的整體效能是敏捷治理的獨特價值追求，作為數字政府的改革理念、運行機制和治理工具，契合生成式人工智能治理需求，為數字政府建設提供強大推動力。[21]敏捷治理強調的快速感知、持續(xù)協調和靈活響應等功能在自動化行政決策中有所顯示，也是自動化行政決策的效應呈現。事實上，敏捷治理理論下的自動化行政強調對政府內部及外部社會需求的輸入和以數字政府改革為輸出的回應系統建設，其不僅可以延續(xù)自動化行政決策內涵的彈性理念，即采取建立統籌性組織結構與臨時性頂層機構等手段提升政府治理的高效化和靈活性，還能深耕自動化行政決策要義的適應性理念，強調政府在技術發(fā)展的外部環(huán)境和需求多元的內部結構下，適應以數據要素為核心的時代要求的管理模式改革?？梢姡懊艚葜卫碓谛畔⒓夹g的支持下將政府職能通過數字化、網絡化、智能化的方式予以延伸”[22]，有效解決了政府行政決策中層次重疊、資本浪費、行政機構運轉效率低下等問題，提高了政府決策效率和質量，契合數字政府的韌性、協同、循數和感知機制建設。

四、政府自動化決策責任認定的困境檢視

（一）責任認定標準存疑

⒈瑕疵行政決策認定。政府自動化瑕疵決策主要是指由于算法漏洞、數據錯誤、系統故障等產生的瑕疵結果，常見的有數據來源瑕疵、算法漏洞瑕疵、系統故障瑕疵等類型，嚴重情況下也包括違法的自動化指令，如存在歧視、違背公平等。[23]在政府自動化決策中，公共數據大多來源于政府提供和申請人自主申報，然而兩種數據來源都極易存在數據瑕疵，若不對海量數據加以甄別和篩選，行政決策很可能會被其干擾甚至被帶偏方向，造成自動化決策的誤判風險，陷入真假數據的迷宮。自動化行政安全問題也會損害信息真實性，進而影響行政決策質量，自動化行政系統直接涉及各級政府核心信息，如病毒破壞、黑客攻擊、信息間諜等，都會對自動化行政系統的安全構成威脅。自動化行政系統意外故障會阻礙行政決策過程，在政府自動化決策中，一旦自動化行政系統因自然災害、人為盜竊、設備破壞等原因發(fā)生意外，就會極大影響政府管理和決策功能的發(fā)揮。此外，“算法黑箱”可能造成對決策正當程序和公眾參與的破壞，算法本身缺乏價值判斷能力，行政機關高度依賴算法可能會導致“算法偏見”和“算法歧視”，從而剝奪行政相對人的解釋權。

⒉損害效果認定。政府自動化決策損害后果關注相對人的舉證困難問題，如行為損害難以發(fā)現、舉證能力不足、行政機關以及第三方抗辯等。算法隱匿是指算法獨立運行后相對于行政機關和利害關系人具有封閉性和不可解釋性。因技術天然地具有不透明性，隨著技術進步，技術開發(fā)者與技術使用者之間的信息不對稱愈發(fā)嚴重，開發(fā)者和使用者之間形成“技術鴻溝”。[24]舉證困難是難以有效認定瑕疵行政決策損害的主要原因。由于“算法黑箱”的隱匿性，無法直接判斷出損害侵權行為來源于人為因素或者系統故障，給損害當事人合法權益造成巨大損失，并且在權責難以明晰的情況下，很容易將技術風險轉嫁給行政相對人。當政府自動化決策出現瑕疵或者錯誤時，算法的自主決策容易導致管理者推卸責任，失去對責任人的跟蹤，不予公開的自動化決策機制違背了行政公開原則，同時為行政機關算法卸責提供便利條件，從而導致自動化決策的責任承擔陷入困境。[25]

（二）責任主體識別困難

在政府自動化決策背景下，多元技術參與主體在某種程度上成為自動化系統的一部分，但并非只是行政主體。同時，由于參與主體的多元性和第三方服務責任的分散性，使得責任難以明確。一是自動化系統的法律主體資格認定引發(fā)的責任主體問題。人工智能既具有一定限度的自主性同時又作為工具依附于人類，也使得法學界對人工智能法律地位持不同觀點。從法理上講，在自動化決策中行政決策由自動化行政系統作出，行政機關雖然沒有事實參與，但是行政法律關系不會發(fā)生改變，責任承擔主體依舊是行政機關。自動化行政系統所涉及的責任關系也較為復雜，需要進一步厘清。二是自動化系統提供者與行政機關的責任識別。自動化行政系統輔助決策過程與傳統行政決策機制不同，過程中涉及行政組織主體、算法運營主體、算法系統本身以及利害關系人的多方互動。算法決策錯誤的行政責任無法像傳統行政責任一樣概由行政主體承擔，究其原因，由于算法隱匿、算法偏差等問題的存在，并不單純來源于行政主體的過錯與失職。自動化行政決策中還可能出現第三方開發(fā)者介入的情況，開發(fā)者在算法實際運作過程中充當著相當程度的行政管理者角色，若以此為依據追究他們的行政責任，則有可能陷入把行政行為與商業(yè)活動混淆不清的境地。三是行政機關內部不同部門的責任識別。通常情況下，自動化行政系統面向相對人作出行政決策，并不會說明其從屬的部門機構，并且在具體實踐中，同一個自動化行政系統涉及多個部門機構的業(yè)務領域，不同行政機關共用一個自動化行政系統的情況也相當常見，這就直接導致了行政相對人很難準確識別責任主體。

（三）侵權賠償標準混亂

在實踐中，賠償大多參照《中華人民共和國民法典》侵權責任編第十章關于建筑物致害和民事訴訟程序的規(guī)定，然而公共設施的判定遠非“建筑物”概念這么簡單，對于自動化行政救濟來說，缺乏相應的執(zhí)法規(guī)制和救濟機制，相對人的合法權利將無法受到保護。針對侵權賠償的歸責原則，有學者主張，依據過錯原則，即關注行政主體的主觀想法，存在過錯則需要進行行政賠償。[26]有學者則主張，依據無過錯原則，即認為只要造成損害侵權結果，無論是否存在過錯都要承擔相應責任，不考慮主觀因素。[27]行政賠償不同于民事賠償，以主觀因素衡量判定標準極其困難，導致行政相對人的申訴無法得到保障，其獲得賠償的概率也會大大降低，這顯然和公法領域契約精神中控制公權力的原則理念相背離。然而如果只單純考慮客觀因素，則難以劃分賠償與補償的界限?；诖?，建立起一套兼具穩(wěn)定性、可信性的法定賠償制度是解決侵權損害賠償困境的必由之路，將算法推薦服務提供者的侵害后果數字化、貨幣化能夠合理確定算法推薦服務提供者責任，有效賠償受害人損失。關于如何制定合理的賠償標準，有學者認為，應根據法經濟學的理論劃定賠償標準，受害人不應因損害而獲得高于損害所得利益，算法推薦服務提供者也不應因侵權獲利而賠償低于損害所得利益。[28]由于算法推薦侵權的特點，被侵犯的一方可向算法推薦服務者提出請求，索取侵權內容的信息及其傳播情況，這有助于準確計算侵權帶來的損失，同時，便于受害者采取措施防止或修復未來的損傷。如前所述，算法正日漸脫離輔助工作角色，成為行政資源配置的重要手段。遺憾的是，技術壁壘、算法黑箱、算法歧視等存在侵蝕行政決策中立性、合理性的風險，更會損害行政相對人的知情權、聽證權、救濟權等程序權利，在此背景下，如何明確政府自動化決策的責任機制變得尤為重要。

五、政府自動化決策法律責任的制度設計

（一）厘清政府自動化決策的責任主體

如何精準識別自動化行政處罰的責任主體是責任機制落實的關鍵環(huán)節(jié)。事實上，行政主體本質上為法律擬制。盡管基于底層數據與算法程序，自動化決策可以勝任更復雜的行政決策行為，但其工具屬性短期內不會改變。判斷責任的核心要素就是“誰”作出了決策，以及責任人的作用。在初級與中階自動化決策中，自動化系統沒有獨立裁量權，由行政主體做出最終決定，因而由行政主體承擔行政責任并無爭議。然而，在高階自動化決策中，自動化系統擁有獨立裁量權并可直接做出決策，如何歸責便陷入困境。所以，在自動化決策應用過程中，應首先明確多元參與主體的決策程度關系。質言之，應認識到自動化行政系統的提供者并不能視為行政法意義上的責任主體，錯誤決策或者瑕疵決策一旦做出，承擔相應責任的行政機關能否以第三方追償并不屬于行政法律關系的范疇。事實上，行政機關與技術提供者之間的技術購買服務，本質上屬于行政協議，而行政關系中直接面對行政相對人的是行政機關，因此基于系統本身錯誤亦或是人為失誤所造成的后果應由作出行政行為的行政機關承擔。值得注意的是，行政機關作為責任主體并不意味著其應當填補所有損失，而應根據瑕疵決策原因，依法或者依約，向設計人員等技術主體、執(zhí)法人員部分或全部追償。

（二）健全政府自動化決策的監(jiān)督評估機制

⒈明確政府自動化決策的監(jiān)督主體。傳統行政監(jiān)督主體主要包括國家機關內部監(jiān)督和社會外部監(jiān)督。其中國家機關能夠依法采取相應措施對公職人員進行權力監(jiān)督并且背后有強制力進行保障，社會組織和公民依據法律賦予的監(jiān)督權對行政合法性進行外部監(jiān)督。社會組織監(jiān)督以保障公眾利益為主，時刻保持監(jiān)督者狀態(tài)，然而由于算法技術具有高度專業(yè)性和不透明性，普通民眾常受制于技術掌握不足和“算法黑箱”影響難以對算法程序和過程進行有效監(jiān)督，使得社會外部監(jiān)督缺失?；诖?，有必要建立起具有專業(yè)技術能力的中立性自動化行政監(jiān)督機構。當社會組織和公民的外部監(jiān)督方式無法實現監(jiān)督效果時，需要有關國家機關或者網絡媒體發(fā)揮橋梁作用對自動化行政進行有效監(jiān)督。完善自動化行政監(jiān)督體系首先要實現多元化、多渠道參與政府與企業(yè)規(guī)制過程，政府和企業(yè)在設立自動化行政系統時應廣泛征求群眾意見，滿足群眾合法需求;其次要充分公開自動化行政相關信息，拓寬社會公眾參與渠道，保障行政相對人合法權益，實現社會公眾主體參與自動化行政監(jiān)督規(guī)制的實質效果。[29]

⒉科技賦能政府自動化決策的全生命周期監(jiān)管。通過事前、事中、事后三個階段的監(jiān)督將其予以規(guī)范化，在行政治理領域中更好地規(guī)范行政權、保障公民權。在事前監(jiān)督階段，通過反復測試和審核可檢驗算法是否公正、合理，行政主體主動公開自動化系統的算法保證公眾的知情權，使自動化系統受廣大公眾監(jiān)督，及時發(fā)現問題并提前解決問題。行政機關及技術開發(fā)者要對算法進行反復測試和審核，確保自動化行政算法公正、系統無誤。并向公眾主動公開自動化行政系統程序和相關信息，保障公眾知情權、解釋權和拒絕權，接受社會組織和公眾監(jiān)督。在事中監(jiān)督階段，通過設立自動化行政系統技術開發(fā)者定期履行系統維護、檢查、管理的義務，防止自動化行政系統由于故障、崩潰等原因無法作出準確行政行為，通過建立專門性監(jiān)督機構，實現常態(tài)化監(jiān)督機制。在事后監(jiān)督階段，通過及時公示自動化系統作出的自動化行政行為和決策，實現社會對自動化決策的監(jiān)督。暢通公民反映意見渠道，鼓勵公民進行反饋，根據大眾的意見完善政府自動化決策。[30]同時，隨著大數據、智能化時代的發(fā)展，可以通過搭建行政公示信息平臺、違法行為投訴舉報平臺等網絡監(jiān)督平臺進行線上監(jiān)督，進一步促進行政主體與行政相對人之間良性溝通，實現隨時溝通、科學執(zhí)法，提高執(zhí)法的精確性和科學性。[31]

（三）拓寬政府自動化決策的救濟機制

⒈相對人算法解釋權。行政法中公開透明原則為算法解釋權提供了正當性基礎。算法解釋權即當政府自動化決策對行政相對人做出具有法律效力的行政行為時，行政相對人有權要求決策方進行解釋，乃至持異議要求決策方更正錯誤或不當的算法決策的權利。[32]這一解釋說明的內容包括對行政相對人說明算法決策中數據處理的規(guī)則、決策處理過程、決策生成的原因等。算法解釋權可以破解“算法黑箱”，通過增加決策透明度以提高算法可理解性與可問責性。對于算法解釋權的主體范圍應當予以明確，行政領域的算法決策權利主體是受到權益侵害的行政相對人;而在義務主體方面，將算法制造者、控制者納入侵權義務主體范圍內，承擔無過錯責任或過錯推定責任。對于算法解釋的標準應當充分考慮相關性與可理解性，算法解釋不僅應提供算法決策的理由、個人數據等，也應提供救濟的途徑，使用通俗易懂的語言，保證解釋客體的完整。

⒉相對人算法拒絕權。相對人的程序抵抗權是指在傳統行政過程中，如果行政程序出現違法問題，行政相對人有權當即拒絕行政機關所有指令。網絡信息技術的發(fā)展為相對人算法拒絕權提供技術保障，在自動化行政中，相對人程序抵抗權能夠保障相對人充分參與自動化行政程序中，即賦予相對人算法拒絕權，相對人有權拒絕接受政府自動化決策做出的行政行為并隨時要求行政主體人工介入等。然而新技術的適用能否契合公民的行政需求是行政機關選擇提供何種行政方式首先需要考慮的問題，對于不愿使用自動化系統的行政相對人而言，其有拒絕使用人工智能系統的權利。[33]政府作為公權力一方，有義務為行政相對人提供可供選擇的行政方式，政府即使在特定領域提供自動化行政系統，也不應剝奪行政相對人要求人工行政的權利。[34]

3.相對人獲得救濟權?！吨腥A人民共和國憲法》《中華人民共和國行政處罰法》《中華人民共和國國家賠償法》均賦予公民獲得賠償的權利。“無救濟則無權利”，行政機關作為自動化行政的責任主體理應對政府自動化瑕疵決策造成的損害結果承擔相應賠償責任。自動化行政過程中的行政處罰行為作為行政處罰的延伸發(fā)展，同樣適用行政賠償的歸責原則，把行政行為是否違法作為行政賠償的判斷標準。[35]根據《中華人民共和國行政許可法》第八條對信賴利益保護原則的規(guī)定，因行政機關需要撤回或者撤銷行政許可對行政相對人造成損失的，應給予行政相對人補償。[36]根據自動化行政中多元化參與特征，政府應針對自動化行政系統的評估與認證程序建立相應的責任制度，明確企業(yè)及研究機構的責任，經政府機構認證的自動化行政系統的設計者、制造商和銷售者依據協議承擔有限的侵權責任，以期保障自動化行政系統的規(guī)范運行。

【參考文獻】

[1]王張華，顏佳華.人工智能時代算法行政的公共性審視——基于“人機關系”的視野[J].探索，2021（4）：82-95.

[2]盧榮婕，趙靜波.論自動化行政的法律規(guī)制[J].長春理工大學學報（社會科學版），2020（3）：40-44+49.

[3]敖雙紅，雷金晶.論自動化行政及其法律規(guī)制[J].湖南警察學院學報，2017（1）：84-90.

[4]馬顏昕.自動化行政的分級與法律控制變革[J].行政法學研究，2019（1）：80-92.

[5]吳銳，張若涵.自動化行政中對人工智能算法決策的程序規(guī)制[J].成都理工大學學報（社會科學版），2022（5）：58-67.

[6]韓軼，張婷.行政處罰中人工智能的應用及其邊界考量[J].行政與法，2022（5）：77-84.

[7]Ines Mergel，Noella Edelmann，Nathalie Haug.Defining Digital Transformation：Results from Expert Interviews.[J]Government Information Quarterly，2019（4）.

[8]Mateen Harris.Weapons of Math Destruction： How Big Data Increases Inequality and Threatens Democracy[J].Berkeley Journal of Employment and Labor Law，2018（5）：301-302.

[9]張紅春，章知連.從算法黑箱到算法透明：政府算法治理的轉軌邏輯與路徑[J].貴州大學學報（社會科學版），2022（4）：65-74.

[10]陳炳水.推進電子政務：提升現代政府行政能力的現實途徑[J].社會科學，2006（6）：50-57.

[11]徐晶.構建服務型政府進程中的行政效率提升研究[D].青島：青島大學碩士學位論文，2010：18.

[12]宋貴倫.全面推進中國式社會建設現代化[J].前線，2023（1）：18-21.

[13]Meng Y，Shiyao J，Xiongying N.Can AI really help？The Double-edged Sword Effect of AI Assistant on Employees Innovation Behavior[J].Computers in Human Behavior，2024，150.

[14]尤嵩菀，王文龍.美俄軍事智能化發(fā)展及啟示[J].海軍工程大學學報（綜合版），2020（2）：64-69.

[15]朱寧潔.新加坡政府開放數據政策研究[J].管理觀察，2019（5）：70-71+73.

[16]詹國彬.英國數字政府轉型：價值理念、技術工具與制度保障[J].行政論壇，2021（6）：136-143.

[17]卞鷹.德國電子政務建設經驗及啟示[N].湖南日報，2018-01-30（11）.

[18]廉成，楊飛，張恒燁.韓日電子政務發(fā)展狀況評析[J].管理觀察，2018（19）：84-85.

[19]胡國任.自動化行政的法律控制[J].克拉瑪依學刊，2021（2）：52-59.

[20]Ines Mergel，Sukumar Ganapati，Andrew B.Whitford.Agile：A New Way of Governing[J].Public Administration Review，2020（1），161-165.

[21]康偉，周潤.基層治理適應性創(chuàng)新探究——敏捷—韌性治理模式的邏輯進路與實現路徑[J].理論與現代化，2022（5）：43-55.

[22]曹海軍，侯甜甜.敏捷賦能視角下的數字政府建設：實踐緣起與理論建構[J].吉林大學社會科學學報，2021（6）：170-178+235.

[23]胡敏潔.論自動化行政中的瑕疵指令及其救濟[J].北京行政學院學報，2021（4）：81-88.

[24]尹鋒林，李玲娟.算法私人治理的三個維度：主體、內容與方式[J].理論月刊，2021（3）：141-149.

[25]張凌寒.算法自動化決策與行政正當程序制度的沖突與調和[J].東方法學，2020（6）：4-17.

[26]馬顏昕.自動化行政方式下的行政處罰：挑戰(zhàn)與回應[J].政治與法律，2020（4）：139-148.

[27]邵紅紅.算法推薦服務提供者的著作權注意義務探究[J].蘇州大學學報（法學版），2023（1）：26-39.

[28]李宵.人工智能時代行政執(zhí)法問題研究[D].南寧：廣西大學碩士學位論文，2021：20.

[29]彭衛(wèi)貞.人工智能背景下自動化行政的法律規(guī)制研究[D].天津：天津商業(yè)大學碩士學位論文，2020：18.

[30]陸雪.行政法視角下的自動化行政研究[D].蘇州：蘇州大學碩士學位論文，2021：32.

[31]Kimberly Stowers，Kevin Leyva，Gabriella M.Hancock，Peter A.Hancock.Life or Death by Robot？[J].Ergonomics

in Design：The Quarterly of Human Factors Applications，2016.

[32]解正山.算法決策規(guī)制——以算法“解釋權”為中心[J].現代法學，2020（1）：179-193.

[33]胡敏潔.自動化行政的法律控制[J].行政法學研究，2019（2）：56-66.

[34]張濤.自動化系統中算法偏見的法律規(guī)制[J].大連理工大學學報（社會科學版），2020（4）：92-102.

[35]馬懷德，高辰年.國家賠償法的發(fā)展與完善[C]//中國法學會行政法學研究會.修憲之后的中國行政法——中國法學會行政法學研究會2004年年會論文集.北京：中國政法大學出版社，2004：15.

[36]查云飛.行政裁量自動化的學理基礎與功能定位[J].行政法學研究，2021（3）：114-124.

The Legal Logic and Limit of Government Automatic

Decision-Making Responsibility Identification

Su Wen

Abstract：Government automatic decision-making is a kind of administrative act that is participated by artificial intelligence，partially or completely replaces the participation of administrative subjects，and realizes the automation，unmanned and even intelligence of the administrative behavior process，so as to produce external legal effects. The significance of administrative automation decision-making has a prominent significance in improving administrative efficiency and adhering to the decision-making neutrality，but many aspects are still exposed，especially in the doubt of the responsibility identification standard，the difficult identification of the responsibility subject，the fuzzy division of the scope of responsibility and the confusion of the tort compensation standard. Based on this，the responsible subject of government automated decision-making should be clarified according to the principle of actual participation and the concept of freedom of contract;clarify the scope of responsibility of government automated decision-making;improve the supervision and evaluation

mechanism of government automated decision-making;form the relief mechanism of algorithm interpretation right，algorithm rejection right and damage assessment standard.

Key words：government automation decision-making;administrative efficiency;responsibility determination;responsibility subject;scope of responsibility

（責任編輯：王正橋）