張 旭*

當前，全球數(shù)字領(lǐng)域發(fā)展不平衡、規(guī)則不健全、秩序不合理等問題日益凸顯，“治理赤字”日益加劇。算法治理是企業(yè)、政府、社會、市場等多個參與主體，通過技術(shù)、人員、規(guī)范等多種方式，實現(xiàn)提升數(shù)據(jù)質(zhì)量與應(yīng)用價值、促進數(shù)據(jù)資源整合與流通共享、保障數(shù)據(jù)安全等目標的一整套行為體系。算法治理并非新鮮事物，當前各界對算法治理的廣泛關(guān)注只是對算法、算力與大數(shù)據(jù)疊加作用導(dǎo)致的人工智能“逐漸變強”、算法權(quán)力難以掌控、數(shù)字不正義日益凸顯這一時代背景的合理反應(yīng)。本文從梳理當前算法治理的主流路徑與正處于萌芽階段的數(shù)字人權(quán)相關(guān)理論入手，指出以人權(quán)標準開展算法治理的積極意義。在此基礎(chǔ)上，以實用主義理念為導(dǎo)向，提出基于人權(quán)標準的企業(yè)算法合規(guī)義務(wù)的算法治理新路徑，以期為政府部門改進算法治理模式、數(shù)字企業(yè)積極參與算法治理進程、社會公眾在算法治理中獲得賦權(quán)提供務(wù)實的道路指引，也嘗試為算法治理的學(xué)理研究提供新的思路。

一、傳統(tǒng)算法治理路徑的現(xiàn)實困境

隨著數(shù)字全球化向縱深發(fā)展，“以深度學(xué)習(xí)算法為核心的人工智能算法模型被普遍應(yīng)用，但由于其算法結(jié)構(gòu)中存在多個‘隱層’，導(dǎo)致輸入數(shù)據(jù)和輸出結(jié)果之間的因果邏輯關(guān)系難以清楚解釋，用戶只能被動接受由算法帶來的結(jié)果而無法洞悉其運行過程，從而形成一種技術(shù)‘黑箱’”1中國信息通信研究院、中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟：《人工智能治理白皮書》，第5頁，http://www.caict.ac.cn/kxyj/qwfb/bps/202009/P020200928368250504705.pdf。。資本控制手段不僅正從專制轉(zhuǎn)向霸權(quán)，而且正從實體轉(zhuǎn)向虛擬，通過從實體的機器、計算機設(shè)備升級為虛擬的軟件和數(shù)據(jù)，實現(xiàn)對用戶的“數(shù)字控制”。2參見陳龍：《“數(shù)字控制”下的勞動秩序——外賣騎手的勞動控制研究》，載《社會學(xué)研究》2020年第6期，第133頁。例如，搜索引擎監(jiān)控并挖掘個人留下的信息，進而獲得精準推送的能力，將廣告信息提供給更需要的用戶；網(wǎng)約車平臺通過收集用戶乘坐信息，賦予用戶不同的叫到車的概率和接單網(wǎng)約車與自己的距離；外賣平臺系統(tǒng)潛移默化地收集、分析騎手數(shù)據(jù)并通過算法將數(shù)據(jù)結(jié)果反作用于騎手，不斷蠶食騎手的自主性空間。為應(yīng)對“數(shù)字鴻溝”、數(shù)據(jù)保護主義、平臺資源過于集中、新興技術(shù)被濫用、網(wǎng)絡(luò)安全威脅等一系列問題，傳統(tǒng)的算法治理路徑試圖從不同維度解決這些困難，但在實踐中卻遭遇了可行性不足、治理效果不佳的現(xiàn)實困境，無法回應(yīng)算法治理的現(xiàn)實需求。

（一）以算法透明為核心的事前規(guī)制路徑的低可行性

算法透明（Algorithmic Transparency）是一種針對算法的事前規(guī)制原則，要求算法使用方披露算法要素。它包括算法本身的透明、與算法相關(guān)的數(shù)據(jù)透明以及與算法相關(guān)的其他信息透明，是備受國內(nèi)學(xué)者認可的算法治理進路。3參見張恩典：《大數(shù)據(jù)時代的算法解釋權(quán)：背景、邏輯與構(gòu)造》，載《法學(xué)論壇》2019年第4期，第152—160頁；劉友華：《算法偏見及其規(guī)制路徑研究》，載《法學(xué)雜志》2019年第6期，第55—66頁；徐鳳：《人工智能算法黑箱的法律規(guī)制——以智能投顧為例展開》，載《東方法學(xué)》2019年第6期，第78—86頁；孫清白：《人工智能算法的“公共性”應(yīng)用風(fēng)險及其二元規(guī)制》，載《行政法學(xué)研究》2020年第4期，第58—66頁。它的核心目標是通過算法可知與可解釋的方式實現(xiàn)治理目標。在實踐中，自主學(xué)習(xí)算法的“黑箱”成為法律推動人工智能透明度的現(xiàn)實障礙，算法不透明對明確算法責(zé)任、維護算法信任價值具有局限性，對產(chǎn)業(yè)發(fā)展帶來了一定的負面效應(yīng)。在算法透明原則的支持者看來，有效推進算法治理的前提便是算法的可知性、可得性和可解釋性。但是在科技發(fā)展與社會效應(yīng)等因素“疊變”1“疊變”是社會學(xué)研究中的核心概念之一，常用于描述各種社會不平等的交織重疊狀態(tài)。參見［英］安東尼·吉登斯、［英］菲利普·薩頓：《社會學(xué)基本概念》（第二版），王修曉譯，北京大學(xué)出版社2019年版，第137—139頁。的背景下，即使是資深的計算機工程師也越來越難以全面地解釋算法的邏輯與進路。從可行性與必要性的角度來看，第一，算法透明并非公開算法模型或代碼，也并非讓公眾了解算法的各個技術(shù)特征，而是告知算法設(shè)計的基本邏輯，告知用戶使用算法可能帶來的風(fēng)險。算法系統(tǒng)源代碼的簡單公開并不能提供有效透明度，反而會威脅數(shù)據(jù)隱私或影響技術(shù)安全應(yīng)用。第二，關(guān)于算法功能的廣泛理解對實現(xiàn)算法問責(zé)幾乎沒有作用，而簡短、標準化且涉及可能影響公眾決策或者提升公眾對算法系統(tǒng)整體理解的信息內(nèi)容的披露才更為有效。2參見曹建峰、方齡曼：《歐盟人工智能倫理與治理的路徑及啟示》，載《人工智能》2019年第4期，第39—47頁。第三，算法透明并不意味著算法問題能被發(fā)現(xiàn)，加之客觀運行環(huán)境與算法的交互、第三方干預(yù)等因素帶來的情境變化也無法得到有效控制，因此算法透明原則不具有必要性。3參見沈偉偉：《算法透明原則的迷思——算法規(guī)制理論的批判》，載《環(huán)球法律評論》2019年第6期，第24—32頁。第四，由于算法本身的專業(yè)性，尤其是一些算法涉及知識產(chǎn)權(quán)、商業(yè)秘密等法益，還需兼顧算法透明與商業(yè)秘密間的平衡。4參見袁康：《社會監(jiān)管理念下金融科技算法黑箱的制度因應(yīng)》，載《華中科技大學(xué)學(xué)報（社會科學(xué)版）》2020年第1期，第105頁。

（二）以算法問責(zé)為目標的事后規(guī)制路徑的滯后性

對于法律人而言，算法技術(shù)的內(nèi)容并非如此重要，重要的是算法技術(shù)的應(yīng)用方式及由此引起的社會關(guān)系的變化。5See Jack M. Balkin, The Path of Robotics Law, 6 California Law Review Circuit 45, 48-49 (2015).實踐中，“以美國計算機協(xié)會為代表的業(yè)界，并未對算法透明報以奢望，而是傾向于事后規(guī)制（如救濟、審計、解釋、驗證、測試、問責(zé)等）為主的規(guī)制策略”，我國業(yè)界“對于人工智能和深度學(xué)習(xí)軟件進行規(guī)制時，主要也采取了事后規(guī)制的手段”。6沈偉偉：《算法透明原則的迷思——算法規(guī)制理論的批判》，載《環(huán)球法律評論》2019年第6期，第34頁。作為事后規(guī)制路徑的算法問責(zé)機制強調(diào)在損害結(jié)果發(fā)生后，算法的使用者即使無法對算法如何產(chǎn)生相應(yīng)后果作出解釋，也應(yīng)當承擔(dān)因使用算法決策而產(chǎn)生的責(zé)任。7See US Public Policy Council of Association for Computing Machinery, Statement on Algorithmic Transparency and Accountability, p. 2, http://www.acm.org/binaries/content/assets/public-policy/2017_joint_statement_algorithms.pdf.算法問責(zé)是以公權(quán)力為后盾、以重新分配責(zé)任與利益為方式的規(guī)制手段，不僅體現(xiàn)算法治理理念最大限度促進公益的價值追求，還能夠解決算法治理中的根本性問題，是“讓合適的主體對其決策和算法的輸出結(jié)果接受問責(zé)的法律責(zé)任和手段”1［美］陸凱：《美國算法治理政策與實施進路》，載《環(huán)球法律評論》2020年第3期，第10頁。。雖然算法問責(zé)具有執(zhí)行成本低、通過責(zé)任配置消弭不可知的技術(shù)細節(jié)、憑借“回溯”視角獲得信息成本優(yōu)勢等實踐和學(xué)理方面的優(yōu)點2參見沈偉偉：《算法透明原則的迷思——算法規(guī)制理論的批判》，載《環(huán)球法律評論》2019年第6期，第36頁。，但其本質(zhì)是通過具體制度的建構(gòu)將算法設(shè)計與使用納入法治的軌道。法律的規(guī)范性必然要求制度的穩(wěn)定性與可預(yù)測性，而算法社會的瞬息變化使法律的滯后性成為常態(tài)，因此算法問責(zé)的實效不佳。況且“現(xiàn)有法律本質(zhì)上終歸還是人類有限理性的產(chǎn)物，有限經(jīng)驗的產(chǎn)物，基于有限樣本的產(chǎn)物”3齊延平：《論人工智能時代法律場景的變遷》，載《法律科學(xué)》2018年第4期，第41頁。，難以滿足人們通過法律制度調(diào)適算法利用帶來的種種負面影響的迫切需求。

（三）以數(shù)字正義為追求的特殊保護路徑的局限性

“現(xiàn)代中國的人權(quán)是以人民為中心展開的人權(quán)”，人權(quán)主體上的“人民性”要求“憲法法律上的平等賦權(quán)與現(xiàn)實中的平等可及，……需要國家在經(jīng)濟、政治、社會、文化諸領(lǐng)域面向人人，特別是社會弱者提供平等保障和支持”。4齊延平：《中國人權(quán)發(fā)展道路的張力平衡結(jié)構(gòu)》，載《人權(quán)》2021年第5期，第13頁。以數(shù)字正義為追求的特殊保護路徑是通過數(shù)字科技與算法應(yīng)用促進人權(quán)保障、提升人權(quán)享有水平，主要體現(xiàn)為對數(shù)字社會中弱勢群體的關(guān)注。人權(quán)話語下的“數(shù)字弱勢群體”是指“由于數(shù)字科技的固有特征、不均衡傳導(dǎo)以及社會既有結(jié)構(gòu)等客觀因素，導(dǎo)致權(quán)利缺失、能力不足，進而展現(xiàn)出地位邊緣、資源匱乏、易受挫傷等特征的特定群體”5高一飛：《智慧社會中的“數(shù)字弱勢群體”權(quán)利保障》，載《江海學(xué)刊》2019年第5期，第164頁。。對“數(shù)字弱勢群體”的界定是該理論的關(guān)鍵，與傳統(tǒng)研究中所指的“信息弱勢群體”6參見易紅、張冰梅、詹潔：《以信息弱勢群體為導(dǎo)向的公共圖書館信息無障礙服務(wù)探究》，載《圖書館工作與研究》2015年第1期，第78頁。有所不同，該理論認為“相較于肉眼可見的表面弱勢，智慧科技所傳遞的價值取向和制度構(gòu)想，或許才是數(shù)字弱勢群體權(quán)利保障的最大障礙”7高一飛：《智慧社會中的“數(shù)字弱勢群體”權(quán)利保障》，載《江海學(xué)刊》2019年第5期，第167頁。。因此，數(shù)字弱勢群體既包括傳統(tǒng)意義上的弱勢群體，也包含新興的“數(shù)字難民”。識別此類群體的關(guān)鍵標準是“能力貧困”或“權(quán)利貧困”8參見余少祥：《法律語境中弱勢群體概念構(gòu)建分析》，載《中國法學(xué)》2009年第3期，第66頁。，即因為行使權(quán)利的能力不足或者被置于“權(quán)利洼地”的群體。對數(shù)字弱勢群體的保護要遵循平等保護與傾斜保護相結(jié)合的原則，并通過針對力量失衡的權(quán)利義務(wù)再分配、針對系統(tǒng)性阻隔的公共服務(wù)優(yōu)化、針對能力匱乏的權(quán)利賦能的三層次基本架構(gòu)9參見高一飛：《智慧社會中的“數(shù)字弱勢群體”權(quán)利保障》，載《江海學(xué)刊》2019年第5期，第168頁。，矯正算法的“民主赤字”，實現(xiàn)數(shù)字正義。在當前復(fù)雜的社會背景下，數(shù)字弱勢群體范圍的界定仍是以“數(shù)字”看人權(quán)理論中的短板。但是在不同的社會情境下，不同類型的主體因自身認知、能力、信息素養(yǎng)的差異會有迥然不同的行使權(quán)利的能力。基于數(shù)字弱勢群體的視角難以確保在所有社會情境中能夠有效地判斷、識別并覆蓋各類弱勢群體，由此難以提供周全的保護與救濟。

（四）以數(shù)字人權(quán)為基礎(chǔ)的法律規(guī)制路徑的薄弱性

“當國家、國際社會情勢發(fā)生變化、人們產(chǎn)生了一系列新的要求的時候，就會產(chǎn)生一系列新的權(quán)利主張”1何志鵬：《以人權(quán)看待發(fā)展》，載《法制與社會發(fā)展》2009年第4期，第111頁。。相較于通過界定數(shù)字弱勢群體并為特定群體提供特別傾斜保護以實現(xiàn)算法正義的人權(quán)進路而言，在“權(quán)利話語日益成為我們這個社會的一種主導(dǎo)性話語”，“人們?nèi)遮呁ㄟ^權(quán)利話語的方式來表達自己的各種利益和訴求”的“權(quán)利的時代”，2參見侯學(xué)賓、鄭智航：《新興權(quán)利研究的理論提升與未來關(guān)注》，載《求是學(xué)刊》2018年第3期，第89頁。有學(xué)者提出“第四代人權(quán)”的概念，將數(shù)字人權(quán)作為與以政治權(quán)利和公民權(quán)利為代表的“第一代人權(quán)”、以經(jīng)濟社會文化權(quán)利為代表的“第二代人權(quán)”及以發(fā)展權(quán)和環(huán)境權(quán)為代表的“第三代人權(quán)”并列的新一代人權(quán)。其同時指出“以‘數(shù)字人權(quán)’為代表的‘第四代人權(quán)’……在發(fā)展動因上，源于信息革命；在內(nèi)涵邏輯上，發(fā)生了根本轉(zhuǎn)向；在價值內(nèi)核上，實現(xiàn)了品質(zhì)升級；在關(guān)系構(gòu)架上，呈現(xiàn)關(guān)聯(lián)義務(wù)的社會延展”3馬長山：《智慧社會背景下的“第四代人權(quán)”及其保障》，載《中國法學(xué)》2019年第5期，第5頁。。數(shù)字人權(quán)“以雙重空間的生產(chǎn)生活關(guān)系為社會基礎(chǔ)、以人的數(shù)字信息面向和相關(guān)權(quán)益為表達形式，以智慧社會中人的全面發(fā)展為核心訴求”4同上注，第16頁。，或許是當前通過人權(quán)實現(xiàn)算法治理的可行路徑。但從人權(quán)演進的歷程來看，人權(quán)從應(yīng)有權(quán)利經(jīng)由法定權(quán)利到最終作為實有權(quán)利獲得實現(xiàn)的過程并非一日之功。5參見李步云：《論人權(quán)的三種存在形態(tài)》，載《法學(xué)研究》1991年第4期，第17頁。當前數(shù)字人權(quán)正處于理論建構(gòu)的初級階段，權(quán)利主體、權(quán)利客體與權(quán)利義務(wù)關(guān)系的具體內(nèi)容仍需進一步論證和完善。即便數(shù)字人權(quán)可以成為有效約束算法技術(shù)的治理方式，其從應(yīng)有權(quán)利到實有權(quán)利的最終演化也至少需要數(shù)年時間，更何況算法更迭日新月異，難以預(yù)料算法應(yīng)用將如何引領(lǐng)社會關(guān)系變化。因此，通過發(fā)展人權(quán)法的具體制度規(guī)制算法技術(shù)是值得追求的，但仍難以緩解社會大眾現(xiàn)時的迫切需求。

上述解決路徑雖然側(cè)重不同，但是都無法及時有效地回應(yīng)算法治理的現(xiàn)實困境，因而存在權(quán)利救濟不足、法律制度滯后的問題。隨著數(shù)字技術(shù)與實體經(jīng)濟深度融合、數(shù)字化對全球經(jīng)濟發(fā)展和國家安全的影響不斷加深，全球數(shù)字治理議題也日益超越技術(shù)層面的需求，既關(guān)乎全球經(jīng)濟可持續(xù)發(fā)展與國家間產(chǎn)業(yè)競爭，又涉及國家安全、人權(quán)保障等一系列復(fù)雜問題，呼喚各方提供新的解決方案。

二、將人權(quán)標準全面引入算法治理的必要性

進入算法社會，“法律調(diào)控應(yīng)從‘裁斷行為后果’轉(zhuǎn)向‘塑造行為邏輯’，賦權(quán)與救濟模式應(yīng)轉(zhuǎn)向……事前對行為的規(guī)訓(xùn)與塑造，以及事前對不法與違法行為的阻卻”1齊延平：《數(shù)智化社會的法律調(diào)控》，載《中國法學(xué)》2022年第1期，第78—79頁。。算法治理的對象是使用算法提供服務(wù)的行為，“算法運行中的風(fēng)險，既可能是算法本身的設(shè)計缺陷導(dǎo)致的，也可能是使用者濫用算法導(dǎo)致的”2中國信息通信研究院政策與經(jīng)濟研究所、新華網(wǎng)大數(shù)據(jù)中心：《算法治理藍皮書》，2022年，第3頁。，需要從法律、倫理等多層面進行化解。雖然以數(shù)字正義為追求的特殊保護和以數(shù)字人權(quán)為基礎(chǔ)的法律規(guī)制的算法治理路徑在目前來看并非切實可行，但上述觀點仍為進一步探究有效的算法治理方案提供了經(jīng)驗啟發(fā)，即通過人權(quán)標準看待算法治理。人權(quán)，本質(zhì)上是“普遍最低道德標準要求予以尊重的權(quán)利”3［英］A.J.M.米爾恩：《人權(quán)哲學(xué)》，王先恒等譯，東方出版社1991年版，第9頁。，現(xiàn)實中是“世界通用的道德語言”4See Michael Ignatieff, Human Rights as Politics and Idolatry, Princeton University Press, 2003, p. 53.，其具有的強大道義力量與社會凝聚力已被歷史充分證明。基于人權(quán)標準的算法治理思路與傳統(tǒng)算法治理路徑的區(qū)別不僅僅在于是否把人權(quán)引入算法治理，還在于把人權(quán)引入算法治理的程度，即通過人權(quán)標準不斷促進人權(quán)在算法治理中的深度和廣度。在算法治理中引入人權(quán)標準，能夠幫助算法開發(fā)者、提供者和使用者避免受到國內(nèi)和國際社會的人權(quán)責(zé)難。當法律的滯后性無法及時應(yīng)對算法的更新變化帶來的潛在風(fēng)險時，人權(quán)標準為算法技術(shù)提供了除法律以外的倫理層面的要求。所以對算法治理而言，開展基于人權(quán)標準的算法治理是推動算法相關(guān)主體履行法律責(zé)任和社會責(zé)任的現(xiàn)實路徑，能夠更好地對弱勢群體進行權(quán)利救濟。

（一）人權(quán)標準為算法技術(shù)提供價值引導(dǎo)

“隨著智能算法的不斷更迭和廣泛應(yīng)用，由算法帶來的算法偏見、‘信息繭房’等問題日漸突出，引發(fā)人們對算法價值觀的爭議?！?中國信息通信研究院：《全球數(shù)字治理白皮書（2020年）》，第7頁，http://www.caict.ac.cn/kxyj/qwfb/bps/202012/P020201215465405492157.pdf?；谌藱?quán)標準開展算法治理，對解決當前的困局具有積極意義?！八惴ㄖ辛ⅰ笔情L期以來人們對于算法客觀性話語的不同概念表述，算法自身并不會產(chǎn)生歧視，只會依據(jù)人類輸入的規(guī)則執(zhí)行運算命令。而算法產(chǎn)生的過程是人的主觀思想轉(zhuǎn)變?yōu)檫\算邏輯的過程，在數(shù)據(jù)集構(gòu)建、運算目標預(yù)設(shè)與數(shù)據(jù)特征選取、數(shù)據(jù)標注等生成算法的技術(shù)過程中，工程師的主觀偏見、打標者的無意裁決等都不可避免地將個人意志轉(zhuǎn)化為運算邏輯，樣本數(shù)據(jù)的不平衡同樣也會對運算邏輯產(chǎn)生影響。在機器學(xué)習(xí)、算法互嵌等技術(shù)被廣泛運用的背景下，算法歧視會在循環(huán)運算中不斷加深，甚至一些資深工程師也難以識別算法中隱藏著的潛在的區(qū)分信息?？梢哉f，算法并不中立，“在這種‘客觀性’的外衣之下，往往隱蔽著自由平等、人格尊嚴、個人隱私、自主選擇、教育就業(yè)等人權(quán)遭遇侵犯的事實”1馬長山：《智慧社會背景下的“第四代人權(quán)”及其保障》，載《中國法學(xué)》2019年第5期，第19頁。?，F(xiàn)有法制不足以應(yīng)對算法演進帶來的風(fēng)險與挑戰(zhàn)，一些掌握了絕對優(yōu)勢的技術(shù)巨頭對人類社會的影響在諸多方面遠勝于主權(quán)國家22020年澳大利亞策劃出臺的《新聞媒體和數(shù)字平臺強制性議價法案》要求谷歌（Google）和臉書（Facebook）等互聯(lián)網(wǎng)科技巨頭與澳新聞媒體達成協(xié)議，根據(jù)平臺中分享的新聞內(nèi)容向媒體（出版商）付費，否則政府將介入，進行強制仲裁。而谷歌和臉書則強勢回應(yīng)稱，如果立法通過，將停止在澳大利亞的服務(wù)。2021年2月18日，臉書公司屏蔽了所有澳大利亞用戶在其平臺上查看和分享新聞內(nèi)容，包括政府衛(wèi)生機構(gòu)、社會服務(wù)部門、工會團體和氣象局等在內(nèi)的不屬于傳統(tǒng)新聞范疇的澳大利亞部分官方機構(gòu)的頁面都被清空。參見大仝：《科技巨頭對決主權(quán)國家》，載《世界文化》2021年第4期，第8頁。。加上“目前的算法規(guī)制研究剛起步不久，忽視了算法規(guī)制的共同善（Common Good）維度”3王聰：《“共同善”維度下的算法規(guī)制》，載《法學(xué)》2019年第12期，第67頁。，因此，需要盡快在倫理道德的面向上建立世界普遍認可的對數(shù)字科技與算法技術(shù)的倫理準則。人權(quán)是人的固有尊嚴與自由意志不可侵犯性的集中表達，反映了人類在智慧時代規(guī)制數(shù)字科技的最大共識，“必須成為人工智能時代的倫理與法律的最高原則”4齊延平：《論人工智能時代法律場景的變遷》，載《法律科學(xué)》2018年第4期，第44頁。?；谌藱?quán)標準開展算法治理，能夠?qū)⑺惴夹g(shù)的研發(fā)和使用“限制在自由、正義、安全、秩序的底線之內(nèi)”5張文顯：《新時代的人權(quán)法理》，載《人權(quán)》2019年第3期，第21頁。，從而確保人始終作為算法社會中的最高價值與主體。同時，人權(quán)包含的應(yīng)有權(quán)利、法定權(quán)利和實有權(quán)利三種不同形態(tài)，能夠為算法時代維護人的尊嚴與自由提供多樣性的規(guī)范淵源與制度進路，滿足算法治理的倫理約束需求。無論各國采取本質(zhì)主義路徑還是實用主義策略，人權(quán)的包容性與普遍性都能成為算法技術(shù)的倫理約束與價值引導(dǎo)。

（二）人權(quán)標準為數(shù)字企業(yè)提供合規(guī)指引

網(wǎng)絡(luò)互聯(lián)、數(shù)據(jù)共享、信息互通是全球化算法社會的主要特征。當前主要的數(shù)字企業(yè)，如百度、阿里巴巴、騰訊和華為等都在世界范圍內(nèi)開展數(shù)字貿(mào)易、參與數(shù)字經(jīng)濟。以“知識密集爆發(fā)的引領(lǐng)性、高新技術(shù)集成應(yīng)用的融合性、科技創(chuàng)新融合發(fā)展的泛在性、傳統(tǒng)產(chǎn)業(yè)智能化改造的變革性”為首要特性的智能經(jīng)濟已經(jīng)成為全球經(jīng)濟下一輪增長的主要引擎。6中國發(fā)展研究基金會：《新基建，新機遇：中國智能經(jīng)濟發(fā)展白皮書》，第61—62頁，https://www.cdrf.org.cn/jjh/pdf/zhongguozhinengjingjixinfazhan1011.pdf。算法應(yīng)用與數(shù)字科技為企業(yè)發(fā)展帶來了前所未有的機遇，同時也帶來了無處不在的風(fēng)險。由數(shù)據(jù)畫像、數(shù)據(jù)收集、數(shù)據(jù)挖掘等行為帶來的算法歧視、算法霸權(quán)、數(shù)據(jù)鴻溝、信息壟斷等問題不僅侵犯了個人的權(quán)利，也危及特定群體的集體利益，加劇社會不平等和兩極分化。在算法治理主流化的背景下，數(shù)字企業(yè)上一秒“日進斗金”，下一秒便可能面臨“天價罰單”。不同國家和地區(qū)為了爭奪算法治理主導(dǎo)權(quán)而相繼頒布極具區(qū)域特色的法律法規(guī)，如歐盟《通用數(shù)據(jù)保護條例》，美國《開放政府數(shù)據(jù)法案》和《加州消費者隱私法案》，俄羅斯《個人數(shù)據(jù)保護法》，我國《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護法》和《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，等等，紛繁復(fù)雜的法律制度使數(shù)字企業(yè)特別是跨國企業(yè)疲于應(yīng)付。然而，不管法律規(guī)則如何設(shè)計，對人的尊重與對權(quán)益的保障始終是法治的首要目標。人權(quán)因具有普遍性、包容性的特性，是世界各國認可的共同標準，是世界范圍內(nèi)算法治理共同的價值取向。因此，縱使各國算法治理規(guī)則不一，人權(quán)標準依舊能為數(shù)字企業(yè)的日常經(jīng)營行為提供指引。企業(yè)如果以“國際人權(quán)憲章”1“國際人權(quán)憲章”由1948年《世界人權(quán)宣言》和1966年兩個（項）國際人權(quán)公約及兩個任擇決議書構(gòu)成，是國際人權(quán)法體系的基礎(chǔ)。等國際認可的人權(quán)標準為依據(jù)自查經(jīng)營行為，既能最大限度地防止算法侵權(quán)行為發(fā)生、增強企業(yè)的社會合法性，也能在違法違規(guī)后果發(fā)生后以此作為抗辯，主張責(zé)任減免。2例如，我國《個人信息保護法》第69條對個人信息處理者設(shè)置了過錯推定責(zé)任，如果個人信息處理者能夠證明自己沒有過錯，則可能免于承擔(dān)不利后果。算法技術(shù)是個人信息處理應(yīng)用的內(nèi)核，因而算法合規(guī)也是避免侵犯個人信息權(quán)益的可行路徑。

（三）人權(quán)標準為算法治理增添中國特色

國際交往的歷史已充分證明，話語權(quán)的爭奪是大國崛起歷程中必然面對的挑戰(zhàn)，尤其全球化空前發(fā)展的當下，擁有議題設(shè)置權(quán)與話語主導(dǎo)權(quán)對我國在國際交往中贏得主動權(quán)具有重要意義。長期以來，國際社會的話語權(quán)由少數(shù)幾個西方國家主導(dǎo)，發(fā)展中國家在不合理、不公平的國際秩序中艱難前行。人權(quán)成為第三世界國家與西方國家間話語權(quán)爭奪的主戰(zhàn)場。發(fā)展權(quán)從應(yīng)然價值逐漸成為被世界認可的一項基本人權(quán)，是表明發(fā)展中國家的國際話語權(quán)不斷提升的例證。雖然中國也積極參與有關(guān)發(fā)展權(quán)的提案，不斷通過自身實踐為發(fā)展權(quán)提供經(jīng)驗支撐，但總體上中國在國際層面的人權(quán)話語權(quán)還有待進一步提升，話語缺失和“話語逆差”問題亟待解決。由于數(shù)字科技與算法應(yīng)用與人們生活密切相關(guān)，并對人權(quán)保障的未來走向具有重要影響，許多國際組織都曾積極關(guān)注數(shù)字科技與人權(quán)保障相關(guān)議題3參見聯(lián)合國人權(quán)理事會：《人權(quán)理事會2019年7月11日通過的決議：41/11.新興數(shù)字技術(shù)與人權(quán)》，A/HRC/RES/41/11，2019年；聯(lián)合國人權(quán)理事會：《人權(quán)理事會2019年9月26日通過的決議：42/15.數(shù)字時代的隱私權(quán)》，A/HRC/RES/42/15，2019年。，但其相關(guān)概念的構(gòu)建仍不完善。我國的數(shù)字科技水平在世界范圍內(nèi)處于領(lǐng)先地位，算法治理實踐也處于前沿地帶，目前顯現(xiàn)的許多算法治理問題是其他國家暫時還未遇到的。中國特色社會主義人權(quán)理論體系日益成熟，我們應(yīng)該抓住這個有利時機和學(xué)術(shù)空檔，“引領(lǐng)國際社會的數(shù)字人權(quán)研究，并以此牽引知識產(chǎn)權(quán)的理論、制度和實踐創(chuàng)新”1張文顯：《新時代的人權(quán)法理》，載《人權(quán)》2019年第3期，第23頁。。因此，將人權(quán)標準引入算法治理，有助于我國總結(jié)中國算法技術(shù)的發(fā)展經(jīng)驗，結(jié)合我國的制度特色、文化傳統(tǒng)與社會情勢，構(gòu)建符合中國國情、具有世界眼光、體現(xiàn)人類共同價值的中國算法治理理論。

三、將人權(quán)標準引入企業(yè)算法合規(guī)的體系建構(gòu)

數(shù)字技術(shù)的快速發(fā)展及數(shù)字企業(yè)與實體經(jīng)濟的深度融合，正在快速構(gòu)造一個新的在線網(wǎng)絡(luò)空間。數(shù)字技術(shù)的專業(yè)化發(fā)展和數(shù)字平臺的跨國經(jīng)營使得數(shù)字企業(yè)成為全球算法治理的核心。相比為我國學(xué)界在算法治理或數(shù)字人權(quán)領(lǐng)域積極爭取國際話語權(quán)的宏大愿景而言，本文的立足點在于從人權(quán)視域中為解決當前算法治理進程緩慢、實效不佳、理論分野的現(xiàn)實困境提供切實可行的方案，以實用主義理念為導(dǎo)向，為政府部門改進算法治理模式、數(shù)字企業(yè)積極參與算法治理進程、社會公眾在算法治理中獲得賦權(quán)提供務(wù)實的道路指引。下文討論的企業(yè)算法合規(guī)是在承認人權(quán)理念作為算法技術(shù)的倫理約束與行為準則的前提下進行的，換言之，本文僅在人權(quán)標準下討論企業(yè)算法合規(guī)的概念內(nèi)涵、工具價值與實踐路徑。

（一）企業(yè)算法合規(guī)的概念形成

隨著經(jīng)濟全球化浪潮不斷奔涌向前，企業(yè)的經(jīng)濟實力、社會地位與政治影響力不斷提升，要求企業(yè)依據(jù)自身規(guī)模、所處環(huán)境、行為危害程度等承擔(dān)相應(yīng)的人權(quán)責(zé)任已經(jīng)成為國際社會對負責(zé)任的企業(yè)的最低期待，合規(guī)義務(wù)逐漸成為在國際層面上獲得普遍認可的企業(yè)人權(quán)責(zé)任。2參見佟麗華：《中國企業(yè)境外經(jīng)營的人權(quán)合規(guī)問題研究》，載《人權(quán)研究》2021年第3期，第28—40頁。2011年聯(lián)合國人權(quán)理事會通過的《工商企業(yè)與人權(quán)：實施聯(lián)合國“保護、尊重和補救”框架指導(dǎo)原則》3聯(lián)合國人權(quán)理事會：《工商企業(yè)與人權(quán)：實施聯(lián)合國“保護、尊重和補救”框架指導(dǎo)原則》，A/HRC/17/31，2011年。（以下簡稱《指導(dǎo)原則》）指出，公司應(yīng)當“避免通過其本身活動造成或加劇負面人權(quán)影響，并消除已經(jīng)產(chǎn)生的影響”，需要“努力預(yù)防或緩解經(jīng)由其商業(yè)關(guān)系與其業(yè)務(wù)、產(chǎn)品或服務(wù)直接關(guān)聯(lián)的負面人權(quán)影響”；此外，《指導(dǎo)原則》還為企業(yè)進行合規(guī)承諾與開展人權(quán)盡職調(diào)查提供了詳細指引。2018年“中興通訊事件”的爆發(fā)使我國企業(yè)更加意識到開展合規(guī)管理的重要意義。合規(guī)管理、合規(guī)意識、合規(guī)思維等一時成為企業(yè)管理實務(wù)與理論研究的前沿話題。

企業(yè)算法合規(guī)是指企業(yè)編制和利用算法的行為要符合相關(guān)規(guī)范，主要包括國家法律法規(guī)、商業(yè)慣例、公司內(nèi)部制定的規(guī)章制度、國際組織條約等在內(nèi)的四大類規(guī)范。1參見陳瑞華：《企業(yè)合規(guī)的基本問題》，載《中國法律評論》2020年第1期，第178頁。從本質(zhì)上看，企業(yè)算法合規(guī)是一種公司治理方式，是企業(yè)為實現(xiàn)自身利益最大化，在進行業(yè)務(wù)管理和財務(wù)管理的同時實施的一種風(fēng)險防控機制，至少包括防范、識別、應(yīng)對等基本環(huán)節(jié)。2參見陳瑞華：《論企業(yè)合規(guī)的中國化問題》，載《法律科學(xué)》2020年第3期，第40頁。從人權(quán)視角來看，開展算法合規(guī)不僅是數(shù)字企業(yè)應(yīng)對算法治理的必行之舉，更是其依據(jù)國際人權(quán)文書所負有的一項“軟法”義務(wù)。3企業(yè)合規(guī)管理已經(jīng)成為企業(yè)日常管理體系的核心內(nèi)容，無論是否有法律的強制性規(guī)定，企業(yè)都基于降低經(jīng)營風(fēng)險、提升經(jīng)濟和社會效益的考量自覺開展合規(guī)管理；而從國際人權(quán)規(guī)范體系來看，雖然《指導(dǎo)原則》不具有法律約束力，但其因被國家、企業(yè)、社會公眾等廣泛認可而獲得強大的道義力量，并且越來越多的公司將《指導(dǎo)原則》的內(nèi)容納入其治理規(guī)范體系之中，企業(yè)人權(quán)合規(guī)至少已經(jīng)成為了一項國際公認的義務(wù)，因此本文并不對“企業(yè)算法合規(guī)管理”與“企業(yè)算法合規(guī)義務(wù)”做嚴格區(qū)分，會在不同語境下交替使用兩種不同表述。企業(yè)合規(guī)管理的目的是為了應(yīng)對合規(guī)風(fēng)險，即因企業(yè)行為與法律法規(guī)、商業(yè)倫理、內(nèi)部規(guī)章等相悖所產(chǎn)生的經(jīng)營風(fēng)險。作為專項合規(guī)管理內(nèi)容之一的企業(yè)算法合規(guī)管理則是企業(yè)為了防范因算法設(shè)計和使用違反國際人權(quán)文書的相關(guān)標準而造成的經(jīng)營風(fēng)險的管理活動。換言之，企業(yè)開展算法合規(guī)的目的是使企業(yè)的算法技術(shù)開發(fā)與應(yīng)用符合共同認可的人權(quán)規(guī)范、價值、信仰和觀念，以人權(quán)理念作為約束算法技術(shù)的倫理價值與引導(dǎo)數(shù)字企業(yè)經(jīng)營行為的基本準則。

（二）企業(yè)算法合規(guī)的治理理念

通過上文對企業(yè)算法合規(guī)概念的闡釋可以發(fā)現(xiàn)，企業(yè)算法合規(guī)要求企業(yè)主動采取防范人權(quán)與算法風(fēng)險的措施，是“政府引導(dǎo)、企業(yè)自律、社會監(jiān)督”三者合力的產(chǎn)物。這種在政府的引導(dǎo)下充分發(fā)揮企業(yè)參與算法治理的主動性與創(chuàng)造性的多元治理模式符合人工智能時代法律場景的變遷對法律制度提出的客觀要求，是對“智能利維坦”的因應(yīng)。4參見齊延平：《論人工智能時代法律場景的變遷》，載《法律科學(xué)》2018年第4期，第37—46頁。

第一，企業(yè)算法合規(guī)需要政府引導(dǎo)。政府應(yīng)當充分尊重扮演治理角色的企業(yè)，以有利于主體發(fā)展為出發(fā)點，“優(yōu)先適用激勵型和寬容型的執(zhí)法方式，審慎適用強制性程度高的制裁措施”5王瑞雪：《公共治理視野下的軟法工具》，載《財經(jīng)法學(xué)》2020年第4期，第68頁。。申言之，企業(yè)算法合規(guī)作為一種前置性規(guī)范與行為義務(wù)，只要企業(yè)依據(jù)法律規(guī)定或者自我承諾完整地開展合規(guī)調(diào)查、管理與應(yīng)對，則履行了算法合規(guī)義務(wù)。此時，作為算法“門外漢”的政府公權(quán)力應(yīng)當保持適當?shù)闹t抑，“從‘無所不在’的狀態(tài)過渡到‘在其應(yīng)在’的狀態(tài)”1江國華、張倩：《權(quán)力的分解、位移與下沉——寫在1982年〈憲法〉實施三十周年之際》，載《法學(xué)雜志》2012年第7期，第15頁。，以此確保在“公民－平臺－國家”三元結(jié)構(gòu)和“私權(quán)力－公權(quán)力”雙重權(quán)力生態(tài)已經(jīng)成為主流的背景下2參見馬長山：《智慧社會背景下的“第四代人權(quán)”及其保障》，載《中國法學(xué)》2019年第5期，第13—14頁。，數(shù)字企業(yè)通過履行算法合規(guī)義務(wù)，承擔(dān)尊重人權(quán)的責(zé)任，填補國家在工商業(yè)與人權(quán)議題中的“治理間隙”，確保法律與技術(shù)在各自領(lǐng)域得以共進，實現(xiàn)治理效益最大化。

第二，企業(yè)算法合規(guī)憑借企業(yè)自律。企業(yè)算法合規(guī)管理是為了確保體現(xiàn)“共同善”的算法在“向善”的軌跡上運營，而不是幫助惡意算法逃避法律的規(guī)制與制裁。企業(yè)自律一方面要求算法的可靠性，即要求數(shù)字企業(yè)在開發(fā)、創(chuàng)新算法內(nèi)容，設(shè)計與調(diào)試算法應(yīng)用時應(yīng)秉持合理審慎義務(wù)，確保算法內(nèi)容以促進人的發(fā)展、保障人權(quán)為首要目的。另一方面，數(shù)字企業(yè)要通過主動作出政策承諾的方式制定算法風(fēng)險應(yīng)對方案，并確立申訴報告制度，使企業(yè)合規(guī)措施有據(jù)可依，這既能提升企業(yè)合規(guī)管理績效，也能為被侵權(quán)人主張權(quán)利救濟提供依據(jù)。嚴格遵守算法風(fēng)險應(yīng)對方案能在很大程度上彌合算法風(fēng)險敞口，為企業(yè)有序運行，尤其是算法創(chuàng)新與開發(fā)提供穩(wěn)定的內(nèi)外部環(huán)境。

第三，企業(yè)算法合規(guī)依靠社會監(jiān)督。公眾是算法相關(guān)產(chǎn)品的主要服務(wù)對象，擁有對企業(yè)算法及服務(wù)的監(jiān)督、討論、意見反饋等權(quán)利。企業(yè)算法合規(guī)并非算法治理的終點，而是不斷往復(fù)的過程。數(shù)字企業(yè)只有通過內(nèi)外部監(jiān)督、持續(xù)改善與跟進的方式繼續(xù)履行企業(yè)算法合規(guī)義務(wù)，才能形成防范算法風(fēng)險的體系性機制。因此公眾要積極參與到治理規(guī)則制定中，適當介入相關(guān)監(jiān)督、管理過程，形成與政府、企業(yè)協(xié)同治理的模式。公眾的參與是實現(xiàn)算法治理不可或缺的力量。

（三）企業(yè)算法合規(guī)的實踐路徑

企業(yè)算法合規(guī)義務(wù)的履行是一個系統(tǒng)性工程，包括四個重要環(huán)節(jié)：風(fēng)險識別、風(fēng)險評估、風(fēng)險控制、監(jiān)督與完善。它要求企業(yè)內(nèi)部全面、全員、全程與全體系的積極配合與嚴格遵守，每一個步驟都密不可分、相互關(guān)聯(lián)。在實踐中，除了要充分考慮以人民為中心、創(chuàng)新與倫理的平衡、全面滲透與多層參與、公開透明和靈活持續(xù)等算法合規(guī)的基本原則外，企業(yè)還應(yīng)在審慎評估自身實際的前提下，合理借鑒如下建議。

第一，全面識別人權(quán)標準和要求。企業(yè)算法合規(guī)義務(wù)是將具有普遍性價值的人權(quán)理念作為防范不確定性風(fēng)險的價值指引，因此在風(fēng)險識別階段對人權(quán)標準的搜集、整理與消化對企業(yè)算法合規(guī)管理績效有著直接影響。首先，國家法律法規(guī)為企業(yè)算法合規(guī)提出了權(quán)利保障的底線要求。例如，我國通過“頂層設(shè)計”與“配套政策”的規(guī)范路徑，在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護法》《反壟斷法（修正草案）》等頂層立法框架下，通過實施《互聯(lián)網(wǎng)用戶公眾賬號信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》等配套規(guī)范，編制了約束算法活動的第一層“規(guī)范網(wǎng)絡(luò)”，避免算法編制和運行過程中發(fā)生算法歧視、算法合謀、算法壟斷等算法不正義現(xiàn)象。又如，歐盟重點關(guān)注算法帶來的人類自主性和人性尊嚴遭受威脅等問題，通過《通用數(shù)據(jù)保護條例》《數(shù)字服務(wù)法（提案）》《數(shù)字市場法（提案）》《人工智能法（提案）》等制度構(gòu)建，持續(xù)遏制美國巨頭平臺攫取歐洲數(shù)據(jù)資源，保障歐洲公民基本權(quán)利。1參見程瑩：《良法善治 深入推進算法綜合治理——對〈互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定〉的解讀》，載《民主與法制》周刊2022年第4期，第44—45頁。其次，“國際人權(quán)憲章”、聯(lián)合國核心人權(quán)公約2聯(lián)合國核心人權(quán)公約是“由聯(lián)合國主持制定、聯(lián)合國大會通過并經(jīng)各國批準、加入的有約束力的國際人權(quán)文件”。除了“國際人權(quán)憲章”包含的兩項國際人權(quán)公約外，還包括《消除一切形式種族歧視國際公約》《消除對婦女一切形式歧視公約》《兒童權(quán)利公約》《保護所有移徙工人及其家庭成員權(quán)利國際公約》《殘疾人權(quán)利公約》《禁止酷刑和其他殘忍、不人道或有辱人格的待遇或處罰公約》《保護所有人免遭強迫失蹤國際公約》。參見毛俊響：《論“聯(lián)合國核心人權(quán)公約”的共性》，載《人權(quán)》2017年第6期，第115—116頁。等基礎(chǔ)性國際人權(quán)文書提供了具體的“權(quán)利清單”，對企業(yè)開展算法合規(guī)義務(wù)具有一般性引導(dǎo)作用。最后，國際人權(quán)條約機構(gòu)根據(jù)相關(guān)公約的規(guī)定所頒布的一般性意見或建議，是對公約規(guī)定的實體和程序內(nèi)容的觀點與解釋，是進一步執(zhí)行人權(quán)義務(wù)的重要指引。3主要國際人權(quán)條約機構(gòu)針對各個人權(quán)公約的規(guī)定頒布的一般性意見或建議可經(jīng)由下列鏈接選取不同的國際人權(quán)條約后獲取，https://www.ohchr.org/CH/HRBodies/Pages/TBGeneralComments.aspx。除此之外，包括《指導(dǎo)原則》、聯(lián)合國“全球契約”、《經(jīng)合組織跨國企業(yè)準則》等在內(nèi)的針對企業(yè)人權(quán)責(zé)任的國際文件雖然不具有法律約束力，但因其在世界范圍內(nèi)獲得工商企業(yè)、政府部門、國際組織的廣泛認可而具有較高的道德約束力，也是企業(yè)開展算法盡責(zé)管理時應(yīng)當注意借鑒或遵守的人權(quán)標準。

第二，系統(tǒng)評估算法合規(guī)風(fēng)險。系統(tǒng)全面的算法合規(guī)風(fēng)險評估是制定科學(xué)有效的算法合規(guī)政策的必要前提，算法合規(guī)風(fēng)險的判斷標準是算法應(yīng)用可能損害或消極地影響個人或集體享有的人權(quán)。首先，企業(yè)應(yīng)當對自身行為產(chǎn)生的直接影響負責(zé)。例如《個人信息保護法》第66條要求對違反該法規(guī)定處理個人信息，或者處理個人信息未履行該法規(guī)定的個人信息保護義務(wù)的企業(yè)，情節(jié)嚴重的，除罰款外，可以吊銷企業(yè)營業(yè)執(zhí)照，并可以決定禁止直接負責(zé)的主管人員和其他直接責(zé)任人員在一定期限內(nèi)擔(dān)任相關(guān)企業(yè)的董事、監(jiān)事、高級管理人員和個人信息保護負責(zé)人。換言之，通過算法合規(guī)管理來避免算法活動對個人信息權(quán)益的侵犯是企業(yè)應(yīng)當承擔(dān)的首要義務(wù)。其次，《指導(dǎo)原則》規(guī)定企業(yè)除自身行為外還應(yīng)當對因供應(yīng)鏈關(guān)系或企業(yè)商業(yè)伙伴關(guān)系產(chǎn)生的間接的負面人權(quán)影響承擔(dān)責(zé)任，這是企業(yè)的一項人權(quán)義務(wù)。在數(shù)據(jù)共享、信息互通、算法開源的數(shù)字經(jīng)濟時代，企業(yè)提供或使用的算法服務(wù)可能對世界另一端的某個社區(qū)產(chǎn)生消極影響。負責(zé)任的企業(yè)應(yīng)當全面梳理公司業(yè)務(wù)與行業(yè)狀況，遵循《數(shù)據(jù)安全法》《個人信息保護法》等法律法規(guī)，進行分級分類和場景化治理，通過算法風(fēng)險評估盡可能發(fā)現(xiàn)風(fēng)險敞口，通過劃分風(fēng)險等級的方式將暴露的風(fēng)險逐級排序。最后，外部監(jiān)督有時更容易跳出思維定式而發(fā)現(xiàn)算法漏洞與潛在的人權(quán)風(fēng)險?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》提出要充實算法監(jiān)管力量，培育算法治理的社會性支撐力量。因此，企業(yè)在評估算法風(fēng)險階段可以邀請相關(guān)領(lǐng)域的第三方評估機構(gòu)、外部專家團隊、政府工作人員、社區(qū)居民、供應(yīng)鏈或商業(yè)伙伴成員參與，為制定算法合規(guī)政策提供全面客觀的事實依據(jù)并加強程序合法性。

第三，科學(xué)制定算法合規(guī)政策。作為算法風(fēng)險應(yīng)對的重要依據(jù)，企業(yè)應(yīng)當依據(jù)算法合規(guī)義務(wù)的基本原則、企業(yè)實際狀況、所處社會的特定背景制定算法合規(guī)政策。企業(yè)的算法合規(guī)政策應(yīng)包含合規(guī)方針與原則、風(fēng)險評估結(jié)果、政策承諾、執(zhí)行機制、協(xié)調(diào)機制、風(fēng)險應(yīng)對方案、應(yīng)急管理方案、監(jiān)督與報告機制等內(nèi)容。其中，政策承諾為企業(yè)內(nèi)部實施尊重人權(quán)的措施提供必要的規(guī)范基礎(chǔ)，也為外部利益相關(guān)者追究企業(yè)責(zé)任提供可見的承諾，是確保數(shù)字企業(yè)可問責(zé)性的關(guān)鍵環(huán)節(jié)。同時，企業(yè)算法合規(guī)政策必須得到企業(yè)最高管理層的批準，必要時可以從核心管理層中指定企業(yè)算法合規(guī)高級專員以推進和監(jiān)督算法合規(guī)政策的執(zhí)行，由此確保算法合規(guī)政策得以在企業(yè)內(nèi)部全面滲透，通過系統(tǒng)性協(xié)調(diào)將算法合規(guī)政策落到實處。

第四，主動建立申訴與報告制度。申訴與報告制度是算法合規(guī)體系的應(yīng)有內(nèi)容。由于該制度具有特殊意義，因而有必要進行專門討論和研究。申訴與報告制度的本質(zhì)體現(xiàn)為一種“溝通機制”，是企業(yè)接受內(nèi)外部反饋、避免因科層制引起“信息失真”、幫助企業(yè)及時采取風(fēng)險應(yīng)對措施、優(yōu)化算法合規(guī)管理制度的關(guān)鍵。申訴與報告制度應(yīng)當遵循公正、透明、高效與可獲得的基本原則，應(yīng)當包括人際會晤、在線交流、匿名通信、集體磋商、公開報告等多種形式與多元渠道。暢通、高效、透明的申訴與報告制度可以在算法合規(guī)管理過程中促進公權(quán)力、私權(quán)力與私權(quán)利間的互動，通過多元治理的方式切實有效處理公眾訴求，實現(xiàn)算法共治?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第17條第3款規(guī)定“算法推薦服務(wù)提供者應(yīng)用算法對用戶權(quán)益造成重大影響的，應(yīng)當依法予以說明并承擔(dān)相應(yīng)責(zé)任”，該款規(guī)定在一定程度上體現(xiàn)了我國算法治理申訴和報告制度的發(fā)展走向。

第五，探索構(gòu)建算法審計制度。算法審計是由監(jiān)管部門、第三方機構(gòu)或企業(yè)自身對算法的流程、要素進行合規(guī)性審查。例如，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》提出事前監(jiān)管（第23條）、區(qū)分監(jiān)管（第3條）、系統(tǒng)監(jiān)管（第3條、第23條、第28條）等思路，貢獻了新技術(shù)新應(yīng)用監(jiān)管的中國智慧和中國方案。國家網(wǎng)信部門及有關(guān)機關(guān)通過確立分級分類的思路，制定算法備案、算法評估等制度，優(yōu)化監(jiān)管框架，實現(xiàn)事前事中事后全流程、全鏈條監(jiān)管，增強監(jiān)管系統(tǒng)性和權(quán)威性。與此同時，監(jiān)督與完善機制還應(yīng)當建立在適合的信息基礎(chǔ)之上，來自企業(yè)內(nèi)外部的定性與定量指標都應(yīng)當成為企業(yè)算法合規(guī)績效的評價標準與改進參考。定期回訪因企業(yè)違規(guī)運用算法技術(shù)受到負面人權(quán)影響的群體，能夠幫助企業(yè)了解風(fēng)險應(yīng)對方案的執(zhí)行效果；主動邀請行業(yè)協(xié)會或社區(qū)管理者參與算法合規(guī)管理績效評測環(huán)節(jié)，有助于企業(yè)發(fā)現(xiàn)合規(guī)體系中的不足并進一步提出優(yōu)化方案；將評估結(jié)果與來自內(nèi)外部的改進建議通過明示的方式納入不斷更新的企業(yè)算法合規(guī)方案，有利于外部監(jiān)督的開展與建立負責(zé)任的企業(yè)形象。

四、將人權(quán)標準引入企業(yè)算法合規(guī)的制度價值

（一）企業(yè)算法合規(guī)義務(wù)的履行具有改進算法治理模式的功能與價值

如前文所述，企業(yè)算法合規(guī)管理能夠在“公民－平臺－國家”三元結(jié)構(gòu)和“私權(quán)力－公權(quán)力”雙重權(quán)力生態(tài)中充分發(fā)揮企業(yè)在社會多層治理中的作用。在政府的引導(dǎo)下充分發(fā)揮企業(yè)參與數(shù)字治理的主動性與創(chuàng)造性，實現(xiàn)企業(yè)從“被管”到“自治”的轉(zhuǎn)型，既能通過多元治理提升監(jiān)管效率，也可以從源頭上解決數(shù)字鴻溝、算法歧視等數(shù)字經(jīng)濟的時代難題。從算法治理的應(yīng)然目標來看，瑪戈·卡明斯基（Margot Kaminski）提出了包括尊嚴性治理、正當性治理和工具性治理在內(nèi)的算法治理三重目標。1See Margot E. Kaminski, Binary Governance: Lessons from the GDPR’s Approach to Algorithmic Accountability,92 Southern California Law Review 1529 (2019).在以人民為中心的原則指引下開展企業(yè)算法合規(guī)就是為了確保人的固有尊嚴與自由意志不被算法侵犯，確保算法承受者能夠參與算法規(guī)制、知悉算法內(nèi)容、保障個人隱私，從而實現(xiàn)算法治理的應(yīng)然目標。從合規(guī)制度的性質(zhì)來看，企業(yè)算法合規(guī)制度既是一種公司治理方式、行政監(jiān)管激勵機制、刑法激勵機制，還是應(yīng)對國際組織制裁的重要依據(jù)。2參見陳瑞華：《企業(yè)合規(guī)基本理論》，法律出版社2020年版，第5—30頁。通過預(yù)先評估合規(guī)風(fēng)險，企業(yè)制定規(guī)則對算法執(zhí)行過程進行監(jiān)督，避免產(chǎn)生違規(guī)行為；一旦風(fēng)險爆發(fā)，企業(yè)也可以通過算法合規(guī)管理及時糾正與調(diào)整。并且，企業(yè)的風(fēng)險自查、自報有利于為企業(yè)的違法違規(guī)行為換取“寬大制度”。1同上注。將人權(quán)標準引入企業(yè)算法合規(guī)管理，可以將傳統(tǒng)的制裁型管理模式轉(zhuǎn)變?yōu)榧钚湍Ｊ?，有利于提升算法治理水平與能力。

（二）基于人權(quán)標準的企業(yè)算法合規(guī)能夠整合算法治理的不同路徑

理論上，算法合規(guī)既關(guān)注事前預(yù)防、事中監(jiān)督與應(yīng)對，也關(guān)注事后救濟與改進?；谌藱?quán)標準的企業(yè)算法合規(guī)依托公私合作治理規(guī)律的認識，能夠整合以算法透明為核心的、體現(xiàn)本質(zhì)主義的事前規(guī)制路徑與以算法問責(zé)為目標的、體現(xiàn)實用主義的事后規(guī)制路徑。當前全球算法治理以多邊治理機制、雙邊和區(qū)域治理以及以私營部門為主體的專業(yè)化治理機制為基本形態(tài)。其中，作為連接產(chǎn)業(yè)鏈和用戶等多方主體的紐帶，部分影響力較大的數(shù)字企業(yè)正承擔(dān)起居中解決爭議的角色?；谌藱?quán)標準的企業(yè)算法合規(guī)義務(wù)，依據(jù)時間或算法效果進行事前、事中或事后的算法影響評估，在事中及事后歸責(zé)的階段為算法使用者施以合規(guī)證明義務(wù)，通過“政府引導(dǎo)—企業(yè)自律—社會監(jiān)督”的配置方式，賦予企業(yè)內(nèi)外部利益相關(guān)者參與、監(jiān)督、反饋的機會。例如歐盟強調(diào)高風(fēng)險人工智能系統(tǒng)必須接受事前評估方能投入使用，這其中就包含了人權(quán)風(fēng)險評估?；谌藱?quán)標準的企業(yè)算法合規(guī)對數(shù)字企業(yè)履行社會職責(zé)、提供公共產(chǎn)品、防范公共風(fēng)險等社會治理活動發(fā)揮著重要作用。

（三）企業(yè)算法合規(guī)義務(wù)的履行有助于降低企業(yè)經(jīng)營風(fēng)險，提升企業(yè)經(jīng)濟效益

企業(yè)面臨的算法風(fēng)險本身就與人權(quán)密切相關(guān)，因算法不透明所產(chǎn)生的風(fēng)險、因算法“偏見”所產(chǎn)生的風(fēng)險、因算法“權(quán)力異化”所產(chǎn)生的風(fēng)險2參見孫清白：《人工智能算法的“公共性”應(yīng)用風(fēng)險及其二元規(guī)制》，載《行政法學(xué)研究》2020年第4期，第59—62頁。，都可能會侵犯作為算法主體的人所享有的平等與非歧視的權(quán)利和基本自由，由這些風(fēng)險進一步產(chǎn)生的對公民權(quán)利、政治權(quán)利、經(jīng)濟權(quán)利、社會權(quán)利和文化權(quán)利等的侵犯事實更是不勝枚舉，對“人的尊嚴和人的完整性的侵蝕恰恰是現(xiàn)代算法社會所面臨的根本性挑戰(zhàn)”3張恩典：《大數(shù)據(jù)時代的算法解釋權(quán)：背景、邏輯與構(gòu)造》，載《法學(xué)論壇》2019年第4期，第160頁。。企業(yè)算法合規(guī)管理將人的主體性置于最高地位，在源頭上控制算法的人權(quán)風(fēng)險，將算法運用可能產(chǎn)生的人權(quán)負面影響降至最低。盡管不同法域?qū)λ惴ㄖ卫聿扇×瞬煌桨?，但是人?quán)價值的普遍性、人權(quán)概念的延展性、人權(quán)標準的包容性都能為企業(yè)開展跨國數(shù)字貿(mào)易時降低經(jīng)營管理成本、控制算法違規(guī)風(fēng)險提供現(xiàn)實方案。人權(quán)本身“就可以看作是人類為應(yīng)對風(fēng)險所建構(gòu)出來的防范風(fēng)險的體系性機制”4唐穎俠：《〈世界人權(quán)宣言〉的起草過程與后世影響——紀念〈世界人權(quán)宣言〉70周年國際研討會綜述》，載《人權(quán)》2018年第6期，第151頁。，更何況企業(yè)開展合規(guī)管理實質(zhì)上就是在履行人權(quán)義務(wù)與社會責(zé)任，經(jīng)濟學(xué)的實證研究早已證明積極履行社會責(zé)任能夠顯著地提升企業(yè)的經(jīng)濟效益與市場表現(xiàn)1有關(guān)企業(yè)積極履行社會責(zé)任與市場表現(xiàn)相關(guān)性的經(jīng)濟學(xué)研究參見劉銀國、朱龍：《公司治理與企業(yè)價值的實證研究》，載《管理評論》2011年第2期，第45—52頁；楊皖蘇、楊善林：《中國情境下企業(yè)社會責(zé)任與財務(wù)績效關(guān)系的實證研究——基于大、中小型上市公司的對比分析》，載《中國管理科學(xué)》2016年第1期，第143—150頁；張琳、趙海濤：《企業(yè)環(huán)境、社會和公司治理（ESG）表現(xiàn)影響企業(yè)價值嗎？——基于A股上市公司的實證研究》，載《武漢金融》2019年第10期，第36—43頁。。因此，將人權(quán)標準引入作為公司治理工具的企業(yè)算法合規(guī)管理應(yīng)當成為現(xiàn)代數(shù)字企業(yè)回應(yīng)風(fēng)險社會、謀求可持續(xù)發(fā)展的重要策略。

（四）企業(yè)算法合規(guī)義務(wù)的履行有利于提升人權(quán)保護水平

目前，人類社會正在大步邁向一個通過算法、機器人和人工智能來進行社會和經(jīng)濟決策的“算法社會”，算法的運用已經(jīng)成為推動人權(quán)事業(yè)發(fā)展的強大動力：以算法、算力和大數(shù)據(jù)為支撐的智慧教育，如“流利說”“作業(yè)幫”“中國慕課”等，極大促進了我國教育資源的均等化，使人民的受教育權(quán)得到了切實保障；智慧物流的推廣為農(nóng)村地區(qū)帶來新的經(jīng)濟增長機遇，通過數(shù)字科技的運用確保廣大農(nóng)民的發(fā)展權(quán)得以實現(xiàn)；智慧醫(yī)療的普及滿足了社會大眾的就醫(yī)需求，降低了就醫(yī)成本，為公民獲得醫(yī)療救治的權(quán)利、健康權(quán)、享有公共服務(wù)的權(quán)利排除了障礙。無論是“數(shù)字弱勢群體保護”、數(shù)字人權(quán)還是算法合規(guī)，都是奉人權(quán)為價值理性、以人民利益為出發(fā)點和落腳點的算法治理具體路徑。在當前的社會背景下，基于人權(quán)標準的算法合規(guī)進一步促進了對人權(quán)的保護。這種新型合規(guī)模式既能夠確保算法“向善”，充分體現(xiàn)對人的關(guān)照與對人權(quán)的關(guān)懷，提升人權(quán)保障與享有水平，也能夠為形成系統(tǒng)完善的、基于人權(quán)標準的算法治理相關(guān)理論積累實踐素材、提供經(jīng)驗啟示。同時，積極開展算法合規(guī)能幫助跨國數(shù)字企業(yè)增進與經(jīng)營地社區(qū)的互動合作，使企業(yè)表現(xiàn)出更高的社會責(zé)任感，進而獲得 “社會經(jīng)營許可”（social license to operate），為數(shù)字科技與算法應(yīng)用的發(fā)展提供穩(wěn)定、和諧、可持續(xù)的外部環(huán)境，推動算法社會的進步，最終為人權(quán)的實現(xiàn)提供技術(shù)支持與物質(zhì)基礎(chǔ)。

五、結(jié)論

伴隨算法技術(shù)的快速發(fā)展，算法軟法治理的困境逐步凸顯，算法風(fēng)險的廣泛性、復(fù)雜性以及不可控性為傳統(tǒng)的監(jiān)管理念、規(guī)制手段、責(zé)任機制等帶來新的挑戰(zhàn)。在政府、社會、公民、企業(yè)多元主體共治的算法社會中，面對算法透明度、算法問責(zé)等算法治理的關(guān)鍵性問題，現(xiàn)代中國人權(quán)理論和實踐的開放與包容為算法治理提供了新的可能。算法服務(wù)帶來的風(fēng)險及損害可歸咎于算法的設(shè)計者和使用者，以網(wǎng)絡(luò)平臺為主的數(shù)字企業(yè)是承擔(dān)算法責(zé)任的主體。企業(yè)算法合規(guī)具有一個系統(tǒng)完整的制度體系，事前對企業(yè)行為進行規(guī)訓(xùn)與塑造，并對企業(yè)違規(guī)違法行為進行阻卻，是在充分整合現(xiàn)有國際人權(quán)標準與企業(yè)合規(guī)機制的基礎(chǔ)上應(yīng)對算法合規(guī)風(fēng)險的有效途徑。將人權(quán)標準引入企業(yè)算法合規(guī)制度，能夠為數(shù)字企業(yè)的日常經(jīng)營行為、算法技術(shù)的發(fā)展變革提供倫理約束與價值引導(dǎo)，這對于提升國家形象、降低算法社會風(fēng)險、強化公眾監(jiān)督以及推動企業(yè)有效自治都具有積極意義。