靳雨露

(北京師范大學法學院 北京 100875)

0 引 言

人類社會步入人工智能時代，算法作為人工智能三大核心要素(算法、算力、大數(shù)據(jù))之首，深刻影響并改變著人們的生產(chǎn)生活。算法自動化決策已融入日常生活，成為智能時代處理數(shù)據(jù)的重要生產(chǎn)工具。由于算法的強技術(shù)性、高路徑依賴性，算法主宰著人工智能時代的大部分決策，甚至將人困于決策循環(huán)(loop)。對算法透明度做出要求并進行監(jiān)管，成為保障主體在數(shù)字時代權(quán)益、維護社會公平正義的重要舉措。

當前對算法的監(jiān)管集中在對算法黑箱、算法合謀、算法權(quán)力、算法歧視等問題的規(guī)制[1]。而對算法予以有效監(jiān)管與規(guī)制的前提與關(guān)鍵是算法透明、算法披露。算法披露成為政府對“數(shù)字守門人”的大型互聯(lián)網(wǎng)企業(yè)合規(guī)進行監(jiān)管、保護數(shù)字時代基本人權(quán)的重要舉措，算法披露也有助于打開算法自動化決策黑箱，是消除“算法霸權(quán)”、監(jiān)管與控制平臺事實支配力、保護消費者權(quán)益的有力手段。

提高算法透明度已逐漸成為各國對算法監(jiān)管的共識。然而，目前國內(nèi)外對算法披露的具體規(guī)則并未達成統(tǒng)一共識。各國基于本國利益考量，對互聯(lián)網(wǎng)平臺的披露要求并不一致。算法披露的規(guī)則演進總體上呈現(xiàn)日趨嚴格的趨勢。從最初的要求披露算法的存在、披露算法運行的結(jié)果，到目前逐步要求披露算法的運行規(guī)則、運行邏輯和具體參數(shù)，甚至是公開算法的源代碼。各國在要求算法披露的具體事項和程度上也呈現(xiàn)出局部差異。算法披露要求的嚴格與寬松，事關(guān)互聯(lián)網(wǎng)平臺、消費者利益和數(shù)字經(jīng)濟的發(fā)展，研究算法披露的限度、算法披露的治理與責任落實成為重要課題。

為此，本文從域外算法披露的立法演進入手展開研究，總結(jié)域外算法披露的立法與實踐經(jīng)驗，得出對我國算法披露制度構(gòu)建的啟示和建議，以期為我國算法披露立法與實踐提供參考。

1 算法披露的域外立法演進

域外對算法自動化決策披露的要求總體日趨嚴格，呈現(xiàn)出歐盟穩(wěn)步推進、美國快速激進的局面?？傮w來看，美歐近年來不斷出臺法案，對算法自動化決策的透明度逐步提出更高的要求：對算法予以披露的事項日漸多元化和多樣化，域外算法披露也已經(jīng)從透明度的原則性規(guī)定演化到算法問責等具體的制度構(gòu)建，對算法問責，歐美表現(xiàn)出個體賦權(quán)和外部問責的路徑差異。本文著重選取域外算法披露立法演進過程中特殊節(jié)點的典型立法，以說明其演進歷程。

1.1 歐盟算法披露的演進

1.1.1從算法解釋權(quán)到具體算法參數(shù)披露

2018年5月25日生效的歐盟《通用數(shù)據(jù)保護條例》(以下簡稱為“GDPR”)規(guī)定了算法自動化決策的解釋權(quán)，是算法披露的一項重要的實證化權(quán)利。這一權(quán)利在歐盟范圍內(nèi)得到了廣泛認可，并在歐盟各國通過政策標準予以具體化。根據(jù)GDPR第13條至第15條的規(guī)定，數(shù)據(jù)主體應當能夠獲得與算法自動化決策的邏輯相關(guān)的、有實際意義的信息。數(shù)據(jù)控制者在獲取個人數(shù)據(jù)時，向數(shù)據(jù)主體負有算法透明的義務，包括提供確保算法合理與透明處理所必要的信息的義務。如向用戶披露算法自動化決策的存在，包括用戶畫像、在此類情形下的算法邏輯，以及算法處理對于數(shù)據(jù)主體的預期后果等有效信息。

隨后，歐盟2019年6月19日通過《平臺和商戶間公平性和透明度法》，其中第5條在算法解釋權(quán)的基礎(chǔ)上，進一步要求網(wǎng)絡平臺向公眾披露其算法自動化決策的具體參數(shù)。要求網(wǎng)絡平臺向用戶披露的算法參數(shù)包括影響自動化決策中排名的主要因素和相關(guān)信息。平臺應當以簡單易懂的語言告知用戶其自動化決策的存在、進行自動化決策需要的信息，以及第三方平臺向該網(wǎng)絡平臺付費而影響自動化決策的程度等，并在其改變排名順序或影響因素時，及時通知用戶，再次就算法予以解釋說明。

1.1.2從透明度原則到算法問責制：采取個體賦權(quán)的算法問責路徑

在歐盟數(shù)據(jù)保護委員會(以下簡稱“EDBP”)的一份答復中[2]，其指出GDPR涵蓋了大多數(shù)算法的創(chuàng)建和使用規(guī)則，其中就包括對算法的披露要求。

首先，GDPR第12-14條規(guī)定的透明度原則要求數(shù)據(jù)控制者采取適當措施，以簡潔、透明、易懂和易于訪問的方式，讓數(shù)據(jù)主體了解其數(shù)據(jù)的使用情況。要求數(shù)據(jù)處理者使用算法進行自動化決策的任何行為，都應當通知數(shù)據(jù)主體算法自動化決策的存在，并提供算法邏輯相關(guān)的信息，以及實施算法自動化決策的意義和預期后果。對算法透明度的要求是使用算法進行自動化決策的數(shù)據(jù)控制者的義務，有助于使數(shù)據(jù)主體完整理解和行使在GDPR第15-22條中的權(quán)利?？梢钥闯?，歐盟通過在GDPR中對個體的賦權(quán)路徑，確保數(shù)據(jù)主體不受算法自動化決策黑箱的不利影響，包括算法自動化決策的無意歧視后果等。

其次，GDPR規(guī)定的算法問責制原則要求數(shù)據(jù)控制者確保遵守GDPR的透明度要求，并能夠證明算法自動化決策的合規(guī)性。這意味著數(shù)據(jù)控制者有義務考慮所有使用或創(chuàng)建的特定算法可能造成的潛在風險，并在必要時采取措施應對這些風險。同時，算法的使用或開發(fā)可能會觸發(fā)執(zhí)行數(shù)據(jù)保護影響的義務，這要求數(shù)據(jù)處理者在使用任何算法進行數(shù)據(jù)處理之前進行數(shù)據(jù)保護影響評估(Data Protection Impact Assessment，DPIA )。如果DPIA的結(jié)果表明在沒有措施的情況下，算法處理將導致較高風險，數(shù)據(jù)控制者在使用算法進行數(shù)據(jù)處理之前必須咨詢相關(guān)監(jiān)管機構(gòu)。

復次，GDPR包含有關(guān)算法自動化決策的具體規(guī)定。GDPR第22條禁止任何僅基于自動化處理的決策，如果此類決策產(chǎn)生影響數(shù)據(jù)主體的法律效果，或類似的對數(shù)據(jù)主體產(chǎn)生重大影響。這意味著，在實踐中數(shù)據(jù)控制著不能僅僅依靠算法的結(jié)果來進行敏感決策。GDPR第22條要求控制者實施適當?shù)拇胧┍Ｕ蠑?shù)據(jù)主體的權(quán)利、自由，及其合法利益，其中必須包括獲得人為干預的權(quán)利[3]。該種人為干預必須是合格的，能夠發(fā)現(xiàn)和恢復自動化決策不公平的結(jié)果或歧視。

最后，EDBP指明：考慮到歐盟現(xiàn)有的法律框架，針對特定算法技術(shù)增加在數(shù)據(jù)保護領(lǐng)域立法目前還為時過早。EDBP的重點在于制定現(xiàn)有規(guī)范，特別是針對機器學習算法背景下的透明度、問責機制和DPIA。未來將有可能在機器學習的算法問責和算法披露方面制定準則?？紤]到使用“不公平”算法可能會在數(shù)據(jù)保護領(lǐng)域之外產(chǎn)生后果，EDPB認為為了保護個人免受不公平或算法歧視的結(jié)果，需要一種跨學科的方法。當前數(shù)據(jù)的法律框架確實為有效監(jiān)督和執(zhí)行上述算法公平和透明方面提供了許多選擇，包括授予個人要求數(shù)據(jù)保護機構(gòu)提供其個人數(shù)據(jù)的權(quán)利。這種強制執(zhí)行可以采取多種形式，包括但不限于：積極向公眾宣傳其權(quán)利、與利益攸關(guān)者接觸，并通知和指導算法獲得、評估、事先磋商和進行調(diào)查。

1.2 美國算法披露的演進

1.2.1從披露算法的存在到披露算法源代碼

2021年11月，美國眾議院提出《過濾氣泡透明度法案》(Filter Bubble Transparency Act)，擬對互聯(lián)網(wǎng)平臺的算法推薦進行規(guī)制，包括搜索結(jié)果排序、個性化內(nèi)容推薦、社交媒體帖子呈現(xiàn)等。法案要求平臺必須披露算法的存在，并給用戶提供關(guān)閉個性化算法推薦的選項[4]。參與提出該法案的眾議員表示：基于Facebook和其他占主導地位的平臺的壟斷力量和支配地位，用戶幾乎沒有辦法替代這種剝削性的商業(yè)模式，無論是在社交媒體、廣告推送還是搜索結(jié)果中[5]。該法案有利于規(guī)制Facebook的算法操縱危機。

在該法案出臺之前，來自布魯克斯東區(qū)紐約市議會的成員詹姆斯·瓦卡曾提出，要求市政府機構(gòu)運用自動化決策系統(tǒng)分配福利、維護治安和進行處罰的時候，必須公布算法的源代碼[6]。相較于其他國家要求披露算法自動化決策服務的存在、運行邏輯、結(jié)果等事項，該提案直接監(jiān)管到算法技術(shù)的核心——源代碼，是對算法自動化決策披露義務的最高要求。值得注意的是，該法案規(guī)制的是政府自動化決策行為，雖然最終通過，但由于爭議較大并沒有得到很好的實踐。

1.2.2從算法透明原則到算法問責制的確立

美國《2019年算法問責法案》的宗旨是,指示聯(lián)邦貿(mào)易委員會(Federal Trade Commission ，以下簡稱“FTC”)對存儲、共享和使用個人信息的實體進行自動化決策系統(tǒng)影響評估和數(shù)據(jù)保護影響評估相關(guān)工作[7]。美國《算法問責法案》的規(guī)制對象幾乎覆蓋了美國所有的互聯(lián)網(wǎng)企業(yè)。在算法透明原則性規(guī)定的基礎(chǔ)上，進一步構(gòu)建了算法影響性評估制度，明確對算法繼續(xù)審查和問責，其最重要的面向仍然在于對算法的透明化要求。根據(jù)規(guī)定，算法自動化決策透明化的程度應結(jié)合算法的具體運用場景、處理個人信息的內(nèi)容等進行相應的風險評級，并根據(jù)風險等級來考慮透明度的具體形式。算法影響評估制度也可以看作是海倫·尼森鮑姆提出的場景公正(風險)理論(contextual integrity)的具體落實[8]。2022年2月，美國俄勒岡州、新澤西州和紐約州提出《2022年算法責任法案》，對算法提出新的透明度和問責制要求[9]。其中特別提及企業(yè)應當對算法的偏見、有效性和其他因素進行影響評估，使算法技術(shù)成為賦權(quán)工具，而不是企業(yè)技術(shù)中立和價值無涉的保護傘。FTC還將創(chuàng)建“公共存儲庫”對算法系統(tǒng)進行管理。

1.2.3FTC《使用人工智能和算法》專報中的算法披露：對算法披露外部問責路徑

2020年8月8日，F(xiàn)TC公布了《使用人工智能和算法》專報，就當前FTC對人工智能和算法應用的規(guī)制進行總結(jié)[10]。FTC專報的內(nèi)容集中體現(xiàn)了美國就算法披露的立法演進過程以及當前美國算法披露制度的構(gòu)建現(xiàn)狀。FTC表示，美國早有立法對自動化決策進行外部監(jiān)管。如1970年頒布的《公平信用報告法》(FCRA)和1974年頒布的《平等信用機會法》(ECOA)都涉及算法自動化決策，F(xiàn)TC根據(jù)這些法案進行算法自動化決策的外部監(jiān)督。并在2016年《大數(shù)據(jù)：包容或排斥的工具？》的報告中[11]，建議使用大數(shù)據(jù)分析與機器學習的公司減少發(fā)生算法偏見的機會；在2018年11月舉行的聽證會上探討人工智能、算法和預測分析[12]。FTC的執(zhí)法行動和指導從外部對算法披露進行監(jiān)督：強調(diào)算法工具的使用應該是透明的、可解釋的、公平的、在經(jīng)驗上合理的，同時促進算法問責制的構(gòu)建。

質(zhì)言之，F(xiàn)TC專報反映出美國對算法自動化決策披露采取的是外部問責路徑，其對算法披露外部監(jiān)督的要求有：a.保持透明。要求算法服務主體向消費者披露是如何使用自動化算法的，收集敏感數(shù)據(jù)時保持算法透明。b.向消費者解釋算法自動化決策的決定。如果使用算法進行風險評分，應披露影響評分的關(guān)鍵因素、影響因素的重要性排序等。c.確保自動化決策的決定是公平的，為消費者提供訪問權(quán)并使其有機會更正用于做出決策的信息。d.確保數(shù)據(jù)和算法模型可靠且合理。利用消費者的數(shù)據(jù)做出決策，必須遵守FCRA，確保數(shù)據(jù)準確、最新且可靠。e.對算法的合規(guī)、道德、公平和不歧視負責。在使用算法之前確保算法的非歧視和公平公正，保障算法問責機制健全。

1.3 小結(jié)

質(zhì)言之，在對算法披露日趨嚴格的國際背景之下，歐盟和美國算法披露立法在算法披露具體事項等級和算法披露監(jiān)督、問責制度構(gòu)建方面呈現(xiàn)出局部差異。

在算法披露具體事項的等級上，歐盟起初重點要求披露算法自動化決策的存在和運行結(jié)果，隨后開始要求對算法自動化決策的運行邏輯和詳細參數(shù)予以透明化。GDPR中賦予數(shù)據(jù)主體的算法解釋權(quán)要求使用算法自動化決策透明，并披露其運行結(jié)果。隨后，歐盟頒布《平臺和商戶間公平性和透明度法》，要求商家就算法自動化決策披露運行邏輯、具體的算法參數(shù)等信息。而美國在歐盟算法披露要求的基礎(chǔ)上，更為激進地提出披露算法源代碼的提案，要求算法自動化決策服務提供者披露關(guān)于算法自動化決策的源代碼等相關(guān)內(nèi)容。

在算法披露和算法問責制度構(gòu)建上，歐盟在GDPR規(guī)定的算法透明原則、算法解釋權(quán)的基礎(chǔ)上，構(gòu)建出數(shù)據(jù)保護影響評估制度，對算法進行評估、審查和問責。而美國分別提出《2019算法問責法案》和《2022算法問責法案》，設立算法影響性評估制度對算法的透明度提出更高的分類評估要求，對算法進行問責，并嘗試構(gòu)建算法主體獨立審查委員會、公共存儲庫等對算法披露進行監(jiān)督。

總體來說，算法作為21世紀的核心技術(shù)應用，已經(jīng)走出了技術(shù)中立和價值無涉的保護傘，各國對算法問責制的確立予以肯定。然而，當前域外算法披露相關(guān)立法中，對算法披露義務主體的責任施加問題并不一致。如歐美出現(xiàn)個體賦權(quán)、外部算法問責等不同的治理路徑，對適用過錯責任還是嚴格責任的過錯類型問題，以及對算法披露主體違反披露義務后的民事責任、行政責任、刑事責任匹配和追究問題的處理并不明確[13]。而我國也應當根據(jù)中國互聯(lián)網(wǎng)制度環(huán)境，設計適合自身特色的算法披露的法律責任類型化與責任體系。

2 算法披露的域外實踐經(jīng)驗

在算法披露日趨嚴格的立法背景下，歐美大型互聯(lián)網(wǎng)平臺開始逐步規(guī)范其內(nèi)部算法披露政策，并逐步增加算法披露事項。從實踐來看，域外大型網(wǎng)絡平臺主要通過更新隱私和個人信息保護政策，在其中增加算法自動化決策服務的相關(guān)說明，根據(jù)信息主體的算法解釋權(quán)、網(wǎng)絡平臺的算法披露義務等相關(guān)內(nèi)容來對算法自動化決策進行解釋和披露。如亞馬遜、谷歌、YouTube、Facebook、Uber等大型互聯(lián)網(wǎng)平臺已經(jīng)就算法公開透明等的披露要求做出應對舉措。其中，F(xiàn)acebook在美國外部問責治理范式之下，成立獨立審查委員會進行自查，以配合外部審查。

2.1 域外大型互聯(lián)網(wǎng)平臺算法披露的實踐現(xiàn)狀

2.1.1算法解釋權(quán)主導下隱私政策中的算法披露

a.亞馬遜隱私政策中的算法披露。當前亞馬遜未就其使用的特定算法進行專門的公開和解釋說明，而是在其更新的隱私政策文本中公開了個性化廣告推送機制的運行邏輯。個性化廣告推送背后是隱藏的推薦算法應用。據(jù)其隱私政策中披露的算法運行邏輯，當用戶訪問網(wǎng)站或使用與廣告網(wǎng)絡或其他在線廣告公司合作的應用程序時，這些廣告公司會收集有關(guān)用戶瀏覽器或設備的信息，預測用戶對特定類別廣告的興趣。如經(jīng)常訪問棒球相關(guān)網(wǎng)站的用戶可能會收到更多“棒球或體育愛好者”類別的廣告，與汽車評論應用互動的用戶可能會收到更多他們感興趣的特定車型的廣告。亞馬遜也在其隱私政策中為用戶提供了個性化廣告推薦服務退出選項，保障用戶算法自動化決策退出權(quán)的實現(xiàn)。

b.谷歌隱私政策中的算法披露。谷歌在隱私政策中披露了算法的存在和應用場景、邏輯。據(jù)其隱私政策披露，谷歌會通過算法來利用信息，以協(xié)助提升服務的安全性和可靠性。谷歌對算法的應用包括檢測、防范和應對可能會危害用戶或公眾的欺詐行為、濫用信息行為、安全風險和相關(guān)技術(shù)問題。谷歌會利用不同的算法技術(shù)處理信息。如利用自動化決策系統(tǒng)分析用戶內(nèi)容，以便為用戶提供定制的搜索結(jié)果、個性化廣告，以及根據(jù)用戶使用谷歌服務的情況量身定制的其他功能。同時，谷歌利用算法識別數(shù)據(jù)的模式，如谷歌翻譯中德算法可以檢測用戶請求翻譯的短語的常用語言模式，從而協(xié)助用戶使用各種語言進行溝通交流。谷歌還可能會將用戶在其他網(wǎng)站和應用中的活動與其個人信息相關(guān)聯(lián)，以改進谷歌服務和精準投放的廣告。

c.YouTube隱私政策中的算法披露。YouTube在官網(wǎng)公開的隱私政策中表明算法推薦應用(算法推薦視頻、個性化搜索結(jié)果)的存在，設置有個性化服務退出選項，并公開其用于消除偏見的算法系統(tǒng)。據(jù)YouTube隱私政策，YouTube為用戶提供個性化服務，包括提供推薦視頻和個性化搜索結(jié)果，以及向用戶展示相關(guān)廣告。此外，YouTube著重公開了采用的防止意外有害偏見的算法系統(tǒng)。YouTube使用用戶數(shù)據(jù)來訓練搜索和導航系統(tǒng)。搜索和推薦系統(tǒng)用來審核機器學習系統(tǒng)，以確保不存在無意的算法偏見，例如性別偏見。

d.Uber隱私政策中的算法披露。Uber在其隱私政策中公開了自動化決策算法的存在、算法運行邏輯和算法預期運行結(jié)果和目的。Uber提供服務中的自動化決策包括：動態(tài)定價、訂單匹配、數(shù)據(jù)濫用與欺詐防控等。Uber著重披露了其欺詐和濫用自動化防控算法運行系統(tǒng)。該算法系統(tǒng)可對被認定從事欺詐、不安全活動或其他可能損害Uber、用戶和其他用戶的行為進行舉報，此類行為可能會導致賬號自動停用，或者在人工審核后停用。Uber算法將使用駕駛員位置信息以及乘客和駕駛員之間的通信信息來識別通過欺詐賺取或誘導消費的行為。此外，Uber披露，將使用司機數(shù)據(jù)(如位置、評級和性別)和乘客數(shù)據(jù)(如評級、出發(fā)地和目的地)來幫助避免遠程用戶配對，但這可能會導致沖突風險增加。

2.1.2外部審查范式主導下Facebook獨立審查委員會的成立

根據(jù)美國的算法問責法案，美國算法問責制的實現(xiàn)依賴外部專家、機構(gòu)以及公眾對算法的監(jiān)督和問責。據(jù)此，F(xiàn)acebook在2018年設立了獨立的監(jiān)督委員會，作為其網(wǎng)站內(nèi)容審核的最終“真相仲裁者”[14]。獨立監(jiān)督委員會的章程對其權(quán)力有明確的規(guī)定，包括請求Facebook及時透明地提供審議所需要的合理信息、解釋社群守則和其他相關(guān)政策、指示 Facebook 保留或刪除內(nèi)容，以及維持或撤銷原有的執(zhí)行決議、就監(jiān)督委員會的決定發(fā)布及時的書面解釋等。此外，監(jiān)督委員會章程也規(guī)定其成員履行其合約和行為規(guī)范中規(guī)定的職責、保護Facebook用戶的隱私、進行算法披露，保證算法公開透明等責任。

2021年9月，社交媒體巨頭Facebook的監(jiān)督委員會審查了Facebook針對知名用戶使用不同算法規(guī)則的做法，稱Facebook針對不同用戶的決策方式明顯不一致。在Facebook監(jiān)督委員會自行審查其針對知名用戶使用不同算法系統(tǒng)的做法之前，《華爾街日報》對該系統(tǒng)進行了一項名為“交叉審查(cross-check)或XCheck的調(diào)查”。調(diào)查顯示，交叉審查系統(tǒng)對數(shù)百萬賬戶中的一些賬戶實行“白名單”，這意味著他們受Facebook執(zhí)法決議的豁免。Facebook自行審查事件正是在《華爾街日報》外部調(diào)查的推動下，F(xiàn)acebook利用自身的監(jiān)督委員會對其被曝光的自身算法運用問題進行自查，并進行后續(xù)相應的體系改進工作。這一做法是外部調(diào)查推動下，社交媒體平臺自查監(jiān)督體系發(fā)揮作用的體現(xiàn)。

2.2 域外算法披露實踐的經(jīng)驗與不足

2.2.1域外算法披露實踐的經(jīng)驗借鑒：“內(nèi)部自查+外部審查”監(jiān)督機制

Facebook在《華爾街日報》外部調(diào)查的推動下，利用自身的監(jiān)督委員會對其算法運用問題進行了自查。算法實施主體內(nèi)部自查的做法被社會各界贊同，也對算法披露的落地起到了很好的效果。域外互聯(lián)網(wǎng)平臺存在的外部調(diào)查推動下平臺自查的監(jiān)督體系可被我國算法披露監(jiān)管制度的構(gòu)建所借鑒和吸收。對于我國算法披露的監(jiān)管而言，可打造“內(nèi)部自查+外部審查”的雙軌制監(jiān)管機制。

就外部審查機制而言，是在政府主導下由獨立的社交媒體監(jiān)管機構(gòu)進行統(tǒng)一的外部監(jiān)督。外部監(jiān)管主要審查互聯(lián)網(wǎng)平臺的算法規(guī)則及自身的算法審查政策是否公正和公開透明，是否存在算法披露系統(tǒng)的濫用等。Facebook的審查系統(tǒng)和自身規(guī)則運用的問題首先由《華爾街日報》進行披露，并直接推進了Facebook的自查行為，可見外部監(jiān)督對社交媒體平臺的重要性。其次，內(nèi)部自查機制是指算法實施主體自身應當建立獨立的審查機構(gòu)，做好自我審查和自我監(jiān)督。Facebook事件折射出社交媒體平臺設立獨立監(jiān)督委員會進行內(nèi)部審查的必要性。后續(xù)可推動我國算法服務主體逐步成立獨立的內(nèi)部監(jiān)督機構(gòu)，并進一步強化我國外部審查機制的確立。通過建立“外部監(jiān)督+內(nèi)部自查”的雙軌制監(jiān)管機制，不斷完善我國算法披露的監(jiān)管和治理。

2.2.2域外算法披露實踐暴露的問題：算法歸責機制缺失影響算法披露的落實

當前，在算法披露日趨嚴格的國際大背景下，亞馬遜、谷歌、YouTube、Facebook、Uber等大型互聯(lián)網(wǎng)平臺紛紛更新其隱私政策，在其中進行算法披露，保證算法在法律要求下的公開透明。從上述各互聯(lián)網(wǎng)平臺更新的隱私政策中可以看出，實踐中算法披露的實現(xiàn)有賴于個人信息保護法等法律中對信息主體知情權(quán)、算法解釋權(quán)、算法自動化決策退出權(quán)等的賦予。互聯(lián)網(wǎng)企業(yè)依賴于法律對個體的賦權(quán)，一對一式地逐步進行算法事項的披露與“算法退出”等選項的設置。

將算法作為監(jiān)管對象是人工智能與大數(shù)據(jù)時代的大勢所趨[15]。不明確算法實施主體責任類型的法律和政策往往會失去約束力。當前域外法律政策文本中，對算法披露事項的要求更加細化，算法問責制的構(gòu)建成為主流。但在算法問責制下，算法實施主體違反算法影響評估等制度規(guī)定的注意義務后的責任如何施加，算法實施主體的過錯類型是適用過錯責任還是嚴格責任，以及如何匹配相應的行政責任、民事責任與刑事責任等的規(guī)定并不詳盡，導致算法追責模糊化和責任設置不協(xié)調(diào)等問題。直接體現(xiàn)在大型互聯(lián)網(wǎng)平臺對算法披露要求貫徹的不徹底性——僅在隱私協(xié)議中就當前信息主體相關(guān)算法權(quán)利的實現(xiàn)進行抽象和概括規(guī)定。對我國算法披露制度構(gòu)建來講，應尤其注意算法責任制度的構(gòu)建，使算法披露的規(guī)定得以在實踐中落實。

3 算法披露的中國現(xiàn)狀與不足分析

在對算法披露要求日趨嚴格的國際大背景下，我國《電子商務法》和《個人信息保護法》在立法層面規(guī)定了算法自動化決策的自然結(jié)果展示義務和自動化決策的透明度要求?！蛾P(guān)于加強互聯(lián)網(wǎng)信息服務算法綜合治理的指導意見》(以下簡稱為《算法治理指導意見》)與《網(wǎng)絡數(shù)據(jù)安全管理條例(征求意見稿)》(以下簡稱為《數(shù)據(jù)安全管理條例》)等從宏觀層面強調(diào)算法應用“透明可釋”，應構(gòu)建算法決策披露制度?！痘ヂ?lián)網(wǎng)信息服務算法推薦管理規(guī)定》(以下簡稱為《算法推薦管理規(guī)定》)，集中規(guī)范互聯(lián)網(wǎng)信息服務算法推薦活動，重點規(guī)定算法推薦服務提供者的披露義務和責任。對算法“應當披露”的問題已經(jīng)解決，但我國對算法披露具體內(nèi)容的規(guī)定和相關(guān)監(jiān)督與問責制度的構(gòu)建仍有進一步完善的空間。

3.1 中國算法披露的立法現(xiàn)狀

3.1.1《電子商務法》和《個人信息保護法》中的算法披露透明度要求

《電子商務法》中關(guān)于搜索結(jié)果自然展示義務的條款，是對算法自動化決策披露義務初步的回應。第18條規(guī)定了算法自動化決策的自然結(jié)果展示義務，即平臺的推薦算法搜索應提供非個性化推薦的一般結(jié)果，即不針對消費者個人的普通搜索結(jié)果?！秱€人信息保護法》第24條規(guī)定了算法自動化決策的透明度要求以及處理結(jié)果公平合理。這是我國在立法中對算法透明原則的確認，將對算法秩序的形成，數(shù)字正義的實現(xiàn)起到基礎(chǔ)規(guī)范作用[16]。算法自動化決策披露或透明包括兩個面向，即對政府披露和向公眾披露。算法的披露具體包含著從告知義務、向主管部門報備參數(shù)、向社會公開參數(shù)、存檔數(shù)據(jù)和公開源代碼等不同形式?！秱€人信息保護法》賦予信息主體的算法解釋說明權(quán)和拒絕權(quán)也可以看成是算法披露或透明要求的具體化體現(xiàn)。

3.1.2《算法治理指導意見》與《數(shù)據(jù)安全管理條例》的算法披露原則

在2021年9月29日，我國中央九部門印發(fā)的《算法治理指導意見》在其基本原則、基本目標和促進算法生態(tài)規(guī)范發(fā)展三個部分分別強調(diào)了算法自動化決策服務的披露要求，要求算法技術(shù)公開透明。在“基本原則”中表明，應引導算法應用公平公正、透明可釋，充分保障網(wǎng)民合法權(quán)益；在“主要目標”中提到要推動算法應用公平公正、公開透明；最后在“促進算法生態(tài)規(guī)范發(fā)展”中再次指出，要督促企業(yè)及時、合理、有效地公開算法基本原理、優(yōu)化目標、決策標準等信息，做好算法結(jié)果解釋，暢通投訴通道，消除社會疑慮，推動算法健康發(fā)展[17]。2021年11月14日，《網(wǎng)絡數(shù)據(jù)安全管理條例(征求意見稿)》發(fā)布，在我國其他關(guān)于算法披露透明度原則性要求立法規(guī)定的基礎(chǔ)上，規(guī)定互聯(lián)網(wǎng)平臺運營者有建立算法策略披露制度的義務，還應就制度的制定程序、裁決程序等進行披露，保障算法結(jié)果公平公正。

3.1.3《算法推薦管理規(guī)定》的算法推薦披露要求

我國國家互聯(lián)網(wǎng)信息辦公室等四部門于2022年1月4日發(fā)布《算法推薦管理規(guī)定》[18]，集中規(guī)范互聯(lián)網(wǎng)信息服務算法推薦活動。規(guī)定了算法推薦技術(shù)的概念、提供算法推薦服務的原則、算法推薦服務提供者的披露義務和責任，以及法推薦服務的監(jiān)督管理等內(nèi)容。

在《算法推薦管理規(guī)定》的定義中，“應用算法推薦技術(shù)”實質(zhì)是將算法推薦服務定位為技術(shù)的應用，而不是單純的技術(shù)，為后續(xù)其不能適用“技術(shù)中立”原則，而應當被規(guī)制、被監(jiān)管和被披露埋下伏筆。第7條集中規(guī)定了算法推薦服務提供者的披露義務和責任，包括算法安全主體責任、信息發(fā)布等算法審查和審核機制、算法安全評估等管理制度、制定并公開算法推薦相關(guān)服務規(guī)則等。明確為我國算法推薦服務提供者施加了公開其算法推薦規(guī)則的義務。除此之外，第8、9、10條分別規(guī)定了算法推薦服務提供者定期審核、信息內(nèi)容安全管理、不得設置歧視或者偏見的義務。這些義務均在其算法推薦技術(shù)規(guī)則公開和透明時所適用。根據(jù)第16條，算法服務提供者應當披露算法的事項為：算法的基本原理、目的意圖和主要運行機制。根據(jù)第23-29條，監(jiān)管部門應當建立算法分級分類安全管理制度、算法備案制度和算法安全評估制度。但包括《算法推薦管理規(guī)定》在內(nèi)的我國算法披露相關(guān)法律并未涉及算法服務提供者的責任類型和責任承擔問題。

3.2 中國算法披露的實踐

自我國《個人信息保護法》正式施行后，網(wǎng)絡平臺紛紛更新其隱私和個人信息保護政策，并根據(jù)其中對算法自動化決策的披露要求做出相應舉措。如“微信”和“淘寶”已經(jīng)在其應用中專門推出“個人信息權(quán)限”設置，增添“授權(quán)管理”和“個性化廣告管理”選項，允許用戶退出個人信息自動化決策，并在其中說明其個性化廣告推送的運作機理。社交媒體“微博”也設置有“個性化廣告推薦”和“個性化內(nèi)容推薦”的退出選項，向公眾披露其算法自動化決策的存在，并允許用戶自行決定是否參與算法自動化決策。

國內(nèi)網(wǎng)絡平臺如美團，開始率先將其算法自動化決策的相關(guān)規(guī)則予以公開。2021年9月10日，美團首次在其微信公眾號“美團Meituan”公布了外賣配送的“預估送達時間算法”的運算規(guī)則。隨后，于11月5日在其微信公眾號再次就其“訂單分配算法”進行更詳細的披露。美團自行披露算法自動化決策的內(nèi)容包括：算法自動化決策的目的、運行邏輯、原則，以及最終達到的效果。美團以通俗易懂的語言表述了“訂單分配算法”的運行規(guī)則，并以圖標、示意圖和舉例說明的形式來進行算法適用的說明和論證，是國內(nèi)算法詳細披露的有力嘗試。

3.3 中國算法披露立法與實踐的不足分析

當前我國立法只是對算法透明提出了原則性要求，對算法披露的詳細事項、披露等級和算法披露具體制度構(gòu)建均未有明確規(guī)定，處于相對匱乏狀態(tài)。如《電子商務法》《個人信息保護法》中事先的規(guī)制只是要求算法自動化決策服務提供者披露算法自動化決策的存在，并沒有要求披露具體的算法自動化決策的模型、運行邏輯、原則、規(guī)則等內(nèi)容。而《算法治理指導意見》《數(shù)據(jù)安全管理條例》中只是對算法披露公平公正、透明可釋，以及對算法披露制度的構(gòu)建提出了原則性要求。《算法推薦管理規(guī)定》在一定程度上彌補了上述不足，就算法披露的事項、制度等進行了初步規(guī)定，但與域外當前的立法強度相對比，仍顯不足。

鑒于我國對算法披露等級與制度立法上的不足，我國大型互聯(lián)網(wǎng)平臺對算法的披露事項要明顯弱于域外。同時，我國存在與域外相同的問題，即同樣根據(jù)《個人信息保護法》等對信息主體的賦權(quán)，在其個人信息與隱私政策中保障信息主體知情權(quán)、算法解釋權(quán)、算法自動化決策退出權(quán)等的實現(xiàn)，而沒有著手開始建立專門的算法披露制度。當前，我國對算法披露的具體事項規(guī)定的過于概括與模糊，對算法披露相應的監(jiān)督管理制度的構(gòu)建、算法責任的落實仍顯不足，有待進一步的完善。

4 域外算法披露對中國的啟示

域外算法披露相關(guān)立法在近幾年不斷細化算法披露的事項，強化算法披露等級，對算法披露相應監(jiān)管和責任制度的構(gòu)建也趨于嚴格與具體。我國在算法披露立法層面，目前僅對算法披露事項提出披露基本原理、目的意圖和主要運行機制的規(guī)定，對自動化決策算法的透明度提出初級要求，規(guī)定算法結(jié)果公平公正原則，缺乏算法披露事項的具體規(guī)定，仍有很大提升空間。而在實踐層面，境內(nèi)外都表現(xiàn)出缺乏統(tǒng)一監(jiān)督指導和歸責制度，導致披露不充分、不完全等與立法存在落差的問題，急需構(gòu)建相應監(jiān)管和責任制度。因此，借鑒域外算法披露經(jīng)驗，我國可從提升算法披露等級、構(gòu)建統(tǒng)一雙軌制算法披露監(jiān)督機制和落實本土算法披露責任三方面，來完善算法披露的立法和實踐。

4.1 強化算法披露等級：從初級公開到具體透明

歐盟對算法披露的規(guī)制從信息主體知情權(quán)、算法解釋權(quán)、自動化決策退出權(quán)著手，對算法的透明度提出更高的要求，逐步要求披露影響算法自動化決策的重要參數(shù)。而美國從加強對政府機構(gòu)監(jiān)管的角度，除了要求算法透明、披露算法運行邏輯、結(jié)果和重要參數(shù)，還要求披露政府機構(gòu)自動化決策算法的源代碼。算法公開和透明是算法披露的原則性要求，算法自動化決策的具體披露事項則是算法披露的層級問題。

當前可將算法披露分為初級公開、具體透明和完全披露三個等級。我國在《個人信息保護法》中要求算法公開透明、結(jié)果公平公正，在《算法治理指導意見》中提出算法透明可釋原則，但均不涉及具體算法公開事項，可視為算法披露的初級公開。歐盟除了在GDPR中提出算法透明，要求披露算法的存在、披露算法運行邏輯和算法結(jié)果可解釋外，還在《平臺與商戶間公平性和透明度法》中規(guī)定算法披露的具體參數(shù)，可被視為是算法具體透明的第二披露等級。美國在《過濾氣泡透明度法案》除了提出算法透明度要求外，紐約州的議案甚至要求政府機構(gòu)披露所使用算法的源代碼。算法源代碼的公開可被視為算法的完全披露。

算法披露程度攸關(guān)公民個人信息權(quán)益、數(shù)字權(quán)益的保障，也事關(guān)國家網(wǎng)絡安全與平臺監(jiān)管的效率和公平。為保障個人信息權(quán)益的實現(xiàn)和對算法監(jiān)管的效率，我國有必要從算法披露的初級公開過渡到算法具體透明階段。算法具體透明要求在立法中除了規(guī)定算法透明和可釋的原則性條款外，對算法披露的具體事項應予以明確規(guī)定。算法披露應公開算法自動化決策的存在、公開算法的運行邏輯和運行結(jié)果，這是算法初級披露要求。除此之外，互聯(lián)網(wǎng)企業(yè)還應公開影響算法自動化決策做出的重要參數(shù)和影響因子，并在每次影響參數(shù)變動時，及時更新其算法披露政策文件，并通知用戶。

而對于公開算法源代碼的完全披露，涉及到互聯(lián)網(wǎng)企業(yè)的商業(yè)秘密保護等利益，事關(guān)互聯(lián)網(wǎng)行業(yè)的發(fā)展，應采取審慎態(tài)度。要著重考量在算法完全披露場景中可能存在的使算法本身更容易受到攻擊、算法安全受到減損等算法保護與監(jiān)管的“平衡”問題。對于后續(xù)是否要求事關(guān)國計民生的政府機構(gòu)將其使用算法完全披露，則仍有討論空間。

4.2 構(gòu)建“內(nèi)部自查+外部審查”雙軌制算法披露監(jiān)督機制

我國《個人信息保護法》初步勾勒出算法監(jiān)督機制的大致框架，規(guī)定了算法事前影響評估制度，個人信息處理者應當在事前就自動化決策算法進行個人信息保護影響評估。規(guī)定了個人信息處理者的合規(guī)審計制度，當算法存在較大風險或發(fā)生安全事故時，使用算法的企業(yè)應當自行進行合規(guī)審計，相關(guān)機構(gòu)有權(quán)要求企業(yè)進行合規(guī)審計。規(guī)定了算法自動化決策結(jié)果的公平、公正。然而，對比美國建立起的加強對算法模型有效監(jiān)督的算法披露監(jiān)督制，我國原則性和框架性的算法披露機制仍應被統(tǒng)一和具體化構(gòu)建。

具言之，應進一步統(tǒng)一明確算法披露監(jiān)督制的機理與體系層次。算法披露監(jiān)督制脫胎于“技術(shù)治理”，其機理要區(qū)別于傳統(tǒng)“主體-行為-責任”的監(jiān)管思路[19]。算法披露監(jiān)督制應構(gòu)建起多元化和多層次的算法披露監(jiān)管體系。就事前的算法披露影響評估機制而言，在我國《個人信息保護法》的原則性規(guī)定之下，應進一步細化事前算法披露評估的啟動標準。算法影響評估機制源自歐盟隱私影響評估機制[20]，是對算法事前進行風險評估并將評估結(jié)果予以披露的制度。美國《算法問責法案》將一定用戶數(shù)量和訪問量作為高風險評估的啟動標準，這一標準的設定將使“數(shù)字守門人”的大型互聯(lián)網(wǎng)公司承擔更高的責任。我國進一步可參考域外立法例，將用戶數(shù)量、訪問量、廣告營收、企業(yè)市值等作為算法披露事前評估的啟動條件，分別為不同層級的互聯(lián)網(wǎng)企業(yè)設置不同的算法事前評估啟動標準。

就事中和事后的算法披露監(jiān)管機制而言，應構(gòu)建“內(nèi)部自查+外部監(jiān)督”的雙軌制監(jiān)管制度。內(nèi)部自查制可設計為算法使用過程中互聯(lián)網(wǎng)企業(yè)的自我審查和自我糾錯機制。可參考Facebook獨立審查委員會制度[21]，創(chuàng)建獨立的企業(yè)算法監(jiān)督委員會或?qū)彶槲瘑T會。通過建立內(nèi)部自查機制、開放內(nèi)部公眾投訴通道等，定期和不定期地對平臺自身算法政策和系統(tǒng)的運作進行自查和自我監(jiān)督，并在國家監(jiān)管機構(gòu)審查時提供幫助和支持。外部監(jiān)督機制要求設立國家層面統(tǒng)一的算法披露監(jiān)管機構(gòu)，對算法進行統(tǒng)一監(jiān)管。一是公布算法披露準則，劃定算法披露紅線，將平臺運行算法過程中不充分披露、虛假披露算法等問題予以提前禁止；二是實時對企業(yè)運行算法過程中存在的違反國家披露準則的算法披露問題予以監(jiān)管。必要時可通知企業(yè)算法披露監(jiān)督委員會進行自查，或直接要求互聯(lián)網(wǎng)企業(yè)進行算法披露整改。通過建立事前風險評估制度和“內(nèi)部自查+外部審查”的雙軌制算法披露監(jiān)督機制，多元化保障算法披露要求的實現(xiàn)。

4.3 落實本土算法披露的責任類型化與體系化

正如法諺所言：無責任則無權(quán)利。對算法披露等級強化、保障算法透明與公開的關(guān)鍵除了構(gòu)建雙軌制監(jiān)督機制之外，還應當包括對算法服務主體施加責任，確保本土算法披露類型化與體系化的構(gòu)建，以責任追究真正落實算法透明與公開等算法披露要求。

在對算法問責成為國際共識的背景下，可進一步落實本土算法服務主體違反算法披露義務承擔的責任類型與歸責體系。就算法服務主體未履行法律規(guī)定的披露要求應承擔的責任而言，應予以類型化。算法披露責任類型化體現(xiàn)在民事、行政與刑事責任類型分明、層層遞進并可以疊加適用。當算法服務主體未進行如實、充分披露侵害私主體的權(quán)益時，承擔相應的民事責任；當算法服務主體未遵守網(wǎng)信部門等算法披露監(jiān)管部門的監(jiān)督和執(zhí)法要求進行算法披露時，應當承擔相應的行政責任；當算法披露未遵守國家安全保障要求，存在危害國家安全等情形時，應當承擔相應的刑事責任。

就歸責原則與民事責任相匹配的體系化適用問題，在2018年“愛奇藝訴字節(jié)跳動”的中國算法推薦第一案中(2018京0108民初49421號)，法院就表明了“算法外衣難言技術(shù)中立”的立場，認為算法服務主體應當負一定程度的合理注意義務，采取了過錯責任原則。對算法披露承擔過錯責任還是嚴格責任的探討，離不開本土數(shù)字經(jīng)濟發(fā)展的背景。算法服務主體對算法的應用在數(shù)字經(jīng)濟發(fā)展中起著舉足輕重的作用。同時，對數(shù)字平臺進行正向的引導和適當?shù)谋O(jiān)管是數(shù)字經(jīng)濟健康和繁榮發(fā)展的關(guān)鍵[22]。考慮本土數(shù)字經(jīng)濟發(fā)展、算法披露的現(xiàn)狀與平臺責任立法的已有實踐，應對算法披露采取過錯責任原則，并構(gòu)建起相應的主觀過錯認定機制。在算法服務主體享受網(wǎng)絡空間中算法鴻利的同時，使其負擔一定程度的算法披露注意義務與審查義務。

5 結(jié) 語

算法披露使算法處于陽關(guān)之下，是平臺治理、互聯(lián)網(wǎng)治理的重要手段。算法披露已成為各國共識，且日趨嚴格。在域外對算法披露愈發(fā)收緊的國際大背景下，不同國家和地區(qū)基于本國法律傳統(tǒng)、實踐特色等，對算法披露要求呈現(xiàn)出局部強弱差異。當前算法披露分為初級公開、具體透明和完全披露三個等級。美國要求披露政府機構(gòu)算法的源代碼為算法完全披露，歐盟要求披露算法具體參數(shù)為算法披露具體透明階段，而我國當前處于算法披露初級公開水平?？紤]到算法披露在人工智能時代和智能社會的的必要性與重要性，我國有必要從算法披露的初級公開階段逐步過渡到算法具體透明層級。算法具體透明要求在算法“透明可釋”原則基礎(chǔ)上，對算法的運行邏輯、運行結(jié)果、算法參數(shù)和影響因子等予以公開。而對于公開算法源代碼完全披露的主體和程度，則仍有待今后進一步的探討。此外，為在實踐中有效貫徹落實算法披露具體要求，應構(gòu)建事前算法風險評估和事中與事后統(tǒng)一的算法披露監(jiān)督機制。在明確算法披露監(jiān)督制的機理與體系層次的基礎(chǔ)上，為我國創(chuàng)建“內(nèi)部自查+外部審查”的雙軌制監(jiān)管制度。在企業(yè)內(nèi)部設立獨立算法披露監(jiān)督委員會，在外部國家層面統(tǒng)一進行算法披露準則設置和統(tǒng)一監(jiān)管執(zhí)法。同時，兼顧數(shù)字經(jīng)濟發(fā)展與平臺責任立法已有實踐，落實本土算法披露的民事、行政、刑事責任類型化與過錯歸責機制的體系化。多措并舉、多管齊下,保障我國算法披露充分、完全，算法結(jié)果公平、公正。