賈慧智

近期，一系列與算法相關(guān)的立法和政府管理文件相繼出臺(tái)，如《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》《〈反壟斷法〉修訂草案（公開征求意見稿）》《互聯(lián)網(wǎng)平臺(tái)分類分級(jí)指南（征求意見稿）》等。這是繼出臺(tái)網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、電子商務(wù)法、個(gè)人信息保護(hù)法等法律法規(guī)之后，國(guó)家為進(jìn)一步加強(qiáng)對(duì)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理，采取的更加具體而有針對(duì)性的治理舉措。

在所有這些法律法規(guī)和管理文件中，算法透明作為算法治理的一項(xiàng)規(guī)制舉措，越來越明確而具體。尤其是在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（下稱《規(guī)定》）里，算法透明作為一項(xiàng)法治原則得以明確規(guī)定。

為加強(qiáng)算法透明原則在依法治理算法過程中的有效應(yīng)用和落實(shí)，提升算法法律規(guī)制效果，筆者擬結(jié)合當(dāng)前立法、執(zhí)法和司法實(shí)踐，就算法透明原則相關(guān)屬性、特征等五個(gè)方面予以辨析。

專業(yè)性：履行執(zhí)法和司法職責(zé)

透明作為一項(xiàng)原則，適用于現(xiàn)代法治政府行政管理的各個(gè)環(huán)節(jié)，也貫穿于現(xiàn)代法律制度之中。如《規(guī)定》所示，算法透明已成為中國(guó)算法治理的一項(xiàng)法治原則和行政法規(guī)規(guī)則。

《規(guī)定》第四條規(guī)定，算法推薦服務(wù)提供者提供算法推薦服務(wù)要遵循公開透明的原則。充分說明，算法透明在得到學(xué)界和管理部門充分關(guān)注及認(rèn)可基礎(chǔ)上，盡管出現(xiàn)一些抵制和反對(duì)，但已成為算法治理的重要法治原則和規(guī)制舉措。

就算法透明這一概念來講，在當(dāng)前算法治理理論與實(shí)踐中，具有狹義和廣義兩種理解：狹義的算法透明是指單獨(dú)公開算法源代碼、數(shù)據(jù)、決策樹等信息;廣義的算法透明不僅要公開源代碼、數(shù)據(jù)等信息，還要通過各種形式對(duì)算法決策具體原理、過程等作出解釋。

廣義的算法透明，包括算法透明和算法可解釋性。當(dāng)前，廣義算法透明理論在我國(guó)立法實(shí)踐中已在相當(dāng)程度上得到了認(rèn)可和采納。《規(guī)定》第十二條、個(gè)人信息保護(hù)法第二十四條，《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》第四條第十三項(xiàng)等立法和管理文件條款項(xiàng)里，都有基于上述理論對(duì)算法透明作出的具體規(guī)定和要求。

按照上述理論和法律法規(guī)要求，要做到算法透明，就要對(duì)算法代碼、數(shù)據(jù)、決策樹等信息進(jìn)行公開，并就算法決策定義、原理、過程等作出說明。這一過程，單從概念上理解就能明白，其是一系列非常專業(yè)的行為，涉及非常專業(yè)的技術(shù)。

對(duì)算法透明原則這一特性，算法相關(guān)服務(wù)提供者作為算法安全主體，對(duì)具有采取上述舉措落實(shí)相關(guān)責(zé)任具有義務(wù)。監(jiān)管部門在監(jiān)管執(zhí)法過程中，要依法監(jiān)督檢查相關(guān)主體算法透明義務(wù)履行和責(zé)任落實(shí)情況。在相關(guān)違法行為發(fā)生后的事后追責(zé)過程中，執(zhí)法和司法機(jī)關(guān)則要對(duì)相關(guān)行為進(jìn)行認(rèn)定，并在認(rèn)定基礎(chǔ)上作出處理決定。

基于上述算法透明的專業(yè)特性，在一系列執(zhí)法和司法過程中，作為非專業(yè)人士的相關(guān)執(zhí)法和司法人員，是否能夠以及如何突破專業(yè)障礙履行算法治理的執(zhí)法和司法職責(zé)，將是下一步法律法規(guī)出臺(tái)后需要認(rèn)真考慮的問題。

必要性：化解算法黑箱

算法透明原則之所以受到國(guó)內(nèi)外算法治理理論和實(shí)務(wù)界高度關(guān)注和認(rèn)可，尤其是被我國(guó)相關(guān)法律法規(guī)所采納，在于它在算法黑箱治理中扮演越來越重要的角色。

黑箱理論源自控制論，指的是不管系統(tǒng)內(nèi)部結(jié)構(gòu)如何、只從輸入和輸出兩端對(duì)系統(tǒng)規(guī)律進(jìn)行分析的理論方法。算法黑箱，就其本質(zhì)來講是一個(gè)技術(shù)問題，其形成有算法技術(shù)本身的原因，也有技術(shù)應(yīng)用的社會(huì)環(huán)境原因。

算法本身具有專業(yè)性、復(fù)雜性、保密性等特征，有算法使用者故意隱瞞或利用支配地位，算法黑箱就會(huì)形成。算法黑箱一旦產(chǎn)生，極易發(fā)生使用者侵犯各方面利益的行為。當(dāng)前社會(huì)與算法有關(guān)的一系列問題，如算法歧視、誘導(dǎo)用戶沉迷、流量造假、大數(shù)據(jù)殺熟、算法共謀、信息繭房等，都是在算法黑箱基礎(chǔ)上發(fā)生。

此外，算法黑箱嚴(yán)重時(shí)還會(huì)影響公權(quán)力應(yīng)用。《算法推薦管理規(guī)定》第十四條的具體列舉式規(guī)定，就是在算法推薦服務(wù)領(lǐng)域因算法黑箱存在而極易發(fā)生的一系列違法問題的典型概括。因此，要從根源上治理算法黑箱所引發(fā)的一系列社會(huì)問題，首要舉措就是算法透明。

具體到法治治理過程中，要把算法透明作為法律原則和具體規(guī)則納入相關(guān)法律法規(guī)，并在執(zhí)法和司法過程加以執(zhí)行，這也是算法法律規(guī)制中采納和建立算法透明這一法治原則的必要之所在。

局限性：受商業(yè)秘密保護(hù)制約

算法透明原則在算法黑箱治理中發(fā)揮著非常重要的作用。但是，由于算法專業(yè)技術(shù)屬性，算法透明原則在實(shí)踐中往往受到商業(yè)秘密保護(hù)法律制度制約。

算法是一種有限、確定、有效并適合用計(jì)算機(jī)程序解決問題的方法，涉及算法源代碼、數(shù)據(jù)及大量技術(shù)細(xì)節(jié)，從其本身性質(zhì)來看需要算法使用者或算法設(shè)計(jì)者付出巨大成本，做出巨大投資才能獲得，涉及巨大經(jīng)濟(jì)利益。

根據(jù)我國(guó)反不正當(dāng)競(jìng)爭(zhēng)法第四條和《最高人民法院關(guān)于審理侵犯商業(yè)秘密民事案件適用法律若干問題的規(guī)定》第一條的規(guī)定，算法是受法律保護(hù)的商業(yè)秘密。而作為一種商業(yè)秘密，我國(guó)民法典、反不正當(dāng)競(jìng)爭(zhēng)法、專利法等一系列法律及其他法規(guī)等，對(duì)其都有明文保護(hù)性規(guī)定。這就使算法透明原則與算法商業(yè)秘密保護(hù)法律制度發(fā)生沖突，進(jìn)而對(duì)算法透明原則下可以公開的源代碼、數(shù)據(jù)等信息范圍和算法決策在內(nèi)容、形式、對(duì)象等方面，作出一定程度的限制。同時(shí)，這也對(duì)立法過程中有關(guān)算法透明原則的具體規(guī)定，以及執(zhí)法和司法過程所獲取與算法有關(guān)信息的處理，提出具體要求，即立法中的算法透明原則和規(guī)定須以不侵犯算法使用者或設(shè)計(jì)者商業(yè)秘密為前提，執(zhí)法司法過程相關(guān)機(jī)構(gòu)和人員須嚴(yán)格履行保護(hù)當(dāng)事人商業(yè)秘密的義務(wù)。

可行性：行業(yè)自律是關(guān)鍵因素

算法使用者或設(shè)計(jì)者出于自身利益考慮，一般都會(huì)有刻意隱瞞行為，再加上商業(yè)秘密法律制度的保護(hù)，很難做到主動(dòng)而徹底地推動(dòng)算法透明原則落實(shí)。政府監(jiān)管部門則受專業(yè)技術(shù)和商業(yè)秘密保護(hù)法律制度影響，雖有職責(zé)和義務(wù)監(jiān)督和指導(dǎo)算法使用者或設(shè)計(jì)者落實(shí)算法透明原則和舉措，卻在監(jiān)督和指導(dǎo)實(shí)際效果上有一定局限性。這些實(shí)際情況對(duì)算法透明原則的落實(shí)和適用形成很大制約。

但是，這并不意味著算法透明不具有可行性。相關(guān)法律法規(guī)和管理文件的規(guī)定，為算法透明原則在算法規(guī)制過程中得到徹底而有效地落實(shí)創(chuàng)造了良好條件和機(jī)制。

現(xiàn)實(shí)中，行業(yè)協(xié)會(huì)組織具有專業(yè)技術(shù)知識(shí)、設(shè)備和人員，能夠利用其優(yōu)勢(shì)，牽頭制定既可以讓專業(yè)監(jiān)管人士明白又可以保護(hù)商業(yè)秘密的統(tǒng)一算法技術(shù)標(biāo)準(zhǔn)，在盡最大可能確保算法使用者或設(shè)計(jì)者的商業(yè)秘密的同時(shí)，從技術(shù)層面大幅提高算法對(duì)于行業(yè)監(jiān)管主體和用戶的透明度。

同時(shí)，行業(yè)協(xié)會(huì)組織還可以要求算法使用者或設(shè)計(jì)者在算法設(shè)計(jì)時(shí)，嚴(yán)格遵守行業(yè)協(xié)會(huì)牽頭制定的統(tǒng)一算法技術(shù)標(biāo)準(zhǔn)，從而有效確保算法技術(shù)本身中立性。

此外，結(jié)合廣義算法透明理論要求，在優(yōu)化算法透明度和可解釋性過程中，可以在算法公開和解釋的內(nèi)容、形式、對(duì)象等方面做一些技術(shù)性處理，在保證監(jiān)管、執(zhí)法、司法等工作有效開展以及公眾或用戶知情權(quán)和其他消費(fèi)者權(quán)益的同時(shí)，確保商業(yè)秘密不被侵犯。

至此，算法透明原則與商業(yè)秘密保護(hù)制度之間的沖突可以得到有效解決，算法透明原則就可以在算法治理以及相應(yīng)立法、執(zhí)法和司法中發(fā)揮應(yīng)有效用。

前置性：算法透明與事后追責(zé)

在當(dāng)前算法治理實(shí)踐中，法律規(guī)制一般都采用事前規(guī)制、事后問責(zé)和救濟(jì)模式。算法透明原則在國(guó)內(nèi)外實(shí)踐中，都屬于事前規(guī)制。正如歐洲議會(huì)發(fā)布的《算法問責(zé)與透明的治理框架》所主張，沒有事前了解，就不能進(jìn)行事后追責(zé)，更無法開展有效規(guī)制。

算法透明原則通過優(yōu)化算法技術(shù)透明度，確保用戶或大眾知情權(quán)，進(jìn)而賦予了用戶和大眾消費(fèi)選擇權(quán);通過優(yōu)化算法技術(shù)的可解釋性，幫助監(jiān)管人士突破技術(shù)障礙，提高監(jiān)管效果;通過強(qiáng)化對(duì)算法黑箱的治理，遏制了算法使用者或設(shè)計(jì)者利用技術(shù)優(yōu)勢(shì)追逐私利的僥幸心理。這樣前置性的規(guī)制，有助于減少盲目消費(fèi)造成的利益受損，減少技術(shù)障礙造成的違法行為和日常執(zhí)法、事后責(zé)任追究和權(quán)利救濟(jì)。因此，在算法法律規(guī)制中，應(yīng)該將算法透明原則作為算法追責(zé)前提加以規(guī)定。而在日常執(zhí)法和司法中，執(zhí)法和司法機(jī)構(gòu)及人員應(yīng)該重點(diǎn)關(guān)注其事前規(guī)制效應(yīng)。

綜上所述，算法透明是當(dāng)前算法治理的一項(xiàng)重要舉措，是算法法律規(guī)制的一項(xiàng)重要法治原則。它具有很強(qiáng)的專業(yè)技術(shù)屬性，是破解算法黑箱的必然選擇。雖然在具體適用中與商業(yè)秘密保護(hù)法律制度有一定沖突，但通過行業(yè)協(xié)會(huì)組織自律加持，算法透明原則依然能夠很好地適用于對(duì)算法的治理，尤其有助于對(duì)算法黑箱的化解。

當(dāng)然，在具體實(shí)踐中，尤其是在具體執(zhí)法、司法過程中，要堅(jiān)持算法透明原則前置，并在此基礎(chǔ)上，對(duì)日常算法透明法律法規(guī)要求落實(shí)情況進(jìn)行執(zhí)法檢查，對(duì)相關(guān)違法犯罪活動(dòng)進(jìn)行行政或司法追責(zé)，對(duì)相關(guān)利益受損用戶進(jìn)行救濟(jì)頂

（作者系北京市公安局東城分局反恐與巡特警支隊(duì)副支隊(duì)長(zhǎng)）

（責(zé)編王茜美編劉曉瑩）