文｜吳奕瀏 黎昊陽

人工智能時代下，在以算法推薦為工具的平臺經(jīng)濟(jì)發(fā)展如火如荼的同時，也為法律法規(guī)帶來了新的挑戰(zhàn)與風(fēng)險。由此，對算法問責(zé)進(jìn)行研究尤有重要意義?？v觀現(xiàn)有立法，意圖在算法侵權(quán)中厘清平臺的責(zé)任認(rèn)定與承擔(dān)，仍然存在著歸責(zé)標(biāo)準(zhǔn)不清、責(zé)任主體識別困難、責(zé)任承擔(dān)難以落實等困境。對此，應(yīng)當(dāng)細(xì)化規(guī)則標(biāo)準(zhǔn)、加大平臺證明責(zé)任、構(gòu)建完整的侵權(quán)賠償體系，遵循從歸責(zé)到主體識別，再到責(zé)任落實的邏輯標(biāo)準(zhǔn)，三位一體地完善算法推薦中的平臺責(zé)任建構(gòu)，最終達(dá)到治理行業(yè)亂象，引導(dǎo)行業(yè)有序發(fā)展的理想目標(biāo)。

本文嘗試對算法推薦帶來的法律問題進(jìn)行系統(tǒng)分析，結(jié)合我國平臺責(zé)任的現(xiàn)有相關(guān)立法，探討其不足并提出算法推薦平臺問責(zé)的完善建議，力求在推動我國平臺問責(zé)相關(guān)法律制度完善的同時，規(guī)范互聯(lián)網(wǎng)平臺經(jīng)濟(jì)的發(fā)展，促進(jìn)我國數(shù)字經(jīng)濟(jì)的繁榮。

一、與算法責(zé)任相關(guān)的立法

我國有關(guān)算法推薦的最早立法是2019年1月1日生效的《電子商務(wù)法》。該法第18條首次對平臺算法和個性化推薦進(jìn)行規(guī)定，明確要求平臺搜索算法應(yīng)“提供不針對其個人特征的選項”。該法第77條規(guī)定了平臺違反算法義務(wù)的責(zé)任，但以行政責(zé)任為主導(dǎo)的責(zé)任形式使消費者維權(quán)成本高，對平臺而言也很難發(fā)揮有效的規(guī)制作用。

此后，2020年3月1日施行的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》中，規(guī)定網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺采用個性化算法推薦技術(shù)推送信息的應(yīng)當(dāng)建立健全人工干預(yù)和用戶自主選擇機制。該款和《電子商務(wù)法》第18條類似，允許用戶主動關(guān)閉個性化推薦服務(wù)，并在算法推薦的運作機制中加強了人工干預(yù)。2021年9月1日實施的《中華人民共和國數(shù)據(jù)安全法》規(guī)定，網(wǎng)絡(luò)運營者利用用戶數(shù)據(jù)和算法推送新聞信息、商業(yè)廣告等，應(yīng)當(dāng)以明顯方式標(biāo)明“定推”字樣，并為用戶提供停止接收定向推送信息的功能。2021年9月，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合相關(guān)部門發(fā)布《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，首次明確“算法治理”概念并要求企業(yè)建立算法安全責(zé)任制度。2021年11月1日起實施的《個人信息保護(hù)法》，回應(yīng)了“大數(shù)據(jù)殺熟”等社會熱點問題，對救濟(jì)機制、平臺歸責(zé)原則、損害賠償責(zé)任和公益訴訟制度等均做出相關(guān)規(guī)定，體現(xiàn)出立法的時代性和本土性。

2022年1月，國家互聯(lián)網(wǎng)信息辦公室再次聯(lián)合相關(guān)部門發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱為《規(guī)定》），并于2022年3月1日起正式實施?！兑?guī)定》以互聯(lián)網(wǎng)信息服務(wù)算法推薦活動為切入點，明確要求企業(yè)強化責(zé)任意識，對算法應(yīng)用產(chǎn)生的結(jié)果負(fù)主體責(zé)任?！兑?guī)定》為我國算法治理奠定了一定的基礎(chǔ)，但在平臺與算法責(zé)任定位、平臺問責(zé)范圍與幅度及歸責(zé)模式等方面，并沒有進(jìn)一步的相關(guān)規(guī)定?？傮w而言，我國有關(guān)算法的現(xiàn)有立法普遍層級不高且較為分散，內(nèi)容不夠細(xì)化。

二、算法推薦背景下平臺責(zé)任的認(rèn)定困境

（一）歸責(zé)標(biāo)準(zhǔn)不清

我國目前關(guān)于算法推薦的相關(guān)立法，雖然體現(xiàn)出了對于算法、平臺責(zé)任的重視，但仍然存在著內(nèi)容分散、不夠細(xì)化等問題，對平臺、算法的責(zé)任認(rèn)定、規(guī)則標(biāo)準(zhǔn)并不清晰。最早出臺的《電子商務(wù)法》中通過增加算法的事前監(jiān)管，掙脫了傳統(tǒng)以結(jié)果作為平臺過錯的判斷依據(jù)的桎梏，但其中對于平臺盡到義務(wù)的事前監(jiān)管標(biāo)準(zhǔn)尚無規(guī)定。同時，《個人信息保護(hù)法》將平臺算法造成損害的歸責(zé)原則界定為過錯推定責(zé)任，但如何根據(jù)不同的過錯程度標(biāo)準(zhǔn)對平臺進(jìn)行責(zé)任認(rèn)定，仍然有待明晰。2022年3月1月1日正式實施的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》雖然強化了平臺責(zé)任，為應(yīng)對算法推薦亂象提供了指引和規(guī)范，但在歸責(zé)標(biāo)準(zhǔn)上仍然沒有明確。

總體來看，我國目前立法中對于算法侵權(quán)問題的責(zé)任劃分處于較為零散、模糊的狀態(tài)。而歸責(zé)標(biāo)準(zhǔn)作為算法糾紛中基礎(chǔ)性的標(biāo)準(zhǔn)問題，其對于司法實踐、立法導(dǎo)向指引等方面均具有重要意義，完善歸責(zé)標(biāo)準(zhǔn)是確定平臺責(zé)任的固本之基。

（二）責(zé)任主體識別困難

在涉及算法侵權(quán)案件之中，侵權(quán)行為涉及主體眾多，包括算法開發(fā)者、算法使用者（即平臺）、算法消費者。在某些情形下，算法開發(fā)者與算法使用者會出現(xiàn)重合情形，如平臺自主開發(fā)設(shè)計算法并利用算法為用戶提供服務(wù)。但大部分情形下，二者主體分離。同時基于算法的自主學(xué)習(xí)能力，算法消費者也通過自己的行為參與了算法的完善。從算法投入使用到侵權(quán)行為發(fā)生之時，每一環(huán)節(jié)均有可能存在不同的算法參與主體。在人工智能技術(shù)廣泛應(yīng)用的當(dāng)今背景之下，參與算法的主體兼具復(fù)雜性與可變性，加之算法推薦所固有的黑箱特性，均為侵權(quán)主體的識別與歸責(zé)認(rèn)定帶來了一定的困難。

不僅如此，隨著人工智能時代下算法自動化趨勢的加強，平臺多憑借“技術(shù)中立”的特性，以其不存在主觀過錯進(jìn)行抗辯，最終導(dǎo)致責(zé)任主體識別困難重重的責(zé)任鴻溝。例如，在愛奇藝訴今日頭條（字節(jié)跳動公司）信息流推薦傳播《延禧攻略》一案中，今日頭條辯稱侵權(quán)內(nèi)容為算法推薦技術(shù)所為，自己并無主觀過錯，將侵權(quán)責(zé)任主體劃歸為算法自身以逃避平臺責(zé)任。由此可見，在算法侵權(quán)中，責(zé)任主體的確認(rèn)在自然人、法人和技術(shù)三者之中都存在著識別困境。

（三）責(zé)任承擔(dān)難以落實

隨著人工智能時代下算法技術(shù)自動化的發(fā)展，平臺多以技術(shù)中立為借口逃避侵權(quán)責(zé)任承擔(dān)。在《個人信息保護(hù)法》公開實施之后，將平臺算法造成損害的歸責(zé)原則界定為過錯推定責(zé)任，一定程度上回應(yīng)了這一問題。

然而，在責(zé)任承擔(dān)上仍然難以落實。侵權(quán)損害賠償多以填補損失、返還侵權(quán)主體因侵權(quán)行為所獲利益等作為賠償量化標(biāo)準(zhǔn)。但算法侵權(quán)因其所固有的隱蔽性、不確定性，受害人所遭受的損害結(jié)果難以確定。在財產(chǎn)性損失上，客觀上難以統(tǒng)計侵權(quán)作品的推送人數(shù)與推送范圍，財產(chǎn)性損失的量化也就無從談起；非財產(chǎn)性損失上，如隱私權(quán)遭受侵犯，也存在著侵權(quán)行為造成影響范圍難以確定的后顧之虞。

同時，懲罰性賠償和精神損害賠償在算法侵權(quán)案件中的缺位，也導(dǎo)致了受害人難以得到充分救濟(jì)、侵權(quán)問題屢禁不止的責(zé)任困境。目前，我國立法中對于懲罰性賠償要求嚴(yán)格，以消費者權(quán)益保護(hù)法為濫觴，繼而在合同等領(lǐng)域逐步完善，但在算法侵權(quán)領(lǐng)域還未有所規(guī)定。然而，懲罰性賠償對于彌補受害人損失、阻隔次生危害等方面有著重大意義；精神損害賠償也因其加諸受害人的高門檻舉證責(zé)任而難以適用。在朱某與北京百度網(wǎng)訊科技有限公司隱私權(quán)糾紛案中，法院因受害人無法證明其受到的實質(zhì)上損害，駁回了其精神損害賠償?shù)脑V求。精神損害賠償?shù)倪m用困難，阻礙了精神損害上侵權(quán)責(zé)任的最終落實承擔(dān)，也不利于遏制侵權(quán)行為、救濟(jì)受害者權(quán)益。

由此而引申出的算法侵權(quán)賠償標(biāo)準(zhǔn)模糊，也是平臺責(zé)任承擔(dān)之中的最終落實問題。

三、算法推薦背景下平臺責(zé)任的完善路徑

（一）因地制宜，細(xì)化歸責(zé)標(biāo)準(zhǔn)

對于目前在算法侵權(quán)案件中歸責(zé)標(biāo)準(zhǔn)不清的問題，細(xì)化、明晰歸責(zé)標(biāo)準(zhǔn)則是認(rèn)定平臺責(zé)任承擔(dān)的破局之道。現(xiàn)行立法在歸責(zé)方面多為統(tǒng)籌性、原則性立法，在具體案件適用過程中存在著歸責(zé)適用不清的問題。對于不同應(yīng)用場景中的風(fēng)險規(guī)制、責(zé)任承擔(dān)，應(yīng)當(dāng)因地制宜，結(jié)合應(yīng)用場景的風(fēng)險程度、應(yīng)用特點等設(shè)置對應(yīng)的歸責(zé)標(biāo)準(zhǔn)體系。例如，以風(fēng)險程度作為區(qū)分，對于高風(fēng)險的關(guān)鍵算法系統(tǒng)，可以考慮對平臺采取嚴(yán)格責(zé)任或者無過錯責(zé)任的歸責(zé)標(biāo)準(zhǔn)，并輔以更高要求的事前監(jiān)管義務(wù)；對于風(fēng)險適中的算法系統(tǒng)，則可以考慮適用過錯推定責(zé)任，輔以適中的事前監(jiān)管義務(wù)；對于風(fēng)險較低、使用范圍較小的算法系統(tǒng)，可以適當(dāng)減輕其責(zé)任與義務(wù)。

早在2017年5月，歐洲經(jīng)濟(jì)與社會委員會發(fā)布了倡議建立AI監(jiān)控和認(rèn)證的標(biāo)準(zhǔn)系統(tǒng)的意見，實質(zhì)上正是呼吁建立針對人工智能算法歸責(zé)標(biāo)準(zhǔn)。標(biāo)準(zhǔn)是保障算法有序發(fā)展的壓艙石，建立一套系統(tǒng)性的完整歸責(zé)標(biāo)準(zhǔn)，是各國在應(yīng)對算法侵權(quán)問題上的大勢所趨。

（二）加大平臺證明責(zé)任

目前人工智能尚未在法律上擁有責(zé)任主體地位，故確保受害人能確定到承擔(dān)責(zé)任的自然人、法人主體，是責(zé)任主體識別的首要目標(biāo)。在其中，可以通過事前備案和事后追責(zé)兩方面，加大平臺證明責(zé)任，促進(jìn)責(zé)任主體識別。

事前備案中，可以考慮通過在算法從開發(fā)到實際投入使用的各個階段的審計日志中，對各個主體的編碼行為作出及時記錄，并由平臺對此承擔(dān)證明責(zé)任，以此為責(zé)任主體識別與責(zé)任劃分提供直接依據(jù)。在美國公共政策委員會發(fā)布的《關(guān)于算法透明度和責(zé)任的聲明》中提及，應(yīng)在系統(tǒng)開發(fā)和部署的每個階段應(yīng)用算法透明和可問責(zé)性的原則，使用算法決策的機構(gòu)應(yīng)對算法所遵循的程序和具體制定的決策進(jìn)行解釋。在事前監(jiān)管中，可通過事前備案，為未來可能發(fā)生的責(zé)任承擔(dān)糾紛提供事前保障。

事后追責(zé)中，在對算法的不同主體進(jìn)行責(zé)任分配之時，可以加大平臺承擔(dān)的責(zé)任。其中，為保護(hù)受害者權(quán)益，可以考慮對平臺、算法開發(fā)者一方實行不真正連帶責(zé)任，即受害者可向任意一方主張承擔(dān)賠償責(zé)任，再由其內(nèi)部進(jìn)行責(zé)任分配與追償。如此一來，將責(zé)任主體的識別責(zé)任轉(zhuǎn)移到信息優(yōu)勢方，能夠補足侵權(quán)主體與受害者在算法侵權(quán)上天然的信息不對稱，能夠保護(hù)相對弱勢方權(quán)益，實現(xiàn)責(zé)權(quán)益平衡。

（三）構(gòu)建完整的侵權(quán)賠償體系

在算法侵權(quán)中，難以確定的賠償數(shù)額、缺位的懲罰性賠償和精神損害賠償造成了侵權(quán)責(zé)任難以落實，受害者權(quán)益難以獲得救濟(jì)的困境。損害賠償問題正是侵權(quán)責(zé)任落實的戈爾迪之結(jié)，構(gòu)建完整的侵權(quán)賠償體系勢在必行。

首先，對于侵權(quán)損害賠償數(shù)額難以確定的問題，在個案上，應(yīng)明確規(guī)定受害人有權(quán)要求侵權(quán)人（即平臺）提供侵權(quán)信息的來源、傳播情況，以此作為計算賠償金額的依據(jù)。如此規(guī)定也與平臺在算法侵權(quán)案件中所擁有的信息優(yōu)勢地位相匹配，有利于降低受害者尋求權(quán)利救濟(jì)的門檻。

其次，應(yīng)當(dāng)增設(shè)懲罰性賠償與精神損害賠償。如果算法相關(guān)主體明知算法存在缺陷，仍然設(shè)計、使用，造成他人財產(chǎn)、精神健康嚴(yán)重?fù)p害的，受害人可以主張懲罰性賠償。對于懲罰性賠償?shù)囊?guī)定同樣基于算法開發(fā)者、使用者所享有的信息優(yōu)勢地位，向信息弱勢方即受害者有一定傾斜，其存在也能震懾缺陷算法的設(shè)計與使用。

同時，在算法侵權(quán)中適用精神損害賠償可以根據(jù)個案情形適當(dāng)放寬要求?！稓W盟一般數(shù)據(jù)保護(hù)條例》出臺后，《愛爾蘭數(shù)據(jù)保護(hù)法》以其作為依據(jù)修改了個人信息權(quán)益侵害的損害賠償責(zé)任，明確損害為物質(zhì)損害和非物質(zhì)損害，在實際上支持了算法侵權(quán)中對精神損害賠償?shù)脑V求。無獨有偶，《德國聯(lián)邦數(shù)據(jù)保護(hù)法》也將精神損害賠償?shù)摹皣?yán)重侵犯隱私”刪去。各國立法的舉措均表現(xiàn)出，國際上對于算法侵權(quán)中的精神損害賠償要求存在著放寬趨勢。

如此一來，通過施加平臺的信息提供義務(wù)，幫助確定損害賠償數(shù)額；再增設(shè)懲罰性賠償，將惡性侵權(quán)責(zé)任落實到位，輔以適當(dāng)放寬條件的精神損害賠償，由此構(gòu)成多位一體的完整算法侵權(quán)賠償體系，能夠確保最終的侵權(quán)責(zé)任承擔(dān)落實。

四、結(jié)語

在人工智能時代下，算法作為平臺經(jīng)濟(jì)的重要工具，其開發(fā)與使用進(jìn)一步推動了數(shù)字經(jīng)濟(jì)的發(fā)展與變革。算法推薦的發(fā)展過程中出現(xiàn)的現(xiàn)實問題，正是法律規(guī)制回應(yīng)的方向。通過了解現(xiàn)有立法及不足，探討歸責(zé)標(biāo)準(zhǔn)不清、責(zé)任主體識別困難、侵權(quán)責(zé)任承擔(dān)難以落實的問題。對此，在司法實踐和立法經(jīng)驗中探索前行，通過細(xì)化歸責(zé)標(biāo)準(zhǔn)、加大平臺證明責(zé)任、構(gòu)建完整的侵權(quán)賠償體系，遞進(jìn)式地探尋問責(zé)路徑。遵循問題導(dǎo)向的邏輯鏈條，期以立法之進(jìn)步，助力數(shù)字經(jīng)濟(jì)有序發(fā)展。