□ 文 孫雪玲 王黎黎

0 引言

隨著數(shù)字通信技術(shù)的發(fā)展和移動終端設(shè)備的普及，海量的用戶數(shù)據(jù)得到極大的開發(fā)和利用，以篩選和分發(fā)為技術(shù)依托的算法推薦技術(shù)應(yīng)時而生，成為互聯(lián)網(wǎng)企業(yè)搶占市場份額、提高企業(yè)競爭力的關(guān)鍵。算法推薦技術(shù)的應(yīng)用不僅提高了網(wǎng)絡(luò)用戶的資源檢索效率，而且為數(shù)字經(jīng)濟的繁榮注入強勁力量。然而，由于算法推薦技術(shù)的專業(yè)性、復(fù)雜性和不透明性等技術(shù)特征，同時引發(fā)了個人信息泄露、算法歧視、算法歸責(zé)困難等諸多法律問題，對用戶個人基本權(quán)益造成現(xiàn)實的侵害。

1 算法推薦的概述

1.1 算法與算法推薦的一般含義

算法、大數(shù)據(jù)已經(jīng)成為人工智能的核心，嵌入到社會經(jīng)濟運行的各個領(lǐng)域。算法是根據(jù)預(yù)先設(shè)定的架構(gòu)和代碼程序，輸入的數(shù)據(jù)經(jīng)過分析和處理，轉(zhuǎn)化為輸出結(jié)果。而算法推薦技術(shù)是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息。簡單來說，算法推薦技術(shù)會通過抓取用戶日常的使用數(shù)據(jù)，分析得出用戶的行為習(xí)慣和興趣喜好，進而精準(zhǔn)化地進行信息推薦及分發(fā)。

數(shù)字經(jīng)濟時代，算法推薦成為互聯(lián)網(wǎng)平臺過濾、分發(fā)海量數(shù)據(jù)的生產(chǎn)工具，被廣泛應(yīng)用于新聞推送和電商平臺等領(lǐng)域中，提高了互聯(lián)網(wǎng)平臺信息處理能力，同時給商業(yè)企業(yè)創(chuàng)造了巨大的經(jīng)濟效益，平臺企業(yè)充分享受著算法技術(shù)帶來的紅利。但對于普通用戶來說，算法推薦是一把“雙刃劍”。一方面，個性化推薦算法可以通過對互聯(lián)網(wǎng)平臺用戶的數(shù)據(jù)信息進行挖掘和分析，平臺根據(jù)對用戶個人需求和興趣偏好進行精準(zhǔn)化內(nèi)容推送，節(jié)省搜索時間與成本；另一方面，算法由于太過于“了解”用戶，只會根據(jù)用戶標(biāo)簽推薦用戶自身感興趣的內(nèi)容，長此以往就會帶來“大數(shù)據(jù)殺熟”“算法歧視”“信息繭房”等法律風(fēng)險。

本文以算法推薦技術(shù)為研究對象，分析算法推薦技術(shù)應(yīng)用中的法律問題，探求一條規(guī)范化治理道路，以期在促進科學(xué)技術(shù)繁榮向上的同時，切實維護網(wǎng)絡(luò)用戶的合法權(quán)益。

1.2 算法推薦的現(xiàn)行立法規(guī)定

對于算法推薦的法律規(guī)定，我國采取的是散布在多部法律文件中的分散立法模式。2019年《電子商務(wù)法》率先對電商平臺商品或者服務(wù)的搜索結(jié)果進行了規(guī)定，要求電子商務(wù)經(jīng)營者不得向消費者提供針對個人特征的選項，開啟了我國關(guān)于算法推薦治理的立法之路。此后在《反壟斷法》《在線旅游經(jīng)營服務(wù)管理暫行規(guī)定》中都能見到關(guān)于算法治理的身影。2021年出臺的《中華人民共和國個人信息保護法》（以下簡稱《個人信息保護法》）對通過算法推薦向個人進行信息推送的行為進行了積極的回應(yīng)，并允許個人有權(quán)拒絕有針對性的信息推送和商業(yè)營銷。同年，《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》出臺，為我國算法推薦的治理搭建了基本法律框架。

因算法推薦尚未形成體系化規(guī)范，在司法實踐中難以適用，2022年，國家互聯(lián)網(wǎng)信息辦公室等多部門聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《算法推薦管理規(guī)定》），為規(guī)范算法推薦服務(wù)進一步提出合規(guī)要求，織密了我國算法推薦管理的法律框架?！端惴ㄍ扑]管理規(guī)定》施行的目的在于促進算法推薦技術(shù)“向上向善”發(fā)展，防止不當(dāng)利用算法推薦服務(wù)給國家、社會和公民個人的權(quán)益造成非法侵害。

2 算法推薦引發(fā)的法律問題

隨著算法技術(shù)的發(fā)展，算法推薦的嵌入領(lǐng)域不斷擴大化，成為平臺經(jīng)濟發(fā)展的強大動力?？萍嫉陌l(fā)展是把“雙刃劍”，對網(wǎng)絡(luò)平臺來說，算法推薦技術(shù)是平臺經(jīng)濟發(fā)展的助力劑，算法推薦的應(yīng)用在提高用戶黏性的同時源源不斷地為網(wǎng)絡(luò)企業(yè)創(chuàng)造經(jīng)濟價值。對網(wǎng)絡(luò)用戶來說，算法推薦技術(shù)侵蝕著網(wǎng)絡(luò)用戶的信息生態(tài)環(huán)境，用戶在算法面前逐漸成為數(shù)據(jù)化、符號化的“透明人”，算法推薦深諳用戶的興趣愛好、生活習(xí)慣以及消費特征，重新塑造著用戶的價值觀、消費觀和意識形態(tài)，對用戶的個人信息知情同意權(quán)、平等權(quán)和財產(chǎn)權(quán)等產(chǎn)生了深刻的影響。對算法推薦引發(fā)的法律問題進行分析，有利于算法推薦技術(shù)合理合法應(yīng)用，同時也為算法推薦服務(wù)提供者提出了警醒，有助于引導(dǎo)有關(guān)行業(yè)和平臺合規(guī)運營。

2.1 算法推薦服務(wù)應(yīng)用前：對個人信息知情-同意規(guī)則的侵害

算法推薦在互聯(lián)網(wǎng)初步發(fā)展之時，用戶通過瀏覽、點擊、搜索行為產(chǎn)生的個人數(shù)據(jù)便被收集和讓渡，成為互聯(lián)網(wǎng)企業(yè)商業(yè)運作的重要數(shù)據(jù)來源，用戶的個人信息權(quán)益遭受著隱形的侵害。如今，算法是數(shù)字經(jīng)濟發(fā)展的核心技術(shù)，算法推薦成為推動數(shù)字經(jīng)濟發(fā)展的強有力工具，個人信息是算法推薦服務(wù)運行的基礎(chǔ)和前提，算法推薦又是處理個人信息的一種方式?；ヂ?lián)網(wǎng)平臺在收集、索取用戶個人信息時，用戶個人信息的知情同意規(guī)則和算法推薦服務(wù)提供者的算法告知義務(wù)逐漸流于形式。

通常情況下，用戶在注冊使用某軟件前需要提供基本個人信息，甚至某些軟件的使用以獲取用戶地理位置、通訊錄權(quán)限為必要條件。然而由于用戶和算法推薦服務(wù)提供者之間存在著地位懸殊、認(rèn)知局限等因素，用戶的知情同意難以得到有效的保障。一方面，網(wǎng)絡(luò)服務(wù)平臺主要通過格式條款或者隱私協(xié)議的方式取得收集使用個人信息的權(quán)限，針對已制定的條款用戶沒有平等協(xié)商的權(quán)利，更別說修改亦或變更的權(quán)利，而是否同意的格式條款或隱私協(xié)議政策常常被設(shè)置為獲得應(yīng)用軟件使用權(quán)的前置程序，因而用戶的概括“同意”往往是在迫不得已的情況下作出的，不符合用戶本人的真實意愿。另一方面，處于弱勢地位的用戶群體對專業(yè)性、復(fù)雜性較高的個人信息條款難以理解，很難投入時間、精力去通讀了解晦澀難懂的個人信息收集政策，因此關(guān)于個人信息的收集使用情況用戶難以實現(xiàn)有效知情，授權(quán)條款淪為算法推薦服務(wù)提供者免于責(zé)罰的避風(fēng)港。

2.2 算法推薦服務(wù)應(yīng)用中：對用戶的歧視性侵害

算法并沒有通過技術(shù)手段解決人類社會中固有的歧視與偏見問題，反而因為算法推薦固化了歧視與偏見。算法推薦所需要的數(shù)據(jù)從收集時就非絕對的客觀中立，因而算法推薦在進行內(nèi)容分發(fā)時不可避免的存在偏見或歧視?！八惴ㄆ缫暋钡木唧w表現(xiàn)有種族歧視、性別歧視、價格歧視以及就業(yè)歧視等?；ヂ?lián)網(wǎng)時代，算法推薦助推了更為隱蔽的歧視，有悖于公平正義的社會主義發(fā)展理念。除價格歧視之外，算法推薦在就業(yè)服務(wù)領(lǐng)域中的歧視也應(yīng)得到重視。算法推薦使得求職者不能平等的獲得就業(yè)機會與社會資源，算法推薦技術(shù)在就業(yè)服務(wù)領(lǐng)域的應(yīng)用再現(xiàn)并放大了人類固有的性別偏見。

“算法歧視”不僅是現(xiàn)實歧視在虛擬網(wǎng)絡(luò)世界的延伸，更有擴大的趨勢，這種大規(guī)模的“殺傷性”能夠在網(wǎng)絡(luò)世界產(chǎn)生倍增效果?！八惴ㄆ缫暋碑a(chǎn)生的原因是多方面的，主要可歸結(jié)為以下幾種情況：包括錄入數(shù)據(jù)的偏差、算法設(shè)計者的個人偏見和算法黑箱導(dǎo)致的不透明性。第一，數(shù)據(jù)源的偏差。算法推薦是以海量的用戶數(shù)據(jù)為基礎(chǔ)，當(dāng)社會生活中根深蒂固的偏見作為數(shù)據(jù)源信息被算法技術(shù)抓取，固有偏見不斷在算法程序中鞏固并深化；且信息數(shù)據(jù)采集的片面性同樣會引起數(shù)據(jù)源偏差，片面性信息數(shù)據(jù)無法反映整個群體特征。第二，算法設(shè)計者的個人偏見。算法設(shè)計者在設(shè)計算法程序時有意或無意的將個人主觀意識嵌入到程序運行步驟中，弱化了算法推薦結(jié)果的客觀中立性。第三，算法黑箱導(dǎo)致的不透明性。由于算法的黑箱屬性，算法推薦對于用戶而言是不透明的，難以知曉算法推薦技術(shù)的信息挖掘情況，對算法推薦結(jié)果“知其然而不知其所以然”。

2.3 算法推薦服務(wù)應(yīng)用后：對侵權(quán)-救濟規(guī)則的侵害

緣于算法推薦技術(shù)的復(fù)雜性、專業(yè)性，算法運作過程的黑箱性質(zhì)，以及機器自主學(xué)習(xí)帶來的隨機性和不確定性，算法推薦在侵權(quán)責(zé)任認(rèn)定方面存在“責(zé)任鴻溝”。所謂“責(zé)任鴻溝”是指算法推薦侵權(quán)主體認(rèn)定困難、責(zé)任分配以及責(zé)任承擔(dān)方式難以落實，給算法推薦的歸責(zé)和追責(zé)帶來一定困難。

對于算法推薦侵權(quán)責(zé)任的認(rèn)定主要面臨以下難題：一是算法推薦侵權(quán)主體認(rèn)定困難。一方面，算法推薦技術(shù)從開發(fā)到運行涉及多個主體，包括算法設(shè)計者、開發(fā)者和算法推薦服務(wù)提供者等眾多參與主體，同時算法推薦運行的不透明性更是對確定具體責(zé)任人帶來一定的困難，致使在算法侵權(quán)過程中難以識別和認(rèn)定侵權(quán)責(zé)任人。另一方面，算法推薦技術(shù)往往是嵌入互聯(lián)網(wǎng)平臺通過計算機程序運作，而不是由具體的責(zé)任人來操作，因而算法設(shè)計者和使用者通常通過“技術(shù)中立”原則主張對算法推薦技術(shù)造成的損害后果無直接控制力，從而規(guī)避算法責(zé)任。二是算法推薦侵權(quán)責(zé)任難以劃分。隨著算法推薦技術(shù)在網(wǎng)絡(luò)平臺中應(yīng)用，算法侵權(quán)責(zé)任的模糊性愈來愈顯現(xiàn)，傳統(tǒng)侵權(quán)責(zé)任法對于算法侵權(quán)歸責(zé)存在著局限性，《算法推薦管理規(guī)定》也沒有明確侵權(quán)主體的民事責(zé)任，產(chǎn)生侵權(quán)損害時難以衡量、認(rèn)定侵權(quán)主體所應(yīng)承擔(dān)的算法責(zé)任。

由此，傳統(tǒng)的侵權(quán)責(zé)任歸責(zé)原則在算法推薦侵權(quán)責(zé)任歸責(zé)時存在著一定的局限性，而算法推薦“技術(shù)中立”和算法技術(shù)受商業(yè)秘密保護理論更成為許多平臺企業(yè)逃避算法責(zé)任的辯駁。這樣不僅導(dǎo)致用戶無法得到其應(yīng)有的補償，還有可能導(dǎo)致算法推薦技術(shù)濫用，成為平臺企業(yè)規(guī)避算法責(zé)任的“擋箭牌”，不利于數(shù)字經(jīng)濟健康有序發(fā)展。由此，應(yīng)完善并細化算法推薦服務(wù)提供者在算法推薦服務(wù)過程中的算法責(zé)任。

3 算法推薦的保護 路徑

對于算法推薦技術(shù)的侵害行為我國應(yīng)以現(xiàn)存問題和實際需求為方向，平衡互聯(lián)網(wǎng)企業(yè)、網(wǎng)絡(luò)用戶和其他利益相關(guān)者的權(quán)利義務(wù)關(guān)系，不斷完善并細化現(xiàn)行法律體系，完善我國算法問責(zé)法律體系，細化知情同意規(guī)則，保障用戶算法權(quán)利，同時強化算法倫理意識，提高算法透明度，在促進科學(xué)技術(shù)繁榮向上的同時，探索一條符合我國基本國情的算法治理之路。

3.1 細化知情同意規(guī)則，保障用戶算法權(quán)利

“知情同意”是我國個人信息保護領(lǐng)域的一項重要規(guī)則，然而在實踐中，算法推薦服務(wù)提供者通過動輒數(shù)千字且夾雜專業(yè)術(shù)語的用戶協(xié)議與隱私政策獲取用戶個人信息處理權(quán)限，“知情同意”規(guī)則趨于形式化。算法推薦是算法推薦服務(wù)提供者與網(wǎng)絡(luò)用戶之間的一種信息處理活動，因此，明確算法推薦服務(wù)提供者與算法用戶之間的權(quán)利義務(wù)關(guān)系，充分保障算法用戶的基本算法權(quán)利顯得尤為重要。

首先，對于算法推薦服務(wù)提供者，履行有效的告知義務(wù)。在形式方面，告知的內(nèi)容應(yīng)該具備《個人信息保護法》第十七條所規(guī)定的具體內(nèi)容；告知的方式應(yīng)當(dāng)具有顯著性，采取條例清晰、通俗易懂的語言降低用戶的閱讀負(fù)擔(dān)。在實質(zhì)方面，隱私政策不得冗長復(fù)雜、不得頻繁使用晦澀難懂的專業(yè)術(shù)語，必須確保用戶能夠根據(jù)其所提供的信息了解信息處理行為可能對個人權(quán)益產(chǎn)生的影響。其次，基于《算法推薦管理規(guī)定》充分保障用戶的算法知情權(quán)、算法選擇權(quán)和算法拒絕權(quán)等基本權(quán)利。在用戶協(xié)議與隱私政策中明確闡釋算法推薦所需的個人信息，具體內(nèi)容包括個人信息的類型、數(shù)量、具體目的和用途，是否會提供給第三方等。此外，算法推薦服務(wù)提供者應(yīng)當(dāng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況，保障用戶的算法知情權(quán)。算法告知義務(wù)是基于算法推薦服務(wù)而設(shè)立的特別告知義務(wù)，是《個人信息保護法》中告知義務(wù)的具體化體現(xiàn)。同時，算法推薦服務(wù)提供者需要保障用戶的算法選擇權(quán)和算法拒絕權(quán)，用戶有權(quán)選擇進入或者退出個性化推薦程序，算法推薦服務(wù)提供者不得不當(dāng)設(shè)置障礙，阻礙用戶退出算法推薦程序。再者，加強公民信息安全教育，提高公民個人信息保護意識。在大數(shù)據(jù)時代，人們依然在網(wǎng)絡(luò)上毫無顧忌的分享自己的信息，除了公民自身對個人信息安全的忽視之外，也缺乏對公民的信息安全教育，當(dāng)下，應(yīng)當(dāng)提高公民信息保護意識，從長遠之計保護個人信息安全。

3.2 強化算法倫理意識，提高算法透明度

如前文所述，數(shù)據(jù)源偏差、算法設(shè)計者的個人偏見和算法黑箱導(dǎo)致的不透明性是算法推薦技術(shù)產(chǎn)生歧視性的主要原因，或基于某一原因，或基于幾個原因共同作用導(dǎo)致算法歧視，因此可以從規(guī)范數(shù)據(jù)收集、強化算法設(shè)計者倫理意識和提高算法透明度入手規(guī)避算法推薦技術(shù)運行過程中的歧視性，以保證算法公平，維護廣大網(wǎng)絡(luò)用戶的平等權(quán)。

首先，保證數(shù)據(jù)來源的多樣性和數(shù)據(jù)內(nèi)容的客觀性。數(shù)據(jù)收集的質(zhì)量和范圍影響著算法推薦程序的運行結(jié)果，缺陷、瑕疵的數(shù)據(jù)可能會導(dǎo)致歧視性的算法結(jié)果。因此，在數(shù)據(jù)采集方面，應(yīng)保證數(shù)據(jù)來源的多樣性和數(shù)據(jù)內(nèi)容的客觀性，規(guī)范數(shù)據(jù)收集從而在源頭上減少偏見數(shù)據(jù)信息植入算法程序。其次，強化算法設(shè)計者算法倫理意識。算法設(shè)計者應(yīng)當(dāng)定期接受算法倫理道德培訓(xùn)，強化算法設(shè)計者的技術(shù)道德意識，在法律法規(guī)以及算法倫理規(guī)則框架內(nèi)，使算法的設(shè)計符合主流價值觀。最后，算法推薦服務(wù)提供者應(yīng)增強算法透明度，算法透明度不僅可以提高算法的可信度和可接受性，而且可以幫助用戶更好地理解算法推薦的決策過程和結(jié)果。算法透明的目標(biāo)是理解，是信任，不是簡單的披露源代碼。算法透明的目的，一是讓不同的主體理解算法設(shè)計、部署和運行，讓用戶感知算法運行的特點，評估算法可能對自身權(quán)益帶來的影響。二是“刺穿算法黑箱”，有效降低算法推薦服務(wù)提供者和算法用戶的不平等地位以及信息不對稱，增強算法推薦服務(wù)提供者和算法用戶之間的信任，提高公眾對算法推薦過程及其結(jié)果的監(jiān)督和問責(zé)。

3.3 明確算法責(zé)任，構(gòu)建算法問責(zé)體系

明確算法責(zé)任，構(gòu)建算法問責(zé)體系已經(jīng)被大多數(shù)學(xué)者所接受并逐漸成為業(yè)界共識。由于算法侵權(quán)行為的隱蔽性，用戶在大多數(shù)情況下不了解算法規(guī)則，甚至不清楚算法侵權(quán)行為的存在，因而給算法侵權(quán)主體的認(rèn)定，算法責(zé)任的確定帶來了一定的困難，因此，明確算法責(zé)任的承擔(dān)與分配尤為重要。一方面，既能督促算法推薦服務(wù)提供者在法律和倫理道德范圍內(nèi)合理利用算法技術(shù)，對平臺企業(yè)起到震懾作用；另一方面，劃定責(zé)任邊界，減少或者避免對平臺企業(yè)一刀切式的處罰。算法推薦技術(shù)從設(shè)計、開發(fā)到運行涉及多個參與主體，如算法設(shè)計者、開發(fā)者，算法推薦服務(wù)提供者等，因而當(dāng)用戶的權(quán)益遭受算法推薦服務(wù)的侵害，產(chǎn)生具體侵權(quán)損害后果時往往難以查明和認(rèn)定具體侵權(quán)行為人。盡管有學(xué)者提出賦予自主學(xué)習(xí)算法主體地位，但算法推薦技術(shù)作為一種人類使用的工具，其產(chǎn)生的算法責(zé)任理應(yīng)由背后的行為主體承擔(dān)。

首先，明確算法侵權(quán)主體。在人工智能算法技術(shù)廣泛應(yīng)用的情況下，所有參與其中的主體，無論是算法設(shè)計者、開發(fā)者亦或算法推薦服務(wù)使用者，其在算法運行過程中的身份和地位是動態(tài)發(fā)展變化的，因而算法推薦侵權(quán)責(zé)任主體認(rèn)定，應(yīng)結(jié)合算法推薦服務(wù)的具體應(yīng)用場景給予以剖析，動態(tài)追蹤侵權(quán)事實，將算法侵權(quán)責(zé)任落實到具體的侵權(quán)人。其次，明確算法責(zé)任。根據(jù)是否具有直接因果關(guān)系，以及各個主體在算法推薦應(yīng)用場景中發(fā)揮的效用和扮演的角色予以劃分算法責(zé)任。如果侵權(quán)行為導(dǎo)致的損害后果直接由算法推薦行為引起，算法推薦服務(wù)提供者對算法推薦技術(shù)具有實際的控制力，即使由于算法通過自我學(xué)習(xí)創(chuàng)制的技術(shù)風(fēng)險，算法推薦服務(wù)提供者也應(yīng)做到合理的注意義務(wù)，因此應(yīng)當(dāng)對該損害后果承擔(dān)相應(yīng)的算法責(zé)任。最后，完善算法侵權(quán)損害賠償。一般情況下，責(zé)任認(rèn)定的前提是產(chǎn)生具體的侵權(quán)損害，然而算法侵權(quán)責(zé)任的認(rèn)定并不僅僅是對算法濫用行為的懲處和歸責(zé)，更重要的對用戶權(quán)益的保護以及產(chǎn)生具體的侵權(quán)損害后果時的救濟。因此，應(yīng)進一步完善、優(yōu)化算法侵權(quán)損害賠償制度，以保護用戶的財產(chǎn)權(quán)以及人格尊嚴(yán)，推動算法技術(shù)向上向善發(fā)展。

4 結(jié)束語

顯然，算法推薦技術(shù)在便利用戶生活、推動數(shù)字經(jīng)濟發(fā)展等方面功不可沒，但在推動科學(xué)技術(shù)發(fā)展進步的同時，應(yīng)切實保障用戶的合法權(quán)益?！端惴ㄍ扑]管理規(guī)定》的出臺為算法推薦技術(shù)確定了新的規(guī)則，解決算法推薦問題不僅需要給互聯(lián)網(wǎng)平臺企業(yè)設(shè)置紅線，同時需要進一步細化完善知情同意規(guī)則，保障用戶算法權(quán)利，強化算法倫理意識，提高算法透明度，明確算法責(zé)任等等。只有讓個人、技術(shù)、立法和算法平臺共同發(fā)揮作用，才能讓算法推薦技術(shù)更好地服務(wù)于人類社會生活，實現(xiàn)真正意義上的算法時代。