〔內容提要〕經營者為了獲得用戶更多的注意力以實現高額回報催生了成癮性算法。成癮性算法主要通過行為觸發(fā)、重復使用行為、積極及時反饋、沉浸式場景創(chuàng)造上癮模型，并且穿插無限滾動播放、蔡格尼克循環(huán)、顯著標識設計等技術手段使用戶對產品形成被動依賴。而成癮性算法對正常社會秩序形成了潛在威脅，經濟方面固化壟斷格局、侵害消費者的合法權益；社會方面促使信息繭房形成、群體價值觀極端化以及算法主導意識形態(tài)等風險與損害；個人層面，會損害個人的心理健康乃至身體健康。為此有必要對成癮性算法進行規(guī)制，經濟手段上對壟斷的分析注重注意力判斷維度，技術手段上完善算法披露，倫理層面尊重個人拒絕權利，以實現對成癮性算法的有效規(guī)制。

〔關鍵詞〕成癮性算法；暗模式；注意力經濟；信息繭房

一、問題的提出

算法已經成為當今社會發(fā)展的全新引擎。各大互聯網平臺利用層出不窮的創(chuàng)新算法，吸引用戶并創(chuàng)造巨大收益。不可否認的是，持續(xù)迭代的算法從根本上革新了市場競爭格局。與傳統(tǒng)市場利用信息差進行價格競爭不同，數字經濟時代促進了信息的自由傳遞，信息的完全透明和無限制的自由傳遞，在理論層面消除了買方與賣方之間的信息差，極大程度上改善“信息不對稱”帶來的困境。數字經濟時代利用大型平臺匯聚數據優(yōu)勢，利用算法形成競爭優(yōu)勢，形成“平臺—數據—算法”的三維競爭結構。

但是，算法作為“在計算或解決其他問題的操作中要遵循的過程或規(guī)則集”卻并不能達到客觀的“技術中立”，“算法背后潛藏著控制算法設計和研發(fā)過程的資本權力”，然而資本權力仍是由人控制的，資本天生所具有的逐利性決定了算法的開發(fā)和控制者以“技術無法騙人”的偽善面具無限攫取高額利潤，從而實施壟斷、破壞市場公平、損害消費者福利甚至主導意識形態(tài)等行為。權力與資本的勾連使得算法運營商在提供服務的過程中偏離用戶選擇，威脅用戶信息甚至出現權力的僭越等權力異化現象。目前，已經有實例證明在傳統(tǒng)社會中出現的問題，在算法時代會以更隱蔽的形態(tài)出現，例如2020年美國FTC聯合46個州檢察長對臉書（Facebook）提起反壟斷訴訟，認定其濫用市場支配地位，在社交媒體網絡上實施數據封禁政策等危害競爭的措施；2021年開啟中國反壟斷執(zhí)法元年，國家市場監(jiān)督管理總局對阿里巴巴實施“二選一”的限定交易行為進行處罰。以算法形式出現的新型反競爭行為已經引起了國內外學者的注意。但是對于大數據和算法賦能的成癮性技術讓消費者產生對于平臺的依賴，以此來鞏固市場力量固化壟斷的問題依然需要給予更多關注。

算法上癮似乎已成為日常生活的常態(tài)，人們對于各種平臺應用的依賴已經不單單是日常生活空余時間的消遣，而更多地偏向于被動的依賴：社交媒體的精準推送使得消費者沉溺其中，點贊瀏覽量、完成任務提取現金等等獎勵機制大肆掠奪消費者的注意力，更有甚者會因短視頻無限滾動刷屏產生入睡困難。人們明確知道欲求擺脫對某一物品的上癮，最簡單的方式即遠離它。但是目前來看，智能手機、應用程序、網絡平臺已經成為現代生活的必需品。因此有必要對成癮性算法做出適當的規(guī)制，在不侵害企業(yè)創(chuàng)新的前提下，規(guī)范企業(yè)行為，承擔社會責任。2023年發(fā)布的《生成式人工智能服務管理暫行辦法》中也明確要求提供服務者要“指導使用者科學理性認識和依法使用生成式人工智能技術，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務”。

我國國內對于成癮性算法的綜合性研究較少，學者們已經肯定了對成癮性算法進行規(guī)制的必要性，對現實生活算法運營商利用“上癮”模式設計算法這一長久未引起重視的現象提出疑問。但是對于成癮性算法的具體運行機制以及對成癮性算法的規(guī)制方法，仍然處于起步階段。對于形成何種具體的規(guī)制方法，多數停留在原則性的指導和框架性構建。

在國外因其計算機科學與技術發(fā)展較早，故而對于成癮性算法的關注也早于國內?；ヂ摼W經濟最為重要的盈利模式即是廣告收入，實現更為精準的廣告投放并誘導消費者最終實現購買行為。有學者曾經斷言“為了實現利潤最大化，在理想狀態(tài)下，這些互聯網企業(yè)干脆在我們的大腦中植入一個芯片，用于收集我們的個人信息，從而能夠為商家勾勒出一幅清晰的畫面，解開用戶的所思所想”。在理解互聯網盈利模式基礎之上，就可以理解互聯網平臺為何對于成癮性算法的追求如此“狂熱”。

2024年2月17日，歐盟《數字服務法案》（Digital Services Act）正式生效，該項法案旨在營造公平、透明的互聯網服務環(huán)境，進一步壓實了超大型平臺內容審查、信息報告的義務。法案中明確規(guī)定了在線平臺提供者不得通過在線頁面設計欺騙或者操縱數字服務受眾，損害其做出自由的、知情的決定的能力。同時，法案中要求超大型平臺有必要回應歐盟的請求，并通過科研機構的第三方中介來實施信息報告義務，闡明算法設置的動機。美國提出的《算法問責法（2022）》通過建立算法評估機制和信息公開披露制度來對成癮性算法進行規(guī)制，破解使消費者處于不知情狀態(tài)下的算法黑箱。具體而言，表現為要求運營商在算法實施運用之前，向美國聯邦貿易委員會（以下簡稱“FTC”）提交簡報，由FTC進行篩選從而向公眾公開。

比較歐盟和美國的監(jiān)管措施，歐美之間的監(jiān)管措施出現分野。因為目前在歐盟市場上占據優(yōu)勢地位的大部分均為美國企業(yè)，所以歐盟對于數據流通的態(tài)度表現得更為謹慎，對于算法的規(guī)制、平臺履行信息披露的要求更加嚴格。

本文旨在闡明：一是算法上癮的運行機制，明確成癮性技術背后的運行邏輯，尋找理論和實踐支撐；二是成癮性算法的危害，闡明對于成癮性算法進行規(guī)制的必要性；三為提出對成癮性算法進行多維度規(guī)制的設想。

二、成癮性算法的運行機制

（一）行為觸發(fā)——把握“首次注意力”

根據行動力底層公式：B=MAT。B即Behavior，指個人行為；M即Motivation，指行為動機；A即Ability，指行為能力；T即Trigger，即為觸發(fā)?；ヂ摼W平臺深諳這一行為機制，以某音短視頻平臺為例，起初人們使用該應用的動機（即M）可能是作為消遣，追求快樂或者逃避痛苦；而某短視頻平臺的界面設置也十分簡單，甚至無思考即可完成瀏覽短視頻的基礎功能，也因此獲得低齡未成年人和老年人的關注，簡單易上手的界面設置充分地降低了用戶的使用壁壘，也即具備了A。最后，為了抓緊首次注意力形成“觸發(fā)”（即T），平臺運營商采取了多種觸發(fā)機制，例如喜好觸發(fā)、從眾觸發(fā)、互惠觸發(fā)，等等。因此在新用戶初次使用短視頻平臺時，會向其推送點贊量和瀏覽量較高的視頻，通過已經記錄公眾共同喜好推導、貼近個人喜好，緊緊抓住“首次注意力”的15秒，刺激大腦分泌大量多巴胺。

（二）重復使用行為——擺脫脫敏反應

初次帶來的新鮮感只是暫時的，為了能夠延長用戶對產品的注意力，需要擺脫脫敏反應使多巴胺降低。對此，各類產品的算法主要采取了以下措施：

1.極端個性化推薦

個性化推薦算法的應用有效解決了互聯網世界中的“信息過載”問題，有效降低用戶的搜尋成本，能夠使供給和需求信息快速匹配。平臺運營商利用個性化推薦算法，記錄用戶的搜索、瀏覽、點贊、購買等信息來刻畫用戶“數字畫像”，能夠精準地“投其所好”，給用戶制造一種沒有什么比該產品更懂我的錯覺，利用喜好極大影響用戶的注意力分配。有學者將極端個性化推送分為三類：涉及極端內容的個性化推送（如暴力、色情）、針對弱勢群體的個性化推送以及針對心理漏洞的個性化推送，實現對人們注意力的操縱。而隨著人工智能技術的發(fā)展，未來的個性化推薦將在上述基礎上實現進一步進化，能夠達到與個人更完美的契合。

2.無限滾動播放

不論是短視頻平臺還是線上購物平臺，都采取了無限滾動（Infinite Scrol）播放的界面展示模式，用戶只要一指輕輕下滑就能看到新內容，給用戶帶來一種“不可控的控制感”，充分地做到了以用戶為中心，停止或繼續(xù)由用戶本人控制，而繼續(xù)重復下滑行為，依賴于個性化算法的推薦，下一條內容又總能夠落入人們的興趣范疇之內，使人欲罷不能，而人們永遠無法預測下一條內容是什么的未知感和期待感更高強度地刺激了多巴胺的分泌。同時，無限滾動這種近乎“完美平滑”的產品設計，消除了用戶意識越過他者的障礙，從而能夠直達目的并且盡可能地延長用戶的使用時間。

3.蔡格尼克循環(huán)

人的大腦總是對短期內有能力完成卻未結之事印象深刻，總有一股催促完成、有始有終的內驅力，即被稱為“蔡格尼克效應”（Zeigarnik Effect）。一方面，已經有學者認為前述的無限滾動播放帶來的上癮行為會導致強迫、焦慮和抑郁，不斷刷新的文案和圖像營造出一種“無限可能性”的錯覺，這使得用戶始終認為自己的“使命”或者“任務”仍未完成，形成催促完成的緊迫感。另一方面，互聯網各大應用平臺也在創(chuàng)造蔡格尼克循環(huán)，典型如閱讀網站到文章高潮部分設置付費，短視頻剪輯中總是會將懸念留到最后以達到懸而未決，激發(fā)用戶的好奇心，等等。

（三）積極及時反饋——培養(yǎng)使用習慣

1.福利機制

福利機制在平臺應用中主要表現為兩種：第一種即為新手福利機制，針對新用戶往往會采取多種優(yōu)惠措施：比如各大購物平臺會推出首單優(yōu)惠甚至是免費、一分錢買回家的新手福利，除此之外還有支付寶、抖音都有推出的邀請新用戶立得現金的福利機制。這種針對新手的福利措施能夠讓人被快速吸引，同時，“損失厭惡”的心理學現象使大部分用戶都很難放棄類似的“小恩小惠”。第二種則是促使用戶培養(yǎng)更為長久的使用習慣而采取的長期福利機制。如短視頻平臺都設置有積累觀看時長以獲取現金，購物平臺也采取了“種樹”的獎勵措施，即激勵用戶商品界面瀏覽獲得“肥料”，積攢“肥料”滿一定數額即可獲得相應的實物獎勵。福利機制采取了一種較低的門檻甚至是獎勵來觸發(fā)用戶使用，又持續(xù)依賴簡單的福利機制督促用戶不斷增加使用時間甚至是金錢投入，最終通過多次的重復行為形成習慣。

2.顯著標識設計

各類社交平臺上都存在利用顏色鮮艷、圖標占比較大的標識設計吸引用戶注意的情況。例如微信朋友圈的點贊設計、消息提醒，都采用了鮮明的紅色并且占據界面顯示的顯著位置。類似的顯著標識設計，一方面作為消息提醒提高用戶打開產品的次數從而增加使用時間，有研究機構早在2018年的研究數據表明，安卓手機用戶平均每天解鎖手機65.8次，平均每8分鐘就要解鎖一次手機，同時，明顯的消息提醒，會進一步加深“錯失恐懼癥”——擔心沒有及時查看消息而錯過好友的信息和動態(tài)，就會通過多次解鎖、多次打開社交媒體以形成接近“強迫”的滿足，另一方面，點贊按鈕的設計極大地滿足了人們心中存在的認同感，尤其是對學生群體存在較強的自我認同需求會更加關注自己發(fā)布的內容是否獲得他人的喜愛，為了獲得這樣的滿足感，用戶又會對自己發(fā)布的內容傾注心力以期獲得普遍認同和贊賞，進一步增加使用時間。

（四）沉浸式場景創(chuàng)造——形成深度依賴

為了能夠使用戶付出更多的精力在各類應用中，算法運營商采取的模式是為用戶創(chuàng)造更為沉浸式的場景甚至是消除與現實世界的差異，其中重要的措施即滿足人的社交需求。人類社會中社交是必不可少的一步，不論是家庭鏈接、工作需要、營銷推廣或者是技能提升都可以通過線上社交媒體實現，通信類平臺在此種情形下獲得了天然的優(yōu)勢，而其他類型的平臺為了能夠加深用戶黏性，也采取了“開啟通訊錄權限推薦好友”“一鍵快捷分享”等機制創(chuàng)造更為投入式的社交環(huán)境。

三、成癮性算法應用的損害與風險

應用成癮性算法不斷增強用戶黏性已經成為各大算法運營商與控制者的目標之一，但是成癮性算法的應用已經沖擊了原有的經濟及社會秩序，其所帶來的經濟損害典型表現為損害競爭秩序，加深單純大型平臺壟斷的格局，其次，不利于消費者保護，侵害其自主權和知情權；社會層面的損害則表現為形成信息繭房，促使群體極化加重交流障礙并且使用成癮性算法對個人的心理健康也有一定影響，加重緊張焦慮情緒產生甚至造成睡眠障礙。

（一）經濟層面的損害

1.牢固的壟斷格局形成

互聯網經濟中因為數據競爭表現出的規(guī)模經濟效應和范圍經濟效應極為明顯，尤其是在我國大人口基數的數據優(yōu)勢之下，已經成長起來的巨型平臺積累了大量的用戶數據，能夠創(chuàng)造出更為精準的用戶畫像，利用推薦算法為用戶量身打造符合自身個性化需求的產品從而贏得更多用戶的青睞，而增長的大量用戶基數，又能進一步精進推薦算法，從而形成“數據—算法—流量”三者之間的死循環(huán)，在數據市場商形成“優(yōu)者更優(yōu)”的局面幾乎阻擋了中小型企業(yè)進入市場參與競爭的通道，并且數據又具有較強的鎖定效應和較高的轉換成本，對于用戶而言，自身的個性化需求得到了尊重和滿足，同時節(jié)省了大量搜尋成本，已經習慣了算法經營者提供的服務，經過自我強化后出現了路徑依賴和鎖定效應從而成為某一數字平臺的忠實擁躉。一旦數字平臺通過成癮性技術吸引大量消費者，多宿主現象將不復存在，進一步固化了現有市場的壟斷格局。在此種情況下，由技術進步帶來競爭繁榮的場面不再，取而代之的則是各個大型平臺通過強大的技術霸權對消費者的施壓。再者，大型數字平臺已經不滿足于對單一市場的控制，不斷通過關聯公司拓寬業(yè)務范圍，實現數據利用層面的經營者集中，也即意味數字平臺在某一市場中所獲得用戶精準畫像存在被運用到平臺生態(tài)系統(tǒng)中的各個關聯公司的可能性，使平臺生態(tài)系統(tǒng)依然能夠基于用戶的使用習慣，以算法為基礎為用戶持續(xù)提供精準個性化服務，強化用戶對平臺的依賴，從而形成平臺系統(tǒng)生態(tài)型壟斷。平臺生態(tài)型壟斷的形成，甚至會僵化整個市場，原有的對其形成的多個平臺的擁躉直接轉變?yōu)閷σ粋€平臺的深度依賴。

2.始終被蒙蔽的消費者

2022年10月，經濟合作與發(fā)展組織發(fā)布的《黑暗商業(yè)模式報告》中對黑暗模式（Dark Patten）給出的定義是通過數字選擇框架因素（特別是在線用戶界面）損害消費者自主選擇權的商業(yè)實踐的統(tǒng)稱。在其定義的黑暗模式表現形式中，“不斷重復”（不斷重復類的“黑暗模式”類似要求消費者做一些有利于商業(yè)的事情，會造成消費者時間和精力的浪費）和“障礙”（障礙類的“黑暗模式”是使任務流程或交互更困難從而利用消費者的慣性行為或消磨消費者的時間和精力。針對不同選項創(chuàng)建難易不同的點擊路徑是在成癮性算法中經常出現的技術手段。例如利用福利促使消費者瀏覽重復內容的廣告，形成“純粹接觸效應”，在一遍又一遍的接觸過程中，消費者對自己不需要或者不感興趣的內容產生喜歡，從而產生購買欲望。而在這一過程中，消費者并不清楚自身的購買決策是在被引誘的情況下進行的。在數字平臺暗模式的誘導或操縱下，消費者的經濟福利將受到損失。

（二）社會層面的損害

1.信息繭房的形成

“信息繭房”是凱斯·桑斯坦首創(chuàng)用于形容互聯網信息環(huán)境的詞匯。成癮性算法中對于個性化推薦算法的濫用，會導致信息分發(fā)的方向趨于固化，即使是在信息繁雜的互聯網海洋之中，依然能夠沉浸在自身興趣范圍之中。信息繭房的形成首先使得用戶作為人本身，喪失了主動選擇的機會，長期被包裹在固有的興趣愛好之中，缺失了對于未知事物探索的好奇心甚至是注意力，同時會固化原有的思維模式形成狹隘的視野。其次，信息繭房的形成會進一步加深信息鴻溝，用戶不僅缺乏探索新事物的主動性甚至還因此缺乏邁向新領域的客觀條件，用戶并不能完全控制推薦算法的走向，即使瀏覽、搜索過已經改變的興趣內容，但是被推薦的內容也不一定受此影響而立馬變更。平臺算法的更新迭代尚未跟上人腦思維的轉換速度，并且平臺算法承載著算法運營商的意志。由此進一步加深信息鴻溝，沒有降低反而增加了新信息的搜尋成本，也削弱了不同層級、不同群體之間的聯系。

2.群體極化的出現

發(fā)達的社交網絡使具有共同特點的人聚集形成自己的圈層，而群體之間同質化的信息傳播和正向反饋又進一步放大了集體認同感，由此整個團體的價值觀出奇一致并趨向極端，形成群體極化，尤其以互聯網“飯圈文化”的出現為例，喜歡同一個明星的粉絲能夠在互聯網的推動下迅速聚集在一起甚至實施一些過激的協(xié)同行為，比如極端粉絲可以出于對明星的喜愛漠視道德法律的要求，而平臺各種致人成癮的使用方法、帶有傾向性的搜索結果和各類算法推送則顯然加劇了極化的過程。以“胡鑫宇案”在社交媒體上的廣泛討論為例，從最開始陰謀論的少數鼓吹者到最后即使有明確的官方通報仍然有一定數量的網民相信其并非自殺，堅信“陰謀論”者在有關陰謀論的觀點收獲點贊的正向反饋中逐漸加深對于“陰謀論”的認知，尤其是收到有共同觀點的群體附和之后，更加對于“陰謀論”深信不疑，表現出了價值觀的極化，而這種極端的程度甚至可以輕易摧毀權威機關的公信力，已經對正常的民主、平等交流的社會環(huán)境造成威脅。

（三）個人身心健康的損害

成癮性算法利用的基礎性原理即不斷刺激大腦的邊緣系統(tǒng)，持續(xù)性刺激多巴胺的分泌，從而持續(xù)性延長用戶的使用時間，尤其以無限滾動刷屏的短視頻為例，無限滾動設計的原創(chuàng)者阿薩·拉斯金甚至表示“我從無限滾動中學到的一個教訓，就是優(yōu)化易用性并不意味著對用戶或者人類來說最好”。自動播放的短視頻會對人的中樞神經系統(tǒng)產生持續(xù)的高強度的刺激，長時間的緊張狀態(tài)勢必會增加疲勞感。如果缺乏戒斷機制，則更容易出現焦慮、抑郁等心理疾病。而在算法社會中，已經有用戶主體能感知到算法所帶來的焦慮，其中算法沉迷焦慮亦是算法焦慮的一個維度。短視頻社交媒體的依賴也會影響人們的日常行為。有研究表明短視頻社交媒體的使用和夜間社交媒體使用會影響睡眠質量，形成睡眠障礙。

四、成癮性算法的規(guī)制

成癮性算法給正常的社會秩序造成了嚴重的損害，因此對其進行規(guī)制是十分必要的，并且算法已經具有成癮性，即用戶已經產生了被動性地依賴，依靠用戶主動戒斷的可能性較低，有必要引入外力的強力規(guī)制，且應當意識到戒斷“成癮性算法”并不意味著要“戒斷數字經濟”，人們應當在非剝削的情況下享受數字經濟帶來的福利。同時，對于成癮性算法的認識，不應該僅僅停留在技術手段的認知，成癮性算法的底層邏輯與賭博行為幾近相似。在娜塔莎·道·舒爾在其著作中闡述對于賭博場所、賭博機器的設計中，遵循增強用戶使用時間、形成“以玩家為中心”的賭博體驗，以及“差一點兒就能贏”的視覺效果等設計與當前的互聯網算法設計共享了一套相同的底層邏輯，但是成癮性算法仍然處于監(jiān)管的灰色地帶，不論是《個人信息保護法》，還是《民法典》中有關隱私保護的規(guī)定，以及《消費者權益保護法》，都不能夠完全且切實地規(guī)范成癮性技術，而賭博則是在多數國家明令禁止的行為。為彌補監(jiān)管的缺失，有必要采取以下三個措施對成癮性算法進行良好的規(guī)制。

（一）反壟斷引入注意力成本考量

讓·梯若爾曾對數字經濟時代所謂的“注意力經濟學”進行論述，在高度一體化的市場中，信息的傳播成本幾乎為零，困擾人們過多的選擇，如何能夠在繁雜的交易中分配自身的注意力就成為一個重要的經濟問題，而在成癮性算法的設計中，最為關鍵的，就是對用戶的注意力進行剝奪?；ヂ摼W平臺可以通過攫取消費者的注意力實施各種壟斷行為，例如能通過獲取用戶的注意力而得到更多的數據占據市場支配地位，從而實施“大數據殺熟”的差別對待行為、“二選一”的限定交易行為。注意力成本在數字經濟時代壟斷行為的產生起到了重要的作用，將其納入壟斷行為的判定中是至關重要的。其次，根據互聯網的盈利模式來判斷。廣告收入是當下互聯網行業(yè)的命脈收入，廣告投放能夠產生預期效果就十分需要用戶的注意力分配，而大數據獲取個人信息以及算法更加精進投其所好的最終目的依然是能夠獲得用戶的注意力。然則，人并非機器，個人的注意力如同貴金屬一樣是有限的，具備稀缺性的特征，個人的注意力在數字市場具備了傳統(tǒng)市場中貨幣的性質。平臺利用成癮性技術獲取超過市場水平的注意力并讓消費者承擔注意力被過度支配產生的成本，無異于傳統(tǒng)經濟中壟斷組織向消費者提高價格、承擔金錢成本，因此有必要將個人注意力成本納入反壟斷執(zhí)法的考量中。

（二）明確算法事前披露機制

目前，針對算法實施應該采取事前備案的算法透明原則還是應當采取事后披露的算法問責機制，在學界仍存在爭議。有學者認為事前告知算法的具體運行規(guī)則會導致人們刻意迎合，從而失去了算法調整的原本目的，擾亂社會秩序，但是筆者仍然堅持應該實施算法的事前備案機制，因為現在的技術發(fā)展即使將全部源代碼公開，能夠成功運行算法并且闡明算法設置的具體規(guī)則的人也并不占多數。其次是當前人工智能技術的引入，即使對于算法技術開發(fā)商而言也對產生結果的解釋存在一定的困難，因為人工智能能夠按照算法的要求持續(xù)進行自我迭代，而迭代的具體過程的解釋、分析難度較大，且目前故而應該堅持事前備案的機制，同時應當完善細化備案內容，以算法類型和企業(yè)提供的算法自評估報告為基礎進行實際測試?？筛鶕惴ㄅ兜牡燃?、披露面向的人群兩個層次進行考慮，來完善算法披露機制。我國《個人信息保護法》中對算法公開的要求可以視為“初級公開”，歐盟在《通用數據條例》中提出的披露算法運行邏輯和具體參數的公開可認為是“具體透明”，美國在《過濾氣泡透明度法案》中提出的算法源代碼公開為“完全披露”。初級公開應當對整個社會群體保持公開，并且采取清晰、簡潔、易懂的方式進行公開。具體透明的算法披露等級可以根據平臺本身的性質、面向人群有選擇性地向平臺用戶公開；而對于完全透明的算法披露等級，為了不限制算法經營者的創(chuàng)新積極程度和對算法經營者自身商業(yè)秘密的保護，應該采取審慎態(tài)度，只有對于具有社會煽動能力的特殊企業(yè)才有必要實施完全披露，同時完全披露的對象應當限制在政府監(jiān)管機構。作為補充的是，政府的監(jiān)管仍有面臨腐敗侵蝕的可能性，可以參考歐盟的《數字服務法案》，在算法運營商和政府監(jiān)管機構之間引入完全中立、不存在利益沖突、足夠客觀、具備成熟技術經驗的第三方研究機構，由其對完全披露的算法源代碼進行備案、試驗及審查。

（三）尊重個人拒絕權

“人們用失去隱私、喪失個人生活和失去批判謹慎的代價換取可預測性、安全性，以及人類壽命的延長”。成癮算法帶給人們巨大誘惑，使人不得不為了享受技術福利而犧牲自身的權益，形成“隱私悖論”現象。但是應當明確的是，個人信息、個人權利的讓渡與否的主動權應當充分掌握在每一個個體手中，個人有選擇是否允許平臺收集個人信息的權利，也有選擇允許收集多少信息以享受技術福利。但是算法運營商憑借自身所形成的算法霸權，以及對利益的追求，漠視個人選擇，甚至對個人選擇的自主性設置障礙，在能否選擇個性化推薦的這一過程中，企業(yè)在實踐中仍然在打“擦邊球”，或是使得關閉個性化推薦功能按鈕不顯著，或是通過默認同意個性化推薦的方式進行。我國的《個人信息保護法》第二十四條第三款表明對個人權益有重大影響的決定，個人有權拒絕個人信息處理者僅通過自動化決策的方式做出決定，《互聯網信息服務算法推薦管理規(guī)定》第十七條規(guī)定，算法推薦服務提供者向用戶提供便捷的關閉算法推薦服務的選項。用戶選擇關閉算法推薦服務的，算法推薦服務提供者應當立即停止提供相關服務。由此我國的立法中明確地規(guī)定了對于個人拒絕權的適用條件，為個人拒絕權的行使提供法律支撐。同時，應該意識到，在算法時代對個人拒絕權的尊重，是將道德倫理嵌入到技術發(fā)展過程中，真正地落實了“以人為本”而不是“以技術為本”的道德倫理要求。即使是在算法時代，個人仍然具備充分的選擇自主。個人拒絕權保留了主體對于數字人格的控制，實現自主決定的自由，是捍衛(wèi)人性尊嚴的重要工具。因此有必要充分尊重個人拒絕權，并且完善個人拒絕權的相關產品設計，對于向平臺提出關閉個性化推薦服務、注銷平臺賬號等界面設置應該更加簡潔，不應在實施個人拒絕權利的過程中設置無端阻礙。此外，要強化責任體系，義務的良好履行才能保障權利的順利實施，不應再將前述的“隱藏關閉個性化推薦”“默認自動化推薦功能開啟”等行為仍使其處于法律規(guī)制的灰色地帶，可以采取勸誡、警告等柔性處理方式保障個人拒絕權得以實施。

（作者單位：華東政法大學經濟法學院）