韓宇航

（上海交通大學媒體與傳播學院，上海 201100）

一、算法推薦的概念和運行機制

算法推薦指采用計算機算法分析用戶的基本信息、網絡瀏覽情況和網絡社交行為等數據，從而推測用戶可能感興趣的內容并向其精準推送信息的新型信息分發(fā)方式。

基于不同的運行機制，常見的算法推薦系統(tǒng)有三種：基于知識的算法推薦系統(tǒng)、基于內容的算法推薦系統(tǒng)和協(xié)同過濾的算法推薦系統(tǒng)。第一，基于知識的算法推薦系統(tǒng)以用戶和商品屬性為基礎，對用戶和商品了解越多，預期效果就越好。第二，基于內容的算法推薦系統(tǒng)主要依賴于用戶的顯性或隱性反饋，會向用戶推薦與其喜好相似的商品。其中，顯性反饋指用戶明確點擊喜歡、不喜歡按鈕或進行打分的行為，這種反饋一般較難獲得；隱性反饋指用戶在看到信息后瀏覽或購買了相關產品的行為。第三，協(xié)同過濾的算法推薦系統(tǒng)更依賴于整個用戶群的交互，主要有基于商品和基于用戶兩種協(xié)同過濾形式。

目前，各大互聯網公司的算法推薦系統(tǒng)多為組合形式，比如，今日頭條算法推薦系統(tǒng)的運作邏輯就是一個用戶對內容滿意度的函數，通過輸入三個維度的變量 （第一個維度是內容變量，比如文字、視頻等；第二個維度的變量以職業(yè)、年齡等用戶特征為代表，第三個維度的變量是所處的環(huán)境特征，即場景），模型會生成一個預估，用來判斷所推薦的內容在這一場景下對特定用戶是否適用。

二、算法推薦易引發(fā)的法律問題

（一）隱私侵犯和濫用問題：數據收集引發(fā)隱私侵犯和濫用

算法推薦為了實現個性化的信息推送，就必須廣泛收集用戶的信息瀏覽記錄，深入分析用戶的“數字足跡”，從而形成精準、全面的用戶畫像，因此，人們在享受算法推薦帶來的便利的同時，也面臨著信息泄露的風險。

社交媒體時代，各類傳感器和可穿戴設備成為了不易被察覺的數據收集裝置，人們日常生活的行為數據乃至生理信息都成為了數據收集的對象，加之互聯網對“流量”的追捧以及用戶對便利的追求，導致用戶的隱私安全面臨著前所未有的風險。從2018年暴發(fā)的涉及5000多萬用戶數據泄露的“劍橋分析事件”中可以看到：無論用戶是否主動登錄其社交媒體賬號，平臺都可以憑借技術能力、關聯經營網絡獲取到用戶在第三方平臺的使用痕跡，由此而產生的便是信息的商業(yè)化出售和濫用問題。

（二）算法偏見問題：“黑箱”背后的算法操縱和公平正義缺位

算法偏見指“算法程序在信息生產和分發(fā)過程中失去了客觀中立的立場，造成片面或與客觀實際不符的信息、觀念被生產并傳播，從而影響了公眾對信息的客觀、全面認知”。2021年，在Netflix上線的紀錄片 《編碼偏見》中，科學家在測試了諸多面部識別商用軟件后發(fā)現，膚色偏白的男性群體被正確識別的概率高達99%，女性則偏低；然而，隨著膚色的不斷加深，識別正確率也呈指數式下降。

縱觀整個信息生產和分發(fā)過程，算法偏見問題一直存在。首先，是輸入數據的偏見。機器學習是以社會中已經存在的數據為基礎的，只要偏見仍然存在于社會中，機器便會通過這些帶有偏見的數據進行更進一步的分析。這就意味著，當帶有偏見的數據進入算法程序，還會再次面對帶有偏見的算法指令。其次，是算法設計者自身刻意或無意的偏見。算法設計者的偏見直接影響著算法程序的公平與公正，使得本該中立的算法技術也往往帶有偏見，帶有偏見的數據進入帶有偏見的程序后所呈現的便是不夠客觀的內容，而這些內容也影響著用戶的數字媒介使用足跡，從而通過機器學習帶來更深度的影響。所以說，當自帶偏見的算法系統(tǒng)投入使用，其背后的偏見也在影響和“操縱”著社會的發(fā)展和進步。

一方面，算法偏見的存在使得不同種族、不同性別的人群被區(qū)別對待，在一定程度上損害了社會公平；另一方面，算法偏見的存在也損害著用戶的個人利益，典型代表就是算法殺熟現象，即不同人在同一個網絡平臺進行消費，同一商品或服務的價格卻不一樣。算法偏見的存在直接影響著人們接收到信息后的決策，并且，隨著技術的發(fā)展對社會產生的負面影響會不斷加深。

（三）信息質量問題：算法推薦使得網絡信息環(huán)境被破壞

首先，低俗信息并不是智能媒體時代的新產物，但卻在人工智能技術的助推下在傳媒界愈演愈烈。由于算法推薦以獲取流量為目的，其運行也是以用戶數據為基礎、以用戶興趣為指向的，天生具有“逐熱”屬性，因此，用戶的局限性都被復刻在了算法程序之中，并且，在信息繭房中部分用戶的低俗愛好正在被一步步強化，隨著算法推薦的深度使用，低俗信息泛濫的問題也逐步嚴重。

其次，算法推薦對虛假信息的傳播也具有推波助瀾的作用。皮尤研究中心調查研究顯示，一半以上的專家對“可以利用技術遏止假新聞傳播”持悲觀態(tài)度，事實也似乎正在印證這一點。一方面，算法推薦難以有效識別和抑制假新聞的傳播；另一方面，算法推薦的特點又為假新聞的廣泛傳播提供了更大的助力和傳播空間。在社交媒體中，借助夸張標題來吸引用戶眼球的虛假信息往往會收獲更多的流量，而用戶點擊率的高低又是算法推薦機制衡量信息受歡迎程度的重要指標，因此，就造成了虛假信息屢禁不止的狀況。

2016年，“后真相”被牛津詞典評為年度詞匯，指情緒和個人的既有傾向在影響個人觀點上，扮演著比事實和真相更重要的角色，相對于人們的既有立場和情感傾向，真相是什么顯得越來越無關緊要。隨著“后真相”時代的到來，人們更傾向于尋找和自身情感需求或既有價值觀相符的信息，而并非真相，因此，只要虛假信息披上情感的外衣或利用夸張的標題刺激人們的情緒，人們便會點擊瀏覽，從而產生了一條又一條高流量信息。

三、算法推薦的規(guī)制經驗

（一）透明化算法，加強算法規(guī)制

首先，通過透明化算法，加強算法規(guī)制。近年來，部分互聯網企業(yè)開始致力于向公眾提供更開放、透明化的算法，比如，2019年6月，YouTube宣布將公開其平臺的內部算法運行機制，主要表現為：在其推薦內容段下方，向用戶解釋為何該段視頻會被推薦進入用戶首頁。與此同時，YouTube也賦予了用戶更多的主動性，增加了過濾和排序功能，用戶可以在首頁頂部搜索想要了解的特定主題。

其次，通過改進算法，糾正算法可能存在的偏見。比如，2018年5月，Facebook推出了 Fairness flow工具，用以檢驗算法偏差，主要功能為：當算法程序因為人的性別、種族等特性作出有失公平的判斷時，Fairness flow就會發(fā)出警告提醒；同年9月，谷歌也推出了具有相似功能的工具——what-if，幫助開發(fā)者衡量算法的公平程度。

（二）平臺賦權用戶，凈化信息環(huán)境

為了共同維護良好的平臺環(huán)境，構建多元化的新聞平臺用戶隱私保護機制，較多媒體平臺采取了“自身發(fā)力+用戶共建”的方式。比如，YouTube不僅加強了平臺信息的管控和監(jiān)管力度，對視頻內容實行評級機制，并為用戶賦權，引入人工機制，用戶通過舉報反饋可以標記不良信息；還繼續(xù)沿用了“三振出局”的懲罰系統(tǒng)，即一個賬號被舉報三次以上將無法再使用，加大了違規(guī)賬號的懲處力度，與用戶協(xié)力加強平臺內容治理。Facebook敞開技術大門，其新聞室發(fā)文提醒用戶設置賬戶的隱私、可見度權限，并介紹了關涉隱私的新功能：在全球范圍內正式上線Off-Facebook activity以及第三方授權登錄提示。

（三）政府端發(fā)力，維護用戶權益

2018年，歐盟出臺了 《通用數據保護條例》（GDPR），旨在保護歐盟境內居民的個人數據和隱私，對網站的數據收集和使用作出了比較完整的規(guī)定，即收集數據前要獲得用戶的許可，并向其解釋收集數據的原因，保證在必要時可以刪除相關數據信息。2020年7月，美國 《加州消費者隱私法案》（CCPA）正式生效，明確表示濫用cookie的企業(yè)可能因侵犯隱私而面臨高額處罰。

2021年8月20日，十三屆全國人大常委會第三十次會議表決通過了 《中華人民共和國個人信息保護法》，這是中國首部專門保護個人信息的法律，旨在保護個人信息權益，規(guī)范個人信息處理活動，促進個人信息合理利用。法案制定參考了歐盟的 《通用數據保護條例》，對個人信息的保護作了更為明確和嚴格的規(guī)定。

四、算法推薦的規(guī)制方向

（一）加強監(jiān)管，完善算法設計

首先，由于算法推薦是以數據為基礎的，因此，規(guī)制算法推薦可以先從數據著手，凈化并管理算法推薦需要的數據。其次，加強監(jiān)管，避免算法設計者將個人偏見代入算法程序，并將算法監(jiān)管和算法自覺貫徹于算法設計、運行的全過程。最后，重視事后的補救，對因算法偏見而引起的社會不公現象，要通過法律程序補償權益受損者，并對技術方酌情處罰。一方面，要加強算法設計方的媒介倫理意識；另一方面，要強化政府、電信主管部門、公安部門和其他監(jiān)管者的責任意識，對技術方進行合理有效的監(jiān)管，在社會公平和科技發(fā)展之間找到合適的平衡。

（二）通過立法，加強隱私保護

無論是用戶采取保密措施予以保護的直接隱私，還是技術方在用戶公開信息和行為中挖掘的間接隱私，其保護都應根據信息特性，通過用戶和數據使用者兩方協(xié)力完成。

首先，針對間接隱私，應堅持事前告知、“告知許可”原則。一方面，應在收集數據前告知用戶哪些信息可能會被收集，并規(guī)范數據使用者的行為；另一方面，應在加強數據收集使用監(jiān)管的同時堅持“先告知，再許可”的原則，即先告知用戶算法可能會收集哪些信息以及存在的風險，在征得用戶許可后進行信息數據收集。其次，針對直接隱私，應著重對數據使用者進行責任規(guī)范。由于網絡時代的數據量較為龐大，完全執(zhí)行“告知許可”原則會降低信息傳播的效率，因此，可以通過立法的形式規(guī)范數據濫用和非法使用數據的行為，一旦數據使用者侵害了用戶的隱私權利，必須依法進行處罰。

（三）透明化算法，防止算法操縱

人們把算法稱為“黑箱”，一方面，是因為其程序的復雜性和智能性；另一方面，則是因為其運行程序和決策機制的不透明性。算法的“黑箱”特性使得用戶對算法的運行和決策機制抱有較大的好奇與質疑，無形中加劇了用戶對人工智能的不安情緒。

加快算法的透明化，不僅可以緩解用戶的不安情緒，也可以防止數據和權力的絕對集中，因此，應通過法律要求數據擁有者定期公開其算法運行機制，解釋算法的設計原理，并將算法程序透明化，以消除用戶的誤解和懷疑，避免算法和科技公司對數據的深度操縱。

（四）用戶、平臺協(xié)力，凈化網絡空間

首先，平臺方應制定相關條例遏制不良內容的傳播，從算法推薦機制入手，對各種假新聞和擦邊信息的推薦作出調整，減少可能誤導用戶的內容推薦。其次，平臺方可以賦予用戶更多實際性的權力，推出用戶舉報后對平臺的懲罰機制，使平臺與用戶合力凈化內容環(huán)境。比如，一條消息如果被多名用戶舉報或被同名用戶多次舉報，就應該對其內容進行再次審核，必要時應避免該內容發(fā)布，同時完善申訴機制，賦予用戶合理范圍內的監(jiān)督權，從而實現內容管理體制的透明化、高效化。

五、結 語

算法推薦機制不僅改變了用戶獲取信息的方式，其“投其所好”的特點也不可避免地造成了“信息繭房”效應的擴大，背后的算法偏見更是用“看不見的手”影響著社會發(fā)展。因此，算法推薦應兼具工具理性和價值理性，在法律法規(guī)和公眾的監(jiān)督下，加強內容質量把控，將社會人文價值導向滲入其中。