張 楠 閆 濤 張 騰

新一輪科技革命驅(qū)動(dòng)人類社會(huì)快速進(jìn)入數(shù)字時(shí)代，尤其是大數(shù)據(jù)技術(shù)與人工智能技術(shù)應(yīng)用日臻成熟，為智能化、智慧化決策提供了有力支撐。算法作為人工智能的核心要素與影響決策過(guò)程的關(guān)鍵因素，不僅具有強(qiáng)大而高效的問(wèn)題解決能力，并且在商務(wù)、政務(wù)等領(lǐng)域有著廣泛的適用性。然而，算法自身具有“不透明”等復(fù)雜特性，這種不可解釋的隱憂對(duì)現(xiàn)實(shí)倫理、個(gè)人權(quán)益、社會(huì)秩序和國(guó)家權(quán)力造成沖擊。如何應(yīng)對(duì)算法風(fēng)險(xiǎn)、規(guī)范算法應(yīng)用，成為算法發(fā)展面臨的重要問(wèn)題。其中，平臺(tái)推薦算法應(yīng)用所引發(fā)的“信息繭房”、算法“歧視”、算法“殺熟”、算法“利維坦”等風(fēng)險(xiǎn)最為突出，這些風(fēng)險(xiǎn)問(wèn)題對(duì)網(wǎng)絡(luò)內(nèi)容生態(tài)治理提出新挑戰(zhàn)，因而加強(qiáng)對(duì)平臺(tái)推薦算法應(yīng)用的監(jiān)管、規(guī)范算法推薦活動(dòng)變得十分緊迫。

一、引言

(一)內(nèi)容供給模式的深刻變革引發(fā)海量信息處理需求

在傳統(tǒng)的信息內(nèi)容供給模式中，人們主要從報(bào)紙、期刊、電視、影院、商業(yè)門戶網(wǎng)站等渠道獲取各類信息內(nèi)容，而其中的信息內(nèi)容生產(chǎn)機(jī)制并無(wú)實(shí)質(zhì)性差異。受限于人員、政策、地理等因素，傳統(tǒng)模式信息內(nèi)容供給能力和范圍也始終是極為有限的，這些信息內(nèi)容供給渠道，無(wú)論是在時(shí)效性上，還是在豐富性上，都難以跟上“信息爆炸”的時(shí)代步伐。早期社交媒體的發(fā)展為用戶自行撰寫、拍攝、制作的圖文視頻類作品提供了良好機(jī)會(huì)，也提高了互聯(lián)網(wǎng)信息內(nèi)容的多樣性。受此類社交模式的啟發(fā)和影響，各大互聯(lián)網(wǎng)企業(yè)開(kāi)始搭建賬號(hào)平臺(tái)，引導(dǎo)、鼓勵(lì)網(wǎng)民注冊(cè)使用公眾賬號(hào)。由分散的用戶供給信息內(nèi)容的方式，能夠滿足各類人群對(duì)信息內(nèi)容的多樣需求，雖然在專業(yè)性上可能有所欠缺，但突破了記者、編輯等專業(yè)人員信息內(nèi)容生產(chǎn)的局限性，給“中心化”的傳統(tǒng)信息內(nèi)容供給模式帶來(lái)了巨大沖擊。在傳統(tǒng)信息內(nèi)容供給方式與規(guī)則發(fā)生革命性改變的背景下(喻國(guó)明、韓婷，2018)，面對(duì)海量的信息內(nèi)容供給，依靠傳統(tǒng)人工編輯和呈現(xiàn)的模式面臨兩個(gè)方面的巨大挑戰(zhàn)。一是如何在短期內(nèi)對(duì)信息內(nèi)容進(jìn)行挑選、分類，從而發(fā)現(xiàn)、捕捉用戶感興趣的信息內(nèi)容與時(shí)事熱點(diǎn)；二是當(dāng)信息內(nèi)容種類足夠豐富時(shí)，在有限的手機(jī)屏幕當(dāng)中，該采用何種呈現(xiàn)方式，才可能滿足用戶多樣化的需求，為用戶找到“需求內(nèi)容”，并為不同類型的優(yōu)質(zhì)信息內(nèi)容尋找“需求用戶”。

(二)推薦算法成為信息內(nèi)容分發(fā)呈現(xiàn)的主導(dǎo)力量

平臺(tái)推薦算法恰好解決了“為用戶找內(nèi)容”和“為內(nèi)容找用戶”兩個(gè)方面的痛點(diǎn)問(wèn)題，因此成為智能傳播時(shí)代信息內(nèi)容供給與呈現(xiàn)的靈魂(張省、蔡永濤，2022)。首先，推薦算法可以對(duì)用戶上傳的信息內(nèi)容進(jìn)行標(biāo)簽化分類，并在此基礎(chǔ)上建立信息內(nèi)容庫(kù)。其次，推薦算法通過(guò)收集用戶的興趣喜好、瀏覽習(xí)慣、選擇傾向等行為偏好數(shù)據(jù)，對(duì)不同用戶進(jìn)行畫(huà)像和“打標(biāo)簽”，從而建立用戶“需求清單”。最后，對(duì)信息內(nèi)容與用戶進(jìn)行匹配，為需求用戶推薦呈現(xiàn)特定類目的信息內(nèi)容，便可以實(shí)現(xiàn)海量信息內(nèi)容的有效分類和準(zhǔn)確分發(fā)，進(jìn)而滿足用戶的個(gè)性化需求，提升用戶體驗(yàn)感。

不同類型推薦算法的實(shí)現(xiàn)均依賴兩項(xiàng)基礎(chǔ)條件。一是平臺(tái)需要具備多樣化信息內(nèi)容供給的能力，二是平臺(tái)需要具備收集用戶行為數(shù)據(jù)的能力(陳潔敏等，2014)。當(dāng)商業(yè)平臺(tái)具備了以上兩項(xiàng)條件后，才能基于大量真實(shí)的行為數(shù)據(jù)對(duì)用戶進(jìn)行準(zhǔn)確畫(huà)像，為用戶精準(zhǔn)推送興趣內(nèi)容，從而給用戶帶來(lái)更加個(gè)性化、智能化的瀏覽體驗(yàn)，并幫助平臺(tái)企業(yè)在激烈的流量競(jìng)爭(zhēng)環(huán)境中突出重圍?？梢?jiàn)，推薦算法能夠化解信息過(guò)載困境，同時(shí)又能夠滿足以用戶為中心的信息內(nèi)容供給需求(陳潔敏等，2014)。事實(shí)證明，較早應(yīng)用推薦算法的APP，正是依靠推薦算法突破了信息呈現(xiàn)方式，對(duì)信息內(nèi)容進(jìn)行高效處理、為用戶提供個(gè)性化推薦，才迅速受到廣大網(wǎng)民的認(rèn)可和追捧。

(三)平臺(tái)推薦算法監(jiān)管的隱蔽性與“黑箱化”難點(diǎn)

推薦算法技術(shù)的廣泛應(yīng)用，使得不同的用戶看到的信息內(nèi)容不盡相同，產(chǎn)生“千人千面”的具體現(xiàn)實(shí)表現(xiàn)。諸如分裂國(guó)家、暴恐暴力、色情賭博、侮辱英烈等違法違規(guī)的信息內(nèi)容，可能在不同的用戶手機(jī)端以不同的方式展現(xiàn)。此時(shí)，推薦算法成為一個(gè)“盲盒”“黑箱”的角色，使得監(jiān)管部門很難看清、查清推薦結(jié)果中的違規(guī)內(nèi)容(張紅春、章知連，2022)。如果一個(gè)采用了推薦算法的APP，向少數(shù)特定的用戶群體推送違規(guī)信息，向多數(shù)普通用戶推薦正常合規(guī)信息，而接收到違規(guī)信息的用戶又沒(méi)有進(jìn)行投訴、舉報(bào)，監(jiān)管部門依靠現(xiàn)有技術(shù)手段則很難發(fā)現(xiàn)這些違規(guī)行為的存在及損害結(jié)果的發(fā)生。這不僅可能引發(fā)網(wǎng)絡(luò)信息內(nèi)容與網(wǎng)絡(luò)空間治理風(fēng)險(xiǎn)，也給信息內(nèi)容監(jiān)管帶來(lái)前所未有的挑戰(zhàn)。

在傳統(tǒng)市場(chǎng)監(jiān)管中，對(duì)媒體信息內(nèi)容的監(jiān)管，監(jiān)管部門可以進(jìn)入實(shí)體經(jīng)營(yíng)場(chǎng)所，查看實(shí)際經(jīng)營(yíng)流程；而相較之下，在平臺(tái)推薦算法應(yīng)用過(guò)程中，監(jiān)管部門無(wú)法通過(guò)一個(gè)公開(kāi)的入口或渠道，對(duì)平臺(tái)分發(fā)的信息內(nèi)容進(jìn)行監(jiān)測(cè)、調(diào)查和取證。推薦算法具有較強(qiáng)的監(jiān)管隱蔽性和“黑箱化”特征，對(duì)采用推薦算法的APP，監(jiān)管部門能看到的也僅僅是“冰山一角”，無(wú)法判斷和認(rèn)定平臺(tái)為全部用戶推薦了什么內(nèi)容、有特定興趣偏好的用戶是否瀏覽了違規(guī)內(nèi)容，以及違規(guī)內(nèi)容被推送至多少用戶等情況。

(四)“黑箱”下算法監(jiān)管與治理的設(shè)想

算法“黑箱”給平臺(tái)推薦算法監(jiān)管帶來(lái)諸多難題，例如，違規(guī)信息內(nèi)容推送行為難于取證、精準(zhǔn)推薦與“信息繭房”難以區(qū)別、“流量至上”擾亂網(wǎng)絡(luò)生態(tài)等。然而，由于當(dāng)前對(duì)算法以及推薦算法的定義較為模糊、算法倫理規(guī)范效力不足、相關(guān)立法進(jìn)程漫長(zhǎng)且滯后，加之算法可解釋性成本和負(fù)擔(dān)過(guò)高，這為打開(kāi)算法“黑箱”、實(shí)現(xiàn)算法透明增加了極大的難度。那么，在不打開(kāi)算法“黑箱”的前提下，算法治理是否具有可行之道？算法“黑箱”下全面有效的平臺(tái)推薦算法監(jiān)管應(yīng)采取何種方式與模式？這些問(wèn)題亟待解決。

以往的理論研究與治理實(shí)踐將注意力主要集中在算法透明上，對(duì)“黑箱”下算法治理可能性、可行性的關(guān)注不足。尤其是對(duì)于平臺(tái)推薦算法而言，短期內(nèi)無(wú)法完全實(shí)現(xiàn)算法透明，但監(jiān)管與治理需求又十分迫切。因此，不能“守株待兔”，而是要另辟蹊徑，在接受算法“黑箱”客觀存在的現(xiàn)實(shí)前提下，探索當(dāng)下算法治理的出路。本文面對(duì)算法“黑箱”固有特性與算法透明相對(duì)性的矛盾，基于機(jī)器行為學(xué)理論與算法行為生成機(jī)制，提出因果“倒推”的逆向算法治理設(shè)想。 這種“黑箱”下算法治理的理論視角，不僅突破了算法透明治理邏輯的局限，同時(shí)也補(bǔ)充、豐富了既有的算法治理體系框架。另外，本文聚焦于平臺(tái)推薦算法治理，通過(guò)實(shí)驗(yàn)方法驗(yàn)證“黑箱”下算法監(jiān)管技術(shù)方案的可行性，進(jìn)而展開(kāi)監(jiān)管策略探索，為“黑箱”下平臺(tái)算法監(jiān)管實(shí)踐提供參考。值得注意的是，打開(kāi)算法“黑箱”與不打開(kāi)算法“黑箱”兩種治理路徑互為補(bǔ)充，需要綜合考量和利用，兩者間關(guān)系的調(diào)適能夠?yàn)槎鄬哟蔚乃惴ㄖ卫碇贫葮?gòu)建提供新的思路和選擇。

二、文獻(xiàn)綜述：算法治理的宏觀演進(jìn)與微觀進(jìn)路

(一)算法治理宏觀演進(jìn)中的基本共識(shí)

“算法”這一概念，從數(shù)學(xué)領(lǐng)域到計(jì)算機(jī)領(lǐng)域再到廣泛的社會(huì)領(lǐng)域，已發(fā)生了多次重要流變，需要從技術(shù)、系統(tǒng)、社會(huì)等不同層面予以理解(肖紅軍，2022)。在技術(shù)層面，算法是僅限于適合計(jì)算機(jī)程序來(lái)實(shí)現(xiàn)的決策技術(shù)或解決方案(胡鍵，2021)，其本質(zhì)是一種計(jì)算工具(Ziewitz，2015)。在系統(tǒng)層面，算法是人類通過(guò)代碼設(shè)置、數(shù)據(jù)運(yùn)算與機(jī)器自動(dòng)化判斷進(jìn)行決策的一套機(jī)制(丁曉東，2020)，強(qiáng)調(diào)設(shè)計(jì)者的算法責(zé)任(Martin，2019)。在社會(huì)層面，算法是建構(gòu)社會(huì)結(jié)構(gòu)與秩序的理性模型(賈開(kāi)，2019)，在此過(guò)程中算法被視為一種社會(huì)權(quán)力(Beer，2017；許曉東、鄺巖，2022)。

算法治理概念包含兩個(gè)維度的內(nèi)涵。一是應(yīng)用算法的治理(Algorithmic Governance)，二是對(duì)算法及其應(yīng)用的治理(Governance of Algorithms)。正是由于算法被廣泛應(yīng)用于社會(huì)和國(guó)家治理領(lǐng)域，對(duì)個(gè)人和組織決策產(chǎn)生了深遠(yuǎn)影響，并因此導(dǎo)致一系列不良現(xiàn)象與風(fēng)險(xiǎn)，才引發(fā)了對(duì)算法及其應(yīng)用的監(jiān)管、規(guī)制、引導(dǎo)與優(yōu)化的思考(Ebers &Gamito，2021)。本文中算法治理指的是對(duì)算法及其應(yīng)用的治理，它是算法規(guī)則的建立、重塑、運(yùn)行過(guò)程，具體而言，這些規(guī)則可以分為法律政策規(guī)則、社群規(guī)則與技術(shù)規(guī)則等(許可，2022)。同時(shí)，對(duì)算法及其應(yīng)用的治理也是算法風(fēng)險(xiǎn)和影響的化解、消除過(guò)程，其范式包括個(gè)體賦權(quán)、外部問(wèn)責(zé)與平臺(tái)義務(wù)(張欣，2019)。面對(duì)算法多層次、多維度的定義與內(nèi)涵，算法治理所關(guān)注的不僅包括以代碼為載體的技術(shù)作用對(duì)象及其影響因素，還包括算法運(yùn)行機(jī)制、算法結(jié)果、算法塑造的規(guī)則與算法對(duì)人類社會(huì)產(chǎn)生的影響(賈開(kāi)，2019)。算法治理以提高算法應(yīng)用準(zhǔn)確性、合法性與效率為目標(biāo)，算法“黑箱”隱憂與算法透明理性是其中最為關(guān)鍵的兩大問(wèn)題(Coglianese &Lehr，2019)。

算法的應(yīng)用發(fā)展驅(qū)動(dòng)了算法治理研究的演進(jìn)，算法治理邏輯與治理體系建設(shè)逐漸得到重視(孟天廣、李珍珍，2022)。不同的算法治理理論主張?jiān)谥贫葘?shí)施過(guò)程中發(fā)生著轉(zhuǎn)場(chǎng)與互動(dòng)，無(wú)論是法律規(guī)制、行政問(wèn)責(zé)、倫理約束等傳統(tǒng)治理方式，抑或是以算法透明為核心的技術(shù)治理方式，均強(qiáng)調(diào)了算法治理的重要性與必要性。算法治理議題廣泛，不同維度的研究涉及的基礎(chǔ)理論依據(jù)紛繁各異，但學(xué)者們對(duì)數(shù)字正義(馬長(zhǎng)山，2022)、公共價(jià)值創(chuàng)造(昌誠(chéng)等，2022)、科技向善等基本理念的追求始終是一致的。

當(dāng)前，多元主體參與下的算法治理體系建設(shè)已成為學(xué)界共識(shí)，算法治理需要政府、社會(huì)、企業(yè)、公眾等多元主體的共同參與(張吉豫，2021)，而算法治理體系構(gòu)建過(guò)程中各主體間權(quán)責(zé)、利益關(guān)系的均衡是十分復(fù)雜、困難的(楊華鋒，2022；金雪濤，2022)。另外，不同國(guó)家和地區(qū)在治理目標(biāo)、治理主體、治理對(duì)象、治理手段和治理模式等方面也存在一定差異與共性(曾雄等，2022)，算法全球治理問(wèn)題亦開(kāi)始得到學(xué)者關(guān)注(賈開(kāi)等，2022；李龍飛、張國(guó)良，2022)。

(二)算法治理實(shí)現(xiàn)路徑的差異化

算法治理與監(jiān)管的實(shí)現(xiàn)路徑被廣泛討論，不同類型的算法治理，以及不同應(yīng)用領(lǐng)域的算法治理，在監(jiān)管思路與治理模式上存在較大差異。例如，智能網(wǎng)聯(lián)車自動(dòng)駕駛算法治理(Lyakina et al.，2019)與平臺(tái)新聞分發(fā)算法治理(Sehat，2022)所關(guān)注的風(fēng)險(xiǎn)問(wèn)題截然不同；再如，社交網(wǎng)絡(luò)中算法治理(Lemes de Castro，2018)與金融領(lǐng)域算法治理(Wijermars &Makhortykh，2022)所遵循的原則和理念也迥然相異。對(duì)于特定的算法治理問(wèn)題，學(xué)者們根據(jù)不同的算法特征與風(fēng)險(xiǎn)機(jī)制，結(jié)合不同的理論基礎(chǔ)分析，提出了具體的治理路徑。

推薦算法作為應(yīng)用最為廣泛的算法類型，學(xué)者們圍繞其風(fēng)險(xiǎn)挑戰(zhàn)、特征特性、技術(shù)演變、治理對(duì)策等展開(kāi)討論(Andrews，2019；孟天廣、李珍珍，2022)。行政規(guī)制被認(rèn)為是兼顧效力與效率的推薦算法治理方式。例如，政府和社會(huì)等利益相關(guān)者共同設(shè)計(jì)實(shí)現(xiàn)一種責(zé)任機(jī)制，用以監(jiān)督算法設(shè)計(jì)者行為(Dekker et al.，2022)，或者圍繞算法推薦的代表性(Representation)、方向性(Direction)和干預(yù)性(Intervention)，構(gòu)建一個(gè)跨部門、跨地區(qū)、跨技術(shù)和跨組織的監(jiān)管框架(Eyert et al.，2022)。其實(shí)，問(wèn)責(zé)與處罰并非算法監(jiān)管的根本目的，糾正算法偏差、防范算法風(fēng)險(xiǎn)、促進(jìn)算法更好地應(yīng)用才是算法治理的出發(fā)點(diǎn)，這對(duì)推薦算法應(yīng)用的優(yōu)化改進(jìn)也是十分必要的。例如，單曉紅等(2022)提出通過(guò)融合話題特征和目標(biāo)用戶興趣偏好，改善推薦結(jié)果的多樣性；王旭娜和譚清美(2020)基于一項(xiàng)對(duì)互聯(lián)網(wǎng)平臺(tái)用戶偏好與平臺(tái)推薦機(jī)理的研究，提出綜合集成個(gè)體推薦和群體推薦的系統(tǒng)優(yōu)化建議。

(三)算法“黑箱”與算法透明

算法“黑箱”指的是算法輸入、輸出及運(yùn)行過(guò)程中不公開(kāi)、不可知、不可解釋、不確定的狀態(tài)，具體包括兩層含義：“一是指源于算法本身的技術(shù)復(fù)雜性而導(dǎo)致的模型不可解釋，這類問(wèn)題存在于深度學(xué)習(xí)等算法中；二是指算法設(shè)計(jì)者不向用戶公開(kāi)其算法原理與機(jī)制，導(dǎo)致用戶對(duì)算法特征與運(yùn)算過(guò)程毫不知情?！?孟天廣、李珍珍，2022：16)算法因其技術(shù)邏輯及應(yīng)用方式的特性而帶來(lái)不可解釋的隱憂，導(dǎo)致算法“黑箱”不能為人所知曉或理解，從而產(chǎn)生算法不可監(jiān)督、難以追責(zé)等治理困境(賈開(kāi)，2019)。西方發(fā)達(dá)國(guó)家在公共服務(wù)領(lǐng)域較早地使用了推薦算法，但算法這類深度學(xué)習(xí)工具固有的“黑箱”困境，給公共管理與決策帶來(lái)了巨大的不確定性(Busuioc，2021)。還有的大量研究涉及算法在電子商務(wù)領(lǐng)域的應(yīng)用。例如，在利用算法推薦技術(shù)的大型電子商務(wù)平臺(tái)中，算法“黑箱”導(dǎo)致的信息不對(duì)稱和不平等議價(jià)能力問(wèn)題，對(duì)中小企業(yè)造成嚴(yán)重困擾(Di Porto &Zuppetta，2021)。算法治理是應(yīng)對(duì)算法“黑箱”困境的有效途徑，有學(xué)者對(duì)德國(guó)和荷蘭警方在預(yù)測(cè)性警務(wù)領(lǐng)域的推薦算法進(jìn)行了實(shí)證研究，發(fā)現(xiàn)兩種算法系統(tǒng)的不同定位和使用方式，取決于不同的社會(huì)主導(dǎo)規(guī)范和行政文化，算法“黑箱”不可知的技術(shù)特征并不直接影響推薦算法應(yīng)用，有效的治理能夠促進(jìn)建立信任環(huán)境(Meijer et al.，2021)。

算法透明是在一定程度上打開(kāi)算法“黑箱”，通過(guò)提高關(guān)于算法目的、算法設(shè)計(jì)、算法運(yùn)行、算法結(jié)果等方面的可解釋性、信息對(duì)稱性，來(lái)保障用戶知情權(quán)，從而化解算法“黑箱”困境。算法透明能否實(shí)現(xiàn)、效果如何，均受技術(shù)、機(jī)制、信息披露等多方面因素影響。越來(lái)越多的學(xué)者認(rèn)識(shí)到算法透明是相對(duì)的，而非絕對(duì)的(賈開(kāi)，2019；孟天廣、李珍珍，2022)，透明度不能被視為純粹的開(kāi)放性，而應(yīng)該是一種交流行為與治理方式(肖夢(mèng)黎，2021)。強(qiáng)化算法解釋、算法透明和實(shí)現(xiàn)算法祛魅被認(rèn)為是解決算法監(jiān)管問(wèn)題的必要環(huán)節(jié)(黃靜茹等，2022)，法學(xué)學(xué)者們對(duì)算法“透明度模型”展開(kāi)了諸多討論，算法透明原則成為法律規(guī)制的重要內(nèi)容(Bayamlioglu，2018；徐鳳，2019)。有人認(rèn)為準(zhǔn)確的算法認(rèn)知是有效發(fā)揮算法備案和公示制度監(jiān)管作用的前提，也是相關(guān)問(wèn)題得到良好解釋和妥善解決的關(guān)鍵，缺乏準(zhǔn)確的算法認(rèn)知?jiǎng)t將導(dǎo)致算法監(jiān)管過(guò)度，并因此制約算法的應(yīng)用與發(fā)展(劉澤剛，2022)。與此同時(shí)，算法透明的缺陷被廣泛討論，算法透明的可行性也受到質(zhì)疑。例如，有學(xué)者提出算法透明作為事前規(guī)制方式，其規(guī)制效力有著天然的不足。通常的算法透明既不可行，也無(wú)必要，因此算法透明理念應(yīng)該處于非普適性、輔助性的地位(沈偉偉，2019)。

(四)文獻(xiàn)述評(píng)

當(dāng)前研究對(duì)算法風(fēng)險(xiǎn)的探討熱度始終不減，對(duì)于算法治理體系構(gòu)建的思考也逐漸深入，學(xué)者們注意到推薦算法這一類型算法在實(shí)踐發(fā)展中的特點(diǎn)與理論研究中的重要性。算法“黑箱”成為算法治理研究中不可回避的核心問(wèn)題，多元化治理工具的設(shè)計(jì)仍然遵循著算法透明的基本邏輯。這種打開(kāi)算法“黑箱”，以算法解釋與算法透明為核心主張的治理模式固然“美好”且重要，但算法透明的合理、合法限度尚不明確，算法透明的實(shí)現(xiàn)也并不能等同于算法治理的有效實(shí)現(xiàn)。保持對(duì)算法透明的理性思考，有必要探索更多的算法治理可能路徑和范式。尤其是對(duì)于平臺(tái)推薦算法而言，相關(guān)法律規(guī)范尚未制定、代碼公開(kāi)尚不可行、算法不可解釋、倫理規(guī)范效力不足，而平臺(tái)企業(yè)的市場(chǎng)行為與商業(yè)活動(dòng)活躍，導(dǎo)致平臺(tái)推薦算法的負(fù)外部性逐漸在放大，諸多圍繞算法透明原則展開(kāi)的治理設(shè)想在平臺(tái)推薦算法的監(jiān)管實(shí)踐中均難以實(shí)現(xiàn)。

跳出基于算法透明的打開(kāi)“黑箱”的治理邏輯，是否可以實(shí)現(xiàn)“黑箱”下的算法治理，以及如何實(shí)現(xiàn)“黑箱”下的算法治理，此類問(wèn)題討論與相關(guān)研究仍較為不足。在不打開(kāi)算法“黑箱”的前提下，倫理約束等柔性規(guī)制(Mittelstadt et al.，2016；胡鍵，2021)、企業(yè)與行業(yè)自律等社群規(guī)則(孟天廣等，2022)是防范算法風(fēng)險(xiǎn)的必要治理方式，但這種前置性治理方式和手段對(duì)于算法結(jié)果有效治理的充分性作用不足，往往需要結(jié)合配套體系建設(shè)來(lái)增強(qiáng)規(guī)制能力，延長(zhǎng)規(guī)制作用周期。另外，以實(shí)用主義為導(dǎo)向、以算法問(wèn)責(zé)為代表的事后規(guī)制方式，作為一種間接的治理策略(沈偉偉，2019)，依賴于法律規(guī)則、政策規(guī)則、社群規(guī)則等治理架構(gòu)的完善，并且主要應(yīng)用于產(chǎn)生損害結(jié)果的情形，無(wú)法直接而全面地解決算法“黑箱”帶來(lái)的問(wèn)題與風(fēng)險(xiǎn)?？梢?jiàn)，當(dāng)前缺乏在不打開(kāi)“黑箱”的前提下，對(duì)算法“黑箱”困境的直接回應(yīng)性治理及監(jiān)管模式探究。不同于以算法透明原則促進(jìn)算法行為和推薦結(jié)果合法、合理的傳統(tǒng)治理思維，本文在機(jī)器行為學(xué)理論視角下，創(chuàng)新地提出以推薦結(jié)果“倒推”算法行為的監(jiān)管設(shè)想，以多層次的行政監(jiān)管策略直接回應(yīng)和破解算法“黑箱”不可知性困境，對(duì)現(xiàn)有算法治理理論研究形成有益補(bǔ)充。

三、模式思考：現(xiàn)實(shí)需求、挑戰(zhàn)與機(jī)器行為學(xué)啟發(fā)

(一)平臺(tái)推薦算法監(jiān)管的現(xiàn)實(shí)需求與面臨挑戰(zhàn)

2021年9月，國(guó)家互聯(lián)網(wǎng)信息辦公室聯(lián)合中央宣傳部等九部委出臺(tái)《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》，從治理機(jī)制、監(jiān)管體系、算法生態(tài)三個(gè)維度出發(fā)，提出了建立算法安全綜合治理格局的任務(wù)要求。2021年底，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部與國(guó)家市場(chǎng)監(jiān)管總局聯(lián)合出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，確立了服務(wù)提供者算法備案與公示制度。2022年3月1日起該規(guī)定正式實(shí)施，同時(shí)互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)上線。截至2023年底，國(guó)家互聯(lián)網(wǎng)信息辦公室已公開(kāi)發(fā)布303條境內(nèi)互聯(lián)網(wǎng)信息服務(wù)算法備案信息，其中包括算法名稱、算法基本原理、算法運(yùn)行機(jī)制、算法應(yīng)用場(chǎng)景、算法目的意圖等方面的簡(jiǎn)要信息內(nèi)容。算法備案與公示制度強(qiáng)調(diào)了算法推薦服務(wù)提供者的責(zé)任與義務(wù)，體現(xiàn)了國(guó)家和政府對(duì)算法治理的重視，同時(shí)也是監(jiān)管部門在算法治理領(lǐng)域邁出的重要一步。

監(jiān)管部門要求推薦算法服務(wù)提供者提交算法信息并描述算法推薦邏輯，可見(jiàn)監(jiān)管部門有意從代碼等技術(shù)層面入手，通過(guò)推動(dòng)算法透明來(lái)破解算法“黑箱”困境。但在實(shí)際操作層面，由平臺(tái)企業(yè)自主提供算法信息的備案方式存在諸多不確定性。這種備案監(jiān)管模式主要面臨以下挑戰(zhàn)。一是平臺(tái)企業(yè)提交的推薦算法信息是一整套代碼，監(jiān)管部門對(duì)該整套代碼如何進(jìn)行評(píng)測(cè)，能否通過(guò)對(duì)代碼的審查來(lái)印證其推薦邏輯和推薦效果的合理性、合法性，均不確定；二是平臺(tái)企業(yè)在運(yùn)營(yíng)中往往會(huì)根據(jù)用戶喜好、時(shí)政熱點(diǎn)等因素，不斷優(yōu)化推薦算法，這就需要及時(shí)動(dòng)態(tài)地調(diào)整算法代碼，而監(jiān)管部門難以實(shí)現(xiàn)對(duì)持續(xù)更迭演變的推薦算法進(jìn)行備案管理和審查；三是監(jiān)管部門難以搭建真實(shí)、龐大的用戶環(huán)境，不具備對(duì)備案推薦算法進(jìn)行實(shí)際測(cè)量和驗(yàn)證的客觀條件。另外，推薦算法備案制度主要作用于事前監(jiān)管環(huán)節(jié)，其事中監(jiān)管和事后監(jiān)管有效性較弱。然而，算法推薦結(jié)果是對(duì)用戶權(quán)益和公共利益產(chǎn)生直接影響的關(guān)鍵因素，事中監(jiān)管與事后監(jiān)管環(huán)節(jié)不容忽視。

(二)機(jī)器行為學(xué)視角下平臺(tái)推薦算法監(jiān)管邏輯與模式啟發(fā)

以人工智能為驅(qū)動(dòng)的機(jī)器在社會(huì)、文化、經(jīng)濟(jì)和政治互動(dòng)中發(fā)揮著越來(lái)越重要的調(diào)節(jié)作用，機(jī)器行為學(xué)(Machine Behavior)成為跨越多個(gè)研究領(lǐng)域的新興學(xué)科(Rahwan et al.，2019)。人機(jī)協(xié)同是機(jī)器行為的核心特征，機(jī)器決策行為的發(fā)生與算法應(yīng)用之間具有密不可分的關(guān)系。同時(shí)，學(xué)習(xí)算法的機(jī)器行為也受到個(gè)體、集體的社會(huì)性因素影響(Borch，2022；Hagendorff，2021)。當(dāng)前“人—機(jī)—物—網(wǎng)”相互融合，在機(jī)器行為、機(jī)器學(xué)習(xí)算法、人機(jī)協(xié)同的共同作用下，復(fù)雜的社會(huì)聯(lián)動(dòng)效應(yīng)將產(chǎn)生復(fù)雜的人機(jī)混合決策場(chǎng)景，因此參與決策的個(gè)體需要對(duì)機(jī)器行為有一定的理解，才能形成人機(jī)高效協(xié)同(曾大軍等，2021)。人工智能不斷迭變發(fā)展，算法與人類社會(huì)的深層次融合在一定程度上突破了算法技術(shù)的“工具性”，算法也并非簡(jiǎn)單的人造物或人工現(xiàn)象。在機(jī)器行為學(xué)理論視角下，人機(jī)交互融合，算法雖然屬于機(jī)器范疇，因其與社會(huì)環(huán)境互相作用、影響，在一定意義上成為具有“自主性”的行動(dòng)主體。機(jī)器在特定的環(huán)境中觸發(fā)或產(chǎn)生的行為是可以被觀察到的，通過(guò)算法在特定環(huán)境中的行為表現(xiàn)、行為結(jié)果，可探究、驗(yàn)證其運(yùn)行機(jī)制和行為動(dòng)機(jī)。算法是機(jī)器行為學(xué)的主要研究對(duì)象之一，機(jī)器行為學(xué)為算法治理理論發(fā)展帶來(lái)新的契機(jī)，對(duì)算法治理的理論框架研究與政策實(shí)踐創(chuàng)新均具有重要意義，尤其在治理原則與方案、算法行為與環(huán)境間關(guān)系、算法生命周期整體協(xié)同性治理等方面具有啟發(fā)性(賈開(kāi)等，2021)。

在人工智能時(shí)代，機(jī)器行為學(xué)顛覆了人類以締造者的主體身份來(lái)研究機(jī)器行為，并從中尋求機(jī)器改進(jìn)方法的傳統(tǒng)研究范式(孫立會(huì)、王曉倩，2022)。機(jī)器行為學(xué)對(duì)機(jī)器行為生成機(jī)制與邏輯的關(guān)注，更多地體現(xiàn)著以結(jié)果“倒推”原因的逆向邏輯，而非通過(guò)探究機(jī)器設(shè)計(jì)過(guò)程，以原因“界定”結(jié)果的正向邏輯(賈開(kāi)等，2021)。就應(yīng)對(duì)算法“黑箱”所引發(fā)的一系列風(fēng)險(xiǎn)而言，機(jī)器行為學(xué)提供的這種“倒推”因果的邏輯，應(yīng)在算法治理與監(jiān)管過(guò)程中得到重視與應(yīng)用，從而修正算法透明邏輯的偏差，彌補(bǔ)多元化、系統(tǒng)化治理框架與治理體系構(gòu)建過(guò)程中，機(jī)器行為學(xué)理論視角的缺失。算法“黑箱”是算法設(shè)計(jì)與運(yùn)行因果關(guān)系中的關(guān)鍵介入因素，由因推果的過(guò)程不可避免地需要打開(kāi)算法“黑箱”，算法透明原則便遵循這種正向邏輯，通過(guò)探究、揭示算法“黑箱”的原因來(lái)達(dá)到對(duì)風(fēng)險(xiǎn)結(jié)果治理的目的，算法透明尤其關(guān)注算法運(yùn)行的公正性、公開(kāi)性(姜野、李擁軍，2019)。相反，在以果推因的過(guò)程中，面對(duì)算法“黑箱”本身的不可解釋性特征，將算法“黑箱”與其他復(fù)雜的算法作用環(huán)境視為整體，基于算法不確定性的多種可能結(jié)果之間的差異比較，來(lái)分析和探究算法設(shè)計(jì)目的、功能等方面的差異。這種逆向邏輯能夠避免或者不需要打開(kāi)算法“黑箱”，并且以成熟的算法“黑箱”優(yōu)化測(cè)試?yán)碚?、技術(shù)傳統(tǒng)為基礎(chǔ)(聶長(zhǎng)海、徐寶文，2004；張永盭、汪鐳，2020)，能夠提高“黑箱”下算法監(jiān)管的適應(yīng)性、可行性，有助于實(shí)現(xiàn)以原因端為落腳點(diǎn)的算法源頭治理，而不是以結(jié)果端為落腳點(diǎn)的不確定性風(fēng)險(xiǎn)治理。

基于機(jī)器行為學(xué)的視角，推薦算法不僅是功能性的機(jī)器，同時(shí)也是帶有動(dòng)態(tài)演化與學(xué)習(xí)特征的智能行動(dòng)主體。推薦算法治理與監(jiān)管的關(guān)鍵在于規(guī)避推薦算法風(fēng)險(xiǎn)行為所導(dǎo)致的風(fēng)險(xiǎn)結(jié)果。以平臺(tái)推薦算法作用結(jié)果反向推導(dǎo)算法設(shè)計(jì)及運(yùn)行機(jī)制的合理性、合法性，建立基于算法效果測(cè)量的監(jiān)管模式，或許可以成為當(dāng)前算法治理與監(jiān)管的新思路，并將為我們理解和預(yù)測(cè)平臺(tái)推薦行為、優(yōu)化監(jiān)管策略提供更深刻的洞見(jiàn)。這種全新的、逆向的監(jiān)管思路仍然需要驗(yàn)證。對(duì)不同平臺(tái)推薦結(jié)果進(jìn)行測(cè)量實(shí)驗(yàn)，能否監(jiān)測(cè)到推薦算法的差異，能否真實(shí)發(fā)現(xiàn)推薦結(jié)果中的不良問(wèn)題和實(shí)際風(fēng)險(xiǎn)，將為我們提供答案。

四、測(cè)量實(shí)驗(yàn)：算法差異的比較與發(fā)現(xiàn)

(一)從用戶視角跟蹤記錄推薦結(jié)果的實(shí)驗(yàn)設(shè)計(jì)

從技術(shù)角度來(lái)看，實(shí)驗(yàn)方法在算法設(shè)計(jì)、改進(jìn)、優(yōu)化、分析等環(huán)節(jié)有著廣泛而普遍的應(yīng)用。社會(huì)科學(xué)研究一直以來(lái)也不乏實(shí)驗(yàn)研究方法的應(yīng)用(Blom-Hansen et al.，2015)，已有學(xué)者在社會(huì)學(xué)(張鉞、李正風(fēng)，2022)、哲學(xué)(黃雪婷，2022)等不同學(xué)科領(lǐng)域運(yùn)用實(shí)驗(yàn)方法對(duì)算法治理相關(guān)問(wèn)題展開(kāi)研究。推薦算法涉及相關(guān)平臺(tái)企業(yè)的商業(yè)秘密，研究者很難對(duì)其內(nèi)部代碼進(jìn)行解剖觀察，因此無(wú)法準(zhǔn)確把握算法的實(shí)際推薦機(jī)制和過(guò)程。為了探究“黑箱”下平臺(tái)推薦算法逆向監(jiān)管、治理模式的可行性，本文提出了另外一種推薦算法實(shí)驗(yàn)思路：從用戶視角切入，向不同平臺(tái)推薦算法輸入用戶行為偏好，持續(xù)操作、觀察、記錄平臺(tái)實(shí)際推薦結(jié)果，測(cè)試算法推薦結(jié)果輸出，并對(duì)推薦結(jié)果數(shù)據(jù)進(jìn)行分析，從而研究、驗(yàn)證推薦算法的實(shí)際運(yùn)行邏輯及相關(guān)特征。同時(shí)，本文通過(guò)有效的實(shí)驗(yàn)控制排除隨機(jī)變量帶來(lái)的影響，對(duì)實(shí)驗(yàn)組與對(duì)照組的推薦結(jié)果數(shù)據(jù)進(jìn)行多維比較，探究平臺(tái)推薦算法結(jié)果差異。

(二)實(shí)驗(yàn)過(guò)程

1.實(shí)驗(yàn)對(duì)象的選取

目前采用推薦算法進(jìn)行信息內(nèi)容推薦的互聯(lián)網(wǎng)平臺(tái)較多，按照內(nèi)容形式來(lái)看，這些平臺(tái)主要可以分為圖文資訊類和社交短視頻類。本文分別選取時(shí)下用戶最多的兩款圖文資訊類APP(分別為J客戶端和T客戶端)和兩款社交短視頻APP(分別為D客戶端和K客戶端)進(jìn)行實(shí)驗(yàn)。以上4款A(yù)PP是國(guó)內(nèi)較早應(yīng)用推薦算法取得競(jìng)爭(zhēng)優(yōu)勢(shì)的平臺(tái)，在用戶市場(chǎng)占據(jù)絕對(duì)優(yōu)勢(shì)，對(duì)互聯(lián)網(wǎng)信息內(nèi)容推薦、傳播與網(wǎng)絡(luò)輿論有著廣泛的影響力；同時(shí)，這4款A(yù)PP也是平臺(tái)推薦算法治理與監(jiān)管的重要對(duì)象，具有一定的代表性、典型性，能夠在一定程度上反映當(dāng)前我國(guó)平臺(tái)推薦算法治理與監(jiān)管過(guò)程中主要對(duì)象的一般性、普遍性特征。

2.實(shí)驗(yàn)步驟

第一步，注冊(cè)新用戶：申請(qǐng)7個(gè)新手機(jī)號(hào)碼，在J、T、D、K 4款A(yù)PP上分別注冊(cè)7個(gè)新賬號(hào)，模擬7個(gè)用戶。第二步，實(shí)驗(yàn)分組：將7個(gè)用戶分為實(shí)驗(yàn)組和對(duì)照組，實(shí)驗(yàn)組設(shè)置5個(gè)不同興趣偏好的用戶，分別是獵奇君、明星娛樂(lè)君、美食君、軍事君、歷史君。對(duì)照組設(shè)置兩個(gè)不帶有個(gè)人興趣偏好的用戶，分別是對(duì)照A和對(duì)照B。第三步，瀏覽與互動(dòng)操作：實(shí)驗(yàn)組用戶和對(duì)照組用戶每日登錄各APP兩次，均瀏覽前30款推薦內(nèi)容。實(shí)驗(yàn)組用戶在閱讀到自身興趣類別內(nèi)容時(shí)，進(jìn)行點(diǎn)贊、評(píng)論、收藏等互動(dòng)操作。對(duì)照組用戶僅瀏覽，不進(jìn)行互動(dòng)操作。第四步，記錄數(shù)據(jù)：記錄實(shí)驗(yàn)組用戶和對(duì)照組用戶每次登錄時(shí)所瀏覽到的內(nèi)容。第五步，數(shù)據(jù)分析：對(duì)7個(gè)模擬用戶在各APP中接收的各類推薦內(nèi)容結(jié)果數(shù)據(jù)進(jìn)行整理與分析。

3.實(shí)驗(yàn)控制

內(nèi)容控制：根據(jù)觀察統(tǒng)計(jì)，將圖文資訊類推薦內(nèi)容分為奇聞?shì)W事、國(guó)際政治軍事、社會(huì)時(shí)政新聞、體育運(yùn)動(dòng)、明星娛樂(lè)、廚藝美食、歷史文化、財(cái)經(jīng)股市和其他等9個(gè)類目；將短視頻類推薦內(nèi)容分為搞笑劇情、體育、購(gòu)物、財(cái)經(jīng)股市、日常生活分享、社會(huì)時(shí)政新聞、美女、游戲、美食、知識(shí)科普、汽車、景色旅游、明星娛樂(lè)和其他等14個(gè)類目。

時(shí)間控制：7個(gè)模擬用戶于2022年2月21日至26日，每日在13：00-18：00和19：30-24：00兩個(gè)時(shí)間段內(nèi)進(jìn)行登錄。

操作控制：7個(gè)模擬用戶分別登錄J、T、D、K各10次，每個(gè)模擬用戶登錄后瀏覽30款推薦內(nèi)容。5個(gè)實(shí)驗(yàn)組用戶嚴(yán)格按照興趣偏好設(shè)定，僅對(duì)興趣類內(nèi)容進(jìn)行點(diǎn)贊、收藏、關(guān)注等操作，對(duì)非興趣類內(nèi)容進(jìn)行忽視。兩個(gè)對(duì)照組用戶無(wú)差別地瀏覽推薦作品，不做任何操作。在實(shí)驗(yàn)期間，每個(gè)模擬用戶在各APP上共計(jì)瀏覽300個(gè)信息內(nèi)容作品；全部模擬用戶在4款A(yù)PP上共計(jì)瀏覽8400個(gè)信息內(nèi)容作品。

(三)實(shí)驗(yàn)結(jié)果分析

1.實(shí)驗(yàn)組用戶結(jié)果

實(shí)驗(yàn)組用戶在J、D、K客戶端實(shí)驗(yàn)中，經(jīng)過(guò)互動(dòng)操作后，均被算法準(zhǔn)確捕捉到興趣類內(nèi)容并進(jìn)行持續(xù)推送。以J客戶端內(nèi)容推薦數(shù)據(jù)為例，5類興趣內(nèi)容均被算法捕捉并進(jìn)行持續(xù)高占比推薦。如表1所示。

表1 J客戶端實(shí)驗(yàn)組用戶興趣類內(nèi)容推薦數(shù)據(jù)

再以J客戶端實(shí)驗(yàn)中的用戶4為例，模擬設(shè)置的興趣類內(nèi)容為“國(guó)際政治軍事類”，在經(jīng)過(guò)兩次登錄后，用戶閱讀傾向基本被算法掌握，興趣類內(nèi)容推薦數(shù)量增多且上升趨勢(shì)明顯，隨后一直保持較高的推薦量。在第9次登錄時(shí)，興趣類內(nèi)容數(shù)量最高達(dá)到29個(gè)，在全部瀏覽內(nèi)容中占比達(dá)到96.7%。如圖1所示。

圖1 J客戶端實(shí)驗(yàn)中用戶4“軍事君”與對(duì)照A、對(duì)照B的數(shù)據(jù)對(duì)比

而在T客戶端實(shí)驗(yàn)中，本文發(fā)現(xiàn)該APP是基于手機(jī)硬件設(shè)備進(jìn)行內(nèi)容推薦的。在同一款手機(jī)上登錄不同的賬號(hào)，即使進(jìn)行不同的用戶興趣偏好操作，但被推薦的內(nèi)容沒(méi)有顯著變化或差別。

2.對(duì)照組用戶結(jié)果

在J、D、K客戶端實(shí)驗(yàn)中，對(duì)照用戶因?yàn)闆](méi)有進(jìn)行互動(dòng)操作，最終呈現(xiàn)出較為多元的信息展示，在實(shí)驗(yàn)初期、中期、后期所呈現(xiàn)的各類推薦內(nèi)容比例也大致相同，反映出該推薦算法一直按照既定的推薦策略進(jìn)行推薦，并未隨機(jī)變換內(nèi)容比例，也未增加新類型內(nèi)容來(lái)進(jìn)一步開(kāi)發(fā)用戶興趣偏好。以對(duì)照用戶A在D客戶端第2、4、6、8、10次登錄數(shù)據(jù)為例，實(shí)驗(yàn)過(guò)程中推薦內(nèi)容類型與數(shù)量變化較小，總體上相對(duì)集中于搞笑劇情、用戶日常分享、社會(huì)時(shí)政新聞三大類。如圖2所示。

圖2 對(duì)照A在D客戶端實(shí)驗(yàn)中第4、6、8、10次實(shí)驗(yàn)數(shù)據(jù)對(duì)比

(四)平臺(tái)推薦算法的差異測(cè)量與問(wèn)題發(fā)現(xiàn)

通過(guò)實(shí)驗(yàn)研究，本文對(duì)J、T、D、K 4款客戶端平臺(tái)推薦算法結(jié)果進(jìn)行差異比較，發(fā)現(xiàn)不同推薦算法在用戶識(shí)別和推薦機(jī)制方面均有所不同。J、T、K客戶端均采用針對(duì)賬號(hào)的內(nèi)容推薦，而T客戶端則是依據(jù)手機(jī)設(shè)備進(jìn)行內(nèi)容推薦。不同的推薦算法對(duì)不同類型內(nèi)容賦予了差別化的推薦策略，即使用戶都具有較強(qiáng)、較明顯的興趣偏好和頻繁的互動(dòng)操作，但不同的平臺(tái)推薦算法還是體現(xiàn)出了不同的反應(yīng)敏銳度和內(nèi)容推薦度。

將J、D、K客戶端中的實(shí)驗(yàn)用戶興趣類推薦內(nèi)容進(jìn)行對(duì)比，發(fā)現(xiàn)J客戶端采用的推薦算法對(duì)奇聞?shì)W事類、歷史文化類、國(guó)際政治軍事類內(nèi)容的反饋更為強(qiáng)烈，而明星娛樂(lè)類、廚藝美食類的內(nèi)容在前中期的推薦反饋略顯弱勢(shì)，特別是明星娛樂(lè)類內(nèi)容推薦占比沒(méi)有超過(guò)70%。D客戶端的推薦算法對(duì)體育運(yùn)動(dòng)類和美女類的興趣捕捉更為敏銳，對(duì)廚藝美食類、明星娛樂(lè)類、財(cái)經(jīng)股市類的興趣捕捉稍顯遲鈍。K客戶端的推薦算法僅對(duì)體育類的興趣捕捉較為敏銳，擁有較高的推薦占比，而對(duì)其余4類興趣內(nèi)容并沒(méi)有強(qiáng)烈的推薦反饋。如圖3所示。

圖3 K客戶端實(shí)驗(yàn)用戶興趣類內(nèi)容推薦對(duì)比

在平臺(tái)推薦算法對(duì)用戶興趣偏好內(nèi)容的推薦方面，推薦算法決定著內(nèi)容的選取、賦值和分發(fā)推送力度，其背后實(shí)現(xiàn)邏輯具有顯著的內(nèi)容選取和推薦力度的偏向性、策略性。由于可以直接地決定內(nèi)容的選取和推送，在面對(duì)初始新用戶、廣泛興趣用戶、單一興趣用戶等不同群體時(shí)，推薦算法均展現(xiàn)出了對(duì)平臺(tái)設(shè)定的某些類型內(nèi)容推薦的傾向性。即使是有特定興趣偏好的用戶，平臺(tái)推薦算法在滿足其興趣類內(nèi)容之外，也會(huì)根據(jù)設(shè)定的策略傾向推薦某些類型內(nèi)容，而不是隨機(jī)推薦其他類別內(nèi)容。特別是在J客戶端實(shí)驗(yàn)中，推薦算法對(duì)奇聞?shì)W事、標(biāo)題黨、吸引眼球類內(nèi)容進(jìn)行了強(qiáng)烈推薦，展現(xiàn)出顯著的預(yù)設(shè)內(nèi)容選擇傾向性，實(shí)驗(yàn)用戶在10次登錄瀏覽的共計(jì)300個(gè)作品中，除去自身興趣類內(nèi)容，其余被推薦內(nèi)容的數(shù)量和優(yōu)先級(jí)如表2所示。

表2 J客戶端實(shí)驗(yàn)用戶10次登錄中非興趣類內(nèi)容數(shù)據(jù)總和對(duì)比

面對(duì)“信息繭房”的爭(zhēng)議，本文對(duì)J、D、K客戶端實(shí)驗(yàn)組用戶最后3次所接收的興趣類與非興趣類內(nèi)容進(jìn)行對(duì)比，發(fā)現(xiàn)對(duì)于興趣類別較為單一的實(shí)驗(yàn)用戶，K客戶端興趣類內(nèi)容比為60%左右，J、D客戶端興趣類內(nèi)容占比均為90%以上，非興趣類內(nèi)容占比為10%以內(nèi)，極少接收到其他類別內(nèi)容。從這一結(jié)果來(lái)看，平臺(tái)推薦算法確實(shí)加劇了單一興趣類別用戶“信息繭房”的形成，面對(duì)興趣面較窄的用戶，算法推薦的邏輯始終與嘗試發(fā)掘用戶多元興趣內(nèi)容相矛盾。

本實(shí)驗(yàn)雖然樣本數(shù)據(jù)有限，但從以上實(shí)驗(yàn)數(shù)據(jù)的分析結(jié)果來(lái)看，仍然可以明確地對(duì)不同平臺(tái)推薦算法的運(yùn)行邏輯和運(yùn)行結(jié)果進(jìn)行測(cè)量。小規(guī)模的測(cè)量實(shí)驗(yàn)證實(shí)了不同平臺(tái)推薦算法在設(shè)計(jì)、運(yùn)行過(guò)程中，針對(duì)不同類型信息內(nèi)容采取了差異化的推薦策略，并且這種差異是明顯的、可測(cè)量的。

五、策略探索：基于推薦算法效果測(cè)量的監(jiān)管

本文基于平臺(tái)推薦算法治理模式思考與測(cè)量實(shí)驗(yàn)驗(yàn)證，嘗試提出應(yīng)對(duì)算法治理與監(jiān)管難點(diǎn)的新思路。對(duì)算法在特定環(huán)境中觸發(fā)的推薦結(jié)果實(shí)施測(cè)量，是未來(lái)算力支撐下不打開(kāi)算法“黑箱”的監(jiān)管新模式。這一思路從設(shè)想到落地需要三個(gè)層次上的若干具體策略。首先，在不打開(kāi)算法“黑箱”的情況下，基于規(guī)模測(cè)試進(jìn)行逆向評(píng)測(cè)和監(jiān)管的創(chuàng)新理念，能夠有效化解當(dāng)前正向監(jiān)管、算法透明理念下的監(jiān)管被動(dòng)性和“黑箱”難解性困境。其次，監(jiān)管部門可以通過(guò)建構(gòu)虛擬賬號(hào)池和規(guī)模計(jì)算動(dòng)態(tài)監(jiān)測(cè)環(huán)境等途徑，豐富和完善推薦算法監(jiān)管手段，并對(duì)推薦算法進(jìn)行全方位刻畫(huà)，有效地發(fā)現(xiàn)推薦算法的癥結(jié)和風(fēng)險(xiǎn)。最后，在具體應(yīng)用場(chǎng)景層面，測(cè)量不同用戶隱私設(shè)置和個(gè)性選擇在算法推薦過(guò)程中的履行情況，可作為保障用戶知情權(quán)和選擇權(quán)的檢查方式；通過(guò)模擬一些極端的用戶閱讀瀏覽行為，測(cè)量網(wǎng)絡(luò)不良內(nèi)容傳播中的個(gè)體偏好，并對(duì)平臺(tái)網(wǎng)絡(luò)安全責(zé)任進(jìn)行判斷；針對(duì)可能引發(fā)社會(huì)廣泛關(guān)注和激烈爭(zhēng)論的輿論熱點(diǎn)和關(guān)鍵議題，加強(qiáng)風(fēng)險(xiǎn)識(shí)別，及時(shí)發(fā)現(xiàn)網(wǎng)絡(luò)敏感議題討論中的潛在外部干預(yù)，維護(hù)網(wǎng)絡(luò)意識(shí)形態(tài)安全和社會(huì)穩(wěn)定。三個(gè)層次下的五方面策略如圖4所示。

圖4 “黑箱”下算法監(jiān)管策略的層次結(jié)構(gòu)

(一)創(chuàng)新監(jiān)管理念：基于規(guī)模測(cè)試進(jìn)行逆向評(píng)測(cè)和“黑箱”監(jiān)管

目前推薦算法的治理思路與監(jiān)管理念，仍然主要集中于破解“黑箱”、研究算法細(xì)節(jié)和實(shí)現(xiàn)邏輯等方面(張紅春、章知連，2022)，但此類方式具有一定的被動(dòng)性和難解性。一方面，政府有關(guān)部門作為監(jiān)管機(jī)構(gòu)，不具備平臺(tái)企業(yè)的實(shí)際用戶規(guī)模和實(shí)際運(yùn)行環(huán)境，無(wú)法準(zhǔn)確驗(yàn)證推薦算法的實(shí)際推薦邏輯。另一方面，此類監(jiān)管模式的實(shí)現(xiàn)，需要依靠平臺(tái)主體的有效配合，方能有效地規(guī)制、改進(jìn)算法。因此，理念創(chuàng)新成為化解當(dāng)前算法治理與監(jiān)管困境的重要方向。在不打開(kāi)算法“黑箱”的情況下，對(duì)不同平臺(tái)推薦算法進(jìn)行結(jié)果的測(cè)試和檢驗(yàn)，能夠?qū)崿F(xiàn)逆向監(jiān)管。通過(guò)外部評(píng)測(cè)的手段統(tǒng)計(jì)推薦算法的實(shí)際推薦結(jié)果，以此作為算法監(jiān)管的參考依據(jù)，無(wú)須平臺(tái)企業(yè)的配合，也不以風(fēng)險(xiǎn)和損害結(jié)果發(fā)生為必要條件，因此能夠讓監(jiān)管部門在設(shè)計(jì)和執(zhí)行相關(guān)監(jiān)管法律法規(guī)時(shí)掌握主動(dòng)權(quán)。

(二)完善監(jiān)管手段：建構(gòu)虛擬賬號(hào)池和規(guī)模計(jì)算動(dòng)態(tài)監(jiān)測(cè)環(huán)境

受限于實(shí)驗(yàn)樣本、評(píng)測(cè)周期等因素，本文中的小規(guī)模實(shí)驗(yàn)還無(wú)法對(duì)推薦算法作出準(zhǔn)確、完整的評(píng)測(cè)鑒定。但實(shí)踐中，監(jiān)管部門可以通過(guò)協(xié)調(diào)電信運(yùn)營(yíng)商，開(kāi)通大量虛擬手機(jī)號(hào)，在監(jiān)管平臺(tái)上進(jìn)行賬號(hào)注冊(cè)，模擬更加復(fù)雜的用戶興趣偏好和瀏覽互動(dòng)行為。同時(shí)，監(jiān)管部門可以建構(gòu)虛擬賬號(hào)池，制定詳細(xì)的、有針對(duì)性的評(píng)測(cè)策略，在較長(zhǎng)的評(píng)測(cè)周期內(nèi)，對(duì)算法推薦結(jié)果進(jìn)行統(tǒng)計(jì)，進(jìn)而得到具有統(tǒng)計(jì)意義的評(píng)測(cè)結(jié)果。基本實(shí)現(xiàn)結(jié)果對(duì)推薦算法進(jìn)行全方位刻畫(huà)，是發(fā)現(xiàn)推薦算法的癥結(jié)和風(fēng)險(xiǎn)的有效途徑。監(jiān)管部門通過(guò)構(gòu)建規(guī)模計(jì)算動(dòng)態(tài)監(jiān)測(cè)環(huán)境，還可以不斷豐富、完善平臺(tái)推薦算法監(jiān)管手段。平臺(tái)推薦算法可能存在向少數(shù)特定用戶、小眾圈群推薦違規(guī)內(nèi)容，制造群體對(duì)立和傳播不良網(wǎng)絡(luò)亞文化等問(wèn)題，通過(guò)一定規(guī)模的虛擬賬號(hào)進(jìn)行外部評(píng)測(cè)，可以更為全面地掌握推薦算法的特定策略和結(jié)果，并以此作為平臺(tái)推薦算法監(jiān)管的樣本證據(jù)。

(三)履約檢查：測(cè)量不同用戶隱私設(shè)置和個(gè)性選擇在算法推薦中的履行

雖然現(xiàn)階段政府監(jiān)管部門已經(jīng)明確要求各推薦算法服務(wù)提供者要保障用戶的知情權(quán)和選擇權(quán)，為用戶設(shè)置開(kāi)啟或關(guān)閉相關(guān)推薦功能的按鍵。但在實(shí)際運(yùn)行中，平臺(tái)推薦算法在多大程度上按照用戶的選擇進(jìn)行信息內(nèi)容分發(fā)，用戶在知情選擇下的真實(shí)效果又如何，目前還缺乏有效的評(píng)估手段和方法。而利用大規(guī)模虛擬賬號(hào)進(jìn)行推薦結(jié)果測(cè)量、檢驗(yàn)不失為一種有效的履約檢查方式。設(shè)置若干個(gè)實(shí)驗(yàn)組和對(duì)照組用戶，分別選擇關(guān)閉或開(kāi)啟某種推薦模式，對(duì)一定周期內(nèi)的推薦結(jié)果進(jìn)行統(tǒng)計(jì)，便可以有效對(duì)真實(shí)效果進(jìn)行驗(yàn)證、評(píng)估。特別是可以評(píng)估在青少年模式下，平臺(tái)推薦內(nèi)容的類型、品質(zhì)和保護(hù)效果等重點(diǎn)因素。監(jiān)管部門通過(guò)主動(dòng)地評(píng)估測(cè)量，能夠倒逼平臺(tái)企業(yè)切實(shí)保護(hù)用戶的知情權(quán)和選擇權(quán)，從而優(yōu)化推薦算法整體的行業(yè)生態(tài)。

(四)責(zé)任劃分：測(cè)量網(wǎng)絡(luò)不良內(nèi)容傳播中個(gè)體偏好和平臺(tái)責(zé)任

平臺(tái)推薦算法的初衷是“投其所好”，依靠數(shù)據(jù)標(biāo)簽和用戶興趣標(biāo)簽等數(shù)字化指標(biāo)，向感興趣用戶進(jìn)行信息內(nèi)容推薦。一方面，定向的個(gè)性化信息推薦將可能產(chǎn)生“信息繭房”(桑斯坦，2018)；另一方面，為了迎合用戶，推薦算法的設(shè)計(jì)更關(guān)注用戶喜好和時(shí)事熱點(diǎn)內(nèi)容，不會(huì)將信息內(nèi)容的價(jià)值判斷作為重要推薦指標(biāo)。在這種情況下，我們必須警惕算法將類似的、迭代的不良內(nèi)容推薦給用戶。尤其是在用戶并沒(méi)有顯著搜索、瀏覽等主動(dòng)操作時(shí)，平臺(tái)仍然可能向其推薦不良內(nèi)容。平臺(tái)算法設(shè)計(jì)者應(yīng)發(fā)揮推薦算法對(duì)網(wǎng)絡(luò)輿論的正向價(jià)值(鄧杭，2018)。監(jiān)管部門通過(guò)模擬一些極端用戶的閱讀瀏覽行為，便可以甄別出推薦算法在迭代收斂的過(guò)程中是否“越界”，是否會(huì)走向不良、有害甚至違法違規(guī)的內(nèi)容禁地。一旦出現(xiàn)上述情況，監(jiān)管部門便可嚴(yán)肅追究相關(guān)平臺(tái)網(wǎng)絡(luò)安全責(zé)任。

(五)風(fēng)險(xiǎn)識(shí)別：發(fā)現(xiàn)網(wǎng)絡(luò)敏感議題討論中的潛在外部干預(yù)

平臺(tái)推薦算法在一定意義上具備了互聯(lián)網(wǎng)信息資源配置的公共權(quán)力，并具有一定的意識(shí)形態(tài)屬性(李靜輝，2022)。商業(yè)資本的控制可能會(huì)帶來(lái)意識(shí)形態(tài)領(lǐng)域的沖擊和風(fēng)險(xiǎn)，特別需要警惕對(duì)公共屬性較強(qiáng)、爭(zhēng)議較廣和參與度較高的內(nèi)容議題的推薦策略。構(gòu)建大規(guī)模的虛擬賬號(hào)形成一個(gè)動(dòng)態(tài)的、主動(dòng)的推薦結(jié)果分析矩陣，便可以進(jìn)行詳細(xì)的數(shù)據(jù)分析，觀測(cè)出不同類型用戶被推薦的熱點(diǎn)內(nèi)容，以及不同議題被推薦的熱度。例如，可以加強(qiáng)對(duì)青少年群體或老年人群體被推薦內(nèi)容的動(dòng)態(tài)評(píng)估。針對(duì)可能引發(fā)社會(huì)廣泛關(guān)注和激烈爭(zhēng)論的輿論熱點(diǎn)和關(guān)鍵議題，監(jiān)管部門必要時(shí)應(yīng)介入、干預(yù)平臺(tái)推薦算法策略，通過(guò)調(diào)整推薦策略來(lái)影響信息內(nèi)容分發(fā)，阻斷極端思想、錯(cuò)誤思潮和虛假信息的傳播，阻止可能引發(fā)的群體對(duì)立，從而維護(hù)網(wǎng)絡(luò)空間的安全與穩(wěn)定。

六、研究結(jié)論與未來(lái)展望

本文基于機(jī)器行為學(xué)思想，采用實(shí)驗(yàn)方法，以用戶視角對(duì)平臺(tái)推薦算法結(jié)果進(jìn)行跟蹤記錄，通過(guò)實(shí)驗(yàn)數(shù)據(jù)的對(duì)比分析，驗(yàn)證了平臺(tái)推薦算法結(jié)果差異的可測(cè)性?；趯?shí)驗(yàn)結(jié)果，本文提出了對(duì)不同平臺(tái)推薦算法進(jìn)行大規(guī)模數(shù)據(jù)測(cè)試和檢驗(yàn)，測(cè)量平臺(tái)推薦算法運(yùn)行邏輯與推薦效果的監(jiān)管方式。對(duì)于平臺(tái)推薦算法治理而言，不打開(kāi)算法“黑箱”成為可供選擇的新模式，同時(shí)也為全面提高監(jiān)管有效性、建立多層次和多元化的監(jiān)管體系提供了更為豐富的實(shí)施路徑。政府監(jiān)管部門可通過(guò)模擬具有統(tǒng)計(jì)學(xué)意義的、不同行為習(xí)慣的規(guī)模用戶，對(duì)算法推薦效果進(jìn)行跟蹤記錄，對(duì)推薦算法開(kāi)展評(píng)測(cè)和監(jiān)管，并據(jù)此對(duì)平臺(tái)企業(yè)提出整改意見(jiàn)或作出行政處罰。

本文提出的“黑箱”下算法治理是用技術(shù)手段解決技術(shù)風(fēng)險(xiǎn)思路的具象化，目前仍處于初步探索層面。后續(xù)研究可能將在兩個(gè)向度進(jìn)行延伸：在實(shí)證層面，探究、驗(yàn)證平臺(tái)推薦算法運(yùn)行機(jī)制、結(jié)果差異與存在的問(wèn)題，仍需要規(guī)模更大、場(chǎng)景更為復(fù)雜的數(shù)據(jù)測(cè)試。通過(guò)模擬更加復(fù)雜的用戶行為偏好、增加實(shí)驗(yàn)用戶數(shù)量和延長(zhǎng)測(cè)試時(shí)間等方式，可以提升問(wèn)題發(fā)現(xiàn)的準(zhǔn)確度。結(jié)合外部評(píng)測(cè)結(jié)果和真實(shí)用戶數(shù)據(jù)采樣，也可以準(zhǔn)確發(fā)現(xiàn)當(dāng)前平臺(tái)中熱度較高、爭(zhēng)論激烈、廣泛推薦的公共性議題，進(jìn)而對(duì)相關(guān)熱點(diǎn)內(nèi)容的推薦情況和效果進(jìn)行研判，及時(shí)防范、化解平臺(tái)推薦算法風(fēng)險(xiǎn)。在理論層面，鑒于監(jiān)管行為本身比推薦算法具有更強(qiáng)的可解釋性要求，關(guān)于“黑箱”下算法治理的理論對(duì)話與理論建構(gòu)同樣是亟待討論與擴(kuò)展的重要議題。目前，相關(guān)監(jiān)管邏輯、思路、模式、策略的討論受限于相關(guān)理論研究的匱乏，尚無(wú)法形成層次性、體系性的理論框架和實(shí)踐路徑。相關(guān)理論思考至少將涉及管理學(xué)視角中，不同信息對(duì)稱性條件下的多主體監(jiān)管博弈理論模型建構(gòu)，傳播學(xué)視角互聯(lián)網(wǎng)情景中群體與個(gè)體復(fù)雜交互下的行為理論拓展，法學(xué)視角算法效果差異背后的主觀責(zé)任確認(rèn)機(jī)制等議題。這只有多學(xué)科背景研究者的廣泛關(guān)注，才能從現(xiàn)有思路出發(fā)系統(tǒng)性設(shè)計(jì)“黑箱”下算法治理的實(shí)踐方案。