11月24日，一場針對網(wǎng)絡(luò)平臺算法典型問題的治理行動拉開了序幕，矛頭直指同質(zhì)化推送營造“信息繭房”、大數(shù)據(jù)“殺熟”、侵害新就業(yè)形態(tài)勞動者利益等現(xiàn)實問題。此次整治可以說是自2021年9月《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》發(fā)布之后，有關(guān)部門對平臺算法的第一次全方位綜合治理行動。

01

這次“清朗行動”不一樣

這并非“清朗行動”第一次指向平臺算法。

2021年，“清朗行動”提出了“算法濫用治理”，指導(dǎo)互聯(lián)網(wǎng)平臺優(yōu)化信息過濾、排名、推薦機(jī)制，要求開展算法安全技術(shù)檢查和技術(shù)評估。2022年的“清朗行動”，聚焦于督促重點互聯(lián)網(wǎng)企業(yè)平臺整改算法不合理應(yīng)用帶來的“信息繭房”“算法歧視”等問題。2023年12月，“清朗行動”將重點放在了“整治短視頻信息內(nèi)容導(dǎo)向不良問題”，要求集中整治短視頻中的擺拍、技術(shù)生成等虛假信息以及煽動粉絲情緒、誤導(dǎo)消費者等問題。

《關(guān)于開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動的通知》，由中央網(wǎng)絡(luò)安全和信息化委員會辦公室秘書局、工業(yè)和信息化部辦公廳、公安部辦公斤、國家市場監(jiān)督管理總局辦公廳聯(lián)合發(fā)布?！锻ㄖ访鞔_，此次專項行動重點整治同質(zhì)化椎送營造“信息繭房”、違規(guī)操縱干預(yù)榜單炒作熱點、盲目追求利益侵害新就業(yè)形態(tài)勞動者權(quán)益、利用算法實施大數(shù)據(jù)“殺熟”、算法向上、向善服務(wù)缺失侵害用戶合法權(quán)益等重點問題。

清華大學(xué)人工智能國際治理研究院戰(zhàn)略與宏觀研究項目主任劉典認(rèn)為，相較于過去的措施，這次的清朗行動治理目標(biāo)更加明確、更多部門參與、治理手段更多樣，這些變化表明，政府正在嘗試構(gòu)建一套更加系統(tǒng)、全面的算法治理體系，而非依賴于單一的短期行動。

2021年9月，國家互聯(lián)網(wǎng)信息辦公室等0部門印發(fā)《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》（下稱《指導(dǎo)意見》），提出“利用三年左右時間，逐步建立治理機(jī)制健全、監(jiān)營體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局”。2022年3月，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（下文簡稱《規(guī)定》）正式實施?！兑?guī)定》明確，應(yīng)用算法推薦技術(shù)，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息，并明確了算法推薦服務(wù)向上向善的原則。

北京大學(xué)數(shù)字治理研究中心主任邱澤奇，自2000年起關(guān)注算法治理，他認(rèn)為，公眾如今對各類算法應(yīng)用都有了自己的體驗，已經(jīng)深刻意識到“信息繭房”、算法偏見、算法歧視等問題，對算法的認(rèn)知水平有了整體性提高。

02

神秘的算法

算法只是一系列解決問題的計算方式，背后反映的是平臺目標(biāo)。算法工程師按照平臺的指令，敲下一行行代碼，組成了看不見、摸不著，卻又影響每個人的算法。

算法工程師隸屬的算法部門，往往是互聯(lián)網(wǎng)公司的核心技術(shù)部門。在多位算法工程師看來，真正的黑箱不在算法原理之中，而在數(shù)據(jù)與平臺機(jī)制設(shè)置之中。用戶量越大、數(shù)據(jù)越多、平臺機(jī)制向利益傾斜，便帶來了“算法亂象”?！靶畔⒗O房”“誘導(dǎo)沉迷”“操縱榜單”都與推薦算法關(guān)聯(lián)，最終能被看到的內(nèi)容或商品，都是由算法精心計算過的，最根本的是要讀懂用戶的心?！白x心”需要對用戶海量的個人數(shù)據(jù)、行為數(shù)據(jù)等進(jìn)行篩選，這些散落在網(wǎng)絡(luò)世界不同角落的痕跡，被收集到各個數(shù)據(jù)庫中，成為算法的最底層訓(xùn)練支撐。比如將用戶的網(wǎng)購記錄、瀏覽記錄、在線下門店里的消費記錄等個人數(shù)據(jù)，或者點贊、劃走等行為數(shù)據(jù)“投喂”給算法，就能得到“量身定制”的推薦內(nèi)容。

03

失控時刻

算法由工程師創(chuàng)造，但算法也會失控。

幾年前，視頻數(shù)據(jù)分析平臺百準(zhǔn)創(chuàng)始人潘越飛已經(jīng)隱隱感覺到“自己控制不住算法了”。他說，算法推薦的內(nèi)容質(zhì)量并不令他滿意。潘越飛曾為一條“蟒蛇吞噬了房子”的假新聞頭疼了十幾天。那是一張合成照片，打開正文就知道是假新聞，這條在他看來“無聊”的內(nèi)容卻在平臺熱搜榜第—名。他換了各種維度調(diào)試算法，但這張圖片永遠(yuǎn)是第一名。最終沒有辦法，他只能手動刪掉了圖片。他解釋，用戶沒見過蟒蛇吞噬房子的事件，所以打開率很高。圖片內(nèi)容很短，所以完讀率很高。用戶看完后覺得被騙了，于是在評論區(qū)開罵，帶來高互動率。用戶覺得這條新聞十分荒謬轉(zhuǎn)發(fā)給身邊朋友“吐槽”，于是這條新聞分享率也很高。

打開率、完讀率、互動率、分享率都是算法評價內(nèi)容是否值得推薦的權(quán)重，重重加持下，這條假新聞被推薦的次數(shù)越來越多。“算法有數(shù)學(xué)邏輯，但它沒有心，沒有人類的共識，沒有情緒和價值觀?！迸嗽斤w說，算法只是按照設(shè)定完成它的工作，它的量化指標(biāo)只有數(shù)據(jù)。

潘越飛曾耗費極大精力和算法對抗，試圖讓算法減少推薦類似內(nèi)容，但結(jié)論是，做不到。他試過精選內(nèi)容，或增加權(quán)威媒體內(nèi)容的權(quán)重，以保證平臺內(nèi)容質(zhì)量的提升。但結(jié)果是，整個平臺的用戶時長大幅度下降了。但這違背了公司運營商業(yè)平臺的初衷，于是只能減少與算法的對抗。

算法工程師的背面則是依賴平臺賺錢、生存的人。

多位算法工程師表示，在公司內(nèi)部，算法并不是沒有價值觀，也有一些原則，比如，不能推薦違法亂紀(jì)的內(nèi)容，用戶問一些敏感的問題，必然不會得到答案，這由合規(guī)、安全和算法團(tuán)隊配合進(jìn)行處理。

04

善惡一念

西南大學(xué)國家治理學(xué)院講師畢文芬曾在重慶、貴州、云南地區(qū)凋研從事電商直播的農(nóng)村婦女。在2020年左右，一些文化水平較低的農(nóng)村婦女，在直播電商平臺帶貨還能賺到錢，當(dāng)時經(jīng)過一些基礎(chǔ)的培訓(xùn)，就能在直播間吸引到用戶。有人靠著直播帶貨在縣城買了170平方米的房子，有人把蘭花、銀飾等當(dāng)?shù)靥厣a(chǎn)品銷往全國，也有人會從中獲得—些打賞，改善生活，很多人從田間走到了直播間。但是這兩年來，平臺越來越向粉絲量大、懂得投流、會運營的人傾斜。直播間里要有“氣氛擔(dān)當(dāng)”宣傳造勢、要有話術(shù)刺激觀看者下單、要表演才藝、要建立矩陣賬號吸引流量等。這些沒有團(tuán)隊支持的農(nóng)村婦女沒有錢投流，也不借運營，只會講解產(chǎn)品，有時被平臺罰款、封號都不知道，也沒有渠道申訴，要回賬號。畢文芬觀察到，限流和罰款給這些農(nóng)村婦女主播帶來了經(jīng)濟(jì)和心理的沖擊，很多人會覺得是自己播的時間不夠長、不夠努力，而不會認(rèn)識到平臺規(guī)則變了，要么延長直播時間，要么回歸務(wù)農(nóng)工作中。畢文芬認(rèn)為，平臺前期也曾為當(dāng)?shù)嘏蕴峁┝诵碌陌l(fā)展機(jī)遇，但當(dāng)平臺的導(dǎo)向改變，驅(qū)使算法盲目追球利益，實際也侵害了這些弱勢群體的勞動者權(quán)益。

05

如何建立長效機(jī)制

根據(jù)上述《通知》，此次專項綜合治理分為三個階段，即企業(yè)自查自糾、屬地核驗企業(yè)自查情況以及治理成效評估總結(jié)。有關(guān)部門將在2025年1月檢驗企業(yè)自查情況，2025年2月14日前完威專項行動實施成效總結(jié)，全面評估《指導(dǎo)意見》印發(fā)以來的算法治理舉措及取得的積極威效，深入分析難點問題，制定今后一段時期的務(wù)實舉措。

此次清朗行動涉及算法問題較多是內(nèi)容平臺，究其原因在于這與平臺的成熟度有關(guān)，百度、阿里巴巴、騰訊、滴滴、美團(tuán)都曾經(jīng)歷過輿論的風(fēng)暴口，內(nèi)容平臺還沒有經(jīng)歷過輿論的風(fēng)暴，這次是這類平臺歷史上的第一次。

比如關(guān)于虛假信息的問題，以鐘睒睒事件為例，內(nèi)容平臺是可以有作為空間的，比如對事實類內(nèi)容，如果未經(jīng)核實，可以讓算法在內(nèi)容里打上平臺提示，如：此內(nèi)容未經(jīng)核實，請注意辨別。對于未經(jīng)核實的事實類內(nèi)容，平臺有提示的責(zé)任和義務(wù)。

工信部信息通信經(jīng)濟(jì)專家委員會委員劉興亮熟悉多個互聯(lián)網(wǎng)大公司。他認(rèn)為，對監(jiān)營部門的要求，大公司并不會反對，他們也意識到這是個問題，應(yīng)該得到治理。如果讓算法長久跑偏，最后受害的是整個行業(yè)。

劉興亮認(rèn)為，算法問題依舊在互聯(lián)網(wǎng)平臺泛濫，其根本原因在于，算法具有很強(qiáng)的隱蔽性，很難界定某些后果是由算法直接導(dǎo)致的。對這次監(jiān)營部門的治理，他抱著樂觀期待的態(tài)度，但同時認(rèn)為，一次治理并不能真正解決問題，他相信還會有下一次、下下次專項治理的“清朗行動”。

事實上，本次“清朗行動”，也特別提到對算法治理“建立長效機(jī)制”，要求常態(tài)化開展算法服務(wù)安全風(fēng)險監(jiān)測防范工作，及時發(fā)現(xiàn)網(wǎng)站平臺違規(guī)問題線索，并綜合運用督促整改、現(xiàn)場檢查、處置處罰等措施，提升算法常態(tài)化治理水平。

監(jiān)管要求與平臺需求天生會有矛盾。有專家將其形容為“瓷器屋里捉老鼠”，無論監(jiān)管部門或是平臺自身，都會有投鼠忌器的顧慮。消除算法偏見與平臺商業(yè)利益之間也存在天然的矛盾。

劉典認(rèn)為，算法治理是個循序漸進(jìn)的過程，需要—步步完善。對算法進(jìn)行監(jiān)管確實會給平臺帶來一些成本提升的挑戰(zhàn)，比如技術(shù)升級和合規(guī)成本。但從長遠(yuǎn)來看，這有利于營造健康的網(wǎng)絡(luò)環(huán)境，促進(jìn)平臺的可持續(xù)發(fā)展。具體來說，應(yīng)要求平臺加強(qiáng)內(nèi)容審核，確保算法推薦的健康性和多樣性；公開算法的基本原理和主要運行機(jī)制，提高透明度；建立用戶反饋機(jī)制，及時調(diào)整優(yōu)化算法；避免過度采集個人數(shù)據(jù)，保護(hù)用戶隱私。

治理是有代價的，代價也會由關(guān)聯(lián)平臺來承擔(dān)。平臺治理已經(jīng)到了治理質(zhì)量再上臺階的階段。如果平臺能主動看到問題并解決問題，平臺的發(fā)展也會再上臺階。（微信公眾號“經(jīng)濟(jì)觀察報”，文章有刪減）