【內(nèi)容提要】算法治理是數(shù)字經(jīng)濟(jì)時代的重要一環(huán)。隨著算法技術(shù)不斷發(fā)展，算法帶來的問題日益暴露在人們眼前。為了應(yīng)對算法問題，國內(nèi)與國外都提出了算法治理手段，面對不同類型的算法理論，算法治理需要有不同的切入點(diǎn)，以實現(xiàn)“算法可治”；“算法善治”的未來基礎(chǔ)，需要政府、技術(shù)和企業(yè)三方的合力，共同實現(xiàn)科技向善。“人類時空共同體”這一概念同時覆蓋了時間和空間兩個維度，是算法治理的積極嘗試，也為未來的元宇宙與算法治理提供思路參考。

【關(guān)鍵詞】算法治理 人工智能 數(shù)據(jù)安全 人類時空共同體

引言

隨著計算機(jī)技術(shù)、人工智能技術(shù)的飛速發(fā)展，人類已經(jīng)逐步邁入信息戰(zhàn)、輿論戰(zhàn)和認(rèn)知戰(zhàn)的時代，算法已經(jīng)遍布我們的生活。為了應(yīng)對數(shù)字時代傳媒變革、網(wǎng)絡(luò)文化發(fā)展，以解決、提高我國國際傳播能力和社會治理能力的需求，“算法可治”與“算法善治”顯得尤為重要。

一、算法與算法發(fā)展現(xiàn)狀

（一）什么是算法

算法本質(zhì)上是由計算機(jī)編程語言編寫而成的一段程序，但是在如今的社會，算法的定義已經(jīng)相對泛化。在當(dāng)今快速發(fā)展的大數(shù)據(jù)時代背景之下，計算機(jī)技術(shù)的飛速發(fā)展促使機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、人工智能、元宇宙等概念相繼出現(xiàn)，算法已經(jīng)成為許多數(shù)字產(chǎn)品、具有影響力的社交媒體、電商應(yīng)用程序等產(chǎn)品的標(biāo)配。然而，算法在伴隨這些互聯(lián)網(wǎng)產(chǎn)品的發(fā)展過程中也漸漸出現(xiàn)了問題。

（二）國內(nèi)算法發(fā)展現(xiàn)狀

信息繭房問題最初在2008年由桑斯坦在《信息烏托邦》中提出。信息繭房的基本概念為：人類在信息流中會被自己感興趣的信息所引導(dǎo)，這種現(xiàn)象導(dǎo)致了人類更愿意且只能夠獲取自己感興趣的信息，從而將自己封閉在這類有限的回音壁般的信息流之中，就如同蟬蛹吐絲將自己包裹在繭房里。① 如今以個性化推薦為代表的算法是信息繭房問題的主要來源。在中國，以字節(jié)跳動為首的互聯(lián)網(wǎng)科技公司，于2016年前后開始對個性化推薦應(yīng)用程序（APP）進(jìn)行大面積推廣。這些應(yīng)用程序通過采集海量的用戶行為信息，對數(shù)據(jù)進(jìn)行深度挖掘，對用戶進(jìn)行畫像、打標(biāo)簽，來分析用戶的行為，以便把用戶最感興趣的信息推送到他們手里，讓每個人都沉醉在自己的“舒適圈”。

除了信息繭房問題之外，我國還面臨著大數(shù)據(jù)“殺熟”問題。大數(shù)據(jù)“殺熟”是指在面對同樣的服務(wù)或商品時，老用戶看到的價格要比新用戶貴出許多的現(xiàn)象。企業(yè)為了追逐自身利益，利用數(shù)據(jù)算法的不透明性，通過挖掘不同時空區(qū)域、不同畫像以及不同興趣與偏好的用戶信息，對新老用戶進(jìn)行區(qū)別定價，并結(jié)合復(fù)雜的促銷規(guī)則和算法，混淆價格和優(yōu)惠，具有極大的隱蔽性，給用戶取證維權(quán)帶來極大的困難。

現(xiàn)在人們的生活離不開算法，衣食住行各方面都需要算法。軟件定義一切，數(shù)據(jù)驅(qū)動未來，算法統(tǒng)治世界。當(dāng)算法變得越來越重要，同時又帶來了一系列算法問題，我們迫切需要加強(qiáng)算法治理。

（三）國外算法發(fā)展現(xiàn)狀

國內(nèi)的算法潮流是字節(jié)跳動等互聯(lián)網(wǎng)平臺企業(yè)帶來的，而國外的算法鼻祖來自亞馬遜網(wǎng)絡(luò)電子商務(wù)公司。亞馬遜公司通過收集海量的用戶購物信息，來分析每個用戶的購物興趣，構(gòu)建用戶畫像，形成千人千面。在用戶瀏覽商品時，向他們推薦他們可能會更感興趣的商品，用戶在購買商品后產(chǎn)生的購物信息，會再次補(bǔ)充到用戶的個人畫像當(dāng)中，以此達(dá)成循環(huán)。推薦系統(tǒng)得以獲取到更多的用戶信息，達(dá)到完全的個性化推薦。

以信息繭房為主的算法問題不僅僅出現(xiàn)在國內(nèi)，千人千面和用戶畫像技術(shù)在國外做得更好更強(qiáng)，甚至更極致。在擁有了海量用戶個人信息之后，除了信息繭房問題，還會出現(xiàn)以用戶個人信息泄漏為主的個人隱私保護(hù)問題。對于美西方國家來講，個人隱私保護(hù)是重中之重，這些國家和地區(qū)特別關(guān)注所謂的個人隱私，因此歐盟于2018年5月最先出臺了《通用數(shù)據(jù)保護(hù)條例》（GDPR）?！锻ㄓ脭?shù)據(jù)保護(hù)條例》（以下簡稱《條例》）指出：歐盟公民，無論是在歐盟的境內(nèi)還是境外，只要有公司、企業(yè)或個人想要獲取公民個人信息，必須要先進(jìn)行承諾聲明對該公民信息進(jìn)行獲取，該公民可以允許，也可以不允許。即使該公民允許他的信息被獲取采集，也可以隨時取消允許。②《條例》的懲罰力度很大，2019年7月，英國航空公司因違反《條例》被罰款1.8339億英鎊，約合15.8億元人民幣。③面對《條例》的巨額罰單，歐美大量的企業(yè)在服務(wù)于歐盟的客戶時，都會對算法進(jìn)行一些限制，以防止算法對用戶信息的濫用和用戶信息泄露。

隨著歐盟《條例》的公布，美國也于2018年6月出臺了《加州消費(fèi)者隱私法案》（CCPA），這是美國首部關(guān)于數(shù)據(jù)隱私方面的保護(hù)法案?！都又菹M(fèi)者隱私法案》（以下簡稱《法案》）的出現(xiàn)，使得美國在數(shù)據(jù)隱私方面不再是空白。該《法案》讓加州消費(fèi)者的隱私數(shù)據(jù)得到了安全的保護(hù)，其被認(rèn)為是美國最嚴(yán)格的消費(fèi)者數(shù)據(jù)隱私保護(hù)法。

隨著這些條例和法案的頒布，美西方漸漸形成了數(shù)據(jù)的保護(hù)機(jī)制和相應(yīng)的數(shù)據(jù)管控條例。因為算法的強(qiáng)大，在當(dāng)前輿論戰(zhàn)、信息戰(zhàn)和元宇宙的大環(huán)境下，其在歐美被當(dāng)作一種武器，用來獲取利益，攻擊對手。2020年，美國指責(zé)抖音國際版（TikTok）泄露用戶數(shù)據(jù)，危害美國國家安全，時任美國總統(tǒng)特朗普意欲強(qiáng)行收購抖音國際版，將字節(jié)跳動的服務(wù)部署到美國本土，我國便相應(yīng)采取了一種措施：數(shù)據(jù)存儲服務(wù)器可以部署到美國，但算法堅決不能夠出口。④這意味著我國認(rèn)為算法是一個企業(yè)的核心競爭力，是一種由數(shù)據(jù)驅(qū)動的能力，維持著當(dāng)今企業(yè)基本的運(yùn)作模式。在中國與美西方在互聯(lián)網(wǎng)、賽博空間和元宇宙上的競爭中，算法、數(shù)據(jù)和算力成了重要的生產(chǎn)資料，在這種環(huán)境之下，算法治理、算法保護(hù)就顯得格外重要。

二、算法治理現(xiàn)狀

（一）國外算法治理現(xiàn)狀

國外在算法治理和隱私數(shù)據(jù)保護(hù)方面起步較早，相關(guān)的法律法規(guī)以及行業(yè)的標(biāo)準(zhǔn)較為完善，給全球的算法治理和隱私數(shù)據(jù)保護(hù)制度的建設(shè)提供了引領(lǐng)與示范。美國已呼吁互聯(lián)網(wǎng)公司調(diào)整算法，以根除虛假信息，此外美國還成立了大數(shù)據(jù)、倫理與社會理事會（BDES）用來支撐大數(shù)據(jù)引發(fā)的社會、倫理、法律和政策問題；歐盟已起草規(guī)則，威脅稱“如果大型科技公司不采取更多措施處理非法內(nèi)容，將處以十分嚴(yán)重的罰款”。歐盟也成立了歐洲數(shù)據(jù)保護(hù)專員公署（EDPS）用來監(jiān)督確保歐洲機(jī)構(gòu)和團(tuán)體在處理個人數(shù)據(jù)和制定新政策時尊重隱私權(quán)和數(shù)據(jù)保護(hù)權(quán)。

亞利桑那州立大學(xué)（ASU）的法律學(xué)者團(tuán)隊在2021年進(jìn)行了一項關(guān)于2016年至2019年間制定的634個算法法律項目的調(diào)查研究。研究表明：這些有關(guān)于算法治理的項目36%由政府發(fā)起，余下的項目由非營利或私營機(jī)構(gòu)發(fā)起。亞利桑那州立大學(xué)的報告發(fā)現(xiàn)，這些算法治理項目在透明度、可解釋性、道德、權(quán)力、安全和偏見等方面達(dá)成了廣泛的共識。英國的艾倫·圖靈研究所（Alan Turing Institute）將這些算法治理項目共有的原則歸納為四點(diǎn)：公平、問責(zé)、可持續(xù)性和透明度。國外算法治理不僅強(qiáng)調(diào)了以上四點(diǎn)原則，同時也強(qiáng)調(diào)了算法的先進(jìn)性，這些值得國內(nèi)部門和企業(yè)在算法治理中學(xué)習(xí)和借鑒。⑤

（二）國內(nèi)算法治理現(xiàn)狀

隨著我國算法應(yīng)用飛速發(fā)展，信息繭房、大數(shù)據(jù)“殺熟”等算法問題逐漸出現(xiàn)，我國也開始對算法治理日益重視。2021年8月，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》，其中建議互聯(lián)網(wǎng)公司不應(yīng)該建立引誘用戶花費(fèi)大量資金的算法模型，并應(yīng)該允許用戶可以輕易選擇關(guān)閉算法推薦服務(wù)。2021年9月，相關(guān)機(jī)構(gòu)明確，將在大約三年之內(nèi)制定算法治理規(guī)則，同時，也正在努力加強(qiáng)對互聯(lián)網(wǎng)科技公司的個性化推薦、用戶畫像等算法的控制，中國網(wǎng)絡(luò)空間管理局還表示，將成立專業(yè)評估團(tuán)隊，深入分析算法的機(jī)制讓算法變得更加公平、更加透明，這并不是否定算法，而是要繼續(xù)大力推動算法創(chuàng)新研究并努力提升中國算法的核心競爭力。⑥

中國信息通信研究院積極參與算法治理監(jiān)管政策的制定、技術(shù)認(rèn)證和測試，并將專注與創(chuàng)建測試數(shù)據(jù)算法的工具。雖然這項工作仍處于起步階段，但其將為我國人工智能算法治理制度奠定基礎(chǔ)，確保我國算法體系的健壯性、可靠性和可控性。我國科學(xué)技術(shù)部也公布了算法治理手段，將制定道德標(biāo)準(zhǔn)，依靠互聯(lián)網(wǎng)公司和算法研究人員以自監(jiān)督的方式將算法治理原則應(yīng)用到算法開發(fā)的工作中。為了消除算法歧視、算法偏見，國家互聯(lián)網(wǎng)信息辦公室等多個部門于2022年3月聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》。⑦在此基礎(chǔ)上，我國應(yīng)當(dāng)進(jìn)一步明確相應(yīng)的算法保護(hù)和數(shù)據(jù)出境的政策、法律和法規(guī)，這為我國“一帶一路”“人類命運(yùn)共同體”等全球性倡議和理念提供了安全保障，也為我國企業(yè)服務(wù)于社會、服務(wù)于全球的商業(yè)模式保駕護(hù)航。

三、算法可治需要對癥下藥

人類正在大踏步地進(jìn)入數(shù)字經(jīng)濟(jì)時代，數(shù)字經(jīng)濟(jì)實際上包括了數(shù)字產(chǎn)業(yè)化、產(chǎn)業(yè)數(shù)字化（即實體經(jīng)濟(jì)數(shù)字化發(fā)展）和社會治理三個部分。特別需要強(qiáng)調(diào)的是，數(shù)字經(jīng)濟(jì)時代的社會治理特別依賴“計算”來有效提升治理能效。麥克盧漢提出了“媒介是人體的延伸”的理論，由此可以類推得出“計算重塑媒介的延伸”，計算驅(qū)動著傳媒產(chǎn)業(yè)與社會變革，計算的核心要素是數(shù)據(jù)、算法和算力，數(shù)據(jù)是生產(chǎn)要素，算法是知識產(chǎn)權(quán)，算力是“新基建”。

鑒于算法在傳媒領(lǐng)域和網(wǎng)絡(luò)數(shù)字空間的重要性，必須要找到算法可治的路徑。面對不同的算法，算法治理需要采用不同的切入點(diǎn)。具體來說，算法有三種系統(tǒng)理論，分別為：白箱理論、黑箱理論和灰箱理論。⑧白箱理論是指算法研究人員不僅知道算法的輸入、輸出關(guān)系，并且知道算法的結(jié)構(gòu)與算法的構(gòu)建過程，它相當(dāng)于是一個白色透明外殼的箱子，能夠隨時被人類觀察到箱子其中的內(nèi)部結(jié)構(gòu)，所以，如果我們能夠理解算法的原理，那就可以利用白箱理論從源頭介入，對算法進(jìn)行評估。

黑箱理論是指算法研究人員僅僅能夠得知算法的輸入、輸出內(nèi)容，但并不清楚算法的結(jié)構(gòu)、算法內(nèi)部的運(yùn)行邏輯，就如同一個外殼為黑色的箱子，研究人員只能夠根據(jù)輸入輸出的特點(diǎn)來推斷算法的系統(tǒng)規(guī)律。黑箱算法是有數(shù)據(jù)驅(qū)動的，所以我們要從結(jié)果入手來評估其對社會的影響。

灰箱理論是指算法內(nèi)部規(guī)律只有部分能夠被人理解，在建立和改善模型方面還有許多工作要做，就如同一個外殼為灰色的箱子。面對灰箱算法，在操作層面需要從審核介入，這就需要我們懂得算法。

四、算法善治需要政府、技術(shù)、企業(yè)的合力支持

算法需要可治，更要善治，算法善治重點(diǎn)在“善”，科技向善，重塑算法價值觀。算法善治需要政府指導(dǎo)、完善相關(guān)法律法規(guī)進(jìn)行督促，同時也需要全民參與網(wǎng)絡(luò)文明的發(fā)展進(jìn)程，以底線思維防范化解風(fēng)險。算法在大數(shù)據(jù)、云計算和人工智能的推動下，已經(jīng)成為數(shù)字基礎(chǔ)設(shè)施的操作系統(tǒng)，成為信息社會的軟件架構(gòu)，并與人的數(shù)字化生存和社會的數(shù)據(jù)化運(yùn)行同步演化。習(xí)近平總書記指出：“要增強(qiáng)緊迫感和使命感，推動關(guān)鍵核心技術(shù)自主創(chuàng)新不斷實現(xiàn)突破，探索將人工智能運(yùn)用在新聞采集、生產(chǎn)、分發(fā)、接收、反饋中，用主流價值導(dǎo)向駕馭‘算法，全面提高輿論引導(dǎo)能力?！雹崴惴ㄖ卫淼膬?nèi)核應(yīng)該是價值觀，中層是技術(shù)架構(gòu)，外層是應(yīng)用場景。

算法善治還需要建立“政府—技術(shù)—企業(yè)”一體化治理體系。對于政府，需要針對不同類型算法，守正創(chuàng)新，倡導(dǎo)源頭和結(jié)果的科學(xué)監(jiān)管，備案追責(zé)，助推網(wǎng)絡(luò)文化安全的算法效果標(biāo)準(zhǔn)和政策指南；對于技術(shù)，需要構(gòu)建時間空間模型，實現(xiàn)自辨真假和無假自證，打擊虛假信息，增強(qiáng)事實核查的技術(shù)能力，實現(xiàn)賬號分類分級管理，強(qiáng)化運(yùn)行主體責(zé)任；對于企業(yè)，需要承擔(dān)問責(zé)算法的原則，明確且聲明算法的社會影響，需要報告、解釋、證明算法決策以及減輕任何可能的負(fù)面社會影響或潛在危害。

在算法治理中，治理的范圍不僅要針對國內(nèi)，還應(yīng)該涉及國際傳播，不僅要保護(hù)國內(nèi)算法的知識產(chǎn)權(quán)，也需要助力保障我們國家的安全。在當(dāng)前信息戰(zhàn)、輿論戰(zhàn)和認(rèn)知戰(zhàn)的大環(huán)境下，我們更應(yīng)格外關(guān)心算法的相應(yīng)治理和對知識產(chǎn)權(quán)的保護(hù)。對于中外聯(lián)合企業(yè)、產(chǎn)品應(yīng)用程序涉及境外用戶的企業(yè)，不僅要遵守國內(nèi)的法律，還需要遵守當(dāng)?shù)叵嚓P(guān)的法律法規(guī)，有關(guān)部門也需要對上述企業(yè)進(jìn)行相應(yīng)的幫助、核實核查和進(jìn)行必要的審查，以避免國內(nèi)企業(yè)對當(dāng)?shù)胤傻暮鲆暎乐顾惴▎栴}對國內(nèi)企業(yè)的傷害，同時還應(yīng)該保護(hù)我國企業(yè)算法技術(shù)和產(chǎn)品的先進(jìn)性，幫助有關(guān)企業(yè)發(fā)揮算法的先進(jìn)性作用。

從“算法可治”到“算法善治”，既強(qiáng)調(diào)了算法的科學(xué)性，也體現(xiàn)了算法的藝術(shù)性，這樣才能達(dá)到科學(xué)和藝術(shù)的和諧統(tǒng)一。

五、人類時空共同體是算法治理的成功嘗試

在算法治理的過程中，時間和空間是兩個重要的要素。以微博為例，2022年4月之前，用戶在微博平臺發(fā)布博文、評論時只能夠顯示時間信息，而沒有位置信息。隨著俄烏沖突爆發(fā)，2022年4月后，微博、抖音、小紅書等社交媒體網(wǎng)絡(luò)陸續(xù)加入“IP歸屬地”功能，這體現(xiàn)了網(wǎng)絡(luò)空間在網(wǎng)信部門指導(dǎo)下的進(jìn)化能力。這些IP屬地信息的發(fā)布不由發(fā)帖人自主控制，是算法系統(tǒng)基于一定尺度的位置信息隨博文的發(fā)出自動顯示，國內(nèi)的用戶將顯示到省份，國外的用戶顯示到國家。這是一種有效的算法治理方式。

如果時間和空間成為條件要素共同附著在一個通用標(biāo)簽上，那么人類就可以打造一個無假自證或自辨真假的境界。從這個維度來看，今天我國所使用的健康碼就是一個時空標(biāo)簽，只要用戶登錄就可以被時間和空間的標(biāo)記，這是數(shù)字世界的自辨真假、無假自證。

同樣，基于這樣的技術(shù)理念，無論在中國的領(lǐng)空、世界的領(lǐng)空、還是未來空間，抑或是元宇宙，都可以本著“人類時空共同體”的價值觀念實現(xiàn)算法治理。為此，我們需要進(jìn)一步思考、完善、實現(xiàn)，建立相關(guān)算法操作系統(tǒng)，貢獻(xiàn)中國智慧和中國方案。舉例來說，我國的北斗導(dǎo)航具有時間和空間定位，基于北斗導(dǎo)航數(shù)據(jù)的任何信息都可以獲得無假自證或自辨真假的可能性。

結(jié)語

算法可治很重要，算法善治更重要。我國要在技術(shù)上掌握主動權(quán)，最典型的案例就是健康碼，同時擁有時間信息和空間信息，為我國的科學(xué)精準(zhǔn)防控作出了貢獻(xiàn)；還有一個例子是社交媒體平臺陸續(xù)開放IP歸屬地自動顯示功能，過去難以被識別的來自境外和境內(nèi)的虛假信息現(xiàn)在可以不攻自破。當(dāng)超越了國內(nèi)的網(wǎng)絡(luò)運(yùn)營商，對于國際性網(wǎng)絡(luò)來講，我們提出了中國主張——“人類時空共同體”，地球上的任何一個人類都已通過衛(wèi)星來全球授時、全球授位，全球都可以接收衛(wèi)星信息，知道你是誰，知道你在哪。

算法可以助力國家定策設(shè)計，促進(jìn)國家傳播能力提升，推進(jìn)網(wǎng)絡(luò)文明的建設(shè)歷程。在服務(wù)國家需求、解決實際問題、服務(wù)關(guān)鍵應(yīng)用場景的環(huán)境下，對大數(shù)據(jù)人工智能、算法能力進(jìn)行建設(shè)與優(yōu)化，這也是在數(shù)字經(jīng)濟(jì)時代“算法善治”所作的探索。

沈浩系中國傳媒大學(xué)媒體融合與傳播國家重點(diǎn)實驗室媒體大數(shù)據(jù)中心首席科學(xué)家

「注釋」

①[美]桑斯坦：《信息烏托邦》（畢競悅譯），北京：法律出版社，2008年，第7頁。

②桑德拉·沃切特、布倫特·米特爾斯塔德、克里斯·拉塞爾、陳宇超：《無需打開“黑箱”的反事實解釋：自動化決策和<通用數(shù)據(jù)保護(hù)條例>》，《國外社會科學(xué)前沿》2022年第7期，第85-99頁。

③《英航因泄露用戶信息被罰近兩億英鎊》，新華網(wǎng)，http：//www.xinhuanet.com/ world/2019-07/08/c_1124726167.html，2019年7月8日。

④董浩宇：《國際傳播中數(shù)字媒體的發(fā)展性初探——以抖音TikTok全球發(fā)展與美國禁令為例》，《國際公關(guān)》2021年第9期，第134-136頁。

⑤Leslie， D.，”Understanding artificial intelligence ethics and safety： A guide for the responsible design and implementation of AI systems in the public sector”，The Alan Turing Institute，2019，pp.2

⑥溫婧：《禁止“大數(shù)據(jù)殺熟”、誘導(dǎo)沉迷，網(wǎng)信辦等四部門發(fā)布算法規(guī)范》，北京青年報客戶端，https：//m.gmw.cn/baijia/2022-01/04/1302748490.html，2022年1月4日。

⑦國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局：《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，中國網(wǎng)信網(wǎng)，http：//www.cac.gov.cn/2022-01/04/c_1642894606364259.html，2022年1月4日。

⑧張瀅：《“黑箱—灰箱—白箱”策略在商務(wù)談判中的應(yīng)用》，《經(jīng)濟(jì)論壇》2006年第23期，第85-87頁。

⑨《習(xí)近平：加快推動媒體融合發(fā)展 構(gòu)建全媒體傳播格局》，中國政府網(wǎng)，http：// www.gov.cn/xinwen/2019-03/15/content_5374027.htm，2019年3月15日。

責(zé)編：霍瑤