【摘要】算法對(duì)人類(lèi)社會(huì)生活影響的普遍性和深刻性讓算法成為堪比自然環(huán)境的人工環(huán)境，算法影響的利弊兩面性以及算法侵害的不斷出現(xiàn)將人類(lèi)推入算法治理時(shí)代。伴隨算法影響不斷擴(kuò)大的是算法自身復(fù)雜性的增強(qiáng)，算法已經(jīng)從古老的計(jì)算演化為實(shí)時(shí)關(guān)系模型的自我迭代與演進(jìn)，進(jìn)而讓算法的過(guò)程治理既在技術(shù)上不可行，也在管理上代價(jià)高昂。中美歐在算法治理領(lǐng)域的探索實(shí)踐呈現(xiàn)不同格局，美國(guó)從防范算法侵害入手，形成了政府和第三方的問(wèn)責(zé)模式;歐盟從數(shù)據(jù)保護(hù)入手，逐漸與美國(guó)的問(wèn)責(zé)模式匯流;中國(guó)從網(wǎng)絡(luò)安全入手實(shí)施治理，但尚未形成有法理邏輯和明確操作路徑的算法治理模式，邁向問(wèn)責(zé)模式似乎是中國(guó)算法治理可能的且有效的行動(dòng)選擇。

【關(guān)鍵詞】算法治理? 算法技術(shù)? 問(wèn)責(zé)模式

【中圖分類(lèi)號(hào)】D922.16? ? ? ? ? ? ? ? ? ? ? ? ?【文獻(xiàn)標(biāo)識(shí)碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2022.10.003

對(duì)算法治理的討論盡管早在20世紀(jì)80年代已初現(xiàn)端倪，可真正廣泛進(jìn)入人們的視線還是始于近些年中美歐相關(guān)法律的落地和文獻(xiàn)數(shù)量的爆發(fā)式增長(zhǎng)。

1984年是桌面計(jì)算機(jī)進(jìn)入流行的初始階段，也是人們對(duì)算法開(kāi)始警覺(jué)的起點(diǎn)。次年，美國(guó)國(guó)會(huì)技術(shù)評(píng)估辦公室的一份報(bào)告指出，在過(guò)去20年間，聯(lián)邦政府四分之一的部門(mén)已經(jīng)將計(jì)算機(jī)系統(tǒng)用于執(zhí)法調(diào)查或情報(bào)搜集與分析。[1]其中的“計(jì)算機(jī)系統(tǒng)”便內(nèi)含了算法。隨后，同一間辦公室的報(bào)告《電子記錄系統(tǒng)與個(gè)人隱私》則明確意識(shí)到了算法治理的挑戰(zhàn)。報(bào)告指出，運(yùn)用電子記錄進(jìn)行個(gè)人畫(huà)像意味著求解個(gè)體特征和行為模式以及其與特定行為的關(guān)聯(lián)，進(jìn)而直接涉及使用個(gè)人記錄畫(huà)像、產(chǎn)生算法歧視等隱私和自由問(wèn)題。[2]

其實(shí)，早在20世紀(jì)60年代后期，人們已有對(duì)自動(dòng)化的擔(dān)憂，類(lèi)似于當(dāng)下人們對(duì)算法的顧慮。值得記錄的一項(xiàng)反思是對(duì)人的特殊性和目的性的強(qiáng)調(diào)，認(rèn)為自動(dòng)化的設(shè)計(jì)、制造、存在都是應(yīng)該圍繞人展開(kāi)的，人的尊嚴(yán)是自動(dòng)化的第一理念。[3]此后，人們對(duì)信息技術(shù)的迭代演進(jìn)、信息技術(shù)的數(shù)字化，以及數(shù)字技術(shù)向生產(chǎn)和生活各領(lǐng)域不斷滲透帶來(lái)的影響一直保持著關(guān)注。只是這些關(guān)注始終呈現(xiàn)為有限的探討，沒(méi)有形成持續(xù)的努力。

人工智能的新一輪爆發(fā)[4]引發(fā)了近些年對(duì)算法治理的關(guān)注。大多數(shù)涉及算法治理的文獻(xiàn)甚至不謀而合地形成了一種套路式表述，如：隨著大數(shù)據(jù)、云計(jì)算、人工智能技術(shù)應(yīng)用的普及，算法已廣泛且深度地進(jìn)入平臺(tái)經(jīng)濟(jì)、智慧城鄉(xiāng)、政府治理等政治、市場(chǎng)、社會(huì)領(lǐng)域，成為影響人類(lèi)生產(chǎn)與生活的關(guān)鍵力量，算法在帶來(lái)數(shù)字經(jīng)濟(jì)繁榮、政府治理有效、社會(huì)發(fā)展活躍的同時(shí)，也潛藏著政治、經(jīng)濟(jì)、社會(huì)、法律等一系列風(fēng)險(xiǎn)，且相關(guān)風(fēng)險(xiǎn)在逐漸顯現(xiàn)。為此，政府或社會(huì)亟需關(guān)注……。中國(guó)知網(wǎng)的數(shù)據(jù)顯示，以算法治理為主題的社會(huì)科學(xué)文獻(xiàn)在2013年左右只有零星幾篇，2018年開(kāi)始呈現(xiàn)急劇上升趨勢(shì)，2022年前4個(gè)月發(fā)表的文獻(xiàn)數(shù)量幾乎與2020年整年的數(shù)量相若。

在既有的探討中，盡管不少文獻(xiàn)直奔算法治理主題，盡抒胸臆地表達(dá)對(duì)算法治理的關(guān)注，卻無(wú)意或有意地忽視了一些基本問(wèn)題，如，算法是一個(gè)舊已有之的存在，如今為什么要特別關(guān)注？到底什么是算法？如果關(guān)注，又能關(guān)注什么？本文試圖從算法對(duì)人類(lèi)社會(huì)生產(chǎn)和生活的廣泛和深刻影響的程度入手，闡述算法已經(jīng)成為人類(lèi)生產(chǎn)和生活的普遍環(huán)境，不得不予以關(guān)注;本文還將進(jìn)一步分析算法的技術(shù)邏輯，說(shuō)明關(guān)注過(guò)程治理、試圖對(duì)算法進(jìn)行實(shí)時(shí)監(jiān)測(cè)難以實(shí)現(xiàn)算法治理目標(biāo);最后本文將探討算法治理的可能路徑及中美歐的行動(dòng)選擇。

進(jìn)入算法治理時(shí)代

在套路化闡述算法治理的文獻(xiàn)中，人們認(rèn)為，關(guān)注算法的必要性來(lái)自于大數(shù)據(jù)、云計(jì)算、人工智能等數(shù)字技術(shù)的廣泛應(yīng)用。問(wèn)題是，為何相關(guān)技術(shù)廣泛應(yīng)用之后必需治理算法呢？換個(gè)問(wèn)法，數(shù)字技術(shù)的廣泛應(yīng)用與算法有什么關(guān)系？不用算法，可行嗎？即使運(yùn)用算法，不治理，行嗎？我們認(rèn)為，回答這些問(wèn)題是理解算法治理必要性的前提。

算法古已有之。在中國(guó)之外，算法的最早證據(jù)可以追溯到古代美索不達(dá)米亞的巴比倫數(shù)學(xué)，在伊拉克巴格達(dá)附近發(fā)現(xiàn)的一塊公元前2500年左右蘇美爾時(shí)期的粘土碑上的除法算法便是證據(jù)，[5]古巴比倫的天文學(xué)采用算法程序計(jì)算重大天文事件的時(shí)間和地點(diǎn)。[6]在中國(guó)，算法的最早證據(jù)則可追溯到《黃帝歷》，時(shí)間大約在公元前2700年，人們用算法理解天體之間的運(yùn)動(dòng)規(guī)律，安排人類(lèi)的生產(chǎn)和生活。[7]如此可知，算法在人類(lèi)歷史中始終存在，在近代社會(huì)也沒(méi)有停止演化，且早已運(yùn)用于生產(chǎn)和生活之中。[8]可是，為什么直到現(xiàn)在，人們才那么關(guān)注算法治理？

歸納既有文獻(xiàn)，我們觀察到三種主要理由。一種理由認(rèn)為，算法侵害[9]是觸發(fā)人們關(guān)注算法治理的根由。人們認(rèn)為，現(xiàn)實(shí)生產(chǎn)和生活中已經(jīng)出現(xiàn)了算法歧視、算法偏見(jiàn)、算法共謀、算法壟斷、算法黑箱、算法遮蔽、算法短視、算法霸權(quán)、算法操縱、算法劫持、算法剝削等與算法關(guān)聯(lián)的社會(huì)、經(jīng)濟(jì)、甚至政治侵害，給人類(lèi)社會(huì)的政治、經(jīng)濟(jì)、社會(huì)生活帶來(lái)了負(fù)面影響。

另一種理由認(rèn)為，算法風(fēng)險(xiǎn)[10]是觸發(fā)算法治理的根由。人們認(rèn)為，在個(gè)體層次，算法強(qiáng)化著信息繭房，帶來(lái)人的認(rèn)知窄化風(fēng)險(xiǎn)。在市場(chǎng)層次，算法遵循商業(yè)邏輯，醞釀著監(jiān)控資本主義的風(fēng)險(xiǎn)。在國(guó)家層次，算法隱藏著被特定利益集團(tuán)用于社會(huì)控制和政治權(quán)力再生產(chǎn)的政治風(fēng)險(xiǎn)。從個(gè)體層次到國(guó)家層次的風(fēng)險(xiǎn)給人類(lèi)社會(huì)的政治、經(jīng)濟(jì)、社會(huì)生活帶來(lái)巨大的不確定性。

除了算法帶來(lái)的侵害和風(fēng)險(xiǎn)，還有人將算法影響上升到制度層次，認(rèn)為算法權(quán)力、算法規(guī)則是觸發(fā)規(guī)則競(jìng)爭(zhēng)、權(quán)力競(jìng)爭(zhēng)甚至規(guī)則壟斷、權(quán)力壟斷的根由。值得特別注意的是，這也是西文文獻(xiàn)探討算法治理的主流。早在中文文獻(xiàn)關(guān)注算法之前，西文文獻(xiàn)就以著作形態(tài)探討算法權(quán)力（power of algorithms）了。奧賽羅和佩特里希編輯的論文集[11]運(yùn)用歷史與現(xiàn)實(shí)視角刻畫(huà)算法對(duì)日常生活的影響，如導(dǎo)航、搜索、保密通信、油鹽醬醋、觀看電視、導(dǎo)購(gòu)、游戲等，算法已經(jīng)介入人們的日常生活，成為影響甚至支配人們?nèi)粘Ｉ畹臋?quán)力。在一般權(quán)力之外，社會(huì)學(xué)家似乎偏愛(ài)算法的社會(huì)權(quán)力（social power of algorithms）。人們認(rèn)為，算法正在從人類(lèi)手里獲得決策權(quán)，在越來(lái)越多的領(lǐng)域或行動(dòng)中成為人類(lèi)的代理人，不僅在日常生活中代理個(gè)體，還在組織行動(dòng)中代理組織或機(jī)構(gòu)。如果個(gè)體和組織層次的代理行動(dòng)涉及社會(huì)秩序的建構(gòu)和預(yù)測(cè)，在邏輯上，算法已經(jīng)進(jìn)入政治生活領(lǐng)域，[12]直接觸碰到了政治權(quán)力。在中文文獻(xiàn)中，算法權(quán)力也在成為一個(gè)重要論題。[13]

同樣，西文文獻(xiàn)也早在以著作形態(tài)探討算法規(guī)則，這些甚至早于對(duì)算法權(quán)力的探討。[14]萊辛格直言，代碼即法律。在短短五年內(nèi)對(duì)著作的兩次修訂中，萊辛格明確指出，代碼建構(gòu)了數(shù)字空間的規(guī)則，同樣約束著人類(lèi)行動(dòng)。計(jì)算機(jī)代碼與制度具有同樣的規(guī)制效應(yīng)。萊辛格擔(dān)心的是，商業(yè)公司的逐利性會(huì)讓規(guī)則朝著有利于盈利的方向偏移，進(jìn)而影響代碼規(guī)則在數(shù)字空間的公共性。通俗地說(shuō)，如果我們把法律作為人類(lèi)公共性的產(chǎn)物，那么，萊辛格擔(dān)心的是，在數(shù)字空間，代碼會(huì)將法律的公共性引向?yàn)橘Y本牟利。進(jìn)一步的討論甚至將算法規(guī)則提升到更高規(guī)則層級(jí)，[15]認(rèn)為算法給憲法帶來(lái)了挑戰(zhàn)，對(duì)人的自由及其他基本權(quán)利造成不利影響，更不用說(shuō)對(duì)制度、規(guī)制、公共政策等的影響了。

的確，算法向生產(chǎn)和生活的不斷滲透對(duì)人類(lèi)社會(huì)產(chǎn)生著深刻的影響，小到個(gè)體的日常生活決策如食物、衣裝、出行等，中到人與社會(huì)每個(gè)層次的關(guān)系如群體、組織、市場(chǎng)、社會(huì)、國(guó)家等，大到人類(lèi)的基本權(quán)利如自由等。問(wèn)題是，自算法進(jìn)入人類(lèi)生產(chǎn)與生活開(kāi)始，算法的影響始終存在，人們?yōu)槭裁匆诋?dāng)下關(guān)注算法侵害、算法風(fēng)險(xiǎn)、算法權(quán)力、算法規(guī)則呢？換一種方式提問(wèn)，假設(shè)這些影響只涉及極少數(shù)人，而不涉及整個(gè)人類(lèi)社會(huì)，我們還需要如此關(guān)注算法么？答案是否定的。即使有人關(guān)注也無(wú)需將其推送到整個(gè)社會(huì)面前，正如20世紀(jì)初人們對(duì)生產(chǎn)流水線的關(guān)注、20世紀(jì)60年代人們對(duì)自動(dòng)化的關(guān)注一樣，算法可以成為少數(shù)人的興趣或?qū)W術(shù)探討的前沿，而無(wú)須成為整個(gè)社會(huì)關(guān)注的焦點(diǎn)。

我們認(rèn)為，社會(huì)關(guān)注聚焦于算法治理其實(shí)是由兩個(gè)因素推動(dòng)的，除了算法影響的廣度和深度，還有算法影響的覆蓋面。遺憾的是，既有文獻(xiàn)極少涉及后者。事實(shí)上，不僅因?yàn)樗惴ㄓ绊懥藦膫€(gè)體決策、行動(dòng)到國(guó)家憲法等人類(lèi)社會(huì)生活的各個(gè)領(lǐng)域，還因?yàn)樗惴ㄓ绊懥耸澜绲拇蠖鄶?shù)社會(huì)、大多數(shù)人，可以說(shuō)，整個(gè)人類(lèi)社會(huì)的方方面面都處在算法的影響之下，人類(lèi)參與的政治、經(jīng)濟(jì)、社會(huì)生活，處處都有算法的影響，一些領(lǐng)域甚至根本是由算法在推動(dòng)。

那么，算法影響的覆蓋面到底有多大呢？其實(shí)，接受算法影響是有條件的，不滿足相應(yīng)的條件，算法影響便覆蓋不到。要觀察算法影響的覆蓋面，還需從算法影響發(fā)生的條件入手。對(duì)算法影響條件的分析也從另一個(gè)角度幫助我們理解，算法始終與人類(lèi)的生產(chǎn)與生活相伴隨，長(zhǎng)期以來(lái)算法影響覆蓋的人群卻一直非常有限，如同流水線、自動(dòng)化等在不同層次影響的人群始終是有邊界的。

在數(shù)字時(shí)代，算法影響的第一個(gè)條件是接入互聯(lián)網(wǎng)絡(luò)。沒(méi)有互聯(lián)網(wǎng)絡(luò)的接入，就沒(méi)有個(gè)體或組織行動(dòng)與數(shù)字網(wǎng)絡(luò)的數(shù)據(jù)交換，也不會(huì)有任何數(shù)字化算法介入，無(wú)論是個(gè)體還是機(jī)構(gòu)或組織都被排除在算法的影響之外。根據(jù)國(guó)際電信聯(lián)盟（ITU）的數(shù)據(jù)，截至2021年，世界上依然有37%左右[16]的人口沒(méi)有接入互聯(lián)網(wǎng)。根據(jù)中國(guó)互聯(lián)網(wǎng)信息中心的數(shù)據(jù)，截至2021年12月，在中國(guó)以人口總體為分母的互聯(lián)網(wǎng)接入率為73.0%，10.32億接入用戶，其中鄉(xiāng)村用戶占27.6%，城鎮(zhèn)用戶占72.4%。如果以接入設(shè)施覆蓋面觀察，以最小行政單元為計(jì)量單位，中國(guó)的寬帶覆蓋率為100%，光纖覆蓋率為98%。[17]綜合相關(guān)數(shù)據(jù)可以獲得的判斷是，盡管世界上依然有超過(guò)三分之一的人口沒(méi)有接入互聯(lián)網(wǎng)，尚處在算法影響的范圍之外，中國(guó)卻實(shí)現(xiàn)了互聯(lián)網(wǎng)接入的充分供給，如果以家庭為單位計(jì)算，則人口整體處于算法影響的覆蓋之內(nèi)。在數(shù)字接入的意義上，算法有機(jī)會(huì)影響到幾乎每一位中國(guó)人，如果愿意，每一位中國(guó)人也有機(jī)會(huì)接受算法的影響。算法覆蓋的無(wú)邊界性，在歷史上是不曾出現(xiàn)的現(xiàn)象。一個(gè)直接的例子是，新冠肺炎疫情流行的近三年來(lái)，一塊方寸大小的健康狀況二維碼，讓每一位生活在中國(guó)的人都感受到了算法影響的強(qiáng)烈沖擊。

算法影響的第二個(gè)條件是數(shù)據(jù)成為人類(lèi)生產(chǎn)與生活的環(huán)境。如果只是接入網(wǎng)絡(luò)，也不足以讓算法影響觸達(dá)每一個(gè)接入的節(jié)點(diǎn)（人、組織、事物等）。與算法一致，網(wǎng)絡(luò)也始終伴隨著人類(lèi)社會(huì)存在。人際網(wǎng)絡(luò)是基礎(chǔ)網(wǎng)絡(luò)，由此衍生的網(wǎng)絡(luò)林林總總。可是，網(wǎng)絡(luò)并沒(méi)有因?yàn)楦采w面的擴(kuò)大而改變網(wǎng)絡(luò)的本質(zhì)屬性，網(wǎng)絡(luò)還是人與人、人與事、人與物、物與事等事物之間的一種連接關(guān)系。當(dāng)然，連接的性質(zhì)會(huì)因?yàn)殛P(guān)系屬性的差異而發(fā)生變化，從血緣網(wǎng)絡(luò)、地緣網(wǎng)絡(luò)，衍生出供應(yīng)網(wǎng)絡(luò)、生產(chǎn)網(wǎng)絡(luò)、創(chuàng)新網(wǎng)絡(luò)、貿(mào)易網(wǎng)絡(luò)、社會(huì)網(wǎng)絡(luò)、政治網(wǎng)絡(luò)等。在網(wǎng)絡(luò)上，兩個(gè)節(jié)點(diǎn)之間流動(dòng)的只要不是不斷產(chǎn)生的數(shù)據(jù)，不管流動(dòng)的是什么，即使伴隨著算法，算法的影響也僅限于有限的節(jié)點(diǎn)之間，不足以引發(fā)廣泛的社會(huì)關(guān)注?？墒牵?dāng)網(wǎng)絡(luò)上流動(dòng)的是關(guān)系性數(shù)據(jù)時(shí)，算法影響的溢出點(diǎn)便出現(xiàn)了。

數(shù)據(jù)對(duì)算法影響溢出的推動(dòng)不在于數(shù)據(jù)本身，而在于數(shù)據(jù)的量。在互聯(lián)網(wǎng)上，有人專(zhuān)門(mén)關(guān)注數(shù)字網(wǎng)絡(luò)產(chǎn)生的數(shù)據(jù)量，如“數(shù)據(jù)從不睡覺(jué)（Data Never Sleeps）”9.0版[18]顯示，在數(shù)字網(wǎng)絡(luò)上每分鐘產(chǎn)生的20類(lèi)數(shù)據(jù)中，任何一類(lèi)的數(shù)據(jù)量都是人腦的計(jì)算能力無(wú)法勝任的，甚至也是個(gè)人電腦的處理能力難以勝任的。數(shù)據(jù)量巨大到遠(yuǎn)遠(yuǎn)超出人類(lèi)加上簡(jiǎn)單工具的處理能力，在歷史上也是不曾出現(xiàn)的現(xiàn)象。數(shù)字網(wǎng)絡(luò)進(jìn)入社會(huì)化應(yīng)用以來(lái)，人類(lèi)活動(dòng)產(chǎn)生和積累的數(shù)據(jù)量早已超出傳統(tǒng)的處理能力，不借助算法，人類(lèi)根本無(wú)力運(yùn)用數(shù)據(jù)資源進(jìn)行生產(chǎn)，難以提高生活質(zhì)量。數(shù)據(jù)已經(jīng)成為接入數(shù)字網(wǎng)絡(luò)的人口之生產(chǎn)和生活環(huán)境，巨量的數(shù)據(jù)和應(yīng)用是人類(lèi)依靠其生物屬性無(wú)力應(yīng)付和處理的，由此帶來(lái)的直接后果是：算法成為了人類(lèi)生產(chǎn)與生活必備的外生性能力。這樣我們就可以理解，為什么智能手機(jī)在日常生活中會(huì)成為人們的第一陪伴。

算法影響的第三個(gè)條件是算法成為人類(lèi)生產(chǎn)和生活的必備工具。數(shù)據(jù)和算法的組合正在從根本上改變?nèi)祟?lèi)的生產(chǎn)，推動(dòng)著人類(lèi)從工業(yè)經(jīng)濟(jì)邁向數(shù)字經(jīng)濟(jì);也在從根本上改變?nèi)祟?lèi)的生活，推動(dòng)著人類(lèi)從工業(yè)社會(huì)邁向數(shù)字社會(huì)，數(shù)據(jù)和算法因此成為人類(lèi)邁向數(shù)字時(shí)代的標(biāo)志性指標(biāo)。

在經(jīng)濟(jì)領(lǐng)域，上市公司的市值排名不只標(biāo)示企業(yè)價(jià)值規(guī)模，也指示關(guān)鍵技術(shù)的影響力和社會(huì)的取舍。根據(jù)公開(kāi)數(shù)據(jù)，在市值排名前十的公司中，1990年有6家銀行、1家通信硬件公司;2020年則有7家互聯(lián)網(wǎng)公司、2家金融公司。在過(guò)去四十年，以設(shè)施設(shè)備等硬件為基礎(chǔ)，以組織和社會(huì)應(yīng)用為目標(biāo)，數(shù)字技術(shù)快速邁過(guò)其擴(kuò)散臨界點(diǎn)，進(jìn)入變革的起飛階段。中國(guó)信通院的數(shù)據(jù)顯示，2020年中國(guó)數(shù)字經(jīng)濟(jì)增加值為39.2萬(wàn)億元人民幣，占GDP的比重躍升至38.6%，[19]這意味著，中國(guó)數(shù)字經(jīng)濟(jì)已越過(guò)技術(shù)擴(kuò)散起飛的臨界點(diǎn)而進(jìn)入起飛初始階段。預(yù)計(jì)，2025年中國(guó)數(shù)字經(jīng)濟(jì)占GDP的比重將超過(guò)50%，[20]中國(guó)將真正進(jìn)入數(shù)字經(jīng)濟(jì)時(shí)代。

在社會(huì)領(lǐng)域，數(shù)字終端已經(jīng)成為人們的必備工具，且不細(xì)說(shuō)數(shù)字企業(yè)、數(shù)字政府如何運(yùn)用算法改善生產(chǎn)、改善治理，只從人們?nèi)粘Ｉ顚?duì)數(shù)字工具的應(yīng)用中便能看到由數(shù)據(jù)量推動(dòng)的算法帶來(lái)的影響。在中國(guó)互聯(lián)網(wǎng)用戶群體中，90%的人使用即時(shí)通訊、80%的人使用政務(wù)服務(wù)、70%的人使用數(shù)字支付，哪一項(xiàng)應(yīng)用的實(shí)現(xiàn)都依賴算法。例如，運(yùn)籌起點(diǎn)到終點(diǎn)的行車(chē)路線是出租車(chē)司機(jī)的基本職業(yè)能力，現(xiàn)如今，司機(jī)們卻說(shuō)，離開(kāi)了即時(shí)導(dǎo)航都無(wú)法行車(chē)了。

在政務(wù)領(lǐng)域，省部級(jí)政務(wù)接入國(guó)家政務(wù)平臺(tái)的比例快速上升，居民跨行政區(qū)辦理業(yè)務(wù)的便利性極大增強(qiáng)。在政務(wù)平臺(tái)上，實(shí)名注冊(cè)個(gè)人數(shù)達(dá)7.74億，法人數(shù)量達(dá)7.27億。審批等行政許可事項(xiàng)實(shí)現(xiàn)網(wǎng)上受理和最多跑一次的比例達(dá)82.13%;一半以上行政許可事項(xiàng)平均時(shí)限壓縮超過(guò)40%;政府事項(xiàng)網(wǎng)上可辦率超過(guò)了90%。[21]數(shù)字連接正在推動(dòng)中國(guó)治理體系和治理能力的現(xiàn)代化。

任何一項(xiàng)終端工具應(yīng)用的背后都有算法，算法的工具化無(wú)處不在。我們甚至可以認(rèn)為：無(wú)算法，不生產(chǎn);無(wú)算法，不生活。在生產(chǎn)領(lǐng)域，數(shù)據(jù)已成為人類(lèi)的新生產(chǎn)資料，算法則成為人類(lèi)新的生產(chǎn)工具。在生活領(lǐng)域，數(shù)據(jù)已成為人類(lèi)提升生活質(zhì)量的素材，算法則成為人類(lèi)新的生活工具。

人類(lèi)正在加速進(jìn)入算法時(shí)代，人們之所以關(guān)注算法侵害、算法風(fēng)險(xiǎn)、算法權(quán)力、算法規(guī)則，不是因?yàn)榍趾?、風(fēng)險(xiǎn)、權(quán)力、規(guī)則本身，而是因?yàn)榍趾?、風(fēng)險(xiǎn)、權(quán)力、規(guī)則直接影響到大多數(shù)人的利益和福祉，直接影響到經(jīng)濟(jì)發(fā)展的可持續(xù)性，直接影響到社會(huì)發(fā)展的平等性，直接影響到政治發(fā)展的公平性。換句話說(shuō)，在人類(lèi)邁向數(shù)字時(shí)代的同時(shí)，我們無(wú)法回避算法給人類(lèi)帶來(lái)的如此深重且本質(zhì)性的影響。問(wèn)題是，算法又是何方神圣，何以有如此魔力？在既有的討論中，一些重要的觀點(diǎn)可能源自對(duì)算法的誤解，為此，下文有必要交代我們對(duì)算法的理解。

算法治理的技術(shù)迷思

盡管算法早已存在于人類(lèi)社會(huì)，可作為概念，算法的詞源卻來(lái)自波斯數(shù)學(xué)家花剌子模（Mu?ammad ibn Mūsā al-Khwārizmī）的名字?；ㄘ葑幽Ｃ值睦≌Z(yǔ)寫(xiě)法（Algoritmi）便是今天人們見(jiàn)到的算法作為術(shù)語(yǔ)的拼寫(xiě)原型。算法的現(xiàn)代意義源自公元9世紀(jì)花剌子模向西方譯介印度計(jì)算方法。[22]可是，直到計(jì)算機(jī)和計(jì)算機(jī)科學(xué)進(jìn)入人們的生產(chǎn)和生活之前，人們都沒(méi)有算法的概念，正如計(jì)算機(jī)科學(xué)創(chuàng)始人諾斯（Donald Knuth）所說(shuō)，直到20世紀(jì)70年代，“絕大多數(shù)受過(guò)教育的人都不知道算法，并且說(shuō)實(shí)話，無(wú)論如何，也幾乎沒(méi)有必要知道”。[23]

那么，算法到底是什么？在不同的歷史階段、不同的應(yīng)用場(chǎng)景中，算法有著不同所指，從最簡(jiǎn)單的算法到最復(fù)雜的算法?？稍诒举|(zhì)上，算法只是一種求解邏輯。舉例盡管常常不是準(zhǔn)確的定義方法，卻是幫助人們理解概念準(zhǔn)確定義最有效的方法，還是舉一個(gè)例子吧。

在一座超大城市，假設(shè)您是乘客，在地點(diǎn)A上了一輛出租車(chē)，告訴司機(jī)您要去地點(diǎn)B，您希望盡快到達(dá)目的地。一位出色的出租車(chē)司機(jī)通常對(duì)服務(wù)范圍的道路非常熟悉。在您告訴司機(jī)目的地的瞬間，司機(jī)的頭腦中會(huì)快速盤(pán)算行車(chē)路線，譬如，路線一可能會(huì)遇到堵車(chē)，路線二不是最短路徑，路線三可能正好適中，或者還有更優(yōu)的滿足盡快到達(dá)目的地需求的路線，只是司機(jī)不了解。

其中，從A點(diǎn)到B點(diǎn)，是需要解決的問(wèn)題。有多個(gè)與問(wèn)題相關(guān)的因素，至少涉及交通工具、道路狀況、交通動(dòng)態(tài)、選擇偏好。給定乘客的選擇偏好：盡快;再給定交通工具：出租車(chē);司機(jī)的路線選擇至少還涉及道路狀況和交通動(dòng)態(tài)。再假設(shè)道路狀況已知，便有了司機(jī)的三條路線選擇。

如果說(shuō)司機(jī)的三條路線選擇是從A點(diǎn)到B點(diǎn)問(wèn)題的數(shù)學(xué)解，算法則是司機(jī)路線選擇的求解過(guò)程。在過(guò)程中，從A點(diǎn)到B點(diǎn)的路線用時(shí)是因變量，交通工具、道路狀況、交通動(dòng)態(tài)、選擇偏好等是自變量，其中，每一個(gè)自變量對(duì)因變量的影響并非等價(jià)，如交通工具是條件變量，道路狀況也可以是條件變量，交通工具與道路狀況一起又會(huì)衍生出其他變量如路線備選集，交通動(dòng)態(tài)可能是直接的自變量，卻是只能憑借司機(jī)經(jīng)驗(yàn)的自變量。運(yùn)用與事實(shí)相吻合的關(guān)聯(lián)邏輯，建立自變量與自變量的關(guān)系結(jié)構(gòu)，進(jìn)一步建構(gòu)自變量與因變量的關(guān)系結(jié)構(gòu)，形成求解的計(jì)算邏輯，就是算法。

這個(gè)例子表明，第一，算法是面對(duì)問(wèn)題的，無(wú)論是現(xiàn)實(shí)問(wèn)題還是理論問(wèn)題，總之是需要解決的問(wèn)題。盡快到達(dá)目的地是需要解決的現(xiàn)實(shí)問(wèn)題，如何把某個(gè)商品賣(mài)給愿意出高價(jià)的人是需要解決的理論和現(xiàn)實(shí)問(wèn)題，人們?yōu)槭裁丛谒阉饕嫔纤阉鞲忻八幰彩切枰鉀Q的理論和現(xiàn)實(shí)問(wèn)題。人類(lèi)需要解決的問(wèn)題無(wú)處不在，故算法從不缺乏需要解決的問(wèn)題。

第二，算法是通過(guò)計(jì)算解決問(wèn)題的。因此，任何用到算法的問(wèn)題，都需要將問(wèn)題數(shù)學(xué)化為可計(jì)算模型。其中又內(nèi)含著一個(gè)問(wèn)題的兩面。一方面，要解決的問(wèn)題可以被數(shù)學(xué)化即用數(shù)學(xué)模型刻畫(huà)，不能建?；驎簳r(shí)不能建模的問(wèn)題是無(wú)法運(yùn)用算法的，如人類(lèi)或許暫時(shí)還無(wú)力將A愛(ài)戀B的程度數(shù)學(xué)化。另一方面，建構(gòu)的數(shù)學(xué)模型是可計(jì)算的。滿足可計(jì)算的條件是，至少有用于計(jì)算的數(shù)據(jù)，至少計(jì)算可以獲得解，即存在著運(yùn)用數(shù)據(jù)進(jìn)行計(jì)算而獲得的解。沒(méi)有數(shù)據(jù)，無(wú)法計(jì)算;有數(shù)據(jù)卻沒(méi)有計(jì)算解也無(wú)法計(jì)算。通俗地說(shuō)，運(yùn)用計(jì)算機(jī)不是為了計(jì)算，而是為了運(yùn)用計(jì)算機(jī)的算力更有效率地獲得計(jì)算的解。哈雷爾（David Harel）之所以將算法定義為計(jì)算機(jī)科學(xué)的靈魂，[24]或許理由正是在此。

算法正是每一位出租車(chē)司機(jī)頭腦中交通路線的運(yùn)籌過(guò)程。在這個(gè)意義上，算法與人類(lèi)的存在相伴隨。可是，人們關(guān)注算法，并不是因?yàn)槟澄怀鲎廛?chē)司機(jī)頭腦里的交通路線，一個(gè)人的算法并不會(huì)對(duì)其他人構(gòu)成影響，除非存在某種組織結(jié)構(gòu)，更不會(huì)對(duì)大多數(shù)人構(gòu)成影響，進(jìn)而也不會(huì)成為社會(huì)關(guān)注的焦點(diǎn)。

如果不是一位出租車(chē)司機(jī)，而是成千上萬(wàn)的出租車(chē)和非出租車(chē)司機(jī)，是幾百萬(wàn)輛機(jī)動(dòng)車(chē)行駛在道路上，即同時(shí)有幾百萬(wàn)個(gè)算法在發(fā)生，不僅如此，幾百萬(wàn)個(gè)算法還因?yàn)槎寂c道路資源有關(guān)而構(gòu)成相互影響，即每一位司機(jī)算法的效率都以其他司機(jī)的算法為條件，而且，每一位司機(jī)的行車(chē)路線、行駛狀態(tài)、駕駛行為都可以成為影響交通路線選擇的因素。在這樣的環(huán)境下，如果還希望獲得最優(yōu)行駛路線，運(yùn)用人的生物屬性已經(jīng)無(wú)力達(dá)成目標(biāo)，即人類(lèi)的生物屬性沒(méi)有能力處理哪怕是交通路線選擇之類(lèi)的算法之間的關(guān)系。

如果道路條件、每一個(gè)路口的交通燈變化、道路上每一輛機(jī)動(dòng)車(chē)的行駛路線、行駛狀態(tài)、每一個(gè)駕駛者的駕駛行為都被數(shù)據(jù)化，都匯集到一個(gè)數(shù)據(jù)池，且希望依據(jù)數(shù)據(jù)來(lái)獲得最優(yōu)行車(chē)路線，即盡快從A點(diǎn)到達(dá)B點(diǎn);那么，此時(shí)出租車(chē)司機(jī)面對(duì)的不再只是交通路線選擇，而是多出了許許多多工作，且不說(shuō)相關(guān)數(shù)據(jù)如何測(cè)量、匯集，只說(shuō)匯集后如何識(shí)別、整理與運(yùn)用，每一項(xiàng)活動(dòng)都是人類(lèi)的生物屬性能力難以處理的，唯一可以借用的，只有算法。

第三，算法是一系列問(wèn)題和求解數(shù)學(xué)模型的集合。從一個(gè)人的算法到一座城市的算法，在數(shù)量規(guī)模擴(kuò)大的同時(shí)，算法也完成了它的華麗轉(zhuǎn)身，從一個(gè)數(shù)學(xué)模型變成了無(wú)數(shù)個(gè)數(shù)學(xué)模型，且無(wú)數(shù)個(gè)數(shù)學(xué)模型之間不是獨(dú)立的，相互之間不僅有關(guān)系，而且關(guān)系還異常復(fù)雜，可能形成有條件的、多層次卷積的、多卷積關(guān)聯(lián)網(wǎng)絡(luò)的或更加復(fù)雜的關(guān)系，且模型之間的關(guān)系不僅有結(jié)構(gòu)，還有時(shí)序，結(jié)構(gòu)與時(shí)序之間還不是確定的。以前置算法為條件的算法以及人類(lèi)對(duì)計(jì)算效率的追求，還促進(jìn)了算法的自我迭代，即以算法為數(shù)據(jù)而改進(jìn)算法。

算法不僅與算法交互，也與人類(lèi)行為或事物的發(fā)展變化交互。還是以城市道路交通為例，道路上的每一位機(jī)動(dòng)車(chē)駕駛員都有隨機(jī)應(yīng)變的能力和行動(dòng)，而每一個(gè)隨機(jī)應(yīng)變都有機(jī)會(huì)改變前一個(gè)時(shí)點(diǎn)算法的結(jié)果，也意味著被運(yùn)用于計(jì)算的算法需要面對(duì)人類(lèi)行為的改變、道路狀態(tài)的改變、交通環(huán)境的改變而迭代和優(yōu)化。如此，算法的實(shí)際運(yùn)行遠(yuǎn)比人們想象的復(fù)雜，一個(gè)看起來(lái)只呈現(xiàn)了紅橙黃綠交通狀態(tài)的即時(shí)導(dǎo)航系統(tǒng)，卻是異常復(fù)雜算法融合的結(jié)果。以谷歌流感模型為例，算法科學(xué)家運(yùn)用用戶搜索數(shù)據(jù)呈現(xiàn)的2007年流感模型是在4.5億個(gè)模型中篩選綜合的結(jié)果。[25]

可是，如何把不同的算法整合到一起形成求解模型的集合呢？且不說(shuō)4.5億個(gè)模型，即使是45個(gè)模型，也是人類(lèi)的生物屬性無(wú)法處理的，數(shù)45個(gè)數(shù)還常常出錯(cuò)呢，算45個(gè)模型且將45個(gè)模型建立關(guān)聯(lián)，更不是人類(lèi)的生物屬性可以無(wú)錯(cuò)應(yīng)對(duì)的了。那么，如何讓用于解決問(wèn)題的模型不變成進(jìn)一步需要解決的問(wèn)題，而真正解決人類(lèi)問(wèn)題呢？算法對(duì)代碼的需要出現(xiàn)了。

第四，算法是由代碼連接且結(jié)構(gòu)化的一系列問(wèn)題和求解數(shù)學(xué)模型的集合。通俗地說(shuō)，任何由計(jì)算機(jī)執(zhí)行的指令都是代碼。復(fù)雜算法的代碼量可以多達(dá)數(shù)億行，可代碼向計(jì)算機(jī)傳遞的每一條指令卻只有一個(gè)動(dòng)作，做（do）或不做（else），再?gòu)?fù)雜的數(shù)學(xué)模型都需要將其轉(zhuǎn)化為向計(jì)算機(jī)傳達(dá)的簡(jiǎn)單指令。復(fù)雜的簡(jiǎn)單也因此變成了復(fù)雜的復(fù)雜的一部分，計(jì)算機(jī)代碼也因此成為了算法的有機(jī)組成部分。實(shí)現(xiàn)算法代碼化的不是別人，正是人們將數(shù)學(xué)模型轉(zhuǎn)化為結(jié)構(gòu)化的計(jì)算邏輯（如Alonzo Church）和被稱(chēng)為電子計(jì)算機(jī)鼻祖的圖靈（Alan Turing）將計(jì)算邏輯轉(zhuǎn)化為可由計(jì)算機(jī)執(zhí)行的指令邏輯，其中，每一條指令都以代碼形式呈現(xiàn)。在算法代碼化的進(jìn)程中，代碼（code）的確是規(guī)則，代碼的確在指示計(jì)算機(jī)做或不做。由此推演下去，表面上，正是由代碼攜帶的簡(jiǎn)單指令構(gòu)成的復(fù)雜算法影響著計(jì)算結(jié)果的輸出，帶來(lái)了文獻(xiàn)關(guān)注的算法侵害、算法風(fēng)險(xiǎn)、算法權(quán)力、算法規(guī)則?？墒?，一旦我們進(jìn)一步了解了代碼與算法的關(guān)系，或許會(huì)有不一樣的觀點(diǎn)。

綜上所述，如果僅從技術(shù)上觀察，算法不過(guò)是面對(duì)理論和現(xiàn)實(shí)問(wèn)題的數(shù)學(xué)求解過(guò)程，只是因?yàn)榍蠼饷鎸?duì)的復(fù)雜性超出了人類(lèi)生物屬性的能力范圍，人們創(chuàng)造出一種機(jī)器，且機(jī)器能夠理解人類(lèi)將復(fù)雜求解過(guò)程簡(jiǎn)化為做或不做的機(jī)器指令，交給機(jī)器去求解而已。通俗地說(shuō)，理解當(dāng)下熱議的算法治理，我們必須認(rèn)識(shí)到，算法對(duì)人類(lèi)社會(huì)的影響是隨著第一臺(tái)可編程電子計(jì)算機(jī)和第一種計(jì)算機(jī)編程語(yǔ)言的出現(xiàn)而出現(xiàn)的，隨著計(jì)算機(jī)和計(jì)算機(jī)科學(xué)的發(fā)展，算法才真正開(kāi)始在解決人類(lèi)問(wèn)題的需求中發(fā)揮核心作用，從初期的軍事和科學(xué)領(lǐng)域，到商業(yè)和管理領(lǐng)域，再到當(dāng)下的日常生產(chǎn)和生活領(lǐng)域，算法的影響隨著算法應(yīng)用的拓展和對(duì)人群覆蓋性的擴(kuò)大而呈現(xiàn)。“是計(jì)算機(jī)科學(xué)的快速發(fā)展，特別是對(duì)算法的研究，改變了這一切。如今，算法已變得必不可少?！盵26]只是，從解決問(wèn)題的需求到問(wèn)題解決的數(shù)學(xué)求解，從極為簡(jiǎn)單的數(shù)學(xué)求解到數(shù)學(xué)求解之間的關(guān)系結(jié)構(gòu)化、復(fù)雜化、動(dòng)態(tài)化，算法已經(jīng)不再簡(jiǎn)單如出租車(chē)司機(jī)的行車(chē)路線運(yùn)籌，在數(shù)字時(shí)代，算法已經(jīng)轉(zhuǎn)型為一系列關(guān)系和關(guān)系動(dòng)態(tài)的代碼化，問(wèn)題、模型、代碼已經(jīng)成為算法的內(nèi)核。

算法治理的行動(dòng)選擇

上文討論已經(jīng)證明，算法之所以會(huì)成為社會(huì)關(guān)注的焦點(diǎn)，不在于算法有多復(fù)雜，而在于算法會(huì)對(duì)許多人甚或?qū)φ麄€(gè)社會(huì)帶來(lái)影響。如果說(shuō)數(shù)字連接、數(shù)據(jù)豐盈、人類(lèi)必備是算法影響的三項(xiàng)必要條件，問(wèn)題求解對(duì)能力的要求超出人類(lèi)生物屬性的極限是算法影響的充分條件;那么，在人類(lèi)跨入數(shù)字時(shí)代、中國(guó)進(jìn)入數(shù)字發(fā)展加速期的當(dāng)下，算法又如何產(chǎn)生影響呢？我們認(rèn)為，只有理解算法影響人類(lèi)的機(jī)理，才能從出發(fā)點(diǎn)找對(duì)算法治理的方向。

既有文獻(xiàn)對(duì)算法影響社會(huì)的機(jī)制認(rèn)識(shí)大致可以歸結(jié)為兩個(gè)本質(zhì)性的爭(zhēng)議。第一，算法是中立的還是有偏見(jiàn)的？斯廷森（Catherine Stinson）指出，人們以為算法是中立的，干凈的數(shù)據(jù)和良好的意圖可以消除偏見(jiàn)，其實(shí)，算法并不是中立的，除了有偏見(jiàn)的數(shù)據(jù)和算法生產(chǎn)者以外，算法自身也會(huì)產(chǎn)生偏見(jiàn)。這種偏見(jiàn)不一定來(lái)自于數(shù)據(jù)，也不一定來(lái)自算法生產(chǎn)者，而是來(lái)自于機(jī)器學(xué)習(xí)的進(jìn)程，算法在不斷的迭代中從用戶對(duì)算法推薦的響應(yīng)中進(jìn)行學(xué)習(xí)，創(chuàng)建著針對(duì)用戶的選擇性偏差，即偏見(jiàn)。[27]這些偏見(jiàn)不僅具有統(tǒng)計(jì)學(xué)意義，也會(huì)帶來(lái)不同類(lèi)型不同程度的算法侵害后果，如學(xué)者們筆下的算法共謀、算法壟斷、算法黑箱、算法遮蔽、算法短視、算法霸權(quán)、算法操縱、算法劫持、算法剝削等，即我們統(tǒng)稱(chēng)的算法侵害，而算法決策的普遍性會(huì)讓算法侵害對(duì)人類(lèi)社會(huì)構(gòu)成侵害。未來(lái)的侵害對(duì)當(dāng)下而言即是風(fēng)險(xiǎn)，即學(xué)者們說(shuō)的算法風(fēng)險(xiǎn)。[28]

第二，算法是人類(lèi)意志的產(chǎn)物還是自主自為的？認(rèn)同“算法即規(guī)則”[29]觀點(diǎn)的研究者認(rèn)為，算法已經(jīng)作為獨(dú)立行為主體參與人類(lèi)生產(chǎn)、生活，算法規(guī)則也外化為社會(huì)行為規(guī)則，對(duì)人類(lèi)產(chǎn)生深度影響。例如，算法的自動(dòng)化和智能化特征可能誘使技術(shù)研發(fā)者和應(yīng)用者在提高效率、降低成本的引導(dǎo)下，更多追求控制乃至替代人類(lèi)行為的自主性。[30]有人甚至認(rèn)為，算法的自主自為性形成了算法利維坦，成為建構(gòu)人類(lèi)環(huán)境的重要乃至決定性的力量，不僅每一位社會(huì)成員正逐漸在成為算法的附庸，國(guó)家權(quán)力運(yùn)行也在日益依賴算法，社會(huì)的技術(shù)理性至上實(shí)踐建構(gòu)了算法的絕對(duì)權(quán)威。[31]

在探討算法治理行動(dòng)之前，我們認(rèn)為有必要針對(duì)算法影響機(jī)制的爭(zhēng)議進(jìn)行澄清和回應(yīng)。實(shí)踐總是最客觀的出發(fā)點(diǎn)，讓我們通過(guò)一項(xiàng)實(shí)證研究來(lái)厘清。一項(xiàng)對(duì)谷歌圖片算法的研究，對(duì)4個(gè)以上種族所有年齡段的4萬(wàn)多張面孔的算法展開(kāi)的審查顯示，谷歌圖片算法再現(xiàn)了白人男性父權(quán)制結(jié)構(gòu)。算法對(duì)白人男性有更多樣化的和更積極的刻畫(huà)，對(duì)其他人群的描述則更簡(jiǎn)單，更加呈現(xiàn)如刻板印象、歧視女性等社會(huì)歧視。[32]不過(guò)，研究團(tuán)隊(duì)的工作沒(méi)有就此停止，而是借鑒布迪厄的文化再生產(chǎn)理論對(duì)算法進(jìn)行再培訓(xùn)。結(jié)果顯示，經(jīng)過(guò)再培訓(xùn)的算法呈現(xiàn)了算法對(duì)社會(huì)文化實(shí)踐的刻畫(huà)，改善了之前呈現(xiàn)的社會(huì)歧視。[33]

這項(xiàng)研究告訴我們，如果代碼生產(chǎn)者以客觀為由，真實(shí)地?cái)M合社會(huì)現(xiàn)實(shí)，那么，算法的確會(huì)攜帶偏見(jiàn)，進(jìn)而制造算法侵害。復(fù)刻部分人群（如代碼編寫(xiě)者、數(shù)據(jù)匯集者等）的社會(huì)歧視和刻板印象，不只是將現(xiàn)實(shí)社會(huì)的社會(huì)歧視和刻板印象算法化，還意味著將部分人群的社會(huì)歧視和刻板印象通過(guò)高度互聯(lián)的社會(huì)網(wǎng)絡(luò)傳遞給不明真相的用戶，因此也不再只是布迪厄意義上的文化再生產(chǎn)，而是對(duì)社會(huì)歧視的擴(kuò)散與傳播，甚至是社會(huì)歧視的教唆。

對(duì)算法再培訓(xùn)帶來(lái)的算法改善則清晰地說(shuō)明，第一，算法侵害看起來(lái)是算法偏見(jiàn)制造的，實(shí)際卻是編寫(xiě)算法的人群制造的，算法只是做了算法可做的事：有效率地運(yùn)行代碼，為人類(lèi)提供計(jì)算結(jié)果。無(wú)論是通過(guò)算法迭代還是自編碼，算法都只是放大人類(lèi)在初始階段植入的偏見(jiàn)和規(guī)則，而不是算法自主自為地形成偏見(jiàn)和規(guī)則。以為算法存在獨(dú)立于算法生產(chǎn)者之外的偏見(jiàn)或規(guī)則，以為算法不再是人類(lèi)生產(chǎn)的產(chǎn)品，其實(shí)是一種方向性的誤解。第二，算法并不具有自主自為性。算法的確可以自我改善，自己編寫(xiě)代碼，可是算法卻沒(méi)有自帶偏見(jiàn)、也沒(méi)有自造規(guī)則，即使有偏見(jiàn)、有規(guī)則，也是人類(lèi)將自己的偏見(jiàn)和規(guī)則變成算法代碼形成的偏見(jiàn)和規(guī)則。沒(méi)有人類(lèi)輸入的第一行代碼，便不會(huì)有算法的其他代碼，算法的自主性自為性便失去了載體，也根本沒(méi)有機(jī)會(huì)。第三，支持算法偏見(jiàn)和規(guī)則影響力的不是算法本身，而是對(duì)算法的運(yùn)用。如前所述，算法的個(gè)體應(yīng)用不會(huì)對(duì)其他人群產(chǎn)生影響，算法的平臺(tái)化運(yùn)用則是促成算法影響力的機(jī)會(huì)和力量，無(wú)論是算法偏見(jiàn)、算法規(guī)則，還是其他。[34]當(dāng)然，算法的平臺(tái)運(yùn)用并非只是出租車(chē)司機(jī)頭腦里的交通路線運(yùn)籌，而是更廣泛的行動(dòng)關(guān)系（復(fù)雜算法、網(wǎng)絡(luò)算法），一方面是面對(duì)問(wèn)題的技術(shù)解決方案，另一方面是平臺(tái)組織與技術(shù)解決方案的關(guān)系體系。同時(shí)，由于技術(shù)解決方案和平臺(tái)都是面向用戶的，龐大的用戶規(guī)模又具有社會(huì)性，最終形成的是技術(shù)解決方案、平臺(tái)組織、社會(huì)之間的不僅關(guān)涉生產(chǎn)效率，還牽扯社會(huì)平等的綜合關(guān)系體系。

如此，算法治理的方向選擇直接擺在了我們的面前。第一，算法不具有自由意志，算法是人類(lèi)行動(dòng)的產(chǎn)出，沒(méi)有脫離人類(lèi)行動(dòng)的算法，從最簡(jiǎn)單的算法到最復(fù)雜的算法，都是如此。因此，算法治理是針對(duì)人類(lèi)生產(chǎn)算法的行動(dòng)治理。把算法偏見(jiàn)歸咎于算法本身，無(wú)異于同風(fēng)車(chē)作戰(zhàn)。有人依據(jù)算法承擔(dān)的任務(wù)將算法在人類(lèi)行動(dòng)里承擔(dān)的角色劃分為純粹執(zhí)行者、輔助決策者、獨(dú)立決策者。[35]這一劃分看似來(lái)自實(shí)踐，實(shí)際上卻對(duì)算法自由意志的設(shè)定含混不清，一方面假設(shè)算法是人類(lèi)產(chǎn)品，另一方面又假設(shè)算法具有自主自為性。

第二，算法治理一方面是針對(duì)算法偏見(jiàn)的治理，另一方面也是針對(duì)算法平臺(tái)運(yùn)用的治理。算法治理的目標(biāo)，前者是為算法糾偏，后者則是約束算法運(yùn)用的方向和范圍，以期最大限度地減少算法偏見(jiàn)帶來(lái)的算法侵害，維系和促進(jìn)社會(huì)平等。在現(xiàn)實(shí)生活中，算法的主要生產(chǎn)者是平臺(tái)，制造算法影響力的也是平臺(tái)，是故，算法治理便可以匯聚為針對(duì)平臺(tái)的算法治理。

在中文語(yǔ)境中，算法治理有雙重含義。第一，用算法進(jìn)行治理（governance by algorithm）。第二，對(duì)算法進(jìn)行治理（governance to algorithm）。英文語(yǔ)境卻沒(méi)有算法治理（algorithm governance）概念，也很難找到一個(gè)對(duì)應(yīng)的概念，維基百科中甚至沒(méi)有相應(yīng)詞條?？v觀中文文獻(xiàn)對(duì)算法治理的探討，大多探討的是第二重含義。在接下來(lái)的討論中，我們也在第二種意義上使用算法治理，在給定算法不具有自由意志、且不具有自主自為性的前提下，探討針對(duì)算法偏見(jiàn)帶來(lái)的算法侵害之治理行動(dòng)。

算法治理發(fā)端于美國(guó)，[36]美國(guó)如何應(yīng)對(duì)算法侵害呢？直接的答案是，問(wèn)責(zé)模式，[37]問(wèn)責(zé)對(duì)象是有潛力讓算法產(chǎn)生廣泛且深刻影響的算法生產(chǎn)者和使用者，問(wèn)責(zé)內(nèi)容包括算法內(nèi)容和非算法流程，問(wèn)責(zé)的主體是政府或第三方。

2017年1月12日，美國(guó)計(jì)算機(jī)協(xié)會(huì)下屬的美國(guó)公共政策委員會(huì)（USACM）發(fā)布的《算法透明度和責(zé)任聲明》指出：“生活中無(wú)處不在的算法促使我們應(yīng)該專(zhuān)注于解決與算法設(shè)計(jì)和技術(shù)相關(guān)的挑戰(zhàn)，并從一開(kāi)始就防止偏見(jiàn)。”圍繞算法公平，從建立算法公平意識(shí)到實(shí)現(xiàn)算法公平的算法檢驗(yàn)，這項(xiàng)《聲明》提出了7項(xiàng)促進(jìn)算法透明度和可靠性的原則，建立了算法治理的外部問(wèn)責(zé)和控制模式。

在州、市一級(jí)的算法治理中，2017年12月，紐約市議會(huì)通過(guò)了第一部針對(duì)人工智能監(jiān)管的《政府部門(mén)自動(dòng)決策系統(tǒng)法案》（Auto Decision System Task Force Law），要求成立包括自動(dòng)化決策系統(tǒng)專(zhuān)家和受自動(dòng)化決策系統(tǒng)影響的公民組織代表在內(nèi)的工作組，對(duì)市政機(jī)構(gòu)運(yùn)用自動(dòng)決策算法的公平性、問(wèn)責(zé)性和透明度等進(jìn)行監(jiān)督，由此開(kāi)啟了算法治理外部問(wèn)責(zé)與控制的實(shí)踐模式。

2019年4月，美國(guó)國(guó)會(huì)參眾兩院通過(guò)了《算法問(wèn)責(zé)法案》，授權(quán)美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）要求并監(jiān)督企業(yè)對(duì)其人工智能系統(tǒng)的“準(zhǔn)確性、公平性、偏見(jiàn)、歧視、隱私和安全性”等問(wèn)題進(jìn)行自我審查，且約定這一法案適用于年收入超過(guò)5000萬(wàn)美元或擁有超過(guò)100萬(wàn)用戶數(shù)據(jù)的數(shù)據(jù)代理商和企業(yè)。由此建立了治理對(duì)象的范圍。

2021年5月，美國(guó)參議院引入《算法正義與在線平臺(tái)透明度法案》，要求規(guī)范算法過(guò)程，進(jìn)而保護(hù)個(gè)人信息，保障個(gè)人特征不因算法而受到歧視?！斗ò浮方⒘怂惴ò踩院陀行詷?biāo)準(zhǔn)，對(duì)歧視的判斷標(biāo)準(zhǔn)進(jìn)行了詳細(xì)解釋?zhuān)€要求在線平臺(tái)為非算法流程承擔(dān)責(zé)任，包括算法運(yùn)行的可靠性、個(gè)人數(shù)據(jù)的可攜帶性和將個(gè)人數(shù)據(jù)作為司法證據(jù)的可實(shí)現(xiàn)性，由此建立了將個(gè)人數(shù)據(jù)證據(jù)化、將算法偏見(jiàn)歸責(zé)化的邏輯閉環(huán)。

簡(jiǎn)單地說(shuō)，美國(guó)把因算法偏見(jiàn)帶來(lái)的不良社會(huì)后果直接歸責(zé)到算法生產(chǎn)者和使用者，而沒(méi)有歸咎于算法自身。

在數(shù)字時(shí)代的三方國(guó)際力量中，歐盟是重要一方。盡管歐盟沒(méi)有針對(duì)算法的專(zhuān)門(mén)法律，可針對(duì)數(shù)據(jù)保護(hù)的一系列法律在實(shí)踐中也直接約束了算法的生產(chǎn)和運(yùn)用。1995年頒布的《數(shù)據(jù)保護(hù)指令》確認(rèn)了數(shù)據(jù)主體的權(quán)利、數(shù)據(jù)保護(hù)的監(jiān)管機(jī)構(gòu)，對(duì)數(shù)據(jù)的跨國(guó)流通等也作出詳細(xì)規(guī)定，建立了以數(shù)據(jù)保護(hù)為出發(fā)點(diǎn)的算法治理的邏輯起點(diǎn)。2000年頒布的《電子商務(wù)指令》則規(guī)范了數(shù)字服務(wù)提供者的責(zé)任。2015年歐盟進(jìn)一步出臺(tái)的《數(shù)字單一市場(chǎng)戰(zhàn)略》雖不具有法律效應(yīng)，卻在理論上奠定了針對(duì)數(shù)字市場(chǎng)的監(jiān)管框架，把算法產(chǎn)出（如搜索結(jié)果、廣告鏈接等）透明度，數(shù)據(jù)流動(dòng)的組織間關(guān)系、數(shù)據(jù)流動(dòng)的意愿與約束等都納入市場(chǎng)監(jiān)管范圍，為算法治理指出了方向。2017年頒行的《機(jī)器人民事責(zé)任法案》則把算法偏見(jiàn)帶來(lái)的算法侵害，如對(duì)個(gè)人決策帶來(lái)的負(fù)面影響，對(duì)政府行政、司法、公共政策帶來(lái)的不利影響等，明確歸責(zé)于算法的生產(chǎn)者和使用者，并且在道德層面對(duì)算法生產(chǎn)和使用提出了要求。由此，我們觀察到，歐盟的算法治理從守勢(shì)的數(shù)據(jù)保護(hù)即通過(guò)保護(hù)數(shù)據(jù)來(lái)保障權(quán)益也轉(zhuǎn)向了不得不面對(duì)的算法侵害，并與美國(guó)一致，將算法侵害歸責(zé)到算法的生產(chǎn)者和使用者，而不是算法自身。

歐盟2018年頒布的《通用數(shù)據(jù)保護(hù)條例》（GDPR）將自1995年以來(lái)零碎的算法治理理念具體化為數(shù)據(jù)保護(hù)規(guī)制的重要組成部分，更具體地定義了數(shù)據(jù)，對(duì)數(shù)據(jù)的提供、匯集等作了更明確的規(guī)定，還詳細(xì)約定了數(shù)據(jù)主體的數(shù)據(jù)訪問(wèn)權(quán)、糾正權(quán)、被遺忘權(quán)、限制處理權(quán)、反對(duì)權(quán)、拒絕權(quán)和自主決定權(quán)等權(quán)利，更對(duì)數(shù)據(jù)的處理和運(yùn)用進(jìn)行了嚴(yán)格的限制，明確禁止可能造成算法侵害的數(shù)據(jù)運(yùn)用，如揭示種族或民族出身，揭示政治觀點(diǎn)、宗教或哲學(xué)信仰，刻畫(huà)自然人健康、性取向等。歐洲議會(huì)秘書(shū)處2019年發(fā)布的《算法問(wèn)責(zé)和透明治理框架》（A governance framework for algorithmic accountability and transparency）提出了負(fù)責(zé)任的研究與創(chuàng)新（RRI）概念，從道德、法律到實(shí)踐，明確了算法治理的問(wèn)責(zé)框架。歐盟委員會(huì)2020年提案的《數(shù)字服務(wù)法案》和《數(shù)字市場(chǎng)法案》在數(shù)字治理上則進(jìn)一步向美國(guó)靠攏，強(qiáng)化了算法生產(chǎn)者和使用者的責(zé)任;2021年提案的《人工智能法案》則區(qū)分了規(guī)則算法（rule-based algorithms）和學(xué)習(xí)算法（learning algorithms），建立了基于算法風(fēng)險(xiǎn)的算法治理改進(jìn)路徑，再次強(qiáng)調(diào)算法生產(chǎn)者和使用者的責(zé)任，強(qiáng)調(diào)問(wèn)責(zé)機(jī)制。

總體上看，雖然歐盟與美國(guó)一樣在形成算法治理的邏輯閉環(huán)，卻在實(shí)踐中從數(shù)據(jù)保護(hù)入手，建立了保護(hù)個(gè)體、組織不受算法侵害的防御性治理框架和法律制度，在算法治理理念上則已向美國(guó)靠攏，即采用政府和第三方問(wèn)責(zé)模式治理算法可能帶來(lái)的侵害，且將算法侵害責(zé)任歸咎于算法生產(chǎn)者和使用者。

到這里為止，其實(shí)我們需要問(wèn)一個(gè)問(wèn)題，為什么美國(guó)的算法治理要采用問(wèn)責(zé)模式？為什么歐盟會(huì)向美國(guó)靠攏也采用問(wèn)責(zé)模式？前一節(jié)其實(shí)已經(jīng)回答了這個(gè)問(wèn)題的技術(shù)部分，即，算法的復(fù)雜性使得算法自身始終處于迭代之中。換句話說(shuō)，在生產(chǎn)和生活中運(yùn)行的算法不是一個(gè)確定現(xiàn)象，而是一個(gè)動(dòng)態(tài)。譬如，人們熟悉且經(jīng)常使用的乘用車(chē)即時(shí)導(dǎo)航系統(tǒng)。無(wú)論采用哪一家數(shù)字平臺(tái)提供的導(dǎo)航系統(tǒng)，都會(huì)有一項(xiàng)服務(wù)：道路交通動(dòng)態(tài)實(shí)時(shí)更新。在從A點(diǎn)駛向B點(diǎn)的進(jìn)程中，只要出現(xiàn)道路動(dòng)態(tài)變化，系統(tǒng)都會(huì)提醒您前方可能的優(yōu)化備選路線和道路上的事故或擁堵動(dòng)態(tài)，呈現(xiàn)在用戶屏幕上的、變化著的、從綠色到深紅色的道路標(biāo)記變化正是實(shí)時(shí)計(jì)算的產(chǎn)出，也意味著算法在被使用進(jìn)程中的自我迭代。

算法的實(shí)時(shí)迭代意味著對(duì)算法代碼進(jìn)行實(shí)時(shí)督導(dǎo)（monitoring）和審查（auditing）需要具備與算法生產(chǎn)和使用相當(dāng)或超越的技術(shù)能力。僅此，便意味著在技術(shù)上不可行;或者即使可行，至少也是艱難的和代價(jià)高昂的。對(duì)超出能力范圍的技術(shù)過(guò)程進(jìn)行監(jiān)管，需要跳出技術(shù)和技術(shù)過(guò)程本身，尋求算法治理的關(guān)鍵節(jié)點(diǎn)和效率節(jié)點(diǎn)，正如俗語(yǔ)說(shuō)的，打蛇要打在七寸上。

那么，算法治理的關(guān)鍵節(jié)點(diǎn)在哪里呢？算法的生產(chǎn)是一個(gè)過(guò)程，從算法設(shè)計(jì)、代碼編寫(xiě)到算法產(chǎn)品;算法的應(yīng)用也是一個(gè)過(guò)程，從算法部署、算法迭代到算法產(chǎn)出。如果沿著算法的生產(chǎn)與應(yīng)用邏輯和流程進(jìn)行治理，可以稱(chēng)之為過(guò)程治理。一旦算法投入應(yīng)用并達(dá)到足夠的規(guī)模，算法便會(huì)產(chǎn)生相應(yīng)的社會(huì)后果，包括算法偏見(jiàn)。如果針對(duì)算法的產(chǎn)出展開(kāi)治理，可以稱(chēng)之為結(jié)果治理。算法治理的社會(huì)特征在于過(guò)程治理的不可行性或代價(jià)高昂以及結(jié)果治理的簡(jiǎn)單易行，是故，算法治理的關(guān)鍵節(jié)點(diǎn)便已不言而喻，那就是，針對(duì)算法結(jié)果進(jìn)行治理。

算法問(wèn)責(zé)便是對(duì)結(jié)果的治理，也顯然采用了刪繁就簡(jiǎn)原則。第一，在法律上約定算法可追責(zé)性。要求算法透明、算法解釋、數(shù)據(jù)證據(jù)化等，正是為結(jié)果可追責(zé)提供事實(shí)前提和法理邏輯前提。第二，在規(guī)則上約定算法責(zé)任實(shí)體性。盡管算法即規(guī)則，可算法規(guī)則只適用于計(jì)算過(guò)程，不適用于外化的社會(huì)過(guò)程，算法生產(chǎn)者和使用者才是算法的責(zé)任主體，即算法的責(zé)任主體是人或人的集合體，不是算法自身。一些人以為算法的行動(dòng)責(zé)任已經(jīng)向機(jī)器轉(zhuǎn)移，事實(shí)上并沒(méi)有，機(jī)器行動(dòng)依然是人類(lèi)行動(dòng)的一部分或人類(lèi)行動(dòng)的目的性延伸。如果我們把算法向人工智能甚至通用人工智能領(lǐng)域的拓展理解為人類(lèi)對(duì)效率追求的時(shí)代發(fā)展，在提高效率、降低成本的引導(dǎo)下，即使人類(lèi)會(huì)忽視算法偏見(jiàn)的存在甚至助長(zhǎng)算法偏見(jiàn)，算法也依然只是算法，算法的自主性是人類(lèi)賦予甚至縱容的自主性，在本質(zhì)上還是人類(lèi)的行動(dòng)選擇，而不是機(jī)器的主動(dòng)侵入。讓機(jī)器為人類(lèi)的選擇偏見(jiàn)背鍋是人類(lèi)卸責(zé)的行動(dòng)，不是機(jī)器的行動(dòng)。

有鑒于此，作為數(shù)字時(shí)代三方國(guó)際力量之一的中國(guó)，又在如何進(jìn)行算法治理呢？從1994年制定第一部相關(guān)行政指令《計(jì)算機(jī)信息系統(tǒng)安全保護(hù)條例》到目前，中國(guó)共出臺(tái)了60多部相關(guān)法律法規(guī)和行政指令。從時(shí)間順序來(lái)看，可以認(rèn)為中國(guó)的算法治理是從總體安全出發(fā)的。

雖然早在2000年9月國(guó)務(wù)院就頒布了《互聯(lián)網(wǎng)信息服務(wù)管理辦法》，可該《辦法》更多是行政許可對(duì)服務(wù)內(nèi)容相關(guān)的約定，屬于數(shù)據(jù)經(jīng)營(yíng)監(jiān)管類(lèi)的行政指令。進(jìn)入算法治理時(shí)代以來(lái)，第一部相關(guān)法律《中華人民共和國(guó)網(wǎng)絡(luò)安全法》（以下簡(jiǎn)稱(chēng)《網(wǎng)絡(luò)安全法》）雖不直接涉及算法，卻奠定了算法治理的基本方向，即以安全為依歸。2017年6月實(shí)施的《網(wǎng)絡(luò)安全法》的焦點(diǎn)是網(wǎng)絡(luò)空間安全，也可以被理解為網(wǎng)絡(luò)環(huán)境安全。網(wǎng)絡(luò)安全也被廣泛傳播為國(guó)土安全的拓展，即將網(wǎng)絡(luò)空間作為國(guó)土空間的一部分，從守護(hù)安全出發(fā)強(qiáng)調(diào)數(shù)字基礎(chǔ)設(shè)施、網(wǎng)絡(luò)運(yùn)行、網(wǎng)絡(luò)信息的安全與保障。第二部相關(guān)法律是2019年1月實(shí)施的《中華人民共和國(guó)電子商務(wù)法》，焦點(diǎn)在于交易安全，部分內(nèi)容涉及對(duì)算法結(jié)果的治理，如支付指令發(fā)生錯(cuò)誤時(shí)的處理等，卻沒(méi)有專(zhuān)門(mén)涉及算法侵害的內(nèi)容。2019年10月實(shí)施的《兒童個(gè)人信息網(wǎng)絡(luò)保護(hù)規(guī)定》雖聚焦于個(gè)人信息，卻依然強(qiáng)調(diào)了信息安全，這里也出現(xiàn)了一個(gè)新的動(dòng)向，即對(duì)兒童信息相關(guān)運(yùn)營(yíng)商的責(zé)任約定。2020年3月實(shí)施的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》依然是安全導(dǎo)向的，強(qiáng)調(diào)網(wǎng)絡(luò)信息生產(chǎn)與發(fā)布、網(wǎng)絡(luò)內(nèi)容服務(wù)的無(wú)害性，即內(nèi)容安全，只有在關(guān)于內(nèi)容服務(wù)的第十二條涉及了算法治理，不過(guò)，依然是從內(nèi)容安全出發(fā)的。第十二條規(guī)定：“網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)采用個(gè)性化算法推薦技術(shù)推送信息的，應(yīng)當(dāng)設(shè)置符合本規(guī)定第十條、第十一條要求的推薦模型，建立健全人工干預(yù)和用戶自主選擇機(jī)制。”第十條、第十一條規(guī)定的都是內(nèi)容屬性，而不涉及算法侵害。2021年9月實(shí)施的《中華人民共和國(guó)數(shù)據(jù)安全法》則將網(wǎng)絡(luò)安全進(jìn)一步延伸到數(shù)據(jù)領(lǐng)域，焦點(diǎn)依然是安全，即在總體國(guó)家安全觀的指導(dǎo)下建立健全數(shù)據(jù)安全治理體系。

2021年11月實(shí)施的《中華人民共和國(guó)個(gè)人信息保護(hù)法》（以下簡(jiǎn)稱(chēng)《個(gè)人信息保護(hù)法》）才真正涉及算法治理，出現(xiàn)了與歐盟GDPR相似的內(nèi)容，不過(guò)，安全指向依然清晰明確。個(gè)人信息權(quán)益、個(gè)人信息處理及個(gè)人信息跨境流動(dòng)，都清晰地指向了個(gè)人信息安全。值得指出的是，其中也有一個(gè)清晰的轉(zhuǎn)向，即在知情同意的意義上，明確了個(gè)人信息的個(gè)人權(quán)屬性，區(qū)分了一般個(gè)人信息和敏感個(gè)人信息，說(shuō)明了個(gè)人在個(gè)人信息處理中的權(quán)利，也規(guī)定了違反個(gè)人信息處理規(guī)則的法律責(zé)任，如明確涉及算法的第七十條規(guī)定“個(gè)人信息處理者違反本法規(guī)定處理個(gè)人信息，侵害眾多個(gè)人的權(quán)益的，人民檢察院、法律規(guī)定的消費(fèi)者組織和由國(guó)家網(wǎng)信部門(mén)確定的組織可以依法向人民法院提起訴訟”。問(wèn)題是，《個(gè)人信息保護(hù)法》依然只是原則性規(guī)定，還沒(méi)有完成個(gè)人信息保護(hù)的司法證據(jù)化約定。

2022年3月實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱(chēng)《規(guī)定》）才是第一部針對(duì)算法的管理規(guī)定?！兑?guī)定》雖然只是四部委的行政指令，卻有了針對(duì)算法黑箱、算法歧視、信息繭房、輿論操控、不正當(dāng)競(jìng)爭(zhēng)等算法侵害的規(guī)范。與既往的相關(guān)法律和行政指令不同，《規(guī)定》明確了信息服務(wù)規(guī)范、用戶權(quán)益保護(hù)、監(jiān)督管理責(zé)任和法律責(zé)任，將監(jiān)管責(zé)任主體明確為四部委（網(wǎng)信辦、工信部、公安部、市場(chǎng)監(jiān)管總局），并將相關(guān)違規(guī)的法律責(zé)任監(jiān)管納入國(guó)家相關(guān)部門(mén)管理之中。不過(guò)，聯(lián)系2021年9月國(guó)家互聯(lián)網(wǎng)信息辦公室、中央宣傳部等九部門(mén)聯(lián)合發(fā)布的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》（以下簡(jiǎn)稱(chēng)《指導(dǎo)意見(jiàn)》）可以看出，《規(guī)定》依然是一部以安全為導(dǎo)向的行政指令，因?yàn)椤吨笇?dǎo)意見(jiàn)》中明確指出要堅(jiān)持正確導(dǎo)向、依法治理、風(fēng)險(xiǎn)防控、權(quán)益保障、技術(shù)創(chuàng)新等五項(xiàng)基本原則，要“利用三年左右時(shí)間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局”的主要目標(biāo)。即使如此，遺憾的是，到此為止，中國(guó)的算法治理只有目標(biāo)，相關(guān)法律法規(guī)尚沒(méi)有像歐美那樣形成從治理理念到判例實(shí)踐的閉環(huán)，其中，尤其是還看不出算法治理的法治理念，更沒(méi)完成算法治理的司法證據(jù)化約定。

如果說(shuō)算法偏見(jiàn)帶來(lái)的算法侵害是算法治理面對(duì)的核心問(wèn)題;那么，在給定算法偏見(jiàn)人因化或組織化，給定算法技術(shù)處于不斷迭代且動(dòng)態(tài)演化的場(chǎng)景下，實(shí)施算法治理的行動(dòng)選擇其實(shí)不多。

第一，鑒于算法的技術(shù)復(fù)雜性和動(dòng)態(tài)性，約定算法透明是讓算法可以作為算法審查[38]和追責(zé)的前提，卻不是實(shí)施算法監(jiān)測(cè)的理由。如前所述，算法的技術(shù)迷思已經(jīng)宣告了算法監(jiān)測(cè)的低效率和高成本，因此，過(guò)程治理不是算法治理的可選項(xiàng)?？墒牵槍?duì)過(guò)程的治理要求卻是其他治理選項(xiàng)的必備條件。

第二，如果我們把算法安全風(fēng)險(xiǎn)理解為算法侵害的一個(gè)類(lèi)型，則結(jié)果治理即使不是算法治理的唯一選擇，也是有效選擇。防范風(fēng)險(xiǎn)是保障安全的一種策略，治理侵害則是防范風(fēng)險(xiǎn)的明智之舉。在算法無(wú)處不在且覆蓋廣泛而深刻的數(shù)字時(shí)代，算法已經(jīng)成為人類(lèi)生產(chǎn)和生活的環(huán)境，這也意味著算法風(fēng)險(xiǎn)時(shí)時(shí)刻刻無(wú)處不在，而不只是學(xué)者們列出的個(gè)體、組織、國(guó)家，政治、經(jīng)濟(jì)、社會(huì)的風(fēng)險(xiǎn)。對(duì)時(shí)時(shí)刻刻無(wú)處不在的風(fēng)險(xiǎn)，優(yōu)化的行動(dòng)選擇是治理出現(xiàn)的侵害并將其作為未來(lái)可能的風(fēng)險(xiǎn)源，而不是治理出現(xiàn)概率極小的、可能出現(xiàn)侵害的預(yù)設(shè)風(fēng)險(xiǎn)。

第三，算法侵害的人因化意味著治理行動(dòng)的對(duì)象是算法的生產(chǎn)者和使用者，而不是算法。在相當(dāng)長(zhǎng)一段時(shí)間內(nèi)，支持通用人工智能的算法還不會(huì)出現(xiàn)，算法依然是人類(lèi)的產(chǎn)品，即使算法具備學(xué)習(xí)能力，第一行代碼依然是人類(lèi)編寫(xiě)的。因此，算法治理的關(guān)鍵是約束算法生產(chǎn)者寫(xiě)對(duì)第一行代碼，約束算法使用者用對(duì)第一行代碼，問(wèn)責(zé)模式至少是當(dāng)下可行且有效的治理模式。

第四，鑒于算法的生產(chǎn)者和使用者以及對(duì)人類(lèi)構(gòu)成廣泛且深刻影響的主要是平臺(tái)組織，把算法治理納入平臺(tái)治理、作為平臺(tái)治理的一項(xiàng)內(nèi)容，在形成成熟的算法治理進(jìn)程中至少可以作為一項(xiàng)過(guò)渡性的行動(dòng)選擇。的確，平臺(tái)組織匯集了人類(lèi)的代碼精英，[39]用問(wèn)責(zé)模式敦促平臺(tái)組織約束代碼精英在代碼生產(chǎn)中融入人類(lèi)的積極價(jià)值觀，融入人類(lèi)共同的倫理，[40]融入保障人類(lèi)平等的相關(guān)法律和法規(guī)，可以從源頭治理算法偏見(jiàn)，預(yù)防算法侵害，進(jìn)而最大限度地降低算法風(fēng)險(xiǎn)。

結(jié)論

伴隨數(shù)字連接邁向人類(lèi)整體連接的是各類(lèi)數(shù)字終端包括移動(dòng)終端和傳感器的時(shí)時(shí)刻刻無(wú)處不在，如此廣泛且深刻的數(shù)字連接因連接的“節(jié)點(diǎn)—中心”結(jié)構(gòu)而形成的是數(shù)據(jù)的匯流與應(yīng)用的分發(fā)模式。在匯流與分發(fā)之間，算法成為運(yùn)用數(shù)據(jù)資源促進(jìn)人類(lèi)發(fā)展和平等的關(guān)鍵所在。

事實(shí)是，算法在帶來(lái)數(shù)字紅利的同時(shí)，也在帶來(lái)算法侵害。人們關(guān)注算法侵害不是因?yàn)樗惴ㄇ趾Ρ旧?，而是因?yàn)樗惴ɡ字绊憣?duì)人群的覆蓋。算法古已有之，算法侵害古已有之，之所以沒(méi)有形成廣泛的甚至令人焦慮的關(guān)注是因?yàn)樗簧婕按蠖鄶?shù)乃至人類(lèi)社會(huì)整體。如今，數(shù)字連接已經(jīng)覆蓋了世界人口的67%，覆蓋了中國(guó)的幾乎所有家庭，算法侵害無(wú)孔不入，有機(jī)會(huì)讓每一位處在數(shù)字網(wǎng)絡(luò)中的人感同身受，人們關(guān)注算法侵害正是源于算法影響的廣泛性和深刻性，人們關(guān)注算法治理也源于人們?cè)噲D阻止算法侵害的普遍發(fā)生。

如果說(shuō)算法侵害是算法帶來(lái)的不利后果，學(xué)者們則用更多源于事實(shí)的歸納來(lái)具體化這樣的侵害，如算法歧視、算法偏見(jiàn)、算法共謀、算法壟斷、算法黑箱、算法遮蔽、算法短視、算法霸權(quán)、算法操縱、算法劫持、算法剝削等。算法給人們帶來(lái)的負(fù)面影響還可以列出更多，甚至是一個(gè)無(wú)窮列表。試圖阻止算法具體的負(fù)面影響并不足以防止算法侵害。

算法侵害源于算法偏見(jiàn)。可是算法偏見(jiàn)不是算法自己的偏見(jiàn)，而是人類(lèi)偏見(jiàn)在算法中的再現(xiàn)甚至放大。在通用人工智能出現(xiàn)之前（甚至出現(xiàn)之后），盡管算法已經(jīng)從人類(lèi)的簡(jiǎn)單計(jì)算活動(dòng)邁向機(jī)器的自編碼，算法始終還是人類(lèi)的產(chǎn)品，而不是獨(dú)立于人類(lèi)的、具有自由意志的、與人類(lèi)并行的客觀存在。沒(méi)有人類(lèi)輸入的第一行代碼，便不會(huì)有動(dòng)態(tài)演化的機(jī)器算法。如此，阻止乃至防止算法偏見(jiàn)還需首先糾正人類(lèi)的偏見(jiàn)。

針對(duì)算法偏見(jiàn)來(lái)糾正人類(lèi)的偏見(jiàn)有兩個(gè)基本路徑，一是針對(duì)偏見(jiàn)發(fā)生的過(guò)程，二是針對(duì)偏見(jiàn)帶來(lái)的后果。落實(shí)到算法治理中，前者是過(guò)程治理，后者是結(jié)果治理。算法的技術(shù)迷思決定了過(guò)程治理是低效率的和高成本的，算法的動(dòng)態(tài)性也決定了試圖通過(guò)過(guò)程治理來(lái)預(yù)防算法侵害無(wú)異于與風(fēng)車(chē)作戰(zhàn)。針對(duì)算法偏見(jiàn)帶來(lái)的結(jié)果進(jìn)行治理在理論上是更加有效的行動(dòng)選擇。

在數(shù)字時(shí)代的國(guó)際三方中，美國(guó)的算法治理采用了算法侵害的事后問(wèn)責(zé)模式，同時(shí)，也為問(wèn)責(zé)實(shí)現(xiàn)如便于算法審查作了算法透明、數(shù)據(jù)證據(jù)化等約定，形成了從算法治理法理到實(shí)踐的邏輯閉環(huán)。歐盟的算法治理從保護(hù)數(shù)據(jù)的守勢(shì)入手，也在邁向美國(guó)的算法問(wèn)責(zé)模式。中國(guó)的算法治理以網(wǎng)絡(luò)安全為起點(diǎn)，以總體安全為目標(biāo)，尚未呈現(xiàn)清晰的法理，在實(shí)踐上頒布了一些點(diǎn)位性規(guī)則，卻還沒(méi)有形成以法理為依據(jù)、以社會(huì)平等為依歸的算法治理邏輯。我們認(rèn)為，針對(duì)算法偏見(jiàn)的事后問(wèn)責(zé)或許是殊途同歸的有效選擇。

（本文系國(guó)家社科基金重大項(xiàng)目“新技術(shù)應(yīng)用背景下數(shù)字社會(huì)特征研究”子課題“數(shù)字社會(huì)的國(guó)家治理研究”成果的一部分，項(xiàng)目編號(hào)：19ZDA143）

注釋

[1]U.S. Congress; Office of Technology Assessment， Federal Government Information Technology： Electronic Surveillance and Civil Liberties， U.S. Government Printing Office， 1985， pp. 3-4， 14-15.

[2]U.S. Congress; Office of Technology Assessment， Federal Government Information Technology： Electronic Record Systems and Individual Privacy， U.S. Government Printing Office， 1986， pp. 89-95.

[3]Sterling， T. D.， "Guidelines for Humanizing Computerized Information Systems： A Report from Stanley House"， Communications of the ACM， 1974， 17（11） ， pp. 609-613.

[4]姜李丹、薛瀾：《我國(guó)新一代人工智能治理的時(shí)代挑戰(zhàn)與范式變革》，《公共管理學(xué)報(bào)》，2022年第2期。

[5]Chabert， J. L.， A History of Algorithms： From the Pebble to the Microchip， Springer Science & Business Media， 2012， pp. 7–8.

[6]Aaboe， A.， Episodes from the Early History of Astronomy， New York： Springer， 2001， pp. 40–62.

[7]陳久金、楊怡：《中國(guó)古代的天文與歷法》，北京：商務(wù)印書(shū)館，1998年。

[8]邱澤奇：《算法向善選擇背后的權(quán)衡與博弈》，《人民論壇》，2021年2月中下期。

[9]肖紅軍：《算法責(zé)任：理論證成、全景畫(huà)像與治理范式》，《管理世界》，2022年第4期;陽(yáng)鎮(zhèn)、陳勁：《算法治理：成為責(zé)任型數(shù)智企業(yè)》，《清華管理評(píng)論》，2021年第4期;丁曉東：《算法與歧視：從美國(guó)教育平權(quán)案看算法倫理與法律解釋》，《中外法學(xué)》，2017年第6期。

[10]孟天廣、李珍珍：《治理算法：算法風(fēng)險(xiǎn)的倫理原則及其治理邏輯》，《學(xué)術(shù)論壇》，2022年第1期;張愛(ài)軍：《“算法利維坦”的風(fēng)險(xiǎn)及其規(guī)制》，《探索與爭(zhēng)鳴》，2021年第1期;賈開(kāi)：《人工智能與算法治理研究》，《中國(guó)行政管理》，2019年第1期。

[11]Ausiello， G. and Petreschi， R.， The Power of Algorithms： Inspiration and Examples in Everyday Life， Springer Science & Business Media， 2013.

[12]Beer， D.， "The Social Power of Algorithms"， Information， Communication & Society， 2017， 20（1）， pp. 1–13.

[13]張愛(ài)軍、王首航：《算法：一種新的權(quán)力形態(tài)》，《治理現(xiàn)代化研究》，2020年第1期。

[14][29]Lessig L.， Code： And Other Laws of Cyberspace （New edition）， New York： Basic Books， 1999. 第二版于2006年出版，基于第二版的中文版于2018年出版。參見(jiàn)[美]勞倫斯·萊斯格：《代碼2.0：網(wǎng)絡(luò)空間中的法律（修訂版）》，北京：清華大學(xué)出版社，2018年。

[15]Micklitz， H. W.; Pollicino O.; Reichman A.， et al.， Constitutional Challenges in The Algorithmic Society， New York： Cambridge University Press， 2022.

[16]參見(jiàn)國(guó)際電聯(lián)（ITU）網(wǎng)站：https：//www.itu.int/en/ITU-D/Statistics/Pages/stat/default.aspx.

[17]中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心：《第49次中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》，2022年。

[18]參見(jiàn)https：//www.domo.com/learn/infographic/data-never-sleeps-9.

[19][21]主要依據(jù)綜合自中國(guó)信通院：《中國(guó)數(shù)字經(jīng)濟(jì)發(fā)展白皮書(shū)》，2022年;中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心：《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》，2022年。對(duì)兩類(lèi)報(bào)告均參考了其初期和近兩年的數(shù)據(jù)。

[20]李稻葵在2021年亞洲博鰲論壇上的發(fā)言，參見(jiàn)媒體報(bào)道。

[22]Referred to "Al-Khwarizmi biography，" www-history.mcs.st-andrews.ac.uk， Archived from the original on August 2， 2019. Retrieved May 3， 2017.

[23][26]Knuth， D.， The Art of Computer Programming. Volume 1： Fundamental Algorithms， New York： Addison-Wesley Professional， 1997.

[24]Harel D. and Feldman. Y.， Algorithmics： The Spirit of Computing （3rd ed）， Harlow： Addison-Wesley， 2004.

[25]Butler， D.， "Web Data Predict Flu"， Nature， 2008， 456 （7220）， pp. 287–288.

[27]Stinson C.， "Algorithms Are Not Neutral： Bias in Collaborative Filtering"， ArXiv， 2021. 2105.01031.

[28]孟天廣、李珍珍：《治理算法：算法風(fēng)險(xiǎn)的倫理原則及其治理邏輯》，《學(xué)術(shù)論壇》，2022年第1期。

[30]賈開(kāi)、薛瀾：《第四次工業(yè)革命與算法治理的新挑戰(zhàn)》，《清華管理評(píng)論》，2021年第4期。

[31]張愛(ài)軍：《“算法利維坦”的風(fēng)險(xiǎn)及其規(guī)制》，《探索與爭(zhēng)鳴》，2021年第1期。

[32][33]Papakyriakopoulos O.， and Mboya A. M.， "Beyond Algorithmic Bias： A Socio-Computational Interrogation of the Google Search by Image Algorithm"， ArXiv， 2021， 2105.12856.

[34]算法不只是因偏見(jiàn)帶來(lái)侵害，更主要還是因效率帶來(lái)算法紅利，算法紅利是數(shù)字紅利的核心。人類(lèi)對(duì)數(shù)字技術(shù)的追逐正是由于數(shù)字紅利的吸引。參見(jiàn)邱澤奇、張樹(shù)沁、劉世定等：《從數(shù)字鴻溝到紅利差異——互聯(lián)網(wǎng)資本的視角》，《中國(guó)社會(huì)科學(xué)》，2016年第10期。算法紅利不在本文討論范圍，故略去。

[35]肖紅軍：《算法責(zé)任：理論證成、全景畫(huà)像與治理范式》，《管理世界》，2022年第4期。

[36]許可：《馴服算法：算法治理的歷史展開(kāi)與當(dāng)代體系》，《華東政法大學(xué)學(xué)報(bào)》，2022年第1期。

[37]孫逸嘯、鄭浩然：《算法治理的域外經(jīng)驗(yàn)與中國(guó)進(jìn)路》，《信息安全研究》，2021年第1期。

[38]Shen， H.; DeVos， A.; Eslami， M. et al.， "Everyday Algorithm Auditing： Understanding the Power of Everyday Users in Surfacing Harmful Algorithmic Behaviors"， ArXiv， 2021， 2105.02980.

[39]Burrell， J. and Fourcade， M.， "The Society of Algorithms"， Annual Review of Sociology， 2021， 47（1）， pp. 213–237.

[40]Timcke， S.， Algorithms and the End of Politics： How Technology Shapes 21st Century American Life， Bristol University Press， 2021.

責(zé) 編/陳璐穎

邱澤奇，北京大學(xué)博雅特聘教授、中國(guó)社會(huì)與發(fā)展研究中心主任、數(shù)字治理研究中心主任、社會(huì)學(xué)系教授，教育部“長(zhǎng)江學(xué)者”特聘教授。研究方向?yàn)閿?shù)字社會(huì)、數(shù)字治理。主要著作有《邊區(qū)企業(yè)的發(fā)展歷程：國(guó)有大企業(yè)和企業(yè)型城市的集體企業(yè)》《中國(guó)大陸社會(huì)分層狀況的變遷》《社會(huì)學(xué)是什么？》《費(fèi)孝通與江村》《朋友在先——中國(guó)對(duì)烏干達(dá)衛(wèi)生發(fā)展援助案例研究》《技術(shù)與組織：學(xué)科脈絡(luò)與文獻(xiàn)》等。