李 石

(中國(guó)人民大學(xué) 國(guó)際關(guān)系學(xué)院,北京 100872)

21世紀(jì),隨著智能手機(jī)、人工智能、大數(shù)據(jù)等數(shù)字技術(shù)的應(yīng)用和普及,人們的生活方式發(fā)生了根本性變化。在公共生活方面,數(shù)字治理成為人類社會(huì)不可逆轉(zhuǎn)的大趨勢(shì),世界上越來越多的國(guó)家啟動(dòng)了公共治理的數(shù)字化轉(zhuǎn)型。新的管理模式、新技術(shù)應(yīng)用、新法規(guī)頒布……人類社會(huì)的數(shù)字治理在跌跌撞撞中起步,可謂是喜憂參半。一方面,數(shù)字化治理提高了人們處理公共事務(wù)的效率,大大節(jié)約了時(shí)間成本和人力成本;另一方面,隱私泄露、算法歧視、數(shù)字排斥等新的社會(huì)問題也浮出水面。本文將深入分析數(shù)字治理的諸種優(yōu)勢(shì)以及可能產(chǎn)生的各種問題,并有針對(duì)性地提出政策建議。

數(shù)字治理 (Digital Governance)是借助人工智能、大數(shù)據(jù)以及移動(dòng)智能設(shè)備等數(shù)字技術(shù)對(duì)公共事務(wù)進(jìn)行管理的方式。廣義的數(shù)字治理是指依托數(shù)字技術(shù)對(duì)經(jīng)濟(jì)和社會(huì)資源進(jìn)行的綜合治理;狹義的數(shù)字治理則特指政府應(yīng)用數(shù)字技術(shù)管理公共事務(wù)、政府與企業(yè)的互動(dòng),以及政府內(nèi)部行政程序的數(shù)字化[1]。本文將采用廣義的數(shù)字治理概念,具體包括政府對(duì)社會(huì)的數(shù)字化管理、政府與企業(yè)合作進(jìn)行的數(shù)字化管理,以及企業(yè)的數(shù)字化運(yùn)營(yíng)。在本文的討論中,數(shù)字治理的主體有兩個(gè),分別是政府與企業(yè),治理的對(duì)象則是普通公民,或者說是普通網(wǎng)民。同時(shí),本文的討論涵蓋了企業(yè)這一主體,這與傳統(tǒng)理論中的“治理”概念有一些偏差。人們通常理解的“治理”是政府與公民之間的互動(dòng),是政府對(duì)公共事務(wù)的管理,企業(yè)并不直接參與到治理過程中。然而,在數(shù)字時(shí)代,企業(yè)卻在公共治理中扮演著重要角色,甚至成為重要的治理主體之一。一方面,數(shù)字企業(yè)擁有龐大的數(shù)據(jù)庫(kù),通過對(duì)其用戶進(jìn)行相關(guān)操作就能達(dá)到政府治理的相應(yīng)效果,而政府想要進(jìn)行數(shù)字治理,也必須與企業(yè)共享數(shù)據(jù)。例如,在新冠疫情期間,政府為了查詢?nèi)藗兊男袆?dòng)軌跡,就需要從電信公司獲取相關(guān)數(shù)據(jù),而為了取得抗疫的勝利,國(guó)家衛(wèi)健委及各地方衛(wèi)健委也需要向電信公司索要相關(guān)用戶的數(shù)據(jù)。另一方面,政府的治理活動(dòng)依賴數(shù)字企業(yè)強(qiáng)大的技術(shù)支持。例如,如果稅務(wù)局想要通過網(wǎng)絡(luò)收稅,就需要購(gòu)買數(shù)字企業(yè)的服務(wù),開發(fā)相關(guān)軟件并進(jìn)行維護(hù)。企業(yè)與政府的合作方式通常包括數(shù)據(jù)共享、共同進(jìn)行信息系統(tǒng)開發(fā)和數(shù)字化平臺(tái)建設(shè)以及數(shù)字技術(shù)的開發(fā)與應(yīng)用,等等。由此看來,在討論數(shù)字治理時(shí),就不能忽略企業(yè)在其中所發(fā)揮的重要作用。

一、數(shù)字治理的優(yōu)勢(shì)

“生產(chǎn)力決定生產(chǎn)關(guān)系”,而技術(shù)進(jìn)步是提高生產(chǎn)力的關(guān)鍵。因此,從某種意義上說,技術(shù)進(jìn)步將帶來生產(chǎn)效率和治理效率的大幅提升,并最終推動(dòng)制度的進(jìn)步。從當(dāng)前的情況來看,數(shù)字技術(shù)在社會(huì)治理方面已經(jīng)顯現(xiàn)出鮮明的優(yōu)勢(shì)。

1.治理效率大幅提升

云計(jì)算、人工智能、大數(shù)據(jù)等新技術(shù)的應(yīng)用極大提高了社會(huì)治理的效率,這是有目共睹的事實(shí)。例如,人口統(tǒng)計(jì)、稅收、身份認(rèn)證、財(cái)務(wù)審核這類煩瑣的治理工作,過去需要投入大量人力物力,而現(xiàn)在通過數(shù)字技術(shù)就能快捷完成。疫情防控期間,各地方政府與相關(guān)數(shù)字企業(yè)合作開發(fā)了健康碼、行程碼等類數(shù)字通行證,其中記錄了與疫情相關(guān)的個(gè)人軌跡信息、疫苗接種信息、核酸檢測(cè)信息等,這對(duì)防止疫情擴(kuò)散起到了關(guān)鍵作用。如果沒有數(shù)字技術(shù)的應(yīng)用,政府就需要耗費(fèi)無法想象的時(shí)間和精力才能獲取每個(gè)人的防疫信息,根本無法通過人力管理遏止疫情擴(kuò)散。由此看來,數(shù)字技術(shù)的應(yīng)用不僅大幅度提升了治理的效率,也使一些過去不可能實(shí)現(xiàn)的治理成為現(xiàn)實(shí)。

數(shù)字技術(shù)為法治現(xiàn)代化提供了有力的工具,突出表現(xiàn)在追捕逃犯、查處違規(guī)駕駛、審查偷稅漏稅等方面。首先,監(jiān)控設(shè)備的廣泛安裝,為警察及其他監(jiān)管部門提供了極大的便利。近幾年來,中國(guó)許多城市都實(shí)施了“天眼工程”,在城市街道、廣場(chǎng)、公園、商場(chǎng)等公共場(chǎng)所安裝治安監(jiān)控設(shè)備,這一做法還將向農(nóng)村地區(qū)推廣?？梢灶A(yù)見的是,在不久的將來,所有的公共場(chǎng)所都會(huì)處在監(jiān)控之下,這對(duì)于維護(hù)社會(huì)治安具有重要作用。其次,數(shù)字技術(shù)在維護(hù)社會(huì)秩序方面也發(fā)揮了重要作用,尤其是行程碼、健康碼等類數(shù)字通行證不僅便利了個(gè)人出行,也使犯罪分子無處可逃。據(jù)報(bào)道,由于疫情防控期間所有公共場(chǎng)所都要求出示健康碼、行程碼,許多逃竄多年的通緝犯發(fā)現(xiàn)自己無處可去,不得不投案自首[2]。這也充分顯示出數(shù)字技術(shù)對(duì)于維護(hù)社會(huì)秩序的重大意義。

在交通治理方面,數(shù)字治理的成效也尤為顯著。一方面,公交、地鐵、出租車等公共交通的運(yùn)行都可以通過應(yīng)用大數(shù)據(jù)為市民提供更好的服務(wù)。例如,通過分析人們的出行數(shù)據(jù),能夠優(yōu)化公交車站點(diǎn)及發(fā)車時(shí)間表的設(shè)置。另一方面,許多過去需要交警現(xiàn)場(chǎng)處理的問題,現(xiàn)在都可以通過數(shù)字技術(shù)完成。例如,查處違章停車、闖紅燈、紓解擁堵、定期檢修交通設(shè)施、預(yù)約停車、錯(cuò)峰共享、停車?yán)U費(fèi),等等。數(shù)字技術(shù)不僅在公路交通方面發(fā)揮著重要作用,在鐵路運(yùn)輸、航空、航海等交通部門同樣不可或缺。數(shù)字化的交通治理既準(zhǔn)確又高效,節(jié)省了大量人力物力。數(shù)字技術(shù)的應(yīng)用還極大提升了稅收的效率。數(shù)字化的稅收程序,依據(jù)個(gè)人或企業(yè)銀行賬戶里所顯示的收入,能夠方便快捷地計(jì)算出稅收金額,在很大程度上杜絕了偷稅漏稅。數(shù)字技術(shù)在社保、審計(jì)、環(huán)保等部門的應(yīng)用也極大提升了治理水平,為人們提供了更高效的服務(wù)?？傊?數(shù)字技術(shù)的普遍應(yīng)用使人們享受到技術(shù)進(jìn)步帶來的紅利,也為政府部門的精兵簡(jiǎn)政提供了可能。

2.權(quán)力監(jiān)督透明化

數(shù)字技術(shù)的廣泛應(yīng)用還為權(quán)力監(jiān)督提供了便利。政府是社會(huì)治理的主體,這個(gè)主體擁有多項(xiàng)權(quán)力,而權(quán)力需要制約和監(jiān)督。數(shù)字技術(shù)的廣泛應(yīng)用,為權(quán)力的監(jiān)督提供了新的手段。在數(shù)字時(shí)代,權(quán)力的使用可以更透明、更規(guī)范、更公正,而普通公民的權(quán)利則有望得到更有效的保障。2015年,貴陽市政府啟動(dòng)“數(shù)據(jù)鐵籠”計(jì)劃,并于2016年印發(fā)《貴陽市2016年全面推進(jìn)“數(shù)據(jù)鐵籠”工程建設(shè)工作實(shí)施方案》,率先嘗試將數(shù)字技術(shù)用于對(duì)公權(quán)力的監(jiān)督。經(jīng)過幾年的建設(shè),包括發(fā)改委、住建委、交管局、教育局在內(nèi)的貴陽市政府所有組織部門都被囊括在“數(shù)據(jù)鐵籠”的監(jiān)管范圍之內(nèi)。例如,對(duì)于交管部門的監(jiān)管,交警被要求佩戴執(zhí)法記錄儀、GPS、攝像頭等工具,從上班出勤打卡到執(zhí)法時(shí)用肩頭的執(zhí)法記錄儀全程記錄,執(zhí)勤民警工作期間的一舉一動(dòng)都記錄在“數(shù)據(jù)鐵籠”里,并作為個(gè)人年終考核的依據(jù)。在公共交通部門,貴陽市26家出租車公司、7000余輛出租車、近2萬名從業(yè)駕駛員的個(gè)人情況,全部納入貴陽市運(yùn)管局的“數(shù)據(jù)鐵籠”里。通過車輛軌跡監(jiān)控、車內(nèi)攝像頭監(jiān)控,有效地杜絕了司機(jī)在車上抽煙、無理由拒載等違規(guī)行為[3]?！皵?shù)據(jù)鐵籠”大數(shù)據(jù)平臺(tái)使執(zhí)法行為處于全程監(jiān)督之下。如果相關(guān)執(zhí)法人員出現(xiàn)違規(guī)操作,系統(tǒng)就會(huì)發(fā)出預(yù)警信息;如果上級(jí)管理人員沒有及時(shí)處理預(yù)警信息,該信息則會(huì)層層上報(bào)。由此,“數(shù)據(jù)鐵籠”大數(shù)據(jù)平臺(tái)能夠?qū)γ恳患?jí)行政權(quán)力進(jìn)行監(jiān)督。

3. 增進(jìn)治理民主化

民主制度是現(xiàn)代國(guó)家的核心政治制度,這一制度使進(jìn)行社會(huì)治理的政府權(quán)力及其運(yùn)行具有了合法性。民主化是現(xiàn)代治理的重要特征,數(shù)字技術(shù),尤其是自媒體等新媒體形式將大大提升社會(huì)治理的民主化程度。

現(xiàn)代國(guó)家的民主制度為代議制民主。相比于古希臘城邦中的直接民主,在代議制民主中人們需要選出代表,代替自己表達(dá)意見并形成決策。由此,代議制民主的民主化程度天然低于直接民主制度。因?yàn)?在代表代為表達(dá)的過程中,真實(shí)的民意有可能被曲解或被忽視。然而,網(wǎng)絡(luò)技術(shù)的普遍應(yīng)用可以有效地改善這一境況?；ヂ?lián)網(wǎng)及智能移動(dòng)設(shè)備的普及為人們提供了各種發(fā)聲渠道。在中國(guó),微信公眾號(hào)、微博、朋友圈、音頻視頻網(wǎng)站……成為人們直接表達(dá)意見的公共討論場(chǎng)所。相比于傳統(tǒng)的通過代表代為表達(dá)的方式,以自媒體為主的新媒體為人們提供了更為直接高效的意見表達(dá)手段。網(wǎng)絡(luò)媒體具有的去中心化、平等化、分散化的特征,使更多來自普通人的聲音能夠被聽到,甚至被放大。數(shù)字社會(huì)也由此擁有了比傳統(tǒng)社會(huì)更為活躍、范圍更廣、參與率更高的公共討論。在數(shù)字時(shí)代,真實(shí)的民意可以通過網(wǎng)絡(luò)而得到表達(dá)。21世紀(jì)以來,網(wǎng)絡(luò)技術(shù)較為普及的諸多國(guó)家都出現(xiàn)了網(wǎng)絡(luò)輿情一浪高過一浪的現(xiàn)象,而這正是數(shù)字時(shí)代的民意表達(dá)?，F(xiàn)代國(guó)家的民主機(jī)制應(yīng)迅速改革以應(yīng)對(duì)波濤洶涌的網(wǎng)絡(luò)民意。如果固守程式化、等級(jí)制的代議制民主,則有可能忽視真實(shí)的民意,大大降低公共治理的民主化程度。

從某種意義上說,數(shù)字技術(shù)為人類社會(huì)提供了重新回到直接民主的可能[4]。從技術(shù)上來看,目前中國(guó)所有的城鎮(zhèn)都已實(shí)現(xiàn)網(wǎng)絡(luò)覆蓋,農(nóng)村地區(qū)也做到了“村村通寬帶”。這就意味著,基于某種身份認(rèn)證機(jī)制,所有成年公民完全可以在網(wǎng)絡(luò)上就某一特定問題發(fā)表自己意見或進(jìn)行投票。這就為特定范圍內(nèi)的直接民主提供了現(xiàn)實(shí)可能性。正如徐曉林、周立新所言:“電子民主的出現(xiàn)為人們提供了直接民主的舞臺(tái)。政府的改革要依靠民主的新生。……電子民主可以超越官僚體制的最大弊端——嚴(yán)格的等級(jí)制度和難以逾越的部門間信息壁壘?！盵5]總之,數(shù)字技術(shù)的普遍應(yīng)用給傳統(tǒng)的代議制民主帶來了危機(jī),也為新的民主形式提供了可能。能否抓住這一技術(shù)紅利,全面推進(jìn)國(guó)家治理的民主化,正是數(shù)字治理改革成功的關(guān)鍵。

4.破除歧視、增進(jìn)平等

數(shù)字治理主要通過某種算法來實(shí)現(xiàn),這減少了執(zhí)行人員的主觀影響,能夠有效地破除歧視,增進(jìn)不同人群之間的平等。在傳統(tǒng)的治理模式中,任何政策法規(guī)的執(zhí)行都是通過人去執(zhí)行的。管理者與被管理者通常要面對(duì)面地經(jīng)歷治理過程。這就給對(duì)特定人群的歧視創(chuàng)造了執(zhí)法空間。例如,當(dāng)一個(gè)負(fù)責(zé)社?；饘徟桶l(fā)放的工作人員對(duì)特定群體抱有歧視,他就有可能借助自己手中的自由裁量權(quán)損害該群體的利益。同樣,警察、交警、城管等公務(wù)人員執(zhí)法時(shí),也可能出現(xiàn)類似的情形。然而,在數(shù)字治理中,相關(guān)政策和法規(guī)會(huì)轉(zhuǎn)變成特定算法,只要特定算法并不包含“歧視函數(shù)”,那么歧視就不太可能發(fā)生。例如,一個(gè)公司如果以數(shù)字技術(shù)篩選求職者的簡(jiǎn)歷,只要在如何篩選的算法中不包含排斥女性的操作,那么女性求職者就不會(huì)因性別而被拒絕,而針對(duì)女性的系統(tǒng)性歧視也就不會(huì)發(fā)生。(1)在這種情況下,如“統(tǒng)計(jì)歧視”這類間接歧視仍然有可能發(fā)生。例如,如果通過大數(shù)據(jù)挖掘發(fā)現(xiàn)該公司女性員工的出勤率較低(可能為了照顧家庭而經(jīng)常請(qǐng)假),而招聘軟件的算法中包含拒絕潛在出勤率較低的應(yīng)聘者,那么就可能對(duì)女性求職者造成“統(tǒng)計(jì)歧視”。

依據(jù)相關(guān)實(shí)證研究,數(shù)字技術(shù)的普遍應(yīng)用對(duì)于女性就業(yè)有較大的促進(jìn)作用,數(shù)字化治理訴諸算法,而大部分算法都存在性別盲視。因此,數(shù)字治理能夠有效地避免性別歧視,從而間接地為女性提供更多的就業(yè)和創(chuàng)業(yè)機(jī)會(huì)。例如,愛彼迎平臺(tái)上女性房東占比 62%;在攜程平臺(tái)上有 5000 多名持證旅行定制師,其中女性占68%;淘寶直播的主播80%是女性;等等[6]。數(shù)字技術(shù)促進(jìn)了女性就業(yè),其原因主要有五個(gè)方面:其一,數(shù)字勞動(dòng)所需的數(shù)字技能并不因性別而有明顯差異。在數(shù)字技術(shù)方面,女性和男性的差異要遠(yuǎn)遠(yuǎn)小于體力勞動(dòng)中的能力差異。因此,隨著傳統(tǒng)勞動(dòng)形式的數(shù)字化轉(zhuǎn)型,女性也就獲得了更多的就業(yè)機(jī)會(huì)。其二,許多數(shù)字化工作崗位對(duì)工作的時(shí)間和地點(diǎn)沒有嚴(yán)格要求,便于人們居家辦公、靈活就業(yè),這為女性兼顧家庭和事業(yè)創(chuàng)造了良好的條件。其三,數(shù)字時(shí)代能夠促進(jìn)人們?cè)诰W(wǎng)絡(luò)上形成新的社會(huì)關(guān)系,這有助于彌補(bǔ)女性在傳統(tǒng)社會(huì)網(wǎng)絡(luò)中的劣勢(shì)。傳統(tǒng)社會(huì)關(guān)系中,由于主要負(fù)責(zé)照顧家庭,女性很少參與公共事務(wù),其社會(huì)網(wǎng)絡(luò)多局限于親戚關(guān)系。然而,在數(shù)字社會(huì)中,女性有了更多的機(jī)會(huì)構(gòu)建自己的網(wǎng)上社會(huì)網(wǎng)絡(luò),從而提升了就業(yè)競(jìng)爭(zhēng)力。其四,各式各樣的數(shù)字化平臺(tái)為所有人提供了創(chuàng)業(yè)的平等機(jī)會(huì),同時(shí)數(shù)字化的金融產(chǎn)品也有助于普通人的創(chuàng)業(yè),尤其是女性創(chuàng)業(yè)者。一些數(shù)字平臺(tái)企業(yè)還為女性創(chuàng)業(yè)者提供了專門的培訓(xùn)或貸款幫助。例如,阿里于 2020年發(fā)起“數(shù)字木蘭”計(jì)劃,為全國(guó)貧困山區(qū)女性提供免費(fèi)培訓(xùn)和扶持,為貧困地區(qū)女性提供100 萬個(gè)致富項(xiàng)目和10萬人次就業(yè)崗位。淘寶大學(xué)設(shè)計(jì)“魔豆媽媽”學(xué)習(xí)方案,幫助困難媽媽電商創(chuàng)業(yè)[6]。

二、數(shù)字治理的隱患

在數(shù)字時(shí)代,權(quán)力體現(xiàn)在算法中,企業(yè)和政府都可能應(yīng)用某種算法來處理公共事務(wù),這使社會(huì)關(guān)系發(fā)生了許多變化,也使社會(huì)中的權(quán)力結(jié)構(gòu)發(fā)生了重大轉(zhuǎn)變。傳統(tǒng)社會(huì)的善治依賴于對(duì)權(quán)力的有效約束,而數(shù)字時(shí)代的善治則依賴于對(duì)算法及相關(guān)權(quán)力濫用的有效約束。目前,世界各國(guó)還未建立完善的約束算法權(quán)力的法律法規(guī),數(shù)字時(shí)代權(quán)力制約的藝術(shù)還在摸索之中,數(shù)字治理仍存在諸多隱患,主要表現(xiàn)為以下四個(gè)方面。

1.數(shù)據(jù)泄露及篡改

數(shù)字時(shí)代數(shù)據(jù)為王,權(quán)力集中在掌握數(shù)據(jù)的組織或機(jī)構(gòu)手中。而這些擁有了大量數(shù)據(jù),甚至是隱私數(shù)據(jù)的組織或機(jī)構(gòu),如果不遵守?cái)?shù)據(jù)安全和保護(hù)個(gè)人隱私的相關(guān)要求,則會(huì)給當(dāng)事人帶來巨大傷害。疫情防控期間的健康碼成為中國(guó)公民自由出行的數(shù)字通行證,如果健康碼顯示為“紅碼”,那么當(dāng)事人將寸步難行:無法乘坐公共交通、無法進(jìn)入商場(chǎng)、超市、學(xué)校、體育館等公共場(chǎng)所,不能進(jìn)入自己任職的單位,甚至不能進(jìn)入自己家的居民區(qū)。然而,對(duì)于個(gè)人自由如此重要的防疫數(shù)據(jù)卻被有的行政機(jī)關(guān)惡意篡改。2022年6月發(fā)生的“河南紅碼”事件敲響了數(shù)字權(quán)力濫用的警鐘。

事實(shí)上,所有數(shù)字技術(shù)的應(yīng)用都有可能對(duì)人們的隱私和自由造成威脅。許多當(dāng)代學(xué)者都對(duì)此提出過警告?！段磥砗?jiǎn)史》一書的作者就曾言,“在21世紀(jì),個(gè)人數(shù)據(jù)可能是大多數(shù)人能夠提供的最寶貴資源,但我們正親手把這些數(shù)據(jù)交給各大科技企業(yè),好換來免費(fèi)的電子郵箱或是有趣的小貓視頻”[7]306。在抗擊疫情中數(shù)字技術(shù)的應(yīng)用確實(shí)對(duì)人們的隱私和自由造成了前所未有的威脅。意大利哲學(xué)家吉奧喬·阿甘本(Giorgio Agamben)在疫情剛發(fā)生時(shí),就曾對(duì)此作出警告。2020年2月25日,阿甘本在意大利《宣言報(bào)》上發(fā)表了《由無端的緊急情況帶來的例外狀態(tài)》一文,抨擊當(dāng)局針對(duì)疫情防控的相關(guān)政策試圖在所有地區(qū)擴(kuò)大“例外狀態(tài)”,并稱當(dāng)恐怖主義作為特殊措施的原因已經(jīng)用盡時(shí),流行病的發(fā)明恰可以提供理想的借口。而在其2021年的新書《我們?cè)诤畏?》中,阿甘本再次對(duì)意大利政府采取的疫情管控政策進(jìn)行了批判[8]24,112-113。

為了戰(zhàn)勝疫情、有效遏制病毒的傳播,相關(guān)權(quán)力部門必須獲取與病毒傳播相關(guān)的所有個(gè)人信息,包括出行軌跡、同住人、聯(lián)系人、住址、單位、疫苗接種情況,等等。如果當(dāng)事人被病毒感染,就需要將相關(guān)信息公之于眾,以防止其他人接觸到相應(yīng)的風(fēng)險(xiǎn)場(chǎng)所。所以,即使這些個(gè)人信息不被惡意篡改,其獲取和公開也會(huì)對(duì)當(dāng)事人的隱私和自由造成侵害。2020年12月成都新冠確診女孩的大量私人信息被曝光,隨即遭到網(wǎng)暴?？梢?數(shù)字時(shí)代,數(shù)據(jù)管理者的任何疏忽都可能給當(dāng)事人帶來巨大影響。該事件后,各地政府及時(shí)調(diào)整了數(shù)據(jù)公布的限度,將流調(diào)信息中的人名、電話等個(gè)人隱私隱去。

數(shù)字技術(shù)讓人們感受到了數(shù)字權(quán)力的巨大威力,而數(shù)字時(shí)代的善治則依賴于對(duì)數(shù)字權(quán)力的法律監(jiān)督和制約。從政治學(xué)視角來看,數(shù)字權(quán)力的應(yīng)用只有在推進(jìn)公共利益的情況下才具有正當(dāng)性,而其應(yīng)用的范圍必須以公民的基本權(quán)利為界限。具體而言,數(shù)字權(quán)力的應(yīng)用應(yīng)遵循下述四條準(zhǔn)則:其一,權(quán)力部門對(duì)公民個(gè)人數(shù)據(jù)的取用必須以推進(jìn)公共利益為目的,而且應(yīng)僅限于公共安全、衛(wèi)生健康、社會(huì)福利等有限領(lǐng)域。任何出于個(gè)人目的,或?yàn)榱司S護(hù)某些利益集團(tuán)的利益而取用甚至篡改相關(guān)數(shù)據(jù)都是違法的。其二,對(duì)個(gè)人數(shù)據(jù)的挖掘和應(yīng)用應(yīng)該遵循“最大最小原則”,即在最大限度推進(jìn)公共利益的前提下,最小范圍地挖掘公民個(gè)人數(shù)據(jù)。例如,為了抗擊疫情需要查看公民的行程信息,但其他一些信息,如消費(fèi)記錄、婚姻狀況、手機(jī)通訊錄、面部識(shí)別信息等并不是必須查看的。因此,權(quán)力部門在獲取和使用相關(guān)數(shù)據(jù)時(shí),應(yīng)該在最小范圍內(nèi)取用,而不應(yīng)該借機(jī)挖掘更多數(shù)據(jù)。第三,公共部門對(duì)于公民的相關(guān)隱私數(shù)據(jù)有保密的義務(wù)。公民正是因?yàn)樾湃蜗嚓P(guān)權(quán)力部門(包括平臺(tái)企業(yè)和政府部門),才會(huì)毫無保留地提供自己的各種信息。因此,取用個(gè)人數(shù)據(jù)的權(quán)力部門必須在最大范圍內(nèi)保護(hù)數(shù)據(jù)提供者的隱私。如上文提到的“成都新冠感染者被網(wǎng)暴”的事件,就是因?yàn)橄嚓P(guān)管理部門就沒有盡到保護(hù)隱私信息的義務(wù)。同樣,疫情防控期間一些中小學(xué)生采用“學(xué)習(xí)通”上網(wǎng)課,“學(xué)習(xí)通”由此擁有了海量的中小學(xué)生的個(gè)人信息,2022年7月,“學(xué)習(xí)通”被曝其數(shù)據(jù)庫(kù)信息疑似被公開售賣,其中疑似泄露的數(shù)據(jù)包含姓名、手機(jī)號(hào)、性別、學(xué)校、學(xué)號(hào)、郵箱等信息1.7273億條,含密碼1076萬條[9]。其四,擁有數(shù)據(jù)的組織機(jī)構(gòu),無論是企業(yè)還是政府部門,在發(fā)生數(shù)據(jù)泄露或篡改等侵權(quán)事件時(shí),都應(yīng)受到相關(guān)法律制裁。目前,對(duì)數(shù)字權(quán)力進(jìn)行約束的法律體系已經(jīng)粗具規(guī)模。在國(guó)家層面,我國(guó)相繼頒布了《國(guó)家安全法》《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》及《個(gè)人信息保護(hù)法》等,網(wǎng)絡(luò)安全法律制度體系得到系統(tǒng)建構(gòu),增強(qiáng)了網(wǎng)絡(luò)安全防御能力;在地方層面,為了促進(jìn)數(shù)據(jù)的互通共享以及大數(shù)據(jù)應(yīng)用,我國(guó)已有18個(gè)省市公布了相關(guān)數(shù)據(jù)條例。但是,這些法律法規(guī)在現(xiàn)實(shí)中如何得到有效執(zhí)行,如何更加有效地懲戒違規(guī)、違法操作的公職人員或企業(yè)管理人員,仍是需要逐步探索的現(xiàn)實(shí)問題。

2.數(shù)字鴻溝帶來的不平等

數(shù)字治理的前提是絕大部分公民能夠接入數(shù)字設(shè)備,并且具備相應(yīng)的數(shù)字能力,能夠進(jìn)行相關(guān)操作。然而,在數(shù)字社會(huì)逐步形成的過程中,有一些人因?yàn)槿狈τ布O(shè)備或缺乏數(shù)字能力而無法有效接入數(shù)字社會(huì),這便造成了數(shù)字鴻溝。數(shù)字鴻溝的定義最早由美國(guó)國(guó)家遠(yuǎn)程通信和信息管理局(NTIA)在1999 年出版的報(bào)告《在網(wǎng)絡(luò)中落伍:定義數(shù)字鴻溝》中提出的,意指“信息富有者和信息貧困者之間的鴻溝”。中國(guó)國(guó)家信息中心2013 年發(fā)布的《中國(guó)數(shù)字鴻溝研究》將數(shù)字鴻溝定義為“不同社會(huì)群體之間在擁有和使用現(xiàn)代信息技術(shù)方面存在的差距”。學(xué)者們對(duì)數(shù)字鴻溝有不同的分類。例如,王春英等學(xué)者依據(jù)數(shù)字鴻溝發(fā)生的位置將其區(qū)分為區(qū)域數(shù)字鴻溝、企業(yè)數(shù)字鴻溝和人群數(shù)字鴻溝[10]。本文依據(jù)數(shù)字鴻溝發(fā)生的主要原因?qū)⑵浞譃橐患?jí)、二級(jí)和三級(jí)數(shù)字鴻溝:一級(jí)數(shù)字鴻溝指的是,因缺乏公共數(shù)字設(shè)備(如網(wǎng)絡(luò)、基站等)而產(chǎn)生的數(shù)字鴻溝。二級(jí)數(shù)字鴻溝指的是,因缺乏個(gè)人數(shù)字設(shè)備(如電腦、智能手機(jī)、平板等)而產(chǎn)生的數(shù)字鴻溝。三級(jí)數(shù)字鴻溝指的是,因缺乏數(shù)字能力而產(chǎn)生的數(shù)字鴻溝。由于數(shù)字鴻溝的存在,一些人被排除在數(shù)字社會(huì)之外,產(chǎn)生了“數(shù)字排斥”現(xiàn)象,進(jìn)而加劇了不同人群之間的不平等。

2022年2月25日,中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心(CNNIC)在京發(fā)布第49次《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》(以下簡(jiǎn)稱《報(bào)告》)?！秷?bào)告》顯示,截至2021年6月,中國(guó)網(wǎng)民規(guī)模達(dá)10.32億,互聯(lián)網(wǎng)普及率達(dá)73.0%,其中城鎮(zhèn)地區(qū)互聯(lián)網(wǎng)普及率為79.5%,農(nóng)村地區(qū)互聯(lián)網(wǎng)普及率為57.6%?！秷?bào)告》還特別強(qiáng)調(diào)了我國(guó)互聯(lián)網(wǎng)發(fā)展?fàn)顩r的兩個(gè)顯著特點(diǎn):其一,城鄉(xiāng)上網(wǎng)差距正在縮小。我國(guó)現(xiàn)有行政村已全面實(shí)現(xiàn)“村村通寬帶”,我國(guó)農(nóng)村網(wǎng)民規(guī)模已達(dá)2.84億,城鄉(xiāng)互聯(lián)網(wǎng)普及率差距較2020年12月減少0.2個(gè)百分點(diǎn)。其二,老年群體加速融入網(wǎng)絡(luò)社會(huì)。截至2021年12月,我國(guó)60歲及以上老年網(wǎng)民規(guī)模達(dá)1.19億,互聯(lián)網(wǎng)普及率達(dá)43.2%。能夠獨(dú)立完成出示健康碼/行程碼,購(gòu)買生活用品和查找信息等網(wǎng)絡(luò)活動(dòng)的老年網(wǎng)民比例已分別達(dá)69.7%、52.1%和46.2%[11]。從《報(bào)告》所顯示的我國(guó)互聯(lián)網(wǎng)發(fā)展?fàn)顩r來看,目前,不同區(qū)域之間的一級(jí)數(shù)字鴻溝已經(jīng)基本根除,寬帶、基站等公共數(shù)字設(shè)施已經(jīng)遍布全國(guó),城鄉(xiāng)之間沒有根本差別。然而,從統(tǒng)計(jì)數(shù)據(jù)來看,二級(jí)和三級(jí)數(shù)字鴻溝仍然存在于不同人群之間。具體說來,城鄉(xiāng)之間的互聯(lián)網(wǎng)普及率相差21.9%,這可能是由二級(jí)和三級(jí)數(shù)字鴻溝造成的。一方面,一些貧困的農(nóng)村居民沒有足夠的經(jīng)濟(jì)能力購(gòu)買個(gè)人數(shù)字設(shè)備;另一方面,由于缺乏相應(yīng)的技能和知識(shí),農(nóng)村居民在數(shù)字能力上也普遍低于城鎮(zhèn)居民。2020年2月疫情防控期間,河南14歲女孩因無手機(jī)上網(wǎng)課,服毒自殺[12]。這一事件集中體現(xiàn)了二級(jí)數(shù)字鴻溝所導(dǎo)致的“數(shù)字排斥”現(xiàn)象。另一方面,三級(jí)數(shù)字鴻溝在城鄉(xiāng)居民之間也廣泛存在。數(shù)字時(shí)代網(wǎng)絡(luò)資源非常豐富,既有網(wǎng)課講座等各種學(xué)習(xí)資源,也有游戲、短視頻等各種娛樂資源。由于知識(shí)儲(chǔ)備不同,農(nóng)村孩子在接入網(wǎng)絡(luò)后大多瀏覽娛樂資源,而城市孩子則在家長(zhǎng)的指導(dǎo)下利用網(wǎng)絡(luò)資源學(xué)習(xí)。于是,普遍存在的現(xiàn)象就是城市孩子對(duì)著電腦上網(wǎng)課,農(nóng)村孩子拿著手機(jī)玩游戲、刷抖音,這將進(jìn)一步加大不同人群之間的不平等狀況,甚至導(dǎo)致貧困的代際傳遞[13]。與此同時(shí),老年人與年輕人之間的數(shù)字鴻溝依然存在,老年人的互聯(lián)網(wǎng)普及率遠(yuǎn)低于全國(guó)平均普及率,而這主要是由三級(jí)數(shù)字鴻溝造成的。老年人與年輕人之間的數(shù)字鴻溝也被稱為“銀發(fā)數(shù)字鴻溝”,在社會(huì)的變遷中,老年人由于前期教育的缺失,在數(shù)字技能方面處于天然的劣勢(shì)。缺乏數(shù)字能力,不僅給老年人的生活(出行、購(gòu)物、看病)帶來許多不便,也可能將老年人排斥在公共生活之外。

值得注意的是,上述《報(bào)告》并沒有殘障群體互聯(lián)網(wǎng)普及率的相關(guān)統(tǒng)計(jì)。事實(shí)上,在數(shù)字社會(huì)中,有一些殘障人士,尤其是盲人很難接入現(xiàn)有的數(shù)字設(shè)備當(dāng)中。為了讓盲人接入數(shù)字設(shè)備,數(shù)字設(shè)備的按鍵要重新設(shè)計(jì),而且所有的軟件都必須具備語音功能。這些問題在技術(shù)上是可以解決的,但目前市面上仍然很少看到專門為盲人開發(fā)的數(shù)字設(shè)備。這并不是因?yàn)槊と瞬恍枰M(jìn)入數(shù)字社會(huì),而是因?yàn)檫@部分市場(chǎng)太小、無利可圖。事實(shí)上,盲人的數(shù)量并不少。中國(guó)盲人協(xié)會(huì)的統(tǒng)計(jì)數(shù)據(jù)顯示,中國(guó)約有1700萬盲人,但他們?cè)诠差I(lǐng)域中很難發(fā)出自己的聲音,也就很難得到社會(huì)的關(guān)注。當(dāng)然,我國(guó)政府也為盲人接入互聯(lián)網(wǎng)做了很多努力。例如,2011年6月28日,中國(guó)盲文圖書館在北京建成開館,為盲人提供閱讀、聽書以及上網(wǎng)的服務(wù),但對(duì)于全國(guó)各地的1000多萬盲人來說,這不過是杯水車薪。此外,事關(guān)盲人出行、購(gòu)物、工作等日常生活的設(shè)施建設(shè)和制度建構(gòu)還應(yīng)大大加強(qiáng),為盲人提供更加均等的服務(wù)。

數(shù)字治理顯然不應(yīng)該將盲人等殘障人士排斥在外,因?yàn)樗麄円彩巧鐣?huì)中的平等公民,他們的權(quán)利也需要通過數(shù)字化管理來實(shí)現(xiàn)。在這一問題上,國(guó)外學(xué)者也注意到了數(shù)字治理中殘障人士的困難處境。美國(guó)學(xué)者弗吉尼亞·尤班克斯(Virdinia Eubanks)對(duì)美國(guó)中部地區(qū)的福利資格自動(dòng)化系統(tǒng)及其運(yùn)行進(jìn)行了實(shí)地考察并指出,福利資格自動(dòng)化處理試點(diǎn)對(duì)于失聰、失明、患有精神疾病的福利申請(qǐng)者打擊最為嚴(yán)重[14]58。文中提到,一個(gè)福利申請(qǐng)者用手語質(zhì)疑:“我是失聰者,我應(yīng)該如何進(jìn)行電話面談?”[14]58可見,數(shù)字能力的缺乏直接剝奪了一些人本來應(yīng)該獲得的幫助,而數(shù)字技術(shù)的發(fā)展也沒有能夠保護(hù)他們的平等權(quán)利。在數(shù)字治理中,沒有接入互聯(lián)網(wǎng)的公民就沒有“數(shù)字身份”,就相當(dāng)于“社死”的人。從這一角度來看,數(shù)字鴻溝造成了不容忽視的巨大不平等。

3.算法歧視

在數(shù)字社會(huì),每個(gè)人都有數(shù)字身份。數(shù)字鴻溝可能造成一些人的身份缺失,而算法歧視則可能造成一些人被鎖定為“身份罪犯”。所謂算法是指“進(jìn)行計(jì)算、解決問題、作出決定的一套有條理的步驟。所以,算法并不是單指某次計(jì)算,而是計(jì)算時(shí)采用的方法”[7]75。簡(jiǎn)單地說,算法就是機(jī)器處理大量數(shù)據(jù)的方式。算法是由人設(shè)計(jì)的,而人在設(shè)計(jì)算法的時(shí)候,有可能將自己的價(jià)值觀念甚至歧視或偏見設(shè)計(jì)到相關(guān)算法中,由此導(dǎo)致了所謂的算法歧視。例如,在上述利用人工智能篩選簡(jiǎn)歷的案例中,如果在算法中設(shè)定“拒絕女性求職者的申請(qǐng)”,那就必然會(huì)造成對(duì)女性求職者的歧視。

在數(shù)字治理中,不僅人工設(shè)計(jì)的算法可能包含算法歧視,基于機(jī)器學(xué)習(xí)的算法也可能產(chǎn)生各種偏見和歧視。大數(shù)據(jù)基礎(chǔ)上的機(jī)器學(xué)習(xí)使得人工智能在某些方面擁有了超越人腦的能力。2009年谷歌公司的一款產(chǎn)品“Google流感趨勢(shì)”依據(jù)網(wǎng)絡(luò)搜索的關(guān)鍵詞,成功預(yù)測(cè)了H1N1流感病毒的暴發(fā)。人工智能能夠做到這一點(diǎn),就是因?yàn)樗軌蛟诙虝r(shí)間內(nèi)處理大量數(shù)據(jù),并迅速找到不同數(shù)據(jù)之間的“相關(guān)性”。這種相關(guān)性雖然并非必然的因果聯(lián)系,卻是人們進(jìn)行預(yù)測(cè)和決斷的重要依據(jù)。例如,位于美國(guó)拉斯維加斯的哈拉斯賭場(chǎng),通過各種數(shù)字設(shè)備挖掘顧客的消費(fèi)信息,并對(duì)這些信息進(jìn)行大數(shù)據(jù)分析,結(jié)合客戶消費(fèi)習(xí)慣以及身份背景信息模擬出每個(gè)人的“痛點(diǎn)”。一旦顧客輸錢總數(shù)超過其“痛點(diǎn)”,將會(huì)永遠(yuǎn)地離開該賭場(chǎng)。這樣,賭場(chǎng)就會(huì)針對(duì)每位顧客的特點(diǎn),將其輸錢的數(shù)額控制在接近“痛點(diǎn)”的最高值,如此一來,賭場(chǎng)就能獲得最高的利潤(rùn)率[15]。某些電商平臺(tái)上存在的“殺熟”現(xiàn)象,就是利用大數(shù)據(jù)算法設(shè)置區(qū)別化的價(jià)格機(jī)制,將平臺(tái)企業(yè)利潤(rùn)最大化的案例。這類案例中包含著嚴(yán)重的“價(jià)格歧視”,即沒有平等地對(duì)待每一位消費(fèi)者。

大數(shù)據(jù)應(yīng)用中的“預(yù)測(cè)”存在一個(gè)悖論,那就是人工智能只能依據(jù)過去的數(shù)據(jù)進(jìn)行預(yù)測(cè),而過去的數(shù)據(jù)并不能說明未來必然發(fā)生什么。例如,電商平臺(tái)通常會(huì)通過某種算法向顧客推薦各種商品,而無論何種算法都只能依據(jù)顧客過去的消費(fèi)記錄進(jìn)行推薦。所以,就會(huì)出現(xiàn)如此滑稽的現(xiàn)象:一個(gè)顧客剛在網(wǎng)站上購(gòu)買了一雙鞋,而電商平臺(tái)則立刻又向他推薦多雙類似的鞋。電商平臺(tái)上的算法推薦問題雖然讓消費(fèi)者哭笑不得,卻也不會(huì)引發(fā)嚴(yán)重傷害。但是,如果將類似算法應(yīng)用在與人們的基本權(quán)利相關(guān)的公共治理過程中,則可能發(fā)生侵害公眾權(quán)利的事件。最典型的例子就是,大數(shù)據(jù)算法在警務(wù)方面的應(yīng)用——“預(yù)測(cè)警務(wù)”。為了更為高效地抓捕犯罪分子,公安機(jī)關(guān)利用大數(shù)據(jù)挖掘個(gè)體數(shù)據(jù)與犯罪之間的相關(guān)性。例如,有違章停車記錄或征信不良的人犯罪率比普通人高20%,等等。而這種“捕風(fēng)捉影”的相關(guān)性則成為公安機(jī)關(guān)抓捕犯罪分子的重要線索。公安機(jī)關(guān)可以設(shè)計(jì)出一套算法,讀取某人的相關(guān)記錄并計(jì)算其成為罪犯的概率。如果我們完全信任這個(gè)算法的話,就無法回避這樣的問題:如果一個(gè)人被人工智能判定為 “罪犯”,但他并沒有真的實(shí)施犯罪行為,那我們是否應(yīng)該在他實(shí)施犯罪行為之前將其抓獲?這或許就是人工智能大數(shù)據(jù)預(yù)測(cè)的荒謬之處——依據(jù)過去的數(shù)據(jù)作出精準(zhǔn)的預(yù)測(cè)。然而,預(yù)測(cè)始終是預(yù)測(cè),并不是真實(shí)發(fā)生的事情,如果根據(jù)這種“預(yù)測(cè)”作出決斷,甚至懲治“罪犯”,將帶來嚴(yán)重的不公平。

在人工智能的大數(shù)據(jù)預(yù)測(cè)中,發(fā)揮關(guān)鍵作用的是算法。算法決定了大數(shù)據(jù)作出預(yù)測(cè)的方式。例如,電商平臺(tái)給顧客推薦商品的算法大概是看顧客瀏覽了哪些網(wǎng)頁、購(gòu)買了什么商品,然后再給他推薦類似的商品。而“預(yù)測(cè)犯罪”的算法估計(jì)是根據(jù)某人的貸款不還、違章駕駛、被投訴等記錄,再通過加權(quán)平均來計(jì)算其可能成為罪犯的概率。由于數(shù)字治理主體(企業(yè)或政府)的算法通常并不公開,這就給歧視和偏見留下了操作的空間。例如,美國(guó)的“預(yù)測(cè)警務(wù)”系統(tǒng)就曾被指責(zé)有種族主義傾向。美國(guó)Palantir和DAS預(yù)測(cè)系統(tǒng)的反對(duì)者認(rèn)為,警察依據(jù)自己的種族偏見使用數(shù)據(jù)監(jiān)控,從而監(jiān)控甚至逮捕更多的人,是“種族主義的循環(huán)”[16]。試想,如果美國(guó)的“預(yù)測(cè)警務(wù)”的算法人為設(shè)計(jì)或者通過機(jī)器學(xué)習(xí)而將“膚色”作為與犯罪高度相關(guān)的因素,那就必然包含算法歧視。

算法歧視可能造成“身份罪犯”,即通過大數(shù)據(jù)分析具有某些身份特征(如離婚、酗酒、吸毒、非婚生子等)的人,如果犯罪概率較高,警察就會(huì)對(duì)具有這些身份特征的人員進(jìn)行重點(diǎn)排查,甚至從這些人中尋找罪犯。這種做法是基于人們過去行為的預(yù)測(cè),包含著深刻的歧視和偏見。《自動(dòng)不平等》一書的作者考察了美國(guó)洛杉磯幫助無家可歸者匹配福利性住房的協(xié)調(diào)入住系統(tǒng)。這一服務(wù)首先會(huì)挖掘無家可歸者詳細(xì)的私密信息,例如是否遭受過家庭暴力,是否有賣淫或?yàn)樗藬y帶毒品、與陌生人進(jìn)行無保護(hù)的性行為等風(fēng)險(xiǎn)行為,是否曾威脅或傷害自己,等等。而申請(qǐng)者如果想獲得福利住房,就必須如實(shí)回答這些問題,系統(tǒng)會(huì)根據(jù)人們的回答對(duì)其進(jìn)行評(píng)分,情況越糟糕(例如曾傷害過自己、曾有賣淫行為,等等),則評(píng)分越高,獲得福利房的概率也就越高。許多無家可歸者為了獲得福利住房都如實(shí),甚至故意夸大地回答了這些問題。然而,該系統(tǒng)所獲取的信息同時(shí)與當(dāng)?shù)氐木焦蚕?這使得一些無家可歸者非但沒有申請(qǐng)到住房,反而成為警察重點(diǎn)監(jiān)視的對(duì)象。此書作者不由感嘆:“協(xié)調(diào)入住不僅僅是一個(gè)管理信息或匹配供需關(guān)系的系統(tǒng),它還是一個(gè)分類窮人、入罪窮人的監(jiān)視系統(tǒng)?！盵14]103

大數(shù)據(jù)應(yīng)用中的算法歧視所帶來的一系列問題不僅出現(xiàn)在美國(guó),在我國(guó)這樣的數(shù)字大國(guó)中也存在著各種隱患。2021年7月,教育部辦公廳印發(fā)《教育部辦公廳關(guān)于加強(qiáng)學(xué)生心理健康管理工作的通知》,要求“高校每年在新生入校后適時(shí)開展全覆蓋的心理健康測(cè)評(píng)……縣級(jí)教育部門要設(shè)立或依托相關(guān)專業(yè)機(jī)構(gòu),牽頭負(fù)責(zé)組織區(qū)域內(nèi)中小學(xué)開展心理健康測(cè)評(píng)工作,每年面向小學(xué)高年級(jí)、初中、高中開展一次心理健康測(cè)評(píng)”[17]。由此,全國(guó)各地的中小學(xué)開始開展各式各樣的心理測(cè)評(píng),并將測(cè)評(píng)的結(jié)果記錄在案。這一舉措不由得讓人擔(dān)憂。暫且不說在上海市開展的中小學(xué)生心理測(cè)評(píng)中出現(xiàn)了“最近一周,你已著手寫自殺遺言了嗎?”“最消沉、最憂郁的時(shí)候,你已著手寫自殺遺言了嗎?”這類誘導(dǎo)自殺的問題[18]。試想,如果一個(gè)孩子在中小學(xué)階段的心理測(cè)評(píng)中被判定為“抑郁”,那么這些記錄將會(huì)對(duì)他的學(xué)習(xí)和生活帶來嚴(yán)重的負(fù)面影響。哪些單位和人員可以查看他的“心理檔案”?而被蓋上“抑郁”圖章的“問題學(xué)生”的升學(xué)和就業(yè)是否會(huì)受到影響?這些數(shù)據(jù)一旦泄露,會(huì)不會(huì)造成其他人對(duì)他的歧視。由此可見,其后果的嚴(yán)重性不堪設(shè)想。

事實(shí)表明,數(shù)字技術(shù)應(yīng)用場(chǎng)景中存在著大量算法歧視的隱患。交警利用算法來識(shí)別車輛是否超速;法院運(yùn)用智能系統(tǒng)進(jìn)行證據(jù)審查、事實(shí)認(rèn)定、法律判斷;警察利用算法識(shí)別罪犯;教育機(jī)構(gòu)通過算法篩選學(xué)生;等等。算法可能通過某些特征來鎖定某些人,而這些人即使沒有相關(guān)犯罪事實(shí)也可能被監(jiān)視、被排斥、最終被入罪。限制算法權(quán)力、破除算法歧視的最有效的措施是算法公開,就是將相關(guān)權(quán)力部門的算法置于公眾的監(jiān)督之下。在這個(gè)問題上,目前學(xué)術(shù)界存在“支持”與“反對(duì)”兩種觀點(diǎn)。一些學(xué)者認(rèn)為,算法屬于知識(shí)產(chǎn)品,其設(shè)計(jì)者擁有知識(shí)產(chǎn)權(quán),尤其是商用算法,往往是相關(guān)企業(yè)能夠盈利的“秘密武器”,如果將算法無償公開,就會(huì)侵犯算法提供方的知識(shí)產(chǎn)權(quán)。因此,即使公開算法,也應(yīng)有相應(yīng)的補(bǔ)償。梁志文主張將藥品數(shù)據(jù)的管制性排他權(quán)移植到算法保護(hù)中,允許算法擁有者以公開算法(源代碼備案)為代價(jià),換取五年的市場(chǎng)排他權(quán)[19]。相反,另一些學(xué)者認(rèn)為算法的應(yīng)用歸根結(jié)底是公權(quán)力的應(yīng)用,應(yīng)該遵循正當(dāng)程序并在公眾的監(jiān)督下進(jìn)行。胡晶晶認(rèn)為:“算法權(quán)力的正當(dāng)程序應(yīng)當(dāng)包括兩方面內(nèi)容:靜態(tài)方面,算法內(nèi)部編程設(shè)計(jì)本身應(yīng)當(dāng)是中立的,摒除價(jià)值判斷的,且算法程序設(shè)計(jì)應(yīng)當(dāng)公開;動(dòng)態(tài)方面,算法運(yùn)行過程應(yīng)當(dāng)是公開的,且接受應(yīng)用算法的公權(quán)力機(jī)關(guān)和公眾的監(jiān)督。”[20]

2021年12月31日,針對(duì)算法歧視等問題,國(guó)家網(wǎng)信辦等四部門聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》[21],并于2022年3月1日起正式施行。該規(guī)定明確要求保障用戶的算法知情權(quán)和算法選擇權(quán),應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng),或者便捷地關(guān)閉算法推薦服務(wù)的選項(xiàng)。不得利用算法實(shí)施影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)督管理以及壟斷和不正當(dāng)競(jìng)爭(zhēng)行為,不得設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)等違反法律法規(guī)或者違背倫理道德的算法模型。然而,該規(guī)定主要針對(duì)的是商用算法,涉及各類短視頻平臺(tái)、電商平臺(tái)、社交平臺(tái)及餐飲外賣平臺(tái)等,對(duì)于政府部門的算法公開并沒有作出明確規(guī)定。因此,為了規(guī)范算法權(quán)力的應(yīng)用,還應(yīng)針對(duì)政府部門的權(quán)力運(yùn)行過程,建立包含算法生成、算法公開、算法監(jiān)督在內(nèi)的正當(dāng)程序,明確算法責(zé)任,建構(gòu)與算法權(quán)力相應(yīng)的規(guī)范體系。

4.信息繭房與不自由

上述對(duì)算法權(quán)力的討論主要針對(duì)的是公權(quán)力應(yīng)用中的算法歧視等問題。事實(shí)上,企業(yè)對(duì)于算法的應(yīng)用也與公共治理息息相關(guān)。企業(yè)應(yīng)用算法的目的是利潤(rùn)最大化,其手段是最大限度地吸引戶的注意力。數(shù)字經(jīng)濟(jì)又被稱為“注意力經(jīng)濟(jì)”,所有的商家都在竭盡全力吸引用戶的注意力。無論以什么方式——短視頻、音樂、繪畫、詩(shī)歌、評(píng)論——只要能吸引到用戶的注意力,就有了流量,就可以投放廣告,就可以帶貨,最終就能盈利?；谶@一邏輯,平臺(tái)企業(yè)的算法通常會(huì)依據(jù)用戶的相關(guān)信息“投其所好”。例如,用戶在某視頻App里點(diǎn)贊了做菜的視頻,系統(tǒng)就會(huì)自動(dòng)給用戶推薦更多的做菜視頻;如果某用戶點(diǎn)贊了某些揭露政府不當(dāng)行為的視頻,那系統(tǒng)也會(huì)繼續(xù)給他推薦更多類似的視頻。由此,用戶看到的永遠(yuǎn)是“自己想看到的”,而并非全面真實(shí)的世界,這種現(xiàn)象被稱為“信息繭房”(information cocoons)。

信息繭房是智慧信息環(huán)境下網(wǎng)絡(luò)用戶的信息窄化和信息極化現(xiàn)象[22]。2006年,凱斯·R.桑斯坦(Cass R.Sunstein)在《信息烏托邦》一書中首次明確描述了這一現(xiàn)象[23]8。另外,“回音室效應(yīng)”(echo chamber)、“圍墻花園”(walled garden)等概念也與該概念的含義相近,指的都是用戶的信息窄化現(xiàn)象。信息繭房的存在給政治生態(tài)帶來諸多危害,并嚴(yán)重侵害公民在認(rèn)知方面的個(gè)人自由。首先,信息繭房使人們只接收到某種政治立場(chǎng)的信息,容易導(dǎo)致公眾的政治分層以及觀點(diǎn)極化。在一個(gè)社會(huì)中,如果不同階層的人都只能接觸到本階層關(guān)注的信息,持不同政治觀點(diǎn)的人只能接收到加強(qiáng)該觀點(diǎn)的信息,那么整個(gè)社會(huì)將產(chǎn)生巨大的政治分歧,甚至引發(fā)政治上的分裂和敵對(duì)。網(wǎng)絡(luò)時(shí)代興起的“民粹主義”就具有這樣的特征。通過網(wǎng)絡(luò)傳播,一些極端政治觀點(diǎn)產(chǎn)生的效應(yīng)不斷增強(qiáng),最終導(dǎo)致政治對(duì)立[24]80-95。美國(guó)哲學(xué)家約翰·羅爾斯(Tohn Rawls)深入闡述了“合理性”(reasonable)的含義:“樂于提出被所有人都視為公平的合作條款,或者當(dāng)這些原則是由別人提出的時(shí)候,他們也樂于加以承認(rèn)?！盵25]14用通俗的話來說,所謂“合理性”就是換位思考,能夠站在對(duì)方的立場(chǎng)上來思考問題并提出對(duì)方可能接受的公平合作條件。在羅爾斯看來,“合理性”是人類社會(huì)能夠?qū)崿F(xiàn)公平合作的人性基礎(chǔ)。然而,數(shù)字社會(huì)中的信息繭房卻嚴(yán)重阻礙了人們站在對(duì)方的立場(chǎng)上思考問題,從而加劇了不同階層之間的分歧。

更嚴(yán)重的是,信息繭房如果被政治權(quán)力所利用,還可能成為操縱民意的工具。2016年美國(guó)大選期間,約8700萬Facebook用戶數(shù)據(jù)被不當(dāng)泄露給政治咨詢公司——?jiǎng)蚍治?該公司利用這些數(shù)據(jù)有針對(duì)性地向網(wǎng)民推薦相關(guān)網(wǎng)絡(luò)內(nèi)容,以幫助特朗普在大選中獲勝。從這一案例來看,數(shù)字技術(shù)的強(qiáng)大使得掌握數(shù)據(jù)和算法的一小撮人擁有了操縱民意的力量。在數(shù)字時(shí)代,人們的所思所想都可能是被塑造的,如果不及時(shí)對(duì)大數(shù)據(jù)應(yīng)用以及算法權(quán)力進(jìn)行約束,那么在未來的政治生活中,政治家可能會(huì)通過平臺(tái)企業(yè)“定制民意”以獲取權(quán)力。到了那時(shí),所謂的自由、平等、民主等政治價(jià)值都將形同虛設(shè),普通人淪為野心政治家的傳聲筒,政治生活則完全蛻變?yōu)闄?quán)力與金錢的游戲。

三、結(jié)語

數(shù)字時(shí)代是一個(gè)機(jī)遇與風(fēng)險(xiǎn)并存的時(shí)代。在數(shù)字社會(huì)中,有兩股力量始終相互沖擊,不斷產(chǎn)生摩擦與矛盾,這就是共享數(shù)據(jù)的傾向與保護(hù)個(gè)人隱私的考慮,兩者構(gòu)成了信息自由與個(gè)人自由的矛盾。在數(shù)字時(shí)代,任何一種數(shù)據(jù)共享(無論是個(gè)人將自己的相關(guān)數(shù)據(jù)接入網(wǎng)絡(luò),還是不同機(jī)構(gòu)之間共享數(shù)據(jù))都將產(chǎn)生新的知識(shí)增長(zhǎng),其帶來利潤(rùn)的同時(shí)也會(huì)給相關(guān)個(gè)人帶來風(fēng)險(xiǎn),使個(gè)人自由受到影響。赫拉利在《未來簡(jiǎn)史》中闡述了數(shù)據(jù)主義關(guān)于“信息自由”的信條:“信息自由流通的權(quán)利應(yīng)該高于人類擁有并限制數(shù)據(jù)流通的權(quán)利,因此可以侵犯到人類傳統(tǒng)的自由。”[7]346赫拉利還引用第一位數(shù)據(jù)主義殉道者艾倫·施瓦茨的話表明了數(shù)據(jù)主義的宗旨:“無論現(xiàn)在信息儲(chǔ)存在何處,我們都必須獲得這些信息,復(fù)制并與全世界分享?！盵7]346從整體上看,數(shù)字治理的諸多好處來自數(shù)據(jù)共享所帶來的效率提高和經(jīng)濟(jì)增長(zhǎng),而其相關(guān)風(fēng)險(xiǎn)則來自個(gè)人隱私泄露所導(dǎo)致的個(gè)人自由的喪失。數(shù)字時(shí)代的主要矛盾是傳統(tǒng)的人文主義信條(個(gè)人自由與平等)與新的數(shù)據(jù)主義信條(信息自由)之間的矛盾,能否把握其中的機(jī)遇,規(guī)避相應(yīng)的風(fēng)險(xiǎn),更有效地保護(hù)個(gè)人權(quán)利,關(guān)鍵在于我們是否能夠設(shè)計(jì)出更好的制度來規(guī)范算法權(quán)力,實(shí)現(xiàn)數(shù)據(jù)自由與個(gè)人自由之間的恰當(dāng)平衡。