王寅輝 張晨

摘要：隨著人工智能的發(fā)展，大數(shù)據(jù)與算法已滲透到人們生活的各個(gè)方面，從便利性的角度而言，它為人們的生活創(chuàng)造了進(jìn)行信息篩選的便捷條件；但從另一個(gè)角度來說，算法使得大眾獲取信息質(zhì)量的差距變得越來越大，人對自身的社會(huì)定位與走向也會(huì)間接受到禁錮，面臨著成為“算法囚徒”的風(fēng)險(xiǎn)。對此，文章采用文獻(xiàn)資料法，從大眾的認(rèn)知、判斷與決策被圍困，勞動(dòng)被操控，隱私被消解這三個(gè)方面展開論述，在正確認(rèn)識算法社會(huì)本質(zhì)的基礎(chǔ)上，分析算法社會(huì)存在的“囚徒”風(fēng)險(xiǎn)，得出規(guī)避算法風(fēng)險(xiǎn)的具體路徑。文章旨在更好地應(yīng)對算法社會(huì)中存在的挑戰(zhàn)，為人們認(rèn)識算法社會(huì)提供一個(gè)新的思路與視角，以此促進(jìn)數(shù)據(jù)算法向更好、更綠色的方向發(fā)展，為人們打造風(fēng)清氣朗的網(wǎng)絡(luò)空間，也使算法與數(shù)據(jù)為受眾提供更健康的系統(tǒng)服務(wù)。

關(guān)鍵詞：智媒時(shí)代；算法社會(huì)；“算法囚徒”；囚徒風(fēng)險(xiǎn)；算法治理路徑

中圖分類號：TP301.6 文獻(xiàn)標(biāo)志碼：A 文章編號：1674-8883（2022）17-0001-03

一、引言

互聯(lián)網(wǎng)作為一種新興技術(shù)，其出現(xiàn)使受眾在信息獲取層面發(fā)生了翻天覆地的變化；在生活層面，人們利用互聯(lián)網(wǎng)技術(shù)的直接鏈接性，產(chǎn)生了線上支付、網(wǎng)上購物等便捷的生活方式。這些借助算法與數(shù)據(jù)產(chǎn)生的新的生活方式，慢慢由影響受眾個(gè)體生活的表層轉(zhuǎn)變?yōu)橹鸩綕B透到社會(huì)運(yùn)作的方方面面，例如“信息繭房”、不同系統(tǒng)的手機(jī)上打車價(jià)錢不統(tǒng)一、大數(shù)據(jù)殺熟等現(xiàn)象，已經(jīng)屢次引起公眾注意。究其本質(zhì)而言，這些事件的背后無一不與算法的運(yùn)作直接掛鉤。數(shù)字化時(shí)代形成的算法系統(tǒng)已潛移默化地將觸角延伸到大眾生活的各個(gè)角落，因此深入了解算法社會(huì)本質(zhì)及其操作調(diào)控所形成的影響具有重要的意義。

當(dāng)前，算法已經(jīng)成為各項(xiàng)新興技術(shù)研發(fā)與成型的血脈，沒有算法的介入，智能技術(shù)便失去了發(fā)展的地基，與時(shí)代發(fā)展潮流相逆。英國文化研究學(xué)者西爾弗斯通認(rèn)為，對技術(shù)的使用是一種馴化的過程，人與技術(shù)兩者是相互建構(gòu)、相互塑造、再造以及相互改變的。數(shù)據(jù)與算法由人創(chuàng)造，給人的生產(chǎn)與生活帶來構(gòu)架上的變革，自然也能反向影響人們的生活規(guī)律，其中最為突出的表現(xiàn)便是帶來了人工智能時(shí)代深刻的“算法焦慮”，甚至對用戶進(jìn)行了更深層次的馴化[1]。大眾生活的各個(gè)領(lǐng)域已經(jīng)呈現(xiàn)出算法是其運(yùn)作的基礎(chǔ)，人們在享受算法帶來的便利的同時(shí)，也必須正視其帶來的風(fēng)險(xiǎn)與挑戰(zhàn)。算法是否會(huì)使人們對信息的思考與行動(dòng)變得狹隘，是否會(huì)使人們陷入“囚徒”的陷阱，這都是目前需要正視的風(fēng)險(xiǎn)問題?；诖?，本文試圖在現(xiàn)有研究成果的基礎(chǔ)上，探究智媒時(shí)代人們被算法圍困的風(fēng)險(xiǎn)，并提出相應(yīng)的對抗風(fēng)險(xiǎn)的基本建設(shè)建議。

二、“算法囚徒”帶來的風(fēng)險(xiǎn)

（一）認(rèn)知、判斷與決策的圍困風(fēng)險(xiǎn)

在互聯(lián)網(wǎng)提供的海量信息空間里，信息充斥在人們生活與工作的各個(gè)領(lǐng)域。面對由個(gè)體組成的大眾，滿足個(gè)人的個(gè)性化信息需求成為當(dāng)下各大信息提供者追求的目標(biāo)。針對現(xiàn)代信息社會(huì)這一典型特征，算法技術(shù)借助信息內(nèi)容個(gè)性化推送的形式呈現(xiàn)出來。這種個(gè)性化推送在滿足大眾信息需求、提供一對一服務(wù)的過程中，也逐步限制了大眾接收信息的范圍與種類，使大眾沉浸在自己所喜愛的信息海洋中，進(jìn)行自我麻醉，放任自我淹沒在表層信息和通俗化娛樂之中，把一些具有實(shí)際效用、繁雜、需要思考的信息拒之門外，從而生活在由自身與算法構(gòu)建的“信息繭房”中，降低人們對信息的敏銳度，容易使個(gè)人在認(rèn)知新事物的基礎(chǔ)階段受到阻礙，逐步弱化思考能力。對此，韓炳哲認(rèn)為，一個(gè)因熟悉事物組成的世界是一個(gè)再無新知可學(xué)的世界。個(gè)性化發(fā)展到極致，就可能會(huì)改變?nèi)藗儗κ澜绾妥约旱恼J(rèn)知。這也是數(shù)字化的全聯(lián)網(wǎng)和全交際并未使人們更容易遇見他者的原因[2]。

個(gè)性化推送看似為人們在超載的信息流中獲取有效信息提供過濾服務(wù)，進(jìn)一步提升了信息處理效率，但從另一方面來看，它在一定程度上也使人們被個(gè)性化服務(wù)“牽著鼻子走”，在已熟知的世界中不斷循環(huán)往復(fù)，無法注入新知。與此同時(shí)，大眾在不斷被單一化的、同性質(zhì)的場域中進(jìn)行談?wù)摚町惢奶嶙h被視為異己，沉默于統(tǒng)一的個(gè)性化環(huán)境里，使得正確、系統(tǒng)的判斷難以形成。現(xiàn)代信息環(huán)境所倡導(dǎo)的信息自由，無疑是希望通過信息的自由流動(dòng)促成不同層次人群之間的信息連接，促進(jìn)各類型的場域之間進(jìn)行對話交流。因此，數(shù)據(jù)與算法的應(yīng)用不應(yīng)陷入某一層面的極端服務(wù)，要保持向個(gè)性化與社會(huì)整合的雙重目標(biāo)同時(shí)前進(jìn)的步調(diào)[3]。

算法技術(shù)的應(yīng)用不僅會(huì)影響大眾對信息的認(rèn)知與判斷，同時(shí)其影響也深刻地體現(xiàn)在一些行業(yè)的決策當(dāng)中。在內(nèi)容生產(chǎn)方面，算法通過計(jì)算得出的排行榜、熱搜榜等榜單在某種意義上決定了內(nèi)容生產(chǎn)者未來的生產(chǎn)方向和相關(guān)主題[4]。伴隨著算法技術(shù)的不斷發(fā)展，在就業(yè)、生產(chǎn)與消費(fèi)等領(lǐng)域的重要決策都可能會(huì)受到算法的影響。

從認(rèn)知、行為與判斷這三個(gè)層面來看，算法是一把“雙刃劍”，一方面，它能夠立足于過去，對現(xiàn)在以及未來的需求進(jìn)行數(shù)據(jù)性分析，提供最優(yōu)質(zhì)的服務(wù)；另一方面，算法能夠提供多大程度的便捷，便會(huì)促使大眾出現(xiàn)相應(yīng)程度的惰性與禁錮。由此，大眾便會(huì)逐步困于算法陷阱當(dāng)中，弱化自身思考的能動(dòng)性，無法真正勘破存在于屏幕背后的算法規(guī)則，進(jìn)而淪為算法的“囚徒”。

（二）勞動(dòng)的被操縱風(fēng)險(xiǎn)

數(shù)字經(jīng)濟(jì)的發(fā)展帶動(dòng)經(jīng)濟(jì)社會(huì)發(fā)生了一系列的變化，伴隨數(shù)字技術(shù)在各個(gè)領(lǐng)域的廣泛應(yīng)用，數(shù)字勞動(dòng)作為一種新型勞動(dòng)形式應(yīng)運(yùn)而生。人們被日益量化的評價(jià)機(jī)制捆綁，如外賣平臺利用送餐時(shí)間、顧客滿意度等束縛外賣騎手逐漸陷入對自我的規(guī)訓(xùn)，收集與分析騎手?jǐn)?shù)據(jù)，并將結(jié)果反作用于騎手以形成勞動(dòng)秩序[5]。由此可見，平臺算法在對數(shù)字勞動(dòng)群體的影響中也扮演了重要的角色。算法不僅局限于勞動(dòng)層面，平臺利用算法機(jī)制要求外賣員必須以良好的服務(wù)態(tài)度來凸顯消費(fèi)者的地位，并將評價(jià)決策權(quán)交到了消費(fèi)者手中，使外賣員隨時(shí)面臨被監(jiān)管、被投訴的可能，進(jìn)一步實(shí)現(xiàn)對其勞動(dòng)的規(guī)訓(xùn)[6]。

消費(fèi)者看似擁有了至高無上的“權(quán)力”，實(shí)際上是將平臺與騎手之間的矛盾悄無聲息地轉(zhuǎn)嫁到用戶與騎手之間[7]，這一點(diǎn)從近些年頻頻出現(xiàn)的外賣員由于害怕超時(shí)被打差評而出現(xiàn)意外的各種案例中就可以看出，平臺挑起了矛盾卻躲在背后，讓外賣員與消費(fèi)者承擔(dān)后果。與傳統(tǒng)勞動(dòng)相比，數(shù)字勞動(dòng)的克扣更加隱蔽，它更傾向于在不施加任何外力壓迫的情況下實(shí)現(xiàn)勞動(dòng)者自己對自我的不斷規(guī)訓(xùn)。

作為一種新型勞動(dòng)形式，數(shù)字勞動(dòng)不像傳統(tǒng)勞動(dòng)那么具體，它沒有實(shí)際的形狀和感覺，因而不易察覺。在功績社會(huì)中，功績主體處于一種強(qiáng)制的自由狀態(tài)，自由與約束同時(shí)體現(xiàn)在他們身上。因此，數(shù)字勞動(dòng)的異化在所難免。勞動(dòng)異化的過程也就是勞動(dòng)者實(shí)現(xiàn)對自我的規(guī)訓(xùn)、逐漸喪失主體地位的過程。如近些年常常聽到的一個(gè)熱詞“內(nèi)卷”，在超訓(xùn)社會(huì)中人們以一種過度積極的狀態(tài)投入歇斯底里的工作之中，勞動(dòng)主體既是“主人”也是普通勞動(dòng)者，因此，在沒有外界刺激的情況下，人們也能照常進(jìn)行規(guī)訓(xùn)。

在抖音、快手等短視頻平臺，算法通過點(diǎn)贊、轉(zhuǎn)發(fā)量來激勵(lì)用戶進(jìn)行內(nèi)容生產(chǎn)，并把這些數(shù)據(jù)納入量化評價(jià)體系，無形之中實(shí)現(xiàn)了對用戶的規(guī)訓(xùn)。最初用戶是在閑暇之余，在分享欲的推動(dòng)下進(jìn)行內(nèi)容生產(chǎn)，而后在平臺算法的規(guī)訓(xùn)下，內(nèi)容生產(chǎn)者在各種榜單數(shù)據(jù)、流量的刺激下不斷進(jìn)行更新創(chuàng)作，娛樂時(shí)間與工作時(shí)間難以區(qū)分，這也是數(shù)字勞動(dòng)的一個(gè)顯著特點(diǎn)。進(jìn)入超資本主義時(shí)代后，資本家不再通過強(qiáng)制手段剝削勞動(dòng)者，而是采用一種更加隱蔽的方式讓他們主動(dòng)將個(gè)人休閑時(shí)間異化為資本積累的時(shí)間。

由此可見，勞動(dòng)者并沒有從過去的資本壓力中解放，算法只是將其隱藏在平臺背后，并且較之前的程度更甚。勞動(dòng)者被算法制定的評價(jià)機(jī)制束縛，真正成為一個(gè)“勞動(dòng)‘囚徒”。

（三）隱私的消解風(fēng)險(xiǎn)

大數(shù)據(jù)時(shí)代，人們生活的各個(gè)細(xì)節(jié)都處于平臺算法的計(jì)算之中，這帶來的一個(gè)重要影響便是個(gè)體喪失了主體判斷與選擇的權(quán)力和能力，逐步淪為數(shù)據(jù)算法的“奴隸”。隨著手機(jī)等移動(dòng)終端設(shè)備的普及，人們可以隨時(shí)隨地分享個(gè)人觀點(diǎn)及日常生活，于是對個(gè)人隱私泄露問題的關(guān)注度日益上升。在人們追求個(gè)性化的需求之下，平臺算法不斷迭代更新，與此相關(guān)的竊取個(gè)人數(shù)據(jù)隱私的手段越來越隱蔽，個(gè)體在獲得個(gè)性化體驗(yàn)的同時(shí)也面臨一定的隱私消解風(fēng)險(xiǎn)。在央視3·15晚會(huì)上，大量有關(guān)網(wǎng)絡(luò)安全隱私的問題被曝光，如智聯(lián)招聘、獵聘等招聘平臺并未采取有效手段保護(hù)求職者的個(gè)人信息，導(dǎo)致大量簡歷流入不法分子手中，這些侵權(quán)問題的背后暴露出的是商業(yè)平臺運(yùn)行的霸權(quán)邏輯，而這套邏輯之所以成立，或許與現(xiàn)代人的全面數(shù)字化有關(guān)。

一般來說，平臺收集的“用戶數(shù)據(jù)”是指“人”產(chǎn)生的數(shù)據(jù)，但如今平臺的數(shù)據(jù)搜集手段已經(jīng)不再僅僅局限于“人”，與用戶相關(guān)的各種物體甚至環(huán)境都可以成為用戶畫像分析的重要依據(jù)。人們對健康生活的追求催生了智能體脂秤、智能手環(huán)等穿戴設(shè)備，這些設(shè)備通過傳感器貼身記錄人體的各項(xiàng)隱私數(shù)據(jù)，對個(gè)人數(shù)據(jù)的采集更加深入，一些人們不愿意暴露在外的身高、體重、疾病等隱私數(shù)據(jù)都可以被采集到。至此平臺對用戶的個(gè)人畫像數(shù)據(jù)更加豐富多元，對個(gè)人畫像的準(zhǔn)確度也大大提高，人們的個(gè)性化體驗(yàn)越來越好，但這也意味著個(gè)人隱私數(shù)據(jù)的保護(hù)面臨巨大的風(fēng)險(xiǎn)挑戰(zhàn)。

智媒時(shí)代，個(gè)體享受的數(shù)據(jù)便利與算法帶來的各種風(fēng)險(xiǎn)是協(xié)同而來的。人們要想獲得更加精確的個(gè)性化服務(wù)，就必須出讓自己的部分?jǐn)?shù)據(jù)，甚至需要將自己進(jìn)行一定程度的數(shù)據(jù)化。隨著對個(gè)體隱私權(quán)利的關(guān)注度不斷升高，有關(guān)個(gè)體隱私權(quán)和被遺忘權(quán)的討論也被提上日程。當(dāng)人們醉心于數(shù)據(jù)算法帶來的巨大便利的時(shí)候，往往會(huì)忽略其中隱藏的隱私泄露風(fēng)險(xiǎn)，很多用戶在數(shù)據(jù)隱私的保護(hù)方面越來越力不從心，權(quán)利的讓渡似乎是必然的選項(xiàng)。算法收集的海量數(shù)據(jù)確實(shí)為人們的日常生活提供了便利，但其背后蘊(yùn)藏的風(fēng)險(xiǎn)也悄無聲息地入侵了人們的生活，而個(gè)體可能感知不了這些風(fēng)險(xiǎn)的存在。大多數(shù)人對自身所擁有的各項(xiàng)數(shù)據(jù)權(quán)利并不清楚，即使他們認(rèn)識到數(shù)據(jù)的被遺忘權(quán)，也并不能阻攔數(shù)據(jù)最后的泄露，依靠個(gè)體的力量與算法平臺對抗無異于螳臂當(dāng)車。平臺運(yùn)用強(qiáng)制手段將個(gè)體數(shù)據(jù)化，以此來為個(gè)體提供個(gè)性化服務(wù)甚至成為當(dāng)今算法社會(huì)的普遍事實(shí)。

由此可見，算法已經(jīng)滲透到人們生活的各個(gè)方面，人們對外界事物的認(rèn)知都依賴于算法，人們已經(jīng)生活在一個(gè)由算法建構(gòu)的世界之中。算法決定了個(gè)人認(rèn)識世界的寬度與廣度。不斷優(yōu)化更新的算法在無形之中控制了人們的決策活動(dòng)，并促使個(gè)體投入更深層的自我剝削。人的隱私也在算法的入侵下不斷消解。

三、對抗風(fēng)險(xiǎn)的基本建設(shè)

（一）加強(qiáng)數(shù)據(jù)建設(shè)，提升用戶素養(yǎng)

在現(xiàn)代化的信息數(shù)據(jù)建設(shè)與推送過程中，新媒體借此形成的個(gè)性化推送模式，為使用媒介的大眾量身定制了一套獨(dú)屬于個(gè)體的信息數(shù)據(jù)整合流程。其主要作用是在一定程度上提升大眾對信息獲取與處理的效率，因此也就對大眾自身所需要具備的數(shù)據(jù)素養(yǎng)提出了更高的要求。

如果作為獲取信息便利的受益者，在提高數(shù)據(jù)素養(yǎng)方面的意識較弱，便會(huì)過度沉溺于信息洪流的表面，將自身禁錮在單一個(gè)性化的信息牢籠里，對事物的綜合認(rèn)知與處理產(chǎn)生偏差。

因此，受眾在接收媒介傳播與推送信息的同時(shí)，要有對信息進(jìn)行深層梳理與思考的意識和習(xí)慣，不能僅僅停留于所接觸內(nèi)容的表面。此外，在個(gè)性化的信息數(shù)據(jù)推送模式下，受眾也要具備接觸多類型、多角度內(nèi)容的了解能力，保證自身對信息的了解是系統(tǒng)全面的。只有在此情況下，大眾才能真正發(fā)揮算法數(shù)據(jù)的正確效用，把握正確利用信息的方向，對數(shù)據(jù)進(jìn)行更深層次的挖掘。

（二）平臺遵守相關(guān)法律法規(guī)，完善隱私安全保護(hù)機(jī)制

面對全社會(huì)對數(shù)據(jù)安全保護(hù)的訴求，平臺作為控制算法運(yùn)行的主導(dǎo)者，應(yīng)主動(dòng)承擔(dān)起社會(huì)責(zé)任，遵守相應(yīng)的網(wǎng)絡(luò)安全法與隱私保護(hù)條例?？梢匝埖谌桨踩u測機(jī)構(gòu)定期進(jìn)行檢查，查漏補(bǔ)缺，并重視對個(gè)人數(shù)據(jù)庫的維護(hù)。與此同時(shí)，平臺也要加強(qiáng)內(nèi)部管控，開展全平臺數(shù)據(jù)安全培訓(xùn)，對用戶敏感信息進(jìn)行加密處理，提高網(wǎng)絡(luò)安全防護(hù)能力。

（三）政府加大平臺監(jiān)管力度，加強(qiáng)信息倫理規(guī)范

在數(shù)字技術(shù)蓬勃發(fā)展的今天，人們的數(shù)據(jù)隱私安全問題日益凸顯，出讓隱私以換取便利的情況越來越普遍，因此制定適當(dāng)?shù)男畔惱硪?guī)范是很有必要的。信息科技時(shí)代，誰掌握了信息，誰就能主導(dǎo)發(fā)展，對數(shù)據(jù)安全的保護(hù)甚至比技術(shù)更加重要。政府應(yīng)當(dāng)制定并采取相應(yīng)的監(jiān)管措施，對平臺濫用、出賣用戶信息的行為進(jìn)行監(jiān)督，切實(shí)保護(hù)好人們的數(shù)據(jù)隱私。在新出臺的《中華人民共和國民法典》第六章“隱私權(quán)和個(gè)人信息保護(hù)”中，針對個(gè)人信息主體的權(quán)利和信息處理的安全與保密都給出了新的規(guī)定。通過法律手段來約束治理數(shù)據(jù)隱私泄露或?yàn)E用的問題是有效的。

四、結(jié)語

算法數(shù)據(jù)的廣泛應(yīng)用為各主體按照大眾的喜好進(jìn)行信息推送創(chuàng)造了極大的便利條件。在以后算法技術(shù)運(yùn)作的過程中，要正確認(rèn)識算法的獨(dú)特優(yōu)勢，更要認(rèn)清隱藏在算法背后的風(fēng)險(xiǎn)挑戰(zhàn)。對此，要從受眾、平臺與政府三個(gè)方面進(jìn)行適當(dāng)?shù)囊?guī)范與管制，才能充分發(fā)揮算法技術(shù)的效用，創(chuàng)造一個(gè)健康的算法社會(huì)。

參考文獻(xiàn)：

[1] 蔣曉麗，鐘棣冰.智能傳播時(shí)代人與算法技術(shù)的關(guān)系交迭[J].新聞界，2022（1）：118-126.

[2] 韓炳哲.他者的消失[M].北京：中信出版集團(tuán)，2019：4-5.

[3] 彭蘭.算法社會(huì)的“囚徒”風(fēng)險(xiǎn)[J].全球傳媒學(xué)刊，2021，8（1）：3-18.

[4] 黃淼，黃佩.算法馴化：個(gè)性化推薦平臺的自媒體內(nèi)容生產(chǎn)網(wǎng)絡(luò)及其運(yùn)作[J].新聞大學(xué)，2020（1）：15-28，125.

[5] 陳龍.“數(shù)字控制”下的勞動(dòng)秩序：外賣騎手的勞動(dòng)控制研究[J].社會(huì)學(xué)研究，2020，35（6）：113-135，244.

[6] 孫萍.“算法邏輯”下的數(shù)字勞動(dòng)：一項(xiàng)對平臺經(jīng)濟(jì)下外賣送餐員的研究[J].思想戰(zhàn)線，2019，45（6）：50-57.

[7] 劉戰(zhàn)偉，李嬡嬡，劉蒙之.平臺化、數(shù)字靈工與短視頻創(chuàng)意勞動(dòng)者：一項(xiàng)勞動(dòng)控制研究[J].新聞與傳播研究，2021，28（7）：42-58，127.

作者簡介 王寅輝，碩士在讀，研究方向：媒介經(jīng)營與管理。張晨，碩士在讀，研究方向：媒介經(jīng)營與管理、戰(zhàn)略傳播。