陶賢都　趙彤

【內(nèi)容提要】算法自身所存在的缺陷以及算法濫用等問(wèn)題影響了互聯(lián)網(wǎng)信息傳播秩序，對(duì)互聯(lián)網(wǎng)信息安全以及網(wǎng)民正當(dāng)權(quán)益的維護(hù)帶來(lái)挑戰(zhàn)。從技術(shù)——用戶(hù)互構(gòu)的視角出發(fā)，通過(guò)探究算法與用戶(hù)的屬性、主體、社會(huì)性、權(quán)力等四種形式的互構(gòu)機(jī)制，發(fā)現(xiàn)在雙方互構(gòu)的過(guò)程中，用戶(hù)思想機(jī)械化、算法黑箱等安全風(fēng)險(xiǎn)破壞了算法與用戶(hù)互構(gòu)的平衡狀態(tài)。因此，互聯(lián)網(wǎng)算法治理，需要從維護(hù)算法與用戶(hù)互構(gòu)平衡的治理角度出發(fā)，在技術(shù)控制權(quán)與個(gè)體能動(dòng)性間尋求平衡狀態(tài)。

【關(guān)鍵詞】算法? 安全風(fēng)險(xiǎn)? 互構(gòu)? 用戶(hù)屬性

隨著互聯(lián)網(wǎng)信息服務(wù)算法運(yùn)用領(lǐng)域不斷拓寬、運(yùn)用程度不斷加深，其在信息精準(zhǔn)傳播和促進(jìn)數(shù)字經(jīng)濟(jì)發(fā)展等諸多方面發(fā)揮著日益重要的作用。與此同時(shí)，算法帶來(lái)的安全風(fēng)險(xiǎn)問(wèn)題也逐漸引起了公眾的警惕。對(duì)于算法的安全風(fēng)險(xiǎn)問(wèn)題和治理，單純從算法自身出發(fā)，難以找到有效的路徑。實(shí)際上，互聯(lián)網(wǎng)算法并非僅是技術(shù)問(wèn)題，而是技術(shù)與人的互構(gòu)問(wèn)題?；?gòu)是雙方互相建構(gòu)、彼此協(xié)調(diào)的過(guò)程，是對(duì)參與互構(gòu)主體間的關(guān)系的本質(zhì)刻畫(huà)，是各主體通過(guò)力量對(duì)比形塑各自的形態(tài)，并在各自形態(tài)塑造的基礎(chǔ)上，形成一個(gè)穩(wěn)定的機(jī)制或體制。[1]互構(gòu)論是一種關(guān)系視角，為本文的研究提供了重要的視角和思路，本文從技術(shù)與用戶(hù)互構(gòu)的視角出發(fā)，闡釋算法應(yīng)用中生成的安全風(fēng)險(xiǎn)，并在此基礎(chǔ)上提供算法治理的建議。

一、互聯(lián)網(wǎng)算法與用戶(hù)的互構(gòu)機(jī)制

“技術(shù)是社會(huì)互動(dòng)的媒介，技術(shù)通過(guò)互動(dòng)的社會(huì)行動(dòng)者改變行動(dòng)者，也在行動(dòng)者互動(dòng)的過(guò)程中得到改變”。[2] 分析互聯(lián)網(wǎng)算法應(yīng)用中生成的安全風(fēng)險(xiǎn)問(wèn)題，首先需要理清算法與用戶(hù)之間的互構(gòu)機(jī)制，才能更為清晰地認(rèn)識(shí)互聯(lián)網(wǎng)算法應(yīng)用中所出現(xiàn)的安全風(fēng)險(xiǎn)。算法是包含一系列復(fù)雜的數(shù)學(xué)規(guī)則，能通過(guò)預(yù)先設(shè)定的步驟解決特定問(wèn)題的計(jì)算機(jī)程序[3]，由于算法與用戶(hù)之間的互構(gòu)關(guān)系，使得算法安全問(wèn)題顯得十分復(fù)雜。一方面，由于算法的基本流程為輸入數(shù)據(jù)與指令、運(yùn)算處理和結(jié)果輸出，也就是說(shuō)，算法技術(shù)要以數(shù)據(jù)的獲取輸入為基礎(chǔ)，沒(méi)有數(shù)據(jù)，也就沒(méi)有算法，盡可能多的數(shù)據(jù)，可以幫助算法的結(jié)果盡可能準(zhǔn)確，因此，互聯(lián)網(wǎng)信息服務(wù)算法提供服務(wù)，需要以收集用戶(hù)的個(gè)人數(shù)據(jù)作為前提和基礎(chǔ)，并且獲取到的數(shù)據(jù)越多，算法提供的服務(wù)也能越精準(zhǔn)；另一方面，用戶(hù)為了獲得算法提供的內(nèi)容推薦與信息服務(wù)，期望算法提供的內(nèi)容與服務(wù)能更加貼合自身的興趣點(diǎn)、精準(zhǔn)滿(mǎn)足自身的需求，就需要向算法平臺(tái)提供個(gè)人的數(shù)據(jù)信息，讓渡自身的部分隱私權(quán)，以幫助算法平臺(tái)進(jìn)行用戶(hù)畫(huà)像，并且提供的數(shù)據(jù)信息越多、越全面，算法平臺(tái)的用戶(hù)畫(huà)像就能越精準(zhǔn)、越完善，從而用戶(hù)得到的算法服務(wù)質(zhì)量就越高。按照互構(gòu)論的觀(guān)點(diǎn)，技術(shù)與其使用者都存在著某些維度上的剛性與彈性，互構(gòu)體現(xiàn)在技術(shù)與技術(shù)應(yīng)用主體在剛性層面的非沖突與彈性層面的相容。[4]具體到算法與用戶(hù)的互構(gòu)而言，算法與用戶(hù)存在四方面的互構(gòu)。

（一）屬性的互構(gòu)

在算法與用戶(hù)互構(gòu)的過(guò)程中，算法逐漸表現(xiàn)出“人性化”的屬性特征，而用戶(hù)呈現(xiàn)出“機(jī)械性”的屬性趨勢(shì)，算法與用戶(hù)間出現(xiàn)屬性上的互構(gòu)形式。呂尚彬與黃榮認(rèn)為，數(shù)據(jù)爆炸之下的人正在變成機(jī)器，掌握巨量數(shù)據(jù)的機(jī)器正在變成人[5]，這一論斷雖稍顯激進(jìn)，但卻不無(wú)道理，在算法技術(shù)與用戶(hù)的互構(gòu)關(guān)系中同樣有所體現(xiàn)：隨著用戶(hù)向算法平臺(tái)提供的數(shù)據(jù)不斷增多，他們會(huì)發(fā)現(xiàn)，算法越來(lái)越懂得用戶(hù)的個(gè)性與興趣點(diǎn)，提供的信息、做出的決策越來(lái)越符合用戶(hù)自身的需求，即越來(lái)越“人性化”。而用戶(hù)更加依賴(lài)算法，所接觸的信息、所做出的行動(dòng)不是依據(jù)自身的主觀(guān)判斷，而是依據(jù)算法技術(shù)，也即人們的行為更加“機(jī)械化”。從這個(gè)角度來(lái)講，在算法技術(shù)廣泛運(yùn)用的當(dāng)下，人與算法正在進(jìn)行著屬性上的互構(gòu)，即人越來(lái)越像機(jī)器，而機(jī)器更有了人類(lèi)的屬性特征。

（二）主體的互構(gòu)

算法與用戶(hù)間存在著互為主體的關(guān)系。主體性來(lái)自于個(gè)體在與世界交互的過(guò)程中，在自我理性的作用下，能動(dòng)地作用于客體。而在當(dāng)前的智能傳播時(shí)代，人的主體性地位受到了挑戰(zhàn)，人不再是主體性的唯一個(gè)體，算法不再僅是客體，同時(shí)也具備了主體性。我們通常認(rèn)為，是人在使用算法，利用算法幫助自身實(shí)現(xiàn)既定目標(biāo)，因此用戶(hù)是主體，算法是用戶(hù)能動(dòng)性發(fā)揮的客體；但如果站在算法的角度看問(wèn)題，又會(huì)有不一樣的結(jié)論：深度學(xué)習(xí)算法通過(guò)不斷獲取用戶(hù)數(shù)據(jù)，使自身提供的信息與決策服務(wù)更加精準(zhǔn)化、個(gè)性化，因此用戶(hù)樂(lè)于接受算法提供的各項(xiàng)服務(wù)，將算法技術(shù)看作是自身的“合作伙伴”，依照算法的“要求”進(jìn)行各項(xiàng)行動(dòng)。這樣來(lái)看，算法技術(shù)又成為了主體，而用戶(hù)成為被算法“指揮”、依據(jù)算法的要求行動(dòng)的客體，如此相互作用，形成了算法與用戶(hù)主體上的互構(gòu)過(guò)程。

（三）社會(huì)性的互構(gòu)

在社會(huì)各領(lǐng)域，被廣泛運(yùn)用的算法能夠幫助用戶(hù)在網(wǎng)絡(luò)世界中完成個(gè)體社會(huì)性的建構(gòu)，加速地緣、業(yè)緣群體的形成，擴(kuò)大社會(huì)網(wǎng)絡(luò)的半徑。[6]也就是說(shuō)，算法通過(guò)分析用戶(hù)的各種數(shù)據(jù)、歷史行為等來(lái)幫助用戶(hù)建構(gòu)自身在網(wǎng)絡(luò)中的社會(huì)關(guān)系，幫助用戶(hù)在互聯(lián)網(wǎng)環(huán)境中建立起人與人之間的聯(lián)系，從而提升個(gè)體在網(wǎng)絡(luò)世界中的社會(huì)融入感；與此同時(shí)，算法在社會(huì)生活的各個(gè)領(lǐng)域中得到了更加廣泛的應(yīng)用。算法與人不是平行線(xiàn)，而是相交線(xiàn)。算法不再是冰冷的技術(shù)，也不是所謂的客觀(guān)中立的技術(shù)，而是通過(guò)與用戶(hù)相交，具備了社會(huì)性特征。算法與用戶(hù)的社會(huì)性互構(gòu)，使得算法與社會(huì)勾連，從而為算法的安全帶來(lái)風(fēng)險(xiǎn)隱患。

（四）權(quán)力的互構(gòu)

在算法與用戶(hù)互構(gòu)的過(guò)程中，雙方權(quán)力的互構(gòu)是較為明顯的，一方面，基于算法的運(yùn)行邏輯，用戶(hù)想要獲得算法服務(wù)必須提供個(gè)人的隱私數(shù)據(jù)，以幫助算法完成較為精準(zhǔn)的用戶(hù)畫(huà)像，因此，用戶(hù)需要將自身的部分隱私權(quán)、決策權(quán)與信息支配權(quán)讓渡給算法平臺(tái)；另一方面，作為收集隱私數(shù)據(jù)的交換，算法技術(shù)需要交由用戶(hù)自身的使用權(quán)，并且，為了使用戶(hù)能夠放心將隱私數(shù)據(jù)交由算法平臺(tái)，平臺(tái)還需要將一部分監(jiān)督權(quán)交由用戶(hù)，由用戶(hù)監(jiān)督算法的正常合理運(yùn)用。

但是，在算法與用戶(hù)互構(gòu)過(guò)程中，算法面對(duì)的是分散個(gè)體的“剛性”，相較于有組織的機(jī)構(gòu)或者群體，在面對(duì)算法技術(shù)時(shí)，個(gè)體的“剛性”將更難以堅(jiān)持，換句話(huà)說(shuō)，在算法與用戶(hù)互構(gòu)的過(guò)程中，算法技術(shù)幾乎不需要迎合用戶(hù)的要求去改變自身，相反，為了得到便利的算法服務(wù)，用戶(hù)需要在一定程度上改變自身，讓渡自身的部分隱私權(quán)和決策控制權(quán)，以迎合算法邏輯。“用戶(hù)需要適配算法技術(shù)”本身不存在大的風(fēng)險(xiǎn)，但以目前互聯(lián)網(wǎng)信息服務(wù)算法的發(fā)展情況來(lái)看，由于算法目前存在算法黑箱、算法歧視等問(wèn)題，且算法運(yùn)用過(guò)程中存在錯(cuò)用、濫用等不當(dāng)現(xiàn)象，在用戶(hù)適配算法技術(shù)的過(guò)程中，用戶(hù)常常感到自身的隱私權(quán)遭到過(guò)度侵犯、算法提供的服務(wù)含有或顯性或隱性的偏見(jiàn)歧視等，使得算法運(yùn)用產(chǎn)生不可忽視的安全風(fēng)險(xiǎn)，算法與用戶(hù)的互構(gòu)呈現(xiàn)不平衡的狀態(tài)，下文將具體探討在算法與用戶(hù)的互構(gòu)過(guò)程中，算法生成的安全風(fēng)險(xiǎn)。

二、互構(gòu)視域下互聯(lián)網(wǎng)算法安全風(fēng)險(xiǎn)的生成

算法與用戶(hù)的互構(gòu)中隱藏著嚴(yán)重的安全風(fēng)險(xiǎn)問(wèn)題。算法的本質(zhì)在于人機(jī)交互決策，因此算法不同于純粹的科學(xué)或工具。互聯(lián)網(wǎng)信息服務(wù)算法并不是價(jià)值中立的，且人們?cè)趹?yīng)用算法的過(guò)程中存在著不合理行為，這是算法安全風(fēng)險(xiǎn)生成的兩個(gè)主要原因。

（一）算法濫用：用戶(hù)思想的機(jī)械化

算法濫用的現(xiàn)象主要體現(xiàn)在兩個(gè)方面，一則，一些資本及不良企業(yè)利用算法過(guò)度占有用戶(hù)的隱私數(shù)據(jù)，利用個(gè)人隱私數(shù)據(jù)謀取利益，或者利用算法進(jìn)行不良的市場(chǎng)競(jìng)爭(zhēng)，排擠競(jìng)爭(zhēng)對(duì)手，造成市場(chǎng)秩序紊亂；二則，部分用戶(hù)出于“圖方便”的惰性心理，過(guò)度依賴(lài)算法提供的決策與服務(wù)，以致技術(shù)理性取代人的理性，這對(duì)個(gè)人思考能力、決策能力、行動(dòng)能力的提高都是極為不利的。

算法濫用可能造成嚴(yán)重的安全風(fēng)險(xiǎn)問(wèn)題。購(gòu)物交易平臺(tái)濫用算法，很可能出現(xiàn)極嚴(yán)重的“大數(shù)據(jù)殺熟”現(xiàn)象，導(dǎo)致交易不公，侵犯買(mǎi)賣(mài)雙方的正當(dāng)權(quán)益，破壞正常的市場(chǎng)秩序；新聞推送平臺(tái)濫用算法，一味根據(jù)用戶(hù)的興趣喜好推薦內(nèi)容，很容易導(dǎo)致主流媒體的報(bào)道內(nèi)容被埋沒(méi)，主流意識(shí)形態(tài)的影響力、引導(dǎo)力、凝聚力下降，不利于形成良性的社會(huì)共識(shí)，不利于社會(huì)主義核心價(jià)值觀(guān)的確立，同時(shí)，由于每個(gè)人都存在不同的價(jià)值取向與觀(guān)念傾向，如果算法只推薦符合用戶(hù)自身認(rèn)知的內(nèi)容，用戶(hù)無(wú)法接觸到與自身觀(guān)點(diǎn)相左的內(nèi)容，信息繭房困境凸顯，用戶(hù)自我封閉現(xiàn)象和信息窄化行為的發(fā)生，容易導(dǎo)致價(jià)值分化、群體極化，不利于社會(huì)的穩(wěn)定和諧，此外，不良勢(shì)力也可能利用算法進(jìn)行信息操縱，導(dǎo)致公眾輿論風(fēng)險(xiǎn)；信息決策平臺(tái)濫用算法，技術(shù)理性躍于人的理性之上，做出的決策符合技術(shù)邏輯，卻不一定符合人的價(jià)值邏輯、情感邏輯，如果完全由算法代替人來(lái)決策，這樣的決策或許是理性的、科學(xué)的，但也是冰冷的、無(wú)情的，同時(shí)，如果過(guò)于依賴(lài)算法提供的決策服務(wù)，人的自主選擇決策能力下降，不利于人的可持續(xù)發(fā)展。

算法濫用可能造成算法與用戶(hù)在屬性的互構(gòu)過(guò)程中，人的過(guò)度“機(jī)械化”，也即用戶(hù)過(guò)于依賴(lài)算法提供的信息與決策服務(wù)，從而喪失人的能動(dòng)性，不依據(jù)自身的主觀(guān)思考與判斷能力，而是完全依靠算法提供的各項(xiàng)服務(wù)，這種缺乏自主判斷而完全依賴(lài)技術(shù)的行為，不論是對(duì)用戶(hù)個(gè)人的發(fā)展，還是對(duì)整個(gè)社會(huì)的進(jìn)一步發(fā)展都存在不良影響。

（二）算法上癮：用戶(hù)行為的機(jī)械化

互聯(lián)網(wǎng)空間包含著海量的內(nèi)容，用戶(hù)如何在其中找到感興趣的內(nèi)容，就是算法在發(fā)揮作用。算法通過(guò)搜集用戶(hù)的信息，從而推送用戶(hù)感興趣的內(nèi)容，使得用戶(hù)沉溺于算法推送的各種信息。短視頻平臺(tái)是算法應(yīng)用而導(dǎo)致用戶(hù)上癮的典型互聯(lián)網(wǎng)平臺(tái)。操作便捷、觀(guān)看時(shí)間短、視頻內(nèi)容豐富多樣等優(yōu)勢(shì)使得短視頻本身便具有令人沉迷上癮的可能，基于個(gè)性化內(nèi)容定制的內(nèi)容推薦算法更加劇了人們刷短視頻上癮沉迷的現(xiàn)象，人們會(huì)發(fā)現(xiàn)，越刷短視頻，平臺(tái)推薦的內(nèi)容就越符合自身的興趣點(diǎn)，越契合自身的觀(guān)看喜好，就越無(wú)法停止繼續(xù)刷視頻，于是花費(fèi)在短視頻平臺(tái)上的時(shí)間也就越長(zhǎng)。盡管豐富多彩的短視頻內(nèi)容能幫助人們開(kāi)拓視野、增長(zhǎng)見(jiàn)識(shí)，但算法上癮問(wèn)題，不僅會(huì)令人們浪費(fèi)大量的時(shí)間，在身體健康方面也會(huì)造成不良的影響。

如果說(shuō)算法濫用問(wèn)題會(huì)造成算法與用戶(hù)在屬性的互構(gòu)過(guò)程中，人的思想“機(jī)械化”，那么算法上癮問(wèn)題則會(huì)更多地造成用戶(hù)在行為上的“機(jī)械化”。很多時(shí)候，人們?cè)谒⒍桃曨l時(shí)會(huì)感到自身的行為被“操縱”，手指機(jī)械般地不停刷視頻，空閑甚至忙碌的時(shí)候也會(huì)控制不住地打開(kāi)短視頻平臺(tái)刷視頻，這就是對(duì)算法提供的內(nèi)容信息服務(wù)上癮的表現(xiàn)，而這一現(xiàn)象可能造成用戶(hù)個(gè)人極大的時(shí)間浪費(fèi)問(wèn)題，拉低用戶(hù)的學(xué)習(xí)、工作效率。

（三）算法黑箱：破壞互構(gòu)平衡狀態(tài)

由于透明度低、公開(kāi)化程度低、可解釋性弱的技術(shù)問(wèn)題，一般網(wǎng)民難以理解它算法的邏輯或其決策機(jī)制，從而形成算法黑箱問(wèn)題。一方面，考慮到企業(yè)與算法平臺(tái)需要保護(hù)自身的商業(yè)秘密與維護(hù)算法知識(shí)產(chǎn)權(quán)，出于保證自身合法權(quán)益不受侵犯的需要，算法的運(yùn)算技術(shù)和原理難以完全公開(kāi)，以防止算法技術(shù)被其他企業(yè)竊取，給企業(yè)的正當(dāng)權(quán)益帶來(lái)?yè)p害，因此算法不透明性、公開(kāi)化程度低的問(wèn)題難以調(diào)和；另一方面，大數(shù)據(jù)時(shí)代，為了提高算法的準(zhǔn)確性，算法的復(fù)雜性往往會(huì)加強(qiáng)，對(duì)于算法如何真正運(yùn)行，專(zhuān)家甚至無(wú)法完全理解，更遑論普通人，從這一點(diǎn)上看，算法技術(shù)可解釋性弱的特點(diǎn)，使得算法公開(kāi)的的難度進(jìn)一步加深，算法黑箱問(wèn)題難以得到解決。

算法黑箱造成了很大的安全風(fēng)險(xiǎn)問(wèn)題。算法的運(yùn)用領(lǐng)域之廣，這也意味著算法黑箱所涉及的領(lǐng)域也越來(lái)越大，這首先極大地侵犯了我們的知情權(quán)——我們利用算法技術(shù)獲取信息、利用算法為我們的衣食住行各個(gè)方面提供決策，而我們甚至對(duì)算法向我們提供服務(wù)的邏輯程序一無(wú)所知；其次，算法黑箱威脅著我們的隱私權(quán)，為了獲取更高質(zhì)量的服務(wù)，我們不斷向算法提供個(gè)人的隱私數(shù)據(jù)、讓渡個(gè)人的隱私權(quán)，但對(duì)于我們的隱私數(shù)據(jù)是否得到了合理、適當(dāng)?shù)倪\(yùn)用，我們無(wú)法把握。因此，面對(duì)算法黑箱，我們?cè)谔峁﹤€(gè)人隱私數(shù)據(jù)時(shí)不僅難以作出合理判斷，還很難有效行使反對(duì)權(quán)，甚至很難對(duì)侵犯?jìng)€(gè)人隱私權(quán)的行為進(jìn)行訴訟。

站到算法與用戶(hù)互構(gòu)關(guān)系的角度來(lái)看，算法黑箱問(wèn)題造成了算法與用戶(hù)互構(gòu)關(guān)系的嚴(yán)重不平衡，隨著算法平臺(tái)不斷收集用戶(hù)數(shù)據(jù)，算法技術(shù)對(duì)用戶(hù)的個(gè)人情況愈發(fā)了解，能夠精準(zhǔn)把握用戶(hù)的需求，甚至能進(jìn)一步預(yù)測(cè)用戶(hù)未來(lái)可能的興趣與需要、為用戶(hù)建構(gòu)網(wǎng)絡(luò)世界的社會(huì)關(guān)系，但由于算法技術(shù)的復(fù)雜性與低透明度，用戶(hù)幾乎無(wú)法掌握算法的運(yùn)行情況，甚至可能對(duì)算法“一無(wú)所知”，這與算法了解用戶(hù)程度不斷加深的趨勢(shì)截然相反，這種嚴(yán)重不平衡的互構(gòu)狀態(tài)，對(duì)用戶(hù)來(lái)說(shuō)極為不利。

（四）算法偏見(jiàn)與算法歧視：隱含著互構(gòu)失衡因素

算法設(shè)計(jì)者在編寫(xiě)算法的過(guò)程中可能有意識(shí)或無(wú)意識(shí)地帶入自身的偏見(jiàn)與歧視，有的算法存在惡意或非惡意的身份偏見(jiàn)問(wèn)題?？傊?，由于算法的代碼、程序是由人編寫(xiě)設(shè)計(jì)的，而人一定會(huì)帶有某種價(jià)值取向，因此，算法工程師在進(jìn)行算法編寫(xiě)工作中哪怕盡可能保持中立、不帶有個(gè)人的情感，算法偏見(jiàn)與算法歧視問(wèn)題也是難以避免的，區(qū)別僅在于是否是有意識(shí)的偏見(jiàn)與歧視以及偏見(jiàn)與歧視的程度和造成的影響。

算法中的偏見(jiàn)與歧視較之日常生活中的偏見(jiàn)與歧視而言更不容易被察覺(jué)，也更不容易得到矯正，但它可能固化甚至放大人類(lèi)的偏見(jiàn)與歧視。若放任算法的偏見(jiàn)與歧視問(wèn)題繼續(xù)發(fā)展，算法為某些特定群體提供的服務(wù)質(zhì)量偏低，我們的社會(huì)可能會(huì)產(chǎn)生一批智能時(shí)代的數(shù)字弱勢(shì)群體，由于算法技術(shù)的廣泛運(yùn)用，不同性別、種族、信仰、身份的群體間獲取的信息內(nèi)容、得到的信息服務(wù)的質(zhì)量差距將逐漸拉大，不同群體間在經(jīng)濟(jì)、政治、文化教育、日常生活等各個(gè)方面的差距持續(xù)擴(kuò)大，這不利于國(guó)家、社會(huì)的和諧穩(wěn)定發(fā)展。

算法偏見(jiàn)與算法歧視同樣會(huì)造成算法與用戶(hù)互構(gòu)關(guān)系的不平衡狀態(tài)，且這種不平衡更不易察覺(jué)、更難以解決。算法偏見(jiàn)與算法歧視較之社會(huì)生活中的歧視與偏見(jiàn)隱藏更深，甚至被區(qū)別對(duì)待的用戶(hù)自身都難以察覺(jué)，但算法技術(shù)普遍運(yùn)用的現(xiàn)實(shí)使用戶(hù)難以避免使用算法，也就使得算法偏見(jiàn)與算法歧視問(wèn)題更加顯得無(wú)處不在、避無(wú)可避。

總之，技術(shù)控制權(quán)的不斷強(qiáng)化和個(gè)體能動(dòng)性的降低使得算法與用戶(hù)之間互構(gòu)的平衡狀態(tài)被打破，造成了極大的安全風(fēng)險(xiǎn)，亟需從維護(hù)互構(gòu)平衡的角度尋求治理之策。

三、互構(gòu)視域下算法安全風(fēng)險(xiǎn)的治理

算法與用戶(hù)互構(gòu)的過(guò)程中，算法幾乎不需要按照用戶(hù)的要求來(lái)改變自身，但由于算法的邏輯，也即算法必須要獲取到用戶(hù)的個(gè)人數(shù)據(jù)才能夠運(yùn)行并提供服務(wù)，同時(shí)由于算法涉及的領(lǐng)域非常廣泛，幾乎涵蓋社會(huì)生活中的方方面面，影響重大，因此，算法技術(shù)必須要受到來(lái)自社會(huì)不同群體的長(zhǎng)時(shí)段凝視，接受社會(huì)各界的監(jiān)督，從而使得用戶(hù)能夠放心將數(shù)據(jù)交由算法平臺(tái)，保證算法技術(shù)的健康發(fā)展。對(duì)于互聯(lián)網(wǎng)算法的安全風(fēng)險(xiǎn)問(wèn)題，需要構(gòu)建多方主體共同參與、協(xié)同治理的格局體系，以維護(hù)算法與用戶(hù)盡可能平衡的互構(gòu)狀態(tài)。

（一）外界對(duì)互構(gòu)平衡狀態(tài)的建構(gòu)

互聯(lián)網(wǎng)算法技術(shù)涉及社會(huì)生活的方方面面，應(yīng)用領(lǐng)域廣泛、影響重大，因此算法治理問(wèn)題應(yīng)實(shí)現(xiàn)社會(huì)各界的廣泛參與，維護(hù)算法與用戶(hù)平衡的互構(gòu)狀態(tài)，同樣需要得到外界的支持幫助，具體而言，需要國(guó)家和主流媒體的參與建構(gòu)。

從國(guó)家角度上講，國(guó)家應(yīng)建立完善算法相關(guān)法律制度，推動(dòng)建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局，為促進(jìn)算法健康、有序、繁榮發(fā)展提供有效可靠的法律政策制度保障。在這一點(diǎn)上，我國(guó)已初有成效。2021年，國(guó)家互聯(lián)網(wǎng)信息辦公室等九部委制定了《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》；2021年12月31日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家市場(chǎng)監(jiān)管總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，聚焦算法推薦服務(wù)亂象問(wèn)題，構(gòu)建算法安全治理體系，該管理規(guī)定自2022年3月1日起施行；《管理規(guī)定》發(fā)布后，社會(huì)各界廣泛關(guān)注、積極落實(shí)，為及時(shí)總結(jié)梳理《管理規(guī)定》中的重點(diǎn)難點(diǎn)問(wèn)題，更好推進(jìn)我國(guó)算法綜合治理工作，中國(guó)信息通信研究院互聯(lián)網(wǎng)法律研究中心于2022年1月20日在京召開(kāi)算法治理研討會(huì)，會(huì)議邀請(qǐng)了主管部門(mén)領(lǐng)導(dǎo)及高等院校、研究機(jī)構(gòu)知名學(xué)者，探討算法治理重要議題，并發(fā)布了《算法治理藍(lán)皮書(shū)》，展望算法綜合治理工作未來(lái)方向。

可以看出，國(guó)家層面已深刻認(rèn)識(shí)到算法安全風(fēng)險(xiǎn)問(wèn)題急需解決的現(xiàn)狀，并意識(shí)到了在加強(qiáng)算法治理監(jiān)管與鼓勵(lì)算法創(chuàng)新發(fā)展之間找尋平衡。在加強(qiáng)算法治理監(jiān)管方面，國(guó)家政府應(yīng)根據(jù)不同的算法使用場(chǎng)景，將算法治理監(jiān)管的主體劃分明晰，并堅(jiān)持具體問(wèn)題具體分析，有助于靈活應(yīng)對(duì)復(fù)雜的算法問(wèn)責(zé)問(wèn)題；為了更好地促進(jìn)算法提升創(chuàng)新能力，國(guó)家和政府層面可制定算法創(chuàng)新獎(jiǎng)勵(lì)政策，并注意算法知識(shí)產(chǎn)權(quán)的保護(hù)問(wèn)題，通過(guò)制定相關(guān)法律等手段為算法知識(shí)產(chǎn)權(quán)提供有效保障，這不僅可以在很大程度上為算法創(chuàng)新免除成果被盜取抄襲的后顧之憂(yōu)，對(duì)破解算法黑箱困境、鼓勵(lì)企業(yè)和算法平臺(tái)進(jìn)行算法公開(kāi)也有幫助。此外，國(guó)家還可向西方國(guó)家學(xué)習(xí)借鑒先進(jìn)的算法監(jiān)管治理經(jīng)驗(yàn)，從他國(guó)算法治理的成功經(jīng)驗(yàn)中汲取靈感啟發(fā)，并結(jié)合本國(guó)的算法問(wèn)題實(shí)際，在算法安全風(fēng)險(xiǎn)治理方面進(jìn)行更多有益探索。

從主流媒體的角度上講，主流媒體應(yīng)發(fā)揮好價(jià)值引領(lǐng)的作用，我國(guó)對(duì)智能媒體的算法規(guī)制一般由主流媒體與政府部門(mén)共同主導(dǎo)，且往往是主流媒體發(fā)聲監(jiān)督在前，政府部門(mén)規(guī)制在后，因此，主流媒體應(yīng)做好對(duì)算法技術(shù)安全風(fēng)險(xiǎn)的監(jiān)督工作，積極參與算法技術(shù)的協(xié)同治理。此外，針對(duì)基于個(gè)性化內(nèi)容定制的內(nèi)容推薦類(lèi)算法廣泛運(yùn)用，造成主流媒體影響力、凝聚力、引導(dǎo)力下降的問(wèn)題，主流媒體應(yīng)加快將自身建設(shè)成新型主流媒體，運(yùn)用先進(jìn)的技術(shù)手段，以?xún)?yōu)質(zhì)的內(nèi)容、新穎豐富的表現(xiàn)形式贏得大眾的關(guān)注與喜愛(ài)，在算法內(nèi)容推薦的大環(huán)境下加強(qiáng)自身的競(jìng)爭(zhēng)優(yōu)勢(shì)，以保障主流意識(shí)形態(tài)的廣泛傳播。

（二）互聯(lián)網(wǎng)算法方的自我規(guī)制

技術(shù)控制權(quán)的不斷強(qiáng)化是打破算法與用戶(hù)互構(gòu)平衡狀態(tài)的主要原因之一，因此算法方應(yīng)主動(dòng)自覺(jué)承擔(dān)社會(huì)責(zé)任，通過(guò)自我規(guī)制以緩解算法技術(shù)濫用等所引發(fā)的安全風(fēng)險(xiǎn)問(wèn)題。

從企業(yè)及算法平臺(tái)的角度上講，首先，企業(yè)及平臺(tái)應(yīng)注重保障用戶(hù)的知情權(quán)，在保護(hù)自身商業(yè)秘密、保障算法知識(shí)產(chǎn)權(quán)的前提下盡可能向用戶(hù)解釋算法是如何運(yùn)作的，這里，將算法的源代碼或算法架構(gòu)公開(kāi)是沒(méi)有太多意義的，企業(yè)及平臺(tái)更多地應(yīng)是用盡可能清晰簡(jiǎn)單的方式令用戶(hù)知曉他們所提供的數(shù)據(jù)是被怎樣處理的以及公開(kāi)算法提供信息決策服務(wù)時(shí)做出決策的方式。同時(shí)，算法公開(kāi)應(yīng)當(dāng)區(qū)分不同算法擁有者，對(duì)不同主體施加不同責(zé)任，應(yīng)當(dāng)根據(jù)不同情形采取不同范圍不同程度的公開(kāi)；其次，企業(yè)及平臺(tái)應(yīng)賦予用戶(hù)是否使用算法以及使用何種程度的算法的權(quán)利，例如，在新聞推送平臺(tái)，用戶(hù)使用之初平臺(tái)可明確告知需獲取用戶(hù)的新聞接觸喜好數(shù)據(jù)才可提供個(gè)性化新聞推送服務(wù)，由用戶(hù)決定是否需要內(nèi)容推薦類(lèi)算法服務(wù)，此外，企業(yè)及平臺(tái)在追求經(jīng)濟(jì)利益的同時(shí)應(yīng)主動(dòng)承擔(dān)社會(huì)責(zé)任，將算法的運(yùn)用控制在一個(gè)合理的范圍內(nèi)，主動(dòng)規(guī)避為過(guò)度追求經(jīng)濟(jì)效益而濫用算法，從而損害用戶(hù)合法權(quán)益、破壞正常市場(chǎng)競(jìng)爭(zhēng)秩序的行為；最后，企業(yè)及平臺(tái)需自覺(jué)遵守正在逐步完善的法律政策與行業(yè)規(guī)范，自覺(jué)維護(hù)國(guó)家網(wǎng)絡(luò)主權(quán)、安全與發(fā)展。同時(shí)，企業(yè)應(yīng)以“技術(shù)之力”治理算法技術(shù)風(fēng)險(xiǎn)。

從算法設(shè)計(jì)者角度上講，算法工程師在編寫(xiě)設(shè)計(jì)算法的過(guò)程中應(yīng)盡可能不摻雜個(gè)人的情感傾向，盡可能避免算法帶入個(gè)人的偏見(jiàn)與歧視色彩，同時(shí)，算法設(shè)計(jì)者應(yīng)有意識(shí)將主流意識(shí)形態(tài)和關(guān)于尊嚴(yán)、自由等普世的價(jià)值倫理觀(guān)念嵌入算法設(shè)計(jì)開(kāi)發(fā)應(yīng)用的各個(gè)環(huán)節(jié)，努力加強(qiáng)自身的道德責(zé)任建設(shè)，提高個(gè)人的社會(huì)責(zé)任感與倫理道德素養(yǎng)。

（三）互聯(lián)網(wǎng)用戶(hù)方的自我提升

面對(duì)相對(duì)強(qiáng)勢(shì)的算法技術(shù)，互聯(lián)網(wǎng)用戶(hù)很容易陷入被動(dòng)的弱勢(shì)地位，個(gè)體能動(dòng)性的降低是算法與用戶(hù)互構(gòu)平衡狀態(tài)被打破的另一主要原因。因此，用戶(hù)方應(yīng)積極尋求應(yīng)對(duì)策略，通過(guò)自我提升以維護(hù)自身在算法技術(shù)應(yīng)用中的合理權(quán)益與主動(dòng)地位。

從用戶(hù)角度上講，關(guān)鍵在于用戶(hù)應(yīng)注重對(duì)自身算法使用能力素養(yǎng)的提升與培養(yǎng)。算法平臺(tái)用戶(hù)應(yīng)以實(shí)現(xiàn)自我的全面發(fā)展為目標(biāo)進(jìn)行媒介接觸與信息獲取，在應(yīng)用內(nèi)容推薦類(lèi)算法時(shí)有意識(shí)接觸多樣的信息知識(shí)，尤其是有意識(shí)獲取主流意識(shí)形態(tài)方面的內(nèi)容，努力突破信息繭房，開(kāi)拓自身的眼界，培養(yǎng)從多角度、多方面理解問(wèn)題的能力；在使用算法時(shí)注重自身隱私數(shù)據(jù)的保護(hù)，積極維護(hù)自身的知情權(quán)、隱私權(quán)，對(duì)在生活中遇到的侵犯自身正當(dāng)權(quán)益、過(guò)度使用自身隱私數(shù)據(jù)的不良算法積極監(jiān)督舉報(bào)；不過(guò)度依賴(lài)算法決策，保持清醒頭腦，警惕算法使用中的惰性心理，維護(hù)自己的自主選擇決策權(quán)，合理利用算法，努力令算法成為幫助自身提高生活質(zhì)量的有益工具，而不能讓自己被算法支配、讓算法理性取代人的理性。總之，在大數(shù)據(jù)時(shí)代，個(gè)體應(yīng)學(xué)會(huì)更好地利用算法，讓算法成為生活中的有益助手，同時(shí)承擔(dān)起監(jiān)督算法、促進(jìn)算法健康繁榮發(fā)展的責(zé)任。

此外，在用戶(hù)方實(shí)現(xiàn)自我提升的過(guò)程中，需要培養(yǎng)個(gè)體重視自身能動(dòng)性與主動(dòng)地位的意識(shí)，而教育可以發(fā)揮重要作用。教育可以幫助個(gè)體在面對(duì)算法技術(shù)時(shí)更注重自身能動(dòng)性的發(fā)揮，從而以更積極主動(dòng)的姿態(tài)應(yīng)用算法技術(shù)，而不是反被算法所控制。轉(zhuǎn)變應(yīng)用算法技術(shù)時(shí)的觀(guān)念與方式，將有助于用戶(hù)在與算法的互構(gòu)關(guān)系中占據(jù)更積極的位置，從而減少甚至避免在互構(gòu)過(guò)程中安全風(fēng)險(xiǎn)問(wèn)題的生成。

四、結(jié)語(yǔ)

本研究以互構(gòu)論的視角，分析探究了算法與用戶(hù)的互構(gòu)過(guò)程機(jī)制，也即算法需要收集獲取到用戶(hù)的個(gè)人數(shù)據(jù)才能運(yùn)行，而用戶(hù)要得到算法提供的服務(wù)，就必須要向算法平臺(tái)提供個(gè)人數(shù)據(jù)，讓渡部分自身的隱私權(quán)。由于在算法與用戶(hù)互構(gòu)的過(guò)程中，用戶(hù)的“剛性”在算法技術(shù)面前很難堅(jiān)持，即算法技術(shù)幾乎不需根據(jù)用戶(hù)的要求改變自身，而用戶(hù)需要適配算法技術(shù)的邏輯，同時(shí)，就算法技術(shù)目前的發(fā)展?fàn)顩r來(lái)看，算法技術(shù)存在算法黑箱、價(jià)值非中立等問(wèn)題，且人在算法應(yīng)用中存在濫用算法、過(guò)度依賴(lài)算法、對(duì)算法提供的內(nèi)容推薦服務(wù)沉迷上癮等現(xiàn)象，因此，算法與用戶(hù)的互構(gòu)平衡狀態(tài)被打破，算法技術(shù)面臨嚴(yán)重的安全風(fēng)險(xiǎn)問(wèn)題。針對(duì)算法生成的安全風(fēng)險(xiǎn)，本研究從外界、算法、用戶(hù)三方的角度出發(fā)，提出了關(guān)于突破算法風(fēng)險(xiǎn)困境的治理建議，認(rèn)為針對(duì)算法安全風(fēng)險(xiǎn)問(wèn)題，需要構(gòu)建多方主體共同參與、協(xié)同治理的格局體系。目前，我國(guó)對(duì)算法的治理已起步并取得了初步成效，但目前的成果大多還沒(méi)有落到實(shí)處，還沒(méi)有在實(shí)踐中取得良好的成績(jī)，因此，關(guān)于算法的監(jiān)管治理工作，仍任重而道遠(yuǎn)，需要更多、更深入地研究與探索。

【本文系湖南省社科聯(lián)課題“多元主體協(xié)同的中國(guó)互聯(lián)網(wǎng)內(nèi)容分類(lèi)治理機(jī)制研究”（編號(hào)：XSP19YBZ169）和長(zhǎng)沙市自然科學(xué)基金項(xiàng)目“互聯(lián)網(wǎng)信息內(nèi)容安全風(fēng)險(xiǎn)生成及生態(tài)治理機(jī)制構(gòu)建研究”（項(xiàng)目編號(hào)：kq2202181）階段性成果】

參考文獻(xiàn)：

[1]楊智雄. 從“互動(dòng)”到“互構(gòu)”： 當(dāng)前中國(guó)地方治理的路徑轉(zhuǎn)移[J].重慶工商大學(xué)學(xué)報(bào)，2014（5） ： 99.

[2]張燕、邱澤奇.技術(shù)與組織關(guān)系的三個(gè)視角[J].社會(huì)學(xué)研究，2009（2）：200-215.

[3]鄧建國(guó).機(jī)器人新聞：原理、風(fēng)險(xiǎn)和影響[J].新聞?dòng)浾撸?016（09）：10-17.

[4]邱澤奇.技術(shù)與組織的互構(gòu)—以信息技術(shù)在制造企業(yè)的應(yīng)用為例[J]社會(huì)學(xué)研究，2005（2）：32-54.

[5]呂尚彬，黃榮.中國(guó)傳播技術(shù)創(chuàng)新研究——以技術(shù)進(jìn)化機(jī)制為視角探究2017年-2018年創(chuàng)新特點(diǎn)[J].當(dāng)代傳播，2018（06）：24-30.

[6]喻國(guó)明，張琳宜.元宇宙視域下的未來(lái)傳播：算法的內(nèi)嵌與形塑[J].現(xiàn)代出版，2022（02）：12-18.

作者簡(jiǎn)介：陶賢都，湖南大學(xué)新聞與傳播學(xué)院副教授，博士；趙彤，湖南大學(xué)新聞與傳播學(xué)院碩士研究生

編輯：白? 潔