徐 靜，王雪倩

1 從“商品拜物教”到智能推薦算法崇拜

商品拜物教作為馬克思中后期的重要思想內(nèi)容之一，不同于人們以虛幻的神為崇拜對(duì)象的宗教崇拜，而是人們把人類生產(chǎn)的商品作為崇拜對(duì)象。隨著當(dāng)代信息社會(huì)的擴(kuò)張和人工智能的發(fā)展，商品拜物教發(fā)生了變化，呈現(xiàn)出智能算法崇拜的時(shí)代特點(diǎn)。算法是一種模擬仿真技術(shù)，通過對(duì)信息數(shù)據(jù)內(nèi)容的建模處理，模擬人的認(rèn)知能力、分析和決策能力并在此基礎(chǔ)上實(shí)現(xiàn)技術(shù)方面的超越。簡(jiǎn)單來(lái)說，智能算法推薦通過信息數(shù)據(jù)技術(shù)，有效地幫助相關(guān)機(jī)構(gòu)實(shí)現(xiàn)對(duì)于海量用戶信息價(jià)值的準(zhǔn)確評(píng)估和分配、適配。然而當(dāng)前智能算法推薦使用的普及發(fā)展，打破了原有在信息分發(fā)適配方面的邊界，進(jìn)一步把強(qiáng)大優(yōu)勢(shì)影響到上游的創(chuàng)作、互動(dòng)和審核方面，使信息的生產(chǎn)形成數(shù)據(jù)皆可算法化以及數(shù)據(jù)皆可物化的智能算法推薦崇拜心理，妄圖利用技術(shù)解決一切問題，實(shí)現(xiàn)“技術(shù)的烏托邦”。但是，用戶在享受算法推送的同時(shí)又受困于有限的推送，技術(shù)的異化在算法推送中體現(xiàn)。

2 智能算法推薦的生成邏輯

1）對(duì)于算法的私有化占有而言，算法是建立在信息、數(shù)據(jù)大量生產(chǎn)、復(fù)制、免費(fèi)性商品私有化的基礎(chǔ)之上。

數(shù)據(jù)是信息的特殊表現(xiàn)形式，那么從馬克思視角出發(fā)，數(shù)據(jù)是一種特殊的商品，它在消費(fèi)中很難被用完，可以很容易和快速地復(fù)制和分發(fā)，復(fù)制成本低，是非競(jìng)爭(zhēng)性的。在大數(shù)據(jù)時(shí)代，大規(guī)模、多樣化、低密度的數(shù)據(jù)通過社交媒體、移動(dòng)設(shè)備、大數(shù)據(jù)、傳感器和定位系統(tǒng)匯集在一起。在消費(fèi)領(lǐng)域，為了資本積累，權(quán)力擁有者就會(huì)通過一定的手段將數(shù)據(jù)變?yōu)樗接衅?，而算法在其中就能夠發(fā)揮出巨大的作用。算法模型通過目前常用的四種基于內(nèi)容的推薦系統(tǒng)（Content-based）、協(xié)同過濾系統(tǒng)（Collaborative filterring）、基于用戶——產(chǎn)品的二部圖網(wǎng)絡(luò)結(jié)構(gòu)（Netork-based）、混合推薦系統(tǒng)（Hybrid）的智能推薦分發(fā)信息模式，將海量不同屬性的數(shù)據(jù)集相互關(guān)聯(lián)，來(lái)為用戶的狀態(tài)、需求與內(nèi)外部的連接發(fā)揮價(jià)值增益的作用，也為公共數(shù)據(jù)的私有化占有奠定基礎(chǔ)。

對(duì)于算法制造者而言，算法制造蘊(yùn)含了制造者的多層價(jià)值觀。他們能夠?qū)⒕哂泄残缘臄?shù)據(jù)變?yōu)橐环N算法的知識(shí)產(chǎn)權(quán)，即對(duì)于數(shù)據(jù)的商業(yè)秘密性的私有化占有，例如現(xiàn)在主流的智能推薦算法大多由商業(yè)公司開發(fā)，算法制造者的工作很少包括稱贊那些收集和整理數(shù)據(jù)集的人的工作，以及編寫更多數(shù)學(xué)算法的人的工作，而是基于他們自己公司的利益而去雇傭其它人創(chuàng)造算法，算法制造的最根本目的是通過信息技術(shù)追求實(shí)現(xiàn)極致的流量?jī)r(jià)值進(jìn)而獲得最大化利益的資本回報(bào)。其次，企業(yè)本身的文化也會(huì)左右算法制造。如Facebook作為社交媒體，注重互動(dòng)的“Friends family first”原則在算法制作的體現(xiàn)上就表現(xiàn)為不斷為用戶推送與其互動(dòng)關(guān)系強(qiáng)的用戶的相關(guān)信息。

2）從算法背后的社會(huì)關(guān)系來(lái)看，當(dāng)算法生產(chǎn)進(jìn)入交換環(huán)節(jié)成為商品，并直接支配并控制算法用戶的習(xí)慣，算法背后的社會(huì)關(guān)系得到更加自然的顛倒。

算法生產(chǎn)后進(jìn)入交換環(huán)節(jié)擁有了生命，并直接支配和控制算法用戶的習(xí)慣，算法作為商品生產(chǎn)的目的不是創(chuàng)造使用價(jià)值，而是創(chuàng)造交換價(jià)值，進(jìn)而異化勞動(dòng)產(chǎn)品為人服務(wù)的主體理念，成為支配勞動(dòng)者命運(yùn)的存在，社會(huì)關(guān)系呈現(xiàn)一種真實(shí)的顛倒。

算法使這種顛倒的社會(huì)關(guān)系變得更加自然化，人在不知不覺中受到算法的“支配”。2016年是算法編輯超越人工的轉(zhuǎn)折之年，據(jù)美國(guó)皮尤研究中心發(fā)布的《2016美國(guó)社交媒體平臺(tái)新聞使用報(bào)告》數(shù)據(jù)顯示，F(xiàn)acebook已經(jīng)成為人們閱讀新聞的最大入口。在美國(guó)最大的社交平臺(tái)Facebook上，用戶可以不用直接為使用它而付費(fèi)，就可以即刻體驗(yàn)到在這個(gè)平臺(tái)上自己與他人之間、他人與他人之間的社交關(guān)系，并可以享用到社交平臺(tái)上的智能算法推薦的信息分發(fā)權(quán)力。

社交關(guān)系和被賦權(quán)賦能的信息分發(fā)權(quán)力掩蓋了Facebook的商品形式，智能算法推薦崇拜在Facebook上以一種翻轉(zhuǎn)的形式呈現(xiàn)出來(lái)：在商品拜物教中，資本和社會(huì)生產(chǎn)結(jié)構(gòu)才是物與物表象關(guān)系背后所隱藏的真實(shí)的社會(huì)關(guān)系。在企業(yè)社交媒體上，平臺(tái)的社交性特點(diǎn)掩蓋了其背后的商品形式，用戶能夠即刻地、具體地體驗(yàn)到社會(huì)關(guān)系和信息分發(fā)的權(quán)力，而商品形式作為隱形存在，并不直接面對(duì)用戶。這也就是為何Facebook和Google并不傳播或售賣使用權(quán)，但卻是世界上最大的廣告公司的原因。

3）被包裝為社會(huì)崇拜物：集體無(wú)意識(shí)。在算法私有化的生產(chǎn)方式和社會(huì)關(guān)系下，資本的運(yùn)作邏輯作用于市場(chǎng)的交換原則中，形成數(shù)據(jù)皆可算法化及數(shù)據(jù)皆可物化的內(nèi)在分配、供需及交換的框架，進(jìn)而導(dǎo)致社會(huì)的拜物神圣化心理在整個(gè)社會(huì)經(jīng)濟(jì)中滋生蔓延。

當(dāng)下智能算法推薦通過算法技術(shù)邏輯沖破傳統(tǒng)寡頭權(quán)力的柵欄，信息生產(chǎn)和分發(fā)技術(shù)的發(fā)展使得個(gè)人對(duì)信息自我賦權(quán)的意識(shí)增強(qiáng)，用戶主導(dǎo)信息的權(quán)利不斷擴(kuò)大。傳統(tǒng)的“人找信息”模式通過算法推薦技術(shù)進(jìn)階到“信息找人”模式。但是現(xiàn)在的問題是社會(huì)將算法達(dá)成了社會(huì)契約式的迷戀物（崇拜物），用戶能夠真真切切體驗(yàn)到它為帶來(lái)的好處，比如它可以通過挖掘個(gè)人的特征，進(jìn)行個(gè)性化推送為每個(gè)人提供他們想要的東西，也能夠?yàn)橹圃煺邉?chuàng)造高額工資。但是，大多數(shù)用戶由于對(duì)個(gè)性化算法的運(yùn)算規(guī)則并不清楚，產(chǎn)生了對(duì)算法技術(shù)的集體無(wú)意識(shí)崇拜。當(dāng)算法運(yùn)用于信息分發(fā)的過程中，算法模型經(jīng)常以無(wú)聲無(wú)息的方式在虛擬數(shù)字世界中處理信息、評(píng)估現(xiàn)狀、得出關(guān)聯(lián)進(jìn)而做出推送決定，在整個(gè)運(yùn)作過程中少有監(jiān)督，只有在形成錯(cuò)誤或失敗時(shí)才會(huì)被注意到這種無(wú)意識(shí)。用戶被牢牢地聚攏在算法構(gòu)建的擬態(tài)環(huán)境中，雖然算法自身不具備具體的權(quán)力，但實(shí)際上它在技術(shù)無(wú)意識(shí)的層面上代表著背后的政治或商業(yè)利益，而被算法效果所吸引的用戶在很大程度上并不知道自己受到商業(yè)利益的控制。

3 智能算法推薦崇拜的倫理風(fēng)險(xiǎn)

1）“算法表象”主導(dǎo)生活。2016年是算法編輯超越人工的轉(zhuǎn)折之年，F(xiàn)acebook已成為美國(guó)人們閱讀新聞的最大入口。從2017年6月易觀數(shù)據(jù)發(fā)布的《中國(guó)移動(dòng)互聯(lián)網(wǎng)網(wǎng)民行為分析》中可以看出，2016年這一年我國(guó)的信息市場(chǎng)也出現(xiàn)了算法推薦超越人工推送信息的現(xiàn)象，之后，算法推薦進(jìn)一步搶占用戶注意力市場(chǎng)，遠(yuǎn)遠(yuǎn)將人工推送甩在身后。人們的大部分生活和時(shí)間都被算法生成的表象所吸引和控制著，生活本身展現(xiàn)為算法推薦的龐大堆聚，算法構(gòu)建的表象和其賦予意義就成為用戶的日常追求。

著名學(xué)者戈夫曼在其著作《日常生活的自我呈現(xiàn)》中，通過一系列舞臺(tái)表演概念闡述了經(jīng)典的擬劇理論。他將戲劇表演中的詞匯——“舞臺(tái)”引入到闡述中，將人類的表演場(chǎng)稱作舞臺(tái)。舞臺(tái)又劃分為前臺(tái)和后臺(tái)。在前臺(tái)，表演者為了使自身形象及表演呈現(xiàn)理想化的景觀，會(huì)不自主的有意識(shí)的通過模型和修改展示社會(huì)期待中理想化的自己。后臺(tái)的呈現(xiàn)景觀更加真實(shí)、隨意，相較于前臺(tái)，表演者在后臺(tái)則不必那樣刻意關(guān)注自己的形象。在以往傳統(tǒng)的信息分發(fā)獲取中，表演者按照自身所獲取的信息中對(duì)于社會(huì)理解和期望的評(píng)定，在前臺(tái)和后臺(tái)中角色呈現(xiàn)以明確的舞臺(tái)媒介為限進(jìn)行明確的行為表演，而在當(dāng)下智能推薦算法的技術(shù)邏輯下，個(gè)人的后臺(tái)數(shù)據(jù)以隱形的數(shù)據(jù)呈現(xiàn)被算法無(wú)聲無(wú)息生成出個(gè)性化的用戶推薦成為表演者獲取社會(huì)理解和期望的新評(píng)定標(biāo)準(zhǔn)，進(jìn)而帶入前臺(tái)的表演，這個(gè)過程實(shí)質(zhì)上是將后臺(tái)前置，將與個(gè)人日常生活相關(guān)，呈現(xiàn)個(gè)體的每一個(gè)場(chǎng)景、生活由此變成了一個(gè)個(gè)的智能算法推薦。

2）制造消費(fèi)和消費(fèi)異化。在智能算法推薦場(chǎng)景中，算法構(gòu)成的場(chǎng)景消費(fèi)模式對(duì)用戶的控制主要體現(xiàn)在經(jīng)濟(jì)上的控制，通過不斷的創(chuàng)造消費(fèi)需求和引導(dǎo)人們持續(xù)不斷的消費(fèi)上來(lái)實(shí)現(xiàn)。

馬克思批判理論的后繼者社會(huì)學(xué)家居伊·德波認(rèn)為，消費(fèi)社會(huì)中的各種景觀都是服務(wù)于消費(fèi)生產(chǎn)的。景觀系統(tǒng)中的消費(fèi)即便是虛假需求所引起的消費(fèi)，作為不斷強(qiáng)化指導(dǎo)孤獨(dú)人群的武器，也是能夠引起生產(chǎn)周期的循環(huán)和不斷擴(kuò)張。這里德波對(duì)于景觀由消費(fèi)產(chǎn)生，又不斷引起消費(fèi)的生產(chǎn)和擴(kuò)張的表述，與算法作用于消費(fèi)的模式具有高度一致性。這種算法引導(dǎo)消費(fèi)的模式又會(huì)進(jìn)一步加深人們的算法崇拜。

在算法場(chǎng)景中，其消費(fèi)模式基于用戶的個(gè)人習(xí)慣，通過算法設(shè)計(jì)，定制化地為每一位用戶制造消費(fèi)，這使得這一時(shí)期和場(chǎng)景下的商品地位更加突出于馬克思所描述的狀況，算法崇拜和異化消費(fèi)從而存在內(nèi)在的邏輯聯(lián)系。在這種技術(shù)環(huán)境和算法崇拜下，人們的真實(shí)及虛假需求被不斷地制造出來(lái)，與此相連的是社會(huì)生活被商品殖民化。算法推薦所制造的商品消費(fèi)層出不窮，消費(fèi)商品作為一種隱性的控制力量進(jìn)駐到人們的生活中，并且開疆?dāng)U土，不斷創(chuàng)造出新的需求，最終人們的生活被商品消費(fèi)所支配，消費(fèi)被異化，這種控制力量也變得清晰可見。

3）個(gè)人信息隱私權(quán)的“無(wú)保障”及媒介內(nèi)容價(jià)值觀的“無(wú)序化”。在消費(fèi)領(lǐng)域，為了資本積累，權(quán)力擁有者就會(huì)通過一定的手段將數(shù)據(jù)變?yōu)樗接衅?，而算法在其中就能夠發(fā)揮出巨大的作用。算法模型將這些用戶日常生活中產(chǎn)生不同屬性的數(shù)據(jù)集相互關(guān)聯(lián)，來(lái)為用戶的狀態(tài)、需求與內(nèi)外部的連接發(fā)揮價(jià)值變現(xiàn)的作用。算法本身是沒有對(duì)與錯(cuò)，不存在價(jià)值觀，但是算法程序所依托的價(jià)值變量的設(shè)定以及信息生產(chǎn)盈利平臺(tái)作為渠道分發(fā)的內(nèi)容是存在著價(jià)值觀。算法私有化導(dǎo)致算法制造的目的是經(jīng)營(yíng)者為了獲得最大化利益的資本回報(bào)，在此基礎(chǔ)上，當(dāng)個(gè)人數(shù)據(jù)信息的占有成為獨(dú)特性贏利的資本，蘊(yùn)含著不同價(jià)值觀念的內(nèi)容被分發(fā)到受眾端，價(jià)值觀在沒有統(tǒng)一導(dǎo)向的情況下被無(wú)秩序地傳遞。個(gè)人信息隱私權(quán)的“無(wú)保障”及媒介內(nèi)容價(jià)值觀的“無(wú)序化”直接對(duì)用戶、對(duì)社會(huì)產(chǎn)生重大的倫理問題。

2018年3月，美國(guó)《紐約時(shí)報(bào)》報(bào)道一家名為劍橋分析（Cambridge Analytica）的數(shù)據(jù)公司非法竊取5000萬(wàn)Facebook用戶的數(shù)據(jù)資料，并利用算法通過大數(shù)據(jù)分析，利用每個(gè)用戶的興趣愛好、個(gè)性特征、行為習(xí)慣預(yù)測(cè)他們的政治傾向。除了預(yù)測(cè)，這家公司還能借助Facebook的廣告投放系統(tǒng)，利用數(shù)據(jù)分析，對(duì)用戶進(jìn)行個(gè)性化、精準(zhǔn)化的信息定制和推送，使用戶在推薦的信息中潛移默化地被影響，最終達(dá)到影響用戶投票選擇的目的。2018年4月，我國(guó)國(guó)家廣播電視總局在督查“今日頭條”網(wǎng)站整改工作時(shí)，發(fā)現(xiàn)其中的“內(nèi)涵段子”這一客戶端軟件存在著導(dǎo)向不正、格調(diào)低俗等突出問題，責(zé)令其永久關(guān)停，并且全面清理類似算法推薦的視聽節(jié)目產(chǎn)品。由于算法的真正權(quán)力主體并沒有參與到算法的運(yùn)作中，反而權(quán)力主體用戶個(gè)人信息隱私權(quán)的“無(wú)保障”以及算法編輯把關(guān)的缺位，大量的個(gè)人信息被曲解利用，混亂低俗價(jià)值觀的、重復(fù)性高的軟新聞充斥到用戶推薦頁(yè)，而真正受眾應(yīng)知道的關(guān)乎國(guó)計(jì)民生和人們切身利益的公共性信息明顯占比不足，媒介智能推薦算法的信息內(nèi)容“無(wú)序化”給用戶合理價(jià)值觀的形成也帶來(lái)一定負(fù)面影響。

當(dāng)下用戶不再按傳統(tǒng)方式與服務(wù)供應(yīng)商進(jìn)行直接、單一的聯(lián)系，而是要同時(shí)跨越時(shí)間、空間限制與數(shù)據(jù)中間商和數(shù)據(jù)后續(xù)利用者等多元主體建立多維復(fù)雜的關(guān)聯(lián)。同時(shí)，智能算法推薦從誕生以來(lái)，沖破傳統(tǒng)寡頭權(quán)力的桎梏，實(shí)現(xiàn)了用戶個(gè)人對(duì)信息的自我賦權(quán)，雖然在實(shí)際算法應(yīng)用過程中出現(xiàn)一些倫理問題，但從總體來(lái)說，人工智能信息技術(shù)的發(fā)展使用 是大勢(shì)所趨。強(qiáng)制管制只會(huì)適得其反，但是智能算法推薦崇拜是建立在對(duì)數(shù)據(jù)私有化、程序化的生產(chǎn)機(jī)制中，因此對(duì)算法崇拜的倫理風(fēng)險(xiǎn)防范策略還需要主要建立在數(shù)據(jù)的公開性、透明度原則之上，在具體倫理防范實(shí)踐中根據(jù)算法場(chǎng)景導(dǎo)向的原則，建立合理的算法風(fēng)險(xiǎn)評(píng)估和管理體制。