張銘?zhàn)?/p>

摘? 要? 大數(shù)據(jù)時(shí)代對(duì)于算法分發(fā)的運(yùn)用已經(jīng)十分普遍，對(duì)用戶來說算法分發(fā)對(duì)于個(gè)性化偏好的精準(zhǔn)預(yù)測(cè)，提高了獲取有效信息的效率。但同時(shí)也不可避免地存在著諸如易引發(fā)社會(huì)隔閡，加深偏見，泄露信息等各種問題。在普通用戶面臨著被算法操縱而帶來一系列不利影響的情況下，及時(shí)對(duì)算法的不足之處做出預(yù)判有助于在利用算法技術(shù)為人類提供便利之時(shí)，有效規(guī)避可能帶來的風(fēng)險(xiǎn)。

關(guān)鍵詞? 個(gè)性化推薦;算法偏見;人文主義;價(jià)值觀

大數(shù)據(jù)時(shí)代信息冗雜，算法應(yīng)運(yùn)而生，“數(shù)據(jù)+算法”的推薦模式被廣泛應(yīng)用于多元化場(chǎng)景，為什么淘寶界面的猜你喜歡每次都能猜中，網(wǎng)易云首頁(yè)的每日推薦剛好就是你愛聽的風(fēng)格，而抖音短視頻一刷就停不下來，算法的每次行動(dòng)必能一擊即中。人類已經(jīng)進(jìn)入了一個(gè)算法比你更懂自己的時(shí)代，你自己都不清楚的穿衣風(fēng)格算法卻能給出最準(zhǔn)確的搭配方式，所謂的個(gè)性化在龐大的數(shù)據(jù)面前，是否只是一個(gè)樣本？在互聯(lián)網(wǎng)時(shí)代對(duì)于算法的依賴是一種便利還是機(jī)器的變相控制？

1? 算法分發(fā)的機(jī)制及效應(yīng)

算法最初指解決問題的方法，后來在不同領(lǐng)域的借用中演變?yōu)橐环N復(fù)雜的社會(huì)技術(shù)系統(tǒng)，再后來因?yàn)樗惴Q策服務(wù)被人們熟知。算法分發(fā)以大數(shù)據(jù)運(yùn)算為依托，涉及人工智能、知識(shí)發(fā)現(xiàn)、互聯(lián)網(wǎng)信息檢索、數(shù)據(jù)庫(kù)以及數(shù)據(jù)挖掘和分析等技術(shù)。算法能在掌握用戶的社會(huì)屬性、興趣愛好、短期行為等個(gè)人信息的前提下進(jìn)行相關(guān)性分析，完成對(duì)用戶的多角度描述性標(biāo)簽屬性即用戶畫像，從而實(shí)現(xiàn)精準(zhǔn)的信息推薦。運(yùn)用到電商領(lǐng)域，算法就像是用戶過去的消費(fèi)動(dòng)態(tài)與未來的消費(fèi)行為之間的預(yù)測(cè)者，以用戶在互聯(lián)網(wǎng)留下的各種數(shù)據(jù)為線索保障預(yù)測(cè)行為的圓滿完成。

以電商平臺(tái)淘寶為例，2019年天貓“雙十一”狂歡節(jié)最終成交總額達(dá)到2684億元，其中的營(yíng)銷策略離不開以算法為依托的智能推薦。淘寶網(wǎng)對(duì)于數(shù)據(jù)和算法的應(yīng)用開始于2011年的“母嬰檔案”項(xiàng)目，這是淘寶為了滿足年輕媽媽的需求而利用算法進(jìn)行的第一次嘗試。2013年左右，隨著平臺(tái)上商品品類的不斷增加，用戶進(jìn)行選購(gòu)的時(shí)間成本不斷上升，為了打破用戶對(duì)淘寶低價(jià)爆款的固有印象，避免在新型競(jìng)爭(zhēng)者不斷涌出的激烈競(jìng)爭(zhēng)中受到鉗制，淘寶做了一次至關(guān)重要的嘗試——在聚劃算上測(cè)試個(gè)性化推薦的效果，聚劃算的商品成交額在淘寶推出個(gè)性化推薦后很快上升了一倍①。此舉改變了以往以同一套算法應(yīng)對(duì)所有用戶的“千人一面”局面。目前淘寶平臺(tái)的推薦邏輯還在不斷擴(kuò)展，它的訴求不僅僅是“千人千面”，力爭(zhēng)從用戶生活的方方面面洞悉需求，達(dá)到“千人萬(wàn)面”。從搜索一只馬克杯開始，藝術(shù)玻璃器皿、復(fù)古鄉(xiāng)村書櫥置物架等相關(guān)家居推薦將會(huì)慢慢出現(xiàn)在你的淘寶首頁(yè)，從推薦物品到推薦服務(wù)，再到推薦場(chǎng)景，算法分發(fā)的野心已經(jīng)開始為你設(shè)定根據(jù)數(shù)據(jù)總結(jié)得出的優(yōu)質(zhì)生活方式。

2? 基于算法個(gè)性化推薦的隱性憂患

2.1? “畫地為牢”與共識(shí)缺乏

基于算法技術(shù)的個(gè)性化推薦能夠幫助用戶從海量的信息中打撈對(duì)他們來說最有價(jià)值的內(nèi)容，在用戶感嘆某個(gè)軟件推送的內(nèi)容或商品正巧符合自己興趣的同時(shí)，也是把自己封在了算法精確界定出的圈子里。久而久之必然會(huì)難以接受圈子之外的新鮮事物。重復(fù)接受同樣的思想或觀點(diǎn)使得固化思維產(chǎn)生，人們的某些觀點(diǎn)和立場(chǎng)進(jìn)一步固化導(dǎo)致個(gè)人視野的窄化和個(gè)人立場(chǎng)的極端化。算法先通過例如身份、經(jīng)濟(jì)狀況等信息把個(gè)體劃分到不同的層級(jí)，再系統(tǒng)地為不同層級(jí)分發(fā)不同內(nèi)容和質(zhì)量的信息，當(dāng)用戶把享用算法“量身定做”的信息當(dāng)成習(xí)慣，原本就有所區(qū)分的層級(jí)之間的溝壑只會(huì)越來越寬，當(dāng)處在同一個(gè)社會(huì)環(huán)境中的個(gè)體都帶著算法智能分發(fā)的有色眼鏡看待問題，彼此的分歧越大則社會(huì)聚合力越小。然而，在這樣一個(gè)用數(shù)據(jù)說話的時(shí)代，數(shù)據(jù)分析得出的結(jié)論往往是多數(shù)人眼中的真相，在各種主體都在努力地尋求用數(shù)據(jù)分析和算法的力量來制造契合自己需要的信息環(huán)境與意見格局時(shí)，那些曾經(jīng)被互聯(lián)網(wǎng)交互打破的高墻又重新筑起來了。科技進(jìn)步不僅讓社會(huì)中的人與人連接，還讓整合的社會(huì)狀態(tài)分裂，當(dāng)數(shù)據(jù)和算法成為權(quán)力博弈的武器，我們期待的“共同視角”或“共識(shí)”的形成必將面臨更大的阻力[1]。

2.2? 來自機(jī)器的念念不忘

智能推薦一邊為用戶帶來便利，一邊收集、處理、控制著用戶的個(gè)人信息，人類在互聯(lián)網(wǎng)上的一切活動(dòng)都會(huì)留下記錄著個(gè)人的特征、位置、狀態(tài)的數(shù)據(jù)痕跡，它會(huì)以一種隱秘的方式向算法透漏你的偏好，并為后臺(tái)數(shù)據(jù)庫(kù)精準(zhǔn)地為你打上標(biāo)簽提供素材。在此情況下不得不時(shí)刻警惕數(shù)據(jù)收集、數(shù)據(jù)利用、數(shù)據(jù)泄露等隱私風(fēng)險(xiǎn)，完整的數(shù)字化記憶將人囚禁在透明的時(shí)空監(jiān)獄中，即使“刪除權(quán)”與“更正權(quán)”正在幫我們行使被遺忘的權(quán)利，個(gè)體也將面臨比過去更多的隱私風(fēng)險(xiǎn)。少注冊(cè)幾個(gè)應(yīng)用程序，不允許該網(wǎng)頁(yè)訪問你的設(shè)備或許是人們自認(rèn)為的可以減少風(fēng)險(xiǎn)的方法，但在算法通過若干點(diǎn)贊就可以判斷用戶的興趣，傳感器可以隨時(shí)隨地捕捉關(guān)于人的任何數(shù)據(jù)的大數(shù)據(jù)時(shí)代，記憶仍會(huì)是常態(tài)[1]。

2.3? 人文主義與數(shù)據(jù)主義的較量

我們從什么時(shí)候開始相信算法基于數(shù)據(jù)做出的判斷比人們坐在桌前開會(huì)討論出的結(jié)果更值得信賴，在智能扶貧項(xiàng)目中，弱勢(shì)公民的真實(shí)需求變成了數(shù)字，這份曾經(jīng)屬于社會(huì)工作者的工作現(xiàn)在由機(jī)器來執(zhí)行。這是一個(gè)福利國(guó)家的人文要素逐漸被稀釋的過程，福利受濟(jì)者的命運(yùn)將由算法宣判。算法似乎是無(wú)所不能的，它在以上帝視角洞悉著一切，對(duì)于數(shù)據(jù)的處理平等而理性，甚至分不清在龐大的數(shù)據(jù)庫(kù)中，人究竟是鮮活的生命還是一串待處理的數(shù)字。

此外，算法還繼承了技術(shù)人員的初始偏見，并隨著數(shù)據(jù)的積累不斷放大，比如算法傾向于向黑人推送查詢犯罪記錄的廣告以及女性在瀏覽網(wǎng)頁(yè)時(shí)很難看到高管培訓(xùn)的廣告。如果我們堅(jiān)信的算法，是在種族和階級(jí)的現(xiàn)有扭曲中孕育而生，那么它只會(huì)讓的不同階級(jí)間的鴻溝更大更深[2]。

不過，在人性自身達(dá)不到完美時(shí)也不必對(duì)數(shù)據(jù)過分苛責(zé)，人文主義與數(shù)據(jù)主義的較量不過是人們期望看到的自己與現(xiàn)實(shí)人性之間的博弈，數(shù)據(jù)在本質(zhì)上是人類觀察世界的表征形式，不過是對(duì)人類行為的歸納與整理，人類文化是存在偏見的，作為與人類社會(huì)同構(gòu)的大數(shù)據(jù)，也必然包含著根深蒂固的偏見。而大數(shù)據(jù)算法僅僅是把這種歧視文化歸納出來而已[3]。由此看來，算法符合我們固有的成見并不稀奇，在我們承認(rèn)人性的陰暗面時(shí)也該想到機(jī)器也會(huì)有學(xué)壞的一天。

3? 總結(jié)與建議

應(yīng)該承認(rèn)，機(jī)器在幫助我們提高各種各樣的機(jī)械能力的方面，較人類更勝一籌。在未來，算法仍然會(huì)應(yīng)用到更多的領(lǐng)域，利用相關(guān)性分析幫我們預(yù)測(cè)更遠(yuǎn)的未來。但是，今天之所以還會(huì)不斷地探討算法分發(fā)帶來的種種憂患，是因?yàn)榧幢闶前l(fā)現(xiàn)了機(jī)械的算法分發(fā)會(huì)引發(fā)影響到用戶個(gè)體、傳媒行業(yè)乃至整個(gè)網(wǎng)絡(luò)文化與社會(huì)文化的一系列問題，我們?nèi)匀幌嘈湃祟惖牧α繒?huì)在算法和人類共棲共生的關(guān)系中占據(jù)上風(fēng)，問題不會(huì)憑空消失但局面仍然可以通過種種舉措來緩和。

3.1? 確定人在內(nèi)容分發(fā)中的主導(dǎo)地位

在這樣一個(gè)算法無(wú)處不在，算法推送的爭(zhēng)議無(wú)處不在的世界，處理人與信息的基本關(guān)系，是解決各種問題的前提。今天我們?cè)诒容^的是人文主義和數(shù)據(jù)主義，其實(shí)也是在對(duì)算法對(duì)于內(nèi)容分發(fā)的主導(dǎo)權(quán)產(chǎn)生質(zhì)疑。其一，人的心理和行為具有復(fù)雜性，并非每一次的消費(fèi)行為都具備縝密的邏輯，人們?cè)谀承┣榫跋伦龀龅倪x擇很有可能是連自己也無(wú)法解釋的“無(wú)意識(shí)”“不確定”的，并非單一的標(biāo)準(zhǔn)可以衡量。其二，信息的價(jià)值觀是由人賦予的，人工可以介入到分發(fā)模式的各個(gè)環(huán)節(jié)對(duì)畸形的思維模式進(jìn)行調(diào)整，人工的介入并非貼標(biāo)簽般的簡(jiǎn)化處理，而應(yīng)該是一套完備的經(jīng)過檢測(cè)的系統(tǒng)化操作流程②。在價(jià)值判斷上，人的社會(huì)閱歷和思考能力能對(duì)問題進(jìn)行多維度考量，勝過了機(jī)器的程式化解決模式，由人來主導(dǎo)內(nèi)容分發(fā)，對(duì)算法來說也是一種精簡(jiǎn)和優(yōu)化的過程。

3.2? 提高從業(yè)者素質(zhì)

當(dāng)我們?cè)趽?dān)心使用算法帶來的后果時(shí)其實(shí)也是在警惕算法這項(xiàng)技術(shù)的不成熟，但與其因?yàn)榭謶炙惴ǘ鴾p少使用，不如從根源上提高算法分發(fā)的效用。使一套機(jī)器語(yǔ)言適應(yīng)所有人的心理需要，并同時(shí)滿足社會(huì)效益的最大化可行性不高，畢竟算法是由一群技術(shù)人員而非心理學(xué)家設(shè)計(jì)的，今天用于處理幾百萬(wàn)個(gè)樣本數(shù)據(jù)的程序可能已經(jīng)附著了技術(shù)人員的個(gè)人價(jià)值觀，盡管算法被應(yīng)用前已經(jīng)經(jīng)過了多次檢驗(yàn)，但未來算法的編制仍然需要在經(jīng)驗(yàn)與程式化、感性與精準(zhǔn)之間尋找平衡。未來的內(nèi)容從業(yè)者，既需要掌握一定的數(shù)據(jù)采集、分析與加工的能力，也需要足夠的人文的視野與素養(yǎng)，擅長(zhǎng)數(shù)據(jù)與算法的技術(shù)人員與具有人文情懷的內(nèi)容生產(chǎn)者的協(xié)作，也會(huì)成為常態(tài)[4]。

3.3? 加強(qiáng)信息倫理規(guī)范的約束

算法發(fā)展到今天，對(duì)于用戶來說還是完全封閉的，用戶在選擇算法的同時(shí)將自己的私人信息無(wú)償交給技術(shù)后臺(tái)，換來的卻有可能的是以利益為目標(biāo)的誤導(dǎo)和欺騙。用戶無(wú)法看到源代碼，也就不明白其中的具體規(guī)則[5]。這種不透明性導(dǎo)致用戶完全處于被動(dòng)接受算法推薦結(jié)果的狀態(tài)，一旦算法設(shè)計(jì)者在其中裝入某種不公正因素，這將擾亂公正的市場(chǎng)秩序，消費(fèi)者的利益也會(huì)因此遭到侵蝕。但是對(duì)于大多數(shù)商家來說，算法程序可能涉及商業(yè)機(jī)密，廣泛公開有失商業(yè)道德。因此，政府有必要通過完善相關(guān)法律，成立監(jiān)察機(jī)構(gòu)來還算法以清白，懲治無(wú)良平臺(tái)對(duì)于算法的利用。

注釋

①孫然：“搜索和推薦”算法工程師 一個(gè)大有前途的職業(yè)，https：//www.ynhouse.com/news/view-203740.html，2018.10/2020.2。

②喻國(guó)明，曲慧：《“信息繭房”的誤讀與算法推送的必要——兼論內(nèi)容分發(fā)中社會(huì)倫理困境的解決之道》，新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），https：//doi.org/10.14100/j.cnki.65-1039/g4.20190826.001。

參考文獻(xiàn)

[1]彭蘭.假象、算法囚徒與權(quán)力讓渡 數(shù)據(jù)與算法時(shí)代的新風(fēng)險(xiǎn)[J].西北師大學(xué)報(bào)，2018，55（5）：20-29.

[2]沈律君.如果AI和算法無(wú)罪，那么誰(shuí)在殺死窮人？[EB/OL].http：//www.sohu.com/a/352140479_563941，2019.11/2020.2.

[3]張玉宏，秦志光，肖樂.大數(shù)據(jù)算法的歧視本質(zhì)[J].自然辯證法研究，2017（5）：81-86.

[4]彭蘭.增強(qiáng)與克制：智媒時(shí)代的新生產(chǎn)力[J].湖南師范大學(xué)社會(huì)科學(xué)學(xué)報(bào)，2019（4）：132-142.

[5]何順民.網(wǎng)購(gòu)平臺(tái)個(gè)性化推薦算法的倫理困境及規(guī)制 以移動(dòng)電商淘寶為例[J].城市學(xué)刊，2019，40（3）：1-6.