本刊評(píng)論員
只是在某個(gè)商品鏈接上停留了幾秒,接下來(lái)主頁(yè)就一直是同類型商品,甚至社交軟件、瀏覽器廣告都無(wú)一例外;在某主題的短視頻上看了2秒,刷到的便統(tǒng)統(tǒng)是同主題的內(nèi)容……類似經(jīng)歷,可能讓越來(lái)越多用戶感到算法推薦越界了。
近日,國(guó)家網(wǎng)信辦、工信部、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局等部門聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(下簡(jiǎn)稱《規(guī)定》,將于3月1日施行),對(duì)算法導(dǎo)致的“大數(shù)據(jù)殺熟”、誘導(dǎo)沉迷等行為進(jìn)行了規(guī)范。
《規(guī)定》中,對(duì)算法推薦進(jìn)行了明確表述:“利用生成合成類、個(gè)性化推送類、排序精選類、檢索過(guò)濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息。”
算法推薦,一度是平臺(tái)企業(yè)賣點(diǎn)。譬如,購(gòu)物平臺(tái)會(huì)按用戶消費(fèi)習(xí)慣推薦消費(fèi)者喜歡的商品,包括品牌、價(jià)格等關(guān)鍵信息,減少消費(fèi)者決策路徑。
問(wèn)題在于,算法背后都是一個(gè)個(gè)寫算法的企業(yè),企業(yè)價(jià)值觀如果走樣,也會(huì)導(dǎo)致算法走樣,乃至侵犯用戶權(quán)益。
這一背景下,《規(guī)定》共有13個(gè)“不得”:不得根據(jù)消費(fèi)者偏好、交易習(xí)慣等特征,利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等違法行為;不得設(shè)置誘導(dǎo)用戶沉迷、過(guò)度消費(fèi)等違反法律法規(guī)或違背倫理道德的算法模型……
差別待遇條款,對(duì)應(yīng)的是大數(shù)據(jù)殺熟。一些外賣、商旅平臺(tái),會(huì)根據(jù)用戶數(shù)據(jù)來(lái)制定價(jià)格策略。甚至存在這種情況:同一商品、服務(wù),越是老用戶,價(jià)格越貴。
涉及“沉迷機(jī)制”的典型案例則是短視頻平臺(tái)。譬如,老年人瀏覽短視頻時(shí),接到的內(nèi)容大部分是“土味視頻”。此外,以算法推薦屏蔽對(duì)企業(yè)不利的信息、操縱榜單等行為,也被列入《規(guī)定》的“不得”之中。
除“不得”外,《規(guī)定》還有多個(gè)“應(yīng)當(dāng)”,聚焦服務(wù)提供者的主體責(zé)任。如“算法推薦服務(wù)提供者應(yīng)當(dāng)制定并公開(kāi)算法推薦服務(wù)相關(guān)規(guī)則”。
只有看到,才能參與。過(guò)去,算法推薦往往被企業(yè)深埋在0和1的數(shù)字深山之中。這一規(guī)定,意味著“黑箱”中的算法也要拿出來(lái)“遛一遛”。公眾既是被動(dòng)接受者,又是參與主體,能針對(duì)算法提出批判性意見(jiàn)。
當(dāng)然,無(wú)論是“不得”,還是“應(yīng)當(dāng)”,都不意味著將算法推薦拒之門外。本質(zhì)上,是通過(guò)加強(qiáng)“算法素養(yǎng)”,讓相關(guān)業(yè)態(tài)能有序發(fā)展。
既要加大落實(shí)力度,也要智慧處理、謹(jǐn)慎前行。
一方面,不宜將算法、算法推薦概念模糊化、等同化。
算法涵蓋范圍比算法推薦更大,涉及自動(dòng)駕駛、語(yǔ)音識(shí)別等眾多領(lǐng)域。哪些應(yīng)用應(yīng)判定為算法推薦,哪些應(yīng)用應(yīng)判定為常規(guī)應(yīng)用,需要精準(zhǔn)評(píng)估。
另一方面,算法推薦往往綁定著企業(yè)的核心競(jìng)爭(zhēng)力。公布算法有利于保障消費(fèi)者權(quán)益,但公布到什么程度、顆粒度有多小,如何兼顧消費(fèi)者和企業(yè)雙方的權(quán)益,是執(zhí)行時(shí)值得關(guān)注的細(xì)節(jié)。
算法推薦并非洪水猛獸,且已融入人們生活的方方面面?!兑?guī)定》為企業(yè)修正乃至重塑價(jià)值觀提出了要求,在具體執(zhí)行中,也要在監(jiān)管、創(chuàng)新之間尋求平衡。既要保護(hù)消費(fèi)者權(quán)益,又要支持企業(yè)創(chuàng)新,這樣才能誕生提升生活福利、具有人文溫度的商業(yè)業(yè)態(tài)。