盧毅俊

（中國(guó)南方航空，廣東 廣州 510000）

《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱算法推薦管理規(guī)定或管理規(guī)定）2021 年11 月16 日經(jīng)國(guó)家互聯(lián)網(wǎng)信息辦公室2021 年第20 次室務(wù)會(huì)議審議通過(guò)，并經(jīng)工業(yè)和信息化部、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局同意聯(lián)合發(fā)布，自2022 年3 月1 日起正式實(shí)施[1]?！端惴ㄍ扑]管理規(guī)定》的出臺(tái)，可以進(jìn)一步規(guī)范這些互聯(lián)網(wǎng)信息服務(wù)推薦類的活動(dòng)，切實(shí)維護(hù)人民的權(quán)利，保護(hù)人民的利益，也為促進(jìn)國(guó)家社會(huì)安全利益提供了有利的基礎(chǔ)，促進(jìn)互聯(lián)網(wǎng)的健康發(fā)展。

1 算法推薦管理規(guī)定主要關(guān)鍵點(diǎn)

本次《算法推薦管理規(guī)定》內(nèi)容主要分為六章，其中第二章“信息服務(wù)規(guī)范”及第三章“用戶權(quán)益保護(hù)”涉及了互聯(lián)網(wǎng)算法推薦的相關(guān)具體規(guī)定。本次管理規(guī)定也對(duì)算法推薦給了一個(gè)較明確的范圍，主要包括生成合成類、個(gè)性化推送類、排序精選類、檢索過(guò)濾類、調(diào)度決策類等算法，本文主要針對(duì)個(gè)性化推送這一類展開(kāi)分析。對(duì)于個(gè)性化推薦，根據(jù)學(xué)者孫魯平等（2016）的定義，個(gè)性化推薦是電商平臺(tái)根據(jù)用戶的特點(diǎn)如用戶評(píng)分、瀏覽歷史、購(gòu)物行為、社交關(guān)系等信息，綜合分析消費(fèi)的需求偏好產(chǎn)品，并在用戶訪問(wèn)平臺(tái)時(shí)將對(duì)應(yīng)的產(chǎn)品推送給他們[2]。個(gè)性化推薦系統(tǒng)主要由智能推薦系統(tǒng)執(zhí)行，整個(gè)過(guò)程主要涉及了數(shù)據(jù)輸入、推薦算法、推薦輸出這幾個(gè)步驟[3]，因此，算法推薦也是電商個(gè)性化推薦的關(guān)鍵核心之一，評(píng)估個(gè)性化推薦系統(tǒng)的好壞可以通過(guò)對(duì)其算法進(jìn)行評(píng)估[4]，總體來(lái)看，個(gè)性化推薦算法可以分為協(xié)同過(guò)濾推薦、基于內(nèi)容的推薦及混合型推薦三種模式[5]，其根本的邏輯都是基于用戶的個(gè)人基礎(chǔ)信息或行為數(shù)據(jù)進(jìn)行計(jì)算，在此次規(guī)定中，包含對(duì)算法推薦、個(gè)人信息管理等相關(guān)治理方面，對(duì)于企業(yè)電商個(gè)性化推薦服務(wù)有著重要的影響。

1.1 關(guān)于算法推薦的正向積極性

《算法推薦管理規(guī)定》第二章第六、七、八條從推薦內(nèi)容的規(guī)范性、價(jià)值性、合理性等作出了要求，明確要求推薦內(nèi)容要符合國(guó)家安全利益，遵守法律法規(guī)，要注重信息安全，切實(shí)做好用戶信息等網(wǎng)絡(luò)安全保護(hù)，推薦的內(nèi)容也要考慮好正向價(jià)值和積極能量的傳播，不得對(duì)社會(huì)造成負(fù)面影響?？梢钥吹?，管理規(guī)定從一開(kāi)始就明確了算法推薦服務(wù)的方向，強(qiáng)調(diào)推薦服務(wù)應(yīng)該往正確的方向去進(jìn)行，要符合國(guó)家人民利益，保證安全，倡導(dǎo)價(jià)值正向理念。

1.2 關(guān)于用戶模型及信息標(biāo)簽的管理

《算法推薦管理規(guī)定》第二章第九、十條規(guī)定了算法服務(wù)的信息要符合信息安全、規(guī)范信息傳播、對(duì)不良信息進(jìn)行治理等要求。算法服務(wù)的提供者需要完善用戶興趣模型及用戶標(biāo)簽的管理規(guī)則，避免將違法不良信息作為用戶的興趣或標(biāo)簽而進(jìn)行推送。個(gè)性化推薦服務(wù)基于用戶信息，企業(yè)很多情況下會(huì)將用戶信息分成不同的標(biāo)簽進(jìn)行管理，以往企業(yè)可能對(duì)于用戶的標(biāo)簽信息好壞并不會(huì)作嚴(yán)格的區(qū)分，只要是涉及用戶的屬性特點(diǎn)，個(gè)性化推薦系統(tǒng)都會(huì)作為其中一個(gè)參考點(diǎn)，但管理規(guī)定要求個(gè)性化服務(wù)需要嚴(yán)格甄別這類不良信息，如果是涉及負(fù)面影響的違法不良隱私，個(gè)性化推薦算法一定要進(jìn)行過(guò)濾，以杜絕不良信息的推送。

1.3 關(guān)于推薦信息的真實(shí)客觀性

管理規(guī)定第二章第十三、十四、十五條主要規(guī)定了推薦服務(wù)需要保證信息的真實(shí)性，避免虛假內(nèi)容，禁止不合理限制其他互聯(lián)網(wǎng)服務(wù)的真實(shí)正當(dāng)信息。算法推薦的原則應(yīng)該遵循公平公正公開(kāi)，個(gè)性化推薦服務(wù)不僅僅是按照企業(yè)的目標(biāo)利益去執(zhí)行，保證信息的真實(shí)性是開(kāi)展推薦服務(wù)的前提，如果僅僅為了迎合用戶的喜好或者為了展現(xiàn)自己產(chǎn)品的好處，就制造了一些不屬實(shí)或過(guò)于夸張的信息去吸引研究，就會(huì)違背這個(gè)原則。過(guò)度推薦也是個(gè)性化服務(wù)讓用戶煩惱的一個(gè)現(xiàn)象，企業(yè)為了加大產(chǎn)品的銷售，而無(wú)節(jié)制地給用戶提送產(chǎn)品信息，給用戶造成了不少的困擾，規(guī)定將會(huì)進(jìn)一步限制這方面的行為，督促企業(yè)做好算法推薦的優(yōu)化，真正做到為用戶考慮。

1.4 關(guān)于提供推薦服務(wù)的說(shuō)明

管理規(guī)定第三章第十六條規(guī)定算法推薦服務(wù)要用明顯的方式告訴用戶關(guān)于算法推薦的情況，包括算法的原理、目的、運(yùn)行機(jī)制等。以往個(gè)性化推薦服務(wù)主要是以最終的一個(gè)輸出結(jié)果給到用戶，用戶對(duì)于個(gè)性化推薦最明顯的感知就是收到對(duì)應(yīng)的產(chǎn)品或信息推送，但對(duì)于其中涉及的算法邏輯，推送目的等用戶會(huì)一無(wú)所知或者很模糊，只能被動(dòng)地接受服務(wù)。此條規(guī)定增加了推薦服務(wù)的透明性，用戶作為接受服務(wù)的主題，有權(quán)知道算法的推薦邏輯和背景，只有知道了這些用戶才能結(jié)合實(shí)際情況去決定是否要使用這個(gè)推薦服務(wù)，如此一來(lái)，電商個(gè)性化推薦不僅僅是企業(yè)主動(dòng)產(chǎn)生的行為，企業(yè)在執(zhí)行之前也要先盡到告知的義務(wù)。

1.5 關(guān)于用戶對(duì)于個(gè)性化服務(wù)使用的決定權(quán)

管理規(guī)定第三章第十七條規(guī)定算法服務(wù)需要提供一個(gè)方便清晰的關(guān)閉算法服務(wù)的選項(xiàng)，關(guān)閉后不再對(duì)用戶提供算法推薦服務(wù)。以往大多數(shù)情況是電商應(yīng)用默認(rèn)給用戶提供個(gè)性化推薦服務(wù)，雖然在應(yīng)用打開(kāi)時(shí)有請(qǐng)求用戶能否收集相關(guān)信息，但用戶如果拒絕往往就不能使用應(yīng)用的任何服務(wù)了，此規(guī)定明確了算法服務(wù)的獨(dú)立性，必須是用戶同意后才能提供，用戶能自行選擇是否需要推薦服務(wù)。關(guān)閉算法服務(wù)到底要做到什么程度，也需要后續(xù)相關(guān)規(guī)定進(jìn)一步明確，所以關(guān)于個(gè)性化服務(wù)的關(guān)閉整治后續(xù)還有一段路要走。

1.6 關(guān)于對(duì)特殊用戶群體的服務(wù)個(gè)性化

管理規(guī)定第三章第十八、十九條規(guī)定了算法服務(wù)向未成年人或老人群體提供服務(wù)時(shí)應(yīng)當(dāng)根據(jù)其群體特點(diǎn)做好對(duì)群體的保護(hù)，對(duì)于未成年人要加強(qiáng)其身心健康的引導(dǎo)，對(duì)于老年群體要關(guān)愛(ài)好他們的使用體驗(yàn)，在方便他們使用的同時(shí)也要保護(hù)他們免受網(wǎng)絡(luò)詐騙。這里強(qiáng)調(diào)個(gè)性化推薦服務(wù)要更注重關(guān)懷性，不能只為了盈利而只去服務(wù)經(jīng)常使用或懂得使用網(wǎng)絡(luò)的群體，個(gè)性化推薦服務(wù)也不能用一套模式一勞永逸，需要考慮到不同群體的特點(diǎn)去制定不同的服務(wù)內(nèi)容，保證各個(gè)群體都能受益，保護(hù)好他們的權(quán)益。

1.7 關(guān)于個(gè)性化服務(wù)的公平性

管理規(guī)定第三章第二十一條規(guī)定了算法服務(wù)要保護(hù)用戶的交易公平性，不得利用消費(fèi)者的偏好信息實(shí)施不合理的對(duì)待。此規(guī)定對(duì)于電商購(gòu)物中如“大數(shù)據(jù)殺熟”這種現(xiàn)象給了一個(gè)明確的禁止規(guī)定。在零售市場(chǎng)中，價(jià)格歧視是企業(yè)根據(jù)不同的市場(chǎng)、地域、消費(fèi)群體采取的價(jià)格區(qū)分定位的一種手段，在以前互聯(lián)網(wǎng)電商還不是很發(fā)達(dá)的情況下，企業(yè)并不能利用很隱蔽的手段去實(shí)行，用戶還能比較明顯地看到這種價(jià)格差別，如果用戶想要獲得更低價(jià)，他只需要多付出一些努力就能享受到這種低價(jià)。但在大數(shù)據(jù)的時(shí)代，企業(yè)可以利用算法來(lái)隨時(shí)給用戶進(jìn)行定價(jià)，在網(wǎng)站產(chǎn)品信息瞬息萬(wàn)變的情況下，可能一個(gè)算法調(diào)整就能讓消費(fèi)能力更強(qiáng)的人看到價(jià)格更貴的產(chǎn)品，價(jià)格敏感的人看到低價(jià)產(chǎn)品，而且是在大家都對(duì)低價(jià)產(chǎn)品有需求的情況下，消費(fèi)能力強(qiáng)的人就因此失去了購(gòu)買低價(jià)的機(jī)會(huì)，這就嚴(yán)重造成了不公平的現(xiàn)象，所以個(gè)性化服務(wù)不能僅根據(jù)用戶的特點(diǎn)提供有差別的價(jià)格，更多應(yīng)該是從產(chǎn)品的特性上去區(qū)分價(jià)格，然后推送給不同的用戶，當(dāng)然也不能剝奪高價(jià)值用戶看到低價(jià)產(chǎn)品的權(quán)利。

1.8 關(guān)于個(gè)性化服務(wù)的用戶反饋

管理規(guī)定第三章第二十二條規(guī)定了算法服務(wù)需要提供一個(gè)方便的渠道給用戶反饋問(wèn)題及投訴，企業(yè)應(yīng)該能有效處理這些反饋。這條強(qiáng)調(diào)了個(gè)性化推薦服務(wù)的反饋重要性，再次說(shuō)明了推薦服務(wù)不僅是企業(yè)的主動(dòng)行為，用戶不再只是主動(dòng)接受服務(wù)，用戶不僅有接受選擇的主動(dòng)權(quán)，也有提供意見(jiàn)的權(quán)利，個(gè)性化推薦服務(wù)應(yīng)當(dāng)要保證反饋的通暢性。

2 電商個(gè)性化推薦的改善建議

2.1 保護(hù)用戶對(duì)于個(gè)性化推薦服務(wù)的決定權(quán)，加強(qiáng)用戶互動(dòng)性

電商個(gè)性化推薦服務(wù)的產(chǎn)生都是基于用戶的信息進(jìn)行輸出，用戶的個(gè)人隱私信息是個(gè)性化推薦服務(wù)的基礎(chǔ)，從隱私的關(guān)注維度上看，Malhotra 等（2004）認(rèn)為隱私關(guān)注可以分為隱私收集、隱私控制、隱私認(rèn)知，其中控制包含了用戶對(duì)個(gè)人信息的自主權(quán)，用戶有權(quán)決定自己的信息如何被使用，同時(shí)也要掌握自己的個(gè)人信息利用[6]。因此，企業(yè)首先應(yīng)該給用戶提供一個(gè)顯著的是否使用個(gè)性化服務(wù)的選項(xiàng)，如果用戶關(guān)閉了服務(wù)，則不再主動(dòng)地給用戶提供信息，也不能再利用用戶的個(gè)人信息進(jìn)行算法計(jì)算。如果用戶使用個(gè)性化推薦服務(wù)，則在服務(wù)開(kāi)始前，應(yīng)明確告知用戶需要收集哪些信息，這些信息會(huì)用在那些服務(wù)場(chǎng)景，同時(shí)應(yīng)當(dāng)采用簡(jiǎn)潔明了的形式告知推薦算法的應(yīng)用邏輯，大致的算法規(guī)則，能達(dá)到讓用戶理解自己會(huì)接收到怎么樣的推薦產(chǎn)品的程度就行。另外建議增加推薦服務(wù)的反饋機(jī)制，給用戶提供一個(gè)可以對(duì)推薦服務(wù)反饋意見(jiàn)的渠道，可以是一個(gè)簡(jiǎn)潔的反饋?lái)?yè)面，對(duì)于用戶提供的意見(jiàn)需要及時(shí)地反饋，讓用戶感覺(jué)到自己被重視。同時(shí)，企業(yè)應(yīng)該主動(dòng)給用戶反饋推薦服務(wù)的情況，在推薦過(guò)程中也可以隨時(shí)詢問(wèn)用戶的感受，如用戶在收到推薦信息時(shí)可以在底下反饋是否喜歡這個(gè)推薦等。

2.2 重視產(chǎn)品的公平性與真實(shí)性，保護(hù)用戶的合法利益，加強(qiáng)算法的優(yōu)化

“大數(shù)據(jù)殺熟”等現(xiàn)象讓用戶痛恨，企業(yè)不能為了一時(shí)的利益而流失掉用戶，信任永遠(yuǎn)是企業(yè)的立足之本，企業(yè)在提供服務(wù)時(shí)應(yīng)該隨時(shí)考慮算法的公平性，相同的產(chǎn)品不應(yīng)該以不同的價(jià)格提供給用戶，應(yīng)該著重在對(duì)產(chǎn)品質(zhì)量的打磨，根據(jù)不同的用戶特點(diǎn)提供不同特點(diǎn)，有差異的產(chǎn)品，這才是個(gè)性化精準(zhǔn)營(yíng)銷的基礎(chǔ)，首先需要有個(gè)性化的差異產(chǎn)品，而不單單是差異化的價(jià)格。同時(shí)推薦的產(chǎn)品應(yīng)該是基于用戶的真實(shí)需求，個(gè)性化推薦就是為了匹配用戶的特點(diǎn)為其推送最合適的產(chǎn)品，應(yīng)該是根據(jù)用戶的實(shí)際情況去進(jìn)行匹配，避免為了沖銷量而給用戶推薦不合適的產(chǎn)品。

2.3 注重推薦信息的合理性，倡導(dǎo)正向價(jià)值觀

算法需要為用戶帶來(lái)符合需求的個(gè)性化服務(wù)，也需要倡導(dǎo)正向的內(nèi)容，引領(lǐng)積極的方向。首先，算法推薦服務(wù)雖然是給用戶推薦合適的產(chǎn)品，但并不是無(wú)節(jié)制地推薦，因?yàn)樗惴ㄔ诟鶕?jù)用戶興趣愛(ài)好推薦的同時(shí)，也會(huì)不可避免地引起信息成癮的問(wèn)題，不斷地迎合用戶需求，不斷地根據(jù)用戶愛(ài)好推薦容易讓用戶形成單一的信息，如果不加制止，也會(huì)容易讓用戶陷入泛娛樂(lè)化的陷阱，使其沉浸在虛擬世界中[7]。如果用戶本身有涉及不良的習(xí)慣，或者社會(huì)上傳播的一些不良思想也自動(dòng)加入算法中，會(huì)容易帶偏社會(huì)的正向價(jià)值觀。企業(yè)在做推薦服務(wù)的同時(shí)，也可以多加入一些社會(huì)主流正向價(jià)值觀的內(nèi)容，即符合用戶產(chǎn)品需要，也能引導(dǎo)人們積極向上，構(gòu)建健康的消費(fèi)理念。算法本身沒(méi)有判斷好壞的屬性，一切在于人為的控制與優(yōu)化[8]，所以，任何企業(yè)在做個(gè)性化推薦服務(wù)的時(shí)候，都應(yīng)該避免這種負(fù)向的信息，多考慮好算法所產(chǎn)生的意外結(jié)果，從而去及時(shí)進(jìn)行規(guī)范。

2.4 建立一套完善的推薦算法管理機(jī)制

算法推薦需要國(guó)家層面出臺(tái)法律規(guī)定進(jìn)行治理，同理企業(yè)也應(yīng)該遵循規(guī)定去給自己制定關(guān)于算法的內(nèi)部管理機(jī)制。在大數(shù)據(jù)盛行、電商購(gòu)物行為普遍的背景下，每天都會(huì)產(chǎn)生大量的數(shù)據(jù)，即涉及了用戶的購(gòu)物行為，也會(huì)涉及很多個(gè)人甚至國(guó)家層面的敏感數(shù)據(jù)，如何對(duì)這些數(shù)據(jù)進(jìn)行管理，如何保護(hù)這些數(shù)據(jù)，需要企業(yè)完善信息技術(shù)，也需要企業(yè)內(nèi)部形成嚴(yán)格的信息保護(hù)條款，做好數(shù)據(jù)脫敏，規(guī)范內(nèi)部的數(shù)據(jù)使用規(guī)定。另外，在人工智能時(shí)代，推薦算法也逐漸趨向于智能化和自動(dòng)化，算法能自動(dòng)進(jìn)行學(xué)習(xí)，不斷地優(yōu)化從而能做出更有效符合用戶需求的推薦，但智能化的算法畢竟無(wú)法對(duì)所有情況進(jìn)行判斷，涉及一些倫理性或價(jià)值是否判斷的內(nèi)容智能算法可能沒(méi)有辦法很好地處理，企業(yè)不能任由算法去執(zhí)行推薦服務(wù)，應(yīng)該要定期檢查算法推薦的內(nèi)容是否符合相關(guān)規(guī)范，可以成立專門的算法推薦服務(wù)體驗(yàn)小組，定期進(jìn)行個(gè)性化推薦服務(wù)體驗(yàn)，及時(shí)提出算法優(yōu)化建議。利用技術(shù)手段及時(shí)規(guī)制算法出現(xiàn)的不確定情況，如果發(fā)現(xiàn)個(gè)性化推薦產(chǎn)生了不良的內(nèi)容，要有相應(yīng)的系統(tǒng)自動(dòng)阻斷機(jī)制。

3 結(jié)語(yǔ)

《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》無(wú)疑是給電商個(gè)性化推薦提出了更多的要求，也進(jìn)一步為規(guī)范算法推薦服務(wù)市場(chǎng)提供了有力的方向。算法推薦不再僅僅強(qiáng)調(diào)推薦效果的精準(zhǔn)性和有效性，也應(yīng)該給社會(huì)帶來(lái)更多方面的價(jià)值。希望更多企業(yè)能遵循規(guī)定，致力于為用戶提供更有效、更安全、更公平、更積極向上的推薦服務(wù)，共同打造一個(gè)健康的電商消費(fèi)環(huán)境。