李潤發(fā) 程振鋒 楊美玲

摘要：在信息技術(shù)支撐下，商家濫用算法侵犯消費者權(quán)益的行為引起了各界廣泛關(guān)注。基于算法侵權(quán)的專業(yè)性、隱蔽性和消費者的劣勢地位，建立健全第三方介入的商家算法行為規(guī)范機制十分必要。第三方測試算法的合法合規(guī)性，測試結(jié)果經(jīng)信息系統(tǒng)公之于眾和對接監(jiān)管部 門，以便形成有效的激勵和約束機制是第三方參與算法行為規(guī)范的核心機理所在。

關(guān)鍵詞：算法;自動化決策;消費者保護(hù);算法行為信息系統(tǒng)

我們正走向算法統(tǒng)治時代，算法正全面而深入地影響經(jīng)濟(jì)生活的方方面面，在提高經(jīng)濟(jì)生活效率的同時，也引發(fā)了一系列的侵權(quán)問題，如何規(guī)范算法成為了學(xué)術(shù)界的研究重點[1-3]。在消費領(lǐng)域，算法侵權(quán)現(xiàn)象受到了各界的廣泛關(guān)注，例如大數(shù)據(jù)殺熟問題[4-6]?！?020打車軟件出行現(xiàn)狀調(diào)查報告》顯示，有優(yōu)惠券時，蘋果手機用戶平均只能獲得2.07元的優(yōu)惠，而安卓等非蘋果用戶平均可以獲得4.12元的優(yōu)惠。記者測試表明，同樣的行程，蘋果手機顯示是14.9元，而安卓手機顯示是9.49元，相差近5元[7]。另一項針對285位大學(xué)生的調(diào)查顯示，55%的學(xué)生表示生活中有過被殺熟的經(jīng)歷，主要出現(xiàn)在外賣類、出行旅游類、休閑娛樂類以及購物類軟件平臺中[8]。近年來，規(guī)范商家算法行為的法律法規(guī)頻出，例如2021年11月1日起實施的《中華人民共和國個人信息保護(hù)法》（簡稱《個人信息法》）對于利用個人信息進(jìn)行自動化決策進(jìn)行了規(guī)范。盡管各界廣泛關(guān)注、政府強勢介入算法領(lǐng)域的消費者侵權(quán)問題，到目前為止并無解決此問題的靈丹妙藥，為此本文將從第三方參與的視角，建立商家算法行為規(guī)范模型，探討規(guī)范商家算法行為的長效機制。

1 算法經(jīng)濟(jì)下的消費者劣勢

算法經(jīng)濟(jì)是指經(jīng)濟(jì)生活中基于大數(shù)據(jù)、人工智能等信息技術(shù)的算法全面而深度地參與經(jīng)濟(jì)決策，其表現(xiàn)為在生產(chǎn)、交易、分配和消費的各個環(huán)節(jié)通過算法進(jìn)行決策或輔助決策，以便提高決策的效率和效果。姚前指出“算法經(jīng)濟(jì)是指人們將生產(chǎn)經(jīng)驗、邏輯和規(guī)則總結(jié)提煉后“固化”在代碼上，使生產(chǎn)經(jīng)營活動無須人工干預(yù)，自動執(zhí)行的經(jīng)濟(jì)模式”[9]。通過設(shè)置一定的規(guī)則，信息系統(tǒng)可以在無人干預(yù)的條件下快速地做出各種決策，例如當(dāng)消費者在某電商平臺搜索某種商品時，信息系統(tǒng)根據(jù)客戶的年齡、購物偏好等數(shù)據(jù)有針對性地定價并推送相關(guān)商品。如此一來降低了商家經(jīng)營成本和用戶信息搜索成本，改善了用戶購物體驗，這對于提高供給匹配的效率起到重要的作用。

但是，在算法經(jīng)濟(jì)背景下，消費者的劣勢地位進(jìn)一步凸顯。一直以來，由于信息不對稱、消費者專業(yè)知識有限等原因，相對于商家而言消費者處于不利地位。因此，對于商家之間交的交易和商家與個體消費者之間的交易，各國法律通過不同的規(guī)則予以規(guī)范，從而更好地保護(hù)消費者權(quán)益。例如，我國企業(yè)之間的經(jīng)濟(jì)交易適用民法典，而個人由于消費與企業(yè)發(fā)生的交易，除適用民法典外，更有消費者權(quán)益保護(hù)法等法律予以特別規(guī)范。算法經(jīng)濟(jì)下，消費者處于更為不利的境地。例如，在傳統(tǒng)的交易中，售貨員會根據(jù)其對于客戶的判斷而針對同一商品開出不同的價格，這就是經(jīng)濟(jì)學(xué)所描述的價格歧視。傳統(tǒng)的交易中，價格歧視成本高，需要業(yè)務(wù)熟練的售貨員，同時消費者也可以根據(jù)其消費經(jīng)驗進(jìn)行還價，因此價格歧視通常沒有引起大眾的集體焦慮。但是，在算法時代，價格歧視的成本更低。同時，交易通過網(wǎng)絡(luò)進(jìn)行，消費者難以真實地感知產(chǎn)品和服務(wù)質(zhì)量。理論上，消費者可以多家商店或多個平臺比價以減少價格歧視帶來的損失，但是由于商品規(guī)格型號繁多、存在平臺壟斷現(xiàn)象、時間有限、手機難以安裝足夠多的交易軟件等原因，提高了比價的難度，甚至多個平臺比價幾乎不可能。

2 算法行為規(guī)范的困境

本文所說的算法行為是指商家在與消費者交易的過程中，通過計算機算法進(jìn)行自動化的決策或輔助決策的經(jīng)營行為。商家有利用算法侵犯消費者權(quán)益的可能，且侵權(quán)行為屢見不鮮，例如價格歧視、不為消費者提供適度多元化的選擇。因而引起了社會各界的廣泛關(guān)注，包括部分消費者的網(wǎng)購焦慮，學(xué)者呼吁規(guī)范算法行為以保障消費者權(quán)益，國家出臺一系列規(guī)范商家利用算法進(jìn)行決策的法律法規(guī)?！秱€人信息法》等近來頒布的法律法規(guī)明確要保護(hù)個人信息，對于算法推薦做出了明確的限制。根據(jù)《個人信息法》第二十四條規(guī)定，利用個人（消費者）信息進(jìn)行自動化決策時，“應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正，不得對個人在交易價格等交易條件上實行不合理的差別待遇”;通過自動化決策方式進(jìn)行商品推送時，“應(yīng)當(dāng)同時提供不針對其個人特征的選項，或者向個人提供便捷的拒絕方式”;若自動化決策對消費者權(quán)益有重大影響時，“個人有權(quán)要求個人信息處理者（商家）予以說明，并有權(quán)拒絕個人信息處理者僅通過自動化決策的方式作出決定?！贝送?，該法和其他法律還對濫用個人信息及個人信息用于自動化決策的民事、行政和刑事責(zé)任進(jìn)行了規(guī)定。

盡管社會各界廣泛關(guān)注，相關(guān)法律法規(guī)明確地規(guī)定了不得基于算法而侵犯消費者權(quán)益，但如何規(guī)范實際交易中算法行為以保護(hù)消費者權(quán)益成了當(dāng)前消費者權(quán)益保護(hù)的難點。首先，出于利益最大化的考慮，商家有動力通過各種算法來歧視消費者，例如根據(jù)消費者年齡等數(shù)據(jù)實施價格歧視、定向推送某些商品而限制消費者選擇范圍。普通消費者通常沒有能力去識別是否被算法“算計”了。即使感覺到被算法“算計”了，也可能別無選擇。隨著消費者網(wǎng)絡(luò)行為的增加，累積得越來越多的消費者數(shù)據(jù)被商家所掌握，可能不僅被某個商家所掌握，而是被諸多商家所掌握。即便換一個平臺，也難免不被另一個算法所“算計”。其次，算法往往是商業(yè)機密而不對外公布，或者即使對外公布也難以被消費者所理解。再次，算法繁多且迭代速度快，監(jiān)管部門和有關(guān)組織難以對所有的算法展開實時的審計和鑒定。即使是經(jīng)過審計和鑒定的合規(guī)算法，商家在實際業(yè)務(wù)過程中可以輕易地調(diào)整、修改算法。最后，商家處于優(yōu)勢地位，即使根據(jù)《個人信息法》等法律法規(guī)，可以讓消費者選擇不受算法的約束，或者向消費者解釋其算法;但是由于說明條款繁多、專業(yè)術(shù)語難被普通消費者理解、一次授權(quán)使用而日后交易中自動使用的策略等，難以有效地避免算法濫用。

3 基于第三方參與的算法行為規(guī)范策略

基于當(dāng)前的算法困境，筆者提出建立和健全基于第三方參與的算法行為規(guī)范機制。所謂第三方是指除消費者和商家之外的、非交易直接當(dāng)事人之間的主體（不包括政府監(jiān)管部門），如消費者協(xié)會、研究機構(gòu)、媒體等。第三方由于其專業(yè)性、社會聯(lián)系廣泛性等優(yōu)勢，其參與到算法規(guī)范過程中來，能夠有效地解決消費劣勢問題，例如通過輿論監(jiān)督、發(fā)布侵權(quán)信息、消費者教育等方式規(guī)范或促使商家規(guī)范算法行為，從而實現(xiàn)保護(hù)消費者的目的。為此，本文提出基于第三方參與的商家算法行為規(guī)范模型，如圖1所示。

3.1 加強算法行為監(jiān)測

算法行為監(jiān)測的目的是了解商家算法行為的現(xiàn)狀，探究算法違規(guī)行為背后的機理，為商家算法行為信息系統(tǒng)提供算法違規(guī)行為信息。由于算法違規(guī)行為的專業(yè)性，亟需高校、科研機構(gòu)及各類組織加強商家算法行為監(jiān)測?？蒲袡C構(gòu)等組織根據(jù)法律、法規(guī)的規(guī)定或者國家監(jiān)管機構(gòu)的授權(quán)對商家的算法行為進(jìn)行專業(yè)監(jiān)測，在一定條件下可查閱商家的內(nèi)部文件，通過算法審計等方式評估商家的算法行為是否合法合規(guī)。有關(guān)社會組織可以自行或組織消費者測試算法，對購物、出行等網(wǎng)絡(luò)平臺進(jìn)行監(jiān)督;例如使用不同的測試賬號登錄并搜索同一產(chǎn)品和服務(wù)，以便測試是否存在價格歧視、非法的商品推送行為;了解其是否按照相關(guān)法律法規(guī)在使用個人信息進(jìn)行自動化決策時充分地告知消費者，是否給消費者提供了便利的拒絕選項等。

3.2 建立商家算法行為信息系統(tǒng)

建立全國范圍內(nèi)的算法行為信息系統(tǒng)，匯聚、傳播和共享算法行為信息，以便形成全社會參與的算法治理格局。首先，通過信息公開警示、懲罰違規(guī)行為。考慮到互聯(lián)網(wǎng)集中度高，例如外賣、出行等領(lǐng)域被一個或者少數(shù)平臺所壟斷或近乎壟斷，對于這些居于壟斷地位的互聯(lián)網(wǎng)平臺予以重點公示。通過公示，讓消費者知曉哪些互聯(lián)網(wǎng)平臺的算法違規(guī)，降低其在消費者心目中的信譽。當(dāng)一家主流平臺頻繁地被公示時，其在消費者心目中的信譽降低到一定程度時，消費者便會有較大的動力選擇其他的平臺，競爭者、甚至行業(yè)中處于相對弱勢的競爭者平臺能夠較容易地抓住機會擴大市場份額。其次，算法行為信息系統(tǒng)為研究機構(gòu)、行業(yè)協(xié)會提供信息，有利于促進(jìn)算法違規(guī)行為研究，加強行業(yè)規(guī)范。最后，算法行為信息系統(tǒng)為監(jiān)管部門查處各類算法違規(guī)行為提供專業(yè)監(jiān)測數(shù)據(jù)和線索，完善算法違規(guī)約束機制。

3.3 充分發(fā)揮消費者協(xié)會等社會組織的作用

商家與消費者博弈中，消費者明顯處于劣勢。充分發(fā)揮消費者協(xié)會、行業(yè)協(xié)會等組織的作用，預(yù)防和處理算法侵權(quán)行為。我國消費者協(xié)會積累了保護(hù)消費者權(quán)益的豐富經(jīng)驗，面對算法侵權(quán)行為越來越多的現(xiàn)實，組織常規(guī)或者專項算法維權(quán)行動。利用其自身或者外部的專業(yè)力量對商家的算法行為進(jìn)行隨機抽查或者重點抽查，形成報告并通過信息系統(tǒng)公示，向有關(guān)監(jiān)管部門提出監(jiān)管建議。中國計算機學(xué)會等行業(yè)組織充分發(fā)揮行業(yè)自律、行業(yè)規(guī)范等職能，健全算法研發(fā)行業(yè)標(biāo)準(zhǔn)，通過宣傳等措施引導(dǎo)商家算法行為。加強輿論監(jiān)督，媒體及時跟蹤報道信息系統(tǒng)公示的算法違規(guī)行為，就典型侵權(quán)行為進(jìn)行專題報道，以便引導(dǎo)消費者提高信息保護(hù)意識和科學(xué)地通過互聯(lián)網(wǎng)消費，促使商家自動規(guī)范其算法行為。

3.4 政府監(jiān)管部門加大算法違規(guī)行為整治力度

政府監(jiān)管部門及時地針對算法違規(guī)行為采取措施，以便維護(hù)消費者權(quán)益。首先，監(jiān)管部門信息系統(tǒng)與算法違規(guī)信息系統(tǒng)對接，實時地了解算法違規(guī)的狀況，如重點行業(yè)違規(guī)情況，及時地針對違規(guī)行為采取約談、行政處罰等監(jiān)管措施。其次，構(gòu)成犯罪的，公安機關(guān)及時介入偵查，懲罰違規(guī)者和警示商家。再次，完善公益訴訟制度，由于商家處于強勢地位而消費者往往處于無組織、無專業(yè)能力的境地，通過公益訴訟的方式，對算法違規(guī)行為嚴(yán)重或者較嚴(yán)重的互聯(lián)網(wǎng)平臺及各類商家提起公益訴訟。最后，針對信息技術(shù)弱勢群體展開常態(tài)化專項監(jiān)管。針對老年人的算法歧視問題不容忽視，例如通過算法誤導(dǎo)老年人消費[10]。青少年群體網(wǎng)絡(luò)消費日益增加，特別是未成年人無完全行為能力，易受游戲等商家的算法行為誤導(dǎo)，形成不健康的消費習(xí)慣和觀念，危害極大。

綜上，第三方有效地參與算法行為規(guī)范，形成有效的算法行為激勵和約束機制是解決算法侵權(quán)行為的關(guān)鍵所在。此機制生效的關(guān)鍵在于，第三方利用其專業(yè)性、廣泛的社會聯(lián)系優(yōu)勢為消費者科學(xué)地選擇商家和政府有效的監(jiān)管提供決策信息。

參考文獻(xiàn)

[1] 劉霞.當(dāng)算法統(tǒng)治世界[N]. 科技日報，2011-09-13（008）.

[2] 潘芳芳.算法歧視的民事責(zé)任形態(tài)[J].華東政法大學(xué)學(xué)報，2021，24（05）：55-68.

[3] 陳兵.數(shù)據(jù)時代開啟消費者保護(hù)多元共治新格局[J/OL].東北師大學(xué)報（哲學(xué)社會科學(xué)版）：1-10[2021-11-11].http：//kns.cnki.net/kcms/detail/22.1062.C.20191113.1036.002.html.

[4] 凌振國.推進(jìn)數(shù)字社會適老化改造 遏制大數(shù)據(jù)“殺熟”[N]. 人民政協(xié)報，2021-11-09（007）.

[5] 金幼芳，王凱莉，張汀菡.《個人信息保護(hù)法》視角下“大數(shù)據(jù)殺熟”的法律規(guī)制[J/OL].浙江理工大學(xué)學(xué)報（社會科學(xué)版）：1-9[2021-11-11].http：//kns.cnki.net/kcms/detail/33.1338.ts.20211027.1528.002.html.

[6] 文銘，莫殷.大數(shù)據(jù)殺熟定價算法的法律規(guī)制[J/OL].北京航空航天大學(xué)學(xué)報（社會科學(xué)版）：1-8[2021-11-11].https：//doi.org/10.13766/j.bhsk.1008-2204.2021.0250.2021-11-11.

[7] 蘋果手機打車更貴？記者親測實錘！https：//baijiahao.baidu.com/s？id=1693545608304550812&wfr=spider&for=pc.2021-11-11.

[8] 胡君倩，段佳慧.殺熟與數(shù)據(jù)場景下消費者權(quán)利保護(hù)問題研究[J].法制與社會，2019（17）：55-56.

[9] 姚前.算法經(jīng)濟(jì)：資源配置的新機制[J].清華金融評論，2018（10）：91-98.

[10] 陳發(fā)俊，姜子豪.老年智能產(chǎn)品的應(yīng)用前景與倫理風(fēng)險[J].山東科技大學(xué)學(xué)報（社會科學(xué)版），2021，23（01）：21-28.

本文系佛山市2021年度社科規(guī)劃共建項目（項目編號：2021-GJ028）研究成果。

作者簡介：

李潤發(fā)（1980.7-），男，中國廣東省廣州工商學(xué)院教師，碩士研究生，講師、經(jīng)濟(jì)師，研究方向：市場營銷。

程振鋒（1980.11-），男，中國廣東省廣州工商學(xué)院教師，博士，副教授，研究方向：市場營銷。

楊美玲（1986.10-），女，中國廣東省廣州工商學(xué)院教師，碩士研究生，副教授，研究方向：市場營銷。