程雪軍
近年來,在網(wǎng)絡數(shù)據(jù)日益沉淀以及人工智能技術深化發(fā)展的驅(qū)動下,各個生活消費場景(如電子商務、智能出行、餐飲外賣、旅游酒店以及網(wǎng)絡游戲等)紛紛出現(xiàn)各種超級平臺,并且形成了各具特色的平臺類型與功能。然而,什么是超級平臺?目前學術界與實務界并沒有達成統(tǒng)一定義。不過,根據(jù)國家市場監(jiān)管總局于2021 年頒布的《互聯(lián)網(wǎng)平臺分類分級指南(征求意見稿)》(以下簡稱《征求意見稿》)可知,所謂超級平臺,它是指同時具備超大用戶規(guī)模、超廣業(yè)務種類、超高經(jīng)濟體量和超強限制能力的平臺:在用戶規(guī)模上,其年度活躍用戶數(shù)不得低于5 億人;在業(yè)務種類上,其核心業(yè)務不得低于兩類;在經(jīng)濟體量上,其市值或估值不得低于1000 億元;在限制能力上,其具有強有力的限制平臺商戶接觸消費者的能力。誠然,超級平臺企業(yè)基于大數(shù)據(jù)、人工智能等技術手段通過算法(Algorithm)優(yōu)勢為消費者提供了豐富多樣的產(chǎn)品或服務,為社會經(jīng)濟發(fā)展創(chuàng)造了一定價值,具有相當程度的正外部性。然而,超級平臺企業(yè)并非總是具有正外部性,它們同樣可能過度使用人工智能算法技術,存在著較為嚴重的侵害消費者權益的行為,從而引發(fā)學術界與實務界的廣泛關注。一方面,“大數(shù)據(jù)殺熟”、網(wǎng)絡消費算法促銷、電商平臺搜索競價排名、網(wǎng)絡直播算法推送等違反法律規(guī)定與公序良俗的事件層出不窮;另一方面,超級平臺企業(yè)通過刷好評隱差評使消費者評價的結果失真,利用人工智能算法技術限制消費者交易與價格歧視事件等屢見不鮮。究其本源,這些問題的核心在于超級平臺企業(yè)通過對算法技術的濫用,攫取產(chǎn)品或服務的超額利潤,并損害消費者權益。
隨著大數(shù)據(jù)、人工智能等信息技術的日益興起,人工智能算法逐步滲透到社會經(jīng)濟發(fā)展的全流程,覆蓋到人們生活的每個角落。各種智能終端(電腦、智能手機、智能手表等)為“算法社會(Algorithm Society)”提供了智能硬件設備,各種軟件應用程序為“算法社會”提供了智能軟件程序,從而極大地增強了百姓融入“算法社會”的可能性,并成為超級平臺企業(yè)應對激烈市場競爭的重要手段。然而,當冰冷的算法技術直入火熱的消費社會時,一些消費者被算法技術“牢牢綁定”,另一些消費者被算法技術“排斥出局”。其中,與每個消費者日常生活息息相關的便是算法價格歧視(Algorithm Price Discrimination,簡稱APD)。關于算法價格歧視,目前并沒有形成統(tǒng)一的法律定義,不同學者對其稱呼有所不同,有“大數(shù)據(jù)殺熟”①參見詹馥靜、王先林:《反壟斷視角的大數(shù)據(jù)問題初探》,載《價格理論與實踐》2018 年第9 期。、大數(shù)據(jù)價格歧視②參見付麗霞:《大數(shù)據(jù)價格歧視行為之非法性認定研究:問題、爭議與應對》,載《華中科技大學學報(社會科學版)》2020 年第2 期。以及人工智能時代個性化定價③參見承上:《人工智能時代個性化定價行為的反壟斷規(guī)制——從大數(shù)據(jù)殺熟展開》,載《中國流通經(jīng)濟》2020 年第5 期。④參見周圍:《人工智能時代個性化定價算法的反壟斷法規(guī)制》,載《武漢大學學報(哲學社會科學版)》2021 年第1 期。等,也有更精確一些的“算法消費者價格歧視(簡稱ACPD)”⑤參見喻玲:《算法消費者價格歧視反壟斷法屬性的誤讀及辨明》,載《法學》2020 年第9 期?;蛩惴▋r格歧視(APD)⑥參見趙海樂:《當權利面對市場:算法價格歧視的法律規(guī)制研究》,載《華中科技大學學報(社會科學版)》2021 年第3 期。。總體來說,現(xiàn)有研究通常將算法價格歧視看作一種行為或相似行為在不同語境下的表述,不過大部分研究者在對其研究時,常常將其區(qū)分為“算法”和“價格歧視”的方式來進行理解:一方面,所謂算法(Algorithm),它是計算機科學背景下一系列解決問題的步驟指令,亦是通過編程衍生的計算程序。⑦參見馬長山:《邁向數(shù)字社會的法律》,法律出版社2021 年版,第55 頁。算法技術深度應用于社會經(jīng)濟發(fā)展之中,形成了算法社會,杰克·巴爾金(Jack Balkin)將其定義為由算法、機器人和人工智能圍繞社會、經(jīng)濟發(fā)展決策所組成的社會。⑧參見[美]杰克·巴爾金:《算法社會中的三大法則》,劉穎、陳瑤瑤譯,載《法治現(xiàn)代化研究》2021 年第2 期。算法技術同時也成為超級平臺企業(yè)參與社會市場競爭的技術“武器”。另一方面,所謂價格歧視(Price Discrimination),它是經(jīng)濟學背景下的一種價格差異,可將其分為一級、二級與三級價格歧視。其中,三級價格歧視是一種群體歧視,即對不同市場中的群體性參與人員所采取的歧視(如貸款優(yōu)惠券、老人票);二級價格歧視是一種銷量歧視,即側重于數(shù)量方面的價格歧視,采取薄利多銷方式給予更多購買量的標價更低;一級價格歧視是一種完全價格歧視(個體歧視),它是指消費者購買同一件商品或者服務,超級平臺企業(yè)依照不同消費者的個人數(shù)據(jù)信息而“因客定價”,令消費者按照其可以接受的最高價格購買。那么,超級平臺算法價格歧視是否一定違反了反壟斷法?在2022 年6 月《反壟斷法(修正案)》通過之前,我國《反壟斷法》第17 條明文禁止差別待遇,即禁止“沒有正當理由,對條件相同的交易相對人在交易價格等交易條件上實行差別待遇”,該條款被視為規(guī)制算法價格歧視的主要依據(jù)。⑨參見許身健、郜慶:《反壟斷視閾下的算法價格歧視問題》,載《中國法律評論》2022 年第3 期。但是,反壟斷法能不能對人工智能技術興起下的超級平臺算法價格歧視行為進行有效的規(guī)制呢?對于這個問題,我國于2022 年6 月正式頒布《反壟斷法(修正案)》,通過新增第9 條“經(jīng)營者不得利用數(shù)據(jù)和算法、技術、資本優(yōu)勢以及平臺規(guī)則等從事本法禁止的壟斷行為”,首次確立了防止數(shù)據(jù)與算法壟斷行為。
通過參照計算機科學層面的算法、經(jīng)濟學理論層面的價格歧視以及《反壟斷法(修正案)》層面的定義,本文將超級平臺算法價格歧視定義為市場經(jīng)營者(超級平臺)以大數(shù)據(jù)與人工智能為技術依托,根據(jù)消費者的消費水平、消費習慣、消費偏好等因素繪制“個性化消費肖像”,通過算法技術對不同消費者分別實施“個性化定價”,從而實現(xiàn)其利潤最大化(一級)的價格歧視行為。綜合而言,超級平臺算法價格歧視具有幾個顯著特點:一是法律主體是超級平臺經(jīng)營者;二是法律載體上以超級平臺為依托,通過人工智能算法技術工具,對消費者信息進行深度分析;三是法律行為上表現(xiàn)為不同主體不同價格,最常見的是“大數(shù)據(jù)殺熟”;四是超級平臺算法價格歧視主要針對的對象是各類消費者。由于當前《反壟斷法(修正案)》及其相關法律規(guī)范對于超級平臺算法價格歧視行為缺乏必要的反壟斷規(guī)制,而人工智能技術背景下的超級平臺算法價格歧視行為又無處不在,且嚴重地侵害了消費者合法權益并破壞了市場公平競爭秩序,基于此,本文從超級平臺視角切入,通過探求其算法價格歧視的興起、成因與異化風險,從而積極構建超級平臺算法價格歧視的反壟斷規(guī)制體系。
“算法”原本是計算機學科上的概念,具有學科專業(yè)性。隨著人工智能時代下信息化進程的加快,“算法”也逐漸步入民眾的生活。目前,學術界對于算法的定義主要從技術角度展開,美國學者克里斯托弗·斯坦納(Christopher Steiner)在《算法帝國》中指出:“算法的核心就是按照設定程序運行以期獲得理想結果的一套指令。”⑩[美]克里斯托弗·斯坦納:《算法帝國》,李筱瑩譯,人民郵電出版社2014 年版。以色列學者尤瓦爾·赫拉利(Yuval Harari)在《未來簡史》中指出“算法并不是單指某次獨立的運算,而是計算時所采用的方法?!?[以色列]尤瓦爾·赫拉利:《未來簡史》,林俊宏譯,中信出版社2017 年版。我國有些學者認為“算法是指從待求解問題出發(fā),將解決問題的過程模式化的一系列步驟指令?!?杜宴林、楊學科:《論人工智能時代的算法司法與算法司法正義》,載《湖湘論壇》2019 年第5 期。然而,如何從法律層面對算法作出具體的界定?本文認為算法屬于計算機數(shù)據(jù)的一種,它是指任何以電子或非電子形式對信息的記錄。從本質(zhì)上看,算法是一種特殊的“電磁記錄”。假如從經(jīng)濟法視角剖析超級平臺算法價格歧視行為,那么算法價格歧視至少在兩個層面會受到經(jīng)濟法規(guī)制:一方面,算法可以被視為《反不正當競爭法》中的商業(yè)秘密,理應受到《反不正當競爭法》的法律規(guī)制。根據(jù)《最高人民法院關于審理侵犯商業(yè)秘密民事案件適用法律若干問題的規(guī)定》:“與技術有關的……算法、數(shù)據(jù)、計算機程序及其有關文檔等信息,人民法院可以認定構成反不正當競爭法第九條第四款中所稱的技術信息”;另一方面,誠如英國學者阿里爾·扎拉奇(Ariel Ezrachi)在《算法的陷阱:超級平臺、算法壟斷與場景欺騙》中所描述的,算法驅(qū)動型經(jīng)濟(Algorithm-driven Economy)下的超級平臺為民眾帶來普惠與便利之時,也會帶來算法壟斷。在我國《反壟斷法(修正案)》通過之后,算法價格歧視可能構成“利用數(shù)據(jù)和算法……等從事本法禁止的壟斷行為”,理應受到《反壟斷法》的法律規(guī)制。
從算法技術的特征來看,它具有中立性、確定性以及隱秘性。首先,算法具有中立性。算法本身是由一系列技術信息構成的,它的本質(zhì)具有中立性,受到“技術中立原則”的保護。從技術的基本原理看,算法理應具有一種中立的非侵權用途,但一旦將算法與海量數(shù)據(jù)相結合,超級平臺便可通過算法技術形成高價值數(shù)據(jù)資源,侵權與否還需要考察技術使用者的主觀狀態(tài)及客觀行為。此時,超級平臺基于自身逐利性的屬性,可能對廣大消費者以及其他經(jīng)營者權益造成侵害。算法本身沒有是非之分,一項包含算法的行為既可能被用以助力市場經(jīng)濟發(fā)展也可能被當作一種侵權的手段,而具體如何定性則需要結合技術開發(fā)者、運營商的主觀狀態(tài)、客觀行為以及主客觀之間存在的不一致性來進一步判斷。其次,算法具有確定性。所謂算法的確定性,它是指人工智能算法在運行過程中每個步驟與步驟之間必須具有較強的緊密聯(lián)系,各個步驟之間應當環(huán)環(huán)相扣、邏輯嚴密,即前一步驟的算法指令的成功運行是后一步驟的算法指令的前提,后一步驟算法指令的高效執(zhí)行是前一步驟算法指令運行的必然結果。算法最后指令的執(zhí)行完成輸出的結果必須是確定的而不能是模棱兩可的。最后,算法具有隱秘性。算法是隱藏在表面之下的運作程序數(shù)據(jù),除了專業(yè)技術開發(fā)人員,普通用戶基本上很難接觸到算法。因而算法對包括消費者在內(nèi)的社會大眾而言是不透明不公開的,這一狀況又被稱為“算法黑箱(Algorithm Black Box)”。何謂“黑箱”?通常認為它是指那些不為人所知的不能打開、不能從外直接觀內(nèi)狀態(tài)的系統(tǒng)。?參見張淑玲:《破解黑箱:智媒時代的算法權力規(guī)制與透明實現(xiàn)機制》,載《中國出版》2018 年第7 期。正因為人工智能算法猶如一個黑暗而不可知的“未知之幕”,所以學術界與實務界將其稱之為“算法黑箱”。算法的隱秘性會帶來一系列問題,如“算法價格歧視”“算法監(jiān)獄”以及“算法暴政”等。
在激烈的市場競爭中,各種超級平臺型企業(yè)通過深度應用互聯(lián)網(wǎng)、大數(shù)據(jù)與人工智能等新一代信息技術,形成本平臺的數(shù)據(jù)與算法優(yōu)勢,基于規(guī)則引擎與算法模型,向消費者采取各種算法(包括推薦、價格以及流量算法等),對其推送相關的產(chǎn)品與服務,產(chǎn)生算法價格歧視(見下圖1):一方面,超級平臺向消費者推送個性化商品與服務,可以滿足消費者利益訴求,但可能侵犯消費者的自主選擇權及其隱私權;另一方面,通過算法模型向消費者實施“個性化定價”,這種“因客定價”模式既可能滿足市場經(jīng)營者訴求,也可能對消費者帶來潛在的算法價格歧視。其中,“大數(shù)據(jù)殺熟”是超級平臺算法價格歧視最典型的表現(xiàn)形式。目前,無論國內(nèi)還是國外的超級平臺企業(yè),都常常曝出其利用消費數(shù)據(jù)進行個人消費習慣側寫,從而進行針對性定價,不斷攫取消費者的剩余價值,從而實現(xiàn)其自身的“算法超額利潤”。?參見程雪軍:《我國監(jiān)管科技的風險衍生與路徑轉換:從金融科技“三元悖論”切入》,載《上海大學學報(社會科學版)》2022年第1 期。究其本質(zhì)原因,可以將其概括為以下四個方面。
圖1:超級平臺算法價格歧視的成因路徑
1.技術手段隱蔽性高
在當前的技術背景下,雖然部分算法可以由自動編程系統(tǒng)編寫而得,但是絕大部分算法的源代碼仍然是編程者自身意志的衍生。換言之,對于絕大多數(shù)算法而言,它們可被人為控制其編程內(nèi)容,旨在達到某一預設目的。然而,這種算法技術目的并不是通過傳統(tǒng)商業(yè)手段針對社會大眾的一般性調(diào)整予以達成,而是掩藏在紛繁復雜的海量數(shù)據(jù)中并通過個別性調(diào)整來實現(xiàn)。由此可見,人工智能算法技術更為精準和隱蔽,但它同時更加容易形成“算法黑箱”下的各種算法暗算、算法歧視與算法不公,而且不當牟利甚至交易欺詐在所難免。?參見賈媛媛:《區(qū)塊鏈融合驅(qū)動下的信用法治模式建構》,載《湖南社會科學》2021 年第4 期。此時,即使市場經(jīng)營者(如超級平臺企業(yè))被發(fā)現(xiàn)實施算法價格歧視,它們也可以通過人工智能算法技術手段及時隱藏,并且以價格波動及價格差異等原因?qū)κ袌黾捌浔O(jiān)管者進行辯解。人工智能算法因其技術復雜性以及可實現(xiàn)的“個性化”價格調(diào)配,無論是違法行為抑或是損害結果都難以令人發(fā)覺。
2.缺乏針對性條款規(guī)制
目前,我國多部法律規(guī)范均有涉及價格歧視問題的條款,但是這些法律規(guī)范有一個同樣的問題,即它們沒有從人工智能算法背景下對超級平臺價格歧視問題作出明確的法律規(guī)范,缺乏法律層面的針對性與可操作性。
第一,從《消費者權益保護法》角度來看,它側重于以消費者的公平交易權、知悉真情權范圍為核心,預防與制止對消費者實施價格歧視;第二,《價格法》作為專門規(guī)范價格的法律規(guī)范,盡管該部法律通過第14 條對不當價格行為作出了說明,但是這些羅列的法律規(guī)定并沒有涵蓋算法價格歧視問題;第三,我國于2019 年初正式實施《電子商務法》,該法第18 條指出電子商務經(jīng)營者(如各級超級平臺)根據(jù)消費者個人特征(如消費習慣、興趣、偏好等)提供搜索結果時,應同時向消費者提供不針對個人特征的選項,并且在第77 條規(guī)定了配套的行政處罰責任,這是法律規(guī)范層面首次對算法背景下“個性化推薦”所作出的初步規(guī)制;第四,我國于2022 年6 月正式通過《反壟斷法(修正案)》,其第22 條第1 款第6 項并沒有對此前《反壟斷法》規(guī)定內(nèi)容進行修正,依然規(guī)定“沒有正當理由不得對交易條件相同的相對人在交易價格上實施差別待遇”,該條被認為是算法價格歧視的反壟斷法規(guī)制之源。不過,《反壟斷法(修正案)》第22 條新增第2款:“具有市場支配地位的經(jīng)營者不得利用數(shù)據(jù)和算法、技術以及平臺規(guī)則等從事前款規(guī)定的濫用市場支配地位的行為”,該條可視為對人工智能算法技術背景下超級平臺(具有市場支配地位的經(jīng)營者)利用數(shù)據(jù)與算法等從事算法價格歧視行為的最新補正,彌補了此前《反壟斷法》的反壟斷規(guī)制漏洞。綜上所述,這些法律規(guī)范從本質(zhì)上看都未對超級平臺算法價格歧視及其行為類型作出相對明確的法律規(guī)定,更別提進行有效的反壟斷法規(guī)制。
3.法律規(guī)制部門缺乏統(tǒng)一
由于法律規(guī)范對超級平臺算法價格歧視問題的規(guī)制比較散亂,導致法律執(zhí)行與適用等過程中“多頭規(guī)制”的出現(xiàn)。在《電子商務法》中,對算法價格歧視行為進行執(zhí)法并負責的機關為市場監(jiān)督管理職責部門;在《價格法》中,對算法價格歧視行為有權監(jiān)督檢查的部門是縣級以上人民政府價格管理部門。
不僅如此,行政執(zhí)行機關在算法價格歧視行為上的執(zhí)法力度、執(zhí)法手段均有不同表現(xiàn),而且權力責任的邊界具有模糊性:一方面,這導致市場參與主體(尤其是消費者)在面臨超級平臺的算法價格歧視行為時,實行法律救濟的難度顯著加大;另一方面,這也導致超級平臺的算法價格歧視行為存在著較大的違法“黑數(shù)”。眾多周知,現(xiàn)階段互聯(lián)網(wǎng)、大數(shù)據(jù)行業(yè)迭代速度非???,而且高度依賴于外部投資,短期內(nèi)唯有那些經(jīng)濟效益好抑或是現(xiàn)金流量大的企業(yè)方能生存下去,而算法價格歧視正是助力超級平臺企業(yè)在短期內(nèi)得到較快營收增長的途徑之一。倘若我國缺乏統(tǒng)一性的反壟斷法律規(guī)制部門,這可能導致市場上各類超級平臺濫用數(shù)據(jù)與算法資源廣泛實施算法價格歧視行為,牟取不當高額利潤,進而在市場上形成一種“劣幣驅(qū)除良幣”的發(fā)展態(tài)勢,最終對市場正常經(jīng)營秩序造成沖擊。
4.企業(yè)內(nèi)部管理機制失靈
在計算科學領域,算法本質(zhì)上是一系列計算步驟的序列,它主要運用于復雜數(shù)據(jù)處理及其自動推理領域。?參見李帥:《共享經(jīng)濟信息不對稱環(huán)境下的決策算法規(guī)制——以區(qū)塊鏈共識模型為規(guī)制思路》,載《財經(jīng)法學》2019 年第2 期。從算法的技術屬性分析,它是人工智能技術的核心,是超級平臺企業(yè)收集、分析與處理數(shù)據(jù)并形成算法價格歧視的技術之路;從算法的發(fā)展重要性分析,它是各種超級平臺型企業(yè)在激烈的市場競爭中取勝的“技術法寶”以及“核心秘密”,其商業(yè)秘密與算法技術具有先天的“厭公開性”。
現(xiàn)在主流的超級平臺企業(yè)具有相當大的用戶與經(jīng)濟體量規(guī)模,而且具備超廣的業(yè)務種類,這導致超級平臺企業(yè)的內(nèi)部具有眾多部門,不同部門受制于考核機制的異同,對非核心且會損害部門經(jīng)濟效益、改善用戶體驗的行為一般惰于協(xié)調(diào)。超級平臺企業(yè)合規(guī)部門抑或是客服部門作為邊緣部門,它們在同業(yè)務、技術部門談判時,其話語權一般不具有對等性,因此即使超級平臺企業(yè)的合規(guī)部門或客服部門能夠發(fā)現(xiàn)問題,也難以從企業(yè)內(nèi)部進行解決,從而導致企業(yè)內(nèi)部管理機制失靈,無法從企業(yè)自治層面預防與制止壟斷行為的發(fā)生。
關于超級平臺的算法價格歧視,是指超級平臺經(jīng)營者通過大數(shù)據(jù)和人工智能算法技術對不同客戶實行“千人千面”的畫像,進而針對不同類型的客群收取不同價格的行為。不過,算法價格歧視是否屬于“獵巫”?當前政策乃至學術界關于利用數(shù)據(jù)與算法等資源濫用市場支配地位的認定,是否忽視了業(yè)界一些客觀合理的運營模式?
關于超級平臺的算法價格歧視問題,國務院反壟斷委員會于2021 年初頒布《關于平臺經(jīng)濟領域的反壟斷指南》(以下簡稱《反壟斷指南》),指出基于大數(shù)據(jù)和人工智能算法技術對平臺用戶實行具有差異性的交易價格是判斷市場經(jīng)營者是否構成差別待遇的判定條件之一。一方面,市場經(jīng)營者(超級平臺)基于其在數(shù)據(jù)與算法資源層面的稟賦優(yōu)勢,通過對不同消費者的價格接受程度進行深度的大數(shù)據(jù)分析與算法推送,便于其將消費者的消費剩余完全剝奪,給消費者的權益帶來較大侵害;?參見張江莉、張鐳:《平臺經(jīng)濟領域的消費者保護——基于反壟斷法理論和實踐的分析》,載《電子政務》2021 年第5 期。另一方面,在市場經(jīng)營者(超級平臺)的數(shù)據(jù)處理與算法定價過程中,容易形成網(wǎng)絡效應與規(guī)模效應等產(chǎn)業(yè)特點,使得消費者很難發(fā)現(xiàn),也很難避免此類算法價格歧視,加劇了市場經(jīng)營者對消費者消費剩余的剝奪。?參見申文君:《大數(shù)據(jù)經(jīng)營者濫用市場支配地位的認定與規(guī)制》,載《中國流通經(jīng)濟》2021 年第7 期。
關于算法價格歧視案例,通過中國裁判文書網(wǎng)搜索關鍵詞“算法價格歧視”可知,該類案件在國內(nèi)超級平臺企業(yè)上屢見不鮮。當前,在旅游平臺(攜程網(wǎng))、外賣平臺(美團、餓了么)、投資平臺(萬得投資管理公司)領域都存在算法價格歧視的相關案例,其中主要訴訟理由包括針對老客戶的定價通常高于新用戶,昂貴手機用戶定價高于廉價手機用戶,會員用戶費用明顯高于非會員用戶費用等。當一種算法價格歧視行為極難界定是否合法與合理時,那么對其進行法律規(guī)制便具有較大的復雜性:其一,由于這種基于大數(shù)據(jù)與算法技術而衍生的算法價格歧視行為過于狡猾,因此難以有效界定;其二,由于算法價格歧視行為的前置判斷(合法、合理性)具有較為嚴重的模糊性,導致缺乏有效的法律規(guī)制。
對于超級平臺而言,算法技術可以幫助其自動執(zhí)行常見的法律合規(guī)任務,降低自身的運營風險并嚴格遵循監(jiān)管規(guī)章,但“做效率高的事”并不意味著總是“做正確的事”。?See Packin,Nizan Geslevich ."Regtech,Compliance and Technology Judgment Rule." Social Science Electronic Publishing,2017.法律合規(guī)是法律要求被監(jiān)管機構(超級平臺)應當怎么做,但是超級平臺卻常常利用算法技術試探法律的界限,比如對消費者實施算法價格歧視行為。具言之,倘若我國缺乏統(tǒng)一規(guī)則對超級平臺濫用人工智能算法技術實施有效的反壟斷規(guī)制,那么各種超級平臺在逐利性與競爭性的刺激下,將會借助數(shù)據(jù)與算法優(yōu)勢,采取各種算法模型(推薦、價格以及流量算法等),濫用市場支配地位并攫取“算法超額利潤”,從而可能形成算法壟斷。其中,最為常見的算法壟斷就是利用算法價格歧視損害交易相對方(消費者)的權益、鞏固其自身的市場地位,進而可能會出現(xiàn)算法壟斷風險等問題。
近年來,無論國內(nèi)還是國外的超級平臺企業(yè),都時常曝出各種利用消費者數(shù)據(jù)進行消費習慣分析事件,其目的在于對交易相對方(消費者)采取有針對性的算法壟斷定價。如果不對這些超級平臺企業(yè)的算法價格歧視實施反壟斷規(guī)制,那么這些平臺企業(yè)將會繼續(xù)加強在金融、實體與技術行業(yè)等層面的數(shù)據(jù)沉淀,通過“數(shù)據(jù)—網(wǎng)絡效應—算法—業(yè)務”的閉環(huán)效應產(chǎn)生算法價格歧視等新型算法壟斷,而且這種算法壟斷風險的危害性比傳統(tǒng)壟斷更大,因為它既可以是技術、金融與實體數(shù)據(jù)層面的集中壟斷,也可以是傳統(tǒng)壟斷形式的“混合壟斷”。
隨著人工智能技術的不斷發(fā)展,傳統(tǒng)經(jīng)濟增長點有所放緩。然而,在算法技術與資本無序擴張的驅(qū)動下,我國平臺經(jīng)濟尤其是超級平臺經(jīng)濟呈現(xiàn)出快速發(fā)展態(tài)勢。具體來說,這些平臺經(jīng)濟利用技術創(chuàng)新快速崛起,憑借平臺企業(yè)內(nèi)部的數(shù)據(jù)以及算法技術優(yōu)勢,通過制定算法歧視性價格等手段來攫取巨額利益,從原先的小平臺企業(yè)逐步發(fā)展成為如今的超級平臺型企業(yè),它們一方面給市場經(jīng)濟的創(chuàng)新發(fā)展帶來了正外部性,另一方面也給市場經(jīng)濟的公平有序發(fā)展帶來了負外部性?;诖耍覈斜匾獜姆磯艛嘁?guī)制原則與路徑層面,全面構建超級平臺算法價格歧視的反壟斷規(guī)制體系,促進超級平臺型企業(yè)的穩(wěn)健化發(fā)展。
1.從數(shù)據(jù)保護到算法規(guī)制原則
數(shù)據(jù)是人工智能算法技術創(chuàng)新發(fā)展的基礎。數(shù)據(jù)保護原則的理論依據(jù)來源于消費者作為數(shù)據(jù)生產(chǎn)者所享有的數(shù)據(jù)權利,數(shù)據(jù)權屬的明確是數(shù)據(jù)交易活動的基礎,而數(shù)據(jù)安全則是數(shù)據(jù)交易與利用的制度保障。?參見武長海、常錚:《論我國數(shù)據(jù)權法律制度的構建與完善》,載《河北法學》2018 年第2 期。在歐盟法律制度框架下,用戶數(shù)據(jù)權作為個人信息權與隱私權,被《歐盟基本權利憲章》(Chapter of Fundamental Rights of the European Union)視為一種“基本權利”,其法律性質(zhì)等同于憲法所賦予的基本權利。從數(shù)據(jù)保護原則對算法價格歧視規(guī)制的實踐效果來看,歐盟以《通用數(shù)據(jù)保護條例》(General Data Protection Regulation,簡稱GDPR)為中心,通過賦予消費者一系列相關的數(shù)據(jù)權利,從而使得消費者有能力對抗超級平臺利用算法技術清洗、整合數(shù)據(jù)并施以差別待遇的行為,21參見成曼麗《:大數(shù)據(jù)時代算法歧視的協(xié)同治理》,載《中國流通經(jīng)濟》2022 年第1 期。從法律制度上盡可能保護消費者在超級平臺交易過程中免受算法價格歧視的威脅。實際上,數(shù)據(jù)保護原則傾向于從權利角度出發(fā)對消費者的數(shù)據(jù)權益開展“賦權式”保護,進而對超級平臺算法價格歧視起到間接的限制作用。從數(shù)據(jù)保護原則的本質(zhì)上看,其核心邏輯在于擴張個人權利抑制超級平臺的“算法權力”。
然而,數(shù)據(jù)保護原則作為一種權益救濟保障方式,并不能夠針對算法技術進行直接規(guī)制,進而導致數(shù)據(jù)保護措施對超級平臺算法價格歧視的法律規(guī)制效果欠佳。一方面,“賦權式”的保護路徑通常要求被賦權方(如消費者)在尋求權利救濟時應承擔相應的舉證證明責任,但由于算法具有天然的隱秘性和超強算力等特點,超級平臺的算法價格歧視往往操作于無形的動態(tài)變化之中。比如,相較于傳統(tǒng)超級市場中的商品定價,絕大部分電子商務平臺的商品定價信息可能隨著不同變量的設置而處于實時變化當中,22參見朱建海:《“大數(shù)據(jù)殺熟”反壟斷規(guī)制的理論證成與路徑優(yōu)化》,載《西北民族大學學報(哲學社會科學版)》2021 年第5 期。這便導致消費者很難在超級平臺(如電子商務平臺)的網(wǎng)絡鏈接中截留并保存完整的證據(jù),加之消費者在交易過程中存在的信息偏差以及舉證能力較弱等問題,僅憑碎片化的零散證據(jù)難以形成完整的證據(jù)鏈條,從而可能導致消費者有關證據(jù)因證明力不足而失效。在法律的具體實踐中,雖然法律規(guī)范可以通過舉證責任倒置的規(guī)則設定加以彌補,但是這依然無法改變數(shù)據(jù)保護對算法價格歧視側重事后規(guī)制和間接規(guī)制的效果。另一方面,“賦權式”的保護路徑不能排除消費者在尋求法律救濟的過程中可能因涉案范圍廣、案情復雜、舉證困難等因素而面臨漫長的司法流程。由此可見,從數(shù)據(jù)保護角度出發(fā)對超級平臺算法價格歧視的法律規(guī)制效果日漸式微,所以本文認為對超級平臺算法技術創(chuàng)新施以直接的糾偏與矯正,采取適當?shù)乃惴ㄒ?guī)制措施就顯得尤為必要了。概言之,針對超級平臺算法價格歧視的算法規(guī)制原則主要表現(xiàn)為兩個子原則,即算法透明原則以及算法非歧視原則。
首先,無論從政治學、經(jīng)濟學還是法學視角分析,透明原則均已成為現(xiàn)代政府規(guī)制的基本準則之一。23參見沈偉偉:《算法透明原則的迷思——算法規(guī)制理論的批判》,載《環(huán)球法律評論》2019 年第6 期。從透明原則的助益效果上看,算法透明不僅可以保護消費者的知情權,保護消費者免遭人工智能算法的決策擺布,還可以增強超級平臺“算法權力”的可問責性。算法透明原則旨在通過對自動化決策系統(tǒng)施以規(guī)制,即對超級平臺“數(shù)據(jù)輸入——算法運算——結果輸出”行為的全過程開展透明化的監(jiān)督和管理,從而確保這一由超級平臺所主導的交易過程能夠達到平臺與用戶雙方權益平衡的標準。算法透明原則要求超級平臺在與消費者建立交易關系之前,必須履行將自動化決策系統(tǒng)的產(chǎn)品向消費者履行必要的告知義務,消費者有權要求超級平臺針對其輸出的個性化定制結果做出進一步的解釋和說明。此外,算法透明原則還應當賦予有關監(jiān)管部門相應的審查權,監(jiān)管部門除了能夠監(jiān)測與管理算法代碼的構建邏輯之外,還能夠?qū)Τ壠脚_輸入算法運行程序的數(shù)據(jù)源進行把控,進而對超級平臺的數(shù)據(jù)使用起到監(jiān)督和限制作用??偠灾惴ㄍ该髟瓌t將超級平臺算法價格歧視的法律規(guī)制從事中事后階段提前至事前階段,并以更加主動的視角對超級平臺的算法價格歧視施以約束和限制,在很大程度上提升了法律尤其是反壟斷法規(guī)制的效率。
其次,在算法帶來的諸多法律挑戰(zhàn)中,“非歧視”已經(jīng)成為各國政府部門、科研機構以及企業(yè)組織高度關注的議題并達成一定的共識。24參見李成:《人工智能歧視的法律治理》,載《中國法學》2021 年第2 期。算法非歧視原則要求超級平臺在算法運行的過程中不得施加任何帶有歧視性或偏向性的影響因素,不得使用錯誤信息誤導用戶做出決策。25參見朱巧玲、楊劍剛《:算法陷阱與規(guī)制跨越》,載《經(jīng)濟學家》2021 年第1 期。從本質(zhì)上看,算法非歧視原則有助于制衡平臺的“算法權力”。26參見曹博:《算法歧視的類型界分與規(guī)制范式重構》,載《現(xiàn)代法學》2021 年第4 期。超級平臺通過算法價格歧視將大量用戶數(shù)據(jù)截留在其平臺或關聯(lián)平臺內(nèi)部,借由人工智能算法達到對某個市場或局部市場要素的絕對支配,從“算法權力”擴張至“平臺權力”,進而瘋狂攫取消費者剩余利益和價值。算法規(guī)制原則中的算法非歧視子原則強調(diào)通過制衡“算法權力”,緩解超級平臺對不同消費者群體在不同決策場景中的差別待遇情況,從而有效保障消費者福利的實現(xiàn)。對此,基于算法非歧視原則指導下的反壟斷法規(guī)制,需要重點從以下兩個方面展開:一方面,超級平臺作為技術開發(fā)者與應用者,有必要在事前算法風險評估階段引入算法非歧視原則,加強超級平臺企業(yè)自治,即在算法技術效果相類似的情況下,超級平臺應當優(yōu)先選擇更有利于促進交易公平正義的方案,而不是算法歧視性方案;27同注前24。另一方面,有關監(jiān)管部門也應當定期對超級平臺算法決策系統(tǒng)的技術方案、參數(shù)設置以及運算過程等方面展開非歧視性監(jiān)測與評估,并進一步擬定人工智能算法的非歧視行業(yè)合規(guī)標準,以此加強對超級平臺算法價格歧視行為的反壟斷法規(guī)制。
2.反壟斷法與算法的二元共治原則
當市場“看不見的手”自治失靈時,法律規(guī)制作為“看得見的手”就應該及時出現(xiàn),在不打壓人工智能算法技術創(chuàng)新發(fā)展的前提下加強法律規(guī)制,實現(xiàn)法律與算法的二元共治。隨著超級平臺經(jīng)營業(yè)務跨行業(yè)、跨部門的混合發(fā)展趨勢,單一的競爭規(guī)制路徑已難以應對日漸復雜的平臺型經(jīng)濟模式,超級平臺所引發(fā)的包括算法價格歧視在內(nèi)的許多新型市場問題,不僅涉及市場主體間的公平競爭利益,還涉及市場基礎的社會公共利益,因為算法價格歧視直接影響的對象是廣大消費者群體,它們是市場經(jīng)濟發(fā)展的重要基石。因此,針對超級平臺的算法價格歧視行為,我國不應再拘泥于傳統(tǒng)的歧視性定價或價格差別待遇的反壟斷規(guī)制,而應當將其置于超級平臺算法應用的特殊場景下綜合考慮,轉向反壟斷法與算法的二元共治之路。
從反壟斷法與算法的二元共治的理論基礎來看,在面對超級平臺算法價格歧視問題時,反壟斷法規(guī)制與算法規(guī)制具有目標上的趨同性和手段上的互補性。首先,從規(guī)制目標上看,反壟斷法規(guī)制的宗旨在于矯正超級平臺通過算法價格歧視排除或限制競爭,從而有效保護市場的公平競爭以及有序運行,切實維護消費者權益與社會公共利益;而算法規(guī)制的宗旨在于規(guī)范超級平臺的技術應用行為,保證算法技術作用于不同場景時的合法合規(guī)邊界,避免算法技術觸發(fā)倫理道德問題,侵害消費者權益。雖然反壟斷法規(guī)制與算法規(guī)制可能在規(guī)制階段上有一定的錯層,但是兩者形式上的差異并不妨礙其最終目的均落腳于消費者權益保護的本質(zhì)。其次,從規(guī)制手段上看,作為素來有“經(jīng)濟憲法”之稱的反壟斷法,其在市場規(guī)制法領域的基礎性地位是毫無疑問的。反壟斷法通過一般性的中立視角對超級平臺的算法價格歧視與算法壟斷行為進行規(guī)制,這種反壟斷法規(guī)制是相對宏觀層面的法律規(guī)制;而算法規(guī)制能夠更加精準地切入平臺技術應用的本質(zhì),從算法如何進行價格歧視的技術根源上尋求規(guī)制進路,這種規(guī)制是相對微觀層面的技術規(guī)制??偟膩碚f,反壟斷法規(guī)制側重對市場主體即超級平臺企業(yè)宏觀層面的法律規(guī)制,算法規(guī)制強調(diào)對超級平臺企業(yè)微觀層面的技術規(guī)則。反壟斷法與算法二元共治的原則,充分體現(xiàn)了宏觀層面與微觀層面相結合的規(guī)制思路,具有明顯的規(guī)制互補效應。
從反壟斷法與算法二元共治的實踐依據(jù)來看,二元共治原則主要來源于對超級平臺壟斷行為規(guī)制理念的轉變。《反壟斷指南》將平臺定義為“通過網(wǎng)絡信息技術,使相互依賴的雙邊或者多邊主體在特定載體提供的規(guī)則下交互,以此共同創(chuàng)造價值的商業(yè)組織形態(tài)”。根據(jù)國家市場監(jiān)管總局2021 年發(fā)布的《征求意見稿》,其明確指出超級平臺是兼具超大用戶規(guī)模、超廣業(yè)務種類、超高經(jīng)濟體量、超強限制能力屬性的平臺。在國外,學術界與實務界一般將超級平臺稱之為大科技平臺(BigTech),即在數(shù)字服務市場中占有一席之地并擁有成功數(shù)字平臺的科技公司,比如美國的亞馬遜(Amazon)、臉書(Facebook)和谷歌(Google)等;在國內(nèi),學術界與實務界一般將此類平臺稱之為互聯(lián)網(wǎng)平臺或超級平臺,比如百度、阿里巴巴與騰訊。28See René M.Stulz ."FinTech,BigTech,and the Future of Banks." NBER Working Paper No.26312,2019.在超級平臺經(jīng)濟興起之初,由于其在發(fā)展上具有盲目性和模糊性等特征,導致學術界與實務界在一定程度上夸大了反壟斷法對平臺的規(guī)制作用。不過,隨著超級平臺利用數(shù)據(jù)資源與算法技術優(yōu)勢,逐步擴張其平臺業(yè)務領域版圖之后,某個國家僅靠單一的反壟斷法律政策與規(guī)范似乎略顯“單薄”。近年來,法律政策制定者逐步意識到對超級平臺施以多元化、綜合化規(guī)制措施的必要性,并進一步在若干政策領域采取行動,比如市場競爭、數(shù)據(jù)保護、數(shù)據(jù)共享、業(yè)務操作以及金融穩(wěn)定等。29See Juan Carlos Crisanto,Johannes Ehrentraud,Aidan Lawson and Fernando Restoy ."Big tech regulation:what is going on?." FSI Insights on policy implementation .2021.2022 年1 月,國家發(fā)改委等九部門聯(lián)合印發(fā)《關于推動平臺經(jīng)濟規(guī)范健康持續(xù)發(fā)展的若干意見》(以下簡稱《若干意見》),指出針對平臺企業(yè)應當從競爭監(jiān)管、金融監(jiān)管、數(shù)據(jù)和算法安全監(jiān)管三個方面出發(fā),以多元、綜合的視角對超級平臺的經(jīng)營活動行為進行規(guī)制。2022 年6 月,我國《反壟斷法(修正案)》在最新的法律修訂中同樣體現(xiàn)了針對新型算法壟斷行為(如算法價格歧視)的規(guī)制原則和精神,進一步印證了反壟斷法與算法二元共治的實踐訴求。
基于此,對于超級平臺算法價格歧視的規(guī)制,需要堅持反壟斷法與算法的二元共治原則。一方面,針對超級平臺算法價格歧視異化的算法壟斷風險,我國應當加強反壟斷法規(guī)制。對于超級平臺利用人工智能算法定價和共謀定價所衍生出的算法價格歧視與算法壟斷風險,雖然反壟斷法規(guī)制的對象系超級平臺的行為,而非技術本身,但面對人工智能算法運行過程中所牽涉要素的復雜性,反壟斷法在規(guī)制超級平臺算法價格歧視時,應注重與相關數(shù)據(jù)法之間的聯(lián)動,規(guī)范超級平臺對數(shù)據(jù)的采集、分析與處理,強化超級平臺的數(shù)據(jù)合規(guī)建設,從而促進超級平臺企業(yè)的反壟斷合規(guī),從企業(yè)自治層面達到源頭治理的效果。30參見王先林、曹匯:《平臺經(jīng)濟領域反壟斷的三個關鍵問題》,載《探索與爭鳴》2021 年第9 期。例如,2022年5 月4 日,德國聯(lián)邦卡特爾局(簡稱FCO)認定臉書(Facebook)母公司元宇宙平臺(Meta Platform)已經(jīng)觸犯了《德國反限制競爭法》第19a 條有關超級平臺的規(guī)制要求,因為它們不當?shù)孬@取與組合數(shù)據(jù)、妨礙產(chǎn)品服務的互操作性,可能利用“數(shù)據(jù)+算法”的模式快速取得壟斷地位阻礙相關市場公平競爭,這將直接影響數(shù)據(jù)的可攜帶性,對此FCO 表明在未來5 年中將對Meta Platform 實行特殊的反壟斷事前行為監(jiān)管,并對其展開更為嚴格的執(zhí)法調(diào)查與處罰力度。31參見袁嘉、劉新月《:德國監(jiān)管機構對Meta 等超級平臺實施反壟斷事前監(jiān)管的大幕開啟》,載《Internet Law Review》(2022-07-05),https://mp.weixin.qq.com/s/aLM9gHYqWvIuojSLuFPmhg.此外,在分析超級平臺的算法價格歧視是否達到排除限制競爭的效果時,按照傳統(tǒng)反壟斷法的定性分析路徑,實際上很難與數(shù)字經(jīng)濟時代下算法價格歧視具有的新特點保持邏輯上的閉環(huán)連接。因此,在認定超級平臺存在算法價格歧視并排除、限制市場競爭的相關因素時,我國需要根據(jù)《反壟斷指南》與《反壟斷法(修正案)》中最新法律規(guī)制的新思路,綜合考慮技術壁壘、網(wǎng)絡效應、鎖定效應、跨界競爭等多種影響因素,對超級平臺的算法價格歧視與算法壟斷問題加以綜合判斷。另一方面,針對超級平臺利用算法實施價格歧視的行為,我國應當同時施以算法規(guī)制。反壟斷法規(guī)制雖然考慮了技術帶來的壟斷影響,但并不能對算法技術的運行起到直接的約束作用,因此,通過規(guī)制算法的技術性操作進而規(guī)范超級平臺對海量數(shù)據(jù)的使用亦顯得尤為必要:一是需要建立健全算法的透明和公開制度,授權監(jiān)管部門對超級平臺人工智能算法的定價程序進行定期測評、定價過程開展全程監(jiān)督,將超級平臺的算法歧視性定價從事中事后規(guī)制前移至事前規(guī)制;二是應當強化對消費者進行“賦權”以對抗超級平臺“算法權力”,不斷完善事后救濟與保障措施。其中,美國2021 年通過頒布《平臺競爭和機會法案》(Platform Competition and Opportunity Act,簡稱PCOA),賦予任何因平臺違法行為而遭受業(yè)務或財產(chǎn)上損害的受損者,都有權向被告所在地區(qū)的任何地區(qū)法院提起訴訟并請求三倍懲罰性賠償和禁令救濟等。32See Platform Competition and Opportunity Act,Article7,2021.簡言之,PCOA 在反壟斷法規(guī)制上的前瞻性,對我國進一步完善算法規(guī)制有一定的借鑒意義。
1.加強超級平臺企業(yè)的數(shù)據(jù)合規(guī)建設
隨著數(shù)據(jù)服務的場景日益拓寬,人工智能算法技術給市場經(jīng)濟發(fā)展帶來了效率與普惠效果。數(shù)據(jù)成為重要的生產(chǎn)要素,儼然成為社會共識。其中,超級平臺企業(yè)作為數(shù)據(jù)資源的“集大成者”,具有數(shù)據(jù)與算法資源方面的優(yōu)勢,但同時涌現(xiàn)數(shù)據(jù)交易、權屬與合規(guī)問題。
現(xiàn)有單向的傳統(tǒng)法律規(guī)制模式,可能已經(jīng)難以適應不斷發(fā)展的人工智能產(chǎn)業(yè)。為促進超級平臺企業(yè)良性發(fā)展,就必須從算法價格歧視的源頭出發(fā),加強超級平臺企業(yè)內(nèi)部的數(shù)據(jù)合規(guī)建設:其一,超級平臺企業(yè)需要根據(jù)“信息安全三法”(《網(wǎng)絡安全法》《數(shù)據(jù)安全法》《個人信息保護法》)等制定消費者信息保護合規(guī)政策,從企業(yè)自治層面清晰地界定企業(yè)自身經(jīng)營的行為邊界,建立健全完整的數(shù)據(jù)保護合規(guī)政策,履行數(shù)據(jù)安全管理義務。其二,超級平臺企業(yè)應當從數(shù)據(jù)收集、使用與處理的全流程強化企業(yè)數(shù)據(jù)合規(guī)建設。在數(shù)據(jù)收集層面,超級平臺企業(yè)需要合理限定收集信息的范圍,將收集信息的頻率與數(shù)量控制在合理限度內(nèi)。在數(shù)據(jù)使用層面,超級平臺企業(yè)應根據(jù)實際需要,對消費者信息“去標識化”,在傳輸和存儲消費者信息時采取加密措施并設置相應的訪問權限,而且超級平臺企業(yè)向他人提供消費者信息需要經(jīng)過被收集者(消費者)同意與授權。在數(shù)據(jù)處理層面,未經(jīng)被收集者(消費者)同意與授權,超級平臺企業(yè)需要對所提供的信息進行匿名化處理,或者經(jīng)過處理無法識別特定個人并且具有不可復原性。另外,超級平臺企業(yè)應當盡量對合作伙伴或第三方開展盡職調(diào)查,確保它們具有合法使用目的,避免消費者信息被用于違法犯罪活動。33參見陳瑞華:《大數(shù)據(jù)公司的合規(guī)管理問題》,載《中國律師》2020 年第1 期。其三,超級平臺企業(yè)(如銀行、證券、電商等)內(nèi)部人員的違法犯罪行為,已經(jīng)成為監(jiān)管執(zhí)法和刑事偵查的重點領域。為防范內(nèi)部人員的數(shù)據(jù)犯罪風險,超級平臺需要通過技術保證數(shù)據(jù)方位的可回溯性,以便企業(yè)發(fā)生數(shù)據(jù)泄露時,能夠通過審查訪問日志等技術手段找到對應的數(shù)據(jù)泄露人員。
總而言之,我國需要倒逼超級平臺企業(yè)的數(shù)據(jù)合規(guī)建設,從多層次對超級平臺企業(yè)的數(shù)據(jù)合規(guī)問題進行法律規(guī)制,并為超級平臺企業(yè)建立具體的數(shù)據(jù)管理合規(guī)指引。
2.對消費者數(shù)據(jù)賦權以對抗“算法權力”
隨著人類社會逐步進入算法時代,對消費者進行信息保護已成為國際趨勢。在國外,歐盟與美國近年來陸續(xù)頒布了《通用數(shù)據(jù)保護條例》(GDPR)以及《加州消費者隱私權法案》(CCPA);在國內(nèi),我國自2003 年啟動個人信息保護立法研究以來,陸續(xù)通過《網(wǎng)絡安全法》《數(shù)據(jù)安全法》《個人信息保護法》,加強對消費者等個人的數(shù)據(jù)信息保護。
在平臺經(jīng)濟發(fā)展中,個人信息的收集、分析與處理主要聚焦于信息所有者(消費者)與信息使用者(超級平臺企業(yè))之間,因為兩者在正常的民商事交易過程中具有平等的人身與財產(chǎn)關系,因此它們在傳統(tǒng)法律規(guī)制范疇內(nèi)常常被界定為私法規(guī)制領域。然而,隨著人工智能算法的興起與深度利用,以超級平臺為代表的信息使用者獲得快速發(fā)展,而且消費者信息利用場景發(fā)生顯著變化,此時傳統(tǒng)私法規(guī)制模式難以為消費者信息提供足夠的法律保護。第一,信息所有者(消費者)與信息使用者(超級平臺企業(yè))之間的市場力量具有顯著差異,消費者在平臺經(jīng)濟時代的力量更為弱小,倘若采取平等的私法規(guī)制,可能難以有效保護消費者信息權,反而加重兩者之間的實質(zhì)不平等。第二,人工智能算法技術的深化與市場經(jīng)濟的強化,使得消費者信息保護與利用在平臺經(jīng)濟發(fā)展中充滿現(xiàn)實的張力,傳統(tǒng)私權規(guī)制模式無力調(diào)和信息所有者(消費者)與信息使用者(超級平臺企業(yè))之間的利益沖突與權利緊張,容易造成消費者信息流動失序。第三,相對于人身與財產(chǎn)性侵害,消費者信息侵害大多是輕微的社會性侵害,而且具有間接性與隱秘性,消費者作為受害人常常怠于行使自身的訴訟權利,導致事后法律救濟往往面臨失靈的境況。由此可見,傳統(tǒng)民商法下的個人本位理念與私法進路,已經(jīng)難以滿足算法時代下個人信息保護的現(xiàn)實需要,因為數(shù)據(jù)信息既可能增進與發(fā)展消費者權利,也可能威脅與侵蝕消費者權利,超級平臺等數(shù)據(jù)使用者對所有者信息的濫用確實已不再是簡單的信息本身問題,而是對算法時代中主體身份構建、自由平等和自主性的嚴重侵蝕,34參見馬長山:《智慧社會背景下的“第四代人權”及其保障》,載《中國法學》2019 年第5 期。對此我國亟需轉變法律保護思維,賦予信息主體以更多權能,35參見王懷勇、常宇豪:《個人信息保護的理念嬗變與制度變革》,載《法制與社會發(fā)展》2020 年第6 期。從而對抗超級平臺“算法權力”,切實地維護消費者的綜合權益。
在具體的法律權利內(nèi)容上,我國可以有選擇地借鑒歐盟《通用數(shù)據(jù)保護條例》(GDPR),該條例給數(shù)據(jù)主體賦予了持續(xù)了解其數(shù)據(jù)被收集和使用情形的權利(知情權和訪問權),糾正被用于識別分析的個人數(shù)據(jù)的錯誤的權利(更正權),同時在滿足一定條件時取回數(shù)據(jù)控制人處理后的數(shù)據(jù)并轉移給其他人的權利(數(shù)據(jù)移轉權),最后在特定情形下,數(shù)據(jù)主體還具有中止、拒絕處理甚至清除其數(shù)據(jù)的權利(限制處理權、拒絕權和清除權)。36參見高富平:《同意≠授權——個人信息處理的核心問題辨析》,載《探索與爭鳴》2021 年第4 期。只有不斷完善消費者作為信息所有者的數(shù)據(jù)權利保障體系,加強超級平臺企業(yè)內(nèi)的消費者數(shù)據(jù)賦權,才可以在一定程度上對抗超級平臺企業(yè)的“算法權力”,37參見張凌寒:《“算法權力”的興起、異化及法律規(guī)制》,載《法商研究》2019 年第4 期。從而逐步提升消費者權利的私人救濟。
3.加強反壟斷法與算法的共同治理
目前,法律上面對算法價格歧視所存在的種種問題,主要缺乏對算法價格歧視的整體性把握。算法作為一種涉及公權力與私權利融合的新型交互性技術,倘若對超級平臺算法價格歧視進行合法合理的全面規(guī)制,那么我國需要逐步建立健全算法公開制度。對于算法公開制度而言,該制度存在的前提是有特定指向與意義的決策體系公開,而非一般性的算法框架或源代碼的公開與解釋。因為人工智能算法技術具有高度的專業(yè)性,盲目將其全面公開,社會一般公眾和普通執(zhí)法部門也難以理解,所以應當有選擇地對算法公開,這要求數(shù)據(jù)控制者(超級平臺)在利用算法自動化決策時,應當以保護數(shù)據(jù)所有者(消費者)的正當權益作為出發(fā)點,并開展相對公開與可理解的解釋。參照域外法律規(guī)制經(jīng)驗,美國《算法問責法2019(草案)》的立法宗旨在于要求平臺型企業(yè)研究并修復對消費者造成不公平、歧視或錯誤的算法,并對這些企業(yè)的違法違規(guī)算法行為依法予以問責;《數(shù)據(jù)問責和透明度法》(2020)禁止通過使用個人信息在住房、聘用、信用與公開推薦等方面開展歧視,并對數(shù)據(jù)透明度作出相應的法律要求;英國《數(shù)字服務法(草案)》對大型互聯(lián)網(wǎng)平臺等利用算法向用戶推送內(nèi)容等操作提出了公平透明的要求,并要求說明信息提供的限制及審核信息的方法。我國近年來日益重視數(shù)據(jù)信息層面的立法,其中《個人信息保護法》明確規(guī)定“利用個人信息進行自動化決策,應當保證決策的透明度和處理結果的公平合理”的原則,從法律實踐層面要求自動化決策的商業(yè)信息推送應同時提供非個性化選項。
其次,我國需要加快超級平臺算法價格歧視的反壟斷執(zhí)法構建。一方面,就反算法歧視保護消費者合法權益而言,通過前文所述的算法公開以及數(shù)據(jù)賦權,可以相對明確地認識到算法中存在的不公平現(xiàn)象。然后,這迫切要求我國在具體的反壟斷執(zhí)法過程中設立專職部門,由具體的專職部門承擔超級平臺算法價格歧視的反壟斷監(jiān)管職責,才能將法律規(guī)定落實。另一方面,面對日新月異的信息技術與快速變化的市場環(huán)境,作為科層制的公共權力機關即使擁有專業(yè)部門,從根本上來說依然難以有效應對,執(zhí)法中極易形成“一管就死、一放就亂”的局面,這迫切要求我國反壟斷執(zhí)法部門提升監(jiān)管水平,綜合應用監(jiān)管科技(RegTech),助力監(jiān)管機構、被監(jiān)管機構等共同參與并密切協(xié)作,38參見程雪軍、尹振濤、李心荷:《金融科技創(chuàng)新與監(jiān)管路徑探尋:基于監(jiān)管科技的研究視角》,載《電子政務》2021 年第1 期。全面推動超級平臺算法價格歧視行為的算法規(guī)制。具體而言,我國可以從宏觀與微觀兩個視角開展相關工作:在宏觀層面,對算法技術施以一般性規(guī)制,主要包括算法開發(fā)與變更、程序和數(shù)據(jù)訪問以及算法運行等方面;在微觀層面,對超級平臺算法進行應用操作上的規(guī)制,旨在審查與監(jiān)管數(shù)據(jù)輸入、處理及輸出的整體邏輯銜接和內(nèi)在因果聯(lián)系,這既有利于及時發(fā)現(xiàn)并遏制超級平臺的算法價格歧視,也有助于后續(xù)責任追究與權益救濟的有效實現(xiàn)。
總之,我國平臺型經(jīng)濟近年來從包容發(fā)展走入規(guī)范發(fā)展的階段,已有反壟斷法律實踐可以為國內(nèi)超級平臺企業(yè)算法價格歧視問題提供諸多反壟斷規(guī)制經(jīng)驗,即我國需要緊密結合市場經(jīng)濟發(fā)展的需要以及平臺型經(jīng)濟發(fā)展的階段,靈活科學地開展反壟斷執(zhí)法;同時需要加強反壟斷的經(jīng)濟分析與算法規(guī)制,提升反壟斷的執(zhí)法效率。
算法價格歧視不僅為法律所禁止,在道德倫理層面亦不被允許,禁止歧視是人類文明歷經(jīng)千年所達成的共識。人們常常認為隨著互聯(lián)網(wǎng)信息技術的不斷發(fā)展與進步,尤其是機器學習、深度學習、算法決策等人工智能技術的應用,社會將變得越來越公平,越來越完美。39參見徐琳:《人工智能推算技術中的平等權問題之探討》,載《法學評論》2019 年第3 期。然而,實際情況卻并非如此,基于人工智能技術而得出的算法決策并非客觀公正,可能會出現(xiàn)更為隱蔽和嚴重的算法價格歧視行為。超級平臺企業(yè)基于數(shù)據(jù)與算法資源優(yōu)勢,不免通過人工智能算法技術采取所謂的個性化定價方式來攫取不正當利益,而這種行為一方面是由于企業(yè)趨利性的本能所導致,另一方面還存在新技術對舊有法律秩序的沖擊影響,超級平臺企業(yè)利用算法價格歧視帶來相關的異化風險。當市場這只“看不見的手”自治失靈時,反壟斷規(guī)制作為“看得見的手”就應該及時出現(xiàn),在不打壓超級平臺創(chuàng)新技術發(fā)展的前提下加強反壟斷規(guī)制,實現(xiàn)反壟斷法與算法的二元共治。唯有如此,才能避免超級平臺的算法濫用與價格歧視,真正實現(xiàn)消費者合法權益保護,促進平臺型經(jīng)濟公平有序地發(fā)展。