程峰 劉暢

平臺(tái)經(jīng)濟(jì)下的算法歧視問題

平臺(tái)經(jīng)濟(jì)方興未艾

自2012年以來，我國陸續(xù)實(shí)施“互聯(lián)網(wǎng)+”行動(dòng)和“國家大數(shù)據(jù)”等國家戰(zhàn)略，有力推動(dòng)了互聯(lián)網(wǎng)平臺(tái)經(jīng)濟(jì)蓬勃發(fā)展。尤其是2020年以來，雖然實(shí)體經(jīng)濟(jì)受到新冠肺炎疫情的影響和沖擊，但平臺(tái)經(jīng)濟(jì)逆勢而上，仍然呈現(xiàn)持續(xù)高速增長的態(tài)勢。中國信息通信研究院發(fā)布的數(shù)據(jù)顯示，截至2020年底，我國市場價(jià)值超10億美元的數(shù)字平臺(tái)企業(yè)達(dá)197家，較2019年增加23家;價(jià)值規(guī)模達(dá)3.5萬億美元，同比增長56.3%。在推動(dòng)平臺(tái)經(jīng)濟(jì)高速發(fā)展壯大的過程中，大數(shù)據(jù)無疑起到了巨大的驅(qū)動(dòng)作用，甚至扮演著關(guān)鍵生產(chǎn)要素的角色。對(duì)于普通受眾而言，在享受大數(shù)據(jù)帶來的便利的同時(shí)，也不可避免地面臨著“大數(shù)據(jù)殺熟”、個(gè)人信息濫用、數(shù)據(jù)壟斷等問題。

平臺(tái)金融消費(fèi)領(lǐng)域特殊性

根據(jù)中國互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的《第47次中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》，截至2020年末，我國網(wǎng)民規(guī)模達(dá)9.89億，其中使用過網(wǎng)絡(luò)支付等金融服務(wù)的用戶規(guī)模已達(dá)8.54億，占網(wǎng)民整體數(shù)量的86.4%，我國通過網(wǎng)絡(luò)進(jìn)行金融消費(fèi)的群體數(shù)量巨大。借助平臺(tái)經(jīng)濟(jì)發(fā)展的東風(fēng)，加之馬太效應(yīng)的影響，大型互聯(lián)網(wǎng)平臺(tái)對(duì)市場份額的占有越發(fā)集中，對(duì)于消費(fèi)者的影響也越來越大。與其他消費(fèi)領(lǐng)域略有差別，大型互聯(lián)網(wǎng)平臺(tái)金融消費(fèi)領(lǐng)域總結(jié)起來具有以下特點(diǎn)：一是涉及金額較大。尤其是網(wǎng)絡(luò)借貸、資產(chǎn)管理等業(yè)務(wù)，所涉金額遠(yuǎn)遠(yuǎn)高于生活類消費(fèi)。二是消費(fèi)應(yīng)具備專業(yè)知識(shí)較多。由于金融業(yè)務(wù)的專業(yè)性，提供金融產(chǎn)品或服務(wù)的機(jī)構(gòu)往往以消費(fèi)者同意簽訂相關(guān)知情書、協(xié)議為前提而進(jìn)行交易，但通過網(wǎng)絡(luò)進(jìn)行金融消費(fèi)的群體，金融知識(shí)良莠不齊，很難對(duì)文書范本進(jìn)行充分閱讀和理解，對(duì)點(diǎn)擊“我同意”選項(xiàng)后所確認(rèn)的權(quán)利義務(wù)關(guān)系一知半解。三是將對(duì)消費(fèi)者生活產(chǎn)生持續(xù)性影響。絕大多數(shù)金融消費(fèi)并非一次性交易，特別是當(dāng)對(duì)消費(fèi)者個(gè)人征信產(chǎn)生影響時(shí)，不良記錄將持續(xù)困擾消費(fèi)者生活的方方面面，引發(fā)重重矛盾。四是相關(guān)業(yè)務(wù)屬于金融監(jiān)管范疇。通過大型互聯(lián)網(wǎng)平臺(tái)開展金融業(yè)務(wù)，沒有改變金融的本質(zhì)，亦即仍然需要防范相關(guān)金融風(fēng)險(xiǎn)，需要實(shí)施金融監(jiān)管。也正是基于以上這些特點(diǎn)，該領(lǐng)域的消費(fèi)者保護(hù)工作顯得尤為重要。

算法歧視的表現(xiàn)及多發(fā)領(lǐng)域

參考《國務(wù)院反壟斷委員會(huì)關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》相關(guān)內(nèi)容，可將算法歧視簡單描述為，設(shè)定特定的數(shù)據(jù)管理方式，在無正當(dāng)理由的情況下對(duì)交易條件相同的對(duì)象實(shí)施差別待遇，侵害消費(fèi)者合法權(quán)益的行為。這種不公平的差別待遇一般體現(xiàn)在排序策略、交易條件、差別定價(jià)等方面。在金融消費(fèi)權(quán)益保護(hù)領(lǐng)域，大型互聯(lián)網(wǎng)平臺(tái)實(shí)施算法歧視侵害消費(fèi)者權(quán)益的情況近年來逐漸引起重視，應(yīng)進(jìn)一步關(guān)注并加以規(guī)制。

平臺(tái)利用算法歧視侵害金融消費(fèi)者權(quán)益的重災(zāi)區(qū)，集中在互聯(lián)網(wǎng)金融尤其是平臺(tái)金融領(lǐng)域。究其原因：一方面是互聯(lián)網(wǎng)金融企業(yè)急需大型互聯(lián)網(wǎng)平臺(tái)客戶資源拓展業(yè)務(wù)，并且事實(shí)上多數(shù)大型互聯(lián)網(wǎng)平臺(tái)爭先拓展出金融業(yè)務(wù)以充分挖掘并利用客戶資源，泛金融化趨勢加劇，如阿里旗下的螞蟻集團(tuán)、百度旗下的度小滿金融、京東旗下的京東金融等;另一方面，出于風(fēng)險(xiǎn)和成本控制等方面的考慮，商業(yè)銀行等傳統(tǒng)金融機(jī)構(gòu)主要通過專屬手機(jī)App、網(wǎng)站等提供網(wǎng)絡(luò)金融產(chǎn)品和服務(wù)，較少以大型互聯(lián)網(wǎng)平臺(tái)充當(dāng)業(yè)務(wù)媒介。

算法歧視侵害金融消費(fèi)者權(quán)益情況

針對(duì)消費(fèi)者本身的算法歧視。此類行為主要表現(xiàn)為價(jià)格歧視，即沒有正當(dāng)理由而對(duì)交易條件相同的消費(fèi)者提供差別定價(jià)，據(jù)以設(shè)定差別定價(jià)的數(shù)據(jù)可能是個(gè)體消費(fèi)者的網(wǎng)絡(luò)活動(dòng)歷史軌跡、交易習(xí)慣、聯(lián)網(wǎng)設(shè)備等信息，甚至還可能是性別、種族等敏感信息。此類現(xiàn)象大多出現(xiàn)在大型互聯(lián)網(wǎng)平臺(tái)的關(guān)聯(lián)金融業(yè)務(wù)中，例如，2019年11月，戴維·海涅邁爾·漢森（David Heinemeier Hansson）在推特（Twitter）上宣稱，蘋果公司與高盛集團(tuán)推出的Apple Card信用卡服務(wù)算法歧視了他的妻子，因?yàn)殡m然他和妻子結(jié)婚多年且共用銀行和其他信用卡賬戶，但Apple Card給他的信用額度是妻子的十倍多。此舉引發(fā)了許多用戶的共鳴，抱怨女性的Apple Card信用額度低于男性。盡管2021年3月紐約州金融服務(wù)局發(fā)布報(bào)告稱Apple Card不存在非法歧視，但同時(shí)也承認(rèn)信貸系統(tǒng)本身仍存在歧視現(xiàn)象（美國信用評(píng)分系統(tǒng)對(duì)白人男性給予優(yōu)待）。在我國，“大數(shù)據(jù)殺熟”近年來持續(xù)引發(fā)熱議，投訴集中在網(wǎng)絡(luò)購票、游戲抽獎(jiǎng)、打車等領(lǐng)域，在金融消費(fèi)方面也不鮮見。例如，2018年小米公司接到429起關(guān)于P2P的投訴，投訴人稱小米在其各類平臺(tái)上以“米粉專享”“米粉任務(wù)”形式針對(duì)VIP用戶推薦P2P產(chǎn)品并造成用戶損失，涉及總金額約4億元。

針對(duì)第三方的算法歧視。該種行為主要表現(xiàn)為不公平的排序、限定交易等，是平臺(tái)針對(duì)提供金融服務(wù)和產(chǎn)品的機(jī)構(gòu)實(shí)施算法歧視而間接減損了消費(fèi)者權(quán)益的情況。相對(duì)于直接針對(duì)消費(fèi)者個(gè)體的算法歧視，該種行為不區(qū)分具體受眾，顯然會(huì)產(chǎn)生更大的影響力和不良后果。比如，2015年2月媒體報(bào)道的微信封殺支付寶紅包事件，許多用戶反映通過微信公眾平臺(tái)開設(shè)的店鋪無法繼續(xù)使用支付寶收付款，即被受眾質(zhì)疑平臺(tái)涉嫌限定支付方式。另外，在排序策略方面飽受爭議的百度競價(jià)排名業(yè)務(wù)，自“魏澤西事件”后曝光于公眾視野，并在互聯(lián)網(wǎng)金融高速發(fā)展后被許多P2P機(jī)構(gòu)所用。例如，媒體曾報(bào)道在百度搜索某中等規(guī)模的P2P平臺(tái)時(shí)，搜索結(jié)果的前8條全部是其他P2P平臺(tái)的推廣信息，并且有5條信息雖然在鏈接文字上標(biāo)注某中等規(guī)模的P2P平臺(tái)字樣，但點(diǎn)擊進(jìn)去卻跳轉(zhuǎn)到其他P2P平臺(tái)。上述行為在被質(zhì)疑不正當(dāng)競爭、壟斷的同時(shí)，也涉嫌侵害了金融消費(fèi)者的知悉真情權(quán)以及自主選擇權(quán)。

保護(hù)金融消費(fèi)權(quán)益的路徑探索

在法律規(guī)制方面，除普適性維護(hù)消費(fèi)者權(quán)益的民法典、消費(fèi)者權(quán)益保護(hù)法等法律外，近年來我國網(wǎng)絡(luò)法治的專門立法不斷完善，尤其在較高法律層級(jí)對(duì)消費(fèi)者個(gè)人信息數(shù)據(jù)安全加強(qiáng)規(guī)制。涉及到的立法有網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法以及已經(jīng)進(jìn)入立法程序的個(gè)人信息保護(hù)法（草案）。具體到金融消費(fèi)權(quán)益領(lǐng)域，主要的規(guī)章有《中國人民銀行金融消費(fèi)權(quán)益保護(hù)實(shí)施辦法》《銀行業(yè)保險(xiǎn)業(yè)消費(fèi)投訴處理管理辦法》等，且《中國人民銀行金融消費(fèi)權(quán)益保護(hù)實(shí)施辦法》第四十條明確將“通過電子商務(wù)、網(wǎng)絡(luò)交易購買、使用金融產(chǎn)品或者服務(wù)的”金融消費(fèi)者納入保護(hù)范圍。

在監(jiān)管互聯(lián)網(wǎng)平臺(tái)行為方面，除適用反壟斷法、反不正當(dāng)競爭法、價(jià)格法等法律外，2021年2月7日，國務(wù)院反壟斷委員會(huì)印發(fā)了《國務(wù)院反壟斷委員會(huì)關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》（以下簡稱《指南》），雖然不屬于立法文件，但對(duì)平臺(tái)經(jīng)濟(jì)下的壟斷行為明確了執(zhí)法規(guī)則，是實(shí)施監(jiān)管的重要依據(jù)。《指南》中對(duì)平臺(tái)相關(guān)概念的界定、濫用市場支配地位的認(rèn)定、不公平價(jià)格行為的認(rèn)定、差別待遇的認(rèn)定等內(nèi)容，都與金融消費(fèi)者的切身利益密切相關(guān)，在一定程度上有利于消費(fèi)者免受平臺(tái)算法歧視之害。

總體來說，可以看到我國立法對(duì)網(wǎng)絡(luò)安全、個(gè)人信息安全、平臺(tái)經(jīng)濟(jì)監(jiān)管方面關(guān)注度較高，法治進(jìn)程明顯加快，已在逐步落實(shí)《法治社會(huì)建設(shè)實(shí)施綱要（2020～2025年）》提出的“建立健全網(wǎng)絡(luò)綜合治理體系”要求。不過，由于相關(guān)立法實(shí)施時(shí)間尚短或還處于立法程序中，其應(yīng)用情況和執(zhí)法效果仍有待在實(shí)踐中接受檢驗(yàn)。為進(jìn)一步探索行之有效的算法歧視治理方式，充分保護(hù)金融消費(fèi)者合法權(quán)益，建議綜合考慮從以下幾個(gè)方面強(qiáng)化規(guī)制。

加強(qiáng)立法保障。與其他領(lǐng)域一樣，立法保障是最根本的保障。雖然當(dāng)前我國在網(wǎng)絡(luò)安全、個(gè)人信息安全、平臺(tái)經(jīng)濟(jì)監(jiān)管方面立法進(jìn)程較快，但其中涉及算法歧視問題的極少。算法具有技術(shù)性和隱蔽性，許多情況下還屬于被依法保護(hù)的知識(shí)產(chǎn)權(quán)，其屬性決定了不宜對(duì)算法本身進(jìn)行過度審查。因此，建議立法從算法設(shè)計(jì)應(yīng)遵循的公平原則、算法應(yīng)用不得產(chǎn)生的損害后果兩方面來預(yù)防和糾正算法歧視問題，從立法層面明確遏制算法歧視。

開展綜合監(jiān)管。在大型互聯(lián)網(wǎng)平臺(tái)泛金融化的當(dāng)下，傳統(tǒng)的監(jiān)管模式也面臨變革，有學(xué)者將其概括為“傳統(tǒng)的以中心化和實(shí)體化為主的金融監(jiān)管秩序面臨著以去中心化和數(shù)字虛擬化為表征的金融業(yè)務(wù)的挑戰(zhàn)”。此種情況下，單純的行業(yè)監(jiān)管在執(zhí)法力度和效果上都顯得較為乏力。為有效保護(hù)金融消費(fèi)者權(quán)益，建議建立金融監(jiān)管與反壟斷監(jiān)管相補(bǔ)充、相結(jié)合的綜合監(jiān)管模式，從維護(hù)金融穩(wěn)定和良好的市場競爭秩序兩方面共同規(guī)制算法歧視問題。

實(shí)行行業(yè)自律。隨著平臺(tái)經(jīng)濟(jì)的發(fā)展，頭部平臺(tái)資源聚集加劇，大型互聯(lián)網(wǎng)平臺(tái)的壟斷問題越來越受到重視，而壟斷行為則是滋生算法歧視的溫床。創(chuàng)新賦予了平臺(tái)經(jīng)濟(jì)發(fā)展的強(qiáng)大活力，因此行政機(jī)關(guān)在進(jìn)行監(jiān)管時(shí)往往面臨著矯枉過正的風(fēng)險(xiǎn)，僅依賴強(qiáng)監(jiān)管手段難免會(huì)造成過多的束縛，并且許多平臺(tái)的技術(shù)壁壘也造成了監(jiān)管的失效。因此，實(shí)施行業(yè)自律是互聯(lián)網(wǎng)平臺(tái)的必要治理措施。在多部門共同行政指導(dǎo)推動(dòng)下，截至2021年4月，已有百度、京東、字節(jié)跳動(dòng)、拼多多、美團(tuán)、騰訊、滴滴、快手、嗶哩嗶哩等20多家平臺(tái)企業(yè)發(fā)布了合規(guī)經(jīng)營承諾，承諾書中將個(gè)人信息保護(hù)、反壟斷、反不正當(dāng)競爭作為重點(diǎn)，其中明確提到算法問題的僅有4家，這也表明平臺(tái)企業(yè)尚未充分意識(shí)到或尚未承認(rèn)算法歧視的危害性，應(yīng)結(jié)合實(shí)際進(jìn)一步擴(kuò)充行業(yè)自律的內(nèi)容，自發(fā)規(guī)范行業(yè)秩序。

（作者單位：中國人民銀行佳木斯市中心支行）