李文志

摘 要：隨著信息技術(shù)的快速發(fā)展，算法的應(yīng)用越來越廣泛。然而，算法技術(shù)的應(yīng)用在帶來便利的同時也產(chǎn)生了算法歧視，主要表現(xiàn)為算法價格歧視、算法推送歧視、算法就業(yè)歧視與算法性別歧視等。基于此，本文分析了算法歧視的成因，研究了算法歧視消費者的相關(guān)侵權(quán)行為與后果，并提出了有針對性的侵權(quán)責(zé)任救濟路徑，旨在對算法歧視進行規(guī)制，從而保護消費者的合法權(quán)益。

關(guān)鍵詞：算法歧視；侵權(quán)責(zé)任；救濟路徑

隨著數(shù)字經(jīng)濟的發(fā)展，算法作為一種數(shù)據(jù)運算與數(shù)據(jù)分析技術(shù)，已被廣泛應(yīng)用于消費、金融、醫(yī)療等領(lǐng)域，給人們的生活帶來了諸多便利。然而，近年來社會上出現(xiàn)了一些算法歧視現(xiàn)象，損害了消費者的合法權(quán)益，引發(fā)了各界的廣泛關(guān)注?；诖耍訌妼λ惴ㄆ缫曄M者的侵權(quán)責(zé)任與救濟的研究具有重要的現(xiàn)實意義。

一、算法歧視的成因

在算法應(yīng)用領(lǐng)域內(nèi)，算法歧視體現(xiàn)在人們的出行、購物、食宿等方方面面。算法歧視的成因可歸結(jié)為以下幾點。

（一）開發(fā)人員的主觀意識

開發(fā)人員的主觀意識是算法歧視問題產(chǎn)生的根源。雖然算法自身不會歧視消費者，但算法開發(fā)者可能在開發(fā)算法時有意或無意地嵌入主觀意識，導(dǎo)致算法歧視問題出現(xiàn)。此外，由于算法運行的動力來自對海量數(shù)據(jù)的處理，因此，如果開發(fā)者將帶有主觀意識的數(shù)據(jù)上傳至網(wǎng)絡(luò)，算法系統(tǒng)就會自動處理這類數(shù)據(jù)，并輸出歧視性的結(jié)論。

（二）算法的不透明性與不可解釋性

通常，人們在應(yīng)用算法時只是簡單地輸入指令，而不清楚算法是如何處理這些指令并輸出結(jié)果的。因此，算法處理指令輸入與結(jié)果輸出的過程具有不透明性、不可解釋性，從而導(dǎo)致算法歧視問題出現(xiàn)。

二、算法歧視消費者的侵權(quán)行為與后果

（一）侵權(quán)行為

1.算法價格歧視消費者

算法價格歧視是指經(jīng)營者以算法技術(shù)為依托，根據(jù)消費者的消費水平、習(xí)慣及偏好等因素定制個性化的消費畫像，并對不同消費者實施差異定價，以實現(xiàn)利潤最大化，即所謂的“大數(shù)據(jù)殺熟”。算法價格歧視行為通常表現(xiàn)在超過平均收費標準收取額外費用和給予低于正常標準的報酬或獎勵兩方面。這種行為不僅會導(dǎo)致社會不公平和資源分配不合理，還會妨礙市場公平競爭，給消費者帶來損失。此外，經(jīng)營者根據(jù)個人歷史購買記錄來設(shè)定差異化的價格，嚴重侵犯了消費者的隱私權(quán)。

2.算法推送歧視消費者

算法推送歧視是指電商平臺收集和利用消費者的個人信息，并向其推送個性化的內(nèi)容。然而，這種“千人千面”的個性化推薦在提高供需匹配效率的同時，也可能會不公平地對待某些用戶，例如：對特定群體的信息推送不精確；基于用戶的性別、年齡、地域等進行差異化的內(nèi)容推送。這種歧視性推送不僅會影響用戶獲取信息和做出決策，還容易擾亂市場競爭秩序。例如，當(dāng)消費者使用短視頻軟件時，算法會記錄消費者的瀏覽過程、瀏覽內(nèi)容、觀看時長、點贊及評論情況等，并利用這些數(shù)據(jù)繪制消費者畫像，演算出消費者的喜好，并在后續(xù)視頻中優(yōu)先推送符合其喜好的內(nèi)容。甚至同一條視頻下的評論也會被差別對待，算法會優(yōu)先展示符合消費者個人價值觀的評論。

3.算法就業(yè)歧視與算法性別歧視

算法就業(yè)歧視是指當(dāng)招聘方使用算法來篩選求職者時，可能會出現(xiàn)由算法決策而導(dǎo)致的對特定群體的不公正對待現(xiàn)象。也就是說，在用人單位利用算法對應(yīng)聘者進行篩選的過程中，由于算法本身可能會存在偏見或錯誤，因此，某些應(yīng)聘者會被不公平地排除或受到不公正待遇。算法性別歧視是一種基于性別的歧視，可能會在算法的開發(fā)、訓(xùn)練或使用過程中發(fā)生。算法性別歧視并非算法和性別歧視的簡單堆疊，而是一種新的歧視和偏見，其主要表現(xiàn)為對某一性別群體的不公平對待。這種歧視行為會損害社會公平正義，固化性別歧視觀念，擴大性別數(shù)字鴻溝。

算法就業(yè)歧視與算法性別歧視密切相關(guān)，雖然二者在社會生活中引起的爭議不如算法價格歧視與算法推送歧視廣泛，但損害后果不容小覷。相比較而言，算法價格歧視與算法推送歧視消費者的侵權(quán)行為主要是對消費者權(quán)益的短效損害，從侵害時間與效果上看不具有持續(xù)性。而算法就業(yè)歧視與算法性別歧視的侵權(quán)行為，可能會使被侵權(quán)人失去工作機會，其損害結(jié)果具有一定的持續(xù)性，甚至可能會改變被侵權(quán)人的人生軌跡。例如，澳大利亞的某算法招聘系統(tǒng)承諾為雇主節(jié)省時間和成本，提高招聘質(zhì)量，并致力于消除招聘過程中的主觀性和人為偏見。然而，人工智能專家將該招聘系統(tǒng)描述為給雇主頒發(fā)的“歧視許可證”。其原因在于該系統(tǒng)不重視對“消費者”——算法軟件使用相對人的權(quán)益保護，并實施了更加隱蔽的歧視侵權(quán)行為。在這種情況下，智能招聘系統(tǒng)不但不會消除歧視，而且可能會延續(xù)和加劇歧視，并對社會和消費者造成重大損害。

（二）算法歧視消費者的后果

算法歧視消費者的侵權(quán)行為會導(dǎo)致法益侵害、消費者剩余減少、信息繭房等多種損害后果。

1.法益侵害

當(dāng)消費者在電商平臺購買商品或服務(wù)時，平臺算法會根據(jù)其喜好與消費習(xí)慣繪制個人畫像，并計算和推送其能接受的最高價位。因此，消費者無法公平地獲得同一商品的其他報價，其公平交易權(quán)被嚴重侵害。另外，算法還會在消費者不知情的情況下，收集個人信息與消費習(xí)慣。目前，主流觀點認為，算法未經(jīng)消費者許可擅自收集其個人喜好、消費習(xí)慣和聊天記錄，侵犯了消費者的知情權(quán)和隱私權(quán)。

2.消費者剩余減少

消費者剩余是指消費者愿意為某種商品或服務(wù)支付的最高價格與該商品或服務(wù)的實際市場價格之間的差額。它代表了消費者通過購買行為所獲得的滿足感，這種滿足感來源于他們最終支付的價格低于其愿意支付的最高價格。消費者剩余概念與一級價格歧視概念緊密相關(guān)。一級價格歧視又稱為完全價格歧視，它是一種定價策略。在該策略下，對于每一單位產(chǎn)品，賣方都會按照消費者所愿意支付的最高價格出售。也就是說，在完全價格歧視的情況下，網(wǎng)絡(luò)平臺可以準確了解每個消費者對產(chǎn)品的支付意愿，并據(jù)此為不同消費者制定不同的價格，從而最大限度地壓榨消費者剩余，獲取巨額利潤。

3.出現(xiàn)“信息繭房”現(xiàn)象

算法推送技術(shù)會精準推送消費者感興趣的內(nèi)容，自動為消費者屏蔽其他信息，使消費者陷入“信息繭房”，難以接收到其他多方面信息，從而嚴重損害了消費者的利益。

（三）算法歧視消費者行為的過錯原則

過錯原則是指以過錯作為歸責(zé)的構(gòu)成要件和歸責(zé)的最終要件，同時以過錯作為確定行為人責(zé)任范圍的重要依據(jù)；無過錯原則是指在損害發(fā)生后，既不考慮加害人的過失，也不考慮受害人的過失的一種法定責(zé)任形式，其目的在于補償受害人的損失。對于算法歧視消費者行為是適用過錯原則還是無過錯原則，學(xué)者們持有不同觀點。

站在消費者一方的學(xué)者往往持過錯原則觀點。他們認為在強大的資本面前，消費者往往處于弱勢地位，其合法權(quán)益應(yīng)當(dāng)受到保護。他們還建議，算法開發(fā)者與使用者應(yīng)承擔(dān)更高的注意義務(wù)，以減少算法歧視。另外，當(dāng)面對算法黑箱、算法自動化決策等問題時，消費者無法論證其過錯，容易引發(fā)舉證不能，導(dǎo)致自身合法權(quán)益受到侵害。[1]

持無過錯原則觀點的學(xué)者認為，在算法歧視廣泛存在的前提下，如果算法歧視消費者行為采用過錯原則，那么不僅會產(chǎn)生大量的侵權(quán)訴訟，還會加重算法開發(fā)者與使用者的注意義務(wù)，對社會經(jīng)濟發(fā)展產(chǎn)生負面影響。[2]因此，他們認為算法歧視消費者行為適用無過錯原則。還有學(xué)者認為，現(xiàn)階段的侵權(quán)之訴，還未達到必須施行無過錯原則的程度，過錯原則足以澄清事實真相，得出令人信服的結(jié)果。[3]

三、算法歧視消費者的侵權(quán)責(zé)任救濟路徑

針對算法歧視消費者的侵權(quán)責(zé)任救濟路徑，筆者建議相關(guān)部門應(yīng)從算法歧視標準認定與立法的角度為侵權(quán)責(zé)任救濟提供事前幫助；設(shè)立適用我國本土的算法解釋權(quán)，為侵權(quán)責(zé)任救濟提供事中幫助；明確相關(guān)法律邊界，為侵權(quán)責(zé)任救濟提供事后幫助。

（一）明確算法歧視消費者的認定標準

隨著算法技術(shù)的快速發(fā)展，算法歧視消費者行為的認定標準也應(yīng)不斷更新，否則將無法給合法權(quán)益受到侵害的消費者提供合理救濟。明確哪些行為構(gòu)成歧視消費者、哪些行為應(yīng)被規(guī)制，以及如何界定歧視消費者的標準等，對研究侵權(quán)責(zé)任救濟路徑至關(guān)重要。例如，在基于算法的招聘中，體力勞動強度大的崗位往往對男性要求較低而對女性要求較高，雖然這屬于性別差別對待，但這不能被認定為算法就業(yè)歧視與算法性別歧視。因此，當(dāng)出現(xiàn)疑似對消費者差別對待的情況時，我們不能以傳統(tǒng)的歧視標準來判斷該行為是否屬于算法歧視。由此可見，明確算法歧視消費者的認定標準對后續(xù)的侵權(quán)責(zé)任救濟路徑研究起著關(guān)鍵作用。

（二）設(shè)立算法解釋權(quán)

賦予消費者算法解釋權(quán)能夠在一定程度上減少算法歧視行為。我國可以借鑒歐盟經(jīng)驗設(shè)立算法解釋權(quán)。歐盟在《通用數(shù)據(jù)保護條例》（以下簡稱“GDPR”）中多次體現(xiàn)了算法解釋權(quán)，如算法控制者的“事前解釋義務(wù)”、算法自動化決策的“事后解釋權(quán)”，以及與算法解釋權(quán)配套的算法異議權(quán)等?？梢哉f，GDPR對算法歧視消費者問題做出了較為合理的規(guī)定。此外，《中華人民共和國個人信息保護法》第四十八條規(guī)定，個人有權(quán)要求個人信息處理者對其個人信息處理規(guī)則進行解釋說明。簡而言之，賦予消費者算法解釋權(quán)對減輕消費者的舉證責(zé)任，制約算法黑箱、算法自動化決策具有積極作用。

（三）完善相關(guān)法律邊界

有學(xué)者認為，針對算法歧視消費者的侵權(quán)行為，算法開發(fā)者與使用者不能為了逃避責(zé)任而將侵權(quán)行為歸咎于事先已獲得知情權(quán)與同意權(quán)、算法黑箱或算法自動化決策等。他們建議突破技術(shù)中立原則，運用“紅旗原則”。[4]“紅旗原則”是“避風(fēng)港原則”的例外適用，它是指如果侵權(quán)事實顯而易見，像紅旗一樣飄揚，算法的開發(fā)者與使用者就不能視而不見，或以不知道侵權(quán)為理由來推脫責(zé)任。因此，筆者建議相關(guān)部門可從以下兩個方面提出完善方案：一方面，判斷算法自動化決策的結(jié)果，初步認定開發(fā)者與使用者是否需要承擔(dān)法律責(zé)任；另一方面，對算法進行第三方技術(shù)審查，并結(jié)合侵權(quán)責(zé)任原則，確定責(zé)任歸屬。只有做好以上兩方面工作，相關(guān)部門才可以明確并完善相關(guān)法律邊界。

四、結(jié)語

綜上所述，為減少算法歧視行為，相關(guān)部門應(yīng)加快人工智能與算法應(yīng)用領(lǐng)域的專項立法工作，以規(guī)范智能算法的應(yīng)用。同時，相關(guān)部門可以通過明確算法歧視消費者的認定標準、設(shè)立算法解釋權(quán)、完善相關(guān)法律邊界等策略，明確算法歧視消費者的侵權(quán)責(zé)任救濟路徑，以保護消費者合法權(quán)益，促進數(shù)字經(jīng)濟健康發(fā)展。

參考文獻：

[1] 李丹.論算法歧視消費者的侵權(quán)責(zé)任認定——基于司法裁判的實證考察[J].當(dāng)代法學(xué)，2023，37（06）：75-85.

[2] 袁文全.算法歧視的侵權(quán)責(zé)任治理[J].蘭州大學(xué)學(xué)報（社會科學(xué)版），2023，51（02）：89-99.

[3] 孟勤國.治理算法歧視侵害消費者權(quán)益的關(guān)鍵問題——以大數(shù)據(jù)殺熟為視角[J].法律適用，2023（03）：37-47.

[4] 陳兵.平臺算法規(guī)制的多維思考：從個案侵權(quán)裁判到算法綜合治理[J].蘭州學(xué)刊，2023（03）：91-94.

（作者單位：青島科技大學(xué)法學(xué)院）