李晶

【關(guān)鍵詞】人工智能；算法歧視；憲法平等；挑戰(zhàn)及應(yīng)對(duì)

引言

在計(jì)算機(jī)領(lǐng)域中，算法是一種利用復(fù)雜的控制架構(gòu)實(shí)現(xiàn)運(yùn)算的方式。簡(jiǎn)而言之，就是對(duì)某個(gè)特定的對(duì)象，將特定的指令錄入軟件中，再由該指令進(jìn)行計(jì)算，得出最終的結(jié)果。它具有通用性、有效性、有窮性、確切性等特點(diǎn)，通用性是指可反復(fù)使用的，有效性是指可實(shí)現(xiàn)，有窮性是指算法的運(yùn)算步驟是有限制的，而確切性是指算法的每一步驟都有確切的意義。這些特點(diǎn)保證了該方法的可用性和易用性，而且該方法可以突破人類(lèi)的計(jì)算量限制，做出科學(xué)、高效的決策，因此受到了很多人的歡迎，一些人甚至相信，這種方法可以“包治百病”，給人類(lèi)做出最好的決策。

“算法”無(wú)疑是一柄“雙刃劍”，其在一定程度上放大了人類(lèi)的歧視，損害了民主政治、平等文化、和諧社會(huì)與綠色生態(tài)、市場(chǎng)經(jīng)濟(jì)和諧發(fā)展。無(wú)論是在道德和法制方面，都有嚴(yán)格的規(guī)定禁止歧視，包括算法上的歧視。由于存在于資本內(nèi)部的算法歧視，破壞了市場(chǎng)的穩(wěn)定，因此必須對(duì)此加以規(guī)范，政府也對(duì)此情況尤為重視，進(jìn)行了有力的監(jiān)管。例如，在2021年4月16日，阿里巴巴被處以182億元的行政罰款，而在2021年的4月26日，美團(tuán)以“二選一”等壟斷方式被發(fā)起訴訟，唯品會(huì)、百度、騰訊等網(wǎng)絡(luò)公司，都因?yàn)閴艛喽獾搅藨土P。就我國(guó)現(xiàn)行的反算法歧視而言，雖然已有不少學(xué)者對(duì)其進(jìn)行過(guò)相關(guān)的探討，但其在立法層面上的指導(dǎo)作用并不顯著。我國(guó)《憲法》在平等原則上為規(guī)制算法歧視提供了憲法的依據(jù)，平等原則作為憲法的基本內(nèi)涵，[1]充分利用其憲法功能，為我國(guó)的反歧視制度與國(guó)家治理體系的建設(shè)和管理水平的現(xiàn)代化，提出了具有憲法意義的價(jià)值導(dǎo)向，從而推動(dòng)反算法歧視問(wèn)題的治理有效性。

一、偏見(jiàn)代理的算法歧視對(duì)憲法平等的影響

偏見(jiàn)代理的算法歧視，就是利用個(gè)體識(shí)別數(shù)據(jù)的延伸，利用各種相關(guān)性和特征的關(guān)聯(lián)性，從而實(shí)現(xiàn)了對(duì)個(gè)體的歧視，甚至造成不公正的結(jié)果。算法出現(xiàn)歧視性后果，并非是算法制定者的故意而為，而是由于他們?cè)谠O(shè)定算法時(shí)邏輯有很大的缺陷，從而使得理性和感性因素的混合造成了歧視性的結(jié)果。

算法的決策與預(yù)測(cè)都是以基本的數(shù)據(jù)的客觀性和中立性為依據(jù)的。但是，實(shí)際情況中也出現(xiàn)了行為與當(dāng)事人沒(méi)有對(duì)應(yīng)的情形，從而導(dǎo)致在這種情形下進(jìn)行算法實(shí)際上是不公平也不正確的。針對(duì)因數(shù)據(jù)偽造而造成的算法歧視，其關(guān)鍵是要對(duì)其進(jìn)行嚴(yán)格的數(shù)據(jù)審核。面對(duì)大量的信息，應(yīng)該讓那些使用算法篩選的人來(lái)負(fù)責(zé)，基于他們自己的構(gòu)建基礎(chǔ)增加找出差錯(cuò)的可能性。[2]

因?yàn)榇蠖鄶?shù)情況下，雖然有人愿意去維護(hù)自己的權(quán)益尋求法律對(duì)個(gè)人信息保護(hù)的救濟(jì)，但個(gè)人的訴訟成本、提供證據(jù)還是證明因果關(guān)系，都很難向法院提起侵權(quán)之訴，[3]付出的成本與收益并不相符，很多人可能更傾向于放棄，這使得算法決策者懷有很強(qiáng)烈的僥幸心理。哪怕有一小部分維權(quán)者，也能用大多數(shù)人的虧損來(lái)彌補(bǔ)。《個(gè)人信息保護(hù)法》第8條明確指出，審查機(jī)構(gòu)必須保證信息的安全性，但并未明確規(guī)定是否僅限于使用算法進(jìn)行信息的加工，同時(shí)由于很多公司將信息處理分包給別的公司，導(dǎo)致了信息保障是由兩方共同承擔(dān)或僅由一方承擔(dān)也不甚明確。但從保護(hù)個(gè)人信息和隱私的角度，個(gè)人信息一經(jīng)傳遞至其他公司，無(wú)論它是否要對(duì)信息進(jìn)行處理，都負(fù)有保障信息不外泄的安全責(zé)任。

原本人類(lèi)在對(duì)各項(xiàng)事務(wù)擁有決策權(quán)，算法產(chǎn)生以后大數(shù)據(jù)的收集使得一些信息內(nèi)部存在著邏輯關(guān)系，數(shù)據(jù)來(lái)源于社會(huì)，社會(huì)差異化的背景下反映社會(huì)特征的數(shù)據(jù)本身是有差異的，例如美國(guó)刑事犯罪預(yù)測(cè)算法，可能更會(huì)將黑人或黑人聚集地區(qū)劃分為犯罪風(fēng)險(xiǎn)更高的地區(qū)，[4]所以在社會(huì)本身就是存在歧視和偏見(jiàn)的。偏見(jiàn)代理算法歧視中更是夾雜了算法設(shè)計(jì)者自身的特點(diǎn)，如其個(gè)人的喜好，價(jià)值觀念和固有邏輯都會(huì)在算法編輯中呈現(xiàn)，他所關(guān)注和收納的大數(shù)據(jù)本身的偏見(jiàn)和歧視夾雜著自身的邏輯體系，在算法的運(yùn)作中將展現(xiàn)的淋漓盡致，這就大大增加了被決策對(duì)象的質(zhì)疑。

基于偏見(jiàn)代理的算法歧視，算法決策者并不會(huì)主動(dòng)將主觀的價(jià)值植入算法中，之所以會(huì)有歧視性的產(chǎn)生，很大程度上是因?yàn)樗惴ú煌该骰蛘邔彶閱?wèn)題。偏見(jiàn)代理型算法歧視呈現(xiàn)出“中立進(jìn)—偏見(jiàn)出”的運(yùn)行特征，即決策者在算法機(jī)器中輸入了中立的數(shù)據(jù)，卻得出了帶有歧視性的結(jié)果。所以，僅對(duì)社會(huì)和經(jīng)濟(jì)利益作出決策，其方式和目的如果都是合理的，屬于差異化的合理范圍；但在涉及公民各項(xiàng)基本權(quán)利的情況下，對(duì)偏見(jiàn)代理的算法歧視應(yīng)進(jìn)行嚴(yán)格的審核，加強(qiáng)數(shù)據(jù)更新的監(jiān)督體系，國(guó)務(wù)院也在2017年制定了《新一代人工智能發(fā)展規(guī)劃》，其中就強(qiáng)調(diào)在人工智能快速發(fā)展的時(shí)期，要用好人工智能這把“雙刃劍”，高度重視人工智能可能帶來(lái)的風(fēng)險(xiǎn)，確保人工智能安全、可靠、可控發(fā)展。

二、特征選擇的算法歧視對(duì)憲法平等的影響

特征選擇型算法歧視采取了“偏見(jiàn)進(jìn)—偏見(jiàn)出”的運(yùn)行模式，即決策者在算法機(jī)器中直接輸入諸如種族、性別等帶有偏見(jiàn)的信息，以求得出帶有偏見(jiàn)的計(jì)算結(jié)果。特征選擇算法歧視的決策是以海量的數(shù)據(jù)為基礎(chǔ)的，由于它的分析標(biāo)準(zhǔn)的選取、分類(lèi)、賦值等都是人為地設(shè)定的，并且摻雜了人的主觀意志，所以造成了算法上的歧視。[5]特征選取的歧視將具有歧視含義的敏感性信息直接導(dǎo)入系統(tǒng)中，這是傳統(tǒng)的歧視方式在互聯(lián)網(wǎng)上的體現(xiàn)，與以往的歧視相比，僅僅介入了大數(shù)據(jù)、算法等因素。

算法的預(yù)測(cè)就是利用過(guò)去對(duì)將來(lái)進(jìn)行預(yù)言，算法預(yù)測(cè)模型看似是對(duì)將來(lái)的，實(shí)際上也是對(duì)過(guò)去的。[6]例如，用不同所有者不同品牌的手機(jī)打開(kāi)某購(gòu)物APP搜索關(guān)鍵詞“電飯鍋”，就會(huì)發(fā)現(xiàn)后臺(tái)推送的“電飯鍋”數(shù)據(jù)和排名不盡相同，綜合分析在此購(gòu)物網(wǎng)站消費(fèi)等級(jí)越高的手機(jī)所有者，其搜索“電飯鍋”結(jié)果的前幾名價(jià)格越高，消費(fèi)等級(jí)越低或者沒(méi)有在此網(wǎng)站消費(fèi)過(guò)的手機(jī)所有者則被推送的是價(jià)格平價(jià)的“電飯鍋”產(chǎn)品。不難看出，簡(jiǎn)單的產(chǎn)品搜索行為也會(huì)因?yàn)橄M(fèi)者的消費(fèi)等級(jí)、消費(fèi)習(xí)慣或消費(fèi)偏好而不同，后臺(tái)推送時(shí)會(huì)加強(qiáng)對(duì)被納入該類(lèi)別的個(gè)體的調(diào)查與研究，有時(shí)也會(huì)收集其負(fù)面訊息。例如，在谷歌搜索引擎搜索黑人姓名時(shí)，除了出現(xiàn)馬丁·路德·金的介紹外，出現(xiàn)的大多是關(guān)于黑人犯罪的新聞條目，這正是基于算法偏見(jiàn)的導(dǎo)向性而得出的結(jié)果。出現(xiàn)馬丁·路德·金的介紹也很難消除由這些算法造成的歧視，他們只會(huì)把這些杰出的個(gè)人看作是一個(gè)意外，而不會(huì)考慮個(gè)體積極因素的影響，這一事件展現(xiàn)出谷歌對(duì)黑人群眾平等權(quán)的侵害。

特征選擇算法只有在基于特定人考慮的情況下做出選擇，才符合合理差別待遇，而其他特征選擇算法則明顯違背了憲法規(guī)定的平等內(nèi)涵。所以對(duì)于算法的管控，還是要先從算法決策者的角度進(jìn)行規(guī)制，畢竟收集大量的數(shù)據(jù)最后還是要進(jìn)行算法的處理，算法歸根結(jié)底還是人類(lèi)的智慧，[7]2019年我國(guó)實(shí)施的《電子商務(wù)法》第二章通過(guò)規(guī)定電子商務(wù)經(jīng)營(yíng)者的權(quán)利義務(wù)來(lái)實(shí)現(xiàn)對(duì)算法運(yùn)用行為的監(jiān)管。 針對(duì)算法歧視，首先，我們依然可以遵循“用規(guī)制人的思路來(lái)規(guī)制算法”，建構(gòu)針對(duì)性的抑制算法偏見(jiàn)的監(jiān)管機(jī)制，要求監(jiān)管機(jī)關(guān)對(duì)平等權(quán)的算法侵害進(jìn)行嚴(yán)查，其次，當(dāng)公民的平等權(quán)受到算法侵害時(shí)，應(yīng)當(dāng)有訴訟途徑可以要求侵害者停止侵害、消除影響、賠償。

三、大數(shù)據(jù)“殺熟”對(duì)憲法平等的影響

大數(shù)據(jù)“殺熟”是一種典型的算法偏見(jiàn)。大數(shù)據(jù)“殺熟”型算法歧視主要表現(xiàn)在通過(guò)對(duì)計(jì)算機(jī)過(guò)往數(shù)據(jù)不斷進(jìn)行學(xué)習(xí)，然后采取價(jià)格歧視、特定推送等手段，實(shí)現(xiàn)“同物不同價(jià)”目的。例如，兩個(gè)人使用不同品牌手機(jī)在同一款旅游APP搜索同一家酒店，手機(jī)顯示出的價(jià)格大不相同，不常使用這款A(yù)PP的消費(fèi)者搜索到的房間價(jià)格要比經(jīng)常使用此款A(yù)PP的消費(fèi)者的價(jià)格要低，這是因?yàn)槠脚_(tái)根據(jù)消費(fèi)者的使用習(xí)慣，故意利用“大數(shù)據(jù)”殺熟；此外，兩個(gè)不同品牌手機(jī)在某APP會(huì)員的收費(fèi)也不相同，高級(jí)手機(jī)要支付更多的費(fèi)用。

價(jià)格歧視分為三級(jí)，一級(jí)價(jià)格歧視在現(xiàn)實(shí)中比較少見(jiàn)，有觀點(diǎn)認(rèn)為基于大數(shù)據(jù)和算法，平臺(tái)可以根據(jù)每個(gè)消費(fèi)者的習(xí)慣、偏好、購(gòu)買(mǎi)歷史等進(jìn)行用戶(hù)畫(huà)像，實(shí)現(xiàn)“一人一價(jià)”，“大數(shù)據(jù)殺熟”接近于一級(jí)價(jià)格歧視。[8]當(dāng)消費(fèi)者在日常討論自己的商品喜好或者購(gòu)買(mǎi)意向時(shí)，經(jīng)常會(huì)出現(xiàn)打開(kāi)手機(jī)購(gòu)物軟件就會(huì)出現(xiàn)剛談?wù)撨^(guò)的商品或廣告，從而引起人們的注意，這很大程度上屬于商家通過(guò)監(jiān)聽(tīng)獲取到的相關(guān)數(shù)據(jù)，這種商業(yè)競(jìng)爭(zhēng)行為這種貌似合情合理，但其實(shí)已經(jīng)嚴(yán)重違反了憲法的平等原則，也嚴(yán)重侵犯了公民的隱私權(quán)。價(jià)格歧視，這種不特定人群付出比其他人更多代價(jià)的價(jià)格歧視，實(shí)則與《憲法》中規(guī)定的平等內(nèi)容相違背，并且它違背了同品同價(jià)、同質(zhì)同價(jià)的市場(chǎng)交易的普遍規(guī)律。

通常我們?cè)卺t(yī)院因?yàn)槿∷幪幉惶峁┧芰洗?，不得不向旁邊自助免費(fèi)取袋機(jī)求助，掃過(guò)二維碼之后的一番操作看似簡(jiǎn)單，雖然滿(mǎn)足了用戶(hù)的需求，但在不知不覺(jué)間用戶(hù)的個(gè)人信息已經(jīng)被采集，這些信息對(duì)于用戶(hù)而言并無(wú)太多價(jià)值，但對(duì)于采集平臺(tái)而言卻是極具價(jià)值。用戶(hù)的信息在不斷采集中，后臺(tái)也逐步完成了用戶(hù)的畫(huà)像，平臺(tái)利于日趨完善的用戶(hù)畫(huà)像精準(zhǔn)推送各類(lèi)廣告信息，從而產(chǎn)生巨大經(jīng)濟(jì)價(jià)值。

算法歧視具有潛在性，即高價(jià)購(gòu)買(mǎi)者不會(huì)意識(shí)到存在低價(jià)購(gòu)買(mǎi)者的真實(shí)情況。在這些消費(fèi)者來(lái)看，低價(jià)格是不存在的，其實(shí)這就等于剝奪了知情的權(quán)利和選擇的權(quán)利，這不是一種合理的差別對(duì)待，而是一種不公平的待遇。類(lèi)似的，特定推送其實(shí)是根據(jù)人們的搜索、聊天等自身的活動(dòng)進(jìn)行推送，但也不能完全排除了算法決策者利用一些關(guān)聯(lián)來(lái)進(jìn)行歧視。所以，當(dāng)特定推送僅僅是為了定制化服務(wù)，就應(yīng)該給用戶(hù)一個(gè)明確的提示，告知用戶(hù)這個(gè)特定推送是一種普通的技術(shù)，不會(huì)違背平等原則。對(duì)于用戶(hù)而言，因?yàn)樾畔⒌牟杉^為隱秘，所以導(dǎo)致用戶(hù)無(wú)從得知自己授權(quán)的個(gè)人信息是否超過(guò)了必要的限度，用戶(hù)也無(wú)法知曉個(gè)人信息的實(shí)際用途及其利用是否合理。[9]

越來(lái)越多學(xué)者認(rèn)為對(duì)應(yīng)大數(shù)據(jù)“殺熟”應(yīng)主要從算法規(guī)制和個(gè)人信息保護(hù)兩方面著手，我國(guó)在信息保護(hù)方面也制定了相關(guān)的法律，《個(gè)人信息保護(hù)法》13-18條規(guī)定，在處理個(gè)人信息時(shí)，個(gè)人信息處理者方必須征求信息所有者的同意。2020年10月正式施行的《在線(xiàn)旅游經(jīng)營(yíng)服務(wù)管理暫行規(guī)定》第十五條中也有明確要求：“在線(xiàn)旅游經(jīng)營(yíng)者不得濫用大數(shù)據(jù)分析等技術(shù)手段，基于旅游者消費(fèi)記錄、偏好等設(shè)置不公平的交易條件，侵犯旅游者合法權(quán)益”。與此同時(shí)，加強(qiáng)個(gè)人信息的保護(hù)，避免平臺(tái)對(duì)信息的濫用也尤為重要，宣傳消費(fèi)者享有的各項(xiàng)數(shù)據(jù)信息權(quán)利，加大自身對(duì)個(gè)人信息的保護(hù)重視程度，勸導(dǎo)消費(fèi)者在網(wǎng)上下單前多進(jìn)行比較，擇最優(yōu)價(jià)格購(gòu)買(mǎi)。如發(fā)現(xiàn)大數(shù)據(jù)“殺熟”現(xiàn)象已經(jīng)存在，可以采用反向用戶(hù)畫(huà)像的方法，如卸載相關(guān)“殺熟”軟件；搜索不相關(guān)的信息；換其他用戶(hù)名重新登錄等方式，增強(qiáng)自身權(quán)益保護(hù)意識(shí)，主動(dòng)打破算法歧視帶來(lái)的不平等。

結(jié)語(yǔ)

雖然算法在不知不覺(jué)間已經(jīng)對(duì)人們的生活產(chǎn)生了深遠(yuǎn)的影響，但是這項(xiàng)技術(shù)卻不能絕對(duì)地保持價(jià)值中立。雖然它對(duì)于便利人們的生活起到了至關(guān)重要的作用，但是也必須闡明它有可能會(huì)侵犯人的基本權(quán)利。偏見(jiàn)代理、特征選擇以及數(shù)據(jù)“殺熟”的三種形式的算法歧視，對(duì)憲法中的平等原則提出了挑戰(zhàn)。由于算法的歧視確實(shí)存在，而且其隱藏程度很高，因此必須明確判斷的標(biāo)準(zhǔn)，隨時(shí)關(guān)注它是否屬于合理差別對(duì)待范疇，還是對(duì)平等權(quán)構(gòu)成了威脅。算法歧視問(wèn)題使算法無(wú)法充分發(fā)揮其積極效用，損害了用戶(hù)之間的平等權(quán)與商家的利益，給下一步人工智能發(fā)展中的算法進(jìn)步帶來(lái)了阻力。

針對(duì)由算法歧視引起的公平問(wèn)題，首先要規(guī)范平臺(tái)和平臺(tái)內(nèi)商家的定價(jià)行為，監(jiān)督平臺(tái)制定透明的價(jià)格規(guī)則，讓消費(fèi)者自由選擇，保障消費(fèi)者的知情權(quán)。二是重視對(duì)現(xiàn)有平臺(tái)經(jīng)營(yíng)行為的監(jiān)督，實(shí)現(xiàn)政府、媒體等對(duì)平臺(tái)的第三方聯(lián)合監(jiān)管；三是要加強(qiáng)對(duì)大數(shù)據(jù)的監(jiān)管，督促算法決策者對(duì)大數(shù)據(jù)的不斷更新和優(yōu)化，以客觀公正的態(tài)度維護(hù)市場(chǎng)競(jìng)爭(zhēng)的良好秩序；四是提高用戶(hù)防范意識(shí)，嚴(yán)格把控手機(jī)的相關(guān)權(quán)限，提高警惕性和維權(quán)的意識(shí)。五是進(jìn)行算法歧視治理法律制度的具體建構(gòu)，公平作為算法的核心價(jià)值，應(yīng)該要求主管機(jī)關(guān)出臺(tái)相應(yīng)政策予以規(guī)制。