王夙 欒群

算法公開(kāi)（透明）無(wú)法根治算法歧視

針對(duì)算法歧視，算法公開(kāi)呼聲頗高。算法是人工智能技術(shù)的核心基礎(chǔ)，潛在的算法歧視則是公眾擔(dān)憂(yōu)的焦點(diǎn)。不同領(lǐng)域的專(zhuān)家針對(duì)算法歧視提出不同的解決方案。比如，加州伯克利大學(xué)的研究者們就提出“算法的可解釋性”，即在設(shè)計(jì)算法時(shí)加入另一個(gè)算法對(duì)其算法決策的過(guò)程進(jìn)行忠實(shí)記錄等。在眾多方案中，算法公開(kāi)呼聲頗高，理由是算法公開(kāi)能夠曝光歧視性算法的惡意代碼，并有效嚇阻企圖編制歧視性代碼的程序員等。

針對(duì)算法歧視，算法公開(kāi)的有效性有夸大之嫌， 還有許多副作用。一是算法公開(kāi)并不必然保證公眾知情權(quán)。算法通常表現(xiàn)為繁蕪的程序、枯燥艱深的代碼，體現(xiàn)了極強(qiáng)的專(zhuān)業(yè)性和技術(shù)性，一般社會(huì)公眾根本不具備理解和識(shí)別算法的能力。因此，對(duì)公眾而言，公開(kāi)僅僅是形式而已。二是算法公開(kāi)有時(shí)效方面的局限性。算法公開(kāi)應(yīng)當(dāng)以算法的固定不變?yōu)榍疤?，但隨著機(jī)器學(xué)習(xí)水平的不斷提升，算法程序可能會(huì)升級(jí)轉(zhuǎn)化，即使是算法的最初設(shè)計(jì)者也無(wú)法完全理解迭代升級(jí)后的算法。此時(shí)，迭代后的算法早已不是最初公開(kāi)的算法。三是算法公開(kāi)不具有解決方案的整體性。算法歧視并不必然由算法程序本身產(chǎn)生，即使是中立性的算法，如果輸入有偏見(jiàn)的歧視性數(shù)據(jù)也會(huì)導(dǎo)致算法歧視的發(fā)生。算法公開(kāi)對(duì)數(shù)據(jù)層面的歧視并沒(méi)有矯正效果，相反，單純要求算法公開(kāi)反而會(huì)幫助輸入歧視數(shù)據(jù)者擺脫歧視指控。四是算法公開(kāi)有違現(xiàn)代基本商業(yè)準(zhǔn)則。算法是人類(lèi)有意識(shí)的創(chuàng)造物，是知識(shí)產(chǎn)權(quán)的保護(hù)對(duì)象。同時(shí)，算法的具體內(nèi)容對(duì)商業(yè)主體能產(chǎn)生直接的經(jīng)濟(jì)利益。強(qiáng)制算法公開(kāi)可能侵害知識(shí)產(chǎn)權(quán)和商業(yè)秘密，也會(huì)破壞商業(yè)主體研發(fā)算法的動(dòng)力。五是算法公開(kāi)導(dǎo)致風(fēng)險(xiǎn)可控性減損。算法公開(kāi)后，不法分子了解了算法程序的內(nèi)在邏輯，反而更加容易操縱算法程序，客觀(guān)上破壞算法的“中立性”。

數(shù)據(jù)比算法本身更容易導(dǎo)致歧視性后果的出現(xiàn)

算法通常不是算法歧視發(fā)生的直接原因。包括算法歧視在內(nèi)的各種不同形式的歧視都根源于現(xiàn)實(shí)，是對(duì)現(xiàn)實(shí)歧視的映射。算法的優(yōu)化往往有助于減少歧視的發(fā)生?，F(xiàn)實(shí)歧視分為有意識(shí)歧視和無(wú)意識(shí)歧視兩種。一是針對(duì)有意識(shí)的歧視。在現(xiàn)實(shí)中之所以存在故意歧視現(xiàn)象，很重要的一個(gè)原因就是事后沒(méi)有充分的證據(jù)證明歧視行為曾經(jīng)發(fā)生過(guò)，因而無(wú)法對(duì)歧視者施加制裁。但是，算法的編制者（程序員）卻很難將腦海中的偏見(jiàn)直接灌輸于算法中，這并非技術(shù)方面存在難點(diǎn)，而是因?yàn)橐坏┮驗(yàn)榘l(fā)生歧視性結(jié)果導(dǎo)致訴訟，進(jìn)而引發(fā)強(qiáng)制披露，則算法的歧視傾向?qū)⒈唤衣丁＜词拱缫晝A向的算法沒(méi)有引起訴訟糾紛，進(jìn)而幸運(yùn)地躲避過(guò)了強(qiáng)制披露，但也不代表歧視性算法沒(méi)有曝光幾率。因?yàn)樗惴ǖ木幹仆ǔ２⒎且蝗酥δ軌蛲瓿桑巧婕肮蚕沓绦虼a的團(tuán)隊(duì)，事后還面臨不同人的審閱和調(diào)試，要保證算法的歧視性不被識(shí)別，有很大困難。而一旦算法被強(qiáng)制披露或被其他人識(shí)別，則明確的、有記載的代碼恰恰成為了證明歧視存在的證據(jù)。這在歐美等國(guó)家和地區(qū)嚴(yán)厲懲治歧視行為的社會(huì)生態(tài)下，要背負(fù)沉重的法律代價(jià)。二是針對(duì)無(wú)意識(shí)的歧視。在現(xiàn)實(shí)生活中，每個(gè)人基于不同的生活經(jīng)歷、認(rèn)知水平和文化背景，會(huì)對(duì)同一事物形成差異化的前見(jiàn)。這些前見(jiàn)通常是無(wú)意識(shí)的產(chǎn)物，與歧視在表現(xiàn)形式上很難截然分開(kāi)。因此，現(xiàn)實(shí)中無(wú)意識(shí)的歧視行為可能暗藏于任何人的任何行為中，且難以防止和復(fù)查。但算法的最終生成是由編制者（程序員）一個(gè)代碼一個(gè)代碼地書(shū)寫(xiě)而成，它是程序員意識(shí)控制行為的后果，程序員對(duì)算法所追求的效果有清晰的預(yù)期。同時(shí)，現(xiàn)代編程實(shí)踐也要求程序員記錄（注釋?zhuān)┏绦蛘谧鍪裁础Ｕ堑靡嬗谶@種復(fù)雜繁瑣的算法編制過(guò)程和明確的記錄要求，大多數(shù)無(wú)意識(shí)的歧視會(huì)被剔除。

數(shù)據(jù)是更容易導(dǎo)致算法歧視出現(xiàn)的變量。鑒于數(shù)據(jù)具備導(dǎo)致歧視性后果出現(xiàn)的“天性”，輸入具體算法的數(shù)據(jù)往往預(yù)先帶有歧視性。一是數(shù)據(jù)采集的片面性。數(shù)據(jù)是對(duì)各種信息數(shù)字化處理后的具體表現(xiàn)形式，是統(tǒng)計(jì)學(xué)意義上的樣本。樣本采集面愈廣、多樣性愈足，分析處理過(guò)程中的誤差愈小，結(jié)論的客觀(guān)正確性愈高。在現(xiàn)實(shí)生活中，采集所有人、所有區(qū)域、所有時(shí)間段的數(shù)據(jù)并不具備可操作性，數(shù)據(jù)的采集依然離不開(kāi)樣本的操作思維。這就意味著輸入算法的數(shù)據(jù)永遠(yuǎn)是片面的，區(qū)別只在于片面的程度不一。另外，算法之間亦有復(fù)雜和相對(duì)簡(jiǎn)單之分。越是復(fù)雜繁瑣的算法，其鏈條越長(zhǎng)，輸入數(shù)據(jù)的片面性就會(huì)被放大得越多，計(jì)算后果的歧視性偏差也會(huì)越明顯。二是數(shù)據(jù)“正義”的相對(duì)性。按照字面理解，避免算法歧視的出現(xiàn)，必備條件之一就是數(shù)據(jù)是正義的，即平等的、公正的。但是，平等、公正本身就需要切合具體場(chǎng)景，場(chǎng)景的轉(zhuǎn)換極易使得此場(chǎng)景下正義的數(shù)據(jù)在彼場(chǎng)景下顯得非正義。例如，在運(yùn)用算法計(jì)算腦力勞動(dòng)者的工作效率時(shí)，年齡數(shù)據(jù)的意義不大，執(zhí)意輸入年齡數(shù)據(jù)，可能導(dǎo)致出現(xiàn)年齡歧視后果。但是用相同算法計(jì)算體力勞動(dòng)者的工作效率時(shí)，年齡是重要的考量因素，輸入了年齡的運(yùn)算結(jié)果才是實(shí)事求是的。在實(shí)踐中，許多數(shù)據(jù)對(duì)不同場(chǎng)景的正負(fù)效應(yīng)并不如年齡的例子那樣明顯，很難輕易判斷出來(lái)。這種“正義”的相對(duì)性增加了數(shù)據(jù)取舍的難度。三是數(shù)據(jù)信息的可替代性。數(shù)據(jù)本身只是一個(gè)載體，其意義在于其需要傳達(dá)的信息。這就意味著不同數(shù)據(jù)承載的信息可能是重復(fù)的，即數(shù)據(jù) A 和數(shù)據(jù) B 都含有相同信息 C。數(shù)據(jù)輸入者的本意是想輸入數(shù)據(jù) A 承載的信息 C，但是為了避免發(fā)生輸入數(shù)據(jù) A 的表象行為，選擇輸入數(shù)據(jù) B 從而實(shí)際代入了信息 C，這樣表面整個(gè)運(yùn)算過(guò)程與數(shù)據(jù) A 無(wú)關(guān)，但實(shí)際結(jié)果與輸入數(shù)據(jù) A 相同或類(lèi)似。例如，某家用人單位偏重于男性求職者，但是想從海量的求職者中只挑男性，無(wú)疑會(huì)觸犯性別歧視的禁忌。因此，直接輸入“性別”是不可取的，但并非沒(méi)有曲徑?，F(xiàn)實(shí)中，男性的身高和體重通常會(huì)高于和重于女性。用人單位可以選擇輸入“身高”和“體重”數(shù)據(jù)從而達(dá)到實(shí)際排除女性的效果。由此可見(jiàn)，許多敏感的、歧視性的數(shù)據(jù)是可以被看似“無(wú)害”的數(shù)據(jù)替代，從而發(fā)揮數(shù)據(jù)輸入者想要的后果。

結(jié)論與對(duì)策

算法歧視無(wú)法避免，只能盡可能控制。一是算法的事后公開(kāi)審查。當(dāng)出現(xiàn)算法歧視的后果之后，應(yīng)當(dāng)要求使用算法的商業(yè)主體向相應(yīng)的主管部門(mén)公開(kāi)算法，并闡釋算法的內(nèi)在邏輯，以供主管部門(mén)判斷擔(dān)責(zé)與否。不過(guò)，這種公開(kāi)應(yīng)當(dāng)局限在一定范圍內(nèi)，僅向主管部門(mén)公開(kāi)，供其審查。同時(shí)，這種公開(kāi)應(yīng)當(dāng)是在歧視結(jié)果發(fā)生之后，因?yàn)槭虑肮_(kāi)不具備道義上的合理性，還可能泄露商業(yè)秘密。二是輸入數(shù)據(jù)的存證備查。鑒于有傾向性的數(shù)據(jù)更容易導(dǎo)致算法歧視發(fā)生， 對(duì)輸入數(shù)據(jù)的監(jiān)管應(yīng)是重點(diǎn)。應(yīng)要求商業(yè)主體秘密存儲(chǔ)輸入算法的數(shù)據(jù)，同當(dāng)初有關(guān)這些數(shù)據(jù)選擇、收集和排除歧視性數(shù)據(jù)的相關(guān)活動(dòng)都應(yīng)被完整記錄下來(lái)。當(dāng)主管部門(mén)向商業(yè)主體質(zhì)詢(xún)時(shí)，商業(yè)主體應(yīng)當(dāng)提供上述記錄，從而證明己方已盡到“合理”的注意義務(wù)，從而在數(shù)據(jù)輸入層面對(duì)算法歧視后果沒(méi)有過(guò)錯(cuò)。三是算法的固定周期復(fù)核機(jī)制。業(yè)界對(duì)人工智能的算法存在一種擔(dān)憂(yōu)，即隨著機(jī)器學(xué)習(xí)的水平不斷提高，算法會(huì)自動(dòng)升級(jí)，發(fā)生不同于最初設(shè)計(jì)的異變，從而違背設(shè)計(jì)的初衷。為了防止這些現(xiàn)象出現(xiàn)，可安排對(duì)算法的定期復(fù)核，主要內(nèi)容是算法是否發(fā)生變化、變化的具體影響。

明確算法歧視的責(zé)任主體和歸責(zé)原則，嘗試引入“純粹經(jīng)濟(jì)損失”制度。一是明確算法歧視的責(zé)任主體。為算法歧視承擔(dān)法律責(zé)任的，主要是那些注入歧視因子或有義務(wù)卻未能及時(shí)排除歧視因子的主體。 一方面，如果算法本身就包含歧視內(nèi)容，則算法編制者是責(zé)任主體; 另一方面，數(shù)據(jù)的選取、收集、輸入者，在對(duì)數(shù)據(jù)進(jìn)行選取、收集和輸入的過(guò)程中，如果故意有歧視性操作并造成算法歧視后果的，也應(yīng)承擔(dān)法律責(zé)任。此外，因?yàn)樗惴赡軙?huì)自我迭代進(jìn)化，需要對(duì)算法進(jìn)行定期核查。如果是核查者玩忽職守甚至于忽略自我進(jìn)化后的算法呈現(xiàn)新的歧視傾向，則要承擔(dān)相應(yīng)法律責(zé)任。二是確定算法歧視的歸責(zé)原則。算法歧視會(huì)給被歧視者造成精神或物質(zhì)層面的損害，理應(yīng)受到侵權(quán)法的規(guī)制。但算法歧視應(yīng)當(dāng)適用何種歸責(zé)原則，即以什么樣的標(biāo)準(zhǔn)來(lái)判斷相關(guān)主體是否應(yīng)為算法歧視負(fù)責(zé)需與傳統(tǒng)情況有別;按照現(xiàn)有侵權(quán)法歸責(zé)原則，主要有過(guò)錯(cuò)原則、過(guò)錯(cuò)推定原則和無(wú)過(guò)錯(cuò)原則。雖然侵權(quán)法以過(guò)錯(cuò)原則為大多數(shù)情況，但針對(duì)算法歧視的歸責(zé)原則應(yīng)當(dāng)以無(wú)過(guò)錯(cuò)原則為準(zhǔn)。因判斷過(guò)錯(cuò)要透過(guò)責(zé)任者的外部行為，但算法涉及高深的專(zhuān)業(yè)知識(shí)，被歧視者通常不具備理解能力，更遑論透過(guò)算法判斷商業(yè)主體的主觀(guān)狀態(tài)了。即使采用過(guò)錯(cuò)推定原則，商業(yè)主體也可以憑借專(zhuān)業(yè)知識(shí)和財(cái)富能力，證明自己并無(wú)過(guò)錯(cuò)，被歧視者亦無(wú)駁斥能力。因此，從救濟(jì)被歧視者和增強(qiáng)公眾信心的角度出發(fā)，以無(wú)過(guò)錯(cuò)原則更為合適。三是關(guān)注算法歧視帶來(lái)的“純粹經(jīng)濟(jì)損失”?！凹兇饨?jīng)濟(jì)損失”是損害賠償法的重要概念。一個(gè)經(jīng)典的案例是：工人過(guò)失挖斷電纜，因停電而導(dǎo)致工廠(chǎng)停工、冷藏庫(kù)商品失效等。在這一系列的后果中，工人的行為只是直接損害了電纜，工廠(chǎng)主或者冷藏庫(kù)主的財(cái)產(chǎn)、人身雖未受到工人挖斷電纜行為的直接侵害，卻因此蒙受經(jīng)濟(jì)損失，由此發(fā)生的損失被稱(chēng)為純粹經(jīng)濟(jì)損失。實(shí)際上，純粹經(jīng)濟(jì)損失的提出，是為了給予受害者充分完全的損害救濟(jì)，但因?yàn)閾?dān)心將此概念完全貫徹于立法會(huì)導(dǎo)致“訴訟泛濫”和每個(gè)人對(duì)自己行為后果的不確定性，因此各國(guó)立法普遍對(duì)純粹經(jīng)濟(jì)損失持十分慎重的態(tài)度，除了極為特殊的情形，一般不予適用。在人工智能的算法時(shí)代，純粹經(jīng)濟(jì)損失有了全新的意義?；谒惴ㄆ缫暤娜斯ぶ悄芴幚斫Y(jié)果可能只是一個(gè)判斷或決定，或許并未“直接”傷害受害者的人身和財(cái)產(chǎn)，但是受害者基于人工智能的算法歧視間接、客觀(guān)地蒙受了巨大經(jīng)濟(jì)損失。按照一般的侵權(quán)損害賠償原理，間接經(jīng)濟(jì)損失無(wú)法獲賠，直接的經(jīng)濟(jì)損失又微不足道。“純粹經(jīng)濟(jì)損失”則既能通過(guò)拉長(zhǎng)損害賠償?shù)囊蚬P(guān)系鏈條而實(shí)現(xiàn)充分賠償，又具備理論合理性，是破解算法時(shí)代賠償困局的法律方案中的一個(gè)重要方法。