王夙

人工智能的研究和產(chǎn)業(yè)化進程方興未艾，算法歧視也被學者和業(yè)界廣為關注，算法公開則成為呼聲較高的解決問題的良方。賽迪智庫政策法規(guī)研究所認為，算法公開并不能根治算法歧視現(xiàn)象，且有一定的副作用。

算法歧視問題是人工智能產(chǎn)業(yè)發(fā)展的一個熱點問題，算法公開則是學者熱議的解決之道。但算法公開是否有效，有哪些缺陷，如何另辟蹊徑，這些都是解決算法歧視的關鍵問題。

算法公開（透明）無法根治算法歧視

針對算法歧視，算法公開呼聲頗高

算法是人工智能技術的核心基礎，潛在的算法歧視則是公眾擔憂的焦點。不同領域的專家針對算法歧視提出不同的解決方案，比如美國加州伯克利大學的研究者們就提出“算法的可解釋性”，即在設計算法時加入另一個算法對其算法決策的過程進行忠實的記錄等。眾多方案中，算法公開呼聲頗高，理由是算法公開能夠曝光歧視性算法的惡意代碼，并有效嚇阻企圖編制歧視性代碼的程序員等。例如，谷歌就發(fā)布了透明度報告，顯示了它刪除信息的頻率或向政府披露信息，間接顯示了些許“公開”的意味。

針對算法歧視，算法公開的有效性存在夸大之嫌，并有一系列副作用

一是算法公開并不必然保證公眾知情權(quán)。算法通常表現(xiàn)為繁蕪的程序、枯燥艱深的代碼，體現(xiàn)了極強的專業(yè)性和技術性，一般社會公眾根本不具備理解和識別算法的能力。因此，對公眾而言，公開僅僅是形式而已。二是算法公開有時效方面的局限性。算法公開應當以算法的固定不變?yōu)榍疤?，但隨著機器學習水平的不斷提升，算法程序可能會升級轉(zhuǎn)化，即使是算法的最初設計者也無法完全理解迭代升級后的算法。此時，迭代后的算法早已不是最初公開的算法。三是算法公開不具有解決方案的整體性。算法歧視并不必然由算法程序本身產(chǎn)生，即使是中立性的算法，如果輸入有偏見的歧視性數(shù)據(jù)也會導致算法歧視的發(fā)生。算法公開對數(shù)據(jù)層面的歧視并沒有矯正效果，相反，單純要求算法公開反而會幫助輸入歧視數(shù)據(jù)者擺脫歧視指控。四是算法公開有違現(xiàn)代基本商業(yè)準則。算法是人類有意識的創(chuàng)造物，是知識產(chǎn)權(quán)的保護對象。同時，算法的具體內(nèi)容對商業(yè)主體能產(chǎn)生直接的經(jīng)濟利益。強制算法公開會構(gòu)成對知識產(chǎn)權(quán)和商業(yè)秘密被侵害，也會破壞商業(yè)主體研發(fā)算法的動力。五是算法公開導致風險可控性減損。算法公開后，不法分子了解了算法程序的內(nèi)在邏輯，反而更加容易操縱算法程序，客觀上破壞算法的“中立性”。

數(shù)據(jù)比算法本身更容易導致歧視性后果的出現(xiàn)

算法通常不是算法歧視發(fā)生的直接原因

包括算法歧視在內(nèi)的各種不同形式的歧視都根源于現(xiàn)實，是對現(xiàn)實歧視的映射。算法的優(yōu)化往往有助于減少歧視的發(fā)生?，F(xiàn)實歧視分為有意識歧視和無意識歧視兩種。

一是針對有意識的歧視。在現(xiàn)實中，之所以存在故意歧視現(xiàn)象，很重要的一個原因就是事后沒有充分的證據(jù)證明歧視行為曾經(jīng)發(fā)生過，因而無法對歧視者施加制裁。但是，算法的編制者（程序員）卻很難將腦海中的偏見直接灌輸于算法中，這并非技術方面存在難點，而是因為一旦發(fā)生歧視性結(jié)果導致訴訟，進而引發(fā)強制披露，則算法的歧視傾向?qū)⒈唤衣丁＜词拱缫晝A向的算法沒有引起訴訟糾紛，進而幸運地躲避了強制披露，但也不代表歧視性算法沒有曝光幾率。因為算法的編制通常并非一人之力能夠完成，而是涉及到共享程序代碼的團隊，事后還面臨不同人的審閱和調(diào)試，要保證算法的歧視性不被識別，有很大困難。而一旦算法被強制披露或被其他人識別，則明確的、法被強制披露或被其他人識別，則明確的、有記載的代碼恰恰成為了證明歧視存在的證據(jù)。這在歐美等國家和地區(qū)嚴厲懲治歧視行為的社會生態(tài)下，要背負沉重的法律代價。

二是針對無意識的歧視。在現(xiàn)實生活中，每個人基于不同的生活經(jīng)歷、認知水平和文化背景，會對同一事物形成差異化的前見。這些前見通常是無意識的產(chǎn)物，與歧視在表現(xiàn)形式上很難截然分開。因此，現(xiàn)實中無意識的歧視行為可能暗藏于任何人的任何行為中，且難以防止和復查。但算法的最終生成是由編制者（程序員）一個代碼一個代碼地書寫而成，它是程序員意識控制行為的后果，程序員對算法所追求的效果有清晰的預期。同時，現(xiàn)代編程實踐也要求程序員記錄（注釋）程序正在做什么。正是得益于這種復雜繁瑣的算法編制過程和明確的記錄要求，大多數(shù)無意識的歧視會被剔除。

數(shù)據(jù)是更容易導致算法歧視出現(xiàn)的變量

鑒于數(shù)據(jù)具備導致歧視性后果出現(xiàn)的“天性”，輸入具體算法的數(shù)據(jù)往往預先帶有歧視性。

一是數(shù)據(jù)采集的片面性。數(shù)據(jù)是對各種信息數(shù)字化處理后的具體表現(xiàn)形式，是統(tǒng)計學意義上的樣本。樣本采集面愈廣、多樣性愈足，分析處理過程中的誤差愈小，結(jié)論的客觀正確性愈高。在現(xiàn)實生活中，采集所有人、所有區(qū)域、所有時間段的數(shù)據(jù)并不具備可操作性，數(shù)據(jù)的采集依然離不開樣本的操作思維。這就意味著輸入算法的數(shù)據(jù)永遠是片面的，區(qū)別只在于片面的程度不一。另外，算法之間亦有復雜和相對簡單之分。越是復雜繁瑣的算法，其鏈條越長，輸入數(shù)據(jù)的片面性就會被放大得越多，計算后果的歧視性偏差也會越明顯。

二是數(shù)據(jù)“正義”的相對性。按照字面理解，避免算法歧視的出現(xiàn)，必備條件之一就是數(shù)據(jù)是正義的，即平等的、公正的。但是，平等、公正本身就需要切合具體場景，場景的轉(zhuǎn)換極易使得此場景下正義的數(shù)據(jù)在彼場景下顯得非正義。例如，在運用算法計算腦力勞動者的工作效率時，年齡數(shù)據(jù)的意義不大，執(zhí)意輸入年齡數(shù)據(jù)，可能導致出現(xiàn)年齡歧視后果。但是用相同算法計算體力勞動者的工作效率時，年齡是重要的考量因素，輸入了年齡的運算結(jié)果才是實事求是的。上述例子極為簡單。在實踐中，許多數(shù)據(jù)對不同場景的正負效應并不如年齡的例子那樣明顯，很難輕易判斷出來。這種“正義”的相對性增加了數(shù)據(jù)取舍的難度。

三是數(shù)據(jù)信息的可替代性。數(shù)據(jù)本身只是一個載體，其意義在于其需要傳達的信息。這就意味著不同數(shù)據(jù)承載的信息可能是重復的，即數(shù)據(jù)A和數(shù)據(jù)B都含有相同信息C。數(shù)據(jù)輸入者的本意是想輸入數(shù)據(jù)A承載的信息C，但是為了避免發(fā)生輸入數(shù)據(jù)A的表象行為，選擇輸入數(shù)據(jù)B從而實際代入了信息C，這樣表面整個運算過程與數(shù)據(jù)A無關，但實際結(jié)果與輸入數(shù)據(jù)A相同或類似。例如，某家用人單位偏重于男性求職者，但是想從海量的求職者中只挑男性，無疑會觸犯性別歧視的禁忌。因此，直接輸入“性別”是不可取的，但并非沒有曲徑?，F(xiàn)實中，男性的身高和體重通常會高于和重于女性。用人單位可以選擇輸入“身高”和“體重”數(shù)據(jù)從而達到實際排除女性的效果。由此可見，許多敏感的、歧視性的數(shù)據(jù)是可以被看似“無害”的數(shù)據(jù)替代，從而發(fā)揮數(shù)據(jù)輸入者想要的后果。

結(jié)論與對策

算法歧視無法避免，只能盡可能控制

正是由于前述數(shù)據(jù)和算法具備的根本屬性，算法歧視的結(jié)果不可避免，但可通過一定的機制加以控制。一是算法的事后公開審查。當出現(xiàn)算法歧視的后果之后，應當要求使用算法的商業(yè)主體向相應的主管部門公開算法，并闡釋算法的內(nèi)在邏輯，以供主管部門判斷擔責與否。不過，這種公開應當局限在一定范圍內(nèi)，僅向主管部門公開，供其審查。同時，這種公開應當是在歧視結(jié)果發(fā)生之后，因為事前公開不具備道義上的合理性，還可能泄露商業(yè)秘密。二是輸入數(shù)據(jù)的存證備查。鑒于有傾向性的數(shù)據(jù)更容易導致算法歧視發(fā)生，對輸入數(shù)據(jù)的監(jiān)管應當是重點。應當要求商業(yè)主體秘密存儲輸入算法的數(shù)據(jù)，同當初有關這些數(shù)據(jù)選擇、收集和排除歧視性數(shù)據(jù)的相關活動都應被完整記錄下來。當主管部門向商業(yè)主體質(zhì)詢時，商業(yè)主體應當提供上述記錄，從而證明己方已盡到“合理”的注意義務，從而在數(shù)據(jù)輸入層面對算法歧視后果沒有過錯。三是算法的固定周期復核機制。業(yè)界對人工智能的算法存在一種擔憂，即隨著機器學習的水平不斷提高，算法會自動升級，發(fā)生不同于最初設計的異變，從而違背設計的初衷。為了防止這些現(xiàn)象出現(xiàn)，可安排對算法的定期復核，主要內(nèi)容是算法是否已發(fā)生變化、變化的具體影響等。

明確算法歧視的責任主體和歸責原則，嘗試引入“純粹經(jīng)濟損失”制度

針對算法歧視造成的損害后果，應規(guī)定相應的侵權(quán)損害賠償責任。其中，需集中解決的問題是責任主體、歸責原則和純粹經(jīng)濟損失。

一是明確算法歧視的責任主體。為算法歧視承擔法律責任的，主要是那些注入歧視因子或有義務卻未能及時排除歧視因子的主體。一方面，如果算法本身就包含歧視內(nèi)容，則算法編制者是責任主體;另一方面，數(shù)據(jù)的選取、收集、輸入者。在對數(shù)據(jù)進行選取、收集和輸入的過程中，相關人員如果故意有歧視性地操作并造成算法歧視后果的，也應承擔法律責任。此外，因為算法可能會自我迭代進化，需要對算法進行定期核查。如果是核查者玩忽職守甚至于忽略自我進化后的算法呈現(xiàn)新的歧視傾向，則要承擔相應法律責任。

二是確定算法歧視的歸責原則。算法歧視會給被歧視者造成精神或物質(zhì)層面的損害，理應受到侵權(quán)法的規(guī)制。但算法歧視應當適用何種歸責原則，即以什么樣的標準來判斷相關主體是否應為算法歧視負責;按照現(xiàn)有侵權(quán)法歸責原則，主要有過錯原則、過錯推定原則和無過錯原則。雖然侵權(quán)法以過錯原則為大多數(shù)情況，但針對算法歧視的歸責原則應當以無過錯原則為準。因判斷過錯要透過責任者的外部行為，但算法涉及到高深的專業(yè)知識，被歧視者通常不具備理解能力，更遑論透過算法判斷商業(yè)主體的主觀狀態(tài)了。即使采用過錯推定原則，商業(yè)主體也可以憑借專業(yè)知識和財富能力，證明自己并無過錯，被歧視者亦無駁斥能力。因此，從救濟被歧視者和增強公眾信心的角度出發(fā)，以無過錯原則更為合適。

三是關注算法歧視帶來的“純粹經(jīng)濟損失”?！凹兇饨?jīng)濟損失”是損害賠償法的重要概念。一個經(jīng)典的案例是：工人過失挖斷電纜，因停電而導致工廠停工、冷藏庫商品失效等。在這一系列的后果中，工人的行為只是直接損害了電纜，工廠主或者冷藏庫主的財產(chǎn)、人身雖未受到工人挖斷電纜行為的直接侵害，卻因此蒙受經(jīng)濟損失，由此發(fā)生的損失被稱為純粹經(jīng)濟損失。實際上，純粹經(jīng)濟損失的提出，是為了給予受害者充分完全的損害救濟，但因為擔心將此概念完全貫徹于立法會導致“訴訟泛濫”和每個人對自己行為后果的不確定性，因此各國立法普遍對純粹經(jīng)濟損失持十分慎重的態(tài)度，除了極為特殊的情形，一般不予適用。在人工智能的算法時代，純粹經(jīng)濟損失有了全新的意義?；谒惴ㄆ缫暤娜斯ぶ悄芴幚斫Y(jié)果可能只是一個判斷或決定，或許并未“直接”傷害受害者的人身和財產(chǎn)，但是受害者基于人工智能的算法歧視間接、客觀地蒙受了巨大經(jīng)濟損失。按照一般的侵權(quán)損害賠償原理，間接經(jīng)濟損失無法獲賠，直接的經(jīng)濟損失又微不足道?！凹兇饨?jīng)濟損失”則既能通過拉長損害賠償?shù)囊蚬P系鏈條而實現(xiàn)充分賠償，又具備理論合理性，是破解算法時代賠償困局的法律方案中的一個重要方法。