劉鑫 王超群

【摘 ? ?要】算法歧視可以分為設(shè)計者偏見型、數(shù)據(jù)瑕疵型、技術(shù)缺陷型以及經(jīng)濟利益驅(qū)動型四類。由于成因不同，治理路徑也相應(yīng)存在差異，主要有三條治理路徑：一是倫理治理，強調(diào)遵循“算法透明原則”和“以人為本”的設(shè)計理念;二是技術(shù)治理，積極開發(fā)各種在不降低預(yù)測結(jié)果準(zhǔn)確性的前提下減少人工智能偏見的工具;三是法律治理，出臺相關(guān)的法律條文進行規(guī)范。

【關(guān)鍵詞】算法歧視;智能傳播;大數(shù)據(jù)

【基金項目】湖南省哲學(xué)社科基金項目“人工智能環(huán)境下的媒介倫理規(guī)范建設(shè)研究”（項目編號：18YBA157）。

隨著人工智能技術(shù)在就業(yè)、教育、市場消費、商業(yè)營銷等各領(lǐng)域的普及，價格歧視、種族歧視、性別歧視等算法歧視問題也日漸凸顯。算法歧視建立在人工智能技術(shù)的基礎(chǔ)上，相較于人類歧視存在較為明顯的自身特征。其一，算法歧視的依據(jù)來自于數(shù)據(jù)挖掘。通常人類歧視基于宗教信仰、經(jīng)濟狀況、種族性別、受教育程度等顯性特征，但算法歧視除此之外還會根據(jù)用戶網(wǎng)頁瀏覽記錄、行車路線等生活習(xí)慣、消費行為等主要信息數(shù)據(jù)來挖掘用戶的隱性特征。其二，算法歧視表現(xiàn)得更為隱蔽。算法可以輕而易舉地規(guī)避法律所明文禁止的種族歧視、性別歧視等，在缺乏算法公開、知情權(quán)不被保障的情況下，用戶很難自主發(fā)現(xiàn)算法歧視的存在。

一、算法歧視的分類及成因分析

現(xiàn)有研究通常把算法歧視的原因歸結(jié)為數(shù)據(jù)自身存在缺陷和算法技術(shù)缺陷這兩方面，[1]但隨著算法歧視現(xiàn)象的多樣化和復(fù)雜化不斷增強，算法歧視的成因也更加多元。根據(jù)成因的不同，主要將算法歧視分為四類：

（一）設(shè)計者偏見型算法歧視

指算法設(shè)計中因嵌入設(shè)計者自身偏見而引發(fā)的算法歧視。搜索引擎與AI面部識別方面出現(xiàn)的算法歧視屬于這一類典型，如用谷歌搜索“白癡”時會出現(xiàn)特朗普的照片，搜索“black girl”彈出來的大部分都是色情圖;用百度搜索“胸膜”彈出來的竟然是穿著比基尼的模特胸部圖片。當(dāng)然這些在被發(fā)現(xiàn)后都一一修復(fù)了。又如2015年谷歌照片給黑人照片貼上“大猩猩”的標(biāo)簽，2018年亞馬遜開發(fā)了基于云圖像分析技術(shù)的Rekognition算法，結(jié)果在測試中發(fā)現(xiàn)它錯誤地將其中 28 人識別成了罪犯，這28人中有38%的比例是有色人種。無獨有偶，據(jù)外媒gizmodo報道稱國外微信平臺將“black foreigner”（外國黑人） 自動翻譯成“黑鬼”。另外，就業(yè)應(yīng)聘等領(lǐng)域也常常出現(xiàn)這一類的算法歧視。如據(jù)調(diào)查，人力資源公司Kronos在招聘時通過算法智能篩選把有心理疾病史的申請者拒之門外;施樂公司根據(jù)申請者提供的地址，如位于市內(nèi)某黑人聚居區(qū)，便會將其識別為有色人種并淘汰。

設(shè)計者偏見型算法歧視主要表現(xiàn)為設(shè)計者將自身偏見納入到了算法程序之中，從事算法編程的科研人員以男性、白種人居多，因此算法很容易沾染上程序員的主觀意識與思維慣性，也突出表現(xiàn)為傳統(tǒng)社會中的性別歧視、種族歧視、宗教信仰歧視等。所以說，這一類算法歧視是人類歧視在智能傳播領(lǐng)域的延續(xù)，本質(zhì)上反映的仍然是人類社會固有的偏見與刻板印象。

（二）數(shù)據(jù)瑕疵型算法歧視

指數(shù)據(jù)存在瑕疵所帶來的算法歧視。2014年亞馬遜公司開發(fā)了一套“算法篩選系統(tǒng)”來幫助亞馬遜在招聘的時候篩選簡歷，結(jié)果發(fā)現(xiàn)算法對男性應(yīng)聘者有著明顯的偏好，當(dāng)算法識別出“女性”相關(guān)詞匯的時候，便會給簡歷相對較低的分?jǐn)?shù);算法甚至?xí)苯咏o來自于兩所女校的學(xué)生降級。2016年舉行的首屆“AI國際選美比賽”，因為絕大多數(shù)獲獎?wù)叨际前兹诉x手而為人們所詬病。

究其原因，前者是因為工程師在對該算法進行訓(xùn)練時，用的是過去已經(jīng)被亞馬遜錄用員工的簡歷，而過去亞馬遜錄用了更多的男性員工;而后者是因為用來進行算法訓(xùn)練的照片所包含的非白人面孔少之又少。這種情況與癥結(jié)歸于“帶有歧視的數(shù)據(jù)”。當(dāng)用于學(xué)習(xí)和訓(xùn)練的數(shù)據(jù)帶有偏見時，人工智能在前期深度機器學(xué)習(xí)過程中采用了大量帶偏見的數(shù)據(jù)，則其后期預(yù)測和判斷得出的結(jié)論便必然免不了帶有歧視的色彩。

（三）技術(shù)缺陷型算法歧視

指算法技術(shù)本身是中立的，但由于算法技術(shù)自身的設(shè)計缺陷而導(dǎo)致的算法歧視。如果說設(shè)計者偏見型算法歧視通常是“故意為之”的話，那么技術(shù)缺陷型算法歧視通常是“無意為之”。如2016年微軟聊天機器人Tay上線一天就被教會種族歧視，設(shè)計它的工程師本身并沒有種族、性別、年齡歧視等傾向，但是與Tay聊天的網(wǎng)友很大一部分是種族歧視者。Tay只是被設(shè)置向周圍環(huán)境學(xué)習(xí)，它并不能識別哪些言論是正確的，哪些言論是錯誤的，它也不能決定保留或丟棄哪些數(shù)據(jù)，于是最終學(xué)會了種族歧視言論，上線僅一天就被迫下線。

（四）經(jīng)濟利益驅(qū)動型算法歧視

指算法的使用者從經(jīng)濟利益最大化角度優(yōu)先選擇對自己有利的算法，而不在乎算法會帶來各種各樣的歧視。其中最典型的當(dāng)屬價格歧視，即電商根據(jù)用戶的消費習(xí)慣和消費能力，計算出用戶愿意為商品付出的最高價格，在定價方面因人而異，壓榨每個消費者的全部消費剩余，通常表現(xiàn)為向價格敏感度不高的老客戶收取更高的費用，即俗稱的“大數(shù)據(jù)殺熟”。

比如約車軟件，針對同一出發(fā)點、同一目的地的顧客，對使用蘋果手機的顧客收費要比使用安卓手機的顧客高出將近10%;又比如購買同一張機票，攜程老用戶的購買價格要比新用戶貴很多。

二、算法歧視的治理路徑

不同類型的算法歧視，其成因自然不同，故在治理路徑上應(yīng)當(dāng)對癥下藥，目前可行的治理路徑有三條。

（一）倫理治理路徑

目前支持這一治理路徑的研究者們提出的方案各有側(cè)重點。首先，普遍贊同“算法透明原則”作為一種職業(yè)準(zhǔn)則在算法設(shè)計與實施過程中的運用。算法透明意味著算法設(shè)計者需要主動公開算法的運行機制與設(shè)計意圖，接受公眾監(jiān)督。其次，提出將“機會平等原則”（Equality of Opportunity）納入到算法系統(tǒng)的設(shè)計中去，比如設(shè)計一個機會平等的技術(shù)模型，提出滿足平等和效率平衡的算法技術(shù)約束，并開發(fā)了“歧視指數(shù)”，對算法技術(shù)的歧視行為提供了評判標(biāo)準(zhǔn)。[2]再次，要求算法管理者和設(shè)計者要有“人文主義精神”，算法管理者要堅持“以人為本”，謹(jǐn)記模型訓(xùn)練的目標(biāo)不應(yīng)該是壓榨大眾而應(yīng)該是幫助大眾;算法設(shè)計者應(yīng)該加強自身的職業(yè)素養(yǎng)，在進行算法編寫時必須要清楚地意識到自身可能存在偏見并盡量避免帶有偏見，以更加負責(zé)任的態(tài)度對待自身的工作。