胡曉萌

性別歧視的現(xiàn)象在現(xiàn)實生活中常常發(fā)生。如今，我們已經(jīng)邁入了大數(shù)據(jù)時代，在數(shù)據(jù)的全面透視下，性別歧視的現(xiàn)象更有愈演愈烈之勢，其中在金融消費場景中特別突出。

2019年8月20日，美國蘋果公司與高盛集團聯(lián)合，正式推出信用卡Apple Card。同年11月，美企業(yè)家漢森（David Heinemeier Hansson）在Twitter上指責Apple Card涉嫌算法性別歧視，因為他的信用額度是他妻子的20倍，而他們在申請時提交的是聯(lián)合納稅申報表，并且妻子的信用評分更高。Apple聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）也指出，他獲得的Apple Card信用額度是他妻子的10倍，盡管他們夫妻共同使用多個銀行賬戶和信用卡賬戶。

不久，紐約金融服務部（New York Department of Financial Services）發(fā)言人明確表示，金融服務部已決定就此展開調查，以確定Apple Card的算法是否存在違法違規(guī)行為，并確保所有消費者不分性別都受到平等對待。

實際上，在 1972年就有國外學者明確指出，在信貸市場中存在明顯的性別歧視現(xiàn)象，女性即便被認定擁有與男性相同的還款能力，但在獲得貸款的可能性上卻依然會遭受不公正的待遇。同時，還有學者研究指出，信貸市場中存在逆向選擇和道德風險問題，使女性在傳統(tǒng)信貸市場中更容易遭受偏好歧視。因此，女性借款人在傳統(tǒng)信貸市場中不僅借款成功率低，通常還被要求支付更高的平均還款利率。

如今，科技和算法加持金融服務的發(fā)展，但對性別歧視的問題并沒有太多改善，有些方面反而更加顯著。2016年，暨南大學對網(wǎng)貸平臺“人人貸”在2012年3月至2014年12月期間產(chǎn)生的170817筆訂單數(shù)據(jù)進行了分析，得出結論：一是性別的風險傾向存在顯著的異質性，女性的借款違約率相比男性低38%;性別差異與借款可獲得性之間不存在顯著的影響，說明女性借款人在中國互聯(lián)網(wǎng)借貸市場中受到了非理性的偏好歧視;單身女性的借款成功率顯著低于男性，受到的歧視更為嚴重。2018年，江南大學的一項類似研究，不僅得出類似的結論，還發(fā)現(xiàn)女性的學歷背景無助于提高女性的借款成功率。

綜上可見，金融消費領域中存在嚴重的性別歧視現(xiàn)象，而建立在數(shù)學之上的算法并不會自然地保持中立。這一社會問題正是上?，斈葦?shù)據(jù)科技發(fā)展基金會（以下簡稱“瑪娜數(shù)據(jù)基金會”）所關注的領域。在瑪娜數(shù)據(jù)基金會前期的研究中發(fā)現(xiàn)，算法性別歧視有兩大原因：第一，在數(shù)據(jù)化的背景下，社會性別通過數(shù)據(jù)化擴大其影響，性別觀念、權力關系、責任分配等演化成算法的內在運行機制，算法在不斷固化和加深社會原本存在的性別歧視，并且性別歧視在算法“黑箱”中持續(xù)化、規(guī)?；?、隱蔽化地產(chǎn)生作用;第二，現(xiàn)代技術不是中性的，是男性價值和文化的體現(xiàn)。技術具有性別統(tǒng)治的行為意志，會導致技術創(chuàng)新實踐中的女性缺席，也加劇了“性別失衡”，最終導致人工智能技術創(chuàng)新中的“女性視角”缺失，無法及時發(fā)現(xiàn)、糾正算法在設計研發(fā)和運行中可能存在的性別歧視。

盡管女性的還款能力、學歷背景、履約誠信度等金融重要參考要素都不弱于男性，但是女性仍然會被算法歧視，因為算法繼承了社會中原本的性別歧視。而且這種歧視由于算法的“黑箱”屬性而無法輕易被察覺。即使女性用戶發(fā)覺自己被歧視了，但在以精確無誤和客觀中立標榜的算法面前也無力辯駁，此時客服人員會告訴用戶“這個是系統(tǒng)給出的結果，我們也沒有辦法”。

不管在金融消費領域，還是人工智能技術的創(chuàng)新領域，大多為男性主導話語權，“女性視角”的缺失成為金融消費場景中算法性別歧視問題的重要原因。回到Apple Card這個案例，任何互聯(lián)網(wǎng)產(chǎn)品在上線之前都要經(jīng)過不斷地測試，發(fā)現(xiàn)和消除系統(tǒng)運行的漏洞，保證其運行的穩(wěn)定性。如果Apple Card團隊擁有性別視角，在產(chǎn)品上線之前進行了性別方面的測試，則很容易就會發(fā)現(xiàn)算法性別歧視問題。

我們正在迎來算法社會的到來，算法在金融消費領域會扮演越來越重要的角色。我們應警惕和應對金融消費場景中的算法性別歧視，保護好消費者的切身利益，也守護好企業(yè)的品牌聲譽，避免其成燎原之勢。 ? ? ? ? ? ? ? ? ? ? ? （企業(yè)推廣）

作者系瑪娜數(shù)據(jù)基金會研究員

責任編輯：葛辛晶