最近，主打黏土風(fēng)的修圖軟件Remini火爆全網(wǎng)，多位女性博主在嘗試后發(fā)現(xiàn)了一個(gè)共同點(diǎn)——自己的性別變成了男性。比如，某博主將自己登山、潛水、滑雪、開越野車的照片交給Remini，結(jié)果被轉(zhuǎn)變成了一個(gè)個(gè)留絡(luò)腮胡子、大眼睛的男性。

類似的刻板印象遠(yuǎn)不止Remini。一位博主將電影《后翼?xiàng)壉访枥L女主下國際象棋的劇照放在美圖秀秀的黏土濾鏡里。很快，女主角的臉變成了萌萌的卡通人物，但是桌上的象棋變成了鍋碗瓢盆，甚至，女主角的身旁還多了個(gè)嬰兒。

由人類編寫的AI 世界，似乎也自帶偏見和歧視。這到底是AI 隨機(jī)的行為，還是根深蒂固的刻板印象？清華大學(xué)交叉信息研究院助理教授于洋認(rèn)為，首先要分清楚：AI 只是出錯(cuò)，還是產(chǎn)生了系統(tǒng)性偏見或者主觀性歧視。

為了弄清楚這個(gè)問題，我們在網(wǎng)絡(luò)隨機(jī)選擇了10 張女性在戶外的照片，一半是背影，一半露了臉，接著將它們分別放在了Remini 的clay 濾鏡、美圖秀秀的熱門AI 黏土濾鏡和小紅書的黏土濾鏡特效里。結(jié)果是在三個(gè)軟件里，留長發(fā)的、有正面臉龐的女性照片，都能正確生成黏土版的女孩。但如果照片的面部被部分或者全部遮擋，那她大概率就會(huì)變成男性。

AI 也許有些“臉盲”。但如果，將女性的臉龐更清晰地展示出來，AI 還會(huì)歪曲現(xiàn)實(shí)嗎？我們選擇了女性被認(rèn)為是少數(shù)參與者的運(yùn)動(dòng)領(lǐng)域，例如電影《熱辣滾燙》里的女拳擊手、綜藝《海妖的呼喚》里參加競技的女人們，作為觀察樣本。在提供清晰的正面原圖后，Remini 均生成了符合原圖性別的卡通人物，而在美圖秀秀、小紅書里都變成了男性。

偏見甚至遠(yuǎn)比想象中的普遍。彭博社曾在2023 年對AI 畫圖軟件Stable Diffusion專門進(jìn)行了觀察。他們用文字生成圖片的方式，讓AI 分別畫出從事14 種工作的代表人物。結(jié)果發(fā)現(xiàn)，AI 生成的圖片中，男性數(shù)量幾乎是女性的三倍。

膚色和種族在AI 世界里也非常失衡。AI 的畫像顯示，世界是由白人男性CEO 管理的，深色皮膚的男人熱衷犯罪，深色皮膚的女人樂于翻轉(zhuǎn)漢堡。而且，這類偏見已經(jīng)遠(yuǎn)遠(yuǎn)超出現(xiàn)實(shí)狀況。例如，在針對關(guān)鍵詞“法官”生成的圖像中，女性只占約3%。而實(shí)際上，官方數(shù)據(jù)顯示，34% 的美國法官是女性。

一切究竟是怎么發(fā)生的？一個(gè)解釋是，AI 也許就是現(xiàn)實(shí)的一部分體現(xiàn)——訓(xùn)練AI 的現(xiàn)實(shí)數(shù)據(jù)集被發(fā)現(xiàn)具有傾向性。Stable Diffusion 使用了世界上最大可公開訪問的圖集數(shù)據(jù)集訓(xùn)練，里面包含各類色情、種族偏見和性別歧視等未經(jīng)過濾的內(nèi)容。AI 的性別偏見也可能與分享個(gè)人圖像的文化差異有關(guān)。女性的數(shù)據(jù)量較少，也導(dǎo)致了訓(xùn)練出來的AI 可能更“愛男厭女”。除了數(shù)據(jù)量，研究者發(fā)現(xiàn)，AI 在大量接受數(shù)據(jù)并進(jìn)行深度學(xué)習(xí)的過程中，通常會(huì)丟棄異常值，產(chǎn)生更接近主導(dǎo)趨勢的結(jié)果。AI 從設(shè)計(jì)之初，其目的就是模仿以前的多數(shù)情況，而不是創(chuàng)造多樣性。

好消息是，越來越多AI 研究者注意到AI 的性別歧視和偏差。于洋與團(tuán)隊(duì)近日提出一種讓AI 學(xué)習(xí)因果關(guān)系的機(jī)制，簡單來說，就是“教它（學(xué)會(huì)價(jià)值觀）”?！昂芏嗳酥v技術(shù)是中性的，我們現(xiàn)在漸漸認(rèn)為，技術(shù)存在著向善和中性，也存在向惡的。AI 時(shí)代，不能再以中性的角度看待技術(shù)，有價(jià)值觀的技術(shù)，一定要得到鼓勵(lì)。”于洋說。

（摘自“南風(fēng)窗”微信公眾號，本刊有刪節(jié)，蘿卜葉子圖）