齊琳琿

人們正逐漸意識(shí)到人工智能并非是客觀中立的，而是可能存在偏見的，這種偏見見于人種、職業(yè)、性別等多個(gè)方面，在人類社會(huì)存在已久，不同領(lǐng)域的學(xué)者一直在致力于研究與改變這些偏見。人工智能的出現(xiàn)，可能不但不會(huì)緩解性別偏見，相反會(huì)進(jìn)一步加劇。一方面，因?yàn)闄C(jī)器算法不同于人類，無法抵制其所學(xué)到的偏見，對(duì)性別有偏見的社會(huì)價(jià)值觀可以植根于數(shù)據(jù)庫之中，并通過機(jī)器學(xué)習(xí)進(jìn)入算法之中。另一方面，與之前所有技術(shù)一樣，人工智能技術(shù)也將在某種程度上反映創(chuàng)造者的價(jià)值，由于人工智能的開發(fā)者絕大多數(shù)是男性，在這些技術(shù)的設(shè)計(jì)中，男性的過度代表性對(duì)于人工智能特性的影響，可能會(huì)悄然抵消幾十年來在兩性平等方面取得的進(jìn)步。這種技術(shù)代表性上和語言上的原因而造成的性別偏見已有許多例子，比如之前谷歌翻譯將“強(qiáng)壯”“醫(yī)生”等詞與男性相聯(lián)系，而將“護(hù)士”“美麗”等詞與女性自動(dòng)關(guān)聯(lián)。人工智能領(lǐng)域的研究者們應(yīng)關(guān)注到可能存在的偏見問題，以避免性別偏見給女性帶來的負(fù)面后果再度重演。

近些年來，人工智能技術(shù)逐漸應(yīng)用于新聞傳播領(lǐng)域，智媒時(shí)代已經(jīng)到來。從新聞寫作機(jī)器人Dreamwriter在騰訊財(cái)經(jīng)頻道的報(bào)道《8月CPI漲2%創(chuàng)12個(gè)月新高》開始，國內(nèi)的新聞寫作機(jī)器人正式登上新聞傳播的舞臺(tái)，新華社的“快筆小新”、第一財(cái)經(jīng)的“DT稿王”、今日頭條的“xiaomingbot”都陸續(xù)上崗。機(jī)器人寫作多集中于體育、財(cái)經(jīng)新聞報(bào)道，南方報(bào)業(yè)傳媒集團(tuán)的小南開始涉及民生新聞。這類寫作機(jī)器人的特點(diǎn)是快速、高效、客觀、中立，旨在高效地處理和分析數(shù)據(jù)，進(jìn)行報(bào)道與推送。然而，質(zhì)疑的聲音也隨之而來，人工智能是否可以真正地不存在偏見不帶有情感偏向地審視新聞、寫出稿件，還是偏見在其中以一種不易察覺的方式嵌于機(jī)器人所撰寫的稿件之中，對(duì)于讀者產(chǎn)生潛移默化的影響？文本試圖以內(nèi)容分析法探究新聞寫作機(jī)器人“ZXM”（化名）在報(bào)道2018年溫網(wǎng)賽事時(shí)是否體現(xiàn)出性別偏見，并試圖討論這種偏見背后可能的原因。

相關(guān)理論與文獻(xiàn)梳理

1.新聞寫作機(jī)器人與算法偏見

對(duì)于諸如xiaomingbot、Dreamwriter、快筆小新這類新聞寫作機(jī)器人的稱呼并不一致，通過檢索知網(wǎng)、萬方等數(shù)據(jù)庫，發(fā)現(xiàn)有“機(jī)器人新聞寫作”“機(jī)器人寫作”“機(jī)器人記者”“人工智能新聞生產(chǎn)”等相關(guān)用詞，但本質(zhì)上是類似的，所指的都是基于人工智能和大數(shù)據(jù)技術(shù)進(jìn)行新聞稿件生產(chǎn)的計(jì)算程序，這些程序通過算法對(duì)所收集的數(shù)據(jù)進(jìn)行分析、處理和加工，從而形成一篇完整的報(bào)道。雖稱其為機(jī)器人并以人名進(jìn)行命名，但其并無實(shí)體身份，而是程序與算法。本文選取的研究對(duì)象ZXM屬于二代寫稿機(jī)器人，寫稿速度更快，可以在2秒內(nèi)完成稿件并發(fā)布；擬人化程度也更高，會(huì)根據(jù)選手的實(shí)際比賽成績與賽前預(yù)測，以及比分的差距大小，自動(dòng)調(diào)整撰寫新聞稿件的語氣；除此之外，它可以從圖庫中自動(dòng)識(shí)別和篩選圖片，將其插入新聞稿件之中，使報(bào)道更加完善。

關(guān)于新聞寫作機(jī)器人的研究起步較晚，但發(fā)展迅猛。新聞寫作機(jī)器人的應(yīng)用提高了生產(chǎn)效率，轉(zhuǎn)變了生產(chǎn)方式[1]。但同時(shí)也帶來了新的倫理問題，基于大數(shù)據(jù)的機(jī)器學(xué)習(xí)存在侵犯隱私的可能性[2]，數(shù)據(jù)的失實(shí)會(huì)造成新聞失實(shí)[3]，即使數(shù)據(jù)真實(shí)可靠，但新聞寫作機(jī)器人的算法的可能帶有偏見，也會(huì)導(dǎo)致報(bào)道中的偏見[4]。算法的偏見可能存在于算法設(shè)計(jì)和運(yùn)行的每一個(gè)階段。首先，算法設(shè)計(jì)師有意的或者無意的認(rèn)知偏見進(jìn)入算法的設(shè)計(jì)之中會(huì)導(dǎo)致有偏見的算法[5]。其次，社會(huì)存在的數(shù)據(jù)進(jìn)入機(jī)器學(xué)習(xí)程序之中，由于這些數(shù)據(jù)中本身就帶有人類社會(huì)現(xiàn)存的偏見，機(jī)器學(xué)習(xí)會(huì)識(shí)別出這些偏見并將其納入算法之中[6]。對(duì)于算法中的偏見的研究，可以破除對(duì)于算法“中立”“權(quán)威”的迷信，避免人為算法所控制。但是由于算法的“黑箱”特性和源數(shù)據(jù)的龐大、難以測量，很難通過科學(xué)的方法對(duì)算法中的偏見進(jìn)行判定。新聞寫作機(jī)器人的出現(xiàn)或許提供了探究算法是否存在偏見的一種新的路徑——從結(jié)果逆推過程，即從新聞寫作機(jī)器人生產(chǎn)的報(bào)道切入展開研究。

2.新聞報(bào)道中的性別偏見研究

盡管女性主義者一直都在致力于改變性別偏見問題，但在新聞報(bào)道中仍然存在性別刻板印象。性別刻板印象主要是從批判的視角出發(fā)，認(rèn)為媒介中的女性被塑造為迎合男權(quán)文化的形象，鞏固大眾對(duì)于女性和男性的形象認(rèn)知，從而維護(hù)男權(quán)文化與男權(quán)觀念。也就是說，通過媒介的加工，男性和女性的社會(huì)性別差異被凸顯。對(duì)于報(bào)道中的性別偏見的研究一直未曾停止。已有研究通過對(duì)記者所生產(chǎn)的新聞進(jìn)行內(nèi)容分析發(fā)現(xiàn)，性別偏見與新聞報(bào)道的主題和選擇相關(guān)，在體育、政治和商業(yè)領(lǐng)域更為普遍[7]。比如，體育報(bào)道中存在的對(duì)于女性運(yùn)動(dòng)員的性別刻板印象——重點(diǎn)描述外在形象或者家庭身份等。報(bào)道中的性別偏見不僅體現(xiàn)于文本之中，還存在于報(bào)道中所選擇圖片的數(shù)量與類別。除時(shí)尚相關(guān)報(bào)道外，關(guān)于石油、政治、市場、運(yùn)動(dòng)、商業(yè)、技術(shù)等領(lǐng)域的報(bào)道，有關(guān)男性的圖片數(shù)量遠(yuǎn)高于女性，其中體育領(lǐng)域，報(bào)道中的男性圖片數(shù)量約是女性圖片數(shù)量的三倍[8]。我國也有研究發(fā)現(xiàn)對(duì)男子運(yùn)動(dòng)員的體育報(bào)道的圖片數(shù)量高于女子運(yùn)動(dòng)員，且報(bào)道中的圖片內(nèi)容因性別不同而有所差異[9]。新聞寫作機(jī)器人“ZXM”擁有強(qiáng)大的自動(dòng)選圖功能，也就是可以實(shí)現(xiàn)圖文自動(dòng)關(guān)聯(lián)發(fā)稿，這一功能的實(shí)現(xiàn)是通過學(xué)習(xí)圖文語義匹配模型，再從龐大的圖文數(shù)據(jù)庫中尋找合適的配圖[10]。新聞寫作機(jī)器人智能選圖方式是否對(duì)原本體育報(bào)道的圖片呈現(xiàn)中可能存在的性別偏見問題有所改善，還是這種偏見依然存在？對(duì)此，本文提出以下問題：

Q1:新聞寫作機(jī)器人在報(bào)道2018溫網(wǎng)公開賽時(shí)，對(duì)男選手和女選手的圖片報(bào)道數(shù)量是否存在差異？

Q2：新聞寫作機(jī)器人在報(bào)道2018溫網(wǎng)公開賽時(shí)，男女選手在報(bào)道圖片中的呈現(xiàn)方式是否有所不同？

研究方法

本研究選擇的樣本是新聞寫作機(jī)器人“ZXM”對(duì)2018年溫網(wǎng)公開賽的報(bào)道中的圖片，共從239篇報(bào)道中收集到圖片605幅，男女選手是主要的研究關(guān)注對(duì)象。采用的方法為內(nèi)容分析法。具體操作流程為：提出研究問題或假設(shè)；選擇樣本；定義編碼類別；對(duì)編碼內(nèi)容進(jìn)行編碼，檢查編碼的可靠性；對(duì)編碼過程中采集的數(shù)據(jù)進(jìn)行分析和解釋。

通過參照以往關(guān)于網(wǎng)球賽事的體育報(bào)道的性別偏見研究，將類目構(gòu)建為圖片對(duì)象、圖片主題——圖片對(duì)象為男選手和女選手，以回答問題一；圖片主題分為運(yùn)動(dòng)類圖片、情緒類圖片和其他，以回答問題二[11]。運(yùn)動(dòng)類圖片中根據(jù)圖片強(qiáng)調(diào)的運(yùn)動(dòng)能力的不同，分為對(duì)抗類、速度類、技巧類、力量類。對(duì)抗類指的是強(qiáng)調(diào)對(duì)手之間的對(duì)抗，速度、技巧和力量則是看抓拍瞬間所強(qiáng)調(diào)的是哪一方面。情緒類分為贏球后的平靜、勝利后的喜悅及丟分后的失落。其他類包括兩類，一類為非選手本身的照片，而是與選手有關(guān)聯(lián)的人的照片，包括評(píng)委、教練、觀眾、愛人等。另一類是選手的照片，但并非在比賽時(shí)的照片，如離場、接受采訪、擦汗等。

在對(duì)樣本數(shù)據(jù)編碼完成一個(gè)月后，為了測試編碼信度，筆者選取了10%的樣本，根據(jù)編碼類別，再次進(jìn)行編碼，結(jié)果與前一次編碼所得顯示一致。

研究結(jié)果

Q1:新聞寫作機(jī)器人在報(bào)道2018溫網(wǎng)公開賽時(shí)，對(duì)男選手和女選手的圖片報(bào)道數(shù)量是否存在差異？

在2018年溫網(wǎng)公開賽期間，新聞寫作機(jī)器人“ZXM”對(duì)男選手的報(bào)道中配圖總計(jì)有391幅，對(duì)女選手的報(bào)道中配圖共有214幅。ZXM對(duì)男子運(yùn)動(dòng)員的報(bào)道中的配圖數(shù)遠(yuǎn)高于關(guān)于女子運(yùn)動(dòng)員的報(bào)道中的圖片數(shù)目。為了進(jìn)一步看出其中的差異，對(duì)八分之一決賽、四分之一決賽的男女選手的報(bào)道所配圖片數(shù)量進(jìn)行比較，發(fā)現(xiàn)關(guān)于男選手的報(bào)道配圖在4張以上（包含4張），而女選手報(bào)道的配圖多為2或3張。

Q2：新聞寫作機(jī)器人在報(bào)道2018溫網(wǎng)公開賽時(shí)，男女選手在報(bào)道圖片中的呈現(xiàn)方式是否有所不同？

依據(jù)所構(gòu)建的類目，對(duì)報(bào)道圖片進(jìn)行編碼所得結(jié)果如圖1所示，發(fā)現(xiàn)男女選手在報(bào)道圖片中的呈現(xiàn)方式并不相同。圖1中可以直觀看出大多數(shù)類別中男選手的圖片數(shù)量都是遠(yuǎn)高于女選手的，只有兩類例外。一是失落情緒類圖片。溫網(wǎng)賽事中，男子選手的報(bào)道圖片中包含因失球或輸?shù)舯荣惗@露出失落情緒的圖片只有5張，而女子選手則有10張。二是報(bào)道中的非運(yùn)動(dòng)的關(guān)聯(lián)類圖片，關(guān)于女子比賽報(bào)道中此類照片明顯多于男子比賽報(bào)道，且有多張是關(guān)于女選手與男教練對(duì)話的，女選手在照片中處于角落位置，而教練處于中間位置。以構(gòu)圖方式來凸顯兩人的關(guān)系和地位一直是電影和照片拍攝的一個(gè)重要手法，但在以比賽和運(yùn)動(dòng)選手為主角的報(bào)道中，將主角安排于圖片角落位置，這種構(gòu)圖是否合適有待思考。除此之外，從圖表中還可以看到男子與女子運(yùn)動(dòng)類照片有一個(gè)明顯區(qū)別就是對(duì)抗類照片的有無。對(duì)抗類照片所突出的是對(duì)手之間的張力與對(duì)抗性。而女子運(yùn)動(dòng)照片都為突出單人選手的，并未有對(duì)抗類圖片。

圖1. 男女選手在報(bào)道圖片中的呈現(xiàn)方式比較

可以通過餅狀圖進(jìn)一步比對(duì)男女選手報(bào)道的圖片差異。關(guān)于男選手報(bào)道中的運(yùn)動(dòng)類圖片占比（76%）要高于女選手（67%）；關(guān)聯(lián)類圖片分別為11%與20%；情緒類（13%）持平。盡管男女選手的情緒類圖片比例一致，但其中所呈現(xiàn)的具體情緒類型確有所不同（圖2）。呈現(xiàn)因丟分或失敗而引發(fā)的失落情緒的圖片所占比重，女子運(yùn)動(dòng)員的（34%）顯著高于男子運(yùn)動(dòng)員的（10%），而喜悅類情緒則相反，男子運(yùn)動(dòng)員（31%）高于女子運(yùn)動(dòng)員（14%）。

討 論

1.社會(huì)中的性別偏見如何進(jìn)入新聞寫作機(jī)器人的稿件之中

通過分析“ZXM”對(duì)2018年溫網(wǎng)公開賽的報(bào)道，結(jié)果發(fā)現(xiàn)男子賽事報(bào)道圖片數(shù)量明顯多于女子賽事的，且男女選手在圖片內(nèi)容的呈現(xiàn)方式上存在差異，男選手的運(yùn)動(dòng)類圖片比例較女選手的多，且與運(yùn)動(dòng)無關(guān)的圖片比例較女選手少；情緒類圖片中更突出男選手勝利后的表情和女選手丟分后失落的表情。新聞寫作機(jī)器人體現(xiàn)出這種偏見并非是預(yù)設(shè)了偏見程序，而是數(shù)據(jù)庫中的圖片本身在數(shù)量和內(nèi)容上存在一定性別差異，新聞寫作機(jī)器人通過學(xué)習(xí)圖文語義匹配模型，自動(dòng)從數(shù)據(jù)庫中為新聞稿選擇配圖，而數(shù)據(jù)庫的圖片由人所拍攝并上傳。在“女子1/32單打決賽Katie Boulter 0：2大坂直美”的報(bào)道中，所配圖片是Boulter金色長發(fā)披肩，身穿一身時(shí)尚休閑衣服的形象，而非運(yùn)動(dòng)場上的形象。這種對(duì)于女子運(yùn)動(dòng)員生活照而非運(yùn)動(dòng)照的關(guān)注在傳統(tǒng)的體育新聞報(bào)道中有所體現(xiàn)，社會(huì)中的性別偏見通過拍攝的圖片和圖文進(jìn)入網(wǎng)絡(luò)數(shù)據(jù)庫中，并最終體現(xiàn)于新聞寫作機(jī)器人的稿件之中（圖3）。

2.如何解決新聞寫作機(jī)器人的偏見：有道德的算法

智能寫作機(jī)器人現(xiàn)階段只體現(xiàn)在了功能性層面，而并非真正實(shí)現(xiàn)了“智能”，它們無法識(shí)別數(shù)據(jù)庫中存在的偏見和錯(cuò)誤。在技術(shù)層面，可以試圖建構(gòu)“有道德的算法”——對(duì)偏見內(nèi)容予以識(shí)別與修正，通過一種“自上而下和自下而上相結(jié)合的學(xué)習(xí)路徑”[12]。一方面，從倫理理論入手，將人類道德體系中已經(jīng)成熟、公認(rèn)的一些原則轉(zhuǎn)換為算法的一套規(guī)則；另一方面，讓人工智能循照孩童成長的路徑，習(xí)得人的良善品德。要實(shí)現(xiàn)這種有道德的算法，首先需要人工智能相關(guān)研發(fā)人員具有一定的倫理道德，能夠認(rèn)識(shí)到人工智能可能存在的偏見，才可以對(duì)解決方法進(jìn)行思考。東京奧運(yùn)會(huì)期間，預(yù)計(jì)將有更多新聞機(jī)構(gòu)采用機(jī)器人“記者”，如何避免人工智能的性別偏見應(yīng)該予以重視。

圖2. 男女運(yùn)動(dòng)員情緒類報(bào)道圖片成分比較

圖3.性別偏見影響過程