翟紅蕾 鄒心晨

摘?要：人工智能時代，假新聞在Deepfake等新興技術(shù)的影響下不斷嬗變，形態(tài)也從文本轉(zhuǎn)向音頻、視頻，這不僅在一定程度上縱容了更多假新聞的產(chǎn)生，也對受眾辨別信息的能力提出了更高的要求。但是，技術(shù)并沒有邪惡之分，媒介技術(shù)的革新也不是假新聞出現(xiàn)的根源，當前人類認知能力、道德水平及媒介規(guī)范程度跟不上技術(shù)的變革，如何借助人工智能技術(shù)有利的一面營造良好的內(nèi)容生態(tài)，進而幫助用戶提高媒介素養(yǎng)，才是治理假新聞的有效途徑，也是當前亟待解決的問題。

關(guān)鍵詞：Deepfake;假新聞;深度偽造;人工智能時代

中圖分類號：G210??文獻標識碼：A?文章編號：1672-8122（2020）11-0034-03

一、深度偽造技術(shù)下假新聞的升級

（一）假新聞的音頻轉(zhuǎn)向

2017年以來，以直播、短視頻、智能音頻為主導的媒介變革正在悄然改變我們的媒介認知圖景。以短視頻為例，根據(jù)2020年1月6日抖音發(fā)布的《2019抖音數(shù)據(jù)報告》顯示：截至2020年1月5日，抖音日活躍用戶數(shù)已經(jīng)突破4億。而中國互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的第45次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展狀況統(tǒng)計報告》顯示：截至2020年3月，我國網(wǎng)民規(guī)模達9.04億，短視頻用戶7.73億，即時通訊用戶達8.96億，特別是社交與短視頻開始融合，出現(xiàn)了以音頻、短視頻、直播等作為新形式的社交產(chǎn)品或功能，如微信的“視頻號”、字節(jié)跳動推出的小視頻社交軟件“多閃”、知乎也開通了直播功能[1]。這些都意味著用戶的閱讀方式已經(jīng)由文字時代轉(zhuǎn)到讀圖時代，又在逐漸過渡到觀影時代。尤其是在5G技術(shù)投入商用之后，不僅信息呈現(xiàn)方式向短視頻傾斜，假新聞呈現(xiàn)形態(tài)也開始進行短視頻轉(zhuǎn)向。

2017年，英國柯林斯詞典（Collins Dictionary）選取“假新聞”（Fake news）作為年度熱詞，并將其定義為：假借新聞報道形式傳播的錯誤、虛假、聳人聽聞的信息。楊保軍對假新聞的定義為：“假新聞是在性質(zhì)上相對于‘真新聞存在的一個概念，描述的是在形式上、姿態(tài)上完全具備新聞的特征，但實質(zhì)上沒有新聞本質(zhì)特征（真實性）的‘新聞”[2]。

在傳統(tǒng)媒體時代，假新聞的根本特性是新聞事實與信源的虛假性，但在人工智能時代，假新聞的范疇根本不止如此。由于技術(shù)賦權(quán)、算法偏見的影響，即使有大數(shù)據(jù)作為支撐，那些沒有準確、全面、恰當?shù)貓蟮朗聦嵍纬傻男侣勔廊豢梢员豢醋魇羌傩侣劇?/p>

（二）深度偽造（Deepfake）的應(yīng)用

深度偽造的英文“Deepfake”是由“Deep machine learning”和“Fake photo”組合而成，是柯林斯收錄的2019年年度熱詞之一。deepfake本質(zhì)是一種深度學習模型，是圖像合成、替換的技術(shù)框架[3]。作為一種新形態(tài)的偽造技術(shù)，創(chuàng)作者可以借其篡改視頻中人物的面容、聲音等信息，從而制作出難以辨別真假的短視頻。

視頻深度偽造技術(shù)也被稱為AI換臉技術(shù)（AI face swap），具體工作原理與影視后期類似。首先將原視頻按幀轉(zhuǎn)化成大量圖片，然后再對目標對象的臉部進行替換，最后將替換完成的圖片重新渲染合成新視頻，而Deepfake技術(shù)的加持會使整個過程實現(xiàn)自動化。音頻偽造亦是如此，通過Deepfake技術(shù)，編碼者可以把目標對象的語速、語調(diào)、音色等聲道信息綜合生成為聲音模型，然后根據(jù)目標對象的聲音模型找出聲音特征，再依據(jù)特征對語音信息進行調(diào)整，以此模擬出相應(yīng)的音頻信息。

關(guān)于Deepfake技術(shù)發(fā)展的歷史，從2017年Reddit用戶“Deepfakes”首次上傳換臉視頻引發(fā)熱議，到2019年2月嗶哩嗶哩Up主將朱茵的臉換成楊冪火爆網(wǎng)絡(luò)，再到9月份在中國應(yīng)用市場一夜爆紅又被迅速下架的換臉應(yīng)用“ZAO”，Deepfake技術(shù)開始入侵并擾亂正常的傳播秩序。

在Deepfake技術(shù)出現(xiàn)之前，關(guān)于圖片造假多是專業(yè)人士運用專業(yè)軟件進行后期加工的手段，但隨著技術(shù)的普及，隨便一臺手機都能下載修圖軟件，而“ZAO”更是將這一技術(shù)無限簡化，用戶僅需要一張正臉照就能進行“AI換臉”成為視頻當事人。這意味著傳播在初始階段就開始失真，信息源的造假無疑給假新聞的生產(chǎn)傳播提供了便利，更為重要的是，短視頻與社交媒體結(jié)合后其傳播速度加快，同時因為算法自動生成，其制作成本和門檻較低，導致所生產(chǎn)的假新聞不僅內(nèi)容“逼真”，識別也更加困難。

二、深度假新聞的特征與危害

（一）人工智能時代假新聞的新特征

對于整個社會來說，任何新技術(shù)帶來的變革與作用都是巨大的。一方面，Deepfake技術(shù)在影視文化行業(yè)的想象空間極大;另一方面，惡搞、造假使其伴隨著肖像權(quán)、版權(quán)和倫理層面的爭議，尤其是在新聞領(lǐng)域，Deepfake技術(shù)濫用會造成“深度假新聞”。在Deepfake技術(shù)出現(xiàn)之前，假新聞大多以文字呈現(xiàn)，但隨著人工智能技術(shù)逐漸滲入到短視頻生產(chǎn)，如AI主播、ZAO以及Deepfake等有深度學習技能的應(yīng)用使假新聞呈現(xiàn)出以下新特征。

第一，人工智能技術(shù)賦能使假新聞越來越難被識別出來。初代的人工智能技術(shù)在新聞領(lǐng)域的造假程度，是依賴使用者或者算法制定者的技術(shù)水平，但隨著深度學習技術(shù)的加入，短視頻造假越來越逼真，用戶很難在短時間內(nèi)辨別新聞的真假。

第二，假新聞報道主體泛化，信息源難辨真假。過去新聞報道的主體一般只有專業(yè)媒體，如今人人都是信息源的時代，不管是有意無意，即使是用戶自娛自樂的傳播行為，一旦短視頻上傳到平臺就默認將信息置于公眾視野，也隨時會成為別人的信息源，而互聯(lián)網(wǎng)上任何一個傳播節(jié)點都可能是假新聞的搖籃。

第三，智能媒體在新聞生產(chǎn)以及算法設(shè)計運行的各個環(huán)節(jié)，更容易產(chǎn)生帶有偏見的假新聞，而且這種偏見更不容易被察覺。雖說不同新聞APP抓取的數(shù)據(jù)樣本不同，但樣本規(guī)模、屬性以及算法程序也不一定完全客觀。算法歸結(jié)到底還是人工產(chǎn)物，不可避免地會夾雜人的局限和偏見，一旦算法源代碼有偏見，則生產(chǎn)或推送的結(jié)果也必定含有偏見，那依據(jù)這樣的人工智能技術(shù)所生產(chǎn)的新聞可信度與效度都值得懷疑。

（二）人工智能時代假新聞的危害加成

人工智能時代，大數(shù)據(jù)、算法技術(shù)讓新聞內(nèi)容的生產(chǎn)、推送更加精確;AI主播、寫作機器人自動生成內(nèi)容解放了生產(chǎn)力;物聯(lián)網(wǎng)技術(shù)、5G技術(shù)的發(fā)展應(yīng)用也塑造了一個更加智能化的世界。盡管新媒介技術(shù)的加持使媒介使用權(quán)力不斷被下放，信息源更加多元化，內(nèi)容生產(chǎn)形式與效率被刷新，但也必須認識到用戶在閱讀、分享各種信息時會更難辨別真假信息，尤其是微博、微信、抖音等新媒體，他們不僅傳謠快，辟謠也會更難，識別治理假新聞的成本也就更高。例如，各大組織就格外關(guān)注Deepfake在美國大選新聞報道中的應(yīng)用，因為在2016年美國大選期間，Twitter等社交媒體的信息大戰(zhàn)讓人記憶猶新，不同利益集團相互指責和控訴對方制造和傳播各種虛假信息，在這期間，制造、傳播假新聞甚至已經(jīng)成為了一條“灰色”產(chǎn)業(yè)鏈[4]。

2018年，MIT的三位研究者參考6家事實核查網(wǎng)站提供的標準，對2006至2017年間12.6萬條Twitter的真假新聞傳播力進行了評估，這是迄今為止最大規(guī)模的假新聞實證研究，他們發(fā)現(xiàn)假新聞在轉(zhuǎn)發(fā)層級、傳播人數(shù)、擴散范圍等多個指標上碾壓真新聞，且傳播速度至少快6倍[5]。而在人工智能時代，短視頻形式的假新聞以智能化的形式進行傳播，其更具感染力、更易混淆視聽，對新聞業(yè)的負面影響也更為巨大。首先，因為假新聞泛濫不僅破壞著媒體自身的公信力，對新聞傳播工作人員污名化，而且還會損害國家權(quán)力機關(guān)在人民心中的形象;其次，假新聞的泛濫破壞了正常的新聞傳播秩序，影響人們之間的正常交往，造成社會信任危機;再次，Deepfake等技術(shù)在新聞傳播領(lǐng)域中的濫用不僅侵犯個人隱私，還敗壞社會道德風氣;最后，在全球化視野下，一些特殊的假新聞可能會影響正常的國際關(guān)系。

三、人工智能時代假新聞出現(xiàn)的動機與治理策略

假新聞作為一種傳播現(xiàn)象，它在各個時代、各個國家地區(qū)都普遍存在，只不過泛濫程度、具體表現(xiàn)形態(tài)、形成原因以及治理的策略會有所不同。中國目前沒有單獨的新聞傳播法，在面對以Deepfake、ZAO為代表的深度偽造技術(shù)的智能媒體時，治理假新聞還是要從行業(yè)大環(huán)境、受眾媒介素養(yǎng)、媒體人的職業(yè)道德以及相關(guān)法律法規(guī)等方面著手[6]。

（一）政府要推進對深度偽造技術(shù)的預(yù)警識別研發(fā)、立法與監(jiān)管

對于政府單位而言，要加大對識別檢測技術(shù)的資助力度，并加快落實對深度偽造技術(shù)與行為的立法監(jiān)管，明確Deepfake技術(shù)濫用責任主體。

首先，避免Deepfake技術(shù)濫用造成的危害，關(guān)鍵就是預(yù)警識別技術(shù)工具的研發(fā)，只要預(yù)警識別技術(shù)領(lǐng)先于偽造技術(shù)，假新聞的生產(chǎn)、傳播就會得到極大壓制;其次，從經(jīng)驗來看，往往先是出現(xiàn)了一種技術(shù)的濫用并影響到正常的生活秩序，才會出現(xiàn)相關(guān)的政策法規(guī)。AI換臉技術(shù)誕生于2017年，但我國相關(guān)單位在2019年11月29日才針對深度造假技術(shù)的濫用印發(fā)《網(wǎng)絡(luò)短視頻信息服務(wù)管理規(guī)定》，《規(guī)定》指出在線視頻新聞和音頻服務(wù)的提供者和用戶“不得”使用深度學習和虛擬現(xiàn)實等新技術(shù)來創(chuàng)建、發(fā)布和播放“假新聞”，于2020年1月1日正式生效[7]，這意味著在前兩年Deppfake技術(shù)的使用并沒有受到約束;最后，從源頭上防止假新聞的出現(xiàn)，就必須明確濫用Deepfake技術(shù)生產(chǎn)主體的法律責任。

（二）傳媒界要加強與科技界的合作

雖然，現(xiàn)代信息的繁雜降低了編輯部對真實信息的報道速度，ZAO、Deepfake等應(yīng)用則加劇了虛假信息的傳播，但解鈴還需系鈴人，面對深度假新聞傳媒屆也并不是無計可施。傳媒界必須要加強與科技界的合作，抓緊研發(fā)抑制Deepfake技術(shù)濫用的技術(shù)工具。2017年人工智能基金會（AI Foundation）開發(fā)了一款名為“現(xiàn)實衛(wèi)士”（Reality Defender）的智能軟件用來檢測潛在的虛假媒體，工作原理與病毒防護軟件類似，在用戶瀏覽網(wǎng)頁時不僅會掃描每一幅圖像、視頻，篩選出媒體平臺中的假新聞，還允許用戶上報自己瀏覽過的疑似假新聞，甚至可以使用人工智能驅(qū)動的判斷技術(shù)檢測信息是自我演變還是人為生成的痕跡。

（三）用戶要提高對信息的警惕和識別深度假新聞的能力

一如打擊虛假信息的非營利組織“初稿”（First Draft）負責人Claire Wardle所說：“如果你不能百分之百確定一個視頻是真的，請不要分享，不值得冒險”[8]。用戶要在接收信息的過程中學會分辯信息的真假，提高識別深度假新聞的能力。

（四）傳播平臺需要加強內(nèi)容審核，承擔更多的社會責任

作為搭載、傳達用戶各種信息的平臺，具有控制并監(jiān)測平臺信息真實性的責任。假新聞在社交媒體平臺上，具有傳播速度快、范圍廣且辟謠難的特點，所以必須強化傳播平臺的社會責任，在加強內(nèi)容審核時，還要在相關(guān)信息上做好標識，這樣才能在傳播過程中一定程度上阻止深度假新聞的擴散。

（五）新聞傳播工作人員要加強自身素養(yǎng)，堅守新聞倫理

作為新聞傳播工作人員，面對Deepfake等深度偽造技術(shù)的沖擊，一方面，要堅守新聞倫理;另一方面，也要致力于提高自己檢驗深度假新聞的能力。不管是多重信源核實，還是假借人工智能技術(shù)之手，只要能快速檢驗內(nèi)容真實性，便能更好地制止虛假信息的傳播。

四、結(jié)?語

從紙媒、門戶網(wǎng)站、新媒體、流媒體再到各種智能媒體，信息載體的形式在不斷變化，媒介功能也在不斷完善，不斷下放到普通用戶，但普羅大眾也必須意識到，在享受人工智能技術(shù)帶來便利、推動行業(yè)變革的同時也加深了假新聞的泛濫。

基于Deepfake等深度偽造技術(shù)實現(xiàn)了短視頻的換臉、換聲，包括以AI主播為代表的智能機器也開始以獨立信源的身份進入新聞傳播初始階段，這在一定程度上沖擊了“眼見為實”的常識。雖說Deepfake等深度偽造技術(shù)越來越智能，但公眾、專業(yè)人員鑒別虛假圖像和短視頻的能力也在不斷提高，相關(guān)輔助檢測技術(shù)也在加速迭代，隨著“打假”技術(shù)的升級以及公眾媒介素養(yǎng)的不斷提高，相信我們會不斷接近那個最理想、最真實的信息世界。

參考文獻：

[1]中國互聯(lián)網(wǎng)絡(luò)信息中心（CNNIC）.第45次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展狀況統(tǒng)計報告》[R].2020-04-28.

[2]楊保軍.認清假新聞的真面目[J].新聞與記者，2011（2）：4-11.

[3]柯林斯詞典2019年度熱詞[EB/OL].https：//www.collinsdictionary.com/word-lovers-blog/new/collins-word-of-the-year-2019-shortlist，580，HCB.html.

[4]史安斌，王沛楠.作為社會抗爭的假新聞——美國大選假新聞現(xiàn)象的闡釋路徑與生成機制[J].新聞記者，2017（6）：4-12.

[5]S.Vosoughi.D.Roy.The Spread of True and False News Online.Science.2018.359（6380）：1146-1151.

[6]匡文波.人工智能時代假新聞的“共謀”及其規(guī)避路徑[J].上海師范大學學報，2019（4）.

[7]國家互聯(lián)網(wǎng)信息辦公室文化和旅游部國家廣播電視總局.網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定[EB/OL]. http：//www.cac.gov.cn/2019-11/29/c_1576561 820911259.htm，2019-11-29.

[8]Supasorn Suwajanakorn.視頻直播.真人的假視頻以及如何識別他們[EB/OL].TTV譯直播，https：//ttv.cn/archives/3650.

[責任編輯：楊楚珺]