劉建明
【摘要】生成對(duì)抗網(wǎng)絡(luò)偽造的假新聞與視頻,正在操縱美國(guó)及多國(guó)媒體,成為人類的公害。深度偽造引起人們對(duì)假信息的擔(dān)憂,對(duì)好戰(zhàn)分子可能利用假視頻引發(fā)世界大戰(zhàn)或核戰(zhàn)爭(zhēng)充滿恐懼。AI技術(shù)的魔獸一旦被放出籠子,對(duì)媒體的威脅已難以遏制,大量媒體的新聞專業(yè)精神已被無(wú)情地劫持。
【關(guān)鍵詞】深度偽造;換臉技術(shù);媒體的迷途;人類的公害
美國(guó)大量媒體以炮制假消息而聞名于世,AI技術(shù)又給其瘋狂造假帶來(lái)法力。2020年4月26日晚,特朗普在Twitter上轉(zhuǎn)發(fā)了拜登“伸出舌頭,支支吾吾地胡言亂語(yǔ)”一通的視頻,諷刺競(jìng)選對(duì)手的愚笨無(wú)能。依照推特的規(guī)定,他不得不在視頻旁貼上“深度偽造”(deepfake)的標(biāo)簽。[1]深度偽造技術(shù)從業(yè)余愛(ài)好的實(shí)驗(yàn),演變?yōu)槊襟w造假的手段,已成為美國(guó)媒體危險(xiǎn)的工具。美眾議院情報(bào)委員會(huì)主席亞當(dāng)·希夫(Adam? Schiff)警告說(shuō),深度造假“讓惡意行動(dòng)者煽動(dòng)混亂、分裂或危機(jī),有能力擾亂整個(gè)競(jìng)選活動(dòng),包括總統(tǒng)競(jìng)選”[2]?!吧疃葌卧臁币鹈癖姾驼绲膿?dān)憂,對(duì)以假亂真的消息和緋聞深感震驚。據(jù)英國(guó)《連線》(Wired)雜志報(bào)道,自2020年7月以來(lái),至少有10萬(wàn)多名女性被深度偽造創(chuàng)建了裸照,嚴(yán)重侵害了他人的隱私和名譽(yù)。
一、深度偽造技術(shù)的出爐
“深度偽造”是2014年由在蘋果公司工作的伊恩·古德費(fèi)羅(Ian? Goodfello)為核心的小組發(fā)明的。[3]他利用多種樣本和數(shù)據(jù),采用相互檢驗(yàn)和匡糾模型,把不同人的身體與面孔嫁接,轉(zhuǎn)而生成一個(gè)新的“真實(shí)”而活生生的視頻。這種技術(shù)是信息組構(gòu)和驗(yàn)證其真假度的兩種數(shù)據(jù)程序的產(chǎn)物,難以發(fā)現(xiàn)其造假的痕跡。據(jù)英國(guó)《衛(wèi)報(bào)》報(bào)道,Deepfake一詞起源于2017年12月,一位自稱“deepfakes”的用戶制作了名為《神奇女俠》的假視頻,將著名演員的臉貼在他人裸體上,以展示淫穢表演賺取流量。社交網(wǎng)站傳播這類視頻或圖片,使換臉技術(shù)越來(lái)越逼真、生動(dòng)和無(wú)所不能,報(bào)刊刊載這類圖片并附加文字說(shuō)明,種種變態(tài)被渲染得越發(fā)透徹。[4]基于AI技術(shù)的深度偽造,把若干真實(shí)的視頻與音頻疊加與整合,制作出逼真的虛擬作品,精妙的換臉技術(shù)成為超凡入勝的絕技。
深度偽造還可將人臉從一種性別變形到另一種性別,建模于深度模仿(Deep? learning,又譯為深度學(xué)習(xí))的數(shù)據(jù)程序,改變?nèi)宋锩娌康难凵窈托θ?。整個(gè)過(guò)程通過(guò)生成器(generator)和鑒別器(discriminator)的對(duì)證,在兩個(gè)數(shù)據(jù)網(wǎng)絡(luò)的對(duì)質(zhì)中生成新信息(Generative? Adversarial? Network)。鑒別器不斷驗(yàn)證生成器新信息的罅漏,逐漸使新信息達(dá)到完全真實(shí),當(dāng)鑒別器不能識(shí)別虛擬信息與真實(shí)示例的區(qū)別時(shí),一件嚴(yán)絲合縫的偽造品就出爐了。生成器作為發(fā)出受控指令的神經(jīng)網(wǎng)絡(luò)(又稱為前饋),經(jīng)過(guò)鑒別器的多次反饋逐步改善其象形數(shù)據(jù)的輸出,新的合成信息就越加逼真。在廣泛采樣基礎(chǔ)上的這種模擬過(guò)程,使偽造的視頻在真假信息節(jié)點(diǎn)的對(duì)抗中走向匹配,所以國(guó)內(nèi)通常把 Generative Adversarial Network(GAN)譯為生成對(duì)抗網(wǎng)絡(luò)。
伊恩·古德費(fèi)羅和他的同事在2014年的論文中,最早介紹了生成對(duì)抗網(wǎng)絡(luò)的原理。他使用十幾個(gè)數(shù)學(xué)公式計(jì)算生成器信息函數(shù)輸出的差異,使其達(dá)到最小化,而鑒別器測(cè)試數(shù)據(jù)的差異又力求最大化,讓生成的偽造信息完全符合實(shí)例的原貌。[5]生成對(duì)抗網(wǎng)絡(luò)構(gòu)成自動(dòng)編碼器,不斷調(diào)整與場(chǎng)景、年齡和性別相關(guān)的參數(shù),讓人物特別是政治人物說(shuō)出他們?cè)诂F(xiàn)實(shí)中沒(méi)有說(shuō)的話,展示他們不曾有過(guò)的動(dòng)作。
音頻風(fēng)格在生成對(duì)抗網(wǎng)絡(luò)中隨同視頻轉(zhuǎn)換為頻譜圖,以相應(yīng)的時(shí)長(zhǎng)和頻率表現(xiàn)聲音的強(qiáng)度。當(dāng)音頻信號(hào)嵌入固定的視頻中,并同人物的口型相吻合,一則偽造人物說(shuō)話的視頻便活起來(lái)。生成器結(jié)構(gòu)作為卷積神經(jīng)網(wǎng)絡(luò)①,把一個(gè)說(shuō)話者的聲音變成另一個(gè)說(shuō)話者的聲音,或把一段樂(lè)曲從古典音樂(lè)轉(zhuǎn)換成爵士樂(lè),甚至能偽造大眾歡呼的場(chǎng)面,使逼真的景象歷歷在目。2020年2月,《時(shí)代》雜志網(wǎng)站使用深度偽造技術(shù),重現(xiàn)了馬丁·路德·金在1963年6月28日發(fā)表《我有一個(gè)夢(mèng)想》的演講場(chǎng)景,許多用戶再次目睹了這個(gè)偉大歷史的一幕。
深度偽造最初流行于娛樂(lè)、電影和廣告制作,隨著技術(shù)進(jìn)步達(dá)到難以察覺(jué)其虛假的程度,越來(lái)越被用于新聞報(bào)道,干預(yù)現(xiàn)實(shí)的政治生活。一些網(wǎng)站和電視臺(tái)不斷聲明使用深度偽造技術(shù),并不是要造謠生事、蠱惑受眾,而是要塑造和改善娛樂(lè)與政治的公共形象,正如有的媒體人所說(shuō):“我們從未打算讓我們的軟件幫助用戶傳播錯(cuò)誤信息,我們只是想提高一下自己的能力?!薄拔覀儧Q定了一些基本規(guī)則:將在程序中專注于制作特定的基模,而不是在背景之外深度造假。只要是娛樂(lè)活動(dòng),而且是在米姆文化②范圍內(nèi),我們的內(nèi)容不會(huì)越過(guò)禁區(qū)?!盵6]最近兩年,這項(xiàng)技術(shù)已經(jīng)被不道德地使用,在英美引起廣泛爭(zhēng)議?!皬?016年起,生成對(duì)抗網(wǎng)絡(luò)開(kāi)始出現(xiàn)在新聞文本中,并進(jìn)入公眾意識(shí),引起人們對(duì)‘越來(lái)越真實(shí)的假新聞和媒體操縱問(wèn)題產(chǎn)生擔(dān)憂。”[7]魔獸一旦被放出籠子,對(duì)媒體的威脅已無(wú)法遏制,新聞專業(yè)精神也被無(wú)情地劫持。
二、美國(guó)媒體深度偽造的泛濫
deepfakes最早是為傳播色情而開(kāi)發(fā)的,多用于騷擾女性,將她們的臉轉(zhuǎn)換成色情視頻。在第一個(gè)深度造假程序發(fā)布不久,美國(guó)紅迪網(wǎng)(Reddit)就充斥了以名人和政客為主角的假視頻。蓋蒂圖片社最新分析顯示,每個(gè)月都有數(shù)以千計(jì)的女明星、女演員和女音樂(lè)家為主角的“露點(diǎn)”假視頻被上傳到全球最大的色情網(wǎng)站上,每條未經(jīng)當(dāng)事人同意的視頻獲得幾百萬(wàn)流量,色情網(wǎng)站從未將其刪除。
在世界最大的三家色情網(wǎng)站XVideos、Xnxx和xHamster上,深度造假視頻一個(gè)月內(nèi)就被觀看數(shù)百萬(wàn)甚至上千萬(wàn)次,其訪問(wèn)量在整個(gè)互聯(lián)網(wǎng)界排名前十。這些被廣告包圍著的色情視頻,幫助美國(guó)這些網(wǎng)站賺錢,遠(yuǎn)遠(yuǎn)超過(guò)亞馬遜和紅迪網(wǎng)。全球首家視覺(jué)威脅檢測(cè)公司(Sensity)首席執(zhí)行官兼首席科學(xué)家喬治·帕特里尼(Giorgio Patrini)說(shuō),該公司最近更名為“深度追蹤”(DeepTrace)公司,“除非有一個(gè)強(qiáng)有力的理由讓色情網(wǎng)站關(guān)閉并過(guò)濾它們,否則我堅(jiān)信什么都不會(huì)發(fā)生”?!叭藗?nèi)匀豢梢宰杂缮蟼鬟@類材料,不會(huì)給數(shù)億人瀏覽的網(wǎng)站造成任何后果?!奔热蝗绱?,大量色情網(wǎng)站已經(jīng)肆無(wú)忌憚地使用明星的臉造假,使網(wǎng)上色情波濤洶涌地蔓延開(kāi)來(lái)。好萊塢女演員克里斯汀·貝爾(Kristen Bell)說(shuō),當(dāng)她第一次發(fā)現(xiàn)“偽造”用的是她自己的臉,感到十分驚訝?!凹词官N上‘哦,這不是她的標(biāo)簽,也很難想象我被人無(wú)償?shù)貏兿髁恕?。[8]
美國(guó)網(wǎng)絡(luò)上的“偽造品”呈指數(shù)級(jí)增長(zhǎng),2019年7月有14678個(gè)假視頻,其中96%是色情內(nèi)容,到2000年6月已攀升至49081件。多數(shù)假色情是在特定社區(qū)中發(fā)現(xiàn)的,并由這些社區(qū)創(chuàng)建,僅四大假色情網(wǎng)站的瀏覽量就超過(guò)1.34億。[9]Pornhub網(wǎng)站發(fā)布的數(shù)據(jù)顯示,它在2018年的總訪問(wèn)量達(dá)到335億,平均每天訪客有9200萬(wàn)。幾年中他們總共上傳了479萬(wàn)個(gè)假視頻,消耗了4403PB流量??▋?nèi)基國(guó)際和平基金會(huì)網(wǎng)絡(luò)政策倡議研究員喬恩·貝特曼(Jon Bateman)表示:“深度偽造作品的獨(dú)特之處在于,視聽(tīng)元素對(duì)我們心理的影響比其他類型的媒體更大。即使在被揭穿后,社交媒體上這些‘廉價(jià)偽造品(Cheapfakes)或‘低俗偽造品(shallowfakes)也能改變公眾的看法。”人工智能使媒體得心應(yīng)手地操縱假新聞,讓任何人都能接觸到它,對(duì)公眾輿論的影響很容易達(dá)到使用者的目的。
當(dāng)深度偽造用于政治人物,作為美國(guó)兩黨互毆的手段,卻成為公眾嘲笑政客品德卑劣的游戲。當(dāng)年特朗普戰(zhàn)勝希拉里成為總統(tǒng)進(jìn)入白宮,2017年網(wǎng)上流傳一段二人對(duì)跳迪斯科舞的視頻,“朗君與希妹”笑容可掬或似笑非笑地互拋飛眼,扭動(dòng)腰肢,你來(lái)我往,看后讓人樂(lè)不可支。2019年5月24日下午5:36,特朗普在推特上發(fā)布了眾議院議長(zhǎng)佩洛西一段經(jīng)過(guò)編輯的視頻,同時(shí)發(fā)表了“佩洛西在新聞發(fā)布會(huì)上口吃結(jié)巴”的推文。視頻當(dāng)晚在??怂怪鞒秩硕嗖妓沟墓?jié)目上播放,佩洛西在說(shuō)出“監(jiān)護(hù)”和“邊界”等詞時(shí)哆哆嗦嗦,話語(yǔ)含糊其辭,似乎喝醉了。這段偽造視頻在網(wǎng)上瘋傳很長(zhǎng)時(shí)間。[10]美國(guó)麻省理工學(xué)院亞歷山大·阿米尼博士在2020年深度模仿入門課程的開(kāi)幕式上,播放了他制作的一段視頻:他邀請(qǐng)了前總統(tǒng)奧巴馬參加培訓(xùn)班。奧巴馬在視頻中說(shuō):“深度模仿正在改變很多領(lǐng)域,從機(jī)器人到醫(yī)學(xué),以及介于兩者之間的一切。我通過(guò)視頻會(huì)議參加了這個(gè)課程的學(xué)習(xí)。”最后奧巴馬說(shuō):“事實(shí)上我沒(méi)有參加這次培訓(xùn),我被偽造了,這段視頻是用深度模仿和人工智能創(chuàng)建的?!碑?dāng)場(chǎng)的觀眾才恍然大悟,要不是“奧巴馬”自我揭穿偽造,人們還以為他真的參加了這次培訓(xùn)。
美國(guó)共和黨和民主黨互撕其恥、互泄仇恨,常用深度偽造相互挖坑,對(duì)大眾了解政治真相構(gòu)成翳障。在2020年末總統(tǒng)大選中,為了阻止計(jì)票,特朗普和他的盟友在推特上發(fā)布了一段陰謀論的視頻:有人焚燒投給特朗普的選票。這段誤導(dǎo)視頻被推特刪除后,特朗普的盟友又拋出另一段假視頻,好像拜登承認(rèn)選民造假,共和黨國(guó)會(huì)議員格林上傳“拜登正在努力防止選民欺詐”的情節(jié),渲染選舉舞弊是如何在幕后策劃的。經(jīng)??怂剐侣勚鞑グ@锟瞬コ龊?,又發(fā)布在YouTube特朗普的主頁(yè)上,讓更多的人對(duì)總統(tǒng)選舉的合法性產(chǎn)生懷疑。
三、傳授深度偽造技術(shù)的美國(guó)網(wǎng)站
問(wèn)題的嚴(yán)重性還在于,美國(guó)有多個(gè)網(wǎng)站公開(kāi)向大眾傳授視頻偽造技術(shù),只要掌握了這套程序,任何人在電腦上都可制作不同程度的“深度偽造”品。格蕾絲·溫德海姆(Grace Windheim)大學(xué)畢業(yè)后在舊金山創(chuàng)業(yè)公司Kapwing擔(dān)任內(nèi)容創(chuàng)作員,負(fù)責(zé)管理YouTube頻道。2020年8月初,她在谷歌Trends網(wǎng)站上發(fā)現(xiàn)了一個(gè)“Baka Mitai”的假唱視頻,事后在YouTube上找到了這個(gè)造假程序,不到一天,她就將這首歌與視頻同步編制了一個(gè)新版本教程。她發(fā)布視頻說(shuō):“制作這些深度造假作品并疊加音頻不像你想得那么復(fù)雜,深度造假用于娛樂(lè)和惡搞之間有一條微妙的界限。在本教程中,我想說(shuō)的是,‘你如何制作這款特殊的深度假唱,但可怕的是,這種腳本可以用來(lái)制作任何你想要的深度偽造?!盵11]溫德海姆這個(gè)deepfake程序,在2020年末已經(jīng)獲得超過(guò)1.2億的點(diǎn)擊量。
深度偽造正在美國(guó)興起,在其他國(guó)家的媒體上也在陸續(xù)出現(xiàn),一些網(wǎng)站紛紛向用戶傳授深度偽造技術(shù),用戶對(duì)制作假視頻感到非?!罢鎸?shí)”和“好玩”。這類偽造品并非都用于丑化、歪曲或攻擊某人,很多人用其復(fù)活歷史、動(dòng)態(tài)美術(shù)、自我欣賞或醫(yī)學(xué)研究。只要有圖片或視頻資料,人們就可再現(xiàn)栩栩如生的場(chǎng)景,讓文物活起來(lái),甚至使“蒙娜麗莎”說(shuō)話或發(fā)出笑聲。許多用戶對(duì)機(jī)器模仿、圖像識(shí)別和計(jì)算機(jī)視覺(jué)發(fā)生濃厚興趣,紛紛尋找專業(yè)網(wǎng)站學(xué)習(xí)深度造假技術(shù),一時(shí)機(jī)器偽造軟件在美國(guó)“洛陽(yáng)紙貴”。
據(jù)美國(guó)學(xué)者比保姆·斯塔夫(Beebom Staff)介紹,美國(guó)有八個(gè)網(wǎng)站傳授偽造技術(shù)名聲在外,掌握了它們的制假程序,輕而易舉就會(huì)使用換臉技術(shù),這八個(gè)網(wǎng)站深受用戶歡迎。[12]它們分別是:(1)Deepfakes web β(深假網(wǎng)β)。瀏覽和掌握該網(wǎng)站的造假技術(shù),每小時(shí)付費(fèi)兩美元。(2)AvengeThem(復(fù)仇者聯(lián)盟網(wǎng)),創(chuàng)建靜態(tài)3D人臉模型,訪問(wèn)和學(xué)習(xí)該網(wǎng)站的技巧無(wú)須付費(fèi)。(3)Reface(修臉網(wǎng)),展示一個(gè)名為Doublicat的深度偽造程序,指導(dǎo)人們制作有趣的表情包,幾秒鐘就可把一張臉疊加到“動(dòng)圖”上。用戶可以免費(fèi)使用這套程序,但程序內(nèi)難度大的技術(shù)需要用戶付費(fèi)購(gòu)買。(4)MachineTube(機(jī)器筒網(wǎng)),開(kāi)發(fā)了一款Fake App桌面應(yīng)用程序,只要用戶有一個(gè)帶有高端GPU的電腦就能做出深度偽造視頻。在該網(wǎng)站學(xué)習(xí)Fake App不收費(fèi)。(5)DeepFaceLab(深臉實(shí)驗(yàn)室網(wǎng)),推出一個(gè)Windows程序,指導(dǎo)用戶創(chuàng)建深度假視頻,無(wú)須付費(fèi)。(6)Deep Art(深厚藝術(shù)網(wǎng))在2020年11月開(kāi)發(fā)了一款走紅的應(yīng)用軟件,根據(jù)古代建筑、繪畫和歷史遺跡,將任何圖片變成活的藝術(shù)品,諸如梵高、達(dá)·芬奇、米開(kāi)朗基羅、畢加索等畫家的作品都可制成“動(dòng)態(tài)”畫面。選擇這家網(wǎng)站學(xué)習(xí),免費(fèi)安裝Android/iOS(移動(dòng)操作系統(tǒng)),但程序內(nèi)的高超技術(shù)仍需付費(fèi)。(7)Face Swap(換臉網(wǎng))不僅是一款深度造假的應(yīng)用程序,還能產(chǎn)生3D效果。安裝Android免費(fèi),安裝iOS需付0.99美元。(8)微軟Face Swap網(wǎng),是微軟公司開(kāi)發(fā)的一款應(yīng)用程序,使用圖像識(shí)別技術(shù)交換人臉,強(qiáng)大的引擎可讓用戶瞬間換臉,不留任何瑕疵。如果用戶對(duì)結(jié)果不滿意,可以調(diào)整膚色、亮度和轉(zhuǎn)頭等動(dòng)作,還可改變用戶的發(fā)型、服裝和動(dòng)畫場(chǎng)景。
用戶用這款技術(shù)自我拍照,興致勃勃地上傳網(wǎng)絡(luò)留影紀(jì)念,個(gè)個(gè)樂(lè)不思蜀。美國(guó)人普遍認(rèn)為,媒體沒(méi)有理由過(guò)濾、刪除這類假視頻,正如xHamster網(wǎng)站副總裁亞歷克斯·霍金斯(Alex Hawkins)所說(shuō),“本公司對(duì)深度偽造沒(méi)有具體政策,像對(duì)待其他非雙方同意的內(nèi)容一樣對(duì)待它們”。“我們完全理解人們對(duì)深度偽造的憂慮,有人如果提出刪除的要求,經(jīng)過(guò)審查被認(rèn)定假視頻確實(shí)沒(méi)有經(jīng)過(guò)本人同意,我們就把它移除?!盵13]深度偽造檢測(cè)公司Sensity提供的數(shù)據(jù)顯示,2020年前8個(gè)月每月有多達(dá)1000個(gè)深度偽造視頻上傳到色情網(wǎng)站,并向主流媒體擴(kuò)散。大量媒體對(duì)深度偽造愛(ài)不釋手,已經(jīng)身陷招搖撞騙的迷途,不再是人類生存環(huán)境的守望者。
四、深度偽造的危害與社會(huì)風(fēng)險(xiǎn)
偽造技術(shù)引發(fā)美國(guó)人更大的擔(dān)憂是,它被用來(lái)操縱政治,威脅社會(huì)與人類安全?!渡疃葌卧炫c信息啟示錄》的作者尼娜·??耍∟ina Schick)認(rèn)為,美國(guó)的信息生態(tài)系統(tǒng)正陷入腐敗,敵對(duì)玩家利用深度偽造這種腐敗方式給媒體造成嚴(yán)重威脅。她在2020年寫道:“視頻長(zhǎng)期以來(lái)被認(rèn)為是最無(wú)可指責(zé)的證據(jù),但是現(xiàn)在完全利用人工智能來(lái)造假,偽造品很快就能唾手可得。好萊塢女明星已經(jīng)成為深度造假色情作品的對(duì)象,她們的身份被竊取,并被用于有辱人格的目的。在未來(lái),我們無(wú)法辨別什么是真實(shí)的,什么不是?,F(xiàn)任美國(guó)總統(tǒng)是一個(gè)喜歡使用‘假新聞的法西斯分子,很快我們可能會(huì)發(fā)現(xiàn)自己被一個(gè)能夠成功部署假新聞的法西斯分子所統(tǒng)治?!盵14]
深度偽造引發(fā)的假新聞激起人們嚴(yán)重的關(guān)切,尤其在2020年美國(guó)總統(tǒng)選舉中許多新聞讓人不敢相信。正如美國(guó)作家H.蘿莉所說(shuō),我們進(jìn)入深度造假時(shí)代,深度造假是一種合成媒介。它可以是圖像,也可以是視頻或文本,都是人工智能生成的。“我們現(xiàn)在生活在一個(gè)相當(dāng)瘋狂的時(shí)代,人類正面臨著巨大的挑戰(zhàn)。如果你試圖通過(guò)研究雙方的信息和論點(diǎn)建立一個(gè)有見(jiàn)地的觀點(diǎn),你會(huì)有一個(gè)令人沮喪的發(fā)現(xiàn),雙方對(duì)事實(shí)和現(xiàn)實(shí)的解釋似乎完全不同。雙方都認(rèn)為自己看到的東西是正確的,他們不是產(chǎn)生幻覺(jué)或瘋狂,就是一種純粹的邪惡?!盵15]新聞人對(duì)假新聞防不勝防,無(wú)法識(shí)別、無(wú)法審核,真?zhèn)坞y辨,媒體的權(quán)威性可能一落千丈。南卡羅萊納大學(xué)新聞與大眾傳播學(xué)院院長(zhǎng)安德里亞·??松ˋndrea Hickerson)說(shuō):“在最基本的層面,深度偽造是偽裝真相的謊言,如果我們把它們當(dāng)作真理或證據(jù),我們很容易得出錯(cuò)誤的結(jié)論,從而可能帶來(lái)災(zāi)難性的后果?!薄白蠲黠@的例子是,像特朗普那樣的政客最廣泛地使用這項(xiàng)技術(shù)進(jìn)行自我宣傳,讓廣大用戶分享他們精心制作的謠言。盡管它是膚淺的贗品并很快會(huì)被揭穿,但人們?nèi)匀幌嘈潘??!比斯ぶ悄芄綡ypergiant Industries的首席執(zhí)行官本·拉姆表示:“問(wèn)題不一定在于GAN技術(shù)。問(wèn)題是,壞人目前擁有巨大的優(yōu)勢(shì),而且媒體沒(méi)有適當(dāng)?shù)慕鉀Q方案來(lái)應(yīng)對(duì)日益增長(zhǎng)的威脅。deepfakes變得如此嚴(yán)重,即使提出了解決這一問(wèn)題的辦法也為時(shí)已晚?!盵16]
如果任何東西都可以被偽造,包括現(xiàn)實(shí)客觀存在的證據(jù),那么一切都可以被否認(rèn),人們的道德將淪喪得無(wú)法挽救。這是因?yàn)椤吧疃仍旒偎坪鯐?huì)帶來(lái)三種主要的危險(xiǎn)。第一種是,虛假的媒體貶低人們的智商,讓受眾產(chǎn)生錯(cuò)誤行為,給人們?cè)斐芍苯訐p害。第二種可以說(shuō)是更嚴(yán)重的一種,當(dāng)我們都覺(jué)得自己無(wú)法再相信任何事情時(shí),我們可能變得冷漠,拒絕承擔(dān)任何社會(huì)和公民義務(wù),或者基于完全的謊言做出糟糕的選擇。第三,當(dāng)任何事情都可以被令人信服地偽造時(shí),撒謊者很容易找到欺騙的機(jī)會(huì)和逃脫的理由?!盵17]
許多人敲響另一個(gè)警鐘:深度造假正在滲入金融領(lǐng)域,支付業(yè)務(wù)出現(xiàn)難以識(shí)破的騙局。美國(guó)聯(lián)邦貿(mào)易委員會(huì)報(bào)告稱,音頻深度造假很容易實(shí)施財(cái)務(wù)欺詐。2019年早些時(shí)候,一家公司的CEO被AI產(chǎn)生的聲音欺騙,將24.3萬(wàn)美元轉(zhuǎn)入他認(rèn)為是公司供應(yīng)商的銀行賬戶上,事后才知道他被騙了。同年一家英國(guó)能源公司向詐騙分子轉(zhuǎn)移了20萬(wàn)英鎊,犯罪分子利用深度造假技術(shù)在電話中冒充德國(guó)母公司的首席執(zhí)行官。求知網(wǎng)站公司(KnowBe4)非洲內(nèi)容戰(zhàn)略高級(jí)副總裁安娜·科拉德補(bǔ)充說(shuō),犯罪分子以深度偽造很容易竊取他人賬戶,這類軟件預(yù)計(jì)在2021年會(huì)繼續(xù)增長(zhǎng),操縱人們支付的手段將更加狡猾。“手機(jī)銀行木馬和惡意應(yīng)用程序普遍增多,加上手機(jī)用戶缺乏防范意識(shí),金融犯罪將容易得手?!盵18]
2019年一款名為“ZAO”的換臉App(應(yīng)用程序)在我國(guó)網(wǎng)絡(luò)火爆,不少網(wǎng)友在朋友圈、微博上分享自己換臉后的短視頻。9月3日,工信部約談“ZAO”App相關(guān)負(fù)責(zé)人,要求其開(kāi)展自查整改。[19]“換臉”技術(shù)嚴(yán)重威脅用戶的信用安全,收集、加工、存儲(chǔ)和擴(kuò)散人臉信息給人的生存帶來(lái)巨大風(fēng)險(xiǎn)。在“刷臉”廣泛用于生活的多種場(chǎng)景的今天,換臉技術(shù)已成為人類公害,用戶的面部信息一旦被盜用,人們?cè)凇皝G臉”之后,隨之可能存款被盜、被誣陷,喪失了清白和信譽(yù)。
美國(guó)和平人士中還充斥另一種恐懼,即深度偽造一旦被好戰(zhàn)分子利用,很可能引發(fā)世界大戰(zhàn)或核戰(zhàn)爭(zhēng)。他們想象,用戶使用多國(guó)軍隊(duì)演習(xí)的視頻制作若干國(guó)家對(duì)另幾個(gè)國(guó)家發(fā)動(dòng)軍事進(jìn)攻,攜帶核彈頭的導(dǎo)彈紛紛發(fā)射,飛向敵對(duì)大國(guó)。社交媒體一旦傳播這樣的假視頻,可能引起遭受進(jìn)攻的國(guó)家發(fā)起反擊,一場(chǎng)烈焰沖天的人類浩劫就將降臨。2018年初,美國(guó)夏威夷緊急事務(wù)管理局的一名員工因失誤向公眾發(fā)出關(guān)于核彈來(lái)襲的公告,短時(shí)間內(nèi)引發(fā)巨大騷亂。[20]如果不法分子利用深度偽造發(fā)布類似虛假信息,社交媒體就成為戰(zhàn)爭(zhēng)的導(dǎo)火索,給一個(gè)國(guó)家以至全人類造成慘重的災(zāi)難。在一國(guó)之內(nèi),極端分子利用媒體發(fā)布偽造信息,進(jìn)行暴力和恐怖煽動(dòng),一些民眾很容易被裹挾進(jìn)去,給社會(huì)帶來(lái)嚴(yán)重的惡果。網(wǎng)絡(luò)平臺(tái)傳播此類信息引發(fā)暴亂,必然要承擔(dān)罪責(zé),深度偽造對(duì)媒體的嚴(yán)重危害,讓媒體時(shí)時(shí)都命懸一線。
深度偽造正在迅速向歐洲、印度、南美和日本擴(kuò)散,不僅演藝明星、政界、企業(yè)家被污名化或遭受欺詐,普通民眾也可能遭到誣陷,甚至被拖進(jìn)“犯罪”的泥淖。巴西某些媒體不僅用深度偽造傳播色情視頻,而且編造政治家的虛假活動(dòng),引起許多人的恐慌。2019年7月25日,證人(WITNESS)媒體工作室在巴西圣保羅舉辦了一場(chǎng)名為“預(yù)防深度造假和合成媒體”的會(huì)議,討論如何應(yīng)對(duì)智能造假對(duì)國(guó)家的潛在威脅。日本櫻美林大學(xué)平和博教授說(shuō):“AI換臉技術(shù)目前以超高性能的速度發(fā)展,以前需要100張照片才能做到以假亂真的換臉,現(xiàn)在只需要一張即可,因?yàn)檫@一技術(shù)被泛濫使用,換臉侵權(quán)的犯罪案件已經(jīng)不僅僅局限于名人,連一般人也成為犯罪分子的目標(biāo)?!盵21]
五、防范深度偽造的荊棘之路
許多美國(guó)人抵制深度偽造的呼聲正在高漲,從公眾、科技公司到政府機(jī)構(gòu)都提出媒體要把傳播偽造品列為職業(yè)禁忌。研究者一致認(rèn)為,預(yù)防深度偽造首先需要受眾的獨(dú)立思考,不斷提高媒介素養(yǎng),對(duì)社會(huì)現(xiàn)象要有敏銳的辨別力。??松ˋndrea Hickerson)說(shuō):“保護(hù)自己不被深度偽造欺騙的最好方法是永遠(yuǎn)不要只看表面現(xiàn)象,不能假設(shè)眼見(jiàn)為實(shí)。一般來(lái)說(shuō),人們?cè)谏缃幻襟w上分享的東西都很草率,一旦看到它,應(yīng)該想想它是從哪里來(lái)的,誰(shuí)或什么是原始來(lái)源?”[22]
科技被用于做壞事,最好由科技的正面用途來(lái)消除,美國(guó)有些科技研究機(jī)構(gòu)和公司正在開(kāi)發(fā)深度偽造的檢測(cè)技術(shù)。美國(guó)卡內(nèi)基梅隆大學(xué)、華盛頓大學(xué)、斯坦福大學(xué)和馬克斯·普朗克信息研究所(Max Planck Institute for Informatics)等機(jī)構(gòu)的研究人員,都在設(shè)計(jì)如何識(shí)別偽造的軟件,試圖用科技消除科技的負(fù)面作用。Facebook公司已經(jīng)撥款1000萬(wàn)美元用于檢測(cè)AI造假研究,借助區(qū)塊鏈技術(shù)追溯視頻來(lái)源,在這類視頻上傳時(shí)進(jìn)行篩選和攔截。[23]華盛頓大學(xué)和艾倫人工智能研究所的研究人員在2019年推出一款名為Grover的可控文本生成模型和一個(gè)偽文本的檢測(cè)系統(tǒng),用以揭露機(jī)器生成的“神經(jīng)假新聞”(neural fake news),但其識(shí)別真假的能力極其有限,幾乎沒(méi)有媒體采用。
有人指出,隨著技術(shù)的不斷發(fā)展會(huì)產(chǎn)生更狡猾的虛假視頻,檢測(cè)深度偽造技術(shù)也許變得無(wú)效,打擊深度偽造已經(jīng)變成一場(chǎng)貓捉老鼠的追逐?!安还芪覀冏鍪裁?,制造并操縱假視頻的人總會(huì)想出辦法?!盵24]由于人工智能的對(duì)抗性質(zhì)和誘導(dǎo)方式,當(dāng)出現(xiàn)一個(gè)足夠好的檢測(cè)器時(shí),生成模型也會(huì)隨之變得更機(jī)智,力求有效地繞開(kāi)它。在這個(gè)沒(méi)完沒(méi)了的貓捉老鼠的游戲中,只能不斷爭(zhēng)取開(kāi)發(fā)更好的檢測(cè)器,粉碎深度偽造對(duì)人類的威脅。
美國(guó)政界人士期待法律發(fā)揮作用,采取果斷措施出臺(tái)法律條文消除人類這一公害,但至今收效甚微。2019年6月12日,美國(guó)國(guó)會(huì)提出《深度偽造責(zé)任法案》(Deep fAkes Accountability Act),立法的目的是“我們需要做好準(zhǔn)備,防范外國(guó)競(jìng)爭(zhēng)對(duì)手利用深度偽造技術(shù)散布虛假信息,干涉選舉活動(dòng)”。6月28日,美國(guó)國(guó)會(huì)又通過(guò)了《2019年深度偽造報(bào)告法案》(Deepfake Report Act of 2019),要求美國(guó)國(guó)土安全部(DHS)定期發(fā)布關(guān)于深度造假技術(shù)的評(píng)估報(bào)告,回應(yīng)公眾對(duì)虛假信息負(fù)面影響的關(guān)切。2019年7月1日生效的美國(guó)弗吉尼亞州的反色情復(fù)仇修正法案,將“制作、傳播虛假的裸體或性視頻或圖像”以脅迫、騷擾或恐嚇?biāo)说男袨檎J(rèn)定為刑事犯罪。加利福尼亞州、得克薩斯州和馬薩諸塞州等也在研究出臺(tái)相關(guān)法案來(lái)規(guī)制深度偽造。[25]但美國(guó)政界至今沒(méi)有提出嚴(yán)厲懲治使用深度偽造技術(shù)的措施。
美國(guó)網(wǎng)絡(luò)技術(shù)專家愛(ài)德華·西格爾(Edward Segal)綜合政界、商業(yè)人士和數(shù)字技術(shù)專家的建議,提出防范深度偽造的七種途徑:(1)媒體要聽(tīng)取社會(huì)意見(jiàn),政府要對(duì)媒體傳播虛假信息提出警告。(2)媒體對(duì)傳播內(nèi)容要事先進(jìn)行自我評(píng)估。評(píng)估的重點(diǎn)是,哪些內(nèi)容易被誤解或掩蓋,什么樣的信息在公眾中能產(chǎn)生強(qiáng)烈的共鳴,媒體防止?jié)撛诘钠墼p存在什么弱點(diǎn)。(3)加強(qiáng)同社會(huì)各領(lǐng)域的溝通,直接與客戶、其他媒體和公眾對(duì)話,主動(dòng)發(fā)現(xiàn)網(wǎng)絡(luò)安全漏洞。(4)在信息生態(tài)系統(tǒng)中預(yù)先確立話語(yǔ)權(quán)和品牌,主動(dòng)接洽第三方驗(yàn)證者,接受驗(yàn)證機(jī)構(gòu)的批評(píng)與監(jiān)管。(5)媒體公司的員工需要經(jīng)常培訓(xùn),提高鑒別偽造信息的能力。(6)對(duì)上傳損害媒體聲譽(yù)的視頻要訴諸法律,通過(guò)法律解決問(wèn)題。(7)用戶上傳信息違反平臺(tái)的服務(wù)條款,要立即刪除。[26]
令人沮喪的是,美國(guó)大部分媒體對(duì)拒絕深度偽造猶豫不決,總是想方設(shè)法留有余地。例如,2020年2月,推特盡管宣布禁止用戶上傳“可能影響公共安全或造成嚴(yán)重傷害后果”的合成視頻,但只要標(biāo)出“偽造品”字樣,平臺(tái)是否刪除要視其后果。曾多次傳播虛假信息和仇恨言論的Facebook,拒絕從其Instagram平臺(tái)上刪除首席執(zhí)行官馬克·扎克伯格的深度偽造視頻。這是一段《華盛頓郵報(bào)》用演員的聲音篡改的真實(shí)畫面,臉書告訴CNN商業(yè)頻道,根據(jù)新的深度造假政策,該視頻不會(huì)被刪除。Facebook還曾拒絕刪除美國(guó)眾議院議長(zhǎng)南?!づ迓逦鳎∟ancyPelosi)的虛假視頻。在社會(huì)輿論的壓力下,在2020年7月,臉書不得不向社會(huì)宣布,“刪除任何違反其關(guān)于裸體、圖像暴力、壓制選民或仇恨言論規(guī)定的視頻”[27]。不久,《華盛頓郵報(bào)》設(shè)立了“媒體求證委員會(huì)”(Media Forensics Committee),負(fù)責(zé)甄別深度偽造品,在評(píng)估其危害程度后才決定是否將其清除出網(wǎng)站和版面。
顯然,深度偽造在美國(guó)媒體上興風(fēng)作浪,AI技術(shù)既無(wú)責(zé)也無(wú)罪,罪責(zé)在于使用AI技術(shù)的人及制度。美國(guó)的兩極分化充斥著社會(huì)仇恨,兩黨你死我活的相互誣陷和攻擊,以及媒體不擇手段地追求流量和利潤(rùn),是深度偽造在美國(guó)泛濫的根源。正如《人民日?qǐng)?bào)》的評(píng)論文章《AI換臉,別只顧著好玩》指出的:“技術(shù)是中立的,但使用技術(shù)的人是有立場(chǎng)的。”[28]
注 釋:
①參見(jiàn)百度百科“卷積神經(jīng)網(wǎng)絡(luò)”詞條,https://baike.baidu.com/item/卷積神經(jīng)網(wǎng)絡(luò)/17541100 ?fn=aladdin.
②參見(jiàn)百度百科“米姆文化”詞條。
參考文獻(xiàn):
[1]David Covucci,Has this clip of Biden with his tongue out destroyed the fabric of democracy? The Daily Dot,Apr 27,2020.
[2]A.B. Gray,How Deepfakes Could Literally Change the Face of Movies.Fandom,Jun 24,2019.
[3]Kristina Libby, Deepfakes Are Amazing. Theyre Also Terrifying for Our Future. Popular Mechanics,Aug 13,2020.
[4]Alex Hern, Counter hate ...The Guardian (London), 25 Jan.2018.
[5]Ian Goodfellow,Generative adversarial networks,NIPS workshop,2014.
[6]Karen Hao,Memers are making deepfakes, and things are getting weird,MIT Technology Review,Aug 28,2020.
[7]Thomas Wood,Generative Adversarial Network.https://deepai.org/.
[8]Matt Burgess,Porn Sites Still Wont Take Down Nonconsensual deepfakes,WIRED,Aug 30.2020.
[9]Matt Burgess,Porn Sites Still Wont Take Down Nonconsensual deepfakes,WIRED,Aug 30.2020.
[10]Carly Minsky,‘Deepfakevideos:to believe or not believe? The financial times,Jan 26,2021.
[11]Karen Hao,Memers are making deepfakes, and things are getting weird,MIT Technology Review,Aug 28,2020.
[12]Beebom Staff,8Best Deepfake Apps and Websites You Can Try for Fun,Beebom Media,Dec 29,2020.
[13]Matt,Burgess,Porn Sites Still Wont Take Down Nonconsensual Deepfakes,WIRED,Aug 31,2020.
[14]Mike Stafford,‘Deep Fakes and the Infocalypseby Nina Schick,faithfulpundit.co.uk,Oct 14,2020.
[15]Hi Lori,Is seeing believing?Deepfakes and the information apocalypse,Oct 25,2020.https://www.betteratenglish.com/
[16]Sam Bocetta,Deepfakes are a problem,whats the solution?AT&T Business,Aug 5,2019.
[17]Hi Lori,Is seeing believing? Deepfakes and the information apocalypse,Oct 25,2020.https://www.betteratenglish.com/
[18]Schalk Burger,KnowBe4 warns of AI,deepfakes in social engineering attacks this year.Jan 27,2021.
[19]工信部就“ZAO”App網(wǎng)絡(luò)數(shù)據(jù)安全問(wèn)題開(kāi)展問(wèn)詢約談[N].人民日?qǐng)?bào),2019-09-04.
[20]曹建峰.深度偽造技術(shù)的法律挑戰(zhàn)及應(yīng)對(duì)[J].信息安全與通信保密,2019(10):35-40.
[21]在日本的AI換臉,滋生各種問(wèn)題[EB/OL].https://www.sohu.com/a/376201060_100207483.
[22]Kristina Libby,Deepfakes Are Amazing. Theyre Also Terrifying for Our Future. Popular Mechanics,Aug 13,2020.
[23]苗爭(zhēng)鳴.可怕的“深度偽造”技術(shù)[J].世界知識(shí),2019(22):70-71.
[24]Madison Latiolas,Deepfakes,LSU Faculty Websites,Jan 2021.
[25]BBC:Virginia bans‘deepfakesand‘deepnudespornography (2019-07-02).https://www.bbc.com/news/technology-48839758
[26]Edward Segal,Deepfakes:7Ways To Guard Against This New Form Of Disinformation,F(xiàn)orbes.com,Jan 11,2021.
[27]Hadas Gold,F(xiàn)acebook tries to curb deepfake videos as 2020 election heats up ,CNN Business(2020-01-07).
[28]葉子.AI換臉,別只顧著好玩[N].人民日?qǐng)?bào)(海外版),2019-09-08.
(作者為清華大學(xué)新聞與傳播學(xué)院教授)
編校:董方曉