黎凌　郭曦

摘要：Deepfake是人工智能的為基礎的圖像合成技術。它能復制任何人的臉到任何視頻中并且惟妙惟肖。任何技術的出現(xiàn)都是雙刃劍，好的方面是大大縮短制作周期，降低視頻制作難度和成本，顯著增強視頻呈現(xiàn)效果;另一方面技術它也帶來現(xiàn)實威脅且影響巨大，為此對Deepfake的現(xiàn)實威脅進行了研究。

關鍵詞：Deepfake;換臉;威脅;GANs;造假視頻

引言

很多人看過吳宇森的經(jīng)典之作《變臉Face/Off》?！白兡槨边@樣的效果需要大量的資金和專業(yè)團隊才能完成，而今一個人、一臺電腦、幾張照片就能實現(xiàn)。愛因斯坦幾十年前預言奉勸人們呆在家中對抗新冠病毒視頻（圖一）。但很顯然這是假的，這是位視頻特效師疫情期間一個人在家用Deepfake技術完成的假視頻。

一、Deepfake的起源

2017年末 Reddit社區(qū)一位昵稱為“Deepfakes”的用戶發(fā)布篡改過的女明星換臉色情視頻。女明星與色情的信息標簽，讓視頻迅速傳播，引起了社會軒然大波。視頻效果看起來就像那個人真的干了某些事。自此Deepfake憑借逼真換臉效果廣為人知。Reddit社區(qū)的始作俑者將自己的技術代碼開源。這項技術吸引了相當多的人前來研究并不斷“改良”并同樣公之于眾。

二、淺談Deepfake的原理

Deepfake的理論基礎GANs（生成式對抗網(wǎng)絡，論文《Generative Adversarial Nets》中提出），原理是讓兩個網(wǎng)絡相互競爭，一個網(wǎng)絡制造假圖片，一個網(wǎng)絡檢造假照片，這樣進入到相互博弈的過程，直到出現(xiàn)無法發(fā)現(xiàn)破綻的圖片。

更形象的比喻，生成器是造假幣的犯罪分子，而判別器是警察，犯罪分子不斷造出假幣，警察鑒別發(fā)現(xiàn)各種漏洞，這樣就迫使犯罪分子不斷提高造假手段最終造出一張無限接近真實的假幣。這也就是GANs的核心目的，從數(shù)據(jù)中生成全新樣本。

三、Deepfake的現(xiàn)實威脅

1.Deepfake帶來的影響首當其沖指向女性

報告《DeepFake現(xiàn)狀：前景、威脅和影響》指出，互聯(lián)網(wǎng)96% Deepfake視頻是色情視頻，目標是女星。波士頓大學教授 Danielle Citron 曾表示，“Deepfakes 已經(jīng)成為了攻擊女性的武器。"

普通女性面對的困擾不這么簡單，造假視頻讓她們很有可能面對敲詐、報復、惡意誹謗等財產(chǎn)和名譽風險行為。

2.deepfake技術被應用到灰色地帶甚至犯罪

在國內(nèi)給一百多元，提供一張照片，就可以讓任何人成為小視頻的主角。之前這樣的活動是要在暗網(wǎng)中的交易，而今滲透進國內(nèi)知名二手交易平臺。這讓每一個普通人的利益都有可能受損，因為你不知道自己哪天就“火”在微信群中。

更加嚴重的是，媒體報道國外一家公司的多名員工就已經(jīng)被Deepfake制作的CEO假聲音，詐騙多達22萬歐元的資金。Deepfake技術的引入，讓犯罪分子手中的造假人像，造假語音等難以辨別，也令犯罪活動更加難以偵查，難以防御，難以反擊。

3.Deepfakes 技術在政治、安全等方面的影響是巨大深遠的

“無論是視頻音頻，還是文本，我們社會依賴和信任的多個數(shù)字通信渠道都已遭到了顛覆?！币晃谎芯空呷缡钦f道。2018 年，非洲加蓬總統(tǒng) Ali Bongo因為患上嚴重的中風而消失。但政府封鎖了消息，他的消失引發(fā)了社會的不安和某些人的躁動。為了消解人們的疑慮和懷疑，政府公布利用Deepfake制作的 Ali Bongo 錄制的新年致辭的視頻。反而引發(fā)更大的疑慮，軍方甚至以此為借口出動軍隊發(fā)動政變。

這事件表明Deepfake技術在政治活動中已經(jīng)被使用，影響效果巨大到可以破壞某些政治進程改寫一個國家的歷史。

四、Deepfake技術泛濫的應當引起重視

目前涌現(xiàn)了大量人臉fake的軟件，如FakeApp、ZAO等等。使用者甚至完全不需要技術背景，技術“小白”可以輕松使用。

Deepfake的巨大威力讓很多人坐立不安，美國共和黨參議員盧比奧，就曾將Deepfake與核武器相提并論。

盡管大家不都認同他的看法，但這仍舊引起廣泛的關注。2019年6月美國眾議院提出法案打擊Deepfake濫用 。同年9月，F(xiàn)acebook、微軟聯(lián)合舉辦deepfake識別競賽，而早在2018年谷歌發(fā)布大型數(shù)據(jù)集打擊deepfake濫用。上述的外國政企界應對措施，deepfake的危害更應該引起我們的警醒。

五、結束語

時間已經(jīng)來到2020年，由于新冠疫情的影響，正在深刻的塑造著當今以及未來的世界格局，這其中免不了一番國與國之間明爭暗斗。而這樣的技術我們也應當加緊制定法規(guī)來約束其發(fā)展。正如老祖宗告訴我們的：害人之心不可有，防人之心不可無。

參考文獻

[1]Ian Goodfellow .[1406.2661] Generative Adversarial Networks，2014.

[2]Deep Trace Labs .The State of Deepfakes： Landscape，Threats， and Impact 2019-09.

[3]孫妍，李玉洋.閑魚涉黃，花150元就能把你的臉安在色情視頻里.2020-08-14

http：//www.it-times.com.cn/a/hulianwang/2020/0814/32485.html.

[4]PingWest. DeepFake“換臉視頻”：當你的頭出現(xiàn)在A片演員身體上，2019-01-07

https：//tech.sina.com.cn/it/2019-01-07/doc-ihqhqcis3799077.shtml.

[5]伍文靚. AI 大毒瘤：96% 的 Deepfakes 視頻涉及色情，還攪動多國政局，2019-10-15

https：//www.leiphone.com/news/201910/6GlP2CNmf9I96Wu8.html.

作者簡介

黎凌（1989.12-），男，漢族，籍貫廣西柳州，本科，助理工程師，研究方向：信息安全。