傅磊

深度學(xué)習(xí)作為時(shí)下最熱門的科技概念——人工智能（AI）的子概念之一，是學(xué)習(xí)樣本數(shù)據(jù)的內(nèi)在規(guī)律和表示層次，在這些學(xué)習(xí)過程中獲得的信息對(duì)諸如文字、圖像和聲音等數(shù)據(jù)的解釋有很大的幫助，其最終目標(biāo)是讓機(jī)器能夠像人一樣具有分析學(xué)習(xí)能力，能夠識(shí)別文字、圖像和聲音等數(shù)據(jù)。目前正被廣泛地運(yùn)用于通訊、工業(yè)制造、交通、金融、醫(yī)藥、傳媒、娛樂等各行業(yè)。生活中，人們可以利用深度學(xué)習(xí)的人臉識(shí)別進(jìn)行身份認(rèn)證和便捷支付等行為，一度使其被奉為科學(xué)技術(shù)的又一次革命。然而，前段時(shí)間“明星換臉”技術(shù)于社交媒體的爆紅，引發(fā)了巨大的社會(huì)爭(zhēng)議?！吧疃葌卧臁笔抢蒙疃葘W(xué)習(xí)技術(shù)中的“對(duì)抗生成網(wǎng)絡(luò)”模型形成的智能視頻處理技術(shù)，“明星換臉”則是該技術(shù)最為典型的應(yīng)用。利用該技術(shù)基于娛樂或其他目的偽造的政客演講、電影片段等足以以假亂真，引起了公眾的警覺和國家安全部門的注意。在深度偽造技術(shù)水平日新月異而鑒別手段相較被動(dòng)的現(xiàn)實(shí)環(huán)境下，利用兼具真實(shí)性、便捷性和快速演化性的深度偽造進(jìn)行心理戰(zhàn)正逐漸成為可能。

深度偽造技術(shù)的概念與原理

“深度偽造”（Deepfakes）由英文“深度學(xué)習(xí)”（deep learning）和“偽造”（fakes）二詞結(jié)合而來，表明該技術(shù)是基于深度學(xué)習(xí)的一種新型信息篡改與替換手段。與深度學(xué)習(xí)不同的是，深度偽造技術(shù)是一種“無監(jiān)督學(xué)習(xí)，通過對(duì)抗生成網(wǎng)絡(luò)（GAN， Generative Adversarial Networks）”。

在自我優(yōu)化中生成偽造的數(shù)據(jù)。對(duì)于這種技術(shù)邏輯，只要有足夠的數(shù)據(jù)和運(yùn)算速度，理論上生成模型會(huì)在“對(duì)抗”中持續(xù)自我迭代并不斷優(yōu)化偽造視頻。2019年3月，一則技術(shù)人員利用該技術(shù)換臉“楊冪”的事件在輿論上引起熱議，國內(nèi)第一次掀起“換臉”熱潮。隨后不久，明星“換臉”手機(jī)應(yīng)用程序“ZAO”上架開放下載，短時(shí)間內(nèi)便沖上各大應(yīng)用商店下載排行榜第一位，一時(shí)間網(wǎng)絡(luò)社交媒體上充斥著網(wǎng)民將自己與明星“換臉”出沒于電影片段或演出場(chǎng)合的視頻，極大的滿足了網(wǎng)民的“明星夢(mèng)”。

對(duì)抗生成網(wǎng)絡(luò)示意圖

但曇花一現(xiàn)后由于“ZAO”中涉及的隱私條款因涉嫌侵犯公民隱私權(quán)而遭到輿論的聲討，導(dǎo)致應(yīng)用程序下架。事實(shí)上，深度偽造“換臉”技術(shù)早在幾年前就在美國有過重要嘗試，如Cycle GAN，可以說是所有人臉轉(zhuǎn)換早期的重要嘗試。Face 2 Face則可以說是一次“標(biāo)準(zhǔn)的、規(guī)矩的”的嘗試。但當(dāng)下國外最火熱、最廣為流傳的深度學(xué)習(xí)換臉模型毫無疑問是Deepfake。值得一提的是，該技術(shù)還首先被國外色情網(wǎng)站Reddit的用戶用來將好萊塢明星與色情視頻中的艷星“換臉”，從而招致網(wǎng)民廣泛傳播，給當(dāng)事明星造成了極大的困擾。

不僅只有視頻“換臉”，深度偽造技術(shù)通過數(shù)據(jù)采集和學(xué)習(xí)，還能模仿目標(biāo)對(duì)象的語音。早在2018年1月，國內(nèi)科技企業(yè)科大訊飛公司董事長(zhǎng)劉慶峰就曾在發(fā)布會(huì)上現(xiàn)場(chǎng)利用深度偽造框架下的語音合成技術(shù)演示美國總統(tǒng)特朗普對(duì)發(fā)布會(huì)致以賀詞，“特朗普”甚至還能以一口流利的中文向大家問好。用劉慶峰的話說，“我們用機(jī)器模仿特朗普講話，連美國人都信以為真”。此外，來自英國倫敦大學(xué)的研究團(tuán)隊(duì)還研發(fā)出了一種基于深度學(xué)習(xí)的全新智能算法，只需提供目標(biāo)對(duì)象的筆跡樣本即可實(shí)現(xiàn)完美“復(fù)刻”，難以辨認(rèn)。除了語音和筆跡、指紋、文風(fēng)甚至是微表情等個(gè)人獨(dú)有的生物和思維特征難題也已全面被深度偽造技術(shù)攻克，可以說，只要采集了足夠的數(shù)據(jù)，深度偽造完全能制造出“另一個(gè)你”。這個(gè)“你”不受你的意識(shí)控制，卻可以向你的社交、生活和工作圈發(fā)布本尊從未授意過的信息——不論你是士兵、營長(zhǎng)、司令還是總統(tǒng)。由此，深度偽造技術(shù)的心理戰(zhàn)潛力可見一斑。

深度偽造技術(shù)的戰(zhàn)場(chǎng)運(yùn)用策略

早在深度偽造技術(shù)初露雛形時(shí)，美國國家安全部門就敏銳地察覺到了該項(xiàng)技術(shù)存在著威脅國家安全的巨大隱患，因而開始在政策層面、法律層面和技術(shù)層面加大了對(duì)該技術(shù)的限制力度，美國參眾兩院議員相繼推出了《2018年惡意偽造禁令法案》《深度偽造責(zé)任法案》《2019年深度偽造報(bào)告法案》以防止別有用心者惡意利用該項(xiàng)技術(shù)。與此同時(shí)，深度偽造技術(shù)應(yīng)用于作戰(zhàn)的巨大潛能也被察覺，有眾議員在2019年6月提請(qǐng)眾議院授權(quán)開展深度偽造鑒別技術(shù)競(jìng)賽，要求美國國防部高級(jí)研究計(jì)劃局（DARPA）實(shí)施一項(xiàng)有競(jìng)爭(zhēng)力的獎(jiǎng)勵(lì)計(jì)劃，刺激技術(shù)的研究、開發(fā)或商業(yè)化，實(shí)際上是激勵(lì)人才將該項(xiàng)技術(shù)軍事化，從而應(yīng)用于心理戰(zhàn)和輿論攻防。

深度偽造“換臉”過程

科研團(tuán)隊(duì)偽造的奧巴馬視頻效果

輿論壓制，搶占國際話語高地。在與敵國的爭(zhēng)鋒中，國際社會(huì)的輿論支持也是必要的，哈佛大學(xué)肯尼迪政府學(xué)院下屬的Belfer 研究中心曾發(fā)布的一篇《AI與國家安全》報(bào)告指出：“敵對(duì)國家的網(wǎng)絡(luò)間諜在竊取一國的真實(shí)機(jī)密文件后，同時(shí)泄露該真實(shí)文件和一些相應(yīng)的偽造文件，再利用深度偽造技術(shù)合成相應(yīng)的音、視頻材料來佐證相關(guān)的偽造文件，該偽造文件的可信度將極大提升，由此操縱公眾輿論，影響國家政權(quán)穩(wěn)定?！碑?dāng)前各國領(lǐng)導(dǎo)人的外貌、語音甚至筆跡、文風(fēng)數(shù)據(jù)極易獲取，美國兩任總統(tǒng)奧巴馬和特朗普的換臉視頻已在全球范圍內(nèi)廣泛傳播，2019年初，比利時(shí)某政黨甚至發(fā)表了特朗普批評(píng)比利時(shí)在氣候變化問題立場(chǎng)的視頻，引發(fā)網(wǎng)友對(duì)美國政府干預(yù)比利時(shí)內(nèi)政的強(qiáng)烈不滿，這一視頻后來也被證實(shí)是基于深度偽造技術(shù)的假視頻。而視頻從引起爭(zhēng)議到最終辟謠之間有一個(gè)時(shí)間差，“不怕事后被人罵，只怕當(dāng)時(shí)沒人信”。深度偽造的產(chǎn)品結(jié)合社交網(wǎng)絡(luò)的漣漪效應(yīng)，可以帶來大規(guī)模的以訛傳訛式的擴(kuò)散，充分利用這個(gè)時(shí)間差，在反制力量還未作出反應(yīng)時(shí)就進(jìn)行有利于己的國際輿論引導(dǎo)，對(duì)敵進(jìn)行輿論壓制，搶占話語高地，贏得國際支持，一定程度上能夠起到可觀的效果。