孟雪 劉宗媛 李倩

摘 ? 要：隨著人工智能技術(shù)的飛速發(fā)展，基于深度學(xué)習(xí)的深度偽造技術(shù)正受到社會或業(yè)界越來越多的關(guān)注。在豐富人們文化娛樂生活的同時(shí)，深度偽造技術(shù)也引發(fā)了諸多社會問題，尤其給網(wǎng)絡(luò)可信身份管理帶來了潛在風(fēng)險(xiǎn)。隨著深度偽造技術(shù)的不斷進(jìn)步，其引發(fā)的安全威脅和信任危機(jī)將愈加嚴(yán)重，采取有效措施遏制深度偽造的濫用風(fēng)險(xiǎn)已經(jīng)迫在眉睫。文章首先介紹了深度偽造技術(shù)的原理和特點(diǎn)，接著深入剖析了其給網(wǎng)絡(luò)可信身份管理帶來的嚴(yán)峻挑戰(zhàn)，最后從監(jiān)管和技術(shù)層面研究，提出了有針對性的防范對策。

關(guān)鍵詞：網(wǎng)絡(luò)安全;人工智能;深度偽造;網(wǎng)絡(luò)可信身份管理

中圖分類號： TP399 ? ? ? ? ?文獻(xiàn)標(biāo)識碼：A

1 引言

隨著人工智能技術(shù)的飛速發(fā)展，人們的社會生活變得更加豐富和便利，然而濫用人工智能技術(shù)危害社會穩(wěn)定的事件頻頻發(fā)生，深度偽造技術(shù)就是其中的典型代表之一。作為深度學(xué)習(xí)領(lǐng)域的一個(gè)分支，深度偽造技術(shù)近年來得到了創(chuàng)新發(fā)展，但同時(shí)也威脅著網(wǎng)絡(luò)空間的安全，尤其是給網(wǎng)絡(luò)可信身份管理帶來了諸多風(fēng)險(xiǎn)和挑戰(zhàn)。

2017年12月，網(wǎng)名為deepfakes的用戶在Reddit網(wǎng)站上發(fā)布了一段由歐美娛樂明星面孔合成的色情視頻，效果十分逼真，引發(fā)了社會巨大關(guān)注，“深度偽造”這一新興概念也正式走進(jìn)了人們的視野。自此以后，利用深度偽造技術(shù)合成的假視頻，頻頻“登上熱搜”，給個(gè)人和社會帶來了諸多不良影響。

2019年8月30日，一款名為ZAO的智能換臉社交軟件在國內(nèi)各大應(yīng)用市場上線，該應(yīng)用憑借以假亂真的“換臉”效果迅速吸引了大批用戶，其背后依賴的核心技術(shù)正是深度偽造。隨后，不少媒體和網(wǎng)友指出，該應(yīng)用的用戶隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風(fēng)險(xiǎn)等安全問題。9月3日，工信部與ZAO應(yīng)用的相關(guān)負(fù)責(zé)人進(jìn)行了約談，要求其開展自查整改，強(qiáng)化用戶個(gè)人隱私保護(hù)。

可以想象，隨著深度偽造技術(shù)的不斷進(jìn)步，其所引發(fā)的安全威脅和信任危機(jī)將愈加嚴(yán)重，采取有效措施遏制深度偽造的濫用風(fēng)險(xiǎn)已經(jīng)迫在眉睫。

2 深度偽造技術(shù)的原理和特點(diǎn)

2.1 深度偽造技術(shù)的原理

深度偽造是深度學(xué)習(xí)（Deep Learning）與偽造（Fake）的合成詞，其依賴的核心技術(shù)基礎(chǔ)是深度學(xué)習(xí)，具體包括生成式對抗網(wǎng)絡(luò)（Generative Adversarial Network，GAN）、卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network，CNN）、變分自編碼器（Variational AutoEncoders，VAE）等模型。深度偽造在近年來的興起主要得益于GAN模型的不斷精進(jìn)，2018年提出的CycleGAN可用于在一段視頻中合成偽造的人臉圖像[3];2018年提出的PGGAN[4]和2019年提出的BigGAN[5]，可被用于合成高精度照片級別的圖像和視頻，使得人眼在有限時(shí)間內(nèi)無法分辨。一個(gè)GAN包含生成器和鑒別器這兩個(gè)對抗性算法，生成器首先將一段隨機(jī)噪聲轉(zhuǎn)化為圖像，然后將合成的圖像和名人的真實(shí)圖像一同輸入到鑒別器中，鑒別器對合成圖像的真?zhèn)芜M(jìn)行判斷，判斷為假時(shí)，會反饋給生成器一條線索，即下次合成時(shí)“不要做什么”。起初，隨機(jī)合成的圖像是完全不像人的面孔，但隨著兩個(gè)算法無數(shù)次重復(fù)上述過程，并獲得性能反饋，生成器和鑒別器的效果都會得到改善。這樣，經(jīng)過了足夠的循環(huán)和博弈后，生成器將開始生成能夠以假亂真的面孔和視頻。

深度偽造技術(shù)起初專指基于深度學(xué)習(xí)算法的人體圖像合成技術(shù)。隨著技術(shù)的進(jìn)步，深度偽造技術(shù)已經(jīng)發(fā)展為包括視頻偽造、聲音偽造、文本偽造和面部表情合成等多維度音、視頻偽造技術(shù)。深度偽造技術(shù)不僅能實(shí)現(xiàn)換臉，更可以通過深度學(xué)習(xí)模擬真人聲音、創(chuàng)造出現(xiàn)實(shí)不存在的人物肖像。換言之，掌握了該技術(shù)的人，在理論上可以制作出任何一個(gè)人說任何話、做任何事的虛假音、視頻，以達(dá)到混淆視聽的目的。

2.2 深度偽造技術(shù)的特點(diǎn)

一是技術(shù)手段成型，使用成本低。深度偽造技術(shù)背后的核心技術(shù)支撐是深度學(xué)習(xí)算法，具有自動生成目標(biāo)圖像的顯著特征。由于深度學(xué)習(xí)算法在人工智能領(lǐng)域發(fā)展迅速，其基礎(chǔ)算法和核心代碼已基本成型，且多數(shù)代碼都是開源的，使用成本低，完成軟件開發(fā)和制作后幾乎能以零成本進(jìn)行擴(kuò)散。

二是效果以假亂真，辨別難度大。隨著深度偽造技術(shù)的進(jìn)步，偽造的效果不斷提升，幾乎達(dá)到了以假亂真的效果。起初，利用深度偽造技術(shù)生成的視頻還可以通過面部微表情、眨眼頻率等特征分辨出來，隨著相關(guān)算法的不斷優(yōu)化，偽造產(chǎn)品的逼真程度得到了提升，已經(jīng)讓普通人甚至檢測算法難以辨別真假。

三是迎合大眾心理，傳播速度快。基于深度偽造技術(shù)制作的偽造視頻、音頻等產(chǎn)品迎合了大眾的獵奇心理，很容易借助微信、微博等社交媒體的助力，在網(wǎng)絡(luò)上快速傳播。偽造的音、視頻越是搞怪、離奇、刺激，就越能引人注意，帶來的流量就越大，在網(wǎng)絡(luò)上就會傳播得越快，不良影響擴(kuò)散的速度也越快。

3 深度偽造技術(shù)給網(wǎng)絡(luò)可信身份管理帶來的挑戰(zhàn)

3.1 沖擊生物識別體系，身份仿冒易如反掌

近年來，基于人體生物特征的身份認(rèn)證技術(shù)發(fā)展迅速，其使用便捷、安全性高，在網(wǎng)絡(luò)可信身份的創(chuàng)建和管理中得到了廣泛應(yīng)用。然而，深度偽造技術(shù)應(yīng)用最為廣泛的領(lǐng)域正是人體生物特征的學(xué)習(xí)和偽造，現(xiàn)階段已經(jīng)實(shí)現(xiàn)了人體聲音、面部、動作、表情等特征的高精度偽造，給生物識別身份認(rèn)證體系帶來了巨大沖擊。以人臉識別為例，倘若惡意攻擊者利用深度偽造技術(shù)生成了超高精度的3D人臉數(shù)據(jù)模型，那么攻擊者就能輕易實(shí)現(xiàn)任何人的仿冒登錄，直接突破由人臉識別技術(shù)保護(hù)的任何終端和系統(tǒng)，從前端特征采集到后端匹配驗(yàn)證都毫無安全性可言，整個(gè)身份認(rèn)證體系將變得形同虛設(shè)。美國《財(cái)富》雜志在2019年12月的報(bào)道稱，美國人工智能公司Kneron使用深度偽造技術(shù)，成功地欺騙了支付寶和微信的支付程序，并且順利通過機(jī)場、火車站等自助終端的檢驗(yàn)?？梢哉f，深度偽造技術(shù)給基于生物識別的身份認(rèn)證體系帶來的威脅是致命的。

3.2 滋生網(wǎng)絡(luò)詐騙行為，造成重大經(jīng)濟(jì)損失

深度偽造具有以假亂真的技術(shù)效應(yīng)，明顯地增加了網(wǎng)絡(luò)主體現(xiàn)實(shí)身份鑒別的難度，為網(wǎng)絡(luò)釣魚、商務(wù)電子郵件攻擊等網(wǎng)絡(luò)詐騙行為滋生了土壤，造成國民財(cái)產(chǎn)損失。以商務(wù)電子郵件攻擊為例，攻擊者通常從某種網(wǎng)絡(luò)釣魚開始，以獲取對公司網(wǎng)絡(luò)的訪問權(quán)，然后偽裝成為公司的客戶或者高級管理人員，通過發(fā)送電子郵件的方式欺騙組織中的關(guān)鍵人員將資金連接到攻擊者控制的銀行賬戶。其中，電子郵件的內(nèi)容往往是利用深度偽造技術(shù)生成的文本，其行文規(guī)則和專業(yè)用語與真實(shí)商務(wù)郵件十分相似，讓人難辨真假，這在一定程度上提高了詐騙的成功率，進(jìn)而造成巨大的經(jīng)濟(jì)損失。2019年，商務(wù)電子郵件攻擊在全球范圍內(nèi)平均每月造成的損失高達(dá)3億美元，給企業(yè)發(fā)展和社會穩(wěn)定造成了極大危害。

3.3 輕易操縱網(wǎng)絡(luò)輿論，嚴(yán)重危害社會安全

深度偽造技術(shù)的成熟使得虛假信息能夠以逼真的形式傳達(dá)給普通民眾，進(jìn)而輕易操縱網(wǎng)絡(luò)輿論，嚴(yán)重危害社會安全。在網(wǎng)絡(luò)世界，惡意謠言的殺傷力是巨大的，以印度為例，僅2018年，印度全國各地就有20多人因?yàn)樵赪hatsAPP上被謠傳綁架小孩或涉及其他罪案而被暴力打死。不可否認(rèn)，深度偽造技術(shù)給虛假信息的傳播提供了土壤，使得不法分子能夠打著真實(shí)的幌子實(shí)施誣陷、煽動民意，輕則使被害人的名譽(yù)和財(cái)產(chǎn)蒙受損失，重則威脅到公民的生命安全。

3.4 網(wǎng)絡(luò)身份真假難辨，動搖網(wǎng)絡(luò)可信根基

網(wǎng)絡(luò)空間本身就是虛擬的，深度偽造技術(shù)的惡意使用會進(jìn)一步模糊網(wǎng)絡(luò)空間中真實(shí)身份與偽造身份之間的界限，打破了網(wǎng)絡(luò)用戶之間的信任基礎(chǔ)，使大家互相懷疑，從而徹底動搖網(wǎng)絡(luò)可信身份管理的根基，進(jìn)而可能造成整個(gè)網(wǎng)絡(luò)空間的信任危機(jī)。設(shè)想一下，假如所有網(wǎng)絡(luò)實(shí)體的真實(shí)身份都無法分辨，整個(gè)網(wǎng)絡(luò)空間可能就會陷入到一場真相與假象之間模糊不清的混亂局面之中，網(wǎng)上交易、社交、信用體系等都會受到嚴(yán)重沖擊，網(wǎng)絡(luò)空間的安全性也就無從談起。

4 應(yīng)對深度偽造技術(shù)的幾點(diǎn)建議

4.1 重視立法與監(jiān)管，規(guī)范市場行為

對于深度偽造帶來的威脅，應(yīng)當(dāng)秉持積極應(yīng)對、嚴(yán)格監(jiān)管的態(tài)度。國產(chǎn)智能換臉軟件ZAO應(yīng)用從一夜爆紅到熱度褪去、檢查整改，靠的就是監(jiān)管的力量。隨著深度偽造技術(shù)的不斷升級，網(wǎng)絡(luò)可信身份管理面臨的安全風(fēng)險(xiǎn)日益嚴(yán)重，必須盡快進(jìn)行前瞻布局，推進(jìn)立法與監(jiān)管進(jìn)程，進(jìn)一步規(guī)范市場行為，有效地應(yīng)對深度偽造技術(shù)的潛在風(fēng)險(xiǎn)。要重點(diǎn)做好三個(gè)方面的工作：一是要明確深度偽造產(chǎn)品生產(chǎn)主體的法律責(zé)任，對違法行為予以懲戒;二是要強(qiáng)化傳播媒介的法律和社會責(zé)任，有效阻止惡意偽造產(chǎn)品的擴(kuò)散;三是要建立完善的危機(jī)應(yīng)對機(jī)制，避免不良影響的擴(kuò)大化。

4.2 與時(shí)俱進(jìn)，研究深度偽造檢測技術(shù)

在深度偽造技術(shù)日益成熟的今天，信息真實(shí)性檢測的重要性不言而喻。為了對抗深度偽造技術(shù)帶來的不良影響，近年來，相關(guān)學(xué)者已經(jīng)利用循環(huán)神經(jīng)網(wǎng)絡(luò)[11]（Recurrent Neural Networks，RNN）、成對學(xué)習(xí)[12]（Pairwise Learning）等人工智能領(lǐng)域的相關(guān)技術(shù)在深度偽造的檢測和鑒別方面取得了不錯(cuò)的效果，但隨著深度偽造技術(shù)的不斷發(fā)展演進(jìn)，深度偽造的檢測難度越來越大。因此，必須加大對高效智能檢測技術(shù)的研發(fā)投入和支持力度，緊跟最新技術(shù)成果，研究與時(shí)俱進(jìn)的深度偽造檢測技術(shù)，并應(yīng)用到人臉識別等網(wǎng)絡(luò)可信身份服務(wù)場景，在實(shí)踐中檢驗(yàn)、檢測效果，實(shí)現(xiàn)迭代發(fā)展，以應(yīng)對深度偽造技術(shù)的發(fā)展與進(jìn)化。

4.3 大力發(fā)展區(qū)塊鏈等基于密碼技術(shù)的網(wǎng)絡(luò)可信身份管理技術(shù)

深度偽造給生物識別技術(shù)的安全性帶來了巨大沖擊，然而其核心原理決定了它無法動搖基于密碼技術(shù)構(gòu)建的身份認(rèn)證體系。以區(qū)塊鏈技術(shù)為例，它在實(shí)現(xiàn)過程中使用了雜湊算法、電子簽名等密碼技術(shù)，具有去中心化、高度可信和強(qiáng)安全性等特點(diǎn)，有效保證了用戶身份信息和網(wǎng)絡(luò)行為的真實(shí)性和不可篡改性，能夠在數(shù)據(jù)資產(chǎn)的真實(shí)性和原始性保護(hù)方面發(fā)揮重要作用。具體來說，無需權(quán)限的區(qū)塊鏈（Permissionless Blockchain）就十分適用于深度偽造的防范和檢測。在無需權(quán)限的區(qū)塊鏈中，防篡改記錄、日志和傳播等行為對所有人都是公開的，任何人都可以進(jìn)行實(shí)時(shí)訪問，這就使得偽造的數(shù)據(jù)和行為無處遁形。HAYA R. HASAN等人[13]利用區(qū)塊鏈技術(shù)提出了一種對網(wǎng)絡(luò)音視頻進(jìn)行追蹤溯源的通用解決方案，可有效驗(yàn)證數(shù)據(jù)資產(chǎn)的真實(shí)性。因此，必須高度重視并充分利用基于密碼技術(shù)的身份認(rèn)證技術(shù)，研究反偽造策略，推動區(qū)塊鏈等新興產(chǎn)業(yè)發(fā)展，從根源上抵御深度偽造技術(shù)給網(wǎng)絡(luò)可信身份管理帶來的威脅。

4.4 以用戶為中心，加強(qiáng)個(gè)人隱私保護(hù)

深度學(xué)習(xí)的一大特性就是，提供的樣本數(shù)據(jù)越多，對目標(biāo)對象的模擬就會越準(zhǔn)確，偽造出來的偽造視頻和音頻等產(chǎn)品就會顯得越逼真。目前，流傳在網(wǎng)上的偽造視頻主要是關(guān)于明星、政客等公眾人物，就是因?yàn)樗麄兊恼掌鸵曨l在網(wǎng)上可以輕易獲取，用作偽造視頻的原材料。因此，必須重視對公民個(gè)人隱私數(shù)據(jù)和敏感信息的安全保障，采納嚴(yán)格的安全技術(shù)標(biāo)準(zhǔn)，出臺相關(guān)的法律法規(guī)和標(biāo)準(zhǔn)規(guī)范，對用戶隱私信息收集、使用以及泄露應(yīng)當(dāng)承擔(dān)的法律責(zé)任等內(nèi)容予以明確和規(guī)范，以確保網(wǎng)絡(luò)可信身份管理工作健康運(yùn)行。

5 結(jié)束語

隨著人工智能技術(shù)的快速發(fā)展，基于深度學(xué)習(xí)的深度偽造技術(shù)在近幾年迅速興起，在教育、文化、娛樂等領(lǐng)域展現(xiàn)了積極的價(jià)值。然而，在豐富人們文化娛樂生活的同時(shí)，深度偽造被惡意使用的風(fēng)險(xiǎn)也逐漸顯現(xiàn)，尤其給網(wǎng)絡(luò)可信身份管理帶來了諸多挑戰(zhàn)。本文介紹了深度偽造技術(shù)的原理和特點(diǎn)，并對其給網(wǎng)絡(luò)可信身份管理帶來的風(fēng)險(xiǎn)和挑戰(zhàn)進(jìn)行了分析，最后提出了相應(yīng)的防范對策。

參考文獻(xiàn)

[1] Charlotte ?Stanton.How ?Should ?Countries Tackle Deepfake.Carnegie Endowment for International Peace.s[EB/OL]. https：//carnegieendowment.org/2019/01/28/how-should-countries-tackle-deepfakes-pub-78221.

[2] Gangeshwar Krishnamurthy，et al. A Deep Learning Approach for Multimodal Deception Detection[J].arXiv，2018，03（44）：5-6.

[3] Henry N， Powell A， Flynn A. AI can now create fake porn， making revenge porn even more complicated[J]. The Conversation， 2018， 28.

[4] Karras T， Aila T， Laine S， et al. Progressive growing of gans for improved quality， stability， and variation[J].arXiv preprint arXiv：1710.10196， 2017.

[5] Brock A， Donahue J， Simonyan K. Large scale gan training for high fidelity natural image synthesis[J].arXiv preprint arXiv：1809.11096， 2018.

[6] Robert Chesney， Danielle Keats Citron. Deep Fakes： ?A ?Looming ?Challenge ?for ?Privacy， Democracy， and National Security[EB/OL]. （2018-8- 23）. https：//papers.ssrn.com/sol3/papers.cfm？abstract_id=3213954.

[7] Greg Allen， Taniel Chan. Artificial Intelligence and National Security [EB/OL]. （2017-7）. https：//www.belfercenter.org/publication/artificial-intelligence-and-national-security.

[8] Yaohua Liang， Yanmei Fang， Shangjun Luo. Image Resampling Detection Based on Convolutional Neural Network[R]. Proc. of15th International Conference on Computational Intelligence and Security （CIS），Macao，2019.

[9] Hayley Tsukayama， India Mckinney， Jamie Williams. Congress Should Not Rush to Regulate Deepfakes [EB/OL]. （2019-6-24）. https：//www： eff.org/deeplinks/2019/06/congress-should-not-rush-regulate-deepfakes.

[10] 龍坤，馬鉞，朱啟超. 深度偽造對國家安全的挑戰(zhàn)及應(yīng)對[J]. 信息安全與通信保密，2019（10）：21-34.

[11] Güera D， Delp E J. Deepfake video detection using recurrent neural networks[C]. 2018 15th IEEE International Conference on Advanced Video and Signal Based Surveillance （AVSS）. IEEE， 2018： 1-6.

[12] Hsu C C， Zhuang Y X， Lee C Y. Deep fake image detection based on pairwise learning[J]. Applied Sciences， 2020， 10（1）： 370.

[13] Hasan H R， Salah K. Combating deepfake videos using blockchain and smart contracts[J]. Ieee Access， 2019， 7： 41596-41606.