魏書音 劉玉琢

數(shù)據(jù)顯示，當(dāng)前，我國網(wǎng)絡(luò)視頻用戶規(guī)模達(dá) 8.5 億，占到網(wǎng)民的 94.1%。網(wǎng)絡(luò)視頻應(yīng)用在快速普及的過程中也帶火了“人工智能+人臉識別”類軟件，比如 ZAO、Deepfacelab 等。此類軟件所使用的深度偽造技術(shù)在帶來娛樂的同時(shí)，可能引發(fā)的安全風(fēng)險(xiǎn)也備受關(guān)注。如果通過深度偽造技術(shù)制作造假新聞和色情視頻等違法信息，必將造成“眼見不一定為實(shí)”的普遍不信任感，進(jìn)而會對國家安全、政治安全和個(gè)人合法權(quán)益造成威脅。

深度偽造技術(shù)特征

深度偽造是一種基于人工智能的人體圖像合成技術(shù)。深度偽造技術(shù)的興起是人工智能發(fā)展到一定階段的產(chǎn)物，源于人工智能系統(tǒng)生成對抗網(wǎng)絡(luò)（GAN）的進(jìn)步。GAN 由生成器和識別器兩個(gè)相互競爭的系統(tǒng)組成。建立 GAN 的第一步是識別所需的輸出，并為生成器創(chuàng)建一個(gè)培訓(xùn)數(shù)據(jù)集。一旦生成器開始創(chuàng)建可接受的輸出內(nèi)容，就可以將視頻剪輯提供給識別器進(jìn)行鑒別;如果鑒別出視頻是假的，就會告訴生成器在創(chuàng)建下一個(gè)視頻時(shí)需要修正的地方。根據(jù)每次的“對抗”結(jié)果，生成器會調(diào)整其制作時(shí)使用到的參數(shù)，直到鑒別器無法辨別生成作品和真跡，以此將現(xiàn)有圖像和視頻組合并疊加到源圖像上生成深度偽造視頻。

深度偽造視頻難以鑒別。目前，還沒有鑒別深度偽造視頻的商業(yè)工具。隨著生成器越來越擅長創(chuàng)建假視頻剪輯，鑒別器也越來越擅長識別它們。相反，隨著鑒別器在識別假視頻方面做得越來越好，生成器在創(chuàng)建假視頻方面也做得越來越好。理論上，只要給 GAN 當(dāng)前掌握的所有鑒證技術(shù)，它就能通過學(xué)習(xí)進(jìn)行自我進(jìn)化，規(guī)避鑒證監(jiān)測。攻擊會被防御反擊，反過來又被更復(fù)雜的攻擊所抵消。鑒別技術(shù)只可能暫時(shí)領(lǐng)先，深度偽造視頻創(chuàng)造者很快就能趕上最新的檢測技術(shù)。未來，生成假視頻和檢測假視頻將持續(xù)進(jìn)行“道高一尺、魔高一丈”的反復(fù)博弈。

深度偽造軟件價(jià)廉且易操作，廣受用戶歡迎。在深度偽造出現(xiàn)前，視頻換臉技術(shù)最早應(yīng)用于電影領(lǐng)域，獲得的技術(shù)和資金成本較大。2017 年以來，該技術(shù)在“GitHub”的開源軟件涌現(xiàn)，開發(fā)技術(shù)很容易被獲取，能被不具備專業(yè)知識的普通人利用并輕易制作。制造視頻并不需要很高的技巧，機(jī)器學(xué)習(xí)算法與面部映射軟件相結(jié)合，偽造內(nèi)容來劫持一個(gè)人的聲音、面孔和身體等身份信息變得廉價(jià)而容易，普通大眾一鍵便可制造想要的視頻。

深度偽造技術(shù)濫用帶來的

安全風(fēng)險(xiǎn)

威脅國家安全和政治安全。深度偽造技術(shù)被運(yùn)用在政治領(lǐng)域，可成為損毀國家形象、挑撥內(nèi)部矛盾的武器。一是通過偽造國家領(lǐng)導(dǎo)人的圖片、視頻，詆毀國家形象、制造內(nèi)部矛盾。二是通過攔截篡改相關(guān)事件的新聞報(bào)道，傳播虛假信息，削弱對國家機(jī)構(gòu)和官方新聞媒體的公信力，擾亂政治秩序。三是深度偽造技術(shù)已經(jīng)濫用于情報(bào)工作。美聯(lián)社報(bào)道稱，一名間諜使用 AI 生成的個(gè)人資料和圖片在全球著名的職場社交平臺 LinkedIn 上欺騙聯(lián)系人，包括政治專家和政府內(nèi)部人士。此外，還可能影響選舉活動，比如在選舉前故意傳播虛假信息，誹謗選舉人，進(jìn)而影響選舉的公正性。

侵犯個(gè)人肖像權(quán)、名譽(yù)權(quán)等合法權(quán)益。深度偽造技術(shù)最初被應(yīng)用于色情行業(yè)。2017 年 12 月，一個(gè)名為“DeepFakes”的用戶在 Reddit 網(wǎng)站發(fā)布“假視頻”，將成人色情電影中演員的臉替換成了知名女演員的臉，畫面以假亂真。2019 年出現(xiàn)的一鍵生成裸照軟件 DeepNude，只要輸入一張完整的女性圖片就可自動生成相應(yīng)的裸照。受害者通常沒有追索權(quán)，而且照片上傳之后很難刪除。這一技術(shù)會損害當(dāng)事人聲譽(yù)，甚至毀掉其職業(yè)生涯。對此，美國弗吉尼亞州已將利用深度偽造、photoshop 或其他工具制作的虛假照片、視頻納入管理范疇。

帶來個(gè)人信息安全風(fēng)險(xiǎn)。深度偽造軟件收集的用戶照片，以及眨眼、搖頭等動態(tài)行為信息，都是用戶不可更改的敏感信息，一旦被非法使用，后果不堪設(shè)想。同時(shí)，被用作生物識別身份的語音也非常容易被模仿者欺騙。2019 年 3 月，網(wǎng)絡(luò)犯罪分子利用一款基于 AI 的軟件模仿了一家德國母公司首席執(zhí)行官的聲音，欺騙該公司旗下一家英國能源公司的經(jīng)理向詐騙者控制的銀行賬戶轉(zhuǎn)款 24.3 萬美元。

幾點(diǎn)思考

開展深度偽造技術(shù)安全風(fēng)險(xiǎn)評估。美國高度重視深度偽造技術(shù)的應(yīng)用問題，兩黨議員分別在眾、參兩院同時(shí)提出《2019 年深度偽造報(bào)告法案》（Deepfakes Report Act of 2019），要求評估深度偽造技術(shù)的安全風(fēng)險(xiǎn)。2019 年 6 月 13 日，美國眾議院情報(bào)委員會為此專門召開聽證會，公開討論深度偽造技術(shù)給國家、社會和個(gè)人帶來的風(fēng)險(xiǎn)及防范措施。我國也應(yīng)將深度偽造技術(shù)納入新技術(shù)新應(yīng)用的安全風(fēng)險(xiǎn)評估中，充分評估該技術(shù)目前的發(fā)展?fàn)顩r、適用領(lǐng)域和范圍，未來發(fā)展方向和應(yīng)用趨勢，以及對國家安全和政治安全的影響、對公民個(gè)人權(quán)益的損害等。

制定與深度偽造技術(shù)有關(guān)的規(guī)范標(biāo)準(zhǔn)。近年來，美國陸續(xù)出臺《2018 年惡意偽造禁令法案》和《深度偽造責(zé)任法案》，主張對深度偽造技術(shù)進(jìn)行嚴(yán)格限制。建議我國相關(guān)部門盡快制修訂相關(guān)技術(shù)標(biāo)準(zhǔn)，明確深度偽造技術(shù)的適用范圍，涉及國家安全、公共利益和公民合法權(quán)益的，要對其適用性進(jìn)行明確限制，尤其是對深度偽造視頻的傳播應(yīng)嚴(yán)格限制，如傳播需用水印等進(jìn)行標(biāo)明。將偽造視頻納入違法和不良信息規(guī)制范圍，嚴(yán)禁違法有害信息的傳播;對深度偽造軟件收集使用信息的行為進(jìn)行評估，加強(qiáng)對人臉等生物識別信息的保護(hù);明確互聯(lián)網(wǎng)平臺和偽造視頻者的責(zé)任，督促互聯(lián)網(wǎng)平臺利用自身技術(shù)優(yōu)勢，加強(qiáng)對違規(guī)違法行為的管理。

強(qiáng)化對深度偽造鑒別技術(shù)的研發(fā)。美國國防高級研究計(jì)劃局（DARPA）設(shè)立“媒體鑒證”項(xiàng)目，開發(fā)能夠識別深度偽造視頻的工具。2019 年 9 月， Facebook 投入 1000 萬美元，與微軟、Partnership on AI 以及多所大學(xué)共同發(fā)起深度偽造檢測挑戰(zhàn)賽，激勵(lì)和促進(jìn)檢測研究。我國相關(guān)部門在加強(qiáng)管理的同時(shí)，應(yīng)大力促進(jìn)第三方檢測機(jī)構(gòu)開展深度偽造監(jiān)測鑒別業(yè)務(wù)，鼓勵(lì)企業(yè)加大對鑒別技術(shù)研發(fā)的投入;利用區(qū)塊鏈、電子認(rèn)證簽名等技術(shù)，開發(fā)相關(guān)鑒別工具。