文/劉國柱

深度偽造是一個(gè)合成詞，是人工智能領(lǐng)域由深度學(xué)習(xí)和偽造合成的一個(gè)詞匯。包含兩方面的含義，首先，它是一種技術(shù)，一種制作超逼真視聽作品的技術(shù)；其次，它指根據(jù)深度偽造技術(shù)制作的視聽作品。隨著人工智能技術(shù)的不斷發(fā)展，深度偽造技術(shù)同樣在不斷改進(jìn)，帶來的與國家安全相關(guān)的問題也在不斷涌現(xiàn)。深度偽造不僅涉及新興技術(shù)治理的問題，更是事關(guān)包括政治安全、經(jīng)濟(jì)安全和社會(huì)安全等在內(nèi)的綜合安全問題。因此，有必要站在總體國家安全觀的高度，從國家治理和全球治理的角度對深度偽造問題進(jìn)行分析并提出應(yīng)對之策。

深度偽造技術(shù)特征及其快速傳播的原因

深度偽造是運(yùn)用人工智能技術(shù)和大數(shù)據(jù)來描繪某人說和做的從未發(fā)生過的事情，輔之以社交媒體的覆蓋面和傳播速度，可以迅速影響成千上萬甚至更龐大的群體，進(jìn)而對社會(huì)產(chǎn)生難以估量的影響。

（一）深度偽造的類別及特征

從技術(shù)角度看，深度偽造可以分為三類：第一類是深度偽造視頻技術(shù)，第二類是語音克隆技術(shù)，第三類是文本合成技術(shù)。

深度偽造產(chǎn)品根據(jù)其本身的性質(zhì)可以分為三類。第一類是具有積極作用的應(yīng)用。深度偽造技術(shù)在許多行業(yè)具有積極用途，包括電影、教育媒體和數(shù)字通信、游戲和娛樂、醫(yī)療保健以及各種商業(yè)領(lǐng)域等。第二類是較為中性的深度偽造，主要是娛樂和幽默性質(zhì)的深度偽造作品。這類作品往往以公眾人物作為娛樂對象。第三類屬于惡意的深度偽造。這一類深度偽造被創(chuàng)作者用于某種特殊的目的，往往會(huì)給國家安全、社會(huì)治理帶來嚴(yán)峻的威脅和挑戰(zhàn)。如在深度偽造中占比最高的是利用深度偽造技術(shù)合成的色情視頻，屬于人工智能技術(shù)發(fā)展帶來的新的性別安全問題；深度偽造還被用來抹黑政治人物，從而影響一些國家的政治進(jìn)程，或者對一些國家正在發(fā)生的政治事件做出不利的描述，不僅可能激化社會(huì)矛盾，也會(huì)影響國家的政治形象；深度偽造還會(huì)給企業(yè)和個(gè)人在經(jīng)濟(jì)上帶來損失。更嚴(yán)重的是，深度偽造可能會(huì)摧毀社會(huì)信任，信任赤字將惡化整個(gè)社會(huì)的心理生態(tài)環(huán)境。

總體而言，深度偽造具有以下幾個(gè)特征：第一，網(wǎng)絡(luò)社交平臺(tái)是傳播深度偽造作品的最主要渠道；第二，深度偽造發(fā)展迅猛；第三，深度偽造傳播迅速且點(diǎn)擊量巨大；第四，深度偽造以公眾人物等為主要對象。

（二）深度偽造快速傳播的原因

第一，人工智能技術(shù)的發(fā)展和普及使得制作深度偽造作品更簡單易行。深度偽造和合成媒體不需要專門的硬件或設(shè)備來開發(fā)，擁有強(qiáng)大顯卡的臺(tái)式電腦就足夠了。商業(yè)性甚至免費(fèi)的深度偽造服務(wù)已經(jīng)出現(xiàn)在公開市場上，這些服務(wù)將降低進(jìn)入門檻，任何有興趣的人都可以擁有創(chuàng)建專業(yè)級深度偽造作品的能力。

第二，互聯(lián)網(wǎng)空間免費(fèi)獲取數(shù)據(jù)集使深度偽造的門檻變得很低。計(jì)算機(jī)視覺社區(qū)已經(jīng)創(chuàng)建了帶有標(biāo)記的視覺材料的大型數(shù)據(jù)集，其中許多數(shù)據(jù)集都可以在互聯(lián)網(wǎng)上免費(fèi)獲得，深度偽造數(shù)據(jù)的創(chuàng)建者可以很容易地訪問這些數(shù)據(jù)集；此外，由于云計(jì)算提供的服務(wù)，訓(xùn)練機(jī)器學(xué)習(xí)算法所需的計(jì)算能力成本較低。

第三，深度偽造中占比最高的是色情和政治類作品。從傳播學(xué)的角度看，色情和政治類作品往往具有低俗、虛假、傳播快的特性，加上人性的獵奇心理，使得色情和政治類深度偽造作品傳播最廣。

第四，近年來歐美國家的政治極化也加快了深度偽造信息的傳播速度。政治極化的一個(gè)重要后果就是減少了公眾之間跨領(lǐng)域政治互動(dòng)的機(jī)會(huì)；而同質(zhì)的社交網(wǎng)絡(luò)又降低了對不同觀點(diǎn)的容忍度，放大了理念上的兩極化，在一定程度上提高了接受意識(shí)形態(tài)兼容新聞的難度。這些趨勢創(chuàng)造了一個(gè)深度偽造作品高度吸引特定受眾群體的環(huán)境。

深度偽造對國家安全的威脅與挑戰(zhàn)

從近年來世界上出現(xiàn)的各種深度偽造案例及其發(fā)展趨勢來看，深度偽造無論是對國際安全、國家傳統(tǒng)安全（如軍事安全和政治安全），還是國家非傳統(tǒng)安全，都帶來了越來越大的沖擊和挑戰(zhàn)。

（一）對國際安全的威脅和對國際形勢的影響

第一，深度偽造會(huì)破壞國際社會(huì)的戰(zhàn)略互信并沖擊脆弱的和平環(huán)境。從國際安全和國際形勢穩(wěn)定的角度看，深度偽造與其他顛覆性數(shù)字技術(shù)相結(jié)合，將極大地降低全球和區(qū)域多邊機(jī)構(gòu)以及國際關(guān)系行為體彼此間的信任。對于在國際社會(huì)和國際安全領(lǐng)域試圖制造事端的國家與非國家行為體而言，它們可以隨時(shí)獲取和利用深度偽造技術(shù)，減少信息武器化的障礙，擴(kuò)大參與并深度影響國際安全形勢。

第二，深度偽造有可能會(huì)影響軍事決策和軍備控制。一些國家的政治和軍事領(lǐng)導(dǎo)人依賴公開與秘密的信息環(huán)境做出重大決策，特別是在重大危機(jī)面前，需要快速做出決策。但武器化的深度偽造可以被用來擾亂信息環(huán)境，這在持續(xù)的政治和軍事緊張局勢中，可能會(huì)引發(fā)國際危機(jī)甚至導(dǎo)致對立或?qū)沟纳墶?/p>

第三，涉及他國領(lǐng)導(dǎo)人的深度偽造作品不僅會(huì)給國家領(lǐng)導(dǎo)人帶來負(fù)面影響，也會(huì)影響國家間關(guān)系。

第四，深度偽造很可能會(huì)成為國際恐怖活動(dòng)的催化劑。恐怖組織可以通過深度偽造的視頻或音頻，展現(xiàn)對手包括政府官員發(fā)表煽動(dòng)性言論或從事挑釁性行動(dòng)，最大限度地對其目標(biāo)受眾產(chǎn)生有利于恐怖組織的影響。

（二）給國家傳統(tǒng)安全帶來的挑戰(zhàn)

首先，指揮自動(dòng)化系統(tǒng)方面的深度偽造為雙方軍事行動(dòng)提供戰(zhàn)術(shù)優(yōu)勢。在現(xiàn)代軍事體系中，指揮自動(dòng)化系統(tǒng)是軍隊(duì)的神經(jīng)中樞，這一系統(tǒng)的核心就是戰(zhàn)爭或戰(zhàn)場信息的獲取、處理以及運(yùn)用。這就給對手提供了利用信息的空間。在未來的軍事行動(dòng)中，可以生成高級指揮官的深度偽造，向?qū)κ值牟筷?duì)下達(dá)虛假或矛盾的命令。

其次，深度偽造給國家政治安全帶來更大的挑戰(zhàn)和威脅。數(shù)字時(shí)代特別是人工智能技術(shù)的發(fā)展給各國進(jìn)行政治戰(zhàn)帶來了顛覆性的變化。人工智能驅(qū)動(dòng)的系統(tǒng)可以快速生成修改過的內(nèi)容和深度偽造的數(shù)字產(chǎn)品，從而推動(dòng)針對目標(biāo)國家民眾和國家利益的虛假敘事，沖擊目標(biāo)國家民眾的心理，侵蝕目標(biāo)國家社會(huì)的信任，給政治安全帶來更大的挑戰(zhàn)和威脅。

最后，深度偽造會(huì)改變“脆弱國家”在國家治理方面的政治進(jìn)程。經(jīng)濟(jì)合作與發(fā)展組織將脆弱性視為一種普遍現(xiàn)象，脆弱指數(shù)比較高的國家往往存在政治與社會(huì)局勢不穩(wěn)定、經(jīng)濟(jì)落后和治安混亂等現(xiàn)象。被視為“脆弱國家”的往往都是整體發(fā)展水平比較落后的發(fā)展中國家。在“脆弱國家”，深度偽造可能加劇社會(huì)分裂、內(nèi)亂、恐慌和沖突，造成政局動(dòng)蕩，甚至?xí)?dǎo)致暴力沖突和軍事政變。

（三）給非傳統(tǒng)國家安全帶來的挑戰(zhàn)

首先是國家層面：深度偽造的內(nèi)容會(huì)損害國家的經(jīng)濟(jì)穩(wěn)定。深度偽造危害國家經(jīng)濟(jì)安全的常見手段有以下幾種：一是通過捏造政府部門如財(cái)政、商務(wù)和金融監(jiān)管機(jī)構(gòu)的行為影響市場走勢；二是制造虛假的突發(fā)性事件，對期貨市場和股市構(gòu)成重大沖擊；三是惡意銀行擠兌，當(dāng)公眾對金融形勢或銀行健康運(yùn)轉(zhuǎn)的懷疑開始變得普遍時(shí)，社交媒體可以迅速放大它們，讓擠兌變得更加瘋狂。

其次是企業(yè)層面：深度偽造給企業(yè)帶來的威脅和挑戰(zhàn)更為直接。受深度偽造信息的影響，全球企業(yè)每年損失高達(dá)780億美元，其中包括90億美元用于修復(fù)聲譽(yù)損失和170億美元因財(cái)務(wù)虛假信息而造成的損失。全球領(lǐng)先的戰(zhàn)略傳播和公共事務(wù)咨詢公司富思博睿格潤分析了深度偽造對企業(yè)構(gòu)成的五種潛在威脅：網(wǎng)絡(luò)釣魚攻擊、交易欺詐、對企業(yè)進(jìn)行勒索、股票操縱、偽造監(jiān)管行為。這五種“潛在威脅”，有一些實(shí)際已經(jīng)發(fā)生了。

最后是個(gè)人層面：深度偽造主要被用于欺詐或勒索行為。針對個(gè)人的深度偽造主要有以下幾種情形：一是身份盜竊，即有針對性地深度偽造來竊取個(gè)人身份；二是冒名頂替詐騙，詐騙者可能會(huì)復(fù)制特定個(gè)人的聲音，通過人工智能系統(tǒng)撥打受害者的電話進(jìn)行詐騙；三是網(wǎng)絡(luò)勒索，即使用深度偽造來生成更有說服力的虛假勒索材料勒索受害人。

需要指出的是，單一深度偽造的影響并不局限于單一類型或類別的風(fēng)險(xiǎn)，而是會(huì)在不同層次引發(fā)連鎖反應(yīng)。深度偽造的影響往往從個(gè)人層面開始，進(jìn)而對個(gè)人所在的團(tuán)體或組織造成傷害，隨著深度偽造案例的累積和疊加，可能會(huì)影響社會(huì)心理，導(dǎo)致社會(huì)信任的普遍缺失。

深度偽造治理：基于總體國家安全觀的視角

應(yīng)對深度偽造帶來的挑戰(zhàn)，應(yīng)該以總體國家安全觀為指導(dǎo)，建立綜合治理體系。

（一）必須堅(jiān)持以人民安全為宗旨

作為新興技術(shù)的副產(chǎn)品，深度偽造同樣也給中國國民安全帶來了威脅和挑戰(zhàn)。對深度偽造的治理，要本著對社會(huì)負(fù)責(zé)、對人民負(fù)責(zé)的態(tài)度，加強(qiáng)對人工智能和網(wǎng)絡(luò)空間的治理；還要廣泛依靠人民培養(yǎng)積極健康、向上、向善的數(shù)字生態(tài)系統(tǒng)。

數(shù)字時(shí)代帶來的一個(gè)巨大變化就是個(gè)人作為個(gè)體行為主體的角色參與培育和保護(hù)值得信賴的數(shù)字和信息生態(tài)系統(tǒng)。相當(dāng)大比例的數(shù)字內(nèi)容是由個(gè)人用戶生成的，個(gè)人也可以確保準(zhǔn)確和良性的信息被共享。所以，整個(gè)社會(huì)要有意識(shí)地在個(gè)人層面培養(yǎng)公眾在數(shù)字時(shí)代、人工智能時(shí)代的道德意識(shí)和社會(huì)責(zé)任感。只有更多的公眾意識(shí)到了深度偽造可能造成的危害，進(jìn)而在整個(gè)社會(huì)培養(yǎng)防范深度偽造的公眾意識(shí)，深度偽造對國民安全造成的威脅才能降到最低。公眾意識(shí)是防范深度偽造的最好“疫苗”。

（二）必須以維護(hù)國家政治安全為根本

深度偽造對中國政治安全帶來的挑戰(zhàn)主要表現(xiàn)為宗教極端思想和民族分離勢力的滲透和分裂活動(dòng)，特別是西方國家利用所謂的新疆民族和宗教問題，試圖分裂中國，以及利用“港獨(dú)”勢力禍亂中國香港，給“一國兩制”在香港的實(shí)施制造麻煩。在涉疆、涉港問題上，西方媒體制作了包括深度偽造在內(nèi)的大量虛假報(bào)道，極力抹黑中國政府的治疆、治港政策。所以，對深度偽造技術(shù)的治理，要上升到維護(hù)國家政治安全的高度，以嚴(yán)密防范和打擊利用人工智能和數(shù)字技術(shù)進(jìn)行滲透和顛覆活動(dòng)、暴力恐怖活動(dòng)、民族分離活動(dòng)和宗教極端活動(dòng)。

（三）既重視傳統(tǒng)安全又重視非傳統(tǒng)安全

在傳統(tǒng)安全方面，深度偽造在國土安全和國防安全領(lǐng)域同樣給中國帶來了一些新挑戰(zhàn)。無論是在和平時(shí)期，還是在未來可能的戰(zhàn)爭條件下，中國指揮自動(dòng)化系統(tǒng)同樣會(huì)面臨競爭對手利用深度偽造技術(shù)進(jìn)行干擾和誤導(dǎo)的威脅；競爭對手和境外敵對勢力也會(huì)繼續(xù)利用深度偽造技術(shù)對中國發(fā)動(dòng)政治戰(zhàn)，降低中國民眾對中國社會(huì)制度和執(zhí)政黨的信任度。為此，一方面，中國要加快國防和軍隊(duì)的現(xiàn)代化建設(shè)，貫徹習(xí)近平強(qiáng)軍思想和新時(shí)代軍事戰(zhàn)略方針，統(tǒng)籌推進(jìn)傳統(tǒng)安全領(lǐng)域和新型安全領(lǐng)域軍事斗爭準(zhǔn)備；另一方面，深度偽造基本上是以互聯(lián)網(wǎng)為基本載體，維護(hù)政治安全一定要高度重視網(wǎng)絡(luò)意識(shí)形態(tài)安全問題。

但我們也要看到，深度偽造更多是針對個(gè)體用戶，其所帶來的非傳統(tǒng)安全問題也更為普遍和突出，這也是中國各執(zhí)法部門必須面對的現(xiàn)實(shí)問題。因而需要把處理和應(yīng)對深度偽造引發(fā)的非傳統(tǒng)安全問題“放在貫徹落實(shí)總體國家安全觀中來思考，放在推進(jìn)國家治理體系和治理能力現(xiàn)代化中來把握”。

（四）要兼顧外部安全與內(nèi)部安全及自身安全與共同安全兩對關(guān)系

首先，各國須齊心協(xié)力應(yīng)對。深度偽造作為全球共同安全威脅早已越出國界，任何一個(gè)國家的短板都可能會(huì)造成外部風(fēng)險(xiǎn)的涌入，形成安全風(fēng)險(xiǎn)洼地。

其次，建立良好的數(shù)字生態(tài)系統(tǒng)治理深度偽造問題。一是尊重網(wǎng)絡(luò)主權(quán)。即要尊重各國自主選擇網(wǎng)絡(luò)發(fā)展道路和管理模式以及平等參與國際網(wǎng)絡(luò)空間管理的權(quán)利，不干涉他國內(nèi)政，不從事、縱容和支持危害他國國家安全的網(wǎng)絡(luò)活動(dòng)。二是維護(hù)和平安全。網(wǎng)絡(luò)空間不能成為各國角力的戰(zhàn)場和違法犯罪的溫床。三是構(gòu)建良好秩序。既要尊重公眾交流思想、表達(dá)意愿的權(quán)利，也要依法構(gòu)建良好的網(wǎng)絡(luò)秩序。四是堅(jiān)持多邊主義。各國應(yīng)加強(qiáng)溝通交流，完善網(wǎng)絡(luò)空間對話機(jī)制，同時(shí)發(fā)揮政府、國際組織、互聯(lián)網(wǎng)企業(yè)、技術(shù)社群、民間機(jī)構(gòu)和公民個(gè)人等各個(gè)主體的作用。

最后，必須發(fā)揮聯(lián)合國等機(jī)構(gòu)的作用。在聯(lián)合國及其相關(guān)機(jī)構(gòu)的參與主導(dǎo)下，參考一些國家和地區(qū)處理深度偽造的監(jiān)管機(jī)制和方法，制定國際公認(rèn)的規(guī)范和技術(shù)標(biāo)準(zhǔn)，是目前能夠被大多數(shù)國家所接受的、打造良好的數(shù)字生態(tài)系統(tǒng)的可行路徑。

（五）在總體國家安全架構(gòu)下完善針對深度偽造的綜合治理體系

深度偽造技術(shù)出現(xiàn)后，中國比較早認(rèn)識(shí)到這一新興技術(shù)對國家安全的威脅，并不斷采取應(yīng)對舉措加強(qiáng)在這一領(lǐng)域的治理，形成了較為完善的綜合治理體系。首先，中國正在逐漸完善應(yīng)對深度偽造的法律體系；其次，有針對性地頒布遏制惡意深度偽造行為的管理?xiàng)l例和規(guī)定；再次，從立法到執(zhí)法，強(qiáng)化并壓實(shí)信息發(fā)布平臺(tái)的責(zé)任；最后，完善公民公共安全教育體系。

結(jié)語

人工智能和其他數(shù)字技術(shù)的不斷進(jìn)步，互聯(lián)網(wǎng)技術(shù)的進(jìn)一步普及，使得深度偽造技術(shù)產(chǎn)品的質(zhì)量、數(shù)量和多樣性在穩(wěn)步上升。它所造成的潛在風(fēng)險(xiǎn)也為各國敲響了警鐘。目前，包括中國、美國、歐盟和聯(lián)合國在內(nèi)的大國和國際組織都已經(jīng)認(rèn)識(shí)到深度偽造給國家和國際安全帶來的挑戰(zhàn)和威脅，并從新技術(shù)的研發(fā)、加強(qiáng)對信息發(fā)布平臺(tái)的監(jiān)管以及社會(huì)立法等方面采取行動(dòng)，力求遏制惡意深度偽造帶來的各種威脅。國際社會(huì)也必須摒棄國際安全治理的雙重標(biāo)準(zhǔn)，倡導(dǎo)綜合安全、合作安全、共同安全的理念，共同打造數(shù)字時(shí)代人類安全的命運(yùn)共同體。