石 巍，黃家星

（南開大學 法學院，天津 300350）

“深度偽造”，又稱“AI 換臉”，是一種基于“對抗生成網(wǎng)絡(luò)”模型（簡稱為GAN）實現(xiàn)的技術(shù)。它可以通過對“源數(shù)據(jù)”的學習，用特定人的聲音、外貌和動作拼接出虛假的聲音、圖片或視頻。訓練數(shù)據(jù)越豐富，得出的結(jié)果就會更加的難以辨別。目前“深度偽造”技術(shù)在實踐中的應用較為廣泛且形式多樣。從輸出形式來看，可以分為圖片、音頻、視頻等形式。從被應用的對象來看，“深度偽造”既可以用在現(xiàn)實中存在的特定人物上，也可以“創(chuàng)造”出現(xiàn)實中并不存在的“人”，如在LinkedIn（一款社交網(wǎng)絡(luò)應用）上一位聲稱為美國國際戰(zhàn)略研究中心的研究員Katie Jones，被美聯(lián)儲證實只是潛伏在網(wǎng)絡(luò)上的大量虛假人物之一，其存在目的是為了收集更多有關(guān)美國的政治情報[1]。“深度偽造”技術(shù)克服了傳統(tǒng)“生物性識別數(shù)據(jù)”偽造技術(shù)的局限性，大大拓展了此類技術(shù)的使用范圍。它的出現(xiàn)為社會生活提供了很多便利和嶄新的可能性。例如可以使已經(jīng)故去的人物在電影中高質(zhì)量地“重現(xiàn)”。在電影《速度與激情7》中就利用了此類技術(shù)使已故的演員保羅.沃克在熒幕上“復活”。此外大眾可以通過“一鍵換臉”等應用程序制作表情包以豐富業(yè)余娛樂生活。

值得注意的是，“深度偽造”在為社會生活帶來便利的同時，也帶來了顯而易見的一些風險。面對這些風險，即使有學者主張，“深度偽造”不當使用的本質(zhì)屬于傳播虛假言論，優(yōu)勝略汰的法則自然會將傳播中的虛假信息淘汰[2]。但類似于Katie Jones 的虛假人物，可以成為搜集情報破壞國家安全的手段。另外Deep-Nude（深裸）等應用程序的出現(xiàn)也讓人們也不禁更加擔憂個人信息安全：如果自己的照片被“移植”到色情圖片或視頻上并被廣泛傳播，又當如何處理？因而必須回答的問題是，面對“深度偽造”這種風險與受益并存的新技術(shù)，法律應該采取何種態(tài)度？我國又應當如何有力應對人工智能時代這一新挑戰(zhàn)的出現(xiàn)？

目前我國針對“深度偽造”等技術(shù)可能帶來的風險已經(jīng)開始著手制定相關(guān)規(guī)則?！睹穹ǖ洹啡烁駲?quán)編中不僅規(guī)定了處理個人信息的基本原則，同時還明確規(guī)定不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)、不得任意處理他人的私密信息。《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》等法律法規(guī)更是直接針對“利用基于深度學習、虛擬現(xiàn)實等的新技術(shù)新應用制作、發(fā)布、傳播非真實的”音視頻信息做出管理規(guī)定。然而這些規(guī)則是否能夠有效規(guī)制“深度偽造”風險，是否有更加完善的空間，則值得進一步探討。有鑒于此，本文擬對“深度偽造”的發(fā)展和應用的過程進行梳理，并充分分析其可能帶來的風險，以及對國外相關(guān)規(guī)則做出分析，在此基礎(chǔ)上對我國的“深度偽造”相關(guān)規(guī)則做出評價并提出建議。

一、“深度偽造”的發(fā)展與風險

“深度偽造”中的“偽造”主要是指對于“生物識別數(shù)據(jù)”的偽造。而“生物性識別數(shù)據(jù)”指的是基于特別技術(shù)處理自然人的相關(guān)身體、生理或行為特征而得出的個人數(shù)據(jù)，這種個人數(shù)據(jù)能夠識別或確定自然人的獨特標識，例如臉部形象或指紋數(shù)據(jù)①。另外“深度偽造”這一概念的發(fā)展離不開人工智能時代的大背景，并建立在計算機“機器學習”的基礎(chǔ)上，即通過“機器學習”中相關(guān)算法從大量訓練數(shù)據(jù)中挖掘出隱含的規(guī)律，并將這些規(guī)律用于預測或者分類。簡而言之，“深度偽造”是人工智能時代利用計算機技術(shù)對“生物識別數(shù)據(jù)”進行拼接偽造的一種新方法。

（一）“深度偽造”的出現(xiàn)與發(fā)展

公眾對于偽造“生物識別數(shù)據(jù)”的了解和關(guān)注往往是從近幾年的娛樂信息開始的。包括將明星的臉疊加在另一段視頻中（例如之前廣泛傳播的“楊冪換臉朱茵”視頻），或者使用應用軟件將自己的臉拼接在明星的照片上（例如應用軟件ZAO 的火爆下載）。而事實上，“深度偽造”及相關(guān)技術(shù)的發(fā)展要遠遠早于這個時間節(jié)點。

1.先人工智能時代的“生物性識別數(shù)據(jù)”偽造技術(shù)

在“深度偽造”出現(xiàn)之前，通過電子信息手段進行“生物識別數(shù)據(jù)”偽造的相關(guān)技術(shù)就已經(jīng)出現(xiàn)并得到了運用。如在1995 年獲得奧斯卡最佳視覺效果獎的電影《阿甘正傳》中，主人公阿甘打乒乓球并獲得總理接見的相關(guān)鏡頭就是通過摳像技術(shù)合成的。這一階段的“生物性識別數(shù)據(jù)”偽造主要通過計算機圖片的人像處理技術(shù)實現(xiàn)。該技術(shù)最早可以追溯到19 世紀50年代的光學摳圖。并隨著視頻重構(gòu)等技術(shù)的實現(xiàn)，得到完善和發(fā)展。

但是總體來看，這一階段的“生物性識別數(shù)據(jù)”偽造技術(shù)并沒有在社會生活中得到十分普遍的應用。首先，技術(shù)發(fā)展程度使得效果呈現(xiàn)水平有限，人工識別與手動摳圖呈現(xiàn)的成像效果并不能盡如人意。其次，高額的成本決定了這一技術(shù)并不能被廣泛應用，應用主要局限在電影等具備高額資金支持的領(lǐng)域。最后，電子技術(shù)的整體所處發(fā)展階段決定了這一技術(shù)的風險有限。即使“生物性識別數(shù)據(jù)”可以偽造，但由于個人生物特征數(shù)據(jù)獲取的渠道有限、成本較大且范圍較窄，因而并不能在客觀上造成相當程度的風險隱患。

因而，先人工智能時代的“生物性識別數(shù)據(jù)”偽造技術(shù)在一定程度上為“深度偽造”的出現(xiàn)和發(fā)展提供了技術(shù)基礎(chǔ)和發(fā)展平臺，但是由于其發(fā)展水平和所處環(huán)境的限制，并沒有引發(fā)相關(guān)的社會問題和風險規(guī)制思考。

2.人工智能時代的“生物性識別數(shù)據(jù)”偽造技術(shù)

如上所述，“深度偽造”是利用計算機技術(shù)對“生物識別數(shù)據(jù)”進行拼接偽造的一種新方法，而作為“深度偽造”基礎(chǔ)模型的GAN 技術(shù)（GAN 屬于“機器學習”中“強化學習”的模型之一），由Ian J. Goodfellow 等人于 2014 年 10 月在 Generative Adversarial Networks 中提出，其核心思想來源于博弈論中的二人零和博弈。簡單來說就是GAN 包括一個生成模型，一個判別模型。判別模型用于判斷一個給定的圖片是不是真實的圖片（從數(shù)據(jù)集里獲取的圖片），生成模型的任務(wù)是去創(chuàng)造一個看起來像真的圖片一樣的圖片。這兩個模型一起對抗訓練，生成模型產(chǎn)生一張圖片去欺騙判別模型，然后判別模型去判斷這張圖片是真是假，最終在這兩個模型訓練的過程中，兩個模型的能力越來越強，最終達到穩(wěn)態(tài)[3]。

從2017 年起，“深度偽造”技術(shù)逐漸進入大眾的視野。有一個名叫“Deepfaker”的用戶在Reddit 網(wǎng)站利用“深度偽造”技術(shù)將色情視頻中女主角的臉部與知名女演員進行替換，這一行為引起了廣泛爭議并最終導致用戶“Deepfaker”在該網(wǎng)站被封號。但是這一應用趨勢并未因此受到打擊。用戶“Deepfaker”隨后直接開源了項目代碼，更多效仿者隨之而來。追隨者們?yōu)榱思o念該用戶在這一領(lǐng)域的“貢獻”，便用他的名字“Deepfake”代稱“深度偽造”技術(shù)。

從2018 年開始，相關(guān)應用程序在國內(nèi)外開始上線。在國外，2018 年 1 月，一個名為 FakeApp 的軟件在美國開始上線，號稱可實現(xiàn)“一鍵換臉”，激發(fā)了用戶極大的參與熱情，一時間包括惡搞名人或?qū)⒆约号c名人“換臉”的小視頻比比皆是。同年，號稱可以實現(xiàn)“一鍵脫衣”的應用程序DeepNude（深裸）也被開發(fā)了出來，然而由于巨大的風險隱患，僅僅上架幾天后，研發(fā)團隊就將這一應用程序下架。在國內(nèi)，2019 年8 月上架的應用程序“ZAO”，一經(jīng)發(fā)布便得到了大量下載，上線不到一天就出現(xiàn)了服務(wù)器滿負荷的情況。

相對于先人工智能時代的偽造技術(shù)，“深度偽造”具有新的特點。首先，“深度偽造”技術(shù)產(chǎn)物具有高度真實性，使人難以分辨。人工智能背景下，通過運用機器“對抗——辨別”模型，極大提升了偽造視頻等產(chǎn)物的外觀“真實性”和辨認的難度，以肉眼的方式辨別真?zhèn)卧桨l(fā)困難。其次，該應用具備操作簡易性，即使是非專業(yè)人員也十分容易掌握和參與。雖然“機器學習”抑或“GAN 模型”對于計算機從業(yè)人員以外的非專業(yè)人士知識壁壘較高，但是相較而言“深度偽造”的應用程序卻非常容易上手。如DeepFaceLab 是“深度偽造”技術(shù)的一個開源軟件工具包，所有人都可以查看源代碼也能免費使用，安裝簡單，使用方便，即使是初學者也可以順利下載使用，在GitHub 上已獲得超過5000 多星的評價。另外，“深度偽造”的應用廣泛、應用成果傳播范圍廣。同時其在互聯(lián)網(wǎng)傳播應用的背景環(huán)境決定了一旦“深度偽造”的成果在上傳至網(wǎng)絡(luò)，傳播速度將十分可觀，故而即使造成了不良影響也很難通過迅速的“下架”或其他方式及時應對或消除不良影響。

（二）“深度偽造”風險分析

“深度偽造”技術(shù)的不當使用可能會造成對個體、社會、國家三個層面的影響：

1.個體層面的風險

首先，“深度偽造”可能對個人的人格權(quán)和財產(chǎn)權(quán)帶來威脅。從人格權(quán)保護看，個人的隱私權(quán)、名譽權(quán)等都極有可能因為“深度偽造”的不當使用而受到損害?，F(xiàn)代社會中，個人的信息隱私權(quán)不再局限于對私生活秘密的消極保護，而是更加注重對于個人信息的控制和自決，德國將此種權(quán)利稱為“控制自己資訊的權(quán)利”或稱為“資訊自決權(quán)”[4]。即個人有決定自己個人信息使用的方式，而“深度偽造”其訓練替換樣本的獲取往往并沒有取得相應權(quán)屬人的同意，對其信息隱私權(quán)造成了侵犯。另外被傳播的“深度偽造”技術(shù)制作成果，由于一些不恰當?shù)氖褂梅绞剑瑥亩赡茉搩?nèi)容具有貶損他人名譽、降低他人社會評價的性質(zhì)，對個人的名譽權(quán)造成損害。從財產(chǎn)權(quán)保護來看，由于形象聲音逼真、辨認難度大，利用“深度偽造”這一技術(shù)進行詐騙的事例并不罕見。據(jù)《華爾街日報》報道，今年3 月份，有犯罪分子使用AI 技術(shù)成功模仿了英國某能源公司在德國母公司CEO 的聲音，詐騙了220，000 歐元（約1，730，806 人民幣）。

另外，“深度偽造”技術(shù)的使用有可能對特定人群造成更大的風險和壓力。雖然“深度偽造”使所有人都有暴露在受到侵害的風險中的可能性，但是從目前的實踐情況看，“深度偽造”的實踐應用涉及到的具體群體并不相同。例如類似于DeepNude（深裸）利用“深度偽造”技術(shù)合成色情視頻的應用程序，會對女性造成更大的影響。根據(jù)關(guān)于深度追蹤的一份報告的內(nèi)容，該報告在2019 年6 月和7 月的最新統(tǒng)計中顯示了14698 個深度偽造視頻，該數(shù)量在七個月內(nèi)增長了84%。其中絕大多數(shù)（96%）包含以女性為特色的色情內(nèi)容[5]。而當運用這種應用程序進行“一鍵合成”的色情視頻在互聯(lián)網(wǎng)上發(fā)布傳播后，其中“被露臉”的當事人不可避免的將會受到就業(yè)、人身安全等諸多方面的困擾，正常的生活秩序勢必被破壞。正如佛蘭芒廣播公司駐外記者湯姆·范德韋格所言，“受威脅最大的不是大人物，而是像你、我、女記者這樣的普通人，以及某種程度上的邊緣群體，他們可能成為或已經(jīng)成為深度偽造的受害者?！?/p>

2.社會層面的風險

“深度偽造”可能造成社會信任層面的風險?！把垡姙閷崱边@一俗語準確的表述了人類長久以來的信賴判斷標準：如果親自看到或聽到了一件事，那它必然是可信的。同時視頻和音頻等傳播載體的出現(xiàn)極大的拓展了經(jīng)驗判斷的來源基礎(chǔ)。但“深度偽造”的技術(shù)的出現(xiàn)，使這一標準從根本上被動搖?！吧疃葌卧臁蓖ㄟ^“生物性識別數(shù)據(jù)”的拼接和偽造，以“訓練——替換——對抗”的方式，制造出“高仿真”的成果，其試圖實現(xiàn)的最終目標就是“以假亂真”。而肉眼和人工智能的對抗，顯然人類處于這場“真假博弈”的下風，必須在“深度偽造”的時代接受這樣一個事實：你所見的并不一定是真的，你所聽的不一定是存在的。

在瓦解傳統(tǒng)信賴判斷標準的同時，信任風險必然有所上升，從而對社會的諸多方面造成壓力。首先，從社會秩序看，“深度偽造”應用傳播的虛假信息可能對正常的社會秩序造成破壞，大眾很容易被誤導，因而形成不必要的恐慌。其次，“深度偽造”對于傳統(tǒng)信賴標準已經(jīng)形成了挑戰(zhàn)，但是相應的新的信賴標準卻并未出現(xiàn)，這就導致了“標準缺位”的情形，在這種情形下，個人判斷很容易走向極端。另外，傳播速度之快，加深了這些風險的威脅。其傳播影響和傳播過程具有同步性，即使迅速采取應對，也幾乎不可能在影響形成之前采取行動，因而只能采取一種“事后性”的被動彌補方式處理。

3.國家層面的風險

“深度偽造”在國家層面帶來的風險主要包括三個方面：國內(nèi)政治風險、國家間關(guān)系風險、恐怖主義的威脅。

“深度偽造”技術(shù)對國內(nèi)政治穩(wěn)定的威脅并非“天方夜譚”。哈佛大學肯尼迪政府學院下屬的Belfer 研究中心曾在《AI 與國家安全》報告中指出：“敵對國家的網(wǎng)絡(luò)間諜在竊取一國的真實機密文件后，同時泄露真實文件和一些偽造文件，然后再利用深度偽造技術(shù)合成相應的音、視頻材料來佐證這些偽造文件。通過這種途徑，偽造文件的可信度將極大提升，因而可以借以操縱公眾輿論，影響國家政權(quán)穩(wěn)定?！碑斎粚嵺`中可操作的形式遠不止用于偽造文件的輔證，而政治參與者們似乎尋求從中獲取不當收利且無意抵制“深度偽造”的不良影響。正如一名法新社記者所說“政客沒有改變這種狀況的動機，并且存在利益沖突，因為這些分發(fā)假材料的平臺會幫助他們贏得大選”[6]。甚至一些國家已經(jīng)開始將“深度偽造”技術(shù)作為“信息戰(zhàn)”的手段之一加以大力開發(fā)。美國陸軍網(wǎng)絡(luò)司令部負責人斯蒂芬·福格蒂中將曾表示：“我們需要具備攻擊性和防御性的自主能力。事實上，我們能夠?qū)崟r捕捉在互聯(lián)網(wǎng)上發(fā)布的有誤導性質(zhì)且有影響力的內(nèi)容，并迅速以其人之道還治其人之身”[7]。

同樣的，“深度偽造”的應用可能對國家間的關(guān)系造成影響。比利時的社會黨安德斯曾運用“深度偽造”技術(shù)于2018 年5 月在Facebook 上發(fā)布視頻，內(nèi)容顯示特朗普嘲諷比利時繼續(xù)加入巴黎氣候協(xié)議。當然這一事件由于視頻制作較為粗糙，真假辨別難度較低因而并未真實的影響到比利時與美國之間的關(guān)系，但試想隨著“深度偽造”技術(shù)的發(fā)展和應用的深化，若被別有用心的人士應用，則很難預計最終的影響。不僅有可能威脅國家間的正常關(guān)系，還有可能被用作“輿論戰(zhàn)”的手段，惡化國家間的關(guān)系，最終甚至走向戰(zhàn)爭。

此外，“深度偽造”如果被恐怖組織加以利用，將對世界和平安全造成極大的威脅。例如米德爾伯里國際研究中心恐怖主義、極端主義和反恐中心（CTEC）的研究人員認為，恐怖組織可以利用GPT-2（一種利用“深度偽造”技術(shù)的應用工具）和其他類似的組織來宣傳白人至上主義、伊斯蘭圣戰(zhàn)主義和其他具有威脅性的意識形態(tài)?？梢哉f，“深度偽造”技術(shù)為恐怖主義的提供了新的輿論混淆手段和宣傳手段，恐怖組織可以通過利用其真假難辨的特性，散步虛假信息，制造動蕩局面，進而威脅國際安全。

二、“深度偽造”的規(guī)制與評價——以美國為例

（一）規(guī)制的可能性與必要性

技術(shù)作為一種對于自然運行客觀規(guī)律的捕捉和利用手段，本身的客觀性是毋庸置疑的。正如布萊恩·阿瑟所言：“本質(zhì)上，技術(shù)是被捕獲并加以利用的現(xiàn)象的集合，或者說，技術(shù)是對現(xiàn)象有目的的編程”[8]?！吧疃葌卧臁边@一技術(shù)也不例外。它可以被應用至電影制作、人像復原等領(lǐng)域，也可以作為詐騙、勒索、色情傳播的手段危害社會。從這一點看，正如“技術(shù)中立”價值論倡導者的判斷，“深度偽造”技術(shù)本身不應當成為被限制的對象。

然而，技術(shù)是否可以排除其主觀性的一面，答案是否定的。存在主義哲學大師海德格爾認為：“人盡皆知對我們這個問題有兩種回答。其一曰：技術(shù)是合目的的手段。其二曰：技術(shù)是人的行為。這兩個關(guān)于技術(shù)的規(guī)定原是一體的，因為設(shè)定目的，創(chuàng)造和利用目的的手段，就是人的行為”[9]。技術(shù)追求對客觀規(guī)律的捕捉和利用，只能說明其來源和內(nèi)容是客觀的，而技術(shù)之所以存在和之所以被應用，則體現(xiàn)了技術(shù)創(chuàng)造主觀性的一面。技術(shù)一旦進入社會領(lǐng)域，必然會被社會制度、社會組織和社會群體的各種利益、訴求和價值判斷所塑造和限制[10]。如果片面的強調(diào)“技術(shù)中立”，將會不可避免的導致技術(shù)功能與實踐后果的分離。也就是說，技術(shù)為人所創(chuàng)造使用，但是發(fā)明人和傳播使用者等卻能完美規(guī)避一切來自法律的負面評價。這顯然是不合理的。

由此可見，技術(shù)本身由于其來源和內(nèi)容，具有客觀性；同時由于其用途和使用目的，具有主觀性。從風險規(guī)制的角度，應當主要從其主觀性一面入手，也就是以對技術(shù)發(fā)明者、使用者、傳播者為切入點，合理規(guī)制技術(shù)風險。

因而具體到“深度偽造”的規(guī)制判斷問題。首先，應當肯定這一技術(shù)存在的客觀合理性，“深度偽造”本身不應當直接受到法律的負面評價，脫離使用而單純的對于“深度偽造”進行規(guī)制既無必要也無可行性。其次，“深度偽造”技術(shù)不應當直接被法律所禁止，但并不等于“深度偽造”的參與者不應當受到來自法律規(guī)制。換句話說，對于“深度偽造”的規(guī)制應當從其參與者入手，包括發(fā)明者、應用者、傳播者等方面，以規(guī)制“深度偽造”發(fā)明使用目的為路徑，實現(xiàn)“深度偽造”的合理使用，避免該技術(shù)對個人、社會、國家造成的諸多方面的風險。

（二）“深度偽造”的規(guī)制路徑——以美國為例

目前各國已經(jīng)開始在法律層面采取手段尋求規(guī)制“深度偽造”的應用風險。其中以實踐較為典型的美國為例。

1.既存規(guī)則體系簡介

美國是最早開始對“深度偽造”進行規(guī)制的國家之一。2018 年以來，隨著“深度偽造”技術(shù)的廣泛應用與風險事件的不斷提示，美國在“深度偽造”的法律規(guī)制方面也加快了步伐。目前，既存關(guān)于“深度偽造”的規(guī)則來源較為復雜，主要分為以下幾類：第一類，是從“深度偽造”自身的角度進行規(guī)制，包括《2019 年深度偽造報告法案》、《深度偽造責任法案》等；第二類，是以“生物信息保護”的角度進行規(guī)制，包括伊利諾伊州頒布在2008 年頒布的《生物信息隱私法案》、德克薩斯州在2009 年頒布的《生物識別信息獲取使用法》②等；第三類，是從具體風險（如色情傳播、選舉影響等）規(guī)制的角度進行規(guī)制，包括弗吉尼亞州2019《非同意色情法》修正案、德克薩斯州《關(guān)于制作欺騙性視頻意圖影響選舉結(jié)果的刑事犯罪法案》等。

2.規(guī)制的起點與變遷

如何看待“深度偽造”決定了其規(guī)制的起點。一方面，對“深度偽造”進行規(guī)制，顯而易見的一種規(guī)制路徑是以其本身作為規(guī)制切入點，即直接圍繞“深度偽造”的不當應用進行規(guī)制。另一方面“深度偽造”的本質(zhì)是“對生物識別數(shù)據(jù)進行偽造的一種新技術(shù)”，通過以“生物識別數(shù)據(jù)”的保護實現(xiàn)抑制“深度偽造”不當使用帶來的負面效應，也是一種可行的路徑。

美國對于“深度偽造”的規(guī)制經(jīng)歷了兩個階段的路徑變遷。在2019 年以前，美國對于“深度偽造”的規(guī)制，主要是通過對“生物識別數(shù)據(jù)”的保護實現(xiàn)。無論是伊利諾伊州的《生物信息隱私法案》還是德克薩斯州的《生物識別信息獲取使用法》等均是在此之前制定。在2019 年以后，美國對于“深度偽造”的規(guī)制，主要是通過直接規(guī)制實現(xiàn)，例如《2019 年深度偽造報告法案》和《深度偽造責任法案》等。

造成這一情況的原因主要由于“深度偽造”技術(shù)雖然從2014 年開始就獲得了技術(shù)上的突破，但是直到2017 年才開始被廣泛應用，之后在實踐中逐步暴露的風險引起了人們的廣泛注意。因而“深度偽造”帶來的是全新的挑戰(zhàn)。同時基于法律滯后性的固有特點，開始針對“深度偽造”進行法律規(guī)制的時間必然更加后置。相對而言，對于“生物識別數(shù)據(jù)”的保護意識覺醒的更早，所以試圖實現(xiàn)對“深度偽造”的風險進行最及時有效的規(guī)制，顯然應當在既存規(guī)則中尋求答案，故而第一個階段的選擇是被動的選擇。這一階段針對“深度偽造”的規(guī)則存在諸多不完善之處。如伊利諾伊州在2008 年頒布的《生物信息隱私法案》，其目的在于規(guī)范“生物標識符和信息的收集，使用，保護，處理，存儲，保留和銷毀”，但是卻明確的將“照片”等形式明確的排除在該法的限制范圍之外。這樣一來，使用照片進行“深度偽造”應用的方式就無法得到有效的規(guī)制。

如果說在第一個階段對于“深度偽造”的規(guī)制是被動的，那么當充分掌握了“深度偽造”的運行機制及使用可能性后，美國重新站到了選擇的“十字路口”：是選擇“深度偽造”作為規(guī)制主體抑或是繼續(xù)以“生物識別數(shù)據(jù)”作為規(guī)制主體。不同于歐盟始終將“生物識別數(shù)據(jù)”作為規(guī)制主體的路徑選擇，美國轉(zhuǎn)而開始積極嘗試針對“深度偽造”的直接立法。這主要反映了美國對于“深度偽造”帶來巨大風險的擔憂，以及直面修復這些風險危機的決心[11]。同時需要明確的是，“生物識別數(shù)據(jù)”的范圍以及涉及的法律問題與“深度偽造”有重疊但不重合，美國對“深度偽造”選擇的直接規(guī)制路徑并不代表對“生物識別數(shù)據(jù)”的立法規(guī)制的放棄。事實上，例如《2019 商業(yè)面部識別隱私法案》等關(guān)于“生物識別數(shù)據(jù)”新的立法正在進行中。

3.針對“深度偽造”應用風險的具體規(guī)制安排

《2019 年深度偽造報告法案》直接以“深度偽造”為主要規(guī)制對象，在這份法案中，首先規(guī)定了“數(shù)字偽造”的定義，即“通過使用新興技術(shù)（包括人工智能和機器學習技術(shù)）來制造或操縱音頻，視覺或文本內(nèi)容，以期產(chǎn)生誤導”?？梢钥吹皆谶@份關(guān)于“深度偽造”的報告中并未直接使用“深度偽造”的定義，采用了概念外延略大于“深度偽造”的“數(shù)字偽造”定義，在有效涵蓋“深度偽造”概念的同時合理擴大了該法案的適用范圍。其次規(guī)定了關(guān)于“數(shù)字偽造”技術(shù)的“定期報告”制度，根據(jù)該法案，國土安全部的秘書處應在該法案公布的一年內(nèi)公布第一份報告，并在其后的每五年進行報告。報告的內(nèi)容包括基礎(chǔ)技術(shù)評估、類型描述、損害國家安全評估、用途等八個方面的評估內(nèi)容。這些方面涉及的范圍較廣，幾乎包括了實踐對于“深度偽造”使用較為關(guān)切的所有問題。采用報告的形式進行監(jiān)督，在主動掌握“深度偽造”的發(fā)展趨勢的同時并不對“深度偽造”本身產(chǎn)生不合理限制，平衡了技術(shù)的發(fā)展和監(jiān)管的需要。

另一個關(guān)于“深度偽造”的最新實踐是2019 年6月12 日美國國會眾議員Yvette Clarke 提出的《深度偽造責任法案》。該法案主要要求視頻創(chuàng)作者對發(fā)布修改視頻負責，并通過不同形式的“自我披露”以實現(xiàn)與真實視頻的區(qū)分，否則將會根據(jù)產(chǎn)生的不同后果受到刑事或者民事處罰。其目的是“通過限制深度偽造視頻更改技術(shù)來防止虛假信息的傳播”，在制度設(shè)計上更加嚴格，并且在一定程度上實現(xiàn)了與其他法律部門的銜接，使“深度偽造”不當使用行為的法律責任更加明確。

在具體風險的規(guī)制方面，對于政治方面風險的規(guī)制主要集中在“深度偽造”對選舉等政治活動的影響上。加利福尼亞州的AB 730 法案規(guī)定，將在2023 年1月1 日之前禁止個人、委員會或其他實體，在選舉中出現(xiàn)選民候選人的選舉之日起60 天內(nèi)，分發(fā)帶有實質(zhì)性的具有欺騙性的音頻或圖像的惡意內(nèi)容，否則將面臨訴訟和賠償?shù)娘L險。但是如果媒體等傳播主體做出了如實披露或提示，則可視具體情況得到豁免。但由于其只適用于開始選舉之日起60 日內(nèi)具有“真實惡意”的“深度偽造”內(nèi)容，使其適用范圍和實際效力不得不大打折扣。此外德克薩斯州也通過了保障選舉安全的專門的深度偽造法，即《關(guān)于制作欺騙性視頻意圖影響選舉結(jié)果的刑事犯罪法案》，將利用Deepfake等技術(shù)制作或發(fā)布“深度偽造”視頻企圖傷害候選人或干擾選舉的行為定義為刑事犯罪。

對于個人權(quán)利的保護主要體現(xiàn)在規(guī)制“深度偽造”色情產(chǎn)物傳播上。例如弗吉尼亞州2019《非同意色情法》修正案將“深度偽造”的情況納入非自愿色情禁令的范圍中。該法禁止“意圖脅迫，騷擾或恐嚇”他人傳播裸體圖像或視頻，否則可能構(gòu)成一級輕罪，最高可判處12 個月監(jiān)禁和2500 美元罰款。這一安排針對的是目前實踐中“深度偽造”在色情視頻傳播中的不當應用趨勢，通過將“深度偽造”的情況納入非自愿色情禁令的范圍等手段能夠遏制這一趨勢，從而保護女性等容易在這此過程中受到影響的群體。

（三）現(xiàn)有規(guī)則的評析

總的來說，目前美國面對“深度偽造”的風險作出了較為及時有效的回應，但是其制定的相關(guān)規(guī)則仍然存在著以下不足之處。

首先，對濫用者懲罰力度不足。對“深度偽造”行為進行規(guī)制的完整邏輯鏈可以表述為：行為——識別——規(guī)制。對于“深度偽造”濫用者的規(guī)制，效應不僅體現(xiàn)在“規(guī)制”端，而且可以通過法律的指引作用將監(jiān)管力度延伸至“行為端”，從而實現(xiàn)較好的實踐效果。但是目前關(guān)于美國“深度偽造”濫用者的懲罰力度存在著一些的質(zhì)疑的聲音。例如Deep Instinct 的羅森伯格認為，“濫用者被抓到的風險很小。因為風險低，所以制造深度偽造幾乎沒有威懾力。而這會加劇散布深度偽造的假冒者的膽識”[12]。當然這不僅需要法律規(guī)則的完善，同時還需要技術(shù)的配合，提高濫用者違法行為的風險，改善“深度偽造”濫用低成本、低風險的現(xiàn)狀。

其次，平臺責任的設(shè)置不盡合理。正如前文所述，“深度偽造”的成果傳播平臺是互聯(lián)網(wǎng)。而互聯(lián)網(wǎng)無形性、迅速性的特點決定了“深度偽造”的不良應用一旦開始傳播就很難停止并消除其不利影響。而傳播平臺作為重要媒介，如果在傳播伊始就能夠及時制止，那么“深度偽造”的負面應用風險就會大大降低。技術(shù)公司在虛假信息辨別的問題上，扮演者重要的“守門員”角色[13]。但在這一點上僅憑傳播平臺的“自覺性”是遠遠不夠的。雖然一些網(wǎng)站已經(jīng)開始積極采取措施應對“深度偽造”，但是基于《傳播凈化法》中的第230 條的免責規(guī)定，這些網(wǎng)站仍然缺乏來自法律上動力應對“深度偽造”的產(chǎn)物，許多“深度偽造”視頻目前仍在網(wǎng)絡(luò)上廣泛傳播[14]。有學者提出可以以修正案的方式對此進行修改[15]。但是到目前為止，還沒有進一步的實踐進展。

最后，整個體系應進一步完善。目前保護的并不全面。盡管刑法為偽造傳播虛假信息的行為編織了貌似嚴密的法網(wǎng)，但實際上，只要視頻信息并非承載特定的內(nèi)容（如軍情、險情、色情等），或直接從事違法犯罪（如詐騙、盜竊等），現(xiàn)有“換臉視頻”的絕大多數(shù)情形都在刑事法網(wǎng)之外[16]。這一點與現(xiàn)實的迫切性形成了鮮明的對比，因而必須做出以聯(lián)邦刑法為基礎(chǔ)，以”深度偽造“色情產(chǎn)物為中心的國家對策，因為每個人都會是潛在的受害者[17]犯罪。（嘗試xxx 罪美國）總體來說，“深度偽造”仍然屬于比較新的問題，需要規(guī)則與實踐進一步互動與改進。

此外，針對“深度偽造”的風險進行規(guī)制同時，也必須考慮規(guī)制手段與其他價值的互動與界限，以避免損害規(guī)制手段的有效性。例如，立法機構(gòu)必須在表達內(nèi)容本身和內(nèi)容表達的中介或來源的特點上劃清界限，以保證言論表達的自由[18]。

基于已有資料及圖件，采用地統(tǒng)計學、空間疊置等空間風險方法，依次疊置求交集劃定相關(guān)類別單元的邊界，最后劃定為相對均一的風險評價單元。在地理單元的基礎(chǔ)上，對受同一污染源影響、且污染程度相似的區(qū)域原則上劃為同一風險評價單元，具體需綜合考慮點位風險評價結(jié)果、區(qū)域污染源類型因素，結(jié)合土地利用方式、地塊邊界等因素綜合確定風險評價單元的區(qū)域和邊界（圖2）。

三、我國對這一問題的應對

目前我國已經(jīng)充分認識到隨著“深度偽造”等新技術(shù)新應用在網(wǎng)絡(luò)音視頻領(lǐng)域的運用，傳播違法和不良信息、侵犯人民群眾合法權(quán)益等風險隱患進一步集聚、放大，可能被利用從事危害國家安全、破壞社會穩(wěn)定、擾亂社會秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動，造成政治安全風險和國家安全、公共安全風險，對社會穩(wěn)定造成不良影響③。并及時制定了相關(guān)規(guī)則進行規(guī)制。規(guī)制方式與美國較為類似：一方面通過“生物信息”的保護以避免“深度偽造”的不當應用，另一方面直接針對“深度偽造”的不當應用做出限制（通常以“虛假音視頻”、“非真實音視頻”等名稱指代）。

通過“生物信息”進行規(guī)制的相關(guān)法律涉及數(shù)據(jù)收集、數(shù)據(jù)主體同意、數(shù)據(jù)傳播等各方面?！睹穹ǖ洹返?034 條以及第1035 條規(guī)定，包括生物識別信息在內(nèi)的自然人的個人信息受法律保護。處理個人信息的，應當遵循合法、正當、必要原則，不得過度處理關(guān)于數(shù)據(jù)收集的目的限制，《數(shù)據(jù)安全管理辦法（征求意見稿）》第24 條規(guī)定，網(wǎng)絡(luò)運營者不得以謀取利益或損害他人利益為目的利用大數(shù)據(jù)、人工智能等技術(shù)自動合成信息。

除此之外，關(guān)于“深度偽造”等技術(shù)對“生物信息”不當使用的風險規(guī)制，《民法典》第1019 條規(guī)定，任何組織或者個人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像。從而扭轉(zhuǎn)了《民法通則》規(guī)定下“非盈利肖像使用”追責難的局面，并充分限制了以“深度偽造”為代表的信息技術(shù)偽造手段對個人肖像權(quán)的侵害。而就“深度偽造”在色情應用上的風險，《民法典》第1033 條規(guī)定，除法律另有規(guī)定或者權(quán)利人明確同意外，任何組織或者個人不得處理他人的私密信息。從“私密信息”的處理限制入手，以實現(xiàn)“深度偽造”等色情應用的傳播。

對“深度偽造”的不當應用的直接規(guī)制，我國仍處于初始探索階段。2020 年1 月1 日起施行的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》規(guī)定“利用基于深度學習、虛擬現(xiàn)實等的新技術(shù)新應用制作、發(fā)布、傳播非真實音視頻信息的”必須進行標識。對于其中違法違規(guī)內(nèi)容網(wǎng)絡(luò)音視頻信息服務(wù)提供者應及時停止傳輸該信息，并采取消除等處置措施，防止信息擴散。并且明確了和其他部門法規(guī)的銜接關(guān)系，明確了法律責任。其中第十八條規(guī)定，網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者違反本規(guī)定的，由網(wǎng)信、文化和旅游、廣播電視等部門依照《中華人民共和國網(wǎng)絡(luò)安全法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)文化管理暫行規(guī)定》《互聯(lián)網(wǎng)視聽節(jié)目服務(wù)管理規(guī)定》等相關(guān)法律法規(guī)規(guī)定處理；構(gòu)成違反治安管理行為的，依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責任。

另外，我國在應對“深度偽造”風險規(guī)制方面，與美國相比，優(yōu)勢之一在于明確傳播平臺的審查責任。關(guān)于傳播平臺的審查，網(wǎng)信辦已經(jīng)會同有關(guān)部門制定出臺了《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》，其中規(guī)定各互聯(lián)網(wǎng)信息服務(wù)提供者需要自行或者委托第三方開展安全評估。這一規(guī)定明確了互聯(lián)網(wǎng)信息服務(wù)提供者的責任，但不足在于適用范圍較窄，僅限于具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)的平臺。更廣泛的平臺責任安排，則由《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》直接規(guī)定：網(wǎng)絡(luò)音視頻信息服務(wù)提供者基于新技術(shù)新應用上線具有媒體屬性或者社會動員功能的音視頻信息服務(wù)，或者調(diào)整增設(shè)相關(guān)功能的，應當按照國家有關(guān)規(guī)定開展安全評估；網(wǎng)絡(luò)音視頻信息服務(wù)提供者應當加強對網(wǎng)絡(luò)音視頻信息服務(wù)使用者發(fā)布的音視頻信息的管理，部署應用違法違規(guī)音視頻以及非真實音視頻鑒別技術(shù)；網(wǎng)絡(luò)音視頻信息服務(wù)提供者針對深度學習、虛擬現(xiàn)實等的虛假圖像、音視頻應建立健全辟謠等機制等。

可以看到我國對于“深度偽造”的風險規(guī)制盡管處于初始階段，但是仍然建立起了比較完善的規(guī)制機制。在信息收集階段，通過目的限制與征得數(shù)據(jù)收集主體同意等要求，使數(shù)據(jù)主體增強對個人生物特征信息的掌控。在“深度偽造”技術(shù)的使用階段，在安全評估、信息標識、違法違規(guī)信息處理、辟謠機制的建立等多角度完善了網(wǎng)絡(luò)音視頻信息服務(wù)提供者的責任機制，以有效遏制“深度學習”可能產(chǎn)生的負面影響。在未來關(guān)于“深度偽造”的規(guī)制完善方面，應著重注意以下幾點：

（一）在知識產(chǎn)權(quán)保護等問題上還需要進一步的完善

按照我國知識產(chǎn)權(quán)的相關(guān)規(guī)定，視頻作品的作者享有作品的完整權(quán)，不受任意修改的權(quán)利。當原始視頻被曲解、編輯、修改之后，原作者的知識產(chǎn)權(quán)就受到相應的侵害[19]。因而“深度偽造”的不當使用也很可能使權(quán)利人知識產(chǎn)權(quán)被侵犯，但是就目前的立法現(xiàn)狀來看，不論是我國還是其他等已經(jīng)開始針對“深度偽造”的不當使用進行規(guī)制國家，都很少關(guān)注“深度偽造”的不當使用與知識產(chǎn)權(quán)保護之間的問題。關(guān)于這一點，應當參考《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》第十八條中關(guān)于“深度偽造”不當使用行為與刑事責任等進行銜接的方式，在未來的立法中將“深度偽造”的不當應用與知識產(chǎn)權(quán)法上的相關(guān)法律責任加以關(guān)聯(lián)。

（二）需要注意平臺責任的平衡

需要注重進一步發(fā)揮行業(yè)自治規(guī)范的效力，盡快完善相關(guān)技術(shù)標準。關(guān)于“深度偽造”等新技術(shù)的風險規(guī)制，就像是一場“貓鼠游戲”，隨著“深度偽造”技術(shù)的“日臻完美”相應的檢測技術(shù)也必將隨之一同發(fā)展。為了使檢測辨別方法更加有效，除了例如在《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》中強調(diào)的“深度偽造”內(nèi)容主動標識義務(wù)，同時還應當促使相關(guān)辨別技術(shù)標準逐步完善，并充分發(fā)揮行業(yè)自治效應。目前我國的互聯(lián)網(wǎng)企業(yè)還沒有采取相關(guān)行動，但是谷歌和微軟等國外大型互聯(lián)網(wǎng)公司已經(jīng)采取了一些積極的方式加以應對，例如發(fā)布深度偽造視頻數(shù)據(jù)集，幫助識別AI 換臉視頻；培養(yǎng)專門人員進行“深度偽造”內(nèi)容識別工作等。這將不僅有助于“深度偽造”的風險防范，還有助于互聯(lián)網(wǎng)企業(yè)的自身發(fā)展。

在人工智能時代，諸如“深度偽造”等新技術(shù)帶來的風險對人類構(gòu)成了一些新的挑戰(zhàn)。面對這些風險，從法律的角度進行規(guī)制仍然是一種十分有效且必要的方式。而對任何一種技術(shù)帶來的風險進行規(guī)制都必然面臨技術(shù)中立和價值判斷的矛盾。技術(shù)本身不應當成為限制的對象，否則將打擊技術(shù)發(fā)明的熱情甚至限制科技的進步。但是科技的使用必須受到合理的限制，面對技術(shù)過于“怯懦”的態(tài)度將會放任科技風險對人類社會的威脅。實現(xiàn)這二者間的平衡，是規(guī)則制定者長期必須面對的難題。

注 釋：

①歐盟《一般數(shù)據(jù)保護條例》第4.11 條。

②具體位于《德克薩斯州商法典》（BUSINESS AND COMMERCE CODE）第11 節(jié)個人身份信息。

③《國家互聯(lián)網(wǎng)信息辦公室.國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人就〈網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定〉答記者問》，http://www.cac.gov.cn/2019-11/29/c_1576561821173892.html.