范玉吉 于雅潔

一、引言

互聯(lián)網(wǎng)的極速發(fā)展，帶來的是用戶的極速增加，據(jù)Hootsuite 和We Are Social發(fā)布的一份報告顯示，截至2021年7月，全球互聯(lián)網(wǎng)用戶已達48億，占世界總?cè)丝诘?1%；全球移動用戶已達52.7億，占世界總?cè)丝诘?7%；全球社交媒體用戶達44.8億，幾乎相當于全世界總?cè)丝诘?7%。網(wǎng)絡(luò)用戶數(shù)量的激增，對各類網(wǎng)絡(luò)應(yīng)用技術(shù)的發(fā)展產(chǎn)生了巨大的推動作用，許多新的技術(shù)在滿足用戶需求的同時，也帶來了許多意想不到的新問題，科技的每一次突破都可能帶來意想不到的“副產(chǎn)品”，如人工智能技術(shù)領(lǐng)域的技術(shù)創(chuàng)新日新月異，而“深度學(xué)習(xí)”技術(shù)就是其中一例，但由其引發(fā)的“深度偽造”（Deepfake）技術(shù)，卻給網(wǎng)絡(luò)傳播帶來極大的負面影響。任何技術(shù)都具有其“陰暗面”，許多技術(shù)僅僅是因商業(yè)利益的驅(qū)動而非為滿足用戶的需要而開發(fā)的。因此，這些技術(shù)為日常生活帶來一定便利的同時，也會引發(fā)不少風(fēng)險。用戶數(shù)量的增加不僅僅反映了網(wǎng)絡(luò)空間的繁榮，同時也帶來了網(wǎng)絡(luò)犯罪量的激增。

“深度偽造”這一術(shù)語最早產(chǎn)生于2017年，由“深度學(xué)習(xí)”和“偽造”（fake）兩個詞合成，是一種利用生成對抗網(wǎng)絡(luò)等深度學(xué)習(xí)模型來創(chuàng)建逼真的虛假圖像和視頻的技術(shù)。根據(jù)《現(xiàn)代漢語詞典》的解釋，“偽”是“有意做作掩蓋本來面貌的”，是“虛假”，與“真”相對，同時也有“不合法”的意思。雖然“深度偽造”與“深度合成”技術(shù)原理相同，但“深度偽造”技術(shù)及其產(chǎn)物更加突出其虛假性。因此，本文所指“深度偽造”技術(shù)及其產(chǎn)物主要是針對“深度偽造”生成的圖像、音頻、視頻等，主要關(guān)注這種技術(shù)的欺騙性及其偽造生成物的危害性。

刑法作為重要的社會治理工具，主要是通過對違法犯罪者實施刑罰以達到保護公民權(quán)利、保障社會穩(wěn)定、保衛(wèi)國家安全的目的。因此，刑法既有保護權(quán)利的功能，也有保障秩序的功能。由于刑罰手段的嚴厲性，刑法一般作為抑止違法犯罪行為，維護社會秩序的最后手段，這是刑法謙抑性原則的體現(xiàn)。但當代社會學(xué)的研究表明，工業(yè)社會經(jīng)由其本身系統(tǒng)制造的危險而身不由己地突變?yōu)轱L(fēng)險社會。隨著網(wǎng)絡(luò)和信息技術(shù)的發(fā)展，社會風(fēng)險對刑法的謙抑性原則提出了挑戰(zhàn)，刑法的保護秩序功能超越保障權(quán)利功能成為主導(dǎo)，預(yù)防犯罪的功能更加突出。

本文以“深度偽造”技術(shù)及其產(chǎn)物為研究對象，梳理網(wǎng)絡(luò)傳播中“深度偽造”技術(shù)及其產(chǎn)物可能侵害的法益種類，通過論述刑法規(guī)制的正當性，提出在堅持罪刑法定原則前提下的刑事規(guī)制路徑，為營造天朗氣清、生態(tài)良好的網(wǎng)絡(luò)空間提供參考。

二、“深度偽造”技術(shù)及其產(chǎn)物

所謂“深度偽造”就是將計算機獲取的他人的音頻、圖片、視頻等生物信息數(shù)據(jù)交給“智能算法”，然后在深度學(xué)習(xí)的基礎(chǔ)上由智能算法自動完成偽造操作?！吧疃葌卧臁奔夹g(shù)依托深度學(xué)習(xí)使得偽造的行為脫離了人工的直接參與，僅通過人工智能就可以自動完成。它將偽造從被動性偽造推入了自主性偽造的全新階段，“深度偽造”不再是單純的復(fù)制和冒用，而是全新的生產(chǎn)。這種偽造技術(shù)生產(chǎn)出來的產(chǎn)品不同于傳統(tǒng)的拼接式偽造（如Photoshop圖片處理技術(shù)，即PS技術(shù)），一般的監(jiān)測手段很難發(fā)現(xiàn)其中的“拼接”痕跡，它是一個完整的“新作品”，具有極大的迷惑性，被濫用甚至是亂用后，會成為新的犯罪工具。根據(jù)“深度偽造”技術(shù)類型進行分類，主要可分為圖片、語音和視頻三種類型，其偽造“作品”的類型雖然不同，但其原理卻有極大的相似性。

（一）圖片的“深度偽造”

圖片偽造并非新生事物，在傳統(tǒng)感光膠片時代圖片偽造就時有發(fā)生，但因為偽造技術(shù)難度大，所以發(fā)生的概率并不高。在膠片攝影的年代里，攝影師完成拍攝后，要想后期改動攝影作品中的視覺元素，其技術(shù)成本和時間成本都很高，需通過暗房在負片上加減修改的部分，然后重新顯影、定影，并使用顏料、刻刀等工具進行細節(jié)修飾。在數(shù)碼攝影出現(xiàn)后，影像編輯軟件功能雖然可以在短短幾分鐘內(nèi)就改變一張照片的色溫、色度、色彩等視覺元素，甚至是影像的疊加和某些視覺元素的增刪都變得易如反掌，但由于這種偽造后的視覺元素分布過于均勻、對稱、整齊、有規(guī)律，而且拼接痕跡明顯，極易被識破，如 2006年路透社黎巴嫩籍攝影記者阿德南·哈吉拍攝的關(guān)于黎以沖突的照片就被發(fā)現(xiàn)使用了PS技術(shù)造假。而運用數(shù)字圖像編輯軟件則大大降低了篡改難度，且提高了被識破的難度，其主要是運用生成對抗網(wǎng)絡(luò)（Generative Adversarial Network，GAN）提供的一種基于零和博弈的高質(zhì)量圖像偽造方法，直接由隨機噪聲通過深度神經(jīng)網(wǎng)絡(luò)生成圖像。原始 GAN 經(jīng)過不斷改進發(fā)展，已經(jīng)可以生成高分辨率的逼真圖像。GAN 偽造圖像與傳統(tǒng)偽造圖像相比，不存在圖像拼接以后留下的痕跡，所以傳統(tǒng)的偽造圖像檢測技術(shù)無法有效甄別GAN 偽造圖像。圖片偽造技術(shù)不僅破壞了新聞圖片的真實性原則，更為網(wǎng)絡(luò)色情泛濫提供了“技術(shù)支持”。

（二）語音的“深度偽造”

語音的“深度偽造”主要包括身份風(fēng)格偽造、語音音色偽造與語音韻律偽造三部分。風(fēng)格偽造主要是對聲學(xué)特征的偽造，每個人語音的聲紋特征都具有獨特性，計算機系統(tǒng)通過對說話人的語音進行靜音剔除和降噪等技術(shù)處理以得到純凈有效的語音片段，之后提取出特定語音對應(yīng)的聲學(xué)特征參數(shù)，根據(jù)系統(tǒng)建模算法得出說話人的特征模型。音色偽造主要是通過儲存大量目標說話人的語料庫，然后通過波型拼接式語音偽造技術(shù)，將在大量自然語流中豐富的語音單元按照一定的規(guī)則拼接，得到高自然度與相似度的語音。韻律偽造是模擬目標說話人在日常生活語言交流中的態(tài)度、思想以及注意力等個性化信息。一個好的韻律預(yù)測可以讓偽造語音與真實語音相比難以判斷，從而進一步提升語音偽造水平。2018年，蒙特利爾大學(xué)的三名博士聯(lián)合創(chuàng)辦了一家名為“琴鳥”的公司，開發(fā)出了一種“語音合成”技術(shù)，只要對目標人物的聲音進行1分鐘以上的錄音，把錄音丟給“琴鳥”處理，就能得到一個特別的密鑰，利用這個密鑰可以用目標人物的聲音，生成任何想說的話。

（三）視頻的“深度偽造”

視頻“深度偽造”的技術(shù)較聲音和圖片的偽造難度要高，但其基本的技術(shù)邏輯仍然是運用相互聯(lián)系節(jié)點組成的多層神經(jīng)網(wǎng)絡(luò)，通過深度學(xué)習(xí)，對輸入的數(shù)據(jù)進行自動計算，并根據(jù)特定的建模由算法在訓(xùn)練的基礎(chǔ)上來完成特定視頻內(nèi)容的轉(zhuǎn)換生成任務(wù)。通俗地講，就是將目標人物（比如明星、政治家等）的不同角度、不同姿態(tài)、不同表情的視頻進行深度的學(xué)習(xí)，提取其必要的特征數(shù)據(jù)，并根據(jù)特定的建模進行新的運算，在反復(fù)訓(xùn)練的基礎(chǔ)上自動生成偽造的視頻，并將其覆蓋到原有視頻人物的形象之上，形成新的“視頻”。其實質(zhì)可以簡單理解為從現(xiàn)有“源數(shù)據(jù)”（目標人物）中通過算法生成“新數(shù)據(jù)”（偽造視頻）的過程。前期的偽造視頻生成主要依靠共享權(quán)重的自動編碼器，生成對抗網(wǎng)絡(luò)（GAN）的出現(xiàn)克服了自動編碼器刻意逼近真實數(shù)據(jù)概率分布的缺點，使得生成的偽造視頻更難以分辨。同時，一些團隊還提出了多種改進的 GAN算法，以實現(xiàn)更逼真的“偽造”效果?！吧疃葌卧臁奔夹g(shù)以假亂真給個人和社會都造成了現(xiàn)實的威脅。但是，目前還沒有一個完美的解決方案能夠有效阻斷“深度偽造”內(nèi)容的傳播。目前流行的基于VGG（Visual Geometry Group）的深度卷積神經(jīng)網(wǎng)絡(luò)和Google工程師的人臉識別系統(tǒng)FaceNet都無法抵御“深度偽造”視頻的“攻擊”，唇同步、圖像質(zhì)量度量等其他方法也存在非常高的錯檢率?！吧疃葌卧臁敝饕ㄟ^修改或生成新的人臉——包括修改表情、口型、臉型以及合成新臉等四種模式來達到偽造的逼真效果，其中影響最為惡劣的應(yīng)用模式是換臉型和對口型。

“深度偽造”技術(shù)和針對“深度偽造”的防偽技術(shù)一直在進行博弈，但是目前完全用技術(shù)手段來抵抗技術(shù)風(fēng)險還是存在太多的不確定性。因此，用預(yù)防刑法的理論加以預(yù)防，也許會成為最有效的手段。

三、“深度偽造”的法益侵害類型

技術(shù)本身是中立的，不中立的是使用技術(shù)的人?！吧疃葌卧臁奔夹g(shù)所依賴的生成對抗網(wǎng)絡(luò)、深度學(xué)習(xí)、多層神經(jīng)網(wǎng)絡(luò)等技術(shù)本不具有負面價值，但被人非法利用生成造假工具，就產(chǎn)生了危害類型各異、危害程度不同的犯罪行為。目前，Github開源社區(qū)中有Faceapp、Faceswap、Deepfacelab、Openfacewap等數(shù)量眾多的“深度偽造”項目，大部分項目都提供了一鍵式操作的應(yīng)用程序，極大降低了“深度偽造”技術(shù)使用的門檻，也大大增加了偽造技術(shù)被濫用的可能性。

（一）侵犯公民人身權(quán)利、財產(chǎn)權(quán)利

1.合成色情圖片與視頻，侵犯人身權(quán)

利用“深度偽造”技術(shù)制作內(nèi)容最常見的犯罪行為就是傳播淫穢色情。2017年12月，一個名為“deepfake”的用戶在“Reddit”網(wǎng)站發(fā)布了一段假冒好萊塢知名女演員蓋爾·加朵的臉插入到色情場景中，在全世界范圍內(nèi)引起了巨大轟動，這是“深度偽造”技術(shù)第一次被廣泛關(guān)注。隨后，利用“深度偽造”技術(shù)制作的色情視頻與圖片層出不窮，據(jù)安全分析公司Sensity調(diào)查顯示，2019年7月“深度偽造”的總數(shù)達到14678個，相比于2018年12月的7964個造假視頻量幾乎翻了一番。而截至2020年6月，造假視頻已多達49081個，較2019年7月增長了330%以上。而在2019年公布的14678個“深度偽造”作品中，假色情視頻占據(jù)了96% 。2019年4月，一位印度女記者因為揭露印度古吉拉特暴亂中官員的黑幕和不作為而遭到報復(fù)，以其為主角的“深度偽造”色情視頻在社交媒體上傳播，并且視頻中還出現(xiàn)了她的家庭住址等信息，使其承受巨大的精神折磨，最后不得不斷網(wǎng)乃至住院治療?！吧疃葌卧臁北粦?yīng)用于合成色情圖片與視頻，是對公民名譽權(quán)、肖像權(quán)、聲音權(quán)等人身權(quán)利的侵犯，一般情況下公民可以通過提起民事訴訟尋求救濟?？紤]到目前網(wǎng)絡(luò)與自媒體的發(fā)達程度與傳播速度，其負面影響短期內(nèi)難以消除，且傳播趨勢具有不可控性。當這類色情制品搭乘網(wǎng)絡(luò)傳播這趟快車時，其產(chǎn)生危害的嚴重性已經(jīng)超越民法所調(diào)整的范疇，達到《中華人民共和國刑法》（以下簡稱《刑法》）第246條所規(guī)定的“情節(jié)嚴重”的情況，應(yīng)當按照“侮辱、誹謗罪”追究相關(guān)人員的刑事責(zé)任。

2.制作3D頭像破解人臉識別系統(tǒng)，侵害財產(chǎn)權(quán)

隨著人工智能技術(shù)和大數(shù)據(jù)的興起，“生物識別”因其高效、快捷、準確等優(yōu)勢逐漸成為各類軟件普遍采用的身份信息識別方式。個人生物信息具有普遍性、唯一性及穩(wěn)定性。在眾多生物信息中，人臉相較于指紋等生物信息具有可遠距離獲取的優(yōu)勢，但這也正是隱患之所在。人臉識別支付已成為金融支付領(lǐng)域的一種重要支付方式，其將人臉圖像信息與個人身份信息和銀行賬戶信息進行關(guān)聯(lián)，在支付過程中，通過采集人臉信息進行身份鑒別，達到認證身份進而合法授權(quán)支付的作用。利用“深度偽造”換臉技術(shù)制作的假視頻足以以假亂真，生成的假人臉或假視頻可以欺騙人臉驗證系統(tǒng)，對人臉識別支付系統(tǒng)安全威脅極大。

目前，利用“深度偽造”的相關(guān)軟件并結(jié)合3D打印技術(shù)，可以生成并制作高清的3D面具，對人臉識別支付系統(tǒng)的安全性構(gòu)成了巨大的潛在危險。據(jù)財富中文網(wǎng)2019年12月18日報道，美國人工智能公司Kneron使用由日本特種面具制造商專門定制的高質(zhì)量3D面具，成功地欺騙了人臉識別系統(tǒng)，完成購物支付程序，其中包括中國的微信和支付寶的人臉識別支付系統(tǒng)。計算機科學(xué)家們同時還進行了一場與Kneron相似的實驗，他們使用從Facebook上獲取的圖片，也成功地騙過了人臉識別傳感器。

隨著“人臉識別”技術(shù)的優(yōu)化，愈來愈多的系統(tǒng)采用該技術(shù)進行身份認證和支付認證。而隨著這類應(yīng)用技術(shù)的普及，利用“深度偽造”技術(shù)制作 3D頭像破解人臉識別系統(tǒng)的行為不斷增加，其所引發(fā)的破解“人臉識別”系統(tǒng)的違法犯罪活動也逐漸增多。2021年3月，上海市虹口區(qū)人民檢察院公訴一起特大虛開增值稅普通發(fā)票案，犯罪嫌疑人就通過對他人的高清頭像和身份證信息進行技術(shù)處理，讓照片“動起來”，形成包括點頭、搖頭、眨眼、張嘴等動作視頻，從而破解人臉識別技術(shù)，虛開增值稅普通發(fā)票，合計超過5億元。2020年1月，浙江省衢州市中級人民法院對一起侵犯公民個人信息的刑事案件進行二次審判。據(jù)判決書顯示，自2018年7月開始，被告人以牟利為目的，通過使用軟件將非法獲取的公民頭像照片制作成3D頭像，從而通過支付寶人臉識別認證注冊賬戶，非法獲利30324元。2019年，四川省成都市郫都區(qū)人民法院審理了一起利用3D人臉動態(tài)圖破解支付寶人臉識別認證系統(tǒng)的案件，被告人非法獲利2.4萬余元。作為一種新的犯罪類型，利用“深度偽造”技術(shù)制作 3D人像破解人臉識別系統(tǒng)的犯罪手段具有較大的危害性，除了對公民財產(chǎn)權(quán)利構(gòu)成侵犯外，還可能構(gòu)成破壞金融管理秩序罪，如除對金融系統(tǒng)等需要身份認證的網(wǎng)絡(luò)系統(tǒng)進行破壞外，“深度偽造”對公民財產(chǎn)權(quán)利破壞應(yīng)用最多的場景就是網(wǎng)絡(luò)詐騙。聲音偽造在網(wǎng)絡(luò)詐騙和電信詐騙中的發(fā)案率比較高，有一些“猜猜我是誰”的升級版已經(jīng)不需要用“猜”，因為“聲音”告訴對方自己就是可信任的“朋友”，被騙者完全放松了警惕。隨著AI換臉的偽造視頻出現(xiàn)，利用視頻聊天來“面對面”行騙的危害就更大，受害人被騙的可能性很高，不能不加以嚴厲打擊。

（二）妨害社會管理秩序

1.制作虛假新聞，造成社會信任危機

虛假新聞已經(jīng)成為世界公害。美國皮尤研究中心2019年6月的一份報告稱，許多美國人都認為虛假新聞已經(jīng)成了一個迫切需要解決的關(guān)鍵問題。鑒于對虛假新聞的擔憂，美國人開始改變自己新聞獲取和閱讀的習(xí)慣，約 63%的人不再從某個特定媒體渠道獲取新聞，約 52%的人改變了他們使用社交媒體的方式，約 43%的人減少了他們接受新聞的數(shù)量。網(wǎng)絡(luò)傳播中虛假新聞的危害不同于網(wǎng)絡(luò)詐騙的違法犯罪行為，后者的危害性直接且顯而易見，而前者的危害則來自眾多不良影響的疊加，并且具有一定的持續(xù)性。新聞以傳遞信息為主要目的，而信息是為了消除人們工作和生活中的隨機不確定性。如果新聞失真，就會對人們的工作和生產(chǎn)造成影響。首先，虛假新聞影響受眾的決策與行為。利用“深度偽造”生產(chǎn)出的虛假新聞，可能誤導(dǎo)公眾的決策、誤導(dǎo)輿論方向、引發(fā)受眾的模仿。其次，“深度偽造”的新聞對于一般受眾來說很難辨識，所以其在誤導(dǎo)輿論方面危害十分明顯。目前算法技術(shù)的發(fā)展使“個性化推薦”的應(yīng)用普遍存在?！吧疃葌卧臁奔夹g(shù)與算法結(jié)合，分析用戶喜好，推送符合其偏好的內(nèi)容，潛移默化地加深了固有的認知模式，塑造了受眾的認知偏好，使得虛假信息更具吸引力，其傳播速度比真消息更快 ，閱讀量也更高。再次，由于“深度偽造”技術(shù)門檻逐漸降低，網(wǎng)絡(luò)傳播中基于“深度偽造”技術(shù)生產(chǎn)的虛假新聞隨處可見，一般通過“換臉”視頻或圖片配以對應(yīng)的文字進行播報。此類虛假新聞不僅可能侵犯原視頻或圖片作者的著作權(quán)，包括修改權(quán)、保護作品完整權(quán)、信息網(wǎng)絡(luò)傳播權(quán)等合法權(quán)益，而且還可能侵犯原作品表演者的表演權(quán)。最后，這些十分逼真的虛假新聞在欺騙了受眾后，會使受眾對媒體產(chǎn)生不信任感，進而影響媒體的公信力。

2.偽造證據(jù)，妨害司法

法律注重證據(jù)，證據(jù)的真實性將直接影響案件的判決結(jié)果?！吧疃葌卧臁钡膬?nèi)容被用作證據(jù)時，由于缺乏對此類虛假影像資料的鑒別技術(shù)，虛假內(nèi)容將對司法實踐產(chǎn)生巨大的挑戰(zhàn)。2021年播出的電視劇《巡回檢察組》中就出現(xiàn)了篡改監(jiān)控視頻，將故意殺人偽造成過失致人死亡的情節(jié)，其中篡改視頻的技術(shù)正是“深度偽造”。雖然此類行為是以電視情節(jié)的方式出現(xiàn)，實務(wù)中尚未出現(xiàn)案例，且對技術(shù)、資金要求較高，但隨著“深度偽造”技術(shù)門檻的降低與人工智能的發(fā)展，并不能保證此類行為不會成為現(xiàn)實案例。法律面前人人平等，任何違法犯罪行為都應(yīng)當受到法律的制裁，法律的尊嚴與權(quán)威不容踐踏。用“深度偽造”技術(shù)制造證據(jù)，會構(gòu)成妨害司法的犯罪。

（三）危害國家安全、公共安全

根據(jù)ASI數(shù)據(jù)科學(xué)公司的一項測試，通過語音生成算法，只需要借助兩小時的語料并訓(xùn)練五天時間，就可以模擬出一份以假亂真的特朗普向俄羅斯宣戰(zhàn)的語音。由于網(wǎng)絡(luò)傳播解構(gòu)了傳統(tǒng)意義上信息傳播的壟斷、控制、地域、國家等限制，傳播范圍具有全球性。如果不法分子利用“深度偽造”技術(shù)發(fā)布煽動反對政府、挑撥民族和諧、分裂國家政權(quán)等內(nèi)容的視頻，再利用網(wǎng)絡(luò)傳播的全球性在各類網(wǎng)絡(luò)平臺中傳播，極易引發(fā)危害國家安全、危害公共安全、妨害社會管理秩序等犯罪，甚至還會對地區(qū)安全、國際和平造成巨大的影響。

綜上所述，“深度偽造”技術(shù)的不當運用不僅侵害公民、法人的民事權(quán)益，還對社會、國家造成危害，其危害程度已經(jīng)超出了民法調(diào)整的范圍，因此需要用刑法進行及時應(yīng)對。

四、刑法規(guī)制正當性：秩序與自由之爭

秩序與自由都是法律所保障的具體價值。秩序是法的目的性價值中的基礎(chǔ)性價值，“與法律永遠相伴隨的基本價值，便是社會秩序”。秩序意味著控制，意味著社會對人的行為加以限制與禁止?！缎谭ā返?條明確規(guī)定了刑法的任務(wù)是保護公民權(quán)利、維護社會秩序、保衛(wèi)國家安全，這是秩序價值在刑法中的體現(xiàn)。刑法通過刑法規(guī)范，以犯罪行為人的行為為對象，以刑事制裁為手段，實現(xiàn)對社會行為的控制。刑罰是最嚴厲的一種法律制裁，它只能由國家有組織地實施。刑法規(guī)范是強制性規(guī)范，是社會秩序的最后保障。自由是社會價值體系中的核心要素之一。自由并不意味著“隨心所欲”，法律尊重自由，也保障自由，但自由在實際中卻受到諸多限制，一個人的自由以他人的權(quán)利為邊界，這就是基本的社會規(guī)范，也是基本的法律規(guī)范。社會規(guī)范對自由的限制包括自我限制與外在限制。自我限制是指主體主動遵循社會規(guī)范，外在限制是主體被動遵守社會規(guī)范。自由價值在刑法中體現(xiàn)為罪刑法定原則，該原則規(guī)定“法無明文規(guī)定不處罰”，目的在于限制國家濫用刑罰權(quán)，保障公民的自由。秩序與自由之間存在矛盾，但這種矛盾不是根本性、對抗性的沖突，在刑法中二者處于動態(tài)平衡的狀態(tài)，在不同背景下有所側(cè)重。例如，《刑法》第246條第2款將侮辱、誹謗罪規(guī)定為“告訴才處理”的犯罪，但嚴重危害社會秩序和國家利益的除外。根據(jù)該條規(guī)定，一般情況下公民享有訴與不訴的自由，此時注重自由價值；一旦出現(xiàn)危害社會秩序和國家利益的情形就要強制提起公訴，此時秩序高于自由。

傳統(tǒng)刑法注重刑法的懲罰功能，以罪責(zé)理論為基礎(chǔ)，充分體現(xiàn)了對公民權(quán)利和自由的保障，符合法治國家的要求。但是，面對新型的技術(shù)風(fēng)險時，傳統(tǒng)刑法滯后性的負面影響逐漸顯現(xiàn)，面對新型犯罪出現(xiàn)“無法歸責(zé)”的尷尬局面。這是因為傳統(tǒng)刑法強調(diào)的是刑法的事后應(yīng)對，將實害結(jié)果作為刑法治理的出發(fā)點。然而，以“深度偽造”為代表的技術(shù)與網(wǎng)絡(luò)傳播相結(jié)合，其風(fēng)險往往具有危害的嚴重性、影響的全球性和災(zāi)難的不可恢復(fù)性，如“深度偽造”中的“換臉”是由于面部生物信息泄露后引發(fā)的，不法侵害一旦發(fā)生便無法挽回，因為密碼信息泄露可以重新更換一組，但受害人個人信息泄露卻無法重新更換。為了防患于未然，法律必須對潛在的法益侵害加以防范。那么，以維護社會秩序為己任的刑法，面對新興技術(shù)風(fēng)險必須作出相應(yīng)的回應(yīng)，必須從事后懲罰轉(zhuǎn)向事前預(yù)防，以保障法益不被實際侵害。

法律是社會的重要調(diào)節(jié)器，法律應(yīng)當對社會問題作出積極的回應(yīng)。當技術(shù)風(fēng)險帶來的犯罪危害超越傳統(tǒng)犯罪產(chǎn)生的危害后果時，就應(yīng)當堅持功能主義的立法觀，主動介入變化了的社會生活及其社會實踐。一方面，將傳統(tǒng)刑法以自由為重心的價值取向，轉(zhuǎn)變?yōu)橐灾刃驗橹匦?，對“深度偽造”的自由和其偽造物傳播的自由進行限制，強調(diào)傳播秩序的價值和法益保護的重要性。另一方面，注重發(fā)揮刑法的預(yù)防功能，防止不可逆轉(zhuǎn)的法益侵害后果發(fā)生。萬物互聯(lián)的今天，網(wǎng)絡(luò)空間已成為億萬民眾共同的精神家園，而“深度偽造”產(chǎn)物的大肆傳播，污染了原本良好的網(wǎng)絡(luò)生態(tài)環(huán)境，有人利用網(wǎng)絡(luò)鼓吹推翻國家政權(quán)、煽動宗教極端主義、宣揚民族分裂思想、教唆暴力恐怖活動，利用網(wǎng)絡(luò)進行欺詐活動，散布色情材料，嚴重破壞了社會秩序，危及國家安全，讓民眾感到不安與恐懼。在此特定背景下，民眾對于穩(wěn)定秩序和維護安全的渴望超越了對自由的追求，通過發(fā)揮刑法的預(yù)防功能，阻止侵害公民權(quán)利、擾亂社會秩序、挑起各種爭端的犯罪行為發(fā)生。

五、刑法規(guī)制路徑：公平分配各主體責(zé)任

“深度偽造”是人工智能技術(shù)發(fā)展帶來的負效應(yīng)，雖然其對社會造成了潛在的技術(shù)風(fēng)險，但法律卻并不能直接對技術(shù)本身進行規(guī)制，刑法規(guī)制的客體是利用“深度偽造”及生產(chǎn)內(nèi)容進行犯罪的行為。2020年1月1日起實施的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》就規(guī)定，“網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實音視頻信息的，應(yīng)當以顯著方式予以標識”。對于違法違規(guī)內(nèi)容，網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)及時停止傳輸該信息，并采取消除等處置措施，防止信息擴散。“深度偽造”技術(shù)及其生產(chǎn)的內(nèi)容在網(wǎng)絡(luò)中的傳播是一個完整的產(chǎn)業(yè)鏈，在這個產(chǎn)業(yè)鏈上包括了技術(shù)提供、內(nèi)容生產(chǎn)、內(nèi)容傳播、網(wǎng)絡(luò)服務(wù)等不同主體。各主體所處位置不同，發(fā)揮的作用也不同，因此所要承擔的職責(zé)也各不相同。面對新興風(fēng)險，雖主張發(fā)揮刑法的積極預(yù)防作用，但罪刑法定原則始終是刑法的核心。因此，“深度偽造”技術(shù)刑事規(guī)制中最主要的步驟在于明確各主體的責(zé)任即主觀要件。在違法行為已經(jīng)發(fā)生，即法益已經(jīng)遭受侵害的前提下，根據(jù)各主體的主觀要件來分析其責(zé)任，從而判斷其行為是否構(gòu)成犯罪，是否應(yīng)當受刑罰處罰。

（一）技術(shù)提供者

這里的技術(shù)提供者主要是指提供“深度偽造”技術(shù)的軟件開發(fā)者、網(wǎng)站制作者等。技術(shù)提供者的主觀責(zé)任分為故意和過失?！肮室狻笔侵讣夹g(shù)提供者開發(fā)“深度偽造”技術(shù)軟件的目的是用于犯罪，那么該技術(shù)提供者的行為構(gòu)成犯罪。例如，“DeepNude”（深裸）就是依托“深度偽造”技術(shù)開發(fā)出來的軟件，使用者僅需提供任何一張女性的照片，該軟件就可以通過算法自動生成裸體照片。這類軟件開發(fā)者的主觀惡意明顯，這些軟件嚴重侵害了女性的人身權(quán)益，也因傳播淫穢色情而妨害社會管理秩序?！斑^失”是指技術(shù)提供者未盡到其應(yīng)盡的注意義務(wù)。技術(shù)提供者基于其專業(yè)的知識背景，對其開發(fā)制造的產(chǎn)品及其影響應(yīng)當承擔與其能力相當?shù)淖⒁饬x務(wù)。雖然技術(shù)提供者應(yīng)當為自己未盡到注意義務(wù)而承擔責(zé)任，但注意義務(wù)也存在限度，畢竟“法律不能強人所難”。根據(jù)《刑法》第15條規(guī)定，違反注意義務(wù)是構(gòu)成過失犯罪的必要非充分條件。也就是說，當技術(shù)提供者未盡到注意義務(wù)時，是否成立過失犯罪應(yīng)當具體問題具體分析。原因在于技術(shù)具有“自主性”，“深度偽造”技術(shù)作為人工智能的產(chǎn)物，具備深度學(xué)習(xí)能力，可能與其他技術(shù)耦合而產(chǎn)生超出技術(shù)提供者預(yù)期的“新技能”，技術(shù)提供者對此類結(jié)果不具有期待可能性，此時要求其承擔刑事責(zé)任不符合罪刑法定原則的精神。

（二）內(nèi)容生產(chǎn)者

“深度偽造”的內(nèi)容生產(chǎn)者是技術(shù)的使用者，他們運用“深度偽造”技術(shù)進行文本、圖片、音頻和視頻的偽造。我們一直樂觀地堅持技術(shù)中立的觀念，對技術(shù)所帶來的效益懷有極高的、不理性的期待。但事實卻往往與愿望相左，技術(shù)中立并不等于技術(shù)使用也是中立的，技術(shù)會被使用者帶偏方向，走向人類良好愿望的反面。技術(shù)風(fēng)險的特征之一是“人為性”，即技術(shù)使用者可以用善意來為人類創(chuàng)造價值，但是也可能懷有惡意而給人類帶來災(zāi)難。除個別用于音樂、影視、廣告等娛樂領(lǐng)域外，大部分“深度偽造”的內(nèi)容都可能與違法犯罪活動有關(guān)聯(lián)，除了色情視頻泛濫之外，人們更擔心的是侵害公民隱私、威脅信息安全、制造社會矛盾、破壞民族團結(jié)、操縱政治選舉、煽動分裂國家等方面的問題。上述行為可根據(jù)《刑法》第363條制作、復(fù)制、出版、販賣、傳播淫穢物品牟利罪，第364條傳播淫穢物品罪，第291條之一編造、故意傳播虛假恐怖信息罪，編造、故意傳播虛假信息罪，第246條侮辱罪、誹謗罪，第249條煽動民族仇恨、民族歧視罪，第120條之三宣揚恐怖主義、極端主義、煽動實施恐怖活動罪，第103條煽動分裂國家罪，以及第105條煽動顛覆國家政權(quán)罪等條款，對生產(chǎn)相關(guān)“深度偽造”內(nèi)容者進行處罰。對于“深度偽造”內(nèi)容的生產(chǎn)者來說，一般都明知自己的行為會產(chǎn)生什么樣的危害后果，并且還希望或放任這種結(jié)果發(fā)生，因此屬于故意犯罪。

（三）內(nèi)容傳播者

“深度偽造”內(nèi)容傳播者的主觀責(zé)任僅包括故意。對于內(nèi)容傳播者而言，不管是首發(fā)還是轉(zhuǎn)發(fā)，都應(yīng)當對傳播內(nèi)容的真實性、合法性有注意義務(wù)。在不能確信傳播內(nèi)容真實性和合法性的情況下，應(yīng)當停止對該內(nèi)容的傳播。所以，從立法的原意來看，之所以強調(diào)傳播者的主觀責(zé)任僅包括故意，就是為了強化注意義務(wù)。一旦傳播者傳播某一“深度偽造”的內(nèi)容，不管他是否明知該內(nèi)容虛假不實、違規(guī)違法，都推定該傳播者明知或者應(yīng)知該內(nèi)容真實合法?！缎谭ā返?63條關(guān)于傳播淫穢物品入罪的條件是“以牟利為目的”，而第364條“傳播淫穢物品罪”則沒有，但都有“情節(jié)嚴重”這一入罪條件?！蹲罡呷嗣穹ㄔ骸⒆罡呷嗣駲z察院關(guān)于辦理利用互聯(lián)網(wǎng)、移動通訊終端、聲訊臺制作、復(fù)制、出版、販賣、傳播淫穢電子信息刑事案件具體應(yīng)用法律若干問題的解釋（二）》對“情節(jié)嚴重”和“情節(jié)特別嚴重”進行了量化。如果傳播淫穢物品達到“情節(jié)嚴重”的標準，則不管是否以牟利為目的，都構(gòu)成犯罪。

（四）網(wǎng)絡(luò)服務(wù)提供者

網(wǎng)絡(luò)服務(wù)提供者在網(wǎng)絡(luò)傳播時代的職責(zé)主要是為內(nèi)容生產(chǎn)者和傳播者提供平臺、通道，它既不生產(chǎn)內(nèi)容，也不直接傳播內(nèi)容，但卻和內(nèi)容的傳播、意義的產(chǎn)生關(guān)系十分密切。參考《中華人民共和國民法典》第1194條至1197條的相關(guān)規(guī)定，網(wǎng)絡(luò)服務(wù)提供者是網(wǎng)絡(luò)傳播過程中法律責(zé)任的主要承擔者之一，這種責(zé)任主要包括：當網(wǎng)絡(luò)用戶利用網(wǎng)絡(luò)服務(wù)實施犯罪后，收到通知就必須采取刪除、屏蔽、斷開鏈接等必要措施，不采取措施也應(yīng)承擔刑事責(zé)任；網(wǎng)絡(luò)服務(wù)提供者知道或者應(yīng)當知道網(wǎng)絡(luò)用戶利用其網(wǎng)絡(luò)服務(wù)實施犯罪，未采取必要措施的應(yīng)承擔刑事責(zé)任。由此可見，網(wǎng)絡(luò)服務(wù)提供者因不作為而造成后果的需要承擔刑事責(zé)任?！毒W(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》第12條和《中華人民共和國網(wǎng)絡(luò)安全法》第47條都規(guī)定，網(wǎng)絡(luò)音視頻信息服務(wù)提供者發(fā)現(xiàn)音視頻信息服務(wù)使用者制作、發(fā)布、傳播法律法規(guī)禁止的信息內(nèi)容的，應(yīng)當依法依約停止傳輸該信息，采取消除等處置措施，防止信息擴散，保存有關(guān)記錄，并向有關(guān)部門報告。停止傳輸違法信息、消除違法信息等措施具體包括刪除、屏蔽、斷開鏈接等，對于未履行規(guī)定義務(wù)的網(wǎng)絡(luò)服務(wù)提供者可以按照《刑法》第286條的“拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪”進行處罰。

六、結(jié)語

通過刑法的預(yù)防功能規(guī)制“深度偽造”技術(shù)帶來的犯罪風(fēng)險雖然有不可低估的作用，但是其所伴隨而生的問題也無法回避。首先，對“深度偽造”的風(fēng)險評估難，對風(fēng)險的認知與評估容易受到主體主觀因素的影響，不易量化，無法做到準確測定。安全問題是社會心理構(gòu)造之下的產(chǎn)物，公眾對于風(fēng)險的認知與評估差異性大，因此可能并不切合實際，由此容易導(dǎo)致對安全的訴求也不一定合乎理性。其次，強調(diào)刑法的秩序價值易造成對公民自由的侵害，因為對風(fēng)險的預(yù)判缺乏統(tǒng)一性與確定性，那么也就可能模糊了刑法與行政法的邊界。最后，過度的規(guī)制會阻遏技術(shù)和經(jīng)濟的發(fā)展，為了某種夸大的技術(shù)風(fēng)險而使刑法對“深度偽造”從嚴規(guī)制，加強了法律限制，進而可能妨礙甚至制約信息技術(shù)的發(fā)展。