李明魯

內(nèi)容提要：人工智能深度偽造技術(shù)的應(yīng)用在醫(yī)療、教育、娛樂等多個領(lǐng)域具有進步意義，但技術(shù)的濫用卻可能對國家、社會利益以及個人合法權(quán)益造成損害。刑法應(yīng)當對深度偽造技術(shù)濫用行為予以規(guī)制，同時也要從風險防控的角度，加強對公民個人信息安全的保護。提供深度偽造技術(shù)服務(wù)的行為逐漸發(fā)展成為網(wǎng)絡(luò)黑色產(chǎn)業(yè)鏈的一環(huán)，運用傳統(tǒng)共犯理論難以回應(yīng)深度偽造技術(shù)濫用行為的不法認定問題。對于這種“一對多”的犯罪幫助行為，刑法可以采取以獨立罪名認定的制裁思路。對于深度偽造內(nèi)容，網(wǎng)絡(luò)服務(wù)提供者應(yīng)當依法履行信息網(wǎng)絡(luò)安全管理義務(wù)，落實平臺監(jiān)管責任。

一、深度偽造技術(shù)概述及其應(yīng)用風險

常言道：“耳聽為虛，眼見為實。”但是，深度偽造技術(shù)的出現(xiàn)可能讓這一說法不再適用。深度偽造是通過人工智能技術(shù)，以數(shù)字化方式創(chuàng)建或者修改視頻、音頻等內(nèi)容，最后的結(jié)果是偽造內(nèi)容里的人在做著或說著從未發(fā)生的事情。①Judge Herbert B.Dixon Jr.(Ret.).Deepfakes:More Frightening than Photoshop on Steroids.Judges’ Journal，2019，58 (3):35.隨著深度偽造技術(shù)的不斷發(fā)展和演進，偽造內(nèi)容的真實性也越來越高，以至于人們很難辨別內(nèi)容的真假。可以說，深度偽造技術(shù)自產(chǎn)生之日起，便具有欺騙性質(zhì)和被濫用的風險，而了解深度偽造的特征與技術(shù)原理，對于下一步如何規(guī)制深度偽造技術(shù)的濫用行為而言十分必要。

（一）“深度偽造”的概念源起

“深度偽造”（deepfake）是指借助人工智能技術(shù)尤其是深度學習對音頻、視覺或文本內(nèi)容等進行制造和修改，從而達到技術(shù)開發(fā)者或者技術(shù)使用者的某種特定目的。深度偽造一詞最初是出現(xiàn)在2017 年美國社交新聞網(wǎng)站紅迪網(wǎng)（Reddit）上，一個名為deepfakes 的用戶利用人工智能算法將色情視頻中的主體換臉成明星，并上傳到Reddit 網(wǎng)站，引發(fā)了廣泛的轉(zhuǎn)發(fā)和關(guān)注。自此，媒體開始使用deepfake 一詞來形容深度偽造技術(shù)或者深度偽造內(nèi)容。

深度偽造技術(shù)又稱人工智能合成內(nèi)容（AI-generated media）技術(shù)，是人工智能發(fā)展到一定階段的產(chǎn)物，建立在能夠自主學習的深度學習算法模型的基礎(chǔ)之上。尤其是生成對抗網(wǎng)絡(luò)②深度合成技術(shù)背后的人工智能技術(shù)主要包括自動編碼器（autoencoders）和生成對抗網(wǎng)絡(luò)（GAN）。自動編碼器是一個人工神經(jīng)網(wǎng)絡(luò)模型，對輸入數(shù)據(jù)進行訓練和重建以實現(xiàn)數(shù)據(jù)合成。GAN 由兩組相互對抗的人工神經(jīng)網(wǎng)絡(luò)組成，其中一個網(wǎng)絡(luò)復(fù)制生成數(shù)據(jù)，另一個負責甄別。在GAN 的兩個機器學習系統(tǒng)中，生成網(wǎng)絡(luò)（generative network）負責制作復(fù)制了原始數(shù)據(jù)集特征的合成數(shù)據(jù)如圖片、音頻、視頻等，鑒別網(wǎng)絡(luò)（discriminative network）則負責識別合成的數(shù)據(jù)。生成網(wǎng)絡(luò)和鑒別網(wǎng)絡(luò)的競爭往往需要數(shù)千次或數(shù)百萬次迭代，這讓生成網(wǎng)絡(luò)不斷改善其性能，直至讓鑒別網(wǎng)絡(luò)不再能夠區(qū)分真實數(shù)據(jù)和合成數(shù)據(jù)。（generative adversarial networks，簡稱GAN）這一算法，使得人工智能在其控制下可以自動生成圖像、文字、視頻等信息內(nèi)容。深度偽造的存在形式主要包括人臉合成、語音合成、人臉替換等，該項技術(shù)綜合運用了視頻合成、計算機視覺等多種不同類型的人工智能技術(shù)。③《“深度合成”技術(shù)應(yīng)用呼喚包容審慎、分類監(jiān)管》，搜狐網(wǎng)：https://www.sohu.com/a/420864149_455313，2021 年3 月23 日訪問。

（二）“深度偽造”與“深度合成”的關(guān)聯(lián)

“深度合成”（deep synthesis）目前已成為人工智能領(lǐng)域應(yīng)用較為廣泛的一項技術(shù)，依賴于能夠從大量數(shù)據(jù)中進行深度學習的人工智能算法模型，對數(shù)據(jù)信息進行生產(chǎn)或修改。對于深度偽造與深度合成，多數(shù)學者并未做嚴格區(qū)分。但也有觀點認為，深度合成與深度偽造二者不應(yīng)混同，根據(jù)技術(shù)使用的目的是否正當，應(yīng)嚴格區(qū)分深度合成與深度偽造。該觀點主張深度偽造是基于某種不法目的而使用深度合成技術(shù)的行為，而深度合成則是價值無涉的技術(shù)概念詞匯。

本文認為，深度合成與深度偽造二者在純粹技術(shù)層面并無本質(zhì)區(qū)別，或者可以說深度偽造行為本身就是利用人工智能深度合成技術(shù)對聲音、圖像、文本、視頻等內(nèi)容進行修改和加工，從而實現(xiàn)某種誤導(dǎo)效果。毫無疑問，技術(shù)本身是無罪的，法律需要規(guī)制的是那些利用該技術(shù)冒充他人實施詐騙，或者進行虛假新聞傳播、色情視頻制作、政治選舉干擾等損害他人或者社會、國家利益的違法行為。雖然有人提出如果以“深度偽造”一詞指代全部人工智能合成技術(shù)，會造成對于人工智能合成技術(shù)的污名化，因為深度偽造容易讓人望文生義，從而使人們對于AI 合成技術(shù)產(chǎn)生畏懼心理，④《為技術(shù)正名：深度合成≠深度偽造》，搜狐網(wǎng)：.https://www.sohu.com/a/398418909_353595，2021 年3 月25 日訪問。但是，鑒于本文的主要研究對象為深度偽造技術(shù)的濫用行為，即利用人工智能深度偽造技術(shù)所實施的不法行為，所以文中使用“深度偽造”一詞并不與深度合成技術(shù)的中立性相矛盾。

（三）深度偽造技術(shù)的應(yīng)用與安全風險

隨著人工智能深度合成技術(shù)的發(fā)展與成熟，這一新興技術(shù)開始在商業(yè)領(lǐng)域大放異彩，并已經(jīng)逐漸滲透于社交、醫(yī)療、教育、影視等多個領(lǐng)域。例如，在影視領(lǐng)域中，通過深度合成技術(shù)可以減少因演員或場地而造成的拍攝局限，由于主要演員在電影 《速度與激情7》 的拍攝過程中意外去世，于是劇方運用AI 換臉技術(shù)，使該演員的形象得以貫穿于電影始終。⑤《AI 換臉視頻惹爭議 究竟是技術(shù)的革新還是濫用》，https://baijiahao.baidu.com/s?id=1631477732371261852&wfr=spider&for=pc，2021 年4 月2 日訪問。在教育領(lǐng)域，通過人工智能技術(shù)合成歷史人物，再現(xiàn)歷史場景，可以使知識傳播更加富有趣味性。⑥D(zhuǎn)eep Fakes:A Looming Challenge for Privacy，Democracy，and National Security，https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3213954，2021 年3 月22 日訪問。另外，在醫(yī)療領(lǐng)域，語音合成軟件可以讓患有漸凍癥的患者重新獲得“說話”的能力。通過提前采集患者的個人語音數(shù)據(jù)，然后利用語音合成技術(shù)，最終生成接近患者原聲的語句。⑦《英國黃鉛筆獎公布，為失語漸凍人設(shè)計的語音合成項目拿到了最高榮譽》，http://www.qdaily.com/articles/64017.html，2021年4 月12 日訪問。然而，技術(shù)是一把雙刃劍，對技術(shù)的正當使用可以推動社會的進步，但技術(shù)的濫用則會給公民個人權(quán)利、社會公共秩序以及國家安全帶來諸多風險挑戰(zhàn)。

其一，深度偽造行為可能侵犯公民的人身、財產(chǎn)等權(quán)利。行為人通過深度偽造技術(shù)故意制作并散布虛假信息，敗壞他人名譽的，情節(jié)嚴重時將構(gòu)成誹謗罪。通過深度偽造的圖像、視頻或聲音冒充被害人的親友、同事、領(lǐng)導(dǎo)等，誘騙或者敲詐他人錢財?shù)?，可能?gòu)成詐騙罪或敲詐勒索罪。除此之外，深度偽造行為還可能構(gòu)成侵犯著作權(quán)罪，⑧王祿生：《論“深度偽造”智能技術(shù)的一體化規(guī)制》，載 《東方法學》 2019 年第6 期。因為深度偽造行為人在未獲得著作權(quán)人同意的情況下，對由他人創(chuàng)作的攝影作品、電影作品等作品進行修改，將構(gòu)成對他人署名權(quán)、修改權(quán)等著作權(quán)的侵犯。⑨《著作權(quán)法》 第十條：“著作權(quán)包括下列人身權(quán)和財產(chǎn)權(quán)：（一）發(fā)表權(quán)，即決定作品是否公之于眾的權(quán)利；（二）署名權(quán)，即表明作者身份，在作品上署名的權(quán)利；（三）修改權(quán)，即修改或者授權(quán)他人修改作品的權(quán)利；（四）保護作品完整權(quán)，即保護作品不受歪曲、篡改的權(quán)利；……”

其二，深度偽造行為可能破壞社會公共秩序。例如，行為人以牟利為目的，利用深度偽造技術(shù)制作淫穢圖片、視頻等淫穢物品并加以傳播的，可能構(gòu)成制作、傳播淫穢物品牟利罪。再如，行為人通過深度偽造技術(shù)編造涉及險情、疫情、災(zāi)情、警情的虛假信息或者虛假恐怖信息并加以傳播，嚴重擾亂社會秩序的，則可能構(gòu)成編造、故意傳播虛假信息罪或者編造、故意傳播虛假恐怖信息罪。此外，深度偽造技術(shù)還可能被用于證據(jù)的偽造。如果行為人出于陷害他人或者隱匿罪證的目的，在對與案件有重要關(guān)系的情節(jié)上利用深度偽造技術(shù)制作虛假證明的，可能依法構(gòu)成偽證罪。再如，行為人利用深度偽造技術(shù)制作有損他人商業(yè)信譽或商品聲譽的虛假內(nèi)容，并給他人造成重大損失的，則可能觸犯損害商業(yè)信譽、商品聲譽罪。

其三，針對政治人物的深度偽造還具有危害國家安全的風險。在國外，虛假新聞干擾正常政治選舉活動的事例在很早之前就已經(jīng)出現(xiàn)。例如，在托馬斯·杰斐遜（Thomas Jefferson）反對約翰·亞當斯（John Adams）的美國總統(tǒng)選舉中，一些報紙在不考慮真相的情況下發(fā)布敗壞被選舉人聲譽的新聞。⑩Party Time，https://www.newyorker.com/magazine/2007/09/17/party-time，2021 年3 月13 日訪問。而在當今這個大數(shù)據(jù)時代，互聯(lián)網(wǎng)的傳播速度和傳播范圍相比于傳統(tǒng)媒體更為迅速和廣泛，可想而知，如果濫用深度偽造技術(shù)制作虛假信息干擾政治選舉活動，被發(fā)布于網(wǎng)絡(luò)之上，其不利影響將迅速蔓延，不可逆轉(zhuǎn)。美國的有關(guān)分析人員一致認為，隨著深度偽造技術(shù)的進一步發(fā)展，等到2020 年美國第59 屆總統(tǒng)大選，深度偽造技術(shù)干預(yù)政治選舉的問題將會更加嚴重。11Experts Bet on First Deepfakes Political Scandal，https://spectrum.ieee.org/tech-talk/robotics/artificial-intelligence/experts-bet-onfirst-deepfakes-political-scandal，2021 年2 月22 日訪問。正是在此背景之下，為了防止深度偽造技術(shù)制作的虛假信息可能對選舉活動造成的干擾，美國國會在2019 年提出了《深度偽造責任法案》（Deep Fakes Accountability Act）。12Clarke introduces bill to combat high-tech altered videos，https://brooklyneagle.com/articles/2019/06/14/clarke-introduces-bill-tocombat-high-tech-altered-videos，2021 年4 月2 日訪問。

二、深度偽造濫用行為的刑法規(guī)制模式

深度偽造技術(shù)的不當使用如冒用他人身份、敗壞他人名譽等，可能對個人法益和公共法益造成損害，進而成立相應(yīng)的違法犯罪。刑法針對濫用深度偽造技術(shù)行為的規(guī)制大致可以分為兩種模式：一是事后保護模式，即對利用深度偽造技術(shù)實施的其他犯罪以及深度偽造行為本身所構(gòu)成的知識產(chǎn)權(quán)犯罪進行規(guī)制；二是風險預(yù)防模式，即對深度偽造行為之前的公民個人信息犯罪進行規(guī)制。其中，事后保護模式著眼于深度偽造行為之后產(chǎn)生的法益侵害，而風險預(yù)防模式則關(guān)注對深度偽造行為之前的公民個人信息保護，從而避免后續(xù)因深度偽造對具體法益造成的實際侵害。

（一）事后保護模式：強調(diào)對深度偽造行為后的具體法益保護

利用人工智能技術(shù)實施深度偽造行為，侵害他人合法權(quán)益或者社會、國家利益的，在符合特定犯罪的構(gòu)成要件的條件下，可以對該深度偽造行為予以刑法規(guī)制。根據(jù)法益主體的不同，可以將利用深度偽造技術(shù)構(gòu)成的犯罪分為三類：侵犯公民個人權(quán)利的犯罪、破壞社會公共秩序的犯罪、危害國家安全的犯罪。

雖然我國刑法規(guī)定能夠針對濫用深度偽造技術(shù)而造成嚴重法益侵害的行為提供一整套相對完備的制裁體系，但是這種刑法制裁思路存在以下不足之處：首先，事后保護模式只能在深度偽造行為已經(jīng)造成了法益侵害后果之后發(fā)揮作用，過于強調(diào)事后懲罰而忽視事前預(yù)防。13李騰：《“深度偽造”技術(shù)的刑法規(guī)制體系構(gòu)建》，載 《中州學刊》 2020 年第10 期。而對于信息網(wǎng)絡(luò)環(huán)境中的違法犯罪問題，考慮到網(wǎng)絡(luò)媒介傳播速度快、影響范圍廣的特點，在產(chǎn)生實害結(jié)果后才啟動刑法進行規(guī)制的事后保護模式已經(jīng)不足以充分保護法益。其次，某些深度偽造技術(shù)濫用行為根據(jù)現(xiàn)有刑法規(guī)定無法定罪論處。例如，行為人利用AI 換臉技術(shù)進行交友詐騙，目的僅是騙取他人的感情，獲得內(nèi)心的滿足感，而不以騙財為目的，但卻給他人造成嚴重的精神損害或者嚴重破壞他人家庭的，對于此行為不能以詐騙罪或招搖撞騙罪（不是冒充國家機關(guān)工作人員的情況下）定罪論處，該行為根據(jù)現(xiàn)行刑法規(guī)定并不構(gòu)成犯罪，雖然造成了嚴重的危害后果，也只能通過民事救濟和行政救濟途徑保護相關(guān)人的合法權(quán)益。

由此可見，事后保護模式側(cè)重于對深度偽造行為之后造成的危害后果予以規(guī)制，卻沒有回應(yīng)深度偽造上游行為（非法獲取、非法出售、非法提供以及非法利用公民個人信息的行為）的不法問題?？紤]到存在某些深度偽造技術(shù)濫用行為具有嚴重的危害性但卻不構(gòu)成犯罪的情形，為了更好地保護公民的人身、財產(chǎn)權(quán)益，深入打擊深度偽造這種新型違法犯罪行為，刑法有必要在對深度偽造技術(shù)濫用行為的治理問題上引入風險預(yù)防模式。

（二）風險預(yù)防模式：強調(diào)對深度偽造前的公民個人信息保護

刑法對于人工智能深度偽造的治理不僅需要關(guān)注深度偽造行為實施后的一系列相關(guān)犯罪，更應(yīng)當重點關(guān)注深度偽造之前的個人信息安全的保護問題。對深度偽造的前行為即侵犯公民個人信息行為的規(guī)制，可以有效控制深度偽造技術(shù)被濫用的風險，加強對人工智能深度偽造技術(shù)的源頭治理。

1.個人生物識別信息與公民個人信息的概念厘定

《中華人民共和國數(shù)據(jù)安全法》 第二十一條對數(shù)據(jù)實行分類分級的保護制度作出規(guī)定，同樣地，對于公民個人信息，也應(yīng)當根據(jù)不同類別的公民個人信息之于公民人身和財產(chǎn)權(quán)益的重要性，對個人生物識別信息、身份信息和其他一般的公民個人信息實行梯次保護。其中，對于生物識別信息這種緊密依附于身體、直接體現(xiàn)公民個人身體特征和行為特征，對人身具有直接指向性的特殊公民個人信息予以特別的保護。14王德政：《針對生物識別信息的刑法保護：現(xiàn)實境遇與完善路徑——以四川“人臉識別案”為切入點》，載 《重慶大學學報（社會科學版）》 2021 年第2 期。對此，《中華人民共和國個人信息保護法》 也有所回應(yīng)，明確了生物識別信息屬于敏感個人信息的一種，而且將敏感個人信息與一般公民個人信息作出區(qū)分，并對敏感個人信息制定了更為嚴格的處理規(guī)則。

個人生物識別信息包括面部、指紋、聲音、DNA、筆跡、步態(tài)等身份信息，之所以說生物識別信息是最為重要的公民個人信息，除了其具有高度的人身識別性之外，還由于生物識別信息的應(yīng)用廣泛性，如人臉識別、指紋識別等已經(jīng)成為進入很多場所或者登陸應(yīng)用軟件以及財產(chǎn)支付的重要方式，因此，一旦公民的生物識別信息遭到泄露，不法行為人便很可能通過深度偽造技術(shù)對生物識別信息進行加工和修改，進而利用深度偽造后的圖片、聲音等冒充被害人的親友、熟人，使被害人陷入錯誤認識并引誘其進行轉(zhuǎn)賬或者匯款。不法分子在達到騙財目的之后，便會刪除被害人的聯(lián)系方式，從此銷聲匿跡。被害人會疑惑自己的敏感個人信息怎么會被不法分子所掌握，這都要歸因于個人信息的泄露。如今很多場合都需要人臉識別、刷臉支付，而人臉信息在被收集之后一旦被非法出售或者遭到泄露，便很可能被用于實施詐騙等違法犯罪行為。因此，規(guī)制深度偽造技術(shù)的濫用行為，關(guān)鍵是從源頭管控侵犯公民個人信息的犯罪行為。

2.國外規(guī)制深度偽造技術(shù)濫用行為的應(yīng)對之策

對于規(guī)制深度偽造技術(shù)濫用行為是否需要制定專門的法律的問題，從國外的應(yīng)對方案來看，有些是選擇通過現(xiàn)有法律規(guī)定來懲治深度偽造技術(shù)濫用行為，認為進行專門的立法根本沒有必要，因為根據(jù)現(xiàn)有的著作權(quán)法、刑法和民事侵權(quán)法等法律規(guī)定能夠讓有害的深度偽造內(nèi)容的制作者承擔責任，15Zachary Schapiro.Deep Fakes Accountability Act:Overbroad and Ineffective.Boston College Intellectual Property &Technology Forum，2020，1:15.而且除了打擊勒索和色情的刑法之外，其他侵權(quán)行為如侵犯隱私權(quán)、造成情緒困擾、侵犯著作權(quán)等違法行為同樣能受到民事法律的規(guī)制。16Anna Yamaoka-Enkerlin.Disrupting Disinformation :Deepfakes And The Law.NYU Journal of Legislation and Public Policy，2019-2020，22 :740.可是，也有國家選擇通過制定新的法律來打擊深度偽造技術(shù)濫用行為。

歐盟通過保護可能被用于深度偽造的個人信息的安全和強化互聯(lián)網(wǎng)平臺的審查義務(wù)，來加強對于深度偽造技術(shù)濫用的治理，防御深度偽造行為可能造成的不法侵害。歐盟 《通用數(shù)據(jù)保護條例》（GDPR）適用于對深度偽造中所使用的公民圖片等個人數(shù)據(jù)的保護，以及換臉軟件和社交媒體軟件可能產(chǎn)生的隱私泄露問題。17《各國涉Deepfake 等人工智能造假技術(shù)立法概況》，https://mp.weixin.qq.com/s?__biz=MzI1OTExNDY1NQ==&mid=2651540276&idx=1&sn=7346412c2efcd328f8ca67036062f77a&scene=21#wechat_redirect，2021 年3 月23 日訪問。另外，歐盟于2018 年出臺的《反虛假信息行為準則》（Code of Practice on Disinformation），主要是為了加強網(wǎng)絡(luò)運營者對其平臺內(nèi)容的審查，充分發(fā)揮平臺在治理網(wǎng)絡(luò)虛假信息方面的作用。18史安斌，胡宇：《向虛假信息宣戰(zhàn)：歐盟的探索》，載 《青年記者》2018年第34期。

美國則出臺了一部專門的法律——《深度偽造責任法案》，用以規(guī)范深度偽造技術(shù)的應(yīng)用，防止虛假信息的傳播。《深度偽造責任法案》 對于深度偽造內(nèi)容制作者的標識義務(wù)（或披露義務(wù)）作出具體規(guī)定：“深度偽造內(nèi)容制作者對于其制作的深度合成內(nèi)容應(yīng)當嵌入文字、數(shù)字水印或者語音標識，從而將內(nèi)容屬于利用深度偽造技術(shù)制作的事實予以披露?！?9曹建峰：《深度偽造技術(shù)的法律挑戰(zhàn)及應(yīng)對》，載 《信息安全與通信保密》 2019 年第10 期。同時，法案還對于不履行披露義務(wù)的行為規(guī)定了民事責任乃至刑事責任。深度偽造內(nèi)容制作者依法履行標識義務(wù)，有利于他人對視頻、音頻、文字等內(nèi)容的真實性作出鑒別，從而不容易產(chǎn)生誤解而受騙，一定程度上可以有效抵御深度偽造可能對法益造成的損害。深度偽造內(nèi)容制作者履行標識義務(wù)，不僅有利于對法益的保護，而且對于引導(dǎo)深度偽造技術(shù)的合理使用也具有規(guī)范意義，另外還能夠作為證明深度偽造內(nèi)容制作者主觀上不具有欺騙目的的依據(jù)。

法律解決方案雖然可以懲罰和威懾犯罪行為人，但仍具有其自身的局限性和滯后性。在法律治理路徑之外，提高網(wǎng)絡(luò)用戶鑒別虛假信息的能力，增強公民對于虛假信息的防范意識，也是抵御深度偽造音頻、視頻不良影響的可行之策。公民可以成為對信息真實性的檢查者和對真理的最終保護者，20Dr.Antonios Kouroutakis.EU Action Plan Against Disinformation:Public Authorities，Platforms and the People.International Lawyer，2020，53:277.烏克蘭已經(jīng)將媒體素養(yǎng)技術(shù)納入其公立學校課程中，21Students in Ukraine Learn How to Spot Fake Stories，Propaganda and Hate Speech，https://www.npr.org/2019/03/22/705809811/students-in-ukraine-learn-how-to-spot-fake-stories-propaganda-and-hate-speech，2021 年2 月21 日訪問。以幫助提高公民辨別深度偽造內(nèi)容的能力。

3.我國規(guī)制深度偽造技術(shù)濫用行為的立法與司法實踐

于2020 年1 月1 日起施行的 《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》（以下簡稱 《規(guī)定》）第十一條對于深度偽造內(nèi)容制作者和網(wǎng)絡(luò)服務(wù)提供者均規(guī)定了標識義務(wù)，要求網(wǎng)絡(luò)音視頻信息服務(wù)的使用者和提供者都應(yīng)當以顯著的方式對利用深度學習技術(shù)制作和發(fā)布的與真實信息不符的音頻或視頻加以標識。但遺憾的是，該《規(guī)定》 并沒有對于違反標識義務(wù)的行為做出懲罰性規(guī)定，這就使得《規(guī)定》的宣示意義大于實踐價值，從而造成法律保護的缺位。22參加前引13，李騰文。

在我國司法實踐中，已經(jīng)出現(xiàn)以AI 換臉技術(shù)破解人臉識別進而實施詐騙行為的案件——行為人張某、余某為了騙取支付寶的邀請新用戶紅包獎勵，先是非法批量購買公民個人身份信息，之后通過AI 換臉技術(shù)將這些非法獲取的公民照片制作成3D 頭像，以通過人臉識別認證，最終獲取相應(yīng)的紅包獎勵。對于本案，法院判決行為人的行為成立侵犯公民個人信息罪與詐騙罪。23《張富、余杭飛、史良浩等侵犯公民個人信息罪二審刑事裁定書》，浙江省衢州市中級人民法院(2019) 浙08 刑終333 號刑事裁定書。本案對于利用深度偽造技術(shù)從事不法行為的規(guī)制同時包含了事后規(guī)制與事前規(guī)制，其中對利用深度偽造內(nèi)容進行騙財?shù)男袨榕刑幵p騙罪即事后規(guī)制，而事前規(guī)制則表現(xiàn)為侵犯公民個人信息罪。深度偽造行為往往伴隨著侵犯公民個人信息的犯罪，因為深度偽造技術(shù)是以原始圖片、視頻、音頻等信息為基礎(chǔ)，通過人工智能技術(shù)合成其他新的圖片、視頻、音頻等，從而進一步實施詐騙、敲詐勒索、誹謗、傳播淫穢物品等相關(guān)犯罪。因此，必須重視并嚴厲打擊侵犯公民個人信息的違法犯罪活動，從而在源頭上遏制深度偽造技術(shù)的濫用。24李懷勝：《濫用個人生物識別信息的刑事制裁思路——以人工智能“深度偽造”為例》，載 《政法論壇》 2020 年第4 期。但是，以侵犯公民個人信息罪規(guī)制濫用深度偽造技術(shù)的行為，雖然可以解決對于非法獲取、出售、提供個人生物識別信息行為的懲治問題，卻無法回應(yīng)以合法形式獲取卻非法使用個人信息的行為模式。就深度偽造行為而言，行為本身其實就是一種對公民個人信息予以非法利用的情形，深度偽造行為的不法在于對生物識別信息的濫用。25參加前引24，李懷勝文。下文將對于深度偽造這一非法利用公民個人信息的行為如何進行刑法規(guī)制展開論述。

三、深度偽造行為的不法認定與刑事歸責

當下人臉識別已逐漸成為各類應(yīng)用軟件的支付或注冊方式，這時一些不法分子便意圖通過換臉“黑科技”進行非法牟利。那么，對于專門提供深度偽造技術(shù)服務(wù)的行為人，究竟是應(yīng)當依據(jù)共犯的認定思路，以其所幫助實施的犯罪的共犯論處，還是應(yīng)當采取以獨立罪名定罪處罰的制裁思路呢？

（一）深度偽造行為的不法認定

如果將深度偽造黑色產(chǎn)業(yè)鏈劃分為三個階段，第一階段涉及深度偽造行為之前的公民個人信息的非法獲取、非法出售和非法提供，第二階段是非法使用深度偽造技術(shù)的行為，第三階段則是利用深度偽造內(nèi)容實施詐騙、誹謗等一系列違法犯罪行為。對第一階段的針對公民個人信息安全的犯罪，可以以侵犯公民個人信息罪進行規(guī)制；對第三階段的后續(xù)犯罪行為，則直接以行為所構(gòu)成的特定犯罪定罪處罰即可。但是，對于第二階段也就是深度偽造這一行為本身，如果以下游犯罪的共犯定罪處罰，則存在以下疑問：一是，當深度偽造技術(shù)處理呈現(xiàn)出產(chǎn)業(yè)化發(fā)展態(tài)勢，那么提供深度偽造技術(shù)服務(wù)的行為人與利用深度偽造內(nèi)容實施下游犯罪的行為人之間缺乏犯罪意思聯(lián)絡(luò)，提供技術(shù)服務(wù)的行為人可能并不知道其他犯罪行為人將要實施何種犯罪，所以也就不具有與其他犯罪行為人的共同犯罪故意。這種情況下，對于專門提供深度偽造技術(shù)服務(wù)的行為人，便不能以他人所實施的具體犯罪的共犯定罪論處。二是，根據(jù)通說的共犯限制從屬性理論，在正犯行為該當構(gòu)成要件并且具有違法性的前提下，共犯才有成立的可能。因此，如果下游行為依法尚不成立犯罪，26具體包括兩種情形：一是行為不該當具體犯罪的構(gòu)成要件，未侵犯具體犯罪中的法益；二是行為僅形式上該當某一犯罪的構(gòu)成要件，但因不滿足“情節(jié)嚴重”“數(shù)額較大”等實質(zhì)違法性要求而不構(gòu)成犯罪。而只是構(gòu)成一般違法行為，那么，對于專門提供深度偽造技術(shù)服務(wù)的行為人不能以共犯定罪處罰。

既然共同犯罪理論難以完全回應(yīng)深度偽造的行為不法認定問題，有學者便提出通過增設(shè)專門的“身份盜竊犯罪”27參加前引24，李懷勝文。來規(guī)制深度偽造不法行為。這一觀點主張深度偽造行為具有相對于下游犯罪的獨立的違法性，而其獨立違法性來源于身份冒用行為，認為深度偽造的內(nèi)容在使用過程中雖然不構(gòu)成犯罪，但因深度偽造內(nèi)容具有身份冒用的可能性，為了防止后續(xù)詐騙等一系列具體犯罪的發(fā)生，因此有必要將深度偽造行為本身以身份盜竊犯罪獨立定罪處罰。28參加前引13，李騰文。而對此的反對觀點認為，偽造信息的行為本身不具有獨立的違法性，因為偽造行為的目的會被后續(xù)其他犯罪行為的目的所吸收，所以深度偽造的行為本身不應(yīng)成為我國刑法的歸責對象。29敬力嘉：《作為行為不法類型的犯罪參與——兼論非法發(fā)布深度偽造信息的行為不法》，載 《華東政法大學學報》 2020 年第6 期。

本文認為，對于非法使用深度偽造技術(shù)的行為應(yīng)當予以刑法規(guī)制，但卻不贊同現(xiàn)階段通過增設(shè)專門的罪名來規(guī)制深度偽造中的身份冒用行為。增設(shè)身份盜竊犯罪其實是一種預(yù)備行為實行行為化的立法觀點，但是我國刑法對于預(yù)備犯的處罰應(yīng)當僅限于侵犯重大法益的犯罪行為，而并非對任意犯罪行為的預(yù)備行為均可以作出獨立的預(yù)備犯的立法規(guī)定，否則便違背了刑法的謙抑性原則，而且也與當下國家大力推進人工智能技術(shù)發(fā)展的政策要求背道而馳。此外，那種以對法益的提前保護為名，將濫用深度偽造技術(shù)的行為傾向于按照共犯理論認定為其他犯罪的預(yù)備犯的觀點亦為本文所不取。例如，行為人使用深度偽造技術(shù)制作具有身份冒用性質(zhì)的內(nèi)容，如果后續(xù)的犯罪行為尚未著手實施，那么就不能僅以制作者具有實施其他犯罪的目的為由，認定深度偽造行為成立后續(xù)犯罪的預(yù)備犯。

同時本文也不贊同反對觀點，因為隨著深度偽造技術(shù)的不斷發(fā)展成熟，技術(shù)被濫用的風險和由此造成的社會危害也會越來越大，所以刑法對深度偽造行為具有獨立規(guī)制的必要性。在網(wǎng)絡(luò)“換臉詐騙”中，網(wǎng)絡(luò)黑產(chǎn)從業(yè)者通過非法途徑獲取公民照片、手機號碼、身份證號碼等個人信息，然后將這些非法獲取的個人信息進行深度偽造技術(shù)處理，冒用他人身份進行人臉實名注冊，最后將虛假注冊的賬號販賣給違法犯罪團伙。30《照片活化瞞過人臉識別，冒用他人身份虛假注冊，深圳警方打掉一新型犯罪團伙抓獲13 人》，搜狐網(wǎng)：https://www.sohu.com/a/410804526_161795，2021 年4 月12 日訪問。在這條黑色產(chǎn)業(yè)鏈中，專門提供深度偽造技術(shù)服務(wù)的人員，為他人提供虛假注冊、刷臉支付等黑產(chǎn)服務(wù)，幫助他人實施詐騙等違法犯罪活動。相對于傳統(tǒng)幫助犯罪，網(wǎng)絡(luò)犯罪幫助行為呈“一對多”的行為模式，這種幫助行為的社會危害性并不亞于被幫助的下游違法犯罪行為，因此應(yīng)當根據(jù)“積量構(gòu)罪”31皮勇：《論新型網(wǎng)絡(luò)犯罪立法及其適用》，載 《中國社會科學》 2018 年第10 期。的理念，將這種產(chǎn)業(yè)化的提供深度偽造技術(shù)服務(wù)的行為以非法利用信息網(wǎng)絡(luò)罪、幫助信息網(wǎng)絡(luò)犯罪活動罪等獨立罪名定罪論處。

（二）網(wǎng)絡(luò)服務(wù)提供者的不作為責任邊界

面對網(wǎng)絡(luò)虛擬空間中層出不窮的深度偽造導(dǎo)致的身份仿冒亂象，網(wǎng)絡(luò)服務(wù)提供者在技術(shù)治理過程中發(fā)揮著重要作用，應(yīng)當依法承擔網(wǎng)絡(luò)安全監(jiān)管的主體責任，采取必要的技術(shù)措施維護網(wǎng)絡(luò)安全。如果深度偽造行為構(gòu)成不法，責任主體除了深度偽造內(nèi)容制作者外，網(wǎng)絡(luò)服務(wù)提供者也可能因未履行信息網(wǎng)絡(luò)安全管理義務(wù)而承擔相應(yīng)的不作為責任。避風港原則是網(wǎng)絡(luò)服務(wù)提供者承擔責任和責任豁免的主要依據(jù)，網(wǎng)絡(luò)服務(wù)提供者在收到侵權(quán)通知后，應(yīng)當及時采取技術(shù)措施減少侵權(quán)內(nèi)容的不利影響。需要注意的是，雖然避風港原則的主要內(nèi)容一般被認為是“通知—刪除”規(guī)則，但是不應(yīng)僵化地將“通知—刪除”等同于避風港原則。換言之，網(wǎng)絡(luò)服務(wù)提供者在經(jīng)通知后，應(yīng)當針對其平臺中所發(fā)布的違法的深度偽造內(nèi)容采取技術(shù)措施，但該技術(shù)措施不僅僅限于刪除，還包括其他能夠用以減小危害結(jié)果的必要技術(shù)措施。比如，在發(fā)現(xiàn)利用深度偽造技術(shù)制作的視聽作品未添加標識時，應(yīng)當對其添加標識以提醒用戶知悉。32參加前引13，李騰文?？傊?，對于不同的深度偽造內(nèi)容，網(wǎng)絡(luò)服務(wù)提供者應(yīng)當采取不同的技術(shù)措施：內(nèi)容涉嫌違法的，應(yīng)當及時予以刪除；對其他的一般深度偽造內(nèi)容，應(yīng)當進行標識提醒。具體而言：

網(wǎng)絡(luò)服務(wù)提供者在經(jīng)權(quán)利人通知后，應(yīng)當及時采取刪除、屏蔽等技術(shù)措施，阻止深度偽造內(nèi)容危害后果的進一步擴大。由于互聯(lián)網(wǎng)環(huán)境普遍的匿名性，深度偽造行為中的被害人尋找制作深度偽造內(nèi)容的行為人存在困難，從而缺乏法律追索途徑，在這種情況下，為了保護被害人的合法權(quán)益，被害人可以直接請求網(wǎng)絡(luò)平臺采取相應(yīng)的技術(shù)措施以避免損害的進一步擴大。隨著當下國內(nèi)網(wǎng)紅經(jīng)濟的興起，一些短視頻平臺漸漸成為深度偽造內(nèi)容滋生的沃土。例如，行為人通過AI 換臉技術(shù)偽造明星靳東的頭像和身份，在抖音視頻軟件上與60 歲大媽“談戀愛”，以達到其銷售產(chǎn)品等目的。假靳東事件爆發(fā)之后，抖音平臺快速作出了回應(yīng)：假靳東的相關(guān)賬號大規(guī)模減少，有些尚存在的賬號也將作品清零。33《“假靳東”鬧劇閱讀量超16 億，“中老年粉絲”正在攻占短視頻？》，https://view.inews.qq.com/a/20201014A0IGJS00，2021 年4 月1 日訪問。

網(wǎng)絡(luò)服務(wù)提供者對于控制網(wǎng)絡(luò)空間中虛假信息的傳播具有重要作用，基于風險控制理論，網(wǎng)絡(luò)服務(wù)提供者對于利用其所提供的網(wǎng)絡(luò)平臺等網(wǎng)絡(luò)服務(wù)所發(fā)布的深度偽造內(nèi)容應(yīng)當承擔監(jiān)督管理義務(wù)，真正發(fā)揮其作為網(wǎng)絡(luò)平臺的“守門功能”，從而防止虛假信息的大肆傳播。例如，當Reddit 事件發(fā)生之后，不僅Reddit 關(guān)閉了deepfakes 論壇，Twitter 等社交平臺也紛紛對此采取抵制措施，F(xiàn)acebook 還專門研發(fā)出了一個機器學習模型用于鑒別深度偽造的視頻、圖片等。34《CSIS 報告：深度偽造(Deepfake) 技術(shù)政策簡報》，https://www.secrss.com/articles/14664，2021 年4 月2 日訪問。需要注意的是，令網(wǎng)絡(luò)服務(wù)提供者對于深度偽造內(nèi)容承擔監(jiān)督管理義務(wù)，并不是要求網(wǎng)絡(luò)服務(wù)提供者對于在其平臺所發(fā)布的信息逐一進行事前審查，一是因為網(wǎng)絡(luò)信息數(shù)量過大，事前監(jiān)管的成本太高，二是因為如果要求所有信息內(nèi)容在經(jīng)過審查后才能發(fā)布，將不利于互聯(lián)網(wǎng)環(huán)境中的文化交流和信息傳播。

避風港原則為平衡網(wǎng)絡(luò)環(huán)境中的信息安全與信息應(yīng)用二者之間的緊張關(guān)系提供了科學合理的解決方案。避風港原則在我國《刑法》 第二百八十六條之一中也有所體現(xiàn)，在經(jīng)監(jiān)管部門責令采取改正措施后，網(wǎng)絡(luò)服務(wù)提供者如果拒不改正的，這種情況下才需要承擔相應(yīng)的不作為責任。但是，為避免“通知刪除規(guī)則”成為網(wǎng)絡(luò)服務(wù)提供者逃避責任的擋箭牌，對于避風港制度的立法初衷和具體內(nèi)容需要進一步審視和明確。即要求網(wǎng)絡(luò)服務(wù)提供者在收到通知后，除了需要刪除相關(guān)侵權(quán)內(nèi)容外，還應(yīng)提高注意義務(wù)，采取技術(shù)措施防止同類侵權(quán)內(nèi)容在其平臺上傳播，從而避免反復(fù)侵權(quán)現(xiàn)象的繼續(xù)發(fā)生。避風港制度雖然為網(wǎng)絡(luò)服務(wù)提供者的責任豁免提供了依據(jù)，但是網(wǎng)絡(luò)服務(wù)提供者不應(yīng)將避風港原則作為自身怠于履行網(wǎng)絡(luò)安全監(jiān)管義務(wù)的理由，不應(yīng)把信息網(wǎng)絡(luò)安全管理義務(wù)僅限于通知后的刪除義務(wù)，而是還應(yīng)包括提升網(wǎng)絡(luò)運行的安全性，有效防范網(wǎng)絡(luò)違法犯罪活動。

最后，網(wǎng)絡(luò)服務(wù)提供者還應(yīng)積極研發(fā)針對深度偽造的識別技術(shù)，主動回應(yīng)深度偽造行為不法問題。美國《深度偽造責任法案》 對于深度偽造技術(shù)的治理，提出了政府要成立研究深度合成內(nèi)容的專家小組，負責研發(fā)針對深度合成技術(shù)的檢測和反制技術(shù)，并與企業(yè)、學術(shù)科研機構(gòu)展開合作，從而有效檢測、識別與對抗虛假信息。目前國內(nèi)外已經(jīng)有網(wǎng)絡(luò)平臺開始嘗試通過人工智能算法對深度偽造內(nèi)容進行識別，可見人工智能技術(shù)雖然可能作為實施違法犯罪的工具，為網(wǎng)絡(luò)犯罪治理增加難度，但同時也可以被用以反制利用技術(shù)所實施的不法行為，即所謂的技術(shù)反向破解。在國外，美國的紐約州州立大學奧爾巴尼分校研究人員提出通過檢測眨眼頻率可以識別偽造的AI 換臉視頻。研究指出，當人在說話時，平均每分鐘眨眼26 次，但是利用深度偽造技術(shù)制作的視頻中換臉主體則完全不眨眼，以此可以識別視頻中的主體是否由深度偽造技術(shù)合成。35In Ictu Oculi:Exposing AI Generated Fake Face Videos by Detecting Eye Blinking，https://arxiv.org/pdf/1806.02877.pdf，2021 年4月3 日訪問。在我國，借助活體人臉檢測技術(shù)如紅外人臉檢測，36在傳感器當中用到近紅外的攝像頭，近紅外攝像頭一方面可以采集人臉當中的信息，另一方面也可以采集人臉的溫度，包括它隨著溫度的變化所帶來的一系列變化?？梢杂行Х直嬲鎸嵉娜四樅腿四樀恼掌蛘咭曨l。37《刷臉時代我們的個人隱私或財產(chǎn)安全嗎？專家解讀》，https://baijiahao.baidu.com/s?id=1681617875995927630&wfr=spider&for=pc，2021 年3 月1 日訪問。除了鑒偽技術(shù)之外，溯源技術(shù)也能夠幫助追蹤、驗證內(nèi)容來源和打擊深度偽造不法行為。區(qū)塊鏈技術(shù)可以完整記錄網(wǎng)絡(luò)空間所發(fā)布的信息內(nèi)容的流轉(zhuǎn)過程，任何篡改都會被記錄，包括由誰制作上傳和轉(zhuǎn)發(fā)，均可以精準追蹤到。38張收鵬：《區(qū)塊鏈技術(shù)在傳媒業(yè)的創(chuàng)新應(yīng)用》，載 《新聞戰(zhàn)線》 2018 年第23 期。于是，深度偽造內(nèi)容制作者便會謹慎考慮利用深度偽造技術(shù)實施不法行為的成本，也有利于監(jiān)管者審查和追溯信息來源，從而更有效地打擊深度偽造不法行為。

結(jié)語

法律的作用應(yīng)當重在疏解而非抑制。針對一項新興技術(shù)所產(chǎn)生的安全風險，刑法的過度介入和嚴厲打擊將會嚴重挫傷技術(shù)研發(fā)的積極性，不利于技術(shù)的發(fā)展和社會的進步。而且，法律治理手段是一種被動的事后救濟，要想從事前主動降低深度偽造技術(shù)的安全風險，必須依靠企業(yè)內(nèi)部治理和行業(yè)自律等多種治理路徑。可無論是法律的規(guī)制還是網(wǎng)絡(luò)服務(wù)提供者的審查，都有可能出現(xiàn)管理過度或者審查過度的問題，而追求絕對的技術(shù)安全勢必會阻礙技術(shù)的開發(fā)與應(yīng)用，不利于信息的傳播和公民創(chuàng)作的積極性。因此，如何處理好技術(shù)研發(fā)應(yīng)用與個人信息保護之間的關(guān)系，值得理論界和實務(wù)界的共同關(guān)注和研究。在對于深度偽造技術(shù)的治理問題上，需要權(quán)衡人工智能技術(shù)的發(fā)展應(yīng)用與該項技術(shù)可能造成的法益侵害二者之間的關(guān)系?！坝缅N子殺人是非法的，但錘子本身并不是非法的?！?9Douglas Harris.Deepfakes:False Pornography Is Here and the Law Cannot Protect You.Duke Law&Technology Review，2019，17:127.法律所規(guī)制的是借助人工智能深度偽造技術(shù)故意侵害法益的行為，而非技術(shù)本身。總之，對于一項新興科學技術(shù)的應(yīng)用，因噎廢食的做法不應(yīng)該被提倡，在打擊深度偽造技術(shù)濫用行為的同時發(fā)揮深度偽造技術(shù)對于社會的有益價值，“取其精華，去其糟粕”，才是我們應(yīng)該保持的態(tài)度。