白 碩 紀澤坤

（北京物資學院法學院 北京 通州 10049）

在人工智能時代，大量新技術(shù)涌入我們生活中，帶來經(jīng)濟利益的同時，也伴生許多法律風險，傳統(tǒng)的規(guī)制模式亟需更新完善。“深度偽造”技術(shù)最初主要是應用于影視領域制作，后來隨著“ZAO”“去演”等換臉APP的問世，一部手機、一張照片，點擊“一鍵換臉”就可以替換任意視頻素材中的人臉?！吧疃葌卧臁弊畛Ｒ姷膽镁褪恰癆I換臉”，大數(shù)據(jù)獲取的基礎上生產(chǎn)高度逼真的合成數(shù)據(jù)，如專業(yè)影視、圖像制作，短視頻、動圖社交，此外還可應用于語音合成、虛擬偶像、線上試衣等。不可否認，其在諸多領域都能創(chuàng)造積極的價值。然而，在帶來廣泛應用的同時，“深度偽造”技術(shù)的產(chǎn)物同時又具有極大迷惑性，讓人難辨真假。結(jié)合當前社交網(wǎng)絡極其開放流動、國際化的特性，使得大量虛假的信息，以“高度可信”的方式呈現(xiàn)給大眾，所帶來的法律風險是不可估量的。有人利用“深度偽造”侵害他人人格權(quán)益的現(xiàn)象愈加頻繁地發(fā)生，其中也涉及到技術(shù)平臺及相關(guān)產(chǎn)物制作者的責任承擔法律規(guī)制。新技術(shù)帶來新挑戰(zhàn)，給人們敲響了警鐘。

一、“深度偽造”技術(shù)應用的法律風險

由于“深度偽造”和互聯(lián)網(wǎng)的特性，侵權(quán)現(xiàn)象很容易發(fā)生。本文將從民法領域，基于對“ZAO”“去演”等換臉APP平臺協(xié)議和實踐的探究，對“深度偽造”的法律風險加以分析。

（一）對肖像權(quán)、聲音權(quán)、名譽權(quán)等人格權(quán)侵權(quán)的風險

《民法典》頒布后，明確了構(gòu)成聲音、肖像侵權(quán)的構(gòu)成要件。通過“ZAO”的隱私協(xié)議可以看出，用戶使用換臉功能必須打開相機、相冊等設備應用訪問權(quán)限，并選擇上傳照片。而選擇過程將會使相冊中其他授權(quán)外的面部信息，暴露在“ZAO”的檢測系統(tǒng)中，其肖像權(quán)侵權(quán)風險不言而喻。軟件對照片的識別技術(shù)依然存在疏漏，有些長得像的非本人也能通過真人驗證。此時，“深度偽造”替換樣本的獲取往往并沒有取得相應權(quán)屬人的同意，這就給肖像權(quán)侵權(quán)提供了可能。聲音權(quán)侵權(quán)風險也是同理。

（二）在個人信息保護領域的風險

換臉APP中“深度偽造”技術(shù)的運用，首先要進行人臉識別，而人臉數(shù)據(jù)屬于通過生物特征識別技術(shù)獲取的個人生物識別信息。《民法典》第一千零三十四條規(guī)定，個人生物識別信息屬于個人信息，屬于法律的保護范圍。這些生物特征一旦被偽造、被濫用，將給權(quán)利人帶來極大的風險。對此，筆者認為，可以從“深度偽造”技術(shù)運用的動態(tài)過程角度，進一步分析潛在的法律風險。這一過程不僅涉及人臉信息的采集，還涉及人臉信息的儲存、使用、刪除等，結(jié)合“ZAO”和“去演”APP用戶協(xié)議和隱私條款，可能侵害諸多法益。

（三）“深度偽造”法律風險的特殊性

曾希望將這項技術(shù)大眾化、普遍化而誕生出的許多換臉APP，最終卻都落得個紅極一時、曇花一現(xiàn)。在觀察“深度偽造”市場化結(jié)果后，筆者發(fā)現(xiàn)，“深度偽造”的獨特性在于，一旦廣泛使用，它給我們現(xiàn)在所處的互聯(lián)網(wǎng)大數(shù)據(jù)社會實名認證帶來的沖擊將是顛覆性的，故而引發(fā)了社會公眾對著作權(quán)、個人信息、肖像權(quán)、隱私權(quán)等領域保護的擔憂。

二、我國法律規(guī)制的現(xiàn)狀和不足

盡管我國對于“深度偽造”的風險規(guī)制處于初始階段，但是仍然建立起了相對完善的規(guī)制機制?！睹穹ǖ淙烁駲?quán)編》《個人信息保護法》《數(shù)據(jù)安全管理辦法》《網(wǎng)絡音視頻信息服務管理規(guī)定》等法律法規(guī)，均可作為 “深度偽造”的法律規(guī)制依據(jù)，在一定程度上可以被既有責任體系涵蓋。然而，我國對“深度偽造”規(guī)制雖有法可依，但現(xiàn)有規(guī)則是否能夠有效規(guī)制“深度偽造”風險還不確定。很多規(guī)制都尚不完善，且存在不足，有如下三點。

（一）我國目前沒有對“深度偽造”形成專門性立法

現(xiàn)有規(guī)制往往是從各領域法律條文中尋找依據(jù)，相對碎片化。對于規(guī)定了收集個人信息明示同意規(guī)則等生物信息保護條款的《個人信息安全規(guī)范》，其性質(zhì)屬于國家標準，不屬于“法律”，效力較低。缺乏一個整體的、系統(tǒng)的法律規(guī)制機制來應對這樣一種科技創(chuàng)新，且沒有形成一個針對“深度偽造”產(chǎn)品制作者、數(shù)據(jù)平臺、使用者等不同主體相關(guān)權(quán)利、義務、責任的完整規(guī)制框架。

（二）大多數(shù)條文比較抽象

在法律具體實施上缺乏更為細致的規(guī)范，且現(xiàn)存收集處理個人生物信息的主體對于信息的控制和保護能力參差不齊。

（三）現(xiàn)有規(guī)則更多是一種事后規(guī)制

例如換臉軟件“ZAO”因為霸王條款、數(shù)據(jù)風險等安全問題爆出，相關(guān)監(jiān)管部門才對其進行約談要求整改，對于軟件上架之前的審核不完善。不同主體代表著不同利益訴求，法律應進一步予以調(diào)和、平衡平臺責任。由于“深度偽造”產(chǎn)品的高度“真實性”，同時還應當促使相關(guān)“深度偽造”產(chǎn)品甄別技術(shù)標準逐步完善，加強行業(yè)自律，在事前和事中階段加強管理，避免因“深度偽造”形成嚴重的危害后果。

三、“深度偽造”風險的域外法律規(guī)制比較

隨著“深度偽造”不斷發(fā)展，相關(guān)換臉應用層出不窮，由此引發(fā)的侵權(quán)風險逐步加劇，各國也紛紛出臺應對措施，處理手段與實踐結(jié)果各有特色。

（一）美國的相關(guān)法律規(guī)制

“深度偽造”技術(shù)應用最早出現(xiàn)于美國，隨著技術(shù)和應用的不斷發(fā)展普及，其所帶來的風險和擔憂也在美國實踐中大量顯現(xiàn)。由此，美國在“深度偽造”的法律規(guī)制方面不得不加快步伐，以遏制這一新技術(shù)造成的不利影響，很早就開始進行規(guī)制實踐。

1.從技術(shù)本身不當應用角度，對“深度偽造”進行的法律規(guī)制

與中國的分散式規(guī)制不同，美國已經(jīng)有了直接對“深度偽造”本身不當應用進行規(guī)制的相關(guān)措施。2019年6月，美國針對“深度偽造”的風險及防范措施召開聽證會。隨后議會提出《2019年深度偽造報告法案》。該法案將概念外延略大于“深度偽造”的“數(shù)字偽造”定義納入到規(guī)制體系中。2019年6月，美國眾議院提出《深度偽造責任法案》，該法案明確了“深度偽造”不當使用行為的法律責任，要求“深度偽造”技術(shù)產(chǎn)物制作者，必須以水印或文本標注等形式表明文件的“偽造”屬性及“偽造”程度，進行信息披露，以實現(xiàn)與真實視頻的區(qū)分，否則將根據(jù)所造成的侵權(quán)后果受到相關(guān)責任追究。

2.從傳統(tǒng)個人信息保護角度，對“深度偽造”進行的法律規(guī)制

“深度偽造”實際上是對生物識別數(shù)據(jù)進行“偽造”，因此，通過對“生物識別數(shù)據(jù)”的保護，實現(xiàn)抑制“深度偽造”不當使用帶來的負面效應，也是一種可行的路徑。早在“深度偽造”技術(shù)廣泛應用之前，就有了關(guān)于“個人信息保護”的相關(guān)法律規(guī)制，大致如下：2009年，得克薩斯州《生物識別信息獲取使用法》，按照信息收集、使用階段過程進行規(guī)制；2017年，加利福尼亞州《加州生物信息隱私法案》進一步具體化，規(guī)定了收集階段的知情授權(quán)原則；2019年，佛羅里達州《生物識別信息隱私法案》細化了信息使用和保管階段的規(guī)則；華盛頓州《華盛頓隱私法案》明確了數(shù)據(jù)權(quán)利主體對于個人信息的各項權(quán)利，如訪問權(quán)、更正權(quán)、刪除權(quán)等；2019年3月，美國聯(lián)邦人臉識別隱私保護第一部法案《2019年商業(yè)人臉識別隱私法案》還增加了投入市場應用需第三方測試，人臉識別運營商“數(shù)據(jù)安全性、最小化、留存”等規(guī)定；2019年4月，美國聯(lián)邦《隱私權(quán)利法案》也從個人權(quán)利角度作出回應。

（二）歐盟的相關(guān)法律規(guī)制

與中國、美國的“深度偽造”法律規(guī)制形成鮮明對比的是，歐盟主要是通過對個人信息的嚴格保護和虛假信息治理兩個方面限制“深度偽造”技術(shù)的應用。

1.通過嚴格個人信息保護對“深度偽造”進行的法律規(guī)制

歐盟非常注重個人信息保護，相關(guān)規(guī)制體系的建立已趨于成熟，并配套有對應的網(wǎng)絡音視頻服務商信息利用標準，嚴格的信息收集者、處理者、控制者、運營者責任義務規(guī)定，以及個人信息泄漏后的救濟措施。2018年歐盟正式實施的《通用數(shù)據(jù)保護條例（GDPR）》就有所體現(xiàn)。此外還規(guī)定了可能被用于制作深度偽造內(nèi)容的人臉圖像屬于“生物特征數(shù)據(jù)”，對于這類具有隱私特征的特定個人信息也應予以特殊保護。如收集目的按約合法，非經(jīng)同意不得處理，將換臉軟件納入了規(guī)制。在公民的基本人權(quán)與第三方信息匯總與收集之間尋求最佳平衡點。

2.通過嚴厲打擊虛假信息對“深度偽造”進行的法律規(guī)制

“深度偽造”與虛假信息相似，均是偽造不真實信息，并試圖操縱信息以獲得利益或造成損害，因此可以將其歸到已有的關(guān)于虛假信息的規(guī)制框架中進行處理。2018年4月末，歐盟委員會《應對線上虛假信息：歐洲方案》提出各利害關(guān)系主體合作，建立評估審核機制，改進信息來源，提高信息生產(chǎn)、傳播過程中的透明度，提高信息的可信度，以實現(xiàn)全面防范視頻、圖像和文字等虛假信息。2018年9月末，歐洲主要網(wǎng)絡服務商提出的《反虛假信息行為準則》提倡平臺自律監(jiān)管，自覺限制、治理“深度偽造”違法內(nèi)容。

（三）域外法律規(guī)制經(jīng)驗分析

根據(jù)美國及歐盟的規(guī)制經(jīng)驗，并結(jié)合我國現(xiàn)有法律規(guī)制的不足，應做出相應借鑒和改進，明確相關(guān)主體的權(quán)利、義務及法律責任，完善侵權(quán)救濟渠道，同時推動辨別技術(shù)發(fā)展和機構(gòu)監(jiān)管，建立有效的針對“深度偽造”技術(shù)應用風險的法律規(guī)制路徑。

四、“深度偽造”技術(shù)應用的法律對策及建議

由于“深度偽造”自動對抗式的技術(shù)邏輯，受害人可以依據(jù)《民法典》人格權(quán)編的相關(guān)規(guī)定維護自己的合法權(quán)益。我國民法領域“深度偽造”技術(shù)應用的法律規(guī)制，還需結(jié)合我國國情以及社會經(jīng)濟發(fā)展狀況進行完善。

（一）統(tǒng)一規(guī)范平臺在信息保護動態(tài)過程中的義務標準

結(jié)合相關(guān)法律規(guī)定，“深度偽造”技術(shù)平臺主體目前應根據(jù)法律義務，履行更嚴格的收集使用說明義務，在信息權(quán)利人完全知情的條件下取得其授權(quán)同意。

采集的人臉識別信息僅在有限時間、為特定目的使用。為保障個人信息數(shù)據(jù)安全，在權(quán)利人收回授權(quán)或要求刪除、注銷后，應立即刪除所有獲得的數(shù)據(jù)和個人信息。若“深度偽造”平臺違反上述義務，則可能在個人信息的采集、使用、儲存、階段發(fā)生侵權(quán)行為。此外，由于“深度偽造”風險的特殊性，平臺也應自覺主動加強行業(yè)自查并接受政府監(jiān)管，事前報備，事中定期報告及時反饋，事后積極配合補救。

（二）平臺侵權(quán)責任歸責原則的適用

盡管平臺在“深度偽造”信息管理過程中承擔較多義務，但也并不是無限制的。要認定其最終構(gòu)成侵權(quán)，還需要具有“主觀過錯”。在訴訟證明責任上，筆者認為適用“過錯推定”的歸責原則更為合適，平衡個人權(quán)利和技術(shù)推廣。相比個人信息權(quán)利人，信息處理者即平臺顯然占有更加有利的地位。其掌管信息數(shù)據(jù)并在后臺進行“深度偽造”技術(shù)運行，擁有更強的能力和便利條件，并可以更低的成本證明其行為與信息損害后果之間有無因果關(guān)系，倘若無法證明則可推定事實上的因果關(guān)系成立?！吧疃葌卧臁逼脚_是風險的帶來者。

（三）明確技術(shù)產(chǎn)物制作者主動標識義務

“深度偽造”技術(shù)產(chǎn)物制作者作為行為和傳播源頭，有必要對其提出相應規(guī)制?？刂谱≈谱髡哌@一源頭，將極大地減小對于后面環(huán)節(jié)法律監(jiān)管的壓力。其基本義務就是要在換臉視頻顯要位置明確與普通視頻的區(qū)分，并標注視頻來源、原作品相關(guān)信息、有無授權(quán)等。在上傳網(wǎng)絡及平臺進行傳播時，也應再次作出清晰的聲明，告知平臺和平臺用戶其“深度偽造”性質(zhì)。如果制作者違反主動標識義務，則要承擔過錯侵權(quán)責任。

（四）強化技術(shù)平臺審查責任

在當前信息時代，平臺為信息傳播提供途徑和載體。如前所述，公民僅為個人學習欣賞研究制作“深度偽造”視頻并不會構(gòu)成侵權(quán)，而一旦上傳至網(wǎng)絡平臺進行傳播，則使其具備了違法可能性。此時，平臺作為一個重要的中間媒介，具有一定的審查責任，防止虛假信息在社會公眾中大量擴散，造成信息混亂、侵權(quán)亂象和社會信任危機。但是，由于現(xiàn)階段尚沒有能成熟完備識別篩選“深度偽造”產(chǎn)物的技術(shù)，不應給平臺設定過重的義務要求。具體而言，可以根據(jù)《信息網(wǎng)絡傳播權(quán)保護條例》《民法典》《個人信息保護法》及《電子商務法》等相關(guān)規(guī)定，適用“避風港”原則，即適用處理侵權(quán)糾紛的“通知與刪除”程序。平臺只要履行了一定義務即可被認為履行了審查責任。若怠于履行上述義務，造成相應后果，則需要承擔連帶責任。在“深度偽造”技術(shù)產(chǎn)物的制作和傳播過程中，起最主要作用的就是制作者和平臺。因此，為防止“深度偽造”技術(shù)的濫用，必須從不同主體權(quán)利義務規(guī)制角度，建立事前預防和事后救濟相結(jié)合的法律規(guī)制框架，有效降低法律風險的發(fā)生。

（五）加強有關(guān)部門互聯(lián)網(wǎng)新技術(shù)新應用安全評估工作

目前，我國主要負責“深度偽造”技術(shù)應用安全評估的監(jiān)管部門是網(wǎng)信辦及公安機關(guān)。這些部門應依據(jù)《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務安全評估規(guī)定》等法律法規(guī)作出相應對策，不斷建立健全事前、事中及事后的監(jiān)督體系。在事前做好規(guī)定，要求“深度偽造”互聯(lián)網(wǎng)平臺及時實行自我監(jiān)督，定期評估，并向有關(guān)部門備案報告，有關(guān)部門也要及時作出回應，必要時應依據(jù)職責開展現(xiàn)場檢查。在事件中相關(guān)部門應開展定期和不定期的巡查工作，把監(jiān)管落到實處，嚴格規(guī)范制度和程序。在事后及時采取有效整改措施，予以補救和懲戒，與社會各界共同維護網(wǎng)絡傳播秩序，營造良好網(wǎng)絡生態(tài)。

結(jié)束語：

隨著人工智能的不斷發(fā)展，“深度偽造”技術(shù)將“換臉”“換聲”等變成了可能，不可避免地引發(fā)了一系列關(guān)于人格權(quán)保護方面的法律風險問題。從人格權(quán)保護角度，根據(jù)不同責任主體義務分析了法律規(guī)制的方向和路徑，旨在構(gòu)建一個較為完善、層次分明的法律規(guī)制體系，將零散的法律法規(guī)進行整合，填補法律漏洞和空白。但是，對于“深度偽造”帶來的風險，除了要在法律層面予以完善，還應在技術(shù)及公眾意識層面不斷加強，才能形成社會合力，有效避免侵權(quán)現(xiàn)象出現(xiàn)，在個人權(quán)利得到保障的前提下實現(xiàn)技術(shù)進步。