萬(wàn)志前　陳晨

摘? ? 要：深度合成技術(shù)是人工智能領(lǐng)域里一項(xiàng)顛覆性技術(shù)突破，該技術(shù)在滿足人們多元化需求的同時(shí)也產(chǎn)生了技術(shù)異化、信息失真、信息泄露等風(fēng)險(xiǎn)。應(yīng)從多個(gè)維度協(xié)同治理深度合成技術(shù)所生風(fēng)險(xiǎn)：在技術(shù)層面，以技術(shù)規(guī)制技術(shù)，提高溯源防偽和反向破解技術(shù)的能力水平，發(fā)揮技術(shù)的規(guī)范功能;在行業(yè)層面，以商業(yè)倫理治理技術(shù)，強(qiáng)化倫理的引導(dǎo)作用和業(yè)內(nèi)組織的協(xié)調(diào)能力;在法律層面，以法律規(guī)范技術(shù)，結(jié)合中國(guó)實(shí)際和借鑒外國(guó)立法經(jīng)驗(yàn)，以《民法典》的相關(guān)條款為基礎(chǔ)，明確技術(shù)的使用邊界、使用程序及濫用技術(shù)的法律后果等。

關(guān)鍵詞：人工智能;深度合成;人臉識(shí)別;技術(shù)異化;商業(yè)倫理;民法典

中圖分類號(hào)：D 912 .29? ? ? ? ? ? 文獻(xiàn)標(biāo)識(shí)碼：A? ? ? ? ? 文章編號(hào)：2096-9783（2021）05-0085-08

一、問(wèn)題的提出

人工智能已經(jīng)進(jìn)入技術(shù)與產(chǎn)業(yè)融合發(fā)展的新階段，一個(gè)“泛在智能”的新技術(shù)革命時(shí)代正在來(lái)臨，人工智能基礎(chǔ)設(shè)施逐漸完善，應(yīng)用場(chǎng)景也更加多元和廣闊[1]。深度合成技術(shù)（deep synthesis）1即是人工智能領(lǐng)域的一項(xiàng)重要突破[2]，目前已廣泛應(yīng)用于多個(gè)領(lǐng)域，如在影視行業(yè)為影視特效和圖像影音帶來(lái)升級(jí)，在網(wǎng)絡(luò)社交中提升用戶的虛擬互動(dòng)和娛樂(lè)體驗(yàn)，在電子商務(wù)領(lǐng)域優(yōu)化服務(wù)和增強(qiáng)在線購(gòu)物體驗(yàn)，在媒體傳播上打造虛擬主播、虛擬歌手，在醫(yī)療領(lǐng)域幫助漸凍癥患者、老年癡呆癥患者康復(fù)，構(gòu)建智慧醫(yī)療體系等等，這些應(yīng)用充分展示了深度合成技術(shù)巨大的發(fā)展?jié)摿蛯?shí)施遠(yuǎn)景。

技術(shù)是一把無(wú)形的“雙刃劍”。深度合成技術(shù)在為社會(huì)帶來(lái)便捷和福祉的同時(shí)，也帶來(lái)了新的挑戰(zhàn)和風(fēng)險(xiǎn)。例如2017年11月，外網(wǎng)Reddit平臺(tái)上一位名為“深度偽造”（deepfake）的用戶通過(guò)電腦技術(shù)將色情影視片中演員的臉換成明星、政客等名人的臉，制作仿真度極高的視頻并發(fā)布，引起眾多網(wǎng)民模仿制作假電影、假新聞[3]。因其發(fā)展迅猛，“deepfake”一詞由網(wǎng)名演變成深度合成技術(shù)的代稱。該技術(shù)在我國(guó)引起普遍關(guān)注源于2019年的3月，Bilibili視頻播放平臺(tái)的一位名為“換臉哥”的用戶利用該技術(shù)將電視劇《射雕英雄傳》里原本由朱茵扮演的角色“換臉”成由楊冪“表演”。至2019年9月，一款名為“ZAO-逢臉造戲”的“換臉”應(yīng)用軟件引發(fā)廣泛的輿論與關(guān)注，用戶只需簡(jiǎn)單上傳本人或他人的照片等就可以將影視作品中的角色“換臉”，制作出由自己或他人“主演”的小視頻。該軟件因存在未經(jīng)明示同意而收集用戶個(gè)人生物識(shí)別信息、個(gè)人信息處理規(guī)則不清晰、過(guò)度索取用戶的肖像權(quán)、數(shù)據(jù)泄露和濫用風(fēng)險(xiǎn)等問(wèn)題而迅速下架。

人工智能的時(shí)代已經(jīng)來(lái)臨，先進(jìn)的技術(shù)和開放的數(shù)據(jù)流動(dòng)能為社會(huì)帶來(lái)巨大的信息紅利，但是深度合成技術(shù)生成的信息影響力能被瞬間成千成萬(wàn)倍地放大，其所具備的負(fù)面作用不容小覷[4]。目前，國(guó)內(nèi)關(guān)于深度合成技術(shù)風(fēng)險(xiǎn)與規(guī)制的研究主要集中于技術(shù)濫用問(wèn)題[4];扭曲信息傳播渠道導(dǎo)致的“后真相”時(shí)代危機(jī)[5];對(duì)技術(shù)的一體化規(guī)制，如加強(qiáng)數(shù)據(jù)平臺(tái)責(zé)任、明確技術(shù)使用者權(quán)限、保障公眾數(shù)據(jù)安全等[3]。本文將結(jié)合深度合成技術(shù)原理，進(jìn)一步分析深度合成技術(shù)應(yīng)用的法律風(fēng)險(xiǎn)，并在此基礎(chǔ)上探尋此類風(fēng)險(xiǎn)的協(xié)同規(guī)制。

二、深度合成技術(shù)的原理與應(yīng)用

深度合成技術(shù)是人工智能領(lǐng)域里一項(xiàng)“顛覆傳統(tǒng)認(rèn)知”的縱深發(fā)展合成技術(shù)（AI-generated media），即以人工智能為手段，實(shí)現(xiàn)視覺(jué)、聽覺(jué)等方面的模仿和修改，從而達(dá)到以假亂真的超高度仿真效果。人工智能是深度合成的技術(shù)支持，深度合成是人工智能的內(nèi)容輸出，二者是手段與目的的關(guān)系[6]。

（一）深度合成技術(shù)的原理

深度合成的過(guò)程就是將個(gè)人的照片、視頻等數(shù)據(jù)輸入到智能算法當(dāng)中，然后由智能算法在多次訓(xùn)練的基礎(chǔ)上，自動(dòng)完成“換臉”操作[7]。其革新在于運(yùn)用對(duì)抗生成網(wǎng)絡(luò)模型（Generative Adversarial Networks，簡(jiǎn)稱“GAN模型”），該模型與傳統(tǒng)深度學(xué)習(xí)技術(shù)（Deep Learning）的單向性相比，引入了“對(duì)抗”機(jī)制，并由兩組深度卷積神經(jīng)網(wǎng)絡(luò)雙向進(jìn)行，包括生成器和判定器[8]。在該網(wǎng)絡(luò)系統(tǒng)中含有圖像空間和隱層子空間，由圖像空間將創(chuàng)作的圖片投影到隱層子空間，由于投影變換具有非正交和非線性特點(diǎn)，且可以根據(jù)不同要求構(gòu)造不同的網(wǎng)絡(luò)[9]，因此創(chuàng)作的圖像具有高度相似性。

基于神經(jīng)網(wǎng)絡(luò)的技術(shù)支撐，對(duì)抗生成網(wǎng)絡(luò)模型的工作原理是運(yùn)用生成器和判定器這兩個(gè)神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像的高仿，先由操作者從互聯(lián)網(wǎng)等移動(dòng)平臺(tái)上獲取較大數(shù)量的目標(biāo)人物視頻或圖像信息，形成可供生成器進(jìn)行算法訓(xùn)練的數(shù)據(jù)庫(kù)，此后由生成器通過(guò)神經(jīng)網(wǎng)絡(luò)訓(xùn)練并生成的視頻、圖像等，并經(jīng)過(guò)判定器對(duì)原來(lái)的真實(shí)圖像數(shù)據(jù)與偽造數(shù)據(jù)進(jìn)行博弈，如果兩者誤差很小，達(dá)到了“以假亂真”的程度，則可以保留該偽造數(shù)據(jù)作為下一步“換臉”的素材。如果兩者誤差很大，系統(tǒng)將自動(dòng)把數(shù)據(jù)返回給生成器進(jìn)行新一輪的計(jì)算訓(xùn)練，直至生成的圖像與原真實(shí)圖像相比能通過(guò)判定器鑒別方可使用。最終，通過(guò)反復(fù)地訓(xùn)練和篩選，生成器所創(chuàng)造的數(shù)據(jù)與原有的真實(shí)數(shù)據(jù)具有相同的分布排列，使得判定器無(wú)法準(zhǔn)確識(shí)別生成器所造差異，二者達(dá)到相對(duì)平衡，從而使偽造視頻能夠欺瞞大多數(shù)人的眼睛[10]。

（二）深度合成技術(shù)的應(yīng)用

深度合成技術(shù)目前已獲得廣泛應(yīng)用，主要的應(yīng)用場(chǎng)景包括人臉替換（face replacement）、人臉再現(xiàn)（face re-enactment）、人臉合成（face generation）和語(yǔ)音合成（speech synthesis）四個(gè)方面[2]。具體而言，人臉替換即人們熟知的“換臉”技術(shù)，如曾風(fēng)靡一時(shí)的“ZAO”應(yīng)用軟件可以根據(jù)用戶上傳的照片自動(dòng)替換影視中角色的臉，制作出由用戶“出演”的小視頻。而人臉再現(xiàn)主要是通過(guò)操作、改變視頻中人物的面部表情和說(shuō)話內(nèi)容，使其看起來(lái)說(shuō)出或作出并非基于其本人意愿的事。人臉合成則是通過(guò)人工智能技術(shù)改變?nèi)宋锏拿娌刻卣?，或者?chuàng)建新的人臉圖像，這項(xiàng)技術(shù)可被應(yīng)用于社交媒體，如美顏相機(jī)、創(chuàng)作虛擬形象等;也可用于影視行業(yè)制作特效，使演員“返老還童”，甚至“起死回生”，如使《速度和激情7》里的角色沃克“復(fù)活”;還可以廣泛應(yīng)用于藝術(shù)體驗(yàn)、旅游等領(lǐng)域，使參與者能身臨其境的感受更加豐富的視覺(jué)體驗(yàn)。語(yǔ)音合成不僅可以通過(guò)機(jī)器自動(dòng)轉(zhuǎn)化文字和聲音、翻譯等，還可以通過(guò)機(jī)器創(chuàng)作新的語(yǔ)音系統(tǒng)，如虛擬歌手初音未來(lái)、洛天依、艾靈，參與新華社兩會(huì)報(bào)道的3D主播等。除此之外，深度合成技術(shù)開始朝著綜合運(yùn)用、全身合成、數(shù)字虛擬人（digital person）等方面發(fā)展，這些都表明深度合成技術(shù)蘊(yùn)含著巨大的發(fā)展?jié)撃芎颓熬啊?/p>

作為人工智能領(lǐng)域的突破性進(jìn)展成果，深度合成技術(shù)具有高度的仿真性，技術(shù)成果泛在的使用性和快速進(jìn)化性等特點(diǎn)[3]，這些技術(shù)優(yōu)勢(shì)的應(yīng)用中同樣蘊(yùn)含著風(fēng)險(xiǎn)，其不僅是一把雙刃劍，很可能還是一把雙刃不平衡的劍[11]。若使用不當(dāng)或被濫用，深度合成技術(shù)的負(fù)面效應(yīng)將愈發(fā)凸顯。例如，網(wǎng)上廣泛傳播的明星或政客的“換臉”視頻涉及色情、虛假言論等不實(shí)內(nèi)容，不僅對(duì)個(gè)人名譽(yù)造成不良影響，也對(duì)社會(huì)信用和公共秩序產(chǎn)生不良影響。

三、深度合成技術(shù)應(yīng)用的法律風(fēng)險(xiǎn)

風(fēng)險(xiǎn)（risk）不同于危險(xiǎn)（danger），風(fēng)險(xiǎn)是危險(xiǎn)的一種形式，即指“可能發(fā)生的危險(xiǎn)”[12]。烏爾里希·貝克是首次提出風(fēng)險(xiǎn)社會(huì)概念的社會(huì)學(xué)家，其認(rèn)為，當(dāng)代社會(huì)已經(jīng)是一個(gè)風(fēng)險(xiǎn)的社會(huì)，且最大的風(fēng)險(xiǎn)是技術(shù)風(fēng)險(xiǎn)[13]。技術(shù)所導(dǎo)致的風(fēng)險(xiǎn)可大致分為內(nèi)部風(fēng)險(xiǎn)和外部風(fēng)險(xiǎn)，內(nèi)部風(fēng)險(xiǎn)源于認(rèn)知程度的限制和技術(shù)能力的缺失，外部風(fēng)險(xiǎn)則是由內(nèi)部風(fēng)險(xiǎn)外溢對(duì)人類社會(huì)所產(chǎn)生的不良影響[14]。據(jù)此，不當(dāng)使用深度合成技術(shù)所導(dǎo)致的風(fēng)險(xiǎn)可分為內(nèi)部的技術(shù)異化風(fēng)險(xiǎn)，以及外部的信息失真和信息泄露風(fēng)險(xiǎn)。

（一）技術(shù)異化風(fēng)險(xiǎn)

所謂異化（alienation），其意有疏遠(yuǎn)、背離之意，技術(shù)異化的本質(zhì)在于科學(xué)技術(shù)和人文社會(huì)背道而馳，即以經(jīng)濟(jì)利益為目的，脫離了技術(shù)創(chuàng)新和以人為本的初衷，違背了法律法規(guī)、倫理道德的約束，以此獲取不正當(dāng)利益而損害社會(huì)可持續(xù)發(fā)展的現(xiàn)象[15]，最終將導(dǎo)致社會(huì)的異化、人的異化。這是因?yàn)橄噍^于傳統(tǒng)技術(shù)的線性增長(zhǎng)，新技術(shù)賦能社會(huì)呈現(xiàn)指數(shù)級(jí)發(fā)展，計(jì)算機(jī)構(gòu)成了越來(lái)越復(fù)雜的操作系統(tǒng)，普通群眾難以真正了解系統(tǒng)背后的運(yùn)作原理，反而不得不遵循其操作規(guī)范，當(dāng)技術(shù)出現(xiàn)漏洞或被不當(dāng)利用時(shí)，其破壞性和威脅性將極度放大并反噬社會(huì)，加劇社會(huì)的碎裂化。且隨著新技術(shù)應(yīng)用方式和場(chǎng)景的多樣性組合與變換，其不斷模糊著真實(shí)世界和數(shù)字世界的界限，逐漸影響到人類生活的方方面面，系統(tǒng)網(wǎng)絡(luò)錯(cuò)綜復(fù)雜，蘊(yùn)含著極大的錯(cuò)誤疊加與連鎖反應(yīng)風(fēng)險(xiǎn)。

深度合成技術(shù)具有泛在的使用性，當(dāng)核心技術(shù)攻關(guān)和開源軟件公布后，技術(shù)的普及成本逐漸降低，即使是普通民眾也無(wú)需經(jīng)過(guò)專業(yè)的訓(xùn)練就能較快地掌握操作方法。隨著深度合成技術(shù)在多場(chǎng)景之中的推廣應(yīng)用，技術(shù)異化的風(fēng)險(xiǎn)也愈發(fā)增大，“科學(xué)從原本溫文爾雅、帶領(lǐng)人民走出黑暗時(shí)代的‘賽先生， 變成了帶領(lǐng)人們急速駛?cè)胛磥?lái)世界、力量極其龐大卻又找不到方向的巨型怪獸賽維坦（Seviathan）”[16]，諸如濫用技術(shù)制作虛假視頻和偽造不實(shí)言論侮辱、誹謗、恐嚇?biāo)说壤?，將?duì)個(gè)人權(quán)益、社會(huì)穩(wěn)定、國(guó)家安全構(gòu)成威脅。

（二）信息失真風(fēng)險(xiǎn)

新技術(shù)浪潮下一切皆可數(shù)字化，基于機(jī)器深度學(xué)習(xí)和互聯(lián)網(wǎng)發(fā)展優(yōu)勢(shì)的深度合成技術(shù)更是具有深度擷取大眾數(shù)據(jù)的風(fēng)險(xiǎn)[17]，若再借助網(wǎng)絡(luò)爬蟲技術(shù)2，深度合成科技能夠挖掘和獲取的數(shù)據(jù)將十分可觀。諸如圖像、語(yǔ)音、行為等信息被全方位監(jiān)測(cè)、計(jì)算，人們?cè)诩夹g(shù)面前將“無(wú)所遁形”，現(xiàn)實(shí)社會(huì)與虛擬世界的界限逐漸被打破，形成“透明的個(gè)人與幽暗的數(shù)據(jù)掌控者”[18]之鮮明對(duì)比。

越來(lái)越難跨越的數(shù)字鴻溝把人們劃分為掌握信息技術(shù)的人和無(wú)法獲得信息技術(shù)的人，若那些數(shù)據(jù)掌握者不當(dāng)利用深度合成技術(shù)散布謠言、擾亂公眾視聽，此不當(dāng)引導(dǎo)輿論方向的行為是對(duì)公眾意識(shí)的操縱和社會(huì)信任體系的破壞，嚴(yán)重影響公共秩序的穩(wěn)定。這些虛假信息逼真程度之高，往往以十分令人相信的方式呈現(xiàn)給社會(huì)公眾，盡管人們也會(huì)忽略一部分與他們認(rèn)知不符的謠言和緋聞，但當(dāng)此類信息達(dá)到一定數(shù)量時(shí)，很難讓人不得不注意并相信其中的內(nèi)容[19]。這更加快了信息由“眼見為實(shí)”向“眼見為虛”的轉(zhuǎn)變，使社會(huì)陷入真相與假象紛繁復(fù)雜、界限模糊的困境之中，造成“真相的終結(jié)”，并繼而進(jìn)入“后真相”（Post-truth）時(shí)代3。若不及時(shí)消除風(fēng)險(xiǎn)，將使人們長(zhǎng)期處于真假難辨的社會(huì)環(huán)境之中，對(duì)所見所聞都產(chǎn)生懷疑和不信任，進(jìn)而沖擊官方媒體、政府機(jī)構(gòu)的公信力，引發(fā)社會(huì)信任危機(jī)，擾亂社會(huì)中原本良好穩(wěn)定的公共秩序[20]。

（三）信息泄露風(fēng)險(xiǎn)

目前，高科技犯罪已成為社會(huì)治理的重要問(wèn)題，濫用深度合成技術(shù)最為直接的風(fēng)險(xiǎn)之一是信息的過(guò)度搜集和泄露，蘊(yùn)含著極大的安全隱患。

以深度合成技術(shù)為代表的人工智能科技以數(shù)據(jù)搜集和計(jì)算為運(yùn)行基礎(chǔ)，其中又以個(gè)人信息為最有價(jià)值的數(shù)據(jù)資源，且個(gè)人信息是一項(xiàng)包含精神權(quán)利和財(cái)產(chǎn)利益的綜合性新型權(quán)利，保障個(gè)人信息安全就是保護(hù)個(gè)人權(quán)利、維護(hù)社會(huì)穩(wěn)定的前提，其重要性不可小覷。在信息化時(shí)代下，個(gè)人信息已深度卷入技術(shù)風(fēng)險(xiǎn)之中，新技術(shù)把社會(huì)上各個(gè)領(lǐng)域的信息予以數(shù)據(jù)化和可視化，并通過(guò)數(shù)據(jù)畫像進(jìn)行精準(zhǔn)營(yíng)銷和信息投放，具有巨大的財(cái)富價(jià)值，一旦信息數(shù)據(jù)泄露，將在整個(gè)網(wǎng)絡(luò)系統(tǒng)曝光和擴(kuò)散，所有信息都存在被輕易獲取的風(fēng)險(xiǎn)[21]。同時(shí)，對(duì)于臉部、視網(wǎng)膜等包含個(gè)人生物特征的生物識(shí)別信息也是深度合成技術(shù)極易侵犯的對(duì)象。這類信息具有防偽、私密、便攜、難遺失等特征，并具有唯一對(duì)應(yīng)性和不可更改性，相較于其他類型的個(gè)人信息而言更具敏感性，對(duì)其收集、使用和存儲(chǔ)的安全要求更高，一旦發(fā)布將很難被消除或修改[22]。而深度合成技術(shù)恰恰是利用生物特征予以數(shù)據(jù)化處理的運(yùn)作模式，其通過(guò)四通八達(dá)的網(wǎng)絡(luò)線路廣泛搜集擬合成對(duì)象的臉部神態(tài)、聲音強(qiáng)調(diào)等個(gè)性化信息，并存入數(shù)據(jù)庫(kù)中，若出現(xiàn)技術(shù)漏洞被黑客入侵竊取，或被技術(shù)使用者不當(dāng)利用，大量的生物識(shí)別信息將面臨被泄露和濫用的風(fēng)險(xiǎn)，嚴(yán)重威脅個(gè)人安全和社會(huì)穩(wěn)定。

四、深度合成技術(shù)應(yīng)用的協(xié)同規(guī)制

根據(jù)技術(shù)社會(huì)建構(gòu)理論，分析新技術(shù)所帶來(lái)的影響時(shí)應(yīng)當(dāng)尋求其有益途徑，遏制其消極方面，并著眼于其潛在的正面應(yīng)用和有效的監(jiān)管方式[23]。據(jù)此，為了防止技術(shù)被利益驅(qū)動(dòng)而破壞社會(huì)秩序，應(yīng)當(dāng)積極尋求規(guī)制技術(shù)的方法和出路。美國(guó)是最先對(duì)人工智能技術(shù)作出回應(yīng)的國(guó)家，其主要從平臺(tái)規(guī)范、技術(shù)對(duì)抗和立法監(jiān)管三個(gè)方面進(jìn)行規(guī)制[24]，歐盟則制定了一系列的條例和方案將深度合成技術(shù)納入到規(guī)制框架之中。也有學(xué)者提出以“R.E.A.L.”模式規(guī)范深度合成技術(shù)的應(yīng)用，即記錄原始內(nèi)容以確保內(nèi)容的真實(shí)性（Record original content to assure deniability）、提前曝光深度合成內(nèi)容（Expose deepfakes early）、提倡法律的保護(hù)作用（Advocate for legal protection）、使用信用機(jī)制調(diào)節(jié)（Leverage trust）[25]。綜合已有研究，本文擬從技術(shù)、倫理、法律三個(gè)層面尋求深度合成技術(shù)的規(guī)制路徑。

（一）以技術(shù)規(guī)制技術(shù)

技術(shù)作為社會(huì)規(guī)范的一種形式，與道德、習(xí)慣、紀(jì)律、法律互為補(bǔ)充，共同規(guī)制人們的社會(huì)行為。技術(shù)規(guī)制的優(yōu)勢(shì)在于其能夠更加直接、準(zhǔn)確、高效、經(jīng)濟(jì)地發(fā)揮規(guī)范和調(diào)節(jié)作用，它不僅可以為人們樹立相應(yīng)的行為準(zhǔn)則，還可以使人們不得不依據(jù)該準(zhǔn)則行事，更直接地實(shí)現(xiàn)規(guī)范的目的。正因如此，人們對(duì)技術(shù)規(guī)范的需求甚至?xí)^(guò)法律規(guī)范，且技術(shù)規(guī)范的影響力可以打破時(shí)間和空間的束縛，不受國(guó)界限制，這對(duì)于網(wǎng)絡(luò)環(huán)境下人們尋求維權(quán)之道尤具有吸引力[26]。對(duì)于新技術(shù)所帶來(lái)的問(wèn)題，需要通過(guò)發(fā)展新技術(shù)加以解決，即通過(guò)技術(shù)解決技術(shù)所來(lái)的問(wèn)題。

深度合成技術(shù)呈高速發(fā)展的趨勢(shì)，相應(yīng)的識(shí)別和破解技術(shù)必須及時(shí)跟進(jìn)甚至是超越深度合成技術(shù)的發(fā)展速度，才能及時(shí)防范因技術(shù)濫用所引發(fā)的風(fēng)險(xiǎn)。對(duì)此，布法羅大學(xué)人工智能研究所所長(zhǎng)大衛(wèi)·德曼將這場(chǎng)技術(shù)的競(jìng)爭(zhēng)比喻成“貓抓老鼠的游戲”[27]。目前，對(duì)深度合成技術(shù)的規(guī)制主要集中在溯源防偽和反向破解兩項(xiàng)技術(shù)：前者是對(duì)原始視頻添加“數(shù)字水印”，從創(chuàng)作源頭保證視頻的真實(shí)性，以清晰地辨識(shí)視頻的真假;后者是針對(duì)深度合成技術(shù)含量高的視頻和圖像進(jìn)行代碼破解，撕開技術(shù)層面的“面紗”以揭露偽造視頻。

在溯源防偽技術(shù)上，主要是區(qū)塊鏈技術(shù)應(yīng)用，即運(yùn)用數(shù)據(jù)加密、時(shí)間戳、分布式共識(shí)和經(jīng)濟(jì)激勵(lì)等手段，在節(jié)點(diǎn)無(wú)需互相信任的分布式系統(tǒng)中實(shí)現(xiàn)去中心化信用的點(diǎn)對(duì)點(diǎn)交易與協(xié)作[28]。防篡改記錄、數(shù)據(jù)編輯日志等都是可以公開查詢的，有效保證了用戶身份信息和網(wǎng)絡(luò)行為的真實(shí)性和不可篡改性，使得任何偽造數(shù)據(jù)的行為都暴露無(wú)遺，區(qū)塊鏈技術(shù)在數(shù)據(jù)資產(chǎn)的真實(shí)性和原始性保護(hù)方面發(fā)揮了重要作用[29]。在國(guó)外已有公司開始借助區(qū)塊鏈技術(shù)為原著的照片、音頻、視頻等添加時(shí)間戳等“數(shù)字水印”，在分布式賬本上形成永久的元數(shù)據(jù)記錄[30]。這類似于版權(quán)領(lǐng)域中的技術(shù)保護(hù)措施，版權(quán)人可以運(yùn)用特殊的印刷方式和技術(shù)保證正版版權(quán)作品的質(zhì)量，使人們不得不遵守版權(quán)人設(shè)定的消費(fèi)正版版權(quán)作品的規(guī)則，從而防止盜版、偽造，提高正品的銷售額，減少了大規(guī)模的版權(quán)侵權(quán)現(xiàn)象[26]。在關(guān)于深度合成技術(shù)方面的法律法規(guī)尚未健全的情況下，通過(guò)溯源防偽技術(shù)添加“數(shù)字水印”的方式可以保護(hù)原版照片、音頻、視頻等媒體不被輕易修改，即使被用于制作虛假視頻，也可以在新視頻中顯示“數(shù)字水印”標(biāo)識(shí)，從而提醒觀看者注意辨別視頻的真假，防止不法分子制作和散布不實(shí)信息。

在反向破解技術(shù)上，國(guó)外已開展多項(xiàng)先進(jìn)技術(shù)的研發(fā)。如美國(guó)加州大學(xué)伯克利分校和南加州大學(xué)合作研發(fā)可以識(shí)別生物標(biāo)簽的人工智能系統(tǒng)[31]，甚至還有研發(fā)人員能通過(guò)血液進(jìn)入皮膚時(shí)的細(xì)微變化來(lái)識(shí)別視頻中人物是否被深度合成技術(shù)進(jìn)行了篡改[32]。2020年9月2日，微軟公司還推出一款新視頻認(rèn)證工具，通過(guò)檢測(cè)合成內(nèi)容的混合邊界，以及人眼無(wú)法看出來(lái)的微妙褪色或灰度元素，從而識(shí)別利用深度合成技術(shù)所制作的虛假視頻[33]。通過(guò)提升反向破解技術(shù)，能為人們識(shí)別相關(guān)作品是否為深度合成所做提供科學(xué)的鑒別手段。

（二）以商業(yè)倫理治理技術(shù)

商業(yè)倫理是提供判斷主體行為是否合乎道德與真理的一種規(guī)則、標(biāo)準(zhǔn) 、規(guī)范或原則[34]。其本身雖不具有法律意義上的強(qiáng)制性， 但有道德上的導(dǎo)向性和自我約束性[35]。當(dāng)前，我國(guó)人工智能企業(yè)的現(xiàn)狀是各企業(yè)的發(fā)展水平和進(jìn)度參差不齊，導(dǎo)致諸多行業(yè)亂象，原因之一便是缺乏商業(yè)倫理的規(guī)范與引導(dǎo)。

商業(yè)倫理規(guī)范就是按照符合道德的標(biāo)準(zhǔn)和規(guī)則進(jìn)行行業(yè)自律。行業(yè)自律是一種重要的自主治理形式，能夠構(gòu)建良性的行業(yè)合作秩序、促進(jìn)行業(yè)健康發(fā)展，是風(fēng)險(xiǎn)治理機(jī)制的重要手段[36]。一方面，行業(yè)內(nèi)部可以在國(guó)家立法基礎(chǔ)上，結(jié)合本行業(yè)自身發(fā)展特點(diǎn)制定更為清晰適用的準(zhǔn)則規(guī)——形成統(tǒng)一的商業(yè)倫理;另一方面，還能有效緩解技術(shù)過(guò)快發(fā)展而引起的立法供給不足問(wèn)題，為后續(xù)立法提供可參考的經(jīng)驗(yàn)，避免盲目和超前立法扼殺技術(shù)創(chuàng)新的活力[37]。在人工智能飛速發(fā)展的勢(shì)頭下，為消除技術(shù)異化可能對(duì)人類造成的風(fēng)險(xiǎn)，科學(xué)技術(shù)研發(fā)者必須及時(shí)對(duì)價(jià)值訴求、道德期望和安全滿足作出回應(yīng)，否則將會(huì)導(dǎo)致行業(yè)失范的危機(jī)。為了更好地建立行業(yè)自律體系，商業(yè)倫理不可缺位。通過(guò)商業(yè)倫理，企業(yè)之間可以建立信任關(guān)系，降低交易成本，樹立良好形象，獲得長(zhǎng)期績(jī)效等。且隨著全球經(jīng)濟(jì)市場(chǎng)競(jìng)爭(zhēng)的愈演愈烈，商業(yè)倫理在原有的價(jià)值評(píng)判基礎(chǔ)外，添加了關(guān)于企業(yè)如何更有效地實(shí)施市場(chǎng)行為的引導(dǎo)要素，并從利益相關(guān)者視角出發(fā)，有助于構(gòu)建多元化商業(yè)倫理系統(tǒng)，以加強(qiáng)企業(yè)的社會(huì)責(zé)任感[38]。

面對(duì)日新月異的人工智能技術(shù)發(fā)展，相對(duì)于政府機(jī)構(gòu)的后續(xù)監(jiān)管而言，企業(yè)處于獲取行業(yè)發(fā)展最新動(dòng)態(tài)和解決新技術(shù)復(fù)雜多變問(wèn)題的最前沿，因此有關(guān)行業(yè)協(xié)會(huì)或組織聯(lián)盟通過(guò)確立自律規(guī)范實(shí)現(xiàn)對(duì)內(nèi)部成員的管理和約束，將更有利于引導(dǎo)行業(yè)的正向發(fā)展，從而實(shí)現(xiàn)與外部的國(guó)家強(qiáng)制監(jiān)管的良性互動(dòng)和補(bǔ)充。以英國(guó)的行業(yè)自律模式為例，該國(guó)的行業(yè)組織包括網(wǎng)絡(luò)觀察基金會(huì)（IWF）、互聯(lián)網(wǎng)服務(wù)提供商協(xié)會(huì)（ISPA）、移動(dòng)寬帶集團(tuán)（MBG）等，對(duì)入會(huì)要求、行業(yè)競(jìng)爭(zhēng)、非法言論和虛假信息等制定了詳細(xì)的互聯(lián)網(wǎng)自律業(yè)務(wù)守則。而作為全球最大的人工智能行業(yè)組織——人工智能伙伴關(guān)系聯(lián)盟（Partnership on? AI，簡(jiǎn)稱PAI聯(lián)盟）是一個(gè)由美國(guó)企業(yè)發(fā)起的非營(yíng)利性聯(lián)盟，其成員包含Google、Facebook、Amazon、IBM等企業(yè)，該聯(lián)盟在匯聚全球先進(jìn)技術(shù)力量促進(jìn)人工智能的發(fā)展、防止人工智能技術(shù)濫用、完善人工智能道德倫理等方面都對(duì)世界IT行業(yè)作出了巨大的貢獻(xiàn)。同時(shí)，發(fā)揮行業(yè)領(lǐng)軍企業(yè)的帶頭作用亦有助于引領(lǐng)整個(gè)行業(yè)良性發(fā)展。如Twitter公司發(fā)布首個(gè)反Deepfake策略草案、Google公司發(fā)布的《谷歌AI的原則》、國(guó)內(nèi)騰訊公司提倡的“科技向善”理念等都為行業(yè)遵守技術(shù)倫理起到了表率作用。

（三）以法律規(guī)范技術(shù)

法律是最具有明確性、確定性和國(guó)家強(qiáng)制性的社會(huì)規(guī)范，其通過(guò)指引、評(píng)價(jià)、教育等作用以實(shí)現(xiàn)調(diào)整社會(huì)關(guān)系和維護(hù)秩序的目的[39]，這些特征使法律成為風(fēng)險(xiǎn)治理機(jī)制的重要手段，立法者必須重視控制風(fēng)險(xiǎn)功能的法治化[40]。具體而言，深度合成技術(shù)在法律層面上的規(guī)制可以從技術(shù)的使用邊界、技術(shù)的使用程序、濫用技術(shù)的法律后果三方面予以規(guī)范。

在技術(shù)的使用邊界上，明確應(yīng)當(dāng)予以禁止的不當(dāng)使用深度合成技術(shù)的行為。如美國(guó)為應(yīng)對(duì)深度合成技術(shù)帶來(lái)的挑戰(zhàn)，美國(guó)聯(lián)邦與各州共計(jì)提出了12項(xiàng)立法法案對(duì)該技術(shù)予以規(guī)制[41]，其中尤以弗吉尼亞州、德克薩斯州、加利福尼亞州為代表的州級(jí)立法最為嚴(yán)格。例如，弗吉尼亞州將未經(jīng)授權(quán)而傳播利用深度合成技術(shù)制作的圖像和視頻的行為定為犯罪，加利福尼亞州禁止深度合成技術(shù)用于色情傳播和政治助選[24]。而在技術(shù)發(fā)達(dá)的歐洲，歐盟的《一般數(shù)據(jù)保護(hù)條例》被稱為“史上最嚴(yán)數(shù)據(jù)保護(hù)條例”，該條例對(duì)深度合成技術(shù)使用邊界作出了十分嚴(yán)苛的規(guī)定，如第9條要求數(shù)據(jù)控制者對(duì)涉及數(shù)據(jù)主體“識(shí)別自然人的生物性數(shù)據(jù)”都應(yīng)當(dāng)禁止使用[42]。在我國(guó)立法中，如《中華人民共和國(guó)民法典》（以下簡(jiǎn)稱《民法典》）第1019條，即是針對(duì)新技術(shù)侵害肖像權(quán)所制定的保護(hù)措施[43]，第1024條也規(guī)定了任何組織或者個(gè)人不得以侮辱、誹謗等方式侵害他人的名譽(yù)權(quán)。

在技術(shù)的使用程序上，制定能夠涵蓋各個(gè)應(yīng)用環(huán)節(jié)的使用規(guī)范。如2020年3月12日，美國(guó)華盛頓州出臺(tái)的首部人臉識(shí)別法案《SB 6280法案》規(guī)定了嚴(yán)格的責(zé)任報(bào)告制度，主要是對(duì)政府機(jī)關(guān)使用人臉識(shí)別服務(wù)的行為予以規(guī)范，防止公權(quán)力對(duì)人臉識(shí)別技術(shù)的濫用[44]。歐盟則更強(qiáng)調(diào)自上而下的監(jiān)管，對(duì)深度合成技術(shù)予以統(tǒng)一管理。歐盟理事會(huì)于2018年6月28日通過(guò)的《歐盟反虛假信息行為守則》將利用深度合成技術(shù)制作的不實(shí)內(nèi)容納入虛假信息管理范疇，增加有關(guān)抵御虛假信息的保護(hù)措施[45]。我國(guó)《民法典》第1035條規(guī)定，對(duì)個(gè)人信息處理應(yīng)當(dāng)征得信息主體的同意，需明示處理的規(guī)則、目的、方式和范圍，且遵循合法、正當(dāng)、必要原則。2021年6月10日通過(guò)的《中華人民共和國(guó)數(shù)據(jù)安全法》（以下簡(jiǎn)稱《數(shù)據(jù)安全法》）第三章“數(shù)據(jù)安全制度”中明確提出了國(guó)家要對(duì)數(shù)據(jù)進(jìn)行分級(jí)分類的保護(hù)，制定數(shù)據(jù)安全風(fēng)險(xiǎn)評(píng)估、報(bào)告、信息共享和監(jiān)測(cè)預(yù)警機(jī)制以應(yīng)對(duì)突發(fā)性數(shù)據(jù)安全問(wèn)題;第四章“數(shù)據(jù)安全保護(hù)義務(wù)”強(qiáng)調(diào)從事數(shù)據(jù)處理的中介機(jī)構(gòu)應(yīng)要求數(shù)據(jù)提供者說(shuō)明數(shù)據(jù)來(lái)源，并負(fù)有審核數(shù)據(jù)交易雙方身份并留存信息和記錄的義務(wù)。這些都對(duì)深度合成技術(shù)的使用程序作出了明確的指引。

同時(shí)，立法還應(yīng)明確濫用深度合成技術(shù)的法律后果，懲戒不法分子違法使用技術(shù)的行為，提高技術(shù)濫用成本。如美國(guó)弗吉尼亞州對(duì)濫用深度合成技術(shù)的犯罪行為最高可判處一年監(jiān)禁和2 500美元罰款[24]。歐盟則規(guī)定對(duì)嚴(yán)重違反本條例條款的施加最高10 000 000至20 000 000歐元的行政罰款，對(duì)企業(yè)最高可處以其上一年度全球范圍內(nèi)營(yíng)業(yè)額的2%至4%的罰款[42]。我國(guó)《民法典》第995條至第1000條則規(guī)定，受害人有權(quán)請(qǐng)求侵權(quán)人承擔(dān)停止侵害、消除影響、恢復(fù)名譽(yù)、賠禮道歉、精神損害賠償?shù)蓉?zé)任，同時(shí)還可以向法院申請(qǐng)人格權(quán)行為禁令，據(jù)此可以及時(shí)制止濫用深度合成技術(shù)對(duì)肖像權(quán)、名譽(yù)權(quán)、隱私權(quán)等人格權(quán)的侵犯?！稊?shù)據(jù)安全法》第六章“法律責(zé)任”更是加大了對(duì)侵權(quán)行為的懲罰力度，如對(duì)違法開展數(shù)據(jù)活動(dòng)的個(gè)人、組織予以警告和罰款，同時(shí)追究服務(wù)機(jī)構(gòu)和直接負(fù)責(zé)人的責(zé)任。通過(guò)濫用深度合成技術(shù)危害國(guó)家安全、公共利益的，可以依照《刑法》以誹謗罪、敲詐勒索罪、詐騙罪、傳播淫穢物品罪、煽動(dòng)實(shí)施恐怖活動(dòng)罪等罪名予以懲罰。

整體而言，我國(guó)關(guān)于深度合成技術(shù)的法律法規(guī)零散于各部門法之中，其實(shí)際操作性有待加強(qiáng)[46]。面對(duì)日新月異的深度合成等人工智能技術(shù)的發(fā)展，法律作為最后一道安全防線需不斷更新與完善，以及時(shí)應(yīng)對(duì)新技術(shù)帶來(lái)的挑戰(zhàn)。

結(jié)? 語(yǔ)

深度合成技術(shù)具有高度仿真性、泛在使用性和快速進(jìn)化性的特點(diǎn)，該技術(shù)在促進(jìn)社會(huì)多元化需求的同時(shí)，也具有一定的安全隱患，其潛在的風(fēng)險(xiǎn)不僅在于“合成”，更在于“深度”，尤其是智能化水平已遠(yuǎn)遠(yuǎn)超出一般的視頻、音頻處理技術(shù)。隨著技術(shù)的普及和推廣，技術(shù)濫用現(xiàn)象也愈演愈烈，極可能引發(fā)技術(shù)異化、信息失真、信息泄露的風(fēng)險(xiǎn)生成。

在新技術(shù)治理上，不應(yīng)以其風(fēng)險(xiǎn)而一概否認(rèn)深度合成技術(shù)存在的合理性和發(fā)展的有益性，相反，應(yīng)當(dāng)積極尋求正向的解決方案和規(guī)范機(jī)制。在行業(yè)規(guī)范中，行業(yè)倫理不可缺位，倫理引導(dǎo)是行業(yè)自律的重要指向標(biāo)。而法律是規(guī)制技術(shù)的必要手段，在堅(jiān)持安全合法的監(jiān)管底線，避免技術(shù)的不當(dāng)利用給公民、社會(huì)和國(guó)家造成不可控威脅的同時(shí)，亦要避免法律規(guī)制過(guò)嚴(yán)而可能阻礙技術(shù)發(fā)展。因而，應(yīng)堅(jiān)持包容審慎的立法和監(jiān)管原則，在合理的范圍內(nèi)包容和鼓勵(lì)技術(shù)創(chuàng)新，為技術(shù)發(fā)展創(chuàng)造良好的合適的制度環(huán)境，避免因矯枉過(guò)正而挫傷市場(chǎng)主體技術(shù)創(chuàng)新積極性，影響技術(shù)的社會(huì)經(jīng)濟(jì)價(jià)值發(fā)揮。對(duì)此，可通過(guò)多方參與、風(fēng)險(xiǎn)評(píng)估、成本效益分析等機(jī)制，確保立法和監(jiān)管的科學(xué)化、精細(xì)化、靈活化，并可考慮設(shè)立“安全港”規(guī)則或者監(jiān)管例外來(lái)鼓勵(lì)人工智能的應(yīng)用。當(dāng)然，立法并非唯一有效的方式，法律具有滯后性，難以跟上技術(shù)發(fā)展的步伐，尤其是對(duì)于仍在快速發(fā)展的深度合成技術(shù)而言更是如此。因此，需要借助溯源防偽、反向破解等技術(shù)措施，并通過(guò)行業(yè)內(nèi)的公約、標(biāo)準(zhǔn)、最佳實(shí)踐、倫理指南等行業(yè)自律措施，以及提升公眾數(shù)字素養(yǎng)等，實(shí)現(xiàn)對(duì)深度合成技術(shù)應(yīng)用風(fēng)險(xiǎn)的多維治理。

參考文獻(xiàn)：

[1] 騰訊研究院. 2020騰訊人工智能白皮書[R/OL].（2020-08-01）[2020-08-10] https：//tisi.org/.

[2] 曹建峰. AI生成內(nèi)容發(fā)展報(bào)告2020——“深度合成”（deep synthesis）商業(yè)化元年[R/OL]. （2020-05-11）[2020-06-20].

[3] 王祿生. 論“深度偽造”智能技術(shù)的一體化規(guī)制 ——從“楊冪換臉視頻”談起[J]. 東方法學(xué)，2019，（10）：1-14.

[4] 曹建峰，方齡曼. 人工智能時(shí)代下的“煩惱”：美國(guó)國(guó)會(huì)聽證會(huì)探討“深度偽造（deepfake）”風(fēng)險(xiǎn)及對(duì)策[EB/OL].（2019-07-02）[2019-12-21].

[5] 張濤. 后真相時(shí)代深度偽造的法律風(fēng)險(xiǎn)及其規(guī)制[J]. 電子政務(wù)，2020（04）：91-101.

[6] 莊嘉. 涉罪前瞻：AI解鎖暗黑應(yīng)用技能包[J]. 檢察風(fēng)云，2019（11）：11-13.

[7] Samantha Cole. AI-Assisted Fake Porn Is Here and Were All Fucked， MOTHERBOARD[EB/OL]. （2017-11-11）[2020-05-02]https：//motherboard.vice.com/en_us/article/gydydm/gal-gadot-fake-ai-porn.

[8] Goodfellow I J， Pouget-Abadie J， Mirza M， et al. Generative Adversarial Networks[J]. Advances in Neural Information Processing Systems， 2014，3：2672-2680.

[9] S.Y Lee， Y.K Ham， et al. Recognition of human front faces using knowledge- based feature extraction and neurofuzzy algorithm[J] .Pattern Recognition ， 1996 ， 29（11）：1863-1876.

[10] 暴雨軒，蘆天亮，杜彥輝. 深度偽造視頻檢測(cè)技術(shù)綜述[J]. 計(jì)算機(jī)科學(xué)，2020（9）：283-292.

[11] 肖濱. 信息技術(shù)在國(guó)家治理中的雙面性與非均衡性[J]. 學(xué)術(shù)研究，2009（11）： 31-36.

[12] 中國(guó)社會(huì)科學(xué)院語(yǔ)言研究所詞典編輯室編. 現(xiàn)代漢語(yǔ)詞典[M]. 北京：商務(wù)印書館，1980：325.

[13] [德]烏爾里希·貝克 著，王武龍 編譯. 從工業(yè)社會(huì)到風(fēng)險(xiǎn)社會(huì)（上篇）——關(guān)于人類生存、社會(huì)結(jié)構(gòu)和生態(tài)啟蒙等問(wèn)題的思考[J]. 馬克思主義與現(xiàn)實(shí)，2003（3）：26-45.

[14] 張樂(lè). 新興技術(shù)風(fēng)險(xiǎn)的挑戰(zhàn)及其適應(yīng)性治理[J]. 上海行政學(xué)院學(xué)報(bào)，2021（1）： 13-27.

[15] 陳仕偉. 大數(shù)據(jù)技術(shù)異化的倫理治理[J]. 自然辯證法研究，2016（1）： 46-50.

[16] 高奇琦. 人工智能：馴服賽維坦[M]. 上海：上海交通大學(xué)出版社，2018： 280-281.

[17] 蔡士林. 深度偽造”的技術(shù)邏輯與法律變革[J]. 政法論叢，2020（6）：131-140.

[18] 鄭戈. 在鼓勵(lì)創(chuàng)新與保護(hù)人權(quán)之間——法律如何回應(yīng)大數(shù)據(jù)技術(shù)革新的挑戰(zhàn)[J]. 探索與爭(zhēng)鳴，2016（7）： 79-85.

[19] Chesney， Danielle Keats Citron.Deep Fakes and the Challenge for Privacy，F(xiàn)ree Expression，and National Security[J].21st Century-Style Truth Decay，2019：882-891.

[20] Chesney R，Citron D K. Deep fakes： A looming challenge for privacy， democracy， and national security[EB/OL]. 107 California Law Review （2019，F(xiàn)orthcoming）; U of Texas Law， Public Law Research Paper No. 692; U of Maryland Legal Studies Research Paper No. 2018-21. （2019-11-25）[2020-6-02]. https：//ssrn.com/abstract=3213954.

[21] 周佑勇. 論智能時(shí)代的技術(shù)邏輯與法律變革[J]. 東南大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2019（5）： 61-75.

[22] 趙淑鈺. 生物識(shí)別信息法律規(guī)制的國(guó)際經(jīng)驗(yàn)與啟示[J]. 網(wǎng)絡(luò)空間戰(zhàn)略論壇，2019（11）：37-43.

[23] Andrei O. J. Kwok & Sharon G. M. Koh. Deepfake： a social construction of technology perspective[J]. Routledge Taylor&Francis Group.（Feb. 28， 2020）.

[24] 石婧，常禹雨，祝夢(mèng)迪. 人工智能“深度偽造”的治理模式比較研究[J]. 電子政務(wù)，2020（5）：69-79.

[25] Jan Kietzmann ， Linda W. Lee ， Ian P. McCarthy ，Tim C. Kietzmann，Deepfakes： Trick or treat？ [J].Business Horizons，2020：135-146.

[26] 羅莉. 作為社會(huì)規(guī)范的技術(shù)與法律的協(xié)調(diào)——中國(guó)反技術(shù)規(guī)避規(guī)則檢討[J]. 中國(guó)社會(huì)科學(xué)，2006（1）：72-84.

[27] 曹建峰，方齡曼. “深度偽造”的風(fēng)險(xiǎn)及對(duì)策研究[J]. 信息安全與通信保密，2020（2）：89-97.

[28] 袁勇，王飛躍. 區(qū)塊鏈技術(shù)發(fā)展現(xiàn)狀與展望[J]. 自動(dòng)化學(xué)報(bào)，2016（4）：481-494.

[29] 孟雪，劉宗媛，李倩. 深度偽造技術(shù)給網(wǎng)絡(luò)可信身份管理帶來(lái)的挑戰(zhàn)與對(duì)策[J]. 網(wǎng)絡(luò)空間安全，2020（6）：75-79.

[30] Robert Chesney ，Danielle Citron. Deepfakes and the New Disinformation War： The Coming Age of Post-Truth Geopolitics[J].98 Foreign Aff.147，154 （2019）.

[31] Agarwal S， Farid H， Gu Y， et al. Protecting world leaders against deep fakes[C]. Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition Workshops， 2019： 38-45.

[32] 馮衛(wèi)東. “換臉”也逃不過(guò)數(shù)字真探法眼[N]. 科技日?qǐng)?bào)，2018-8-10（2）.

[33] 站長(zhǎng)之家. 微軟推出新視頻認(rèn)證工具，可識(shí)別AI深度偽造視頻[EB/OL].（2020-09-02）[2020-09-13] https：//www.chinaz.com/2020/0902/1179414.shtml.

[34] Lewis， P.V. Defining ‘business ethics： Like nailing jello to a wall[J]. Journal of Business Ethics， 1985（4）： 377-383.

[35] 黎來(lái)芳. 商業(yè)倫理 誠(chéng)信義務(wù)與不道德控制——鴻儀系“掏空”上市公司的案例研究[J]. 會(huì)計(jì)研究，2005（11）：8-14.

[36] 鄧小兵，劉曉思. 中英網(wǎng)絡(luò)治理的行業(yè)自律比較研究[J]. 甘肅行政學(xué)院學(xué)報(bào)，2017（5）：114-125.

[37] 張新寶. 從隱私到個(gè)人信息： 利益再衡量的理論與制度安排[J]. 中國(guó)法學(xué)，2015（3）：38-59.

[38] 莫申江，王重鳴. 國(guó)外商業(yè)倫理研究回顧與展望[J]. 外國(guó)經(jīng)濟(jì)與管理，2009（7）： 16-22.

[39] 張文顯.法理學(xué)（第四版）[M].北京：高等教育出版社，2011： 47.

[40] 吳漢東. 人工智能時(shí)代的制度安排與法律規(guī)制[J]. 西北政法大學(xué)學(xué)報(bào)，2017（5）：128-136.

[41] Deepfake legislation： A nationwide survey — State and federal lawmakers consider legislation to regulate manipulated media[EB/OL]. （2019-09-25）[2019-11-19]. https：//www.jdsupra.com/legalnews/deepfakelegislation-a-nationwide-86809/.

[42] 丁曉東 譯.《一般數(shù)據(jù)保護(hù)條例》[EB/OL].（2018-05-23）[2020-06-02]https：//www.tisi.org/5029.

[43] 楊立新. 人格權(quán)編草案二審稿的最新進(jìn)展及存在的問(wèn)題[J]. 河南社會(huì)科學(xué)，2019（7）：26-35.

[44] 網(wǎng)絡(luò)法專報(bào)編委會(huì). 騰訊網(wǎng)絡(luò)法專報(bào)2020年4月刊.[EB/OL].（2020-06-04）[2020-09-13] https：//www.tisi.org/14557.

[45] 中國(guó)信息化百人會(huì)數(shù)據(jù)治理委員會(huì) 譯.《歐盟反虛假信息行為守則》.[EB/OL].（2019-02-16）[2020-09-13]https：//www.sohu.com/a/295183284_470089.

[46] 文銘，劉博. 人臉識(shí)別技術(shù)應(yīng)用中的法律規(guī)制研究[J]. 科技與法律，2020（4）：77-85.

The Legal Risk and Co-regulation of the Application of Deep Synthesis Technology

Wan Zhiqian， Chen Chen

（College of Humanities & Law， Huazhong Agricultural University， Wuhan 430070， China）

Abstract： Deep synthesis is a disruptive technology breakthrough in the field of artificial intelligence， which not only meets people's diverse needs， but also leads to some risks， including technology alienation， information distortion and information leakage. To guard against these risks arising from the abuse of deep synthesis， it is necessary to take diversified governance. At the level of technical governance， we need to develop security trace ability and reverse decryption technology， and exert the standard function of technology. At the level of industry governance， we need to strengthen the guiding role of business ethics and the coordination ability of industrial organizations by self-discipline. At the level of legal governance， according to some clauses of the Civil Code and combining with Chinese reality and foreign legislative experience， it is better to perfect existing legal system to regulate deep synthesis， including clarifying technology use boundary， procedure as well as the legal consequence of technology abuse.

Key words： artificial intelligence; deep synthesis; face recognition; technology alienation; business ethics; the Civil Code