林愛(ài)珺,林倩敏

(暨南大學(xué)新聞與傳播學(xué)院,廣東廣州510632)

2019年，自“ZAO”軟件應(yīng)用AI換臉技術(shù)成為網(wǎng)絡(luò)輿論焦點(diǎn)后，該技術(shù)也因此進(jìn)入大眾視野。如今，AI換臉等深度偽造技術(shù)已經(jīng)覆蓋了娛樂(lè)、媒體、政治等多個(gè)領(lǐng)域。AI換臉的虛假新聞也帶來(lái)了各種新聞倫理風(fēng)險(xiǎn)，嚴(yán)重?cái)_亂了輿論生態(tài)，沖擊媒體公信力。2022年11月25日，國(guó)家互聯(lián)網(wǎng)信息辦公室正式公布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(以下簡(jiǎn)稱《規(guī)定》)，并于2023年1月10日起開(kāi)始施行?！兑?guī)定》對(duì)于深度合成技術(shù)在互聯(lián)網(wǎng)中的應(yīng)用作出具體說(shuō)明與嚴(yán)格規(guī)定，回應(yīng)并補(bǔ)充了《民法典》及《個(gè)人信息保護(hù)法》中關(guān)于利用信息技術(shù)手段偽造等方式侵害他人權(quán)利及個(gè)人信息保護(hù)的規(guī)定，對(duì)人臉生成、人臉替換、人臉操控、姿態(tài)操控等虛擬人物圖像的開(kāi)發(fā)與應(yīng)用作出了規(guī)定，為AI換臉等深度合成技術(shù)的應(yīng)用厘清底線。

一、AI換臉技術(shù)：人臉圖像的深度偽造

AI換臉技術(shù)(AI face swap)是基于人臉圖像識(shí)別的深度偽造技術(shù)。它源自Photoshop技術(shù)對(duì)人臉圖像進(jìn)行的編輯改造，廣泛應(yīng)用于證件照人臉美化以及人臉圖像視頻制作。后來(lái)，在深度學(xué)習(xí)技術(shù)的支持下，識(shí)別目標(biāo)對(duì)象的面部特征而后利用算法將其“嫁接”到被模仿對(duì)象上的技術(shù)被稱為人臉深度偽造技術(shù)，即AI換臉。

AI換臉技術(shù)首先建立在人臉識(shí)別技術(shù)的基礎(chǔ)之上。人臉識(shí)別技術(shù)是識(shí)別人臉生物特征并以此進(jìn)行匹配和身份識(shí)別的技術(shù)。其通過(guò)掃描人臉圖像或視頻，識(shí)別和偵測(cè)主要器官后形成位置信息(人臉模版)，據(jù)此創(chuàng)建數(shù)據(jù)集并將其與待檢驗(yàn)的人臉圖像相比對(duì)，從而實(shí)現(xiàn)身份識(shí)別與身份驗(yàn)證的目的。[1]偽造人臉的深度學(xué)習(xí)算法普遍使用的是“生成性對(duì)抗網(wǎng)絡(luò)”(Generative Adversarial Network,GAN)和卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)，GAN是一種通過(guò)生成模型和判別模型互相博弈的方法來(lái)學(xué)習(xí)數(shù)據(jù)分布的生成式網(wǎng)絡(luò)，CNN則是一類包含卷積計(jì)算且具有深度結(jié)構(gòu)的前饋神經(jīng)網(wǎng)絡(luò)。[2]

AI換臉技術(shù)是深度偽造技術(shù)最廣泛的應(yīng)用。深度偽造技術(shù)(Deepfake)指基于人工智能尤其是深度學(xué)習(xí)的人像合成技術(shù)，現(xiàn)已發(fā)展為包括人臉圖像及視頻偽造、聲音偽造等深度合成技術(shù)。[3]該技術(shù)因美國(guó)“Deepfake”事件引起廣泛關(guān)注。2017年名為“Deepfake”的Reddit論壇用戶發(fā)布了一段將斯嘉麗·約翰遜等女演員面孔嫁接在色情表演者裸體身上的假視頻，用展示獵奇的淫穢表演賺流量?！癉eepfake”還發(fā)布了一種機(jī)器學(xué)習(xí)算法，并聲稱該算法可以將名人轉(zhuǎn)換成色情視頻里的人物角色，引起了一陣轟動(dòng)，這也意味著AI換臉技術(shù)算法代碼的開(kāi)源。此后，AI換臉幾乎成為一種無(wú)成本且簡(jiǎn)單可及的技術(shù)。在Github社區(qū)中AI換臉項(xiàng)目數(shù)量相當(dāng)多，如Deepface Lab、Openface Wap、Face App等，大部分APP提供一鍵式的換臉操作，增大了技術(shù)濫用的風(fēng)險(xiǎn)。

二、AI換臉技術(shù)侵害個(gè)人信息安全

AI換臉技術(shù)中涉及的人臉信息包括人臉生物特征以及人臉模板，屬于個(gè)人生物識(shí)別信息，具有高度敏感性。在AI換臉的過(guò)程中，對(duì)人臉生物識(shí)別信息的采集、存儲(chǔ)以及使用全鏈條生產(chǎn)模式是該技術(shù)運(yùn)行的底層邏輯，監(jiān)管不力則存在侵害個(gè)人信息安全的風(fēng)險(xiǎn)。

(一)人臉生物識(shí)別信息具有高度敏感性

人臉生物識(shí)別信息屬于生物信息，具有高度敏感性。根據(jù)《通用數(shù)據(jù)保護(hù)條例》第九條規(guī)定，生物信息包括自然人的指紋、聲音、虹膜、臉相、靜脈等生物信息，且均屬于敏感信息，人臉生物識(shí)別信息包括人臉模版，即“臉相”，屬于敏感信息。我國(guó)《個(gè)人信息保護(hù)法》規(guī)定，“個(gè)人敏感信息”指自然人的人格尊嚴(yán)受到侵害或者人身、財(cái)產(chǎn)安全受到危害的個(gè)人信息，包括生物識(shí)別、金融賬戶、行蹤軌跡以及未滿14周歲的未成年人的個(gè)人信息等。人臉生物識(shí)別信息是對(duì)面部特征的識(shí)別信息，即生物識(shí)別信息的一種，也歸屬于“個(gè)人敏感信息”。

人臉生物識(shí)別信息的高度敏感性在于該類信息的唯一特性，一旦采集將很難被消除或修改。“人臉”作為人體的身體器官，具有唯一、不可替代的特性，人臉生物識(shí)別信息通過(guò)掃描人臉而得來(lái)，延續(xù)了真實(shí)人臉的唯一特性。人臉生物識(shí)別信息源于人臉模版的數(shù)據(jù)點(diǎn)集合，如若人臉特征本身沒(méi)有發(fā)生改變，那么人臉生物識(shí)別信息也不會(huì)發(fā)生改變。人臉生物識(shí)別信息以數(shù)據(jù)集的形式存放在虛擬網(wǎng)絡(luò)數(shù)據(jù)庫(kù)中，消除與修改數(shù)據(jù)集需進(jìn)入該網(wǎng)絡(luò)節(jié)點(diǎn)進(jìn)行刪除，如若數(shù)據(jù)集已進(jìn)行運(yùn)輸流轉(zhuǎn)，那么消除數(shù)據(jù)集更是需要經(jīng)由追溯流轉(zhuǎn)源頭或泄露源頭才能查清，流程繁瑣且需耗費(fèi)大量人力物力。

高度敏感性也意味著存在巨大的安全風(fēng)險(xiǎn)。人臉生物識(shí)別信息能夠直接鏈接到其他的敏感個(gè)人信息，一旦該類信息被非法盜取便可能導(dǎo)致其他的深層信息被挖掘與泄露，進(jìn)一步造成銀行卡、社交賬戶的非法盜用，嚴(yán)重威脅公民信息安全與生命財(cái)產(chǎn)安全。2018年某網(wǎng)絡(luò)詐騙團(tuán)伙使用軟件將公民頭像照片制作成3D頭像，并利用非法得來(lái)的公民個(gè)人身份信息注冊(cè)支付寶賬號(hào)，通過(guò)人臉識(shí)別認(rèn)證后詐騙支付寶提供的邀請(qǐng)注冊(cè)新用戶的紅包獎(jiǎng)勵(lì)，從中非法牟利4萬(wàn)元。(1)中國(guó)裁判文書(shū)網(wǎng)《張富、余杭飛、史良浩等侵犯公民個(gè)人信息罪二審刑事裁定書(shū)》。不法分子將人臉照片制作成3D頭像，利用對(duì)人臉生物識(shí)別信息的偵測(cè)原理破解支付寶的人臉識(shí)別技術(shù)，并利用非法獲取的個(gè)人身份信息偽造真實(shí)個(gè)人身份實(shí)施詐騙活動(dòng)。其中人臉生物識(shí)別信息的非法利用是實(shí)施詐騙活動(dòng)的關(guān)鍵一環(huán)，利用人臉生物識(shí)別信息與個(gè)人身份信息結(jié)合偽造虛擬身份ID，進(jìn)而導(dǎo)致他人個(gè)人財(cái)產(chǎn)被盜取。隨著人臉生物識(shí)別信息的應(yīng)用場(chǎng)景日益廣泛，生物信息安全風(fēng)險(xiǎn)也日益增長(zhǎng)。

(二) AI換臉技術(shù)的濫用增大個(gè)人生物信息安全風(fēng)險(xiǎn)

AI換臉技術(shù)的運(yùn)行過(guò)程亦是對(duì)生物識(shí)別信息(敏感信息)的處理應(yīng)用過(guò)程。AI換臉首先需要利用人臉識(shí)別技術(shù)對(duì)人臉圖像進(jìn)行偵測(cè)和識(shí)別，并從中提取核心特征信息，再對(duì)人臉特征進(jìn)行測(cè)量得到人臉模板并以數(shù)據(jù)集形式儲(chǔ)存于數(shù)據(jù)庫(kù)；其次通過(guò)機(jī)器學(xué)習(xí)訓(xùn)練確定人臉變換矩陣，得到人臉替換轉(zhuǎn)換編碼；最后在原有的人臉圖像上進(jìn)行轉(zhuǎn)化，導(dǎo)出“換臉”之后的偽造圖像或視頻?？梢?jiàn)，識(shí)別人臉生物特征以及提取人臉模版是AI換臉技術(shù)運(yùn)行的關(guān)鍵核心。據(jù)《人臉識(shí)別規(guī)定》第一條第三款規(guī)定，人臉識(shí)別中的人臉信息屬于《民法典》第一千零三十四條中規(guī)定的生物識(shí)別信息。因此，在AI換臉技術(shù)運(yùn)行過(guò)程中，對(duì)人臉生物識(shí)別信息的采集、存儲(chǔ)以及使用全鏈條生產(chǎn)模式是該技術(shù)運(yùn)行的底層邏輯，一旦發(fā)生技術(shù)操作失誤或黑客入侵事件則將導(dǎo)致大量的個(gè)人生物識(shí)別信息泄露，存在較大的生物信息安全隱患。

而AI換臉技術(shù)的濫用更加劇了安全風(fēng)險(xiǎn)。AI換臉在當(dāng)下幾乎成為一種無(wú)門檻使用技術(shù)，往往作為一種娛樂(lè)手段與社交媒體音視頻傳播相結(jié)合，實(shí)質(zhì)上是化為奪人眼球的噱頭以捕獲更多流量。2021年，抖音APP上發(fā)起名為性別反轉(zhuǎn)挑戰(zhàn)的話題并提供性別反轉(zhuǎn)的“AI換臉”濾鏡。該濾鏡便是利用AI換臉技術(shù)生成對(duì)應(yīng)的異性人臉圖像，操作十分簡(jiǎn)單快捷，目前該濾鏡的參與量已超過(guò)兩千萬(wàn)次。用戶出于娛樂(lè)休閑的目的，利用AI換臉技術(shù)制作短視頻，并將其上傳至網(wǎng)絡(luò)，但對(duì)于運(yùn)用AI換臉技術(shù)采集自身人臉生物識(shí)別信息的過(guò)程一無(wú)所知，更對(duì)其中生物信息采集及泄露的風(fēng)險(xiǎn)毫無(wú)察覺(jué)。

而當(dāng)下我國(guó)針對(duì)AI換臉技術(shù)處理該類信息的流程仍缺少監(jiān)管。目前我國(guó)有關(guān)AI換臉技術(shù)的法律規(guī)定體現(xiàn)在三處，分別在《民法典》《網(wǎng)絡(luò)生態(tài)治理規(guī)定》及《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》?！毒W(wǎng)絡(luò)生態(tài)治理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》這兩份法律文件的規(guī)定過(guò)于寬泛，而《民法典》則主要體現(xiàn)在第一千零一十九條中“利用信息技術(shù)手段”侵害肖像權(quán)，這就導(dǎo)致其對(duì)AI換臉技術(shù)侵害個(gè)人信息安全的規(guī)制并不能發(fā)揮具有針對(duì)性的遏制作用。另外，《規(guī)定》第十四、十五條規(guī)定，對(duì)于提供具有對(duì)人臉生物識(shí)別信息編輯功能的算法模型等應(yīng)當(dāng)自行開(kāi)展安全評(píng)估，采集人臉生物識(shí)別信息前應(yīng)獲得單獨(dú)同意及加強(qiáng)儲(chǔ)存數(shù)據(jù)集的管理。

在我國(guó)現(xiàn)行法律下，由AI換臉技術(shù)帶來(lái)的個(gè)人生物識(shí)別信息安全威脅仍缺乏有力規(guī)制。應(yīng)當(dāng)加強(qiáng)對(duì)人臉生物識(shí)別信息的保護(hù)，對(duì)人臉生物信息的采集、存儲(chǔ)應(yīng)當(dāng)采取嚴(yán)格的保護(hù)措施，嚴(yán)格限定使用場(chǎng)景，否則存在嚴(yán)重的生物信息安全隱患。

三、AI換臉侵犯肖像權(quán)

《民法典》在第一千零一十八條第二款中第一次明確規(guī)定肖像的概念與具體內(nèi)涵，“肖像是通過(guò)影像、雕塑、繪畫(huà)等方式在一定載體上所反映的特定自然人可以被識(shí)別的外部形象”。一般認(rèn)為，肖像應(yīng)當(dāng)包含自然人“可識(shí)別”的外部形象，即得以在外部形象上與特定自然人之間建立對(duì)應(yīng)聯(lián)系。面部、身影甚至真人表情包等能夠達(dá)到“可識(shí)別”程度的同樣可以作為肖像。

構(gòu)成肖像權(quán)侵權(quán)有兩種途徑：破壞他人肖像完整性，未經(jīng)肖像權(quán)人同意而使用、公開(kāi)他人肖像。破壞他人肖像完整性指的是采取以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人肖像。AI換臉技術(shù)是對(duì)人臉圖像的嫁接與挪移，利用AI換臉技術(shù)偽造甚至丑化、污損，或未經(jīng)他人同意使用其肖像進(jìn)行AI換臉并公開(kāi)都構(gòu)成侵權(quán)。

(一) 利用信息技術(shù)手段偽造他人肖像

《民法典》第一千零一十九條第一款規(guī)定，“任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)”?！袄眯畔⒓夹g(shù)手段偽造”中的“信息技術(shù)”泛指在信息科學(xué)的指導(dǎo)下擴(kuò)展人類信息功能的技術(shù)總和，具有一般性的技術(shù)性和區(qū)別于其他技術(shù)的信息性特征。[4]利用信息技術(shù)性的手段對(duì)他人肖像進(jìn)行“再現(xiàn)”達(dá)到“可識(shí)別”的程度，即是“偽造”他人肖像。AI換臉技術(shù)通過(guò)掃描人臉圖像提取有用的生物特征信息(如臉部輪廓、眼睛的大小、嘴巴的位置)生成人臉模版，再對(duì)人臉模版進(jìn)行編碼形成數(shù)據(jù)集，并依據(jù)特定的算法規(guī)則轉(zhuǎn)化，實(shí)質(zhì)上是將人臉生物特征信息化并加以算法函數(shù)化轉(zhuǎn)變的技術(shù)處理流程，兼具信息性與技術(shù)性。換臉后達(dá)成以假亂真、能夠被識(shí)別為“同一人”的視覺(jué)效果，構(gòu)成對(duì)他人肖像的“偽造”。因此，利用AI換臉技術(shù)將他人的肖像偽造到特定場(chǎng)景中的行為，屬于“利用信息技術(shù)手段偽造”侵害他人肖像權(quán)。

2021年8月，騰訊QQ、微信平臺(tái)上有大量用戶通過(guò)私聊、群聊渠道以截圖、轉(zhuǎn)發(fā)形式傳播含有使用AI換臉技術(shù)對(duì)明星劉某進(jìn)行丑化、侮辱的合成視頻、視頻截圖及含有侮辱誹謗言論的聊天記錄，對(duì)當(dāng)事人造成了極其惡劣的影響，嚴(yán)重侵害當(dāng)事人的肖像權(quán)。該用戶利用AI換臉技術(shù)將劉某的肖像嫁接到特定的淫穢場(chǎng)景中，即通過(guò)“信息技術(shù)手段”達(dá)到丑化、侮辱劉某的非法目的，而鑒于劉某作為明星的公眾人物身份，合成的圖像與視頻只要足以被一般公眾識(shí)別為同一人，達(dá)到可被認(rèn)定為“真實(shí)”的程度，即構(gòu)成“偽造”，屬于“利用信息技術(shù)手段偽造”侵害他人肖像權(quán)的非法行為。

利用AI換臉技術(shù)對(duì)臉部圖像進(jìn)行嫁接、編輯，無(wú)疑破壞了肖像的完整性，是既定的侵害事實(shí)。但AI換臉對(duì)人臉圖像的“偽造”并不等同于“丑化”“污損”他人肖像，兩者的損害程度相去甚遠(yuǎn)。在2017年美國(guó)Reddit網(wǎng)站換臉色情視頻事件中，以好萊塢當(dāng)紅女星為首的十幾名女性遭受肖像權(quán)、名譽(yù)權(quán)的嚴(yán)重侵害。而在國(guó)內(nèi)“肌肉金輪”系列視頻中，AI換臉技術(shù)卻為當(dāng)事人增加不少收益。嗶哩嗶哩平臺(tái)某用戶將某知名游戲主播的面部肖像嫁接到了以身材為賣點(diǎn)的國(guó)外某短視頻博主的身體上，兩者適配度極高，從而引發(fā)了視頻的爆火，該游戲主播也受益于此知名度暴漲。利用AI換臉技術(shù)“偽造”他人肖像合成音視頻進(jìn)行傳播，可能給當(dāng)事人帶來(lái)聚光燈式的關(guān)注與巨額的流量曝光，但利用該技術(shù)手段達(dá)成“丑化”“污損”的非法目的則直接導(dǎo)致當(dāng)事人權(quán)益嚴(yán)重受損，技術(shù)使用者的主觀動(dòng)機(jī)與目的是其中的關(guān)鍵。

AI換臉技術(shù)并非中立，而是帶有“偽造”的特殊屬性，但將AI換臉技術(shù)矮化為邪惡的技術(shù)則是典型的“技術(shù)有罪論”。技術(shù)無(wú)罪，人難脫其罪。在AI換臉技術(shù)開(kāi)發(fā)的初始階段，研發(fā)者們忽視了技術(shù)在發(fā)展與應(yīng)用過(guò)程中存在的風(fēng)險(xiǎn)，片面考慮到技術(shù)帶來(lái)的市場(chǎng)效益便將其投入市場(chǎng)，并非技術(shù)有罪，而是資本無(wú)限逐利的“原罪”。

(二)未經(jīng)他人同意使用肖像進(jìn)行AI換臉

《民法典》第一千零一十九條第二款規(guī)定，未經(jīng)肖像權(quán)人同意制作、使用、公開(kāi)其肖像，破壞了肖像權(quán)的專有性，具有侵害他人肖像權(quán)的違法性。在《民法典》頒行前，依據(jù)《民法通則》第一百條的規(guī)定，未經(jīng)肖像權(quán)人同意而以營(yíng)利為目的制作、使用、公開(kāi)他人肖像的行為構(gòu)成侵權(quán)行為?！睹穹ǖ洹奉C布后不再將其作為侵害肖像權(quán)的構(gòu)成要件，實(shí)質(zhì)上擴(kuò)大了肖像權(quán)保護(hù)范圍并優(yōu)先保護(hù)肖像權(quán)的精神性利益。即便沒(méi)有營(yíng)利目的，未經(jīng)他人同意擅自利用AI換臉技術(shù)合成他人肖像甚至廣泛傳播，一般是行為人有意識(shí)的、存有某種心理動(dòng)機(jī)的行為，通常不會(huì)因?yàn)椴蛔⒁獾男睦頎顟B(tài)而誤用他人肖像，過(guò)錯(cuò)形態(tài)為故意，主觀過(guò)錯(cuò)明顯，客觀上也造成了對(duì)他人肖像權(quán)特別是肖像權(quán)中精神利益的侵害。

未經(jīng)他人同意擅自利用AI換臉技術(shù)嫁接他人肖像，合成“AI換臉音視頻”并散播，一般出于不同的心理動(dòng)機(jī)。“AI換臉音視頻”也可以由此分為以下不同種類：娛樂(lè)類、淫穢類、政治類。娛樂(lè)傳播類音視頻是出于娛樂(lè)游戲化傳播目的，利用AI換臉技術(shù)對(duì)人臉圖像進(jìn)行嫁接處理，最終實(shí)現(xiàn)在媒體上的大范圍傳播。淫穢類音視頻是基于AI換臉技術(shù)將他人臉部圖像嫁接至扮演色情淫穢音視頻的角色身上，通常上傳至色情網(wǎng)站并非法獲利。政治類音視頻是出于表達(dá)政治訴求或制造政治輿論沖突的動(dòng)機(jī)，利用AI換臉技術(shù)將國(guó)家領(lǐng)袖或相關(guān)政治人物的人臉圖像嫁接、處理、生成的合成音視頻。

在互聯(lián)網(wǎng)上，公眾一般出于娛樂(lè)惡搞的目的利用AI換臉技術(shù)合成音視頻，將他人的面部圖像嫁接至其他人的身體上或者虛擬人物上，刻意制造反差極大或者適配度極高的視覺(jué)效果，并將合成音視頻在社交媒體平臺(tái)公開(kāi)傳播，屬于“鬼畜類”二次創(chuàng)作。在利用AI換臉技術(shù)嫁接他人肖像技術(shù)的使用過(guò)程中，當(dāng)事人對(duì)選擇不同的面部圖像應(yīng)當(dāng)具備一定的自主性，并非處于疏忽大意或不注意的心理狀態(tài)。嗶哩嗶哩平臺(tái)某UP主利用AI換臉技術(shù)將明星楊某的臉疊加到影視劇中“黃蓉”一角身上并公開(kāi)這段偽造視頻，楊某換上了“黃蓉”的微表情后顯得無(wú)比靈動(dòng)，與其平時(shí)的演技形成鮮明對(duì)比，也因此引發(fā)網(wǎng)友的關(guān)注。因此，雖然該UP主聲稱制作視頻并不存在營(yíng)利行為，但并非出于“不注意”的心理狀態(tài)，其主觀動(dòng)機(jī)存疑，雖無(wú)明顯惡意但也難謂善意。

利用AI換臉技術(shù)將女性明星偶像的面部圖像嫁接至淫穢色情視頻的行為，具有強(qiáng)烈的丑化、侮辱等惡意，并且通常將其上傳至色情網(wǎng)站牟利，顯然構(gòu)成肖像權(quán)侵權(quán)，同時(shí)還嚴(yán)重污損當(dāng)事人名譽(yù)。對(duì)于存有政治性目標(biāo)的特殊群體而言，技術(shù)是一條攫取政治利益的新途徑。利用AI換臉技術(shù)將國(guó)家領(lǐng)導(dǎo)人或其他政治人物的臉部圖像嫁接至其他身體，或在原有基礎(chǔ)上單獨(dú)對(duì)微表情、微動(dòng)作進(jìn)行轉(zhuǎn)變，輔以聲音軌道的智能轉(zhuǎn)換合成逼真的音視頻后公開(kāi)，能夠引發(fā)大量關(guān)注或攻擊政治對(duì)手。

出于不同目的與心理動(dòng)機(jī)而未經(jīng)他人同意利用AI換臉技術(shù)使用他人肖像將造成不同程度的損害結(jié)果，但一般情況下都并非出于“無(wú)意識(shí)”的過(guò)失狀態(tài)。對(duì)于一般大眾而言，AI換臉技術(shù)更多的是一種娛樂(lè)惡搞、表達(dá)自我、休閑放松的方式，考慮到此情形下制作合成音視頻的行為動(dòng)機(jī)惡意不大，應(yīng)當(dāng)結(jié)合過(guò)錯(cuò)程度、受侵害人的知名度等不同方面認(rèn)定侵權(quán)責(zé)任及賠償，酌情處理。

四、視覺(jué)失真與新聞失實(shí)

真實(shí)是新聞的生命，真實(shí)的新聞內(nèi)容能夠幫助人們正確認(rèn)識(shí)世界。真實(shí)是信任之源，真實(shí)地報(bào)道新聞能夠贏得人們對(duì)媒體的信任，確立媒體合法性。但AI換臉技術(shù)的濫用帶來(lái)了大量低俗、博眼球的換臉音視頻的無(wú)序傳播與媒體亂象，這些虛假音視頻沖擊著公眾對(duì)“真實(shí)”本意的認(rèn)知與共識(shí)。AI換臉下的虛假新聞更是消解了新聞報(bào)道內(nèi)容的真實(shí)性和公眾對(duì)于新聞的理解真實(shí)，同時(shí)也挑戰(zhàn)著媒體公信力，帶來(lái)前所未有的新聞倫理風(fēng)險(xiǎn)。

(一) 視覺(jué)失真

智能時(shí)代下AI換臉技術(shù)對(duì)人臉信息的偽造造成視覺(jué)上的失真效果，挑戰(zhàn)了真實(shí)性原則。媒介技術(shù)的發(fā)展增強(qiáng)了人不斷認(rèn)識(shí)世界的信息功能，拓展了人類的認(rèn)知邊界，可以說(shuō)，技術(shù)的重要功能便是增強(qiáng)人們正確認(rèn)識(shí)現(xiàn)實(shí)世界的能力。AI換臉技術(shù)的使用卻是對(duì)真實(shí)人臉信息進(jìn)行偽造、合成虛假圖層的過(guò)程，利用人臉識(shí)別技術(shù)與深度學(xué)習(xí)的算法偽造人臉的生物特征，達(dá)到一般公眾無(wú)法辨別真?zhèn)蔚某潭?，并且呈現(xiàn)出極具沖擊性的視覺(jué)效果，具有“偽造”的技術(shù)屬性。從實(shí)質(zhì)上看，AI換臉技術(shù)作為一種數(shù)字工具的存在深刻影響著信息真實(shí)的建構(gòu)過(guò)程，技術(shù)手段制造失真的假象反噬真實(shí)的信息本源，這正印證了麥克盧漢“媒介即訊息”的觀點(diǎn)。

AI換臉技術(shù)將公眾置于虛實(shí)難辨的信息場(chǎng)景之中，打破“人臉即真實(shí)”的社會(huì)共識(shí)，造成認(rèn)知層面上的“失真”。隱私場(chǎng)景理論認(rèn)為，信息流動(dòng)具有情景化的特點(diǎn)，信息組合者將信息從原本合適的場(chǎng)景中抽離后將其嵌入到信息主體陌生的場(chǎng)景中，信息主體便無(wú)法對(duì)新場(chǎng)景作出準(zhǔn)確的判斷。[5]AI換臉音視頻在媒體平臺(tái)上的廣泛傳播將公眾從原先真實(shí)人臉的場(chǎng)景中抽離，切換至真實(shí)與虛假人臉難以辨清的新場(chǎng)景，逐步打破了公眾以人臉作為真實(shí)憑證的傳統(tǒng)認(rèn)知。而智能時(shí)代下的電子證偽機(jī)制卻尚未建立，在動(dòng)態(tài)的信息傳遞過(guò)程中公眾缺乏技術(shù)手段辨別真?zhèn)危簿蜔o(wú)法建立新的關(guān)于“真實(shí)”的認(rèn)知，被動(dòng)地陷入“失真”狀態(tài)。AI換臉技術(shù)造成的“視覺(jué)失真”也即數(shù)字時(shí)代中“真實(shí)”的具體內(nèi)涵在新技術(shù)沖擊下不斷消解的體現(xiàn)，而AI換臉技術(shù)應(yīng)用于新聞行業(yè)也對(duì)新聞?wù)鎸?shí)產(chǎn)生了新的挑戰(zhàn)。

(二) 新聞失實(shí)

學(xué)界對(duì)“新聞?wù)鎸?shí)”其原則性理念基本達(dá)成一致，即新聞?wù)鎸?shí)是新聞的靈魂，但對(duì)于新聞何以謂真、何以為真卻莫衷一是。近年來(lái)在智能傳播的大背景下出現(xiàn)了諸多關(guān)于“新聞?wù)鎸?shí)”概念內(nèi)涵的重新討論，包括“報(bào)道真實(shí)”“假設(shè)真實(shí)”“見(jiàn)證真實(shí)”等說(shuō)法。筆者認(rèn)為，新聞?wù)鎸?shí)首先應(yīng)當(dāng)是新聞報(bào)道真實(shí)，是新聞報(bào)道過(guò)程中應(yīng)當(dāng)遵守的職業(yè)倫理準(zhǔn)則。AI換臉技術(shù)在媒體領(lǐng)域的應(yīng)用中對(duì)新聞內(nèi)容進(jìn)行了偽造，而對(duì)AI換臉音視頻的使用不當(dāng)也破壞了新聞報(bào)道程序的正當(dāng)性。

應(yīng)用AI換臉技術(shù)制作虛假新聞的行為嚴(yán)重違背了新聞?wù)鎸?shí)原則。真實(shí)性原則既是一種道德倫理，也是新聞行業(yè)的報(bào)道編輯原則，以及記者在報(bào)道過(guò)程中應(yīng)當(dāng)遵循的職業(yè)規(guī)范。在真實(shí)性原則的指導(dǎo)下，媒體應(yīng)以真實(shí)、準(zhǔn)確的態(tài)度報(bào)道事實(shí)，挖掘事實(shí)真相。而新聞媒體行業(yè)對(duì)AI換臉技術(shù)的應(yīng)用卻違背了真實(shí)性原則。例如2018年加蓬政府發(fā)布總統(tǒng)在電視中“向國(guó)民發(fā)表新年致辭”的換臉偽造音視頻[6]，嚴(yán)重違背了媒體行業(yè)的真實(shí)性原則。當(dāng)AI換臉技術(shù)被媒體用以制作虛假新聞，偽造不存在的新聞內(nèi)容，真實(shí)性原則也就蕩然無(wú)存。

對(duì)AI換臉音視頻內(nèi)容的不當(dāng)使用破壞了新聞報(bào)道程序的正當(dāng)性。“程序正義”是一種過(guò)程的正義，著眼于正義的普遍形式，考慮的是程序的正當(dāng)性。[7]實(shí)現(xiàn)程序正義是對(duì)新聞?wù)鎸?shí)的更高要求，報(bào)道事實(shí)和報(bào)道程序正當(dāng)且準(zhǔn)確都是構(gòu)成新聞?wù)鎸?shí)缺一不可的要素。[8]據(jù)POLITCO報(bào)紙報(bào)道，在特朗普宣布退出全球氣候協(xié)定后，比利時(shí)某政黨組織利用深度偽造技術(shù)制作了一段“特朗普”宣稱“比利時(shí)也應(yīng)該跟隨美國(guó)退出全球氣候協(xié)定”的AI換臉音視頻。[9]該新聞在報(bào)道中使用了虛假的AI換臉內(nèi)容，并沒(méi)有明顯標(biāo)識(shí)視頻內(nèi)容為合成作品，僅在視頻最后作出提示，既偽造了虛假的報(bào)道內(nèi)容，也在報(bào)道程序上存在不正當(dāng)?shù)牟僮鳌?/p>

(三)挑戰(zhàn)媒體公信力

真實(shí)性原則是媒體的公信力所在。新聞?wù)鎸?shí)不僅停留于新聞內(nèi)容的客觀真實(shí)，更強(qiáng)調(diào)新聞的“信任性真實(shí)”，即受眾理解、信任的真實(shí)。[10]源于社交媒體的社交性與連接性屬性，有學(xué)者進(jìn)一步提出了“假設(shè)真實(shí)”的概念，認(rèn)為“新聞?wù)鎸?shí)”在社交媒體時(shí)代更體現(xiàn)為媒體追尋受眾信任與認(rèn)可的進(jìn)程，這也是媒體的公信力所在。[11]而AI換臉技術(shù)對(duì)于媒體公信力的破壞，就在于其制造的虛假新聞在新媒體平臺(tái)上快速擴(kuò)散后引起公眾對(duì)于媒體的不信任感。

自媒體為了攫取流量，大范圍擴(kuò)散傳播充斥獵奇色彩的虛假新聞，受眾因無(wú)法辨別真?zhèn)味`信，而在核查后發(fā)現(xiàn)自己被蒙騙，由此降低對(duì)原本報(bào)道該新聞的媒體的信任度。澳大利亞學(xué)者研究發(fā)現(xiàn)，在第三方機(jī)構(gòu)對(duì)新聞報(bào)道中政治人物的“聲稱”進(jìn)行核查后反而降低了受眾對(duì)于進(jìn)行新聞報(bào)道媒體的信任度。[12]專業(yè)(機(jī)構(gòu))媒體核查合成新聞或制作AI換臉音視頻警醒公眾[13]，一方面使得公眾將信任投資轉(zhuǎn)向權(quán)威的新聞媒體，形成新聞行動(dòng)者網(wǎng)絡(luò)中不同新聞權(quán)威的分層；但另一方面自媒體同樣屬于新新聞生態(tài)系統(tǒng)的重要一環(huán)并且在數(shù)量上占據(jù)絕對(duì)優(yōu)勢(shì)，公眾對(duì)自媒體信任度的降低反而降低了對(duì)新聞業(yè)的系統(tǒng)性信任。

在媒介技術(shù)的發(fā)展之下，專業(yè)(機(jī)構(gòu))媒體、自媒體、平臺(tái)媒體等構(gòu)成新新聞生態(tài)系統(tǒng)，多元的新聞行動(dòng)者實(shí)質(zhì)上代表了新興而豐富的新聞采寫(xiě)與傳播模式，但這也帶來(lái)了難以統(tǒng)一的行為邏輯與規(guī)范理念。面對(duì)AI換臉技術(shù)的挑戰(zhàn)，不同的新聞行動(dòng)者都應(yīng)當(dāng)加強(qiáng)對(duì)于AI換臉虛假新聞的治理力度，公眾也應(yīng)當(dāng)提升對(duì)虛假內(nèi)容的辨別能力，攜手共建真實(shí)、客觀的社會(huì)公共輿論場(chǎng)與網(wǎng)絡(luò)媒體生態(tài)環(huán)境。

五、AI換臉的多元規(guī)制

AI換臉技術(shù)在快速發(fā)展過(guò)程中潛藏著法律與新聞倫理風(fēng)險(xiǎn)，需要加強(qiáng)法律監(jiān)管力度并通過(guò)媒體平臺(tái)對(duì)其亂象進(jìn)行規(guī)制，在市場(chǎng)、技術(shù)和規(guī)則之間找到平衡點(diǎn)。

(一) 增強(qiáng)個(gè)人生物識(shí)別信息的保護(hù)

1.落實(shí)人臉生物識(shí)別信息采集中的“知情—同意”原則

要嚴(yán)格把控人臉生物識(shí)別信息的采集，落實(shí)個(gè)人對(duì)于AI換臉等深度偽造技術(shù)采集生物識(shí)別信息的知情同意。根據(jù)《規(guī)定》第十四條第二款，提供顯著編輯人臉、人聲等生物識(shí)別信息功能的深度合成服務(wù)提供者，應(yīng)當(dāng)明確提示深度合成服務(wù)使用者需要提前依法告知被編輯信息的個(gè)人主體，并獲取被編輯信息的個(gè)人主體的“單獨(dú)同意”而非概括同意。依據(jù)該條款，被編輯信息的個(gè)人主體僅僅能知曉其個(gè)人生物識(shí)別信息被編輯，告知不充分，個(gè)人在事先很難準(zhǔn)確預(yù)測(cè)進(jìn)一步處理人臉識(shí)別信息的“目的、方式和范圍”以及使用的深度、廣度，很難達(dá)到充分的“知情同意”。[14]《個(gè)人信息保護(hù)法》對(duì)收集生物識(shí)別信息等敏感信息有明確規(guī)定，在應(yīng)用AI換臉技術(shù)過(guò)程中對(duì)于人臉生物信息的采集需要符合特定目的和有充分必要性，且必須告知個(gè)人信息收集的必要性，以及對(duì)于個(gè)人的影響后才能進(jìn)行。由此，(深度合成服務(wù)提供者)還需要明確告知信息權(quán)利人其收集處理的內(nèi)容、目的、方式及是否與第三方共享，以此實(shí)現(xiàn)充分知情基礎(chǔ)上真正的同意。

2.提高對(duì)個(gè)人生物識(shí)別信息的收集與存儲(chǔ)標(biāo)準(zhǔn)

作為敏感個(gè)人信息，人臉識(shí)別信息的存儲(chǔ)需要明確存儲(chǔ)級(jí)別和措施。[15]《規(guī)定》第十四條第一款指出，深度合成服務(wù)提供者應(yīng)當(dāng)采取必要措施保障數(shù)據(jù)安全，確保數(shù)據(jù)在處理過(guò)程中“合法、正當(dāng)”；加強(qiáng)數(shù)據(jù)集訓(xùn)練管理，提高對(duì)于涉及個(gè)人信息數(shù)據(jù)的訓(xùn)練數(shù)據(jù)集的保護(hù)力度，不得非法處理個(gè)人信息。依據(jù)《網(wǎng)絡(luò)安全法》，個(gè)人生物識(shí)別信息的存儲(chǔ)必須與個(gè)人身份信息分開(kāi)存儲(chǔ)。(2)國(guó)家市場(chǎng)監(jiān)督管理總局、國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)正式發(fā)布國(guó)家標(biāo)準(zhǔn)《信息安全技術(shù) 個(gè)人信息安全規(guī)范》第5.4條規(guī)定。因此，在AI換臉技術(shù)的應(yīng)用過(guò)程中應(yīng)當(dāng)針對(duì)后續(xù)人臉生物信息的存儲(chǔ)、運(yùn)輸傳遞及使用作出明示說(shuō)明，保障個(gè)人信息的安全。但《規(guī)定》中對(duì)于應(yīng)用深度合成技術(shù)收集敏感個(gè)人信息后采取何種級(jí)別的保存措施，以及能否有權(quán)委托第三方保存等具體問(wèn)題，尚未作出特殊規(guī)定與說(shuō)明。

《民法典》第一千零三十四條中將公民個(gè)人信息分為“私密信息”和“一般信息”兩類。有觀點(diǎn)認(rèn)為個(gè)人隱私及私密信息強(qiáng)調(diào)私密性，以及與個(gè)人尊嚴(yán)的強(qiáng)關(guān)聯(lián)關(guān)系，人臉生物識(shí)別信息雖然敏感卻并不私密，相反甚至具有公開(kāi)性。[16]但筆者認(rèn)為，正如身高、體重、女性三圍等基于可視的身體特征而提取出的以數(shù)據(jù)形式呈現(xiàn)的數(shù)據(jù)集一樣，基于人臉生物特征提取的人臉生物識(shí)別信息同屬于隱私中的私密信息，具有私密性。人臉生物識(shí)別信息集高度敏感性及私密性于一體。(深度合成服務(wù)提供者)應(yīng)當(dāng)分而治之地采取不同規(guī)格的保存措施存儲(chǔ)不同層級(jí)的個(gè)人信息，將一般信息與敏感信息進(jìn)行分級(jí)處理，對(duì)人臉生物識(shí)別信息等敏感個(gè)人信息采取高規(guī)格的保護(hù)措施。雖然民法典中明確規(guī)定未獲得信息權(quán)利人同意不得將個(gè)人生物識(shí)別信息轉(zhuǎn)移至第三方機(jī)構(gòu)，但將深度合成服務(wù)提供者所承擔(dān)的采集個(gè)人生物識(shí)別信息，以及存儲(chǔ)個(gè)人生物識(shí)別信息功能相分離，引入第三方存儲(chǔ)機(jī)構(gòu)有利于提高個(gè)人生物識(shí)別信息的儲(chǔ)存安全系數(shù)。

(二) 加強(qiáng)媒體平臺(tái)對(duì)深度合成作品的管理

1.強(qiáng)化平臺(tái)的主體責(zé)任

《規(guī)定》第七條、第八條中明確指出深度合成服務(wù)提供者的主體責(zé)任與應(yīng)盡義務(wù)，如完善平臺(tái)與創(chuàng)作者的服務(wù)協(xié)議，在內(nèi)容上傳前要求創(chuàng)作者自覺(jué)對(duì)內(nèi)容進(jìn)行標(biāo)識(shí)，并采取技術(shù)或者人工方式對(duì)深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核，對(duì)于未進(jìn)行標(biāo)識(shí)的內(nèi)容應(yīng)當(dāng)停止傳輸；以顯著方式提示深度合成服務(wù)使用者承擔(dān)相應(yīng)的信息安全義務(wù)等。因此，作為深度合成服務(wù)的提供者，同時(shí)具有輿論屬性與社會(huì)動(dòng)員能力的媒體平臺(tái)，必須承擔(dān)相應(yīng)的主體責(zé)任。

我國(guó)新媒體中的AI換臉音視頻普遍存在多媒體平臺(tái)傳播的現(xiàn)象，當(dāng)AI換臉視頻制作完成后傳播至微博、微信等其他平臺(tái)時(shí)，就可能存在多方的深度合成服務(wù)提供者。此時(shí)面對(duì)多個(gè)主體承擔(dān)連帶責(zé)任的情況，承擔(dān)責(zé)任的深度合成服務(wù)提供者是否需要從內(nèi)容制作平臺(tái)追溯至其他傳播平臺(tái)存有爭(zhēng)議。依據(jù)《規(guī)定》第二十三條，提供深度合成服務(wù)的組織、個(gè)人屬于深度合成服務(wù)提供者，為深度合成服務(wù)提供技術(shù)支持的組織、個(gè)人屬于深度合成服務(wù)技術(shù)支持者。顯然，傳播平臺(tái)應(yīng)當(dāng)屬于“深度合成服務(wù)提供者”，AI換臉技術(shù)的使用者并非孤立地散播AI換臉深度合成音視頻，其往往借助媒體平臺(tái)發(fā)布，以達(dá)到大范圍傳播擴(kuò)散的效果。因此，筆者認(rèn)為，無(wú)論作為內(nèi)容制作的平臺(tái)，抑或由平臺(tái)用戶轉(zhuǎn)發(fā)擴(kuò)散的其他傳播平臺(tái)，都應(yīng)該承擔(dān)相應(yīng)的責(zé)任?！兑?guī)定》第六條：“不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息?！狈擅鞔_禁止媒體平臺(tái)及用戶利用AI換臉技術(shù)合成虛假新聞。媒體平臺(tái)及用戶不得利用AI換臉技術(shù)杜撰虛假的新聞內(nèi)容，無(wú)論是對(duì)個(gè)人或名人的換臉或?qū)ζ涿娌课⒈砬檫M(jìn)行轉(zhuǎn)換等，都是違法的。隨意使用國(guó)家領(lǐng)導(dǎo)人的肖像進(jìn)行深度合成，在我國(guó)不但構(gòu)成侵權(quán)，還存在其他風(fēng)險(xiǎn)。另外，如果轉(zhuǎn)載的深度合成的新聞作品中涉及他人肖像，如虛擬主播主持的新聞作品、VR新聞等，應(yīng)當(dāng)“依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息”。

2.深度合成作品必須作出明顯標(biāo)識(shí)

依據(jù)《規(guī)定》第九條、第十七條(3)《規(guī)定》第十七條，“深度合成服務(wù)提供者提供以下深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)”中列舉五種情況，其中第三款即AI換臉“人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個(gè)人身份特征的編輯服務(wù)”。，作為深度合成服務(wù)提供者，平臺(tái)必須要求信息提供者進(jìn)行身份認(rèn)證并對(duì)其上傳的相關(guān)的深度合成內(nèi)容作出明顯標(biāo)示標(biāo)識(shí)，促進(jìn)塑造客觀、真實(shí)的媒體生態(tài)環(huán)境。平臺(tái)可以應(yīng)用區(qū)塊鏈技術(shù)為用戶提供在深度合成作品上作出明顯標(biāo)識(shí)的技術(shù)手段，如運(yùn)用數(shù)字水印、分布式共識(shí)和經(jīng)濟(jì)激勵(lì)等手段，實(shí)現(xiàn)去中心化信用的點(diǎn)對(duì)點(diǎn)交易與協(xié)作。[17]平臺(tái)還可以在內(nèi)容中應(yīng)用溯源防偽技術(shù)增強(qiáng)網(wǎng)絡(luò)平臺(tái)中對(duì)用戶隱私的保護(hù)，如一種可以應(yīng)對(duì)基于GAN的編輯與篡改的端到端的深度學(xué)習(xí)方法，解決原創(chuàng)者作品被肆意偽造修改而難以追溯源頭的難題。[18]阿里云開(kāi)發(fā)者社區(qū)建立了時(shí)間戳在線轉(zhuǎn)換工具，能夠?yàn)橛脩籼峁┮环蓦娮幼C據(jù)以證明用戶的某些數(shù)據(jù)的產(chǎn)生時(shí)間，普通公眾可以通過(guò)保存時(shí)間戳作為“數(shù)字水印”保護(hù)個(gè)人創(chuàng)作作品，積極配合平臺(tái)管理深度合成內(nèi)容。

除建立明顯標(biāo)識(shí)的保護(hù)之外，平臺(tái)也應(yīng)當(dāng)防范出現(xiàn)深度合成內(nèi)容未進(jìn)行明顯標(biāo)識(shí)的情形?！兑?guī)定》第十八條，任何組織、個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿相應(yīng)的深度合成標(biāo)識(shí)。當(dāng)平臺(tái)檢測(cè)到信息提供者未對(duì)規(guī)定的深度合成信息內(nèi)容進(jìn)行顯著標(biāo)識(shí)時(shí)，應(yīng)當(dāng)立即中止內(nèi)容的發(fā)布，并要求上傳者按照規(guī)定標(biāo)識(shí)顯著記號(hào)才能進(jìn)行公開(kāi)與傳播。當(dāng)平臺(tái)檢測(cè)到未按規(guī)定進(jìn)行顯著標(biāo)識(shí)的深度合成信息內(nèi)容在其平臺(tái)上廣泛傳播時(shí)，應(yīng)當(dāng)立即封鎖該信息的閱讀查看與轉(zhuǎn)發(fā)權(quán)限，并對(duì)內(nèi)容傳播者進(jìn)行通告處理。

3.增強(qiáng)對(duì)深度合成內(nèi)容的監(jiān)測(cè)

平臺(tái)需要不斷引進(jìn)新型檢測(cè)技術(shù)，擴(kuò)展新的組件技術(shù)提高檢測(cè)精確性，以解決新問(wèn)題。當(dāng)下針對(duì)AI換臉的偽造音視頻已有專門的探測(cè)技術(shù)進(jìn)行檢驗(yàn)，包括多種探測(cè)方式：其一，從人臉固有特征發(fā)現(xiàn)生理特征上的區(qū)別；其二，從偽造方法出發(fā)，觀察生成對(duì)抗網(wǎng)絡(luò)的固有痕跡或通過(guò)修改卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)來(lái)檢測(cè)偽造視頻；其三，抓住視頻內(nèi)容的時(shí)序性進(jìn)行偽造檢測(cè)。目前絕大多數(shù)方法的準(zhǔn)確率指標(biāo)都已達(dá)到95%，但是這些指標(biāo)都是在公開(kāi)數(shù)據(jù)集上得到的，實(shí)際互聯(lián)網(wǎng)環(huán)境中的準(zhǔn)確率只有70%左右。[16]而類似于能夠跟蹤用戶所有對(duì)話、行為軌跡的生命日志記錄又存在明顯的侵犯用戶個(gè)人隱私的弊病，難以真正推行。因此，以上技術(shù)都并非盡善盡美，平臺(tái)亟須在實(shí)際應(yīng)用中不斷革新檢測(cè)技術(shù)，加強(qiáng)對(duì)深度合成內(nèi)容的檢測(cè)管理。

平臺(tái)還應(yīng)當(dāng)加強(qiáng)對(duì)深度合成內(nèi)容的審核。建立健全用于識(shí)別違法和不良深度合成信息內(nèi)容的數(shù)據(jù)庫(kù)，提高對(duì)違法和不良深度合成內(nèi)容的識(shí)別度與檢測(cè)準(zhǔn)確率，對(duì)于其中違法以及不良的內(nèi)容進(jìn)行刪除。當(dāng)發(fā)現(xiàn)因?qū)徍耸д`而導(dǎo)致違法和不良的深度合成內(nèi)容擴(kuò)散傳播時(shí)，平臺(tái)應(yīng)立即封鎖該信息的閱讀查看與轉(zhuǎn)發(fā)權(quán)限，以中止虛假信息的傳播，對(duì)相關(guān)的信息提供者予以處置，并及時(shí)采取相應(yīng)的辟謠措施，向用戶公示虛假內(nèi)容及比對(duì)情況，同時(shí)將相關(guān)信息報(bào)相關(guān)部門備案，承擔(dān)起相應(yīng)的管理職責(zé)。

(三) 提高公眾的媒介素養(yǎng)

1.提高信息甄別能力

英國(guó)學(xué)者湯普森和利維斯認(rèn)為，媒介素養(yǎng)就像“疫苗”，大眾通過(guò)接種“疫苗”便能夠?qū)Ξ?dāng)時(shí)通俗流行文化“免疫”，從而保持獨(dú)立思考、批判的精神。[19]當(dāng)下以技術(shù)為主導(dǎo)的媒介邏輯重構(gòu)著社會(huì)的各個(gè)領(lǐng)域，AR、VR、直播等技術(shù)手段建構(gòu)起融合多重感官的沉浸式媒介體驗(yàn)，大眾亟待提升對(duì)龐雜而富媒化的信息內(nèi)容進(jìn)行甄別和批判性思考的處理能力。在面對(duì)AI換臉等合成技術(shù)制造的虛假新聞時(shí)，一方面，公眾應(yīng)在視覺(jué)沖擊前保持冷靜理智的頭腦，注重媒介內(nèi)容的客觀性、真實(shí)性、準(zhǔn)確性，弱化主觀性、情感性等非理性因素的影響，時(shí)刻保持對(duì)媒介信息的批判意識(shí)；另一方面，公眾應(yīng)當(dāng)理性甄別媒介信息，對(duì)帶有深度合成標(biāo)識(shí)的內(nèi)容保持警惕，對(duì)于權(quán)威信源投以更多的信任而非將關(guān)注放在小道消息與營(yíng)銷號(hào)等自媒體消息上，不盲從、不盲信媒介信息內(nèi)容。

2.增強(qiáng)媒介使用能力

在萬(wàn)物皆媒的數(shù)字時(shí)代，網(wǎng)絡(luò)媒體生態(tài)在技術(shù)賦權(quán)下，不僅是投射真實(shí)世界的擬態(tài)環(huán)境，而且在各類人機(jī)交互的社交網(wǎng)絡(luò)中虛實(shí)相融、信息雜糅，對(duì)當(dāng)代公民素養(yǎng)提出了更高的要求?！凹夹g(shù)是一種解蔽方式”，海德格爾在《技術(shù)的追問(wèn)》中提出應(yīng)以技術(shù)手段破解技術(shù)困境。如何鑒別AI換臉技術(shù)中的虛假新聞，也需要公眾和平臺(tái)積極、有效地利用一些檢測(cè)網(wǎng)站以及事實(shí)核查平臺(tái)對(duì)新聞內(nèi)容進(jìn)行核查，主動(dòng)使用相關(guān)媒介技術(shù)了解技術(shù)黑箱的運(yùn)行法則，作出理性分析與判斷。在媒介使用過(guò)程中，還應(yīng)當(dāng)對(duì)媒介技術(shù)所產(chǎn)生的技術(shù)風(fēng)險(xiǎn)有所防范，尤其注意個(gè)人生物識(shí)別信息安全，涉及人臉識(shí)別、人聲識(shí)別、指紋、瞳孔等生物識(shí)別信息時(shí)需要充分了解信息的采集、使用與存儲(chǔ)流程以及信息采集目的的充分必要性以及使用情況，謹(jǐn)慎使用生物識(shí)別信息。公眾應(yīng)積極使用媒介技術(shù)發(fā)展“延伸”自身的信息功能，在新媒體的使用過(guò)程中開(kāi)拓視野、培養(yǎng)多元化思維以及建構(gòu)信息知識(shí)網(wǎng)絡(luò)，在虛擬的網(wǎng)絡(luò)世界中提升自身的信息獲取能力、信息使用效率，主動(dòng)參與到社會(huì)公共事務(wù)的討論與民主決策中去，成為理性的網(wǎng)絡(luò)公民。

3.樹(shù)立法制觀念

媒介素養(yǎng)極具情境性，伴隨著信息傳播技術(shù)的快速變化，其內(nèi)涵與維度也發(fā)生著不同轉(zhuǎn)變。在AI技術(shù)與社會(huì)化媒體深度融合發(fā)展下，智能技術(shù)改造升級(jí)傳統(tǒng)數(shù)字傳播語(yǔ)境的同時(shí)也帶來(lái)一系列法律風(fēng)險(xiǎn)，諸如使用AI換臉侵害肖像權(quán)、創(chuàng)作剪輯類短視頻侵害著作權(quán)，以及個(gè)性化算法推薦過(guò)度收集個(gè)人信息侵害隱私權(quán)等。這要求公民具備一定的與媒體相關(guān)的法律知識(shí)與法制觀念?！熬W(wǎng)絡(luò)空間并非法外之地”，公眾在使用AI換臉技術(shù)制作娛樂(lè)類音視頻的過(guò)程中要注意其帶來(lái)的法律風(fēng)險(xiǎn)。公眾應(yīng)當(dāng)學(xué)習(xí)相關(guān)的網(wǎng)絡(luò)安全法律法規(guī)，增強(qiáng)法制觀念并將其內(nèi)化為自律行為，共同構(gòu)建法治化的媒體生態(tài)環(huán)境，清朗網(wǎng)絡(luò)空間。

六、結(jié) 論

“走太快了，靈魂跟不上?！边@是一個(gè)游牧部落的古訓(xùn)，也是對(duì)人工智能技術(shù)突飛猛進(jìn)但隱患頻仍現(xiàn)狀的映射。我國(guó)AI換臉技術(shù)的開(kāi)發(fā)和利用正處于高速發(fā)展階段，但對(duì)其產(chǎn)生的技術(shù)風(fēng)險(xiǎn)以及必要的規(guī)制對(duì)策還缺乏足夠的認(rèn)識(shí)和深入的研討。AI換臉技術(shù)是一把利弊兼具的雙刃劍，在深度合成音視頻娛樂(lè)大眾的同時(shí)，其技術(shù)濫用而缺少監(jiān)管也潛藏著生物信息安全隱患與傳播侵權(quán)的局部無(wú)序亂象。而AI換臉技術(shù)應(yīng)用于新聞制作，尤其涉足政治領(lǐng)域的嚴(yán)肅新聞時(shí)，加劇視覺(jué)失真與新聞失實(shí)的困境，形成復(fù)雜的網(wǎng)絡(luò)輿論生態(tài)混沌。

加快規(guī)范技術(shù)開(kāi)發(fā)的立法，讓技術(shù)插上倫理的翅膀，乃是當(dāng)務(wù)之急。同時(shí)，要積極預(yù)防新媒體AI換臉技術(shù)應(yīng)用對(duì)社會(huì)信任機(jī)制的沖擊，加強(qiáng)事實(shí)核查機(jī)制的建設(shè)，建立健全謠言核查平臺(tái)與辟謠機(jī)制。對(duì)于AI換臉等深度合成技術(shù)的應(yīng)用，應(yīng)該在個(gè)人信息安全、企業(yè)基于用戶信息的技術(shù)創(chuàng)新發(fā)展、數(shù)字社會(huì)治理上找到平衡。