黃子妍 吳天藝 董安淇

隨著人工智能技術(shù)的不斷進(jìn)步，深度偽造作為一種尖端技術(shù)產(chǎn)物，已經(jīng)開(kāi)始在個(gè)人、社會(huì)乃至國(guó)家等層面產(chǎn)生深遠(yuǎn)影響。其中，“換臉”視頻作為深度偽造技術(shù)的典型應(yīng)用，不僅具有極高的技術(shù)吸引力，更在實(shí)際應(yīng)用中引發(fā)了廣泛的社會(huì)關(guān)注?，F(xiàn)基于嗶哩嗶哩平臺(tái)這一具有代表性的網(wǎng)絡(luò)平臺(tái)，深入探討“換臉”視頻出現(xiàn)的成因，并對(duì)深度偽造技術(shù)的實(shí)際應(yīng)用進(jìn)行全面反思，旨在為防范網(wǎng)絡(luò)虛假信息的擴(kuò)散提供針對(duì)性建議，以期在享受技術(shù)紅利的同時(shí)，維護(hù)網(wǎng)絡(luò)空間的安全。

新一輪技術(shù)革命浪潮下，人工智能技術(shù)迎來(lái)蓬勃發(fā)展的新階段，展現(xiàn)出深度學(xué)習(xí)、跨界融合、人機(jī)協(xié)同、群智開(kāi)放和自主操控等鮮明特征。人工智能技術(shù)的運(yùn)用對(duì)全球經(jīng)濟(jì)發(fā)展、社會(huì)進(jìn)步和全球治理產(chǎn)生了深遠(yuǎn)而重大的影響。科技無(wú)疑已成為推動(dòng)世界發(fā)展的第一生產(chǎn)力，但同時(shí)它也是一把雙刃劍，在帶來(lái)無(wú)盡機(jī)遇的同時(shí)，也帶來(lái)了諸多挑戰(zhàn)。作為人工智能在深度學(xué)習(xí)領(lǐng)域的一個(gè)分支，深度偽造技術(shù)近年來(lái)發(fā)展迅猛，其中最為人們所熟知的表現(xiàn)形式即“換臉”視頻。這些視頻不僅影響了個(gè)人隱私和安全，更在一定程度上對(duì)社會(huì)秩序和國(guó)家安全造成了沖擊。本文旨在全面解析深度偽造技術(shù)的產(chǎn)生背景和發(fā)展現(xiàn)狀，并以嗶哩嗶哩平臺(tái)上的“換臉”視頻為例，深入探討其潛在危害。下文將分析這些危害產(chǎn)生的根源，并提出一系列具有針對(duì)性的建議和措施，以期在推動(dòng)人工智能技術(shù)進(jìn)步的同時(shí)，有效防范和應(yīng)對(duì)由此產(chǎn)生的各種風(fēng)險(xiǎn)和問(wèn)題。希望本文的闡述能夠?yàn)闃?gòu)建健康、安全的網(wǎng)絡(luò)環(huán)境提供有益的參考和啟示。

深度偽造技術(shù)概述

深度偽造技術(shù)的興起

“深度偽造”一詞源于英文“Deepfake”，是由“Deep learning”（深度學(xué)習(xí)）和“Fake”（偽造）兩個(gè)詞匯組合而成的。其起源可以追溯到美國(guó)社交新聞媒體紅迪網(wǎng)（reddit）上一段引起轟動(dòng)的視頻。這段視頻由一位名為“deepfakes”的用戶(hù)發(fā)布，盡管該視頻因舉報(bào)而被下架，但該用戶(hù)隨后公開(kāi)了制作該視頻的算法，使得深度偽造視頻的制作變得相對(duì)簡(jiǎn)單。

隨著技術(shù)的不斷進(jìn)步，越來(lái)越多的深度偽造方法和應(yīng)用程序涌現(xiàn)出來(lái)，如國(guó)外的FaceApp、FakeApp、FaceToFace、DeepFaceLab，以及國(guó)內(nèi)曾出現(xiàn)過(guò)的ZAO、螞蟻呀嘿等換臉軟件（目前這些軟件均已下架）。這些工具的應(yīng)用不局限于視頻制作，還擴(kuò)展到了圖像、音頻制作等領(lǐng)域，對(duì)娛樂(lè)、教育等多個(gè)領(lǐng)域產(chǎn)生了廣泛影響。

深度偽造技術(shù)的應(yīng)用

深度偽造技術(shù)作為一種基于深度學(xué)習(xí)的工具，其本質(zhì)上并不具備善惡屬性。從狹義上說(shuō)，該技術(shù)主要是指通過(guò)深度學(xué)習(xí)進(jìn)行人像合成的視頻技術(shù)，其中最為人們所熟知的就是AI“換臉”技術(shù)。而從更廣義的角度來(lái)看，深度偽造技術(shù)可利用機(jī)器的深度學(xué)習(xí)，實(shí)現(xiàn)音頻、圖像、文本和視頻的篡改、偽造和自動(dòng)生成，不僅在醫(yī)學(xué)成像、歷史影像復(fù)原和影視劇制作等領(lǐng)域有所應(yīng)用，還對(duì)社會(huì)的方方面面產(chǎn)生了深遠(yuǎn)的影響。

在眾多深度偽造技術(shù)的應(yīng)用中，“換臉”視頻無(wú)疑是最為典型且常見(jiàn)的一種。在國(guó)內(nèi)，雖然曾經(jīng)涌現(xiàn)出的一些“換臉”視頻平臺(tái)如今已經(jīng)下架，但“換臉”視頻仍然大量存在于抖音、快手、嗶哩嗶哩等平臺(tái)上。特別是嗶哩嗶哩平臺(tái)，作為一個(gè)多元文化社區(qū)，該平臺(tái)聚集了大量的當(dāng)代年輕人，這些年輕人往往熱衷于追求新興技術(shù)。同時(shí)，嗶哩嗶哩平臺(tái)獨(dú)特的鬼畜文化也進(jìn)一步推動(dòng)了“換臉”視頻在該平臺(tái)的流行。然而，“換臉”視頻的廣泛傳播也帶來(lái)了一系列不容忽視的問(wèn)題。

嗶哩嗶哩平臺(tái)“換臉”視頻的特點(diǎn)及危害

嗶哩嗶哩平臺(tái)“換臉”視頻的特點(diǎn)

1.高度真實(shí)

深度偽造技術(shù)為嗶哩嗶哩等平臺(tái)上的“換臉”視頻提供了強(qiáng)大的技術(shù)支持。這些視頻的制作需要采集大量的人臉樣本，通過(guò)對(duì)人物面部肌肉和微表情的精細(xì)算法分析，達(dá)到極其逼真的換臉效果，以至于用戶(hù)僅憑肉眼難以分辨真?zhèn)?。展望未?lái)，隨著技術(shù)的不斷進(jìn)步，基于眨眼頻率、聲音、微表情、文本等多模態(tài)特征融合的假視頻制作技術(shù)將成為一個(gè)新的發(fā)展趨勢(shì)。這意味著隨著多模態(tài)特征融合技術(shù)的廣泛應(yīng)用，普通公眾辨別深度偽造作品的難度將進(jìn)一步加大。

2.制作簡(jiǎn)單

雖然深度偽造技術(shù)的原理相當(dāng)復(fù)雜，但隨著網(wǎng)絡(luò)的迅猛發(fā)展，軟件公司能夠相對(duì)容易地獲取大量的人臉信息用于技術(shù)訓(xùn)練。這得益于機(jī)器學(xué)習(xí)算法的進(jìn)步、易于訪(fǎng)問(wèn)的數(shù)據(jù)庫(kù)的增加以及開(kāi)放源代碼的普及，即使是沒(méi)有深度學(xué)習(xí)算法專(zhuān)業(yè)知識(shí)的個(gè)人或團(tuán)體，也能輕易地利用這三者制作“換臉”視頻。在此背景下，為了追逐商業(yè)利益，軟件公司紛紛根據(jù)用戶(hù)需求開(kāi)發(fā)出各種“換臉”功能。這些功能通過(guò)簡(jiǎn)單的操作界面即可使用，使得普通用戶(hù)能夠輕松地對(duì)視頻中的人物進(jìn)行“換臉”操作，從而制作出大量“換臉”視頻。

3.傳播廣泛

互聯(lián)網(wǎng)的迅猛發(fā)展使得嗶哩嗶哩平臺(tái)擁有龐大的用戶(hù)基礎(chǔ)，自媒體時(shí)代，每個(gè)人都能輕松通過(guò)平臺(tái)創(chuàng)作、發(fā)布和傳播視頻。在這樣的環(huán)境下，“UP主”們利用深度偽造技術(shù)制作的“換臉”視頻一旦通過(guò)平臺(tái)的審核，便能在嗶哩嗶哩平臺(tái)上發(fā)布并得到廣泛傳播。通過(guò)觀眾的點(diǎn)贊、轉(zhuǎn)發(fā)、收藏和投幣等操作，這些視頻的影響力得以進(jìn)一步擴(kuò)大，吸引了更多的觀眾參與互動(dòng)。

嗶哩嗶哩平臺(tái)“換臉”視頻的危害

1.侵犯?jìng)€(gè)人隱私

在嗶哩嗶哩平臺(tái)上流傳的“換臉”視頻中，所涉及的被“換臉”對(duì)象涵蓋了明星、網(wǎng)紅以及普通民眾。這些視頻侵犯了當(dāng)事人的肖像權(quán)。尤其是當(dāng)“換臉”視頻被用于惡搞或諷刺時(shí)，會(huì)對(duì)當(dāng)事人的名譽(yù)權(quán)造成損害。更為嚴(yán)重的是，若這些視頻被不法分子用于敲詐勒索等，將會(huì)對(duì)公民的財(cái)產(chǎn)和人身安全構(gòu)成嚴(yán)重威脅。

2.擾亂社會(huì)秩序

涉及公眾人物的“換臉”視頻一旦廣泛傳播，將對(duì)社會(huì)信任體系產(chǎn)生深遠(yuǎn)影響，導(dǎo)致公眾對(duì)媒體的公信力產(chǎn)生質(zhì)疑。在學(xué)術(shù)領(lǐng)域，這種現(xiàn)象被視為對(duì)信息傳播真實(shí)性和可靠性的挑戰(zhàn)。若不法分子利用“換臉”視頻散布謠言，操控公眾意識(shí)，將加劇公眾對(duì)媒體平臺(tái)上信息真?zhèn)蔚膽岩?，進(jìn)而影響社會(huì)的穩(wěn)定。

嗶哩嗶哩平臺(tái)“換臉”視頻的管理缺陷

與深度偽造技術(shù)應(yīng)用相關(guān)的法律缺失

我國(guó)尚未頒布專(zhuān)門(mén)的法律條文對(duì)深度偽造技術(shù)的應(yīng)用進(jìn)行直接規(guī)范，這間接導(dǎo)致了嗶哩嗶哩平臺(tái)上“換臉”視頻的泛濫。盡管2019年5月28日國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布的《數(shù)據(jù)安全管理辦法（征求意見(jiàn)稿）》中第三章第二十四條規(guī)定了網(wǎng)絡(luò)運(yùn)營(yíng)者在利用技術(shù)自動(dòng)合成信息時(shí)應(yīng)標(biāo)明“合成”字樣，并禁止以謀取利益或損害他人利益為目的的合成行為，但與深度偽造技術(shù)和“換臉”視頻相關(guān)的法律法規(guī)體系仍不完整，缺乏全面且深入的規(guī)范標(biāo)準(zhǔn)，這導(dǎo)致嗶哩嗶哩平臺(tái)在管理用戶(hù)行為時(shí)缺乏明確的法律依據(jù)和審核標(biāo)準(zhǔn)。

平臺(tái)與創(chuàng)作者責(zé)任界限模糊不清

由于“換臉”視頻上傳者的責(zé)任界定不明確，因此難以確定誰(shuí)應(yīng)對(duì)“換臉”視頻的制作和傳播負(fù)責(zé)。這種模糊的責(zé)任劃分可能會(huì)使制作者誤解其行為的合法性，同時(shí)也讓平臺(tái)難以制定明確的審核和處置標(biāo)準(zhǔn)。嗶哩嗶哩平臺(tái)作為大型視頻平臺(tái)，每天都有大量視頻上傳，其中混雜著利用深度偽造技術(shù)制作的“換臉”視頻。目前，嗶哩嗶哩平臺(tái)僅在部分“換臉”視頻下方設(shè)置“該內(nèi)容疑似使用AI技術(shù)合成，請(qǐng)謹(jǐn)慎甄別”的提醒，缺乏統(tǒng)一標(biāo)準(zhǔn)。這種不明確導(dǎo)致平臺(tái)難以有效審核和過(guò)濾“換臉”視頻，進(jìn)而會(huì)影響用戶(hù)對(duì)平臺(tái)和創(chuàng)作者的信任。

產(chǎn)生危害后補(bǔ)救措施不完善

如果深度偽造視頻廣泛傳播并造成危害，嗶哩嗶哩平臺(tái)現(xiàn)行的處理策略顯然存在若干不足。首先，嗶哩嗶哩平臺(tái)沒(méi)有及時(shí)處理違規(guī)視頻，導(dǎo)致這些視頻在平臺(tái)上的存續(xù)時(shí)間過(guò)長(zhǎng)，擴(kuò)散范圍過(guò)大，加劇了對(duì)用戶(hù)的潛在傷害。其次，嗶哩嗶哩平臺(tái)在面對(duì)深度偽造視頻所引發(fā)的個(gè)人隱私侵害、名譽(yù)受損以及虛假信息傳播等問(wèn)題時(shí)，缺乏明確有效的信息恢復(fù)機(jī)制。盡管平臺(tái)保持中立立場(chǎng)，但在協(xié)助受害者迅速刪除、修正或反駁虛假內(nèi)容方面，其反應(yīng)不夠迅速，這無(wú)疑增加了受害者的困擾和損失。

嗶哩嗶哩平臺(tái)“換臉”視頻的規(guī)制建議

制定針對(duì)深度偽造視頻的規(guī)范

嗶哩嗶哩平臺(tái)作為一個(gè)匯聚大量用戶(hù)生成內(nèi)容的視頻平臺(tái)，對(duì)深度偽造技術(shù)的應(yīng)用和管理承擔(dān)著重要的責(zé)任。為了確保用戶(hù)、社會(huì)和國(guó)家的利益不受損害，嗶哩嗶哩平臺(tái)必須與政府、法律機(jī)構(gòu)以及其他相關(guān)方展開(kāi)緊密合作，共同制定全面且明確的深度偽造技術(shù)應(yīng)用規(guī)范。

首先，明確深度偽造技術(shù)的使用行為至關(guān)重要，包括但不限于定義冒充他人、傳播虛假信息、侮辱他人等違規(guī)行為，確保制作者和平臺(tái)都能清晰地了解哪些行為是不被允許的。

其次，為了增強(qiáng)用戶(hù)對(duì)深度偽造視頻的辨識(shí)能力，應(yīng)明確標(biāo)識(shí)和水印要求。所有使用深度偽造技術(shù)制作的視頻都必須在畫(huà)面上顯著標(biāo)注“深度偽造”或類(lèi)似字樣，以提醒用戶(hù)注意視頻內(nèi)容的真實(shí)性。

最后，建立完善的用戶(hù)舉報(bào)和申訴機(jī)制也是必不可少的。這一機(jī)制應(yīng)著眼于處理深度偽造相關(guān)的違規(guī)視頻和制作者，確保違規(guī)內(nèi)容能夠被及時(shí)發(fā)現(xiàn)并得到妥善處理。同時(shí)，提供申訴通道，為被誤判的制作者提供申辯的機(jī)會(huì)。

總之，嗶哩嗶哩平臺(tái)應(yīng)積極與政府、法律機(jī)構(gòu)以及其他相關(guān)方合作，共同制定明確的深度偽造技術(shù)應(yīng)用規(guī)范。這不僅有助于保護(hù)用戶(hù)、社會(huì)和國(guó)家的利益，還能促進(jìn)深度偽造技術(shù)的健康發(fā)展，為社會(huì)帶來(lái)更多積極的影響。

明確平臺(tái)監(jiān)管的職責(zé)和創(chuàng)作者使用的程度

在深度偽造視頻的管理方面，需要構(gòu)建一個(gè)全面且明確的責(zé)任體系。這一體系旨在明確創(chuàng)作者在創(chuàng)作和上傳深度偽造視頻時(shí)需要承擔(dān)的法律責(zé)任，并建立健全審核機(jī)制，從而保障用戶(hù)的權(quán)益和社區(qū)的信譽(yù)。

首先，嗶哩嗶哩平臺(tái)作為視頻分享平臺(tái)，其首要責(zé)任是確保平臺(tái)上的內(nèi)容不違背社會(huì)公序良俗，不侵犯他人權(quán)益，且不會(huì)對(duì)社會(huì)的安全穩(wěn)定造成威脅。為實(shí)現(xiàn)這一目標(biāo)，嗶哩嗶哩平臺(tái)需要制定并執(zhí)行嚴(yán)格的審核標(biāo)準(zhǔn)，投入足夠的人力資源和技術(shù)支持，以構(gòu)建高效、準(zhǔn)確的審核機(jī)制。這不僅可以確保上傳的“換臉”視頻內(nèi)容合規(guī)，也能及時(shí)識(shí)別和處理違規(guī)內(nèi)容，避免其對(duì)社會(huì)造成不良影響。

其次，創(chuàng)作者需要明確使用深度偽造技術(shù)的倫理和法律邊界。創(chuàng)作者應(yīng)避免利用該技術(shù)進(jìn)行虛假陳述、人身攻擊或其他惡意行為。特別是在涉及政治、宗教等的敏感領(lǐng)域，應(yīng)明確禁止深度偽造技術(shù)的使用，以防止其被濫用，進(jìn)而影響社會(huì)穩(wěn)定。

最后，為了加強(qiáng)創(chuàng)作者和用戶(hù)對(duì)深度偽造技術(shù)合規(guī)使用的認(rèn)知，嗶哩嗶哩平臺(tái)還應(yīng)加強(qiáng)對(duì)相關(guān)法律法規(guī)的宣傳。具體可以通過(guò)發(fā)布指導(dǎo)手冊(cè)、組織線(xiàn)上培訓(xùn)或開(kāi)展相關(guān)研討會(huì)等形式，幫助創(chuàng)作者和用戶(hù)更好地了解和掌握深度偽造技術(shù)的合法使用方式。

綜上所述，明確嗶哩嗶哩平臺(tái)的監(jiān)管職責(zé)和創(chuàng)作者在使用深度偽造技術(shù)時(shí)的行為準(zhǔn)則，是確保深度偽造視頻合規(guī)傳播和良性發(fā)展的關(guān)鍵。這不僅有助于保護(hù)用戶(hù)權(quán)益，維護(hù)社會(huì)公共利益，還能推動(dòng)深度偽造技術(shù)在積極、合法的軌道上持續(xù)發(fā)展和創(chuàng)新。

加強(qiáng)公眾對(duì)深度偽造視頻的認(rèn)知

公眾對(duì)深度偽造技術(shù)的認(rèn)知程度對(duì)其理解和判斷具有決定性的影響。利用深度偽造技術(shù)能夠制作出高度逼真的內(nèi)容，使公眾誤認(rèn)為視頻內(nèi)容是真實(shí)的。因此，加強(qiáng)公眾對(duì)深度偽造技術(shù)的認(rèn)知至關(guān)重要。

首先，公眾需要了解深度偽造技術(shù)的基本原理和應(yīng)用范圍。這種技術(shù)的應(yīng)用不僅僅局限于“換臉”視頻，還涉及電影特效制作、醫(yī)學(xué)診斷等多個(gè)領(lǐng)域。通過(guò)了解深度偽造技術(shù)多樣化的應(yīng)用方式，公眾可以更加全面地認(rèn)識(shí)深度偽造技術(shù)，而非將其簡(jiǎn)單地視為只有負(fù)面影響的技術(shù)。

其次，公眾還需要對(duì)深度偽造視頻的潛在風(fēng)險(xiǎn)和危害有清晰的認(rèn)識(shí)。這種技術(shù)可能會(huì)被惡意利用，用于制作虛假信息，進(jìn)行網(wǎng)絡(luò)詐騙，破壞社會(huì)穩(wěn)定。了解這些風(fēng)險(xiǎn)可以幫助公眾提高警惕，以免成為深度偽造技術(shù)的受害者。

為了加強(qiáng)公眾對(duì)深度偽造技術(shù)的認(rèn)知，需要加強(qiáng)教育和宣傳工作。通過(guò)廣泛傳播相關(guān)知識(shí)和信息，幫助公眾形成正確的認(rèn)知和態(tài)度，確保他們能夠理性應(yīng)對(duì)深度偽造技術(shù)。同時(shí)，還需要鼓勵(lì)公眾積極參與討論和交流，分享對(duì)深度偽造技術(shù)的看法和體驗(yàn)，共同推動(dòng)社會(huì)對(duì)這一技術(shù)的正確理解和應(yīng)用。

綜上所述，加強(qiáng)公眾對(duì)深度偽造技術(shù)的認(rèn)知是確保社會(huì)公眾理性應(yīng)對(duì)這種技術(shù)的關(guān)鍵。通過(guò)加強(qiáng)教育和宣傳，公眾可以形成正確的認(rèn)知和態(tài)度，避免受到深度偽造技術(shù)的負(fù)面影響，并充分發(fā)揮深度偽造技術(shù)在各個(gè)領(lǐng)域的積極作用。

作為人工智能時(shí)代的產(chǎn)物，深度偽造技術(shù)在網(wǎng)絡(luò)中的影響力日益提升。然而，這種技術(shù)也對(duì)個(gè)人、社會(huì)和國(guó)家造成了一定的潛在危害?！皳Q臉”視頻作為深度偽造技術(shù)的典型應(yīng)用，其在嗶哩嗶哩平臺(tái)等擁有大量用戶(hù)生成內(nèi)容的平臺(tái)上的廣泛傳播引發(fā)了一系列問(wèn)題。針對(duì)這一現(xiàn)象，應(yīng)通過(guò)制定規(guī)范、明確職責(zé)、加強(qiáng)公眾認(rèn)知等多種措施，實(shí)現(xiàn)深度偽造技術(shù)的正向使用，為人類(lèi)社會(huì)帶來(lái)積極的影響。這需要政府、視頻平臺(tái)、創(chuàng)作者和公眾共同努力，以確保深度偽造技術(shù)在為社會(huì)服務(wù)的同時(shí)，不損害個(gè)人、社會(huì)和國(guó)家的利益。

本文系江蘇省南師大大學(xué)生創(chuàng)新創(chuàng)業(yè)訓(xùn)練計(jì)劃項(xiàng)目（社科類(lèi)）“深度偽造的倫理問(wèn)題及其規(guī)制研究——以B站換臉視頻為例”（編號(hào)：473）的階段性研究成果。

（作者單位：南京師范大學(xué)）