辛嘉

“臉書”發(fā)起“深度偽造檢測挑戰(zhàn)賽”

歐盟和美國對于利用“深度偽造”實(shí)施的犯罪行為，有著相近的定義，即偽造不實(shí)信息，并試圖操縱這種信息以獲得經(jīng)濟(jì)、政治利益或造成損害。在規(guī)制方面，歐美都將“深度偽造”視同于不實(shí)信息，并擬定相應(yīng)的法律政策。

歐盟的規(guī)制實(shí)踐

在歐盟的規(guī)制實(shí)踐中，尚未出臺專門針對“深度偽造”的立法及其他規(guī)制標(biāo)準(zhǔn)。通過梳理歐盟的規(guī)制實(shí)踐可以發(fā)現(xiàn)，其主要是從兩個(gè)方面將“深度偽造”納入規(guī)制框架。一是納入已有的有關(guān)不實(shí)信息的規(guī)制框架;二是納入有關(guān)AI的規(guī)制框架。這意味著與不實(shí)信息和AI相關(guān)的規(guī)制標(biāo)準(zhǔn)、規(guī)制措施都適用于“深度偽造”。

2018年6月，歐盟理事會通過了《歐盟不實(shí)信息實(shí)踐準(zhǔn)則》，該準(zhǔn)則的附件列出了應(yīng)對不實(shí)信息的最佳做法。

一是積極推動(dòng)行業(yè)自我規(guī)制。歐盟委員會要求網(wǎng)絡(luò)平臺或社交媒體必須依照《歐盟不實(shí)信息實(shí)踐準(zhǔn)則》兌現(xiàn)相關(guān)承諾，除了要求“臉書”等網(wǎng)絡(luò)科技公司必須到歐洲議會接受聽證外，歐盟執(zhí)行委員會與歐洲議會還明確表示，如果自我規(guī)制效果不佳，將會考慮立法介入。

二是要求不同利害關(guān)系人進(jìn)行合作，并建立評估審核機(jī)制?！稓W盟不實(shí)信息實(shí)踐準(zhǔn)則》遵循“多方利害關(guān)系人程序”，原因在于不實(shí)信息的傳播有多種因素，且受到信息生態(tài)系統(tǒng)中廣泛參與者的促進(jìn)和影響，因此所有利害關(guān)系人都可以在消除不實(shí)信息傳播方面發(fā)揮作用。

三是賦權(quán)消費(fèi)者，提升公民的媒體識讀素養(yǎng)。歐盟認(rèn)為，讓民眾了解媒體和信息，進(jìn)而判定及運(yùn)用信息，是防范不實(shí)信息的根本之道。因此，《歐盟不實(shí)信息實(shí)踐準(zhǔn)則》要求網(wǎng)絡(luò)巨頭公司為用戶提供工具，幫助用戶發(fā)現(xiàn)不同的新聞來源和不同的觀點(diǎn)，同時(shí)辨別不實(shí)信息，以提升社會公眾的媒體識讀能力，讓其可以主動(dòng)選擇內(nèi)容及參與制作。

2019年4月，歐盟執(zhí)行委員會AI高級專家工作組（High-Level Expert Group on AI）提出了《可信賴AI倫理指引》，設(shè)立AI規(guī)制框架，以使AI具備可信賴性。該指引指出，“可信賴性AI”應(yīng)當(dāng)具備三個(gè)關(guān)鍵特征：一是合法性，應(yīng)當(dāng)遵循所有適用于AI的法規(guī);二是倫理性，確保符合倫理原則與價(jià)值;三是“魯棒性”（robust），從技術(shù)與社會層面避免AI于無意間造成傷害。

《可信賴AI倫理指引》對于“深度偽造”也適用。該倫理指引涵蓋了AI的全生命周期，包括“數(shù)據(jù)管理”“算法開發(fā)”以及“商業(yè)運(yùn)用”。

例如，《可信賴AI倫理指引》對“隱私和數(shù)據(jù)管理”提出的要求是：必須尊重隱私并遵循適當(dāng)?shù)臄?shù)據(jù)管理機(jī)制，大眾應(yīng)可完全控制自己的個(gè)人數(shù)據(jù)，且相關(guān)應(yīng)用不會對大眾造成傷害或歧視;另外，在管理上必須預(yù)防他人對數(shù)據(jù)的盜取。

在檢視“深度偽造”的合法性時(shí)，必須提出下列問題：一是所取得的臉部影像以及所建立的影像數(shù)據(jù)庫是否經(jīng)過當(dāng)事人的同意;二是是否建立適當(dāng)?shù)膫€(gè)人數(shù)據(jù)控制機(jī)制;三是在臉部數(shù)據(jù)的利用上是否符合個(gè)人數(shù)據(jù)保護(hù)規(guī)范之要求;四是是否落實(shí)數(shù)據(jù)保護(hù)措施。

美國的規(guī)制實(shí)踐

與歐盟相比，美國對“深度偽造”技術(shù)的約束，態(tài)度更為積極、明確，在應(yīng)對措施上也更為細(xì)致，不僅在聯(lián)邦層面有專門立法的趨勢，而且一些州已經(jīng)走在了前面，通過法律對“深度偽造”予以規(guī)制。此外，美國一些網(wǎng)絡(luò)巨頭公司也通過自我規(guī)制積極應(yīng)對“深度偽造”。

自2018年以來，“深度偽造”技術(shù)引起美國國會兩黨議員的高度關(guān)注，他們先后提交了各有側(cè)重的法案，包括《惡意深度偽造禁止法案》《深度偽造問責(zé)法案》和《2019年深度偽造報(bào)告法案》。從這些法案的內(nèi)容可以管窺美國聯(lián)邦層面對“深度偽造”的規(guī)制方向。

以《深度偽造問責(zé)法案》為例，可以對美國聯(lián)邦層面的規(guī)制實(shí)踐進(jìn)行概述。2019年6月12日，美國民主黨與共和黨共同向國會提交《深度偽造問責(zé)法案》，提出“先進(jìn)技術(shù)虛假個(gè)人記錄”的定義，對不同類型的虛假記錄提出了法律要求，主要包括以下內(nèi)容：

一是標(biāo)識“數(shù)字水印”。任何含有移動(dòng)視覺元素的虛假個(gè)人記錄，都應(yīng)當(dāng)嵌入“數(shù)字水印”，明確標(biāo)識該記錄含有虛擬的視聽元素;二是視聽信息披露。任何包含音頻和視覺元素的虛假個(gè)人記錄，都應(yīng)當(dāng)包括以下內(nèi)容：①不少于1條表達(dá)清晰的口頭陳述，明確該記錄的影像及聲音經(jīng)過修改，并簡要描述修改程度。②在視頻播放過程中，必須在底部標(biāo)識清晰可見的文字陳述，表明影像及聲音經(jīng)過修改，并簡要描述修改程度;三是視覺信息披露。任何僅包含視覺元素的虛假個(gè)人記錄，都應(yīng)當(dāng)在視覺元素的整個(gè)持續(xù)時(shí)間內(nèi)，在影像底部以清晰易讀的文字表明該影像經(jīng)過修改，并簡要描述修改程度;四是音頻信息披露。任何僅包含音頻元素的虛假個(gè)人記錄，都應(yīng)當(dāng)在開端以口頭表述的方式明確表明包含經(jīng)過修改的音頻元素，并簡要描述修改程度。如果該記錄的時(shí)長超過兩分鐘，則每間隔兩分鐘需要以口頭陳述的方式明確表明該記錄經(jīng)過修改，并簡要描述修改程度。

根據(jù)《深度偽造問責(zé)法案》，違反規(guī)定須承擔(dān)刑事責(zé)任或行政責(zé)任。

與聯(lián)邦層面相比，美國的很多州對于“深度偽造”的規(guī)制明顯走在前面。目前已經(jīng)有一些州通過了正式法律，對“深度偽造”進(jìn)行規(guī)制，比較有代表性的州包括加利福尼亞、弗吉尼亞和得克薩斯。

以加利福尼亞州為例，該州的《選舉中欺騙性音頻或視覺媒體法案》規(guī)定，禁止任何個(gè)人、委員會或其他組織在選舉前60日內(nèi)，故意創(chuàng)建或散布任何意圖損害候選人聲譽(yù)或誤導(dǎo)選民的、實(shí)質(zhì)上具有欺騙性的音頻或視頻。為了避免對公民的表達(dá)自由造成限制，該法案規(guī)定了例外情形：①廣播電臺或電視臺、有線電視或衛(wèi)星電視運(yùn)營商、節(jié)目程序員或制片人，可播放實(shí)質(zhì)上具有欺騙性的音頻或視頻;②可播放諷刺或戲仿的實(shí)質(zhì)上具有欺騙性的音頻或視頻;等等。

面對立法者的積極作為，美國社會各界給予的回應(yīng)卻并不一致。一些理論界的學(xué)者認(rèn)為，當(dāng)立法者在考慮是否需要從刑事、民事及行政角度給“深度偽造”的受害者提供法律救濟(jì)時(shí)，也應(yīng)當(dāng)思考“深度偽造”的實(shí)施者以及“深度偽造”物是否應(yīng)受言論自由的保護(hù)。

產(chǎn)業(yè)界的部分人認(rèn)為，現(xiàn)有的立法在不同程度上加重了網(wǎng)絡(luò)服務(wù)提供商的法律責(zé)任，如要求網(wǎng)絡(luò)平臺對深度偽造視頻進(jìn)行事實(shí)審核或事后刪除，這已經(jīng)明顯違反了《通信規(guī)范法》第230節(jié)賦予網(wǎng)絡(luò)平臺的“豁免權(quán)”。而且現(xiàn)有法案還存在諸多有待厘清的難題，如“深度偽造”與模仿、娛樂之間如何區(qū)分。

為了避免政府過多介入，美國一些網(wǎng)絡(luò)科技公司進(jìn)行自我規(guī)制，探索解決“深度偽造”問題的辦法。

2019年9月，“臉書”投入1000萬美元，與康奈爾大學(xué)技術(shù)學(xué)院、麻省理工學(xué)院、英國牛津大學(xué)等高校共同發(fā)起“深度偽造檢測挑戰(zhàn)賽”。“臉書”委托研究人員開發(fā)具備高度真實(shí)性的“深度偽造”視頻，作為測試檢測工具的數(shù)據(jù)集?！澳槙毕Ｍㄟ^該項(xiàng)目，一方面可以征集識別“深度偽造”的最佳檢測工具，另一方面也希望引起社會公眾對“深度偽造”問題的關(guān)注。該項(xiàng)目獲得了學(xué)術(shù)界的廣泛支持。

借鑒意義

有的國家和地區(qū)專門針對“深度偽造”立法予以規(guī)制，有的則將其涵蓋在不實(shí)信息或虛假新聞的規(guī)制空間內(nèi)。不管是采取哪種模式，其目的都是為了最大限度地降低“深度偽造”技術(shù)對個(gè)人、社會及國家?guī)淼奈：Α?/p>

各國（地區(qū)）因應(yīng)“深度偽造”的策略雖有不同，但也存在一些共性，這些經(jīng)驗(yàn)值得關(guān)注。一是通過立法對“深度偽造”進(jìn)行規(guī)制，明確相關(guān)的權(quán)利義務(wù)及法律責(zé)任。二是賦予個(gè)人尋求法律救濟(jì)的權(quán)利，允許個(gè)人在遭受損害后向法院提起訴訟。三是加強(qiáng)網(wǎng)絡(luò)平臺的“看門人”責(zé)任，強(qiáng)化行業(yè)自我規(guī)制，要求網(wǎng)絡(luò)平臺積極履行監(jiān)管義務(wù)。四是鼓勵(lì)公私合作，加強(qiáng)技術(shù)研發(fā)，利用技術(shù)“規(guī)制”技術(shù)。

編輯：姚志剛 winter-yao@163.com