李 蓉 黃小龍

（湘潭大學(xué)，湖南湘潭411105）

自人類進(jìn)入“雙層社會(huì)”以降，人們的事實(shí)認(rèn)知方式便發(fā)生了根本性的變革，網(wǎng)絡(luò)成為人們了解客觀世界的重要信息來(lái)源。據(jù)報(bào)道，目前全球網(wǎng)民規(guī)模達(dá)到46.6億，網(wǎng)民平均每天上網(wǎng)時(shí)間近7小時(shí)，除去正常的休息時(shí)間，這意味著大約42%的時(shí)間是在網(wǎng)上度過(guò)的。[1]網(wǎng)絡(luò)技術(shù)的發(fā)展也深深地影響了現(xiàn)代司法證明活動(dòng)，在司法訴訟中，電子證據(jù)扮演著愈發(fā)重要的角色。誠(chéng)如樊崇義教授所言，電子證據(jù)時(shí)代已然來(lái)臨。[2]然而，隨著近年深度偽造技術(shù)的興起和泛化使用，各種深度偽造視頻、音頻等虛假數(shù)字信息使客觀事實(shí)真相變得撲朔迷離。如奧巴馬稱特朗普是“徹頭徹尾的笨蛋”、南?！づ迓逦髯砭频难葜v等深度虛假視頻，是如此地讓人深信不疑并迅速在網(wǎng)上廣泛傳播。網(wǎng)絡(luò)媒體上的虛假信息已經(jīng)讓人們很難區(qū)分真假，逼真的模擬視頻將導(dǎo)致媒體真相的終結(jié)。[3]司法的核心功能之一即是查明事實(shí)真相并作出裁決，而深度偽造向司法領(lǐng)域的滲透，使得司法事實(shí)認(rèn)定的真實(shí)性面臨巨大挑戰(zhàn)。對(duì)此新問(wèn)題，既有立法規(guī)范存在嚴(yán)重不足，亟待從理論上探尋新的解決方案或應(yīng)對(duì)之策。

一、深度偽造技術(shù)原理、特征及實(shí)踐運(yùn)用

深度偽造是一種利用機(jī)器學(xué)習(xí)技術(shù)制造或操作的數(shù)字內(nèi)容，通過(guò)創(chuàng)建或改變個(gè)人的外表、言語(yǔ)或行為的圖像或音視頻的記錄方式，讓明智的觀察者錯(cuò)誤地認(rèn)為其是真實(shí)的。這實(shí)質(zhì)上是一種利用人工智能深度學(xué)習(xí)而進(jìn)行的虛擬信息偽造。深度偽造的形式包括各種文本、圖片、音頻、視頻等電子文檔，目前實(shí)踐中較常見(jiàn)的當(dāng)屬深度偽造視頻。2017年12月，一位注冊(cè)名叫deepfake的紅迪網(wǎng)（Reddit）用戶利用人工智能合成技術(shù)（即深度偽造技術(shù)）創(chuàng)建了一系列如黛西·里德利、蓋爾·加朵等知名女性演員的換臉色情視頻，深度偽造技術(shù)由此進(jìn)入大眾視野并引發(fā)廣泛的社會(huì)關(guān)注。有學(xué)者甚至將此稱之為數(shù)字時(shí)代的開(kāi)創(chuàng)性時(shí)刻，“暴露了先進(jìn)技術(shù)的潛在危險(xiǎn)能力”。[4]

（一）深度偽造技術(shù)的運(yùn)作原理

深度偽造的運(yùn)作主要包括三項(xiàng)底層技術(shù)，一是機(jī)器學(xué)習(xí)算法，二是算法運(yùn)行計(jì)算能力，三是算法訓(xùn)練數(shù)據(jù)集。

首先，深度偽造采用的一個(gè)關(guān)鍵算法是“生成對(duì)抗網(wǎng)絡(luò)”（簡(jiǎn)稱GAN）深度學(xué)習(xí)模型，即通過(guò)鑒別算法和生成算法兩種不同算法模型創(chuàng)建深度偽造文件。其中，鑒別算法通過(guò)觀察受試者的特征并為其分配一個(gè)類別或標(biāo)簽來(lái)對(duì)數(shù)據(jù)進(jìn)行分類。生成算法則正好與此相反，它首先假設(shè)這個(gè)類別，然后確定哪些特征使數(shù)據(jù)更有可能屬于這個(gè)特定的組。[5]如確定電子郵件是否為垃圾郵件，一封郵件如果被識(shí)別為垃圾郵件，生成算法則會(huì)預(yù)測(cè)電子郵件的哪些特性增加了它被視為垃圾郵件的可能性。GAN同時(shí)訓(xùn)練兩種算法模型，生成算法的目標(biāo)是最小化鑒別算法，正確地輸出分配真實(shí)或假的標(biāo)簽的概率，鑒別算法的目標(biāo)則是最大限度地將數(shù)據(jù)準(zhǔn)確地標(biāo)記為屬于“偽造”或“真實(shí)”內(nèi)容的數(shù)據(jù)集的概率。[6]生成算法創(chuàng)建偽造文件，而鑒別算法則評(píng)估這些文件的真實(shí)性。[7]二者循環(huán)往復(fù)，都試圖戰(zhàn)勝對(duì)方，直到鑒別算法不能辨別什么是真實(shí)的，什么不是。[8]

其次，云計(jì)算服務(wù)的發(fā)展，解決了深度偽造算法計(jì)算能力需求，并且極大地減低了計(jì)算運(yùn)行成本。以ResNet-50超級(jí)計(jì)算機(jī)為例，若指示其將ImageNet數(shù)據(jù)庫(kù)中的100萬(wàn)張圖片分為1000個(gè)對(duì)象類別，需要的訓(xùn)練時(shí)間為數(shù)小時(shí)，而一臺(tái)這樣的計(jì)算機(jī)售價(jià)大約12萬(wàn)美元。但基于云的超級(jí)計(jì)算機(jī)可以僅在8分鐘內(nèi)訓(xùn)練完成，成本卻低于50美元。[9]

此外，用戶個(gè)人發(fā)布的圖像和其他海量在線內(nèi)容，一定程度上滿足了深度偽造的數(shù)據(jù)獲取需求。并且，機(jī)器學(xué)習(xí)的進(jìn)步逐步減少了對(duì)于目標(biāo)對(duì)象的數(shù)據(jù)量的需要，能夠以較少的目標(biāo)對(duì)象數(shù)據(jù)生成高質(zhì)量的虛假數(shù)據(jù)。

（二）深度偽造技術(shù)的特征分析

深度偽造技術(shù)是伴隨人工智能發(fā)展而生的新興技術(shù)，其具有生成視頻的超真實(shí)性、技術(shù)使用的便捷性以及適用成本的低廉性三個(gè)顯著特征。

首先，利用深度偽造技術(shù)生成的視頻具有超真實(shí)性。如前文所言，深度偽造技術(shù)采用了生成對(duì)抗網(wǎng)絡(luò)學(xué)習(xí)模型，生成算法和鑒別算法通過(guò)自我迭代，不斷優(yōu)化偽造和識(shí)別能力。有學(xué)者形象地將二者比喻為在攻擊者和防御者之間引發(fā)的一場(chǎng)貓捉老鼠的軍備競(jìng)賽，但攻擊者看上去更像人類，[10]即通過(guò)大量的數(shù)據(jù)訓(xùn)練學(xué)習(xí)，生成算法最終制造出鑒別算法無(wú)法辨別真假的虛假視頻，能夠繪聲繪色地描述一件某人從未說(shuō)過(guò)或做過(guò)的事情?！爱?dāng)從一個(gè)人有足夠的視頻和音頻開(kāi)始時(shí)，該算法不僅可以創(chuàng)建假視頻，還可以讓這個(gè)人說(shuō)出他們實(shí)際上沒(méi)有說(shuō)過(guò)的話。最終，這些視頻將與真實(shí)視頻無(wú)法區(qū)分?！盵11]由此足以可見(jiàn)，深度偽造視頻超真實(shí)性的特性。

其次，深度偽造技術(shù)具有使用上的便捷性。深度偽造運(yùn)用了人工智能無(wú)監(jiān)督學(xué)習(xí)技術(shù)，“可以實(shí)現(xiàn)機(jī)器的自主學(xué)習(xí)，偽造的行為脫離了人的參與，通過(guò)人工智能計(jì)算機(jī)程序自動(dòng)完成。它將偽造從被動(dòng)性偽造推入了自主性偽造的全新階段”。[12]相較于以往監(jiān)督學(xué)習(xí)或半監(jiān)督學(xué)習(xí)技術(shù)而言，無(wú)監(jiān)督學(xué)習(xí)技術(shù)的最大特點(diǎn)即在于對(duì)訓(xùn)練的源數(shù)據(jù)不再依賴人為提取、標(biāo)注，整個(gè)過(guò)程由其自主實(shí)現(xiàn)、完成。使用者只需要通過(guò)程序提供目標(biāo)文件，便可快速生成與目標(biāo)文件高度逼真的偽造視頻文件。

再次，深度偽造技術(shù)還具有適用成本上的低廉性特點(diǎn)。誠(chéng)如有學(xué)者所言，“顛覆性技術(shù)已從傳統(tǒng)神秘的技術(shù)流派，轉(zhuǎn)向技術(shù)開(kāi)源代碼的普及”，技術(shù)的獲取和應(yīng)用逐漸趨于平民化。[13]普通民眾通過(guò)GitHub等諸多網(wǎng)站即可獲得深度偽造技術(shù)的開(kāi)源代碼算法。并且，隨著大量各種換臉視頻應(yīng)用軟件的商業(yè)開(kāi)發(fā)，使得制作此類視頻所需的難度和技能也正在下降，[14]使用者僅需下載一個(gè)APP應(yīng)用程序就可以輕松實(shí)現(xiàn)視頻偽造。如FakeApp，普通用戶可以以較少的甚至免費(fèi)的成本在短短幾分鐘內(nèi)創(chuàng)建一個(gè)超真實(shí)的假視頻。而經(jīng)濟(jì)成本的低廉性或零成本性，也使深度偽造的平民化成為可能。

（三）深度偽造技術(shù)的實(shí)踐運(yùn)用

深度偽造技術(shù)所具有的上述優(yōu)勢(shì)或特征，使其得以在實(shí)踐中被廣泛傳播和運(yùn)用，正在成為一種新興的“顛覆性技術(shù)”。有學(xué)者稱之為“機(jī)器人藝術(shù)家”，其可以學(xué)習(xí)模擬任何數(shù)據(jù)分布，在任何領(lǐng)域創(chuàng)造出與我們相似的世界：圖像、音樂(lè)、演講、散文。[15]如電影行業(yè)用其合成和重現(xiàn)早已逝去的演員，讓他們能夠重新出現(xiàn)在熒屏上。當(dāng)然，深度偽造除了具有上述積極應(yīng)用價(jià)值外，在實(shí)踐中還存在其濫用的問(wèn)題。具體而言，在以下方面濫用問(wèn)題最為突出：一是非自愿換臉情色視頻。很多知名女性都遭受其難，如好萊塢知名女星黛西、斯嘉麗·約翰遜、印度調(diào)查記者拉娜·阿尤布等，而一篇名為“我們真的被侵犯了：現(xiàn)在每個(gè)人都在制作人工智能生成的假色情片”[16]的科技網(wǎng)絡(luò)文章，標(biāo)題看似挑釁，實(shí)則透露了深度偽造在情色視頻中的濫用問(wèn)題。二是網(wǎng)絡(luò)虛假通訊。網(wǎng)絡(luò)視頻等信息的真實(shí)性是當(dāng)前信息接收面臨的嚴(yán)重問(wèn)題，有新聞評(píng)論人士稱，網(wǎng)絡(luò)虛假信息宣傳直接影響了美國(guó)2016年大選。三是詐騙犯罪。如有學(xué)者所言，深度偽造是古老犯罪的最新方式。[17]深度偽造在實(shí)踐中被廣泛運(yùn)用于商業(yè)欺詐、財(cái)產(chǎn)詐騙等犯罪活動(dòng)。

無(wú)疑，實(shí)踐中深度偽造的濫用，對(duì)個(gè)人權(quán)利、國(guó)家安全和社會(huì)民主都造成了極為嚴(yán)重的威脅。[18]

二、深度偽造向司法領(lǐng)域的滲透及其隱憂

深度偽造技術(shù)的濫用是對(duì)整個(gè)社會(huì)迫在眉睫的威脅，毫無(wú)疑問(wèn)，它最終將會(huì)影響司法。[19]但這一事實(shí)比學(xué)者預(yù)期來(lái)得更快，在英國(guó)近期的一起兒童監(jiān)護(hù)權(quán)案件中，妻子就向法庭提供了其利用軟件制作的關(guān)于丈夫威脅言論的音頻，雖然法院最終通過(guò)元數(shù)據(jù)分析辨別出該音頻文件系偽造。[20]但該案向人們敲響了警鐘，即深度偽造具有向司法領(lǐng)域滲透的高度的現(xiàn)實(shí)風(fēng)險(xiǎn)。

（一）深度偽造視頻司法滲透的原因

深度偽造視頻向司法領(lǐng)域的滲透，既有當(dāng)事人利用深度偽造視頻實(shí)現(xiàn)不當(dāng)訴求的主觀目的需求，同時(shí)，也存在其他有助于當(dāng)事人利用深度偽造視頻的客觀現(xiàn)實(shí)因素，如司法人員事實(shí)認(rèn)定過(guò)程中對(duì)視頻證據(jù)的過(guò)度信賴以及成熟的深度偽造技術(shù)保障等。

首先，當(dāng)事人在訴訟中使用深度偽造視頻實(shí)現(xiàn)其訴求的主觀目的需求。馬克思曾說(shuō)：“人們?yōu)橹畩^斗的一切，都與他們的利益有關(guān)?！盵21]這表明，追求利益是人類社會(huì)活動(dòng)的目的使然。而司法訴訟活動(dòng)作為一種特殊的人類活動(dòng)，自然也離不開(kāi)對(duì)于利益的追求。隨著智能通信工具的普及，拍照、錄音、錄像不僅成為一種時(shí)尚，更是當(dāng)事人在發(fā)生案件糾紛時(shí)記錄固定案件事實(shí)的重要方式。其不僅能夠再現(xiàn)案件發(fā)生過(guò)程，同時(shí)，相對(duì)于當(dāng)事人提供的言詞證據(jù)而言，更具有客觀性和說(shuō)服力。因此，基于訴訟利益的考量，實(shí)踐中難免有當(dāng)事人投機(jī)取巧，向司法機(jī)關(guān)提交利用深度偽造技術(shù)制作的虛假視頻等證據(jù)。而“當(dāng)事人之所以千方百計(jì)向法院提供虛假證據(jù)，不言而喻，是為了訴訟上的利益”。[22]作為訴訟利益的最終承擔(dān)者，他們深知訴訟的關(guān)鍵在于證據(jù)，為了贏得訴訟或?qū)崿F(xiàn)訴求，當(dāng)事人具有將深度偽造視頻作為證據(jù)使用的強(qiáng)烈內(nèi)在驅(qū)動(dòng)力。

其次，視頻證據(jù)在實(shí)踐中對(duì)于案件事實(shí)認(rèn)定的高證明力。司法案件事實(shí)認(rèn)定不同于普通的事實(shí)認(rèn)知，其所要解決的是過(guò)去是否存在某一特定事實(shí)的問(wèn)題，是對(duì)“既往案件事實(shí)的回溯性建構(gòu)”。[23]由于歷史不能重現(xiàn)，司法人員認(rèn)定案件事實(shí)只能借助于大量的證據(jù)。而視頻證據(jù)能夠客觀地再現(xiàn)案件事實(shí)發(fā)生的經(jīng)過(guò)，被視為是“沉默的現(xiàn)場(chǎng)知情人”，對(duì)于案件事實(shí)認(rèn)定具有極強(qiáng)的證明力?！耙曨l記錄可以讓人們成為事件的原始目擊者，使他們不必決定是否信任他人的描述?！盵24]有學(xué)者甚至主張視頻證據(jù)在滿足特定條件下可以突破孤證禁止定案規(guī)則的限制。[25]足以可見(jiàn)，視頻證據(jù)在司法訴訟中發(fā)揮的重要證明作用及其對(duì)于案件事實(shí)認(rèn)定的重要影響。而正是由于司法人員對(duì)于視頻證據(jù)證明力的重視和信賴，為當(dāng)事人使用深度偽造視頻實(shí)現(xiàn)不當(dāng)訴求提供了現(xiàn)實(shí)契機(jī)。

再次，深度偽造視頻作為證據(jù)使用的技術(shù)保障。深偽技術(shù)能夠逼真地創(chuàng)建虛假視頻，而現(xiàn)行檢測(cè)、識(shí)別技術(shù)尚難對(duì)此有效甄別。這使得當(dāng)事人能夠有恃無(wú)恐地使用深度偽造視頻。此外，加之深度偽造技術(shù)還具有便捷性和低廉性等親民、便民特點(diǎn)，這也為當(dāng)事人使用深度偽造視頻節(jié)約了時(shí)間成本和經(jīng)濟(jì)成本?？偠灾?，深度偽造技術(shù)提升了視頻證據(jù)造假能力，增加了視頻鑒別難度，為當(dāng)事人在司法訴訟中濫用深度偽造視頻提供了技術(shù)上的支撐。

（二）深度偽造視頻司法適用的法治風(fēng)險(xiǎn)

深度偽造視頻向司法領(lǐng)域的滲透，觸及法庭上的每個(gè)角色：試圖支持或排除視頻作為證據(jù)的律師、決定視頻是否可接受的法官、被要求就視頻作證的專家證人或普通證人、作出裁決的陪審團(tuán)等，[26]潛藏著巨大的法治風(fēng)險(xiǎn)。

1.深度偽造視頻司法適用的根本風(fēng)險(xiǎn)：眼見(jiàn)為實(shí)的認(rèn)知理念沖擊

深度偽造技術(shù)的發(fā)展，極大地沖擊了人們傳統(tǒng)的事實(shí)認(rèn)知方式，是對(duì)眼見(jiàn)為實(shí)認(rèn)知觀念的顛覆。深度偽造技術(shù)能夠逼真地描繪一個(gè)人從未做過(guò)的事件，并且對(duì)其真假很難辨別。在司法實(shí)踐中，視頻證據(jù)往往因其證明方式的直接性而深受司法人員的重視，一張圖片勝過(guò)千言萬(wàn)語(yǔ)，但沒(méi)有什么比一段視頻更能說(shuō)服人的了。[27]司法系統(tǒng)高度重視陪審員使用視覺(jué)證據(jù)作出決定的能力，以至于哥倫比亞特區(qū)上訴法院認(rèn)為，憲法上允許檢察官將盲人排除在陪審團(tuán)之外。[28]深度偽造技術(shù)對(duì)法院將視頻證據(jù)采納為定案的根據(jù)產(chǎn)生了根本性的影響。人們總是喜歡相信自己眼睛所看到的，但深度偽造的流行使這成為一個(gè)難以置信的危險(xiǎn)假設(shè)。[29]隨著深度偽造的普遍存在，人們可能很難相信他們的眼睛或耳朵告訴他們的東西——即使信息是真實(shí)的。[30]

2.深度偽造視頻司法適用的直接風(fēng)險(xiǎn)：釀造司法錯(cuò)案

深度偽造視頻在司法實(shí)踐中作為證據(jù)適用，其可能導(dǎo)致的直接后果即是增加錯(cuò)案的發(fā)生幾率。如果一方當(dāng)事人向法院提交了深度偽造視頻，其欺騙性損害并不僅僅限于視頻本身。嵌入虛假視頻的謊言將滲透到訴訟的其他部分，觀看虛假視頻可能會(huì)影響證人對(duì)事件回憶的證詞。[31]對(duì)此，有研究者專門(mén)作了試驗(yàn)，將60名大學(xué)生放在一個(gè)房間里從事賭博活動(dòng)，在活動(dòng)結(jié)束后，研究人員分別向受試者展示了經(jīng)過(guò)數(shù)字修改的一個(gè)共同受試者的作弊視頻，他們?cè)诳吹郊僖曨l后，近一半的受試者愿意作證目睹了共同受試者的作弊，但實(shí)際上沒(méi)有一個(gè)受試者真正作弊。[32]照片和視頻是刷新證人記憶的有力工具，即使圖像所喚起的記憶從未發(fā)生過(guò)。虛假視頻中固有的暗示性信息極大地增加了證人相信她有個(gè)人知識(shí)來(lái)驗(yàn)證視頻的真實(shí)性，即使證人沒(méi)有欺騙的故意。[33]事實(shí)上，深度偽造視頻在訴訟中適用，不僅對(duì)證人證詞會(huì)產(chǎn)生暗示性影響，對(duì)司法人員也會(huì)產(chǎn)生同樣的效果。有研究表明，觀看視頻證據(jù)的司法人員保留案件信息的可能性要比其他形式證據(jù)高出650%。[34]由于視頻證據(jù)的高證明力性，法官和證人都極易受其“暗示性”信息的影響。而深度偽造視頻在訴訟中的出現(xiàn)，極易誤導(dǎo)司法人員，增加了錯(cuò)抓、錯(cuò)判、錯(cuò)放的司法錯(cuò)案風(fēng)險(xiǎn)。

3.深度偽造視頻司法適用的次生風(fēng)險(xiǎn)：“污名化”電子證據(jù)

毋庸置疑，深度偽造視頻本質(zhì)上歸屬于電子證據(jù)，因此，在當(dāng)前深度偽造視頻的真實(shí)性鑒別還存在較大困難的情況下，深度偽造視頻有將電子證據(jù)“污名化”的危險(xiǎn)。有學(xué)者將此稱之為“說(shuō)謊者紅利”，即“隨著公眾對(duì)深度偽造的威脅越來(lái)越了解”，造假者就越有可能“試圖逃避責(zé)任”，他們譴責(zé)真實(shí)的視頻或音頻是虛假的。申言之，一個(gè)持懷疑態(tài)度的公眾將會(huì)懷疑真實(shí)的音頻和視頻證據(jù)的真實(shí)性。[35]隨著電子證據(jù)法律地位的確立和承認(rèn)，司法證明進(jìn)入電子證據(jù)時(shí)代，電子證據(jù)在司法實(shí)踐中扮演著愈發(fā)重要的角色，劉品新教授甚至稱其為新一代的“證據(jù)之王”。[36]而深度偽造技術(shù)的發(fā)展，使得電子證據(jù)的真實(shí)性、可靠性嚴(yán)重存疑，即使在電子證據(jù)是真實(shí)的情況下，司法人員也難免“心有余悸”，甚至可能導(dǎo)致對(duì)電子證據(jù)的心理排斥。正如一名前檢察官所說(shuō)的那樣，根據(jù)他們?cè)诜ㄍド咸幚碜C據(jù)的經(jīng)驗(yàn)，深度偽造是惡意行為者武器庫(kù)中一種特別強(qiáng)大的新武器。[37]一旦當(dāng)事人提出視頻證據(jù)是偽造的，并試圖將其排除或讓陪審團(tuán)對(duì)其真實(shí)性產(chǎn)生疑問(wèn)，陪審團(tuán)很可能發(fā)生“反向CSI效應(yīng)”，如果扮演事實(shí)調(diào)查者的陪審團(tuán)開(kāi)始懷疑是否能夠知道什么是真實(shí)的，他們的懷疑將會(huì)破壞整個(gè)司法系統(tǒng)。[38]即除了深度偽造被視為真實(shí)的風(fēng)險(xiǎn)外，深度偽造存在的認(rèn)知還破壞了人們對(duì)未篡改圖像真實(shí)性的信念。換句話說(shuō)，人們不再相信任何事情都是真實(shí)的。[39]

4.深度偽造視頻司法適用的深層風(fēng)險(xiǎn)：消解司法權(quán)威

深度偽造視頻在司法實(shí)踐中的濫用，還具有消解司法權(quán)威性的深層次風(fēng)險(xiǎn)。司法權(quán)威是司法外在強(qiáng)制力與人們內(nèi)心自覺(jué)遵從的統(tǒng)一。[40]但就現(xiàn)代法治建設(shè)而言，司法權(quán)威的樹(shù)立更加強(qiáng)調(diào)當(dāng)事人及社會(huì)公眾對(duì)司法裁判的自覺(jué)遵守、服從。而深度偽造技術(shù)顛覆了人們“眼見(jiàn)為實(shí)”的傳統(tǒng)認(rèn)知，“當(dāng)社會(huì)公眾意識(shí)到深度偽造被大范圍濫用，而個(gè)人又無(wú)從辨別真假時(shí)，將可能形成對(duì)任何圖像、視頻的不信任”。[41]如果人們不再相信有什么是能夠辨別真實(shí)的，或者他們相信法庭審判中充斥著虛假證據(jù)，那么法院將失去公眾對(duì)其判決公正性的信賴和信任。[42]而人們對(duì)于司法判決的不信任、不接受，將嚴(yán)重?fù)p害司法機(jī)關(guān)的公信力，消解司法的權(quán)威性。

三、深度偽造司法風(fēng)險(xiǎn)應(yīng)對(duì)的域外經(jīng)驗(yàn)

深度偽造向司法訴訟領(lǐng)域的滲透，無(wú)疑對(duì)當(dāng)代司法提出了嚴(yán)重挑戰(zhàn)，甚至“可能對(duì)司法公正性產(chǎn)生毀滅性的影響”。[43]對(duì)此，域外理論研究者和立法工作者作了積極的理論研究和實(shí)踐探索，審視域外的既有經(jīng)驗(yàn)，這對(duì)于我國(guó)解決該問(wèn)題具有重要的參考意義。

（一）深度偽造司法風(fēng)險(xiǎn)應(yīng)對(duì)的理論研究

目前，我國(guó)學(xué)者對(duì)深度偽造的司法風(fēng)險(xiǎn)還沒(méi)有明確的認(rèn)識(shí)。相較而言，美國(guó)學(xué)者已就此問(wèn)題作了大量的理論研究，提出了以下幾種解決問(wèn)題的思路或方法。

1.視頻證據(jù)認(rèn)證門(mén)檻提高論

一些學(xué)者很早之前就注意到證據(jù)認(rèn)證門(mén)檻太低而無(wú)法解決數(shù)字?jǐn)z影發(fā)展所帶來(lái)的虛假證據(jù)風(fēng)險(xiǎn)問(wèn)題，但“深度偽造時(shí)代的黎明將這種缺陷帶著一種新的緊迫感走到了最前沿”。[44]根據(jù)美國(guó)《聯(lián)邦證據(jù)規(guī)則》第901（a）條的規(guī)定，對(duì)于證據(jù)的鑒真或認(rèn)定，“證據(jù)提出者須提供足以支持該證據(jù)系其所主張證據(jù)之認(rèn)定的證據(jù)”。很多學(xué)者認(rèn)為，該初步證明證據(jù)真實(shí)性的門(mén)檻并不高，僅需提供“一個(gè)基礎(chǔ)，讓陪審團(tuán)可以合理地發(fā)現(xiàn)證據(jù)就是支持者所說(shuō)的那樣就足夠了”?！皵?shù)字證據(jù)的支持者通?？梢杂闷渌山邮艿目刹勺C據(jù)來(lái)驗(yàn)證該證據(jù)的真實(shí)性?！盵45]如當(dāng)事人可以通過(guò)提供相關(guān)證人的證言，或使用證據(jù)的獨(dú)特特征來(lái)滿足這一要求。而相對(duì)較低的法庭準(zhǔn)入門(mén)檻使得陪審團(tuán)接觸假視頻的可能性不斷增加，因此多數(shù)學(xué)者提出應(yīng)當(dāng)提高視頻證據(jù)的準(zhǔn)入門(mén)檻，“需要更多的間接證據(jù)來(lái)證實(shí)視頻證據(jù)是一個(gè)小的但關(guān)鍵的步驟，將減輕，但不是解決，即將到來(lái)的深度偽造危機(jī)”。[46]即當(dāng)“當(dāng)陪審團(tuán)審查數(shù)字視頻證據(jù)的真實(shí)性時(shí)，證據(jù)提出者應(yīng)當(dāng)向陪審團(tuán)提供足夠的間接證據(jù)——包括數(shù)量和質(zhì)量”，以確保陪審員有足夠的證據(jù)來(lái)衡量越來(lái)越多的令人信服的深度欺詐視頻的真實(shí)性。[47]

具體而言，學(xué)者又有兩種不同的思路：一是圖片證據(jù)認(rèn)證理論，二是聽(tīng)證認(rèn)證法。

美國(guó)法院關(guān)于視頻證據(jù)認(rèn)證的方法主要有兩種：一是圖片證據(jù)理論，二是沉默證人理論。根據(jù)圖片證據(jù)理論，只有當(dāng)證人能夠在陪審團(tuán)面前作證，證明該證據(jù)是對(duì)所發(fā)生的事情的公平和準(zhǔn)確的陳述時(shí)，視頻證據(jù)才可被接受。該理論基于這樣一種觀點(diǎn)，即任何攝影或視頻證據(jù)都只是“口頭證詞的圖形描述”，因此必須被證人證實(shí)是正確的。當(dāng)然，證人不需要在創(chuàng)建視頻時(shí)在場(chǎng)，也不要求是攝影或錄像方面的專家，其只需就所了解的案件事實(shí)作公平和準(zhǔn)確的陳述。與圖片證據(jù)理論相反，沉默證人理論承認(rèn)沒(méi)有合格證人的視頻證據(jù)，當(dāng)事人可以提交一張照片或視頻作為實(shí)質(zhì)性證據(jù)，該照片或視頻能夠獨(dú)立傳達(dá)它所描述的內(nèi)容，從而消除對(duì)證人的需要。由于依據(jù)沉默證人理論承認(rèn)的證據(jù)可以單獨(dú)作為實(shí)質(zhì)性證據(jù)，因此，法院通常只有在裝置和程序在受控環(huán)境中建立和執(zhí)行時(shí)才承認(rèn)，如閉路電視監(jiān)控錄像，以及X射線攝影和警察錄像。不過(guò)，由于大多數(shù)公眾個(gè)人創(chuàng)作的數(shù)碼攝影因其缺乏系統(tǒng)和可靠的科學(xué)過(guò)程，而且提出者往往無(wú)法證明安全的保管鏈，因此難以達(dá)到沉默證人理論的要求?！吧疃葌卧煲曨l預(yù)計(jì)將很快變得如此令人信服，以至于肉眼無(wú)法識(shí)別”，于是有學(xué)者主張，在沒(méi)有積極的司法保障措施的情況下，“法院應(yīng)采用圖片證據(jù)理論，廢除使用沉默證人理論，以確保已承認(rèn)的視頻證據(jù)是真實(shí)的”。[48]

另外，還有學(xué)者提出了聽(tīng)證認(rèn)證的解決思路。由于深度偽造技術(shù)的發(fā)展使得證人“公平和準(zhǔn)確的描述”所依賴的假設(shè)已經(jīng)過(guò)時(shí)，法院需要在其他地方尋找足夠的證據(jù)，即視頻證據(jù)就是其支持者所聲稱的。提出在法院承認(rèn)視頻證據(jù)之前，當(dāng)事方可要求進(jìn)行聽(tīng)證，要求支持者通過(guò)其他證據(jù)證實(shí)信息來(lái)源。這也將構(gòu)成聯(lián)邦證據(jù)規(guī)則第901（b）（11）條。[49]聽(tīng)證會(huì)將考慮除901（b）（1）的基本要求之外的認(rèn)證因素，正如支持者在傳統(tǒng)的901（b）（1）或901（b）（9）路徑之外建立其基礎(chǔ)時(shí)，法院將考慮的那樣。為了解決大規(guī)模的深度偽造問(wèn)題，并阻止它們進(jìn)入法庭，初步的聽(tīng)證程序?qū)⒃鰪?qiáng)陪審團(tuán)對(duì)考慮的視頻證據(jù)的信心。[50]

2.視頻證據(jù)認(rèn)證門(mén)檻維持論

與主張?zhí)岣咭曨l證據(jù)認(rèn)證門(mén)檻的學(xué)者不同，該論者認(rèn)為既有的證據(jù)規(guī)則已足以解決深度偽造視頻的風(fēng)險(xiǎn)問(wèn)題，提高認(rèn)證門(mén)檻將弊大于利。認(rèn)為深度偽造只是造假現(xiàn)象悠久歷史上的最新發(fā)展，即各種電子文檔，包括圖像、視頻容易受到操作。但從攝影的早期開(kāi)始，人們就已經(jīng)意識(shí)到照片可以描繪現(xiàn)實(shí)，但同樣能產(chǎn)生幻覺(jué)。在20世紀(jì)末，就有專家預(yù)測(cè)，Adobe光電商店的出現(xiàn)將引發(fā)“真理的危機(jī)”，但社會(huì)最終適應(yīng)了該項(xiàng)技術(shù)。而法庭對(duì)虛假的照片也從不陌生，事實(shí)上，虛假的照片在美國(guó)法庭上被揭穿了150年。歷史經(jīng)驗(yàn)告訴我們，法院已經(jīng)習(xí)慣了文件不是所謂的可能性。為了確保至少有一些基本的可能性，即一件證據(jù)“就是支持者所聲稱的”，法院長(zhǎng)期以來(lái)一直對(duì)這些證據(jù)施加了認(rèn)證要求，無(wú)論是手寫(xiě)文件還是打印文件，膠卷、數(shù)碼照片、錄像帶或數(shù)字視頻。如果一份文件不能得到其支持者令人滿意的認(rèn)證，它將不被接納為證據(jù)。因此，當(dāng)前的證據(jù)身份驗(yàn)證規(guī)則已經(jīng)足夠。[51]并且，提高視頻證據(jù)認(rèn)證門(mén)檻，將會(huì)給視頻證據(jù)的支持者帶來(lái)身份驗(yàn)證的挑戰(zhàn)。支持者不得不權(quán)衡該視頻對(duì)案件的證明價(jià)值與獲得承認(rèn)需要的代價(jià)。這可能會(huì)對(duì)來(lái)自弱勢(shì)社會(huì)經(jīng)濟(jì)背景的訴訟當(dāng)事人和證人產(chǎn)生不成比例的影響，“將那些無(wú)法獲得專家和資源的人排除在外”，無(wú)法獲得他們應(yīng)得的正義。同時(shí)有利于更富有的個(gè)人或公司，從而再生和加劇在獲得司法公正方面的現(xiàn)有差距。[52]

3.視頻證據(jù)AI技術(shù)反制論

另有論者認(rèn)為，隨著機(jī)器學(xué)習(xí)和AI技術(shù)的發(fā)展，即便是數(shù)字媒體法證專家的證詞也不足以鑒定視頻證據(jù)真?zhèn)?，因?yàn)閷＜易C人也可能無(wú)法辨別對(duì)數(shù)字視頻的修改。對(duì)此，有學(xué)者提出使用AI來(lái)反制AI視頻操縱，如美國(guó)國(guó)防高級(jí)研究計(jì)劃局（DARPA）于2018年就啟動(dòng)了一項(xiàng)名為“媒體取證”（Media Forensics）的研究項(xiàng)目，旨在研發(fā)自動(dòng)檢測(cè)和評(píng)估數(shù)字視覺(jué)媒體真實(shí)性的技術(shù)，以識(shí)別視覺(jué)證據(jù)是否系偽造。隨著各種AI檢測(cè)軟件的研發(fā)，深度偽造的自動(dòng)化檢測(cè)識(shí)別只是時(shí)間問(wèn)題。[53]

（二）深度偽造司法風(fēng)險(xiǎn)應(yīng)對(duì)的立法回應(yīng)

深度偽造技術(shù)的濫用風(fēng)險(xiǎn)已引起了多國(guó)的重視，如美國(guó)相繼推出了《2018年惡意偽造禁令法案》《深度偽造責(zé)任法案》《2019年深度偽造報(bào)告法案》，歐盟制定了《通用數(shù)據(jù)保護(hù)條例》《反虛假信息行為準(zhǔn)則》，德國(guó)頒布了《社交媒體管理法》，英國(guó)出臺(tái)了《數(shù)據(jù)保護(hù)法》等，都旨在對(duì)深度偽造技術(shù)使用進(jìn)行控制。從既有的立法規(guī)定來(lái)看，雖然規(guī)定了受深度偽造侵害的權(quán)利人能夠提起訴訟，要求民事賠償或刑事追責(zé)，但似乎并沒(méi)有意識(shí)到深度偽造作為證據(jù)使用的問(wèn)題。當(dāng)然，既有的立法規(guī)定在一定程度上對(duì)于法院視頻證據(jù)認(rèn)證是有促進(jìn)意義的，具體而言，有以下幾點(diǎn)：

首先，規(guī)定深度偽造內(nèi)容制作者的強(qiáng)制披露義務(wù)。制作者應(yīng)當(dāng)采用嵌入數(shù)字水印、文字、語(yǔ)音標(biāo)識(shí)等方式披露合成信息，對(duì)于違反披露義務(wù)的制作者或者惡意刪除披露信息的行為人將承擔(dān)相應(yīng)的民事責(zé)任，行為惡劣、造成嚴(yán)重后果的還會(huì)面臨罰金、監(jiān)禁刑等刑事處罰。強(qiáng)制披露義務(wù)對(duì)于解決深度偽造所造成的視頻真實(shí)性危機(jī)至關(guān)重要，如果使用得當(dāng)，信息披露將給觀眾明確的提示，眼前所看到的圖片、視頻或錄像是真實(shí)的還是虛假的，從而促進(jìn)信任和信賴。[54]

其次，強(qiáng)調(diào)網(wǎng)絡(luò)平臺(tái)的審核責(zé)任及通知?jiǎng)h除義務(wù)。根據(jù)《數(shù)字千年版權(quán)法》的規(guī)定，在線平臺(tái)對(duì)于用戶上傳的網(wǎng)絡(luò)視頻，具有相應(yīng)的審核和刪除義務(wù)。平臺(tái)一旦意識(shí)到其發(fā)布內(nèi)容違反版權(quán)法等法律規(guī)定，該平臺(tái)必須刪除內(nèi)容并通知被指控的侵權(quán)人，然后侵權(quán)人可以向版權(quán)持有人提供反通知。對(duì)于違法的深度虛假信息，在線平臺(tái)在收到法院的禁令或被侵權(quán)人的申請(qǐng)后，同樣理當(dāng)及時(shí)刪除。

再次，明確相關(guān)檢測(cè)識(shí)別技術(shù)開(kāi)發(fā)的政府責(zé)任。《深度偽造責(zé)任法案》明確規(guī)定政府成立深度偽造特別小組，致力于開(kāi)發(fā)深度虛假檢測(cè)技術(shù)和反制技術(shù)，并為研究此類技術(shù)的其他政府部門(mén)提供行政和科學(xué)支持，與私營(yíng)企業(yè)或?qū)W術(shù)機(jī)構(gòu)合作開(kāi)發(fā)檢測(cè)識(shí)別工具等，檢測(cè)識(shí)別技術(shù)與互聯(lián)網(wǎng)平臺(tái)共享。

（三）深度偽造司法風(fēng)險(xiǎn)應(yīng)對(duì)的經(jīng)驗(yàn)啟示

美國(guó)在關(guān)于深度偽造的理論研究和立法探索方面相對(duì)具有時(shí)代前沿性，雖然其內(nèi)部還存在諸多爭(zhēng)議，如證據(jù)認(rèn)證標(biāo)準(zhǔn)是否提高、深度偽造規(guī)制與憲法第一修正案是否沖突等。但其既有的理論研究或立法探索對(duì)于我們應(yīng)對(duì)深度偽造的司法風(fēng)險(xiǎn)仍有較大的借鑒或啟示意義。

1.平衡公共利益與私人利益

學(xué)者關(guān)于視頻證據(jù)認(rèn)證門(mén)檻或準(zhǔn)入門(mén)檻是否提高的爭(zhēng)論，其實(shí)質(zhì)即是如何平衡當(dāng)事人的訴訟利益和國(guó)家打擊深度偽造濫用的公共利益的問(wèn)題。提高視頻證據(jù)門(mén)檻，有助于阻止虛假視頻進(jìn)入法庭，保證司法公正判決，但同時(shí)也增加了視頻證據(jù)支持者的證明負(fù)擔(dān)，甚至可能造成支持者因社會(huì)經(jīng)濟(jì)等原因無(wú)法使真實(shí)的視頻證據(jù)達(dá)到法庭準(zhǔn)入門(mén)檻而被法院排除在法庭之外的危險(xiǎn)，導(dǎo)致司法的非正義。因此，我們?cè)谠O(shè)置視頻證據(jù)的認(rèn)證門(mén)檻或標(biāo)準(zhǔn)時(shí)，必須二者平衡。

2.推進(jìn)深度偽造濫用風(fēng)險(xiǎn)的綜合治理

互聯(lián)網(wǎng)和相關(guān)技術(shù)對(duì)當(dāng)代生活的各個(gè)方面產(chǎn)生了或積極或消極的巨大影響，深度偽造的風(fēng)險(xiǎn)治理不能輕易從互聯(lián)網(wǎng)治理問(wèn)題中剝離出來(lái)，需要一個(gè)更加連貫的治理系統(tǒng)。[55]治理深度偽造濫用風(fēng)險(xiǎn)，必須走綜合治理路線，任何的單打獨(dú)斗都不可能取得完全的勝利。具體而言，一是司法機(jī)關(guān)視頻證據(jù)認(rèn)證方法的綜合性，二是參與主體的多元性。前者是就深度偽造在司法領(lǐng)域的濫用而言的，后者則是對(duì)深度偽造風(fēng)險(xiǎn)的整體治理要求。雖然美國(guó)學(xué)者提出了視頻證據(jù)認(rèn)證的多種方法，但任何單一的認(rèn)證標(biāo)準(zhǔn)都是不科學(xué)的，如利用元數(shù)據(jù)分析和專家技術(shù)鑒定是可能識(shí)別深度偽造的，但這是昂貴的和低效率的。技術(shù)檢測(cè)深度偽造是可能的，但它是不完善的。[56]另外，防止深度偽造濫用，必須個(gè)人、平臺(tái)、政府等多主體協(xié)同，方能有效推進(jìn)深度偽造風(fēng)險(xiǎn)治理。

3.明確深度偽造使用規(guī)范及法律責(zé)任

對(duì)于深度偽造司法風(fēng)險(xiǎn)的防范，除了司法機(jī)關(guān)提高自身的識(shí)別能力外，還應(yīng)制定詳細(xì)的關(guān)于深度偽造的使用規(guī)范，明確深度偽造創(chuàng)建者的披露或標(biāo)識(shí)義務(wù)，對(duì)于違反使用規(guī)范的行為，應(yīng)強(qiáng)化相應(yīng)的責(zé)任追究，如民事賠償、行政處罰或刑事追責(zé)，提高深度偽造的違法成本。

4.借力技術(shù)賦能

信息化、數(shù)字化是未來(lái)發(fā)展的趨勢(shì)，深度偽造風(fēng)險(xiǎn)的防范亦需融入這一浪潮。AI反制AI或?qū)⑹俏磥?lái)深度偽造風(fēng)險(xiǎn)治理的重要途徑，雖然有學(xué)者指出，這很可能是一場(chǎng)失敗的戰(zhàn)斗，或者充其量是一場(chǎng)僵局。[57]但是，這絕不應(yīng)是阻礙深度偽造檢測(cè)技術(shù)研發(fā)及應(yīng)用的當(dāng)然理由。

四、深度偽造司法滲透的應(yīng)對(duì)策略

技術(shù)本身無(wú)謂善惡，深度偽造有其積極的社會(huì)價(jià)值和意義，因此，深度偽造司法濫用風(fēng)險(xiǎn)的治理不應(yīng)也不可能從本源上去禁止深度偽造技術(shù)的運(yùn)用。對(duì)此，解決問(wèn)題的關(guān)鍵在于：一是司法機(jī)關(guān)應(yīng)當(dāng)適應(yīng)深度偽造技術(shù)威脅，完善視頻證據(jù)準(zhǔn)入和審查制度；二是立法上應(yīng)當(dāng)強(qiáng)化深度偽造技術(shù)規(guī)制，確保技術(shù)合法使用；三是依托新興技術(shù)，推進(jìn)深度偽造治理智能化、技術(shù)化；四是創(chuàng)新人才培養(yǎng)機(jī)制，培養(yǎng)“法律+技術(shù)”的復(fù)合型法治人才隊(duì)伍。

（一）司法機(jī)關(guān)回應(yīng)性調(diào)適

深度偽造視頻是虛假證據(jù)，顯然不能作為法院裁判的依據(jù)。因此，從司法機(jī)關(guān)層面而言，關(guān)鍵在于防止深度偽造進(jìn)入法庭以及強(qiáng)化視頻證據(jù)真實(shí)性審查。

1.明確視頻證據(jù)法庭準(zhǔn)入標(biāo)準(zhǔn)

證據(jù)準(zhǔn)入標(biāo)準(zhǔn)是指證據(jù)提供者提供證據(jù)證明其所主張證據(jù)系真實(shí)、合法的證明要求或證明標(biāo)準(zhǔn)。我國(guó)學(xué)界認(rèn)為，證據(jù)事實(shí)不屬于證明對(duì)象。[58]并且，這種觀點(diǎn)直接影響了司法實(shí)踐。證據(jù)提供者只需要說(shuō)明證據(jù)來(lái)源、證明目的，證據(jù)即可進(jìn)入法庭，并沒(méi)有設(shè)置證據(jù)的法庭準(zhǔn)入門(mén)檻。當(dāng)然，低門(mén)檻的法庭準(zhǔn)入能夠?qū)⒋罅康陌讣嚓P(guān)證據(jù)呈現(xiàn)到法官面前，在證據(jù)真實(shí)的情況下，法官接觸的案件信息越多，越有利于其作出公正的司法裁判。然而，現(xiàn)實(shí)的情況是，進(jìn)入法庭的證據(jù)并不都能保證是真實(shí)的，法官很容易受虛假證據(jù)的干擾，特別是法庭上的深度偽造視頻，更是如此。而設(shè)置合理的法庭準(zhǔn)入標(biāo)準(zhǔn)，無(wú)疑是防止深度偽造證據(jù)進(jìn)入法庭的有效途徑。因此，本文并不完全贊同證據(jù)事實(shí)不是證明對(duì)象的觀點(diǎn)。當(dāng)然，對(duì)于證據(jù)準(zhǔn)入標(biāo)準(zhǔn)的設(shè)置，需要明確以下兩點(diǎn)內(nèi)容：

一是證據(jù)準(zhǔn)入需要達(dá)到的真實(shí)性證明程度。證據(jù)準(zhǔn)入標(biāo)準(zhǔn)的設(shè)置必須平衡司法事實(shí)查明和當(dāng)事人訴權(quán)保護(hù)，過(guò)高或過(guò)低的準(zhǔn)入標(biāo)準(zhǔn)都是對(duì)另一種利益的不當(dāng)侵害。筆者認(rèn)為，證據(jù)準(zhǔn)入門(mén)檻設(shè)置為法官具有信賴該證據(jù)為真實(shí)的合理根據(jù)是較為可行的。一方面是因?yàn)楹侠砀鶕?jù)標(biāo)準(zhǔn)的證明要求并不太高。所謂具有合理根據(jù)，即法官接受該證據(jù)系因?yàn)樵撟C據(jù)的真實(shí)性有其他證據(jù)的證明。對(duì)當(dāng)事人而言，其只需要能夠提供證據(jù)向法官證明其所主張證據(jù)系真實(shí)即可，并不要求達(dá)到確信真實(shí)或高度蓋然性真實(shí)的證明程度，而合理根據(jù)標(biāo)準(zhǔn)更多的是對(duì)證據(jù)“量”的要求。另一方面，證據(jù)準(zhǔn)入門(mén)檻的設(shè)置，實(shí)質(zhì)上是增加了一道證據(jù)審查程序，為法庭事實(shí)認(rèn)定準(zhǔn)確性、司法裁判的公正性增添了一道護(hù)身符。

具言之，法院應(yīng)當(dāng)在案件立案審查時(shí)，由立案庭法官同時(shí)對(duì)證據(jù)進(jìn)行準(zhǔn)入標(biāo)準(zhǔn)審查，對(duì)不符合準(zhǔn)入標(biāo)準(zhǔn)的，應(yīng)當(dāng)告知當(dāng)事人在合理時(shí)限內(nèi)予以補(bǔ)充，補(bǔ)充時(shí)限和次數(shù)可以參照退回補(bǔ)充偵查的時(shí)限和次數(shù)要求，以一個(gè)月和兩次為限，經(jīng)補(bǔ)充后仍未達(dá)到準(zhǔn)入標(biāo)準(zhǔn)的證據(jù)，應(yīng)當(dāng)不予采納。而對(duì)于當(dāng)事人在審判階段向法庭提交的證據(jù)，則由審判法官予以審查判斷。

二是證據(jù)準(zhǔn)入標(biāo)準(zhǔn)的適用范圍。如前文所言，準(zhǔn)入標(biāo)準(zhǔn)某種程度上即是準(zhǔn)入審查程序，那么，是否一切證據(jù)都需要適用準(zhǔn)入審查程序呢？顯然，沒(méi)有必要，并且，如果一切證據(jù)都適用準(zhǔn)入審查，那將會(huì)陷入循環(huán)論證的邏輯怪圈。筆者認(rèn)為，證據(jù)準(zhǔn)入審查應(yīng)當(dāng)限于實(shí)物證據(jù)，而不是所有的案件證據(jù)。實(shí)物證據(jù)是相對(duì)言詞證據(jù)而言的，是指那些以物品、痕跡、書(shū)面文件、錄音、錄像等為物質(zhì)載體的證據(jù)形式。[59]這主要包括物證、書(shū)證、視聽(tīng)資料、電子數(shù)據(jù)等證據(jù)類型。之所以主張準(zhǔn)入審查只適用于實(shí)物證據(jù)，一是言詞證據(jù)的真實(shí)性審查需依賴相關(guān)言詞“證人”直接到庭陳述，這也是現(xiàn)今國(guó)家普遍確立直接言詞原則的根本原因，而這在立案階段是無(wú)法完成的，即使能夠?qū)崿F(xiàn)，那也會(huì)造成訴訟的極度不經(jīng)濟(jì)性。二是對(duì)實(shí)物證據(jù)準(zhǔn)入審查重點(diǎn)是審查是否為原件、原物，不是原件、原物的能否提供證據(jù)證明與原件、原物核對(duì)一致，審查程序相對(duì)簡(jiǎn)便、可行。值得注意的是，雖然在我國(guó)刑事訴訟法司法解釋規(guī)定中，也明確了書(shū)證、物證、視聽(tīng)資料等實(shí)物證據(jù)原件、原物或原始載體的審查，但是規(guī)定在法庭審判階段，時(shí)間明顯過(guò)于滯后，證據(jù)準(zhǔn)入審查程序缺失。對(duì)此，筆者認(rèn)為，將實(shí)物證據(jù)原件的審查提前到證據(jù)準(zhǔn)入審查程序是較為科學(xué)合理的，當(dāng)然，這并不排除庭審中庭審法官對(duì)證據(jù)原件的審查權(quán)能。

2.強(qiáng)化視頻證據(jù)真實(shí)性審查

證據(jù)真實(shí)性審查無(wú)疑是法庭審判的重點(diǎn)內(nèi)容，對(duì)于視頻證據(jù)的真實(shí)性認(rèn)定，我國(guó)司法解釋規(guī)定了單一審查和綜合審查兩種方式。前者強(qiáng)調(diào)對(duì)電子證據(jù)生成、收集、存儲(chǔ)、傳輸過(guò)程的同一性審查；后者則是強(qiáng)調(diào)證據(jù)相互印證、排除合理懷疑。傳統(tǒng)的證據(jù)審查方式對(duì)于深度偽造視頻仍然適用，故對(duì)此不再贅述，文章重點(diǎn)就深度偽造對(duì)視頻證據(jù)真實(shí)性審查的新挑戰(zhàn)、新要求進(jìn)行論述。

一是視頻證據(jù)原件的認(rèn)定標(biāo)準(zhǔn)。在司法實(shí)踐中，一直存在對(duì)證據(jù)原件的要求，如刑訴法司法解釋中就明確了，據(jù)以定案的物證、書(shū)證應(yīng)當(dāng)是原物、原件。新民事訴訟證據(jù)規(guī)定亦作了類似規(guī)定，當(dāng)事人向法院提供證據(jù)，應(yīng)當(dāng)提供原件、原物。并且，實(shí)踐中還存在證據(jù)原件的證明力優(yōu)于復(fù)制件等傳來(lái)證據(jù)的證據(jù)認(rèn)定思維，如2002年行政訴訟證據(jù)規(guī)則規(guī)定，“原件、原物優(yōu)于復(fù)制件、復(fù)制品”“原始證據(jù)優(yōu)于傳來(lái)證據(jù)”。證據(jù)原件一定程度上代表了案件事實(shí)真相。對(duì)此，筆者認(rèn)為，對(duì)于電子證據(jù)原件的選擇和認(rèn)定，需要重新予以確定。誠(chéng)如劉品新教授所言，我國(guó)關(guān)于電子證據(jù)規(guī)定屬于混雜的體系。[60]在各法律規(guī)定中雖然都在強(qiáng)調(diào)應(yīng)當(dāng)提供電子證據(jù)原件，但對(duì)于何為電子證據(jù)原件，并沒(méi)有明確的規(guī)定?；蛟S是由于電子證據(jù)的虛擬空間性和數(shù)字空間性的特點(diǎn)，[61]使得對(duì)其難以直觀把握，所以，實(shí)踐中規(guī)定了電子證據(jù)原價(jià)外在的輔助判斷標(biāo)準(zhǔn)。如2004年《電子簽名法》規(guī)定，數(shù)據(jù)電文原件是指“能夠有效地表現(xiàn)所載內(nèi)容”，并且“能夠可靠地保證自最終形成時(shí)起，內(nèi)容未被更改”。2016年最高人民法院、最高人民檢察院（以下簡(jiǎn)稱“兩高”）及公安部《關(guān)于辦理刑事案件收集提取和審查判斷電子數(shù)據(jù)若干問(wèn)題的規(guī)定》中規(guī)定，收集、提取電子數(shù)據(jù)，應(yīng)當(dāng)扣押電子數(shù)據(jù)原始存儲(chǔ)介質(zhì)。2019年民事證據(jù)規(guī)定中，“以電子數(shù)據(jù)作為證據(jù)的……直接來(lái)源于電子數(shù)據(jù)的打印件或其他可以顯示、識(shí)別的輸出介質(zhì)，視為電子數(shù)據(jù)原件”。我們可以分別稱之為電文內(nèi)容說(shuō)、原始載體說(shuō)和擬制原件說(shuō)。就上述三種標(biāo)準(zhǔn)而言，顯然都不是確定電子證據(jù)原件的最佳選擇。首先，電文內(nèi)容說(shuō)以電子證據(jù)直接呈現(xiàn)的信息內(nèi)容來(lái)確定電子證據(jù)是否為原件，這種標(biāo)準(zhǔn)遇到深度偽造是極為危險(xiǎn)的，如有學(xué)者指出，深度偽造技術(shù)使音視頻偽造越來(lái)越容易，這意味著音視頻內(nèi)容的接受不能“以貌取人”。[62]其次，電子證據(jù)可以與載體分離的特點(diǎn)，也使得原始載體說(shuō)不可取。三是擬制原件說(shuō)與電文內(nèi)容說(shuō)面臨同樣的問(wèn)題。由于電子證據(jù)本質(zhì)上是由0和1所組成的數(shù)字代碼，并且電子證據(jù)的每次操作都會(huì)留下相應(yīng)的數(shù)據(jù)痕跡，如電子文檔會(huì)自動(dòng)創(chuàng)建元數(shù)據(jù)，該元數(shù)據(jù)會(huì)描述文檔、作者、創(chuàng)建日期以及更改的日期，通過(guò)元數(shù)據(jù)分析能夠“確保用戶記錄證據(jù)……是值得信任和可接受的”。[63]因此，電子證據(jù)原件采元數(shù)據(jù)標(biāo)準(zhǔn)是最為妥當(dāng)?shù)?。?dāng)然，元數(shù)據(jù)分析需要依賴數(shù)字證據(jù)專家，基于訴訟成本和效率的考慮，是否需要元數(shù)據(jù)分析，應(yīng)當(dāng)綜合證據(jù)的實(shí)質(zhì)爭(zhēng)議予以確定。

二是視頻證據(jù)的質(zhì)證保障。證據(jù)必須經(jīng)法庭查證屬實(shí)才能作為定案的根據(jù)。查證的一個(gè)關(guān)鍵環(huán)節(jié)即是證據(jù)質(zhì)證，充分、有效的質(zhì)證，是法庭認(rèn)證準(zhǔn)確性的重要保障。在以往的司法實(shí)踐中，案卷筆錄中心主義、庭審形式化、律師發(fā)問(wèn)難、質(zhì)證難等問(wèn)題較為突出。對(duì)此，十八屆四中全會(huì)特別提出推進(jìn)以審判為中心的訴訟制度改革，落實(shí)庭審實(shí)質(zhì)化，強(qiáng)化證人、鑒定人出庭制度，確保庭審在事實(shí)查明、證據(jù)認(rèn)定、訴權(quán)保護(hù)和公正裁判等方面發(fā)揮的決定性作用。當(dāng)事人對(duì)視頻證據(jù)真實(shí)性存疑的，當(dāng)事人有權(quán)申請(qǐng)通知相關(guān)證人、鑒定人出庭作證，對(duì)于當(dāng)事人的申請(qǐng)，法庭原則上應(yīng)當(dāng)準(zhǔn)許。并且，證人、鑒定人出庭后應(yīng)當(dāng)接受控辯雙方的交叉詢問(wèn)。對(duì)于專業(yè)性問(wèn)題，還應(yīng)當(dāng)保障控辯雙方，尤其是辯護(hù)方申請(qǐng)專家輔助人出庭的權(quán)利。

（二）深度偽造技術(shù)的立法規(guī)制

假設(shè)深度偽造不成為一個(gè)法律問(wèn)題將是危險(xiǎn)的。[64]從法律規(guī)范層面明確深度偽造技術(shù)合理使用及濫用責(zé)任，是科學(xué)防范與應(yīng)對(duì)深度偽造濫用風(fēng)險(xiǎn)的必然路徑。

1.深度偽造技術(shù)合理使用規(guī)范

深度偽造技術(shù)的最大優(yōu)勢(shì)或致命危害都源于其所具有的現(xiàn)實(shí)虛擬功能，因此，對(duì)于深度偽造技術(shù)的使用，首先應(yīng)當(dāng)是明確使用者的信息披露義務(wù)，防止虛擬信息的誤信誤傳。在我國(guó)2019年《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》中，也對(duì)此作了明確規(guī)定，即“網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的，應(yīng)當(dāng)以顯著方式予以標(biāo)識(shí)”。其次，應(yīng)當(dāng)對(duì)虛擬的內(nèi)容進(jìn)行限制，即不得利用深度偽造技術(shù)制作、發(fā)布、傳播有損第三人利益的音視頻內(nèi)容，如惡搞、丑化他人形象，對(duì)于有損他人利益的虛擬內(nèi)容，即使對(duì)其明確標(biāo)識(shí)，也應(yīng)當(dāng)予以明確禁止。遺憾的是，在《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》中，僅規(guī)定了使用者和平臺(tái)“不得利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播虛假新聞信息”。而對(duì)于在標(biāo)識(shí)前提下，制作、發(fā)布、傳播有損他人利益的行為沒(méi)有明確。再次，應(yīng)當(dāng)對(duì)深度偽造技術(shù)合成的音視頻用途進(jìn)行限制，明確其不得用于非法目的。該部分內(nèi)容將在法律責(zé)任一節(jié)詳細(xì)論述。最后，應(yīng)強(qiáng)化平臺(tái)監(jiān)管責(zé)任，提供深度偽造技術(shù)服務(wù)的平臺(tái)，應(yīng)當(dāng)強(qiáng)化用戶規(guī)范管理，如完善的身份信息認(rèn)證。同時(shí)，亦當(dāng)強(qiáng)化技術(shù)管理，如嵌入不可篡改的自動(dòng)標(biāo)識(shí)算法等。

2.深度偽造技術(shù)司法濫用的法律責(zé)任

加大行為人濫用深度偽造技術(shù)的違法成本，是應(yīng)對(duì)深度偽造司法風(fēng)險(xiǎn)的必要舉措。深度偽造技術(shù)在司法領(lǐng)域的濫用，嚴(yán)重?cái)_亂了正常的司法秩序，濫用行為已觸及刑事犯罪。對(duì)此，應(yīng)當(dāng)強(qiáng)化責(zé)任追究。根據(jù)實(shí)施主體或?qū)嵤╊I(lǐng)域的不同，司法訴訟中濫用深度偽造的行為可能觸犯不同的犯罪。在刑事訴訟中，證人故意使用深度偽造音視頻作虛假證明的，涉嫌偽證罪；辯護(hù)人、訴訟代理人幫助當(dāng)事人利用深度偽造技術(shù)偽造證據(jù)的，則涉嫌辯護(hù)人、訴訟代理人毀滅證據(jù)、偽造證據(jù)、妨害作證罪。若是行為人利用深度偽造證據(jù)捏造事實(shí)、誣告陷害他人的，則涉嫌誣告陷害罪。在民事訴訟中，若行為人使用深度偽造虛假證據(jù)視頻進(jìn)行訴訟的，其行為則涉嫌虛假訴訟罪。如學(xué)者言，深度偽造是對(duì)傳統(tǒng)犯罪方式的新發(fā)展?，F(xiàn)行的刑責(zé)規(guī)定應(yīng)當(dāng)說(shuō)是較完善的，關(guān)鍵則是在實(shí)踐中強(qiáng)化落實(shí)。

當(dāng)然，對(duì)于上述情形情節(jié)較輕的，司法機(jī)關(guān)還可以依法給予行為人必要的罰款和拘留。如民事訴訟法第一百一十一條規(guī)定，訴訟參與人或其他人妨害司法行為情形的，法院可以根據(jù)情節(jié)輕重予以罰款或拘留，其中即包括偽造證據(jù)情形。刑事訴訟法第一百九十九條也作了類似規(guī)定，即審判過(guò)程中，訴訟參與人違反法庭秩序，情節(jié)嚴(yán)重的，法庭可對(duì)其處一千元以下罰款或十五日以下拘留。實(shí)踐中，行為人向法院提交深度偽造音視頻作為證據(jù)的行為，應(yīng)當(dāng)視為是嚴(yán)重違反法庭秩序的情形。

（三）深度偽造技術(shù)反制

隨著深度偽造技術(shù)的廣泛使用，海量的深度偽造音視頻等虛假信息不斷產(chǎn)生，若缺乏有效的識(shí)別機(jī)制，必將引發(fā)媒體的信任危機(jī)。[65]而深度偽造虛假信息的治理，顯然離不開(kāi)技術(shù)的輔助。雖說(shuō)深度偽造與檢測(cè)識(shí)別是一場(chǎng)無(wú)休止的競(jìng)爭(zhēng)賽，但各國(guó)從未放棄對(duì)深度偽造識(shí)別技術(shù)的研發(fā)。2017年新加坡信息通信研究網(wǎng)絡(luò)安全小組在《自動(dòng)人臉交換及其檢測(cè)》（Automated face swapping and its detection）一文中提出AI換臉檢測(cè)框架以來(lái)，業(yè)界關(guān)于深度偽造識(shí)別技術(shù)的研究便進(jìn)入了白熱化階段，大量的高校、企業(yè)等研究人員紛紛表示出了對(duì)此項(xiàng)技術(shù)的研究熱情。并且，美國(guó)還將該技術(shù)的研發(fā)上升到了國(guó)防安全層面。

對(duì)此，筆者認(rèn)為，一方面，國(guó)家應(yīng)當(dāng)加大檢測(cè)技術(shù)的科研經(jīng)費(fèi)投入，由上而下推動(dòng)該項(xiàng)技術(shù)的持續(xù)性研發(fā)。另一方面，強(qiáng)化實(shí)踐轉(zhuǎn)化及運(yùn)用。對(duì)于已研發(fā)的檢測(cè)技術(shù)，強(qiáng)化其實(shí)踐應(yīng)用。如法院在立案庭配備深度偽造檢測(cè)識(shí)別系統(tǒng)，對(duì)進(jìn)入法庭的音視頻證據(jù)進(jìn)行技術(shù)識(shí)別檢測(cè)，防范深度偽造進(jìn)入法庭。另外，為保證音視頻等電子證據(jù)在保管過(guò)程中失真，很多學(xué)者提出了區(qū)塊鏈存證。由于區(qū)塊鏈整合運(yùn)用了P2P網(wǎng)絡(luò)技術(shù)、非對(duì)稱加密算法、數(shù)據(jù)庫(kù)技術(shù)、數(shù)字貨幣、智能合約等，具有去中心化、不可篡改的特性，這與電子證據(jù)存證的需求天然契合。最高人民法院在《關(guān)于互聯(lián)網(wǎng)法院審理案件若干問(wèn)題的規(guī)定》《人民法院在線訴訟規(guī)則》等規(guī)定中，已明確了區(qū)塊鏈存證的證據(jù)效力。實(shí)踐中應(yīng)推進(jìn)區(qū)塊鏈存證的規(guī)范化運(yùn)用和操作，這在一定程度有助于防止深度偽造司法濫用，化解證據(jù)真實(shí)性的質(zhì)疑。

（四）創(chuàng)新法治人才隊(duì)伍建設(shè)

徒法不足以自行，法治的關(guān)鍵在于人。深度偽造技術(shù)的司法濫用危險(xiǎn)，對(duì)于我們整個(gè)法治人才隊(duì)伍建設(shè)也提出了新的要求和挑戰(zhàn)，即新時(shí)代的法律人，尤其是律師和司法人員，不僅要精通法律專業(yè)基礎(chǔ)知識(shí)，還應(yīng)了解計(jì)算機(jī)等其他專業(yè)的基本知識(shí)。目前司法人員知識(shí)結(jié)構(gòu)缺陷較為突出，復(fù)合型法律人才嚴(yán)重缺失。在司法實(shí)踐中，專家鑒定意見(jiàn)取代了法官專業(yè)判斷，不僅侵蝕了司法的獨(dú)立性，還極易造成冤假錯(cuò)案。立足于時(shí)代發(fā)展和實(shí)踐需要，很多高校進(jìn)行了較為有益的法學(xué)教育改革探索，如西南政法大學(xué)成立了人工智能法學(xué)院、清華大學(xué)法學(xué)院增設(shè)了計(jì)算法學(xué)碩士專業(yè)、湘潭大學(xué)法學(xué)院開(kāi)設(shè)了數(shù)據(jù)法學(xué)碩士專業(yè)、東南大學(xué)法學(xué)院推出了《大數(shù)據(jù)與互聯(lián)網(wǎng)法學(xué)》課程等，以滿足人工智能時(shí)代對(duì)“法律+人工智能”的復(fù)合型人才需求。事實(shí)上，美國(guó)犯罪科學(xué)實(shí)驗(yàn)室主任協(xié)會(huì)較早就提出了發(fā)展國(guó)家法醫(yī)科學(xué)課程的建議，以便像法官和律師這樣的刑事司法從業(yè)人員更好地了解相關(guān)專業(yè)技術(shù)問(wèn)題。2021年4月，習(xí)近平總書(shū)記在清華大學(xué)考察時(shí)也特別指出，要用好學(xué)科交融的“催化劑”，瞄準(zhǔn)科技前沿和關(guān)鍵領(lǐng)域，推進(jìn)新工科、新醫(yī)科、新農(nóng)科、新文科建設(shè)，加快培養(yǎng)緊缺人才。[66]對(duì)此，筆者認(rèn)為，新時(shí)期復(fù)合型法治人才隊(duì)伍建設(shè)或培養(yǎng)，不應(yīng)僅僅限于少數(shù)幾個(gè)學(xué)校的試點(diǎn)摸索，應(yīng)當(dāng)對(duì)其制度化、規(guī)范化。首先，法學(xué)本科教育實(shí)行“法學(xué)+X”的培養(yǎng)模式，即法科生不僅應(yīng)學(xué)習(xí)法學(xué)專業(yè)課程，還應(yīng)至少選修一門(mén)理工科通識(shí)課程，并且需達(dá)到學(xué)?？己艘蟆Ｆ浯?，提高法律碩士招考條件，報(bào)考者應(yīng)具備理工科教育經(jīng)歷或背景。因?yàn)榉纱T士的培養(yǎng)要求偏向于實(shí)務(wù)人才，提高法律碩士招收專業(yè)門(mén)檻，有助于法學(xué)與其他學(xué)科深度融合，達(dá)到復(fù)合型法律人才培養(yǎng)的目的。最后，鼓勵(lì)高校根據(jù)自身優(yōu)勢(shì)或特色學(xué)科，開(kāi)設(shè)與法學(xué)相融合的交叉學(xué)科專業(yè)或課程。

結(jié) 語(yǔ)

深度偽造司法風(fēng)險(xiǎn)僅是深偽技術(shù)濫用在司法領(lǐng)域的具體體現(xiàn)，但深度偽造的濫用風(fēng)險(xiǎn)絕非僅限于司法領(lǐng)域一隅，其對(duì)個(gè)人、社會(huì)、國(guó)家都是巨大的潛在威脅。對(duì)此，我們也應(yīng)當(dāng)理性看待這種威脅，關(guān)于真相死亡的論點(diǎn)顯然被夸大了，但也不應(yīng)忽視威脅的存在。如學(xué)者所言，盡管深度偽造是危險(xiǎn)的，但它不一定是災(zāi)難性的。為了在深度偽造的威脅下生存下來(lái)，我們應(yīng)當(dāng)學(xué)會(huì)如何與謊言共存。[67]文章從深度偽造司法風(fēng)險(xiǎn)防范的視角，提出四點(diǎn)應(yīng)對(duì)建議：一是要完善司法機(jī)關(guān)證據(jù)準(zhǔn)入和審查制度，提升司法機(jī)關(guān)防偽、識(shí)偽能力；二是強(qiáng)化技術(shù)使用法律規(guī)制，明確濫用的法律責(zé)任；三是強(qiáng)化深度偽造檢測(cè)技術(shù)研發(fā)和實(shí)踐運(yùn)用，輔助識(shí)別深度偽造；四是創(chuàng)新法治隊(duì)伍建設(shè)，培養(yǎng)既精通法律又了解技術(shù)的復(fù)合型法律人才。以此求教于方家。