羅幸 聶輝 李曉芳

8月30日晚間，一款名為“ZAO”的視頻換臉APP 在上線僅僅幾小時后，就刷屏了各大社交平臺。

“AI換臉”這項技術(shù)從實驗室走向大眾后，它的下一步發(fā)展，會把我們引向充滿“丟臉”風(fēng)險的美麗新世界嗎？如果連臉都不再能證明你是你了，該如何面對？

“世上最值得玩味的表面乃是人的臉?！薄赌樀臍v史》一書在開頭引用了這句話，因為臉是每個人獨一無二的身體特征，而且難以捉摸。

然而，人工智能的發(fā)展，讓每一個人只需通過一部手機(jī)、一個APP，花上幾分鐘，就能實現(xiàn)“換臉”?！癆I換臉”能讓你既能和明星同框飆戲，又能改變性別，既能穿越回民國時代身穿旗袍、中山裝，又能飛躍到未來，預(yù)測你年老后的樣子。它甚至還能告訴你，如果你是一只貓、狗或長頸鹿，又會是一副怎樣的模樣。

這并不是關(guān)于未來的遙遠(yuǎn)遐想，而是我們當(dāng)下生活的現(xiàn)實。打開手機(jī)應(yīng)用市場，各式各樣的換臉APP應(yīng)接不暇。

8月30日晚，一款名為“ZAO”的視頻換臉APP在上線幾小時后，就刷屏了各大社交平臺。打著“僅需一張照片，出演天下好戲”的旗號，“ZAO”通過人工智能技術(shù)把影視片段中明星的臉換成用戶上傳照片中的臉?！斑@個月花700萬租的服務(wù)器，今晚已經(jīng)消耗三分之一了?！边@天，“ZAO”官方助手在微博上寫道。上線兩天后，“ZAO”在蘋果應(yīng)用商店APP Store的免費APP下載排名中躍居第一。

和其他換臉APP一樣，“ZAO”的效果并不能稱作以假亂真。但它的出現(xiàn)，讓人們不得不重新審視“AI換臉”這項技術(shù)：從實驗室走向大眾后，它的下一步發(fā)展，會把我們引向充滿“丟臉”風(fēng)險的美麗新世界嗎？如果連臉都不再能證明你是你了，該如何面對？

“給我一個軟件，我也可以當(dāng)影后”

8月30日深夜，馬宇飛一直沉迷于試戲中。她不是演員，也沒有真的在片場——她試戲的平臺是“ZAO”。

這天睡前，她和往常一樣刷著微信朋友圈，一段視頻吸引了她的注意。這是摘自《神雕俠侶》的一個片段，畫面中，小龍女與楊過正深情對視。仔細(xì)一看，小龍女的面孔不再是演員劉亦菲，而是自己的好友弦子。

她立刻好奇地詢問弦子如何做到“換臉”，后者推薦了“ZAO”。馬宇飛下載安裝后，上傳了自己的照片，一連在自已的朋友圈轉(zhuǎn)發(fā)了三段經(jīng)典影視劇片段：《大話西游》中“紫霞仙子”朱茵眨眼、《笑傲江湖》里“東方不敗”林青霞抓起酒瓶豪飲，以及章子怡和張震在《臥虎藏龍》里的一段過招。無一例外，女主角的臉，都變成了馬宇飛的了。

“太魔性了”，在“ZAO”上換臉飆戲是馬宇飛從未有過的全新體驗，而且效果也不錯。她發(fā)布的一條“換臉”視頻，得到一百多個贊。馬宇飛玩得十分投入，在朋友圈寫道：“給我一個軟件，我也可以當(dāng)上影后。”

“ZAO”并不是國內(nèi)流行過的首款換臉軟件。更早前，“前世青年照”“我的軍裝照”“當(dāng)你老了”等換臉游戲，都曾在社交平臺掀起過病毒式傳播潮。人們不僅樂在其中還愿意把自己“換臉”后的圖片在朋友圈、微博上分享。

除此之外，這幾年還流行過多款捏臉APP，通過辨識用戶上傳的真人照片“捏”出用戶個人的立體卡通形象，創(chuàng)作出用戶專屬的虛擬形象。

社交媒體時代引發(fā)了一場無限制的臉部生產(chǎn)，沒有人再過著“無圖像、無臉”的生活。《臉的歷史》稱：“臉性社會”已經(jīng)來臨。“一種對臉的私人消費正在互聯(lián)網(wǎng)上蔓延開來，人們紛紛將自己的臉放到網(wǎng)上供人觀賞，仿佛在參加一場永不結(jié)束的虛擬狂歡?！?/p>

隨著技術(shù)發(fā)展，“換臉”不僅能生成靜態(tài)圖片，還能運用到動態(tài)視頻里?！邦伡肌笔且豢钆c“ZAO”功能相似的APP，在今年4月份上線，官方微博的認(rèn)證為“首款全民AI換臉APP”。盡管未能像“ZAO”一樣一夜爆紅，“顏技”還是吸引了一大批用戶。為了保證服務(wù)器不超負(fù)荷運行，“顏技”設(shè)置了每個時間段新用戶注冊量的限制。

和“顏技”一樣，“ZAO”大大降低了AI換臉的門檻，換臉視頻的制作者只需一部手機(jī)、一個APP、一張照片就能輕松上手。曾有“顏技”用戶抱怨換臉處理時間太長，有時幾個小時也無法生成完畢。而“ZAO”上的原始視頻多為十幾秒，處理時間也只需幾秒鐘。

“全民換臉時代”已至？

長久以來，AI換臉技術(shù)的開發(fā)局限在頂尖學(xué)府的實驗室里，因為公認(rèn)的高成本和硬件要求，未能得到廣泛應(yīng)用。

2013年11月，電影《速度與激情7》主演保羅·沃克突然因車禍去世，但影片尚未拍攝完成，該如何收尾呢？

那一年，“換臉”的方法并不被看好，不論從技術(shù)突破還是制作成本而言，都是難以想象的。在此之前，電影《角斗士》曾運用過“換頭技術(shù)”，僅僅兩分鐘的鏡頭，花費卻高達(dá)320萬美元。

最終，《速度與激情7》劇組還是采用了“換臉”的做法，以5000萬美元的高昂花費，通過“真人拍攝加CG技術(shù)”將保羅·沃克的臉部再現(xiàn)到銀幕上——這是影視行業(yè)中最接近AI換臉的一次嘗試。

但Deepfake深度造假改寫了這個局面。2017年12月，一名ID為“deepfakes”的用戶開始在論壇Reddit上分享自己制作的換臉視頻。視頻的內(nèi)容并不友好：斯嘉麗·約翰遜、愛瑪·沃森、蓋爾·加朵等好萊塢知名女星紛紛中招——“deepfakes”把她們變成了情色電影里的女主角。

Deepfake使用的深度學(xué)習(xí)技術(shù)是“生成對抗網(wǎng)絡(luò)”（GAN）?！稉Q臉APP背后的恐慌》一文如此解釋GAN：“要偽造視頻，首先需要兩個神經(jīng)網(wǎng)絡(luò)來參與。網(wǎng)絡(luò)A會生成一個假的視頻片段，然后問網(wǎng)絡(luò)B這個視頻是否為真，網(wǎng)絡(luò)B的反饋能夠加強(qiáng)網(wǎng)絡(luò)A所生成圖像的可信度。前者被稱作生成網(wǎng)絡(luò)，后者則為判別網(wǎng)絡(luò)。就這樣，兩個神經(jīng)網(wǎng)絡(luò)在不斷對抗中學(xué)習(xí)，直至Deepfake生成以假亂真的視頻。”

在接到大量受害者投訴后，Reddit關(guān)閉了“deepfakes”的賬號及創(chuàng)建的相關(guān)討論板塊，但這個做法卻促使“deepfakes”直接開源了其AI換臉項目的代碼。多位非內(nèi)部識別領(lǐng)域的程序員在看過代碼后表示，代碼并不復(fù)雜，可以直接在電腦上運行。

“deepfakes”的開源代碼使得AI換臉技術(shù)不再高不可攀，許多愛好者開始了自己的嘗試，這項技術(shù)也隨之風(fēng)靡全球。短暫消失后，“deepfakes”也重新回到網(wǎng)絡(luò)中，繼續(xù)更新分享AI換臉技術(shù)。

“ZAO”在一夜爆紅后，跌入輿論漩渦。先是有法律從業(yè)者指出，“ZAO”最初的用戶協(xié)議是“霸王條款”。在第六條中，“ZAO”指出，用戶在上傳及發(fā)布內(nèi)容之前，“同意或者確保實際權(quán)利人同意授予ZAO及其關(guān)聯(lián)公司以及ZAO用戶全球范圍內(nèi)完全免費、不可撤銷、永久可轉(zhuǎn)授權(quán)和可再許可的權(quán)利”，同時，進(jìn)行換臉時，用戶需“同意或確保肖像權(quán)利人同意授予ZAO及其關(guān)聯(lián)公司全球范圍內(nèi)完全免費、不可撤銷、永久可轉(zhuǎn)授權(quán)和可再許可的權(quán)利”。這意味著，用戶在勾選同意后，“ZAO”有權(quán)將其肖像和資料授權(quán)給自己想授權(quán)的第三方，并且可修改;而明星肖像權(quán)的問題，也落到了用戶身上。第七條更是直接寫明，若產(chǎn)生侵權(quán)糾紛，用戶，而非平臺應(yīng)承擔(dān)責(zé)任。

數(shù)據(jù)安全問題與AI換臉技術(shù)結(jié)合，引發(fā)了巨大擔(dān)憂。知微數(shù)據(jù)CEO于霄在朋友圈提醒道：“有手機(jī)號，有面部圖像，通過技術(shù)合成，犯罪分子可以替你和你的家人通話……色情視頻換臉、視頻欺詐，很快會成為最流行的犯罪玩法，對騙術(shù)識別能力差的老人有極高的殺傷力。保護(hù)自己的聲紋和面部圖像，盡量不要給任何APP做此類精細(xì)化采集?！?/p>

甚至有人擔(dān)心，在人臉支付如此普及的今天，AI換臉有沒有可能破解防線，導(dǎo)致用戶的支付軟件被“刷臉”？

這些疑問一個接一個拋出來，許多使用過“ZAO”的用戶慌了，要求刪除賬號和個人信息的人不計其數(shù)。

9月4日，工信部官方發(fā)布消息稱，針對媒體公開報道和用戶曝光的“ZAO”APP用戶隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風(fēng)險等網(wǎng)絡(luò)數(shù)據(jù)安全問題，工信部對北京陌陌科技有限公司相關(guān)負(fù)責(zé)人進(jìn)行了問詢約談，要求開展自查整改。

但人們對于AI換臉的擔(dān)憂與恐懼并未隨著“ZAO”的整頓而平息。這項技術(shù)的發(fā)展和普及，真的如許多質(zhì)疑者所言，是一個已經(jīng)打開的潘多拉魔盒嗎？

“每個人都是潛在受害者”

在美國，“換臉色情片”的受害者難以通過法律進(jìn)行自我保護(hù)。制作“換臉視頻”過程中使用的成百上千張用來訓(xùn)練機(jī)器的照片，往往是受害人在社交平臺或媒體公開發(fā)布的照片，此外，美國法律專家指出，“換臉視頻”是一個不同于原視頻的新創(chuàng)作，因此可能會被視作言論自由，受到美國憲法第一修正案的保護(hù)。

國內(nèi)的“換臉色情片”黑產(chǎn)也存在已久。在閑魚、淘寶或是QQ上輸入關(guān)鍵詞，就能輕易找到賣家。

交易通過百度網(wǎng)盤或提供專門APP的下載包完成。娛樂圈的知名女星，幾乎都沒能逃過“換臉色情片”的侵?jǐn)_——盡管換臉的效果并不理想，甚至十分拙劣、粗糙。至于定制視頻，對方則開價一分鐘50元。而零基礎(chǔ)學(xué)AI換臉，通常是 FakeAPP的使用教程，價格從300元到800元不等。

盡管看似門檻不高，AI換臉技術(shù)仍舊算不上一項普及度高或是便捷廉價的技術(shù)。河南大學(xué)人工智能教授張重生說，AI換臉技術(shù)昂貴，是因為訓(xùn)練模型的成本昂貴，“訓(xùn)練過程首先是硬件設(shè)備，就是要有非常好的GPU和CPU”。GPU尤其重要，有時要用到11塊——以較好的GPU型號RTS2080為例，每塊價格在九千元左右。

除此之外，訓(xùn)練過程中要輸入大量的真實數(shù)據(jù)——可能是幾百萬甚至上千萬張圖像。張重生繼續(xù)解釋：“你幾千萬張圖像進(jìn)行迭代的訓(xùn)練，比如說原來有1000萬張圖像，你再乘以50次，那就相當(dāng)于有5億次計算，且每一次計算可能都需要一定的時間。這個訓(xùn)練過程要花費大量時間?！?/p>

關(guān)于“定制視頻50元一分鐘”的說法，一位視頻制作者換臉哥也表示質(zhì)疑?！爸谱髦付ǖ囊曨l，造價過萬，這還是粗制濫造。”他說，在目前的技術(shù)下，如果想要把換臉視頻做得更精細(xì)、足以騙過視覺判斷，“至少要上十萬，這成本太高了?！?/p>

“換臉哥”坦承，自己做的換臉視頻也并非無懈可擊，臉型和光線都很難突破”。即便如此，這也是一項有些“燒錢”的愛好。通常而言，他做一個換臉視頻需要一周時間。以“楊冪換臉黃蓉”視頻為例，他用到的CPU官方售價15999元，GV100顯卡的價格也因品牌不同在4萬到6萬不等，“極少數(shù)人群有這樣的硬件”。除此之外，還需要收集幾千張楊冪4K分辨率以上的照片。

此外， Deepfake軟件的研發(fā)過程其實很枯燥，效果也因人而異，想要做到自然并不簡單。不過，“換臉哥”還是樂此不疲。

清華大學(xué)電子系博士、人工智能從業(yè)者李治說：“AI換臉，第一個難點是要識別出圖像和視頻里的臉，第二個難點就是要做得自然。圖像周圍的紋理，包括視頻的連貫性等都要解決好。”

討論度極高的“ZAO”，在專業(yè)人土眼中，“有意思、好玩”，但還不足以對用戶構(gòu)成威脅。

一位匿名技術(shù)人員指出，“ZAO”換的并非全臉，而是半臉——主要是眉、眼、鼻為主的面中部分，“連打卡機(jī)的人臉識別都過不去，更別提破解支付寶”。

攻防戰(zhàn)：AI VS AI

《臉的歷史》中記錄，19世紀(jì)攝影術(shù)發(fā)明后，“西方刑偵技術(shù)鼻祖”、法國犯罪學(xué)家阿方斯·貝蒂隆曾試圖建立相片檔案來識別罪犯。他在巴黎警署成立了一個部門，拍攝人的正面像和側(cè)面像，并配有標(biāo)準(zhǔn)化描述身體特征的文字來建立檔案。

十年間，貝蒂隆搜集了大約十萬張照片。然而，事實證明，被錄入檔案的臉仍舊不是一種可靠的數(shù)據(jù)載體。在罪犯改頭換面的情況下，臉并不能泄露他的真實身份。

但進(jìn)入21世紀(jì)，隨著人臉識別技術(shù)的發(fā)展，臉被抽象和量化，成了一種數(shù)據(jù)載體，重新成為身份識別的依據(jù)。如今在大洋彼岸，AI換臉技術(shù)已經(jīng)影響了人們的政治和社會生活。

今年3月，美國佛羅里達(dá)州議員、2016年美國大選共和黨總統(tǒng)候選人馬克·盧比奧在華盛頓一場集會上，稱Deepfake技術(shù)有著“核武器一般的殺傷力”。“如果你想對美國的國家安全造成威脅，需要10艘航空母艦、核武器和遠(yuǎn)程導(dǎo)彈。但今天你所需要的，就是制作一個逼真的假視頻?！?/p>

他對臺下的觀眾說道，“（AI換臉技術(shù)）可能會破壞我們的選舉（2020年美國大選），使我們的國家陷入巨大危機(jī)。”

盧比奧的言論看似夸張，但并非空穴來風(fēng)。針對政治人物炮制出的“假新聞”，在美國、歐洲引起過多次爭議。

去年4月，一段“奧巴馬痛罵特朗普是豬”的視頻在YouTube上獲得百萬次瀏覽量。在片尾，迷題揭開——原來，這是美國新聞聚合網(wǎng)站Buzzfeed用AI換臉技術(shù)將演員喬丹·比爾的聲音及嘴型，換到美國前總統(tǒng)奧巴馬臉上。這個視頻在提醒大眾，在科技高速發(fā)展的當(dāng)下，眼見也未必為實，對于假新聞，要提高防備意識。

Deepfake之所以令人憂慮，因為它不僅能偽造人臉，還能偽造聲音。李治的主要研究方向是聲音。在他看來，與換臉技術(shù)相比，由于娛樂性較差，聲音相關(guān)技術(shù)的成熟和潛在的危險往往被人們忽視。

百度推出的Deep Voice算法，只需一段時長3.7秒的音頻，就能生成足以以假亂真的假語音。據(jù)《華爾街日報》報道，今年3月，一個黑客組織利用AI語音克隆技術(shù)致電一家英國能源公司，假冒該公司位于德國的母公司的董事長，騙取了22萬歐元。

當(dāng)一個人最具獨特性的生物信息聲音、人臉都能被造假、克隆，真假之間的邊界越來越模糊，人們應(yīng)該如何判斷？

加州大學(xué)伯克利分校的計算機(jī)科學(xué)教授Hany Farid感到擔(dān)憂，他警告說，在極端情況下，一個Deepfake視頻或圖像可能會引發(fā)軍事沖突或其他現(xiàn)實生活中的動蕩。

假視頻的傳播平臺，往往是各類社交媒體?！吧缃黄脚_已被武器化?！盚any Farid表示。然而，盡管AI假視頻層出不窮，但社交媒體遲遲未邁出干預(yù)那一步。

今年6月，美國眾議院情報委員會舉行了一次聽證會，提出如何應(yīng)對Deepfake的問題。委員會主席提出，社交媒體應(yīng)該立即制定政策保護(hù)用戶不被假信息誘騙。

“Deepfake與傳統(tǒng)的假消息不同，就像垃圾郵件不同于傳統(tǒng)的假信息，應(yīng)該區(qū)別對待?！痹瞬癖硎綟acebook正在制定相應(yīng)的應(yīng)對政策。

9月5日，F(xiàn)acebook終于正式向Deepfake“宣戰(zhàn)”。這家公司表示，將開發(fā)出更好的開源工具來檢測Deepfake，并計劃聯(lián)合微軟、麻省理工大學(xué)等業(yè)界和學(xué)界的伙伴共同舉辦“Deepfake檢測挑戰(zhàn)賽”。5天后，這個計劃下又多了一個項目——Facebook正在雇用演員建一個Deepfake視頻，用于開發(fā)新的檢測工具。

在此之前，針對Deepfake技術(shù)的攻防戰(zhàn)已經(jīng)打響，《華爾街日報》7月報道，美國學(xué)術(shù)界、國防部和一些初創(chuàng)企業(yè)已經(jīng)推出各式各樣的技術(shù)來對抗AI換臉視頻、圖片帶來的威脅。

這注定是一場苦戰(zhàn)。一方面，AI換臉本就是一項興起時間不長的技術(shù)，針對其的檢測技術(shù)還在起步階段。去年12月，紐約州立大學(xué)奧爾巴尼分校計算機(jī)科學(xué)系的研究人員發(fā)現(xiàn)，利用Deepfake技術(shù)制作的視頻中，人物往往缺乏“自發(fā)的、無意識的生理活動，例如呼吸、脈搏、眼球運動”——在此之前的換臉視頻中，人物是不會眨眼的。

依據(jù)這個漏洞，研究團(tuán)隊開發(fā)出一款識別成功率近99%的檢測軟件。然而，僅僅兩周后，一封署名為Deepfake創(chuàng)作者的信寄到了研究人員手上，“感謝指正，漏洞已修復(fù)”，信上寫道。自此之后的視頻里，人物更加逼真了，“換臉哥”制作的“楊冪換臉黃蓉”視頻中，楊冪的眼睛就會隨著表情變化而眨動。

除了AI，人們也可以利用自己的肉眼進(jìn)行識別——目前的Deepfake技術(shù)遠(yuǎn)未達(dá)到完美相似，仍存在一些肉眼可辯的細(xì)微瑕疵。Buzzfeed總結(jié)了一些辨別視頻真假的方法，如，不要妄下結(jié)論，查看內(nèi)容來源，檢查人物的嘴部動作，放慢視頻，仔細(xì)觀察人物的神情、動作等。

李治把這場攻防戰(zhàn)比作造矛與造盾之間的“競爭”，“防守的一方肯定不如進(jìn)攻的一方顯眼”?！凹夹g(shù)本身可以往好的方向發(fā)展，但它被用歪了的話，應(yīng)該怎么解決？”他認(rèn)為，要么從源頭控制技術(shù)的發(fā)展利用，要么普及技術(shù)本身讓人們更好地預(yù)防，而后者是一個慢慢漸進(jìn)的過程。