羅幸 聶輝 李曉芳

8月30日晚間，一款名為“ZAO”的視頻換臉APP 在上線僅僅幾小時后，就刷屏了各大社交平臺。

“AI換臉”這項技術從實驗室走向大眾后，它的下一步發(fā)展，會把我們引向充滿“丟臉”風險的美麗新世界嗎？如果連臉都不再能證明你是你了，該如何面對？

“世上最值得玩味的表面乃是人的臉。”《臉的歷史》一書在開頭引用了這句話，因為臉是每個人獨一無二的身體特征，而且難以捉摸。

然而，人工智能的發(fā)展，讓每一個人只需通過一部手機、一個APP，花上幾分鐘，就能實現(xiàn)“換臉”。“AI換臉”能讓你既能和明星同框飆戲，又能改變性別，既能穿越回民國時代身穿旗袍、中山裝，又能飛躍到未來，預測你年老后的樣子。它甚至還能告訴你，如果你是一只貓、狗或長頸鹿，又會是一副怎樣的模樣。

這并不是關于未來的遙遠遐想，而是我們當下生活的現(xiàn)實。打開手機應用市場，各式各樣的換臉APP應接不暇。

8月30日晚，一款名為“ZAO”的視頻換臉APP在上線幾小時后，就刷屏了各大社交平臺。打著“僅需一張照片，出演天下好戲”的旗號，“ZAO”通過人工智能技術把影視片段中明星的臉換成用戶上傳照片中的臉。“這個月花700萬租的服務器，今晚已經(jīng)消耗三分之一了?！边@天，“ZAO”官方助手在微博上寫道。上線兩天后，“ZAO”在蘋果應用商店APP Store的免費APP下載排名中躍居第一。

和其他換臉APP一樣，“ZAO”的效果并不能稱作以假亂真。但它的出現(xiàn)，讓人們不得不重新審視“AI換臉”這項技術：從實驗室走向大眾后，它的下一步發(fā)展，會把我們引向充滿“丟臉”風險的美麗新世界嗎？如果連臉都不再能證明你是你了，該如何面對？

“給我一個軟件，我也可以當影后”

8月30日深夜，馬宇飛一直沉迷于試戲中。她不是演員，也沒有真的在片場——她試戲的平臺是“ZAO”。

這天睡前，她和往常一樣刷著微信朋友圈，一段視頻吸引了她的注意。這是摘自《神雕俠侶》的一個片段，畫面中，小龍女與楊過正深情對視。仔細一看，小龍女的面孔不再是演員劉亦菲，而是自己的好友弦子。

她立刻好奇地詢問弦子如何做到“換臉”，后者推薦了“ZAO”。馬宇飛下載安裝后，上傳了自己的照片，一連在自已的朋友圈轉發(fā)了三段經(jīng)典影視劇片段：《大話西游》中“紫霞仙子”朱茵眨眼、《笑傲江湖》里“東方不敗”林青霞抓起酒瓶豪飲，以及章子怡和張震在《臥虎藏龍》里的一段過招。無一例外，女主角的臉，都變成了馬宇飛的了。

“太魔性了”，在“ZAO”上換臉飆戲是馬宇飛從未有過的全新體驗，而且效果也不錯。她發(fā)布的一條“換臉”視頻，得到一百多個贊。馬宇飛玩得十分投入，在朋友圈寫道：“給我一個軟件，我也可以當上影后?！?/p>

“ZAO”并不是國內(nèi)流行過的首款換臉軟件。更早前，“前世青年照”“我的軍裝照”“當你老了”等換臉游戲，都曾在社交平臺掀起過病毒式傳播潮。人們不僅樂在其中還愿意把自己“換臉”后的圖片在朋友圈、微博上分享。

除此之外，這幾年還流行過多款捏臉APP，通過辨識用戶上傳的真人照片“捏”出用戶個人的立體卡通形象，創(chuàng)作出用戶專屬的虛擬形象。

社交媒體時代引發(fā)了一場無限制的臉部生產(chǎn)，沒有人再過著“無圖像、無臉”的生活?！赌樀臍v史》稱：“臉性社會”已經(jīng)來臨?！耙环N對臉的私人消費正在互聯(lián)網(wǎng)上蔓延開來，人們紛紛將自己的臉放到網(wǎng)上供人觀賞，仿佛在參加一場永不結束的虛擬狂歡?！?/p>

隨著技術發(fā)展，“換臉”不僅能生成靜態(tài)圖片，還能運用到動態(tài)視頻里?！邦伡肌笔且豢钆c“ZAO”功能相似的APP，在今年4月份上線，官方微博的認證為“首款全民AI換臉APP”。盡管未能像“ZAO”一樣一夜爆紅，“顏技”還是吸引了一大批用戶。為了保證服務器不超負荷運行，“顏技”設置了每個時間段新用戶注冊量的限制。

和“顏技”一樣，“ZAO”大大降低了AI換臉的門檻，換臉視頻的制作者只需一部手機、一個APP、一張照片就能輕松上手。曾有“顏技”用戶抱怨換臉處理時間太長，有時幾個小時也無法生成完畢。而“ZAO”上的原始視頻多為十幾秒，處理時間也只需幾秒鐘。

“全民換臉時代”已至？

長久以來，AI換臉技術的開發(fā)局限在頂尖學府的實驗室里，因為公認的高成本和硬件要求，未能得到廣泛應用。

2013年11月，電影《速度與激情7》主演保羅·沃克突然因車禍去世，但影片尚未拍攝完成，該如何收尾呢？

那一年，“換臉”的方法并不被看好，不論從技術突破還是制作成本而言，都是難以想象的。在此之前，電影《角斗士》曾運用過“換頭技術”，僅僅兩分鐘的鏡頭，花費卻高達320萬美元。

最終，《速度與激情7》劇組還是采用了“換臉”的做法，以5000萬美元的高昂花費，通過“真人拍攝加CG技術”將保羅·沃克的臉部再現(xiàn)到銀幕上——這是影視行業(yè)中最接近AI換臉的一次嘗試。

但Deepfake深度造假改寫了這個局面。2017年12月，一名ID為“deepfakes”的用戶開始在論壇Reddit上分享自己制作的換臉視頻。視頻的內(nèi)容并不友好：斯嘉麗·約翰遜、愛瑪·沃森、蓋爾·加朵等好萊塢知名女星紛紛中招——“deepfakes”把她們變成了情色電影里的女主角。

Deepfake使用的深度學習技術是“生成對抗網(wǎng)絡”（GAN）?！稉Q臉APP背后的恐慌》一文如此解釋GAN：“要偽造視頻，首先需要兩個神經(jīng)網(wǎng)絡來參與。網(wǎng)絡A會生成一個假的視頻片段，然后問網(wǎng)絡B這個視頻是否為真，網(wǎng)絡B的反饋能夠加強網(wǎng)絡A所生成圖像的可信度。前者被稱作生成網(wǎng)絡，后者則為判別網(wǎng)絡。就這樣，兩個神經(jīng)網(wǎng)絡在不斷對抗中學習，直至Deepfake生成以假亂真的視頻?！?/p>

在接到大量受害者投訴后，Reddit關閉了“deepfakes”的賬號及創(chuàng)建的相關討論板塊，但這個做法卻促使“deepfakes”直接開源了其AI換臉項目的代碼。多位非內(nèi)部識別領域的程序員在看過代碼后表示，代碼并不復雜，可以直接在電腦上運行。

“deepfakes”的開源代碼使得AI換臉技術不再高不可攀，許多愛好者開始了自己的嘗試，這項技術也隨之風靡全球。短暫消失后，“deepfakes”也重新回到網(wǎng)絡中，繼續(xù)更新分享AI換臉技術。

“ZAO”在一夜爆紅后，跌入輿論漩渦。先是有法律從業(yè)者指出，“ZAO”最初的用戶協(xié)議是“霸王條款”。在第六條中，“ZAO”指出，用戶在上傳及發(fā)布內(nèi)容之前，“同意或者確保實際權利人同意授予ZAO及其關聯(lián)公司以及ZAO用戶全球范圍內(nèi)完全免費、不可撤銷、永久可轉授權和可再許可的權利”，同時，進行換臉時，用戶需“同意或確保肖像權利人同意授予ZAO及其關聯(lián)公司全球范圍內(nèi)完全免費、不可撤銷、永久可轉授權和可再許可的權利”。這意味著，用戶在勾選同意后，“ZAO”有權將其肖像和資料授權給自己想授權的第三方，并且可修改;而明星肖像權的問題，也落到了用戶身上。第七條更是直接寫明，若產(chǎn)生侵權糾紛，用戶，而非平臺應承擔責任。

數(shù)據(jù)安全問題與AI換臉技術結合，引發(fā)了巨大擔憂。知微數(shù)據(jù)CEO于霄在朋友圈提醒道：“有手機號，有面部圖像，通過技術合成，犯罪分子可以替你和你的家人通話……色情視頻換臉、視頻欺詐，很快會成為最流行的犯罪玩法，對騙術識別能力差的老人有極高的殺傷力。保護自己的聲紋和面部圖像，盡量不要給任何APP做此類精細化采集?！?/p>

甚至有人擔心，在人臉支付如此普及的今天，AI換臉有沒有可能破解防線，導致用戶的支付軟件被“刷臉”？

這些疑問一個接一個拋出來，許多使用過“ZAO”的用戶慌了，要求刪除賬號和個人信息的人不計其數(shù)。

9月4日，工信部官方發(fā)布消息稱，針對媒體公開報道和用戶曝光的“ZAO”APP用戶隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風險等網(wǎng)絡數(shù)據(jù)安全問題，工信部對北京陌陌科技有限公司相關負責人進行了問詢約談，要求開展自查整改。

但人們對于AI換臉的擔憂與恐懼并未隨著“ZAO”的整頓而平息。這項技術的發(fā)展和普及，真的如許多質疑者所言，是一個已經(jīng)打開的潘多拉魔盒嗎？

“每個人都是潛在受害者”

在美國，“換臉色情片”的受害者難以通過法律進行自我保護。制作“換臉視頻”過程中使用的成百上千張用來訓練機器的照片，往往是受害人在社交平臺或媒體公開發(fā)布的照片，此外，美國法律專家指出，“換臉視頻”是一個不同于原視頻的新創(chuàng)作，因此可能會被視作言論自由，受到美國憲法第一修正案的保護。

國內(nèi)的“換臉色情片”黑產(chǎn)也存在已久。在閑魚、淘寶或是QQ上輸入關鍵詞，就能輕易找到賣家。

交易通過百度網(wǎng)盤或提供專門APP的下載包完成。娛樂圈的知名女星，幾乎都沒能逃過“換臉色情片”的侵擾——盡管換臉的效果并不理想，甚至十分拙劣、粗糙。至于定制視頻，對方則開價一分鐘50元。而零基礎學AI換臉，通常是 FakeAPP的使用教程，價格從300元到800元不等。

盡管看似門檻不高，AI換臉技術仍舊算不上一項普及度高或是便捷廉價的技術。河南大學人工智能教授張重生說，AI換臉技術昂貴，是因為訓練模型的成本昂貴，“訓練過程首先是硬件設備，就是要有非常好的GPU和CPU”。GPU尤其重要，有時要用到11塊——以較好的GPU型號RTS2080為例，每塊價格在九千元左右。

除此之外，訓練過程中要輸入大量的真實數(shù)據(jù)——可能是幾百萬甚至上千萬張圖像。張重生繼續(xù)解釋：“你幾千萬張圖像進行迭代的訓練，比如說原來有1000萬張圖像，你再乘以50次，那就相當于有5億次計算，且每一次計算可能都需要一定的時間。這個訓練過程要花費大量時間?！?/p>

關于“定制視頻50元一分鐘”的說法，一位視頻制作者換臉哥也表示質疑。“制作指定的視頻，造價過萬，這還是粗制濫造。”他說，在目前的技術下，如果想要把換臉視頻做得更精細、足以騙過視覺判斷，“至少要上十萬，這成本太高了?！?/p>

“換臉哥”坦承，自己做的換臉視頻也并非無懈可擊，臉型和光線都很難突破”。即便如此，這也是一項有些“燒錢”的愛好。通常而言，他做一個換臉視頻需要一周時間。以“楊冪換臉黃蓉”視頻為例，他用到的CPU官方售價15999元，GV100顯卡的價格也因品牌不同在4萬到6萬不等，“極少數(shù)人群有這樣的硬件”。除此之外，還需要收集幾千張楊冪4K分辨率以上的照片。

此外， Deepfake軟件的研發(fā)過程其實很枯燥，效果也因人而異，想要做到自然并不簡單。不過，“換臉哥”還是樂此不疲。

清華大學電子系博士、人工智能從業(yè)者李治說：“AI換臉，第一個難點是要識別出圖像和視頻里的臉，第二個難點就是要做得自然。圖像周圍的紋理，包括視頻的連貫性等都要解決好。”

討論度極高的“ZAO”，在專業(yè)人土眼中，“有意思、好玩”，但還不足以對用戶構成威脅。

一位匿名技術人員指出，“ZAO”換的并非全臉，而是半臉——主要是眉、眼、鼻為主的面中部分，“連打卡機的人臉識別都過不去，更別提破解支付寶”。

攻防戰(zhàn)：AI VS AI

《臉的歷史》中記錄，19世紀攝影術發(fā)明后，“西方刑偵技術鼻祖”、法國犯罪學家阿方斯·貝蒂隆曾試圖建立相片檔案來識別罪犯。他在巴黎警署成立了一個部門，拍攝人的正面像和側面像，并配有標準化描述身體特征的文字來建立檔案。

十年間，貝蒂隆搜集了大約十萬張照片。然而，事實證明，被錄入檔案的臉仍舊不是一種可靠的數(shù)據(jù)載體。在罪犯改頭換面的情況下，臉并不能泄露他的真實身份。

但進入21世紀，隨著人臉識別技術的發(fā)展，臉被抽象和量化，成了一種數(shù)據(jù)載體，重新成為身份識別的依據(jù)。如今在大洋彼岸，AI換臉技術已經(jīng)影響了人們的政治和社會生活。

今年3月，美國佛羅里達州議員、2016年美國大選共和黨總統(tǒng)候選人馬克·盧比奧在華盛頓一場集會上，稱Deepfake技術有著“核武器一般的殺傷力”?！叭绻阆雽γ绹膰野踩斐赏{，需要10艘航空母艦、核武器和遠程導彈。但今天你所需要的，就是制作一個逼真的假視頻?！?/p>

他對臺下的觀眾說道，“（AI換臉技術）可能會破壞我們的選舉（2020年美國大選），使我們的國家陷入巨大危機?！?/p>

盧比奧的言論看似夸張，但并非空穴來風。針對政治人物炮制出的“假新聞”，在美國、歐洲引起過多次爭議。

去年4月，一段“奧巴馬痛罵特朗普是豬”的視頻在YouTube上獲得百萬次瀏覽量。在片尾，迷題揭開——原來，這是美國新聞聚合網(wǎng)站Buzzfeed用AI換臉技術將演員喬丹·比爾的聲音及嘴型，換到美國前總統(tǒng)奧巴馬臉上。這個視頻在提醒大眾，在科技高速發(fā)展的當下，眼見也未必為實，對于假新聞，要提高防備意識。

Deepfake之所以令人憂慮，因為它不僅能偽造人臉，還能偽造聲音。李治的主要研究方向是聲音。在他看來，與換臉技術相比，由于娛樂性較差，聲音相關技術的成熟和潛在的危險往往被人們忽視。

百度推出的Deep Voice算法，只需一段時長3.7秒的音頻，就能生成足以以假亂真的假語音。據(jù)《華爾街日報》報道，今年3月，一個黑客組織利用AI語音克隆技術致電一家英國能源公司，假冒該公司位于德國的母公司的董事長，騙取了22萬歐元。

當一個人最具獨特性的生物信息聲音、人臉都能被造假、克隆，真假之間的邊界越來越模糊，人們應該如何判斷？

加州大學伯克利分校的計算機科學教授Hany Farid感到擔憂，他警告說，在極端情況下，一個Deepfake視頻或圖像可能會引發(fā)軍事沖突或其他現(xiàn)實生活中的動蕩。

假視頻的傳播平臺，往往是各類社交媒體?！吧缃黄脚_已被武器化?！盚any Farid表示。然而，盡管AI假視頻層出不窮，但社交媒體遲遲未邁出干預那一步。

今年6月，美國眾議院情報委員會舉行了一次聽證會，提出如何應對Deepfake的問題。委員會主席提出，社交媒體應該立即制定政策保護用戶不被假信息誘騙。

“Deepfake與傳統(tǒng)的假消息不同，就像垃圾郵件不同于傳統(tǒng)的假信息，應該區(qū)別對待?！痹瞬癖硎綟acebook正在制定相應的應對政策。

9月5日，F(xiàn)acebook終于正式向Deepfake“宣戰(zhàn)”。這家公司表示，將開發(fā)出更好的開源工具來檢測Deepfake，并計劃聯(lián)合微軟、麻省理工大學等業(yè)界和學界的伙伴共同舉辦“Deepfake檢測挑戰(zhàn)賽”。5天后，這個計劃下又多了一個項目——Facebook正在雇用演員建一個Deepfake視頻，用于開發(fā)新的檢測工具。

在此之前，針對Deepfake技術的攻防戰(zhàn)已經(jīng)打響，《華爾街日報》7月報道，美國學術界、國防部和一些初創(chuàng)企業(yè)已經(jīng)推出各式各樣的技術來對抗AI換臉視頻、圖片帶來的威脅。

這注定是一場苦戰(zhàn)。一方面，AI換臉本就是一項興起時間不長的技術，針對其的檢測技術還在起步階段。去年12月，紐約州立大學奧爾巴尼分校計算機科學系的研究人員發(fā)現(xiàn)，利用Deepfake技術制作的視頻中，人物往往缺乏“自發(fā)的、無意識的生理活動，例如呼吸、脈搏、眼球運動”——在此之前的換臉視頻中，人物是不會眨眼的。

依據(jù)這個漏洞，研究團隊開發(fā)出一款識別成功率近99%的檢測軟件。然而，僅僅兩周后，一封署名為Deepfake創(chuàng)作者的信寄到了研究人員手上，“感謝指正，漏洞已修復”，信上寫道。自此之后的視頻里，人物更加逼真了，“換臉哥”制作的“楊冪換臉黃蓉”視頻中，楊冪的眼睛就會隨著表情變化而眨動。

除了AI，人們也可以利用自己的肉眼進行識別——目前的Deepfake技術遠未達到完美相似，仍存在一些肉眼可辯的細微瑕疵。Buzzfeed總結了一些辨別視頻真假的方法，如，不要妄下結論，查看內(nèi)容來源，檢查人物的嘴部動作，放慢視頻，仔細觀察人物的神情、動作等。

李治把這場攻防戰(zhàn)比作造矛與造盾之間的“競爭”，“防守的一方肯定不如進攻的一方顯眼”?！凹夹g本身可以往好的方向發(fā)展，但它被用歪了的話，應該怎么解決？”他認為，要么從源頭控制技術的發(fā)展利用，要么普及技術本身讓人們更好地預防，而后者是一個慢慢漸進的過程。