“—夜走紅，一天淪陷”一—頂著A咣環(huán)的換臉軟件ZAO憑借極高的關(guān)注度及爭議成為近似現(xiàn)象級的存在，從追捧到唾棄，ZAO換臉的同時讓人們看到了AI這把雙刃劍的威力，當(dāng)人們在換臉事件中逐漸恢復(fù)理智后，讓我們一同重新審視下這場AI換臉風(fēng)暴！

從爆紅到全民聲討

“在未來，每個人都有15分鐘出名的機會。”一一移動互聯(lián)加上社交軟件的普及-令出名變得更加簡單-當(dāng)一款名為ZAO的軟件在半夜刷爆朋友圈時，大多數(shù)人無非感嘆該軟件推廣時機抓得好，乍看上去，AI換臉、簡單易用、社交屬性……種種亮點讓ZAO有了爆紅的基礎(chǔ)，尤其是背靠陌陌這個金主加社交達人，讓“只要在APP中上傳一張照片，你想變成哪個明星，就能變成哪個明星。”愿望實現(xiàn)的ZAO僅僅用了幾個小時就在8月31日蘋果商店的下載量飆升到了免費App下載榜的138位、娛樂App第13位。

一夜之間，朋友圉也被無數(shù)換臉視頻“攻占”，仿佛整個世界都在Cosplay.朋友圈的“傳染”讓不少人在第二天清晨刷朋友圈后開始瘋狂打探并下載這款軟件，如此熱潮下，拿下微博/百度熱搜絲毫不意外了，“服務(wù)器忙”一度成為ZAO的代名詞。

可讓人意外的是這款軟件被外媒爭相報道、有望成為現(xiàn)象級產(chǎn)品時，9月1日下午，ZAO在官方微博回應(yīng)稱，會對相關(guān)問題進行修改，需要一點時間。同日，Zao被微信屏蔽分享鏈接，提示理由為“網(wǎng)頁存在安全風(fēng)險，被多人投訴?！?/p>

從刷屏到質(zhì)疑，不超過24小時，從朋友圈爆紅到被微信封殺，ZAO也只度過了短暫的三天時間。人生的大起大落放在軟件上似乎同樣適用-少見的表現(xiàn)更進一步激起了，人們的好奇心，也讓越來越多的目光聚集在了ZAO身上。

爭議巨大的用戶協(xié)議

娛樂、社交、新鮮感……不少人對ZAO的認知源于換臉，為自己換上明星臉或為名人惡搞換臉，在不少人眼里是件有趣的事兒，無論是用自己的臉制作網(wǎng)絡(luò)熱門表情包還是用你和朋友的臉一起飆戲，ZAO的確滿足了人們的娛樂和社交需求，可在網(wǎng)民隱私意識日益提升的今天，越來越多網(wǎng)友開始對ZAO的潛在風(fēng)險提出疑問。

根據(jù)ZAO用戶協(xié)議內(nèi)容中的必要授權(quán)協(xié)議：用戶上傳發(fā)布內(nèi)容后，意味著同意授予ZAO及其矣聯(lián)公司以及ZAO用戶在“全球范圍內(nèi)完全免費、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利”，“包括但不限于可以對用戶內(nèi)容進行全部或部分的修改與編輯（如將短視頻中的人臉或者聲音換成另一個人的人臉或者聲音等）以及對修改前后的用戶內(nèi)容進行信息網(wǎng)絡(luò)傳播以及《著作權(quán)法》規(guī)定的由著作權(quán)人享有的全部著作財產(chǎn)權(quán)利及鄰接權(quán)利”。

該項條款包括但不限于：人臉照片、圖片、視頻資料等肖像資料中所含的用戶或肖像權(quán)利人的肖像權(quán)，以及利用技術(shù)對其肖像進行形式改動。

微博上有網(wǎng)友擔(dān)憂，“非法”收集面部信息”“萬一哪天被黑客把數(shù)據(jù)庫給拿走了，你的支付寶分分鐘可以被盜刷-你們自己看著吧?！彪m然從一開始就有法律界的人士表示，ZA0的技術(shù)中立很難成立，這樣的用戶協(xié)議并不靠譜，可類似“在你拿ZAO換臉時，可能已成為情色片主角了”的擔(dān)憂足以讓用戶談ZAO色變，從爭相體驗到全民批判也就一點不奇怪了。

用戶安全與侵權(quán)

利用ZAO進行“換臉”，首先需要用手機號動態(tài)驗證碼進行驗證登錄。用戶如果想要下載或分享換臉視頻，則需要進行驗證確認所使用的照片的確是用戶本人，而驗證的方式則是在攝像頭前進行眨眼、扭頭、張嘴等指示動作。用戶面部識別信息被ZAO以驗證的本人的形式獲取，雖然ZAO一直聲明不會擅自使用、泄露用戶隱私，可問題是網(wǎng)絡(luò)時代誰能保證數(shù)據(jù)庫、服務(wù)器絕對的安全？在刷臉應(yīng)用越來越火的今天，面部識別信息本身就是極為敏感的存在，ZAO最初“免責(zé)”式的用戶協(xié)議-顯然會加劇用戶對自身隱私安全的擔(dān)心。

除自身隱私安全外，ZAO極為出色的易用性，讓技術(shù)小白也能一鍵玩轉(zhuǎn)明星換臉，軟件本身內(nèi)置可供選擇的影視劇片段中，有包括《延禧攻略》、《長安十二時辰》、《還珠格格》在內(nèi)的多部熱門國內(nèi)電視劇，也有石原里美、萊昂納多，迪卡普里奧等國外明星的影視劇片段，還有大量熱門的綜藝片段，或許本身是想要給用戶帶來更多趣味性，可換臉過程中，明星、影視劇本身的肖像權(quán)、著作權(quán)、知識產(chǎn)權(quán)又會產(chǎn)生一連串問題。上面矣于用戶自身隱私及侵權(quán)的擔(dān)心并非僅存在于猜想，在ZAO引發(fā)全民爭議的同時，“不雅視頻將女明星換臉成主角售賣：涉多重違法，電商稱零容忍”的新聞讓人們擔(dān)心成為現(xiàn)實，當(dāng)不雅視頻主角加上了明星臉后，AI換臉工具輕而易舉地成為“幫兇”。

AI換臉并非新鮮事兒

AI換臉并非新鮮事兒，早在2017年底，國外一位ID為“deepfakes”的網(wǎng)友，他發(fā)布了一種讓用戶可以使用機器學(xué)習(xí)技術(shù)來將視頻換臉，只是當(dāng)時還處于初級階段-普通用戶根本沒辦法通過這些資料來自己動手DIY，直到簡單版的FakeApp出現(xiàn)，把復(fù)雜的AI換臉變成了簡單，讓普通用戶也能輕松將視頻中的人物換臉。

FakeApp采用了deepfake技術(shù)，并將其軟件化簡單化，能將視頻A里的人臉通過機器學(xué)習(xí)技術(shù)然后套用到視頻B中，而且通過深度學(xué)習(xí)后的換臉效果逼真，幾乎可以達到以假亂真的程度。國外的投機者顯然也不笨，F(xiàn)akeApp很快就被運用到色情網(wǎng)站視頻或報復(fù)色情內(nèi)容，也可能被用于制作假新聞和惡意惡作劇。于是， FakeApp很快就被封殺了。更早一些的1997年-為了彌補一些配音電影唇音不同步的缺陷-國外進行了一項“視頻重寫”的研究項目，這項技術(shù)使視頻中的人物嘴唇自動與音頻系統(tǒng)同步，所以即使原視頻圖像中的人沒有張過嘴，通過“視頻重寫“也可以使這個人按照被匹配的音頻”口若懸河”，這項技術(shù)可用于電影配音、電視會議、電影特效中。

ZAO的出現(xiàn)，核心應(yīng)用并未有多大變化，不過其易用性的確非常不錯，用戶注冊成功后，正產(chǎn)情況下只需幾秒就能制作完成一段變臉視頻，再配上社交功能，其崛起速度顯然非FakeApp可比的。然而，除了個人隱私的泄露與侵權(quán)問題外，涉及資金安全的刷臉支付，同樣是ZAO引發(fā)的新問題。

宣稱自己很安全的刷臉支付

既然視頻都能用ZAO換臉了，那ZAO能騙過刷臉支付驗證嗎？螞蟻金服稱：“刷臉支付”采用的是3D人臉識別技術(shù)，在進行人臉識別前，也會通過軟硬件結(jié)合的方式進行檢測，來判斷采集到的人臉是否是照片、視頻或者軟件模擬生成的，以避免人臉偽造帶來的冒用情況。

以支付寶為例，在進行人臉識別后，部分用戶還需要輸入與賬號綁定的手機號進行校驗，進一步提高安全性。即便出現(xiàn)賬戶被冒用的極小概率事件，大家也不必驚慌，支付寶也會通過保險公司進行全額賠付。

微信方面也回應(yīng)媒體稱，換臉從技術(shù)上完全不會影響刷臉支付的安全性。而銀行方面以刷臉取款為例，采用紅外活體檢測技術(shù)、生物識別技術(shù)等-可抵御照片、換臉視頻、翻拍、3D頭套等面具攻擊。金融系統(tǒng)似乎對AI換臉有著足夠的防備體系-可對于AI在生物識別領(lǐng)域設(shè)的局，普通大眾能防備嗎？

能模仿任何聲音的AI

ZAO換臉引發(fā)了人們對AI替換、生物識別特征的討論，除針對面部識別特征的換臉應(yīng)用外，聲音識別與音調(diào)模仿，同樣是AI應(yīng)用令人擔(dān)憂的存在。據(jù)華爾街日報報道，今年3月，犯罪分子通過商業(yè)化的人工智能語音生成軟件，成功模仿并冒充一家英國能源公司的德國母公司CEO，來欺騙其多位同事和合作伙伴，一天內(nèi)多次詐騙并轉(zhuǎn)移資金，使得該公司損失220，000歐元（約合173萬元人民幣）。類似的語音欺詐的新案例并不少見，犯罪分子使用人工智能技術(shù)來自動化網(wǎng)絡(luò)攻擊并詐騙，獲取錢財，相信不少人都接到過類似的欺詐電話。隨著技術(shù)的更迭-新的AI技術(shù)可以模仿任何聲音， Siri.Alexa，Microsoft的Cortana和GoogleAssistant等人工智能（AI）個人助理都使用文本轉(zhuǎn)語音軟件來為用戶創(chuàng)建更便利的界面，可當(dāng)他們本身就有個人助力的屬性-模仿用戶的聲音聲調(diào)同他人交流，恐怕很容易踩過界。

以百度Deep Voice為例，當(dāng)時的第一代產(chǎn)品，一個系統(tǒng)只能學(xué)習(xí)一個人的聲音，而且需要用幾小時音頻進行訓(xùn)練。隨后的第二三代模型就將所需的訓(xùn)練數(shù)據(jù)降到了半小時，一個系統(tǒng)還能模仿數(shù)千人的聲音。當(dāng)聲音和容貌模仿都變得容易時，由AI打造的另一個你同你的親友聊天、同事辦公甚至借錢、購物時，會是怎樣一種情況呢？

Al社交的試水

任何新興技術(shù)的出現(xiàn)和應(yīng)用，都存在一定風(fēng)險，我們沒必要將這些潛在的風(fēng)險放大或妖魔化，能夠模仿人們的語音、容貌，從技術(shù)角度看-這些應(yīng)用本身是AI技術(shù)進步的表現(xiàn)，換臉并不能讓AI擁有自己的容貌-但在海量面部識別數(shù)據(jù)的前提下，AI形成自己獨一無二的面部形象早已不難-而隨著AI對人類聲音、音調(diào)的模仿，AI顯然能越來越像人。ZAO的火爆離不開社交，而AI換臉的延伸，足以成為AI社交的試水。陌陌用ZAO再度切入熟人社交領(lǐng)域，借助微信、QQ等社交渠道，意味著ZAO的公域流量始終掌握在別人手里，可問題是ZAO如果再進一步，何嘗不能直接以AI的身份完成同用戶的交互呢？

從目前來看，AI直接進入社交領(lǐng)域恐怕還言之過早，以大量頂著AI光環(huán)的幼教機器人和智能音箱為例，其虛擬人物在交互上依舊有些呆滯，更同科幻電影中的虛擬AI人物相去甚遠，而隨著AR＼VR等技術(shù)應(yīng)用的成熟，虛擬AI交互進入大眾生活并不太遠。

掘金個人數(shù)據(jù)需謹慎

深挖ZAO的公司股權(quán)會發(fā)現(xiàn)，陌陌是其背后的金主，在人們感嘆站在巨人肩膀上離成功更近時，有多少人注意到陌陌在ZAO以前還孵化了是他、瞧瞧、Cue、赫茲、MEET等五款社交產(chǎn)品，只不過ZAO成了最火的那一款。

社交代表流量-流量對互聯(lián)網(wǎng)科技企業(yè)而言意味著營收、紅利，可在挖掘用戶流量的過程中-個人隱私數(shù)據(jù)收集必須有底線，“掘金”個人數(shù)據(jù)不能為所欲為。ZAO是一款可將用戶自拍替換進影視劇片段的“換臉”應(yīng)用，用戶想實現(xiàn)這樣的功能，就要上傳自己的照片，這本來無可厚非，讓ZAO飽受詬病的是其實際功能設(shè)計和用戶協(xié)議條款。

從功能上來說，用戶無法直接刪除自己此前上傳的圖片，只能以新上傳的照片來替代，同時無法自行操作注銷IDo這就違反了《個人信息安全規(guī)范》中的主體參與原則，即必須向“個人信息主體提供能夠訪問更正、刪除其個人信息，以及撤回同意、注銷賬戶等方法”。引發(fā)市場全面反彈后，ZAO修改了用戶協(xié)議，但從ZAO事件可以看出，對于個人數(shù)據(jù)的應(yīng)用，不僅需要行業(yè)和企業(yè)的自律，更需要監(jiān)管部門的高效監(jiān)管。

Al監(jiān)管正當(dāng)時

ZAO引發(fā)大眾激烈討論的同時，工信部約談其實際控制人北京陌陌科技有限公司，要求其嚴格按照國家法律法規(guī)以及相矣主管部門要求，組織開展自查整改，規(guī)范協(xié)議條款，強化網(wǎng)絡(luò)數(shù)據(jù)和用戶個人信息安全保護。而在國新辦18日舉行的新聞發(fā)布會上，國家互聯(lián)網(wǎng)信息辦公室副主任劉烈宏對AI換臉技術(shù)軟件ZAO涉嫌侵犯個人隱私及霸王條款一事做出回應(yīng)。

新技術(shù)、新應(yīng)用帶來了發(fā)展的機遇，同時也給網(wǎng)絡(luò)安全帶來了風(fēng)險和挑戰(zhàn)，作為管理部門，國家網(wǎng)信辦積極支持新技術(shù)、新應(yīng)用發(fā)展，同時也采取必要措施防范隨之帶來的風(fēng)險。

寫在最后：

別輕易玩生物識別信息

人工智能時代，大量公民的面部特征、身份信息、健康狀況、年齡特征、流動特點等數(shù)據(jù)，從中可以分析出很多重要信息，點點滴滴的個人隱私匯集起來就是國家信息安全。無論對個人還是國家，生物識別信息都不應(yīng)輕易采集和使用的，新的科技技術(shù)的確能夠激發(fā)人們的好奇心，但管住自己的好奇心也相當(dāng)重要。