這些案件的作案流程頗為雷同：不法分子非法獲取他人照片或有償收購他人聲音等“物料”，僅需少量音視頻樣本數(shù)據(jù)，便可合成媲美真人的偽造音視頻，用來實施精準詐騙，或銷售、惡意傳播等，造成他人財產(chǎn)損失和名譽受損。

一段視頻、一段語音未必是真人拍攝或者錄制。在你不知道的手機軟件后臺、支付界面、門禁閘機，或許有人正在盜刷你的臉……去年以來，多地發(fā)生“變臉”詐騙案。

偽造他人人臉動態(tài)視頻，注冊手機卡、支付賬戶

近日，陳先生來到浙江省溫州市公安局甌海分局仙巖派出所報案，稱自己被“好友”騙了近5萬元。經(jīng)過警方核實，騙子用了AI換臉技術(shù)，利用陳先生好友阿誠在社交平臺上先前發(fā)布的視頻，截取了面部視頻畫面并進行了“換臉”，從而對陳先生進行了詐騙。

2021年4月，安徽省合肥市警方在公安部“凈網(wǎng)2021”專項行動中打掉一個犯罪團伙。該團伙利用人工智能技術(shù)偽造他人人臉動態(tài)視頻，為黑灰產(chǎn)業(yè)鏈提供注冊手機卡等技術(shù)支撐。在警方抓捕現(xiàn)場，幾名犯罪嫌疑人正用電腦將一張張靜態(tài)照片制作成人臉動態(tài)視頻。模擬制作出來的動態(tài)人物不僅能做點頭、搖頭等動作，還可完成眨眼、張嘴、皺眉等豐富表情，效果極為逼真。

在嫌疑人的電腦里，警方發(fā)現(xiàn)了大量人臉數(shù)據(jù)，人臉照片和身份證照片分門別類存放在文件夾里。民警介紹，成套照片被稱為“料”，出售照片的人被稱為“料商”。這些“料”在網(wǎng)上已轉(zhuǎn)手多次，而“料”的主人卻毫不知情。

犯罪嫌疑人馬某交代，由于制作簡單，一個視頻價格僅為2至10元，“客戶”往往是成百上千購買，牟利空間巨大。

近年來，類似案件在浙江、江蘇、河南等多地發(fā)生。浙江衢州中級人民法院的一份刑事裁定書披露：張某、余某等人運用技術(shù)手段騙過支付寶人臉識別認證，并使用公民個人信息注冊支付寶賬戶，非法獲利數(shù)萬元。

這些案件的作案流程頗為雷同：不法分子非法獲取他人照片或有償收購他人聲音，僅需少量音視頻樣本數(shù)據(jù)，便可合成媲美真人的偽造音視頻，用來實施精準詐騙，侵害他人人身和財產(chǎn)安全，或銷售、惡意傳播不雅視頻等，造成他人名譽受損。

“眼見不再為實”

據(jù)合肥市公安局包河分局網(wǎng)安大隊民警王祥瑞介紹，犯罪嫌疑人多為社會閑散人員，有的連高中都沒有讀完。他們按照網(wǎng)購教程下載軟件，花幾個月便“自學成才”。

據(jù)售賣相關(guān)教程的賣家介紹，全套軟件及教程售價有400元、800元兩檔。800元的為高階版本，成功率超高。記者在演示視頻中看到，照片上傳至軟件后，標注出五官位置，調(diào)整腳本參數(shù)，一張臉便動了起來。五官參數(shù)隨教程送上，照抄即可。據(jù)介紹，這些偽造視頻不僅通過率高，人工審核都難辨真假。

“目前，公眾對照片等靜態(tài)信息易被篡改已有所警惕，但對視頻、聲音等動態(tài)信息內(nèi)容仍持有較高信任度?！鼻迦A大學人工智能研究院基礎理論研究中心主任朱軍說，深度合成技術(shù)飛速演進，讓“眼見不再為實”，破解身份核驗的難度會越來越低、耗時將越來越短。專家擔心，盡管針對深度合成技術(shù)的識別技術(shù)不斷迭代、檢測手段持續(xù)增強，但依然沒能跑贏“偽造”技術(shù)升級的速度。隨著合成技術(shù)應用門檻的進一步降低，合成內(nèi)容已模糊真實與偽造的邊界。

法律規(guī)定相對滯后，也給不法分子留下可乘之機。中倫律師事務所合伙人陳際紅說，目前法律規(guī)定，禁止利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)，但技術(shù)如何使用算合理使用、哪些情形下應禁止使用等，沒有具體規(guī)定;收集或收購個人聲紋、照片，使用人臉、指紋、DNA、虹膜等個人生物信息等行為，在哪些范圍內(nèi)構(gòu)成犯罪、將面臨怎樣的懲罰，需要司法裁判進一步給出明確指引。

別再讓公眾為“臉面”擔憂

近日，我國首個國家層面的科技倫理治理指導性文件《關(guān)于加強科技倫理治理的意見》印發(fā)，凸顯了技術(shù)倫理治理的重要性和緊迫性。在今年的最高法工作報告中，包括人臉安全在內(nèi)的個人信息安全等多次被提及。

陳際紅表示，打擊“變臉”詐騙犯罪，應從技術(shù)的合法使用邊界、技術(shù)的安全評估程序、濫用技術(shù)的法律規(guī)制等方面予以規(guī)范，提高技術(shù)濫用的違法成本。

技術(shù)規(guī)制之外，針對技術(shù)濫用暴露的風險治理應當體系化、完善化?！耙獦?gòu)建數(shù)據(jù)集質(zhì)量規(guī)范、根據(jù)應用場景對相關(guān)技術(shù)進行風險分級分類管理，明確設計開發(fā)單位、運維單位、數(shù)據(jù)提供方的責任?！眹夜I(yè)信息安全發(fā)展研究中心副總工程師邱惠君說。

專家提醒，針對花樣翻新的“變臉”詐騙，公眾要提高防范意識，不輕易提供人臉、指紋等個人生物信息給他人，不過度公開或分享動圖、視頻等;網(wǎng)絡轉(zhuǎn)賬前要通過電話、視頻等多種溝通渠道核驗對方身份。一旦發(fā)現(xiàn)風險，及時報警求助。

（朱權(quán)利薦自《經(jīng)濟參考報》）