Holly

你可能已經(jīng)對一些社交網(wǎng)絡(luò)上常見的騙局見怪不怪了，無論是早些年泛濫的短信詐騙，抑或是電話里冒充公檢法工作人員的詐騙等。隨著騙術(shù)的不斷曝光，受騙的人逐漸減少。但騙子們也沒閑著，既然AI（人工智能）技術(shù)已經(jīng)在不同領(lǐng)域蓬勃發(fā)展，何不搭上這趟順風(fēng)車，對行騙方式進(jìn)行一場“自動化改造”呢？

你的聲音可以被AI偽造

半年前，廣東警方搗毀了一個利用交友App進(jìn)行詐騙的“公司”。該團(tuán)伙制作了多款交友軟件，并設(shè)計出AI機(jī)器人假裝與目標(biāo)用戶“談戀愛”騙取信任，再引誘其墜入事先安排好的“消費陷阱”。聽起來是不是有點兒悲涼？過去，無論如何，騙你的還是真人;現(xiàn)在，聊了十天半個月，你臆想中的“白月光”不過是個AI罷了。

類似的騙局不只出現(xiàn)在交友App中，據(jù)人民網(wǎng)報道，微信語音成了又一個被AI詐騙入侵的領(lǐng)域。有位姓趙的女士收到父親的語音留言，稱自己買菜沒帶錢，讓她轉(zhuǎn)200元過去。長了個心眼兒的趙女士問了一句：“爸，是你嗎？”在收到對方肯定的語音答復(fù)后便將錢轉(zhuǎn)了過去。誰料，雖然語音里的確是父親的聲音，但那段語音并不是來自父親本人……

如今的技術(shù)已經(jīng)發(fā)展到完全可以通過算法來生成人的全套語音，包括生氣、開心時的語氣都能模仿得惟妙惟肖，讓人難辨真假。

其實，早在2016年，谷歌的人工智能實驗室就開發(fā)出了一種聲音合成技術(shù)，并于2017年成立了Lyrebird公司。在公司的網(wǎng)站上，你能聽到官方合成版的奧巴馬和特朗普的聲音，幾乎和真的沒有什么分別。試想一下，這項技術(shù)如果被詐騙團(tuán)伙掌握，他們完全可以通過給你撥打騷擾電話，提取你的聲音信息進(jìn)行合成，從而制作出屬于你的音頻信息，再利用這一信息冒充你，對你的親朋好友實施詐騙。

聲音靠不住，那可以靠臉嗎

答案是：臉可能也靠不住。

如今，AI已經(jīng)發(fā)展到可以給人換臉的程度了。別誤會，不是要給你整容，但它的確掌握了某種“移花接木”的能力，比如把A的臉換到B的身體上。

電影《神奇女俠》的扮演者蓋爾·加朵的臉曾被一名網(wǎng)友替換到了某電影的女主角身上，第一眼看上去竟毫無違和感，似乎這部電影本來就是她出演的。同樣遭此惡搞的還有比她更知名的女星，如安妮·海瑟薇、艾瑪·沃特森等。

當(dāng)然了，這一技術(shù)的初衷并不是傳播這些短片，而是為了完善某些影視作品，例如讓保羅·沃克回歸《速度與激情7》，讓斯坦·李老爺子繼續(xù)出現(xiàn)在漫威系列電影中。但這一技術(shù)顯然在朝著失控的方向發(fā)展。

這位制作女星換臉電影的程序員，不僅免費發(fā)布了他所謂的“成果”，還將制作視頻的教程“無私”地分享了出來。教程公布沒多久，就被改造成一款人人都能使用的App，開發(fā)者表示，這是一款“普通人可以突破技術(shù)壁壘去使用人工智能技術(shù)”的程序。

被惡搞的不僅是上述知名女星，連奧巴馬和特朗普這些國家元首級的人物都未能幸免。馬丁·路德·金和奧巴馬實現(xiàn)了某種跨時空互換，尼古拉斯·凱奇的臉被換成了特朗普的……

之后，雖然很多平臺都對這項技術(shù)頒布了禁令，但未能阻止此類視頻的制作和傳播。就像是打開了潘多拉魔盒一樣，人們在短暫的惡搞發(fā)笑之后陷入某種恐慌之中。令人擔(dān)憂的是，起初遭殃的只是一些明星、政要，但如今，這一趨勢正一點點向普通人蔓延。

眼見未必為實，有視頻不等于有真相

印度有一個名叫Rana Ayyub的記者，因為揭露了政府官員的黑幕，被不法分子利用這項技術(shù)將她的臉和其他人互換，并制作成了非法短視頻在網(wǎng)上傳播。令人心寒的是，不少人信以為真，甚至連她的家人也陷入困惑。在巨大的壓力下，她一度抑郁，甚至住進(jìn)醫(yī)院。無獨有偶，美國一位家庭主婦在得知自己的臉被換到一名聲譽(yù)不佳的女演員身上后，每天活在恐懼之中。

以上事件無不指向一個殘酷的現(xiàn)實：在文字、語音、圖像可以被任意篡改的今天，我們連視頻的真實性都一并失去了。試想一下，如果這項技術(shù)繼續(xù)不受控制地發(fā)展下去，總有一天，你會連自己最親近的人都無法信任?，F(xiàn)在，家人問你借錢，你尚可通過視頻通話的方式確認(rèn)他們的真實身份，那倘若未來騙子將他們的臉合成出來，你要如何辨別？甚至一些原先要求提供照片的地方，比如貸款，都可以通過獲取你的照片來冒充你，你卻有口無憑。

我如何知道“你就是你”？我又該如何證明“我不是我”？這個看似荒誕實則十分日常的問題，在人類面對各種以假亂真的AI時變得分外緊迫。試想一下，某一天，當(dāng)你打開社交軟件，需要時刻提防周圍熟識的人是不是假的時，光想一想，都不禁悲從中來。

被代碼撕開的人性遮羞布

AI技術(shù)的不當(dāng)運(yùn)用可能引發(fā)的不只是詐騙、誣陷、報復(fù)、勒索那么簡單，它所掀起的信任危機(jī)，將會把每一個個體都卷入其中。

過去對電信詐騙不堪其擾的人，未來在AI詐騙面前可能無處可逃。更可怕的地方在于，一旦AI技術(shù)被不當(dāng)利用且與社交媒體結(jié)合，還可能造成假新聞泛濫。如果有不法分子控制了新聞機(jī)構(gòu)的網(wǎng)站或賬戶，發(fā)布一些不實消息，則可能造成更大范圍的恐慌。

這可能正是法國哲學(xué)家鮑德里亞形容的后現(xiàn)代社會的典型特征之一：曾經(jīng)被當(dāng)作“原初”的“真”已經(jīng)失去，人類社會進(jìn)入復(fù)制時代，一切都在復(fù)制和再生產(chǎn)，一切都是“虛假”的，而“虛假”的已經(jīng)變成真的。

技術(shù)的問題，可能最終還得通過技術(shù)來攻克。為了規(guī)避AI技術(shù)存在的潛在風(fēng)險，歐美的國家安全機(jī)構(gòu)已經(jīng)致力研發(fā)一些“反AI”工具，力圖以AI攻克AI。美國國防部高級研究計劃局已找到一些突破口，研究人員發(fā)現(xiàn)，通過觀察眼睛的狀態(tài)，比如是否眨眼，可以檢測出哪張是AI合成的臉，哪張是真實的臉。

雖然如此，AI和反AI的角力大概會一直持續(xù)下去，各位研究人員應(yīng)當(dāng)銘記：技術(shù)本身無罪，但運(yùn)用技術(shù)的人應(yīng)該善良。