據(jù)《日本經(jīng)濟新聞》5月1日報道，“從事網(wǎng)絡詐騙的跨國犯罪集團開始熱衷于生成式人工智能（AI）技術，這將帶來復雜且令人擔憂的挑戰(zhàn)”。

聯(lián)合國毒品和犯罪問題辦公室日前發(fā)布了一份長達百頁、題為《拐點》的報告。報告分析稱，在東南亞迅猛發(fā)展的網(wǎng)絡詐騙活動開始向南美、非洲等地區(qū)擴展。

使用AI生成偽造視頻的深偽技術導致詐騙活動愈發(fā)猖獗。目前已發(fā)現(xiàn)有10多家公司在高度保密的通信應用程序“電報”上向犯罪組織出售專用軟件。2023年，東亞和東南亞因網(wǎng)絡詐騙造成的經(jīng)濟損失可能高達370億美元。

技術進步也助長了不法分子的違法效率。日本國際大學副教授山口真一表示：“生成式AI的出現(xiàn)，帶動了深偽技術的普及。它很快就會變得更加容易使用，而我們將迎來虛假信息泛濫的‘X日’（二戰(zhàn)末期盟軍制訂的進攻日本本土作戰(zhàn)計劃‘沒落行動’的首日——本報網(wǎng)注）?！睘榱吮Ｗo公民的生活，打磨預防犯罪的技術非常重要。

由富士通牽頭，日本電氣公司（NEC）、東京大學等公司和機構參與，專門用于打擊虛假信息的系統(tǒng)已經(jīng)開始研發(fā)。當將內容輸入聊天機器人時，AI會逐一甄別那些人眼難以判斷是否真實的信息。

它的獨特之處在于不僅能夠判斷文本和圖像的真實性，還能收集數(shù)據(jù)并為其調查結果提供依據(jù)。據(jù)稱這是世界上第一個能夠處理從真?zhèn)伪鎰e到數(shù)據(jù)分析的一攬子系統(tǒng)。該系統(tǒng)計劃于2025財年底打造完成，并于2025年夏季提前開始試運行。

虛假信息和錯誤信息的傳播引發(fā)了信息空間的“環(huán)境污染”。日本國家信息學研究所（NII）正在開發(fā)一種“網(wǎng)絡疫苗”，以防止網(wǎng)絡內容和人們的面部信息被濫用。

這種網(wǎng)絡疫苗嵌入了肉眼無法看見的微小噪點，這將導致AI對圖像產(chǎn)生誤判，無法識別人臉等信息，從而防止篡改。他們還將開發(fā)利用AI顯示已編輯區(qū)域并恢復遭修改視頻的技術。

NII的越前功教授表示：“完全由人眼負責監(jiān)控是不現(xiàn)實的，自主研發(fā)打擊虛假信息的技術至關重要?！?/p>

就防止虛假信息傳播和杜絕篡改現(xiàn)象，越來越多人開始行動起來。C2PA是由奧多比系統(tǒng)軟件公司等美國企業(yè)為主的約200家公司建立的標準化組織。美國開放人工智能研究中心（OpenAI）去年底推出的自動視頻制作服務也符合C2PA標準，具有嵌入標識視頻為“AI制作”信息的機制。（編譯/劉林）