不久前，幾張美國(guó)前總統(tǒng)特朗普在紐約街頭遭警察逮捕的圖片在美國(guó)社交網(wǎng)絡(luò)上瘋傳。雖然外媒很快辟謠稱(chēng)，這些照片只是由人工智能（AI）生成的圖像，并非真實(shí)照片。但由于圖片太過(guò)以假亂真，不但騙到了不少美國(guó)網(wǎng)民，也開(kāi)始被一些有心之人利用。

除了特朗普外，俄羅斯總統(tǒng)普京、美國(guó)總統(tǒng)拜登等人也同樣“中招”。有人擔(dān)心，AI技術(shù)的顛覆性發(fā)展和大規(guī)模應(yīng)用很可能導(dǎo)致社交媒體被虛假信息“淹沒(méi)”。

英記者炮制“假新聞”

不久前，多張?zhí)乩势毡蛔凡兜膽騽⌒詧D片在社交網(wǎng)絡(luò)上瘋傳。在其中一張圖片中，特朗普在前面跑得氣喘吁吁，執(zhí)法人員在后面緊追不舍；另一張圖片中，特朗普被多名紐約市警察圍捕，被抓住雙手摁倒在地，場(chǎng)面十分混亂。這些圖片是怎么來(lái)的？據(jù)悉，大部分“特朗普被捕”的相關(guān)圖片都由開(kāi)源信息調(diào)查網(wǎng)站Bellingcat創(chuàng)始人、英國(guó)獨(dú)立記者艾略特·希金斯發(fā)布。

希金斯是在讀到特朗普或被逮捕的文章時(shí)，靈機(jī)一動(dòng)，想將這一事件“可視化”。為此，希金斯在AI繪圖工具M(jìn)idjourney上輸入相應(yīng)提示詞，比如“特朗普在被捕時(shí)摔倒、新聞報(bào)道畫(huà)面”。隨后，他將AI生成的圖像發(fā)布在社交媒體推特上，并在帖子中寫(xiě)道：“在等待特朗普被捕時(shí)，制作了特朗普被捕的圖片?！?/p>

“我只是在胡鬧而已，我以為大概也就5個(gè)人會(huì)轉(zhuǎn)發(fā)?！毕＝鹚拐f(shuō)。但兩天之后，該推文瀏覽量已突破500萬(wàn)次，并且仍在不斷增加。受到大量關(guān)注后，希金斯還如法炮制了一系列圖片，給“特朗普被捕”事件補(bǔ)上了一系列后續(xù)——被捕、入獄、受審、獄中生活、越獄、跑去麥當(dāng)勞大吃一頓。其中，幾張?zhí)乩势铡拌F窗淚”的照片也得到網(wǎng)友大量轉(zhuǎn)發(fā)。

對(duì)于個(gè)人形象被處理成“假照片”，特朗普本人似乎不以為意。相反，他還親自下場(chǎng)，在“真相社交”上分享了一張自己正在祈禱的AI合成圖像。

AI圖像以假亂真

對(duì)于這些圖片，美國(guó)媒體很快進(jìn)行了辟謠，一些互聯(lián)網(wǎng)“原住民”和AI愛(ài)好者也很快辨明真?zhèn)?。然而，人們不得不承認(rèn)，隨著AI技術(shù)的不斷更迭，這些圖像正變得越來(lái)越能以假亂真。

希金斯上傳的圖片在經(jīng)由他人重新發(fā)布后，很快騙到了大群美國(guó)網(wǎng)友。有人在轉(zhuǎn)發(fā)時(shí)，配上“突發(fā)新聞：特朗普今晨在曼哈頓被捕”“震驚！特朗普被逮捕并押往聯(lián)邦監(jiān)獄”等文字。還有人在圖片下提問(wèn)：“為什么特朗普被捕的事沒(méi)上新聞？”

對(duì)此，美聯(lián)社認(rèn)為，雖然處理照片和合成圖像的能力并不新鮮，但近年來(lái)，隨著AI技術(shù)的不斷升級(jí)，圖像生成工具正變得更易使用。用戶(hù)只需提供一個(gè)簡(jiǎn)單的文字提示，這些工具就能迅速生成以假亂真的圖像，背景中往往還包含大量令人信服的細(xì)節(jié)。

對(duì)此，美國(guó)《福布斯》雜志網(wǎng)站稱(chēng)，AI生成圖像現(xiàn)在已開(kāi)始出現(xiàn)“危險(xiǎn)信號(hào)”。過(guò)去，AI在生成人手方面特別困難。有時(shí)候，圖像上會(huì)出現(xiàn)缺失、扭曲的四肢，以及多余的手指和牙齒，讓人感到詭異甚至恐怖。但那已經(jīng)是過(guò)去式了，大部分情況下，更新版本的圖像生成工具已能夠生成正常的手部。

不過(guò)，如果仔細(xì)觀察“特朗普被捕”的圖片，仍能發(fā)現(xiàn)多余的四肢、畸形的手、特朗普身上不合理的警察腰帶等。然而，《福布斯》指出，在“假新聞”海嘯中，這些細(xì)節(jié)很難被察覺(jué)。這些AI生成中的小錯(cuò)誤，也能夠很容易地用PS等修圖軟件掩蓋。

增加噪音，加劇偏見(jiàn)

分析人士認(rèn)為，隨著越來(lái)越多AI合成的假照片和視頻“淹沒(méi)”社交媒體，真實(shí)和虛假間的界限將會(huì)變得更加模糊?！霸诖罅恐谱魈摷俚尚诺膱D像方面，AI正在向前邁出巨大一步?！比藱?quán)組織Witness的執(zhí)行董事山姆·格雷戈里說(shuō)。

實(shí)際上，除了特朗普被生成AI圖像外，其他名人和政客也未能幸免。有網(wǎng)友將美國(guó)總統(tǒng)拜登的“假照片”做成“梗圖”或其他圖像。美國(guó)參議員沃倫的假音頻和美國(guó)前眾議長(zhǎng)佩洛西的虛假視頻也在網(wǎng)上流傳。對(duì)此，人們不禁發(fā)出疑問(wèn)，過(guò)去說(shuō)“無(wú)圖無(wú)真相”，但現(xiàn)在，有圖也不一定有真相。未來(lái)，當(dāng)AI生成的大量照片和視頻扭曲人們對(duì)現(xiàn)實(shí)的共同認(rèn)知，會(huì)發(fā)生什么？

“（AI圖像）在危機(jī)事件期間增加噪音，也增加人們憤世嫉俗的程度?！泵绹?guó)華盛頓大學(xué)教授杰文·韋斯特認(rèn)為，人們將開(kāi)始對(duì)整個(gè)系統(tǒng)和接觸到的信息失去信任。

《福布斯》則認(rèn)為，“假照片”的泛濫將加劇偏見(jiàn)。面對(duì)大量難辨真假的圖像，很多人可能只會(huì)相信符合自己偏見(jiàn)的信息，且將真實(shí)的證據(jù)視作虛假。AI還很可能成為有心人的工具，并擴(kuò)大潛在受害者的范圍。對(duì)此，專(zhuān)家認(rèn)為，提高公眾意識(shí)、加強(qiáng)相關(guān)教育將是打擊虛假AI圖像的最佳方式。韋斯特就表示，制作這些圖像變得如此容易，成本如此低廉，應(yīng)該盡一切努力讓公眾了解這項(xiàng)技術(shù)的進(jìn)步。此外，在監(jiān)管方面也需加大力度。

（摘自《解放日?qǐng)?bào)》裘雯涵）