澳利

新一代人工智能模型可以在文本提示的基礎(chǔ)上，按照需求制作出“創(chuàng)造性”圖像。諸如Imagen、MidJourney和DALL-E 2等圖像生成系統(tǒng)正在開始改變創(chuàng)作內(nèi)容對(duì)版權(quán)和知識(shí)產(chǎn)權(quán)的影響方式。

雖然這些模型的輸出往往令人震驚，但是現(xiàn)在還難以確定它們究竟是如何產(chǎn)生結(jié)果的。最近，美國(guó)研究人員令人饒有興趣地宣稱：DALL-E 2模型或許發(fā)明了自身的秘密語(yǔ)言。

通過(guò)提示DALL-E 2系統(tǒng)創(chuàng)作包含文本字幕的圖像，然后再將由此產(chǎn)生的字幕gibberish（令人費(fèi)解的胡話）輸回系統(tǒng)，研究人員發(fā)現(xiàn)：DALL-E 2認(rèn)為“Vicootes”的意思是“蔬菜”，而“Wa ch zod rea”則是指“鯨可能會(huì)吃的海洋動(dòng)物”。

這些說(shuō)法令人著迷，如果屬實(shí)，可能對(duì)這種大型人工智能模型產(chǎn)生重要的安全與解讀能力影響。那么，真相到底如何呢？

擁有秘密語(yǔ)言？

DALL-E 2可能并無(wú)“秘密語(yǔ)言”?；蛟S比較準(zhǔn)確的說(shuō)法是，它擁有自己的詞匯，但是即便如此，我們也沒把握。

首先，這個(gè)階段，很難證明有關(guān)DALL-E 2及其他大型人工智能模型的任何說(shuō)法，因?yàn)橹挥猩贁?shù)研究人員和創(chuàng)意從業(yè)者接觸它們。

公開分享的任何圖像都應(yīng)打個(gè)折扣，因?yàn)樗鼈兪怯扇藦娜斯ぶ悄軇?chuàng)作的很多圖像中“篩選出來(lái)的”。

即使是那些接觸這些系統(tǒng)的人，也只能有限使用這些模型。比如，DALL-E 2用戶可以制作或修改圖像，但是（迄今）不能更深入地與人工智能系統(tǒng)互動(dòng)，比如修改幕后代碼。

這意味著不能用“可解釋的人工智能”的方法理解這些系統(tǒng)的工作原理，而系統(tǒng)性地研究其行為也非常困難。

一種可能是，“令人費(fèi)解的胡話”短語(yǔ)與來(lái)自非英語(yǔ)的詞語(yǔ)有關(guān)。比如“Apoploe”，類似于拉丁語(yǔ)“Apodidae”（雨燕科）一詞，似乎以Apoploe作提示創(chuàng)作出來(lái)的圖像都是鳥類。

這似乎是一種合理的解釋。比如，DALL-E 2接受大量基于互聯(lián)網(wǎng)搜索而來(lái)的數(shù)據(jù)的訓(xùn)練，包括很多非英語(yǔ)詞語(yǔ)。

類似情況以前也發(fā)生過(guò)：由于機(jī)緣巧合，大型自然語(yǔ)言人工智能模型在沒有接受刻意培訓(xùn)的前提下學(xué)會(huì)了編寫計(jì)算機(jī)代碼。

真相撲朔迷離

支持這種理論的一個(gè)論點(diǎn)就是如下事實(shí)：人工智能語(yǔ)言模型與你我解讀文本方式并不相同。相反，它們將輸入文本打碎成“令牌”，然后再進(jìn)行處理。

不同的“令牌化”方法會(huì)產(chǎn)生不同的結(jié)果。把每個(gè)詞當(dāng)作一個(gè)令牌，似乎是一種直覺的方法，但是當(dāng)相同的令牌有不同的意思時(shí)（比如“match”一詞，當(dāng)打網(wǎng)球時(shí)以及點(diǎn)火時(shí)，就有不同的意思），就會(huì)引起麻煩。

另一方面，把每一個(gè)字母當(dāng)作一個(gè)令牌，所產(chǎn)生的可能的令牌數(shù)量較少，但是每個(gè)令牌傳遞的信息含義都要小得多。

DALL-E 2（及其他模型）使用一種中間方法，稱作字節(jié)對(duì)編碼（BPE）。檢查某些令人費(fèi)解的胡話的字節(jié)對(duì)編碼表征可以發(fā)現(xiàn)，這可能是理解這種“秘密語(yǔ)言”的重要因素。

這種“秘密語(yǔ)言”也可能只是“垃圾進(jìn)，垃圾出”原則的一個(gè)例子。DALL-E 2不會(huì)說(shuō)“我不知道你在說(shuō)什么”，因此它總是通過(guò)給定的輸入文本，產(chǎn)生某種圖像。

不管怎樣，這些選項(xiàng)都不是完整的解釋。比如，從令人費(fèi)解的胡話中去掉個(gè)別字母，似乎會(huì)以非常具體的方式破壞已產(chǎn)生的圖像。而且，將單個(gè)胡話詞語(yǔ)組合起來(lái)，并不一定產(chǎn)生合乎邏輯的復(fù)合圖像（如果確實(shí)存在秘密“語(yǔ)言”，那是可以的）。

正視現(xiàn)有擔(dān)憂

除了求知欲，你或許在思考這是否真的重要。

答案是，是的。DALL-E 2的“秘密語(yǔ)言”是機(jī)器學(xué)習(xí)系統(tǒng)“對(duì)抗攻擊”的一個(gè)例子：一種通過(guò)故意選擇人工智能無(wú)法正確處理的數(shù)據(jù)輸入，打破系統(tǒng)的故意行為。

對(duì)抗攻擊擔(dān)心的一個(gè)原因是：它們挑戰(zhàn)我們對(duì)這個(gè)模型的信心。如果人工智能以意外方式解讀胡言亂語(yǔ)，那么它或許也會(huì)以意外方式解讀有意義的詞。

對(duì)抗攻擊也提出了安全關(guān)切。DALL-E 2對(duì)輸入文本進(jìn)行過(guò)濾，防止用戶產(chǎn)生有害或侵權(quán)內(nèi)容，但是令人費(fèi)解的胡話“秘密語(yǔ)言”可能會(huì)讓用戶規(guī)避這些過(guò)濾。

近期研究發(fā)現(xiàn)：某些語(yǔ)言人工智能模型的對(duì)抗“觸發(fā)短語(yǔ)”——簡(jiǎn)短的廢話，可能觸發(fā)模型涌出種族主義、有害或帶有偏見的內(nèi)容。這項(xiàng)研究也是目前正在開展的調(diào)研活動(dòng)，以便理解和控制復(fù)雜的深度學(xué)習(xí)系統(tǒng)如何通過(guò)數(shù)據(jù)進(jìn)行學(xué)習(xí)。

最后，DALL-E 2“秘密語(yǔ)言”這種現(xiàn)象引起了解讀能力擔(dān)憂。我們希望這些模型按照人類的預(yù)期那樣表現(xiàn)，但是看到胡言亂語(yǔ)的結(jié)構(gòu)化輸出令我們的預(yù)期受挫。

你或許還記得2017年關(guān)于臉書網(wǎng)站一些“發(fā)明了自身語(yǔ)言的”聊天機(jī)器人的喧囂爭(zhēng)論?，F(xiàn)在局面有點(diǎn)類似：結(jié)果令人擔(dān)憂，但不是那種“‘天網(wǎng)即將取代世界”式的擔(dān)憂。

相反，DALL-E 2的“秘密語(yǔ)言”突出了目前對(duì)于深度學(xué)習(xí)系統(tǒng)的穩(wěn)健性、安全以及解讀能力的擔(dān)憂。

在這些系統(tǒng)較廣泛地應(yīng)用之前，特別是，在來(lái)自非英語(yǔ)文化背景的廣泛用戶能夠應(yīng)用它們之前，我們確實(shí)無(wú)法真正了解到底在發(fā)生什么。

（李恒克摘自2022年6月11日《參考消息》）