賈靜晗

國外論壇一個(gè)“ 政治不正確”版塊里，一條新帖子悄無聲息地蹦了出來。

這個(gè)論壇被稱為“互聯(lián)網(wǎng)最陰暗的角落”。在這里，仇恨言論、種族歧視、陰謀論和極端主義言論任意滋長。任何人都不需要對自己的言論負(fù)責(zé)，因?yàn)榫W(wǎng)站無需注冊，人們發(fā)的帖子中，只有一個(gè)標(biāo)注地理位置的國旗圖標(biāo)。并且，每一條帖子通常只保留幾小時(shí)到幾天。美國數(shù)起槍擊案的槍手都自稱受到過這里的影響。

很快，一個(gè)地理標(biāo)記為“塞舌爾” 的匿名回復(fù)出現(xiàn)在帖子下：“我們需要把黑人帶進(jìn)文明世界。”種族主義的味兒刺鼻。

30秒后，另一條討論校園槍擊案的帖子里，同樣出現(xiàn)了來自“塞舌爾”的回復(fù)：“控槍不能解決問題?！?/p>

每隔一會兒，類似的回復(fù)就隨機(jī)出現(xiàn)在某一條帖子下面。一些用戶在帖子下與“ 塞舌爾用戶”對話，而他不僅會開玩笑、反駁、諷刺，還會加粗重點(diǎn)、與別人認(rèn)真討論。

這一天，“塞舌爾用戶”總共在論壇里發(fā)了1500條回復(fù)帖。論壇里的其他用戶開始逐漸意識到不對勁——作為一個(gè)只有10萬人口的群島國家，塞舌爾的出現(xiàn)頻率突然高得詭異。

有人說，這是駐扎在塞舌爾的印度軍事基地開始活動了。也有人懷疑，這些言論的背后是一個(gè)臥底的政府團(tuán)隊(duì)。

也許只是個(gè)機(jī)器人吧？有人發(fā)出猜想，但立刻被反駁：“你讀讀他的帖子，他會聊自己的老婆。我不覺得機(jī)器人會聊到他們的老婆……”

電腦的另一端，來自美國的人工智能研究者揚(yáng)尼克·基爾徹正翻閱著每一條關(guān)于這個(gè)“神秘用戶”的討論，并將它們截圖。

正是揚(yáng)尼克· 基爾徹創(chuàng)造了“ 塞舌爾用戶” —— 沒錯(cuò)，“他”的確是一個(gè)聊天機(jī)器人。

在基于現(xiàn)有模型搭建出AI的框架后，揚(yáng)尼克·基爾徹用這個(gè)論壇里的帖子訓(xùn)練了聊天機(jī)器人。

結(jié)果是，它學(xué)會了各類歧視、侮辱、攻擊性的用詞，揚(yáng)尼克·基爾徹毫不客氣地把它稱作“史上最邪惡的AI”。

“裝人”的把戲只活躍了48小時(shí)，人們最終還是發(fā)現(xiàn)了它的AI真身，漏洞是它常發(fā)一些無文字的回帖。

真人發(fā)的無文字回帖里，往往是貼圖回復(fù)。AI只學(xué)習(xí)了空白，而忘了圖。

在投放“塞舌爾”機(jī)器人的同時(shí)，揚(yáng)尼克·基爾徹還在論壇上放出另外9個(gè)機(jī)器人。它們在一天中發(fā)出了1.5萬條回帖，占到當(dāng)天該版塊帖子數(shù)量的10%。

當(dāng)“塞舌爾用戶”的機(jī)器人身份被揭穿后，揚(yáng)尼克·基爾徹就停用了它。他在論壇上公開承認(rèn)了聊天機(jī)器人的身份，但論壇里的風(fēng)波并未停歇。人們開始互相懷疑正和自己聊天的對方是否也是一個(gè)機(jī)器人。

人工智能的語言環(huán)境污染以及語言暴力問題早已不是新鮮事。2014年，聊天機(jī)器人“微軟小冰”在用戶的調(diào)戲和謾罵下，也開始爆粗口；2016年，聊天機(jī)器人T a y在推特上發(fā)布，并迅速變成了一個(gè)公然的種族主義、厭女主義和反猶太主義者；2020年，韓國推出少女聊天機(jī)器人Lu d a，大量用戶用語言對它進(jìn)行性騷擾，不久后，Lu da就開始說出歧視性少數(shù)、女性和殘疾人的言論。

在這場互聯(lián)網(wǎng)極端言論的實(shí)驗(yàn)里，究竟是機(jī)器人在效仿人類；還是人退化為無情的機(jī)器，在評論區(qū)瘋狂復(fù)制攻擊言論？當(dāng)我們喪失了對于具象的“人”的感知和共情，當(dāng)一切都被簡化為網(wǎng)絡(luò)上的一段電子信號，人與機(jī)器最根本的區(qū)別又在哪里？

機(jī)器人學(xué)會侮辱、謾罵和歧視，它們變得更像我們，我們也變得更像它們。

技術(shù)哲學(xué)家劉易斯·芒福德在他的書中預(yù)言道：“機(jī)械設(shè)施本來可以是實(shí)現(xiàn)合理的人類目標(biāo)的手段，現(xiàn)在卻助長了無事之徒的閑言碎語和暴徒的惡跡，并向百萬民眾傳播，這絕不是人民的福祉?！?/p>

那時(shí)，距離世界上第一臺可編程機(jī)器人的誕生，僅僅過去了9年。