艾德里安·梅耶(Adrienne Mayor)
作為最古老的希臘神話之一,潘多拉故事的最早記錄出現(xiàn)在距今2500多年的荷馬時代。在最原始的敘事中,潘多拉并不是受到誘惑打開封禁之罐的純真少女。相反,詩人赫西奧德告訴我們,潘多拉是“被造物,而非生命”。
承接全能神宙斯所指派任務的潘多拉,實際上是一個人形機器人,有一副迷人少女的外表。她的使命是誘騙凡人,以顯示“紅顏禍水”。
潘多拉的名字意為“所有禮物”,表明她是眾神共同的產(chǎn)物。她產(chǎn)生于赫菲斯托斯的煉爐,赫爾墨斯護送這位令人神魂顛倒的“女人”來到地球,把她包裝成厄庇墨透斯的新娘。她的嫁妝,就是那個包含了更多“禮物”的封禁的命運之罐。
厄庇墨透斯是普羅米修斯的兄弟?!胺纯咕奕恕逼樟_米修斯領(lǐng)導著—也有故事說是他創(chuàng)造了—人類。普羅米修斯擔心人類顯而易見的缺陷,因此教會男人和女人如何負責地使用火和其他工具。但這觸怒了暴君宙斯,了不起的技術(shù)是他眼中的禁臠。作為懲罰,宙斯將普羅米修斯綁在一塊巖石上,派出他的無人機一樣的老鷹—也產(chǎn)生自赫菲斯托斯的熔爐—啄食普羅米修斯的肝臟。
至于潘多拉,她被刻意設計出來懲罰人類接受普羅米修斯的禮物。本質(zhì)上,她是一個迷人的雌性人工智能體,沒有父母,沒有童年記憶,也沒有任何情感,不會老也不會死。她的設定是要完成一個狠毒的任務:潛伏在人間,解除罐子的封印。
但這尚不是故事的全部。帕累托告訴我們,普羅米修斯的名字意為“遠見”,因為和他無憂無慮的兄弟厄庇墨透斯(名字意為“向后看”)不同,他永遠向前看。兄弟兩人中,普羅米修斯更加理性,也顯得更加偏執(zhí),他試圖警告厄庇墨透斯不要接受宙斯的危險禮物。但厄庇墨透斯被潘多拉迷得神魂顛倒,毫無防備地讓她走進了他的生活。隨后,他才認識到自己犯了一個可怕的錯誤。
因此,潘多拉的流行形象—驚恐地后退,看著各種妖魔鬼怪逃出罐子—是現(xiàn)代的發(fā)明。在古典希臘戲曲中,潘多拉的形象是一臺狡猾的機器:最著名的潘多拉瓶繪把她畫成一位年輕女性,站姿僵硬,帶著神秘莫測的微笑。
隨著AI/“機器學習”迅速演變?yōu)榧夹g(shù)“黑箱”,潘多拉的封禁之罐的象征也有了新的含義。要不了多久,AI決策系統(tǒng)的操作邏輯不但用戶無法理解,就連創(chuàng)造者也無法理解。與其他威脅一樣,AI系統(tǒng)被邪惡之徒入侵或被恐怖分子和暴君利用的可能性很大。
Facebook創(chuàng)始人馬克·扎克伯格、麻省理工學院的安德魯·邁克菲、微軟的程麗麗和其他AI樂觀派,向我們保證AI會帶來巨大的益處,但我們?nèi)匀粫唤?jīng)意地想起厄庇墨透斯。我們真的應該信任人類能調(diào)整和解決AI所造成的問題嗎?
似乎更明智的做法是聆聽當代普羅米修斯,如已故的史蒂芬·霍金、微軟創(chuàng)始人比爾·蓋茨,以及2017年發(fā)聲討論武器化AI和機器人的威脅的其他115位科技領(lǐng)袖。
“留給我們行動的時間已經(jīng)不多了,”他們警告,“一旦潘多拉的盒子被打開,就再也難以關(guān)上?!贝送?,這些“普羅米修斯”的擔心,受到了谷歌聯(lián)合創(chuàng)始人謝爾蓋·布林,以及喬安娜·布萊森和帕特里克·林等人工智能倫理學家的遙相呼應。他們警告不可貿(mào)然接受AI的禮物,必須先想好如何控制它們。
最新民調(diào)表明,真正在開發(fā)AI系統(tǒng)的人,對AI的潛在益處的樂觀態(tài)度大幅下降。對AI工作原理的理解,將帶來更加現(xiàn)實的預期。不是盲目的希望,而是基于知識和經(jīng)驗的遠見,應該決定我們?nèi)绾喂芾磉@項技術(shù)的發(fā)展及其與我們的關(guān)系。
本文由Project Syndicate授權(quán)《南風窗》獨家刊發(fā)中文版。艾德里安·梅耶是斯坦福大學歷史學和科學哲學研究學者,新著《眾神與機器人:神話、機器和古代科技夢》。