艾德里安·梅耶（Adrienne Mayor）

作為最古老的希臘神話之一，潘多拉故事的最早記錄出現(xiàn)在距今2500多年的荷馬時代。在最原始的敘事中，潘多拉并不是受到誘惑打開封禁之罐的純真少女。相反，詩人赫西奧德告訴我們，潘多拉是“被造物，而非生命”。

承接全能神宙斯所指派任務的潘多拉，實際上是一個人形機器人，有一副迷人少女的外表。她的使命是誘騙凡人，以顯示“紅顏禍水”。

潘多拉的名字意為“所有禮物”，表明她是眾神共同的產(chǎn)物。她產(chǎn)生于赫菲斯托斯的煉爐，赫爾墨斯護送這位令人神魂顛倒的“女人”來到地球，把她包裝成厄庇墨透斯的新娘。她的嫁妝，就是那個包含了更多“禮物”的封禁的命運之罐。

厄庇墨透斯是普羅米修斯的兄弟?！胺纯咕奕恕逼樟_米修斯領(lǐng)導著—也有故事說是他創(chuàng)造了—人類。普羅米修斯擔心人類顯而易見的缺陷，因此教會男人和女人如何負責地使用火和其他工具。但這觸怒了暴君宙斯，了不起的技術(shù)是他眼中的禁臠。作為懲罰，宙斯將普羅米修斯綁在一塊巖石上，派出他的無人機一樣的老鷹—也產(chǎn)生自赫菲斯托斯的熔爐—啄食普羅米修斯的肝臟。

至于潘多拉，她被刻意設計出來懲罰人類接受普羅米修斯的禮物。本質(zhì)上，她是一個迷人的雌性人工智能體，沒有父母，沒有童年記憶，也沒有任何情感，不會老也不會死。她的設定是要完成一個狠毒的任務：潛伏在人間，解除罐子的封印。

但這尚不是故事的全部。帕累托告訴我們，普羅米修斯的名字意為“遠見”，因為和他無憂無慮的兄弟厄庇墨透斯（名字意為“向后看”）不同，他永遠向前看。兄弟兩人中，普羅米修斯更加理性，也顯得更加偏執(zhí)，他試圖警告厄庇墨透斯不要接受宙斯的危險禮物。但厄庇墨透斯被潘多拉迷得神魂顛倒，毫無防備地讓她走進了他的生活。隨后，他才認識到自己犯了一個可怕的錯誤。

因此，潘多拉的流行形象—驚恐地后退，看著各種妖魔鬼怪逃出罐子—是現(xiàn)代的發(fā)明。在古典希臘戲曲中，潘多拉的形象是一臺狡猾的機器：最著名的潘多拉瓶繪把她畫成一位年輕女性，站姿僵硬，帶著神秘莫測的微笑。

隨著AI/“機器學習”迅速演變?yōu)榧夹g(shù)“黑箱”，潘多拉的封禁之罐的象征也有了新的含義。要不了多久，AI決策系統(tǒng)的操作邏輯不但用戶無法理解，就連創(chuàng)造者也無法理解。與其他威脅一樣，AI系統(tǒng)被邪惡之徒入侵或被恐怖分子和暴君利用的可能性很大。

Facebook創(chuàng)始人馬克·扎克伯格、麻省理工學院的安德魯·邁克菲、微軟的程麗麗和其他AI樂觀派，向我們保證AI會帶來巨大的益處，但我們?nèi)匀粫唤?jīng)意地想起厄庇墨透斯。我們真的應該信任人類能調(diào)整和解決AI所造成的問題嗎？

似乎更明智的做法是聆聽當代普羅米修斯，如已故的史蒂芬·霍金、微軟創(chuàng)始人比爾·蓋茨，以及2017年發(fā)聲討論武器化AI和機器人的威脅的其他115位科技領(lǐng)袖。

“留給我們行動的時間已經(jīng)不多了，”他們警告，“一旦潘多拉的盒子被打開，就再也難以關(guān)上?！贝送?，這些“普羅米修斯”的擔心，受到了谷歌聯(lián)合創(chuàng)始人謝爾蓋·布林，以及喬安娜·布萊森和帕特里克·林等人工智能倫理學家的遙相呼應。他們警告不可貿(mào)然接受AI的禮物，必須先想好如何控制它們。

最新民調(diào)表明，真正在開發(fā)AI系統(tǒng)的人，對AI的潛在益處的樂觀態(tài)度大幅下降。對AI工作原理的理解，將帶來更加現(xiàn)實的預期。不是盲目的希望，而是基于知識和經(jīng)驗的遠見，應該決定我們?nèi)绾喂芾磉@項技術(shù)的發(fā)展及其與我們的關(guān)系。

本文由Project Syndicate授權(quán)《南風窗》獨家刊發(fā)中文版。艾德里安·梅耶是斯坦福大學歷史學和科學哲學研究學者，新著《眾神與機器人：神話、機器和古代科技夢》。