21世紀初，最重要的藝術流派或許就是科幻小說。真會去讀關于機器學習或基因工程最新文章的人寥寥無幾，但很多人會去看《黑客帝國》《她》之類的電影，以及《西部世界》《黑鏡》之類的電視劇。正是這些電影和電視劇，塑造了人們對于現(xiàn)今科技、社會和經濟發(fā)展的認識。這也意味著，科幻小說在描述科學現(xiàn)實的時候必須更負責，否則就可能讓人產生錯誤的想法，或是把注意力浪費在錯誤的問題上。

現(xiàn)代科幻小說最糟糕的問題，或許就在于混淆了“智能”（intelligence）和“意識”（consciousness）的概念。因此，這些小說常常過度擔心機器人與人類之間可能開戰(zhàn)，但事實上我們真正該擔心的，是有一小群超人類精英憑借算法帶來的力量，與大量底層的手無權力的智人之間發(fā)生沖突。真要思考人工智能的未來，比較值得參考的仍然是卡爾·馬克思的理論，而不是史蒂文·斯皮爾伯格的電影。

活在盒子里

在《黑客帝國》刻畫的世界里，幾乎所有人都被監(jiān)禁在網絡空間，他們所經歷的一切都是由一個主算法控制。《楚門的世界》則是專講一個人的故事，楚門在渾然不知的情況下，成了某個電視真人秀里的主角，也完全不知道自己所有的親朋好友（包括母親、妻子和最要好的朋友）都是演員;發(fā)生在他身上的一切都有精心設計的腳本;他所說和所做的一切，都被隱蔽的攝影機記錄下來，熱情觀看的粉絲人數(shù)多達數(shù)百萬。

然而，這兩部電影雖然概念精妙，最后都還是縮了手，沒讓劇情設定發(fā)揮到極致?！逗诳偷蹏肪腿匀徽J為困在母體（Matrix）里的人還有真正的自我，能夠不受任何科技操縱，而且在母體之外還有個真正的現(xiàn)實，只要主角足夠努力，就能抵達。這樣看來，母體只是個人造的障礙，它隔開了內在的真實自我與外在的真實世界。于是，經歷過許多考驗和磨難之后，兩位主角（《黑客帝國》里的尼奧、《楚門的世界》里的楚門）都成功超越并逃離了整個操縱網絡，找到了真實的自我，抵達了真正的應許之地。

奇怪的是，最后這個真正的應許之地，在很多層面上看還是和造出來的母體沒什么不同。楚門最后離開攝影棚之后，一心想與大學時代曾經心儀但被導演安排離開節(jié)目的對象再相聚。但如果楚門這種浪漫幻想真的實現(xiàn)了，他的生活完全就會是《楚門的世界》賣給全球數(shù)百萬觀眾的那個好萊塢美夢，再加上在斐濟的假期。楚門走到現(xiàn)實世界后，到底會找到怎樣不同的生活，這部電影并沒有給我們任何提示。

同樣，在尼奧吞下著名的紅色藥丸并逃出母體的時候，也發(fā)現(xiàn)外面的世界與里面的沒有什么不同。里外都有各種暴力沖突，人類也同樣受到恐懼、欲望、愛和嫉妒的驅動。這部電影的結局最好是這樣：有人告訴尼奧，他所處的現(xiàn)實只是個更大的母體，如果真想再逃到“真實的世界”，必須再挑一次藍色藥丸或紅色藥丸。

從目前的技術和科學革命來看，我們該擔心的不是算法和電視鏡頭控制了真實的個人和真正的現(xiàn)實，而是“真實”本身也是虛幻。人類害怕被困在盒子里，但沒意識到自己早就被困在一個盒子里了（這個盒子就是人類的大腦），而且盒子外面還有一個更大的盒子，也就是充滿各種虛構故事的人類社會。你逃離母體，來到了一個更大的母體。你想找出這個世界用哪些方式操縱你，最后也會發(fā)現(xiàn)自己的核心身份只是神經網絡形成的復雜幻象。

心智也是被操控的？

或許，我們所有人都活在一個巨大的計算機模擬程序里，就像是《黑客帝國》中的母體。這樣一來，我們所有關于國家、宗教和意識形態(tài)的故事都會被推翻，但我們的心理體驗仍然是真實的。如果有一天事實證明，人類歷史不過就是來自某個鋯石行星的老鼠科學家在超級計算機上的精心模擬，那對經典學者與宗教領袖來說可真是顏面無光。但就算如此，我們還是希望這些老鼠科學家給我們解釋一下，為何要有亞美尼亞種族大屠殺，為何會出現(xiàn)奧斯威辛集中營。這種模擬怎么會得到鋯石大學倫理審查委員會的許可？即使毒氣室只是硅芯片里的電子信號，所有人感受到的疼痛、恐懼和絕望并不會有分毫的減輕。

疼痛就是疼痛，恐懼就是恐懼，愛就是愛，就算在母體里也不例外。無論你感受到的恐懼是來自外部世界的原子集合還是計算機操縱的電子信號，都無關緊要。那份恐懼就是真實的。所以，如果想要探究你心智的真實，母體內或外并不會有任何差別。

大多數(shù)科幻電影其實講的都是一個非常古老的故事：心智勝過物質。這個故事會說，在3萬年前，“心智想象出一把石刀，手工制造出一把石刀，人類殺死猛犸象”。事實上，人類之所以能夠主宰世界，主要并不是因為發(fā)明了刀子、殺死了猛犸象，而是因為能夠操控心智。心智并不是自由塑造歷史行為和生物現(xiàn)實的主體，而是被歷史和生物學塑造的客體。

就算是我們最珍視的那些理想（自由、愛、創(chuàng)造力），也和石刀沒什么不同，都是某個人為殺死某頭猛犸象而打造的?？纯茨壳白铐敿獾目茖W理論和最先進的技術工具就知道，心智一直都受到各種操控。事實上，就沒有什么“真實的自我”能夠免于被操控。你可知道，這些年來你看過多少電影，讀過多少小說和詩歌？這些人工制品又如何塑造、磨煉了你的愛情觀？如果你覺得自己可以按下某個刪除按鈕，消除潛意識和大腦的邊緣系統(tǒng)（limbic system）里所有的好萊塢痕跡，那么你已經在欺騙自己了。

我們喜歡那個制造石刀的故事，但不喜歡自己成了故事里的那把石刀。所以，把那個猛犸象的故事改編成母體版本會是這樣：“心智想象出一個機器人;親手制造出一個機器人;機器人殺死恐怖分子，但也想控制心智;心智殺死了機器人?！比欢?，這個故事是有問題的。這里的問題并不在于心智能否殺掉機器人，而在于一開始想象出機器人的那個心智，早就屬于受各種操控所生成的產品。所以，殺掉機器人無法讓我們得到自由。

（本文節(jié)選自《今日簡史：人類命運大議題》一書，內容有刪減，標題為編輯所加。）