尤瓦爾·赫拉利

一個好消息是，至少在未來幾十年里，我們不用擔(dān)心科幻小說里那種人工智能產(chǎn)生意識、殺光或奴役人類的噩夢會變成現(xiàn)實。我們會越來越依賴算法為我們做決定，但算法并不太可能開始有意識地操縱人類。事實上，它們不會有任何意識。

科幻小說常把智能與意識混為一談，并認為如果要有與人類相當(dāng)甚至更高的智能，計算機就必須發(fā)展出意識。幾乎所有關(guān)于人工智能的電影和小說，基本情節(jié)都圍繞著計算機或機器人產(chǎn)生意識的那個神奇時刻。而一旦它們有了意識，不是人類主角愛上機器人，就是機器人打算殺光所有人類，或者二者兼而有之。

但實際上，我們并沒有理由相信人工智能會獲得意識，因為智能和意識是天差地別的兩種概念。智能是解決問題的能力，意識則是能夠感受痛苦、喜悅、愛和憤怒等情緒的能力。我們之所以會二者不分，是因為對于人類和其他哺乳動物來說，智能與意識會攜手同行。哺乳動物處理大多數(shù)問題時靠的是“感覺”，但計算機是用完全不同的方式來解決問題的。

提高智能的路其實有好幾條，其中只有一條需要靠意識。就像飛機不用羽毛，但飛行速度比鳥更快；計算機也不用具備哺乳動物所需要的感受，就更擅長解決問題。確實，人工智能必須準(zhǔn)確分析人類的感受，才能好好替人類治病、找出人類的恐怖分子、為人類推薦另一半、在滿是行人的街道上行車，但是這一切并不需要它自己有任何感覺。算法只需要學(xué)會辨別猿類在快樂、憤怒或恐懼下的生化模式，而不需要它自己感受到快樂、憤怒或恐懼。

當(dāng)然，人工智能并不是絕對不可能發(fā)展出感受。我們目前對意識的了解還不足以下定論，大致而言，需要考慮3種可能：

1.意識在某種程度上與有機生化相關(guān)，因此只要是非有機體的系統(tǒng)，就不可能創(chuàng)造出意識；

2.意識與有機生化無關(guān)，而與智能有關(guān)。這樣一來，計算機就能夠發(fā)展出意識，而且如果計算機要跨過某種智能門檻，就必須發(fā)展出意識；

3.意識與有機生化或高智能并無重要關(guān)聯(lián)。這樣一來，計算機確實可能發(fā)展出意識，但并非絕對。計算機有可能具備極高的智能，但同時仍然完全不具有意識。

就目前人類掌握的知識來看，這些可能都無法排除。然而，正因為我們對意識所知太少，短時間內(nèi)似乎并不可能設(shè)計出有意識的計算機。因此，雖然人工智能具有巨大的力量，但在可預(yù)見的未來，人工智能的運用在一定程度上還是以人類的意識為準(zhǔn)。

真正的危險之處在于，如果我們太注重發(fā)展人工智能而又太不注意發(fā)展人類的意識，那么計算機有了極先進的人工智能之后，可能只會增強人類的“自然愚蠢”。在未來幾十年內(nèi)，我們不太可能碰到機器人叛亂的問題，但機器人可能會比你的父母更知道怎樣可以觸動你的情緒，并且會運用這種神奇的能力來對你進行推銷，讓你想買某輛車、想把選票投給某個人，或是想接受某種意識形態(tài)。這些機器人能夠找出我們最深層的恐懼、仇恨和渴望，再用它們來對付我們。從最近全球的選舉和公投就可以預(yù)見未來：黑客通過分析選民數(shù)據(jù)，運用選民現(xiàn)有的偏見，就能知道怎樣操縱單個選民?？苹皿@悚片常常上演的是烈火濃煙、轟轟烈烈的末日景象，但實際上，末日景象可能是在一次又一次的點擊當(dāng)中悄悄而且平凡地來臨。

想避免這種后果，每投入一美元、一分鐘來提升人工智能，就應(yīng)該同樣投入一美元、一分鐘來提升人類意識。但很遺憾，目前對于人類意識的研究和開發(fā)并不多。我們對于人類能力的研發(fā)，主要都是為了滿足目前經(jīng)濟和政治體制下的迫切需求，而不是為了讓人類在很久之后仍然是一種保有意識的生物。上司希望我回復(fù)電子郵件越快越好，但他對我品嘗和欣賞食物的能力毫無興趣。結(jié)果就是我連吃飯的時候都在收電子郵件，也就慢慢失去了重視自己感官感受的能力。整個經(jīng)濟體系逼著我要擴大投資組合，讓投資更多元，但完全沒讓我有動機去擴大同理心，讓我的同理心更多元。于是，我投入大量心力想了解證券交易的種種奧秘，但幾乎不花什么心思來了解痛苦背后深層成因是什么。

在此，人類就像其他經(jīng)過馴化的家畜。例如我們培育的奶牛，性情溫順、乳量驚人，但在其他方面遠遠不及其野生祖先，沒那么靈活，沒那么好奇，也沒那么懂得變通。我們現(xiàn)在也正在培育一種馴化的人類，產(chǎn)生的數(shù)據(jù)量驚人，而且能夠像海量數(shù)據(jù)處理裝置中的高效芯片一樣運轉(zhuǎn)，然而這些“數(shù)據(jù)?！苯^對稱不上發(fā)揮了人類的最大潛能。事實上，因為我們還太不了解人類的心智，根本無從得知人類的最大潛能是什么模樣。然而，我們幾乎沒有投入什么心力來探索人類的心智，只一心想著提升網(wǎng)絡(luò)連接的速度及大數(shù)據(jù)算法的效率。如果再不注意，最后的局面就會是退化的人類濫用進化的計算機，傷害自己，也傷害世界。

未來的危險還不止數(shù)字獨裁一項。自由主義秩序背后的價值觀除了自由之外，也很重視平等。自由主義一直強調(diào)政治上的平等，也慢慢發(fā)現(xiàn)經(jīng)濟上的平等幾乎同樣重要。如果沒有社會安全網(wǎng)的機制與一定的經(jīng)濟平等，自由就毫無意義。然而，正因為大數(shù)據(jù)算法可能會抹去自由，同時也就可能創(chuàng)造出歷史上最不平等的社會，讓所有的財富和權(quán)力集中在一小群社會精英手中。大多數(shù)人類的痛苦將不再是受到剝削，而是面對更糟的局面：再也無足輕重。