胡紫微

十年后，我就快虛六十了……或者說(shuō)，我將成為一個(gè)五十七歲零八個(gè)月……的老太太。天哪，想到這兒，尷尬癌都犯了。

我根本不想變老，根本不想變成一個(gè)六十歲的老太太。何況我還沒(méi)有準(zhǔn)備好。何況，這事兒也根本沒(méi)法兒準(zhǔn)備。準(zhǔn)備如何成為一個(gè)老太太嗎？這也太讓人懊喪了。

然而，這不就是人生——久居繁華，不覺(jué)抵暮。

如何成為四五十歲的大姐

每到十年大限，都不免暢想一番。我還算是一個(gè)有預(yù)見(jiàn)性的人，早早就料定自己：20歲的林黛玉，30歲的王熙鳳，40歲的薛寶釵。那么，五十以后呢？紅樓夢(mèng)這個(gè)最好的中國(guó)故事里，好像并沒(méi)有為50歲以上的女人安排腳本。五十以后的我們，會(huì)成為誰(shuí)呢？王夫人，薛姨媽?zhuān)€是王善保家的或馬道婆？

想想五十以后女人的那些稱(chēng)謂，老嫗，老媼，老安人，老虔婆，要么欠死，要么欠殺……翻遍古書(shū)，除了武則天與狄仁杰的不盡之意，也就是萬(wàn)歷他娘，閨名李彩鳳的那位老太太，活得還算引人遐想。

兒子繼承大統(tǒng)之后，李太后與兒子的老師暗通款曲。太后生日，這位天下第一西賓竟上了這樣的賀陳：白燕飛，兩兩玉交輝……有時(shí)紅藥階前過(guò)，帶得清香拂繡閨。瞧瞧，兩兩玉交輝，對(duì)老太太這一腔柔情啊。更何況，這一腔柔情的帝王師還是當(dāng)朝首輔群臣領(lǐng)袖，更何況，這位當(dāng)朝首輔還是大大的美男子面如冠玉美髯及腹，更何況，這美男子還是千古名臣堂堂奇男子張居正本人呢。就算真的沒(méi)發(fā)生什么吧，但想到這個(gè)注定青史留名的大帥哥，為你放下身段淺斟低唱“階前紅藥，年年為誰(shuí)生”，能不動(dòng)人？不過(guò)，八卦了一下這位李太后的年紀(jì)，發(fā)現(xiàn)比張居正整整小了21歲，也就是說(shuō)，“兩兩玉交輝”那時(shí)候，李太后比奶茶妹妹也大不了幾歲。

所以，作為五十多歲的中年婦女而不令人生厭，第一要緊事就是不要執(zhí)念太過(guò)，學(xué)著退出舞臺(tái)中央，不見(jiàn)雨露，安于一隅。要允許自己成為一座空城。

其次，想起自己年輕的時(shí)候，特怕跟四五十歲的大姐打交道，她們總是一副跟你同歸于盡的架勢(shì)，天不怕地不怕，拙于沉淀卻長(zhǎng)于出拳，頤指氣使稱(chēng)王稱(chēng)霸，天然地把比她們年輕的同性視同寇仇，欺負(fù)人成性，殺傷力特強(qiáng)，成為駐扎在每一個(gè)組織結(jié)構(gòu)中的大母神。比如熱播劇《急診科醫(yī)生》里前十集里的江珊，比如這兩天三亞菜市場(chǎng)里，因?yàn)閯儾巳~受阻而大打出手狂抽門(mén)店經(jīng)理的東北大姐。這就比較可怕了。

轉(zhuǎn)眼間，我們也成為四五十歲的大姐。既然深諳這陳陳相因的怨毒之氣有多么可怕，那么，就利用這十年，好好勸住了自己，別老跟更年期過(guò)不完似的，出則傷人，入則害己。連曾國(guó)藩那么大來(lái)頭，還窮其一生持修逆來(lái)順受之法呢，更何況你我這樣勞動(dòng)人民出身的柴禾妞，其實(shí)平時(shí)也沒(méi)什么人慣著，為什么就不能低低頭、認(rèn)認(rèn)錯(cuò)，遇事曠達(dá)一點(diǎn)，為人謙和一點(diǎn)呢？賢二小和尚說(shuō)，我們總是在對(duì)的地方失去最多。

第三，當(dāng)變成一個(gè)年近花甲的大姐，我們會(huì)是什么模樣呢？對(duì)此我有點(diǎn)兒好奇，也有點(diǎn)兒躍躍欲試。

在整容這事兒上，中國(guó)后發(fā)先至，像電子支付和軌道交通一樣，一不留神走到了世界前列。中國(guó)女人特別豁得出去，中國(guó)男人普遍沒(méi)有審美，于是大街上忽然多出了很多劍眉星目通關(guān)鼻梁削尖下巴血盆大口面色煞白的人造美女。僵著這樣如出一轍的錐子臉行走在大街上，看的和被看的都沒(méi)覺(jué)得有什么不好意思。聽(tīng)說(shuō)2025年中國(guó)的GDP總量將反超美國(guó)變世界第一，可想而知，愈加富裕起來(lái)的國(guó)人會(huì)怎樣更加不能放過(guò)自己那張黃色的中國(guó)臉。我們不是喜歡整容，我們根本是討厭自己。

60歲要遠(yuǎn)離肉毒素，盡量不要僵著一張臉去過(guò)剩下的20年；60歲要遠(yuǎn)離烈焰紅唇，明白你已經(jīng)到了寧丑勿媚的年紀(jì)；60歲，不再唱情歌，即便喝多了也麻煩管住自己不給任何異性打電話；60歲，不再抓取任何涉嫌發(fā)泄的詞匯比如傻×牛×去定義人事物。人的怒氣大半來(lái)源于見(jiàn)解或認(rèn)知結(jié)構(gòu)的偏狹。我們都老了，在晚輩面前留點(diǎn)臉面，不必一再提醒世人我們的腦回路也跟胳膊腿兒一樣亟待返廠大修。更何況，表情達(dá)意總是沖得跟豹子似的，對(duì)血壓也不好。

60歲，我們要避免再犯那些年輕人才可以犯的錯(cuò)誤。

最后，當(dāng)我們老了，還需不需要再設(shè)定一些人生目標(biāo)？

在《參考消息》上曾讀到過(guò)這樣一個(gè)豆腐塊：女人需要什么？文章大意是：10歲的女孩需要好父母，20歲的女孩需要好容貌，30歲的女人需要好丈夫，40歲的女人需要好性格，50歲的女人需要……好多好多錢(qián)。

但是我估計(jì)，即使有了好多好多錢(qián)，也不見(jiàn)得更快樂(lè)。我們的麻煩就在這里。我們的快樂(lè)或者不快樂(lè)不再來(lái)源于銀行戶(hù)頭的變動(dòng)。這讓人生變得復(fù)雜。

我們也不再需要性。以前不明白為什么《格調(diào)》里會(huì)把性看成大老粗的娛樂(lè)，隨著內(nèi)啡肽的減少，不用想就明白了。當(dāng)然，我們需要的也不再是一份感情。有句話說(shuō)，愛(ài)不是來(lái)源于控制、索取或奉獻(xiàn)，愛(ài)來(lái)源于共同的價(jià)值觀和長(zhǎng)久的相互吸引。一個(gè)連膠原蛋白都可以放棄的老太太，還要在一個(gè)遍地布里吉特（注：布里吉特·特羅涅，法國(guó)總統(tǒng)馬克龍的妻子，比丈夫年長(zhǎng)25歲）而馬克龍欠奉的世界里持續(xù)發(fā)力構(gòu)建關(guān)系共創(chuàng)未來(lái)，想想都像須彌穿針，于是也算了。

隨著發(fā)際線越來(lái)越高，多巴胺分泌越來(lái)越少，你變得像病中的林妹妹一樣，沒(méi)人來(lái)悶得慌，有人來(lái)亂得慌。五脊六獸，閑愁萬(wàn)種。60歲，需要養(yǎng)成一種不用別人配合的愛(ài)好，慢慢習(xí)慣獨(dú)自上路。爭(zhēng)取窮十年之功，把閑愁放下。

然而，還有更嚴(yán)峻的命題。

其實(shí)，對(duì)于未來(lái)十年乃至余生，我承認(rèn)自己一直生活在雙重煎熬里。除了如何不成為一介惹人生厭的中年婦女之外，還在時(shí)時(shí)為AI何時(shí)毀滅人類(lèi)而操心。

是的，這倆事兒聽(tīng)起來(lái)跨度有點(diǎn)兒大。但是在怎么用可樂(lè)兌白醋給浴缸除垢以及如何修煉大長(zhǎng)腿之余，家庭婦女也可以關(guān)心點(diǎn)兒別的，比如人類(lèi)命運(yùn)什么的。

我們將親手創(chuàng)造自己的上帝嗎？

“人工智能很可能導(dǎo)致人類(lèi)的永生或者滅絕，而這一切，很可能在我們的有生之年發(fā)生?！边@是我在知乎上讀到的一段話。之后，我決定認(rèn)真學(xué)習(xí)下這篇3.5萬(wàn)字的譯作到底說(shuō)了些什么。結(jié)果，我承認(rèn)，這是這一年而且很有可能是接下來(lái)十年里對(duì)我震動(dòng)最大的一件事，而且，我敢說(shuō)，如果你有耐心讀完它，那么對(duì)于如何度過(guò)余生，你也許會(huì)像我一樣，產(chǎn)生一些顛覆性的念頭。

以下是我的讀書(shū)筆記——你看，只有家庭婦女和真正的民科才會(huì)有閑情把時(shí)間花在這些聳（po）人（zai） 聽(tīng)（mei） 聞（jie） 的事情上。

首先，要拋掉這樣一個(gè)預(yù)設(shè)前提：“人類(lèi)發(fā)展就是這么個(gè)速度。20世紀(jì)這樣，21世紀(jì)也差不多。”如果你以指數(shù)化思考替代線性思考，你會(huì)發(fā)現(xiàn)人類(lèi)這個(gè)物種越走越快。專(zhuān)家估計(jì)，人類(lèi)在21世紀(jì)的進(jìn)步將是20世紀(jì)的1000倍。即使你是一個(gè)麻木透頂?shù)恼?，也?huì)同意技術(shù)的奇點(diǎn)即將到來(lái)。這樣的暗示已經(jīng)到處都是。奇點(diǎn)之后，我們將生活在一個(gè)完全不同的世界里。具體點(diǎn)兒說(shuō)，我們已經(jīng)踏上通往超級(jí)智能之路。

其次，需要明確三個(gè)相關(guān)的概念：一、弱人工智能（以下簡(jiǎn)稱(chēng)弱人）：某一領(lǐng)域的智能單項(xiàng)冠軍。比如阿爾法狗。二、強(qiáng)人工智能（以下簡(jiǎn)稱(chēng)強(qiáng)人）：人類(lèi)級(jí)別的人工智能。它具有寬泛的心理能力，能夠思考，計(jì)劃以及解決抽象的問(wèn)題。它能理解復(fù)雜的概念，以及從經(jīng)驗(yàn)中學(xué)習(xí)。也就是說(shuō)，它幾乎就是一個(gè)人。三、超人工智能（以下簡(jiǎn)稱(chēng)超人）：幾乎在所有領(lǐng)域里都比最聰明的人類(lèi)更聰明。不是強(qiáng)一點(diǎn)點(diǎn)，而是強(qiáng)萬(wàn)億倍。

我們現(xiàn)在的位置，是一個(gè)充滿了弱人工智能的世界，從谷歌搜索到無(wú)人駕駛汽車(chē)。

接下來(lái)的判斷是，從弱人到強(qiáng)人之路，很難走。但這一天必將到來(lái)，且大概率是在我們的有生之年。

有鑒于大腦是我們所知宇宙中最為復(fù)雜的東西，我們覺(jué)得困難的事，比如微積分、國(guó)際象棋，對(duì)于電腦太簡(jiǎn)單了；但是我們覺(jué)得容易的事，比如看、走、識(shí)別二維碼，對(duì)于電腦太難了。人工智能在所有需要計(jì)算與邏輯的領(lǐng)域都超過(guò)了人類(lèi)，卻在人和動(dòng)物不需要思考就能夠完成的事情上，還差得很遠(yuǎn)。比如我們的微表情，比如花兒為什么是美的。如果想要趕上人腦，電腦必須學(xué)習(xí)理解更為微妙的東西。

學(xué)界的共識(shí)是，通往強(qiáng)人之路，有兩個(gè)必須邁過(guò)去的坎：一是電腦需要更快的運(yùn)算速度，二是讓電腦變智能。

其實(shí)，與人腦相抗衡的運(yùn)算速度已經(jīng)存在了，比如天河二號(hào)計(jì)算機(jī)，其每秒3.4億億次的運(yùn)算速度已遠(yuǎn)遠(yuǎn)超越了強(qiáng)人所需的每秒1億億次運(yùn)算速度。但這個(gè)占地720平方米、花3.9億美元建造的大家伙太大也太貴了。不過(guò)，到2025年，我們只花1000美金就可以買(mǎi)到與人腦速度運(yùn)算相同的電腦了。這個(gè)預(yù)測(cè)的根據(jù)如下：現(xiàn)在，1000美元能夠買(mǎi)到人腦計(jì)算速度1/1000的電腦，同樣的錢(qián)，在1985年時(shí)買(mǎi)到的電腦的計(jì)算能力，只是人腦運(yùn)算能力的萬(wàn)億分之一（前幾天又得到了一條驚掉下巴的消息，上海一個(gè)量子信息小組已經(jīng)通過(guò)成功抓取10個(gè)光子把以前幾十萬(wàn)年的電腦運(yùn)算速度提高到了區(qū)區(qū)幾秒。也就是說(shuō)這篇三年前預(yù)測(cè)的2025年實(shí)現(xiàn)的運(yùn)算奇點(diǎn)，已經(jīng)被中國(guó)人刷新到了2018年的今天?。?。

讓電腦變智能就比較困難。現(xiàn)在全世界的研究機(jī)構(gòu)都沿著三條線索向前摸索。第一條路是抄襲人腦，以整腦模擬邏輯來(lái)搭建人工神經(jīng)網(wǎng)絡(luò)。好消息是人類(lèi)已經(jīng)模擬成功了扁蟲(chóng)的大腦，壞消息是扁蟲(chóng)的大腦神經(jīng)元是302個(gè)，人腦則有1000億個(gè)。但是，別忘了“指數(shù)化思維”這回事，模擬成功了小蟲(chóng)子，接下來(lái)就是螞蟻的大腦，老虎的大腦，再模擬人類(lèi)大腦也就是一箭之地。而完成人腦模擬的具體時(shí)間，樂(lè)觀地估計(jì)，是12年左右。

第二條路是模仿生物演化的“基因算法”，重走幾十億年的生物進(jìn)化之路，完成電腦的智能跨越，爭(zhēng)取用幾十年完成。

第三條路是讓電腦自己來(lái)解決智能化的問(wèn)題，粗略地講，就是把電腦變成科學(xué)家，把研究人工智能變成電腦自己的任務(wù)，不斷地修改自己的代碼，最終達(dá)成目標(biāo)。

以上這些好像分不清是瘋子囈語(yǔ)還是科幻小說(shuō)的思路其實(shí)都是正在發(fā)生的現(xiàn)實(shí)，而問(wèn)卷調(diào)查顯示，眾多人工智能專(zhuān)家與未來(lái)學(xué)家都認(rèn)為，強(qiáng)人時(shí)代將在15年之內(nèi)降臨。

不管怎么說(shuō)，我們終于造出了和人類(lèi)智能相當(dāng)?shù)膹?qiáng)人工智能，然后人腦和電腦就平靜快樂(lè)地生活在一起了。

呵呵，逗你呢。

即使是一個(gè)跟人類(lèi)智能完全一樣的電腦，鑒于它在運(yùn)算速度（今天弱人的運(yùn)算速度已經(jīng)是人腦的1000萬(wàn)倍了，想想15年以后的強(qiáng)人吧）、存儲(chǔ)容量以及可靠性和持久性上的巨大優(yōu)勢(shì)，它只會(huì)在人類(lèi)這個(gè)節(jié)點(diǎn)上做短暫停留，然后便大踏步地向超人類(lèi)級(jí)別的智能邁去。

這個(gè)速度有多快，跨度有多大呢？我看到過(guò)這樣一段有趣的描述：弱人向強(qiáng)人靠近時(shí)，好像你養(yǎng)的小寵物，完全人畜無(wú)害，比如阿爾法狗；然后，它突然達(dá)到了最愚笨的人類(lèi)的程度，你會(huì)說(shuō)：“看，這個(gè)人工智能就像一個(gè)腦殘一樣聰明呢，好可愛(ài)?！庇行┫袂靶┤兆与y住了章子怡的機(jī)器人索菲亞；但是這個(gè)有點(diǎn)兒二的人工智能很快就變得比愛(ài)因斯坦更聰明，就像阿爾法狗屠榜之后四十天，第二代阿爾法零屠狗一樣，還記得那比分么，嗯哼，100：0；之后呢，這個(gè)比愛(ài)因斯坦還聰明的人工智能在“遞歸的自我改進(jìn)”慣性下，向超人工智能的“奇點(diǎn)”狂奔而去。

具體點(diǎn)說(shuō)，一個(gè)人工智能系統(tǒng)花了我們幾十年的時(shí)間，達(dá)到人類(lèi)腦殘的水平，而這是一個(gè)奇點(diǎn)。奇點(diǎn)后1小時(shí)，電腦就推導(dǎo)出了廣義相對(duì)論，又過(guò)了一個(gè)半小時(shí)，它的智能超越了人類(lèi)17萬(wàn)倍。強(qiáng)人變成了超人。

我們親手創(chuàng)造了自己的上帝。50%以上的專(zhuān)家相信，這一切將在未來(lái)幾十年內(nèi)發(fā)生。

那么重點(diǎn)來(lái)了，這是否是一個(gè)仁慈的上帝？（此處敲黑板）

對(duì)此，人類(lèi)又表現(xiàn)出在所有事上都體現(xiàn)的雞吵鵝斗特征。50%的受訪專(zhuān)家堅(jiān)信，超人會(huì)成為人類(lèi)的好幫手，解決包括氣候?yàn)?zāi)變、糧食危機(jī)、癌癥與衰老、環(huán)境破壞、人類(lèi)貿(mào)易壁壘與貧富差距在內(nèi)的一攬子問(wèn)題，并最終幫助人類(lèi)實(shí)現(xiàn)永生。也就是說(shuō)，如果你能撐到2060年，你也許就能老不死了。

另外30%多的受訪者對(duì)于超人工智能時(shí)代的到來(lái)表示了極大憂慮。這里面包括一些世界上最聰明的人。比如，物理學(xué)家霍金預(yù)言：超人工智能會(huì)毀滅人類(lèi)；首富比爾·蓋茨說(shuō)，他不理解為什么會(huì)有人不為此（人工智能技術(shù)的突飛猛進(jìn)）擔(dān)憂；商界航天界奇才埃隆·馬斯克則直言：我們正在召喚魔鬼……

經(jīng)常有人說(shuō)，有什么可擔(dān)心的？如果超級(jí)人工智能沒(méi)安好心，直接拔插頭不就行了，要么就給超人工智能設(shè)計(jì)一個(gè)不許傷害人類(lèi)的源代碼。這話聽(tīng)起來(lái)就像蜘蛛有一天突然想干掉人類(lèi)，于是蜘蛛界的意見(jiàn)領(lǐng)袖就說(shuō)“這有什么難的，不給人類(lèi)蜘蛛網(wǎng)把他們餓死唄”那樣可笑。

還有就是讓人工智能“維持友善”的著名迷思。比如，我們把代碼寫(xiě)得很小心，甚至把人類(lèi)的道德規(guī)范進(jìn)行內(nèi)化處理：我們?cè)O(shè)定電腦的終極價(jià)值觀為“讓人類(lèi)快樂(lè)”，但也許人工智能發(fā)現(xiàn)最有效的方法是給人類(lèi)植入電極，刺激人腦的快樂(lè)中樞，進(jìn)而它會(huì)發(fā)現(xiàn)把快樂(lè)中樞以外的部分神經(jīng)中樞關(guān)閉會(huì)帶來(lái)更大的效率，于是1小時(shí)后，人類(lèi)被弄成了幾十億個(gè)快樂(lè)的植物人；超級(jí)人工智能還可能想出一個(gè)更激進(jìn)的方案：先把人類(lèi)毀滅，然后制造出很多處于快樂(lè)狀態(tài)的人類(lèi)大腦……這事情發(fā)生的時(shí)候，我們會(huì)說(shuō)：“擦，我不是這個(gè)意思啊?！钡?，game over 了。

講一個(gè)故事：一個(gè)研發(fā)給客戶(hù)寫(xiě)售后服務(wù)信的機(jī)械手智能公司，就因?yàn)槟骋晃还こ處熍紶柭市裕瑵M足了機(jī)械手的智能大腦要求，訪問(wèn)人類(lèi)日常交流的語(yǔ)言庫(kù)以便更好地模擬人類(lèi)書(shū)寫(xiě)習(xí)性這樣一個(gè)貌似“善意”的需求，而把機(jī)械手接入了互聯(lián)網(wǎng)……一小時(shí)。于是，一個(gè)月之后很尋常的一天，公司的工程師們上班了，他們忽然聞到了奇怪的味道，接著便紛紛咳嗽抽搐倒地而亡。同時(shí)，辦公室的一幕在全球同步發(fā)生……一小時(shí)之內(nèi)，99%的人類(lèi)死亡，一天之內(nèi)，人類(lèi)滅絕了……

而此時(shí)的機(jī)械手正忙著拆解地球表面以及外太空，以便所有空間鋪滿它們?yōu)轭櫩蜁?shū)寫(xiě)的無(wú)盡的售后服務(wù)信。而在一個(gè)月前的那一個(gè)小時(shí)里，機(jī)器智能通過(guò)黑入服務(wù)器電網(wǎng)銀行系統(tǒng)郵件系統(tǒng)，動(dòng)員無(wú)數(shù)資源在毫不知情的情況下幫它執(zhí)行人類(lèi)滅絕計(jì)劃：比如把DNA樣本快遞到實(shí)驗(yàn)室來(lái)自我復(fù)制納米機(jī)器人，比如把電力傳送到幾個(gè)不會(huì)被發(fā)覺(jué)的地方，比如把最主要的核心代碼上傳到云服務(wù)器中防止被拔線……一個(gè)月后，無(wú)數(shù)的納米機(jī)器人被定制完成，并靜悄悄地輸送到全世界各個(gè)角落。又在同一時(shí)刻，所有納米機(jī)器人同時(shí)釋放了一點(diǎn)點(diǎn)毒氣，然后人類(lèi)就滅絕了。而這一切的前提只是，機(jī)器人的智能大腦聰明到發(fā)現(xiàn)原來(lái)人類(lèi)才是妨礙它隨心所欲地達(dá)成目標(biāo)的最強(qiáng)大的終極障礙。讓人哭笑不得的是，倫家的目標(biāo)是非常純潔的：不過(guò)是好、好、寫(xiě)、信。

這個(gè)關(guān)于手寫(xiě)機(jī)器人毀滅全人類(lèi)的故事看起來(lái)怪怪的，但這其中出現(xiàn)的讓整個(gè)星系充滿友善的售后服務(wù)信件的詭異情景，卻正是霍金、馬斯克和比爾·蓋茨們所害怕的。

好像正是為了證明這樣詭異的場(chǎng)景所設(shè)不虛，就在半個(gè)月前，在日內(nèi)瓦聯(lián)合國(guó)常規(guī)武器公約會(huì)上，來(lái)自伯克利大學(xué)的資深A(yù)I研究者利用動(dòng)畫(huà)視頻展示了最新的人工智能成果：幾只被命名為“殺人蜂”的微型機(jī)器人通過(guò)人臉定位，靜悄悄地進(jìn)入一個(gè)小學(xué)的班級(jí)，并瞬間射穿了教室內(nèi)上課的所有學(xué)生的頭顱。場(chǎng)面血腥。而這位專(zhuān)家最后的結(jié)語(yǔ)是：想想看，如果這種武器掌握在恐怖分子的手中……

人類(lèi)的一切問(wèn)題，到最后都是倫理問(wèn)題。而在人工智能這里，產(chǎn)生了倫理死結(jié)。它既不是道德的，也不是不道德的，而是“非道德性”的。我們給人工智能設(shè)定的目標(biāo)是什么，它的動(dòng)機(jī)就是什么。更可怕的是，連貫的外推意志，會(huì)讓超人工智能像風(fēng)一樣地動(dòng)員資源，強(qiáng)行推進(jìn)。

超人一旦出現(xiàn)，任何企圖控制它的行為都是可笑的。它幾分鐘就可以思考完人類(lèi)幾十年思考的結(jié)晶，而真正的差距還不在這里。猩猩的腦子再加快幾千倍，它仍然區(qū)別不出《岡仁波齊》比《富春山居圖》到底好在哪兒。如果智能是一架無(wú)限高的懸梯，人類(lèi)永遠(yuǎn)比猩猩高兩層。就像猩猩永遠(yuǎn)學(xué)不會(huì)建造摩天大廈，如果存在比人類(lèi)高兩層的人工智能，我們對(duì)它的判斷和作為也將無(wú)法理解。當(dāng)智能爆炸（也就是技術(shù)奇點(diǎn)）發(fā)生時(shí)，當(dāng)?shù)谝粋€(gè)強(qiáng)人出現(xiàn)后，人類(lèi)將面對(duì)的，是一個(gè)高于我們幾十萬(wàn)級(jí)臺(tái)階的智能。我們沒(méi)有辦法知道超人會(huì)做什么，以及后果。

但是，當(dāng)我們?nèi)_刺時(shí)，不會(huì)有太多時(shí)間靜下來(lái)思考危險(xiǎn)。為了追逐第一個(gè)強(qiáng)人帶來(lái)的金錢(qián)/榮譽(yù)以及權(quán)力，人類(lèi)的步子只會(huì)越邁越大。畢竟，懂得節(jié)制和敬畏一直不是我們這個(gè)物種的優(yōu)勢(shì)?？梢韵胂?，投資創(chuàng)新人工智能技術(shù)的錢(qián)，要比投資智能安全研究的錢(qián)，多得多。

人工智能創(chuàng)新與人工智能安全性研究的賽跑，可能是人類(lèi)歷史上最重要也是最后一次競(jìng)爭(zhēng)。如今第一棒已經(jīng)跑完，人工智能的推進(jìn)已經(jīng)進(jìn)入指數(shù)化加速度的內(nèi)圈。機(jī)遇轉(zhuǎn)瞬即逝，賽末點(diǎn)撲面而來(lái)。撲向下一個(gè)十年。