亞歷山大·弗里德曼（Alexander Friedman）

人們普遍認(rèn)為，人類(lèi)將會(huì)受到人工智能發(fā)展的威脅，其具體表現(xiàn)可能是《終結(jié)者》里的惡意機(jī)器人。然而，當(dāng)進(jìn)入千禧年的第三個(gè)十年時(shí)，我們正在迅速研發(fā)實(shí)打?qū)嵉淖x心術(shù)，而沒(méi)有任何關(guān)于如何控制這種技術(shù)的規(guī)則。

進(jìn)化沒(méi)有使我們得以讀懂他人的心思，因?yàn)檫@種力量可能使我們這一物種走向滅絕。隨著我們的遠(yuǎn)古祖先們開(kāi)始群體生活以獲庇護(hù)，我們大多數(shù)人學(xué)會(huì)哪些話(huà)可以說(shuō)，而哪些話(huà)則不能。它構(gòu)成了我們現(xiàn)在所謂的情商的核心部分。

然而，科技現(xiàn)在開(kāi)始從根本上威脅這種必要的進(jìn)化適應(yīng)。

第一階段已經(jīng)發(fā)生在社交媒體上。俄羅斯人操縱Facebook影響2016年美國(guó)總統(tǒng)大選，便體現(xiàn)了這一趨勢(shì)。而Twitter則使用戶(hù)快速記錄一閃而過(guò)的想法或情感，然后可能與數(shù)百萬(wàn)人分享，從而放大了這一趨勢(shì)。想象一下朝鮮領(lǐng)導(dǎo)人如何努力地嘗試去理解特朗普總統(tǒng)關(guān)于核武器“火與怒”的推文。這是來(lái)自新晉且不穩(wěn)定的美國(guó)領(lǐng)導(dǎo)人的真正威脅，還是一時(shí)的沖動(dòng)和一閃而過(guò)的念頭，所以應(yīng)該最好被忽略？早在雙極格局的超級(jí)大國(guó)時(shí)代，就產(chǎn)生了標(biāo)志性的美蘇熱線(xiàn)電話(huà)，以澄清雙方的意圖，以免由于一些誤解而使世界消失于核蘑菇云下。

今天，在我們更加復(fù)雜的多極化和非對(duì)稱(chēng)威脅驅(qū)動(dòng)的世界中，社交媒體為所有愿意使用一個(gè)巨型且未經(jīng)校訂的擴(kuò)音器的人們提供了便利。社交媒體已成為意圖破壞民主者的工具。但是，與我們現(xiàn)在面臨的情況相比，這只是兒戲而已。

從初創(chuàng)企業(yè)到跨國(guó)企業(yè)集團(tuán)，最近都宣布了令人震驚的創(chuàng)新技術(shù)，使人們能夠讀懂心靈。馬斯克的公司Neuralink正在尋求對(duì)植入用戶(hù)大腦以讀取其思想的設(shè)備進(jìn)行人體試驗(yàn)的批準(zhǔn)。日產(chǎn)汽車(chē)開(kāi)發(fā)了“從腦到車(chē)”的技術(shù)，使汽車(chē)能夠從駕駛員的腦海中讀取指令。Facebook已經(jīng)資助了使用腦電波來(lái)解碼語(yǔ)音的科學(xué)家。科學(xué)期刊《自然》上的一篇最新論文，解釋了人工智能如何通過(guò)分析大腦信號(hào)來(lái)創(chuàng)建語(yǔ)音。哥倫比亞大學(xué)的研究人員，開(kāi)發(fā)了可以分析大腦活動(dòng)以確定用戶(hù)想要什么，并通過(guò)合成器表達(dá)這些愿望的技術(shù)。

顯然，這些進(jìn)步可以帶來(lái)真正的好處，包括幫助癱瘓或神經(jīng)系統(tǒng)疾病的患者。早期的神經(jīng)假體，例如幫助聾人恢復(fù)聽(tīng)覺(jué)的人工耳蝸，或有望使盲人重見(jiàn)光明的裝置等，已經(jīng)投入使用。

但是，潛在的應(yīng)用有著暗黑的一面，例如使廣告商能夠微調(diào)其產(chǎn)品以滿(mǎn)足個(gè)人的潛意識(shí)，或者使雇主監(jiān)視他們的工人，或者使警察能夠大規(guī)模監(jiān)視公民可能的犯罪意圖。一個(gè)早期的警告是，最近曝出阿聯(lián)酋政府一直在使用社交媒體應(yīng)用程序ToTok監(jiān)視用戶(hù)。如果讀心術(shù)設(shè)備被黑客入侵，會(huì)發(fā)生什么？很難想象有比人腦更重要的“數(shù)據(jù)隱私”領(lǐng)域。

馬斯克認(rèn)為，大腦接口對(duì)于人類(lèi)跟上人工智能必不可少。這使我們回到了菲利普·迪克的科幻恐怖故事《少數(shù)派報(bào)告》（2002年電影由此改編）。如果警察可以通過(guò)閱讀腦波來(lái)“評(píng)估”一個(gè)人的意圖，那么他或她在犯罪發(fā)生之前就制止犯罪，將面臨何等棘手的道德、法律和社會(huì)秩序問(wèn)題？

技術(shù)創(chuàng)新的主要挑戰(zhàn)是，它通常需要社會(huì)花費(fèi)很長(zhǎng)時(shí)間來(lái)跟上，了解如何使用新技術(shù)，并提供適當(dāng)?shù)姆珊头ㄒ?guī)框架來(lái)規(guī)范其行為。

在本世紀(jì)的第二個(gè)十年中，社交媒體從一種工具轉(zhuǎn)變?yōu)榫哂袀鞑ブe言和操縱選舉能力的平臺(tái)。社會(huì)正在努力解決如何利用這項(xiàng)創(chuàng)新的優(yōu)勢(shì)，同時(shí)減輕其被濫用的可能性。也許，在我們甚至還沒(méi)有弄清楚這一點(diǎn)之前，千禧年的第三個(gè)十年將使我們面臨更為嚴(yán)峻的技術(shù)挑戰(zhàn)。

本文由Project Syndicate授權(quán)《南風(fēng)窗》獨(dú)家刊發(fā)中文版。亞歷山大·弗里德曼是瑞銀（UBS）的首席投資官、比爾和梅琳達(dá)·蓋茨基金會(huì)的首席財(cái)務(wù)官。