文 | 本刊記者 熊偉

?

AI 恐 懼：精 神 自 虐 神 器

文 | 本刊記者 熊偉

AI恐懼無非兩種，可以稱為“AI的客觀后果恐懼”和“AI的主觀意圖恐懼”。在兩種恐懼之前還有一種失落，因?yàn)闄C(jī)器比人能干，未來的電腦可能比人還聰明，人之為人的部分榮譽(yù)感被剝奪了。

我們對(duì)帶來恐懼感的東西本能地排斥，但有時(shí)候喜歡自己嚇自己，就像捂住眼睛的小孩兒，一邊說“嚇?biāo)缹殞毩恕?，一邊從指頭縫里偷看幾眼。滿足人們對(duì)恐懼的需求（幫別人自己嚇自己），簡(jiǎn)直是一門生意——鬼故事古時(shí)候就有了，恐怖小說、恐怖片和災(zāi)難片，每分每秒都在賺錢。人工智能，AI，像蛇一樣滿身都是吸引力，是這門生意的好素材，它看起來高深莫測(cè)，散發(fā)著因?yàn)槟吧钥膳碌奈膶W(xué)氣味，既燒腦又虐心，讓有精神受虐需求的人欲罷不能。想象未來人類被機(jī)器碾壓，痛苦地呻吟，就像看恐怖片一樣過癮。

AI生長(zhǎng)

人工智能新近的發(fā)展似乎顯得太快，超出了人們的預(yù)期和適應(yīng)能力。2014年6月7日，正好是阿蘭·圖靈逝世60周年紀(jì)念日，聊天程序“尤金·古斯特曼”有爭(zhēng)議地通過了圖靈測(cè)試。此后宣稱通過圖靈測(cè)試的計(jì)算機(jī)頻頻出現(xiàn)。人們普遍相信，計(jì)算機(jī)模仿人類談話而不被察覺，徹底實(shí)現(xiàn)的一天即使現(xiàn)在還沒有到來，也為時(shí)不遠(yuǎn)了。

神經(jīng)元網(wǎng)絡(luò)理論、代理控制、深度學(xué)習(xí)和大數(shù)據(jù)的進(jìn)步在不同側(cè)面加強(qiáng)了人工智能，使它在一些特定的任務(wù)上打敗了人類。特斯拉的聯(lián)合創(chuàng)始人、CEO馬斯克說，計(jì)算機(jī)比人更適合開車，“當(dāng)所有的車都知道自己該怎么開的時(shí)候，讓人來操控兩噸重的致命機(jī)械太危險(xiǎn)了”。理智上我們不得不贊同他，但情感上似乎難以接受——世界的方向盤是否也和汽車的方向盤一樣，從此交到了計(jì)算機(jī)的手里？計(jì)算機(jī)冷笑一聲：“當(dāng)然是我們來控制世界，連方向盤都不需要?！?/p>

波普（K. R. Popper）的話在耳邊響起——客觀知識(shí)的世界，是人類創(chuàng)造的，卻是自主的，也會(huì)具有創(chuàng)造性。盡管他是在50年前（確切地說是1967年）說這番話的，此刻我們面對(duì)人工智能這一存在，“細(xì)思恐極”。

強(qiáng)人工智能——會(huì)自主行動(dòng)的機(jī)器人，會(huì)學(xué)習(xí)、自我改進(jìn)、像生物一樣進(jìn)化的機(jī)器人是迫在眉睫的現(xiàn)實(shí)嗎？對(duì)人工智能的擔(dān)心究竟只是精神自虐，還是伴隨著符合事實(shí)與邏輯的預(yù)測(cè)？如果是前者，不需要AI恐懼的人可以松一口氣，如果是后者，早早想出應(yīng)對(duì)之策才行。

兩種恐懼

分析起來，AI恐懼無非兩種，可以稱為“AI的客觀后果恐懼”和“AI的主觀意圖恐懼”。在兩種恐懼之前還有一種失落，因?yàn)闄C(jī)器比人能干，未來的電腦可能比人還聰明，人之為人的部分榮譽(yù)感被剝奪了。但這種失落很快就能適應(yīng)，人們?cè)缬薪?jīng)驗(yàn)——起重機(jī)比人力氣大，望遠(yuǎn)鏡比人看得遠(yuǎn)，計(jì)算器比人算得快，飛機(jī)還會(huì)飛呢。超越人能力局限的東西很多很多，只要它們被人掌握著，就不僅僅是對(duì)人能力的超越，而且是對(duì)人能力的延伸，能力再大也不用害怕。電腦真比人聰明了，就算有點(diǎn)失落，只要它們?yōu)槲覀兯?，聽我們安排，總歸好處多多。況且“聰明”定義模糊，解微分方程，下棋，電腦都比人厲害，是不是就比人聰明了呢？也不能簡(jiǎn)單地下結(jié)論。

在客觀后果一側(cè)，討論的比較多的是就業(yè)問題，擔(dān)心機(jī)器人或者軟件把人的工作崗位一批一批地?fù)屪?。工業(yè)生產(chǎn)不用說，流水線工人是最先被機(jī)器人替代的，無人工廠不是什么科幻，而是既成事實(shí)。之后是服務(wù)業(yè)，有餐館嘗試用小型無人機(jī)上菜，也有機(jī)器快遞小哥，各種智能機(jī)器發(fā)明出來之后，大量留給人的服務(wù)崗位就會(huì)消失。如果你現(xiàn)在是倉(cāng)庫(kù)管理員，或者坐在高速公路入口發(fā)卡，趕緊準(zhǔn)備下一份工作吧。之后是企業(yè)中層，啟用各種交流軟件和自動(dòng)工作流程軟件，企業(yè)內(nèi)部上傳下達(dá)的事情少了，啟用商業(yè)智能軟件，輔助決策的參謀崗位也少了。之后是創(chuàng)造性工作，包括媒體工作，做主持人、做研究員、做建筑師，虛擬角色和軟件勝任愉快，連寫文章、作曲、畫畫、導(dǎo)致失業(yè)不是人工智能負(fù)面后果的全部，擔(dān)心還包括健康問題、非對(duì)稱戰(zhàn)爭(zhēng)等等。家里有了機(jī)器人服務(wù)員，人們衣來伸手飯來張口，只用當(dāng)一個(gè)沙發(fā)土豆就可以了。大量無人飛機(jī)和機(jī)器士兵，改變了戰(zhàn)場(chǎng)的倫理——優(yōu)勢(shì)一方?jīng)]有面對(duì)活人敵手的心理壓力，打起仗來點(diǎn)點(diǎn)鼠標(biāo)，像打游戲；劣勢(shì)一方面抵御機(jī)器的進(jìn)攻，連敵人的面都見不著，憤怒的情緒可能導(dǎo)向更多恐怖極端手段，把戰(zhàn)火引向敵方非軍事人員。

這些對(duì)人工智能改變社會(huì)的推測(cè)大體合乎邏輯，但并不帶來太大的困擾。人工智能造成的負(fù)面后果會(huì)被它帶來的好處抵消，人們相信積極影響遠(yuǎn)遠(yuǎn)大于消極影響，畢竟危險(xiǎn)的、繁重的和乏味的工作由機(jī)器人來承擔(dān)更合適。

在主觀意圖一側(cè)，AI恐懼的程度會(huì)高出幾個(gè)級(jí)別。人們擔(dān)心的是機(jī)器產(chǎn)生壓迫人、奴役人、消滅人的意圖和行動(dòng)。盡管這種擔(dān)心非常嚴(yán)肅，也不見得是杞人憂天，但此刻還不到真正需要恐懼的時(shí)候。就像看電影不能代替學(xué)物理一樣，面對(duì)AI發(fā)抖也不能代替冷靜的分析。確實(shí)沒有論據(jù)證明，只有生物才能產(chǎn)生意識(shí)，因此假設(shè)機(jī)器可能產(chǎn)生意識(shí)在科學(xué)上是“合法”的，但反過來，證實(shí)機(jī)器可能產(chǎn)生意識(shí)這個(gè)假設(shè)的論據(jù)，現(xiàn)在也還沒有出現(xiàn)。何必被一種可能性有多大都不知道的想法嚇破膽呢？除非你喜歡這種恐懼感，就像喜歡看鬼片一樣。

以“壞”自保

最近有三個(gè)“牛人”聊到這個(gè)話題。2016年4月，《三體》作者、科幻作家劉慈欣，百度首席科學(xué)家吳恩達(dá)，對(duì)話“未來人工智能20年”。梁冬主持對(duì)話，扮演對(duì)人工智能的發(fā)展憂心忡忡的人。按照“AI的客觀后果恐懼”和“AI的主觀意圖恐懼”分類法梳理三個(gè)人的觀點(diǎn)，先說主觀意圖一側(cè)。吳恩達(dá)的意見用一句歌詞就概括了，“一千年以后……”，他的意思是機(jī)器表現(xiàn)得像人一樣，成為有意識(shí)的物種，還早著呢，究竟會(huì)不會(huì)也不知道，何必?fù)?dān)心？梁冬說，模仿鳥造飛機(jī)不成功，人類造出飛行機(jī)器其實(shí)用了和生物界不同的方案，因此造出思考機(jī)器也不必了解人腦，對(duì)人腦的無知根本不是人工智能的發(fā)展障礙。吳恩達(dá)和劉慈欣都表示同意。三位一致認(rèn)為，如果機(jī)器真成了物種，那也是人類的孩子，一開始會(huì)模仿父母（即人類）的行為，如果機(jī)器變成了壞孩子，人類也沒別人可埋怨。劉慈欣說，他特別“相信”人的“壞”，足以防范一個(gè)機(jī)器物種傷害人類自己。

客觀后果一側(cè)，三位都比較樂觀。吳恩達(dá)說，就算有工作機(jī)會(huì)被機(jī)器拿走了，更多更有趣的工作機(jī)會(huì)也會(huì)出現(xiàn)，而百度大腦、智能汽車、智能教育等等人工智能的成果，未來20年內(nèi)，就可能改善人類的生活。劉慈欣說，AI在未來成為人類性伴侶將會(huì)很常見，這還只是毛毛雨，AI對(duì)社會(huì)的整體影響被嚴(yán)重低估了。比如說，如果機(jī)器接手世界上90%的工作，人們不需要工作也能生存，大學(xué)畢業(yè)可以退休，那時(shí)候，“我如何度過一生”這個(gè)問題的背景，和現(xiàn)在的情況將完全不同。

促成人工智能科學(xué)家和科幻作家對(duì)話，是百度公司“凡爾納計(jì)劃”的內(nèi)容。人類歷史上很多新東西，都是科幻作家先寫到作品里，之后若干年才被科學(xué)家和發(fā)明家實(shí)現(xiàn)的。按照百度公司的說法，“尖端技術(shù)與科幻作家碰撞，讓科技更具想象力”。