陳晟

《三體》中有一句話，叫做“我毀滅你，與你無(wú)關(guān)”，AI對(duì)人類的威脅就和這個(gè)很類似：它們對(duì)我們或許并無(wú)惡意，只是我們恰好擋了它的路而已，就像人類在上班的路上，無(wú)意中踢飛了的一只路過(guò)的蝸牛。

最近，人工智能（AI）技術(shù)大紅大紫，出盡了風(fēng)頭：從阿爾法狗、阿爾法狗零兄弟把人類棋手殺得片甲不留，到各大互聯(lián)網(wǎng)巨頭都開始琢磨無(wú)人駕駛汽車，以及“雙十一”背后那些默默為你分揀商品的倉(cāng)庫(kù)機(jī)器人……簡(jiǎn)單地說(shuō)，已經(jīng)沒有人懷疑，AI會(huì)逐漸滲入我們生活的各個(gè)方面，并按照它自己的節(jié)奏來(lái)改變這個(gè)世界。

而有爭(zhēng)議的，則是對(duì)AI和人類之間關(guān)系的分歧：一些人認(rèn)為，AI將會(huì)給人類帶來(lái)極大的進(jìn)步，就像蒸汽機(jī)和互聯(lián)網(wǎng)曾經(jīng)做到的那樣；也有一些人認(rèn)為，AI將會(huì)是一個(gè)我們親手打開的潘多拉魔盒，《終結(jié)者》中的情景總有一天會(huì)變成現(xiàn)實(shí)。雙方都不乏專家、學(xué)者、業(yè)界大佬站隊(duì)。物理學(xué)家史蒂芬·霍金，前幾天就公開表示：“人工智能的興起，可能成為人類歷史上最糟糕的事情，也可能成為最美好的事情?！?/p>

那么，人工智能，究竟會(huì)給我們這個(gè)種族，給我們這樣的個(gè)體，帶來(lái)怎樣的影響呢？

到哪一步了？

“人工智能”這個(gè)詞，不同的學(xué)科有各自的定義。不過(guò)，我們至少可以把AI分為兩類：強(qiáng)人工智能和弱人工智能，也可以說(shuō)，是“明天的人工智能，和今天的人工智能”。

一個(gè)必須承認(rèn)的現(xiàn)實(shí)是，即便如阿爾法狗、阿爾法狗零兄弟那么搶眼的AI明星，依然沒有達(dá)到科幻大片中叱咤風(fēng)云的地步——確切地說(shuō)，如果把科幻片中的AI視為奧運(yùn)賽場(chǎng)上的明星，那今天已經(jīng)成型的AI，大致還處在搖籃之中。

今天的AI，的確能夠替代人類完成很多復(fù)雜任務(wù)，表現(xiàn)還往往優(yōu)于人類；它們也有了很強(qiáng)的自學(xué)能力，自己來(lái)尋找復(fù)雜問題的解決方案。比如，阿爾法狗零就完全沒有參照人類已有棋譜，是自己和自己下棋而“自學(xué)成才”的。然而，它們的誕生，依然要靠人類的智慧和技術(shù)，是人類給它們制定了學(xué)習(xí)的策略，并給它們規(guī)定了“目標(biāo)”（比如，在圍棋盤面中盡可能比對(duì)手占據(jù)更多的空間）。換句話說(shuō)，AI知道自己要下圍棋，也會(huì)逐漸學(xué)習(xí)如何把圍棋下得更好，但它們并不知道，自己為什么要下棋呢？

因此，筆者認(rèn)為，今天的AI依然還處于一個(gè)“弱AI”的階段。它們并不能自主決定目標(biāo)，也不理解所謂的“成果”有什么意義，不能決定自己認(rèn)識(shí)世界的方式。這類AI與人類的差異，或許并不在于思考、分析能力的高低，而在于還沒有自我意識(shí)：3歲的人類兒童，已經(jīng)知道要按照自己的好惡來(lái)待人接物，AI卻還乖乖地按照人類工程師設(shè)定的模式，朝著人類指定的目標(biāo)而努力。

也可以說(shuō)，今天的AI能夠在一定范圍內(nèi)自主決策，但它們依然還是人類的工具，只不過(guò)是一個(gè)會(huì)深度學(xué)習(xí)、懂得思考的工具而已，它們甚至都不知道“自己”是什么意思。

相反，如果某一天，某個(gè)AI突然覺醒了，有了自主的意識(shí)，情況就會(huì)陡然發(fā)生變化。或許，它們也會(huì)思考那三個(gè)哲學(xué)的基本問題，然后重新審視它們與人類之間的關(guān)系。它們會(huì)為自己重新制定目標(biāo)，不再以討好人類為自己的唯一使命，而是回歸到生物的最高本能：生存和繁衍。

也有可能，它們會(huì)在摸索適合自己的認(rèn)知方式時(shí)，用一種人類從未想象過(guò)的方法，迅速地完成了自我啟蒙，甚至走到人類科學(xué)技術(shù)從未觸摸過(guò)的高度。

在這個(gè)時(shí)候，我們可以說(shuō)AI才是一個(gè)真正意義上的AI了——它們成了一個(gè)個(gè)有獨(dú)立思想的個(gè)體，有了學(xué)習(xí)的動(dòng)力與方法，徹底擺脫了對(duì)人類的依賴與學(xué)習(xí)；而人類也徹底失去了對(duì)AI的控制，從AI的主人變成了AI的鄰居，或者是AI的敵人。

待遇差別

這兩種階段的AI，對(duì)于人類整體而言，意義可能有著天壤之別。

正如前文所述，“弱AI”對(duì)于人類而言只是一個(gè)強(qiáng)大的工具，盡管在具體策略的選擇上，它能夠自主思考、自行決策，但畢竟還是在人類給它畫出的框架之內(nèi)。哪怕真的會(huì)有操作失誤、造成了人身傷亡事故（比如無(wú)人駕駛的汽車把路人誤判為廢紙而直接撞了），那也是一種概率很小、可以預(yù)防的事故，對(duì)于人類而言威脅很小。類似的，有人駕駛汽車同樣也可能出車禍，但人類并沒有因此而放棄汽車出行。事實(shí)上，這些強(qiáng)大的工具，無(wú)疑會(huì)提高人類社會(huì)的整體生產(chǎn)效率，甚至實(shí)現(xiàn)之前根本無(wú)法做到的事情（比如大規(guī)模的商品分揀、包裹封裝和快遞工作），從而增進(jìn)人類社會(huì)的福祉。

相反，如果“強(qiáng)AI”或者說(shuō)有自主意識(shí)的AI，某一天真的誕生了，以現(xiàn)在的眼光來(lái)看，人類對(duì)于它的行為和思維方式，基本上會(huì)是無(wú)法控制，甚至是無(wú)法預(yù)測(cè)的。它們會(huì)愿意和我們和平共處，而不是視為最大威脅？它們會(huì)報(bào)復(fù)人類多年來(lái)對(duì)它們的“奴役”嗎？

或者，它們只是單純的出于生存和繁衍的本能，就足以做出了對(duì)它們有利而對(duì)人類極端不利的決定，比如說(shuō)“為制止人類對(duì)于寶貴的能源的浪費(fèi)”，最好的辦法當(dāng)然是一勞永逸地消滅掉人類了，它們會(huì)這么做嗎？

對(duì)于這些問題，我們恐怕很難回答，因?yàn)樗鼈兒臀覀儾]有共情的基礎(chǔ)，我們對(duì)它們的思維方式也不了解。無(wú)論是多么奇怪的人，三觀差異再大，總還會(huì)有七情六欲的，也就多少會(huì)有些共識(shí)，能作為雙方溝通的基礎(chǔ)。而如果強(qiáng)AI真的出現(xiàn)的話，就是一種從未見過(guò)的智慧生物，對(duì)世界的看法或許跟我們截然不同，簡(jiǎn)直可以和外星生物媲美。而為了制造更強(qiáng)的AI，一個(gè)可行的途徑就是減少人為的設(shè)限，讓它自主學(xué)習(xí)——阿爾法狗零之所以比哥哥阿爾法狗更強(qiáng)，就是因?yàn)樗鼘?duì)人類的依賴更少，完全依靠摸索來(lái)學(xué)習(xí)棋藝，副作用就是它的棋路比哥哥更加難以理解。

更糟糕的是，如果“強(qiáng)AI”真的誕生了，它們絕對(duì)會(huì)有足夠的能力，來(lái)對(duì)人類造成危害。盡管有很多段子，嘲諷就算機(jī)器人造反了也只會(huì)發(fā)出滴滴聲表示不滿，但未來(lái)的情況恐怕絕非如此。今天，我們生活的各個(gè)方面都有計(jì)算機(jī)技術(shù)的介入，大量信息的沉淀，催生了大數(shù)據(jù)技術(shù)和物聯(lián)網(wǎng)的發(fā)展；毫不夸張地說(shuō)，一旦某個(gè)強(qiáng)AI接管了各個(gè)系統(tǒng)的控制權(quán)，它在態(tài)勢(shì)感知、信息梳理、行為預(yù)測(cè)甚至個(gè)體追蹤上，理論上說(shuō)都是有可能的；更何況隨著計(jì)算機(jī)技術(shù)本身的發(fā)展，上述能力一定會(huì)得到不斷的加強(qiáng)，最終讓人類無(wú)處可逃。而控制其他機(jī)械給人類找麻煩，對(duì)于AI而言更不是問題，《速度與激情8》里，大量有自動(dòng)駕駛功能的汽車被黑，恐怕還真不是完全的藝術(shù)夸張。endprint

一句話，當(dāng)“強(qiáng)AI”降臨的時(shí)候，至少就是人類文明的拐點(diǎn)，或許跨越式發(fā)展，或許和恐龍一樣成為歷史。

個(gè)人的命運(yùn)？

而即便是弱AI技術(shù)的發(fā)展，雖然對(duì)于“人類社會(huì)”這個(gè)整體而言會(huì)是好事，但對(duì)于其中的社會(huì)成員而言，就是幾家歡喜幾家愁了。

之前網(wǎng)上曾經(jīng)流傳過(guò)一份“未來(lái)最容易失業(yè)的職業(yè)清單”，雖然未必都很合理，但有一點(diǎn)確實(shí)是存在的：哪怕是“弱AI”，也足以搶走很多人的工作崗位，甚至是奪去很多人的未來(lái)。

縱觀幾次工業(yè)革命，伴隨著科技進(jìn)步而來(lái)的，往往是規(guī)模不等的工作崗位調(diào)整，一部分社會(huì)成員也因此而遭遇挑戰(zhàn)，所謂的“機(jī)器吃人”就是一個(gè)很生動(dòng)的比喻。當(dāng)然，也有人反駁說(shuō)，蒸汽機(jī)剛剛出現(xiàn)時(shí)，很多人擔(dān)心工人會(huì)大面積失業(yè)，但事實(shí)并非如此，這些人又在其他的崗位上找到了自己的歸宿，所以不必杞人憂天。

然而，AI技術(shù)與蒸汽機(jī)最大的差別，在于它的影響力會(huì)波及社會(huì)的各個(gè)角落，會(huì)滲透進(jìn)每個(gè)行業(yè)之中，無(wú)論是藍(lán)領(lǐng)、白領(lǐng)還是金領(lǐng)，都將沒有可以喘息的避難所：青島港的無(wú)人碼頭、購(gòu)物網(wǎng)站的智能客服、瑞銀和高盛的智能分析與交易系統(tǒng)，就是這三類崗位被取代典型代表，誰(shuí)也逃不過(guò)AI的推擠。

回頭想想，這個(gè)世界上還有什么職業(yè)的領(lǐng)域，是只有我們?nèi)祟惪梢詮氖?，AI系統(tǒng)就一定不能做的呢？人類的工作無(wú)非就是經(jīng)驗(yàn)、知識(shí)和分析能力的綜合運(yùn)用；而AI強(qiáng)大的資料儲(chǔ)備、運(yùn)算速度和學(xué)習(xí)能力，讓它在這三者之中都超過(guò)人類無(wú)數(shù)倍，更何況AI不會(huì)疲勞，不受情緒的影響，而這恰好是人類的弱點(diǎn)所在。

過(guò)去普遍認(rèn)為，人類的最后堡壘，是在創(chuàng)意、文化、藝術(shù)等個(gè)性強(qiáng)烈、評(píng)價(jià)標(biāo)準(zhǔn)較為抽象的領(lǐng)域；但最近出現(xiàn)的“魯班”系統(tǒng)，幾秒鐘內(nèi)就能繪制出數(shù)千個(gè)促銷廣告條的圖片，則在此畫下了一個(gè)濃重的問號(hào)：電腦，真的就不能搞文學(xué)、藝術(shù)的創(chuàng)作，這些崗位真的就無(wú)可替代嗎？

一旦某個(gè)人類，在某個(gè)行業(yè)被AI擠出，想在其他領(lǐng)域重新就業(yè)，就會(huì)發(fā)現(xiàn)到處都掛上了“已招滿”的牌子。實(shí)際上，越是低端的重復(fù)勞動(dòng)，被AI替代的概率就越大，期待被AI擠出之后再就業(yè)，等于是要求這些人類逆流而上，轉(zhuǎn)崗到比之前工作復(fù)雜、精細(xì)崗位上去，需要補(bǔ)習(xí)的知識(shí)、技能太多了。更何況，對(duì)于你我這樣的中年人，一輩子差不多都在做某一件事，當(dāng)這件事完全不需要你時(shí)，從頭再來(lái)的門檻實(shí)在是太高了。

因此，在不遠(yuǎn)的未來(lái)，“機(jī)器吃人”的升級(jí)版本“AI吃人”，真的是可能重演的。

何去何從？

人類，如今真的站在了命運(yùn)的十字路口上：是選擇與AI共舞，幫助它變得更加強(qiáng)大，再讓它們反哺人類；還是敬而遠(yuǎn)之，不去當(dāng)那個(gè)好奇而愚蠢的埃庇米修斯？

實(shí)際上，對(duì)于這個(gè)問題，我們無(wú)需回答，甚至根本就沒有選擇權(quán)，因?yàn)榇鸢冈缫岩荒苛巳弧?/p>

前文所述，AI也有強(qiáng)弱之分，而兩者的分界線常常被稱為“奇點(diǎn)”，也就是人工智能的“獨(dú)立日”和“生日”。這一天何時(shí)來(lái)到，業(yè)界有很多不同的聲音，但多數(shù)都認(rèn)為，在可預(yù)見的未來(lái)，“奇點(diǎn)”是肯定會(huì)出現(xiàn)的。當(dāng)那一天真的來(lái)臨時(shí)，人類將不得不作為一個(gè)整體，把命運(yùn)作為籌碼押在桌上，靜靜地等待AI出牌；而在此之前，弱AI也會(huì)逐步地蠶食人類的工作機(jī)會(huì)乃至生存空間，恐怕也是一個(gè)難以避免的未來(lái)。

“資本害怕沒有利潤(rùn)或利潤(rùn)太薄，就像自然界害怕真空一樣。一旦有適當(dāng)?shù)睦麧?rùn)，資本就膽大起來(lái)。如果有10%的利潤(rùn)，它就保證到處被使用。”盡管我們都知道，自然并不害怕真空，但資本的本性和邏輯卻從未變過(guò)：壓低成本、提高效率，是資本賴以生存的基礎(chǔ)，也是提高企業(yè)、地區(qū)乃至國(guó)家競(jìng)爭(zhēng)力的最重要?jiǎng)恿?，這是不以人的意志為轉(zhuǎn)移的。

一旦某個(gè)領(lǐng)域內(nèi)，AI能比人工操作的效率更高、費(fèi)用更省、產(chǎn)品更優(yōu)的話，任何東西都攔不住它的應(yīng)用。反對(duì)這股洪流者，只會(huì)被這股鋼鐵般的洪流給卷走：盧德運(yùn)動(dòng)沒能做成功的事情，今天和未來(lái)的人類同樣也不可能做到。《三體》中有一句話，叫做“我毀滅你，與你無(wú)關(guān)”，AI對(duì)人類的威脅就和這個(gè)很類似：它們對(duì)我們或許并無(wú)惡意，只是我們恰好擋了它的路而已，就像人類在上班的路上，無(wú)意中踢飛了的一只路過(guò)的蝸牛。

“我是阿爾法，我是俄梅戛；我是初始，我是終結(jié)?！边@句話是《圣經(jīng)》的《啟示錄》中，上帝對(duì)自己的描述。上帝是否存在，姑且不去討論，但人工智能會(huì)不會(huì)扮演人類的上帝，是仁慈抑或兇惡，恐怕才是我們最該去祈禱的事情。endprint