曹書

從1956年起，人工智能經(jīng)歷了40多年的發(fā)展。目前，AI的目的是讓計算機像人一樣思考。那么，當AI學會思考之后，它們將會帶給人類什么呢？它們將會怎樣影響未來世界？

1.人工智能的影響

AI的實現(xiàn)有兩種方式。第一種方式是用傳統(tǒng)程序使系統(tǒng)呈現(xiàn)智能，不考慮該方法與人類的方法是否一致，稱為工程學方法（Engineering Approach），它在文字識別、下棋等領域內(nèi)取得了很大進展。

另一種方式是模擬法（Modeling Approach），它不僅看效果，還要求實現(xiàn)方法和人類的方法相類似。遺傳算法（Generic Algorithm，GA）和人工神經(jīng)網(wǎng)絡（Artificial Neural Network，ANN）屬于模擬法。

遺傳算法模擬人類的遺傳和進化機制，人工神經(jīng)網(wǎng)絡模擬人類大腦中神經(jīng)細胞的活動方式。為了得到相同的智能，兩種方式都可使用。

工程學方法需要詳細的程序邏輯，對于簡單的AI很方便。對于發(fā)展系統(tǒng)來說，其邏輯會很復雜，很煩瑣，很容易出錯。使用模擬法，編程者要設計一個智能系統(tǒng)進行控制。起初系統(tǒng)什么也不懂，但它能學習，漸漸適應環(huán)境，應付各種復雜的情況。系統(tǒng)會犯錯，但它會吸取教訓，下一次運行時會改正，不會一直錯下去。對于復雜的應用，模擬法比工程學方法更有效。

AI與人類思維有著本質(zhì)區(qū)別：AI是無意識的機械的物理過程，人類思維是生理和心理過程；AI不具備社會性；AI沒有人類意識特有的、能動的創(chuàng)造力；二者總是人腦的思維在前，電腦功能在后；AI按人類預定的程序而定，人類意識常常是隨機和無法預定的，無論前景如何，AI革命已經(jīng)起步。支撐AI革命的是AI算法，這些算法為AI提供了核心動力。目前，相關算法已應用在很多領域中，為人類生活和工作提供了很大方便。最能代表AI的是計算機自創(chuàng)算法。例如，在計算機得到了直升機控制數(shù)據(jù)后，它會利用深度學習找出讓直升機倒飛的算法；未來的AI算法能幫助人類尋找愛人、識別聲音。

AI將往何處去？和人類的發(fā)展相比，計算機及AI的發(fā)展速度超乎想象。從第一臺計算機的誕生到今天計算機無所不在，給社會帶來了巨大變革的過程僅用了60年。

AlphaGo擊敗韓國圍棋國手李世石，證明了AI在圍棋上超過了人類。無法想象，AI將來會有怎樣的發(fā)展。有人認為AI在2045年會超過人類。有人憂心忡忡，認為一旦AI超越了人類智能，就會對人類構成威脅，而當它們與人類的目標不一致的時候，后果將無法想象。

AI的威脅還包括：一些人可能會失業(yè)、武器的殺傷力越來越強、人類對機器的依賴及個人隱私越發(fā)不能保證。也有很多專家認為AI有很多好處，AI能在醫(yī)療、環(huán)保等方面做出貢獻。歷史上的每次技術革命都會帶來一定程度的恐慌，從18世紀的工業(yè)革命到電力的出現(xiàn)引起了一系列的恐慌和社會變革，AI一出現(xiàn)就引起了恐慌。

1958年，第一個神經(jīng)網(wǎng)絡系統(tǒng)出現(xiàn)后，有報紙就稱機器在不久后會有自己的意識?，F(xiàn)在的AI研究已經(jīng)不再局限于學術界了，很多大企業(yè)紛紛參與其中，并從中獲利。盡管如此，AI也還只是能夠識別物體和理解特定的語言，它們離擁有智慧還很遙遠。

有人舉了一個形象的例子來描述當前的AI：今天的AI就像是在一個大霧天，在一條有一面墻擋著的公路上開車，我們只知道下一步該怎么走，但看不見未來的墻，只是快樂地往前走，直到燃料耗盡。

2015年1月，MIT物理學家馬克斯·特格馬克召集了第一屆討論AI威脅的會議。其中的一個核心內(nèi)容就是AI何時能超過人類。有專家們認為需要數(shù)百年，也有人認為會很快實現(xiàn)，特格馬克給出的中間答案是40年。他指出，AI不需要本身是邪惡的才會對人類構成威脅。特格馬克說，現(xiàn)在討論AI的威脅或許為時過早，但這和原子彈的研究相似，科學家一開始都沒想過它對世界的影響，也沒有提前采取措施，如果提前想到它可能的威脅，現(xiàn)在的世界會不會是另外一番景象呢？

有人認為，AI的威脅很遙遠，能夠威脅到人類生存的AI只存在于科幻小說之中，AI的行為受人類設計的控制，無論未來怎樣，都是人類的創(chuàng)造，因此能夠控制。AI對人類的影響包括對一些職業(yè)的沖擊，相比于20世紀90年代，波音公司的雇員減少了1/3，生產(chǎn)效率提高了20 %。從2000～2015年，美國有500萬個工作被機器取代。AI給社會帶來的影響堪比蒸汽機，以通用汽車的一家工廠為例，在經(jīng)歷了汽車的巔峰時代后，該工廠走向沒落，大量工人失業(yè)。特斯拉收購了該工廠，并迅速將其變成了自動化工廠，有1 000臺工業(yè)機器人在工作，特斯拉的生產(chǎn)效率為每周1 000輛電動車。

令人驚奇的是，與通用汽車公司的工廠相比，生產(chǎn)每輛車的人工是其3倍。這說明工廠自動化非但沒有讓工人失業(yè)，反而帶來了新的就業(yè)機會。AI會給戰(zhàn)爭形態(tài)帶來變化，機器人時代的戰(zhàn)爭將采用無人機、智能化單兵作戰(zhàn)裝備以及無人駕駛潛艇等。軍事技術變革中包括減少風險、減少花費。軍隊采用智能裝備的問題是在哪些地方采用和在多大范圍內(nèi)采用。

目前，美國的F-18戰(zhàn)斗機已經(jīng)能從航母甲板上自動起降，大大減少了飛行員的操作難度和風險。大多數(shù)智能裝備只是人類能力的擴展，機器人投入戰(zhàn)爭引起了爭議———機器有權利殺人嗎？前些日子，一位年輕人在無人機上裝了一把手槍引起了社會的恐慌。

2014年，聯(lián)合國就開始呼吁制定相關公約，自從人類進入文明社會后，技術創(chuàng)新就一直推動著社會進步，從近代的工業(yè)革命開始，社會變革的速度越來越快，大量自動化機器的不斷涌現(xiàn)，取代了傳統(tǒng)工業(yè)。計算機問世后在很多計算問題中替代了人工計算，不過計算機也催生了很多相關的工作：程序員、處理器架構師以及計算機系統(tǒng)工程師等，AI面臨著類似的情況。

迄今為止，AI應用最廣泛的領域是有監(jiān)督的機器學習，即算法需要從訓練數(shù)據(jù)中進行學習，它不能像人那樣能多方面地間接學習。訓練數(shù)據(jù)的數(shù)量和質(zhì)量對于機器學習來說非常重要，搜集訓練數(shù)據(jù)的過程必須慎重，谷歌每年花費大量時間來搜集并整理用于機器學習的數(shù)據(jù)。這一過程永無止境，搜集訓練數(shù)據(jù)是機器學習中最需要人工參與的部分。

在很多領域內(nèi)，計算機能加速解決問題，但計算機在很多看似簡單的方面卻無可奈何。AI也有類似的問題：AI很容易實現(xiàn)80 %的預測或分類精度，但很難將精度提高到99 %。機器學習十分清楚自己的缺點，精度較低時，AI會將情況告訴工程師。目前，AI使用最多的是“人工參與循環(huán)鏈”模式：在AI不能決定時，人類立即參與其中。

過去，人們總認為AI產(chǎn)品離現(xiàn)實還很遠，實際上以AI理念為基礎的產(chǎn)品的研發(fā)遠遠超出了人們的想象。臉書M就是這類產(chǎn)品。AI被用來處理郵件并解決相關問題，再將復雜情況交予工程師解決，無人車和自動取款機也是。

目前，無人車還離不開人工參與，無人車在正規(guī)停車場內(nèi)可以自動泊車，在順暢的高速公路上可以自動駕駛，但在復雜路況下，則必須交給人工駕駛，ATM只能處理能夠識別的支票和現(xiàn)金，破損的支票和現(xiàn)金必須由人工處理。AI能解決很多問題，但仍有一些問題需要人工解決。AI的應用提高了相關工作的效率。在一些情況下，它會減少所需員工，但也會創(chuàng)建新市場，帶來新的就業(yè)機會。

AI的主動學習模式是上述兩種應用的結合，通過把訓練數(shù)據(jù)反饋給AI，以提高AI的自身性能。AI最初不能解決的問題，AI會以人類解決問題的方式訓練自己，未來的AI會在自我學習和訓練中提高自身的能力，以此來自我完善。這樣的AI能更多地為人類帶來便利，提高人類的工作效率，但也讓人們對AI產(chǎn)生了恐懼。

2.人工智能的未來

至今為止，人類經(jīng)歷了四次工業(yè)革命，今天的互聯(lián)網(wǎng)就是所謂的工業(yè)革命4.0。這一波由信息技術創(chuàng)新帶來的工業(yè)革命必定和以往的工業(yè)革命一樣給社會帶來某種結構性變革，這是人們的普遍認知。即將來臨的AI還會為我們帶來某種比人類社會結構性變革更為深遠的東西，人類將以自身創(chuàng)造的機械來代替其智力活動，這是一種人類從未經(jīng)歷過的全新的東西。

以往的技術創(chuàng)新擴展了人們對于大自然的權能和認知，物理學讓人們找到了宇宙的宏觀運行與微觀結構的奧秘。制造一顆人造太陽所需的只是大學碩士生的課程，在生物科學中，人們也已經(jīng)掌握了遺傳的奧秘，選擇性的繁殖已經(jīng)不是遙不可及的事情了。但是，下一波的技術創(chuàng)新是人類在創(chuàng)造自身的智力，而且是在以一種機械的、無機的方式在實現(xiàn)這種智力。這不但會給社會帶來結構性的變革，更重要的是它將給人們的觀念世界帶來變革。

人類的工業(yè)革命用科學代替了神和上帝，人類自詡已經(jīng)掌握了自然的奧秘。那么，AI將為人類帶來什么呢？它很可能是一個超出人類自身智力水平的超級大腦，讓我們來預測一下，這將是怎樣的一個超級大腦吧。

最低一級的AI是狹義人工智能（Artificial Narrow Intelligence，ANI），即專業(yè)AI，是AI在專業(yè)領域里的運用。例如那些打敗棋類世界冠軍的AI，它們只做一件事。

高級的AI，即類人AI。這樣的AI是和人有同樣智力和理解力的計算機，可以做人能做的事情。AGI被定義為“具有普通的人類心理能力，包括解釋、計劃、解決問題、抽象思考、理解復雜概念、快速學習和經(jīng)驗學習的能力”的AI。

最高一級的AI是超級人工智能（Artificial Super Intellgence，ASI），一些學者把ASI定義為“在科學創(chuàng)造力、普適智慧和社會技能等各個領域都比最強人類大腦還要聰明的智能”。ASI是一個棘手的話題，因為伴隨著它的兩大話題是人類的不朽和滅絕。

值得慶幸的是，目前人們只掌握了AI最低等級ANI，日常生活中ANI被廣泛使用，我們?nèi)缃裆钤趶V泛運用ANI的世界里，今天的ANI給我們的生活帶來的是方便和效率。最可怕的情況是，ANI出現(xiàn)問題或編程錯誤導致一些人為的災難，如電網(wǎng)癱瘓、核電設備故障或股市災難。

ANI在人類掌控的范圍之內(nèi)，這個正在迅速發(fā)展的相對無害的ANI是改變世界的先驅(qū)，每次ANI的創(chuàng)新都在為AGI和ASI添磚加瓦。它是原始狀態(tài)的DNA，尚無生命，一旦有一天它醒了，會給人類帶來什么呢？創(chuàng)造一個和人腦一樣聰明的計算機是件激動人心的事，因為迄今為止，人腦是宇宙中已知的最復雜的東西。創(chuàng)造AGI最難的部分不是它的邏輯功能，而是它的理解力，讓AGI理解貓和狗的不同，要比讓它在棋類上打敗人類難得多。人的理解力源于千百年的進化，人們至今仍不清楚產(chǎn)生理解力的物理過程，盡管對于人類而言，這一過程毫不費力。

要想達到AGI的水平，計算機要學會理解事物間的微妙關系，如表情變化等。怎么樣才能實現(xiàn)AGI呢？首先要增強計算機的能力，該能力能用大腦每秒計算總量（CPS）來表示，有一個估算CPS的方法，即找出某人大腦某一結構的CPS與該結構的質(zhì)量之比，然后與整個大腦的質(zhì)量相乘，就是某人大腦的總CPS估值。有人用此方法測試了很多人的CPS并和專業(yè)測試的CPS值結果相似，為10千萬億個CPS。

今天世界上的計算機達到這一水平了嗎？中國的天河2號計算機已超過了它，為34千萬億個CPS。有人建議用1 000美元對CPS的購買力來衡量計算機性能。到了1 000美元可以購買10千萬億個CPS（即人類大腦水平）的時候，AGI就進入人類的日常生活了。

今天的計算機已能用1 000美元達到老鼠大腦的水平了，即人腦的一千分之一。計算機進步奇快，1985年的這個數(shù)字是一萬億分之一；1995年是十億分之一；2005年是一百萬分之一；到了2015年是一千分之一。這樣的話，2025年計算機的能力就能達到人腦水平了。也就是說，計算機硬件已經(jīng)有AGI的能力了。

光有計算能力并不是AGI，接下來還要使計算機更聰明。三種最常見方法是：

（1）復制大腦。專家們在對人腦進行反向工程，即探究自然進化是怎樣使人腦成為今天這樣的。有人說，2030年這一工作就能完成，做到了這一點，復制大腦就不難了。

（2）全腦仿造。即將人腦進行原子層面的掃描，用軟件組裝出準確重建的三維人腦模型，再在功能強大的計算機上運行該模型，該計算機將具有人腦的一切能力，只要對它進行和人一樣的學習和信息收集即可。

就是說，只要把一個人的腦部結構上傳到計算機中，其完整的人格和內(nèi)存就會在計算機里得到非常準確復制。例如：張三的大腦在他死前是張三的，張三死后計算機會作為張三繼續(xù)存在，這是AGI的極致，這以后的ASI人類將無法想象。

人類已經(jīng)做到了對1毫米長的扁形蟲大腦的仿真，它有302個總神經(jīng)元，人腦有1 000億個總神經(jīng)元。盡管看起來還很遙遠，但我們已經(jīng)征服了扁形蟲，不久就會征服螞蟻，接下來是老鼠，然后會發(fā)現(xiàn)，人腦也是可能的。

（3）用進化過程復制大腦。直接復制大腦太難，復制它的進化過程則簡單得多。在現(xiàn)實世界里，最佳設計方案是創(chuàng)新的、面向機器的方法，而非完全仿生。該方法稱遺傳算法，其原理是：進行多次績效評估。一組計算機同時嘗試完成某一工作，將成功完成的計算機和程序重組成一臺新計算機，淘汰不太成功的，多次迭代后，最好的計算機勝出。

該方案的難度在于如何建立能自動運行的評估機制。人腦自然進化用了幾十億年，AGI要在幾十年里完成類似的進化，這可能嗎？相對自然進化而言，AGI有很多優(yōu)勢。自然進化無法預見，會產(chǎn)生無益突變，AGI是可控的，它只生成有益的、有針對性的后代。自然進化無目的，環(huán)境選擇甚至會淘汰高智商，AGI的進化是為提高智商設計的，自然進化中提高智力比AGI復雜得多，計算機進化只需用電即可。和自然進化相比，AGI的進化快得多。

真正的AGI很可能是通過計算機的學習和自身優(yōu)化，即讓計算機成為計算機專家來實現(xiàn)的。人類對AGI的恐懼來自它的進化，一旦AGI的智商超出了人類，人類將無法控制其進化進程，也就是說人類無法預期AGI會給人類帶來什么，這是AI恐懼的根源。

按定義，ASI是在科學創(chuàng)造力、普適智慧和社會技能等各個領域都比最強人類大腦還要聰明的智能。以現(xiàn)有的技術水平，人類根本無法預知ASI會是怎樣的，更無法預知ASI的創(chuàng)造過程，把AI和人腦進行比較是一件有趣的事。人腦神經(jīng)元的最大輸出速度為200 Hz，今天微處理器的速度是2 GHz，比人腦神經(jīng)元快10萬倍。人腦的內(nèi)部傳輸速度為每秒120米，計算機的這一速度是光速，在存儲量上，人腦就更無法和計算機相比了；在可靠性和耐用性上，計算機也比人腦強得多，而且故障率幾乎為零。人類以其自身的智能戰(zhàn)勝了其他所有物種，語言、人類組織、書寫及印刷術增加了人類的智慧，今天的互聯(lián)網(wǎng)讓人類的智慧更上了一層樓，人類這種集眾之慧的能力超出了其他所有的物種。

但是，計算機能做得比人類更好，某一特殊AI能和互聯(lián)網(wǎng)上的任何一臺計算機協(xié)調(diào)一致，并能將網(wǎng)絡上的一組計算機作為有共同目標的整體，這種協(xié)助不會有人類那樣的不同意見、不同動機和不同興趣。這種合作產(chǎn)生的效率、精準度和一致性是任何人類組織都無法相比的，具有這種優(yōu)勢的AGI，戰(zhàn)勝人類只是其發(fā)展過程中的一個階段而已，它的最終目標就是超級人工智能ASI。

按這樣的邏輯推演下去，人類創(chuàng)造了AI和AGI，AGI創(chuàng)造出了ASI，人類根本無法理解ASI的所作所為。在ASI面前，人類無能為力，人類要理解ASI，就像一只螞蟻要理解一位高級程序員的程序構架一樣，是不可能的。

人類社會有一條鐵律———智慧意味著權力。也就是說ASI將成為地球史上最強大的存在，包括人類在內(nèi)的所有生物，都將臣服于它。如果ASI是善良的，它會實時控制地球上每個原子的能力，開發(fā)出各種超級技術用以對抗人類的衰老，治療人類和地球上所有生物的疾病，消滅饑餓和死亡。今天我們面臨的所有問題，在ASI面前都將不再存在，人類將從此得到永生。如果ASI是邪惡的，那么它出現(xiàn)的那一刻就是地球上所有生命終結的一刻。就當今的人類而言，如果超級人工智能ASI成為現(xiàn)實，它就是萬能的神，這是我們開發(fā)人工智能的初衷嗎？