李軍

目前弱人工智能的最好寫照是：一邊是天才、一邊是弱智的“雨人”式智能

人工智能，是2017年最熱的科技話題。從今年5月Google的人工智能系統(tǒng)AlphaGo以3比0戰(zhàn)勝世界圍棋第一人柯潔，到7月份Facebook的CEO馬克·扎克伯格（Mark Zuckerberg）和特斯拉的CEO埃隆·馬斯克（Elon Musk）為人工智能隔空論戰(zhàn)。最后埃隆·馬斯克直指馬克·扎克伯格對(duì)人工智能知之甚少。

那么，人工智能真的可以具有類人的智能嗎？今年5月底，《麻省理工技術(shù)評(píng)論》（MIT Technology Review）發(fā)表的人工智能發(fā)展前瞻時(shí)間表給了這樣的回答：除了戰(zhàn)勝人類圍棋高手的目標(biāo)已經(jīng)達(dá)到外，語(yǔ)言翻譯（2024年），撰寫高校論文（2026年），駕駛卡車（2027年）乃至撰寫紐約時(shí)報(bào)排行榜暢銷書（2049年）和完成外科手術(shù)（2053年）都赫然在列。

最近幾個(gè)月，有關(guān)人工智能的終極警告見諸媒體：如“霍金警告：人工智能可能讓人類滅絕”，“保安機(jī)器人‘自殺 人工智能對(duì)人類來(lái)說是福是禍”，“細(xì)思恐極！兩個(gè)人工智能系統(tǒng)用人類無(wú)法理解的語(yǔ)言進(jìn)行了交流”等，那么，人工智能技術(shù)真的已經(jīng)在人類可控的邊緣嗎？

答案是否定的：目前我們掌握的人工智能技術(shù)還非常粗糙和原始。如果把人工智能和人類使用工具的歷史相比，我們目前還處在人工智能的“石器時(shí)代”。

弱人工智能階段進(jìn)行中

目前業(yè)界公認(rèn)的人工智能發(fā)展分為三個(gè)階段，即弱人工智能（Artificial Narrow Intelligence，ANI）、強(qiáng)人工智能（Artificial General Intelligence，AGI）和超人工智能（Artificial Super Intelligence，ASI）。但每個(gè)階段的定義稍有不同。

所謂弱人工智能，就是像目前的各種對(duì)話機(jī)器人如Siri，還有圍棋系統(tǒng)AlphaGo和IBM的認(rèn)知系統(tǒng) Watson。它們需要依賴于海量數(shù)據(jù)，并在設(shè)計(jì)者精心構(gòu)建的環(huán)境下進(jìn)行模型訓(xùn)練，最終對(duì)給定目標(biāo)基于明確任務(wù)展現(xiàn)強(qiáng)大的計(jì)算和認(rèn)知能力。目前人類出現(xiàn)的所有人工智能系統(tǒng)都在此階段，無(wú)一例外。

所謂強(qiáng)人工智能，目前業(yè)界沒有統(tǒng)一的定義。但總的來(lái)說強(qiáng)人工智能應(yīng)該不再局限于單一的明確目標(biāo)，它應(yīng)該能夠自主進(jìn)行非結(jié)構(gòu)化數(shù)據(jù)的學(xué)習(xí)，并完成通用的任務(wù)。訓(xùn)練過程不再局限于格式化的數(shù)據(jù)輸入，而是可以像訓(xùn)練貓、狗一樣進(jìn)行模糊訓(xùn)練。

我認(rèn)為，人工智能系統(tǒng)應(yīng)該達(dá)到高級(jí)哺乳動(dòng)物甚至人類嬰兒的智力水平，這才談得上強(qiáng)人工智能系統(tǒng)，這就包括了類似于批判性的分析問題和抽象的思考能力。

顯而易見，目前無(wú)論是谷歌、亞馬遜還是別的互聯(lián)網(wǎng)創(chuàng)新企業(yè)，他們研究的人工智能項(xiàng)目與此都還相去甚遠(yuǎn)。

超級(jí)人工智能目前是意見分歧最大的階段。但總的來(lái)說，作為發(fā)展的最高階段，人工智能系統(tǒng)應(yīng)該已經(jīng)適用阿西莫夫的機(jī)器人三定律，即：機(jī)器人不得傷害人類，或因不作為使人類受到傷害;除非違背第一定律，機(jī)器人必須服從人類的命令;除非違背第一及第二定律，機(jī)器人必須保護(hù)自己。

所以，超級(jí)人工智能應(yīng)該具有自我的認(rèn)知能力，它將以我們目前無(wú)法理解的方式來(lái)構(gòu)建和運(yùn)行。同時(shí)，作為目前已知的智能和認(rèn)知領(lǐng)域的唯一杰作——大腦，在超級(jí)人工智能到來(lái)時(shí)，大腦本身的工作方式和針對(duì)其的人工模擬技術(shù)一定已經(jīng)實(shí)現(xiàn)。很難想象人類會(huì)創(chuàng)造一種新的和大腦工作機(jī)理完全不同的人工智能系統(tǒng)。

我認(rèn)為更大的可能性是人類基于對(duì)大腦構(gòu)造的深刻認(rèn)識(shí)和全面仿真基礎(chǔ)上構(gòu)建出真正的超級(jí)人工智能系統(tǒng)。

弱人工智能弱在哪？

根據(jù)這樣的階段劃分，我們就知道目前所有的已經(jīng)應(yīng)用和還在研究的人工智能技術(shù)無(wú)一例外都是弱人工智能，其核心能力和大多數(shù)人所理解的智能相去甚遠(yuǎn)。

那么我們看看，現(xiàn)有的人工智能技術(shù)究竟弱在哪里？

其一，目前的弱人工智能必須精確學(xué)習(xí)，指定輸入。人類智能來(lái)自于學(xué)習(xí)，而人類的學(xué)習(xí)過程往往是模糊學(xué)習(xí)，正誤混雜。對(duì)于目前的人工智能系統(tǒng)，學(xué)習(xí)的過程其實(shí)是通過輸入已知數(shù)據(jù)完成對(duì)模型的調(diào)整（通常被稱為訓(xùn)練模型）。任何錯(cuò)誤的已知數(shù)據(jù)都會(huì)導(dǎo)致模型偏離最終的理想結(jié)果。在沒有人工干預(yù)的前提下，模型本身沒有任何過濾錯(cuò)誤數(shù)據(jù)影響的能力。

微軟公司在去年推出了一款名為“Tay”的人工智能系統(tǒng)，其設(shè)計(jì)能夠模仿一名19歲的美國(guó)少女與Twitter用戶在線聊天，微軟希望Tay能夠通過與人類對(duì)話進(jìn)行自我學(xué)習(xí)并不斷完善，從而更好地與人類交流。但是在Tay上線之后僅僅16小時(shí)，Tay開始頻繁爆出粗口，其中不乏種族歧視、侮辱女性以及污穢不堪的詞句，最終微軟不得不將其緊急下線。

微軟的Tay人工智能系統(tǒng)發(fā)生與預(yù)想結(jié)果重大偏離的核心原因就是現(xiàn)有的弱人工智能技術(shù)無(wú)法面對(duì)模糊學(xué)習(xí)和錯(cuò)誤信息的挑戰(zhàn)。

有關(guān)弱人工智能的指定輸入有這樣一個(gè)實(shí)例：主人設(shè)定掃地機(jī)器人iRobot每天凌晨1點(diǎn)半自動(dòng)啟動(dòng)清理房間，這樣起床后就能享受到干凈的室內(nèi)空間。但當(dāng)某天晚上他的寵物狗把大便拉在了地板上。第二天早上主人看到寵物狗的大便均勻地抹平在iRobot走過的每一個(gè)房間角落。

對(duì)于掃地機(jī)器人這種弱人工智能設(shè)備，傳感器采集的都是預(yù)設(shè)好數(shù)據(jù)，任何模型之外的因素如寵物狗的大便，都是視而不見的。

對(duì)于精確學(xué)習(xí)、指定輸入的弱人工智能，任何超范圍的輸入和訓(xùn)練數(shù)據(jù)集中的噪聲數(shù)據(jù)對(duì)于其都可能帶來(lái)一場(chǎng)災(zāi)難。

其二，目前的弱人工智能是單一能力的“雨人”式智能。美國(guó)電影《雨人》描寫了一個(gè)患有自閉癥、生活幾乎無(wú)法自理的人同時(shí)擁有超強(qiáng)的記憶力，甚至可以利用自己的超強(qiáng)能力到賭場(chǎng)贏錢。這種一邊是天才、一邊是弱智的“雨人”式智能，就是對(duì)于目前弱人工智能的最好寫照。endprint

從人工智能技術(shù)出現(xiàn)到現(xiàn)在，所有已知的人工智能系統(tǒng)都在追求給定場(chǎng)景下、特定業(yè)務(wù)問題的解決。所以，從數(shù)據(jù)收集、模型選擇、模型訓(xùn)練到實(shí)際應(yīng)用，目前的人工智能系統(tǒng)都是設(shè)計(jì)解決單一任務(wù)的。

以Google的AlphaGo為例，它除了會(huì)下圍棋，其他什么都不會(huì)。哪怕是需要解決類似的問題如下國(guó)際象棋，整個(gè)系統(tǒng)包括算法就都需要重構(gòu)。

類似的情況同樣存在于絕大部分現(xiàn)有的人工智能系統(tǒng)中。比如對(duì)于自動(dòng)駕駛系統(tǒng)，它的任務(wù)就是根據(jù)各個(gè)傳感器的動(dòng)態(tài)輸入決定對(duì)于方向盤、油門和剎車等系統(tǒng)的操控。如果我們需要開發(fā)一個(gè)非輪式的行走機(jī)器人，那么原有自動(dòng)駕駛系統(tǒng)積累下來(lái)的“知識(shí)”全無(wú)用處，從輸入數(shù)據(jù)到核心算法全部都要推倒重構(gòu)。

對(duì)于具有“雨人”式智能的這種單一功用人工智能系統(tǒng)，其實(shí)更應(yīng)該稱其為人工智能輔助系統(tǒng)，因?yàn)閹缀鯖]有任何應(yīng)用場(chǎng)景的彈性，其實(shí)和公眾心目中認(rèn)知的人工智能天差地別。

其三，神經(jīng)網(wǎng)絡(luò)算法離“類腦計(jì)算”還非常遙遠(yuǎn)。“類腦計(jì)算”，指的是以大腦相似的方式工作，并完成相應(yīng)的計(jì)算工作。

神經(jīng)網(wǎng)絡(luò)是目前人工智能領(lǐng)域最熱的算法，沒有之一。僅從神經(jīng)網(wǎng)絡(luò)的名字就容易聯(lián)想到人腦，人腦不就是由億萬(wàn)個(gè)神經(jīng)元細(xì)胞構(gòu)成的神經(jīng)網(wǎng)絡(luò)嗎？通過神經(jīng)網(wǎng)絡(luò)構(gòu)造的系統(tǒng)是不是可以完成“類腦計(jì)算”，擁有類似人腦這樣的高級(jí)智能呢？

再加上Google的AlphaGo系統(tǒng)就是使用卷積神經(jīng)網(wǎng)絡(luò)和相關(guān)的深度學(xué)習(xí)技術(shù)構(gòu)建核心算法，最終超越了所有人類目前能夠達(dá)到的圍棋水平，不由得更容易讓公眾以為神經(jīng)網(wǎng)絡(luò)和“類腦計(jì)算”有什么關(guān)系。

其實(shí)神經(jīng)網(wǎng)絡(luò)只是人工智能算法的一種，并且也不是占?jí)旱剐詢?yōu)勢(shì)的算法。目前的神經(jīng)網(wǎng)絡(luò)與人類大腦的區(qū)別，比算盤和超級(jí)計(jì)算機(jī)的區(qū)別更大。主流神經(jīng)網(wǎng)絡(luò)算法包含的單向信息流動(dòng)和輸入輸出節(jié)點(diǎn)模式，更是對(duì)大腦神經(jīng)元工作方式的拙劣模仿。人類目前對(duì)大腦的核心工作原理幾乎是一無(wú)所知，所以神經(jīng)網(wǎng)絡(luò)和大腦相比只是形似而已。

如果有一天人類破解了大腦的核心工作原理，是非常有可能創(chuàng)造出類似大腦的強(qiáng)人工智能甚至超人工智能系統(tǒng)的。當(dāng)然，人類也有可能創(chuàng)造出不同于大腦工作機(jī)制的全新人工智能系統(tǒng)。但在我看來(lái)，擺著現(xiàn)成的智能實(shí)物（大腦）抄都抄不會(huì)的話，憑空創(chuàng)造一個(gè)人工智能體系的難度就更大了。

除了神經(jīng)網(wǎng)絡(luò)以外，目前主流的人工智能算法還包括回歸、聚類、決策樹、隨機(jī)森林等。KDnuggets統(tǒng)計(jì)，數(shù)據(jù)科學(xué)家們常用的算法包括10種。

所以把目前的人工智能和神經(jīng)網(wǎng)絡(luò)甚至與“類腦計(jì)算”相提并論，是公眾認(rèn)識(shí)的誤區(qū)。

筆者從1998年就開始接觸數(shù)據(jù)科學(xué)，目前仍然任職某500強(qiáng)企業(yè)的高級(jí)數(shù)據(jù)科學(xué)家。我的看法是，目前人工智能領(lǐng)域并沒有真正越階的突破。

近幾年人工智能特別火爆的根源一方面是通過一些創(chuàng)新的技術(shù)如深度學(xué)習(xí)等，讓模型在訓(xùn)練過程中能夠快速逼近，從而支持海量的數(shù)據(jù)訓(xùn)練任務(wù)并大大縮減模型訓(xùn)練時(shí)間，最終在特定場(chǎng)景下能夠匹敵甚至超越人的智力水平。

此外也是因?yàn)樵朴?jì)算向模型提供強(qiáng)大的訓(xùn)練算力，并為人工智能帶來(lái)開放與廣泛應(yīng)用的平臺(tái)。

但目前人工智能所采用的各種模型算法如神經(jīng)網(wǎng)絡(luò)、隨機(jī)森林、貝葉斯分類和支持向量機(jī)等，都是十幾年甚至幾十年前就已經(jīng)出現(xiàn)的，并不是新鮮事物。現(xiàn)有的模型算法如果沒有越階的突破，從弱人工智能到強(qiáng)人工智能的階段式跨越是不太可能發(fā)生的。

目前，網(wǎng)上流傳的各種關(guān)于人工智能的驚悚話題都是以訛傳訛的夸大之詞。試想，目前基于單一任務(wù)的弱人工智能系統(tǒng)，怎么可能會(huì)產(chǎn)生系統(tǒng)的自我意識(shí)，就更談不上“自殺”、“交流”這樣帶有主觀認(rèn)知的行為了。傳感器故障或者是模型訓(xùn)練失敗導(dǎo)致的錯(cuò)誤輸出，才有可能是這些“驚悚事件”發(fā)生的最大根源。

人們往往高估某一事件或趨勢(shì)的短期影響，而低估其長(zhǎng)期效果，對(duì)于人工智能也是這樣。

人們?cè)谧罱険炱鹑斯ぶ悄苓@一“石塊”并開始打磨作為智能工具，未來(lái)一定會(huì)逐步進(jìn)入智能的青銅時(shí)代、黑鐵時(shí)代乃至蒸汽時(shí)代。但有限的模型和相應(yīng)的弱人工智能決定了人類還處在人工智能的“石器時(shí)代”。

（作者為科技與互聯(lián)網(wǎng)資深分析師，編輯：謝麗容）endprint