+ 張鈸

大家“金句”

· 滿(mǎn)足這五個(gè)限制條件的工作，總有一天會(huì)被計(jì)算機(jī)取代，也就是那些照章辦事，不需要任何活性的工作。

· 現(xiàn)在的人工智能基本方法有缺陷，我們必須走向具有理解的AI，這才是真正的人工智能。

· 只依靠深度學(xué)習(xí)很難到達(dá)真正的智能。在決策系統(tǒng)里不能使用這樣的系統(tǒng)，因?yàn)樗鼤?huì)犯大錯(cuò)人類(lèi)最大的優(yōu)點(diǎn)是“小錯(cuò)不斷、大錯(cuò)不犯”，機(jī)器最大的缺點(diǎn)是“小錯(cuò)不犯，一犯就犯大錯(cuò)

我們現(xiàn)在離真正的人工智能還有一段很長(zhǎng)的路。為了清晰地闡述這個(gè)思想，必須回答下面三個(gè)問(wèn)題：

第一，什么叫做真正的人工智能？我們的目標(biāo)是什么？

第二，為什么我們需要真正的人工智能？

第三，我們?nèi)绾巫呦蛘嬲娜斯ぶ悄埽?/p>

1、評(píng)價(jià)目前人工智能取得的成果

如何評(píng)價(jià)目前人工智能取得的成果，主要針對(duì)下面的五件事：①深藍(lán)打敗人類(lèi)國(guó)際象棋冠軍；②IBM的Watson機(jī)器人在電視知識(shí)競(jìng)賽中打敗了美國(guó)的前兩個(gè)冠軍；③2015年微軟在ImageNet上做圖象識(shí)別，它的誤識(shí)率略低于人類(lèi)；④百度、訊飛都宣布，在單句的中文語(yǔ)音識(shí)別上，人工智能的誤識(shí)率略低于人類(lèi)；⑤AlphaGo打敗了圍棋世界冠軍李世石。這五件事情都是機(jī)器在一定的范圍內(nèi)超過(guò)了人類(lèi)，我們?nèi)绾蝸?lái)評(píng)價(jià)？

大家一致認(rèn)為，這五件事得以發(fā)生的三要素是：大數(shù)據(jù)、算力的提升和非常好的人工智能算法。但我認(rèn)為大家忽略了一項(xiàng)因素，就是這所有的成果必須建立在一個(gè)合適的場(chǎng)景下。這五件事雖然領(lǐng)域很不一樣，但是它們都滿(mǎn)足完全一樣的條件，必須有豐富的數(shù)據(jù)或者豐富的知識(shí)，如果沒(méi)有或者很少，要實(shí)現(xiàn)人工智能相當(dāng)于“無(wú)米之炊”?；驖M(mǎn)足下面的五個(gè)限制條件：確定性信息、完全信息、靜態(tài)的、單任務(wù)和有限領(lǐng)域。任何一個(gè)條件不滿(mǎn)足，現(xiàn)在的人工智能就會(huì)遇到很大困難。

這五個(gè)限制條件下的應(yīng)用場(chǎng)景是什么？就是照章辦事，不需要任何靈活性，這顯然不是智能的核心。

下象棋是完全信息博弈，信息完全和確定；其次，它遵循著完全確定的游戲規(guī)則演化，滿(mǎn)足靜態(tài)條件。Watson機(jī)器人也是這樣，知識(shí)競(jìng)賽提的問(wèn)題都沒(méi)有二義性，所以這樣的問(wèn)答對(duì)機(jī)器人來(lái)講是非常容易的；它涉及的領(lǐng)域雖然比較寬，但也是有限的。圍棋也完全符合上面五個(gè)條件，所以對(duì)計(jì)算機(jī)來(lái)說(shuō)也是很容易的。目前計(jì)算機(jī)打麻將就不行，因?yàn)榕祁?lèi)是不完全信息博弈，所以比棋類(lèi)要難?？傊?，對(duì)目前人工智能取得的成果要有一個(gè)正確的評(píng)價(jià)。

目前的人工智能技術(shù)在交通、服務(wù)、教育、娛樂(lè)等等領(lǐng)域開(kāi)展了應(yīng)用。但這些領(lǐng)域里面只有滿(mǎn)足上述五個(gè)條件的事情，計(jì)算機(jī)的工作才會(huì)容易。如果不滿(mǎn)足這些條件，計(jì)算機(jī)的工作就困難了。

大家常常關(guān)心什么樣的工作會(huì)被機(jī)器所替代，滿(mǎn)足這五個(gè)限制條件的工作，總有一天會(huì)被計(jì)算機(jī)取代，也就是那些照章辦事，不需要任何靈活性的工作，比如說(shuō)出納員、收銀員等等。不滿(mǎn)足這五個(gè)條件的工作，不排斥有一部分會(huì)被計(jì)算機(jī)取代，但不可能被完全代替，例如老師、企業(yè)家。

2、現(xiàn)在的人工智能是沒(méi)有理解的人工智能

為什么有這五個(gè)限制條件？原因在于現(xiàn)在的人工智能是沒(méi)有理解能力的人工智能。

首先看符號(hào)模型，理性行為的模型。Watson是個(gè)對(duì)話系統(tǒng)，我們現(xiàn)在所有做的對(duì)話系統(tǒng)都和它近似。但是Watson做得更好些，它有知識(shí)庫(kù)、有推理機(jī)制。它的知識(shí)庫(kù)包含百科全書(shū)、有線新聞、文學(xué)作品等等，所有的知識(shí)用紙質(zhì)來(lái)表示有2億頁(yè)，用存儲(chǔ)量表示達(dá)到了4TB。它能回答什么問(wèn)題呢？第一個(gè)問(wèn)題，1974年9月8日誰(shuí)被總統(tǒng)赦免？這對(duì)美國(guó)人來(lái)講很好回答，同樣對(duì)計(jì)算機(jī)來(lái)講也非常容易，用這幾個(gè)關(guān)鍵字“1974年9月8日”、“被總統(tǒng)赦免”，就能在文獻(xiàn)里查出來(lái)是尼克松。也就是說(shuō)根據(jù)問(wèn)題中的關(guān)鍵字，可以在已有的文獻(xiàn)中直接找到答案。第二個(gè)問(wèn)題，熒光粉受到電子撞擊以后，它的電磁能以什么方式釋放出來(lái)？用“熒光粉”、“電子撞擊”、“釋放電磁能”等關(guān)鍵詞，也可以找到答案：光或者光子。這種方法就是平時(shí)網(wǎng)絡(luò)搜索的原理，應(yīng)該說(shuō)沒(méi)有什么智能。

回答下面的問(wèn)題就需要“智能”了：智利陸地邊界最長(zhǎng)的是哪個(gè)國(guó)家？跟智利有陸地邊界的國(guó)家可以檢索到，它們是阿根廷和玻利維亞，但是誰(shuí)的邊境長(zhǎng)？通常查不到。Watson具備一定的推理能力，它從邊界間發(fā)生的事件、邊界的地理位置等等，經(jīng)過(guò)分析推理以后就可以找出答案，是阿根廷。

下一個(gè)問(wèn)題也屬于這類(lèi)性質(zhì)：跟美國(guó)沒(méi)有外交關(guān)系的國(guó)家中哪個(gè)最靠北？檢索可知，跟美國(guó)沒(méi)有外交關(guān)系的國(guó)家有4個(gè)。哪個(gè)國(guó)家最靠北，沒(méi)有直接答案。但可以從其它信息中推導(dǎo)出來(lái)，比如各個(gè)國(guó)家所處的緯度、氣候寒冷的程度等等分析出來(lái)，答案是朝鮮。

又如全球有名的索菲亞機(jī)器人，她的對(duì)話是面向開(kāi)放領(lǐng)域，人可以隨便提問(wèn)，這樣問(wèn)題就暴露出來(lái)了。大家在電視上看到索菲亞侃侃而談，問(wèn)什么問(wèn)題都能答得很好。其實(shí)這些問(wèn)題都是預(yù)先準(zhǔn)備的，有明確答案，以便在電視上演示出最佳效果。

如果臨時(shí)提問(wèn)題，索菲亞的缺陷就暴露了。一個(gè)中國(guó)記者給索菲亞提的四個(gè)問(wèn)題中，它只答對(duì)了一個(gè)。“你幾歲了？”這個(gè)問(wèn)題很簡(jiǎn)單，但它答不上來(lái)，它的回答是“你好，你看起來(lái)不錯(cuò)”，答非所問(wèn)，因?yàn)樗焕斫馑鶈?wèn)的問(wèn)題。只有第二個(gè)問(wèn)題“你的老板是誰(shuí)”它是有準(zhǔn)備的，所以答得很好。第三個(gè)問(wèn)題，“你能回答多少問(wèn)題呢？”它說(shuō)“請(qǐng)繼續(xù)”，沒(méi)聽(tīng)懂！第四個(gè)問(wèn)題“你希望我問(wèn)你什么問(wèn)題呢？”它說(shuō)“你經(jīng)常在北京做戶(hù)外活動(dòng)嗎？”

索菲亞（Sophia）是美國(guó)公司Hanson Robotics制造的機(jī)器人，擁有橡膠皮膚，能夠表現(xiàn)出超過(guò)62種面部表情，“她”的“大腦”中的計(jì)算機(jī)算法能夠識(shí)別面部，并與人進(jìn)行眼神接觸。她甚至在2017年10月，獲得了沙特阿拉伯授予的公民身份。

智能體現(xiàn)在推理能力上。但是很不幸，以上兩個(gè)例子充分表明，當(dāng)前的對(duì)話系統(tǒng)推理能力都很差，基本上沒(méi)有理解能力。Watson系統(tǒng)稍好，但也比較有限。換句話說(shuō)，我們現(xiàn)在的對(duì)話系統(tǒng)離真正的智能還很遠(yuǎn)。

為什么會(huì)這樣？也就是說(shuō)現(xiàn)在的人工智能基本方法有缺陷，我們必須走向具有理解的AI，這才是真正的人工智能。什么是真正的人工智能？與目前的“強(qiáng)人工智能”概念有什么區(qū)別？首先，我們都試圖去準(zhǔn)確地描述人類(lèi)的智能行為，希望人工智能跟人類(lèi)的智能相近。但是強(qiáng)人工智能只是提出概念，并沒(méi)有從方法上提出怎么解決。這一理念提出的最核心的概念就是“通用人工智能”，怎么個(gè)通用法？沒(méi)有答案?，F(xiàn)在我們提出“有理解的人工智能”，是可操作的，不只是概念。

人機(jī)對(duì)話的時(shí)候，機(jī)器為什么不能理解人們提的問(wèn)題。看一個(gè)例子就可以知道。在計(jì)算機(jī)的知識(shí)庫(kù)里把“特朗普是美國(guó)總統(tǒng)”這個(gè)事實(shí)，以“特朗普-總統(tǒng)-美國(guó)”三元組的形式儲(chǔ)存。如果提的問(wèn)題是“誰(shuí)是美國(guó)總統(tǒng)？”機(jī)器馬上回答：“特朗普?！钡侨绻麊?wèn)其它有關(guān)的問(wèn)題，如“特朗普是一個(gè)人嗎？”“特朗普是一個(gè)美國(guó)人嗎？”“美國(guó)有沒(méi)有總統(tǒng)？”它都回答不了。

機(jī)器為什么回答不了后面的三個(gè)問(wèn)題呢？因?yàn)檫@個(gè)系統(tǒng)沒(méi)有常識(shí)，也沒(méi)有常識(shí)推理。既然特朗普是美國(guó)的總統(tǒng)，美國(guó)當(dāng)然有總統(tǒng)，但是它連這一點(diǎn)常識(shí)的推理能力都沒(méi)有。所以要解決這個(gè)問(wèn)題，必須在系統(tǒng)中加上常識(shí)庫(kù)、常識(shí)推理，沒(méi)有做到這一步，人機(jī)對(duì)話系統(tǒng)中機(jī)器不可能具有理解能力。

但是大家知道，建立常識(shí)庫(kù)是一項(xiàng)“AI的曼哈頓工程”。美國(guó)在1984年就開(kāi)始建造這樣的常識(shí)庫(kù)，現(xiàn)在還沒(méi)有完全實(shí)現(xiàn)?？梢?jiàn)，要走向真正的人工智能，有理解的人工智能，是一條很漫長(zhǎng)的路。

我國(guó)在這方面也已有研究進(jìn)展，基本做法是建立一個(gè)常識(shí)圖譜，用圖譜幫助理解提出的問(wèn)題，同時(shí)利用常識(shí)圖譜幫助產(chǎn)生合適的答案。結(jié)果表明，有了常識(shí)以后，系統(tǒng)性能有了顯著的改善，對(duì)話的質(zhì)量顯著提高。

3、模擬感性行為

另一方面是準(zhǔn)符號(hào)模型。深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)主要用來(lái)模擬感性行為，感性行為一般很難采用符號(hào)模型，因?yàn)楦行裕ǜ杏X(jué)）無(wú)法精確描述。

比如，如何告訴計(jì)算機(jī)什么樣才叫做“馬”？說(shuō)馬有四條腿，什么叫做腿？細(xì)長(zhǎng)的叫做腿，什么叫細(xì)？什么叫做長(zhǎng)？非定量的概念機(jī)器是無(wú)法識(shí)別的。

目前的解決辦法是神經(jīng)網(wǎng)絡(luò)或者準(zhǔn)符號(hào)模型，也就是用與人類(lèi)相同的模式去學(xué)習(xí)、訓(xùn)練。不告訴機(jī)器什么叫做馬，只是給它提供不同的馬的圖像進(jìn)行訓(xùn)練。然后再用其它馬的圖片給它看，如果回答正確就是識(shí)別正確。如果90%是對(duì)的，就說(shuō)明識(shí)別率是90%。

目前，淺層的神經(jīng)網(wǎng)絡(luò)已發(fā)展到多層的神經(jīng)網(wǎng)絡(luò)。從淺層到多層有兩個(gè)本質(zhì)性的變化，一是輸入信息的不同，深層網(wǎng)絡(luò)一般不需要人工選擇的特征，用原始數(shù)據(jù)就可以。所以深度學(xué)習(xí)的應(yīng)用門(mén)檻降低了，操作者不需要有專(zhuān)業(yè)知識(shí)，只需要把原始數(shù)據(jù)輸進(jìn)去。二是多層神經(jīng)網(wǎng)絡(luò)與淺層相比，性能有明顯提升。因此深度學(xué)習(xí)得以大量應(yīng)用。

通過(guò)數(shù)據(jù)驅(qū)動(dòng)建立的系統(tǒng)能不能算是有智能呢？這是存疑的。即使人臉識(shí)別系統(tǒng)的識(shí)別率比人還高，也不能說(shuō)它有智能。因?yàn)檫@種通過(guò)數(shù)據(jù)驅(qū)動(dòng)實(shí)現(xiàn)的系統(tǒng)，性能與人類(lèi)智能差別非常大，魯棒性很差、容易受干擾，會(huì)發(fā)生重大的錯(cuò)誤，需要大量的訓(xùn)練樣本。

前文說(shuō)到，給定一個(gè)圖像庫(kù)，機(jī)器的識(shí)別率比人還要高。但是這樣的系統(tǒng)，如果輸入噪音，就會(huì)把馬識(shí)別成為知更鳥(niǎo)，換一個(gè)噪音又可能把馬識(shí)別成為獵豹。這樣的系統(tǒng)只是一個(gè)機(jī)械的分類(lèi)器，根本不是感知系統(tǒng)。盡管把各種各樣動(dòng)物分得很清楚，但是它不認(rèn)識(shí)這個(gè)動(dòng)物，只到達(dá)了“感覺(jué)”的水平，并沒(méi)有達(dá)到“感知”。

我們的結(jié)論是，只依靠深度學(xué)習(xí)很難到達(dá)真正的智能。這是很?chē)?yán)峻的結(jié)論。在決策系統(tǒng)里不能使用這樣的系統(tǒng)，因?yàn)樗鼤?huì)犯大錯(cuò)。人類(lèi)的最大的優(yōu)點(diǎn)是“小錯(cuò)不斷、大錯(cuò)不犯”，機(jī)器最大的缺點(diǎn)是“小錯(cuò)不犯，一犯就犯大錯(cuò)”。

人們一度對(duì)自動(dòng)駕駛很樂(lè)觀，但目前發(fā)現(xiàn)存在不少問(wèn)題。一般的實(shí)現(xiàn)方法是通過(guò)數(shù)據(jù)驅(qū)動(dòng)的學(xué)習(xí)方法，學(xué)習(xí)不同場(chǎng)景下的圖象分割，并判別車(chē)輛、行人、道路等，然后建立三維模型，在三維模型上規(guī)劃行駛路徑?，F(xiàn)在用硬件已經(jīng)可以做到實(shí)時(shí)。如果路況比較簡(jiǎn)單，行人、車(chē)輛很少，勉強(qiáng)可以實(shí)現(xiàn)自動(dòng)駕駛。但復(fù)雜的路況就無(wú)法奏效了。很多人總結(jié)經(jīng)驗(yàn)說(shuō)，行人或者司機(jī)都會(huì)有意無(wú)意地破壞交通規(guī)則，無(wú)論國(guó)內(nèi)國(guó)外都一樣。這就使得數(shù)據(jù)驅(qū)動(dòng)方法失效。

如何解決這個(gè)問(wèn)題？實(shí)際上就是要解決從“Without”到“With”理解的問(wèn)題。人工智能現(xiàn)在有兩種基本方法，一種是用符號(hào)模型來(lái)模擬理性行為。但是非常不幸，離散的符號(hào)表示很難用上很多數(shù)學(xué)工具，所以發(fā)展很慢。在模擬感性行為的時(shí)候，使用特征空間的向量，可以使用所有的數(shù)學(xué)工具。所以數(shù)據(jù)驅(qū)動(dòng)方法這幾年發(fā)展非?？?。但是它有一個(gè)非常大的缺陷，它是在特征空間里，缺乏語(yǔ)義。我們用數(shù)據(jù)去訓(xùn)練一個(gè)模型，即所謂“黑箱學(xué)習(xí)法”，如果數(shù)據(jù)質(zhì)量不高，很難學(xué)出有用的東西。什么叫概率統(tǒng)計(jì)？重復(fù)多了就是真理。如果數(shù)據(jù)質(zhì)量差，充滿(mǎn)了“謊言”。謊言重復(fù)多了，就變成真理了。

4、語(yǔ)義的向量空間

我們現(xiàn)在給出的解決辦法是，把這兩個(gè)空間投射到一個(gè)空間里，叫做語(yǔ)義的向量空間。也就是說(shuō)把符號(hào)變成向量，同時(shí)把特征空間的向量變成語(yǔ)義空間的向量。具體方法，一是通過(guò)Embedding（嵌入）把符號(hào)變成向量，盡量保持語(yǔ)義不變，但現(xiàn)在的方法都會(huì)引起語(yǔ)義的丟失。第二方面就是Raising（提升），把特征空間提升到語(yǔ)義空間去，這主要靠學(xué)科交叉，靠跟神經(jīng)科學(xué)的結(jié)合。只有這些問(wèn)題解決以后，才能夠建立一個(gè)統(tǒng)一的理論。但是這項(xiàng)工作是非常艱巨的。

為什么人工神經(jīng)網(wǎng)絡(luò)不能得到語(yǔ)義信息，而人腦的神經(jīng)網(wǎng)絡(luò)可以呢？差別就在于目前的人工神經(jīng)網(wǎng)絡(luò)太簡(jiǎn)單了，人們正設(shè)法把腦神經(jīng)網(wǎng)絡(luò)的許多結(jié)構(gòu)與功能加入人工智能。

還可以把數(shù)據(jù)驅(qū)動(dòng)跟知識(shí)驅(qū)動(dòng)結(jié)合起來(lái)。加上知識(shí)，讓人工智能有推理的能力和決策的能力，這樣就能解決突發(fā)事件。

5、結(jié)束語(yǔ)

“我們正在通往真正AI的路上”，現(xiàn)在走得并不遠(yuǎn)，在出發(fā)點(diǎn)附近。而人工智能永遠(yuǎn)在路上。這些問(wèn)題一旦解決了，人類(lèi)的社會(huì)進(jìn)步、人類(lèi)的生活就會(huì)發(fā)生本質(zhì)上的改變。

人工智能剛剛起步，離真正的AI還很遙遠(yuǎn)，我們?nèi)沃氐肋h(yuǎn)。