2012年，谷歌無(wú)人駕駛汽車(chē)上路，至今已累計(jì)行駛了超過(guò)300萬(wàn)千米；2016年3月，谷歌公司研發(fā)的計(jì)算機(jī)程序“AlphaGo”與圍棋世界冠軍、職業(yè)9段選手李世石進(jìn)行人機(jī)大戰(zhàn)，并以4：1的總比分獲勝，一時(shí)間轟動(dòng)世界；2017年年初，國(guó)內(nèi)首場(chǎng)人機(jī)大戰(zhàn)節(jié)目中，“百度大腦”以3：2險(xiǎn)勝人類(lèi)“最強(qiáng)大腦”王峰，比拼任務(wù)為跨年齡人臉識(shí)別……以上這些項(xiàng)目，都是近年來(lái)人工智能領(lǐng)域最熱門(mén)的研究方向，也是最能讓人體會(huì)到人工智能強(qiáng)大的表現(xiàn)。而這些項(xiàng)目背后的核心技術(shù)，都是深度學(xué)習(xí)技術(shù)，這種技術(shù)依賴(lài)于深層結(jié)構(gòu)人工神經(jīng)網(wǎng)絡(luò)模型的支持。

模擬大腦神經(jīng)網(wǎng)絡(luò)

我們知道，人工神經(jīng)網(wǎng)絡(luò)是對(duì)大腦神經(jīng)網(wǎng)絡(luò)系統(tǒng)的模擬。由于人工智能的終極目的是全面實(shí)現(xiàn)和超越人類(lèi)大腦的智力水平，因此，在這一過(guò)程中對(duì)大腦神經(jīng)系統(tǒng)進(jìn)行模擬是人工智能研究的主要途徑之一。

人類(lèi)大腦的神經(jīng)系統(tǒng)中包含大約1011個(gè)神經(jīng)細(xì)胞（也叫神經(jīng)元）。通過(guò)它們之間的互相連接，我們得到了一個(gè)由百萬(wàn)億計(jì)連接組成的復(fù)雜神經(jīng)網(wǎng)絡(luò)，實(shí)現(xiàn)感知、運(yùn)動(dòng)、思維等各種功能。圖1是生物神經(jīng)元的基本結(jié)構(gòu)。神經(jīng)元之間依靠脈沖傳遞信息，信息內(nèi)容是由脈沖的頻率和時(shí)序決定的，與幅度無(wú)關(guān)。脈沖在神經(jīng)細(xì)胞內(nèi)運(yùn)動(dòng)，當(dāng)神經(jīng)細(xì)胞之間需要通信時(shí)，發(fā)出信息的神經(jīng)細(xì)胞就會(huì)從軸突上釋放出小泡，脈沖通過(guò)這些小泡中的化學(xué)物質(zhì)產(chǎn)生離子流動(dòng)，造成電位變化，在膜外傳播到接收神經(jīng)細(xì)胞的樹(shù)突上，這個(gè)復(fù)雜的過(guò)程就叫做“化學(xué)突觸傳遞”。包括人類(lèi)在內(nèi)的很多哺乳動(dòng)物，剛出生時(shí)就有很多神經(jīng)元，但是沒(méi)有多少神經(jīng)網(wǎng)絡(luò)連接。大部分神經(jīng)網(wǎng)絡(luò)連接都是在哺乳動(dòng)物出生之后建立的。學(xué)習(xí)成長(zhǎng)的過(guò)程也就是這個(gè)神經(jīng)網(wǎng)絡(luò)變得復(fù)雜有效的過(guò)程，因此，神經(jīng)元之間的連接學(xué)習(xí)是智力發(fā)展的關(guān)鍵。

兩次陷入研究的低谷

截至目前，雖然我們還遠(yuǎn)遠(yuǎn)不能完全理解大腦的工作原理，但是人工智能從剛起步時(shí)起，就受到腦科學(xué)和神經(jīng)生理學(xué)的強(qiáng)烈影響，它們始終影響著人工智能的研究進(jìn)程。科學(xué)家在20世紀(jì)50年代就提出了簡(jiǎn)單模擬大腦神經(jīng)元和神經(jīng)網(wǎng)絡(luò)的感知器，在學(xué)術(shù)界引起了轟動(dòng)。很多人認(rèn)為，只要神經(jīng)元足夠多，網(wǎng)絡(luò)連接足夠復(fù)雜，感知器就能模擬部分人類(lèi)智力。但是人工智能奠基人之一的馬文·明斯基在1969年證明，再?gòu)?fù)雜的感知器也只能實(shí)現(xiàn)線性函數(shù)，甚至連簡(jiǎn)單的“異或”邏輯都無(wú)法實(shí)現(xiàn)，原因就在于感知器是單層神經(jīng)網(wǎng)絡(luò)。而多層神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)在當(dāng)時(shí)被認(rèn)為是不可能的。因此，人工神經(jīng)網(wǎng)絡(luò)研究在人工智能領(lǐng)域很快就陷入了低谷，被基于規(guī)則和邏輯推理的專(zhuān)家系統(tǒng)所取代。

20世紀(jì)80年代，以Hopfield網(wǎng)絡(luò)、波爾茲曼機(jī)和反向傳播算法為代表的新的人工神經(jīng)網(wǎng)絡(luò)研究突破了感知器的局限，從而開(kāi)始了長(zhǎng)達(dá)十幾年的基于神經(jīng)網(wǎng)絡(luò)的人工智能研究熱潮。神經(jīng)網(wǎng)絡(luò)被廣泛應(yīng)用于圖像識(shí)別、語(yǔ)音識(shí)別、工業(yè)控制、機(jī)器人、智能決策等領(lǐng)域。特別是反向傳播算法部分解決了多層網(wǎng)絡(luò)模型的學(xué)習(xí)問(wèn)題。圖2是典型的多層感知器模型，每個(gè)節(jié)點(diǎn)都代表著一個(gè)神經(jīng)元，通常由一個(gè)簡(jiǎn)單的非線性函數(shù)表示，稱(chēng)為“激勵(lì)函數(shù)”。兩個(gè)節(jié)點(diǎn)間的連接由連接強(qiáng)度表示，稱(chēng)為“權(quán)重”。節(jié)點(diǎn)是分層布置的，網(wǎng)絡(luò)的輸出根據(jù)網(wǎng)絡(luò)的連接方式、權(quán)重值和激勵(lì)函數(shù)的不同而不同。

當(dāng)時(shí)很多人樂(lè)觀地認(rèn)為，只要節(jié)點(diǎn)足夠多，層數(shù)足夠多，就可以學(xué)習(xí)出任意復(fù)雜的映射函數(shù)。但是大家逐漸發(fā)現(xiàn)，反向傳播算法對(duì)于大型多層神經(jīng)網(wǎng)絡(luò)的訓(xùn)練效果很差，收斂速度非常慢。而與此同時(shí)，以支持向量機(jī)和概率圖模型為代表的統(tǒng)計(jì)機(jī)器學(xué)習(xí)取得了突飛猛進(jìn)的發(fā)展，神經(jīng)網(wǎng)絡(luò)研究再次陷入低谷。

深度學(xué)習(xí)技術(shù)

但是，科學(xué)家模擬人類(lèi)大腦解決人工智能問(wèn)題的研究始終沒(méi)有停止。最新的腦科學(xué)研究表明，大腦各種神經(jīng)元的信號(hào)處理機(jī)制和連接學(xué)習(xí)方式是不同的，特別是大腦的無(wú)意識(shí)感知和自我意識(shí)功能，并不需要有監(jiān)督的學(xué)習(xí)。非監(jiān)督學(xué)習(xí)和自主學(xué)習(xí)的重要性在大腦神經(jīng)系統(tǒng)中占有重要地位。在Geoffrey Hinton、Yann LeCun、YoshuaBengio等人的堅(jiān)持和努力下，人工神經(jīng)網(wǎng)絡(luò)研究專(zhuān)家于2006年前后提出了一種非監(jiān)督和監(jiān)督學(xué)習(xí)相結(jié)合的深度神經(jīng)網(wǎng)絡(luò)模型。

該模型可以首先創(chuàng)建一些網(wǎng)絡(luò)層來(lái)提取樣本隱含的特征而不使用帶標(biāo)簽的數(shù)據(jù)，再創(chuàng)建少量的輸出層添加到網(wǎng)絡(luò)的頂部，使用反向傳播算法進(jìn)行微調(diào)。由于非監(jiān)督層的網(wǎng)絡(luò)訓(xùn)練不需要反向傳播算法，因此可以構(gòu)建多達(dá)上百層的網(wǎng)絡(luò)，來(lái)模擬大腦認(rèn)識(shí)和感知事物的不同層次的抽象能力。同時(shí)，近年來(lái)圖形處理單元（GPU）、高性能計(jì)算機(jī)、云計(jì)算等先進(jìn)計(jì)算技術(shù)的發(fā)展，也為深度神經(jīng)網(wǎng)絡(luò)大規(guī)模計(jì)算提供了可能。

深度學(xué)習(xí)解決了人工智能界努力了很多年卻仍無(wú)進(jìn)展的問(wèn)題，能夠發(fā)現(xiàn)高維數(shù)據(jù)中的復(fù)雜結(jié)構(gòu)。在圖像識(shí)別、語(yǔ)音識(shí)別等幾乎所有重要的人工智能領(lǐng)域都打破了其他所有方法保持的紀(jì)錄，包括預(yù)測(cè)潛在的藥物分子活性、分析粒子加速器數(shù)據(jù)、重建大腦回路、預(yù)測(cè)在非編碼DNA突變對(duì)基因表達(dá)和疾病的影響、自動(dòng)問(wèn)答和語(yǔ)言翻譯等領(lǐng)域。借助深度學(xué)習(xí)技術(shù)，人工智能終于踏上了“強(qiáng)人工智能”之路（即機(jī)器的智慧水平將超過(guò)人類(lèi)）。由于我們對(duì)大腦認(rèn)知和學(xué)習(xí)機(jī)理的掌握依然是膚淺的，所以深度神經(jīng)網(wǎng)絡(luò)雖然在某些領(lǐng)域比人類(lèi)大腦要強(qiáng)，但在涉及到情感認(rèn)知等領(lǐng)域就會(huì)束手無(wú)策，整體智力水平仍不如三四歲的小孩。目前，美國(guó)、中國(guó)政府和歐盟都啟動(dòng)了人腦計(jì)劃項(xiàng)目，希望通過(guò)對(duì)大腦更深入的理解來(lái)促進(jìn)人工智能的發(fā)展。深度神經(jīng)網(wǎng)絡(luò)也在通過(guò)模擬大腦的多種類(lèi)節(jié)點(diǎn)、可塑性連接、動(dòng)態(tài)演化、網(wǎng)絡(luò)集群等特征，來(lái)建立更強(qiáng)的人工智能。

大腦是宇宙中最復(fù)雜的系統(tǒng)之一，人工智能是人類(lèi)對(duì)自我的超越，“人工大腦”在模擬人腦的基礎(chǔ)上也會(huì)超越人腦。這一過(guò)程充滿(mǎn)刺激也充滿(mǎn)危險(xiǎn)，它可能會(huì)從根本上改變?nèi)祟?lèi)發(fā)展的進(jìn)程。