焦李成

（西安電子科技大學 計算機科學與技術學部，陜西 西安 710126）

從腦科學和認知科學到人工智能，我們能夠從生物物理機理中得到什么啟發(fā)？推動認知人工智能，不僅需要“感知”也需要“認知”。 本文首先對人工智能與深度學習的發(fā)展脈絡進行了梳理與反思，在此基礎上淺談認知建模、自動學習和漸近演化。

1 人工智能與深度學習

1.1 人工智能發(fā)展歷程

人工智能誕生距今已有60余年，在1956年的達特茅斯會議上，麥卡錫、明斯基、羅切斯特和香農等科學家首次提出“人工智能”這個術語，并明確了其完整的學術路徑，標志著人工智能正式成為一門科學，也標志著人工智能這一新領域正式誕生。他們不僅在討論中催生了人工智能這一概念，而且其具有前瞻性的工作也對后世產生了深遠影響，尤其是對IT領域。

人工智能按照其核心思想分為5個學術流派：符號主義、聯(lián)結主義、行為主義、貝葉斯學派和類推學派。這些學派從各自的角度出發(fā)對人工智能和機器學習進行闡釋，發(fā)展人工智能需要這五大學派相互融合借鑒。

人工智能按照其自然發(fā)展的歷史，又可以分成4個階段：專家系統(tǒng)，特征工程，語音圖像和文字處理，以及以增強學習、對抗學習、自監(jiān)督學習、元學習和強化學習為代表性技術的當前階段。

1) 專家系統(tǒng)階段(1960—1980年)：人工智能較為初級，主要依賴的技術是人工設計的規(guī)則。在這個階段，人們主要希望人工智能系統(tǒng)能夠進行搜索工作。

2) 特征工程階段(1980—2000年)：人們開始對原始數(shù)據(jù)進行處理從而提取特征，并使用簡單的機器學習模型進行分類、回歸等任務。

3) 第三階段(2000—2010年)：人們開始對語音、圖像和文字等自然信息進行處理。在該階段中，人工智能系統(tǒng)會將原始數(shù)據(jù)和答案標簽輸入深度學習模型。但是基于當時傳統(tǒng)的二值串型結構的機器學習模型無法對如此復雜的系統(tǒng)進行學習從而完成對應的復雜任務，因此AI進入下一階段。

4) 第四階段(2010—2020年)：人們將數(shù)據(jù)交給機器，并希望機器能夠自動在數(shù)據(jù)中間挖掘其中所蘊含的知識。但是在實際應用中，系統(tǒng)仍舊依賴人類對模型和數(shù)據(jù)進行組織編排，從而指導模型進行知識的挖掘。我們雖然希望AI模型能夠自動挖掘知識，但是模型的成功運行很難離開人類的監(jiān)督和指導。

在這個絢爛的第四階段中，產生了機器證明、機器翻譯、專家系統(tǒng)、模式識別、機器學習、機器人與智能控制等多種領域。雖然它們的核心不同，但都是AI發(fā)展第四階段中不可或缺的重要部分。

人工智能已經經歷了從“特征工程”“特征搜索”到現(xiàn)在的“表征學習”“學習解意”的新階段，這為計算機視覺領域帶來了大數(shù)據(jù)驅動的表征學習、識別和優(yōu)化的新范式。

1.2 神經網絡與深度學習

歷經70年的發(fā)展，神經網絡作為人工智能最核心的部分，從淺層模型發(fā)展到深層模型，進入到一個新階段。面對如今海量、有噪聲、小樣本、非平穩(wěn)、非線性數(shù)據(jù)的表達、學習和解譯等場景和問題，神經網絡和傳統(tǒng)的數(shù)據(jù)訓練方法已有很大區(qū)別。

神經網絡的學習包含很多因素：其中最根本的是基本科學問題的研究；其次是學習理論的理解，包括表示理論、優(yōu)化理論、泛化理論。其算法基礎不僅包括網絡模型本身(如卷積神經網絡、自編碼、循環(huán)神經網絡、生成對抗網絡、注意力機制等深度學習模型)，還包括背后的機理，以及提升算法有效性、可行性和在線處理的優(yōu)化方法。

模型的優(yōu)化方法以傳統(tǒng)的梯度為基礎體系，目前應用最多的是以全局達爾文、局部拉馬克為首的啟發(fā)式算法。啟發(fā)式算法面臨著隨機、正交、收斂，數(shù)據(jù)匹配的增廣、領域自適應處理、歸一化等問題。

深度學習蓬勃發(fā)展，但也面臨諸多難題，包括其自身理論或技術中的固有缺陷(非線性、小樣本、噪聲等問題)，以及現(xiàn)實人工智能問題面臨開放的變化環(huán)境。解決這些瓶頸問題，首先，需要研究問題的闡述方法，來解決特征和決策間的關系和解釋的優(yōu)先級問題。此外，需要解決認知上的缺陷，即概念的抽象、自動學習、漸近學習、直覺和遺忘等。最后需要攻克收斂的一致性、穩(wěn)定性、梯度駐點屬性等數(shù)學問題。

1) 難題 1：可解釋性

目前尚無針對可解釋性的系統(tǒng)化理論和解決工具，對其研究可分成3類：在建模之前對數(shù)據(jù)的分布特性進行理解和闡述；通過建立規(guī)則的方式來實現(xiàn)對模型可解釋性的探索；在建模之后，對模型的動作和功能(包括模型的生物機理和物理機理)進行有效、系統(tǒng)地研究和解釋。

2) 難題 2：不穩(wěn)定性

在不穩(wěn)定梯度的問題上，梯度消失和過擬合問題困擾人工智能算法已久。通常的解決方式是制定損失函數(shù)和范數(shù)，但該問題并沒有因此而徹底解決。神經網絡存在長時記憶和短時記憶，因此它也存在著災難性遺忘的問題。這些災難性遺忘的理論表征、學習方法、選擇性遺忘和動力學空間的設計也是一個重要的課題。

3) 難題 3：安全性問題

人們所設計和部署的神經網絡模型，需要在很復雜且有人類參與的環(huán)境中運行和工作，這種開放和動態(tài)的環(huán)境中可能存在多種攻擊(黑盒、白盒、灰箱)，其安全性是一大問題。因此，神經網絡在對抗攻擊環(huán)境中的自我防御，也是一項重要的課題。

4) 難題 4：小樣本學習

算法的效益比(即部署的代價)是一項在部署前要考慮的重要問題。我們希望設計一種綠色、資源可優(yōu)化的軟硬件環(huán)境，并希望算法能夠利用稀疏化方法，使其輕量化。因此，利用關鍵樣本和小樣本的學習就顯得尤為關鍵。

小樣本學習所面臨的問題可以分為模型、度量和優(yōu)化3個方面：模型的問題在于如何利用稀疏性、選擇性和可變更新來建立穩(wěn)定的模型。度量的問題在于如何用對實際的數(shù)據(jù)集因地制宜的設計度量方法，從而使網絡學習到最佳參數(shù)；優(yōu)化的問題在于通過調整優(yōu)化方法來完成海量小樣本的分類、回歸任務。

NASH是由肝臟中過多的脂質積聚引起的慢性肝損傷和炎癥的病癥。有人將NASH看作整個NAFLD疾病進展的中間環(huán)節(jié)，因為其既有脂肪變性和炎癥，亦有肝纖維化和硬化所需要的膠原基質沉積。NASH的組織學診斷標準包括脂肪變性，肝細胞氣球樣變和小葉炎癥[14]。肝細胞氣球樣變是指肝細胞增大、腫脹、細胞質稀疏，具有網狀外觀或含有Mallory-Denk體。小葉炎性通常由淋巴細胞、巨噬細胞、嗜酸性粒細胞和中性粒細胞組成。門靜脈炎癥在NASH病人中有不同程度地發(fā)生，疾病嚴重程度與活組織檢查評分的嚴重程度和IR的血清學特征相關。

此外，還有一些其他的瓶頸問題有待解決，深度學習的成功嚴重依賴于數(shù)據(jù)集，所謂“成也數(shù)據(jù)，難題也在數(shù)據(jù)”。因此，高質量數(shù)據(jù)的尋找和收集，一致性決策方法的制定是其根本癥結。而如何解決模型坍塌問題、特征同變性問題、不平衡問題、安全性問題、局部最小值問題，則都是困擾深度學習發(fā)展的瓶頸。為解決上述問題，認知建模應運而生。

2 認知建模

2.1 類腦感知

神經網絡源于腦神經的計算，但真實的生物大腦中并不是用簡單的計算來實現(xiàn)大腦認知的。類腦結構中所有的建模均具有稀疏性、學習性、選擇性和方向性。然而，當前的深度學習技術僅利用并行輸入、輸出和海量神經元來解決所遇到的問題，并未充分考慮這些自然的生物特性。這是遺憾，也是機遇。

可以說，類腦感知和腦認知的生物學基礎，為實現(xiàn)高效準確的復雜感知和解譯提供新的思路，即感、知、用。從宏觀上來說，神經網絡模型需要首先對人類的認知特征進行建模，結合對深層結構、多源綜合的宏觀模擬，神經元稀疏認知，方向選擇的微觀模擬，以及神經元間顯著注意、側抑制等介觀模擬信息，設計具有稀疏性、選擇注意、方向性等特點的單元，構建新型深度學習模型。通過認知特性的建模提升對復雜數(shù)據(jù)的表征、處理與信息提取的能力?？偟膩碚f，認知建模就是對人腦認知過程中的微觀、介觀、宏觀特性進行分析與模擬。

2.2 相關工作

1) 類腦稀疏性

在認知建模和稀疏性方面的研究工作有：

① 模擬基于生物視網膜機理的高效場景信息稀疏學習，初級視皮層各類神經元動態(tài)信息加工與稀疏計算，以及中/高級視覺皮層神經元特性的稀疏識別特點，發(fā)展稀疏認知學習、計算與識別的新范式。

② 將稀疏性表征、深度學習和數(shù)據(jù)隨機性特征結合，提出多種神經網絡模型，該工作有益于調參，有益于訓練技巧和性能的提升。

③ 研究深度學習和各類傳統(tǒng)機器學習模型之間的內在關系，以期理解深度學習的工作原理，構建更加強勁、魯棒的理論架構。

④ 研究激活函數(shù)的逼近，分類器的設計以及隨機特性的處理問題。提出了結構的處理，稀疏的正則化，連接結構的剪枝，低秩近似和稀疏自編碼模型。

2) 類腦學習性

研究發(fā)現(xiàn)人類能夠從少量的數(shù)據(jù)中學到一般化的知識，也就是具有“抽象知識”的學習能力。我們希望能將這種特性在神經網絡中表示出來，在類腦學習性和深度學習的結合方面研究工作主要有：

① 將極化SAR數(shù)據(jù)的Wishart分布特性和DBA結合起來，同時利用數(shù)據(jù)局部空間信息編碼的特性，建立快速的極化SAR分類模型，其核心是物理的機理和深度學習的模型的結合，實現(xiàn)效果良好。

② 結合堆棧和模型，將物理特性結合到深度學習的并行處理模型當中，提出了一種速度快、自動化程度高、魯棒性好的深度學習快速模型，通過對目標數(shù)據(jù)的自動高層語意的特征提取，實現(xiàn)了自動、高效和精準的分類。

3) 類腦的選擇性

研究表明視覺信息的加工具有顯著的注意力機制。注意力是人類認知功能的重要組成部分。人類在面對海量信息時，可以在關注一些信息的同時，選擇性忽略部分信息。人腦中的注意機制建模會增強概念學習和認知學習的能力。計算機視覺領域的注意力機制和大腦的信號處理機制也是類似的。

4) 類腦的方向性

研究表明生物大腦中存在能感知方向與位置的方向角和傾斜角的細胞，而在人工智能計算機視覺領域中，實際處理的圖像和視頻信息也都有方向和方位的變化性信息，它和人腦的背景相同。

在類腦方向性和深度學習的結合方面研究工作主要有：

① 對幾何結構進行建模，設計具備方向性的多尺度張量濾波器，這項工作在有關產品中表現(xiàn)出很好的效果。

② 依據(jù)多尺度幾何理論，建立了新一代可分解重構的深度學習理論。該理論不僅能構建層級的差分特征，也能使不同層級抽象層次的差分特征形成一種新的信號表示，成為一種新的深度分解的重構模型。

③ 將深度Contourlet的方向性、逼近能力和卷積神經網絡相結合，形成新的模型，達到較好的實驗效果；將Rigelet網絡與斑點及波正則化相結合，在SAR圖像的分類場景中達到了極佳結果；對突觸結構進行模型研究，期望將其記憶和存儲等功能充分利用，目前研究結果包括長時程增強和抑制，它們都是現(xiàn)有工作中鮮有體現(xiàn)的。

3 自動學習

為了有效而高效地處理海量的數(shù)據(jù)，后深度學習時代的另一個研究方向是數(shù)據(jù)的自動學習和處理。

學習模式的演化經歷了數(shù)十年的發(fā)展：從1960年的淺層神經網絡，到20世紀70年代的反向傳播的發(fā)現(xiàn)，到20世紀80年代的卷積神經網絡，再到1990—2000年的無監(jiān)督、監(jiān)督深度學習的卷土重來，直到現(xiàn)在的網絡模型。回顧該演化歷程我們發(fā)現(xiàn)，應該更加努力地研究自動深度學習。

實現(xiàn)自動學習的難點在于，我們要在特征工程、特征學習、感知+決策和環(huán)境適應的基礎上，讓機器能夠學會學習，學會適應環(huán)境，學會感知決策。不僅要讓機器能夠生成對抗、架構搜索和遷移學習，更要讓模型能夠自動學習，從結構上進行新的探索。

自動學習在自動確定網絡結構超參數(shù)上遇到了相當大的問題。很多研究人員都陷入了超參工程這一領域中，但這項工作并無太多的科學思考。神經網絡的架構搜索，是解放人力的一種新途徑。當務之急是如何針對需要解決的問題搜索到最佳的結構。

對于自適應神經樹模型，我們采用了神經網絡與決策樹相結合的方法進行組建。此工作最早是由UCL、帝國理工學院和微軟的研究人員提出的，他們提出了一種雛形的自適應神經樹模型ANT，它依賴于各種數(shù)據(jù)的模式。那么對于復雜、動態(tài)的數(shù)據(jù)，如何設計一種自適應、快速、可微分、系統(tǒng)可通過BP進行訓練的訓練算法是一項挑戰(zhàn)。

自動學習領域另一個研究熱點是概率生成的確定性推理。在模型學習的過程中，很多時候需要“靈感”。記憶和學習永遠是有效的、可逆的。這不僅是矛盾，更是矛盾的兩面體。為了在模型學習的過程中利用這種關系，對于函數(shù)逼近論下的架構搜索，我們提出深度泰勒分解網絡來解決求導難的問題，其采用逐層拆解的方法來解決深度網絡過于復雜從而無法求導的問題。

4 漸近演化

后深度學習時代面臨的第3個研究領域是“漸近演化”。 從認知建模、自動學習，到漸近演化，不僅要對場景和設備的噪聲、非線性變換等脆弱問題進行定位，更要解決面對海量、小樣本的數(shù)據(jù)的復雜性所產生的問題。

漸近演化是受到人工智能、生物智能和計算智能的啟發(fā)而提出的。我們希望網絡能夠進行充分的感知、全面的認知，進而進行感知和認知協(xié)同發(fā)展。漸近演化的基本觀點是進行動態(tài)進化優(yōu)化、學習時刻之間的相似性，最終進行領域適應的學習。也就是將現(xiàn)在以梯度學習為基礎的機器學習算法，和演化計算結合起來構造高效的算法。

人腦的感知和認知是進化和優(yōu)化的核心。其中包括權重優(yōu)化、結構優(yōu)化、稀疏網絡優(yōu)化、網絡剪枝方法。它們都依賴于傳統(tǒng)梯度算法和演化計算的結合。因此，要在網絡模型和學習算法的結合上考慮協(xié)同進化的優(yōu)化。這是需要考慮的重要問題之一。我們也將深度學習算法部署到時FPGA系統(tǒng)當中，并且取得了非常好的效果。

回顧人工智能的源頭、基礎和創(chuàng)新，要突破人工智能發(fā)展的瓶頸，我們要將生物機理、物化機理、數(shù)學機理、算法設計和硬件環(huán)境結合起來，實現(xiàn)從腦科學到認知計算，最終到人工智能的良性閉環(huán)。深度學習和人工智能的發(fā)展也經歷了類似的過程。腦科學的諾貝爾獎、人工智能的圖靈獎和認知科學的諾貝爾獎的重要發(fā)展，都是人工智能發(fā)展的基礎。因此，腦科學、人工智能和認知科學的有機結合是人工智能下一階段發(fā)展的重要方向。

從類腦感知到認知的人工智能，要求我們對事情不僅要進行感知，更要進行認知，而且需要學會思考、決策以及行動。這涉及心理學、哲學、語言學、人類學、人工智能和神經科學等多種學科。所以，類腦感知與認知的研究難題，需要多學科專家共同努力、深度合作去解決。