摘 要：人工智能算法繁多，但經(jīng)得起實(shí)踐考驗(yàn)的經(jīng)典算法有限，常見的有樸素貝葉斯、決策樹、邏輯回歸、支持向量機(jī)、深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)、遺傳算法、蟻群算法、元學(xué)習(xí)等。依據(jù)人工智能算法理論基礎(chǔ)知識(shí)，如概率統(tǒng)計(jì)、集合論、空間幾何、圖論、矩陣論等加以分類，并對(duì)相應(yīng)經(jīng)典人工智能算法概念和主要應(yīng)用領(lǐng)域進(jìn)行概述，去除結(jié)構(gòu)細(xì)化和公式展開所帶來的復(fù)雜感，揭開人工智能的神秘面紗，讓算法整體輪廓得以更清晰地呈現(xiàn)。

關(guān)鍵詞：人工智能算法;樸素貝葉斯;邏輯回歸;深度學(xué)習(xí);遺傳算法

DOI：10. 11907/rjdk. 191702

中圖分類號(hào)：TP3-0 ?? 文獻(xiàn)標(biāo)識(shí)碼：A??????????????? 文章編號(hào)：1672-7800（2020）003-0276-05

Overview of Classical Artificial Intelligence Algorithms

TAO Yang-ming

（School of Computer and Information Engineering， Nanning Normal University， Nanning 530023，China）

Abstract： The artificial intelligence algorithm has a great variety. However， the classical algorithms that can withstand practice and test are actually limited. At present， classical artificial intelligence algorithms include naive Bayes， decision tree， logistic regression， support vector machine， deep learning， reinforcement learning， genetic algorithm， ant colony algorithm， and meta-learning. The paper classifies the main theoretical basic knowledge of artificial intelligence algorithm such as mathematical probability and statistics， set theory， space geometry， graph theory， matrix theory， etc， and summarizes the classical artificial intelligence algorithm concept and main application fields of corresponding classification， and removes the structure. The refinement and formula unfolding brings a sense of complexity to beginners， uncovering the mystery of artificial intelligence， and allowing beginners to have a clear understanding of the overall outline of the algorithm.

Key Words： artificial intelligence algorithm; naive Bayes; logistic regression; deep learning; genetic algorithm

0 引言

人工智能算法起步于20世紀(jì)50年代，經(jīng)過不斷發(fā)展，其種類已頗為繁多，然而經(jīng)得起實(shí)踐考驗(yàn)的經(jīng)典算法仍很有限。目前，有依據(jù)算法結(jié)構(gòu)分類的，如迭代、遞歸、貪心算法、動(dòng)態(tài)策劃、分治策略等;有依據(jù)應(yīng)用分類的，如回歸算法、分類算法、模式識(shí)別算法等;還有一些并沒有嚴(yán)格分類，只是就幾種大型方法進(jìn)行總結(jié)和算法展開。人工智能算法通常比較復(fù)雜，依據(jù)上述分類基本上會(huì)面臨結(jié)構(gòu)細(xì)化、公式代入、各種引用等，這些內(nèi)容一經(jīng)展開無(wú)疑十分龐雜。實(shí)際上，每種人工智能算法所依據(jù)的概念很簡(jiǎn)單，而且很多經(jīng)典庫(kù)如Python中的Gensim、TensorFlow、Scikit-Learn等都對(duì)一些常用的人工智能算法進(jìn)行了封裝，初學(xué)者可在了解算法基本概念后直接對(duì)這些封裝的庫(kù)進(jìn)行使用和實(shí)驗(yàn)。值得注意的是，就應(yīng)用而言，本文可以幫助初學(xué)者迅速理解算法精要并使用現(xiàn)有算法庫(kù);就研究而言，想要?jiǎng)?chuàng)新算法乃至開發(fā)自己獨(dú)有的算法，結(jié)構(gòu)細(xì)化和公式的深入理解必不可少。

1 基于集合論分類

集合論是數(shù)學(xué)學(xué)科的根基，初等數(shù)學(xué)方法有加減乘除等各種運(yùn)算、映射、函數(shù)、導(dǎo)數(shù)等概念，高等數(shù)學(xué)有極限、積分、微分、級(jí)數(shù)等概念?；诩险摰慕?jīng)典人工智能算法有K-means（K均值算法）、k-NN（k近鄰算法）、Apriori算法等。

1.1 K-means算法

K-means（K均值算法）[1]是非監(jiān)督學(xué)習(xí)中的經(jīng)典聚類算法，主要基于“物以類聚，人以群分”概念，將未標(biāo)注的樣本數(shù)據(jù)中的相似部分聚集為同一類。實(shí)現(xiàn)流程為：①隨機(jī)選取k個(gè)對(duì)象作為初始聚類中心;②計(jì)算每個(gè)對(duì)象與各聚類中心的距離，并將每個(gè)對(duì)象分給距離它最近的聚類中心;③重新計(jì)算聚類中心，然后重復(fù)②，直至滿足終止條件，終止條件可以為沒有對(duì)象再分給聚類中心，也可以為聚類中心的誤差平方和局部最小等。

極大似然估計(jì)在規(guī)律分布數(shù)據(jù)集中表現(xiàn)良好，對(duì)于含隱藏變量的數(shù)據(jù)集表現(xiàn)較差。鑒于此，最大期望值算法在極大似然估計(jì)中加入隱藏變量，實(shí)現(xiàn)步驟是：①利用隱藏變量計(jì)算出初始期望值;②使用期望值對(duì)模型進(jìn)行最大似然估計(jì);③使用②得到參數(shù)代入①重新計(jì)算期望值，重復(fù)②，直至得到最大期望值。

最大期望值算法主要運(yùn)用于參數(shù)求解和優(yōu)化，尤其是在機(jī)器學(xué)習(xí)領(lǐng)域有廣泛應(yīng)用。

2.6 PageRank算法

PageRank算法[9]是Google專有算法，也稱網(wǎng)頁(yè)排名或佩奇算法。PageRank的理念十分簡(jiǎn)單，即如果一個(gè)頁(yè)面被越多的其它網(wǎng)頁(yè)引用，其等級(jí)也越高;如果一個(gè)等級(jí)高的頁(yè)面引用了一個(gè)等級(jí)低的頁(yè)面，則該等級(jí)低的頁(yè)面等級(jí)會(huì)有所提升。

PageRank算法主要應(yīng)用于網(wǎng)頁(yè)排名。

3 基于圖論分類

圖分為有向圖、無(wú)向圖、帶權(quán)圖、連通圖、平面圖等傳統(tǒng)圖結(jié)構(gòu)，以及歐拉圖和哈密頓圖等一些特殊結(jié)構(gòu)的圖。樹結(jié)構(gòu)也是圖的一種，可以視為非連通圖?；趫D論的人工智能算法有決策樹、Adaboost、Bagging等。

3.1 決策樹

決策樹（Decision Tree）[10]是和樸素貝葉斯一樣的經(jīng)典且使用廣泛的分類算法，最初使用ID3算法生成決策樹，后來在ID3的基礎(chǔ)上延伸出C4.5算法和CART算法。決策樹的構(gòu)造步驟非常簡(jiǎn)單：①生成整體決策樹框架;②修剪決策樹。相關(guān)案例如圖2所示。

決策樹主要應(yīng)用于分類，基本上樸素貝葉斯能運(yùn)用的領(lǐng)域，決策樹也能，如文本分類、新聞分類、病人分類等。

3.2 隨機(jī)森林

隨機(jī)森林（RandomForest）[11]由多個(gè)決策樹構(gòu)成，決策樹是對(duì)整個(gè)數(shù)據(jù)集進(jìn)行構(gòu)建，而隨機(jī)森林先利用Bagging方法在初始數(shù)據(jù)集進(jìn)行隨機(jī)抽樣并生成多個(gè)子數(shù)據(jù)集后，再分別對(duì)子數(shù)據(jù)集進(jìn)行決策樹構(gòu)建。需要注意的是，子數(shù)據(jù)集的數(shù)據(jù)量必須與初始數(shù)據(jù)集的數(shù)據(jù)量相同，如圖3所示。

隨機(jī)森林主要解決決策樹泛化能力弱的缺點(diǎn)，可以理解為“三個(gè)臭皮匠頂個(gè)諸葛亮”的概念，與決策樹一樣，主要應(yīng)用領(lǐng)域是分類。

4 基于空間幾何分類

空間集合的概念主要是維度，如一維的線條、二維的平面、三維的立體空間、四維及以上的超空間等;再者是向量，通過向量之間的計(jì)算可以快速計(jì)算出樣本特征各種聯(lián)系、提取關(guān)鍵特征等。基于空間幾何的人工智能算法有支持向量機(jī)、空間向量模型等。

4.1 支持向量機(jī)

支持向量機(jī)（Support Vector Machines，SVM）[12]主要有3類：線性可分SVM，線性不可分SVM和非線性SVM。線性可分SVM指在二維平面內(nèi)可以用一條線清晰分開兩個(gè)數(shù)據(jù)集;線性不可分SVM指在二維平面內(nèi)用一條線分開兩個(gè)數(shù)據(jù)集時(shí)會(huì)出現(xiàn)誤判點(diǎn);非線性SVM指用一條線分開兩個(gè)數(shù)據(jù)集時(shí)會(huì)出現(xiàn)大量誤判點(diǎn)，此時(shí)需要采取非線性映射將二維平面擴(kuò)展為三維立體，然后尋找一個(gè)平面清晰的切開數(shù)據(jù)集。

在實(shí)際應(yīng)用中，SVM不僅用于二分類，也可用于多分類。SVM在垃圾郵件處理、圖像特征提取及分類、空氣質(zhì)量預(yù)測(cè)等多方面領(lǐng)域都有應(yīng)用。

4.2 向量空間模型

向量空間模型（Vector Space Model，VSM）[13]主要應(yīng)用于自然語(yǔ)言處理領(lǐng)域的文本特征提取，如圖4所示。

有3個(gè)文檔D1、D2、Q，D1和D2均含T1、T2、T3特征項(xiàng)，Q只含T2特征項(xiàng)，特征項(xiàng)可以理解為對(duì)文檔抽取的關(guān)鍵詞。D1=2T1+3T2+5T3的（2，3，5）表示T1、T2、T3在文檔D1中的權(quán)重，同理（3，7，1）表示T1、T2、T3在文檔D2中的權(quán)重。如果要計(jì)算D1和D2相似度，則直接計(jì)算（2，3，5）和（3，7，1）的余弦值即可。

5 基于交叉學(xué)科分類

目前，很多人工智能算法是基于交叉學(xué)科的，如通過模擬人類神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)算法、基于“物競(jìng)天擇適者生存”進(jìn)化論概念的遺傳算法、通過觀察蟻群活動(dòng)而產(chǎn)生的蟻群算法等。

5.1 深度學(xué)習(xí)（神經(jīng)網(wǎng)絡(luò)）

深度學(xué)習(xí)的“深度”二字源于神經(jīng)網(wǎng)絡(luò)隱藏層的層數(shù)可以人為增加，即整個(gè)算法的長(zhǎng)度會(huì)不斷增加。神經(jīng)網(wǎng)絡(luò)算法近幾年給整個(gè)計(jì)算機(jī)領(lǐng)域帶來了革新，同時(shí)也影響了其它學(xué)科，甚至對(duì)整個(gè)社會(huì)也產(chǎn)生了深遠(yuǎn)影響。

神經(jīng)網(wǎng)絡(luò)算法總給人一種神秘莫測(cè)的感覺，讓人望而生畏，其實(shí)神經(jīng)網(wǎng)絡(luò)本質(zhì)很簡(jiǎn)單，大概經(jīng)歷了3個(gè)階段：①簡(jiǎn)易線性前向傳播，此時(shí)的神經(jīng)網(wǎng)絡(luò)有另外一個(gè)名字叫“多層感知機(jī)”[14]，神經(jīng)元的運(yùn)算本質(zhì)即為簡(jiǎn)單的矩陣相乘而已;②非線性反向傳播，就是在多層感知機(jī)的基礎(chǔ)上加入偏置和激活函數(shù)讓線性轉(zhuǎn)化為非線性，利用損失函數(shù)和梯度下降算法轉(zhuǎn)變前向傳播為反向傳播，通過反向傳播不斷改進(jìn)參數(shù)最終使損失函數(shù)值達(dá)到預(yù)期，第二階段后期又出現(xiàn)多種優(yōu)化算法如學(xué)習(xí)率可以改變梯度下降算法的幅度、正則化解決過擬合問題、滑動(dòng)平均算法使模型更健壯等，第二階段的神經(jīng)網(wǎng)絡(luò)稱為“人工神經(jīng)網(wǎng)絡(luò)”[15]或者“全連接網(wǎng)絡(luò)”;③神經(jīng)網(wǎng)絡(luò)進(jìn)化階段，在人工神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上衍生出能夠權(quán)值共享的卷積神經(jīng)網(wǎng)絡(luò)（CNN）[16]、解決序列問題的循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）[17]、在RNN上改進(jìn)的LSTM以及其它一些遞歸神經(jīng)網(wǎng)絡(luò)、生成式對(duì)抗網(wǎng)絡(luò)（GAN）、脈沖神經(jīng)網(wǎng)絡(luò)（SNN）等，同時(shí)也衍生出一些基于神經(jīng)網(wǎng)絡(luò)的經(jīng)典模型如bi-LSTM、bert模型等。

神經(jīng)網(wǎng)絡(luò)目前已經(jīng)得到了廣泛應(yīng)用，人臉識(shí)別、機(jī)器翻譯、文本分類、無(wú)人駕駛等。神經(jīng)網(wǎng)絡(luò)在應(yīng)用領(lǐng)域幾乎是萬(wàn)能的，以至于好多科研人員已經(jīng)得出“神經(jīng)網(wǎng)絡(luò)之后再無(wú)智能算法”的結(jié)論。

雖然神經(jīng)網(wǎng)絡(luò)算法如此強(qiáng)大，但目前仍有兩大問題無(wú)法解決：一是可以使用神經(jīng)網(wǎng)絡(luò)得出想要的結(jié)果，但為何會(huì)得出這樣的結(jié)果始終無(wú)法破解，現(xiàn)在還沒有這方面的理論能夠說服大家，也即神經(jīng)網(wǎng)絡(luò)的內(nèi)部是個(gè)黑盒，能夠拿來用并且得出不錯(cuò)的結(jié)果，可是“知其然不知其所以然”;二是神經(jīng)網(wǎng)絡(luò)根基的反向傳播算法目前都受到質(zhì)疑，尤其作為神經(jīng)網(wǎng)絡(luò)之父的Hinton設(shè)計(jì)了Capsule算法代替反向傳播算法，之后又有研究者提出離散優(yōu)化等方法取代反向傳播算法。

5.2 遺傳算法

遺傳算法[18]是模擬人類和生物的遺傳—進(jìn)化機(jī)制，主要基于達(dá)爾文的生物進(jìn)化論：物競(jìng)天擇、適者生存和優(yōu)勝劣汰。具體實(shí)現(xiàn)流程是：①?gòu)某醮后w里選出比較適應(yīng)環(huán)境且表現(xiàn)良好的個(gè)體;②利用遺傳算子對(duì)篩選后的個(gè)體進(jìn)行組合交叉和變異，然后生成第二代群體;③從第二代群體中選出環(huán)境適應(yīng)度良好的個(gè)體進(jìn)行組合交叉和變異形成第三代群體，如此不斷進(jìn)化，直至產(chǎn)生末代種群即問題的近似最優(yōu)解。

遺傳算法通常應(yīng)用于路徑搜索問題，如迷宮尋路問題、8字碼問題等。

5.3 蟻群算法

蟻群算法[19]的靈感來源于觀察螞蟻集體覓食行為的現(xiàn)象，單個(gè)螞蟻在覓食過程中會(huì)在路徑中遺留下“信息素”，螞蟻都具備判別“信息素”濃度的本能，如果在某條路徑上有高濃度的“信息素”即可判定為該路徑是最佳覓食路徑。實(shí)現(xiàn)流程同樣類似：①初始化參數(shù)，構(gòu)建整體路徑框架;②隨機(jī)將預(yù)先設(shè)定好的螞蟻數(shù)量放置在不同的出發(fā)點(diǎn)，記錄每個(gè)螞蟻?zhàn)叩穆窂?，并在路徑中釋放信息?③更新信息素濃度，判定是否達(dá)到最大迭代次數(shù)，若否，重復(fù)第二步，若是則結(jié)束程序，輸出信息濃度最大的路徑即為獲取的最佳路徑。

蟻群算法和遺傳算法類似，主要用于尋找最佳路徑，尤其在旅行商問題（TSP）上被廣泛采納。

5.4 退火算法

退火的概念來源于物理學(xué)科熱力學(xué)，指要得到固體的理想有序結(jié)晶狀態(tài)，需要先加溫加快固體內(nèi)部的分子運(yùn)動(dòng)，再緩慢降溫降低分子運(yùn)動(dòng)，直至得到規(guī)則有序的結(jié)晶狀態(tài);不可快速降溫，過快的降溫是無(wú)法得到理想結(jié)晶狀態(tài)的。如圖5所示。

退火算法（Simulated Annealing）[20]和爬山算法（Hill Climbing ）有些類似，都屬于貪心算法。爬山算法的缺點(diǎn)是只能得到局部最優(yōu)解，退火算法由于加入了隨機(jī)因素，所以在找到局部最優(yōu)解后會(huì)跳出來繼續(xù)尋找，直至找到全局最優(yōu)解。

退火算法在尋找最優(yōu)解中被廣泛使用，如優(yōu)化車間調(diào)度流程、旅行商問題等。

5.5 強(qiáng)化學(xué)習(xí)、遷移學(xué)習(xí)和元學(xué)習(xí)

強(qiáng)化學(xué)習(xí)（Reinforcement Learning）[21]，也叫評(píng)價(jià)學(xué)習(xí)或再勵(lì)學(xué)習(xí)。強(qiáng)化學(xué)習(xí)的算法概念基于心理學(xué)的行為主義理論，即在一定環(huán)境中給有機(jī)體獎(jiǎng)勵(lì)或者懲罰，能夠刺激有機(jī)體養(yǎng)成利益最大化的慣性行為。強(qiáng)化學(xué)習(xí)本質(zhì)上是一種算法思想，需要同其它算法結(jié)合使用，比如結(jié)合神經(jīng)網(wǎng)絡(luò)算法。

遷移學(xué)習(xí)（Transfer Learning）[22]的本質(zhì)可以濃縮為“舉一反三”，此概念可以追溯到1901年的心理學(xué)家桑代克和伍德沃思，主要思想是將某個(gè)領(lǐng)域獲取的經(jīng)驗(yàn)、知識(shí)遷移到另外一個(gè)領(lǐng)域的學(xué)習(xí)中。需要注意的是，遷移學(xué)習(xí)和預(yù)訓(xùn)練方法有本質(zhì)不同，遷移學(xué)習(xí)針對(duì)的是兩個(gè)不同的數(shù)據(jù)集，預(yù)訓(xùn)練方法是在原有數(shù)據(jù)集的基礎(chǔ)上添加新數(shù)據(jù)。

元學(xué)習(xí)（Meta Learning），也稱之為學(xué)會(huì)學(xué)習(xí)（Learning to Learn）。元學(xué)習(xí)的概念很簡(jiǎn)單，就是利用以往學(xué)過的知識(shí)和經(jīng)驗(yàn)?zāi)軌蜃灾鲗W(xué)習(xí)并培養(yǎng)出新技能。由于傳統(tǒng)機(jī)器學(xué)習(xí)都需要靠給機(jī)器喂大量的數(shù)據(jù)才能讓機(jī)器具備一定的智能，因此元學(xué)習(xí)概念的提出是革命性的。目前，元學(xué)習(xí)相關(guān)研究處于“百家爭(zhēng)鳴”的狀態(tài)，有基于記憶方法、基于預(yù)測(cè)梯度方法、基于注意力機(jī)制等。

6 常見特征提取及優(yōu)化方法

現(xiàn)實(shí)生活中的文本、圖像、語(yǔ)音等需要被轉(zhuǎn)化為二進(jìn)制數(shù)據(jù)才能被計(jì)算機(jī)識(shí)別，因此需要對(duì)這些原始材料進(jìn)行數(shù)據(jù)轉(zhuǎn)化，該過程被稱為特征提取。特征提取方法層出不窮，在特征提取過程中，涌現(xiàn)出了很多優(yōu)化方法，使得特征提取更快、更有效。

6.1 特征提取方法

提取圖像特征最常用的方法就是二維矩陣轉(zhuǎn)化，很多工具都可以方便實(shí)現(xiàn)，如MATLAB、Numpy等?；叶葓D片被提取為一個(gè)通道的二維矩陣，彩色圖片被提取為3個(gè)通道（RGB）的二維矩陣。

提取文本的方法非常多樣化，有基于統(tǒng)計(jì)方法的詞集模型和詞袋模型，有基于獨(dú)熱編碼的獨(dú)熱模型，有基于熵概念的信息增益方法，有基于神經(jīng)網(wǎng)絡(luò)的詞向量模型等。目前，詞向量模型效果最好，基本上自然語(yǔ)言處理領(lǐng)域具備一定智能的模型或者系統(tǒng)都繞不開詞向量模型。

6.2 優(yōu)化方法

通過特征提取方法得到的數(shù)據(jù)集經(jīng)常會(huì)面臨一些問題，比如維度過大、特征稀疏且分散等。因此，需要一些優(yōu)化方法對(duì)得到的數(shù)據(jù)集進(jìn)行優(yōu)化，用于降維的常用方法有奇異值分解（SVD）和主成分分析（PCA），常用的關(guān)鍵特征提取方法有注意力機(jī)制等。

7 結(jié)語(yǔ)

本文對(duì)經(jīng)典人工智能算法進(jìn)行了概述，并介紹了每種算法的應(yīng)用領(lǐng)域和實(shí)際應(yīng)用案例。人工智能算法所基于的理念和概念其實(shí)非常簡(jiǎn)單，但要實(shí)現(xiàn)這些理念和概念就繞不開繁瑣的數(shù)學(xué)公式和復(fù)雜的算法結(jié)構(gòu)。本文簡(jiǎn)明扼要地直擊每種算法的要義，去除繁瑣的公式和復(fù)雜的算法結(jié)構(gòu)設(shè)計(jì)，讓初學(xué)者快速把握算法整體輪廓，并且在最短時(shí)間內(nèi)通過MATLAB、Gensim、Scikit-Learn等庫(kù)直接對(duì)實(shí)際案例進(jìn)行操作。最后，介紹了數(shù)據(jù)集的特征提取和優(yōu)化方法，讓初學(xué)者對(duì)人工智能算法的數(shù)據(jù)集來源有最基本的認(rèn)識(shí)。

參考文獻(xiàn)：

[1]KANUNGO T， MOUNT D M， NETANYAHU N S， et al. An efficient K-means clustering algorithm：analysis and implementation[J].? IEEE Transactions on Pattern Analysis & Machine Intelligence，2002，24（7）：881-892.

[2]ZOUHAL L M， DENOEUX T. An evidence-theoretic k-NN rule with parameter optimization[J].? IEEE Transactions on Systems Man & Cybernetics Part C Applications & Reviews，1998，28（2）：263-271.

[3]陸麗娜，陳亞萍，魏恒義，等. 挖掘關(guān)聯(lián)規(guī)則中Apriori算法的研究[J]. 小型微型計(jì)算機(jī)系統(tǒng)， 2000，21（9）：940-943.

[4]王國(guó)才. 樸素貝葉斯分類器的研究與應(yīng)用[D]. 重慶：重慶交通大學(xué)，2010.

[5]李榮陸，王建會(huì)，陳曉云，等. 使用最大熵模型進(jìn)行中文文本分類[J]. 計(jì)算機(jī)研究與發(fā)展，2005，42（1）：94-101.

[6]杜世平. 隱馬爾可夫模型的原理及其應(yīng)用[D]. 成都：四川大學(xué)， 2004.

[7]魏大成，周賢剛. 影響綜合康復(fù)治療神經(jīng)根型頸椎病療效的危險(xiǎn)因素邏輯回歸分析[J]. 中國(guó)康復(fù)醫(yī)學(xué)雜志，2009，24（9）：807-809.

[8]基于極大似然準(zhǔn)則和最大期望算法的自適應(yīng)UKF算法[J]. 自動(dòng)化學(xué)報(bào)，2012，38（7）：1200-1210.

[9]李稚楹，楊武，謝治軍. PageRank算法研究綜述[J]. 計(jì)算機(jī)科學(xué)， 2011（b10）：185-188.

[10]楊靜，張楠男，李建，等. 決策樹算法的研究與應(yīng)用[J]. 計(jì)算機(jī)技術(shù)與發(fā)展， 2010，20（2）：114-116.

[11]隨機(jī)森林算法優(yōu)化研究[D]. 北京：首都經(jīng)濟(jì)貿(mào)易大學(xué)， 2014.

[12]丁世飛，齊丙娟，譚紅艷. 支持向量機(jī)理論與算法研究綜述[J].? 電子科技大學(xué)學(xué)報(bào)， 2011， 40（1）：2-10.

[13]姚清耘. 基于向量空間模型的中文文本聚類方法的研究[D]. 上海：上海交通大學(xué)，2008.

[14]王之倉(cāng). 多層感知器學(xué)習(xí)算法研究[D]. 蘇州：蘇州大學(xué)，2006.

[15]朱大奇. 人工神經(jīng)網(wǎng)絡(luò)研究現(xiàn)狀及其展望[J]. 江南大學(xué)學(xué)報(bào)， 2004，3（1）：103-110.

[16]卷積神經(jīng)網(wǎng)絡(luò)研究綜述[J]. 計(jì)算機(jī)學(xué)報(bào)，2017，40（6）：1229-1251.

[17]朱小燕，王昱，徐偉. 基于循環(huán)神經(jīng)網(wǎng)絡(luò)的語(yǔ)音識(shí)別模型[J]. 計(jì)算機(jī)學(xué)報(bào)，2001，24（2）：213-218.

[18]丁建立，陳增強(qiáng)，袁著祉.? 遺傳算法與螞蟻算法的融合[J]. 計(jì)算機(jī)研究與發(fā)展，2003，40（9）：1351-1356.

[19]段海濱，王道波，朱家強(qiáng)，等. 蟻群算法理論及應(yīng)用研究的進(jìn)展[J]. 控制與決策，2004，19（12）：1321-1326.

[20]模擬退火算法的研究及其應(yīng)用[D]. 昆明：昆明理工大學(xué)，2005.

[21]高陽(yáng)，陳世福，陸鑫. 強(qiáng)化學(xué)習(xí)研究綜述[J]. 自動(dòng)化學(xué)報(bào)，2004，30（1）：86-100.

[22]莊福振，羅平，何清，等. 遷移學(xué)習(xí)研究進(jìn)展[J]. 軟件學(xué)報(bào)，2015，26（1）：26-39.

（責(zé)任編輯：孫 娟）

收稿日期：2019-05-14

基金項(xiàng)目：國(guó)家自然科學(xué)基金項(xiàng)目（61650102）;廣西自然科學(xué)基金項(xiàng)目（2018GXNSFBA281086）;廣西高校中青年教師基礎(chǔ)能力提升項(xiàng)目（KY2016YB278）;廣西高?？茖W(xué)計(jì)算與智能信息處理重點(diǎn)實(shí)驗(yàn)室開放項(xiàng)目（GXSCIIP201603）

作者簡(jiǎn)介：陶陽(yáng)明（1987-），男，南寧師范大學(xué)計(jì)算機(jī)與信息工程學(xué)院碩士研究生，研究方向?yàn)槿斯ぶ悄茏灾鲗W(xué)習(xí)算法設(shè)計(jì)。