邢凌宇，王巧云，楊磊，尹翔宇

(東北大學(xué)信息科學(xué)與工程學(xué)院，沈陽 110819)

1 引言

拉曼光譜分析作為一種研究物質(zhì)分子振動及轉(zhuǎn)動信息的非彈性散射光譜分析技術(shù)[1-2]，由于其無損、分辨率高、快速實(shí)時、樣本無需前處理、可用于痕量分析等優(yōu)勢及光譜特征峰清晰尖銳不易重疊、水分子拉曼光譜信號極其微弱等特點(diǎn)[3]，使得拉曼光譜分析技術(shù)成為化學(xué)成分檢測的研究熱點(diǎn)之一。

定量回歸的方法分為線性和非線性，其中線性回歸包括多元線性回歸、主成分回歸和偏最小二乘回歸等；非線性回歸包括人工神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)和極限學(xué)習(xí)機(jī)等。李水芳[4]采用線性偏最小二乘回歸建模無損測定果糖和葡萄糖含量，羅韜[5]使用支持向量機(jī)對葡萄酒的主要風(fēng)味成分進(jìn)行快速定量分析，鄭念祖[6]采用粒子群優(yōu)化的人工神經(jīng)網(wǎng)絡(luò)預(yù)測酒精濃度。但是，偏最小二乘難應(yīng)用于非線性問題求解；支持向量機(jī)模型復(fù)雜、計(jì)算量大；人工神經(jīng)網(wǎng)絡(luò)訓(xùn)練速度慢且易陷入局部收斂。而極限學(xué)習(xí)機(jī)作為一種新型的單隱含層前饋神經(jīng)網(wǎng)絡(luò)[7-8]，可用于非線性問題的定量回歸，具有泛化能力強(qiáng)、學(xué)習(xí)速度快等優(yōu)勢，由于其參數(shù)直接影響模型的預(yù)測精度，所以需要進(jìn)行合適的設(shè)置及優(yōu)化。

本文以葡萄糖樣本為研究對象[9]，介紹了極限學(xué)習(xí)機(jī)并結(jié)合幾種改進(jìn)算法進(jìn)行比較和選擇，又在其基礎(chǔ)上提出了一種新型的自適應(yīng)差分進(jìn)化人工蜂群算法對極限學(xué)習(xí)機(jī)進(jìn)行參數(shù)優(yōu)化。結(jié)果表明，自適應(yīng)差分進(jìn)化人工蜂群算法優(yōu)化的極限學(xué)習(xí)機(jī)模型具有更高的預(yù)測精確度和更強(qiáng)的模型穩(wěn)健性。

2 樣本制備與理論

2.1 實(shí)驗(yàn)材料及儀器

實(shí)驗(yàn)使用的MultiRAM傅里葉變換拉曼光譜儀由德國Bruker公司生產(chǎn)，配有高性能液氮冷卻的Ge檢測器、標(biāo)準(zhǔn)Nd:YAG(1064 nm)激光器和OPUS 7.0光譜分析軟件程序。葡萄糖標(biāo)準(zhǔn)樣本溶液是經(jīng)商業(yè)渠道購買的葡萄糖經(jīng)不同程度稀釋后得到，配置濃度范圍為0.1～1 g/100 mL。為避免在光譜采集和實(shí)驗(yàn)操作中發(fā)生特性變異，樣本均冷藏保存在4 ℃以下環(huán)境中。實(shí)驗(yàn)前將樣本均分兩份，一份使用安捷倫高效液相色譜儀測量其濃度，一份置于石英透明杯中，用拉曼光譜儀在室溫環(huán)境下測量，設(shè)置光源功率為400 mW，光譜分辨率為6cm-1，掃描速率為10 kHz，掃描范圍為400 ～ 4000 cm-1，對每個樣本重復(fù)采集3次并取平均值作為光譜的原始數(shù)據(jù)，以保證實(shí)驗(yàn)的準(zhǔn)確性和可重復(fù)性。

2.2 人工蜂群算法

人工蜂群算法(Artificial Bee Colony Algorithm，ABC)是模擬自然界中蜂群采蜜行為的一種群體智能算法[10-11]，目的是在解空間中尋找使用適應(yīng)值函數(shù)進(jìn)行衡量的最優(yōu)蜜源，引入采蜜蜂、觀察蜂、偵查蜂三種功能蜂不斷更新。人工蜂群實(shí)質(zhì)是通過蜜蜂個體局部尋優(yōu)行為體現(xiàn)全局尋優(yōu)結(jié)果的尋優(yōu)方式，其簡易流程見圖1。

圖1 人工蜂群算法簡易流程圖

初始設(shè)置蜂群總數(shù)N并根據(jù)式(1)隨機(jī)賦予蜂群D維的蜜源位置：

(1)

迭代更新開始，采蜜蜂首先進(jìn)行尋優(yōu)，一只采蜜蜂隨機(jī)匹配到另一只采蜜蜂，并在其附近根據(jù)式(2)尋優(yōu)并應(yīng)用貪婪準(zhǔn)則更新，設(shè)有懲罰條件。

(2)

其中，i,k∈{1,2，…,N}且i≠k，γ為[-1，1]內(nèi)隨機(jī)數(shù)。其次每只觀察蜂隨機(jī)跟隨到一只采蜜蜂并獲得其位置及適應(yīng)值，更新后的每只觀察蜂隨機(jī)匹配到另一只更新后的觀察蜂，尋優(yōu)更新方式同采蜜蜂且設(shè)有懲罰條件；最后偵查蜂在全局范圍內(nèi)進(jìn)行更新，無懲罰條件。

完成一次更新后判斷是否滿足懲罰條件及是否完成設(shè)定的迭代次數(shù)，記錄當(dāng)前全局最優(yōu)解的位置及適應(yīng)值，若未達(dá)到限定最大迭代次數(shù)則重新進(jìn)行蜂功能分配且進(jìn)入下一次尋優(yōu)。

采蜜蜂和觀察蜂設(shè)有的懲罰條件，即每次尋優(yōu)后若更新的位置未優(yōu)于初始位置，懲罰數(shù)加1；每次迭代情況累加，懲罰數(shù)達(dá)到設(shè)置的懲罰閾值前若得到更優(yōu)位置則懲罰數(shù)置零，若未得到更優(yōu)位置則對該蜂懲罰，即不可逆地轉(zhuǎn)化為偵查蜂繼續(xù)迭代尋優(yōu)，該蜂變更后作為偵查蜂不可向其他功能蜂轉(zhuǎn)化。

2.3 自適應(yīng)差分進(jìn)化

由于人工蜂群算法存在早熟收斂、后期容易陷入局部最優(yōu)且搜索精度不高等問題，其模型及構(gòu)造仍有進(jìn)一步改進(jìn)空間，考慮結(jié)合其它智能算法協(xié)同搜索。差分進(jìn)化(Differential Evolution，DE)是一種基于實(shí)數(shù)編碼和保優(yōu)貪婪策略的特殊遺傳算法[12-13]，通過群體內(nèi)個體合作和競爭產(chǎn)生的智能指導(dǎo)搜索過程。

差分進(jìn)化算法包括變異、交叉、選擇三項(xiàng)操作。變異是將兩隨機(jī)個體做差后再以一定權(quán)重和第三個個體求和，計(jì)算公式見式(3)：

(3)

其中，i,m,n∈{1,2，…,N},且i≠m≠n，V∈[0,1]為變異率用于控制差向量的影響。變異算子的每個基因位的改變?nèi)Q于其它個體間的差值，充分利用了群體中其他個體的信息，擴(kuò)充種群多樣性同時避免單純在個體內(nèi)部進(jìn)行變異帶來的隨機(jī)性和盲目性。

交叉是將經(jīng)變異得到的新個體與初代個體按一定標(biāo)準(zhǔn)融合，計(jì)算公式見式(4)：

(4)

其中，CR∈[0,1]為交叉率。交叉算子看似沒有個體間的信息交互，但由于新個體是經(jīng)差分變異而來，本身保有種群中其它個體的信息，因此變異同樣具備個體間信息交互的機(jī)制。

選擇是將經(jīng)過每一代變異、交叉產(chǎn)生的新種群，運(yùn)用貪婪選擇的方式得到較優(yōu)個體，組成下一代的進(jìn)化群體，計(jì)算公式見式(5)：

(5)

差分進(jìn)化模擬生物進(jìn)化過程，使種群的衍化朝著更優(yōu)的方向前進(jìn)。它在種群尋優(yōu)的過程中利用個體局部信息和群體全局信息指導(dǎo)算法進(jìn)行搜索，充分利用種群繁衍過程中產(chǎn)生的有用信息，具有協(xié)同搜索的特點(diǎn)，搜索能力強(qiáng)；不依賴問題的特征信息，通用性強(qiáng)且控制參數(shù)少、魯棒性強(qiáng)，易于和其它算法有效結(jié)合；但其在保證群體優(yōu)良性同時也存在不足，即容易陷入局部最優(yōu)、對參數(shù)有一定依賴性且難以在有限時間內(nèi)保證搜索，搜索效率有待提高。結(jié)合差分進(jìn)化的人工蜂群算法簡易流程見圖2。

差分進(jìn)化中變異算子和交叉算子的變異率V和交叉率CR是人為根據(jù)經(jīng)驗(yàn)直接給出的特定值，在更新進(jìn)化的過程中保持不變，干涉整體的尋優(yōu)效果，所以考慮對此參數(shù)進(jìn)行調(diào)整，提出自適應(yīng)差分進(jìn)化(Self Adaption Differential Evolution，SADE)理念來減少對此初始固定參數(shù)的依賴，利用當(dāng)前得到適應(yīng)值的全局最優(yōu)值和均值的關(guān)系來調(diào)節(jié)變異率和交叉率，自適應(yīng)調(diào)整公式見式(6)～式(7)：

(6)

(7)

圖2 差分進(jìn)化人工蜂群算法簡易流程圖

自適應(yīng)原理為：當(dāng)目前適應(yīng)值的全局最優(yōu)值與均值相差較大時，變異率及交叉率的數(shù)值隨之減小，使每個解自身的位置隨機(jī)變異的發(fā)生概率減小、使兩組解之間位置信息的互換程度降低，有助于縮小尋優(yōu)過程的步長，盡量保留當(dāng)前最優(yōu)的狀態(tài)；當(dāng)目前適應(yīng)值的全局最優(yōu)值較均值相差較小時，變異率及交叉率的數(shù)值隨之增大，有助于增加尋優(yōu)過程的步長，能夠在全局范圍內(nèi)大概率更新，避免陷入局部最優(yōu)。此改進(jìn)方法能夠在獲得較優(yōu)解時縮小不良進(jìn)化的概率，彌補(bǔ)部分早熟帶來的影響。

2.4 基于優(yōu)化算法的回歸模型

本文采用的定量回歸模型是極限學(xué)習(xí)機(jī)(Extreme Learning Machine，ELM)[16]，一類基于前饋神經(jīng)網(wǎng)絡(luò)構(gòu)建的機(jī)器學(xué)習(xí)系統(tǒng)和方法。傳統(tǒng)ELM具有單隱含層，在學(xué)習(xí)速率和泛化能力方面具有優(yōu)勢，其目的是對反向傳播算法(Backward Probagation，BP)改進(jìn)，以提升學(xué)習(xí)效率低并簡化學(xué)習(xí)參數(shù)的設(shè)定，克服了梯度下降的一些缺點(diǎn)，學(xué)習(xí)效率高，計(jì)算復(fù)雜度低。

ELM的輸入權(quán)值ω和隱含層閾值b是初始隨機(jī)或人為設(shè)置，給定后無需調(diào)整，只需在訓(xùn)練過程中解析得到輸出權(quán)值β。由于ELM的ω和b是隨機(jī)數(shù)，其取值的優(yōu)劣對模型的訓(xùn)練有很大影響，現(xiàn)對傳統(tǒng)ELM進(jìn)行改進(jìn)，結(jié)合幾種常見的優(yōu)化算法建立模型，運(yùn)用MATLAB軟件編程，實(shí)現(xiàn)對樣本的定量回歸。

2.5 實(shí)驗(yàn)的評價指標(biāo)

本文結(jié)合采集到的拉曼光譜數(shù)據(jù)建立定量回歸模型，以決定系數(shù)R2、預(yù)測集均方根誤差RMSEP、訓(xùn)練集均方根誤差RMSEC及相對分析誤差RPD幾個常用指標(biāo)來評價模型性能。其中，R2表征預(yù)測值與真實(shí)值間相關(guān)程度，數(shù)值在0到1之間，越接近1預(yù)測值越接近真實(shí)值，擬合地越精確；RMSEP和RMSEC的值越小，模型的穩(wěn)健性越強(qiáng)；在保證避免過擬合的前提下RPD的值越高，模型精確度越高，回歸模型評價指標(biāo)的計(jì)算公式見式(8)～式(11)。

(8)

(9)

(10)

(11)

3 分析與討論

3.1 樣本分析

實(shí)驗(yàn)使用41組葡萄糖樣本，選取其中30組用于建立訓(xùn)練模型，余下11組用于預(yù)測。根據(jù)樣本特征峰的位置及拉曼信息的分布情況，選取了拉曼位移在800～1800cm-1內(nèi)的波段為實(shí)驗(yàn)波段，樣本的原始拉曼光譜見圖3。

圖3 41組葡萄糖樣本的原始拉曼光譜圖

3.2 定量回歸

對傳統(tǒng)ELM模型進(jìn)行改進(jìn)，對比不同優(yōu)化算法對模型的影響，采用幾種常見的智能算法建立模型，分別得到基于遺傳算法(Genetic Algorithm，GA)的極限學(xué)習(xí)機(jī)(GA_ELM)、基于粒子群算法(Particle Swarm Optimization，PSO)的極限學(xué)習(xí)機(jī)(PSO_ELM)和基于人工蜂群算法(Artificial Bee Colony Algorithm，ABC)的極限學(xué)習(xí)機(jī)(ABC_ELM)模型。三種優(yōu)化模型的收斂情況見圖4～圖6。

圖4 GA_ELM模型適應(yīng)值迭代圖

對三種優(yōu)化方式的回歸模型均做了500次的迭代實(shí)驗(yàn)，通過收斂對比圖和驗(yàn)證實(shí)驗(yàn)可以得出：GA_ELM收斂較緩慢，在迭代過程中波動較明顯、幅度較大，320次迭代后趨于穩(wěn)定；PSO_ELM收斂速度較快，在100次迭代內(nèi)波動較大，在迭代88次后處于穩(wěn)定狀態(tài)；ABC_ELM收斂最快，56次迭代后保持在一個較高的預(yù)測精度上，在三種方式中表現(xiàn)更佳。

圖5 PSO_ELM模型適應(yīng)值迭代圖

圖6 ABC_ELM模型適應(yīng)值迭代圖

基于人工蜂群算法后期容易陷入局部極值的不足，建立了基于差分進(jìn)化人工蜂群算法的極限學(xué)習(xí)機(jī)(DEABC_ELM)和基于自適應(yīng)差分進(jìn)化人工蜂群算法的極限學(xué)習(xí)機(jī)(SADEABC_ELM)。進(jìn)一步優(yōu)化模型的收斂情況見圖7～圖8。

整理以上定量回歸模型的評價指標(biāo)，統(tǒng)計(jì)數(shù)據(jù)見表1。

通過迭代收斂圖和評價指標(biāo)表格可以看出，優(yōu)化算法使極限學(xué)習(xí)機(jī)模型預(yù)測精度提高，其中ABC模型能夠在較少的迭代次數(shù)、較短的運(yùn)行時間內(nèi)獲得較高的預(yù)測精度和模型穩(wěn)健性，在三種優(yōu)化算法中表現(xiàn)突出，更能達(dá)到優(yōu)化的效果。

圖7 DEABC_ELM模型適應(yīng)值迭代圖

圖8 SADEABC_ELM模型適應(yīng)值迭代圖

DEABC_ELM模型的預(yù)測精度提高，但其對參數(shù)的依賴性使收斂速度有所下降；SADEABC_ELM模型對參數(shù)做了自適應(yīng)調(diào)整，在差分進(jìn)化的基礎(chǔ)上提高了收斂速度，其運(yùn)行時間較人工蜂群算法相差不大，同時預(yù)測精度和模型穩(wěn)健性顯著提升。傳統(tǒng)ELM、ABC_ELM、SADEABC_ELM模型的濃度預(yù)測情況見圖9。

表1 定量回歸模型評價指標(biāo)

圖9 a 、b、c分別為ELM、ABC_ELM、SADEABC_ELM模型濃度預(yù)測圖

綜合分析，SADEABC_ELM能夠跳出局部極優(yōu)，減少對固定值參數(shù)的依賴，較其他優(yōu)化算法模型收斂速度快、預(yù)測精度高且搜索具有全局性及較強(qiáng)穩(wěn)健性，能夠更精確地預(yù)測葡萄糖溶液濃度。

4 結(jié)論

本文對41組用拉曼光譜法測量的葡萄糖樣本進(jìn)行研究，結(jié)合遺傳算法、粒子群算法、人工蜂群算法等優(yōu)化算法對極限學(xué)習(xí)機(jī)進(jìn)行改進(jìn)，分析模型評價指標(biāo)和迭代收斂圖得出，人工蜂群算法在三者中表現(xiàn)突出；又利用個體局部信息和群體全局信息指導(dǎo)的思想，結(jié)合差分進(jìn)化對人工蜂群算法進(jìn)一步更新?lián)駜?yōu)提高預(yù)測能力，針對其對固定參數(shù)依賴性大的缺點(diǎn)對變異率和交叉率做了自適應(yīng)調(diào)整，提出一種基于人工蜂群結(jié)合自適應(yīng)的差分進(jìn)化算法的極限學(xué)習(xí)機(jī)模型應(yīng)用于葡萄糖濃度的定量分析。實(shí)驗(yàn)表明，SADEABC_ELM模型評價指標(biāo)和收斂速度較優(yōu)，預(yù)測精確度和模型穩(wěn)健性顯著提升，對極限學(xué)習(xí)機(jī)模型進(jìn)行優(yōu)化能夠提高定量回歸的精度。