朱梓涵，陶洋，梁志芳

（重慶郵電大學(xué) 通信與信息工程學(xué)院，重慶 400065）

0 引言

隨著工業(yè)的高速發(fā)展，環(huán)境問(wèn)題日益突出。空氣污染問(wèn)題不僅直接危害人體健康，還對(duì)生活環(huán)境造成了嚴(yán)重影響。電子鼻是一種模仿動(dòng)物嗅覺(jué)器官的傳感器設(shè)備，能夠快速并準(zhǔn)確地識(shí)別出各種氣體[1]。

電子鼻主要由氣體識(shí)別算法、信號(hào)處理模塊和傳感器陣列組成[2]。氣體識(shí)別算法是電子鼻系統(tǒng)中的關(guān)鍵組成部分，能夠從軟件層面上提升電子鼻的識(shí)別效果。

目前的研究者使用了不同的方法提高氣體識(shí)別算法的精度。Akbar等[3]通過(guò)特征降維提升氣體識(shí)別的準(zhǔn)確率，但這可能導(dǎo)致特征信息丟失而影響最終效果。Fan等[4]則采用無(wú)監(jiān)督學(xué)習(xí)的方式進(jìn)行氣體聚類分析提高了氣體分類時(shí)的精度，但這種方式要求提取高質(zhì)量的特征。Wijaya[5]運(yùn)用信息論對(duì)傳感器陣列進(jìn)行特征選擇，以優(yōu)化氣體識(shí)別算法，但增加了特征提取和選擇的工作量和復(fù)雜度。李鵬等[6]直接使用一維卷積神經(jīng)網(wǎng)絡(luò) (One Dimensional Convolutional Neural Network,1DCNN)對(duì)氣體進(jìn)行識(shí)別并確定氣體種類。而LE B T等人[7]指出了直接使用CNN 網(wǎng)絡(luò)進(jìn)行分類或預(yù)測(cè)的缺陷，因此他們采用了混合模型來(lái)預(yù)測(cè)目標(biāo)，但這種模型面對(duì)大量樣本數(shù)據(jù)時(shí)，會(huì)導(dǎo)致訓(xùn)練速度緩慢和計(jì)算機(jī)內(nèi)存占用較高。

針對(duì)電子鼻的氣體濃度預(yù)測(cè)中的問(wèn)題，本文提出一種基于在線序列極限學(xué)習(xí)機(jī)(Online Sequential-Extreme Learning Machine,OS-ELM)的氣體濃度預(yù)測(cè)方法。OSELM 不僅具有ELM 模型計(jì)算速度快、泛化能力強(qiáng)的特點(diǎn)[8]，而且還采用了在線式增量學(xué)習(xí)策略[9]。但OSELM 的輸入權(quán)重和隱層偏置是隨機(jī)生成的，這會(huì)影響預(yù)測(cè)精度。為了克服這一缺點(diǎn)，本文提出一種改進(jìn)的粒子群算法，該算法能夠有效地搜索OS-ELM 全局最優(yōu)參數(shù)，從而進(jìn)一步提高模型濃度預(yù)測(cè)精度。此外，本文還使用1DCNN 模型對(duì)氣體信號(hào)進(jìn)行特征提取，挖掘了氣體信號(hào)的深度特征。

1 模型構(gòu)建

1.1 1DCNN 特征提取網(wǎng)絡(luò)

本文提出的1DCNN 網(wǎng)絡(luò)包含有輸入層、卷積層、池化層和全連接層，具體結(jié)構(gòu)如圖1 所示。

圖1 1DCNN 結(jié)構(gòu)

此外網(wǎng)絡(luò)還含有4 個(gè)BN 規(guī)范層、1 個(gè)展平層、1 個(gè)隨機(jī)丟棄層以保證網(wǎng)絡(luò)的魯棒性。在模型訓(xùn)練階段需要提升1DCNN 網(wǎng)絡(luò)特征提取效果，因此需要通過(guò)計(jì)算模型的均方差誤差損失對(duì)模型進(jìn)行優(yōu)化。

1.2 ICMA-PSO-OS-ELM 預(yù)測(cè)模型

ELM 類型的模型的不足之處則是輸入權(quán)重值和隱層偏置是隨機(jī)確定的，因此增加了預(yù)測(cè)結(jié)果的不確定性。針對(duì)粒子群算法(Particle Swarm Optimization,PSO)[10]慣性權(quán)重和學(xué)習(xí)因子固定的缺陷進(jìn)行改進(jìn)，保證粒子群算法收斂速度快、實(shí)現(xiàn)簡(jiǎn)單的基礎(chǔ)上，改善粒子群算法的搜索能力，使其更容易得到目標(biāo)全局最優(yōu)解。因此在傳統(tǒng)PSO 算法基礎(chǔ)上，將慣性權(quán)重因子ω與學(xué)習(xí)因子c1、c2進(jìn)行調(diào)整[11]，以實(shí)現(xiàn)算法前期全局搜索能力強(qiáng)、后期局部搜索能力強(qiáng)的特性，同時(shí)將粒子群的整個(gè)種群拆分為多個(gè)子種群，將每個(gè)子種群的輸出結(jié)果進(jìn)行集成，得到所有粒子歷史中的最優(yōu)解，通過(guò)這種方式提高粒子多樣性，從而提高粒子群算法的全局搜索能力。

PSO 算法中的慣性權(quán)重因子ω在趨于1時(shí)，全局搜索能力較強(qiáng)，適合算法前期的全局搜索；而慣性權(quán)重在趨近于0 時(shí)則提高了算法的局部搜索能力，降低了全局搜索能力，適合算法后期的局部搜索[12]。同時(shí)PSO 算法中的個(gè)體學(xué)習(xí)因子c1和社會(huì)學(xué)習(xí)因子c2也會(huì)影響粒子群的搜索能力。

為了能夠在算法前期維持較高的慣性權(quán)重因子，后期取盡量小的慣性權(quán)重因子，需要將權(quán)重因子設(shè)為變量[13]。王生亮等人提出一種基于神經(jīng)網(wǎng)絡(luò)中Sigmoid 函數(shù)的慣性權(quán)重下降策略，Sigmoid 函數(shù)是呈現(xiàn)“S”型單調(diào)曲線函數(shù)，該函數(shù)在前期和后期變化趨勢(shì)平緩，并且實(shí)現(xiàn)取值前期和后期的快速變換[14]。將函數(shù)進(jìn)行翻轉(zhuǎn)后，可以變成一個(gè)單調(diào)遞減的函數(shù):

式中，ωmax為預(yù)定的慣性權(quán)重最大值，ωmin為預(yù)定的慣性權(quán)重最小值，b表示調(diào)整系數(shù)，k(·)為迭代函數(shù)，T表示最大迭代次數(shù)。這種方式對(duì)粒子群算法有明顯的提升，但函數(shù)在迭代過(guò)程中，可能會(huì)因?yàn)閿?shù)據(jù)抖動(dòng)對(duì)最終結(jié)果造成影響，因此本文提出一種基于滑動(dòng)平均值的Sigmoid函數(shù)慣性權(quán)重因子下降策略，能夠消除數(shù)據(jù)抖動(dòng)帶來(lái)的影響，同時(shí)使慣性權(quán)重因子自適應(yīng)下降。首先對(duì)慣性權(quán)重因子的滑動(dòng)均值定義如下：

其中，m為滑動(dòng)的窗口大小。規(guī)定了慣性權(quán)重因子的滑動(dòng)均值的初值取ωmax，以及迭代輪次小于等于滑動(dòng)均值窗口大小時(shí)的取值和迭代次數(shù)大于窗口大小的取值。因此對(duì)慣性權(quán)重因子下降函數(shù)定義如下：

其中，β是函數(shù)的下降控制參數(shù)，β∈[0.2,0.4]。通過(guò)上述對(duì)函數(shù)的定義，實(shí)現(xiàn)了一種呈現(xiàn)“S”型下降趨勢(shì)且下降曲線平滑的慣性權(quán)重下降策略。

另一方面，學(xué)習(xí)因子也會(huì)影響算法的搜索能力。粒子群算法在前期主要靠個(gè)體學(xué)習(xí)因子，后期則靠社會(huì)學(xué)習(xí)因子，如果學(xué)習(xí)因子的取值隨慣性權(quán)重同步變換，則能夠進(jìn)一步地優(yōu)化粒子群算法，因此對(duì)學(xué)習(xí)因子定義為：

其中，cmin為學(xué)習(xí)因子可取的最小值，cmax為學(xué)習(xí)因子能夠取的最大值。個(gè)體學(xué)習(xí)因子c1整體呈現(xiàn)單調(diào)下降趨勢(shì)，社會(huì)學(xué)習(xí)因子c2則呈現(xiàn)單調(diào)遞增的趨勢(shì)。根據(jù)以上定義的公式確定了慣性權(quán)重因子和學(xué)習(xí)因子，那么可以確定粒子群每個(gè)粒子速度和位置：

同時(shí)，為了增加粒子的多樣性，將上述算法結(jié)合粒子群集成協(xié)同[15]思想，將粒子群看作一個(gè)種群，并把整個(gè)種群分為多個(gè)子種群，每個(gè)子種群分別計(jì)算出子種群的最優(yōu)值，再將這些子種群最優(yōu)值形成集合，通過(guò)比較集合中的值可以得到所有粒子歷史中的最優(yōu)解。

將ICMA-PSO 算法引入到OS-ELM中，通過(guò)搜索算法找到輸入權(quán)重和隱層偏置的全局最優(yōu)解。模型初始訓(xùn)練時(shí)的準(zhǔn)確度作為目標(biāo)函數(shù)進(jìn)行搜索，從而得到最優(yōu)的輸入權(quán)重和隱層偏置，在后期的在線學(xué)習(xí)階段均采用最優(yōu)參數(shù)進(jìn)行訓(xùn)練。具體算法流程圖如圖2 所示，ICMA-PSO-OS-ELM 算法步驟如下：

圖2 ICMA-PSO-OS-ELM 算法流程圖

(1)對(duì)OS-ELM 模型和ICMA-PSO 算法中的參數(shù)進(jìn)行初始化。

(2)將OS-ELM 模型的輸入權(quán)重和隱含層偏置設(shè)置為ICMA-PSO 算法的搜索參數(shù)。

(3)利用初始數(shù)據(jù)樣本經(jīng)1DCNN 特征提取后對(duì)模型進(jìn)行初始訓(xùn)練，構(gòu)成ELM 模型，并使用評(píng)價(jià)函數(shù)作為ICMA-PSO 算法中的目標(biāo)函數(shù)。

(4)按照ICMA-PSO 算法中的慣性權(quán)重因子ω下降策略進(jìn)行更新，同時(shí)按照同步更新策略更新c1和c2。

(5)更新粒子的當(dāng)前速度和位置，并根據(jù)當(dāng)前目標(biāo)函數(shù)的取值與粒子歷史最優(yōu)和全局最優(yōu)解進(jìn)行比較，判斷是否更新和

(6)達(dá)到迭代上限后退出算法，輸出全局最優(yōu)慣性權(quán)重因子和學(xué)習(xí)因子。

(7)利用最優(yōu)參數(shù)構(gòu)建OS-ELM 模型，并利用不同批次的訓(xùn)練樣本經(jīng)1DCNN 特征提取后進(jìn)行多次訓(xùn)練得到最終模型。

(8)向最終模型中輸入預(yù)測(cè)數(shù)據(jù)集，輸出結(jié)果。

2 實(shí)驗(yàn)仿真與結(jié)果分析

2.1 實(shí)驗(yàn)數(shù)據(jù)介紹

本文實(shí)驗(yàn)所采用的數(shù)據(jù)集來(lái)源于加州大學(xué)歐文分校的機(jī)器學(xué)習(xí)數(shù)據(jù)集庫(kù)。數(shù)據(jù)集包含兩種混合氣體下16 個(gè)氣體傳感器所組成的電子鼻測(cè)量數(shù)據(jù)[16]。其中包含兩個(gè)數(shù)據(jù)集，一個(gè)是一氧化碳和乙烯組成的混合氣體數(shù)據(jù)集，另一個(gè)是乙烯和甲烷組成的混合氣體數(shù)據(jù)集。其中一氧化碳的濃度范圍是0～533.33 ppm,甲烷的濃度范圍0～290 ppm，乙烯濃度為0～18.33 ppm。這些數(shù)據(jù)反映了傳感器陣列在不同環(huán)境下的混合氣體情況，可以用于電子鼻氣體分類和預(yù)測(cè)算法的研究。

2.2 實(shí)驗(yàn)設(shè)計(jì)與仿真

本數(shù)據(jù)集的數(shù)據(jù)量巨大，但相似數(shù)據(jù)較多，因此對(duì)原始數(shù)據(jù)集進(jìn)行均勻采樣，構(gòu)成數(shù)據(jù)量為10 000 的數(shù)據(jù)集。由于部分傳感器的反應(yīng)值較大，不利于模型的訓(xùn)練，因此需要先對(duì)數(shù)據(jù)集進(jìn)行歸一化處理。選擇一半的數(shù)據(jù)作為測(cè)試集，選擇數(shù)據(jù)量3 000 的數(shù)據(jù)作為初始訓(xùn)練集，剩余的2 000 數(shù)據(jù)作為在線訓(xùn)練時(shí)的訓(xùn)練集。在對(duì)1DCNN 模型的初始階段優(yōu)化時(shí)，優(yōu)化算法設(shè)置為Adam，學(xué)習(xí)率設(shè)置為0.001，迭代周期數(shù)為200，一批量的樣本大小300，優(yōu)化完成后輸入初始訓(xùn)練集提取特征后輸入到預(yù)測(cè)器當(dāng)中進(jìn)行預(yù)測(cè)任務(wù)。初始化訓(xùn)練時(shí)，利用ICMA-PSO 算法對(duì)OS-ELM 模型參數(shù)進(jìn)行優(yōu)化，對(duì)算法的粒子數(shù)取50，搜索輪數(shù)設(shè)置為50。在模型的在線訓(xùn)練階段，將訓(xùn)練集切片為大小為500 的子集進(jìn)行4 次在線訓(xùn)練，完成后輸入在線訓(xùn)練期間的樣本提取特征并開(kāi)始預(yù)測(cè)任務(wù)，由于混合氣體中同時(shí)含有兩種氣體成分，因此需要對(duì)兩種成分同時(shí)進(jìn)行預(yù)測(cè)得出結(jié)果。

為了進(jìn)一步證明本文提出的算法的優(yōu)勢(shì)，本文采用BP 神經(jīng)網(wǎng)絡(luò)、OS-ELM、1DCNN-OS-ELM、1DCNN-PSOOS-ELM 作為對(duì)比實(shí)驗(yàn)組，設(shè)置BP 網(wǎng)絡(luò)和ELM 隱含層節(jié)點(diǎn)均為128。通過(guò)幾種對(duì)比實(shí)驗(yàn)?zāi)Ｐ秃捅疚奶岢龅哪Ｐ蛯?duì)混合氣體的濃度進(jìn)行預(yù)測(cè)。

各模型的評(píng)價(jià)結(jié)果由平均絕對(duì)誤差(MAE)、均方誤差(RMSE)以及判定系數(shù)(R2)進(jìn)行衡量。實(shí)驗(yàn)結(jié)果采用多次實(shí)驗(yàn)后取平均值。

2.3 實(shí)驗(yàn)結(jié)果分析

表1 列出一氧化碳和乙烯的混合氣體、甲烷和乙烯的混合氣體中不同模型對(duì)這兩種氣體的預(yù)測(cè)結(jié)果。其中，一氧化碳和乙烯混合氣體中的乙烯氣體記為乙烯-1，甲烷和乙烯混合氣體中的乙烯氣體記為乙烯-2。通過(guò)多次仿真實(shí)驗(yàn)，取平均值作為最終結(jié)果。本文提出的1DCNN 與ICMA-PSO-OS-ELM 混合模型預(yù)測(cè)濃度得到的R2值最高，同時(shí)MAE 和RMSE均為最低值，乙烯-1 的預(yù)測(cè)R2值達(dá)到了0.993 以上，對(duì)于濃度范圍較大的一氧化碳，R2值也達(dá)到了0.964 以上。而和乙烯的混合氣體中的濃度預(yù)測(cè)中，甲烷的R2值達(dá)到0.974 以上，乙烯-2的R2值也在0.998以上。

表1 不同氣體下各算法濃度預(yù)測(cè)效果

為了更加直觀地觀察每種算法在預(yù)測(cè)時(shí)與實(shí)際的值差異，分別作出兩種混合氣體下的每種氣體的濃度預(yù)測(cè)效果曲線圖如圖3～圖6 所示。

圖3 一氧化碳預(yù)測(cè)結(jié)果

圖4 乙烯-1 預(yù)測(cè)結(jié)果

圖6 乙烯-2 預(yù)測(cè)結(jié)果

3 結(jié)論

本文針對(duì)電子鼻進(jìn)行氣體濃度檢測(cè)時(shí)的精度問(wèn)題，提出一種1DCNN 與ICMA-PSO-OS-ELM 的混合模型，1DCNN 網(wǎng)絡(luò)對(duì)原始信號(hào)進(jìn)行特征提取以減少信號(hào)特征選擇與提取期間工作并提升預(yù)測(cè)精度，通過(guò)OS-ELM 的在線學(xué)習(xí)機(jī)制減少訓(xùn)練時(shí)間，并對(duì)PSO 算法進(jìn)行改進(jìn)，進(jìn)一步提升預(yù)測(cè)時(shí)的精度。將該算法與BP 神經(jīng)網(wǎng)絡(luò)、OS-ELM、1DCNN-OS-ELM、1DCNN-PSO-OS-ELM 算法進(jìn)行對(duì)比實(shí)驗(yàn)，根據(jù)實(shí)驗(yàn)結(jié)果表明，本文提出的算法在混合氣體的濃度預(yù)測(cè)中無(wú)論是濃度范圍較大還是較小的氣體都可以取得較好的預(yù)測(cè)結(jié)果。但針對(duì)數(shù)據(jù)樣本少的場(chǎng)景時(shí)，算法性能會(huì)受到一定的影響，因此電子鼻小樣本氣體濃度檢測(cè)將是后期的研究重點(diǎn)。