熊 偉 麗，　李 妍 君，　姚 　 樂(lè)，　徐 保 國(guó)

( 1.江南大學(xué) 輕工過(guò)程先進(jìn)控制教育部重點(diǎn)實(shí)驗(yàn)室， 江蘇 無(wú)錫　214122；

2.江南大學(xué) 物聯(lián)網(wǎng)工程學(xué)院 自動(dòng)化研究所， 江蘇 無(wú)錫　214122 )

?

一種動(dòng)態(tài)校正的AGMM-GPR多模型軟測(cè)量建模方法

熊 偉 麗*1,2，李 妍 君2，姚 樂(lè)2，徐 保 國(guó)2

( 1.江南大學(xué) 輕工過(guò)程先進(jìn)控制教育部重點(diǎn)實(shí)驗(yàn)室， 江蘇 無(wú)錫214122；

2.江南大學(xué) 物聯(lián)網(wǎng)工程學(xué)院 自動(dòng)化研究所， 江蘇 無(wú)錫214122 )

摘要：工業(yè)過(guò)程常常是強(qiáng)非線性的，并有多個(gè)工況，傳統(tǒng)的軟測(cè)量方法存在預(yù)測(cè)能力差，不能有效利用誤差信息等缺點(diǎn)．為了有效解決這些問(wèn)題，提出一種基于自適應(yīng)高斯混合模型-高斯過(guò)程回歸(AGMM-GPR)的多模型動(dòng)態(tài)校正軟測(cè)量建模方法．首先，通過(guò)貝葉斯信息準(zhǔn)則構(gòu)建自適應(yīng)高斯混合模型(AGMM)，得到優(yōu)化的子模型個(gè)數(shù)；然后，利用GPR方法建立各局部模型，當(dāng)新的數(shù)據(jù)到來(lái)時(shí)，將其隸屬于各局部模型的后驗(yàn)概率和預(yù)測(cè)值融合得到多模型輸出；最后，為了進(jìn)一步提高模型的精度，構(gòu)建自回歸積分滑動(dòng)平均(ARIMA)模型對(duì)多模型輸出進(jìn)行動(dòng)態(tài)反饋校正．通過(guò)數(shù)值仿真和硫回收裝置(SRU)中H2S濃度的估計(jì)，驗(yàn)證了所提方法具有良好的預(yù)測(cè)精度和泛化性能．

關(guān)鍵詞：自適應(yīng)；多模型；動(dòng)態(tài)校正；高斯過(guò)程回歸；ARIMA模型

0引言

隨著軟測(cè)量技術(shù)的發(fā)展，在機(jī)理模型難以建立的時(shí)候，基于數(shù)據(jù)驅(qū)動(dòng)的建模方法已成功地應(yīng)用于實(shí)際的工業(yè)過(guò)程中并發(fā)揮著重大作用[1-3]．常見的方法有最小二乘支持向量機(jī)[4]、神經(jīng)網(wǎng)絡(luò)[5]、偏最小二乘法[6]等．近年來(lái)，高斯過(guò)程回歸方法由于其輸出具有概率意義、精度高和靈活等優(yōu)點(diǎn)，被廣泛用于軟測(cè)量建模研究領(lǐng)域[7-8]．對(duì)于實(shí)際工業(yè)過(guò)程的高維度和大樣本數(shù)據(jù)，采取傳統(tǒng)的單模型方法建模往往訓(xùn)練時(shí)間較長(zhǎng)，其泛化性能和精度較低，對(duì)具有多工況的對(duì)象特性及擾動(dòng)特性擬合不佳．因此眾多研究者將數(shù)據(jù)驅(qū)動(dòng)和多模型建模的思想應(yīng)用于軟測(cè)量建模中[9-10]．

一般情況下，多模型軟測(cè)量建模方法是采用某種規(guī)則對(duì)需要分析的數(shù)據(jù)進(jìn)行聚類，然后建立局部回歸模型，最后再進(jìn)行融合得到全局模型．聚類分析時(shí)，聚類結(jié)果的好壞對(duì)軟測(cè)量的輸出有著很大的影響．在聚類方法的研究中，采用K-means、核模糊等方法進(jìn)行聚類分析時(shí)，需要明確知道聚類個(gè)數(shù)，有時(shí)聚類的效果不理想．如何確定一個(gè)“準(zhǔn)確”的聚類個(gè)數(shù)去改善聚類效果，一直以來(lái)是研究的熱點(diǎn)[11-12]．

通過(guò)將各個(gè)子模型的輸出進(jìn)行加權(quán)得到全局模型的輸出，綜合考慮了樣本的局部特性，提高了模型的魯棒性．但在多模型軟測(cè)量建模方法中，傳統(tǒng)方法不能有效利用誤差信息，造成模型精度下降，泛化性能不高．因此，在模型動(dòng)態(tài)性能的改善上，杜文莉等[13]將ARMA模型用于乙烯精餾過(guò)程乙烷濃度的時(shí)序補(bǔ)償，提高了預(yù)測(cè)精度．王振雷等[14]提出了一種基于D-S理論和ARIMA建模的動(dòng)態(tài)最小二乘支持向量機(jī)的建模方法，用于酯化過(guò)程酯化率軟測(cè)量中對(duì)靜態(tài)多模型輸出進(jìn)行動(dòng)態(tài)校正，得到更加精確的估計(jì)結(jié)果．

本文結(jié)合多模型和模型校正的思想，提出一種基于自適應(yīng)高斯混合模型(adaptive Gaussian mixture model,AGMM)和高斯過(guò)程回歸(Gaussian process regression,GPR)的多模型動(dòng)態(tài)校正軟測(cè)量方法．先利用貝葉斯信息準(zhǔn)則確定樣本特征空間的最佳高斯成分個(gè)數(shù)，構(gòu)建AGMM，自適應(yīng)地確定聚類數(shù)目，然后利用GPR方法建立局部模型．當(dāng)新的數(shù)據(jù)到來(lái)時(shí)，用每個(gè)局部模型進(jìn)行預(yù)測(cè)輸出,同時(shí)計(jì)算新數(shù)據(jù)隸屬于每個(gè)子模型的后驗(yàn)概率，最后對(duì)子模型的輸出進(jìn)行融合，得到全局輸出．為進(jìn)一步提高模型的精度，在此基礎(chǔ)上，采用自回歸積分滑動(dòng)平均(autoregressive integrated moving average,ARIMA)模型對(duì)多模型輸出進(jìn)行動(dòng)態(tài)反饋補(bǔ)償．通過(guò)硫回收裝置(SRU)中H2S濃度的軟測(cè)量仿真，驗(yàn)證所提方法的精度和外推能力．

1基于AGMM-GPR的多模型建模

1.1GMM原理及參數(shù)估計(jì)

高斯混合模型[15]在用于數(shù)據(jù)聚類分析時(shí)，主要思想是樣本空間的數(shù)據(jù)分布可以利用多個(gè)獨(dú)立同分布的高斯成分進(jìn)行混合．對(duì)多個(gè)高斯成分賦予不同的權(quán)重，GMM可以表示為式(1)K個(gè)高斯成分的加權(quán)和，其中p(x,ΘGMM)為混合模型的概率密度，aj為第j個(gè)高斯成分所占的權(quán)重．

(1)

高斯成分密度函數(shù)N(x|θj)表達(dá)式如式(2)所示，其中θj=(μjΣj)為第j個(gè)高斯成分的參數(shù)．樣本x∈RD，μ為D維均值向量，Σ為D×D維正定協(xié)方差矩陣．

(2)

混合參數(shù)ΘGMM=(a1…aKθ1…θK)，若求解出來(lái)，就能對(duì)樣本進(jìn)行聚類分析．本文采用EM算法[16]迭代求解GMM的參數(shù)集．在某些觀測(cè)數(shù)據(jù)缺失的情況下，EM算法能夠在貝葉斯框架的后驗(yàn)分布模式下反復(fù)迭代計(jì)算出密度函數(shù)的極大似然估計(jì)，似然函數(shù)記為式(3),算法的迭代主要包括兩個(gè)步驟．

E-step：

關(guān)于未知的參數(shù)變量，通過(guò)參數(shù)的當(dāng)前估計(jì)和關(guān)于觀測(cè)樣本的條件參數(shù)估計(jì)建立一個(gè)Q函數(shù)(式(4))來(lái)求取樣本極大似然函數(shù)的期望．

(3)

(4)

M-step：

對(duì)建立的Q函數(shù)，通過(guò)式(5)最大化步驟反復(fù)迭代新的參數(shù)估計(jì)值，直到參數(shù)收斂．迭代后的GMM參數(shù)如式(6)所示．

(5)

(6)

第i個(gè)樣本對(duì)應(yīng)于第j個(gè)高斯成分的后驗(yàn)概率λj(xi)可由下式計(jì)算：

(7)

1.2GMM高斯成分個(gè)數(shù)的BIC優(yōu)化

傳統(tǒng)的GMM進(jìn)行聚類時(shí)，需要通過(guò)經(jīng)驗(yàn)事先確定高斯成分個(gè)數(shù)，當(dāng)工況階段特征不明顯時(shí)，無(wú)法實(shí)現(xiàn)樣本空間的自適應(yīng)擬合．在對(duì)樣本特征了解不充分的情況下，K值太大，會(huì)造成模型的過(guò)擬合問(wèn)題；反之，K值太小，則不能夠充分解釋樣本信息．兩種結(jié)果皆造成模型精度的下降．

對(duì)于GMM模型聚類優(yōu)化問(wèn)題，以選擇合適高斯成分個(gè)數(shù)來(lái)擬合樣本空間特征為出發(fā)點(diǎn)，本文采用貝葉斯信息準(zhǔn)則[17](Bayesian information criterion，BIC)來(lái)優(yōu)化GMM的有限混合高斯成分個(gè)數(shù)．

L是式(3)所示GMM的似然函數(shù)，M為混合模型參數(shù)的個(gè)數(shù)，n為訓(xùn)練樣本個(gè)數(shù)，K指選擇的混合的高斯成分個(gè)數(shù)，由于K過(guò)大或者過(guò)小會(huì)分別造成模型的過(guò)擬合與欠擬合，當(dāng)混合模型分布進(jìn)入穩(wěn)態(tài)時(shí)，BIC值越小，模型擬合程度越好．BIC指標(biāo)計(jì)算公式為

(8)

1.3GPR子模型的建立

在采用1.2節(jié)AGMM方法實(shí)現(xiàn)對(duì)樣本特征的自適應(yīng)聚類后，本文采用GPR方法建立子模型．GPR是一種基于統(tǒng)計(jì)學(xué)習(xí)理論的非參數(shù)概率模型，適合處理復(fù)雜的高維數(shù)、小樣本及非線性問(wèn)題，近年來(lái)，在機(jī)器學(xué)習(xí)領(lǐng)域有著深入的發(fā)展．通過(guò)給定的訓(xùn)練樣本的輸入輸出數(shù)據(jù)得到映射關(guān)系，便可由新的輸入數(shù)據(jù)得到相應(yīng)的預(yù)測(cè)值和不確定程度[18]．

假設(shè)有訓(xùn)練集{x,y}，其中X={xi∈RD},y={yi∈R}，i=1,2,…,n，通常樣本觀測(cè)值yi和噪聲ε滿足式(9)關(guān)系：

(9)

若確定均值函數(shù)m(x)和協(xié)方差函數(shù)k(x,x′)，高斯過(guò)程就能唯一確定．為了方便，通常將均值函數(shù)預(yù)處理為0．協(xié)方差函數(shù)能夠把輸出間的相關(guān)關(guān)系轉(zhuǎn)化為輸入數(shù)據(jù)之間的函數(shù)關(guān)系，由于相近的輸入產(chǎn)生相近的輸出，協(xié)方差函數(shù)的選擇可以根據(jù)樣本分布的特征選取，要符合距離相近的樣本間相關(guān)性大，反之相關(guān)性小的特征．本文選擇的協(xié)方差函數(shù)形式為

(10)

(11)

cov(fgp)=k(x*,x*)-k(X,x*)T·

(12)

2自回歸積分滑動(dòng)平均模型

對(duì)樣本聚類分析及回歸建模后，在擾動(dòng)及誤差影響下，建模精度會(huì)受到很大的影響．為提高模型的估計(jì)性能,模型校正的引入有其必要性，本文采用ARIMA模型對(duì)輸出時(shí)序誤差進(jìn)行動(dòng)態(tài)校正．

2.1ARIMA模型簡(jiǎn)述

ARIMA模型[19]是一類用于時(shí)間序列分析的參數(shù)模型，通過(guò)搜集某一待預(yù)測(cè)變量的歷史觀測(cè)數(shù)據(jù)來(lái)產(chǎn)生一個(gè)描述其潛在關(guān)系的模型．此模型中，變量的將來(lái)值被認(rèn)為是歷史觀測(cè)數(shù)據(jù)和隨機(jī)誤差的線性函數(shù)，也就是說(shuō)，產(chǎn)生時(shí)間序列的潛在過(guò)程有如下形式：

yt=θ0+φ1yt-1+φ2yt-2+…+φpyt-p+

εt-θ1εt-1-θ2εt-2-…-θqεt-q

(13)

式中：yt與εt分別是在t時(shí)刻的真實(shí)值和隨機(jī)誤差；φi(i=1,2,…,p)、θj(j=0,1,…,q)為ARIMA 的模型參數(shù)，p、q指模型的階次．隨機(jī)誤差εt獨(dú)立同分布，其均值為0，方差為σ2．

ARIMA模型可以表示一些不同的時(shí)間序列類型，式(13)中如果q=0，則變?yōu)閜階的AR模型；當(dāng)p=0，模型轉(zhuǎn)化為q階的MA模型，否則，表示為ARMA模型．

2.2時(shí)間序列模型定階

建立時(shí)間序列的ARIMA模型，其核心任務(wù)是確定合適的模型階數(shù)．ARIMA模型僅用于平穩(wěn)時(shí)間序列，是否達(dá)到平穩(wěn)條件可用ADF根檢驗(yàn)的方法判斷．若時(shí)間序列不平穩(wěn)，對(duì)樣本序列進(jìn)行差分變換是有效的方法之一．引入滯后算子L，滿足yt·L=yt-1，yt·L2=yt-2，對(duì)待分析的時(shí)間序列進(jìn)行d階差分使其平穩(wěn)化得到如式(14)所示的結(jié)果，式中的d∈N，在這種情況下，得到的模型記為ARIMA(p,d,q)．

(14)

對(duì)平穩(wěn)化時(shí)間序列，通過(guò)檢驗(yàn)ACF和PACF初步得到ARIMA模型的階次范圍，然后利用AIC進(jìn)行模型選擇[20]，采用系統(tǒng)辨識(shí)方法(如最小二乘法)辨識(shí)出模型的參數(shù)，選擇信息量損失最少的模型．衡量每個(gè)模型信息損失量的AIC準(zhǔn)則判斷公式如下：

(15)

式中：logL(θ|y)為每個(gè)模型所對(duì)應(yīng)的對(duì)數(shù)似然函數(shù)，M是每個(gè)模型中獨(dú)立參數(shù)的個(gè)數(shù)，n為時(shí)間序列長(zhǎng)度．

3動(dòng)態(tài)校正的AGMM-GPR建模步驟

本文軟測(cè)量建模方法建模流程如圖1所示．具體建模步驟描述如下：

Step 1 采集軟測(cè)量建模的輸入輸出數(shù)據(jù)，分為訓(xùn)練樣本和測(cè)試樣本，進(jìn)行適當(dāng)?shù)念A(yù)處理．

Step 2 訓(xùn)練樣本采用AGMM聚類，通過(guò)BIC選取合適的高斯成分個(gè)數(shù)K．

(16)

Step 5 對(duì)多模型的輸出進(jìn)行校正，得到模型的時(shí)序誤差序列Δy=ypre-ytrue,ytrue為主導(dǎo)變量的人工分析值，ypre為多模型融合估計(jì)值．判斷誤差序列是否滿足平穩(wěn)序列的條件,初始差分次數(shù)d0=0，時(shí)間序列平穩(wěn)時(shí)，選擇AIC指標(biāo)最小的ARIMA(p,d,q),得時(shí)序誤差預(yù)測(cè)值Δypre．否則，進(jìn)行d+1次差分，反復(fù)進(jìn)行單位根檢驗(yàn)直到時(shí)間序列平穩(wěn)為止．

(17)

選擇如式(18)和(19)所示的均方根誤差(erms)和平均絕對(duì)誤差(ema)來(lái)評(píng)價(jià)模型的綜合預(yù)測(cè)能力：

(18)

(19)

圖1　動(dòng)態(tài)校正的AGMM-GPR方法建模圖

4數(shù)值仿真實(shí)驗(yàn)

為驗(yàn)證上述方法的有效性，本文采用文獻(xiàn)[21]中的非線性函數(shù)進(jìn)行數(shù)值仿真實(shí)驗(yàn)：

x2(t+1)=x2(t)cos(x2(t))+

式中：x1(t)、x2(t)為系統(tǒng)狀態(tài)，系統(tǒng)的輸入、輸出和白噪聲分別為u(t)、y(t)、ε(t)．假定系統(tǒng)狀態(tài)不可測(cè)，通過(guò)已知的輸入輸出信息來(lái)預(yù)測(cè)系統(tǒng)的輸出y(t)．?dāng)?shù)值仿真中選擇用于軟測(cè)量建模的輸入為φ(t-1)=(y(t-1)y(t-2)y(t-3)u(t-1)u(t-2)u(t-2))T．以u(píng)(t)∈[-2.5,2.5]的隨機(jī)信號(hào)與ε(t)∈N(0,0.1)的白噪聲作用于系統(tǒng)，得到3 000組時(shí)間序列訓(xùn)練樣本；以測(cè)試信號(hào)u(t)=sin(0.2πt)+sin(0.08πt)作用于系統(tǒng)，得到200組時(shí)間序列測(cè)試樣本．為方便從圖中看到各個(gè)方法的仿真效果，在上述3 000組訓(xùn)練樣本的基礎(chǔ)上，對(duì)原始訓(xùn)練樣本的輸出人為加入均值0.2、方差0.4的高斯噪聲，構(gòu)成新的訓(xùn)練樣本．基于此，分別對(duì)單模型GPR方法、AGMM-GPR的多模型方法以及本文所提的加入動(dòng)態(tài)校正的AGMM-GPR+ARIMA方法進(jìn)行了仿真，擬合指標(biāo)如表1所示．

表1　不同模型的擬合性能

由圖2可知，高斯成分個(gè)數(shù)為10時(shí)，BIC指標(biāo)值基本收斂，即使隨著高斯成分個(gè)數(shù)的增加，未來(lái)有更加低的指標(biāo)值，但是為了防止模型的過(guò)擬合造成精度下降，認(rèn)為K=10是一個(gè)合適的聚類數(shù)目．

由圖3~5所示的仿真結(jié)果可知，單模型建模方法的均方根誤差和平均絕對(duì)誤差依次低于多模型建模方法和經(jīng)過(guò)誤差校正的軟測(cè)量方法，充分反映了自適應(yīng)地選擇聚類個(gè)數(shù)有助于更加準(zhǔn)確地對(duì)樣本局部特性進(jìn)行擬合．圖5結(jié)果表明，基于ARIMA的校正方法能夠追蹤過(guò)程的動(dòng)態(tài)時(shí)序誤差信息．圖6所示的經(jīng)過(guò)模型校正的軟測(cè)量真值與最終估計(jì)值幾乎重合，更加肯定了進(jìn)行多模型輸出誤差補(bǔ)償?shù)挠行裕?/p>

圖2　高斯成分個(gè)數(shù)的BIC優(yōu)化

圖3　GPR單模型仿真結(jié)果

圖4　AGMM-GPR模型仿真結(jié)果

圖5　時(shí)序誤差的ARIMA建模

圖6　本文方法仿真結(jié)果

5硫回收裝置過(guò)程建模

硫回收裝置(sulfur recovery unit，SRU)是精煉廠處理系統(tǒng)的重要環(huán)節(jié)，負(fù)責(zé)對(duì)含硫氣體(如H2S和SO2)的處理，避免其對(duì)環(huán)境造成巨大的危害．SRU擁有4條平行的生產(chǎn)線，都是以兩種酸性氣體為輸入，一種是富含H2S的MEA氣體，另一種是富含SO2和NH3的SWS氣體，具體的反應(yīng)過(guò)程及過(guò)程的變量描述說(shuō)明見文獻(xiàn)[22]．

為驗(yàn)證所提方法對(duì)于SRU過(guò)程建模的可行性，采集過(guò)程的輸入輸出數(shù)據(jù)10 081組用于軟測(cè)量建模研究．本文選擇H2S濃度作為過(guò)程需要估計(jì)的主導(dǎo)變量進(jìn)行實(shí)驗(yàn)．

采集過(guò)程的訓(xùn)練樣本1 680組，采用主成分分析(principal component analysis,PCA)算法對(duì)軟測(cè)量的輸入輔助變量預(yù)處理，以更好地說(shuō)明算法的精度．原始輸入矩陣為Xn×m，n為輸入樣本個(gè)數(shù)，m為樣本特征維數(shù)．通過(guò)計(jì)算輸入樣本的協(xié)方差矩陣特征值，保留使累計(jì)方差貢獻(xiàn)率超過(guò)85%的樣本信息，將原始的高維空間投影到不相關(guān)的低維空間進(jìn)行特征提取．如圖7所示，采用PCA方法提取出3個(gè)主元進(jìn)行軟測(cè)量建模．

特征提取后的得分矩陣不妨記為T，對(duì)它進(jìn)行AGMM聚類分析，貝葉斯信息準(zhǔn)則選擇結(jié)果見圖8，當(dāng)高斯混合模型趨于穩(wěn)態(tài)時(shí)，可以看出，最合適的高斯成分個(gè)數(shù)K是11．在對(duì)AGMM-GPR輸出進(jìn)行校正時(shí)，對(duì)誤差時(shí)間序列建立ARIMA模型，如圖9所示，從仿真結(jié)果來(lái)看，這是一種及時(shí)且有效的反饋校正方式．由圖10可知，8 401組測(cè)試樣本的H2S濃度預(yù)測(cè)值和人工分析值幾乎完全重合，因此大大提高了模型估計(jì)結(jié)果的精度．

為驗(yàn)證引入校正模型的必要性，利用3種建模方法對(duì)該工業(yè)過(guò)程進(jìn)行仿真，仿真結(jié)果如圖11所示．每一種方法的均方根誤差和平均絕對(duì)誤差指標(biāo)如表2所示．由表2可知，單模型和多模型建模對(duì)于8 401組測(cè)試數(shù)據(jù)來(lái)說(shuō)建模精度相差不明顯，經(jīng)過(guò)多模型反饋誤差校正后，均方根誤差為0.016 9．在建模效果對(duì)比分析圖中，由圖11(c)可知，大部分區(qū)域中，多模型的估計(jì)值相對(duì)來(lái)說(shuō)更加集中，逼近真實(shí)的H2S濃度．而單模型估計(jì)值相對(duì)離散，并且局部特性不如多模型擬合得好．如圖11(a)、(b)所示，加入誤差校正后估計(jì)值比未經(jīng)過(guò)校正的單模型和多模型更貼近H2S真值，這是因?yàn)橥ㄟ^(guò)對(duì)時(shí)序誤差進(jìn)行動(dòng)態(tài)跟蹤后，對(duì)軟測(cè)量輸出構(gòu)成了負(fù)反饋．綜上所述，在3種方法的比較中，動(dòng)態(tài)校正的AGMM-GPR方法在對(duì)SRU中H2S濃度的估計(jì)時(shí)，既能夠自適應(yīng)地?cái)M合不同局部工況特性并進(jìn)行概率意義的融合，又將過(guò)程的誤差及擾動(dòng)時(shí)序信息補(bǔ)償至最終輸出，具有良好的精度，顯著地改善了傳統(tǒng)單模型及多模型軟測(cè)量方法的預(yù)測(cè)性能．

圖7　PCA方法特征提取結(jié)果

圖8　硫回收裝置的高斯成分個(gè)數(shù)的BIC優(yōu)化

圖9　硫回收裝置的時(shí)序誤差的ARIMA建模

圖10　H2S濃度估計(jì)結(jié)果

(a) GPR單模型與本文方法對(duì)比

(b) AGMM-GPR模型與本文方法對(duì)比

(c) GPR單模型與AGMM-GPR模型對(duì)比

圖11不同模型預(yù)測(cè)結(jié)果對(duì)比

Fig.11Comparisons of different model prediction results

表2　SRU過(guò)程不同模型的擬合性能

6結(jié)語(yǔ)

復(fù)雜工業(yè)過(guò)程是強(qiáng)非線性的、時(shí)變的且多擾動(dòng)的．對(duì)它進(jìn)行建模時(shí)若采取單模型，要考慮全部樣本信息，往往局部特性匹配不佳且估計(jì)精度較差，故一般采用多模型的方法對(duì)樣本信息按照不同的擾動(dòng)和對(duì)象特性進(jìn)行擬合．為了加強(qiáng)聚類效果，本文對(duì)傳統(tǒng)的GMM混合高斯成分個(gè)數(shù)進(jìn)行了BIC指標(biāo)的優(yōu)化，更加精確地使得樣本按照擾動(dòng)及對(duì)象特性“聚集”到一起．為了進(jìn)一步提高多模型軟測(cè)量方法的精度，本文利用誤差信息的補(bǔ)償作用，結(jié)合ARIMA模型對(duì)時(shí)間序列良好的逼近能力, 對(duì)靜態(tài)條件下得到的AGMM-GPR多模型輸出進(jìn)行動(dòng)態(tài)時(shí)序補(bǔ)償．仿真實(shí)驗(yàn)證明，與傳統(tǒng)的單模型建模方法、多模型建模方法相比，本文提出的軟測(cè)量建模方法把過(guò)程誤差和擾動(dòng)考慮在內(nèi)而進(jìn)行模型校正，顯著提高了估計(jì)的準(zhǔn)確性．以SRU過(guò)程的H2S濃度的軟測(cè)量為例，驗(yàn)證了本文方法的有效性和外推能力，為解決同類問(wèn)題提供了新思路．下一步的研究方向就是增強(qiáng)建模的實(shí)時(shí)性，實(shí)現(xiàn)在線校正和優(yōu)化．

參考文獻(xiàn)：

[1]Kadlec P, Gabrys B, Strandt S. Data-driven soft sensors in the process industry [J]. Computers and Chemical Engineering, 2009, 33(4):795-814.

[2]曹鵬飛,羅雄麟. 化工過(guò)程軟測(cè)量建模方法研究進(jìn)展[J]. 化工學(xué)報(bào), 2013, 64(3):788-800.

CAO Peng-fei, LUO Xiong-lin. Modeling of soft sensor for chemical process [J]. CIESC Journal, 2013, 64(3):788-800. (in Chinese)

[3]YAO Yuan, GAO Fu-rong. Phase and transition based batch process modeling and online monitoring [J]. Journal of Process Control, 2009, 19(5):816-826.

[4]LIU Yi, WANG Hai-qing. Modelling of the penicillin fermentation process via LS-SVM based on pensim simulator [J]. Chemical Reaction Engineering and Technology, 2006, 22(3):252-258.

[5]李大字,劉 方,靳其兵. 自增長(zhǎng)混合神經(jīng)網(wǎng)絡(luò)及其在燃料電池建模中的應(yīng)用[J]. 化工學(xué)報(bào), 2015, 66(1):333-337.

LI Da-zi, LIU Fang, JIN Qi-bing. Self-growing hybrid neural network and its application for fuel cell modeling [J]. CIESC Journal, 2015, 66(1):333-337. (in Chinese)

[6]徐歐官,陳祥華,傅永峰,等. 基于模型性能評(píng)估的遞推PLS建模及應(yīng)用[J]. 化工學(xué)報(bào), 2014, 65(12):4875-4882.

XU Ou-guan, CHEN Xiang-hua, FU Yong-feng,etal. Recursive PLS modeling based on model performance assessment and its application [J]. CIESC Journal, 2014, 65(12):4875-4882. (in Chinese)

[7]LI Xiu-liang, SU Hong-ye, CHU Jian. Multiple model soft sensor based on affinity propagation, Gaussian process and Bayesian committee machine [J]. Chinese Journal of Chemical Engineering, 2009, 17(1):95-99.

[8]何志昆,劉光斌,趙曦晶,等. 高斯過(guò)程回歸方法綜述[J]. 控制與決策, 2013, 28(8):1121-1129,1137.

HE Zhi-kun, LIU Guang-bin, ZHAO Xi-jing,etal. Overview of Gaussian process regression [J]. Control and Decision, 2013, 28(8):1121-1129,1137. (in Chinese)

[9]李 衛(wèi),楊煜普,王 娜. 基于核模糊聚類的多模型LSSVM回歸建模[J]. 控制與決策, 2008, 23(5):560-562,566.

LI Wei, YANG Yu-pu, WANG Na. Multi-model LSSVM regression modeling based on kernel fuzzy clustering [J]. Control and Decision, 2008, 23(5):560-562, 566. (in Chinese)

[10]FENG Rui, ZHANG Yan-zhu, SONG Chun-lin,etal. A multiple model approach to modeling based on fuzzy support vector machines [J]. Journal of Shanghai Jiaotong University, 2003, E-8(2):137-141.

[11]王洋課,費(fèi)樹岷,翟軍勇. 基于聚類的多模型軟測(cè)量建模及其應(yīng)用[J]. 化工自動(dòng)化及儀表, 2010, 37(1):49-52.

WANG Yang-ke, FEI Shu-min, ZHAI Jun-yong. Clustering-based multi-model soft-sensing modeling and its application [J]. Control and Instruments in Chemical Industry, 2010, 37(1):49-52. (in Chinese)

[12]Fujita A, Takahashi D Y, Patriota A G. A non-parametric method to estimate the number of clusters [J]. Computational Statistics and Data Analysis, 2014, 73:27-39.

[13]杜文莉,官振強(qiáng),錢 鋒. 一種基于時(shí)序誤差補(bǔ)償?shù)膭?dòng)態(tài)軟測(cè)量建模方法[J]. 化工學(xué)報(bào), 2010, 61(2):439-443.

DU Wen-li, GUAN Zhen-qiang, QIAN Feng. Dynamic soft sensor modeling based on time series error compensation [J]. CIESC Journal, 2010, 61(2):439-443. (in Chinese)

[14]王振雷,唐 苦,王 昕. 一種基于D-S和ARIMA的多模型軟測(cè)量方法[J]. 控制與決策, 2014, 29(7):1160-1166.

WANG Zhen-lei, TANG Ku, WANG Xin. A multi-model soft sensing method based on D-S and ARIMA model [J]. Control and Decision, 2014, 29(7):1160-1166. (in Chinese)

[15]Bishop C M. Pattern Recognition and Machine Learning [M]. New York:Springer, 2006.

[16]Dempster A P, Laird N M, Rubin D B. Maximum likelihood from incomplete data via the EM algorithm [J]. Journal of the Royal Statistical Society. Series B (Methodological), 1977, 39(1):1-38.

[17]Sadanori Konishi, Genshiro Kitagawa. Information Criteria and Statistical Modeling [M]. New York:Springer, 2007.

[18]Rasmussen C E, Williams C K I. Gaussian Processes for Machine Learning [M]. Cambridge:The MIT Press, 2006.

[19]Hassan J. ARIMA and regression models for prediction of daily and monthly clearness index [J]. Renewable Energy, 2014, 68:421-427.

[20]Akaike Hirotogu. Information theory and an extension of the maximum likelihood principle [C] // Proceeding of the Second International Symposium on Information Theory. Budapest:Akademiai Kiado, 1973:267-281.

[21]曾 靜,王 軍,郭金玉. 基于向量相似度的多模型局部建模方法研究 [J]. 計(jì)算機(jī)應(yīng)用研究, 2012, 29(5):1631-1634.

ZENG Jing, WANG Jun, GUO Jin-yu. Local multi-model method based on similarity of vector [J]. Application Research of Computers, 2012, 29(5):1631-1634. (in Chinese)

[22]Fortuna L, Rizzo A, Sinatra M,etal. Soft analyzers for a sulfur recovery unit [J]. Control Engineering Practice, 2003, 11(12):1491-1500.

A dynamically corrected AGMM-GPR multi-model soft sensor modeling method

XIONGWei-li*1,2,LIYan-jun2,YAOLe2,XUBao-guo2

( 1.Key Laboratory of Advanced Process Control for Light Industry (Ministry of Education), Jiangnan University,Wuxi 214122, China；2. Institute of Automation, School of Internet of Things Engineering, Jiangnan University, Wuxi 214122, China )

Abstract：Industrial processes often encounter strong nonlinearity and multiple operating modes. Traditional soft sensor methods cannot effectively take advantage of error information, which accounts for unsatisfactory predictive results. To effectively address these problems, a dynamically corrected multi-model soft sensor modeling method based on adaptive Gaussian mixture model-Gaussian process regression (AGMM-GPR) is proposed. Firstly, an adaptive Gaussian mixture model is constructed using Bayesian information criterion and optimized sub-model number is obtained. Then, each local model is built through GPR method. For the new data, its posterior probability and prediction value belonging to each local model can be combined to get multi-model output. Finally, to further improve model accuracy, an autoregressive integrated moving average (ARIMA) model is employed to conduct a dynamic feedback correction to multi-model output. Numerical simulation and H2S concentration estimation in sulfur recovery unit (SRU) indicate that the proposed method has good prediction accuracy and generalization performance.

Key words：adaptive; multi-model;dynamic correction; Gaussian process regression; ARIMA model

作者簡(jiǎn)介:熊偉麗*(1978-)，女，博士，教授，E-mail:greenpre@163.com.

基金項(xiàng)目:國(guó)家自然科學(xué)基金資助項(xiàng)目(21206053，21276111)；江蘇省“六大人才高峰”計(jì)劃資助項(xiàng)目(2013-DZXX-043)；江蘇省產(chǎn)學(xué)研資助項(xiàng)目(BY2014023-27)；江蘇高校優(yōu)勢(shì)學(xué)科建設(shè)工程資助項(xiàng)目(PAPD).

收稿日期：2015-10-05；修回日期: 2015-11-25．

中圖分類號(hào)：TP391.9

文獻(xiàn)標(biāo)識(shí)碼：A

doi:10.7511/dllgxb201601012

文章編號(hào)：1000-8608(2016)01-0077-09