王海寧，夏陸岳，周猛飛，朱鵬飛，潘海天

（浙江工業(yè)大學(xué)化學(xué)工程學(xué)院，浙江 杭州 310032）

過程工業(yè)軟測(cè)量中的多模型融合建模方法

王海寧，夏陸岳，周猛飛，朱鵬飛，潘海天

（浙江工業(yè)大學(xué)化學(xué)工程學(xué)院，浙江 杭州 310032）

對(duì)多模型融合建模方法在過程工業(yè)軟測(cè)量中的研究進(jìn)展進(jìn)行了系統(tǒng)總結(jié)。根據(jù)整體模型中子模型的不同，多模型融合建模方法主要可分成數(shù)據(jù)驅(qū)動(dòng)融合建模方法和半?yún)?shù)建模方法。詳細(xì)介紹了數(shù)據(jù)驅(qū)動(dòng)融合建模方法和半?yún)?shù)建模方法的設(shè)計(jì)思想和國(guó)內(nèi)外研究現(xiàn)狀，分析了各類方法的優(yōu)缺點(diǎn)，并提出了相應(yīng)的改進(jìn)方向。根據(jù)過程數(shù)據(jù)處理方法的不同，將數(shù)據(jù)驅(qū)動(dòng)融合建模方法分為集成學(xué)習(xí)和聚類分析。根據(jù)模型結(jié)構(gòu)形式的不同，將半?yún)?shù)建模方法分為串聯(lián)結(jié)構(gòu)和并聯(lián)結(jié)構(gòu)。最后對(duì)多模型融合建模方法的未來研究方向進(jìn)行了展望，期望今后的研究工作能在改進(jìn)數(shù)據(jù)驅(qū)動(dòng)模型融合技術(shù)、提高半?yún)?shù)模型外推能力和解決雙率數(shù)據(jù)問題等方面取得突破性進(jìn)展，并指出采用多模型融合建模方法建立基于多源信息融合的軟測(cè)量模型是實(shí)現(xiàn)過程工業(yè)中難測(cè)變量在線估計(jì)的有效方法。

軟測(cè)量；多模型融合；數(shù)據(jù)驅(qū)動(dòng)融合；半?yún)?shù)；建模

化工、冶金、發(fā)酵等過程工業(yè)中經(jīng)常存在一些無法或難以用在線傳感器測(cè)量的過程變量，而這些變量往往是重要的工藝參數(shù)或質(zhì)量指標(biāo)。為確保過程裝置的生產(chǎn)安全、高效運(yùn)行和獲得更大的經(jīng)濟(jì)效益，必須對(duì)這些重要的過程變量進(jìn)行嚴(yán)格監(jiān)控，因此過程工業(yè)中質(zhì)量控制的首要難題是如何實(shí)現(xiàn)這些難測(cè)變量的在線估計(jì)[1]。

軟測(cè)量技術(shù)利用間接測(cè)量的思路，通過建立輔助變量與主導(dǎo)變量之間的某種關(guān)聯(lián)形式，從而實(shí)現(xiàn)主導(dǎo)變量的在線實(shí)時(shí)估計(jì)，具有投資低、維護(hù)保養(yǎng)簡(jiǎn)單和響應(yīng)迅速等優(yōu)點(diǎn)。近年來軟測(cè)量技術(shù)被廣泛應(yīng)用于過程工業(yè)難測(cè)變量的在線估計(jì)，并取得了大量的理論研究和工業(yè)應(yīng)用成果。軟測(cè)量技術(shù)的核心研究?jī)?nèi)容是建模方法，通?？刹捎脵C(jī)理建模方法[2-3]或數(shù)據(jù)驅(qū)動(dòng)建模方法[4-5]建立軟測(cè)量模型，但由于過程工業(yè)的復(fù)雜性，經(jīng)常導(dǎo)致軟測(cè)量模型存在結(jié)構(gòu)復(fù)雜、訓(xùn)練時(shí)間較長(zhǎng)和模型性能受限等問題，無法建立具有滿意性能的軟測(cè)量模型，難以滿足主導(dǎo)變量估計(jì)的實(shí)時(shí)性要求。

多模型融合建模方法的設(shè)計(jì)思想最初來自于組合預(yù)測(cè)理論，即通過合理組合多個(gè)預(yù)測(cè)模型，從而達(dá)到提高整體模型預(yù)測(cè)精度的目的[6]。多模型融合建模方法綜合了各種常規(guī)建模方法的優(yōu)點(diǎn)，能有效降低模型復(fù)雜性和改善模型性能，因此在過程工業(yè)軟測(cè)量研究中得到了廣泛關(guān)注。過程工業(yè)存在著對(duì)象機(jī)理、過程數(shù)據(jù)和操作知識(shí)等過程信息，采用機(jī)理建模或數(shù)據(jù)驅(qū)動(dòng)建模等常規(guī)建模方法難以充分挖掘過程信息，導(dǎo)致許多過程信息不能有效用于軟測(cè)量建模。多模型融合建模方法是在充分掌握過程信息的基礎(chǔ)上，通過合理設(shè)計(jì)模型結(jié)構(gòu)實(shí)現(xiàn)整體建模任務(wù)的分解與協(xié)調(diào)，一是根據(jù)過程信息的特點(diǎn)，選擇合適的建模方法建立整體模型中的子模型；二是根據(jù)模型結(jié)構(gòu)和目標(biāo)的特性，選擇合適的融合方法實(shí)現(xiàn)各子模型融合，最終建立基于多模型融合的適合于過程工業(yè)的軟測(cè)量模型。根據(jù)整體模型中子模型的不同，多模型融合建模方法主要可分成數(shù)據(jù)驅(qū)動(dòng)融合建模方法和半?yún)?shù)建模方法。本文對(duì)多模型融合建模方法的研究現(xiàn)狀進(jìn)行了系統(tǒng)總結(jié)和評(píng)述，并對(duì)未來的發(fā)展方向進(jìn)行了展望。

1 數(shù)據(jù)驅(qū)動(dòng)融合建模方法

數(shù)據(jù)驅(qū)動(dòng)融合建模方法是從過程數(shù)據(jù)出發(fā)，通過某種最優(yōu)準(zhǔn)則構(gòu)造輔助變量與主導(dǎo)變量間的函數(shù)關(guān)系，從而實(shí)現(xiàn)對(duì)主導(dǎo)變量的估計(jì)。該建模方法完全基于過程數(shù)據(jù)，無須了解對(duì)象的機(jī)理知識(shí)，特別適用于建立機(jī)理復(fù)雜過程的軟測(cè)量模型[7]。目前，在過程工業(yè)軟測(cè)量中得到廣泛應(yīng)用的數(shù)據(jù)驅(qū)動(dòng)建模方法主要有回歸分析、人工智能和統(tǒng)計(jì)學(xué)習(xí)理論等[8-10]。

由于建模方法本身的特點(diǎn)以及過程數(shù)據(jù)量的限制，導(dǎo)致采用數(shù)據(jù)驅(qū)動(dòng)建模方法建立的軟測(cè)量模型只能保證其局部范圍內(nèi)的預(yù)測(cè)精度，而許多過程工業(yè)常具有多變量、非線性和工況范圍大等特點(diǎn)，使得數(shù)據(jù)驅(qū)動(dòng)模型難以提供滿意的預(yù)測(cè)性能。通過有效融合多個(gè)數(shù)據(jù)驅(qū)動(dòng)模型，提出了一種數(shù)據(jù)驅(qū)動(dòng)融合建模方法，該方法的基本結(jié)構(gòu)如圖1所示。首先采用重復(fù)采樣技術(shù)、聚類分析等方法對(duì)過程數(shù)據(jù)進(jìn)行處理，得到多個(gè)訓(xùn)練數(shù)據(jù)集，然后對(duì)各訓(xùn)練數(shù)據(jù)集分別建立數(shù)據(jù)驅(qū)動(dòng)子模型，最后通過融合算法實(shí)現(xiàn)各子模型的有效融合。數(shù)據(jù)驅(qū)動(dòng)融合建模方法融合了多個(gè)單一數(shù)據(jù)驅(qū)動(dòng)模型，獲得了對(duì)特定對(duì)象的完整表達(dá)，提高了模型的整體泛化能力。根據(jù)過程數(shù)據(jù)處理方法的不同，數(shù)據(jù)驅(qū)動(dòng)融合建模方法可分為集成學(xué)習(xí)和聚類分析兩類。

圖1 數(shù)據(jù)驅(qū)動(dòng)融合建模方法基本結(jié)構(gòu)

1.1 集成學(xué)習(xí)

集成學(xué)習(xí)算法通過重復(fù)取樣技術(shù)對(duì)原始樣本數(shù)據(jù)進(jìn)行處理，得到多個(gè)樣本數(shù)據(jù)集，并訓(xùn)練多個(gè)數(shù)據(jù)驅(qū)動(dòng)子模型，最后將各子模型的輸出進(jìn)行融合，從而建立數(shù)據(jù)驅(qū)動(dòng)融合模型?；诩蓪W(xué)習(xí)的數(shù)據(jù)驅(qū)動(dòng)融合建模方法實(shí)現(xiàn)了對(duì)樣本數(shù)據(jù)的多次學(xué)習(xí)，強(qiáng)化了對(duì)樣本數(shù)據(jù)的利用率，建立的各子模型均能在某種程度上體現(xiàn)過程對(duì)象某方面的特性，使得最終的數(shù)據(jù)驅(qū)動(dòng)融合模型能在更大程度上挖掘出樣本數(shù)據(jù)中蘊(yùn)含的過程信息，從而在概率意義上獲得比單個(gè)數(shù)據(jù)驅(qū)動(dòng)模型更佳的模型性能[11-12]。在數(shù)據(jù)驅(qū)動(dòng)融合建模方法研究中，常用的集成學(xué)習(xí)算法主要有Bagging算法和Adaboost算法。

Bagging集成學(xué)習(xí)算法是指通過對(duì)原始樣本集進(jìn)行隨機(jī)抽樣，抽樣后將抽取的樣本集放回，再進(jìn)行重復(fù)隨機(jī)抽樣，生成多個(gè)樣本訓(xùn)練集。若分別對(duì)各個(gè)樣本訓(xùn)練集建立基本學(xué)習(xí)器，則可通過融合這些弱學(xué)習(xí)器從而得到強(qiáng)學(xué)習(xí)器。針對(duì)單一高斯過程預(yù)測(cè)精度不佳的問題，文獻(xiàn)[13]提出采用Bagging算法對(duì)原始數(shù)據(jù)樣本進(jìn)行重復(fù)取樣構(gòu)成若干新的訓(xùn)練集，并建立相應(yīng)的高斯過程子模型，最終通過加權(quán)平均法及貝葉斯組合加權(quán)法融合子模型。采用該建模方法建立了丙烯聚合過程熔融指數(shù)軟測(cè)量模型，仿真結(jié)果表明，與單一高斯回歸模型相比，基于Bagging的高斯過程軟測(cè)量模型具有更好的魯棒性和預(yù)測(cè)精度。文獻(xiàn)[14]提出了一種基于Bagging的支持向量機(jī)融合建模方法，并將該建模方法應(yīng)用于半導(dǎo)體蝕刻間歇過程變量監(jiān)測(cè)研究中，仿真結(jié)果驗(yàn)證了該建模方法的有效性。文獻(xiàn)[15]提出了一種基于迭代Bagging算法的偏最小二乘回歸建模方法，并將該建模方法應(yīng)用于聚酯生產(chǎn)過程黏度軟測(cè)量建模研究中。研究結(jié)果表明，與常規(guī)偏最小二乘法相比，采用該建模方法建立的聚酯生產(chǎn)過程黏度軟測(cè)量模型具有較小的預(yù)測(cè)誤差。

Adaboost集成學(xué)習(xí)算法也是通過對(duì)樣本數(shù)據(jù)的操作實(shí)現(xiàn)集成學(xué)習(xí)，首先對(duì)原始樣本集中各樣本設(shè)置初始權(quán)重，然后對(duì)樣本進(jìn)行隨機(jī)采樣并建立數(shù)據(jù)驅(qū)動(dòng)模型，根據(jù)訓(xùn)練結(jié)果調(diào)整樣本權(quán)重，重復(fù)以上過程直到滿足最大迭代次數(shù)，從而建立了多個(gè)子模型，最后有效融合各子模型得到整體模型的預(yù)測(cè)輸出。文獻(xiàn)[16]提出了一種基于Adaboost的最小二乘支持向量機(jī)建模方法，并且引入了時(shí)間序列，最終通過加權(quán)方式建立共沸精餾塔的塔釜苯含量動(dòng)態(tài)軟測(cè)量模型。仿真結(jié)果表明，與單一最小二乘支持向量機(jī)相比，該模型的泛化均方根誤差大大降低。文獻(xiàn)[17]引入自適應(yīng)修改閾值和樣本增量學(xué)習(xí)對(duì)Adaboost RT集成學(xué)習(xí)進(jìn)行改進(jìn)，提出了一種改進(jìn)Adaboost的極限學(xué)習(xí)機(jī)建模方法，并應(yīng)用于精煉爐鋼水溫度軟測(cè)量。仿真結(jié)果表明，與Adaboost RT集成學(xué)習(xí)算法相比，該建模方法具有更好的預(yù)測(cè)精度，且能較好地實(shí)現(xiàn)模型在線更新以滿足實(shí)際生產(chǎn)需要。

采用基于集成學(xué)習(xí)的多模型融合建模方法建立的過程工業(yè)軟測(cè)量模型，能顯著改善模型的預(yù)測(cè)能力，但一般只適用于不穩(wěn)定的數(shù)據(jù)驅(qū)動(dòng)建模方法（訓(xùn)練數(shù)據(jù)集的較小改動(dòng)會(huì)導(dǎo)致模型發(fā)生較大變化），即要求數(shù)據(jù)驅(qū)動(dòng)建模方法對(duì)訓(xùn)練樣本數(shù)據(jù)較為敏感，而對(duì)訓(xùn)練樣本數(shù)據(jù)不敏感的數(shù)據(jù)驅(qū)動(dòng)建模方法，該方法的改進(jìn)效果并不明顯。對(duì)原始數(shù)據(jù)樣本集的重復(fù)隨機(jī)取樣，使建立的軟測(cè)量模型存在可解釋性不強(qiáng)的局限，而且隨著分類數(shù)目的增加，導(dǎo)致模型的復(fù)雜度和計(jì)算成本也會(huì)相應(yīng)增加。另外，各子模型的融合算法也是該建模方法未來值得進(jìn)一步研究的課題。

1.2 聚類分析

當(dāng)工業(yè)過程存在多個(gè)工況點(diǎn)時(shí)，樣本數(shù)據(jù)會(huì)呈現(xiàn)圍繞工況點(diǎn)聚集的特點(diǎn)，若建立單一數(shù)據(jù)驅(qū)動(dòng)模型則很難反映多個(gè)工作點(diǎn)及其附近的特性，因此可采用多個(gè)數(shù)據(jù)驅(qū)動(dòng)模型表示整體系統(tǒng)，即采用基于聚類分析的多模型融合建模方法解決此類問題。首先將采集得到的樣本數(shù)據(jù)進(jìn)行聚類分析，將樣本數(shù)據(jù)按照某種相似性準(zhǔn)則劃分成多個(gè)子樣本數(shù)據(jù)集，其中每個(gè)子集的樣本數(shù)據(jù)符合某種相似度，然后針對(duì)各子樣本數(shù)據(jù)集選擇合適的數(shù)據(jù)驅(qū)動(dòng)建模方法分別建立子模型，最后將各子模型融合輸出。選擇合適的聚類分析方法是保證軟測(cè)量模型性能的重要前提，常用聚類分析方法主要有模糊c-均值聚類算法和仿射傳播聚類算法等[18-20]。

連續(xù)過程工業(yè)中的工藝條件具有漸變性的特點(diǎn)，其工況點(diǎn)的所屬類別具有模糊性，若采用非此即彼的硬劃分則難以合理描述實(shí)際過程。模糊c-均值聚類算法通過引入隸屬度來表示歸屬于某類的程度大小，克服了硬劃分所存在的缺陷。文獻(xiàn)[21]針對(duì)填料塔中不同類型的亂堆填料具有不同特性的特點(diǎn)，提出了一種基于模糊c-均值聚類的最小二乘支持向量回歸建模方法。首先采用模糊c-均值聚類算法對(duì)原始樣本數(shù)據(jù)進(jìn)行聚類分析，再分別建立多個(gè)最小二乘支持向量回歸模型，最后采用加權(quán)最小二乘法融合子模型的輸出。研究結(jié)果表明，與傳統(tǒng)半經(jīng)驗(yàn)?zāi)Ｐ秃蜕窠?jīng)網(wǎng)絡(luò)模型相比，采用該建模方法建立的填料塔溢流速率預(yù)測(cè)模型具有更小的預(yù)測(cè)誤差。針對(duì)常規(guī)模糊c-均值聚類方法過分依賴樣本數(shù)據(jù)分布的問題，文獻(xiàn)[22]提出了一種核模糊c-均值聚類方法，首先引入核函數(shù)將樣本數(shù)據(jù)映射到高維特征空間，然后進(jìn)行樣本聚類，同時(shí)引入了聚類效果評(píng)價(jià)指標(biāo)使得最優(yōu)聚類數(shù)能夠自動(dòng)優(yōu)選。在該聚類方法基礎(chǔ)上，提出了一種基于核模糊c-均值聚類的最小二乘支持向量機(jī)建模方法，并利用模糊隸屬度加權(quán)子模型。乙烯裂解深度軟測(cè)量應(yīng)用效果表明，與神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)相比，采用該建模方法建立的軟測(cè)量模型具有更佳預(yù)報(bào)精度且能滿足實(shí)時(shí)性要求。

仿射傳播聚類算法是一種較為新穎的聚類分析算法，其將所有樣本數(shù)據(jù)均看作潛在的聚類中心，以樣本間相似度（負(fù)歐式距離）為基礎(chǔ)，通過不斷計(jì)算證據(jù)可信度和證據(jù)可用度來確定聚類中心和聚類數(shù)。文獻(xiàn)[23]將仿射傳播聚類算法與高斯過程回歸結(jié)合建立軟測(cè)量模型，首先采用仿射傳播聚類算法實(shí)現(xiàn)了原始樣本數(shù)據(jù)集的聚類，然后對(duì)各樣本數(shù)據(jù)集分別建立高斯過程回歸模型，最后采用貝葉斯決策算法實(shí)現(xiàn)子模型的輸出融合。脫丁烷塔塔底丁烷濃度和加氫裂化分餾裝置輕石腦油終餾點(diǎn)的軟測(cè)量研究結(jié)果表明，與基于k均值聚類分析的建模方法相比，采用該建模方法建立的軟測(cè)量模型具有較好的跟蹤效果，能夠更好地指導(dǎo)實(shí)際生產(chǎn)。文獻(xiàn)[24]針對(duì)聚類分析過程的無監(jiān)督性而導(dǎo)致模型訓(xùn)練效果不佳的問題，提出了一種帶監(jiān)督的仿射傳播聚類多模型建模方法。首先利用仿射傳播聚類算法進(jìn)行初始聚類，并分別建立最小二乘支持向量機(jī)模型，然后計(jì)算出每個(gè)樣本在子模型中的預(yù)測(cè)誤差，并將其移入誤差最小的子模型對(duì)應(yīng)的類，直到所有類中的數(shù)據(jù)不再變化。雙酚A生產(chǎn)過程丙酮含量的軟測(cè)量研究結(jié)果表明，與無監(jiān)督的建模方法相比，采用帶監(jiān)督的建模方法可建立具有更好預(yù)測(cè)精度的軟測(cè)量模型。

采用基于聚類分析的多模型融合建模方法建立過程工業(yè)軟測(cè)量模型，既需要從過程工藝的角度出發(fā)考慮聚類分析的可行性和必要性，又需要針對(duì)工藝特點(diǎn)和過程數(shù)據(jù)選擇合適的聚類分析方法。目前在軟測(cè)量建模研究中常用的聚類分析方法大多屬于離線聚類分析方法，當(dāng)有新的輸入數(shù)據(jù)時(shí)都需要重新進(jìn)行聚類分析和軟測(cè)量建模，這必然增加了整體軟測(cè)量研究工作的復(fù)雜性，因此有必要開展在線增量學(xué)習(xí)的聚類分析方法研究。子模型融合算法所采用的加權(quán)輸出方式與實(shí)際過程并不相符，研究模型融合方法的改進(jìn)也是未來需要進(jìn)一步研究的方向。

2 半?yún)?shù)建模方法

對(duì)于機(jī)理建模與數(shù)據(jù)驅(qū)動(dòng)建模，這兩類傳統(tǒng)的建模方法都存在各自的優(yōu)勢(shì)與局限，其中前者雖然具有可解釋性強(qiáng)和工程背景清晰等優(yōu)點(diǎn)，但也存在著模型可移植性較差、模型結(jié)構(gòu)復(fù)雜和運(yùn)算時(shí)間較長(zhǎng)等局限；后者雖然無須了解過多的過程先驗(yàn)知識(shí)，適用于某些機(jī)理較復(fù)雜的過程工業(yè)，但每種數(shù)據(jù)驅(qū)動(dòng)建模方法本身都存在一些缺點(diǎn)，且模型可解釋性較差，易受樣本數(shù)據(jù)的影響，最終導(dǎo)致數(shù)據(jù)驅(qū)動(dòng)模型的預(yù)測(cè)精度和穩(wěn)定性無法得到保證。由于過程工業(yè)中存在著對(duì)象機(jī)理、過程數(shù)據(jù)和操作知識(shí)等過程信息，因此可以將機(jī)理建模方法與數(shù)據(jù)驅(qū)動(dòng)建模方法相融合，使建立的軟測(cè)量模型能較好地協(xié)調(diào)兩類傳統(tǒng)建模方法的優(yōu)缺點(diǎn)，以達(dá)到充分挖掘過程信息、有效降低模型復(fù)雜性、提高建模效率和改善模型預(yù)測(cè)性能等目的[25]。

根據(jù)模型內(nèi)部參數(shù)的形式不同，可對(duì)機(jī)理模型和數(shù)據(jù)驅(qū)動(dòng)模型進(jìn)行一種劃分，其中前者可劃分為參數(shù)模型，因?yàn)槠淠Ｐ徒Y(jié)構(gòu)由過程機(jī)理決定，參數(shù)個(gè)數(shù)一般固定且具有明確的物理意義；后者可劃分為非參數(shù)模型，但這并不表示模型中沒有參數(shù)，而是指其模型結(jié)構(gòu)由經(jīng)驗(yàn)決定，其參數(shù)個(gè)數(shù)可變且無明確的物理意義?；谏鲜鰟澐址绞?，可將機(jī)理與數(shù)據(jù)驅(qū)動(dòng)融合建模方法稱為半?yún)?shù)建模方法。根據(jù)模型結(jié)構(gòu)形式的不同，半?yún)?shù)建模方法可分為串聯(lián)結(jié)構(gòu)和并聯(lián)結(jié)構(gòu)兩大類，分別如圖2和圖3所示[25-26]。在串聯(lián)結(jié)構(gòu)中，機(jī)理模型的輸出是整體模型的輸出，而數(shù)據(jù)驅(qū)動(dòng)模型的輸出則是機(jī)理模型的部分輸入。在并聯(lián)結(jié)構(gòu)中，將機(jī)理模型的輸出與數(shù)據(jù)驅(qū)動(dòng)模型的輸出相融合，并作為整體模型的輸出。

2.1 串聯(lián)結(jié)構(gòu)

采用機(jī)理建模方法建立過程軟測(cè)量模型，由于無法全部掌握過程機(jī)理知識(shí)，從而導(dǎo)致存在一些難以采用機(jī)理分析形式進(jìn)行描述的過程參數(shù)，或者雖然能用機(jī)理分析形式描述該過程參數(shù)，但導(dǎo)致顯著提高了軟測(cè)量模型結(jié)構(gòu)的復(fù)雜性。針對(duì)上述問題，可通過對(duì)這些過程參數(shù)進(jìn)行黑箱化處理，即采用數(shù)據(jù)驅(qū)動(dòng)建模方法建立該過程參數(shù)的數(shù)據(jù)驅(qū)動(dòng)模型，并將該模型融入到整體機(jī)理模型結(jié)構(gòu)中，從而建立一種串聯(lián)結(jié)構(gòu)半?yún)?shù)建模方法。采用該建模方法建立過程工業(yè)軟測(cè)量模型，可顯著降低模型的整體復(fù)雜性和提高模型的訓(xùn)練效率[27-29]。

圖2 串聯(lián)結(jié)構(gòu)

圖3 并聯(lián)結(jié)構(gòu)

文獻(xiàn)[30]采用串聯(lián)結(jié)構(gòu)半?yún)?shù)建模方法開展了乙烯氧化非均相反應(yīng)器軟測(cè)量建模研究。首先采用徑向基神經(jīng)網(wǎng)絡(luò)建立了反應(yīng)器內(nèi)各組分的實(shí)際動(dòng)力學(xué)速率預(yù)測(cè)模型，并與基于質(zhì)量平衡方程和能量平衡方程的機(jī)理模型相結(jié)合，建立了反應(yīng)轉(zhuǎn)化率動(dòng)態(tài)預(yù)測(cè)模型。研究結(jié)果表明，與機(jī)理模型相比，該模型的預(yù)測(cè)精度得以大幅提升，響應(yīng)速度明顯加快，且與黑箱模型相比，其外推能力也得到改善。文獻(xiàn)[31]提出了一種串聯(lián)結(jié)構(gòu)半?yún)?shù)建模方法，首先依據(jù)質(zhì)量平衡方程建立了反應(yīng)物濃度的預(yù)測(cè)模型，然后建立了部分未知的動(dòng)力學(xué)速率數(shù)據(jù)驅(qū)動(dòng)模型，其中數(shù)據(jù)驅(qū)動(dòng)模型是由若干混合專家網(wǎng)絡(luò)和一個(gè)門禁網(wǎng)絡(luò)所組成。將該建模方法應(yīng)用于酵母生產(chǎn)過程及廢水處理過程的反應(yīng)物濃度軟測(cè)量研究中，仿真結(jié)果表明，采用該建模方法建立的軟測(cè)量模型具有較好的預(yù)測(cè)性能，且采用專家結(jié)構(gòu)的數(shù)據(jù)驅(qū)動(dòng)模型的預(yù)測(cè)效果要優(yōu)于單一神經(jīng)網(wǎng)絡(luò)。

基于串聯(lián)結(jié)構(gòu)的軟測(cè)量模型中的未知參數(shù)一些無法在線測(cè)量得到，從而增加了數(shù)據(jù)驅(qū)動(dòng)模型的辨識(shí)難度。一般有兩種數(shù)據(jù)驅(qū)動(dòng)模型辨識(shí)方法。一種是直接法[32]，即首先假設(shè)機(jī)理模型中的其他參數(shù)已知，然后根據(jù)過程測(cè)量數(shù)據(jù)估計(jì)未知參數(shù)，最后通過訓(xùn)練輸入輸出樣本數(shù)據(jù)建立數(shù)據(jù)驅(qū)動(dòng)模型；另一種方法是非直接法，也稱為靈敏度法[33]，不以待估計(jì)的未知參數(shù)作為優(yōu)化目標(biāo)，而是以軟測(cè)量的主導(dǎo)變量作為優(yōu)化目標(biāo)進(jìn)行數(shù)據(jù)驅(qū)動(dòng)模型辨識(shí)。文獻(xiàn)[34]首先利用機(jī)理模型估計(jì)得到未知?jiǎng)恿W(xué)參數(shù)，然后提出兩種神經(jīng)網(wǎng)絡(luò)模型辨識(shí)方法，分別是以未知反應(yīng)速率為優(yōu)化目標(biāo)的直接法和以反應(yīng)物濃度為優(yōu)化目標(biāo)的靈敏度法。由于重組蛋白間歇生產(chǎn)過程中的數(shù)據(jù)噪聲及動(dòng)態(tài)特性，軟測(cè)量模型的辨識(shí)結(jié)果表明直接辨識(shí)法難以獲得理想的估計(jì)效果，相反，靈敏度法辨識(shí)得到的軟測(cè)量模型能夠較好地描述過程動(dòng)態(tài)特性，具有較小的預(yù)測(cè)均方誤差。

文獻(xiàn)[35]提出了一種基于雙層結(jié)構(gòu)的模型辨識(shí)方法，采用該方法可同時(shí)確定機(jī)理模型與支持向量機(jī)的未知參數(shù)，從而實(shí)現(xiàn)整體半?yún)?shù)模型辨識(shí)。該模型辨識(shí)方法的具體內(nèi)容如下：第一層，給定機(jī)理參數(shù)及支持向量機(jī)正則化參數(shù)的初值，訓(xùn)練數(shù)據(jù)驅(qū)動(dòng)模型，將訓(xùn)練結(jié)果傳至第二層；第二層，判斷半?yún)?shù)模型的收斂準(zhǔn)則，并相應(yīng)調(diào)整機(jī)理參數(shù)和正則化參數(shù)，將調(diào)整結(jié)果反饋至第一層，重新訓(xùn)支持向量機(jī)，循環(huán)往復(fù)直至滿足收斂條件為止。甲苯硝化過程軟測(cè)量的仿真結(jié)果表明，采用該辨識(shí)方法建立的軟測(cè)量模型具有較好的預(yù)測(cè)效果，即使當(dāng)訓(xùn)練數(shù)據(jù)存在較大誤差時(shí)也能保證模型預(yù)測(cè)結(jié)果的可靠性，并且辨識(shí)得到的模型具有比黑箱模型更好的外推能力。

采用串聯(lián)結(jié)構(gòu)半?yún)?shù)建模方法建立軟測(cè)量模型，需要首先建立比較完善的機(jī)理模型框架，導(dǎo)致該建模方法不適用于機(jī)理較為復(fù)雜的流程工業(yè)過程。為了建立具有良好性能的半?yún)?shù)模型，需要通過訓(xùn)練大量高質(zhì)量樣本數(shù)據(jù)來建立數(shù)據(jù)驅(qū)動(dòng)模型，當(dāng)樣本數(shù)據(jù)噪聲較大且數(shù)據(jù)量較少時(shí)，如何保證數(shù)據(jù)驅(qū)動(dòng)模型能夠提供可靠的估計(jì)是串聯(lián)結(jié)構(gòu)半?yún)?shù)建模方法的實(shí)施難點(diǎn)。

2.2 并聯(lián)結(jié)構(gòu)

完全采用機(jī)理建模方法建立復(fù)雜過程工業(yè)軟測(cè)量模型，通常需要基于某些假設(shè)條件，若直接將該軟測(cè)量模型應(yīng)用于實(shí)際過程中，難免存在模型預(yù)測(cè)誤差。機(jī)理模型有時(shí)也會(huì)存在部分項(xiàng)難以用機(jī)理分析的方式表達(dá)，從而導(dǎo)致整個(gè)模型是機(jī)理部分與未知部分的結(jié)合。此外，實(shí)際過程中往往存在某些擾動(dòng)，而這些擾動(dòng)因素一般無法在機(jī)理模型中得到體現(xiàn)。為了提高整體軟測(cè)量模型的預(yù)測(cè)性能，提出采用并聯(lián)結(jié)構(gòu)半?yún)?shù)建模方法建立軟測(cè)量模型。該建模方法的主要設(shè)計(jì)思路為：首先通過機(jī)理分析方法建立過程的機(jī)理模型，然后采用數(shù)據(jù)驅(qū)動(dòng)模型表示過程中的未知部分，最后通過有效結(jié)合兩種模型從而建立過程軟測(cè)量模型[36-37]。

文獻(xiàn)[38]將并聯(lián)結(jié)構(gòu)半?yún)?shù)建模方法應(yīng)用于焦化廢水處理裝置軟測(cè)量建模研究中。首先根據(jù)活性污泥機(jī)理模型結(jié)構(gòu)和過程知識(shí)建立了簡(jiǎn)化的機(jī)理模型，然后以機(jī)理模型預(yù)測(cè)誤差和若干過程參數(shù)作為數(shù)據(jù)驅(qū)動(dòng)模型的輸入，以目標(biāo)變量的預(yù)測(cè)誤差作為數(shù)據(jù)驅(qū)動(dòng)模型的輸出，分別建立了5種用于模型誤差補(bǔ)償?shù)臄?shù)據(jù)驅(qū)動(dòng)模型，最后融合機(jī)理模型和數(shù)據(jù)驅(qū)動(dòng)模型建立了焦化廢水處理裝置中重要質(zhì)量指標(biāo)的半?yún)?shù)軟測(cè)量模型。研究結(jié)果表明，5種半?yún)?shù)模型均改善了機(jī)理模型的預(yù)測(cè)效果，其中基于神經(jīng)網(wǎng)絡(luò)-偏最小二乘法的半?yún)?shù)軟測(cè)量模型的預(yù)測(cè)效果最好，能較好地體現(xiàn)過程的動(dòng)態(tài)特性。文獻(xiàn)[39]采用并聯(lián)結(jié)構(gòu)半?yún)?shù)建模方法建立了熱攪拌酸浸過程速率的軟測(cè)量模型，其中采用一種基于負(fù)相關(guān)學(xué)習(xí)的Bagging集成支持向量回歸動(dòng)態(tài)建模方法建立機(jī)理模型誤差的補(bǔ)償模型。仿真結(jié)果表明，該模型的預(yù)測(cè)性能指標(biāo)均優(yōu)于機(jī)理模型、基于支持向量回歸的半?yún)?shù)模型。

文獻(xiàn)[40]將并聯(lián)結(jié)構(gòu)半?yún)?shù)建模方法應(yīng)用于聚乙烯熔融指數(shù)軟測(cè)量研究中，其中采用神經(jīng)網(wǎng)絡(luò)表達(dá)過程的未知部分，并提出了一種交叉循環(huán)迭代算法對(duì)半?yún)?shù)模型進(jìn)行辨識(shí)。研究表明，與單純機(jī)理模型相比，采用該建模方法建立的熔融指數(shù)軟測(cè)量模型具有更佳的預(yù)測(cè)精度，且有效削弱了神經(jīng)網(wǎng)絡(luò)對(duì)過程數(shù)據(jù)的依賴性。針對(duì)熱量傳遞問題的復(fù)雜性，文獻(xiàn)[41]提出采用并聯(lián)結(jié)構(gòu)半?yún)?shù)建模方法建立對(duì)流傳熱模型。首先利用合適的正交分解算法將機(jī)理模型降階分解成線性與非線性兩部分，然后采用神經(jīng)網(wǎng)絡(luò)建模方法辨識(shí)出非線性部分，最后通過模型重構(gòu)實(shí)現(xiàn)機(jī)理模型與神經(jīng)網(wǎng)絡(luò)模型融合輸出。研究結(jié)果表明，該建模方法具有較小的溫度預(yù)測(cè)誤差，且計(jì)算速度要明顯快于機(jī)理模型，進(jìn)而驗(yàn)證了并聯(lián)結(jié)構(gòu)思路在簡(jiǎn)化高度非線性模型方面的有效性。

采用并聯(lián)結(jié)構(gòu)半?yún)?shù)建模方法建立軟測(cè)量模型，由于引入了數(shù)據(jù)驅(qū)動(dòng)建模方法，因此既降低了對(duì)機(jī)理模型結(jié)構(gòu)完整性要求，又保證了模型在某一范圍內(nèi)的預(yù)測(cè)精度，但也同時(shí)增加了模型的不確定性和不穩(wěn)定性。采用建立數(shù)據(jù)驅(qū)動(dòng)模型的方法來解決機(jī)理模型誤差補(bǔ)償問題，該處理方式具有較強(qiáng)的經(jīng)驗(yàn)性，未能對(duì)機(jī)理模型誤差作出合理解釋。由于機(jī)理模型本身的偏差及過程數(shù)據(jù)的局限性，導(dǎo)致并聯(lián)結(jié)構(gòu)半?yún)?shù)模型的外推能力仍需進(jìn)一步考察。

3 結(jié) 語(yǔ)

本文對(duì)流程工業(yè)過程軟測(cè)量中的多模型融合建模方法進(jìn)行了系統(tǒng)綜述，詳細(xì)敘述了數(shù)據(jù)驅(qū)動(dòng)融合建模方法、半?yún)?shù)建模方法的設(shè)計(jì)思想和國(guó)內(nèi)外研究現(xiàn)狀，并指出當(dāng)前研究工作的優(yōu)勢(shì)與不足。由于多模型融合建模方法實(shí)現(xiàn)了各類建模方法的優(yōu)勢(shì)互補(bǔ)，因此被應(yīng)用于流程工業(yè)過程軟測(cè)量研究領(lǐng)域，并取得了一定的理論研究成果，具有較好的工程應(yīng)用價(jià)值，但目前的相關(guān)研究工作仍存在一些不足，未來可能需要在以下幾個(gè)方面進(jìn)行努力。

（1）采用數(shù)據(jù)驅(qū)動(dòng)融合建模方法建立流程工業(yè)過程軟測(cè)量模型，需要在建模過程中合理協(xié)調(diào)模型性能與模型復(fù)雜程度之間的關(guān)系。此外，數(shù)據(jù)融合技術(shù)的研究成果也為子模型融合方法的研究提供了新的思路。

（2）采用半?yún)?shù)建模方法建立軟測(cè)量模型，可通過引入人工智能和統(tǒng)計(jì)學(xué)習(xí)等最新研究成果，豐富數(shù)據(jù)驅(qū)動(dòng)建模方法體系。一般采用離線數(shù)據(jù)建立軟測(cè)量模型，易導(dǎo)致模型外推能力受限，因此需要在評(píng)價(jià)和改善模型泛化能力方面開展進(jìn)一步研究，如研究支持在線增量學(xué)習(xí)的建模方法。

（3）生產(chǎn)過程中的樣本數(shù)據(jù)采集系統(tǒng)屬于雙率系統(tǒng)，即主導(dǎo)變量的慢采集周期要遠(yuǎn)大于輔助變量的快采樣周期。通常忽略主導(dǎo)變量不可測(cè)時(shí)刻的輔助變量數(shù)據(jù)，建立慢采樣頻率軟測(cè)量模型，導(dǎo)致大量過程數(shù)據(jù)信息未得到充分利用，需要進(jìn)一步研究同率軟測(cè)量建模方法。

過程工業(yè)軟測(cè)量建模實(shí)質(zhì)上是一個(gè)多源信息融合問題，可從先驗(yàn)知識(shí)、機(jī)理特性及過程數(shù)據(jù)等多源信息出發(fā)，利用過程工業(yè)的研究成果，以及人工智能、統(tǒng)計(jì)學(xué)習(xí)等數(shù)據(jù)驅(qū)動(dòng)技術(shù)，建立基于多源信息融合的軟測(cè)量模型，這是一種實(shí)現(xiàn)過程工業(yè)中難測(cè)變量在線估計(jì)的有效途徑。

[1] Lin B，Recke B，Knudsen J K H. A systematic approach for soft sensor development[J].Computers and Chemical Engineering，2007，31（5-6）：419-425.

[2] Bozzano G，Dente M. A mechanistic approach to delayed coking modeling[J].Computer Aided Chemical Engineering，2005，20：529-534.

[3] 何仁初，韓偉東. 基于嚴(yán)格機(jī)理模型的精餾塔軟測(cè)量技術(shù)的開發(fā)[J]. 石油化工，2012，41（5）：556-561.

[4] Gonzaga J C B，Meleiro L A C，Kiang C. ANN-based soft-sensor for real-time process monitoring and control of an industrial polymerization process[J].Computers and Chemical Engineering，2009，33（1）：43-49.

[5] 王春鵬，于佐軍，孟凡強(qiáng). 折息移動(dòng)窗遞推PLS算法及其在聚丙烯生產(chǎn)過程中的應(yīng)用[J]. 化工學(xué)報(bào)，2013，64（12）：4592-4598.

[6] Bates J M，Granger C W J. The combination of forecasts[J].Operations Research Quarterly，1969，20：19-325.

[7] Kadlec P，Gabrys B，Strandt S. Data-driven soft sensors in the process industry[J].Computers and Chemical Engineering，2009，33（4）：795-814.

[8] Gunther J C，Conner J S，Seborg D E. Process monitoring and quality variable prediction utilizing PLS in industrial fed-batch cell culture[J].Journal of Process Control，2009，19（5）：914-921.

[9] Kashani M N，Aminian J，Shahhosseini S，et al. Dynamic crude oil fouling prediction in industrial preheaters using optimized ANN based moving window technique[J].Chemical Engineering Research and Design，2012，90（7）：938-949.

[10] Wang J L，F(xiàn)eng X Y，Yu T. A geometric approach to support vector regression and its application to fermentation process fast modeling[J].Chinese Journal of Chemical Engineering，2012，20（4）：715-722.

[11] Sridhar D V，Seagrave R C. Process modeling using stacked neural networks[J].AIChE Journal，1996，42（9）：2529-2539.

[12] Zhang J. Developing robust non-linear models through bootstrap aggregated neural networks[J].Neurocomputing，1999，25（1-3）：93-113.

[13] Chen T，Ren J H. Bagging for Gaussian process regression[J].Neurocomputing，2009，72（7-9）：1605-1610.

[14] Ge Z Q，Song Z H. Bagging support vector data description model for batch process monitoring[J].Journal of Process Control，2013，23（8）：1090-1096.

[15] 程龍，王桂增. 基于IBPLS方法的軟測(cè)量建模[J]. 清華大學(xué)學(xué)報(bào)：自然科學(xué)版，2008，48（s2）：1780-1784.

[16] Du W L，Guan Z Q，Qian F. The time series soft-sensor modeling based on adaboost LS-SVM[C]//Proceedings of the 8th World Congress on Intelligent Control and Automation. Piscataway，Jinan：IEEE Press，2010：1491-1495.

[17] 田慧欣，王安娜. 基于增量學(xué)習(xí)思想的改進(jìn)Adaboost建模方法[J].控制與決策，2012，27（9）：1433-1436.

[18] 曹鵬飛，羅雄麟. 化工過程軟測(cè)量建模方法研究進(jìn)展[J]. 化工學(xué)報(bào)，2013，64（3）：788-800.

[19] Gao S Z，Wang J S，Gao X W. Modeling and advanced control method of PVC polymerization process[J].Journal of Process Control，2013，23（5）：664- 681.

[20] 李麗娟，宋坤，趙英凱. 基于仿射傳播聚類的ARA發(fā)酵過程建模[J]. 化工學(xué)報(bào)，2011，62（8）：2116-2121.

[21] Liu Y，Li C L，Gao Z L. A novel unified correlation model using ensemble support vector regression for prediction of flooding velocity in randomly packed towers[J].Journal of Industrial and Engineering Chemistry，2013，20（3）：1109-1118.

[22] 陳貴華，王昕，王振雷. 基于模糊核聚類的乙烯裂解深度DE-LSSVM多模型建模[J]. 化工學(xué)報(bào)，2012，63（6）：1790-1796.

[23] Li X L，Su H Y，Chu J. Multiple model soft sensor based on Affinity Propagation，Gaussian Process and Bayesian Committee Machine[J].Chinese Journal of Chemical Engineering，2009，17（1）：95-99.

[24] 鄧衛(wèi)衛(wèi)，楊慧中. 一種帶監(jiān)督的仿射傳播聚類多模型建模方法[J].上海交通大學(xué)學(xué)報(bào)，2011，45（8）：1172-1175.

[25] von Stosch M，Oliveira R，Peresa J，et al. Hybrid semi-parametric modeling in process systems engineering：Past，present and future[J].Computers and Chemical Engineering，2014，60：86-101.

[26] Ng C W，Hussain M A. Hybrid neural network-prior knowledge model in temperature control of a semi-batch polymerization process[J].Chemical Engineering and Processing，2004，43（4）：559-570.

[27] Psichogios D C，Ungar L H. A hybrid neural network-first principles approach to process modeling[J].AIChE Journal，1992，38（10）：1499-1511.

[28] Qi H Y，Zhou X G，Liu L H，et al. A hybrid neural network-first principles model for fixed-bed reactor[J].Chemical Engineering Science，1999，54（13-14）：2521-2526.

[29] Gupta S，Liu P H，Svoronos S A. Hybrid first-principles/neural networks model for column flotation[J].AIChE Journal，1999，45（3）：557-566.

[30] Zahedi G，Lohi A，Mahdi K A. Hybrid modeling of ethylene to ethylene oxide heterogeneous reactor[J].Fuel Processing Technology，2011，92（9）：1725-1732.

[31] Peres J，Oliveira R，Azevedo S. Bioprocess hybrid parametric/nonparametric modeling based on the concept of mixture of experts[J].Biochemical Engineering Journal，2008，39（1）：190-206.

[32] 楊強(qiáng)大. 基于改進(jìn)串聯(lián)混合建模方法的發(fā)酵過程菌體濃度軟測(cè)量[J]. 儀器儀表學(xué)報(bào)，2011，32（1）：206-211.

[33] von Stosch M，Oliveira R，Peres J. A novel identification method for hybrid (N)PLS dynamical systems with application to bioprocesses[J].Expert Systems with Applications，2011，38（9）：10862-10874.

[34] Oliveira R. Combining first principles modelling and artificial neural networks：A general framework[J].Computers and Chemical Engineering，2004，28（5）：755-766.

[35] Yang A D，Martin E，Morris J. Identification of semi-parametric hybrid process models[J].Computers and Chemical Engineering，2011，35（1）：63-70.

[36] Thompson M L，Kramer M A. Modeling chemical processes using prior knowledge and neural networks[J].AIChE Journal，1994，40（8）：1328-1340.

[37] Bollas G，Papadokonstadakis S，Michalopoulos J，et al. Using hybrid neural networks in scaling up an FCC model from a pilot plant to an industrial unit[J].Chemical Engineering and Processing，2003，42（8-9）：697-713.

[38] Lee D S，Vanrolleghem P A，Park J M. Parallel hybrid modeling methods for a full-scale cokes wastewater treatment plant[J].Journal of Biotechnology，2005，115（3）：317-328.

[39] Hu G H，Mao Z Z，He D K，et al. Hybrid modeling for the prediction of leaching rate in leaching process based on negative correlation learning bagging ensemble algorithm[J].Computers and Chemical Engineering，2011，35（12）：2611- 2617.

[40] 段斌，梁軍，費(fèi)正順，等. 基于GA-ANN的非線性半?yún)?shù)建模方法[J]. 浙江大學(xué)學(xué)報(bào)：工學(xué)版，2011，45（6）：977-983.

[41] Romijn R，?zkan L，Weiland S，et al. A grey-box modeling approach for the reduction of nonlinear systems[J].Journal of Process Control，2008，18（9）：906-914.

Multi-model fusion modeling method for process industries soft sensor

WANG Haining，XIA Luyue，ZHOU Mengfei，ZHU Pengfei，PAN Haitian
（School of Chemical Engineering，Zhejiang University of Technology，Hangzhou 310032，Zhejiang，China）

The paper summarizes research progress of the multi-model fusion modeling method for process industries soft senor. According to the difference of sub-models，the multi-model fusion modeling method can be divided into data driven fusion modeling method and semi-parametric modeling method. The design ideas and research status of the data driven fusion modeling method and semi-parametric modeling method are presented，their advantages and disadvantages are analyzed，and corresponding improvement directions are proposed. According to different data processing methods，the data driven fusion modeling method can be divided into ensemble learning and cluster analysis. According to different types of model structures，semi-parametric modeling method is divided into serial and parallel structure. In the end，the future research directions of multi-model fusion modeling are presented. It is expected that breakthrough can be made in improvement of data driven models fusion technology，advancement of semi-parametric models generalization ability，and solution of dual-rate sampling. Developing soft sensor models based on multi-source information fusion by using the multi-model fusion modeling method is an effective way to realize online estimation of variables which are difficult to measure in process industries.

soft sensor；multi-model fusion；data driven fusion；semi-parametric；modeling

TP 27

A

1000-6613（2014）12-3157-07

10.3969/j.issn.1000-6613.2014.12.005

2014-04-28；修改稿日期：2014-05-11。

浙江省自然科學(xué)基金項(xiàng)目（LY13B060005）。

王海寧（1990—），男，碩士研究生，研究方向?yàn)榛み^程建模、控制與優(yōu)化。聯(lián)系人：潘海天，教授，研究方向?yàn)榛は到y(tǒng)工程。E-mail htpan@zjut.edu.cn。