趙立杰，王海龍，陳斌（沈陽化工大學(xué)信息工程學(xué)院，遼寧 沈陽 110142）

?

基于流形正則化半監(jiān)督學(xué)習(xí)的污水處理操作工況識別方法

趙立杰，王海龍，陳斌
（沈陽化工大學(xué)信息工程學(xué)院，遼寧 沈陽 110142）

摘要：污水處理過程容易受外界沖激擾動(dòng)影響，引發(fā)污泥上浮、老化、中毒、膨脹等故障工況，導(dǎo)致出水水質(zhì)質(zhì)量差，能源消耗高等問題，如何快速準(zhǔn)確識別污水操作工況故障至關(guān)重要。針對污水工況識別過程中現(xiàn)有監(jiān)督學(xué)習(xí)方法未利用大量未標(biāo)記數(shù)據(jù)蘊(yùn)含的豐富操作工況信息，采用基于流形正則化極限學(xué)習(xí)機(jī)的半監(jiān)督學(xué)習(xí)方法，監(jiān)視生化污水處理過程操作運(yùn)行工況。該方法在學(xué)習(xí)過程中，在標(biāo)記和未標(biāo)記數(shù)據(jù)輸入空間構(gòu)建圖拉普拉斯算子，通過隨機(jī)特征映射建立隱含層，在流形正則化框架下，求解隱含層和輸出層之間的權(quán)重，保留隨機(jī)神經(jīng)網(wǎng)絡(luò)的計(jì)算效率和泛化性能。仿真實(shí)驗(yàn)結(jié)果表明，基于半監(jiān)督極限學(xué)習(xí)機(jī)的污水處理工況識別在準(zhǔn)確率與可靠性方面相對優(yōu)于基本極限學(xué)習(xí)機(jī)方法。

關(guān)鍵詞：污水處理；極限學(xué)習(xí)機(jī)；半監(jiān)督算法；流形正則化

2015-10-30收到初稿，2016-03-14收到修改稿。

聯(lián)系人及第一作者：趙立杰（1972—），女，博士，教授。

Received date: 2015-10-30.

Foundation item: supported by the National Natural Science Foundation of China (61203102, 61573364) and the Research Project of Liaoning Provincial Educational Department (L2013158, L2013272).

引　言

污水生化處理是緩解水環(huán)境污染的有效途徑。由于生化處理系統(tǒng)的主體是有生命的細(xì)菌，其培養(yǎng)馴化、調(diào)整恢復(fù)非常緩慢和困難，且受外界環(huán)境的變化影響較大，如pH波動(dòng)、供氧不足、負(fù)荷的沖擊、有毒物質(zhì)的流入、錯(cuò)誤操作等，常常引起污泥上浮、老化、中毒、膨脹、漂出等二沉池故障工況。如果不及時(shí)發(fā)現(xiàn)和處理，直接影響系統(tǒng)的出水指標(biāo)和操作成本，甚至造成系統(tǒng)的停滯、癱瘓和破壞[1]。另外，由于污水處理機(jī)理復(fù)雜，工藝內(nèi)部交互耦合、出水水質(zhì)指標(biāo)不能連續(xù)在線檢測且化驗(yàn)周期漫長，現(xiàn)有的以精確數(shù)學(xué)模型為基礎(chǔ)、以控制系統(tǒng)性能指標(biāo)為目標(biāo)的優(yōu)化控制理論與方法難以應(yīng)用，導(dǎo)致污水處理穩(wěn)定性差、效率低、成本高等問題，因此識別污水處理過程操作工況對于增強(qiáng)污水處理廠優(yōu)化運(yùn)行和優(yōu)化控制具有重要意義。

污水處理操作工況識別方法主要有基于解析模型方法、基于定性經(jīng)驗(yàn)知識方法和基于數(shù)據(jù)驅(qū)動(dòng)方法三大類。基于解析模型的方法需要準(zhǔn)確的機(jī)理模型，而污水處理過程由于非線性、多變量、非平穩(wěn)復(fù)雜特性，很難獲取準(zhǔn)確的數(shù)學(xué)模型。文獻(xiàn)[2]采用正反向混合推理機(jī)制，以故障樹的形式表示知識庫中的知識，開發(fā)了城市污水處理廠日常運(yùn)行故障診斷專家系統(tǒng)。Carrasco等[3]建立了基于模糊推理的污水處理故障診斷專家系統(tǒng)，并且在實(shí)際污水廠成功應(yīng)用。污水處理故障診斷專家系統(tǒng)性能很大程度上取決于專家知識庫的完備性。基于數(shù)據(jù)驅(qū)動(dòng)方法包括多元統(tǒng)計(jì)方法[4]、支持向量機(jī)[5]和神經(jīng)網(wǎng)絡(luò)方法等?；诙嘣y(tǒng)計(jì)的數(shù)據(jù)驅(qū)動(dòng)污水處理故障診斷充分利用了污水處理過程DCS采集海量數(shù)據(jù)的優(yōu)勢，但是該類方法往往缺乏故障分類標(biāo)記的監(jiān)督指導(dǎo)，在故障定位能力方面略有不足。支持向量機(jī)和神經(jīng)網(wǎng)絡(luò)可以充分利用標(biāo)記數(shù)據(jù)指導(dǎo)作用，是一種有監(jiān)督的學(xué)習(xí)方法。文獻(xiàn)[6]基于多分類概率極限學(xué)習(xí)機(jī)神經(jīng)網(wǎng)絡(luò)方法識別污水處理過程工況。這些監(jiān)督學(xué)習(xí)方法通常假設(shè)數(shù)據(jù)樣本已標(biāo)記且樣本數(shù)量足夠。

為減少標(biāo)記代價(jià)，提高識別準(zhǔn)確率，自動(dòng)利用少量已標(biāo)記數(shù)據(jù)和大量未標(biāo)記數(shù)據(jù)的半監(jiān)督學(xué)習(xí)受到工業(yè)界和學(xué)術(shù)界的關(guān)注[7-10]。半監(jiān)督學(xué)習(xí)方法，如TSVM[11]，LapRLS和LapSVM[12]等，通常假設(shè)標(biāo)記數(shù)據(jù)樣本和未標(biāo)記數(shù)據(jù)樣本具有相同的邊界分布，利用未標(biāo)記的樣本幫助學(xué)習(xí)平滑的數(shù)據(jù)幾何結(jié)構(gòu)。文獻(xiàn)[13-14]在流形正則框架下引進(jìn)ELM[15]模型平衡標(biāo)記數(shù)據(jù)和未標(biāo)記數(shù)據(jù)，通過在監(jiān)督學(xué)習(xí)問題中加入和流形相關(guān)的正則化項(xiàng)，可以盡可能多地利用無標(biāo)記數(shù)據(jù)，使得模型輸出保持原特征空間的幾何結(jié)構(gòu)。文獻(xiàn)[16]在流形正則極限學(xué)習(xí)機(jī)二分類基礎(chǔ)上，提出了基于流形正則化極限學(xué)習(xí)機(jī)半監(jiān)督學(xué)習(xí)算法，通過與支持向量機(jī)、拉普拉斯偏最小二乘法、拉普拉斯支持向量機(jī)等方法比較，實(shí)驗(yàn)驗(yàn)證了基于流形正則化半監(jiān)督的極限學(xué)習(xí)機(jī)方法具有較高的準(zhǔn)確性和泛化性。

針對污水工況識別過程中現(xiàn)有監(jiān)督學(xué)習(xí)方法未利用大量未標(biāo)記數(shù)據(jù)蘊(yùn)含的豐富操作工況信息，本文采用基于流形正則化極限學(xué)習(xí)機(jī)的半監(jiān)督學(xué)習(xí)方法，監(jiān)視生化污水處理過程操作運(yùn)行工況。

1　城市污水處理過程描述

城市污水處理過程采用活性污泥二級生化處理工藝，如圖1所示。

進(jìn)水經(jīng)過預(yù)處理和初沉池去除污水中懸浮固體和漂浮物后，進(jìn)入曝氣池和二沉池組成的二級生物處理單元。曝氣池內(nèi)微生物降解有機(jī)物進(jìn)行新陳代謝，二沉池內(nèi)污泥通過重力作用進(jìn)行固液分離。處理過的污水從沉淀池溢流排出，污泥從二沉池底部回流到曝氣反應(yīng)池以維持適當(dāng)?shù)奈勰酀舛龋Ｓ辔勰嘟?jīng)濃縮、消化、壓濾脫水處理。

污水處理廠通常在入水、初沉池、曝氣池和二沉池以及出水處檢測水質(zhì)、水量指標(biāo)，各監(jiān)測點(diǎn)變量名稱和含義見表1。在污水處理廠運(yùn)行操作過程中，常見的異常操作工況包括入水水質(zhì)指標(biāo)超負(fù)荷、欠負(fù)荷運(yùn)行、入水水量的沖擊如干旱、暴雨等事件以及污泥上浮、老化、中毒、膨脹、漂出等二沉池問題。

2　半監(jiān)督極限學(xué)習(xí)機(jī)

2.1極限學(xué)習(xí)機(jī)

極限學(xué)習(xí)機(jī)ELM是一種用于訓(xùn)練單隱含層前饋神經(jīng)網(wǎng)絡(luò)方法。由于ELM隨機(jī)初始化輸入權(quán)值和隱含層偏置，最小二乘方法求解輸出權(quán)值，克服了傳統(tǒng)梯度下降學(xué)習(xí)算法訓(xùn)練速度慢、容易陷入局部極小點(diǎn)、學(xué)習(xí)率敏感等不足，該方法具有學(xué)習(xí)速絡(luò)輸出為度快，泛化能力強(qiáng)等優(yōu)點(diǎn)[15]。

圖1　活性污泥污水處理工藝流程Fig.1　Flow chart of activated sludge wastewater treatment process

表1　污水處理過程監(jiān)測變量Table 1　Wastewater treatment process variables

對于任意N個(gè)訓(xùn)練樣本(xj, tj)，假設(shè)具有?個(gè)隱含層神經(jīng)元和激活函數(shù)G(wi,bi, x )，ELM神經(jīng)網(wǎng)

其中，x∈Rn，wi∈ Rn，βi∈ Rm。G(wi,bi, x )為與輸入x對應(yīng)的第i個(gè)隱含層神經(jīng)元的輸出；為第i個(gè)隱含層神經(jīng)元與輸出之間的連接權(quán)向量。激活函數(shù)g( x )取為RBF神經(jīng)元時(shí)，隱含層輸出為

其中，wi和bi分別為第i個(gè)徑向基函數(shù)的中心和影響因子；R+是一個(gè)正實(shí)數(shù)集合。存在iβ，wi和bi，以零誤差逼近這N個(gè)樣本點(diǎn)，即

式（3）可以寫成矩陣形式為

其中，H是ELM神經(jīng)網(wǎng)絡(luò)的隱含層輸出矩陣

2.2流形正則化框架

半監(jiān)督學(xué)習(xí)算法的建立需要以下兩個(gè)前提[16]：①標(biāo)記數(shù)據(jù)Xl和未標(biāo)記數(shù)據(jù)Xu來自于相同的邊界分布Px；②如果兩個(gè)點(diǎn)x1、x2接近，那么條件概率P( y | x1)和P( y | x2)也是相似的。流行正則化框架提出最小化成本函數(shù)Lm

其中，Wij是xi和xj這兩個(gè)類型之間的分段相似矩陣。相似矩陣W=[ Wij]通常情況下非零元素很少，因此需要在xi和xj這兩個(gè)類型之間放置一個(gè)非零權(quán)值，如果xi和xj這兩個(gè)點(diǎn)接近，也就是說xi是xj的k最近鄰。非零權(quán)值通常由高斯公式計(jì)算，，或者設(shè)置為固定值1。

由于條件概率計(jì)算困難，采用數(shù)據(jù)樣本的預(yù)測誤差加權(quán)平方和近似Lm

yi、yj分別是數(shù)據(jù)樣本xi和xj的預(yù)測值，采用矩陣形式簡化表達(dá)式（6）

Tr(～)表示一個(gè)矩陣的跡，L= D? W是圖拉普拉斯算子，D是對角矩陣，對角元素為。

2.3結(jié)合流形正則化框架與極限學(xué)習(xí)機(jī)的半監(jiān)督學(xué)習(xí)算法

高維輸入特征通常會引起模型復(fù)雜，泛化性能降低。實(shí)際上，高維空間數(shù)據(jù)分布在低維流形子空間上。通過有標(biāo)記和無標(biāo)記樣本共同來挖掘嵌入在高維空間中數(shù)據(jù)分布的幾何結(jié)構(gòu)，然后在機(jī)器學(xué)習(xí)問題中加入流形正則化項(xiàng)，約束模型輸出的幾何形狀，將有監(jiān)督數(shù)據(jù)和無監(jiān)督數(shù)據(jù)結(jié)合結(jié)合起來學(xué)習(xí)的半監(jiān)督學(xué)習(xí)方法，有效解決高維度帶來的模型高復(fù)雜度導(dǎo)致模型的泛化能力下降問題[16]。

其中，圖拉普拉斯矩陣L由標(biāo)記數(shù)據(jù)和未標(biāo)記數(shù)據(jù)共同建立，模型輸出預(yù)報(bào)矩陣，正則項(xiàng)系數(shù)λ控制數(shù)據(jù)分布的幾何形狀。

模型訓(xùn)練過程中，模型傾向于適配訓(xùn)練樣本多的類，類間數(shù)據(jù)樣本個(gè)數(shù)不均衡會影響半監(jiān)督學(xué)習(xí)效果。為緩解樣本不均衡模型泛化性降低問題，通過對不同類分別施加不同懲罰參數(shù)，避免樣本多的類出現(xiàn)過擬合，樣本少的類被忽略。假設(shè)樣本xi屬于類ti，類ti有Nti個(gè)訓(xùn)練樣本，為平衡類間個(gè)數(shù)不均衡帶來的誤差，類間懲罰參數(shù)Ci等于C0除以所屬類的個(gè)數(shù)Nti

其中，C0是ELM模型正則項(xiàng)參數(shù)。將約束因子帶到目標(biāo)函數(shù)中，寫成矩陣形式

Y∈Rnh × n0是訓(xùn)練目標(biāo)值，第l行為Yi，其余行為零，C是對角矩陣，前l(fā)行對角元素為[C]ii=C(i= 1, L , l)，其余值為零。關(guān)于β目標(biāo)函數(shù)的梯度

通過設(shè)置梯度為零，求解β。當(dāng)標(biāo)記數(shù)據(jù)的個(gè)數(shù)大于隱含層神經(jīng)元個(gè)數(shù)時(shí)

當(dāng)標(biāo)記數(shù)據(jù)的個(gè)數(shù)小于隱含層神經(jīng)元個(gè)數(shù)時(shí)，

Il+u是一個(gè)l+ u維的單位矩陣。當(dāng)設(shè)置平衡參數(shù)λ為零、對角矩陣元素[C]ii=Ci(i=1, L , l)為常量時(shí)，式（12）、式（13）提高極限學(xué)習(xí)機(jī)算法學(xué)習(xí)效率。

半監(jiān)督極限學(xué)習(xí)機(jī)SS-ELM算法如表2所示。

表2　半監(jiān)督極限學(xué)習(xí)機(jī)SS-ELM算法Table 2　Algorithm of semi-supervised ELM

3　實(shí)驗(yàn)結(jié)果及討論

本節(jié)主要研究半監(jiān)督極限學(xué)習(xí)機(jī)在污水處理過程操作工況識別性能，并與傳統(tǒng)監(jiān)督學(xué)習(xí)方法極限學(xué)習(xí)機(jī)ELM進(jìn)行對比。

污水處理數(shù)據(jù)來源于UCI數(shù)據(jù)庫[17]。該數(shù)據(jù)是Manresa城市污水處理廠1990～1991年日常監(jiān)測數(shù)據(jù)，共包含527樣本，38個(gè)屬性變量，涵蓋12類不同的操作工況，包括2類正常工況、1類入水欠負(fù)荷、2類固體超負(fù)荷、3類暴雨工況、4類二沉池異常工況。事實(shí)上，UCI_WWTP污水處理廠采集來的數(shù)據(jù)存在缺失和離群點(diǎn)，這類數(shù)據(jù)會惡化模型學(xué)習(xí)性能。本文采用一種能夠抑制離群點(diǎn)的魯棒EMPCA數(shù)據(jù)校正方法[18]進(jìn)行離群點(diǎn)識別和缺失數(shù)據(jù)的處理。數(shù)據(jù)預(yù)處理前后部分屬性變量處理結(jié)果如圖2所示。從圖2可以看出，經(jīng)過魯棒EMPCA數(shù)據(jù)校正后數(shù)據(jù)變量中離群點(diǎn)能夠被識別，缺失點(diǎn)得到合理估計(jì)。

圖2　數(shù)據(jù)預(yù)處理前后變量趨勢對比Fig.2　Variable trend comparison before and after data preprocessing

針對半監(jiān)督學(xué)習(xí)需要大量標(biāo)記和無標(biāo)記樣本數(shù)據(jù)訓(xùn)練，本文選用常見的3類污水處理工況：正常、超負(fù)荷和欠負(fù)荷工況，460個(gè)樣本進(jìn)行半監(jiān)督學(xué)習(xí)?？紤]生物需氧量BOD水質(zhì)指標(biāo)獲取時(shí)間長，忽略各監(jiān)測點(diǎn)BOD變量，剩余31個(gè)變量作為模型數(shù)據(jù)集。正常工況、超負(fù)荷工況和欠負(fù)荷3類工況分別編碼為整數(shù)Ⅰ、Ⅱ、Ⅲ，如表3所示。

表3　污水處理數(shù)據(jù)集和編碼Table 3　Wastewater treatment data and encoding

3類工況數(shù)據(jù)集合樣本個(gè)數(shù)分別為275、116和69。模型訓(xùn)練和測試過程中，整個(gè)數(shù)據(jù)集合被劃分為4個(gè)部分：帶標(biāo)記的數(shù)據(jù)集合L，校驗(yàn)集合V、未標(biāo)記數(shù)據(jù)集U和測試數(shù)據(jù)樣本集T。有標(biāo)記數(shù)據(jù)集合L和未標(biāo)記數(shù)據(jù)集U用于訓(xùn)練半監(jiān)督SS-ELM模型，校驗(yàn)集合V用于模型超參數(shù)選擇。

污水操作工況識別半監(jiān)督SS-ELM方法訓(xùn)練包括輸入權(quán)值隨機(jī)初始化和輸出權(quán)值求解。在計(jì)算隱含層輸出矩陣H過程中，激活函數(shù)采用Sigmoid類型函數(shù)，輸入權(quán)值和偏差一致分布在（?1,1）范圍內(nèi)。隱含層節(jié)點(diǎn)nh設(shè)定在100～2000范圍內(nèi)，每隔100遞增。文中采用分類精度和誤差評價(jià)模型的性能，兩者均百分比表示。其中，分類精度等于測試數(shù)據(jù)正確分類樣本個(gè)數(shù)占總樣本個(gè)數(shù)的百分比。分類誤差等于100減識別精度。圖3顯示了隱含層節(jié)點(diǎn)數(shù)目對識別精度的影響。從圖3中可以看出，隱含層節(jié)點(diǎn)個(gè)數(shù)選為200。

圖3　隱含層節(jié)點(diǎn)數(shù)目對識別精度的影響Fig.3　Influence of hidden neuron number on recognition accuracy

實(shí)驗(yàn)過程中，基于校驗(yàn)集分類精度確定合適的參數(shù)C0和λ。尋優(yōu)過程中，模型參數(shù)C0和λ設(shè)置范圍為。圖4顯示不同參數(shù)C和λ0對識別精度的影響。圖4中參數(shù)C0和參數(shù)λ采用對數(shù)坐標(biāo)lgC0和lgλ表示，由圖4確定最優(yōu)參數(shù)C0= 0.1和λ=0.01。

保持模型參數(shù)不變情況下，設(shè)置不同比例的標(biāo)記和未標(biāo)記數(shù)據(jù)比較模型性能。不同數(shù)量標(biāo)記數(shù)據(jù)的SS-ELM和傳統(tǒng)ELM方法性能對比如圖5所示。圖5顯示，當(dāng)標(biāo)記數(shù)據(jù)量不斷增加時(shí)，SS-ELM模型誤差趨向降低。圖6顯示了在加入不同數(shù)量未標(biāo)記數(shù)據(jù)下SS-ELM和ELM性能對比。圖6顯示，隨著未標(biāo)記數(shù)據(jù)增多，半監(jiān)督方法SS-ELM識別精度優(yōu)于傳統(tǒng)ELM，這是因?yàn)槲礃?biāo)記樣本擴(kuò)充了訓(xùn)練數(shù)據(jù)樣本。

圖4　參數(shù)C、λ對識別精度的影響Fig.4　Influence of parameters C and λ on accuracy

圖5　不同數(shù)量的標(biāo)記數(shù)據(jù)測試誤差Fig.5　Influence of different number of labeled data on test error

圖6　加入未標(biāo)記數(shù)據(jù)個(gè)數(shù)測試誤差Fig.6　Influence of unlabeled data on test error

4　結(jié)　論

針對污水處理過程存在少量已標(biāo)記樣本和大量未標(biāo)記樣本，采用基于流形正則化半監(jiān)督極限學(xué)習(xí)機(jī)方法，通過隨機(jī)產(chǎn)生隱含層參數(shù)，避免復(fù)雜的迭代過程從而提高學(xué)習(xí)速率，融合未標(biāo)記樣本信息，增強(qiáng)模型分類識別精度，避免標(biāo)記數(shù)據(jù)少模型精度不足問題。仿真實(shí)驗(yàn)結(jié)果表明，基于半監(jiān)督極限學(xué)習(xí)機(jī)的污水處理故障識別方法準(zhǔn)確率與可靠性相對優(yōu)于傳統(tǒng)極限學(xué)習(xí)機(jī)方法。

符號說明

bi，wi——分別為第i個(gè)隱含層神經(jīng)元閾值和連接權(quán)值

C——懲罰因子系數(shù)對角矩陣

C0——預(yù)報(bào)誤差的懲罰參數(shù)初始值

D——稀疏相似對角矩陣

F——神經(jīng)網(wǎng)絡(luò)輸出矩陣

L——圖拉普拉斯算子

Tr(～)——矩陣的跡

{Xl, Yl}——訓(xùn)練集標(biāo)記數(shù)據(jù)

Xu——非標(biāo)記數(shù)據(jù)

yi，yj——分別為樣本數(shù)據(jù)xi和xj的預(yù)測值

β——隱含層權(quán)值矩陣

λ——平衡參數(shù)

References

[1]FIKAR M, CHACHUAT B, LATIFI M A. Optimal operation of alternating activated sludge processes [J]. Control Engineering Practice, 2005, 13 (7): 853-861.

[2]CHONG H G, WALLEY W J. Rule-based versus probabilistic approaches to the diagnosis of faults in wastewater treatment processes [J]. Artificial Intelligence in Engineering, 1996, 10 (3): 265-273.

[3]CARRASCO E F, RODRíGUEZ J, PU?AL A, et al. Rule-based diagnosis and supervision of a pilot-scale wastewater treatment plant using fuzzy logic techniques [J]. Expert Systems with Applications, 2002, 22 (1): 11-20.

[4]TOMITA R K, SONG W P, SOTOMAYOR O A Z. Analysis of activated sludge process using multivariate statistical tools—a PCA approach [J]. Chemical Engineering News, 2002, 90 (3): 283-290.

[5]FAN X W, DU S X, WU T J. Rough support vector machine and its application to wastewater treatment processes [J]. Control and Decision, 2004, 19 (5): 573-576.

[6]GUO H, JEONG K, LIM J. Prediction of effluent concentration in a wastewater treatment plant using machine learning models [J]. Journal of Environmental Sciences, 2015, 32 (105): 90-101.

[7]SHAHSHAHANI B M, LANDGREBE D A. Using partially labeled data for normal mixture identification with application to class definition [C]//Geoscience and Remote Sensing Symposium, 1992. IGARSS '92. International. IEEE, 1992:1603-1605.

[8]NIYOGI P. Manifold regularization and semi-supervised learning: some theoretical analyses [J]. Journal of Machine Learning Research, 2013, 14 (1): 1229-1250.

[9]ZHU X. Cross-domain semi-supervised learning using feature formulation [J]. IEEE Trans. Syst., Man, Cybern. - Part B: Cybern., 2011, 41 (6): 1627-1638.

[10]WANG G, WANG F, CHEN T, et al. Solution path for manifold regularized semi-supervised classification [J]. IEEE Trans. Syst., Man, Cybern. - Part B: Cybern., 2012, 42 (2): 308-319.

[11]VAPNIK V N. Statistical Learning Theory [M]. New York: Wiley, 1998.

[12]BELKIN M, NIYOGI P, SINDHWANI V. Manifold regularization: a geometric framework for learning from labeled and unlabeled examples [J]. Journal of Machine Learning Research, 2006, 7 (3): 2399-2434.

[13]LIU J, CHEN Y, LIU M, et al. SELM: semi-supervised ELM with application in sparse calibrated location estimation [J]. Neurocomputing, 2011, 74 (16): 2566-2572.

[14]LI L, LIU D, QUYANG J. A new regularization classification method based on extreme learning machine in network data [J]. Journal of Information & Computational Science, 2012, 9 (12): 3351-3363.

[15]HUANG G B, ZHU Q Y, SIEW C K. Extreme learning machine: theory and application [J]. Neurocomputing, 2006, 70:489-501.

[16]HUANG G, SONG S, GUPTA J N, et al. Semi-supervised and unsupervised extreme learning machines [J]. IEEE Transactions Cybernetics, 2014, 44 (12): 2405-2417.

[17]http://archive.ics.uci.edu/ml/datasets/Water+Treatment+Plant.

[18]ZHAO L J, CHAI T Y, CONG Q M. Operating condition recognition of pre-denitrification bioprocess using robust EMPCA and FCM [C]// CHAI T Y. The Sixth World Congress on Intelligent Control and Automation, IEEE WCICA. Dalian, 2006: 9386-9390.

Identification of wastewater operational conditions based on manifold regularization semi-supervised learning

ZHAO Lijie, WANG Hailong, CHEN Bin
(College of Information Engineering, Shenyang University of Chemical Technology, Shenyang 110142, Liaoning, China)

Abstract:The wastewater treatment process is vulnerable to the impact of external shocks to cause sludge floating, aging, poisoning, expansion and other failure conditions, resulting in effluent deterioration and high energy consumption. It is urgent to quickly and accurately identify the operating conditions of wastewater treatment process. In the existing supervised learning methods all the data are labeled which are time consuming and expensive. A multitude of unlabeled data to collect easily and cheaply have rich and useful information about the operating condition. To overcome the disadvantage of supervised learning algorithms that they cannot make use of unlabeled data, a semi-supervised extreme learning machine algorithm based on manifold regularization is adopted to monitor the operation states of biochemical wastewater treatment process. The graph Laplacian matrix is constructed from both the labeled patterns and the unlabeled patterns. Extreme learning machine algorithm is adopted to handle the semi-supervised learning task under the framework of the manifold regularization. It constructs the hidden layer using random feature mapping and solves the weights between the hidden layer and the output layer, which exhibit the computational efficiency and generalization performance of the random neural network. The results of simulation experiments show that the fault identification method based on semi supervised learning machine has superiority to the basic extreme learning machine in improving the accuracy and reliability.

Key words:wastewater treatment; extreme learning machine; semi-supervised learning; manifold regularization

中圖分類號：TP 391

文獻(xiàn)標(biāo)志碼：A

文章編號：0438—1157（2016）06—2462—07

DOI：10.11949/j.issn.0438-1157.20151625

基金項(xiàng)目：國家自然科學(xué)基金項(xiàng)目（61203102，61573364）；遼寧省教育廳科學(xué)研究項(xiàng)目（L2013158, L2013272）。

Corresponding author:Prof. ZHAO Lijie, zlj_lunlun@163.com