楊新星,李春青
(天津工業(yè)大學計算機科學與軟件學院,天津 300387)
基于改進極限學習機的MBR仿真預測研究
楊新星,李春青
(天津工業(yè)大學計算機科學與軟件學院,天津 300387)
研究MBR膜通量,進行膜污染預測,是當今污水處理研究領域的重要課題之一。為了有效,準確地預測MBR膜通量,提出一種改進的極限學習機( PSO-ELM)預測模型。極限學習機(ELM)能夠有效地克服反向傳播(BP)算法的缺陷,并能以極快的速度獲得很好的泛化性能。由于隨機給定輸入權值和隱層閾值,ELM通常需要較多隱含層節(jié)點才能達到理想精度。利用粒子群算法(PSO)對極限學習機(ELM)的權值和閾值進行優(yōu)化,建立PSO-ELM預測模型,將提取的主成分作為該模型的輸入,膜通量作為模型輸出。研究結果表明,該模型對MBR膜通量預測具有較好的泛化能力和更高的預測精度。
膜生物反應器;膜通量:極限學習機:粒子群算法
本文著錄格式:楊新星,李春青. 基于改進極限學習機的MBR仿真預測研究[J]. 軟件,2016,37(12):17-20
膜生物反應器(Membrane Bioreactor,MBR)是將生物降解作用與膜的高效分離技術結合而成的一種新型高效的污水處理與回用工藝[1]。使用膜分離裝置取代了傳統(tǒng)的二次沉淀池,并且較好得截留了反應池中的活性污泥以及其中的大分子有機物質。因此,與傳統(tǒng)污水處理工藝相比,MBR具有出水水質好且穩(wěn)定,能有效使固液分離,污泥產量少,并且設備緊湊、不占用大量空間等優(yōu)勢。然而污水處理過程中伴隨著膜污染問題,嚴重得影響了膜的通透性能和使用壽命。膜污染直接導致的結果是膜通量的下降,所以膜通量大小可以衡量膜污染的程度[2]。所以,膜通量能否及時、準確地預測是膜污染控制的關鍵。
目前,智能仿真模型在MBR膜通量預測中的應用越來越受到重視。國內外學者針對影響膜污染的污泥濃度、操作參數(shù)等指標做了大量的研究,建立膜污染數(shù)學模型,通過膜通量變化情況來預測膜污染程度。但這依然存在諸多不足,比如數(shù)據(jù)信息重疊,模型結構相對復雜,收斂速度慢,泛化能力較差以及局部極小化等問題。故本文提出一種改進極限學習機的MBR膜通量預測模型。采用主成分法對影響膜通量的相關因素進行降維處理,提取其特征信息,消除向量相關性[3],將提取的主要影響因素作為粒子群極限學習機的預測模型參數(shù),并利用粒子群算法(PSO)優(yōu)化極限學習機(ELM)參數(shù),使得優(yōu)化后的ELM模型具有更高的預測精度和更好的預測效率,再將現(xiàn)場實驗數(shù)據(jù)帶入到該模型中,驗證其有效性。
1.1 極限學習機模型
極限學習機(extreme learning machine,ELM)是由黃廣斌[4]等人在2006年提出的一種基于單隱藏層前饋神經網(wǎng)絡的新型學習方法。與傳統(tǒng)前饋神經網(wǎng)絡不同在于,對實驗樣本訓練前,先設定好隱層節(jié)點數(shù),執(zhí)行過程中會自動對輸入權值和閾值隨機賦值,這個過程只需進行一次,無需再進行迭代,并且產生唯一最優(yōu)解。因此,具有學習效率高,泛化性能好等優(yōu)點。極限學習機網(wǎng)絡結構如圖1所示。
圖1 極限學習機網(wǎng)絡結構Fig.1 Network Structure of ELM
上述N個方程的矩陣形式可以表示為
式中:
其中:H是ELM隱藏層輸出矩陣;T是目標輸出向量。
根據(jù)上述方程,求出最小范數(shù)二乘解。即得:
通常,選取的隱層節(jié)點數(shù)越接近樣本數(shù)量時,其預測值就會越逼近期望值。但這存在隱層節(jié)點數(shù)過大和數(shù)據(jù)復共線性等問題。而復共線性問題又會導致極限學習機模型輸出出現(xiàn)不穩(wěn)定性,誤差增大,擬合效果變差。
1.2 粒子群算法(PSO)
粒子群算法是由Kennedy和Eberhart[6]提出的一種優(yōu)化算法。其中每個粒子都是一種可能的解,多個粒子組成群體,粒子通過不斷更新速度和位置尋找最優(yōu)解。在解空間中,通過記錄自身的個體信息(Pbest)和群體信息(Gbest)共同決定他們飛行的方向和距離。每迭代一次粒子就產生一個適應度值,通過比較個體極值Pbest和全局極值Gbest來更新自己。
上式中,ω為慣性權重,C1和C2為學習因子,r1和r2為分布在[0,1]的隨機數(shù)。為了防止粒子在尋找最優(yōu)解中可能出現(xiàn)超出預期范圍的情況,將粒子的速度信息限制在[vmin,vmax],位置信息限制在為[xmin,xmax]。
1.3 PSO優(yōu)化ELM具體步驟
由于ELM的輸入權值和閾值隨機給定,針對這一不足,利用PSO全局尋優(yōu)的特點對ELM的權值和閾值進行優(yōu)化處理。PSO優(yōu)化ELM主要步驟如下:
(1)隨機選取適量樣本;
(2)設定模型網(wǎng)絡拓撲結構;
(3)初始化粒子位置和粒子速度,根據(jù)權值和閾值的范圍設置粒子速度和位置的尋優(yōu)范圍[7];
(4)初始化算法參數(shù)。包括設置最大迭代次數(shù)為20,種群規(guī)模為200,慣性權重0.7298 ω=,加速度因子c1=c2=1.4962;
(5)通過訓練樣本,計算出均方根誤差,并將其作為適應度值函數(shù)。再找出粒子的Pbest和Gbest;
(6)通過比較,不斷更新粒子的速度和位置[8];
(7)進行迭代,判斷是否達到最大迭代次數(shù),若不滿足,則繼續(xù)回到(5),直到停止迭代,最終得出最優(yōu)的權值和閾值。
2.1 影響因素的確定
微生物污染、無機污染、有機污染相互交叉、互相影響,共同構成了MBR膜污染的主要類型,所以膜通量的大小受多種因素的綜合影響[9-10],主要因素有混合液污泥濃度、溫度、進水壓力、產水壓力、校正流量、COD等。大量的實驗表明,對MBR膜通量起決定作用的因素有:進水壓力、產水壓力、校正流量。所以,本文將以上3項作為影響MBR膜通量關鍵因素,建立PSO-ELM膜通量預測模型。
2.2 訓練樣本與測試樣本的選擇
本文所用實驗數(shù)據(jù)來源于某MBR污水處理廠歷史生產數(shù)據(jù)。將進水壓力、產水壓力、校正流量作為預測模型的輸入?yún)?shù),MBR膜通量作為預測模型的輸出參數(shù)。從中隨機選取其中120組數(shù)據(jù),其中110組作為訓練樣本,剩余的10組作為預測樣本。
2.3 預測模型參數(shù)設置
本文用PSO-ELM算法模型進行MBR膜通量預測時,其中網(wǎng)絡的隱含層激活函數(shù)為“sigmoid”,設置粒子群初始化參數(shù)NP=200,itermax=20,C1=C2=1.4962,ω=0.7298。實驗通過Matlab實現(xiàn)。
由于極限學習機隨機選擇隱藏節(jié)點參數(shù)(權重和偏置),導致很多情況下需要更多的隱藏節(jié)點才能達到理想精度[11]。為對結果進行比較,本文采用預測值與實際值的相對誤差(MRE)作為評價模型預測效果的標準。將ELM與PSO-ELM的隱藏節(jié)點數(shù)目逐漸增加,測試不同節(jié)點數(shù)目下的預測樣本的平均相對誤差,結果如圖2所示。
ELM的預測效果相較于PSO-ELM,其預測誤差隨著隱層節(jié)點數(shù)的變化表現(xiàn)出不穩(wěn)定性,當只有選擇合適的隱藏節(jié)點數(shù)時,才會有較好的預測結果。過多過少的隱層節(jié)點數(shù)都會出現(xiàn)擬合效果不好的特點,預測誤差增大。對于經過PSO優(yōu)化的ELM算法,誤差有了明顯的改善,均低于ELM誤差,而且大大簡化了“無用”的神經網(wǎng)絡節(jié)點,說明PSO-ELM能夠有效減少隱藏層節(jié)點數(shù),獲得更為緊湊的網(wǎng)絡體系結構,提升系統(tǒng)的穩(wěn)定性。為使PSO-ELM預測誤差最小,本文將隱藏節(jié)點數(shù)設置為20。
圖2 預測誤差隨隱藏節(jié)點數(shù)的變化Fig.2 Prediction Error Changes with The Number of Hidden Nodes
圖3 預測結果對比Fig. 3 Comparison of Prediction Results
為了驗證該算法的有效性,用同樣的樣本建立BP網(wǎng)絡預測模型來預測MBR膜通量。將預測結果與PSO-ELM的預測結果進行比較。比較結果如圖3所示。數(shù)據(jù)分析結果見表1。經PSO優(yōu)化的ELM預測模型,其預測的相對誤差均低于BP預測模型,平均相對誤差為0.19%,最大相對誤差不超過0.3%,可見經過優(yōu)化后的PSO-ELM預測模型的學習能力要比BP預測模型學習能力要強,并且具有更高的預測準確度和更好的泛化性能。
表1 膜通量預測結果Tab.1 The Prediction Results of Membrane Flux
本文將PSO-ELM方法應用于MBR膜通量預測,通過選取最優(yōu)隱含層節(jié)點數(shù),訓練進水壓力、產水壓力、校正流量參數(shù),建立最優(yōu)ELM模型。
(1)利用主成分分析法對MBR膜通量眾多影響因素進行降維處理,從而簡化了模型的網(wǎng)絡結構,減少因指標過多而帶來的工作量。
(2)ELM算法克服了傳統(tǒng)神經網(wǎng)絡算法易陷入局部最小,泛化性能差等缺點,經PSO算法優(yōu)化后,不僅大大減少了隱層節(jié)點數(shù),而且也提高了預測精度。
(3)將經PSO優(yōu)化的ELM算法應用在MBR膜通量預測模型中。用實際污水處理數(shù)據(jù)進行實驗,實驗取得了理想的效果,表明該改進的算法能較好的對MBR膜通量進行預測。
[1] 張穎, 張鐵峰, 王愛杰,等. 膜生物反應器(MBR)技術關鍵及應用[J]. 東北農業(yè)大學學報, 2002, 33(1): 96-99.Zhang Y, Zhang T F, Wang A J, et al.. Technological key and application of membrane bio-reactor[J]. Journal of Northeast Agricultural University, 2002, 33(1): 96-99. (in Chinese)
[2] 閆宏英, 李春青. MBR膜污染的智能模擬預測方法研究[J].計算機測量與控制, 2013, 21(8): 1-5. Yan H Y, Li C Q. Research of intelligent simulation forecasting methods on MBR membrane fouling[J]. Computer measurement and control, 2013, 21(8): 1-5. (in Chinese)
[3] Abdi H, Williams L J. Principal component analysis[J]. Wiley Interdisciplinary Reviews Computational Statistics, 2010, 2(4): 433–459.
[4] Huang G B, Wang D H, Lan Y. Extreme learning machines: a survey[J]. International Journal of Machine Learning and Cybernetics, 2011, 2(2): 107-122.
[5] Huang G B, Zhu Q Y, Siew C –K. Extreme learning machine: Theory and applications[J]. Neurocomputing, 2006,70(1-3): 489-501.
[6] Kennedy J, Eberhart R, Shi Y H. Swarm Intelligence[M]. San Francisco, Cal, USA: Morgan Kaufmann Publishers, 2001: 287-318.
[7] Kennedy J, Eberhart R. Particle Swarm Optimization[C]. Perth, Australia: Proceedings of IEEE International Conference on Neural Networks, 1995: 1942-1948.
[8] 郭建青, 李彥, 王洪勝,等, 粒子群優(yōu)化算法在確定河流水質參數(shù)中的應用[J].水利水電科技進展, 2007, 27(6): 1-5. Guo J Q, Li Y, Wang H S, et al. Application of particle swarm optimization algorithms to determination of water quality parameters of river streams[J]. Advances in Science and Technology of Water Resource, 2007, 27(6): 1-5. (in Chinese)
[9] 韓永萍, 肖燕, 宋蕾, 王曉琳. MBR膜污染的形成及其影響因素研究進展[J]. 膜科學與技術, 2013, 01: 102-110. HAN Y P, XIAO Y, SONG L,WANG X L. Study on the factors of MBR formation and the influence of membrane fouling[J]. Membrane science and technology, 2013, 01: 102-110. (in Chinese)
[10] Howell J A. Future of membranes and membrane reactors in green technologies and for water reuse[J].Desalination, 2004, 162(1): 1-11.
[11] 王杰, 畢浩洋. 一種基于粒子群優(yōu)化的極限學習機[J]. 鄭州大學學報(理學版), 2013, 45(1): 100-104. Wang J, Bi H Y. A new extreme learning machine optimized by PSO[J]. Journal of Zhengzhou University: Natural Science Edition, 2013, 45(1): 100-104. (in Chinese)
Research of MBR Simulation Predictions Based on Improved Extreme Learning Machine
YANG Xinxing, LI Chunqing
(School of Computer Science and Software Technology, Tianjin Polytechnic University, Tianjin 300387, China)
MBR membrane flux research for membrane fouling prediction is one of the important topics on today's sewage treatment research field. In order to effectively and accurately predict the flux of MBR membrane, a prediction model was proposed based on improved extreme learning machine (PSO-ELM). Extreme Learning Machine could overcome the drawbacks of backpropagation algorithm with extreme learning speed and better generalization performance. ELM usually requires more hidden layer nodes to achieve the desired accuracy because of the random input weights and hidden layer threshold. Using particle swarm optimization( PSO) to optimize the input weights and hidden layer threshold of extreme learning machine ( ELM), establish PSO-ELM prediction model, treat the extractive principal components as the input of the prediction model, the membrane flux as the model output. The results show that the proposed model has better generalization ability and higher prediction precision for membrane flux.
MBR; Membrane flux; Extreme learning machine; Particle swarm optimization
TP391
A
10.3969/j.issn.1003-6970.2016.12.004
國家自然科學基金(51378350);國家杰出青年科學基金(50808130)
楊新星(1990-),男,碩士研究生,主要研究方向:MBR計算機模擬仿真,大數(shù)據(jù)。
李春青,教授,主要研究方向:MBR計算機模擬仿真,大數(shù)據(jù)與云計算。