王競一，曹 歡，劉曉冬，楊文廣，張 明

（1.河北涿州京源熱電有限責(zé)任公司，河北 保定 072750；2.南京天洑軟件有限公司，江蘇 南京 211106）

1 引言

隨著火電廠運(yùn)行管理模式的精細(xì)化，特別是隨著智能化技術(shù)在火電廠中的應(yīng)用，優(yōu)化火電廠整個(gè)系統(tǒng)中關(guān)鍵環(huán)節(jié)的運(yùn)行方式、降低輔機(jī)等設(shè)備的異常停機(jī)、提高設(shè)備運(yùn)行經(jīng)濟(jì)性和可靠性，成為火電廠提質(zhì)增效的重要手段?；痣姀S化學(xué)水處理系統(tǒng)是火電廠的重要輔助系統(tǒng)?；痣姀S化學(xué)水處理系統(tǒng)通常包括鍋爐補(bǔ)給水、凝結(jié)處理、廢水處理三個(gè)部分，是整個(gè)電力生產(chǎn)系統(tǒng)中的重要組成部分。由于火電廠不同環(huán)節(jié)對(duì)水質(zhì)的高要求，化學(xué)水處理系統(tǒng)通常較為復(fù)雜，且運(yùn)行過程對(duì)異常和故障的容忍度低。為保持化學(xué)水處理系統(tǒng)運(yùn)行在較優(yōu)狀態(tài)，需定期對(duì)化學(xué)水處理系統(tǒng)進(jìn)行清洗，清洗周期的優(yōu)化對(duì)于水質(zhì)的保持和運(yùn)行的經(jīng)濟(jì)性都具有十分重要的影響。通過關(guān)鍵參數(shù)趨勢預(yù)測，可以對(duì)設(shè)備的性能狀態(tài)退化進(jìn)行趨勢預(yù)測，可以輔助運(yùn)行人員發(fā)現(xiàn)參數(shù)異常以及合理安排清洗計(jì)劃。

本文以化學(xué)水處理系統(tǒng)關(guān)鍵設(shè)備的運(yùn)行參數(shù)預(yù)測為目標(biāo)，提出了一種基于mRMR和LSTM的時(shí)間序列預(yù)測方法，可以針對(duì)運(yùn)行數(shù)據(jù)中影響水處理系統(tǒng)性能的關(guān)鍵參數(shù)，建立高準(zhǔn)確度的水處理系統(tǒng)參數(shù)預(yù)測與評(píng)價(jià)方法，通過與隨機(jī)森林?jǐn)?shù)等多種算法進(jìn)行對(duì)比，證明了方法的有效性，為短期趨勢預(yù)測和清洗周期預(yù)測提供方法支撐。

2 基于mRMR和LSTM的時(shí)間序列預(yù)測方法

典型的時(shí)間序列預(yù)測訓(xùn)練的過程包括輸入?yún)?shù)的選擇、時(shí)間序列的數(shù)據(jù)步長和窗口的選擇、訓(xùn)練算法的選擇以及超參的選擇。在建立預(yù)測模型的過程中，需要根據(jù)選擇的時(shí)間長度進(jìn)行時(shí)間序列的預(yù)處理，由于實(shí)際系統(tǒng)的采樣率較高，每秒1次數(shù)據(jù)采集，在預(yù)測較長時(shí)間的參數(shù)狀態(tài)值時(shí)，需考慮中長期的歷史趨勢，存在了時(shí)間序列長度難以被長短時(shí)記憶模型有效捕獲的困難，即數(shù)據(jù)數(shù)據(jù)的時(shí)間間隔和窗口大小將對(duì)結(jié)果具有顯著影響。

對(duì)此，本文提供了一種分層的超參優(yōu)化選擇思路，即首先使用mRMR來進(jìn)行特征參數(shù)的選擇，然后通過對(duì)比訓(xùn)練進(jìn)行時(shí)間序列的數(shù)據(jù)步長和窗口的選擇，最后進(jìn)行LSTM網(wǎng)絡(luò)層數(shù)和神經(jīng)元個(gè)數(shù)的超參選擇，最終完成模型的訓(xùn)練。對(duì)于本方法中的關(guān)鍵組成部分的原理描述如下。

2.1 數(shù)據(jù)預(yù)處理

進(jìn)行特征參數(shù)選擇之前，首先要根據(jù)測量數(shù)據(jù)進(jìn)行數(shù)據(jù)的預(yù)處理，入口流量的分布規(guī)律如圖1所示。

圖1 入口流量分布規(guī)律

由圖1可知，入口流量為0的時(shí)間占據(jù)了相當(dāng)?shù)谋壤?，這表明，在數(shù)據(jù)預(yù)處理中，需要對(duì)數(shù)據(jù)進(jìn)行篩選，去掉停機(jī)時(shí)間的數(shù)據(jù)，同時(shí)利用清洗時(shí)間將數(shù)據(jù)進(jìn)行分割，以正確捕獲數(shù)據(jù)規(guī)律，為預(yù)測模型的建立提供良好的數(shù)據(jù)基礎(chǔ)。

2.2 特征參數(shù)選擇

在原始測量參數(shù)中，存在較多的變量，為分析變量直接的相關(guān)性，特別是對(duì)預(yù)測性能的相關(guān)性，本文采用最小冗余最大相關(guān)性的特征參數(shù)選擇方法。

最小冗余最大相關(guān)性（mRMR）是一種濾波式的特征選擇方法，一種常用的特征選擇方法是最大化特征與分類變量之間的相關(guān)度，就是選擇與分類變量擁有最高相關(guān)度的前k個(gè)變量。但是，在特征選擇中，單個(gè)好的特征的組合并不能增加分類器的性能，因?yàn)橛锌赡芴卣髦g是高度相關(guān)的，這就導(dǎo)致特征變量的冗余。因此最終有了mRMR，即最大化特征與分類變量之間的相關(guān)性，而最小化特征與特征之間的相關(guān)性。這就是mRMR的核心思想。它不僅考慮到了特征和label之間的相關(guān)性，還考慮到了特征和特征之間的相關(guān)性。度量標(biāo)準(zhǔn)使用的是互信息（Mutual Information，MI）。對(duì)于mRMR方法，特征子集與類別的相關(guān)性通過各個(gè)特征與類別的信息增益的均值來計(jì)算，而特征與特征的冗余使用的是特征和特征之間的互信息加和再除以子集中特征個(gè)數(shù)的平方。

（1）互信息

定義：給定兩個(gè)隨機(jī)變量x和y，他們的概率密度函數(shù)（對(duì)應(yīng)于連續(xù)變量）為p(x)，p(y)，p(x，y)，則互信 息為

互信息是信息論里一種有用的信息度量，它可以看成是一個(gè)隨機(jī)變量中包含的關(guān)于另一個(gè)隨機(jī)變量的信息量，或者說是一個(gè)隨機(jī)變量由于已知另一個(gè)隨機(jī)變量而減少的不確定性。

（2）mRMR目標(biāo)

mRMR的目標(biāo)就是找出含有m個(gè)特征的特征子集S，這m個(gè)特征需滿足以下兩點(diǎn)條件：

1）保證特征和類別的相關(guān)性最大；

2）確保特征之間的冗余性最小。

2.3 長短時(shí)記憶神經(jīng)網(wǎng)絡(luò)模型

由于RNN存在梯度消失的問題，學(xué)者提出了長短時(shí)記憶神經(jīng)網(wǎng)絡(luò)模型（Long Short-Term Memory，LSTM）來解決這個(gè)問題。除了隱狀態(tài)向量外，LSTM還維護(hù)一個(gè)能夠?qū)刂箷r(shí)間步所觀測到的信息進(jìn)行編碼的記憶單元。記憶單元由三個(gè)門結(jié)構(gòu)控制：輸入門、輸出門和遺忘門。

LSTM單元的具體結(jié)構(gòu)如圖2所示。在每一個(gè)時(shí)間步t，首先，遺忘門的向量f通過一個(gè)關(guān)于當(dāng)前時(shí)刻輸入x和上一個(gè)時(shí)刻的隱狀態(tài)f的函數(shù)得到。當(dāng)遺忘門的值接近1時(shí)，來自上一個(gè)記憶單元c的信息將會(huì)被保留，當(dāng)遺忘門的值接近0時(shí)，來自上一個(gè)記憶單元的信息將會(huì)被遺忘。之后，另一個(gè)關(guān)于當(dāng)前時(shí)刻輸入x和上一個(gè)時(shí)刻的隱狀態(tài)h的函數(shù)將會(huì)導(dǎo)出輸入門向量i。該輸入門向量將會(huì)被加到記憶單元中形成c。最后，輸出門將會(huì)決定哪些來自記憶單元的信息被用來形成新的新狀態(tài)h。

圖2 LSTM單元結(jié)構(gòu)圖

3 應(yīng)用案例

為驗(yàn)證本文所提出的方法，針對(duì)化學(xué)水處理的反滲透設(shè)備的一段壓差，基于本文提出的方法，進(jìn)行了4h和12h提前預(yù)測，為狀態(tài)的識(shí)別和預(yù)警提供方法和模型基礎(chǔ)。原始數(shù)據(jù)集的采樣間隔為10s，長度為1年。采用前文中的方法，剔除停機(jī)時(shí)間的數(shù)據(jù)，得到有效數(shù)據(jù)共計(jì)142萬組，其中訓(xùn)練數(shù)據(jù)占比70%，測試數(shù)據(jù)占比30%。

3.1 特征參數(shù)的選擇

利用mRMR方法，針對(duì)反滲透設(shè)備進(jìn)行了特征參數(shù)選擇，選擇結(jié)果見表1。

表1 特征參數(shù)選擇結(jié)果

3.2 模型建立和訓(xùn)練

利用特征參數(shù)選擇得到的參數(shù)，以及優(yōu)化選擇的時(shí)間窗口參數(shù)，構(gòu)建了多個(gè)LSTM訓(xùn)練模型，自動(dòng)篩選模型超參數(shù)，按訓(xùn)練結(jié)果從中選取合適的組合。

4h預(yù)測的LSTM模型最優(yōu)的層數(shù)為2層，神經(jīng)元的個(gè)數(shù)為10個(gè)。建立的短時(shí)記憶模型網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示。

圖3 長短時(shí)記憶模型網(wǎng)絡(luò)結(jié)構(gòu)

通過訓(xùn)練得到的預(yù)測結(jié)果如圖4所示。

圖4 差壓4h預(yù)測

對(duì)于12h預(yù)測模型，選擇網(wǎng)絡(luò)層數(shù)為2，通過訓(xùn)練，得到的預(yù)測結(jié)果如圖5所示。利用特征參數(shù)選擇得到的參數(shù)，構(gòu)建了訓(xùn)練模型，自動(dòng)篩選模型超參數(shù)，按訓(xùn)練結(jié)果從中選取合適的組合。

圖5 差壓12h預(yù)測

3.3 時(shí)間窗口參數(shù)優(yōu)化選擇

從機(jī)理的角度看，對(duì)于不同的目標(biāo)預(yù)測時(shí)長，最優(yōu)的輸入?yún)?shù)的時(shí)間間隔和窗口大小是不同的。對(duì)于4h和12h的壓差預(yù)測，本文分別計(jì)算了時(shí)間間隔為2 min和10 min， 窗口大小為2 h、3 h和4 h，對(duì)于預(yù)測準(zhǔn)確度的影響，最終得到的結(jié)果見表2和表3。

表2 4 h提前預(yù)測效果

表3 12 h提前預(yù)測結(jié)果

可以看到，當(dāng)預(yù)測時(shí)長為4 h時(shí)，數(shù)據(jù)間隔取10 min，數(shù)據(jù)窗口為3 h是預(yù)測效果最好。當(dāng)預(yù)測時(shí)長為12 h時(shí)，數(shù)據(jù)間隔為10 min，數(shù)據(jù)窗口為4 h，預(yù)測效果更好。

3.4 不同預(yù)測方法對(duì)比

作為對(duì)比，本文在相同輸入樣本之下，同時(shí)使用支持向量機(jī)SVR、隨機(jī)森林RF和集成學(xué)習(xí)梯度提升決策樹GBDT，SVR使用RBF核函數(shù)，隨機(jī)森林中數(shù)目的個(gè)數(shù)為100，GBDT中弱學(xué)習(xí)器的個(gè)數(shù)為100。

根據(jù)最終訓(xùn)練的結(jié)果（表4）可以得出。不論對(duì)于4h預(yù)測還是12 h預(yù)測，使用LSTM的精度要好于另外三種算法，進(jìn)一步證明了本文提出的組合算法的有效性。

表4 不同預(yù)測方法對(duì)比表

4 結(jié)束語

本文以火電廠化學(xué)水處理系統(tǒng)為對(duì)象，提出了一種基于mRMR和LSTM的時(shí)間序列預(yù)測方法，提供分層的超參優(yōu)化選擇思路，即首先使用mRMR來進(jìn)行特征參數(shù)的選擇，然后使用通過對(duì)比訓(xùn)練進(jìn)行時(shí)間序列的數(shù)據(jù)步長和窗口的選擇，最后進(jìn)行LSTM網(wǎng)絡(luò)層數(shù)和神經(jīng)元個(gè)數(shù)的超參選擇，最終完成模型的訓(xùn)練。

將該方法應(yīng)用在反滲透設(shè)備一段壓差的預(yù)測之中，分析了運(yùn)行數(shù)據(jù)中影響該參數(shù)的關(guān)鍵參數(shù)，針對(duì)4h和12h的差壓參數(shù)預(yù)測優(yōu)化選擇了時(shí)間步長和窗口大小的，最后建立基于長短時(shí)記憶模型網(wǎng)絡(luò)的參數(shù)預(yù)測模型，并通過與其他算法進(jìn)行對(duì)比，取得了較好的預(yù)測效果。本文所建立的方法可以為化學(xué)水處理系統(tǒng)短期趨勢預(yù)測和清洗周期預(yù)測提供方法支撐。同時(shí)也可以為相似設(shè)備的趨勢預(yù)測和清洗周期預(yù)測提供方法 支持。