雷慶文,高培強,李建林

(1.河北工程大學 水利水電學院,河北 邯鄲 056038; 2.河北工程大學 河北省智慧水利重點實驗室,河北 邯鄲 056038;3.中國礦業(yè)大學(北京) 煤炭資源與安全開采國家重點實驗室,北京 100083; 4.中國礦業(yè)大學(北京) 地球科學與測繪工程學院,北京 100083; 5.河南理工大學 資源環(huán)境學院,河南 焦作 454000)

1 研究背景

對徑流變化規(guī)律的研究是水資源合理開發(fā)利用的前提和基礎(chǔ)[1]。水文系統(tǒng)受到環(huán)境變化和人類活動的影響,使得河川徑流通常表現(xiàn)為復雜的非線性時間序列[2-3],因此,關(guān)于徑流的中長期預測始終是水文預報所研究的重難點問題[4-5]。水文預報模型主要可以分為過程驅(qū)動和數(shù)據(jù)驅(qū)動兩大類,基于物理機制的過程驅(qū)動模型通常需要大量的流域水文、氣象資料,模型又存在參數(shù)的率定結(jié)果和普適性差等問題,在實際的水文預報工作中很難被廣泛應用[6]。在不掌握多種影響徑流規(guī)律的因素和流域基礎(chǔ)水文資料的情況下,運用數(shù)據(jù)驅(qū)動模型進行徑流預報是非常有效的研究方法。隨著計算機技術(shù)和人工智能的發(fā)展,數(shù)據(jù)驅(qū)動的現(xiàn)代智能方法開始在徑流預報中被廣泛使用[7-9]。Feng等[10]采用量子行為粒子群優(yōu)化算法結(jié)合變分模態(tài)分解和支持向量機(Support Vector Machine,SVM)建立月徑流預測模型;李繼清等[11]利用反向傳播(Back Propagation,BP)神經(jīng)網(wǎng)絡(luò)擬合極點對稱模態(tài)分解(Extreme-point Symmetric Mode Decomposition,ESMD)后的徑流序列實現(xiàn)中長期徑流預測;徐冬梅等[12]采用最小二乘支持向量機(Least Squares Support Vector Machine,LSSVM)和自適應噪聲完備集合經(jīng)驗模態(tài)分解(Complete Ensemble Empirical Mode Decomposition with Adaptive Noise,CEEMDAN)實現(xiàn)對長水水文站月徑流的預測;Tan等[13]提出結(jié)合集合經(jīng)驗模態(tài)分解(Ensemble Empirical Mode Decomposition,EEMD)和人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network,ANN)的自適應中長期徑流預報模型;包麗娜等[14]先通過小波分解和相關(guān)向量機(Relevance Vector Machine,RVM)來預測徑流,最后再利用差分自回歸移動平均模型(Auto Regressive Integrated Moving Average,ARIMA)對小波分解和RVM的徑流預測結(jié)果進行修正。

對于多要素導致的復雜徑流過程,直接分析原始徑流序列無法充分地反映出不同特征疊加所形成的徑流變化規(guī)律?；诰植考訖?quán)回歸周期趨勢分解算法[15](Seasonal-Trend decomposition procedure based on Loess,STL)對非平穩(wěn)徑流序列進行分解,可有效提取其中由確定因素導致的周期和趨勢性信息及由隨機因素導致的波動性信息。通過卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network, CNN)對STL的分解結(jié)果進行濾波和特征抽取,過濾掉隨機擾動的影響,使有效信息向下傳遞。長短時記憶網(wǎng)絡(luò)(Long Short-Term Memory Network,LSTM)可對CNN的輸出結(jié)果提供良好的時序擬合,融合了時序分解和CNN-LSTM優(yōu)勢的STL-CNN-LSTM模型所需流域基礎(chǔ)資料少,而且預報精度也有一定保障,在工程實踐中有很好的可行性和實用性。

2 研究方法

2.1 STL算法

STL是一種通過局部加權(quán)回歸(Locally weighted scatterplot smoothing, Loess)將時間序列分解為加性的趨勢、季節(jié)和隨機波動余項分量的過濾方法,其特點是能夠得到穩(wěn)健的趨勢項和季節(jié)項,受數(shù)據(jù)中短暫的異常行為扭曲影響較小。通過STL將具有季節(jié)特性的月徑流時間序列分解,能夠更加充分地揭示出其中的季節(jié)性、持續(xù)性和非平穩(wěn)性特征。 徑流序列觀測值可分解為

xt=Tt+St+Rt,t=1, 2,…,N。

(1)

式中:xt、Tt、St和Rt分別表示t時刻的徑流序列觀測值、趨勢項、季節(jié)項和余項。Loess是一種局部加權(quán)回歸擬合方法,STL算法的核心是Loess的迭代過程,總體可分為內(nèi)循環(huán)與外循環(huán)。內(nèi)循環(huán)的迭代過程如下。

內(nèi)循環(huán)得到的余項R中的較大值被視為異常值,外循環(huán)通過引入穩(wěn)健權(quán)重來克服內(nèi)循環(huán)過程中的異常殘差值,在內(nèi)循環(huán)下一次迭代的步驟(3)和步驟(7)進行Loess平滑時,對鄰接權(quán)重乘以穩(wěn)健權(quán)重,可減小先前迭代中識別的異常值的影響,從而提高算法的魯棒性。

2.2 CNN

CNN是一個由卷積層和子采樣層構(gòu)成的特征提取器,具有局部連接、權(quán)重共享等特性。典型的CNN模型結(jié)構(gòu)主要有卷積層進行卷積運算提取數(shù)據(jù)內(nèi)部特征;批標準化使數(shù)據(jù)更為有效地向下傳遞;子采樣層去除不必要信息,有益于提高網(wǎng)絡(luò)的泛化能力和計算速度。一維卷積被廣泛應用于信號延遲累計的計算。信號序列x和卷積核ω的卷積y定義為:y=ω*x。假設(shè)卷積核的長度為K,則t時刻的卷積計算結(jié)果為

(2)

式中:xt-k+1為t-k+1時刻信號;ωk為信息衰減率。

卷積的作用是提取局部區(qū)域特征,不同的卷積核相當于不同的特征提取器。相比于以往研究通過分析徑流序列的偏自相關(guān)性來確定模型的輸入因子[10, 17],本文直接對STL的各分解成分進行卷積,可有效地簡化建模過程。

2.3 LSTM神經(jīng)網(wǎng)絡(luò)

LSTM是循環(huán)神經(jīng)網(wǎng)絡(luò)的一種變體,可有效解決簡單循環(huán)神經(jīng)網(wǎng)絡(luò)梯度爆炸或梯度消失的問題。LSTM的記憶單元c保存信息的生命周期長于短期記憶h,但短于網(wǎng)絡(luò)參數(shù),因此被稱為長短時記憶網(wǎng)絡(luò)。LSTM網(wǎng)絡(luò)循環(huán)單元結(jié)構(gòu)如圖1所示。

圖1 LSTM網(wǎng)絡(luò)循環(huán)單元結(jié)構(gòu)Fig.1 Recurrent unit structure of LSTM network

(3)

(4)

式中:W和U均表示權(quán)重;b為偏置;下標i、o、f分別表示輸入、輸出、遺忘的含義。

2.4 STL-CNN-LSTM模型

2.4.1 基于STL-CNN-LSTM的徑流預測

STL時序分解和CNN-LSTM相融合的月徑流預報模型是利用STL提取原始徑流序列的時序分量特征,通過CNN對STL的分量特征序列進行濾波和特征重提取,并將重提取的特征序列送入具有強大時序擬合能力的LSTM網(wǎng)絡(luò),最后由全連接層輸出預測結(jié)果。STL-CNN-LSTM計算流程如圖2所示。

圖2 STL-CNN-LSTM計算流程Fig.2 Calculation process of STL-CNN-LSTM

圖2中STL-CNN-LSTM月徑流預報模型的計算過程如下:

(1)STL算法首先將原始月徑流時間序列分解為一個由趨勢項、季節(jié)項和余項構(gòu)成的特征向量組:{TN,SN,RN}。

(2)卷積層的輸入特征映射組為一個二維張量FT∈Rτ×3,其中,τ為CNN輸入特征映射窗口的寬度,相應的公式為:

(5)

(6)

(7)

(8)

式中:xi為第i個訓練樣本所對應時刻的實測徑流值;xci為模型輸出的預測值;m為訓練模型的樣本個數(shù)。

2.4.2 特征時窗寬度

CNN輸入特征映射窗口寬度τ的選擇是STL-CNN-LSTM模型中較為重要的一個參數(shù),該模型主要通過時窗中的歷史數(shù)據(jù)來恢復水文徑流系統(tǒng)隨時間的變化規(guī)律,從而實現(xiàn)對未來響應變量的預測。時間窗口選擇過大,雖然可以充分提取出時間序列中的相關(guān)信息,但同時也引入了更多隨機噪聲的影響,而選擇過小又無法完全揭示響應變量與歷史特征時序的相關(guān)性。

雖然STL分解后的各子序列與原始徑流序列具有不同的滯后顯著相關(guān)性,但月徑流數(shù)據(jù)有很強的年際變化規(guī)律。因此,在本研究中采用一種改進的粒子群優(yōu)化算法(IPSO)[18]在τ∈[12,48]的區(qū)間內(nèi)結(jié)合模型預報效果確定τ的取值。特征時窗寬度反映滯后τ個月內(nèi)的各子序列特征對第τ+1個月徑流xτ+1的影響,CNN-LSTM模型能對二者間的非線性函數(shù)關(guān)系提供很好的擬合。

3 模型驗證

模型驗證的徑流數(shù)據(jù)采用國家冰川凍土沙漠科學數(shù)據(jù)中心(www.ncdc.ac.cn)提供的黑河流域討賴河1956—2009年的648個月徑流數(shù)據(jù)。

3.1 模型評價指標

采用均方根誤差RMSE、確定性系數(shù)DC、平均絕對百分比誤差MAPE、相關(guān)系數(shù)R定量評價模型性能?！端那閳箢A報規(guī)范》(GB/T 22482—2008)規(guī)定[19],中長期徑流預報相對誤差RE<20%則視為合格預測值。實際工程常用合格預測在所有預測結(jié)果中的占比,即預報合格率QR,來度量模型的預報有效性。對應公式為:

(9)

(10)

(11)

(12)

3.2 STL分解結(jié)果

月徑流數(shù)據(jù)通常具有明顯的以年為周期的季節(jié)性效應,采用STL算法將討賴河的月徑流數(shù)據(jù)分解為以12個月為周期的季節(jié)分量、以及反映序列趨勢變化的趨勢項和反映徑流序列隨機波動的余項(圖3)。

圖3 徑流時間序列STL分解結(jié)果Fig.3 STL decomposition results of runoff time series

3.3 預測結(jié)果分析

將討賴河1956—2009年的前44 a的實測月徑流數(shù)據(jù)作為模型訓練樣本,用以率定模型,后10 a的120個月徑流數(shù)據(jù)用于驗證模型的預報效果。使用1層CNN和1層LSTM網(wǎng)絡(luò)搭建CNN-LSTM混合神經(jīng)網(wǎng)絡(luò)模型。其中,特征時窗寬度、CNN的卷積核個數(shù)、LSTM網(wǎng)絡(luò)記憶單元個數(shù)和舍棄層的舍棄概率均可通過IPSO算法來輔助選取。IPSO的搜索目標是找到一組超參數(shù)使預測結(jié)果的均方根誤差最小。當CNN的輸入特征映射窗口寬度τ=24時,模型的預報效果較好,因此,確定所有分量特征的滯后時長為24個月。即將前24個月的分量子序列作為模型的輸入特征,第25個月的徑流值作為模型的輸出預報值,預見期為1個月。分別對比LSTM、STL-CNN、STL-CNN-LSTM模型的預報效果。各模型的預測結(jié)果如圖4和表1所示。

表1 不同模型預報效果對比Table 1 Comparison of forecast performance among different models

圖4 各模型的徑流預報結(jié)果Fig.4 Results of runoff forecast by different models

結(jié)合圖4和表1中各模型預報效果的評價指標可以看出,常規(guī)的單一LSTM模型預測值與實測值的誤差較大,擬合效果最差。STL對徑流時間序列進行分解,可有效提取其中所隱含的特征信息。徑流特征信息經(jīng)過 CNN的濾波和重采樣后,能更好的被LSTM網(wǎng)絡(luò)所識別,使得模型預報準確性得到明顯提高。融合STL的CNN模型和CNN-LSTM模型的確定性系數(shù)和預報合格率分別能達到甲級預報模型要求的0.90和85.0%的標準。STL-CNN相較于STL-CNN-LSTM模型對枯水月份的小流量數(shù)據(jù)擬合較好,但對徑流序列峰值偏差較為明顯。STL-CNN-LSTM有更為復雜的模型結(jié)構(gòu),對徑流序列有更好的擬合效果,預測結(jié)果更接近實際徑流,除預報合格率低于STL-CNN模型外,其余指標均為所有模型中最好。以上分析結(jié)果驗證了本研究所提出的模型具有較高的準確性和優(yōu)越性。

3.4 預測結(jié)果討論

流域長序列徑流受到人類活動和環(huán)境變化的影響,在訓練模型時通常需要對徑流序列進行變異診斷。對去除了確定性周期成分的月徑流序列,采用Mann-Kendall法和Pettitt法[20]判定討賴河的月徑流在1985年左右發(fā)生突變。關(guān)于變異序列的處理方式很多,受文章篇幅限制,本研究不對此展開討論。理論認為機器學習模型能夠捕捉并學習到氣候變化和人類活動部分信息,并相應的體現(xiàn)在模型參數(shù)變化上[6]。所以可選擇突變后的徑流序列作為衡量模型穩(wěn)定性的測試數(shù)據(jù),通過調(diào)整參數(shù),如果測試效果表現(xiàn)較好,則說明此模型對人類活動和環(huán)境變化具備一定的適應性。

冰溝水文站受2001年興修水利工程的影響失去了測站控制條件,討賴河的流量監(jiān)測站點從冰溝水文站下遷至嘉峪關(guān)水文站。為檢驗本研究所提模型在徑流規(guī)律受到人類活動和環(huán)境變化影響下的預報效果,將上游修建了水利工程后的徑流數(shù)據(jù)作為測試集。從預測結(jié)果來看,此模型具有較好的穩(wěn)定性和泛化能力。但自2004年后討賴河1月份的實測徑流量出現(xiàn)了歷史從未有過的最低值,圖5反映了各模型在10 a的月徑流預報中,各月份滿足預報相對誤差RE<20%的情況,可以看出幾乎所有模型對1月份的徑流預測效果均表現(xiàn)不佳。STL-CNN-LSTM模型相較于STL-CNN模型有更強的非線性擬合能力,但受隨機擾動的影響也更明顯。在以MSE為損失函數(shù)時,神經(jīng)網(wǎng)絡(luò)的參數(shù)更新會傾向于使徑流序列峰值得到更好的擬合,從而造成了對枯水期徑流的一般變化規(guī)律捕捉不足,導致枯水期的預報合格率低于STL-CNN模型。總體來看,STL對徑流序列進行分解,可使得徑流變化規(guī)律更易被神經(jīng)網(wǎng)絡(luò)所識別。

圖5 不同模型各月份預測合格數(shù)量Fig.5 Number of qualified forecasts by different models in each month

4 結(jié) 論

為提高非平穩(wěn)性徑流序列的預報準確性,提出一種STL時序分解和CNN-LSTM相融合的月徑流預報模型。以討賴河的月徑流預測分析為例,對比各模型效果,可以得到以下結(jié)論:

(1)相較常規(guī)的LSTM模型,采用徑流時序分解技術(shù),能更好地呈現(xiàn)出徑流的周期、趨勢等本質(zhì)特征,使得非平穩(wěn)徑流信號能更好地被CNN-LSTM混合神經(jīng)網(wǎng)絡(luò)模型所識別。因此,可以較為顯著地提高模型的預測能力。

(2)預報模型對徑流時間序列的廣泛性、波動性、典型性非常敏感,選擇適當?shù)哪Ｐ湍軌蛴行У靥岣哳A測的效率和精度。

(3)CNN-LSTM混合神經(jīng)網(wǎng)絡(luò)模型的輸入并不局限于徑流序列,在后期研究中還可加入一些影響徑流變化規(guī)律的特征數(shù)據(jù),如降水、蒸發(fā)等氣象數(shù)據(jù)以及一些與徑流遙相關(guān)的海溫指數(shù)和大氣環(huán)流等數(shù)據(jù)。通過考慮動力學特征的成因分析模型對環(huán)境變化和人類活動的適應性要更強。