由于波高極大,發(fā)生突然,消失快速,畸形波具有破壞力極強(qiáng)和預(yù)報(bào)難度大的特點(diǎn),對船舶和海洋工程產(chǎn)生了巨大的潛在危險(xiǎn),人們對其研究傾注了大量的精力,研究方法包括數(shù)值實(shí)驗(yàn)、物理實(shí)驗(yàn)和理論分析等,使得畸形波研究成為非線性水波研究領(lǐng)域的熱點(diǎn)問題.目前人們對畸形波產(chǎn)生和演化機(jī)制的認(rèn)識(shí)仍然缺乏清晰統(tǒng)一的認(rèn)識(shí).
教育是國之重器、發(fā)展的根本,而卓越工程師計(jì)劃又是“新時(shí)代工科創(chuàng)新型人才”培養(yǎng)的方向、目標(biāo)與根本,學(xué)科競賽是創(chuàng)新型人才培養(yǎng)的方法與途徑,也是提高學(xué)生實(shí)踐技能和動(dòng)手能力的重要環(huán)節(jié)。我們的學(xué)生可以通過學(xué)科競賽來加深自己理論知識(shí)與創(chuàng)新實(shí)踐能力的融合度,提高自身在未來就業(yè)中的競爭力;學(xué)校則可以通過學(xué)科競賽來增強(qiáng)學(xué)校的科研創(chuàng)新能力,實(shí)現(xiàn)卓越工程師的培養(yǎng)目標(biāo)。最終完成建設(shè)創(chuàng)新型國家和人才強(qiáng)國戰(zhàn)略目標(biāo),同時(shí),也為社會(huì)主義現(xiàn)代化強(qiáng)國建設(shè)提供強(qiáng)大的人才支撐。
對于機(jī)制復(fù)雜難以建立物理模型的問題,人們基于實(shí)驗(yàn)數(shù)據(jù),采用時(shí)間序列分析方法,如差分自回歸移動(dòng)(Auto-Aggressive Integrated Moving Average, ARIMA)模型,卡爾曼濾波(Kalman Filtering,KF)和經(jīng)驗(yàn)?zāi)J椒纸?Empirical Mode Decomposition, EMD)等方法.王淑華對馮家山水庫的主汛期水位進(jìn)行了基于ARIMA模型的預(yù)測,結(jié)果表明ARIMA模型對水庫水位數(shù)據(jù)預(yù)報(bào)效果顯著.孫逸群等基于閩江流域的邵武盆洪水?dāng)?shù)據(jù),通過卡爾曼老濾波方法預(yù)報(bào),預(yù)報(bào)效果良好,可以用來預(yù)報(bào)洪水.闞世宜等對海洋有義波高序列進(jìn)行了EMD分解,結(jié)果表明EMD通過分解時(shí)序數(shù)據(jù),預(yù)報(bào)效果良好.
近年來,采集數(shù)據(jù)的積累,機(jī)器學(xué)習(xí)方法得到了廣泛應(yīng)用,開始應(yīng)用于畸形波領(lǐng)域的預(yù)報(bào). Doong等采用人工神經(jīng)網(wǎng)絡(luò)模型預(yù)報(bào)畸形波,表明模型具有一定的可行性. 趙勇等采用深度機(jī)器學(xué)習(xí)模型長短時(shí)記憶(Long Short-Term Memory, LSTM)神經(jīng)網(wǎng)絡(luò)模型預(yù)報(bào)畸形波,精度比傳統(tǒng)的誤差后向傳播(Back Propagation, BP)神經(jīng)網(wǎng)絡(luò)模型、支持向量機(jī)(Support Vector Machin, SVM)模型的預(yù)報(bào)精度高,并且在長程預(yù)報(bào)上具有明顯優(yōu)勢.本文為進(jìn)一步提高LSTM模型預(yù)報(bào)畸形波,擬通過組合方式,結(jié)合兩種模型(或方法)的各自優(yōu)點(diǎn),提升預(yù)報(bào)精度,組合模型在其他領(lǐng)域有成功應(yīng)用.陸繼翔等提出一種基于卷積神經(jīng)網(wǎng)絡(luò)(Convolution Neural Networks, CNN)和LSTM的組合模型預(yù)報(bào)非線性電力短期負(fù)荷,先采用CNN進(jìn)行特征提取,再用LSTM進(jìn)行預(yù)測的方式,結(jié)果證明精度有一定的提升.晏臻等提出了CNN與LSTM組合的交通流量預(yù)測模型,將CNN提取出的數(shù)據(jù)空間關(guān)聯(lián)性與LSTM挖掘的數(shù)據(jù)時(shí)序性進(jìn)行融合,預(yù)報(bào)精度較好.魏驁等將LSTM與EMD結(jié)合用來預(yù)測電力負(fù)荷,將原始電力負(fù)荷輸入EMD模型中分解得到各分量,分別輸入到LSTM中進(jìn)行預(yù)測,預(yù)報(bào)精度得到提升.
Srivastava等利用循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN),梯度提升算法(GBM)和LSTM混合模型對電力值進(jìn)行短期預(yù)測,最后三者整合得出結(jié)果,預(yù)報(bào)效果較好.Zhai等利用ARIMA和BP的混合模型對時(shí)間序列進(jìn)行預(yù)測,預(yù)測結(jié)果證明,混合模型確實(shí)提高了預(yù)測精度,可用于實(shí)際預(yù)報(bào).Jain等將傳統(tǒng)時(shí)間序列預(yù)測模型與人工神經(jīng)網(wǎng)絡(luò)結(jié)合,用于預(yù)測科羅拉多河的流量數(shù)據(jù),證明此混合模型既利用了時(shí)間序列預(yù)測非線性特性的優(yōu)點(diǎn),也構(gòu)建了穩(wěn)健的神經(jīng)網(wǎng)絡(luò)模型,有效提高了時(shí)間序列預(yù)測精度.
參考經(jīng)典文獻(xiàn)中的定義,以超過2倍有義波高定義為畸形波.本文將在LSTM的基礎(chǔ)上,與CNN、EMD、ARIMA及KF結(jié)合,較為全面地考查組合模型對畸形波預(yù)報(bào)精度的影響.介紹畸形波數(shù)據(jù)來源、LSTM及4種組合模型網(wǎng)絡(luò)結(jié)構(gòu)、模型參數(shù)及各組合模型的精度對比.
CNN是由Lecun等提出,由1個(gè)輸入層、1個(gè)輸出層和幾個(gè)隱藏層組成.隱藏層可以分為卷積層、池化層和全連接層.卷積層和池化層是核心,可以提取特征,減少模型參數(shù)的數(shù)量,加快訓(xùn)練速度.相對功能而言,CNN更適合特征提取, LSTM 更適合時(shí)間記憶,將二者結(jié)合結(jié)合更有利于畸形波預(yù)測.圖2所示為CNN-LSTM模型網(wǎng)絡(luò)結(jié)構(gòu)圖, 圖中Conv1D為一維卷積層.
模型訓(xùn)練是平均相對誤差:
對所取地區(qū)土壤進(jìn)行重塑得到新的試樣,分別按無根系、少根系、淺根系、深根系制作試樣,每組4個(gè)試件,共16個(gè)。
數(shù)據(jù)來源于某島礁地形模型的波浪演化實(shí)測數(shù)據(jù),對波高數(shù)據(jù)進(jìn)行采樣,采樣頻率50 Hz, 每個(gè)時(shí)間序列波高數(shù)據(jù)數(shù)目 4 096 個(gè).在多個(gè)時(shí)間序列中,發(fā)現(xiàn)了3個(gè)典型的畸形波時(shí)間序列(表中工況 1~3),各參數(shù)信息如表1所示.
⑤ René Prieto.Miguel ángel Asturias’s archaeology of returnng.New York:Cambridge University Press,1983,P32.
卡爾曼濾波算法可以分為兩部分:時(shí)間更新方程(預(yù)測階段)和測量更新方程(反饋階段).時(shí)間更新方程負(fù)責(zé)在時(shí)間上向前推進(jìn)當(dāng)前狀態(tài)和誤差協(xié)方差,獲得即將到來的時(shí)間步長的先驗(yàn)估計(jì),測量更新方程負(fù)責(zé)反饋,即獲取實(shí)際測量值并改變參數(shù)來改進(jìn)卡爾曼濾波.因此,時(shí)間更新方程可以看作是預(yù)測,而測量更新方程可以看作是校正.LSTM模型只能預(yù)報(bào)時(shí)間序列的一部分特性,容易在某一因素上有波動(dòng)性誤差,卡爾曼可以修復(fù)這種誤差.因此,利用LSTM作為靜態(tài)預(yù)測模型預(yù)測原始畸形波時(shí)序數(shù)據(jù),以此作為基礎(chǔ)時(shí)間序列,再利用Kalman濾波進(jìn)行調(diào)整,有望提升預(yù)報(bào)精度.
ARIMA模型可以使時(shí)間序列數(shù)據(jù)趨于平穩(wěn),且使因變量只基于其延遲值以及當(dāng)前的誤差值而變化.利用 LSTM模型對傳統(tǒng)的ARIMA模型進(jìn)行了改進(jìn).ARIMA-LSTM模型不僅保持了穩(wěn)定性和可解釋性,相比于傳統(tǒng)的ARIMA模型,同時(shí)也吸收了長短時(shí)記憶深度學(xué)習(xí)模型對時(shí)間序列學(xué)習(xí)的優(yōu)點(diǎn).在實(shí)際應(yīng)用中, LSTM-ARIMA模型可以降低深度學(xué)習(xí)校正過程的復(fù)雜性,保證高頻時(shí)間序列的時(shí)效性.網(wǎng)絡(luò)結(jié)構(gòu)如圖4所示,先用ARIMA將畸形波分為線性部分和非線性部分,再將LSTM模型運(yùn)用于ARIMA處理過的非線性部分,最后將兩者預(yù)測結(jié)果疊加.
EMD能反映信號(hào)的固有特性,利用EMD分解,得到一組固有模態(tài)函數(shù)和殘差.EMD具有良好的時(shí)頻分辨率,通過信號(hào)分解,消除原始序列的自相關(guān)性,因此,被廣泛應(yīng)用于非線性時(shí)間序列的預(yù)處理.如圖3所示,EMD 可以將數(shù)據(jù)分解為不同分量,從而降低原始數(shù)據(jù)的非平穩(wěn)性與復(fù)雜度.兩者結(jié)合同時(shí)具備很好的非線性擬合能力和時(shí)間記憶能力,預(yù)測精度有望得到提高.
LSTM具有存儲(chǔ)單元和端口內(nèi)存,是RNN的一種改進(jìn)結(jié)構(gòu).傳統(tǒng)的RNN不能解決長期依賴的問題,容易出現(xiàn)“梯度消失”現(xiàn)象.LSTM在RNN結(jié)構(gòu)上引入門控機(jī)制的概念,通過輸入門、遺忘門和輸出門控制網(wǎng)絡(luò)中數(shù)據(jù)信息的流動(dòng).輸入門決定輸入多少信息,對輸入數(shù)據(jù)進(jìn)行一次濾波,去除無用信息.遺忘門決定從當(dāng)前單元中丟棄哪些信息,而有價(jià)值的信息被保留下來.輸出門控制當(dāng)前單元的數(shù)據(jù)信息.LSTM網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示.圖中:為單元的存儲(chǔ)狀態(tài);為時(shí)間的隱含狀態(tài);為時(shí)刻的遺忘門;為時(shí)刻的輸入門;為時(shí)刻的輸出門;為S型函數(shù);為時(shí)刻的導(dǎo)入值.
式中:為預(yù)測值;為數(shù)據(jù)樣本的真實(shí)數(shù)值;為樣本總量. 訓(xùn)練的過程就是誤差不斷減少并最終收斂的過程.由于具有收斂快的優(yōu)點(diǎn),本文采用Adam算法優(yōu)化方法,LSTM及其組合模型的其他超參數(shù)設(shè)置如表2所示.其中,LSTM-CNN模型采用的Maxpooling1D窗口大小為2,filters(過濾器的個(gè)數(shù))為64,kernel_size(卷積核的大小)為2,dense層神經(jīng)元個(gè)數(shù)為100.LSTM-EMD模型采用的 n_hours (輸入層的時(shí)間步)為4,閾值為5,dense層神經(jīng)元個(gè)數(shù)為1,kernel_regularizer(正則化)為l2(0.005),recurrent_regularizer(施加在循環(huán)核上的正則項(xiàng))為l2(0.005).LSTM-ARIMA模型采用的移動(dòng)平均階數(shù)和自回歸階數(shù)均為3.LSTM-Kalman模型采用的dense層神經(jīng)元個(gè)數(shù)為1,卡爾曼niter數(shù)為4.
(1)
我應(yīng)該帶著他去找火車站安保人員。結(jié)果給他買了一排四瓶包裝的娃哈哈A D鈣奶大瓶之后,一個(gè)矮小黝黑的女人突然沖過來,把他給拉走了。女人身上背著大得嚇人的兩個(gè)包,神色有些憤怒。在最后被扯開的時(shí)候,那小孩還試圖從我手上把剩下三瓶娃哈哈拿走。
工況1屬于單峰型畸形波,其有義波高=4.59 cm,時(shí)間=77.34 s時(shí)最大波高=9.63 cm,此時(shí)波高比達(dá)到了2.11,產(chǎn)生了畸形波,波高時(shí)間序列如圖5(a)所示,圖中為波高.工況2也屬于單峰型畸形波,其=2.89 cm,=45.96 s 時(shí)達(dá)到峰值=6.33 cm,波高比為2.19,波高時(shí)間序列如圖5(b)所示.工況3屬于三姐妹型畸形波,=2.89 cm,=45.96 s 時(shí)達(dá)到峰值=6.36 cm.此類畸形波可以連續(xù)產(chǎn)生幾個(gè)大波具有持續(xù)性強(qiáng)的特點(diǎn),波高時(shí)間序列如圖5(c)所示.
(1) 工況1.
工況1畸形波形狀為單峰型,測點(diǎn)地形位置使得其特點(diǎn)為近岸淺水區(qū),此處地形變化激烈,容易產(chǎn)生畸形波.工況1的訓(xùn)練集和測試集都有明顯的畸形波,取訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)的期間分別為0~57.36 s和57.38~81.88 s,工況1各種模型的預(yù)報(bào)結(jié)果與真實(shí)值比較如圖6(a)~6(e)所示,圖6(f)中為真實(shí)值與預(yù)測值之間的誤差.
預(yù)報(bào)結(jié)果顯示,除了畸形波時(shí)刻附近,其余時(shí)間幾乎為重合,后續(xù)工況2和工況3中將不給出真實(shí)波高與預(yù)報(bào)波高對比圖.為突出不同預(yù)測模型對畸形波的預(yù)報(bào)精度,給出了畸形波時(shí)刻附近的預(yù)報(bào)誤差比較,如圖6(f)所示.5種模型預(yù)報(bào)誤差在畸形波附近誤差表現(xiàn)有較大差別,相較于LSTM單一模型,4種LSTM組合模型對于畸形波的預(yù)測精度都有明顯提升.
第三,學(xué)生自身忽視小組合作學(xué)習(xí)方式的重要性,參與度不高.小組一般情況下都是由4~6人組成,其中一本有社交能力比較強(qiáng),成績比較好的學(xué)生,也有社交能力弱,成績較差的學(xué)生.在進(jìn)行某個(gè)知識(shí)點(diǎn)的合作探究的時(shí)候,成績比較弱的學(xué)生往往不參與,僅僅在旁邊聽,或者是處在走神狀態(tài),根本沒有參與到小組中來.如此便不會(huì)得到能力的提升以及知識(shí)的鞏固.
(2) 工況2.
與工況1不同的是,只有測試集期間的數(shù)據(jù)畸形波程度明顯.預(yù)報(bào)結(jié)果如圖7所示.測點(diǎn)地形位置屬于非線性變化區(qū)域,海底海山處變化較大,總體來說此類區(qū)域畸形波生成的概率較大.工況2訓(xùn)練集數(shù)據(jù)為0~39.32 s,測試集期間的數(shù)據(jù)為39.34~63.84 s,訓(xùn)練集畸形波特征不明顯,測試集包含明顯畸形波.
由圖7可知,相比于LSTM模型,LSTM組合模型效果更優(yōu).
應(yīng)邀出席慶典的領(lǐng)導(dǎo)還有農(nóng)業(yè)農(nóng)村部全國農(nóng)業(yè)技術(shù)推廣服務(wù)中心處長田有國、農(nóng)業(yè)農(nóng)村部耕地質(zhì)量監(jiān)測保護(hù)中心處長馬常寶、國家微生物肥料技術(shù)研究推廣中心主任孟慶偉、國家農(nóng)工委土壤修復(fù)治理中心副主任李運(yùn)明、中國種子集團(tuán)副總經(jīng)理姜濤。
(3) 工況3.
工況3的訓(xùn)練集數(shù)據(jù)區(qū)間為0~49.14 s,測試集數(shù)據(jù)為49.16~73.66 s,其中測試集數(shù)據(jù)畸形波特征明顯.由圖8可知,LSTM組合模型預(yù)報(bào)畸形波的精度比單一LSTM模型具有顯著的優(yōu)勢.
隨著英國電子商務(wù)的快速發(fā)展,網(wǎng)上購物活動(dòng)日益頻繁。但是,網(wǎng)上零售商、購物者、送貨服務(wù)等方面都存在著一些問題,這對英國電子商務(wù)的發(fā)展和擴(kuò)張有著重要的影響。與此同時(shí),留學(xué)生是英國在線購物市場的主要群體之一。因此,本文對在英留學(xué)生網(wǎng)上購物行為展開了深入的調(diào)查和研究,作者認(rèn)為,這將有利于在線零售商或公司針對留學(xué)生采取一些相應(yīng)的營銷策略或社交媒體戰(zhàn)略來促進(jìn)他們的產(chǎn)品或服務(wù),以此來提高營業(yè)額,最終獲得更高的利潤??傮w而言,本論文對第二部分所提到的研究問題進(jìn)行了回答和論述。
3個(gè)畸形波時(shí)間序列預(yù)報(bào)的平均相對誤差如表3所示.可以看出,LSTM組合模型預(yù)報(bào)精度均得到了顯著提升.具體情況為LSTM-CNN模型精度最好,LSTM-ARIMA模型次之,LSTM-EMD模型和LSTM-Kalman更次之,LSTM效果最差,這個(gè)排序在3個(gè)畸形波序列預(yù)報(bào)中均是如此.相比較于單一LSTM模型,LSTM-CNN組合模型在3個(gè)畸形波時(shí)間序列預(yù)報(bào)的精度分別提升45.1%、74.7%及50.9%,精度得到顯著提升.
需要說明的是,平均相對誤差反映的是全局預(yù)報(bào)精度,但從畸形波的局部范圍看,結(jié)合模型的預(yù)報(bào)精度更加具有明顯優(yōu)勢,特別是LSTM-CNN模型表現(xiàn)最好.
基于某島礁地形模型的波高時(shí)間序列中發(fā)現(xiàn)的3個(gè)畸形波時(shí)間序列,針對長短時(shí)記憶神經(jīng)網(wǎng)絡(luò),發(fā)展了其與CNN、EMD、ARIMA及KF這4種模型的組合組合,考察了4種組合模型對畸形波預(yù)報(bào)精度的提升效果.結(jié)果表明,采用平均相對誤差評判,4種LSTM組合模型在3個(gè)畸形波時(shí)間序列中預(yù)報(bào)精度均得到了顯著改善.4種組合模型中,LSTM-CNN組合精度提升最為明顯,且誤差分布較其他LSTM模型更均勻.因此,LSTM-CNN模型是預(yù)報(bào)畸形波的一種理想組合模型.后續(xù)研究中,將通過畸形波數(shù)值模擬方法,得到流場速度和壓力等信息,從而建立更多變量的機(jī)器學(xué)習(xí)模型預(yù)報(bào),用于船舶與海洋平臺(tái)的載荷預(yù)報(bào).