包滿
(四川大學華西醫(yī)院,四川成都 610041)
電力負荷預測是電力分配調(diào)度的基礎,也是電力發(fā)展規(guī)劃的依據(jù),提高電力負荷預測的準確率,對增加電力系統(tǒng)效益,維護電力系統(tǒng)穩(wěn)定有著至關(guān)重要的意義[1]。隨著計算機技術(shù)和大數(shù)據(jù)理論的發(fā)展,智能化方法不斷興起,大數(shù)據(jù)分析理論和智能化技術(shù)在電力負荷預測中的應用研究越來越多,智能化負荷預測系統(tǒng)逐漸成為電網(wǎng)管理系統(tǒng)中專門的子系統(tǒng)[2]。人工神經(jīng)網(wǎng)絡算法憑借強大的自學習能力和非線性映射能力,在電力負荷預測模型中取得了良好的預測效果。但傳統(tǒng)的神經(jīng)網(wǎng)絡模型存在一些不足之處,如訓練周期長、容易陷入局部最優(yōu)值等[3]。此次研究以Elman 神經(jīng)網(wǎng)絡模型進行短期電力負荷預測,并對其進行算法優(yōu)化及仿真實驗,通過優(yōu)化后的算法可以提高負荷預測的精度。
人工神經(jīng)網(wǎng)絡通過對負荷數(shù)據(jù)的內(nèi)在變化規(guī)律進行分析,從而對輸入變量和負荷建立數(shù)學函數(shù)表達,其特點在于高度的非線性、自適應和自學習性、并行分布處理以及容錯性。由于神經(jīng)網(wǎng)絡的基本結(jié)構(gòu)是神經(jīng)元之間的分布式連線,因此在數(shù)據(jù)量較大的情況下,可以進行信息的并行分布處理,這一結(jié)構(gòu)保證了算法處理效率[4]。作為神經(jīng)網(wǎng)絡的基本組成單元,神經(jīng)元的結(jié)構(gòu)如圖1 所示。
由于在平面阻尼型欠驅(qū)動夾持器連桿間添加了彈簧力,使得該機構(gòu)滿足最小阻尼定律[18],即沿最小阻尼方向運動時,盡管其自由度數(shù)目大于驅(qū)動數(shù)目,也不會呈現(xiàn)運動狀態(tài)不確定的現(xiàn)象。圖1為典型的二自由度平面阻尼型欠驅(qū)動夾持器,其中:β為EA與水平方向的夾角,γ為桿3和桿5之間的夾角;v為點E到夾持器對稱軸的距離,G為夾持器最大開口范圍。夾持器左右對稱,以右側(cè)結(jié)構(gòu)為例,弱彈簧安裝于驅(qū)動桿1、推動桿2之間,可在運動過程中對鉸鏈B添加阻尼。由于彈簧剛度很小,在建立夾持力模型時弱彈簧力可以忽略不計。
老四翻轉(zhuǎn)一下手里的槍,把槍管頂在皮特的腦門上,將子彈上膛。皮特張著嘴僵在那里,一動不動,哈欠打到一半。
圖1 神經(jīng)元結(jié)構(gòu)
觀察神經(jīng)元抽象模型可以發(fā)現(xiàn),每個神經(jīng)元都有自己的閾值θ,根據(jù)傳遞的信號是否高于閾值判斷神經(jīng)元是否處于興奮狀態(tài)。當傳遞的信號高于閾值θ時,神經(jīng)元處于興奮狀態(tài),否則神經(jīng)元就處于抑制狀態(tài)[5]。設神經(jīng)元的輸入向量及其連接權(quán)重分別為{x1,x2,…,xn} 和{wj1,wj2,…,wjn},神經(jīng)元的輸出值為yi,神經(jīng)元的閾值為θ,可以用以下計算公式表示神經(jīng)元的輸出:
圖5 為Elman 神經(jīng)網(wǎng)絡結(jié)構(gòu)圖,結(jié)合網(wǎng)絡結(jié)構(gòu)進行算法流程分析,Elman 神經(jīng)網(wǎng)絡有四大組成部分,分別是輸入層、隱含層、承接層和輸出層,其中承接層主要對隱含層信息進行存儲,這一部分具有動態(tài)記憶的功能。Elman 神經(jīng)網(wǎng)絡首先對各層連接權(quán)值初始化,然后對訓練數(shù)據(jù)進行歸一化處理,將處理后的數(shù)據(jù)樣本作為輸入,傳遞到隱含層、輸出層,接下來對實際輸出和期望輸出進行誤差精度對比。如果輸出誤差不滿足精度要求,則將計算值返回承接層,更新權(quán)值和閾值,并以承接層的輸出作為隱含層的輸入,重復之前的過程,直到輸出誤差滿足精度要求[12]。
圖2 sigmoid型激勵函數(shù)
如果是雙曲正切(tansig)型函數(shù)曲線,則激勵函數(shù)表達式如下:
超聲波測厚儀是根據(jù)超聲波脈沖反射原理來進行厚度測量,當探頭發(fā)射的超聲波脈沖通過被測物體達到材料分界面時,脈沖被反射回探頭。通過精確測量超聲波在材料中傳播的時間來確定被測材料的厚度。
在泛雅平臺中將傳統(tǒng)的“課堂教學結(jié)合多媒體”教學模式,過渡到“MOOC—學生自主學習—開放式自學方式”的模式。將學生轉(zhuǎn)移為教學中心的指導思想,通過平臺實施“學+做”模式。通過“精講多練”的形式調(diào)動學生對學習的積極性,提高教學效率且強化實踐教學、提高教學質(zhì)量。即上課實驗合并在富媒體教學中同步進行,增加基于網(wǎng)絡信息傳播的自主教學。[4]
人工神經(jīng)網(wǎng)絡的實質(zhì)是對人腦思維活動的模擬,組成它的每個神經(jīng)元都具有不同的功能和結(jié)構(gòu),不同神經(jīng)元相互交叉作用,最終得到數(shù)據(jù)處理結(jié)果[6]。不同類型的人工神經(jīng)網(wǎng)絡模型,其學習規(guī)則也各不相同,其中應用較為廣泛的是δ學習規(guī)則,又稱梯度法或最速下降法。假設初始權(quán)值為ω(t),學習率為η,權(quán)值的修正方向為Δω(t),δ學習規(guī)則的權(quán)值修正公式如下:
如果是對數(shù)(logsig)型函數(shù)曲線,則激勵函數(shù)表達式如下:
前饋神經(jīng)網(wǎng)絡的信號傳播是單向固定的,屬于靜態(tài)網(wǎng)絡。反饋神經(jīng)網(wǎng)絡具有動力學特征,屬于動態(tài)網(wǎng)絡。在電力系統(tǒng)的運行中,電力負荷處于不斷變化的狀態(tài),因此電力負荷預測是一個動態(tài)的系統(tǒng),BP 神經(jīng)網(wǎng)絡作為典型的前饋神經(jīng)網(wǎng)絡,是靜態(tài)網(wǎng)絡模型,因此用它進行電力負荷預測,不能準確地反映電力負荷中的動態(tài)特性[9]。Elman 神經(jīng)網(wǎng)絡算法是目前應用較多的動態(tài)型神經(jīng)網(wǎng)絡,該算法的結(jié)構(gòu)是由BP 神經(jīng)網(wǎng)絡結(jié)構(gòu)改進而來的。改進的主要措施是在隱含層和輸出層之間增加了承接層,用于隱含層輸出信息的記憶存儲,并作為隱含層的輸入信號進行再次輸入。這種方式建立起對隱含層內(nèi)部的反饋,從而使得輸入和輸出上有了延遲傳遞,相當于增加了一個延時算子,運算過程以動態(tài)方程進行描述[10]。Elman 神經(jīng)網(wǎng)絡主要依據(jù)輸入和輸出構(gòu)建網(wǎng)絡數(shù)學模型,不需要預先設定數(shù)學模型的形式,輸入信號決定了反饋的初始狀態(tài),因此,Elman 神經(jīng)網(wǎng)絡算法的關(guān)鍵在于選取設定合理的網(wǎng)絡結(jié)構(gòu)和連接權(quán)值[11]。
對F(ω(t+1))進行一階泰勒展開,可以得到下述方程:
小龍是我們班出了名的個性要強又很自負的學生,他很聰明,數(shù)學成績從沒低過95分,但他愛斤斤計較、以自我為中心,脾氣暴躁、滿口粗話,又愛欺負同學,大家對他敬而遠之。我也常被他弄得焦頭爛額。借著學校“訪萬家”活動,我早早安排了去他家的行程。
其中,g(t)=?F(ω(t))|ω=ω(t),在ω=ω(t)時,g(t)為F(ω)的梯度矢量。要使式(5)成立,則需要滿足如下公式,此時收斂速度最快。
人工神經(jīng)網(wǎng)絡根據(jù)互聯(lián)方式的類型不同,可以分為反饋神經(jīng)網(wǎng)絡、前饋神經(jīng)網(wǎng)絡和自組織神經(jīng)網(wǎng)絡。前饋神經(jīng)網(wǎng)絡的結(jié)構(gòu)如圖3 所示,這種網(wǎng)絡的信號傳輸由輸入層逐層向前,各層之間沒有向后的反饋信號[7]。
圖3 前饋神經(jīng)網(wǎng)絡結(jié)構(gòu)圖
BP 神經(jīng)網(wǎng)絡是一種典型的前饋神經(jīng)網(wǎng)絡,這種算法在輸出結(jié)果和期望值比較后,會將結(jié)果誤差向隱含層反傳播,并對權(quán)值系數(shù)不斷調(diào)整,因此BP 神經(jīng)網(wǎng)絡算法的學習過程有兩個部分,分別是信號的正向傳播和誤差的反向傳播[8]。BP 神經(jīng)網(wǎng)絡的網(wǎng)絡結(jié)構(gòu)圖在前饋神經(jīng)網(wǎng)絡結(jié)構(gòu)中已有介紹,如圖4 所示,將BP 神經(jīng)網(wǎng)絡的學習過程以流程圖的方式進行說明。BP 神經(jīng)網(wǎng)絡在得到實際輸出和期望輸出的誤差后,需要判斷誤差精度是否達到要求,若精度不夠,則進行誤差反向傳播過程,自輸出層逐層計算輸出誤差,并對各層神經(jīng)元的權(quán)值及閾值進行修正,通過這種循環(huán)的學習調(diào)整,直到誤差精度滿足要求,則可以輸出最終結(jié)果。
圖4 BP神經(jīng)網(wǎng)絡算法學習流程
這里以極小化標量函數(shù)F(ω)作為權(quán)值修正目標,為了提高收斂速度,每次修正都需要滿足下述關(guān)系式:
在神經(jīng)元的抽象模型中,每一個神經(jīng)元節(jié)點都有其特定的激勵函數(shù),它是神經(jīng)網(wǎng)絡的核心,與神經(jīng)網(wǎng)絡處理問題的能力密切相關(guān)。sigmoid 型激勵函數(shù)的特點在于任意輸入值都在(0,1)范圍內(nèi),且函數(shù)以雙曲正切(tansig)或者對數(shù)(logsig)類似的S 形曲線進行表達,圖2 為它的函數(shù)圖像表達。
圖5 Elman神經(jīng)網(wǎng)絡結(jié)構(gòu)圖
由于承接層的存在,系統(tǒng)可以通過前饋區(qū)域?qū)B接權(quán)值進行多次修正。假設a為自連接反饋增益因子,w1、w2、w3分別表示承接層到隱含層、輸入層到隱含層、隱含層到輸出層之間的連接權(quán)值,隱含層和輸出層的激勵函數(shù)分別用f(x)和g(x)表示。下述公式為Elman 神經(jīng)網(wǎng)絡數(shù)學模型的函數(shù)表示:
反應堆壓力容器屬于一級安全設備,在各種運行工況和試驗條件下均要保持結(jié)構(gòu)的完整性,不會發(fā)生放射性物質(zhì)的泄漏[1-2]。壓力容器承受包括壓力、熱膨脹等復雜載荷,它的密封性是保證核電站安全運行的關(guān)鍵因素之一[3-4]。因此對其密封性進行系統(tǒng)深入地研究具有重要的工程意義。
Elman 神經(jīng)網(wǎng)絡的誤差函數(shù)如式(11)所示:
Elman 神經(jīng)網(wǎng)絡算法的關(guān)鍵技術(shù)在于輸出層到輸入層的反向調(diào)節(jié),依據(jù)輸出誤差對權(quán)值和閾值不斷進行修正,使其在動態(tài)預測過程中更好地控制預測精度[13]。模型采用的是最速下降法,這種方法雖然最終可以得到穩(wěn)定解,但是存在不足之處,一是最速下降法容易在訓練過程中陷入局部極小值;二是這種方法的學習步長是固定的,因此在面對大量數(shù)據(jù)和復雜邏輯問題時,訓練效率將受到限制;三是這種方法的訓練過程中存在震蕩現(xiàn)象,對獲取全局最優(yōu)解形成障礙[14]?;贓lman 神經(jīng)網(wǎng)絡的上述不足之處,這次研究從兩個方面加以改進,一方面是以非線性阻尼最小二乘法代替最速下降法,另一方面是對Elman 神經(jīng)網(wǎng)絡的激勵函數(shù)進行改進。
通過上述公式可以進行權(quán)值更新以及輸出誤差的計算,直到輸出誤差滿足精度要求。
以誤差對w1、w2、w3進行偏導求解,并依據(jù)進行計算,可以得到下方的關(guān)系式,其中η為學習速率。
誤差函數(shù)的梯度通過式(16)進行計算,e表示誤差向量。
非線性阻尼最小二乘法在對權(quán)值和閾值的修正中采用近似二階訓練速率,從而避免了Hessian 矩陣計算,由于以平方和誤差形式表示誤差性能函數(shù),因此可以用下述表達式對Hessian 矩陣進行近似表示,其中,H表示包含誤差函數(shù)對閾值和權(quán)值一階導數(shù)的雅克比矩陣。
以LM 算法對Hessian 矩陣的近似表達式進行修正,可以得到式(17)。當μ為0 時,該式表示擬牛頓法;隨著μ值的增加,則其逐漸變?yōu)樘荻认陆捣╗15]。根據(jù)上述分析,此次研究需要使得該式接近擬牛頓法,即系數(shù)μ隨著迭代次數(shù)的增加而不斷減小,從而保證最小誤差的逼近效率更高,迭代后的誤差性能逐漸減小。
Elman 神經(jīng)網(wǎng)絡算法采用sigmoid 函數(shù)作為激勵函數(shù),但是這種函數(shù)容易陷入局部極小值,導致收斂速度下降,這里對sigmoid 函數(shù)進行改進,改進后的函數(shù)如式(18)所示:
對改進后的激勵函數(shù)進行一階求導,導函數(shù)如式(19)所示,其中,h為斜率,m、n為常數(shù),表示函數(shù)在x軸方向和y軸方向的位移。激勵函數(shù)的導函數(shù)與學習速率呈正相關(guān)關(guān)系,隨著導函數(shù)值的增加,學習速率加快[16]。隨著誤差函數(shù)的調(diào)整,對m、n、h三者進行配合修正,從而可以優(yōu)化算法的預測精度和收斂速度。
隨著信息技術(shù)在初中音樂課堂中的普及,各種各樣新型的教學模式不斷涌現(xiàn),情境教學法作為其中較為突出的一種,得到了越來越多教育工作者的關(guān)注,它能根據(jù)教學內(nèi)容設計相應的學習情境,將抽象的理論知識點形象化、具體化,在降低了知識點理解難度的同時也提高了課堂教學趣味性,有效激發(fā)了學生的音樂學習興趣。教師要發(fā)揮情境教學法的優(yōu)點,根據(jù)音樂教學需求調(diào)整設計方案,保證學生在情境中德智體美的全面發(fā)展。
為了對優(yōu)化后的Elman 神經(jīng)網(wǎng)絡模型進行驗證,選取M 電力企業(yè)在2 月份按日采集的24 小時電力負荷數(shù)據(jù)作為研究對象,以同一天的電力負荷數(shù)據(jù)為一組,將所有數(shù)據(jù)分為24 組。以前三天的數(shù)據(jù)為輸入數(shù)據(jù),后一天的數(shù)據(jù)為期望輸出,對算法進行循環(huán)訓練,該過程在MATLAB 仿真環(huán)境下進行。選擇優(yōu)化后的Elman 神經(jīng)網(wǎng)絡算法和傳統(tǒng)BP 神經(jīng)網(wǎng)絡算法進行仿真分析對比,其中Elman 神經(jīng)網(wǎng)絡的網(wǎng)絡結(jié)構(gòu)采取雙隱含層結(jié)構(gòu),該結(jié)構(gòu)在多輸入的情況下可以有效地提高預測精度和收斂速度。通過前期實驗對預測效果的對比,確定Elman神經(jīng)網(wǎng)絡的兩個隱含層節(jié)點分別為14個和12個。
2.2 ELISA檢測各組小鼠血清IGF-1水平 A組血清IGF-1呈較低水平,B組血清IGF-1水平明顯高于A組,C組血清IGF-1水平較B組降低,但仍較A組高。各組差異有統(tǒng)計學意義(P<0.05)。見表1。
圖6 表示BP、Elman 神經(jīng)網(wǎng)絡模型預測輸出與實際輸出對比,觀察圖中的3 條曲線走勢可以發(fā)現(xiàn),BP 神經(jīng)網(wǎng)絡預測輸出值的整體走勢與電力負荷走勢大致契合;但Elman 神經(jīng)網(wǎng)絡模型預測輸出值明顯優(yōu)于BP 神經(jīng)網(wǎng)絡模型,并且在Elman 神經(jīng)網(wǎng)絡模型的MATLAB 仿真實驗中,算法模型在52 次訓練后,收斂效率、輸出誤差精度取得了較好的效果。將模型預測值減去實際輸出值,得到預測誤差值,如表1 所示。
圖6 預測輸出與實際輸出對比
表1 模型預測的相對誤差對比
觀察表1 中的預測誤差數(shù)據(jù)可以發(fā)現(xiàn),BP 神經(jīng)網(wǎng)絡的相對誤差絕對值基本在4.45%以內(nèi),Elman神經(jīng)網(wǎng)絡的相對誤差絕對值基本在2.57%以內(nèi);22∶00 時的數(shù)據(jù)預測誤差存在明顯波動,BP 神經(jīng)網(wǎng)絡和Elman 神經(jīng)網(wǎng)絡在同一時點的相對誤差絕對值分別是7.02%和3.14%,分析此處數(shù)據(jù)可能存在異常情況影響。根據(jù)相對誤差絕對值,對BP 神經(jīng)網(wǎng)絡和Elman 神經(jīng)網(wǎng)絡在不同時點的預測精度進行對比,結(jié)果如表2 所示,在BP 神經(jīng)網(wǎng)絡模型下,輸出預測值的平均預測精度為97.75%;在Elman 神經(jīng)網(wǎng)絡模型下,輸出預測值的平均精度為98.74%,取得了較為滿意的結(jié)果。
表2 模型預測精度對比
電力產(chǎn)業(yè)已經(jīng)成為國家經(jīng)濟的支柱型產(chǎn)業(yè),電力負荷預測的精度對電網(wǎng)運行的穩(wěn)定性和安全性有著重要影響。針對傳統(tǒng)電力負荷預測方法中的不足之處,此次研究將以靜態(tài)神經(jīng)網(wǎng)絡和動態(tài)神經(jīng)網(wǎng)絡對短期電力負荷進行預測,從學習規(guī)則和激勵函數(shù)方面進行算法優(yōu)化,并以BP 神經(jīng)網(wǎng)絡和Elman 神經(jīng)網(wǎng)絡這兩種類型的典型代表算法進行仿真實驗對比。預測數(shù)據(jù)變化趨勢顯示,BP 神經(jīng)網(wǎng)絡預測輸出值的整體走勢與電力負荷走勢大致契合;但Elman神經(jīng)網(wǎng)絡模型預測輸出值明顯優(yōu)于BP 神經(jīng)網(wǎng)絡模型,并且在Elman 神經(jīng)網(wǎng)絡模型的MATLAB 仿真實驗中,算法模型在52 次訓練后,收斂效率、輸出誤差精度取得了較好的效果。算法的預測精度對比顯示,在BP 神經(jīng)網(wǎng)絡模型下,輸出預測值的平均精度為97.75%;在Elman 神經(jīng)網(wǎng)絡模型下,輸出預測值的平均精度為98.74%。在這次的研究中,Elman 神經(jīng)網(wǎng)絡算法應用于短期電力負荷預測,取得了良好的預測效果,這證明在動態(tài)問題的處理上,Elman 神經(jīng)網(wǎng)絡算法優(yōu)于BP 神經(jīng)網(wǎng)絡算法。但研究尚且存在不足之處,如預測算法的初始權(quán)值是隨機選取的,這說明此次研究所提出的算法還有進一步優(yōu)化的空間。