張奧鑫，滕 婧，琚 贇，楊韜燃

(華北電力大學(xué)控制與計(jì)算機(jī)工程學(xué)院，北京 102206)

1 引言

1.1 核反應(yīng)堆堆芯熱功率預(yù)測(cè)

核電站運(yùn)行期間，反應(yīng)堆堆芯熱功率分布是十分重要的狀態(tài)參數(shù)，堆芯熱功率分布正常是保證反應(yīng)堆安全、經(jīng)濟(jì)運(yùn)行的基礎(chǔ)。如果堆芯熱功率高于一定值，反應(yīng)堆將超負(fù)荷運(yùn)行，甚至燒壞，進(jìn)而引發(fā)事故，危及人身安全；反之，如果堆芯熱功率低于一定值，則無(wú)法達(dá)到其額定運(yùn)行條件，反應(yīng)堆發(fā)電量將會(huì)降低，影響機(jī)組的經(jīng)濟(jì)性。因此，實(shí)時(shí)監(jiān)控和預(yù)測(cè)反應(yīng)堆堆芯熱功率分布，對(duì)提高反應(yīng)堆的安全性、經(jīng)濟(jì)性以及運(yùn)行靈活性都有十分重要的意義。然而，基于核反應(yīng)機(jī)理的物理模型和實(shí)驗(yàn)?zāi)Ｐ偷膫鹘y(tǒng)分析方法難以對(duì)堆芯功率分布進(jìn)行準(zhǔn)確、全面的預(yù)測(cè)。反應(yīng)堆熱功率測(cè)量的常用方法是中子通量密度法[1]，即通過測(cè)量反應(yīng)堆中子通量密度來(lái)推測(cè)反應(yīng)堆堆芯熱功率的分布。但是，反應(yīng)堆的中子通量密度不僅與堆芯熱功率相關(guān)，還和燃料的消耗程度(燃耗)有關(guān)，且燃耗變化會(huì)引起堆外中子通量密度變化，因此該方法測(cè)量結(jié)果存在較大誤差。針對(duì)該問題，文獻(xiàn)[1]使用諧波合成法和燃耗分組法，分析了燃耗特性與堆芯熱功率分布的關(guān)系。宋世葭[2]等人提出了熱平衡的方法，利用能量平衡原理計(jì)算反應(yīng)堆堆芯熱功率分布。文獻(xiàn)[3]提出了使用堆芯外探測(cè)器監(jiān)測(cè)堆內(nèi)功率分布，通過分析堆芯外探測(cè)器的探測(cè)參數(shù)，建立相應(yīng)的空間響應(yīng)函數(shù)，進(jìn)而確定堆內(nèi)功率分布。然而，探測(cè)器的靈敏度和探測(cè)結(jié)果的不確定性都將影響堆內(nèi)功率分布估計(jì)的精度，文獻(xiàn)[4]針對(duì)這一問題，開發(fā)了NECP-ONLINE在線分析系統(tǒng)，定量分析了功率分布與探測(cè)器信號(hào)的相對(duì)靈敏度系數(shù)之間的關(guān)系。姜頔[5]等人提出了一種基于字典序列優(yōu)化的核反應(yīng)堆堆芯熱功率預(yù)測(cè)控制方法，將功率控制問題轉(zhuǎn)化為具有不同目標(biāo)優(yōu)先級(jí)的字典序列優(yōu)化問題，在一定程度上提高了預(yù)測(cè)的精度。此外，影響反應(yīng)堆堆芯熱功率的因素還包括，時(shí)間平均燃耗、硼濃度、換料引起的反應(yīng)性增益、卸料燃耗等。然而，對(duì)這些參數(shù)的測(cè)量往往存在誤差，難以利用它們得到精確的堆芯熱功率分布估計(jì)。

1.2 人工神經(jīng)網(wǎng)絡(luò)在核動(dòng)力領(lǐng)域的應(yīng)用

由于核能的特殊性和復(fù)雜性，核電生產(chǎn)過程中的安全性和可靠性一直是核電工程的重要研究課題，神經(jīng)網(wǎng)絡(luò)的提出為解決這類問題提供了一個(gè)良好的思路。由于核反應(yīng)過程涉及大量非線性和不確定性問題，這些問題很難通過確定的數(shù)學(xué)或物理表達(dá)進(jìn)行描述和建模，而人工神經(jīng)網(wǎng)絡(luò)在處理此類問題方面擁有明顯的優(yōu)勢(shì)。人工神經(jīng)網(wǎng)絡(luò)[7][6]作為對(duì)人腦神經(jīng)結(jié)構(gòu)和功能的模擬，能學(xué)習(xí)和存儲(chǔ)輸入-輸出模式的復(fù)雜映射關(guān)系。首先構(gòu)建網(wǎng)絡(luò)結(jié)構(gòu)初步建立輸入與輸出數(shù)據(jù)之間的映射，再根據(jù)當(dāng)前網(wǎng)絡(luò)輸出和實(shí)際輸出數(shù)據(jù)之間的誤差，通過梯度下降等方式調(diào)整網(wǎng)絡(luò)參數(shù)，不斷進(jìn)行優(yōu)化，最終實(shí)現(xiàn)收斂，儲(chǔ)存各神經(jīng)元權(quán)值參數(shù)。由于神經(jīng)網(wǎng)絡(luò)建模不需基于嚴(yán)格的物理反應(yīng)過程描述，因此在核能領(lǐng)域已經(jīng)開展了許多應(yīng)用，如基于BP神經(jīng)網(wǎng)絡(luò)和RBF神經(jīng)網(wǎng)絡(luò)解決故障診斷問題[7]；在核燃料堆反應(yīng)參數(shù)預(yù)測(cè)中，Hakim Mazrou[8]等人利用人工神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)核反應(yīng)堆的安全參數(shù)，如倍增系數(shù)、燃料功率峰值等；文獻(xiàn)[9]利用遞歸神經(jīng)網(wǎng)絡(luò)進(jìn)行非線性建模，實(shí)現(xiàn)了對(duì)核反應(yīng)堆堆芯參數(shù)的預(yù)測(cè)；Seixas等人針對(duì)核燃料棒破損問題，采用超聲波檢測(cè)和神經(jīng)網(wǎng)絡(luò)識(shí)別方法，成功完成了對(duì)破損燃料棒的探測(cè)[10]。鑒于神經(jīng)網(wǎng)絡(luò)在核電領(lǐng)域的成功應(yīng)用，本文基于深度學(xué)習(xí)框架Tensorflow[11]，采用人工神經(jīng)網(wǎng)絡(luò)技術(shù)，結(jié)合儀器探測(cè)到的核反應(yīng)堆參數(shù)，包括堆芯運(yùn)行狀態(tài)和通道運(yùn)行狀態(tài)等歷史數(shù)據(jù)，構(gòu)建深度神經(jīng)網(wǎng)絡(luò)模型，完成對(duì)核反應(yīng)堆堆芯熱功率分布的預(yù)測(cè)。

本文隨后將介紹相關(guān)數(shù)據(jù)特征，然后從以下幾部分分別進(jìn)行闡述：第2節(jié)介紹本文所采用的神經(jīng)網(wǎng)絡(luò)模型，并針對(duì)堆內(nèi)功率分布估計(jì)問題進(jìn)行模型結(jié)構(gòu)優(yōu)化；第3節(jié)為仿真實(shí)驗(yàn)和結(jié)果分析；第4節(jié)進(jìn)行總結(jié)和展望。

1.3 核功率預(yù)測(cè)特征介紹

本文基于某重水堆(CUDA)核電站機(jī)組的真實(shí)數(shù)據(jù)，原始數(shù)據(jù)集包含65維特征和321480條數(shù)據(jù)，其特征情況參見表1。

表1 某重水堆核電站可探測(cè)數(shù)據(jù)特征

從表1可以看出，滿功率日是其中最為特殊的特征，在不同滿功率日條件下，核電機(jī)組功率相關(guān)數(shù)據(jù)由于控制棒的變化會(huì)進(jìn)行調(diào)整，從而維護(hù)核反應(yīng)堆內(nèi)部的能量平衡。所以可以將同一滿功率日條件下的數(shù)據(jù)看做一個(gè)時(shí)刻的狀態(tài)進(jìn)行處理。該數(shù)據(jù)集中每一個(gè)滿功率日包含380條通道監(jiān)測(cè)數(shù)據(jù)，在后續(xù)處理中，將380條數(shù)據(jù)作為一組輸入數(shù)據(jù)。其他輸入數(shù)據(jù)特征主要分為兩大類，即通道運(yùn)行狀態(tài)和堆芯運(yùn)行狀態(tài)，具體介紹如下：

1)通道運(yùn)行狀態(tài)

核反應(yīng)堆中每一個(gè)燃料組件都封裝在一個(gè)單獨(dú)的壓力管內(nèi)，稱作“燃料通道”或技術(shù)通道，在CANDU重水堆核電站中，每個(gè)通道裝載12個(gè)燃料棒束。在反應(yīng)進(jìn)行過程中，燃料成分的損耗，即燃耗，將引起堆芯反應(yīng)狀態(tài)的變化，可以在一定程度上反映當(dāng)前堆芯熱功率的分布狀況。同時(shí)，通過監(jiān)測(cè)和分析通道運(yùn)行的數(shù)據(jù)，如棒束燃耗分布、棒束功率分布、卸料燃耗等，可以判斷通道的運(yùn)行狀態(tài)。此外，其他通道監(jiān)測(cè)參數(shù)，如軸向功率傾斜、通道超功率因子等參數(shù)亦可以用來(lái)分析堆芯的熱功率分布。

2)堆芯運(yùn)行狀態(tài)

堆芯運(yùn)行監(jiān)測(cè)[12]通過連續(xù)監(jiān)測(cè)和分析反應(yīng)堆中的區(qū)域功率、冷卻劑重水純度、區(qū)域初始液位、硼濃度等參數(shù)，實(shí)時(shí)監(jiān)控堆芯內(nèi)反應(yīng)情況和堆芯熱功率分布狀態(tài)。為確保反應(yīng)堆在穩(wěn)定功率下運(yùn)行，必須不斷補(bǔ)償由于燃耗而損失的反應(yīng)性，實(shí)際操作中主要通過改變?nèi)苡诶鋮s劑中的硼濃度進(jìn)行調(diào)節(jié)。此外，隨著反應(yīng)的進(jìn)行，回路中冷卻劑的液位和重水純度同樣會(huì)發(fā)生變化，這些數(shù)據(jù)也可以用來(lái)分析堆芯反應(yīng)過程中熱功率分布情況。由于探測(cè)到的數(shù)據(jù)存在偏差，在進(jìn)行建模分析時(shí)同樣需考慮探測(cè)器最大偏差值。

2 堆芯熱功率分布神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型

本文構(gòu)建了基于滿功率日時(shí)間序列的長(zhǎng)短期記憶(LSTM)循環(huán)神經(jīng)網(wǎng)絡(luò)和基于特征再提取的卷積神經(jīng)網(wǎng)絡(luò)(CNN)對(duì)堆芯熱功率分布進(jìn)行預(yù)測(cè)。由于CNN的卷積和池化操作本身具有特征提取和降維的功能，其輸入使用表1中提到的所有64維特征(滿功率日特征被用來(lái)進(jìn)行數(shù)據(jù)分組)。對(duì)于LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)，我們基于特征工程方法首先對(duì)數(shù)據(jù)進(jìn)行了特征篩選，然后再結(jié)合反應(yīng)堆反應(yīng)機(jī)理和專家經(jīng)驗(yàn)選擇了16個(gè)對(duì)堆芯熱功率影響較大的狀態(tài)特征，分別是：滿功率日、通道駐留時(shí)間、時(shí)間平均燃耗，平均出口卸料燃耗、換料引起的反應(yīng)性增益、最大棒束功率、最大通道功率、軸向功率傾斜、通道超功率因子、初始平均液位、區(qū)域初始最大液位偏差、計(jì)算出的硼濃度、通道卸料燃耗、冷卻劑重水純度、慢化劑重水純度、探測(cè)器最大偏差。

2.1 基于滿功率日時(shí)間序列的LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)

循環(huán)神經(jīng)網(wǎng)絡(luò)與BP神經(jīng)網(wǎng)絡(luò)最大的不同為是否引入隱藏層節(jié)點(diǎn)間的內(nèi)連接，隱藏層節(jié)點(diǎn)的計(jì)算不僅依賴于當(dāng)前輸入層的輸入值，還依賴于上一時(shí)刻該隱藏層各節(jié)點(diǎn)的輸出值。因此，循環(huán)神經(jīng)網(wǎng)絡(luò)被廣泛用于處理基于時(shí)間序列的問題。本研究中，同一通道的數(shù)據(jù)是是按滿功率日作為時(shí)間特征有序排列的，核反應(yīng)堆堆芯熱功率預(yù)測(cè)也可以看做一個(gè)基于時(shí)間序列數(shù)據(jù)的回歸問題，使用循環(huán)神經(jīng)網(wǎng)絡(luò)求解。而傳統(tǒng)的循環(huán)神經(jīng)網(wǎng)絡(luò)容易出現(xiàn)梯度消失問題，且難以發(fā)現(xiàn)序列中時(shí)間間隔較大的時(shí)刻之間的聯(lián)系，LSTM網(wǎng)絡(luò)作為一種特殊的循環(huán)神經(jīng)網(wǎng)絡(luò)可以有效解決這一問題，LSTM在隱藏層加入控制狀態(tài)更新的遺忘門、輸入門、更新門和輸出門，來(lái)選擇性的保留和遺忘部分之前時(shí)刻的信息，使網(wǎng)絡(luò)對(duì)之前的輸入有了記憶能力[14]。

如圖1為L(zhǎng)STM隱藏層結(jié)構(gòu)示意圖。首先，遺忘門決定狀態(tài)中需要丟棄的信息，通過計(jì)算遺忘門系數(shù)ft來(lái)實(shí)現(xiàn)，公式為

圖1 LSTM隱藏層結(jié)構(gòu)圖

ft=δ(Wf*[ht-1，xt]+bf)

(1)

it=δ(Wi*[ht-1，xt]+bi)

(2)

(3)

(4)

最后，輸出門根據(jù)ht-1，xt，Ct計(jì)算輸出門系數(shù)Ot和當(dāng)前時(shí)刻的輸出值ht

Ot=δ(Wo*[ht-1，xt]+bO)

(5)

ht=Ot*tanh(Ct)

(6)

在上述公式中，Wf、Wi、WC、WO分別對(duì)應(yīng)ft、it、Ct、Ot的權(quán)值矩陣，bf、bi、bC、bO為相應(yīng)的偏置矩陣，ht、ht-1為t時(shí)刻和t-1時(shí)刻隱藏層的輸出向量，xt為當(dāng)前時(shí)刻輸入值。δ為sigmoid激活函數(shù)，它可以將數(shù)據(jù)映射在0～1之間，數(shù)值越大表示其對(duì)結(jié)果的影響程度越大；而另一個(gè)激活函數(shù)tanh 則用在狀態(tài)更新和輸出上。當(dāng)序列第t時(shí)刻數(shù)據(jù)輸入到網(wǎng)絡(luò)中時(shí)，LSTM隱藏層的輸入包括當(dāng)前時(shí)刻的輸入xt和上一時(shí)刻的輸出ht-1，以及隱藏層的狀態(tài)Ct-1。隱藏層的任務(wù)就是計(jì)算并輸出ht，并更新狀態(tài)Ct。

2.2 基于特征再提取的卷積神經(jīng)網(wǎng)絡(luò)

BP神經(jīng)網(wǎng)絡(luò)每?jī)蓪娱g均采用全連接，而卷積神經(jīng)網(wǎng)絡(luò)在卷積層和池化層采用局部連接的形式，通過卷積和池化操作對(duì)數(shù)據(jù)進(jìn)行特征提取，同時(shí)也可以對(duì)數(shù)據(jù)進(jìn)行降維[14]，自行抽取局部特征，保留主要信息，挖掘局部數(shù)據(jù)的相關(guān)性。

同一滿功率日下的380個(gè)通道的特征矩陣可被看做一張圖片，由于使用的數(shù)據(jù)只有二維，即長(zhǎng)度(樣本數(shù))和寬度(特征數(shù))，在輸入層，可以將它看作灰度圖像，即只有一個(gè)顏色通道，對(duì)于深度一維設(shè)置為1。使用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行特征提取，減少了特征工程的工作量，其獨(dú)有的局部視野感受能力為數(shù)據(jù)集在局部特征分析上提供了新的思路。因此，可以采用基于卷積神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)方法。

一般的卷積神經(jīng)網(wǎng)絡(luò)包含兩部分：特征提取層和特征映射層。特征提取層也即是卷積層和池化層，該層每個(gè)神經(jīng)元與前一層的局部接受域相連，并提取該局部特征。進(jìn)行卷積操作時(shí)，感受視野的大小不同同樣會(huì)影響到局部特征的提取，本文嘗試了3*3和5*5的感受視野大小，實(shí)驗(yàn)表明，3*3的感受視野預(yù)測(cè)效果更好，池化窗口大小選擇2*2大小。網(wǎng)絡(luò)通常由多個(gè)特征映射組成，每個(gè)特征映射是一個(gè)平面，平面上所有神經(jīng)元的權(quán)值相等。

如圖2所示，本文建立包含兩個(gè)卷積層和兩個(gè)池化層的卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，下面對(duì)各個(gè)層的操作進(jìn)行介紹：

圖2 包含兩個(gè)卷積層的卷積神經(jīng)網(wǎng)絡(luò)模型

在卷積層，卷積神經(jīng)網(wǎng)絡(luò)采用局部過濾器，進(jìn)行卷積操作，取輸入項(xiàng)的局部矩陣進(jìn)行局部過濾，即與卷積核進(jìn)行內(nèi)積運(yùn)算，其計(jì)算過程可表示為

(7)

圖3 BP神經(jīng)網(wǎng)絡(luò)的損失函數(shù)變化

池化層，通常被稱作下采樣層，跟隨在一個(gè)卷積層后，可進(jìn)一步縮小矩陣維數(shù)、同時(shí)排除異常數(shù)據(jù)的影響。在池化層，前一個(gè)卷積層的輸出作為該層的輸入特征。首先設(shè)置窗口大小，然后通過窗口滑動(dòng)的方式，用窗口區(qū)域最大值來(lái)表示該窗口的特征值，組合這些特征值得到降維后的特征值矩陣，池化過程可表示為

(8)

經(jīng)過兩輪卷積層和池化層處理后得到降維后的特征值矩陣，然后通過最后一層全連接層將其與輸出層相連接，全連接層到輸出層的計(jì)算公式是

xl=f(Klxl-1+bl)

(9)

3 實(shí)驗(yàn)與仿真分析

3.1 數(shù)據(jù)預(yù)處理

3.1.1 數(shù)據(jù)歸一化

3.1.2 缺失值處理

在數(shù)據(jù)采集過程中，由于人為操作不當(dāng)、設(shè)備老化等因素，會(huì)有一部分?jǐn)?shù)據(jù)存在缺失，從而影響模型的性能和訓(xùn)練準(zhǔn)確度。因此，在對(duì)原始數(shù)據(jù)進(jìn)行處理時(shí)，對(duì)于缺失值較多的特征直接棄用，對(duì)于缺失值較少的特征進(jìn)行了數(shù)據(jù)補(bǔ)充，本文采用的補(bǔ)充方法是在缺失值處補(bǔ)充該特征的平均值，以降低缺失數(shù)據(jù)對(duì)模型預(yù)測(cè)結(jié)果的的影響。

3.2 網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化

基于Tensorflow神經(jīng)網(wǎng)絡(luò)框架，分別搭建包含兩個(gè)隱藏層的BP神經(jīng)網(wǎng)絡(luò)、三層LSTM神經(jīng)網(wǎng)絡(luò)和包含兩個(gè)卷積層和兩個(gè)池化層的卷積神經(jīng)網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)中輸入層節(jié)點(diǎn)為16個(gè)，第一隱藏層有10個(gè)節(jié)點(diǎn)，第二隱藏層有6個(gè)節(jié)點(diǎn)，該數(shù)目是根據(jù)實(shí)驗(yàn)在經(jīng)驗(yàn)值附近選擇的最佳值，輸出層為1個(gè)節(jié)點(diǎn)；LSTM隱藏層包含LSTM神經(jīng)網(wǎng)絡(luò)單元，輸入層為16個(gè)輸入節(jié)點(diǎn)，隱藏層有32個(gè)輸出節(jié)點(diǎn)，輸出層為1個(gè)節(jié)點(diǎn)；對(duì)于CNN網(wǎng)絡(luò)模型，第一卷積層設(shè)置4個(gè)卷積核進(jìn)行卷積，生成4個(gè)特征矩陣，第二卷積層設(shè)置2個(gè)卷積核，分別對(duì)4個(gè)特征矩陣進(jìn)行再卷積，生成8個(gè)特征矩陣。在選擇卷積核和池化窗口大小時(shí)，經(jīng)過多次嘗試，選取了3*3的卷積核大小，步長(zhǎng)是(1，1)，池化層的池化窗口大小為2*2，步長(zhǎng)為(2，1)，這樣經(jīng)過兩輪卷積層和池化層的操作，將原始數(shù)據(jù)的380*64*1維輸入特征矩陣轉(zhuǎn)化為380*16*8的降維后的特征矩陣，最后以兩個(gè)全連接層作為輸出層，完成功率分布預(yù)測(cè)。誤差函數(shù)均采用最小均方誤差函數(shù)，輸出層激活函數(shù)均為Sigmoid函數(shù)。

3.3 實(shí)驗(yàn)分析

3.3.1 小批量訓(xùn)練網(wǎng)絡(luò)

通過對(duì)樣本數(shù)據(jù)的觀察和分析，由于數(shù)據(jù)集較大，一次性把所有數(shù)據(jù)代入模型會(huì)使網(wǎng)絡(luò)訓(xùn)練速度慢、效率低。針對(duì)該問題，神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程中通常采用Mini_Batching方法進(jìn)行處理，該方法的思想是每次選取數(shù)據(jù)集的一個(gè)子集代入模型訓(xùn)練，把所有批次數(shù)據(jù)全部代入模型后，求所有批次訓(xùn)練數(shù)據(jù)損失函數(shù)的平均值，然后對(duì)該損失函數(shù)進(jìn)行優(yōu)化。該方法大大提高了網(wǎng)絡(luò)的學(xué)習(xí)速率，同時(shí)，也會(huì)使網(wǎng)絡(luò)的梯度更準(zhǔn)確，避免陷入局部最優(yōu)，有助于找到全局最優(yōu)解。本文模型訓(xùn)練過程中，每次訓(xùn)練選擇一個(gè)滿功率日下的380個(gè)通道的樣本數(shù)據(jù)進(jìn)行訓(xùn)練，即Batch_size值取380。

3.3.2 分析損失函數(shù)

為了對(duì)模型進(jìn)行性能分析，需要設(shè)定相應(yīng)的評(píng)價(jià)指標(biāo)。在模型訓(xùn)練過程中，通常采用損失函數(shù)作為模型預(yù)測(cè)準(zhǔn)確性的指標(biāo)[15]。在基于神經(jīng)網(wǎng)絡(luò)的堆芯熱功率預(yù)測(cè)模型中，常用的損失函數(shù)有兩種：均方誤差損失函數(shù)(MSE)和平均絕對(duì)誤差損失函數(shù)(MAE)，通過多次試驗(yàn)證明：作為訓(xùn)練過程中的優(yōu)化目標(biāo)，MSE相比于MAE擁有更好的性能，因此MAE可以作為模型的評(píng)價(jià)指標(biāo)。模型訓(xùn)練的準(zhǔn)則就是使損失函數(shù)值盡可能小，采用自適應(yīng)矩估計(jì)梯度下降法對(duì)損失函數(shù)進(jìn)行優(yōu)化。以下是對(duì)三種神經(jīng)網(wǎng)絡(luò)模型的均方差損失函數(shù)的分析。

由圖3、圖4和圖5可以看出，模型在訓(xùn)練200次時(shí)，Loss值達(dá)到0.01并基本趨于穩(wěn)定，此時(shí)可以停止訓(xùn)練。LSTM模型在訓(xùn)練過程中收斂速度更快，在前100次下降明顯，很快就到達(dá)了穩(wěn)定點(diǎn)，而BP神經(jīng)網(wǎng)絡(luò)和CNN達(dá)到穩(wěn)定點(diǎn)需要更多的訓(xùn)練次數(shù)。

圖4 CNN的損失函數(shù)變化

圖5 LSTM的損失函數(shù)變化

3.3.3 特征選擇對(duì)模型的影響

由于原始數(shù)據(jù)特征維度過大，而訓(xùn)練數(shù)據(jù)維度過大時(shí)往往會(huì)使得模型過于復(fù)雜，神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)到有用信息的難度也大大增加，導(dǎo)致模型出現(xiàn)過擬合現(xiàn)象，即在訓(xùn)練集上表現(xiàn)良好，但在測(cè)試集上表現(xiàn)卻很差。本文在模型訓(xùn)練前基于現(xiàn)有研究對(duì)數(shù)據(jù)進(jìn)行了特征篩選，在前文中已經(jīng)介紹。

為評(píng)價(jià)特征篩選后模型的表現(xiàn)，使用篩選前的原始數(shù)據(jù)集和篩選后的數(shù)據(jù)集，分別與BP神經(jīng)網(wǎng)絡(luò)和LSTM網(wǎng)絡(luò)模型的訓(xùn)練結(jié)果進(jìn)行了對(duì)比，對(duì)比結(jié)果如圖6和圖7。

圖6 使用不同數(shù)據(jù)時(shí)的模型擬合曲線

圖7 使用不同數(shù)據(jù)時(shí)的模型擬合曲線和誤差曲線

如圖6和圖7所示，通過模型在測(cè)試集上的表現(xiàn)可以看出，進(jìn)行特征選擇提高了神經(jīng)網(wǎng)絡(luò)的性能，在同樣迭代200次的情況下，損失函數(shù)數(shù)值下降明顯；BP神經(jīng)網(wǎng)絡(luò)和LSTM神經(jīng)網(wǎng)絡(luò)的模型擬合效果得到了顯著提高，預(yù)測(cè)誤差顯著下降，模型泛化性能顯著增強(qiáng)。

對(duì)于卷積神經(jīng)網(wǎng)絡(luò)，由于CNN本身可以通過卷積和池化操作進(jìn)行降維，從而提取數(shù)據(jù)的主要信息，研究選擇較多的64個(gè)特征進(jìn)行訓(xùn)練，同樣可將數(shù)據(jù)集進(jìn)行降維，且能達(dá)到較高的訓(xùn)練精度。

3.3.4 三種模型的預(yù)測(cè)效果分析

經(jīng)過數(shù)據(jù)預(yù)處理和對(duì)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行優(yōu)化，實(shí)驗(yàn)最終得到了各個(gè)網(wǎng)絡(luò)模型在測(cè)試集上的表現(xiàn)。

由圖8、圖9和圖10可知，通過擬合曲線圖可以看出，三種神經(jīng)網(wǎng)絡(luò)模型都具有良好的擬合效果，預(yù)測(cè)誤差基本都保持在在±100MW以內(nèi)，且絕大部分樣本的誤差在±50MW以內(nèi)。從中可以看出三種網(wǎng)絡(luò)模型均能通過訓(xùn)練學(xué)習(xí)到特征值與目標(biāo)值之間的內(nèi)在關(guān)系，在核反應(yīng)堆堆芯熱功率預(yù)測(cè)中表現(xiàn)了良好的性能，在測(cè)試集上有著十分可靠的預(yù)測(cè)效果。

圖8 BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)誤差曲線

圖9 卷積神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)誤差曲線

圖10 循環(huán)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)誤差曲線

同時(shí)，采用了兩種評(píng)價(jià)指標(biāo)對(duì)三種神經(jīng)網(wǎng)絡(luò)模型預(yù)測(cè)效果的絕對(duì)誤差和相對(duì)誤差進(jìn)行了分析。絕對(duì)誤差(AE)即某一預(yù)測(cè)值對(duì)于其真實(shí)值的誤差的絕對(duì)值，平均絕對(duì)誤差(MAE)指所有樣本絕對(duì)誤差的平均值。相對(duì)誤差(RE)是預(yù)測(cè)誤差絕對(duì)值與原真實(shí)值的比值。通過分析絕對(duì)誤差和相對(duì)誤差，來(lái)評(píng)價(jià)模型的單樣本和整體預(yù)測(cè)性能。以一個(gè)滿功率日的380組數(shù)據(jù)為例，統(tǒng)計(jì)結(jié)果如下。

從表2可以看出，相對(duì)于BP神經(jīng)網(wǎng)絡(luò)，LSTM神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)結(jié)果中絕對(duì)誤差小于50MW的數(shù)據(jù)的所占比例分別達(dá)到97.63%和96.31%，平均絕對(duì)誤差分別為17.49MW、22.19MW，性能得到很大提升。絕對(duì)誤差超過150MW的數(shù)據(jù)只占很小的比例，不超過樣本總數(shù)的0.78%。

表2 預(yù)測(cè)結(jié)果絕對(duì)誤差分析表

從表3可以看出，相比較于BP神經(jīng)網(wǎng)絡(luò)，LSTM神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)結(jié)果中相對(duì)誤差小于5%的數(shù)據(jù)所占比例分別到達(dá)97.11%和95.53%，相對(duì)誤差高于10%的數(shù)據(jù)比例分別為1.05%和1.32%。通過實(shí)驗(yàn)結(jié)果可以看出：相比較于BP神經(jīng)網(wǎng)絡(luò)和CNN模型，由于數(shù)據(jù)集是基于時(shí)間序列來(lái)構(gòu)建的，不同時(shí)刻的反應(yīng)堆狀態(tài)數(shù)據(jù)存在較大的關(guān)聯(lián)，所以LSTM網(wǎng)絡(luò)具有更好的預(yù)測(cè)性能。綜上所述，基于神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)方法，能夠很好的滿足核反應(yīng)堆堆芯熱功率預(yù)測(cè)的需求。

表3 預(yù)測(cè)結(jié)果相對(duì)誤差分析表

4 結(jié)論

本文分別使用基于LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)模型和特征再提取的CNN模型對(duì)滿功率日時(shí)間序列的反應(yīng)堆堆芯熱功率分布進(jìn)行了預(yù)測(cè)，并針對(duì)實(shí)際問題，將數(shù)據(jù)處理為時(shí)序數(shù)據(jù)和圖片像素矩陣數(shù)據(jù)，以方便模型的使用，并對(duì)現(xiàn)有神經(jīng)網(wǎng)絡(luò)模型進(jìn)行了結(jié)構(gòu)優(yōu)化。本文針對(duì)不同模型的預(yù)測(cè)效果進(jìn)行分析，經(jīng)過特殊結(jié)構(gòu)設(shè)計(jì)的兩種神經(jīng)網(wǎng)絡(luò)模型，均可以實(shí)現(xiàn)對(duì)預(yù)測(cè)數(shù)據(jù)的適應(yīng)，并具有良好的預(yù)測(cè)性能，且與傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)模型相比，具有特征提取的LSTM和CNN模型預(yù)測(cè)效果得到顯著提高。神經(jīng)網(wǎng)絡(luò)方法不僅方便、快捷，同時(shí)具有良好的預(yù)測(cè)效果，大大提高了核反應(yīng)堆堆芯預(yù)測(cè)效率。神經(jīng)網(wǎng)絡(luò)具有強(qiáng)大的自我學(xué)習(xí)能力，不同的網(wǎng)絡(luò)模型對(duì)堆芯熱功率預(yù)測(cè)均有良好的預(yù)測(cè)效果和穩(wěn)定性，對(duì)今后核反應(yīng)堆堆芯參數(shù)預(yù)測(cè)研究具有一定的應(yīng)用價(jià)值。