汪潔，張婷暄，張君健，孫懷宇

（沈陽化工大學(xué) 化學(xué)工程學(xué)院，遼寧 沈陽 110142）

化工生產(chǎn)的流程精細復(fù)雜[1]，具有復(fù)雜性以及非線性[2]等特點,在化工生產(chǎn)的過程中會產(chǎn)生大量的數(shù)據(jù)，這些數(shù)據(jù)體現(xiàn)了化工過程中各種不同參數(shù)的變化以及化工過程的特性。由于化學(xué)反應(yīng)本身具有較大的不穩(wěn)定性，容易受到外界環(huán)境如原料成分、環(huán)境溫度、壓力、催化劑等因素的影響[3]，所以如果是完全基于機理來對化工生產(chǎn)過程進行模擬是比較困難的。而利用深度學(xué)習(xí)算法來對化工數(shù)據(jù)進行分析和預(yù)測，可以優(yōu)化有意義的參數(shù)，從而提高化工生產(chǎn)的產(chǎn)品質(zhì)量。

隨著大數(shù)據(jù)、人工智能等信息技術(shù)的發(fā)展，國內(nèi)外的制造行業(yè)正以飛快的速度實現(xiàn)與人工智能的融合[4]，然而對于化工領(lǐng)域來說，人工智能與之結(jié)合的程度還比較低，尚存在較大發(fā)展空間。

干燥通常是指將熱量加于濕物料并使其濕組分蒸發(fā)，從而得到一定濕含量固體產(chǎn)品的過程[5]。PVC流化床干燥器是化工生產(chǎn)中重要的一個干燥設(shè)備，國內(nèi)外常用的PVC 干燥裝置有回轉(zhuǎn)筒式干燥器、氣流干燥器以及流化床干燥器[6]。由于流化床干燥器具有流程簡單、熱效率高、連續(xù)操作動力消耗低等一系列性能優(yōu)勢，使得流化床干燥生產(chǎn)工藝在PVC行業(yè)中得以普遍應(yīng)用。

流化床干燥過程是一個復(fù)雜的過程，流化床內(nèi)部物料在氣流中呈懸浮狀態(tài)，如液體沸騰一樣發(fā)生著強烈的熱質(zhì)交換[7]。在干燥過程中讀取的是各個測量點的實時數(shù)據(jù)，而由于物料是流動的，每個測量點的數(shù)據(jù)變化和最后的產(chǎn)品之間又存在著時間間隔，導(dǎo)致當(dāng)前流股干燥結(jié)束后的含水量難以被實時監(jiān)測。而在實際生產(chǎn)中，為了避免產(chǎn)品的含水量過高，使用過度干燥導(dǎo)致工廠生產(chǎn)的成本增加。這時如果可以提前預(yù)測到產(chǎn)品的含水量，就可以在產(chǎn)品干燥結(jié)束前發(fā)現(xiàn)是否有不合格的產(chǎn)品，從而對干燥過程的參數(shù)進行及時調(diào)節(jié)，這樣可以節(jié)省許多時間和成本。深度學(xué)習(xí)是近年來發(fā)展十分迅速的研究領(lǐng)域，并且在人工智能的很多子領(lǐng)域都取得了巨大的成功[8]。本文以實際生產(chǎn)過程中獲得的DCS 運行數(shù)據(jù)為樣本，基于pytorch 深度學(xué)習(xí)框架構(gòu)造長短期記憶網(wǎng)絡(luò)LSTM 模型，對化工干燥產(chǎn)品的含水量進行預(yù)測。

1 pytorch 深度學(xué)習(xí)框架

1.1 簡介

Pytorch 是Facebook 在2017 年開源的一款深度學(xué)習(xí)框架[9]，它是基于torch 更新后的一種產(chǎn)品，不僅能夠?qū)崿F(xiàn)強大的GPU 加速，同時還支持動態(tài)神經(jīng)網(wǎng)絡(luò)。盡管Pytorch 的發(fā)布晚于TensorFlow, 但它的使用率在近幾年飛速提升 ，特別是在科研領(lǐng)域得到了大量的應(yīng)用[10]。

1.2 實驗環(huán)境描述

本文是在系統(tǒng)Win11、512G（SSD）的硬盤、INTEL 酷睿I5-11320H 的CPU 和內(nèi)存16 GB 的PC機上通過python3.8.5 版本和anaconda4.9.2 版本來使用Pytorch 構(gòu)造LSTM 深度學(xué)習(xí)模型。Anaconda 指的是一個開源的Python 發(fā)行版本，其包含了Conda、Python 等180 多個科學(xué)包及其依賴項[11]。

2 lstm 方法

2.1 lstm 原理

長短期記憶網(wǎng)絡(luò)（LSTM）是循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）的一種變體，是一種具備時序記憶能力的循環(huán)神經(jīng)網(wǎng)絡(luò)[12]，能夠很好地發(fā)現(xiàn)時間序列中所隱含的規(guī)律。LSTM模型將隱藏層的RNN細胞替換為LSTM細胞，能夠有效地克服傳統(tǒng)RNN 在處理大型時間序列數(shù)據(jù)時可能會出現(xiàn)的梯度爆炸和梯度消失等問題[13]。

LSTM 模型的核心概念在于細胞狀態(tài)以及“門”結(jié)構(gòu)[14]。LSTM 的網(wǎng)絡(luò)結(jié)構(gòu)由3 個門控和1 個記憶細胞構(gòu)成，記憶細胞用于保存歷史信息。3 種門結(jié)構(gòu)分別為遺忘門ft、輸入門it和輸出門ot，這些門結(jié)構(gòu)以特殊的方式進行交互，不斷控制著信息進行更新[15]。LSTM 模型基本結(jié)構(gòu)如圖1 所示。

圖1 LSTM 模型基本結(jié)構(gòu)

圖1 中每一個箭頭都表示著一個向量，意味著從一個節(jié)點的輸出到另一個節(jié)點的輸入，圓圈則表示向量的相加或相乘計算，箭頭分叉表示兩個節(jié)點復(fù)制。

2.2 lstm 的網(wǎng)絡(luò)結(jié)構(gòu)

2.2.1 輸入門

輸入門主要決定輸入xt能在記憶單元Ct中保留多少成分。首先將前一層隱藏狀態(tài)的信息ht-1和當(dāng)前輸入的信息xt傳遞到Sigmoid 函數(shù)中去，其次將前一層隱藏狀態(tài)的信息ht-1和當(dāng)前輸入的信息xt傳遞到tanh 函數(shù)中去，創(chuàng)造一個新的侯選值向量。輸入門結(jié)構(gòu)如圖2 所示。

圖2 LSTM 輸入門結(jié)構(gòu)

輸入門的公式可以表示為：

式中：σ—Sigmoid 函數(shù)；

Wi、Wc—輸入門it和候選向量的權(quán)重矩陣，相應(yīng)的偏置分別為bi和bc；

xt—在t時刻的輸入；

ht-1表示t-1 時刻的隱藏狀態(tài)。

2.2.2 遺忘門

來自前一個隱藏狀態(tài)的信息ht-1和當(dāng)前輸入的信息xt同時傳遞到 Sigmoid 函數(shù)中去，得到的輸出值介于0 和1 之間，0 意味著不保留，1 意味著都保留。遺忘門結(jié)構(gòu)如圖3 所示。

圖3 LSTM 遺忘門結(jié)構(gòu)

遺忘門的公式為：

式中：bf—遺忘門ft的偏置項；

Wf—遺忘門的權(quán)重矩陣。

2.2.3 細胞狀態(tài)

主要是用來確定上一層細胞狀態(tài)Ct-1有多少信息保留在細胞狀態(tài)Ct中，以及確定輸入xt中有多少信息保留在Ct中。前一層的細胞狀態(tài)Ct-1與遺忘向量ft逐點相乘。如果Ct-1乘以接近0 的值，就表示在新的細胞狀態(tài)中這些信息將會被丟棄。然后再將得到的值與輸入門的輸出值相加，將神經(jīng)網(wǎng)絡(luò)在t時刻傳入的有效信息更新到細胞狀態(tài)中去。至此，細胞狀態(tài)便完成了更新。

經(jīng)過輸入門和遺忘門之后，t時刻的細胞狀態(tài)為：

2.2.4 輸出門

輸出門決定控制單元Ct輸出到ot的信息有多少能輸出到隱藏層ht中，用來確定下一個隱藏狀態(tài)的值。先將前一個隱藏狀態(tài)信息ht-1和當(dāng)前輸入信息xt傳遞到Sigmoid 函數(shù)中得到ot，然后將新的細胞狀態(tài)Ct傳遞給tanh 函數(shù)。再將tanh 的輸出與Sigmoid 的輸出相乘，便得到了隱藏狀態(tài)最終的輸出值ht。最后將ht作為當(dāng)前細胞的輸出，把新的細胞狀態(tài)和新的隱藏狀態(tài)傳遞到下一個時間步長中去。輸出門結(jié)構(gòu)如圖4 所示。

圖4 LSTM 輸出門結(jié)構(gòu)

輸出門的公式為：

式中：Wo—輸出門ot的權(quán)重矩陣；

bo—輸出門的偏置項。

3 實驗研究

3.1 獲取實驗數(shù)據(jù)

3.1.1 原始數(shù)據(jù)

本次實驗的數(shù)據(jù)為某工廠干燥工藝中干燥器部分DCS 系統(tǒng)所產(chǎn)生的數(shù)據(jù)，其工藝流程圖如圖5 所示。低壓蒸汽與空氣進入干燥器對物料進行干燥，低壓蒸汽管線設(shè)置遠傳溫度表進行溫度監(jiān)測，同時設(shè)置壓力指示控制儀表與壓力調(diào)節(jié)閥相連，控制進入干燥器的低壓蒸汽流量?？諝夤芫€設(shè)置流量指示控制儀表與流量調(diào)節(jié)閥相連，控制進入干燥器的空氣流速。同時在干燥器上方設(shè)置八旋旋風(fēng)分離器，干燥器進八旋旋風(fēng)分離器管線設(shè)置溫度遠傳儀表，干燥器上方設(shè)置壓力指示控制儀表，控制八旋旋風(fēng)分離器的進風(fēng)流速。同時在干燥器內(nèi)設(shè)置溫度遠傳儀表，監(jiān)控2UT-2201 一床上部溫度一室、 2UT-2201一床中部溫度一室、 2UT-2201 一床下部溫度一室、2UT-2201 一床二室上部溫度、 2UT-2201 一床二室下部溫度、2UT-2201 二床上部溫度、2UT-2201 二床下部溫度。表1 為各個參數(shù)意義表。

圖5 流化床干燥工藝流程簡圖

表1 各個參數(shù)意義表

通過對該工藝實驗流程的初步分析，由于在干燥過程中，主要影響干燥效果的參數(shù)是溫度，所以選取了2TI2249、2TI2224、2TI2225、2TI2226、2TI2234、2TIC2235、2TI2228、2TIC2229、2TIC2227、2TIC2230這10 個重要測溫點與含水量數(shù)據(jù)AIA2203 作為原始數(shù)據(jù)，時序數(shù)據(jù)樣例見表2。該數(shù)據(jù)集記錄了11 520 條數(shù)據(jù)。

表2 干燥數(shù)據(jù)集

本次實驗，將干燥數(shù)據(jù)集前70%數(shù)據(jù)作為訓(xùn)練集訓(xùn)練模型，并將干燥數(shù)據(jù)集剩下的30%數(shù)據(jù)作為測試集，以此來驗證該模型的預(yù)測能力。

3.1.2 數(shù)據(jù)處理

為了保證LSTM 模型能夠快速收斂并且保持數(shù)據(jù)一致性，以此來提高模型的預(yù)測精度，在輸入時對數(shù)據(jù)進行了歸一化處理，在輸出時進行去歸一化處理。

式中：x—輸入數(shù)據(jù)；

xmin—輸入數(shù)據(jù)的最小值；

xmax—輸入數(shù)據(jù)的最大值；

x'—歸一化后的輸入數(shù)據(jù)。

3.2 構(gòu)建LSTM 模型

本文基于前i（i=720）行的特征向量對第i+ 1行的含水量數(shù)據(jù)進行預(yù)測。i為時間序列長度, 化工干燥數(shù)據(jù)的預(yù)測流程圖如圖6 所示。

圖6 基于LSTM 的干燥數(shù)據(jù)預(yù)測流程

在LSTM 神經(jīng)網(wǎng)絡(luò)中，隱藏層神經(jīng)元的個數(shù)的選擇至關(guān)重要，若神經(jīng)元數(shù)量過少，則會導(dǎo)致欠擬合，若神經(jīng)元數(shù)量過多，則會導(dǎo)致過擬合。

本文通過大量的實驗，最終發(fā)現(xiàn)隱藏層神經(jīng)元個數(shù)為32 比較好。本次實驗采用Adam 優(yōu)化器，它比SGD 優(yōu)化器更加穩(wěn)定，LSTM 層的層數(shù)為1 層，學(xué)習(xí)率為0.001，訓(xùn)練的輪數(shù)為50 輪，損失函數(shù)為MSELoss 均方損失函數(shù)，模型的搭建在Pytorch 深度學(xué)習(xí)框架下實現(xiàn)。

3.3 模型評價標準

為了更好地展現(xiàn)LSTM 模型對含化工干燥數(shù)據(jù)含水量的預(yù)測結(jié)果，本文選取均方誤差（MSE）、平均絕對誤差（MAE）和均方根誤差（RMSE）3 項評價指標來衡量預(yù)測結(jié)果與實際值之間的差距。具體計算方法如表3 所示。

表3 評價指標及計算公式

其中，yi為實際的含水量值，y?i為預(yù)測的含水量值，N為測試集的樣本數(shù)量。經(jīng)過表3 中的公式計算可得：MSE=0.000 058 7，MAE=0.005 968 9，RMSE=0.007 663 9。

4 實驗結(jié)果

在本次實驗中，所選擇的測溫點10 s 測量一次數(shù)據(jù)，實驗采用的數(shù)據(jù)集共有11 520 條數(shù)據(jù)。從工廠操作人員處得知，整個工段流程時間不超過2 h，故本次實驗的時間序列長度為720。利用訓(xùn)練好的LSTM 模型，對測試集數(shù)據(jù)進行預(yù)測，其損失函數(shù)圖形如圖7 所示，圖8 為真實值與預(yù)測值的對比。

圖7 損失函數(shù)圖

圖8 模型的預(yù)測值與真實值

由圖8 可以看出，隨著訓(xùn)練次數(shù)的增加，損失函數(shù)減小到了較小的范圍內(nèi)，模型的預(yù)測值和干燥數(shù)據(jù)的真實值走向非常接近，說明了LSTM 模型的訓(xùn)練效果非常好。

5 結(jié) 論

由于化工產(chǎn)品的干燥含水量數(shù)據(jù)具有非線性、非平穩(wěn)性以及序列間的相關(guān)性等特點，導(dǎo)致一些傳統(tǒng)的預(yù)測方法所預(yù)測的精度都不高，如傳統(tǒng)的人工神經(jīng)網(wǎng)絡(luò)對化工干燥含水量數(shù)據(jù)預(yù)測后的準確率非常低。近年來，LSTM 神經(jīng)網(wǎng)絡(luò)模型已經(jīng)被許多學(xué)者用來預(yù)測具有時間序列的數(shù)據(jù)，如金融領(lǐng)域的股票收盤價，并且得到的預(yù)測結(jié)果相比其他的方法具有更高的準確率，這說明了LSTM 在處理時序數(shù)據(jù)方面具有獨特的優(yōu)勢。

本文基于Pytorch 深度學(xué)習(xí)框架構(gòu)造LSTM 神經(jīng)網(wǎng)絡(luò)模型，并將其運用于預(yù)測化工干燥含水量的問題上，實驗發(fā)現(xiàn)，用該模型來進行預(yù)測，得到的預(yù)測值和真實值的走向非常逼近，并且MSE、MAE、RMSE 這3 項衡量預(yù)測結(jié)果與實際值之間差距的評價指標均較小，說明模型的預(yù)測精度高，誤差較小，代表模型具有較強的泛化能力，同時也證明了LSTM 神經(jīng)網(wǎng)絡(luò)用于處理化工干燥含水量這類順序數(shù)據(jù)同樣具有一定的優(yōu)越性。

由此可見，LSTM 神經(jīng)網(wǎng)絡(luò)模型用于對工廠實際生產(chǎn)的產(chǎn)品含水量進行實時預(yù)測的效果非常好，在實際生產(chǎn)中，這對工廠加快生產(chǎn)效率、降低人力成本、提高化工產(chǎn)品質(zhì)量起到了極其重要的作用。未來可以考慮對數(shù)據(jù)進行降噪處理或?qū)STM 模型的結(jié)構(gòu)做出改進，以進一步提高精度。