亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        具有輸入數(shù)據(jù)注意力機(jī)制的卷積神經(jīng)網(wǎng)絡(luò)用于氟化工產(chǎn)品質(zhì)量預(yù)測

        2022-03-09 00:38:36李欣銅陳志冰魏志強(qiáng)李蘇桐陳旭宋凱
        化工進(jìn)展 2022年2期
        關(guān)鍵詞:時(shí)變卷積變量

        李欣銅,陳志冰,魏志強(qiáng),李蘇桐,陳旭,宋凱

        (1 天津大學(xué)化工學(xué)院,天津 300350;2 航天長征化學(xué)工程股份有限公司,北京 100176;3 巨化清安檢測科技有限公司,浙江 衢州 324004;4 巨化股份有限公司,浙江 衢州 324004)

        在現(xiàn)代化工行業(yè)中,尤其是對于產(chǎn)品廣泛應(yīng)用于工業(yè)、日常生活、醫(yī)學(xué)和核工業(yè)等各個(gè)領(lǐng)域的氟化工而言,產(chǎn)品質(zhì)量控制格外重要。工業(yè)生產(chǎn)上的質(zhì)量測量往往需要通過昂貴的儀器、實(shí)驗(yàn)室分析和其他額外工作來實(shí)現(xiàn)。盡管在線成分分析儀的應(yīng)用日益廣泛,但受限于成本,工業(yè)實(shí)踐中通常是多套設(shè)備輪流共享一個(gè)在線成分分析儀。因此,重要成分質(zhì)量測量過程中高成本、低效率和滯后性大的缺點(diǎn),仍然嚴(yán)重阻礙了質(zhì)量控制水平的進(jìn)一步提高。另一方面,隨著大數(shù)據(jù)技術(shù)的飛速發(fā)展,集散控制系統(tǒng)(distributed control system,DCS)在線收集過程數(shù)據(jù)的能力越來越強(qiáng)。目前,開發(fā)質(zhì)量預(yù)測模型來提取變量中蘊(yùn)含的大量特征信息,實(shí)現(xiàn)對產(chǎn)品質(zhì)量的精準(zhǔn)預(yù)測,或者說實(shí)現(xiàn)質(zhì)量變量的軟測量,又一次成為了研究熱點(diǎn)?,F(xiàn)階段常用的質(zhì)量預(yù)測方法主要包括:多元線性回歸(MLR)、主成分回歸(PCR)、偏 最 小 二 乘 法 (PLS)、 Fisher 判 別 分 析(FDA)、獨(dú)立成分回歸(ICR)等線性回歸方法。這些方法通常將原始測量數(shù)據(jù)投影到低維線性子空間上提取可變特征,然后在低維子空間內(nèi)構(gòu)建預(yù)測模型,從而有效處理具有多重共線性的高維數(shù)據(jù)。此外,還包括適用于非線性問題的神經(jīng)網(wǎng)絡(luò)PLS、徑向基函數(shù)PLS、核函數(shù)PLS、核函數(shù)PCR、核函數(shù)ICR 等非線性回歸方法。雖然這些研究已為實(shí)現(xiàn)在線產(chǎn)品質(zhì)量預(yù)測做出了開創(chuàng)性工作,但由于氟化工多種變量之間復(fù)雜的非線性關(guān)系,工業(yè)應(yīng)用仍然困難重重。更重要的是,氟化工過程中重要零件或設(shè)備的腐蝕、老化、結(jié)垢等變化具有不同的時(shí)間尺度特性。多種時(shí)間尺度特性的共存,使其成為一個(gè)時(shí)變特性非常復(fù)雜的過程。這種非線性與強(qiáng)時(shí)變特性復(fù)雜的耦合使得非線性方法甚至是常規(guī)的機(jī)器學(xué)習(xí)方法難以完成質(zhì)量預(yù)測任務(wù)。

        隨著計(jì)算機(jī)技術(shù)(即計(jì)算速度、存儲(chǔ)容量)的快速發(fā)展,深度學(xué)習(xí)方法在質(zhì)量預(yù)測實(shí)踐中的應(yīng)用越來越普遍。在過去的幾年中,相比其他數(shù)據(jù)驅(qū)動(dòng)方法,深度學(xué)習(xí)方法在許多領(lǐng)域吸引了更多的研究關(guān)注并展示出更佳的性能。Hinton 等證明了具有多個(gè)隱藏層的人工神經(jīng)網(wǎng)絡(luò)(ANN)所學(xué)習(xí)的特征對數(shù)據(jù)表征更為本質(zhì),這有助于提高分類性能。同時(shí),“分層預(yù)訓(xùn)練”策略有效克服了訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)的困難。這些提議激發(fā)了學(xué)術(shù)界和工業(yè)界關(guān)于深度學(xué)習(xí)研究應(yīng)用的新熱潮,并逐步發(fā)展出深度人工 神 經(jīng) 網(wǎng) 絡(luò) (DANN)、 深 度 置 信 網(wǎng) 絡(luò)(DBN)、深度卷積神經(jīng)網(wǎng)絡(luò)(CNN)等。

        CNN 能夠根據(jù)不同時(shí)間軸上輸入數(shù)據(jù)的特性進(jìn)行參數(shù)的自適應(yīng)調(diào)整,以實(shí)現(xiàn)模型訓(xùn)練動(dòng)態(tài)迭代。換句話說,CNN 是一種在數(shù)據(jù)處理過程中實(shí)現(xiàn)動(dòng)態(tài)建模的方法。因此,CNN 非常適用于時(shí)間序列預(yù)測任務(wù),如工業(yè)過程的質(zhì)量預(yù)測任務(wù)。然而,由于氟化工過程的上述特征,常規(guī)CNN 的性能仍然不足以實(shí)現(xiàn)精準(zhǔn)的質(zhì)量預(yù)測。

        立足于上述氟化工過程所面臨的實(shí)際困難,本文提出了具有輸入數(shù)據(jù)注意力機(jī)制的卷積神經(jīng)網(wǎng)絡(luò)算法(ACNN),針對性地解決了氟化工數(shù)據(jù)帶有復(fù)雜而強(qiáng)烈時(shí)變特性的質(zhì)量預(yù)測難點(diǎn)問題,以滿足工業(yè)過程高水平質(zhì)量控制的需要。一方面,該算法作為基礎(chǔ)框架,可推廣到各類具有強(qiáng)時(shí)變特性過程的質(zhì)量預(yù)測任務(wù)當(dāng)中;另一方面,訓(xùn)練過程無需任何時(shí)變特性的先驗(yàn)知識(shí),最大限度地簡化了實(shí)際工業(yè)生產(chǎn)過程中訓(xùn)練、部署模型的步驟。雖然該方法作為深度學(xué)習(xí)算法在實(shí)踐中應(yīng)用尚存在一定挑戰(zhàn),例如,對計(jì)算機(jī)硬件水平的高要求、模型泛化性和訓(xùn)練時(shí)間等,但是其能夠充分利用氟化工生產(chǎn)過程中的海量數(shù)據(jù),具有大幅提高工業(yè)控制水平的潛力。將該方法應(yīng)用于氟化工生產(chǎn)數(shù)據(jù)和Tennessee Eastman(TE)模擬數(shù)據(jù),證實(shí)了算法的有效性,揭示了良好的工業(yè)應(yīng)用前景。

        1 卷積神經(jīng)網(wǎng)絡(luò)算法

        卷積神經(jīng)網(wǎng)絡(luò)(CNN)是一種典型的深度學(xué)習(xí)算法,受到生物過程的啟發(fā),其神經(jīng)元之間的連通性模式類似于動(dòng)物視皮層的組織。越來越多的應(yīng)用有力地證明了CNN 在非線性監(jiān)督學(xué)習(xí)應(yīng)用中的優(yōu)越性。

        常規(guī)的CNN 結(jié)構(gòu)包括一個(gè)輸入層、一個(gè)輸出層以及多個(gè)隱藏層。這些隱藏層通常由一系列卷積層、池化層、全連接層和歸一化層組成。卷積層的基本功能是特征提取,這是CNN 最重要的功能。常見的卷積核為正方形(即3×3、5×5等),以便從行和列中均勻提取變量特征。連續(xù)幾個(gè)卷積層之后添加一個(gè)池化層,以壓縮數(shù)據(jù)和減少參數(shù)數(shù)量,進(jìn)而提高網(wǎng)絡(luò)學(xué)習(xí)的速度并避免過度擬合。通過多重卷積和池化提取到的特征圖被輸入全連接層,歸一為預(yù)測值,從而實(shí)現(xiàn)從輸入到最終輸出的特征提取及預(yù)測任務(wù)。常用的訓(xùn)練方法有Adam 算法、高級隨機(jī)梯度下降(SGD)算法和其他梯度下降方法等。另外,為了防止過度擬合,CNN 訓(xùn)練過程中還使用dropout算法。

        2 具有輸入數(shù)據(jù)注意力機(jī)制的CNN模型構(gòu)建

        2.1 輸入數(shù)據(jù)注意力機(jī)制

        相對于其他簡單的化工過程,氟化工過程的數(shù)據(jù)具有更復(fù)雜的時(shí)變特性。而這類時(shí)變特性往往體現(xiàn)在不同長度的時(shí)間跨度之中,無法被某一個(gè)時(shí)間序列所表征。受限于輸入數(shù)據(jù)矩陣X的固定,常規(guī)CNN 僅能提取有限時(shí)段的單一時(shí)變特性,因此不利于把握整體時(shí)變特性,無法準(zhǔn)確預(yù)測氟化工過程的產(chǎn)品質(zhì)量。基于此,本文提出具有輸入數(shù)據(jù)注意力機(jī)制的CNN算法。利用輸入數(shù)據(jù)注意力機(jī)制,自適應(yīng)地提取不同跨度的時(shí)變特性,從而對輸入數(shù)據(jù)加權(quán)優(yōu)化后,再進(jìn)行特征提取完成質(zhì)量預(yù)測,以提高其預(yù)測精度。

        本文提出的ACNN算法中,CNN的輸入數(shù)據(jù)不再是單個(gè)的矩陣,而是多個(gè)不同時(shí)間跨度的矩陣。如圖1(a)所示,這些矩陣被儲(chǔ)存在個(gè)不同的通道之中,作為CNN 的一次輸入。借鑒SE-NET設(shè)計(jì)了輸入數(shù)據(jù)的注意力層,如圖1(b)所示。首先進(jìn)行擠壓(squeeze)操作,即利用全局池化(global pooling)逐通道壓縮特征,以表征特征通道上的全局分布,由式(1)求得。

        圖1 輸入數(shù)據(jù)注意力機(jī)制

        再通過激勵(lì)(excitation)操作為每個(gè)特征通道生成優(yōu)化權(quán)重。為了降低模型復(fù)雜度并提升泛化能力,設(shè)計(jì)了兩個(gè)全連接層,從而保證重要尺度的特征不會(huì)因其他尺度特征的加入而被削弱。整個(gè)過程如式(2)所示。

        最后,將sigmoid激活后的權(quán)重作為每個(gè)特征通道的重要性,經(jīng)乘法逐通道加權(quán)到先前的特征上,完成對原始特征在通道維度上的加權(quán)標(biāo)定,如式(3)所示。

        在具有輸入數(shù)據(jù)注意力機(jī)制卷積神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練時(shí),不同通道的權(quán)重會(huì)根據(jù)最終的預(yù)測值在反向傳播中自適應(yīng)地調(diào)整。因此,模型能夠通過不斷調(diào)整各個(gè)通道的權(quán)重來充分利用各個(gè)跨度時(shí)間序列內(nèi)的特征信息。

        2.2 矩形卷積核和池化層的構(gòu)建

        不同通道內(nèi)數(shù)據(jù)長度的不一致,影響了下一步卷積的進(jìn)行。本文采用多通道異步長的卷積方式,通過對較長數(shù)據(jù)序列等距采樣,克服不同通道內(nèi)輸入數(shù)據(jù)尺寸不一致問題,方法如圖2(a)所示。對于常規(guī)圖像處理任務(wù)而言,正方形卷積核通常非常有效。但是,在本文的研究中,輸入工業(yè)數(shù)據(jù)矩陣X=[(),(),…,x()]由在個(gè)采樣時(shí)間點(diǎn)的個(gè)過程變量組成。顯然,X的行和列包含完全不同的信息:每行包含同一時(shí)間采樣的不同變量的值,而每列包含不同時(shí)間采樣的同一變量的值。相應(yīng)地,行(變量)之間和列(變量的時(shí)間序列)之間的相關(guān)性完全不同。由于正方形卷積核容易混淆變量和時(shí)間的特征關(guān)系,采用了沿變量方向的長方形卷積核(如1×3、1×5 等),如圖2(b)所示。其運(yùn)算如式(4)所示。

        式中,是沿可變方向構(gòu)造的長方形卷積核;和分別是輸入和輸出矩陣;是的列數(shù)。為了盡可能全面地提取高維特征,ACNN在一個(gè)卷積層中使用了多個(gè)卷積核。相應(yīng)地,卷積層的輸出可以由式(5)計(jì)算。

        式中,表示激活函數(shù);是第個(gè)卷積層的卷積核數(shù);x

        是第層的第個(gè)輸出特征圖;xl是第-1層的第個(gè)輸入特征圖;是卷積核;bl是第個(gè)卷積核的偏置。

        類似地,為了盡可能多地保留變量在時(shí)間序列中所包含的時(shí)變信息,以獲得更好的在線質(zhì)量預(yù)測性能,ACNN使用了沿時(shí)間方向(列)的長方形池化層,如圖2(c)所示。

        圖2 ACNN卷積操作

        2.3 損失函數(shù)

        損失函數(shù)是卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程中的關(guān)鍵因素之一,因此需要針對不同的問題選擇不同的損失函數(shù)。損失函數(shù)是模型對數(shù)據(jù)擬合程度的體現(xiàn),擬合程度越好,損失函數(shù)的值也越小。同時(shí),損失函數(shù)的值越大,其對應(yīng)的梯度也越大,變量更新的速度就越快,根據(jù)梯度下降進(jìn)行的訓(xùn)練越迅速。因而ACNN 中使用了擬合效果良好的均方誤差(MSE),如式(6)所示。

        3 結(jié)果與討論

        3.1 預(yù)測TE模擬過程產(chǎn)品質(zhì)量

        TE 模型是化工生產(chǎn)過程的模擬程序,其可以為高級過程控制研究提供大量的模擬工業(yè)數(shù)據(jù)而無需任何損耗。另外,現(xiàn)階段應(yīng)用于TE 模型的算法很多,便于對算法效果進(jìn)行橫向比較。因此先在TE 模型上對上述方法的有效性進(jìn)行了驗(yàn)證。圖3為TE 模型的示意圖,它包含5 個(gè)主要單元:反應(yīng)器、汽提塔、冷凝器、循環(huán)壓縮機(jī)和分離器。

        圖3 TE模型流程

        本研究中使用模式3 中反應(yīng)動(dòng)力學(xué)漂移故障(故障13)來模擬具有緩慢時(shí)變的波動(dòng)特性。由于模式3中的兩個(gè)過程操作變量是常量,因此僅使用剩余46 個(gè)連續(xù)變量來預(yù)測最終產(chǎn)物的成分分析數(shù)據(jù)。連續(xù)變量采樣間隔為200 個(gè)樣本/h,成分分析數(shù)據(jù)采樣間隔為4 個(gè)樣本/h。所有數(shù)據(jù)連續(xù)收集500h,并用前400h 作4E3A 訓(xùn)練集,后100h 作為測試集。

        ACNN 結(jié)構(gòu)優(yōu)化為Conv(32)-Conv(64)-Pool-Conv(128)-Conv(128)-Pool-FC(1024)-FC(1),同時(shí)將前兩個(gè)卷積層的“Padding”參數(shù)設(shè)置為“VALID”。為了驗(yàn)證該方法的性能,將預(yù)測結(jié)果與其他方法(如KPLS、O-ICA-KPLS、常規(guī)的CNN、SE-NET)應(yīng)用于TE模型的最佳結(jié)果進(jìn)行了比較。3種深度學(xué)習(xí)方法均采用相同模型結(jié)構(gòu)和參數(shù),以證實(shí)輸入數(shù)據(jù)注意力機(jī)制的有效性。表1總結(jié)了不同方法對組分D的預(yù)測結(jié)果,其評價(jià)指標(biāo)為MSE。

        表1 不同方法TE模型質(zhì)量預(yù)測結(jié)果比較

        總的來說,ACNN在訓(xùn)練集和測試集上都表現(xiàn)出最低的MSE 值,分別為0.0094 和0.013。普通非線性方法與深度學(xué)習(xí)方法的差距明顯,KPLS 方法和O-ICA-KPLS方法在測試集上結(jié)果僅為0.5260和0.2285,基本難以準(zhǔn)確預(yù)測,而各類深度學(xué)習(xí)方法均獲得較低MSE。盡管3種深度學(xué)習(xí)方法選用的模型結(jié)構(gòu)和參數(shù)完全一致,但是由于SE-NET 和ACNN方法分別引入不同的注意力機(jī)制,因而精度上呈現(xiàn)較大差異。常規(guī)CNN 方法在訓(xùn)練時(shí)表現(xiàn)良好,但其在測試集上的性能不佳,僅為0.028。SE-NET與常規(guī)CNN方法類似,受到訓(xùn)練集為包含的特征干擾時(shí)無法有效把握整體的波動(dòng)特性,測試集上結(jié)果為0.026。ACNN 取得最佳結(jié)果,證實(shí)了ACNN獨(dú)特的輸入數(shù)據(jù)注意力機(jī)制使其能夠更準(zhǔn)確地提取不同時(shí)間尺度上的故障波動(dòng)特征,并做出更精確的數(shù)據(jù)預(yù)測趨勢。

        3.2 預(yù)測氟化工過程產(chǎn)品質(zhì)量

        3.2.1 R-22生產(chǎn)流程簡介

        R-22 也稱為HCFC-22,是主要的氟化物之一。盡管R-22 作為制冷劑或推進(jìn)劑的應(yīng)用一直存在爭議,但由于其是四氟乙烯(TFE,主要用于聚四氟乙烯樹脂、共聚物和食品氣霧劑)以及其他含氟聚合物產(chǎn)品的主要原材料,全世界對R-22 的需求量一直穩(wěn)定增長。

        AHF(無水氫氟酸)和氯仿反應(yīng)生成R-22 粗產(chǎn)物,再通過水和堿純化除去殘留的HCl 和HF 獲得精細(xì)產(chǎn)品。R-22 生產(chǎn)過程的主要操作單元包括進(jìn)料、反應(yīng)器、兩個(gè)精餾塔,水洗塔和分離器,如圖4所示。

        圖4 R-22生產(chǎn)流程

        主要產(chǎn)品R-22 的質(zhì)量分?jǐn)?shù)是衡量產(chǎn)品質(zhì)量高低的主要指標(biāo),影響后續(xù)一系列氟化物的生產(chǎn),因而,精確的R-22 產(chǎn)品質(zhì)量預(yù)測手段對工業(yè)流程的整體效益至關(guān)重要。另外,過程變量中存在的強(qiáng)烈時(shí)變特征以及變量之間復(fù)雜的非線性耦合關(guān)系使得常規(guī)質(zhì)量預(yù)測方法的性能遠(yuǎn)遠(yuǎn)不能令人滿意。因此,選用R-22 生產(chǎn)過程來驗(yàn)證上述具有輸入數(shù)據(jù)注意力機(jī)制的CNN模型的有效性。

        3.2.2 氟化工過程數(shù)據(jù)集構(gòu)建

        使用R-22 生產(chǎn)過程的真實(shí)數(shù)據(jù)來驗(yàn)證該方法的有效性,所有數(shù)據(jù)均來自位于中國衢州的氟化工廠。根據(jù)保密協(xié)議,僅使用了對整個(gè)生產(chǎn)過程影響最大的R-301反應(yīng)器相關(guān)過程變量,見表2。所有DCS 數(shù)據(jù)均以1min 的采樣間隔進(jìn)行采樣,從2020年1月到9月,共274天。成分分析數(shù)據(jù)為R-22產(chǎn)物質(zhì)量分?jǐn)?shù),通過人工測量每8h一次。使用前8個(gè)月的數(shù)據(jù)構(gòu)建訓(xùn)練集訓(xùn)練模型,并用第9個(gè)月數(shù)據(jù)構(gòu)建測試集進(jìn)行驗(yàn)證。

        表2 R-22生產(chǎn)過程中R-301反應(yīng)器的相關(guān)變量

        3.2.3 氟化工過程模型結(jié)構(gòu)參數(shù)調(diào)整

        與其他深度學(xué)習(xí)算法一樣,設(shè)計(jì)ACNN的難點(diǎn)在于沒有統(tǒng)一的指導(dǎo)原則。因而由淺及深設(shè)計(jì)并驗(yàn)證了6種不同的網(wǎng)絡(luò)結(jié)構(gòu),不同結(jié)構(gòu)下的最優(yōu)解見表3。模型性能的優(yōu)劣由損失函數(shù)MSE確定。

        適當(dāng)?shù)卦黾泳矸e神經(jīng)網(wǎng)絡(luò)的深度可以提高預(yù)測精度,增強(qiáng)模型學(xué)習(xí)能力,在測試集上獲得較好的結(jié)果。但是,過度復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu)反而導(dǎo)致過擬合現(xiàn)象,降低模型性能。如表3所示,模型4具有適當(dāng)?shù)木W(wǎng)絡(luò)深度,在測試集上MSE 值最小,具有良好的擬合能力。下文內(nèi)容中將使用模型4進(jìn)一步分析討論。

        表3 不同卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)下的預(yù)測結(jié)果

        在模型4 中,輸入數(shù)據(jù)尺寸為(480, 240,120)×10,其中“(480,240,120)”分別代表對應(yīng)通道中矩陣的時(shí)間序列長度,“10”代表變量的數(shù)量。卷積核和池化層尺寸分別優(yōu)化為1×2和2×1。這種設(shè)計(jì)可以突出不同變量之間的相關(guān)性,并在考慮計(jì)算負(fù)擔(dān)的情況下最大程度地提取不同時(shí)間序列中包含的特征信息。將卷積層的“Padding”參數(shù)設(shè)置為“SAME”,以解決對輸入數(shù)據(jù)邊緣信息提取不足的問題。另外,為避免過度擬合,“dropout”設(shè)置為0.5。

        3.2.4 氟化工過程質(zhì)量預(yù)測結(jié)果

        為了驗(yàn)證本文方法在質(zhì)量預(yù)測任務(wù)中的準(zhǔn)確性,表4 中列出了最佳性能下的KPLS、O-ICAKPLS,常規(guī)的CNN、SE-NET 以及ACNN 方法的預(yù)測結(jié)果MSE,3種深度學(xué)習(xí)模型采用完全相同的模型結(jié)構(gòu)和參數(shù)。一般任務(wù)中常用的非線性方法KPLS 和O-ICA-KPLS 無法適應(yīng)氟化工過程復(fù)雜的非線性特征,對R-22 過程質(zhì)量預(yù)測不準(zhǔn)確。常規(guī)CNN與SE-NET作為深度學(xué)習(xí)方法已經(jīng)遠(yuǎn)遠(yuǎn)強(qiáng)于之前的非線性回歸方法,但是仍有部分氟化工時(shí)變特征信息無法被其合理應(yīng)用。ACNN由于引入獨(dú)特的輸入數(shù)據(jù)注意力機(jī)制,在測試集表現(xiàn)上遠(yuǎn)優(yōu)于常規(guī)CNN,MSE值低55%。

        表4 不同方法R-22過程質(zhì)量預(yù)測結(jié)果比較

        為了更為直觀地展示性能的提升,R-22 真實(shí)值、ACNN 預(yù)測值和常規(guī)CNN 預(yù)測值如圖5 所示。可以發(fā)現(xiàn),ACNN和常規(guī)CNN均能夠在一定程度上跟蹤質(zhì)量變化。其中,ACNN擬合更為精確,尤其對第23、52、89 個(gè)點(diǎn)上的強(qiáng)烈跳變也做出了準(zhǔn)確的預(yù)測。相比之下,常規(guī)CNN 在整體擬合趨勢上出現(xiàn)偏差,且在部分點(diǎn)響應(yīng)遲鈍??傮w而言,ACNN質(zhì)量預(yù)測結(jié)果具有更高的準(zhǔn)確性,能夠更加準(zhǔn)確地反映時(shí)變特性對產(chǎn)品質(zhì)量的影響。

        圖5 R-22真實(shí)值、ACNN預(yù)測值和常規(guī)CNN預(yù)測值的、比較(根據(jù)保密協(xié)議,不顯示縱坐標(biāo)具體取值)

        4 結(jié)論

        為了提高復(fù)雜非線性與強(qiáng)時(shí)變特性耦合的氟化工過程的質(zhì)量預(yù)測性能,克服質(zhì)量變量測量滯后的局限性,本文提出了一種具有輸入數(shù)據(jù)注意力機(jī)制的卷積神經(jīng)網(wǎng)絡(luò)(ACNN)的質(zhì)量預(yù)測方法。通過引入輸入數(shù)據(jù)注意力機(jī)制,達(dá)到無需先驗(yàn)知識(shí)即可針對性地提取原始數(shù)據(jù)中復(fù)雜時(shí)變特性的目的,克服了卷積神經(jīng)網(wǎng)絡(luò)輸入矩陣尺寸單一而無法準(zhǔn)確跟蹤復(fù)雜時(shí)變特性的缺點(diǎn)。同時(shí),針對工業(yè)數(shù)據(jù)特點(diǎn),構(gòu)造的長方形卷積核和池化層進(jìn)一步提高了ACNN 的特征提取能力。該方法在TE 模型中進(jìn)行了初步的驗(yàn)證,在異常波動(dòng)狀態(tài)下的MSE 為0.013,遠(yuǎn)優(yōu)于常規(guī)CNN 和SE-NET。在氟化工R-22 過程的應(yīng)用結(jié)果表明,在無任何先驗(yàn)知識(shí)的情況下,ACNN的特征提取能力明顯優(yōu)于常規(guī)CNN和SE-NET,取得更佳的質(zhì)量預(yù)測結(jié)果,在總體預(yù)測和其中強(qiáng)烈跳變點(diǎn)的結(jié)果上更為可靠。以上結(jié)果證明,該方法的泛化性良好,可推廣到具有強(qiáng)時(shí)變特性或波動(dòng)特征的實(shí)際工業(yè)過程,具有良好的工業(yè)應(yīng)用前景。雖然深度學(xué)習(xí)模型的訓(xùn)練過程中參數(shù)量過大,對計(jì)算機(jī)硬件的要求較高,是制約其工業(yè)應(yīng)用的最主要原因。但是,隨著產(chǎn)業(yè)轉(zhuǎn)型升級,控制系統(tǒng)的更新?lián)Q代,深度學(xué)習(xí)先進(jìn)控制方法必定在工業(yè)控制領(lǐng)域大放異彩。

        猜你喜歡
        時(shí)變卷積變量
        基于時(shí)域全卷積網(wǎng)絡(luò)的語音增強(qiáng)
        艦船科學(xué)技術(shù)(2022年7期)2022-06-05 07:40:30
        基于3D-Winograd的快速卷積算法設(shè)計(jì)及FPGA實(shí)現(xiàn)
        抓住不變量解題
        也談分離變量
        從濾波器理解卷積
        電子制作(2019年11期)2019-07-04 00:34:38
        基于時(shí)變Copula的股票市場相關(guān)性分析
        SL(3,3n)和SU(3,3n)的第一Cartan不變量
        基于MEP法的在役橋梁時(shí)變可靠度研究
        分離變量法:常見的通性通法
        一二三区无线乱码中文在线| 视频二区精品中文字幕| 成人在线视频亚洲国产| 日韩av在线播放人妻| 人人色在线视频播放| 欧美日韩亚洲成人| 中文字幕无线精品亚洲乱码一区 | 91短视频在线观看免费| 久久精品亚洲熟女九色| 欧美又大粗又爽又黄大片视频| 久久精品国产精品国产精品污| 国产综合自拍| 久久网站在线免费观看| 国产精品久久久久久久久电影网| 熟女人妻在线视频| 岛国熟女一区二区三区| 亚洲丝袜美腿精品视频| 99久久亚洲精品日本无码| 免费现黄频在线观看国产| 日本成熟妇人高潮aⅴ| 李白姓白白又白类似的套路| 亚洲一区二区三区无码久久| 亚洲无毛片| 男女啪啪免费视频网址| 美女国产毛片a区内射| 老子影院午夜精品无码| 久久精品成人91一区二区| 宅男视频一区二区三区在线观看| av免费网址在线观看| 18无码粉嫩小泬无套在线观看| 免费1级做爰片1000部视频| 特级黄色毛片视频| 国产精品很黄很色很爽的网站| 久久综合久久美利坚合众国| 午夜男女爽爽爽在线视频| av手机在线天堂网| 国产精品成人av大片| 国产精品 人妻互换| 少妇无码av无码去区钱| 青青草视频在线播放观看| 国产精品三级av及在线观看|