亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        基于深度機(jī)器視覺的稀土元素組分含量預(yù)測

        2023-08-24 13:25:10張水平張奇涵王碧張小林藍(lán)橋發(fā)郭浩然
        有色金屬科學(xué)與工程 2023年4期
        關(guān)鍵詞:權(quán)值稀土卷積

        張水平, 張奇涵, 王碧, 張小林, 藍(lán)橋發(fā), 郭浩然

        (江西理工大學(xué),a. 信息工程學(xué)院;b. 材料冶金化學(xué)學(xué)部,江西 贛州 341000)

        稀土金屬是航空航天、國防軍工、節(jié)能環(huán)保等領(lǐng)域的關(guān)鍵戰(zhàn)略資源,其應(yīng)用在不同領(lǐng)域?qū)μ岣弋a(chǎn)品質(zhì)量、增強(qiáng)產(chǎn)品性能等方面[1]已表現(xiàn)出獨(dú)特的優(yōu)勢。比如,高性能的釹鐵硼永磁材料[2]被廣泛應(yīng)用于計(jì)算機(jī)、電視、核磁共振成像儀等高技術(shù)領(lǐng)域。但是,我國稀土萃取分離系統(tǒng)基本處于離線分析、手動調(diào)節(jié)和經(jīng)驗(yàn)控制階段,而稀土萃取過程中元素含量的快速檢測有助于提高稀土產(chǎn)品質(zhì)量。目前的檢測方法多為分光光度法、光譜法、質(zhì)譜法等,但是這些方法所用儀器存在檢測延時(shí)長、有放射性、結(jié)構(gòu)復(fù)雜和維護(hù)成本高等[3]問題,尚未得到普遍應(yīng)用,且由于稀土萃取槽的強(qiáng)腐蝕環(huán)境[4]導(dǎo)致很難找出合適的傳感器對稀土元素含量進(jìn)行檢測。因此,研究稀土萃取溶液中各元素含量的實(shí)時(shí)軟測量方法具有重要意義。

        目前,許多學(xué)者對稀土萃取生產(chǎn)中元素含量的軟測量進(jìn)行研究,文獻(xiàn)[4-8]對稀土萃取組分含量進(jìn)行軟測量,通過將影響稀土元素含量的主要因素(如稀土料液流量、萃取劑流量、洗滌液流量和料液配分)作為輔助變量,對應(yīng)元素含量作為主導(dǎo)變量,與傳統(tǒng)機(jī)器學(xué)習(xí)算法結(jié)合建立模型,對稀土元素含量進(jìn)行預(yù)測,預(yù)測結(jié)果符合實(shí)際生產(chǎn)標(biāo)準(zhǔn)。文獻(xiàn)[9]探討基于HSI 顏色空間描述的圖像顏色特征分量一階矩與組分含量的關(guān)系模型,實(shí)現(xiàn)對混合溶液中單一元素含量的檢測。文獻(xiàn)[10-13]利用稀土混合溶液圖像在HSI 顏色空間下的特征分量H、S 一階矩與稀土元素含量分別利用PAC-LSSVM、LSSVM、RBF 和GA-ELM 算法建立預(yù)測模型,實(shí)驗(yàn)結(jié)果精度符合生產(chǎn)檢測標(biāo)準(zhǔn)。但是,上述方法均為離線建立的全局模型,在生產(chǎn)工況(如環(huán)境溫度、稀土料液流量和萃取劑流量實(shí)時(shí))變化時(shí),不能有效預(yù)測組分含量。

        為應(yīng)對實(shí)時(shí)的生產(chǎn)環(huán)境,文獻(xiàn)[14]針對上述問題對即時(shí)算法進(jìn)行改進(jìn),提出一種基于模型更新策略即時(shí)學(xué)習(xí)算法的互信息加權(quán)最小二乘支持向量機(jī)(MISJITL-LSSVM)算法,將稀土萃取槽混合溶液圖像的H、S、I 顏色特征分量一階矩、相對紅色分量RR 和顏色矢量角CVA 作為輸入,Nd 元素含量作為輸出,建立模型,在保證準(zhǔn)確性的前提下提高模型的實(shí)時(shí)性。文獻(xiàn)[15]結(jié)合主成分分析法提取稀土溶液圖像在HSI和YUV 混合顏色空間下的時(shí)序特征,構(gòu)造基于鯨魚優(yōu)化算法的最小二乘支持向量機(jī)分類器(WOALSSVM)對工況狀態(tài)進(jìn)行診斷,開發(fā)稀土萃取組分含量動態(tài)監(jiān)測系統(tǒng),滿足稀土萃取組分含量檢測的快速性和準(zhǔn)確性要求。但是,上述方法均采用傳統(tǒng)機(jī)器視覺技術(shù),在100 個(gè)左右的小樣本下進(jìn)行建模,數(shù)據(jù)規(guī)模較??;且需要人工篩選并提取特征,過程較為繁瑣。稀土元素含量軟測量方法比較列于表1。

        表1 稀土元素含量軟測量方法比較Table 1 Comparsion of soft measurement methods for rare earth element content

        近年來,深度學(xué)習(xí)用于分析各行業(yè)的數(shù)據(jù)[16]。其中,深度學(xué)習(xí)方法中卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks, CNN)的權(quán)值共享、池化操作和高位映射在圖像處理方面表現(xiàn)突出,取得較多科研成果。本文引入CNN模型,從采集的1 210張稀土混合溶液圖像中提取抽象表征;同時(shí)采用深度神經(jīng)網(wǎng)絡(luò)構(gòu)建回歸模型,用于預(yù)測元素組分含量。相較于傳統(tǒng)方法,本方法數(shù)據(jù)規(guī)模提高了近12倍,且免去了人工篩選及提取特征的過程。多次重復(fù)實(shí)驗(yàn)表明,模型預(yù)測精度和時(shí)間成本均滿足實(shí)時(shí)生產(chǎn)所需,具備泛化能力高、魯棒性強(qiáng)的特點(diǎn)。對稀土萃取過程中元素含量實(shí)時(shí)在線檢測有實(shí)際作用。

        本文創(chuàng)新點(diǎn)包括:

        1)引入CNN,根據(jù)CNN 模型結(jié)構(gòu)建立輕量化VGG(Lightweight VGG)模型,從1 210 張Pr/Nd 稀土混合溶液原始圖像中提取抽象表征,構(gòu)建深度神經(jīng)網(wǎng)絡(luò)回歸模型優(yōu)化網(wǎng)絡(luò)權(quán)值,用于稀土元素含量預(yù)測,模型泛化力更強(qiáng)。

        2)提出相對誤差評價(jià)機(jī)制,考慮到稀土元素含量軟測量的誤差評價(jià)指標(biāo)為相對誤差,在驗(yàn)證集樣本預(yù)測值與真實(shí)值之間的相對誤差絕對值下降時(shí)自動更新并保存網(wǎng)絡(luò)權(quán)值,提升模型預(yù)測精度。

        1 數(shù)據(jù)集的制備

        為實(shí)現(xiàn)稀土混合溶液圖像的采集,實(shí)驗(yàn)所使用的Pr/Nd混合溶液由如下途徑獲得:

        1)原溶液組分含量測量:于贛南某稀土公司分別購買純度均為99.9%的1 L 1.827 5 mol/L PrCl3和1 L 2.063 mol/L NdCl3萃取溶液,其稀土濃度和配分均由國家鎢與稀土產(chǎn)品質(zhì)量監(jiān)督檢驗(yàn)中心提供。

        2)溶液稀釋:將2 種原溶液的濃度分別稀釋為0.01~0.50 mol/L 各11 種不同濃度且透光性良好的溶液。

        3)溶液混合:將2種不同濃度Pr和Nd溶液各50 mL相互混合,共得到121 組不同濃度的Pr/Nd 混合溶液,其中,混合溶液中各元素濃度為原濃度的1/2。

        由上述步驟得到Pr/Nd 含量在1.96%~98.04%之間的多組混合溶液,將各稀土混合溶液倒入收集皿中密封保存。實(shí)驗(yàn)制備的稀土混合溶液對光線呈現(xiàn)一定反射性和折射性,透光性較好,滿足基于機(jī)器視覺實(shí)驗(yàn)測量稀土元素含量的光學(xué)成像條件。同時(shí),在充滿稀土混合溶液的容器中形成了“離子顏色特征帶”(表2),為快速、準(zhǔn)確且可連續(xù)檢測的圖像識別技術(shù)的使用提供可行途徑。

        表2 部分稀土離子的顏色特征Table 2 Color characteristics of rare earth ions

        實(shí)驗(yàn)圖像采集時(shí),將稀土元素混合溶液倒入長×寬×高為150 mm×5 mm ×170 mm 的石英容器中,直至溶液填充滿容器。隨后將容器置于60 cm 攝影棚中。其中,攝影棚中搭建兩處LED光源,光源輸出電壓為24 V、功率為48 W、燈珠流明最大為15 000 lm;背景為純白色;圖像采集設(shè)備為NIKON D700 相機(jī);最終采集圖像為4 256×2 832 分辨率的JPG 格式圖片。由于拍攝得到的Pr/Nd混合溶液圖像(圖1)中包含石英容器邊緣外非溶液部分及邊緣內(nèi)顏色不均勻部分,因此將拍攝圖像中充滿顏色特征的部分進(jìn)行裁剪,每組溶液圖像依照從上至下、從左至右的順序裁剪10張圖片,共獲取1 210張顏色均勻的稀土混合溶液圖像。將混合溶液圖像按照不同的Pr 含量歸為79個(gè)類別,并將每個(gè)類別標(biāo)記上Pr含量真實(shí)值,制備成完整數(shù)據(jù)集,用于構(gòu)建模型。

        圖1 部分不同組分含量Pr/Nd混合溶液圖像:(a) 98.04% Pr, 1.96% Nd;(b) 42.86% Pr, 57.14% Nd;(c) 33.33% Pr, 66.67%, Nd;(d) 2.17% Pr, 97.83% NdFig.1 Images of Pr/Nd mixed solutions with different component contents:(a) 98.04% Pr, 1.96% Nd;(b) 42.86% Pr, 57.14% Nd;(c) 33.33% Pr, 66.67%,Nd;(d) 2.17% Pr, 97.83% Nd

        2 CNN結(jié)構(gòu)

        為提高網(wǎng)絡(luò)的學(xué)習(xí)能力,CNN 利用圖像的空間相關(guān)性提取圖像輪廓信息,有效地從大量樣本中學(xué)習(xí)相應(yīng)的特征,避免復(fù)雜的特征提取或構(gòu)建過程。CNN 可直接輸入三維圖像,通過非線性變換從原始圖像中提取更加抽象的表征,提高模型的泛化能力。并且在整個(gè)過程中只需少量的人工參與。CNN 包括:輸入層、卷積層、池化層、全連接層及輸出層。

        2.1 輸入層

        輸入層用于樣本的輸入。如輸入一張大小為224×224×3 的彩色圖像,輸入層能讀取到224×224 的矩陣,3為深度(即R、G、B)。

        2.2 卷積層

        卷積層[17]包含多個(gè)特征面,每個(gè)特征面包含多個(gè)神經(jīng)元。下一層特征面的每個(gè)神經(jīng)元通過卷積核(一個(gè)權(quán)值矩陣)與上一層特征面的局部區(qū)域相連接,其中每個(gè)神經(jīng)元的輸出值由該局部區(qū)域的加權(quán)和連接的激勵函數(shù)(如ReLU 函數(shù))獲得。上一層特征面的局部區(qū)域與對應(yīng)相連的下層特征面權(quán)值共享,結(jié)構(gòu)如圖2 所示。每1 個(gè)卷積層的每個(gè)輸出特征面的大小oMapN計(jì)算如式(1)所示:

        圖2 卷積層與池化層一維結(jié)構(gòu)示意Fig.2 Schematic diagram of one-dimensional structure of convolutional and pooling layers

        式(1)中:W為輸入特征面大?。籉為卷積核大?。籔稱為Padding(若為1則在特征面四周補(bǔ)零,使卷積過程充分提取特征面邊緣數(shù)據(jù));S為卷積核在上一層特征面局部區(qū)域的滑動步長。在圖2 中,設(shè)置F為1×3,P為0,S為1。ReLU 函數(shù)的計(jì)算公式如式(2)所示:

        2.3 池化層

        池化層[17]連接在卷積層之后,包含多個(gè)特征面。池化操作不會改變特征面的個(gè)數(shù),而是對特征面進(jìn)行下采樣操作,減小下一層特征面的大小,同時(shí)使模型能夠抽取更廣泛的特征,每個(gè)特征面唯一對應(yīng)于上一層的一個(gè)特征面,結(jié)構(gòu)如圖2 所示。其中,最常用的池化方法為最大池化(即取特征面局部域中值最大的點(diǎn))。每個(gè)輸出特征面的大小DoMapN計(jì)算如式(3)所示:

        式(3)中:oMapN為輸入特征面的大小,N為池化核大小。在圖2中,N為2。通過池化操作使得神經(jīng)元數(shù)量減少,降低網(wǎng)絡(luò)模型的計(jì)算量,避免過擬合,提高模型的泛化能力。

        2.4 全連接層及輸出層

        在經(jīng)多個(gè)卷積層和池化層后,連接全連接層[17]。全連接層將其中每個(gè)神經(jīng)元與前一層的所有神經(jīng)元進(jìn)行高維映射,用于整合卷積與池化層中綜合提取的特征信息,一般采用ReLU 激勵函數(shù)提升模型整體性能,結(jié)構(gòu)如圖3 所示。全連接層可為1 個(gè)或1 個(gè)以上,最后一層的輸出值一般采用Softmax函數(shù)傳遞給輸出層。Softmax函數(shù)的計(jì)算如式(4)所示:

        圖3 全連接結(jié)構(gòu)示意Fig.3 Schematic diagram of fully connected structure

        式(4)中:C為輸出節(jié)點(diǎn)的個(gè)數(shù)(即分類的類別個(gè)數(shù)),Zi為C中第i個(gè)節(jié)點(diǎn)的輸出值。通過Softmax 函數(shù)將多個(gè)類別的輸出值轉(zhuǎn)換為范圍在[0,1],和為1的概率分布。

        通常采用Dropout 技術(shù),設(shè)置Dropout 值為0.5,使全連接層隱藏層神經(jīng)元的輸出值以1/2 的概率變?yōu)?,使部分隱藏層節(jié)點(diǎn)失效,避免模型訓(xùn)練中的過擬合現(xiàn)象。由于Dropout技術(shù)的隨機(jī)性,降低了神經(jīng)元之間相互適應(yīng)的復(fù)雜性,使整體網(wǎng)絡(luò)更具備魯棒性,目前CNN 模型基本采用ReLU+Dropout[18]技術(shù),并取得很好的性能。圖3中,神經(jīng)元間的連接和前向傳播的方向采用箭頭線段表示,隱藏層和輸出層中每個(gè)神經(jīng)元的輸入值為上一層所有神經(jīng)元的輸出與連接權(quán)值的加權(quán)和。設(shè)定是全連接層中第l層第m個(gè)神經(jīng)元的輸入值和分別為該神經(jīng)元輸出值和偏置值,為該神經(jīng)元與第l- 1層第i個(gè)神經(jīng)元的連接權(quán)值,則有式(5)、式(6)。

        當(dāng)全連接操作用于分類任務(wù)時(shí),輸入矩陣的維度為輸入神經(jīng)元個(gè)數(shù),分類任務(wù)類別數(shù)為輸出神經(jīng)元個(gè)數(shù)。全連接操作可以分為前向傳播和后向傳播兩個(gè)階段,后向傳播開始于全連接層的輸出層,設(shè)定第l層為輸出層,yj為輸出層第j個(gè)神經(jīng)元的輸出值,tj為輸出層第j個(gè)神經(jīng)元的期望輸出值,將兩者建立損失函數(shù),設(shè)損失函數(shù)如式(7):

        對式(7)求一階偏導(dǎo),并使用梯度下降法[19]在損失值更低時(shí)更新網(wǎng)絡(luò)權(quán)值,則網(wǎng)絡(luò)權(quán)值更新公式如式(8),其中η為學(xué)習(xí)率。

        3 模型構(gòu)建及訓(xùn)練

        3.1 輕量化VGG模型

        CNN模型中通過卷積層提取各種不同的局部特征,池化層減少所提取局部特征神經(jīng)元個(gè)數(shù),降低復(fù)雜度,增強(qiáng)模型的魯棒性。將所提取的特征綜合起來反饋到全連接層進(jìn)行正向傳播和反向傳播,利用梯度下降法自動更新網(wǎng)絡(luò)權(quán)值。同時(shí)使用ReLU+Dropout 技術(shù)隨機(jī)使神經(jīng)元失活,使整體網(wǎng)絡(luò)更具有魯棒性和泛化能力,以獲取最優(yōu)網(wǎng)絡(luò)權(quán)值。根據(jù)卷積層、池化層、全連接的組合不同,衍生出許多經(jīng)典CNN 模型,包括LeNet、AlexNet、VGGNet、ResNet等,網(wǎng)絡(luò)模型根據(jù)項(xiàng)目的樣本數(shù)據(jù)集實(shí)際情況選擇。由于VGG(Visual Geometry Group)模型是從圖像中提取CNN 特征的首選方法,按照卷積操作次數(shù)的不同可劃分為VGG11、VGG13、VGG16 等基本模型結(jié)構(gòu)(圖4)。

        圖4 部分VGG基本模型結(jié)構(gòu):(a) VGG11;(b) VGG13;(c) VGG16Fig.4 Part of VGG basic model structure:(a) VGG11;(b) VGG13;(c) VGG16

        本文所采集數(shù)據(jù)集相對不大、圖像特征也不復(fù)雜,因此選用卷積和池化操作相對更少的VGG11 模型,減少卷積操作的次數(shù)、卷積核和全連接層節(jié)點(diǎn)的個(gè)數(shù),建立輕量化VGG模型,結(jié)構(gòu)如圖5所示。

        圖5 輕量化VGG模型Fig.5 Lightweight VGG model

        輸入大小為224×224×3 的稀土混合溶液圖像,輸入層能讀取到224×224 的矩陣,3 為深度(即R、G、B),并將圖像標(biāo)記上對應(yīng)不同元素含量的真實(shí)值,輸入模型進(jìn)行訓(xùn)練。模型共有5 組卷積和池化迭代操作過程,之后通過后向傳播使用梯度下降法不斷更新權(quán)重參數(shù),直到尋找到最佳的網(wǎng)絡(luò)權(quán)值。

        池化層通過不斷減小特征面大小,減少神經(jīng)元的數(shù)量,降低計(jì)算量,在一定程度上避免了過擬合。經(jīng)上述操作后,起始大小為 224×224×3 的圖像縮小為7×7×512 的數(shù)字矩陣。通過三層全連接,其中第一、二層全連接隱藏節(jié)點(diǎn)數(shù)為1 024,第三層全連接的隱藏節(jié)點(diǎn)數(shù)為79,將數(shù)字矩陣展開為一個(gè)表示類別的列向量,最后通過Softmax 函數(shù)輸出稀土混合溶液圖像中各組分含量的概率值(1×79)。

        3.2 優(yōu)化網(wǎng)絡(luò)權(quán)值

        VGG 模型一般用于分類任務(wù),而預(yù)測稀土元素含量為回歸任務(wù)。因此,為獲取準(zhǔn)確單一稀土元素含量的預(yù)測值,本文將輕量化VGG 模型Softmax 函數(shù)輸出的概率值列向量(1×79)與對應(yīng)元素組分含量的真實(shí)值行向量(79×1)作內(nèi)積,輸出稀土混合溶液圖像中的元素含量預(yù)測值,與對應(yīng)稀土混合溶液的元素含量真實(shí)值通過損失函數(shù)構(gòu)建深度神經(jīng)網(wǎng)絡(luò)回歸模型,對網(wǎng)絡(luò)權(quán)值進(jìn)行優(yōu)化,用于模型的預(yù)測。損失函數(shù)用于衡量實(shí)際變量值和預(yù)測值之間的差異,損失值越小說明預(yù)測越準(zhǔn)確,因此選擇合適的損失函數(shù)較為重要。下面探討回歸模型中使用的損失函數(shù)問題:

        1)回歸模型中通常采用的損失函數(shù)有L1Loss和L2Loss,分別用于計(jì)算平均絕對誤差MAE(式(9))和均方誤差MSE(式(10)):

        式(9)、式(10)中:i(i∈n)為第i個(gè)待測樣本,yi為模型預(yù)測值,y?i為待測樣本對應(yīng)的真實(shí)標(biāo)簽值,n為所預(yù)測樣本總個(gè)數(shù).

        2)由式(9)、式(10)可知,相較于L1Loss,L2Loss將誤差平方化,會加劇忽略微小的誤差。例如,真實(shí)元素組分含量為0.001的溶液,其預(yù)測值為0.011。雖然誤差是真實(shí)值的10 倍,但數(shù)值較小。若使用L2Loss,會進(jìn)一步增加修改該誤差的難度。

        3)L1Loss 用于求最小絕對值偏差,能處理數(shù)據(jù)中的異常值,因而更具魯棒性。相較L2Loss,L1Loss具有較為穩(wěn)定的解。

        因此,本文采用L1Loss作為模型的損失函數(shù),用于構(gòu)建深度神經(jīng)網(wǎng)絡(luò)回歸模型。將采集的數(shù)據(jù)集進(jìn)行分割,其中,80%作為訓(xùn)練集,10%作為驗(yàn)證集,10%作為預(yù)測集。本文以計(jì)算Pr 元素含量為例,將訓(xùn)練集和驗(yàn)證集標(biāo)記對應(yīng)Pr 元素含量的真實(shí)值,并將訓(xùn)練集輸入模型用于訓(xùn)練。設(shè)定模型輸入訓(xùn)練集的稀土混合溶液樣本批大?。˙atch)為n,y?i為輸入樣本對應(yīng)的Pr 元素含量的真實(shí)值,yi為輸入樣本通過模型輸出的預(yù)測值,y?i與yi同維度,則按照式(9)計(jì)算該批次數(shù)據(jù)樣本的損失值,在正向和反向傳播迭代過程中利用梯度下降法(式(8))自動優(yōu)化網(wǎng)絡(luò)權(quán)值。

        同時(shí),利用優(yōu)化器使初始值為1×10-4的學(xué)習(xí)率自適應(yīng)地改變,損失函數(shù)在合適的學(xué)習(xí)率下能夠在合適的時(shí)間收斂到局部最小值。實(shí)驗(yàn)采用的優(yōu)化器為RMSprop。

        該優(yōu)化器能解決某些迭代梯度過大而導(dǎo)致自適應(yīng)梯度無法改變的問題,加快神經(jīng)網(wǎng)絡(luò)的收斂。

        為更好地體現(xiàn)稀土萃取流程中組分含量軟測量的可信程度,將相對誤差作為評價(jià)指標(biāo),而3.1 節(jié)中介紹的深度神經(jīng)網(wǎng)絡(luò)回歸模型計(jì)算的是訓(xùn)練集樣本預(yù)測值與真實(shí)值之間的絕對誤差。因此,本文提出相對誤差評價(jià)機(jī)制,在模型每次迭代訓(xùn)練過程中的梯度不再下降時(shí),通過式(11)計(jì)算驗(yàn)證集樣本預(yù)測值與對應(yīng)Pr 含量真實(shí)值之間的相對誤差絕對值(RE),并在誤差值降低時(shí)自動更新與保存網(wǎng)絡(luò)權(quán)值。為便于后續(xù)對比實(shí)驗(yàn),按照式(12)計(jì)算絕對誤差評價(jià)機(jī)制下驗(yàn)證集樣本預(yù)測值與對應(yīng)Pr含量真實(shí)值之間的絕對誤差絕對值(AE),并保存對應(yīng)網(wǎng)絡(luò)權(quán)值。

        式(11)、式(12)中:i(i∈n)為第i個(gè)待測樣本,yi為模型預(yù)測值,y?i為待測樣本對應(yīng)的真實(shí)標(biāo)簽值。

        3.3 訓(xùn)練過程及預(yù)測

        采用為Windows10 操作系統(tǒng),CPU Intel Core i7-12700F(12 核),GPU RTX3080(內(nèi)存為10 GB),代碼實(shí)現(xiàn)統(tǒng)一采用PyTorch 深度學(xué)習(xí)框架。深度神經(jīng)網(wǎng)絡(luò)回歸模型構(gòu)建后,進(jìn)行迭代訓(xùn)練,由圖6 可見模型訓(xùn)練過程中訓(xùn)練集損失函數(shù)值在迭代至近第300 次時(shí)趨于收斂,從而完成模型的訓(xùn)練部分。由回歸模型中得到最優(yōu)網(wǎng)絡(luò)權(quán)值,在預(yù)測板塊加載權(quán)值文件,進(jìn)行預(yù)測集的預(yù)測,得到Pr元素含量的預(yù)測值后,按照式(13)求出對應(yīng)Nd元素含量的預(yù)測值:

        圖6 模型訓(xùn)練中驗(yàn)證集損失值隨迭代次數(shù)變化過程Fig.6 Variation of the loss value of the validation set with the number of iterations in model training

        4 實(shí)驗(yàn)與分析

        4.1 驗(yàn)證性實(shí)驗(yàn)

        為驗(yàn)證相對誤差評價(jià)機(jī)制在以相對誤差為評價(jià)指標(biāo)的稀土元素含量軟測量過程的有效性,將本文所提方法(輕量化VGG 模型)分別在相對誤差評價(jià)機(jī)制與絕對誤差評價(jià)機(jī)制下保存的網(wǎng)絡(luò)權(quán)值對測試集20 個(gè)樣本進(jìn)行Pr 元素含量預(yù)測,并將預(yù)測值與樣本對應(yīng)真實(shí)值按照式(11)計(jì)算相對誤差絕對值(RE)用于衡量兩種機(jī)制的性能。實(shí)驗(yàn)對比結(jié)果見圖7。

        圖7 不同評價(jià)指標(biāo)機(jī)制在20個(gè)測試集樣本中的相對誤差絕對值Fig.7 Relative error absolute value of different evaluation index mechanisms in 20 test set samples

        由圖7 可以明顯看出,預(yù)測集20 個(gè)樣本中,相對誤差評價(jià)機(jī)制下的Pr元素含量相對誤差絕對值普遍比絕對誤差評價(jià)機(jī)制下的低且波動范圍小,最大相對誤差絕對值在3%以內(nèi)。而絕對誤差評價(jià)機(jī)制下有一個(gè)樣本的Pr元素含量相對誤差高于5%,不滿足稀土萃取分離過程中對元素含量檢測最大相對誤差在±5%[20]范圍內(nèi)的最低要求。因此,相對誤差評價(jià)機(jī)制更適用于以相對誤差為評價(jià)指標(biāo)的稀土元素含量軟測量。

        4.2 對比實(shí)驗(yàn)

        為體現(xiàn)本文所提輕量化VGG 模型對稀土元素含量預(yù)測的優(yōu)越性,將本方法與多層感知機(jī)(Multilayer Perceptron,MLP)、VGG11、VGG13 和VGG16進(jìn)行對比,為保證對比實(shí)驗(yàn)的公平性,上述模型都通過L1Loss 損失函數(shù)構(gòu)建回歸模型并進(jìn)行訓(xùn)練,在相對誤差機(jī)制下保存網(wǎng)絡(luò)權(quán)值,并設(shè)置統(tǒng)一的全連接層節(jié)點(diǎn)個(gè)數(shù)與模型主要參數(shù)(表3),這些參數(shù)是提升模型性能的一般參數(shù)。因此,這對上述模型都是公平的。

        表3 主要參數(shù)設(shè)置Table 3 Main parameter settings

        此外,將傳統(tǒng)機(jī)器視覺方法中常用的最小二乘支持向量機(jī)(Least Squares Support Vector Machine,LSSVM)在本文所采集數(shù)據(jù)規(guī)模下進(jìn)行訓(xùn)練及預(yù)測,并與本文方法進(jìn)行對比。

        對比實(shí)驗(yàn)如下:

        1)為體現(xiàn)VGG 模型中卷積、池化操作捕捉稀土混合溶液圖像抽象表征的有效性,將輕量化VGG 模型除去卷積、池化操作后的3個(gè)全連接層構(gòu)建多層感知機(jī),保留ReLU+dropout 操作,建立稀土元素組分含量預(yù)測模型。

        2)采用VGG 模型中常用的VGG11、VGG13 和VGG16建立稀土元素組分含量預(yù)測模型。

        3)將本文采集數(shù)據(jù)集中的訓(xùn)練集與預(yù)測集待測樣本從RGB 顏色空間轉(zhuǎn)換到HSI 顏色空間,提取每張圖片的H、S 特征分量一階矩,用于構(gòu)建基于LSSVM的稀土元素組分含量預(yù)測模型。

        4)采用測試集中20 個(gè)不同Pr 元素組分含量的稀土混合溶液圖像樣本對本文方法與上述所有方法進(jìn)行測試,將預(yù)測值與對應(yīng)樣本真實(shí)值分別按照式(14)、式(11)和式(15)所示的平均相對誤差(MRE)、相對誤差絕對值(RE)、和均方根誤差(RMSE)公式進(jìn)行計(jì)算,可得到如圖8 所示的相對誤差絕對值對比圖,如表4 所列的MRE、最大相對誤差絕對值(REmax)和RMSE測試性能指標(biāo)值。

        圖8 6種模型測試時(shí)Pr元素含量的相對誤差絕對值Fig.8 Absolute value of relative error of Pr element content in 6 models test

        式(16)、式(17)中:i(i∈n)為第i個(gè)待測樣本,yi為模型預(yù)測值,y?i為待測樣本對應(yīng)的真實(shí)標(biāo)簽值,n為所預(yù)測樣本總個(gè)數(shù)。

        由圖8和表4可以看出:

        1)多層感知機(jī)各項(xiàng)性能指標(biāo)的誤差值遠(yuǎn)高于其他VGG 模型,說明一般的全連接神經(jīng)網(wǎng)絡(luò)無法有效捕捉到稀土混合溶液圖像中的特征,而VGG 模型中的卷積和池化等操作能充分捕捉到稀土混合溶液圖像中的內(nèi)部差異。

        2)比較VGG11、VGG13 和VGG16 3 種模型對稀土元素含量預(yù)測的測試結(jié)果,可知,VGG11 模型的3 個(gè)測試性能指標(biāo)值MRE、MAXRE和RMSE遠(yuǎn)優(yōu)于其他2個(gè)模型,說明卷積和池化操作相對更少的VGG模型更適合稀土混合溶液圖像中的元素含量預(yù)測。

        3)本方法是基于VGG11 模型進(jìn)行的改進(jìn),減少了卷積操作次數(shù)、卷積核和全連接層節(jié)點(diǎn)的個(gè)數(shù)。將本方法與VGG11 模型進(jìn)行比較可以發(fā)現(xiàn),前者的最大相對誤差及均方根誤差更低,說明本方法能在一定程度上提升模型預(yù)測的精度和穩(wěn)定性,并減少了計(jì)算量,更適用于稀土元素含量預(yù)測。

        4)將本方法與LSSVM 進(jìn)行比較,本方法MRE下降了0.981 1%、MAXRE下降了3.010 3%、RMSE下降了0.004 0,各項(xiàng)性能指標(biāo)都優(yōu)于LSSVM,且LSSVM最大相對誤差絕對值高于5%,超出了稀土萃取分離中元素含量檢測最大相對誤差的要求范圍。

        在本文所采集數(shù)據(jù)集規(guī)模下,采用LSSVM 對稀土元素含量進(jìn)行預(yù)測,精度不及本方法,且本方法免去了人工篩選和提取圖像特征的復(fù)雜過程。

        為驗(yàn)證本方法對稀土元素含量預(yù)測的準(zhǔn)確性與穩(wěn)定性,采用十折交叉驗(yàn)證法將數(shù)據(jù)集分成10 份,輪流將其中9 份作為訓(xùn)練數(shù)據(jù),1 份作為測試數(shù)據(jù)(其中,驗(yàn)證集與預(yù)測集各占50%),循環(huán)進(jìn)行10 組實(shí)驗(yàn)。將每組測試樣本的Pr元素含量的預(yù)測值與真實(shí)值分別按照式(14)、式(11)和式(15)式計(jì)算得到平均相對誤差(MRE)、最大相對誤差絕對值(REmax)、和均方根誤差(RMSE)如表5 所列,以衡量模型性能。

        表5 十折交叉驗(yàn)證法每組的性能指標(biāo)值Table 5 Performance index values for each group of the ten-fold cross-validation method

        由表5可得10組中最大平均相對誤差為1.556 9%、最大相對誤差絕對值為2.773 8%、最大均方根誤差為0.010 3。說明模型整體精度和穩(wěn)定性都較高,滿足稀土萃取分離過程中元素含量檢測最大相對誤差在±5%范圍內(nèi)的要求,而單個(gè)樣本的預(yù)測耗時(shí)少于2.8 s,預(yù)測時(shí)間成本滿足稀土萃取生產(chǎn)實(shí)時(shí)檢測的要求。

        5 結(jié) 論

        針對稀土萃取的復(fù)雜性和結(jié)果多樣性導(dǎo)致對稀土元素含量的分析難度比較高,人工進(jìn)行稀土元素含量預(yù)測費(fèi)時(shí)費(fèi)力,且需要使用昂貴且并不高效的儀器裝置,存在檢測延時(shí)大、有放射性、結(jié)構(gòu)復(fù)雜和維護(hù)成本高等問題。本文根據(jù)深度學(xué)習(xí)方法中CNN模型結(jié)構(gòu),建立輕量化VGG 模型,同時(shí)采用L1Loss損失函數(shù)構(gòu)建深度神經(jīng)網(wǎng)絡(luò)回歸模型,提出相對誤差評價(jià)指標(biāo)在驗(yàn)證集預(yù)測值與真實(shí)值之間相對誤差絕對值下降時(shí)保存網(wǎng)絡(luò)權(quán)值,用于稀土混合溶液圖像中的元素含量預(yù)測。經(jīng)多組實(shí)驗(yàn)得出以下結(jié)論:

        1)本文所提輕量化VGG 模型能充分捕捉具備離子顏色特征的稀土混合溶液圖像抽象表征,相對誤差評價(jià)機(jī)制能有效降低測試樣本預(yù)測值與真實(shí)值之間的相對誤差。

        2)對比實(shí)驗(yàn)中表明,在本文采集數(shù)據(jù)規(guī)模上,本方法對稀土元素含量預(yù)測精度高于傳統(tǒng)機(jī)器視覺方法,此外,本文法免去了繁瑣的人工篩選及提取特征的過程,減少了人工開支。

        3)十折交叉法證明本方法對稀土元素含量預(yù)測穩(wěn)定性高、泛化力強(qiáng),最大相對誤差為2.773 8%,滿足稀土萃取分離過程中對元素組分含量檢測最大相對誤差在±5%范圍內(nèi)的要求。單個(gè)樣本預(yù)測耗時(shí)少于2.8 s,時(shí)間成本滿足實(shí)際萃取生產(chǎn)中對組分含量檢測所需,在稀土萃取生產(chǎn)方面是有意義的。

        猜你喜歡
        權(quán)值稀土卷積
        中國的“稀土之都”
        一種融合時(shí)間權(quán)值和用戶行為序列的電影推薦模型
        基于3D-Winograd的快速卷積算法設(shè)計(jì)及FPGA實(shí)現(xiàn)
        CONTENTS
        稀土鈰與鐵和砷交互作用的研究進(jìn)展
        四川冶金(2019年5期)2019-12-23 09:04:36
        從濾波器理解卷積
        電子制作(2019年11期)2019-07-04 00:34:38
        基于傅里葉域卷積表示的目標(biāo)跟蹤算法
        廢棄稀土拋光粉的綜合利用綜述
        基于權(quán)值動量的RBM加速學(xué)習(xí)算法研究
        雙稀土和混合稀土在鑄造鋁合金中應(yīng)用現(xiàn)狀
        凹凸世界视频a一二三| 中文字幕av在线一二三区| 精品人伦一区二区三区蜜桃麻豆| 白白白色视频在线观看播放| 亚洲桃色视频在线观看一区| 消息称老熟妇乱视频一区二区| 国产在线丝袜精品一区免费| 日本一区二区三区资源视频| 亚洲中文av中文字幕艳妇| 中文人妻熟妇乱又伦精品| 国产精品jizz观看| 日本免费一区精品推荐| 色婷婷久久亚洲综合看片| 国产成人精品123区免费视频| 综合网五月| 91久久精品一二三区色| 国产免费观看黄av片| av无码免费永久在线观看| 欧美日韩中文字幕日韩欧美| 亚洲日产乱码在线中文字幕| 国产精品538一区二区在线| 色拍拍在线精品视频| 国产亚洲一区二区三区夜夜骚| 久久免费看的少妇一级特黄片| 精品999日本久久久影院| 被黑人做的白浆直流在线播放| 日日噜噜夜夜久久密挑| 无码专区人妻系列日韩精品| 狠狠躁夜夜躁人人爽超碰97香蕉| 骚小妹影院| 亚洲电影久久久久久久9999| 日本一区二区不卡二区| 无码人妻少妇久久中文字幕蜜桃| 欧美日韩电影一区| av免费在线观看在线观看| 亚洲av无码偷拍在线观看| 精品久久久久久中文字幕| 成人精品免费av不卡在线观看| 国产一级黄色录像大片| 朝鲜女人大白屁股ass| 色狠狠一区二区三区香蕉蜜桃 |