亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        用于軸承故障診斷任務(wù)的輕量化卷積網(wǎng)絡(luò)

        2024-01-01 00:00:00劉輝李陽侯一民
        關(guān)鍵詞:卷積神經(jīng)網(wǎng)絡(luò)故障診斷機(jī)械

        摘 要:針對(duì)機(jī)械故障診斷領(lǐng)域中,許多具有優(yōu)異性能的卷積模型受制于部署成本的因素而難以應(yīng)用于工業(yè)實(shí)踐的問題,研發(fā)參數(shù)更低的輕量化診斷方法。采用深度可分離卷積壓縮網(wǎng)絡(luò)參數(shù)量的方法,研究了深度可分離卷積構(gòu)建輕量化軸承故障診斷模型的可行性,從而給出了保障模型診斷精度的條件下壓縮卷積網(wǎng)絡(luò)參數(shù)量的策略。在開源和自制的軸承振動(dòng)數(shù)據(jù)集上,對(duì)所提出的方法有效性進(jìn)行了驗(yàn)證。結(jié)果表明,使用深度可分離卷積對(duì)卷積模型進(jìn)行參數(shù)壓縮,能夠在滿足輕量化需求的情況下,確保模型具有高診斷精度(96.20±2.81%)。

        關(guān)鍵詞:故障診斷;卷積神經(jīng)網(wǎng)絡(luò);模型結(jié)構(gòu)設(shè)計(jì);振動(dòng)(機(jī)械)

        DOI:10.15938/j.jhust.2024.04.009

        中圖分類號(hào): TH212;TH213.3

        文獻(xiàn)標(biāo)志碼: A

        文章編號(hào): 1007-2683(2024)04-0080-09

        Lightweight Convolutional Network for Bearing Fault Diagnosis

        LIU Hui1, LI Yang2, HOU Yimin3

        (1.China Nuclear Industry Maintenance Co., Ltd, Shanghai 201103, China;

        2.School of Mechanical Engineering, Northeast Electric Power University, Jilin 132012, China;

        3.School of Automation Engineering, Northeast Electric Power University, Jilin 132012, China)

        Abstract:In the field of bearing fault diagnosis, many convolutional models with excellent performance face challenges in industrial applications due to deployment cost constraints. This paper aims to develop a lightweight diagnostic method with reduced parameters. We investigate the feasibility of using depthwise separable convolution to construct a lightweight bearing fault diagnosis model, thereby proposing a strategy to compress the parameters of the convolutional network while ensuring diagnostic accuracy. The effectiveness of the proposed method is validated on both publicly available and custom vibration signal datasets. The results demonstrate that compressing convolutional models using depthwise separable convolution allows for lightweight requirements while maintaining a high diagnostic accuracy (96.20±2.81%).

        Keywords:fault detection; convolutional neural networks; model structures; vibrations (mechanical)

        0 引 言

        傳統(tǒng)的軸承故障診斷主要依托于物理建模或信號(hào)處理[1。其中基于物理建模的方式通常需要對(duì)機(jī)械的結(jié)構(gòu)有較為透徹的理解,從而很難為現(xiàn)代復(fù)雜機(jī)械設(shè)備建立精準(zhǔn)的模型,尤其是在動(dòng)態(tài)和噪聲環(huán)境下;而基于信號(hào)處理的診斷技術(shù)通常是通過包括去噪和濾波等在內(nèi)的技術(shù)獲取特征信息,但是對(duì)于特征選取通常需要相關(guān)的設(shè)備知識(shí)作為先驗(yàn)條件,從而難以廣泛推廣2。而隨著工業(yè)現(xiàn)代化、信息化進(jìn)程的加速以及機(jī)器學(xué)習(xí)等技術(shù)的飛速發(fā)展,基于數(shù)據(jù)驅(qū)動(dòng)的故障診斷算法憑借其無需任何先驗(yàn)知識(shí)以及高診斷精度而成為了軸承故障診斷中的研究熱點(diǎn)[3。但是,盡管基于經(jīng)典的機(jī)器學(xué)習(xí)模型,例如,支持向量機(jī)(support vector machine, SVM),k-最近鄰等,在過去幾年中已經(jīng)取得了較為優(yōu)異的成果4,但在面對(duì)更高的工業(yè)需求時(shí)仍然面臨著一定的挑戰(zhàn)5。尤其是對(duì)復(fù)雜的數(shù)據(jù)進(jìn)行分析時(shí),由于構(gòu)造相對(duì)簡(jiǎn)單而難以提取到深層的特征信息,隨著傳感器的多樣性和機(jī)器的復(fù)雜性、數(shù)據(jù)維數(shù)和動(dòng)態(tài)性的增加,使用傳統(tǒng)算法很難獲得令人滿意的診斷結(jié)果1。深度學(xué)習(xí)作為機(jī)器學(xué)習(xí)最熱門的分支,因?yàn)閺?qiáng)大的數(shù)據(jù)處理和特征學(xué)習(xí)能力以及架構(gòu)創(chuàng)新等主觀因素已經(jīng)在過去的幾年中掀起了智能故障診斷的浪潮。其中,卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural networks, CNN[6)已成為領(lǐng)先的架構(gòu),并在許多基準(zhǔn)測(cè)試中取得了最先進(jìn)的性能[7,這使得基于CNN的故障診斷方法迅速發(fā)展,并且已經(jīng)發(fā)表了大量的研究工作[8。

        基于CNN的軸承故障診斷方法一般可以總結(jié)為3個(gè)步驟,即數(shù)據(jù)收集、模型構(gòu)建,以及特征學(xué)習(xí)和決策制定。具體而言,首先,從相關(guān)的機(jī)械設(shè)備中收集和準(zhǔn)備大量的監(jiān)測(cè)數(shù)據(jù);然后,根據(jù)任務(wù)需求設(shè)計(jì)并構(gòu)建卷積網(wǎng)絡(luò)模型;最后,通對(duì)框架進(jìn)行訓(xùn)練獲取最優(yōu)參數(shù)進(jìn)而使用提取的特征進(jìn)行決策,并給出最終的診斷結(jié)果。因此,基于CNN的故障診斷方法便具備了以下優(yōu)點(diǎn)[9:①它能夠自適應(yīng)地開發(fā)深度和內(nèi)在特性,同時(shí)減輕對(duì)人類勞動(dòng)和專家知識(shí)的需求;②模型可以根據(jù)實(shí)時(shí)監(jiān)測(cè)數(shù)據(jù)靈活更新自身,以滿足更實(shí)際的診斷需求;③診斷框架將特征提取和決策集成在一起,構(gòu)建了端到端的智能診斷模型。

        盡管基于CNN的故障診斷方法憑借其強(qiáng)大的特征提取能力已經(jīng)取得了較多優(yōu)異的成果。但是,當(dāng)前對(duì)于面向?qū)嶋H工業(yè)應(yīng)用的軸承故障診斷方法而言,仍然存在著許多嚴(yán)峻的挑戰(zhàn),例如抗噪聲干擾[10,可訓(xùn)練數(shù)據(jù)不足11,以及輕量化12等。其中,受制于實(shí)際的部署成本,許多具有較大參數(shù)量的CNN模型并不能直接應(yīng)用于實(shí)際工業(yè)現(xiàn)場(chǎng),因此,如何以更低的參數(shù)量取得更高的診斷精度就成為了基于CNN的軸承診斷方法所需面對(duì)的一個(gè)迫切挑戰(zhàn)。為了應(yīng)對(duì)這一挑戰(zhàn),本文旨在確保CNN模型診斷條件下壓縮模型的參數(shù)量,采用深度可分離卷積網(wǎng)絡(luò)(depthwise separable convolution, DSC)替換了傳統(tǒng)CNN架構(gòu)中的卷積操作,以減低模型的參數(shù)量。此外,為了保障模型具備足夠的診斷精度,在構(gòu)建了一個(gè)基于DSC的模型后,在模型中引入了殘差結(jié)構(gòu)用以在訓(xùn)練過程中保障模型梯度信息的正常傳遞,以提升模型的診斷精度。最后,在實(shí)際的軸承故障診斷數(shù)據(jù)集上驗(yàn)證了所提出方法的有效性,實(shí)驗(yàn)結(jié)果表明,所提出的DSC基模型,相比于的傳統(tǒng)的CNN模型,能夠憑借更少的數(shù)量完成高精度的軸承故障診斷任務(wù),提升了傳統(tǒng)CNN診斷模型的識(shí)別能力。

        1 理論背景

        1.1 卷積神經(jīng)網(wǎng)絡(luò)

        傳統(tǒng)的CNN框架通常包括了4個(gè)主要模塊,即一個(gè)輸入層,一個(gè)輸出層,以及多個(gè)卷積層和池化層[7。通過輸入層獲取輸入信息,并由卷積層完成特征提取,同時(shí)借助池化層降低后續(xù)運(yùn)算量并擴(kuò)大后續(xù)卷積層的感受野,最后,通過輸出層(通常由全連接網(wǎng)絡(luò)構(gòu)成)整合特征信息給出最終的診斷結(jié)果。此外,該體系通常還會(huì)嵌入兩種較為流行的操作,即在池化前使用批量歸一化(batch normalization, BN)調(diào)整特征信息分布加速模型收斂,和在輸出層中嵌入Dropout結(jié)構(gòu)提升抑制模型過擬合[2。常見的故障診斷任務(wù)都是采用了標(biāo)準(zhǔn)的監(jiān)督學(xué)習(xí)方式對(duì)模型進(jìn)行訓(xùn)練以獲取最終的診斷模型。具體而言,通過梯度下降的策略最小化損失函數(shù)值,以實(shí)現(xiàn)模型輸出結(jié)果逼近對(duì)應(yīng)的標(biāo)簽值。常見的損失函數(shù)包括了用于回歸任務(wù)的均方根誤差函數(shù),用于分類任務(wù)的交叉熵?fù)p失函數(shù),以及用于分布逼近的KL散度損失函數(shù)等。

        在微分中將卷積的表達(dá)式定義為:S(t)=∫x(t-a)w(a)da其進(jìn)行離散化后表示為:s(t)=∑ax(t-a)w(a),從而,易得其在二維矩陣中運(yùn)算形式:s(i,j)=(X*W)(i,j)=∑m∑nx(i-m,j-n)w(m,n)。而在CNN中,其對(duì)卷積的定義則與嚴(yán)格意義上的二維矩陣數(shù)學(xué)運(yùn)算的形式稍有差異。對(duì)于單獨(dú)一個(gè)卷積核而言,其進(jìn)行卷積運(yùn)算提取特征信息的過程可以由式(1)表示輸入的特征圖,W表示所使用的大小為(m,n)大小的卷積核權(quán)重值。卷積層是由多個(gè)具有相同感受野(卷積核大?。┑木矸e核所構(gòu)成的,其通過卷積運(yùn)算的方式從輸入的特征圖中提取特征信息并生成一個(gè)新的特征圖,并且所輸出的特征圖的通道數(shù)和其所使用的卷積核數(shù)量相同。

        s(i,j)=(X*W)(i,j)=∑m∑nx(i+m,j+n)w(m,n)(1)

        1.2 深度可分離卷積

        在Xception[13和MobileNet[14這兩個(gè)著名的輕量化模型中對(duì)CNN做出來一個(gè)較為經(jīng)典的假設(shè),即卷積的過程可以被拆分為兩個(gè)相對(duì)獨(dú)立的過程——在空間維度卷積和在通道維度的卷積。并基于這一假設(shè),提出了由深度卷積和逐點(diǎn)卷積所構(gòu)成的DSCNN,如圖1所示。據(jù)式(1)易得,卷積操作輸出的特征圖通道數(shù)等于卷積核的數(shù)量,因此,深度卷積就是指對(duì)輸入特征圖的每一通道分別使用一個(gè)獨(dú)立的卷積核完成卷積操作,所以可以視為對(duì)在空間維度上對(duì)特征圖進(jìn)行卷積。而逐點(diǎn)卷積則可以視為一種特殊卷積操作,即卷積核尺寸為1×1的卷積操作,其在DSCNN中主要有兩個(gè)作用——改變輸出特征通道數(shù)和通道信息融合。首先,由于深度卷積不具備改變輸出通道的能力,而通常在卷積層堆疊的過程中需要通過通道擴(kuò)增的方式獲取更多的特征信息,因此需要在深度卷積之后轉(zhuǎn)接一個(gè)逐點(diǎn)卷積。其次,由于深度卷積是獨(dú)立地對(duì)每個(gè)通道的特征值進(jìn)行卷積處理,故在深度卷積過程中模型不具備通道間信息交互的可行從而降低了模型的擬合能力,因此有必要在深度卷積之后使用一個(gè)逐點(diǎn)卷積確保不同通道之間的特征信息具備相互交互的可行性。

        令xin∈瘙綆B×Cin×H×W表示輸入特征,而xout∈瘙綆B×Cout×H×W表示輸出特征,則使用相同卷積核大?。―k1×Dk2)進(jìn)行卷積操作時(shí),Conv2D的參數(shù)量PConv2D和DSCNN的參數(shù)量PDSCNN存在恒等式PConv2D-PDSC2D=Cin[(Dk1×Dk2-1)(Cout-1)-2],由于Dk是一個(gè)大于1的整數(shù),且Cout≥Cin≥1因此不等式(2)恒成立,從而易得,在使用DSCNN對(duì)CNN進(jìn)行替換后可有效地降低模型的參數(shù)量,且Cout和Cin越大下降效果越顯著(由于Dk1和Dk2是常數(shù),因此本研究中暫不做討論)。同樣地,對(duì)于Conv1D而言,其也滿足相同的結(jié)論,即式(3)恒成立。

        PConv2D=(Dk1×Dk2×Cin+1)×Cout>(Dk1×Dk2+Cout+1)×Cin+Cout=PDSC2D(2)

        PConv1D=(Dk×Cin+1)×Cout>(Dk+Cout+1)×Cin+Cout=PDSC1D(3)

        基于此,我們采用了DSC取代了傳統(tǒng)卷積診斷網(wǎng)絡(luò)中的卷積操作用以實(shí)現(xiàn)壓縮模型參數(shù)量的目的,后續(xù)的實(shí)驗(yàn)結(jié)果也論證了此策略對(duì)壓縮模型參數(shù)的有效性。

        2 基于DSC1D的模型設(shè)計(jì)

        2.1 符號(hào)定義

        為了便于閱讀和防止歧義,本節(jié)在進(jìn)行具體方法描述前,首先對(duì)全文的縮寫符合進(jìn)行了定義,具體為:

        卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural networks,CNN);

        一維卷積網(wǎng)絡(luò)(one-dimensional convolutional network,Conv1D);

        深度可分離卷積(depthwise separable convolution,DSC);

        支持向量機(jī)(support vector machine,SVM);

        批量歸一化(batch normalization,BN);

        全連接(full connection,F(xiàn)C)。

        2.2 模型結(jié)構(gòu)

        為了消除分類器結(jié)構(gòu)對(duì)模型性能的影響,在使用卷積結(jié)構(gòu)完特征提取之后,采用了相同深度的全連接(full connection, FC)層構(gòu)建了一個(gè)分類器,用以處理特征信息幷給出診斷結(jié)果。該分類器一共包括了兩層FC,其中第一層FC的作用是整合卷積的輸出特征信息,

        其神經(jīng)元數(shù)量固定為64并采用ReLU(ReLU(x)=max(0,x))作為激活函數(shù)保證輸出特征的非線性。而第二層FC則用于輸出診斷結(jié)果,因此其神經(jīng)元數(shù)量為待診斷任務(wù)的類別數(shù),同時(shí)采用了SoftMax函數(shù)(SoftMax(xi)=exi∑nj=1exj)作為其激活函數(shù)以保證輸出結(jié)果符合概率分布。因此,對(duì)于卷積輸出的特征信息x,其最終預(yù)測(cè)結(jié)果p之間滿足式(4),其中n表示待診斷任務(wù)的類別數(shù)。

        p=SoftMax(FCn(ReLU(FC64(x))))(4)

        考慮到原始的傳感器信號(hào)是一維的時(shí)序振動(dòng)信號(hào),因此為了令Conv2D和DSC2D可以直接處理輸入信息,從而采用了數(shù)據(jù)整形的方法[15,先將輸入的一維時(shí)序振動(dòng)信號(hào)轉(zhuǎn)換為二維圖像信號(hào)。具體而言,令x1∈瘙綆B×Cin×L表示輸入的一維時(shí)序振動(dòng)信號(hào),其中Cin是輸入特征通道數(shù),本文中默認(rèn)為1,則其轉(zhuǎn)換后的二維圖像信號(hào)x2∈瘙綆B×Cin×W×H與輸入特征x1之間滿足式(5):

        x1(i+W×j)=x2(i,j),W=H=L(5)

        為了探索DSC取代CNN后,模型性能的變化,本文采用分別對(duì)一維(Conv1D和DSC1D)和二維(Conv2D和DSC2D)在不同深度和寬度條件下的性能進(jìn)行了分析。令Net(x)表示用于提取特征的卷積網(wǎng)絡(luò)主體框架,則任意輸出都診斷結(jié)果都可以表示為p=fPrediction(GAP(Net(x))),其中fPrediction(x)的計(jì)算方法如式(5)所示,GAP是指全局平均池化操作,即將特征按通道取均值,然后用這個(gè)均值代替該通道的所有特征。在后續(xù)的實(shí)驗(yàn)中,主要討論了深度和寬度對(duì)模型性能的影響,并且參考了VGG系列[16,每?jī)蓪泳矸e后將卷積核的數(shù)量翻倍即將每?jī)蓪訉挾葦U(kuò)充為前兩層的兩倍,而所有卷積操作(Conv1D和DSC1D,以及Conv2D和DSC2D)的卷積步長(zhǎng)都固定為1,卷積核大小固定為3,在每次寬度擴(kuò)充之前進(jìn)行一次最大值池化操作[17,以擴(kuò)充感受野并降低運(yùn)算量。此外,因?yàn)樯顚泳W(wǎng)絡(luò)的寬度由第一層網(wǎng)絡(luò)寬度及其對(duì)應(yīng)層數(shù)共同決定,因此在后續(xù)的討論中將不再單獨(dú)描述每一層網(wǎng)絡(luò)的寬度而是用第一層卷積網(wǎng)絡(luò)的卷積核數(shù)量(后文中簡(jiǎn)稱寬度)進(jìn)行替代。

        2.3 模型優(yōu)化

        本文中所有模型的訓(xùn)練都是一個(gè)標(biāo)準(zhǔn)的有監(jiān)督學(xué)習(xí)過程[7,則采用了AdamW[18作為參數(shù)優(yōu)化器,并且參考文[13],為了使模型更快收斂,采用了余弦衰減的方式在訓(xùn)練過程中降低學(xué)習(xí)率,其具體減低方式如式(6)所示。其中,e表示當(dāng)前正在進(jìn)行第幾次迭代(可以是一個(gè)小數(shù)),fepoch為總共的迭代次數(shù),本文中設(shè)置為100。從而,根據(jù)式(4)可知,學(xué)生模型在蒸餾的過程中,其訓(xùn)練的學(xué)習(xí)速率將從初始化的10-4,隨著訓(xùn)練次數(shù)的增加緩慢的衰減至10-6。而訓(xùn)練過程中,設(shè)定的批次大小為128,即圖1中的B=128。

        LR(e)=99.5+0.5cose-1fepoch-1π×10-6(6)

        2.4 基于DSC1D的故障診斷框架

        由加速度傳感器所采集到的時(shí)序振動(dòng)信號(hào)是一種一維的、周期性的、非線性信號(hào)。本文基于DSC1D構(gòu)建了一個(gè)可實(shí)現(xiàn)軸承故障診斷的模型,其具體的診斷流程如圖2所示。

        首先,通過加速度傳感器獲取不同運(yùn)行狀態(tài)下的軸承故障信號(hào),并將其劃分為訓(xùn)練集、驗(yàn)證集、和測(cè)試集。其中,訓(xùn)練集中的數(shù)據(jù)用于模型訓(xùn)練,驗(yàn)證集則是在訓(xùn)練過程中,模型每完成一次迭代后用其完成一次性能評(píng)估,在訓(xùn)練結(jié)束后將具有最優(yōu)性能時(shí)的模型參數(shù)進(jìn)行保證作為模型最終的參數(shù),而測(cè)試集則是用于模型性能測(cè)試。最終,將訓(xùn)練獲得的DSC1D基模型作為最終的診斷模型以完成軸承的故障診斷任務(wù),輸出對(duì)應(yīng)振動(dòng)信號(hào)的診斷結(jié)果。

        3 實(shí)驗(yàn)驗(yàn)證

        3.1 試驗(yàn)數(shù)據(jù)的采集與數(shù)據(jù)集制作

        為了驗(yàn)證所提出診斷方法的有效性和分析不同深度和寬度對(duì)模型性能的影響,

        在一個(gè)軸承故障開源數(shù)據(jù)集上進(jìn)行了實(shí)驗(yàn)論證,數(shù)據(jù)集來自于東南大學(xué)(SEU, 下載地址為:cathysiyu/Mechanical-datasets (github.com))[19。SEU數(shù)據(jù)集一共包括了兩種轉(zhuǎn)速和負(fù)載狀態(tài)分別是20Hz-0V和30Hz-2V,數(shù)據(jù)集中除了健康狀態(tài)都軸承包括了4種不同故障狀態(tài)都振動(dòng)數(shù)據(jù),分別是滾珠故障,外圈故障,內(nèi)圈故障以及復(fù)合故障(外圈溝道和內(nèi)圈溝道上都存在故障點(diǎn))。

        注:為了降低模型隨機(jī)初始化過程中的偶然性對(duì)實(shí)驗(yàn)結(jié)論可信度的干擾,本文所有的實(shí)驗(yàn)結(jié)果都是在相同條件下進(jìn)行100次測(cè)試后的統(tǒng)計(jì)結(jié)果,并且采用了95%置信度[20的形式(平均精度±1.96倍精度的標(biāo)準(zhǔn)誤差)在后續(xù)的實(shí)驗(yàn)結(jié)果表中展示模型所取得的精度。

        3.2 研究案例I:深度和寬度對(duì)模型性能的影響

        本節(jié)旨在討論相同架構(gòu)下,不同的深度和寬度對(duì)模型診斷精度的影響,在SEU數(shù)據(jù)上對(duì)不同深度和寬度的Conv1D模型的性能進(jìn)行了測(cè)試,實(shí)驗(yàn)結(jié)果如表1所示。

        根據(jù)表1中的實(shí)驗(yàn)結(jié)果,基于Conv1D的診斷模型,其基礎(chǔ)卷積核數(shù)(模型寬度)從2提升到64的過程中,其平均診斷精度從69.57%提升到78.63%后在77%左右振蕩;而卷積層數(shù)(模型深度)從2層提升到12層的過程中,其平均診斷精度從69.33%提升到84.19%后跌落至66.58%。

        該現(xiàn)象表明,在同等條件下, Conv1D的層數(shù)(深度)對(duì)性能的影響都遠(yuǎn)大于卷積核數(shù)量(寬度)對(duì)性能的影響。這是由于增加模型的深度可直接提升模型的非線性程度其在同等條件下對(duì)模型理論最大擬合能力的提升是呈指數(shù)關(guān)系的,而拓寬模型則不然,增加模型的寬度僅僅是在同等非線性擬合能力下線性地提升了模型性能。

        3.3 研究案例II:BN對(duì)模型性能的影響

        由于時(shí)序信號(hào)截取窗口相對(duì)位移對(duì)模型帶來影響,同時(shí)隨著模型層數(shù)的增加深層模型的輸入特征將完全由前幾層模型的參數(shù)決定其分布特性,而使得模型深層的參數(shù)優(yōu)化不再考慮數(shù)據(jù)本身的特征分布,因此許多工作中都會(huì)在模型中引入歸一化操作以抑制這種分布改變對(duì)模型性能的影響[21。為了論證歸一化操作對(duì)模型性能的影響,本節(jié)對(duì)研究案例I中所有模型的卷積操作后引入了一個(gè)批量歸一化(batch normalization,BN)層,實(shí)驗(yàn)結(jié)果如表2所示。

        對(duì)比表1和表2中的實(shí)驗(yàn)結(jié)果,具有BN的Conv1D相對(duì)于沒有BN的模型而言,其所有的診斷精度都有了顯著的提升,以至于Conv1D的平均診斷精度從表1中74.97%提升到表2中91.97%。此外,在表1和表2中,當(dāng)模型深度為2時(shí),BN對(duì)模型性能的提升并不顯著,這表明在卷積模型中引入BN操作用以提升模型的診斷精度,主要是依靠于BN使得較深層的輸入特征在分布上滿足標(biāo)準(zhǔn)正態(tài)分布,從而使得模型更關(guān)注于輸入信號(hào)的本身的數(shù)據(jù)分布特性,從而減低前幾層特征映射方式的影響,進(jìn)而使得深度的提升可以有效地提升模型的擬合能力。即3.2節(jié)和3.3節(jié)中的實(shí)驗(yàn)對(duì)比結(jié)果論證了使用BN可有有效地提升較深層模型的診斷精度。因此,在后續(xù)的實(shí)驗(yàn)中所有卷積操作之后都跟隨了一個(gè)BN操作。

        3.4 研究案例III:DSC1D用以降低Conv1D的參數(shù)量

        為了探索模型在不同參數(shù)量下的具體性能,統(tǒng)計(jì)了表1和表2中所有CNN模型的總參數(shù)量,如表3所示。顯然,在同等寬度和深度的條件下,Conv1D模型所需的參數(shù)量低于Conv2D模型所需參數(shù)量。并且,隨著寬度和深度的增加,二者的差距也在逐漸的擴(kuò)大。這是因?yàn)?,?duì)具有相同卷積核大小和卷積核數(shù)量的CNN模型而言,令輸入通道為Cin而輸出通道為Cout,卷積核大小是k。則對(duì)于Conv1D而言,其參數(shù)量是PConv1D=(k×Cin+1)×Cout。其中,本文的卷積核大小是固定的,而每層模型的卷積的數(shù)量滿足Nk=2intl-12×Cinit,其中Cinit為模型第一層的卷積核數(shù)量即寬度,l為層數(shù)(此處不考慮k=1的逐點(diǎn)卷積,這一特例)。隨后,為了降低模型的參數(shù)量需求,采用DSC1D壓縮Conv1D的參數(shù)量,表4為具有BN的DSC1D在SEU數(shù)據(jù)集上的診斷精度。

        對(duì)比表2和表3的實(shí)驗(yàn)結(jié)果,DSC1D將Conv1D的直接卷積操作拆分為在空間和通道進(jìn)行分別卷積以降低參數(shù)量的方式,比不會(huì)顯著影響模型的診斷性能,尤其是在卷積層數(shù)大于6層后,DSC1D展示出了和Conv1D相近的診斷精度,這證明了使用DSC1D壓縮Conv1D參數(shù)的可行性。而為了進(jìn)一步地驗(yàn)證DSC1D壓縮Conv1D參數(shù)量的有效性,將不同寬度的DSC1D和Conv1D診斷精度隨參數(shù)量變化的結(jié)果進(jìn)行了統(tǒng)計(jì)分析,其結(jié)果如圖3所示。

        在圖3中,DSC1D的數(shù)據(jù)主要出現(xiàn)在每張子圖的左側(cè),同時(shí)也表現(xiàn)出了和Conv1D相似的診斷精度,但是Conv1D卻并沒有集中于每張子圖的左側(cè)或右側(cè)出現(xiàn)且曲線相對(duì)平穩(wěn)。這表明在相同的層數(shù)條件下,Conv1D由寬度變化所導(dǎo)致參數(shù)量提升并不能為模型帶來較為顯著的性能提升,同時(shí)也證明了使用DSC1D則可以在保持模型診斷精度不下降的前提下,有效地壓縮模型的參數(shù)需求。

        3.5 研究案例IV:DSC1D在自采數(shù)據(jù)集上的有效性

        為了進(jìn)一步地論證所提出的方法的泛化性和可遷移性,本文在東北電力大學(xué)的軸承故障測(cè)試臺(tái)上, 對(duì)[1443, 1478]r/m轉(zhuǎn)速四極電機(jī)帶動(dòng)的軸承振動(dòng)數(shù)據(jù)進(jìn)行了采集,采集過程中的負(fù)載條件為0.0、0.1、0.2、0.3NM。共包括了1種健康狀態(tài)和6種不同故障(內(nèi)圈、外圈、滾珠、內(nèi)圈+外圈、內(nèi)圈+滾珠、外圈+滾珠)數(shù)據(jù)。測(cè)試臺(tái)和故障軸承如圖4所示。

        測(cè)試軸承型號(hào)為ssuc204,軸承內(nèi)圈和外圈故障是寬度為6.0mm、深度為0.5mm的間隙,滾珠故障是直徑為1.0mm、深度為0.3mm的孔洞,每種運(yùn)行工況下的每一類樣本都在12 kHz的采樣頻率下采集60s數(shù)據(jù),使用的加速度傳感器(ct010L,其靈敏度為100mV/g)采集震動(dòng)信號(hào)。

        以4層寬為8的DSC1D為例,以相同的深度和寬度構(gòu)建了Conv1D作為對(duì)比模型,在相同的條件下統(tǒng)計(jì)了不同的模型的診斷精度,實(shí)驗(yàn)結(jié)果如表5所示。根據(jù)表5的實(shí)驗(yàn)結(jié)果,在同等深度和寬度(此處分別設(shè)置為4和8)的條件下,DSC1D在兩個(gè)數(shù)據(jù)集上都取得了高于Conv1D的診斷精度。這表明了DSC1D能夠在確保精度的條件下較為契合地完成基于振動(dòng)信號(hào)數(shù)據(jù)的軸承故障診斷任務(wù),體現(xiàn)了方法的有效性。此外,在表5中DSC1D的參數(shù)量低于Conv1D(5.03×103個(gè) vs. 8.50×103個(gè)),也進(jìn)一步地說明了使用DSC1D能夠憑借著較低的參數(shù)量完成高精度的診斷任務(wù),體現(xiàn)了方法的優(yōu)越性。

        4 結(jié) 論

        針對(duì)于基于數(shù)據(jù)驅(qū)動(dòng)的軸承故診斷方法中,傳統(tǒng)的CNN需要消耗的較大的參數(shù)量才能取得令人滿意的診斷結(jié)果問題,本文提出了使用DSC取代傳統(tǒng)的CNN用以構(gòu)建診斷模型,從而實(shí)現(xiàn)模型輕量化的目的。首先通過Conv1D模型在不同深度和寬度下性能和參數(shù)量的對(duì)比,分析了其各自的特性。然后,采用DSC1D取代了Conv1D以進(jìn)一步的壓縮模型的參數(shù)量。最后,在包含6種軸承故障的自采數(shù)據(jù)集上進(jìn)行模型驗(yàn)證,實(shí)驗(yàn)結(jié)果表明,基于DSC1D的故障診斷模型具有以更低參數(shù)量完成故障診斷任務(wù)的能力,該方法為基于數(shù)據(jù)驅(qū)動(dòng)的故障診斷模型提供了一條切實(shí)可行的輕量化途徑,有助于推動(dòng)具有優(yōu)異性能的大參數(shù)量卷積模型向?qū)嶋H應(yīng)用轉(zhuǎn)換的進(jìn)程。

        盡管本文通過DSC1D取代Conv1D已經(jīng)較為成功地實(shí)現(xiàn)了對(duì)模型參數(shù)量地壓縮,但是這僅僅是基于模型架構(gòu)設(shè)計(jì)實(shí)現(xiàn)的輕量化設(shè)計(jì),在未來還可以通過訓(xùn)練方式(如知識(shí)蒸餾、小模型集成)和模型量化等策略,在保障診斷精度的條件下進(jìn)一步地壓縮模型參數(shù)和運(yùn)算量。

        參 考 文 獻(xiàn):

        [1] LEI Y, LIN J, ZUO M J, et al. Condition Monitoring and Fault Diagnosis of Planetary Gearboxes: A Review[J]. Measurement, 2014, 48: 292.

        [2] JIAO J, ZHAO M, LIN J, et al. A Comprehensive Review on Convolutional Neural Network in Machine Fault Diagnosis[J]. Neurocomputing, 2020, 417: 36.

        [3] 葛興來, 鄒丹. 多層降噪技術(shù)及 Hilbert 變換的軸承故障診斷方法[J]. 電機(jī)與控制學(xué)報(bào), 2020, 24(8): 9.

        GE Xinglai, ZOU Dan. A Bearing Fault Diagnosis Method Using Multi-layer Noise Reduction Technology and Hilbert Transform[J] Journal of Electrical Machinery and Control, 2020, 24 (8): 9.

        [4] L Haiping, Z Jianmin, Z Xin, et al. Fault Diagnosis for Gear Wear of Planetary Gearbox[J]. Journal of Vibration and Shock, 2019, 38(23): 84.

        [5] 康爾良. 氫氣泵自適應(yīng)無跡卡爾曼濾波無傳感器控制[J]. 哈爾濱理工大學(xué)學(xué)報(bào), 2020, 25(3): 25.

        KANG Erliang. Hydrogen Pump Adaptive Traceless Kalman Filter Sensorless Control[J]. Journal of Harbin University of Science and Technology, 2020, 25 (3): 25.

        [6] KRIZHEVSKY A, SUTSKEVER I, HINTON G E. Imagenet Classification with Deep Convolutional Neural Networks[J]. Advances in Neural Information Processing Systems, 2012, 25: 1097.

        [7] LECUN Y, BENGIO Y, HINTON G. Deep Learning[J]. Nature, 2015, 521(7553): 436.

        [8] 紀(jì)俊卿, 張亞靚, 孟祥川,等. 自適應(yīng)小波閾值滾動(dòng)軸承故障振動(dòng)信號(hào)降噪方法[J]. 哈爾濱理工大學(xué)學(xué)報(bào), 2021, 26(2):124.

        JI Junqing, ZHANG Yaliang, MENG Xiangchuan, et al. Adaptive Wavelet Threshold Denoising Method for Rolling Bearing Fault Vibration Signals[J]. Journal of Harbin University of Science and Technology, 2021, 26 (2): 124.

        [9] HOANG D, KANG H. A Survey on Deep Learning Based Bearing Fault Diagnosis[J]. Neurocomputing, 2019, 335: 327.

        [10]FANG H, DENG J, ZHAO B, et al. LEFE-Net: A Lightweight Efficient Feature Extraction NetworkWith Strong Robustness for Bearing Fault Diagnosis[J]. IEEE Transactions on Instrumentation and Measurement, 2021, 70: 1.

        [11]ZHANG R, TAO H, WU L, et al. Transfer Learning with Neural Networks for Bearing Fault Diagnosis in Changing Working Conditions[J]. IEEE Access, 2017, 5: 14347.

        [12]丁博, 伊明. 基于卷積神經(jīng)網(wǎng)絡(luò)的三維CAD模型分類[J]. 哈爾濱理工大學(xué)學(xué)報(bào), 2020, 25(1): 66.

        DING Bo, YI Ming. 3D CAD Model Classification Based on Convolutional Neural Network[J] Journal of Harbin University of Science and Technology, 2020, 25 (1): 66.

        [13]CHOLLET F. Xception: Deep Learning with Depthwise Separable Convolutions[C]. IEEE, 2017.

        [14]ANDREW G H, MENGLONG Z, BO C, et al. MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications[J]. CoRR. 2017: 1704.

        [15]YAO D, LIU H, YANG J, et al. A Lightweight Neural Network with Strong Robustness for Bearing Fault Diagnosis[J]. Measurement, 2020, 159: 107756.

        [16]KRIZHEVSKY A, SUTSKEVER I, HINTON G E. Imagenet Classification with Deep Convolutional Neural Networks[J]. Advances in Neural Information Processing Systems, 2012, 25: 1097.

        [17]朱志宇,崔石玉. 基于參數(shù)遷移和一維卷積神經(jīng)網(wǎng)絡(luò)的海水泵故障診斷[J]. 振動(dòng)與沖擊. 2021, 40(24): 180.

        ZHU Zhiyu, CUI Shiyu. Fault Diagnosis of Seawater Pump Based on Parameter Migration and One-dimensional Convolutional Neural Network[J] Vibration and Shock, 2021, 40 (24): 180.

        [18]ILYA L, FRANK H. Fixing Weight Decay Regularization in Adam[Z]. 2018.

        [19]SHAO S, MCALEER S, YAN R, et al. Highly Accurate Machine Fault Diagnosis Using Deep Transfer Learning[J]. IEEE Transactions on Industrial Informatics, 2019, 15(4): 2446.

        [20]DENG J, LIU H, FANG H, et al. MgNet: A Fault Diagnosis Approach for Multi-bearing System Based on Auxiliary Bearing and Multi-granularity Information Fusion[J]. Mechanical Systems and Signal Processing, 2023, 193: 110253.

        [21]韓添祎, 陳曦, 劉慶鑫. 峰谷電價(jià)下基于長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)的配電網(wǎng)短期負(fù)荷預(yù)測(cè)研究[J]. 東北電力大學(xué)學(xué)報(bào), 2020.

        HAN Tianyi, CHEN Xi, LIU Qingxin. Research on Short-term Load Forecasting of Distribution Networks Based on Short-term and Short-term Memory Networks under Peak and Valley Electricity Prices[J]. Journal of Northeast Electric Power University, 2020.

        (編輯:溫澤宇)

        猜你喜歡
        卷積神經(jīng)網(wǎng)絡(luò)故障診斷機(jī)械
        調(diào)試機(jī)械臂
        簡(jiǎn)單機(jī)械
        基于深度卷積神經(jīng)網(wǎng)絡(luò)的物體識(shí)別算法
        深度學(xué)習(xí)算法應(yīng)用于巖石圖像處理的可行性研究
        基于深度卷積網(wǎng)絡(luò)的人臉年齡分析算法與實(shí)現(xiàn)
        軟件工程(2016年8期)2016-10-25 15:47:34
        機(jī)械班長(zhǎng)
        基于卷積神經(jīng)網(wǎng)絡(luò)的樹葉識(shí)別的算法的研究
        按摩機(jī)械臂
        因果圖定性分析法及其在故障診斷中的應(yīng)用
        基于LCD和排列熵的滾動(dòng)軸承故障診斷
        久久久久久av无码免费网站下载| 亚洲第一免费播放区| 青青草视频在线你懂的| 亚洲av人片在线观看| 在线观看视频播放| 香蕉人妻av久久久久天天| 亚洲欧美日韩在线精品2021| 一区二区三区日本视频| 美女扒开屁股让男人桶| 成在人线av无码免观看麻豆| 亚洲av日韩片在线观看| 亚洲性感毛片在线视频| 无码人妻丰满熟妇啪啪网不卡| 久久99精品国产麻豆| 国产午夜激情视频自拍| 国产视频一区二区三区久久亚洲| 免费看美女被靠到爽的视频| 欲色天天网综合久久| 免费国产黄片视频在线观看| 日本频道一区二区三区| 亚洲日韩精品无码专区网址| 成人免费网站视频www| 中文字幕一区韩国三级| 91色区在线免费观看国产| 国产又色又爽又高潮免费视频麻豆| 国产成人亚洲精品91专区手机| 亚洲妇女av一区二区| 国产毛女同一区二区三区| 亚洲av无码xxx麻豆艾秋| 亚洲中文字幕无码卡通动漫野外| 亚洲一区二区三区精品久久| 深夜放纵内射少妇| 竹菊影视欧美日韩一区二区三区四区五区| 欧美zozo另类人禽交| 免费看黄视频亚洲网站 | 尤物99国产成人精品视频| 被驯服人妻中文字幕日本| 国内精品少妇高潮视频| 国产伦精品一区二区三区| 男女视频在线一区二区| 日本高级黄色一区二区三区|