張 利，邱存月，張凱鑫，張大波，羅 浩

遼寧大學(xué)信息學(xué)院，沈陽(yáng) 110036

隨著工業(yè)應(yīng)用的不斷發(fā)展，工廠(chǎng)設(shè)備都趨向大型化和智能化，安全問(wèn)題一直備受關(guān)注。滾動(dòng)軸承是旋轉(zhuǎn)設(shè)備必不可少的關(guān)鍵性部件，由于其工作時(shí)間較長(zhǎng)且工作負(fù)荷較大，不免會(huì)有零部件的損壞，輕則會(huì)影響工廠(chǎng)效益，重則會(huì)對(duì)操作者的生命安全產(chǎn)生一定損害。在醫(yī)學(xué)上“亞健康”是形容一種帶病的狀態(tài)，因此，考慮到軸承故障也不是一瞬間形成的，可以借鑒醫(yī)學(xué)上的“亞健康”狀態(tài)表征軸承帶病運(yùn)行狀態(tài)，處于這個(gè)狀態(tài)的設(shè)備不會(huì)馬上發(fā)生故障，但是繼續(xù)運(yùn)行下去而不更新零件就會(huì)帶來(lái)嚴(yán)重的后果，因而對(duì)“亞健康”設(shè)備的健康狀態(tài)監(jiān)測(cè)很有經(jīng)濟(jì)意義和安全意義[1-4]。

鑒于人工智能學(xué)者不斷對(duì)故障檢測(cè)及診斷技術(shù)的鉆研，軸承亞健康狀態(tài)識(shí)別已經(jīng)達(dá)到比較成熟的地步，且隨著深度學(xué)習(xí)的發(fā)展，一種端到端的深度學(xué)習(xí)模型——卷積神經(jīng)網(wǎng)絡(luò)也被廣泛應(yīng)用于諸多領(lǐng)域。雖然有很多專(zhuān)家和學(xué)者將深度學(xué)習(xí)的知識(shí)應(yīng)用到軸承的亞健康識(shí)別中，并取得較好的亞健康識(shí)別效果，但其仍處于發(fā)展階段，需要不斷地進(jìn)行學(xué)習(xí)與探索[5-7]。

2019 年國(guó)外兩位學(xué)者在進(jìn)行故障診斷時(shí)應(yīng)用的基本模型都是卷積神經(jīng)網(wǎng)絡(luò)。韓國(guó)的Hoang 等學(xué)者將一維振動(dòng)信號(hào)轉(zhuǎn)換為二維圖像，利用卷積神經(jīng)網(wǎng)絡(luò)在圖像分類(lèi)中的優(yōu)越性，取得了很好的識(shí)別效果，具有魯棒性，忍受嘈雜環(huán)境的能力且不需要特征提取步驟[8]。Islam 以卷積神經(jīng)網(wǎng)絡(luò)為基本模型，提出適應(yīng)性較好的深度卷積神經(jīng)網(wǎng)絡(luò)，利用原始聲發(fā)射信號(hào)的二維可視化來(lái)提供方位健康狀態(tài)信息，用離散小波變換作為2D 可視化工具，通過(guò)定義新的評(píng)估指標(biāo)來(lái)精確表示每種故障情況，自動(dòng)學(xué)習(xí)有用的軸承故障特征[9]。

雖然卷積神經(jīng)網(wǎng)絡(luò)（convolutional neural network，CNN）在一定領(lǐng)域取得了很好的效果，但是仍存在特征提取時(shí)一些神經(jīng)元的標(biāo)量活動(dòng)降低，池化層會(huì)使具體的空間信息丟失等問(wèn)題。2017 年Hinton 等人提出的膠囊網(wǎng)絡(luò)解決CNN 的問(wèn)題[10]，鑒于膠囊網(wǎng)絡(luò)的優(yōu)勢(shì)，有很多故障診斷領(lǐng)域的專(zhuān)家也開(kāi)始進(jìn)行研究。

Zhu 等學(xué)者將原始信號(hào)經(jīng)過(guò)短時(shí)傅里葉變換把信號(hào)轉(zhuǎn)換為二維圖像，在動(dòng)態(tài)路由膠囊網(wǎng)絡(luò)的啟發(fā)下，將二維圖形輸入到具有Inception 模塊和回歸分支的新型膠囊網(wǎng)絡(luò)，膠囊的長(zhǎng)度即為對(duì)應(yīng)的故障類(lèi)別，另外的兩個(gè)分支，一個(gè)用最長(zhǎng)膠囊來(lái)回歸膠囊的損傷大小，另一個(gè)分支重建輸入圖，實(shí)驗(yàn)表明提出的模型泛化能力很強(qiáng)，且識(shí)別結(jié)果準(zhǔn)確率較高[11]。Chen等學(xué)者提出隨機(jī)delta規(guī)則的深膠囊網(wǎng)絡(luò)，目的是克服使用原始振動(dòng)信號(hào)帶來(lái)工作負(fù)載變化和噪聲影響的挑戰(zhàn)，其提出的模型具有很深的結(jié)構(gòu)，無(wú)需池化操作的一維卷積層可提取更高級(jí)別的特征并擴(kuò)展膠囊的接收區(qū)域，輸入為原始的振動(dòng)信號(hào)，且將噪聲注入到第一寬層中以用來(lái)提高抗噪聲的能力，實(shí)驗(yàn)表明這種方法在負(fù)載不同的情況下也達(dá)到了非常高的精度[12]。

上述相關(guān)研究學(xué)者為獲得高準(zhǔn)確率設(shè)計(jì)深度卷積神經(jīng)網(wǎng)絡(luò)，模型結(jié)構(gòu)深且復(fù)雜，而使用膠囊網(wǎng)絡(luò)的學(xué)者對(duì)膠囊內(nèi)部特征冗余沒(méi)有提出解決的方法，因而在國(guó)內(nèi)外相關(guān)學(xué)者現(xiàn)有研究的基礎(chǔ)上，本文提出改進(jìn)膠囊網(wǎng)絡(luò)優(yōu)化分層CNN 的亞健康識(shí)別模型，將原始振動(dòng)數(shù)據(jù)經(jīng)過(guò)小波降噪和小波包降噪后輸入到分層CNN 中進(jìn)行特征提取，然后輸入到改進(jìn)膠囊網(wǎng)絡(luò)中進(jìn)行亞健康識(shí)別，減少膠囊向量中的特征冗余，提出的模型在保證識(shí)別準(zhǔn)確率的同時(shí)加快了亞健康的識(shí)別時(shí)間。

1 相關(guān)理論基礎(chǔ)

1.1 卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)（CNN）是由YannLeCun 在1989 年提出的，最開(kāi)始是應(yīng)用在手寫(xiě)數(shù)字的識(shí)別，而后廣泛地應(yīng)用在圖像處理領(lǐng)域，由于其不需要進(jìn)行特征提取的預(yù)處理，輸入原始圖像就可以直接輸出結(jié)果，因而被廣泛使用，這種處理模式也被稱(chēng)作是一種“端到端”的處理模式[13-14]。簡(jiǎn)單的CNN結(jié)構(gòu)示意圖如圖1所示。

典型的卷積神經(jīng)網(wǎng)絡(luò)體系是由卷積層、池化層、全連接層構(gòu)成的，不同種類(lèi)的層扮演者不同的角色。卷積層是CNN 的最主要的模塊之一，使用卷積核對(duì)輸入信號(hào)的局部區(qū)域進(jìn)行卷積操作，利用卷積核的滑動(dòng)操作來(lái)卷積整個(gè)上一層的輸入數(shù)據(jù)，在進(jìn)行卷積操作的時(shí)候，最重要的一點(diǎn)是權(quán)重共享。卷積過(guò)程可以用式（1）表示：

其中，N是在第l-1 層的卷積核樹(shù)，是卷積核的輸入，是卷積核的輸出，k和b是對(duì)應(yīng)卷積核和偏差，f()是非線(xiàn)性激活函數(shù)，用來(lái)通過(guò)非線(xiàn)性操作提高特征的表達(dá)能力。

Fig.1 Schematic diagram of CNN圖1 CNN 示意圖

池化層用于減少網(wǎng)絡(luò)的參數(shù)并實(shí)現(xiàn)平移不變性，最常用的池化函數(shù)有均值池化和最大池化[15]。均值池化就是將卷積核內(nèi)部的均值作為輸出值，而最大池化就是將卷積核內(nèi)部的最大值作為輸出值，公式分別如式（2）、式（3）所示：

其中，w為池化寬度，為第l+1 層神經(jīng)元對(duì)應(yīng)的值，為第l層中第i個(gè)特征面內(nèi)第t個(gè)神經(jīng)元的激活值。

全連接層用于分類(lèi)。具體操作是：首先將前一層的神經(jīng)元展成一維特征向量，然后將輸入與輸出進(jìn)行全連接[16]。

1.2 膠囊網(wǎng)絡(luò)

膠囊網(wǎng)絡(luò)（capsule network，CAPSNET）主要有卷積層、主要帽層、數(shù)字帽層、解碼器，在膠囊網(wǎng)絡(luò)中應(yīng)用一種名為動(dòng)態(tài)路由的算法來(lái)不斷更新參數(shù)[17-18]，其模型圖如圖2 所示。

Fig.2 Schematic diagram of capsule network圖2 膠囊網(wǎng)絡(luò)示意圖

膠囊網(wǎng)絡(luò)的結(jié)構(gòu)包括四個(gè)部分[19-22]：

（1）卷積層：就是對(duì)輸入的數(shù)據(jù)進(jìn)行簡(jiǎn)單的處理以提取特征，卷積的公式如式（1）所示，膠囊網(wǎng)絡(luò)的卷積操作與卷積神經(jīng)網(wǎng)絡(luò)的卷積操作類(lèi)似。

（2）主要帽層：作用是將不同的特征化分為向量值膠囊，該層可以捕獲輸入的實(shí)例化參數(shù)，用公式可以表示成式（4）：

其中，ul(i,j)是主要膠囊，是卷積層的激活輸出，并且fs表示“擠壓”功能。

（3）數(shù)字帽層：這一層主要應(yīng)用壓縮和動(dòng)態(tài)路由，在進(jìn)行一次“擠壓”操作和三次動(dòng)態(tài)路由算法后，將結(jié)果輸出到分類(lèi)中。

由于膠囊是由長(zhǎng)度表示概率的，那么就要將其壓縮在0-1 范圍內(nèi)，因而有“擠壓”函數(shù)如式（5）所示：

其中，sj是“擠壓”函數(shù)的輸入，vj是“擠壓”函數(shù)的輸出。通過(guò)“擠壓”函數(shù)可以將長(zhǎng)度擠壓在0-1 之間，且表示方向，表示縮放倍數(shù)，因此可以很好地保存方向特征到更高級(jí)別的膠囊。

動(dòng)態(tài)路由是一個(gè)不斷更新的過(guò)程，有：

其中，uj|i是預(yù)測(cè)向量，cij是耦合系數(shù)，且有耦合系數(shù)由Softmax 函數(shù)確定：

其中，bij是預(yù)測(cè)的uj|i與高級(jí)膠囊sj耦合對(duì)數(shù)先驗(yàn)概率。

其中，ui是第i個(gè)輸入膠囊，Wij是權(quán)重矩陣。

bij公式如式（9）所示：

其中，uj|i?vj對(duì)應(yīng)于膠囊uj|i和vj之間的對(duì)數(shù)似然。

以上式（5）到式（9）就是動(dòng)態(tài)路由更新的過(guò)程，完成動(dòng)態(tài)路由過(guò)程也即完成了兩個(gè)膠囊層之間的參數(shù)更新。

（4）分類(lèi)層：用于對(duì)最后輸出結(jié)果進(jìn)行分類(lèi)。

2 改進(jìn)膠囊網(wǎng)絡(luò)優(yōu)化分層CNN 的亞健康識(shí)別模型

2.1 多輸入數(shù)據(jù)處理

傳統(tǒng)輸入信號(hào)的降噪處理都僅僅是采用單一的小波變換、傅里葉變換、快速傅里葉變換等，而本文采用兩種數(shù)據(jù)降噪處理方式，即小波包降噪和小波降噪。根據(jù)學(xué)者研究了解到小波變換、小波包變換分別對(duì)信號(hào)中的低頻信息、高頻信息提供自己獨(dú)有的精細(xì)分解，保留相應(yīng)的部分[23]。因此對(duì)原始信號(hào)采用兩種降噪處理方式，分別輸入到卷積層中訓(xùn)練，解決單一降噪算法導(dǎo)致的亞健康識(shí)別信息丟失問(wèn)題，更好地保留原始信號(hào)中有用信息，為之后的多層卷積操作特征提取做準(zhǔn)備。

小波變換的主要過(guò)程是分析和綜合，通過(guò)分析過(guò)程進(jìn)行信號(hào)分解獲得近似信號(hào)和細(xì)節(jié)信號(hào)，近似信號(hào)是主信號(hào)較低分辨率的近似值，細(xì)節(jié)信號(hào)確?？梢酝ㄟ^(guò)合成過(guò)程回復(fù)高分辨率信號(hào)。而小波降噪的過(guò)程就是先進(jìn)行小波分解，分解為近似信號(hào)和細(xì)節(jié)信號(hào)，然后進(jìn)行降噪處理，最后恢復(fù)成降噪后的振動(dòng)信號(hào)，完成降噪的處理[24-25]。具體包含以下3個(gè)步驟：

（1）信號(hào)分解：選擇合適的小波基函數(shù)和分解層數(shù)，通過(guò)小波變換將原始信號(hào)進(jìn)行分解，可以得到相應(yīng)的近似系數(shù)（即信號(hào)中的低頻部分）和詳細(xì)系數(shù)（即信號(hào)中的高頻部分）。

（2）閾值降噪：對(duì)于分解得到的高頻信號(hào)，選擇合適的閾值，對(duì)高頻部分進(jìn)行量化處理，也即降噪處理。

（3）信號(hào)重構(gòu)：通過(guò)執(zhí)行逆小波變換從分解的最低層到第1 層，將量化后的高頻信號(hào)和未處理的近似信號(hào)進(jìn)行重構(gòu)，得到降噪處理后的信號(hào)。

在進(jìn)行閾值降噪時(shí)，一般選擇的處理方式有兩種，即軟閾值和硬閾值，公式分別如式（10）和式（11）所示：

其中，wi,k′是wj,k的降噪版本；sign(?)是符號(hào)函數(shù)；λ是閾值。

這兩種方法都是在實(shí)踐中被廣泛使用的降噪方法，雖然經(jīng)過(guò)軟閾值處理后的降噪次信號(hào)整體連續(xù)性更好，但是會(huì)產(chǎn)生一定的偏差，甚至?xí)绊懼貥?gòu)信號(hào)的真實(shí)性，而硬閾值處理后的信號(hào)雖然不具有原始信號(hào)的平滑性，但是其在均方差方面要優(yōu)于軟閾值，為了保證降噪后的信號(hào)更加貼近原始的振動(dòng)信號(hào)以及誤差小，最終選取硬閾值法。

小波包降噪的過(guò)程跟小波降噪的過(guò)程類(lèi)似，對(duì)高頻信號(hào)進(jìn)行降噪，最終執(zhí)行小波包逆變換得到降噪后的信號(hào)，此處不再贅述。

2.2 分層CNN

傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)為獲得更高精度，不斷地堆疊卷積層、池化層，從而使網(wǎng)絡(luò)結(jié)構(gòu)十分復(fù)雜、訓(xùn)練時(shí)間長(zhǎng)、網(wǎng)絡(luò)結(jié)構(gòu)深，且池化操作會(huì)迫使失去所有位置等有關(guān)信息的數(shù)據(jù)，導(dǎo)致最終診斷結(jié)果不準(zhǔn)確。因此提出適合一維振動(dòng)信號(hào)的一維分層卷積神經(jīng)網(wǎng)絡(luò)，且在模型中減少池化層的使用，會(huì)盡量保留位置等有關(guān)信息的數(shù)據(jù)，其結(jié)構(gòu)如圖3 所示。

Fig.3 Layered CNN圖3 分層CNN

從圖3 中看到，分層卷積的前一層為正常卷積層的輸出，分層卷積共有3 層，設(shè)計(jì)的卷積核大小分別為1×1、3×1、5×1，這樣做的目的是既可以多尺度、多角度地提取信號(hào)中有用的信息，同時(shí)由于并行操作，又可以減少訓(xùn)練時(shí)間。

2.3 改進(jìn)的膠囊網(wǎng)絡(luò)

膠囊網(wǎng)絡(luò)是模仿人類(lèi)視覺(jué)系統(tǒng)的很有發(fā)展前途的架構(gòu)，而最開(kāi)始提出膠囊網(wǎng)絡(luò)的目的就是解決卷積神經(jīng)網(wǎng)絡(luò)不能很好地根據(jù)部分與整體的關(guān)系來(lái)識(shí)別最終結(jié)果的缺點(diǎn)。與卷積神經(jīng)網(wǎng)絡(luò)相比，膠囊網(wǎng)絡(luò)更加遵循人類(lèi)的常識(shí)，輸出的識(shí)別結(jié)果也更加符合人們的預(yù)期。但是膠囊網(wǎng)絡(luò)也不是十分完美的，一直以來(lái)的問(wèn)題是受大量參數(shù)學(xué)習(xí)的困擾，會(huì)使膠囊網(wǎng)絡(luò)更新參數(shù)十分慢且計(jì)算成本高，占用大量?jī)?nèi)存，從而那些對(duì)內(nèi)存資源少或延遲要求嚴(yán)格的應(yīng)用程序中就不是十分適用，這也是限制膠囊網(wǎng)絡(luò)發(fā)展的原因[26]。

針對(duì)膠囊網(wǎng)絡(luò)更新參數(shù)費(fèi)時(shí)的問(wèn)題，提出剪枝機(jī)制。為節(jié)約不必要參數(shù)的計(jì)算，也即低層與高層膠囊想要表達(dá)東西不一致的時(shí)候，耦合系數(shù)就會(huì)變得很小，當(dāng)耦合系數(shù)小于一定閾值的時(shí)候，可以認(rèn)為低層膠囊與對(duì)應(yīng)的這個(gè)高層膠囊表達(dá)的東西完全不一致，在之后的動(dòng)態(tài)路由策略中就不必要花費(fèi)時(shí)間在二者更新的參數(shù)上，因此采用剪枝策略。cij剪枝示意圖如圖4 所示。

Fig.4 Pruning iteration diagram of parameter cij圖4 參數(shù)cij剪枝迭代圖

假設(shè)c12的值小于閾值，就進(jìn)行剪枝操作，同時(shí)相應(yīng)的權(quán)重矩陣中w12值被置為0，此后的反向傳播進(jìn)行參數(shù)更新時(shí)就不再對(duì)其值進(jìn)行更新，得到權(quán)重修剪示意圖如圖5 所示。

Fig.5 Pruning schematic diagram of parameter wij圖5 參數(shù)wij修剪示意圖

改進(jìn)后動(dòng)態(tài)路由的參數(shù)更新過(guò)程如算法1 所示。

算法1改進(jìn)的動(dòng)態(tài)路由算法

改進(jìn)的動(dòng)態(tài)路由算法與原始的動(dòng)態(tài)路由算法相比，只是增加判斷語(yǔ)句，改進(jìn)前后算法的時(shí)間復(fù)雜度均為O(n)，空間復(fù)雜度為O(1)。

2.4 改進(jìn)膠囊網(wǎng)絡(luò)優(yōu)化改進(jìn)CNN 的亞健康識(shí)別算法

綜上所述，本文提出的改進(jìn)膠囊網(wǎng)絡(luò)優(yōu)化分層CNN 的亞健康識(shí)別模型如圖6 所示。

Fig.6 Sub-health recognition model of improved capsule network optimized layered CNN圖6 改進(jìn)膠囊網(wǎng)絡(luò)優(yōu)化分層CNN 的亞健康識(shí)別模型

從圖6 可知，改進(jìn)膠囊網(wǎng)絡(luò)優(yōu)化分層CNN 的亞健康識(shí)別算法可以看作是由兩部分組成的：

第一部分以卷積神經(jīng)網(wǎng)絡(luò)為主要原型，為最大限度地保留原始信號(hào)中有用的特征，設(shè)計(jì)兩種數(shù)據(jù)降噪預(yù)處理方式，即小波降噪和小波包降噪，然后數(shù)據(jù)輸入到并行卷積層中進(jìn)行卷積操作，該層并行三個(gè)不同大小的卷積核，可以多角度地進(jìn)行特征提取，從而可以學(xué)習(xí)到數(shù)據(jù)中對(duì)分類(lèi)有用的信息。

第二部分以膠囊網(wǎng)絡(luò)為原型，由于膠囊網(wǎng)絡(luò)能夠根據(jù)部分與整體的關(guān)系來(lái)進(jìn)行識(shí)別，使識(shí)別結(jié)果更加準(zhǔn)確。因此，在第一部分卷積提取特征后，輸入到膠囊網(wǎng)絡(luò)中進(jìn)行處理，但由于動(dòng)態(tài)路由算法更新參數(shù)十分費(fèi)時(shí)，在膠囊網(wǎng)絡(luò)中使用剪枝策略，當(dāng)耦合系數(shù)小于一定閾值的時(shí)候，就進(jìn)行剪枝操作，使表達(dá)不一致的低層膠囊與高層膠囊之間的系數(shù)不再更新，可以加快動(dòng)態(tài)路由算法，同時(shí)不會(huì)降低準(zhǔn)確率。

3 實(shí)驗(yàn)結(jié)果與分析

3.1 實(shí)驗(yàn)數(shù)據(jù)采集

采集裝置由電動(dòng)機(jī)、扭矩傳感器/編碼器、測(cè)功機(jī)和控制電子設(shè)備組成，對(duì)測(cè)試的軸承引入單點(diǎn)故障，故障直徑為0.007 in，使用放置在電機(jī)殼體驅(qū)動(dòng)端的加速度計(jì)收集振動(dòng)的數(shù)據(jù)，收集到的振動(dòng)數(shù)據(jù)即為實(shí)驗(yàn)所需的實(shí)測(cè)數(shù)據(jù)，采樣頻率為12 kHz，由于這種條件采集到的數(shù)據(jù)已標(biāo)準(zhǔn)化，且受到了很多學(xué)者的認(rèn)可，具有較強(qiáng)的魯棒性，因此采用此數(shù)據(jù)來(lái)驗(yàn)證本文算法的有效性，具體參數(shù)如表1 所示。

Table 1 Experimental device parameters表1 實(shí)驗(yàn)裝置參數(shù)

3.2 數(shù)據(jù)預(yù)處理

本文提出的模型選擇兩種數(shù)據(jù)預(yù)處理方式共同作用，即小波降噪和小波包降噪。本文選擇的小波去噪?yún)?shù)分別為：閾值為“rigrsure”，硬閾值，分解層數(shù)為3 層，小波基函數(shù)為“sym4”。小波包去噪?yún)?shù)為：硬閾值，分解層數(shù)為3 層，小波基函數(shù)為“db4”。閾值為固定閾值形式，其公式如式（12）所示：

其中，n是信號(hào)長(zhǎng)度。

原始數(shù)據(jù)集的數(shù)量比較龐大，為了可以方便、清楚地看清信號(hào)圖，以0負(fù)載正常狀態(tài)、內(nèi)圈亞健康狀態(tài)的滾動(dòng)軸承振動(dòng)信號(hào)為例，選取1 s的振動(dòng)數(shù)據(jù)12 000個(gè)，畫(huà)出其原始振動(dòng)信號(hào)圖以及經(jīng)過(guò)小波去噪和小波包去噪后的振動(dòng)信號(hào)對(duì)比圖，具體如圖7、圖8所示。

Fig.7 Contrast diagram of normal state signal before and after denoising圖7 正常狀態(tài)信號(hào)降噪前后對(duì)比圖

Fig.8 Contrast diagram of inner loop sub-health state signal before and after denoising圖8 內(nèi)圈亞健康狀態(tài)信號(hào)降噪前后對(duì)比圖

從圖中可以看出原始振動(dòng)圖都比較不規(guī)則，經(jīng)過(guò)小波去噪和小波包去噪后的圖形更加平滑，可以清楚地看出去噪效果。

為提高模型的泛化能力，借鑒文獻(xiàn)[13]的思想，采用滑動(dòng)窗口的方式制作訓(xùn)練樣本集，將原始信號(hào)進(jìn)行重疊采樣以增強(qiáng)數(shù)據(jù)集。選取滑動(dòng)窗口大小為3 000，偏移量為300，16 種不同負(fù)載、不同狀態(tài)的數(shù)據(jù)集則可制作10 388 個(gè)用于實(shí)驗(yàn)的數(shù)據(jù)集，其中訓(xùn)練集為8 656 個(gè)，測(cè)試集1 732 個(gè)，比例為5：1。

3.3 實(shí)驗(yàn)參數(shù)的選取

為了加快訓(xùn)練以及保證模型的泛化能力，本文采用分批次處理的方式，雖然使用大的batch_size 會(huì)縮短訓(xùn)練數(shù)據(jù)集的時(shí)間，但是帶來(lái)的問(wèn)題是其精度想要達(dá)到和batch_size 較小時(shí)相同的精度，可能就需要花費(fèi)大量的時(shí)間，因此當(dāng)batch_size 增大到一定值的時(shí)候，就會(huì)使時(shí)間最短，同樣達(dá)到一定值的時(shí)候，就會(huì)達(dá)到精度的最優(yōu)。為了選取合適的batch_size，實(shí)驗(yàn)結(jié)果如表2 所示。

Table 2 Selection of batch_size表2 batch_size的選取

從表2 的數(shù)據(jù)可以看出，在batch_size ≥200 時(shí)，隨著batch_size值的減小，訓(xùn)練時(shí)間不斷增加，達(dá)到最高亞健康識(shí)別率的周期在逐漸變短且準(zhǔn)確率也在不斷提升，損失值也在不斷減小。在batch_size 為100的時(shí)候，達(dá)到亞健康識(shí)別最佳的周期有所縮短且損失值較低。當(dāng)batch_size 小于50 時(shí)，訓(xùn)練時(shí)間大幅度提升但準(zhǔn)確率沒(méi)有提升，因而對(duì)小于50 的batch_size不作考慮。當(dāng)batch_size分別為100 和200 時(shí)，雖然識(shí)別精度不相上下，但是損失值和最佳識(shí)別周期在batch_size 為100 時(shí)，都取得較優(yōu)的結(jié)果，相對(duì)于多花費(fèi)的時(shí)間，以保證模型的準(zhǔn)確率為原則，最終選擇100 為本文的batch_size值。

本文提出的改進(jìn)膠囊網(wǎng)絡(luò)優(yōu)化分層CNN 的亞健康識(shí)別算法的性能很大程度取決于卷積核大小、卷積步長(zhǎng)以及剪枝的耦合系數(shù)閾值，因而這些參數(shù)的取值對(duì)最終的亞健康識(shí)別結(jié)果會(huì)產(chǎn)生很大的影響。亞健康識(shí)別模型詳細(xì)參數(shù)如表3 所示。

Table 3 Structural parameters of sub-health identification model表3 亞健康識(shí)別模型結(jié)構(gòu)參數(shù)

亞健康識(shí)別模型結(jié)構(gòu)參數(shù)在表3 中詳細(xì)介紹，選用的優(yōu)化器是占用內(nèi)存很小、計(jì)算高效的自適應(yīng)學(xué)習(xí)率的Adam 優(yōu)化器，激活函數(shù)為ReLU，設(shè)置學(xué)習(xí)率為0.001，損失函數(shù)為均方誤差。

剪枝操作的閾值也是實(shí)驗(yàn)要選取的參數(shù)，閾值會(huì)直接影響最終實(shí)驗(yàn)結(jié)果的準(zhǔn)確率，當(dāng)耦合系數(shù)過(guò)大的時(shí)候，就會(huì)致使準(zhǔn)確率有所下降，反之則起不到剪枝縮短訓(xùn)練時(shí)間的目的。亞健康識(shí)別準(zhǔn)確率與剪枝閾值的變化關(guān)系如圖9 所示。

Fig.9 Selection of pruning threshold圖9 剪枝閾值的選取

從圖9 可以看出當(dāng)耦合系數(shù)的剪枝閾值在不斷減小時(shí)，識(shí)別的準(zhǔn)確率在不斷上升。當(dāng)耦合系數(shù)閾值在0.02 后達(dá)到最佳，且趨于穩(wěn)定，且在實(shí)驗(yàn)時(shí)也特別地注意時(shí)間的變化，當(dāng)閾值逐漸減小時(shí)，亞健康識(shí)別的時(shí)間差異不大，因而準(zhǔn)確率是選擇閾值的主要標(biāo)準(zhǔn)，因此最終選擇的剪枝閾值為0.02。

3.4 實(shí)驗(yàn)結(jié)果分析

具體模型結(jié)構(gòu)參數(shù)和耦合系數(shù)的選取已經(jīng)在3.3節(jié)中詳細(xì)介紹。將原始數(shù)據(jù)變換維度后輸入到網(wǎng)絡(luò)模型中，就可以得到亞健康識(shí)別的準(zhǔn)確率，實(shí)驗(yàn)的準(zhǔn)確率如表4 所示。

Table 4 Sub-health recognition accuracy表4 亞健康識(shí)別準(zhǔn)確率%

從表4 可以看出，用膠囊網(wǎng)絡(luò)優(yōu)化CNN 的亞健康識(shí)別算法取得較好的識(shí)別效果，改進(jìn)后的膠囊網(wǎng)絡(luò)在識(shí)別準(zhǔn)確率上與原始膠囊網(wǎng)絡(luò)不相上下，主要原因是因?yàn)樵寄z囊網(wǎng)絡(luò)中存在特征冗余，無(wú)論底層膠囊與高層膠囊表達(dá)的內(nèi)容是否一致，其都會(huì)使用動(dòng)態(tài)路由策略進(jìn)行更新。使用剪枝策略時(shí)，將低于一定閾值的耦合系數(shù)置0，因?yàn)檫@部分的耦合系數(shù)對(duì)最后識(shí)別結(jié)果不會(huì)產(chǎn)生影響，因而當(dāng)使用剪枝策略時(shí)，會(huì)減少膠囊向量中的特征冗余且不會(huì)對(duì)識(shí)別的準(zhǔn)確率造成影響。

雖然上述的數(shù)據(jù)已經(jīng)充分地驗(yàn)證本文改進(jìn)CAPSNET 具有較好的識(shí)別效果，但是與原始的CAPSNET 相差不大，因此對(duì)提出模型進(jìn)行亞健康識(shí)別的時(shí)間進(jìn)行對(duì)比，選取3 次亞健康識(shí)別的時(shí)間進(jìn)行對(duì)比，結(jié)果如表5 所示。

Table 5 Sub-health identification time表5 亞健康識(shí)別時(shí)間 s

表5 為算法改進(jìn)前后的時(shí)間對(duì)比，選取前3 次的實(shí)驗(yàn)結(jié)果進(jìn)行取均值處理，使用原始CAPSNET進(jìn)行亞健康識(shí)別時(shí)間均值是4.54 s，使用改進(jìn)后的CAPSNET 進(jìn)行亞健康識(shí)別時(shí)間均值為3.25 s，可知改進(jìn)后的膠囊網(wǎng)絡(luò)比原始膠囊網(wǎng)絡(luò)識(shí)別時(shí)間快1.29 s，可見(jiàn)本文算法在保證準(zhǔn)確率的同時(shí)，識(shí)別時(shí)間有所加快。

為驗(yàn)證本文提出剪枝策略的有效性，特別地注意了剪枝參數(shù)的變化，整個(gè)模型要訓(xùn)練的參數(shù)為2 344 340，當(dāng)剪枝閾值發(fā)生變化時(shí)，剪枝參數(shù)的變化如表6 所示。

Table 6 Change of pruning parameters表6 剪枝參數(shù)變化

從表6可以看出，當(dāng)剪枝閾值設(shè)置為0.02時(shí)，剪枝的參數(shù)個(gè)數(shù)為612 648個(gè)，可以驗(yàn)證本文算法的有效性。

將本文算法與近幾年學(xué)者提出算法的識(shí)別準(zhǔn)確率進(jìn)行比較，如表7 所示。

Table 7 Contrast of accuracy表7 準(zhǔn)確率對(duì)比

由表7 知本文提出的改進(jìn)膠囊網(wǎng)絡(luò)優(yōu)化分層卷積的亞健康識(shí)別算法比加權(quán)排列熵-特征選擇型極限學(xué)習(xí)機(jī)（weighted permutation entropy-filter &wrapper extreme learning machine，WPE-FWELM）、改進(jìn)雞群算法優(yōu)化RBF 神經(jīng)網(wǎng)絡(luò)（growth chicken swarm optimization-radial basis function neural network，GCSORBFNN）在識(shí)別的準(zhǔn)確率上分別提高7.58 個(gè)百分點(diǎn)、5.77 個(gè)百分點(diǎn)。在識(shí)別時(shí)間上，WPE-FWELM 和GCSO-RBFNN 算法的識(shí)別時(shí)間為識(shí)別200 個(gè)樣本的時(shí)間，而本文算法的識(shí)別時(shí)間為識(shí)別3 000 個(gè)樣本的時(shí)間，可得識(shí)別單個(gè)長(zhǎng)度為3 000 信號(hào)的時(shí)間約為1.876 ms，驗(yàn)證本文提出的亞健康識(shí)別算法是有效的。

同時(shí)，為驗(yàn)證本文算法是有效的，將本文算法與基本模型為CNN 的亞健康識(shí)別算法進(jìn)行對(duì)比，如表8所示。

Table 8 Comparison with basic model being CNN表8 與基本模型為CNN 的對(duì)比

表8將本文提出的改進(jìn)膠囊網(wǎng)絡(luò)優(yōu)化分層卷積的亞健康識(shí)別算法與使用Softmax分類(lèi)器的傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)、使用支持向量機(jī)（support vector machine，SVM）作為分類(lèi)器的卷積神經(jīng)網(wǎng)絡(luò)相比較，其中傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)模型均使用三層卷積、三層池化。可以看出本文算法相較于其他兩個(gè)傳統(tǒng)CNN 在識(shí)別的準(zhǔn)確率上分別提高1.21 個(gè)百分點(diǎn)、0.10 個(gè)百分點(diǎn)；在識(shí)別時(shí)間的對(duì)比上，雖然本文識(shí)別時(shí)間花費(fèi)較高，但是因?yàn)楸疚牟扇〉臄?shù)據(jù)處理方式為滑動(dòng)窗口，測(cè)試時(shí)間為識(shí)別1 732 個(gè)長(zhǎng)度為3 000 的數(shù)據(jù)集的時(shí)間，識(shí)別單個(gè)長(zhǎng)度為3 000 的信號(hào)時(shí)間約為1.876 ms，可以看出識(shí)別時(shí)間較快，從而驗(yàn)證提出的亞健康識(shí)別算法是有效的。

t 隨機(jī)鄰居嵌入（t-distributed stochastic neighbor embedding，t-SNE）是機(jī)器學(xué)習(xí)中用于降維的一種算法。它基于多維縮放和等距特征映射更改了距離不變性的概念，并在將高維映射到低維的同時(shí)確保了它們之間的分布概率不變[27]。為了更好地看清實(shí)驗(yàn)結(jié)果，使用t-SNE 可視化工具，對(duì)亞健康識(shí)別的結(jié)果進(jìn)行可視化，具體的實(shí)驗(yàn)結(jié)果如圖10、圖11 所示。

Fig.10 Visualization of original capsule network identification results圖10 原始膠囊網(wǎng)絡(luò)識(shí)別結(jié)果可視化

Fig.11 Visualization of improved capsule network identification results圖11 改進(jìn)膠囊網(wǎng)絡(luò)識(shí)別結(jié)果可視化

圖10、圖11 分別是原始膠囊網(wǎng)絡(luò)重構(gòu)CNN 的亞健康識(shí)別結(jié)果的可視化結(jié)果和改進(jìn)膠囊網(wǎng)絡(luò)重構(gòu)CNN 的亞健康識(shí)別結(jié)果的可視化結(jié)果，其中正常狀態(tài)、內(nèi)圈亞健康狀態(tài)、滾動(dòng)體亞健康狀態(tài)、外圈亞健康狀態(tài)分別用藍(lán)色“○”、橙色“?”、綠色“△”、紅色“?”表示，可以看出改進(jìn)膠囊網(wǎng)絡(luò)相較于原始的膠囊網(wǎng)絡(luò)，識(shí)別準(zhǔn)確率并未下降，從而驗(yàn)證提出的改進(jìn)膠囊網(wǎng)絡(luò)優(yōu)化分層卷積的亞健康識(shí)別算法可以較好地進(jìn)行亞健康識(shí)別。

4 結(jié)束語(yǔ)

針對(duì)傳統(tǒng)的CNN 為獲得高準(zhǔn)確率需要不斷地堆疊卷積層和池化層，數(shù)據(jù)處理方式單一以及CNN 不能很好地根據(jù)部分與整體關(guān)系來(lái)進(jìn)行識(shí)別的問(wèn)題，本文提出改進(jìn)膠囊網(wǎng)絡(luò)優(yōu)化分層CNN 的亞健康識(shí)別算法。由于膠囊網(wǎng)絡(luò)使用動(dòng)態(tài)路由算法更新參數(shù)費(fèi)時(shí)，提出剪枝策略以及參數(shù)修正的動(dòng)態(tài)路由策略，加快動(dòng)態(tài)路由算法的更新過(guò)程。實(shí)驗(yàn)證明，本文算法可以對(duì)軸承的亞健康狀態(tài)進(jìn)行準(zhǔn)確識(shí)別，但是本文只是針對(duì)軸承實(shí)驗(yàn)數(shù)據(jù)，對(duì)電機(jī)、風(fēng)機(jī)等其他對(duì)象還有待進(jìn)一步實(shí)驗(yàn)，遷移學(xué)習(xí)能力較弱，同時(shí)本文提出的軸承亞健康診斷方式為離線(xiàn)，今后可以考慮進(jìn)行實(shí)時(shí)亞健康識(shí)別研究以及遷移模型研究。