伍 毅, 盛 麗, 潘海洋, 鄭近德

(安徽工業(yè)大學 機械工程學院， 安徽 馬鞍山 243002)

滾動軸承作為機械設備中最為重要的零部件之一，被廣泛應用于現(xiàn)代工業(yè)生產(chǎn)中。當滾動軸承出現(xiàn)故障時，如不及時處理將可能產(chǎn)生嚴重的安全問題，因此，對滾動軸承開展相應的故障診斷研究具有重要意義。

模式識別技術作為常用的分類方法，被廣泛應用于故障診斷領域，并取得了良好的應用效果，如經(jīng)典的模式識別方法有支持向量機(support vector machine,SVM)[1]和人工神經(jīng)網(wǎng)絡[2]等。SVM作為一種基于結(jié)構風險最小化的分類方法，其通過最大化分類邊界，以此在特征空間得到最優(yōu)超平面，進而具有較好的穩(wěn)定性、稀疏性和泛化能力。但是，SVM的對偶問題需要使用超松弛迭代法[3]進行求解，計算過程繁瑣復雜，效率較低。為解決該問題，相關學者提出了孿生支持向量機(twin support vector machine,TSVM)[4]、最小二乘支持向量機(least square support vector machine,LSSVM)[5]等方法。TSVM可以將SVM一個較大的二次規(guī)劃(quadratic programming,QP)[6]問題轉(zhuǎn)換為解決一對尺寸較小的QP問題，與SVM相比運算速度更快；LSSVM是一種改進的支持向量機，其在求解非線性問題時，利用最小二乘法約束目標函數(shù)，通過等式約束代替不等式約束使得復雜的計算問題轉(zhuǎn)換為只需求解一組線性方程組的問題，進而可得到權重矩陣和偏移量，計算過程更加簡便。

然而，上述SVM及其改進方法都是基于特征向量進行建模分類，在進行特征提取時往往會遇見以下兩個問題：① 當待分析對象故障較小或環(huán)境噪聲較大時，難以利用有限的特征表示待分析對象的狀態(tài)信息；② 當進行特征提取時，將破壞數(shù)據(jù)間的結(jié)構化信息，無法利用該特征建立準確的預測模型。針對特征向量分類方法的局限性，Luo等[7]提出了支持矩陣機(support matrix machine,SMM)。SMM作為一種新的模式識別方法，其充分利用矩陣行與列之間的相關性，可以最大化利用輸入樣本的結(jié)構化信息建立準確的預測模型。同時，SMM采用交替方向乘子法(alternating direction method of multipliers,ADMM)[8]來求解優(yōu)化問題，使其具有良好的收斂性。由于SMM具有良好的分類性能，矩陣分類方法吸引了相關領域?qū)W者的研究和關注，一系列改進的SMM方法被提出，如稀疏支持矩陣機(sparse support matrix machine,SSMM)[9]、辛幾何支持矩陣機[10]和辛交互支持矩陣機[11]等。

不幸的是，在實際工業(yè)生產(chǎn)中，滾動軸承的工作環(huán)境通常較為復雜，難以采集大量擁有標簽故障樣本數(shù)據(jù)。由于缺乏足夠的帶標簽樣本，傳統(tǒng)分類器很難利用有限的故障樣本建立準確的預測模型，進而無法達到滿意的分類效果。遷移學習作為一種小樣本分析方法，其將某個領域(源域)上學到的知識應用到不同但相關的領域(目標域)中，并充分利用源域和目標域的信息建立新的模型。因此，遷移學習的出現(xiàn)為解決小樣本問題帶來了新的契機，相關學者對此也進行了大量的研究，如Guo等[12]提出了一種基于遷移的支持向量機，該算法將源領域知識和目標領域知識綜合為目標函數(shù)中的兩個正則化項，并使用鉸鏈損失以最大限度地擴大自適應目標分類器的邊緣空間；Chen等[13]提出了一種基于遷移的L2-SVM(L2 norm support vector machine)，選用L2-SVM作為算法的基本模型，將源域中知識引入到目標域分類學習中，構造新的分類模型。

考慮到遷移學習理論處理小樣本的優(yōu)越性和原始支持矩陣機的局限性，本文提出一種遷移最小二乘支持矩陣機(transfer least square support matrix machine，TLSSMM)分類方法。在TLSSMM的目標函數(shù)中，為了挖掘目標域樣本與源域樣本間的相似特征，將目標域權重矩陣與源域權重矩陣間的差最小化，以達到目標域模型與源域模型近似相等的目的。TLSSMM旨在使用源域數(shù)據(jù)信息進行訓練以建立近似目標域的預測模型，然后利用少量含有目標域標簽的樣本微調(diào)得到最終模型，使其能夠有效的解決標簽樣本稀少構建模型的問題。此外，在TLSSMM的目標函數(shù)中使用等式約束，使得復雜的計算變?yōu)橹恍枨蠼庖唤M線性方程組就可求得權重矩陣和閾值，計算效率得到顯著提升。

綜上所述，論文在支持矩陣機中融入遷移學習理論，通過比較目標域權重矩陣與源域權重矩陣間的差異性，自適應更新模型，使得預測模型更加準確。采用兩種不同的滾動軸承故障數(shù)據(jù)對所提方法進行驗證，實驗結(jié)果表明，TLSSMM方法具有優(yōu)異的分類性能和優(yōu)良的故障診斷能力。

1 遷移最小二乘支持矩陣機理論

1.1 支持矩陣機

SMM是由Luo等于2015年在國際機器學習會議上提出的一種新方法，其通過引入核范數(shù)，并利用鉸鏈損失項和正則化項解決凸優(yōu)化問題。目標函數(shù)如式(1)所示

(1)

(2)

然而，在實際工業(yè)生產(chǎn)中，工作環(huán)境通常較為復雜，很難采集大量擁有標簽的樣本數(shù)據(jù)，由于含標簽的數(shù)據(jù)較少，SMM難以利用有限的樣本數(shù)據(jù)構造理想的預測模型。因此，有必要對SMM進行深入研究，提出適合小樣本分析的分類方法。

1.2 遷移最小二乘支持矩陣機

為了更好的處理含標簽樣本稀少時的故障診斷問題，本文提出一種新的模式識別方法——遷移最小二乘支持矩陣機。在TLSSMM目標函數(shù)中，σtr[(Ws-Wt)T(Ws-Wt)]為目標域權重矩陣Wt與源域權重矩陣Ws間的差異項，通過最小化該項，以尋找不同域間的相似特征，進而均衡目標域模型與源域模型間的差異。同時，TLSSMM利用最小二乘損失將SMM目標函數(shù)中不等式約束項轉(zhuǎn)換為等式約束，使TLSSMM可以直接求解線性方程組，縮短了訓練時間，提升了分類效率。

σtr[(Ws-Wt)T(Ws-Wt)]

(3)

式中：Ws為源域中的權重矩陣；Wt為目標域中的權重矩陣；b為閾值；λ為核范數(shù)系數(shù)；C為損失項系數(shù)；σ為域權重矩陣差異項參數(shù)。在TLSSMM中，采用ADMM方法進行求解，通過引入輔助變量St，可以將目標函數(shù)重新表述為式(4)

(4)

其中

式(4)的增廣拉格朗日方程為

L(Wt,St,bt,Λ)=H(Wt,bt)+G(St)+

(5)

式中：Λ為拉格朗日乘子；ρ為超參數(shù)。

為求解St和Wt，固定參數(shù)Wt，將其看作常數(shù)項，等式中的優(yōu)化問題相當于求解式(6)最小化

(6)

(7)

(8)

優(yōu)化問題式(8)的拉格朗日函數(shù)方程為

σtr[(Ws-Wt)T(Ws-Wt)]+

(9)

根據(jù)KKT(Karush-Kuhn-Tucher)條件，可以得到以下方程組計算

(10)

由式(10)可得

(11)

(12)

將式(11)和式(12)代入式(10)，消去W和ξi，得到式(13)

(13)

2 實驗分析

為了驗證本文所提TLSSMM方法的分類性能，使用兩類數(shù)據(jù)集(安徽工業(yè)大學滾動軸承振動信號數(shù)據(jù)集遷移安徽工業(yè)大學滾動軸承振動信號數(shù)據(jù)集+安徽工業(yè)大學滾動軸承振動信號數(shù)據(jù)集遷移凱斯西儲大學滾動軸承信號數(shù)據(jù)集)分別進行分類測試分析，并采用5個指標作為模型評價，即準確率、精確率、召回率、F1得分和Kappa系數(shù)。由于TLSSMM方法的輸入為矩陣，論文擬采用辛幾何相似變換[16]構造矩陣樣本，既可以完整的保護信號的特征信息，還具有良好的降噪性能，并能充分利用矩陣的數(shù)據(jù)結(jié)構信息(所有實驗均在ADM Ryzen 7 4 800H with Radeon Graphics 2.90 GHz計算機上的MATLAB R2017a運行)。

1.2.1 實驗1

在本實驗中，擬使用的源域軸承數(shù)據(jù)和目標域軸承數(shù)據(jù)皆為安徽工業(yè)大學滾動軸承振動信號數(shù)據(jù)集，滾動軸承為SKF 6206-2RS1/C3深溝球軸承，實驗臺如圖1所示。

圖1 安徽工業(yè)大學滾動軸承振動信號采集實驗臺Fig.1 Rolling bearing vibration signal acquisition experimental platform of Anhui University of Technology

實驗數(shù)據(jù)集包含正常、內(nèi)圈故障、外圈故障、滾動體故障5類狀態(tài)，其中內(nèi)圈故障兩種、外圈故障兩種、滾動體故障和正常狀態(tài)各一種。在負載為5 kN、轉(zhuǎn)速為900 r/min時，每種狀態(tài)采集100個訓練樣本構造源域數(shù)據(jù)集。同時，在轉(zhuǎn)速為1 500 r/min、負載為5 kN條件下，每種狀態(tài)采集98個樣本(含8個有標簽樣本和90個無標簽樣本)構造目標域數(shù)據(jù)集，有標簽樣本作為訓練樣本來遷移更新預測模型，無標簽樣本作為測試樣本集。源域和目標域詳細樣本信息，如表1所示。

表1 源域和目標域的數(shù)據(jù)樣本詳情Tab.1 Data sample details for source and target domains

在TLSSMM分類中，TLSSMM的分類性能與參數(shù)λ，C，σ息息相關。λ為核范數(shù)系數(shù)，其與權重矩陣的秩以及奇異值的數(shù)目有關。然而，λ越大，奇異值為0的數(shù)目越多，因此，λ的取值不宜較大，本文取值為λ=0.01；C為損失系數(shù)，其與模型在訓練時的異常值相關；σ為域權重距陣差異項參數(shù)，反應兩個領域之間數(shù)據(jù)分布的差異程度，當σ較大時，源域目標域的分類超平面將接近；反之，分類超平面將相對獨立。為了使TLSSMM達到最優(yōu)的分類性能，C的取值范圍設置為{10-4,10-1,…,103}，σ的取值范圍設置為{10-4,10-1,…,103}。通過固定參數(shù)λ，逐步選取不同的C和σ進行訓練，可得到C×σ個識別結(jié)果，如圖2所示。最終選擇的最優(yōu)參數(shù)為λ=0.01，C=0.1和σ=10。同時，為了驗證所提方法的優(yōu)越性，選擇SVM，SMM和SSMM進行對比分析，對SVM，SMM和SSMM方法同樣進行參數(shù)選優(yōu)，獲得的最優(yōu)參數(shù)，如表2所示。

圖2 不同參數(shù)下TLSSMM的分類結(jié)果Fig.2 Classification results of TLSSMM under different parameters

表2 參數(shù)最優(yōu)選擇Tab.2 Optimal selection of parameters

為了得到遷移預測模型，對源域每類數(shù)據(jù)使用100個樣本進行訓練，獲得初始預測模型；然后隨機選擇8個目標域樣本更新預測模型，達到數(shù)據(jù)遷移的目的；最后通過比較目標域權重矩陣與源域權重矩陣間的差異性，得到最終預測模型。對最終預測模型使用90個目標域樣本進行測試，TLSSMM的識別結(jié)果，如圖3(a)所示。

(a) TLSSMM

(b) SSMM

(c) SMM

(d) SVM圖3 4種方法識別圖Fig.3 Identification results of four methods

由圖3(a)可知，第2類和第5類出現(xiàn)樣本錯分現(xiàn)象，但錯分的樣本數(shù)較少。同樣，采用SSMM，SMM和SVM分別使用8個目標域樣本進行訓練得到三種預測模型，用90個樣本進行測試，識別效果如圖3(b)、圖3(c)、圖3(d)所示。由圖3可知，3種方法都出現(xiàn)了不同程度的錯分現(xiàn)象。這是由于在樣本標簽較少的情況下，SMM所建模型的泛化能力較差，致使其識別率較低。SSMM具有稀疏性，能夠消除部分冗余特征，減少對模型建立的干擾，但是效果仍然不理想。雖然SVM是一種小樣本分析方法，但其基于特征向量作為輸入元素，破壞了數(shù)據(jù)間的結(jié)構信息，無法建立準確的預測模型。TLSSMM采用辛幾何相似變換構造軌跡矩陣，既可以完整的保護信號的特征信息還具有良好的降噪功能，同時，通過數(shù)據(jù)遷移使得模型具有小樣本分析能力。因此，TLSSMM模型的泛化能力較好，識別率相對較高。通過實驗分析表明，TLSSMM方法的錯分率較低，具有優(yōu)越的小樣本分類能力。

為了更進一步的驗證所提方法的綜合性能，采用5個指標進行評價，表3為4種分類器在5種指標下的對比結(jié)果。在TLSSMM中，為了得到近似目標域的預測模型，通過目標域少量含標簽的軸承數(shù)據(jù)微調(diào)源域預測模型以此建立新的模型，所以盡管目標域樣本個數(shù)較少，所提方法仍然具有優(yōu)異的分類性能。由表3可知，TLSSMM方法在5種指標值下均大于SMM，SSMM和SVM方法，因此，在相同目標域訓練樣本個數(shù)的情況下，TLSSMM方法的分類性能最好。

表3 4種分類方法的性能對比Tab.3 Performance comparison of four classification methods

為了避免偶然性，利用TLSSMM，SSMM，SMM和SVM方法對不同目標域訓練樣本個數(shù)(分別為2個、4個、6個和8個)條件下進行多組實驗，分類結(jié)果計算平均值后如表4所示。由表4可知，TLSSMM方法在2個樣本時準確率最低，在8個樣本時準確率最高，且隨著樣本個數(shù)的增加，準確率逐步提高，這是由于TLSSMM是基于遷移的學習方法，具有優(yōu)越的小樣本分析能力，所以在樣本標簽較少時，其分類性能優(yōu)于對比方法。同時，TLSSMM方法的計算時間最短為1.317 6 s，最長時間為1.429 4 s；SSMM方法最短時間為41.234 3 s，遠遠超過TLSSMM方法的計算時間；SVM方法雖然計算時間較短，但是其正確率相對較低；SMM方法最短時間為6.920 5 s，所需時間也較長。究其原因在于TLSSMM方法采最小二乘算法代替鉸鏈損失，只需一次求解即可得出結(jié)果，不同于SSMM和SMM方法需要多次迭代求解二次規(guī)劃，所以計算時間較短。

表4 4種方法不同樣本數(shù)分類結(jié)果Tab.4 Classification results of four methods under different sample numbers

1.2.2 實驗2

實驗2的源域軸承數(shù)據(jù)采用實驗1的安徽工業(yè)大學滾動軸承振動信號數(shù)據(jù)集，實驗數(shù)據(jù)集包含正常、內(nèi)圈故障、外圈故障、滾動體故障等4種狀態(tài)，在轉(zhuǎn)速900 r/min和負載5 kN條件下，每類數(shù)據(jù)訓練樣本100個。目標域數(shù)據(jù)為凱斯西儲大學滾動軸承振動數(shù)據(jù)集，測試軸承為SKF6205-2RSJEM深溝球軸承，實驗臺如圖4所示。

圖4 凱斯西儲大學滾動數(shù)據(jù)實驗臺Fig.4 Rolling data experimental platform of Case Western Reserve University

在實驗2中，采集轉(zhuǎn)速為1 772 r/min、負載為1 kN條件下的數(shù)據(jù)構造目標域數(shù)據(jù)集，每種狀態(tài)選擇80個作為測試樣本，選擇8個作為遷移更新模型訓練樣本。源域和目標域數(shù)據(jù)集詳細信息，如表5所示。

表5 源域和目標域的數(shù)據(jù)樣本詳情Tab.5 Data sample details for source and target domains

TLSSMM通過源域的100個樣本訓練得到預測模型，然后使用8個目標域樣本進行更新得到新模型，再用80個目標域測試樣本進行分類。同樣，利用SMM，SSMM和SVM方法分別使用目標域8個樣本進行訓練，再用80個樣本進行測試，4種分類方法的分類結(jié)果混淆矩陣，如圖5所示。由圖5(a)可知，TLSSMM在第1類出現(xiàn)錯分，錯分個數(shù)較少；圖5(b)中的SSMM第2類和第4類出現(xiàn)了嚴重的錯分現(xiàn)象，識別率較低；圖5(c)中SMM的分類效果和SSMM方法類似，在第4類出現(xiàn)較多錯分現(xiàn)象；圖5(d)中SVM除了第1類外，其他3類嚴重錯分，整體識別率較低，這是由于SVM是基于特征向量作為輸入，無法保證信號結(jié)構信息的完整性。因此，TLSSMM方法的分類性能優(yōu)于其他3種對比方法。

(a) TLSSMM

(b) SSMM

(c) SMM

(d) SVM圖5 4類方法測試結(jié)果的混淆矩陣Fig.5 Confusion matrix diagram of test results of four methods

接著，采用5個指標進行模型評價，5種指標對比結(jié)果如表6所示。由于在一定范圍區(qū)間內(nèi)，5類指標值越大，分類性能越好，所以在樣本數(shù)較少的情況下，與SMM，SVM和SSMM方法相比，TLSSMM方法通過目標域少量樣本更新源域預測模型得到的最終模型具有優(yōu)異的分類性能。

表6 4種分類方法的分類性能對比Tab.6 Comparison of classification performance of four methods

同樣，為了避免偶然性，對4種方法隨機選擇多組目標域訓練樣本進行重復實驗，得到的多組分類結(jié)果如表7所示。TLSSMM方法在8個目標域樣本時準確率最高，比SSMM高4.54%，比SMM高7.35%。從對比結(jié)果可以看出，TLSSMM方法有效解決了標簽樣本稀少構建模型的問題。同時，由表7可知，TLSSMM運行所需計算時間比SSMM運行時間快17.421 4 s，比SMM運行時間少1.103 7 s。這是由于TLSSMM方法的目標函數(shù)使用最小二乘約束和等式約束，原本復雜的計算問題轉(zhuǎn)換為解一組線性方程組的問題，而SMM和SSMM方法的求解過程是一個二次規(guī)劃問題，計算過程復雜，所以耗費時間較多。SVM的運算時間雖然最快，但是其準確率較低，無法滿足實際診斷的需要。

表7 4種方法不同樣本數(shù)分類結(jié)果Tab.7 Classification result of four methods with different sample numbers

綜上所述，通過與SMM，SVM和SSMM方法對比，驗證了本文所提遷移最小二乘支持矩陣機方法的分類性能。實驗結(jié)果表明，TLSSMM方法在訓練樣本數(shù)稀少的情況下構建的模型仍然能夠達到較好的分類效果，能夠改善當含標簽樣本較少時難以構建訓練模型的問題，同時通過最小二乘算法降低計算復雜度，改善多次迭代求解二次規(guī)劃問題的復雜計算，縮短了訓練時間，為滾動軸承故障診斷提供了一個新的方法。

2 結(jié) 論

本文所提TLSSMM從遷移理論角度出發(fā)，能夠有效的解決實際工業(yè)生產(chǎn)中缺乏帶標簽樣本的問題。TLSSMM通過將目標域權重矩陣與源域權重矩陣間的差異盡可能最小化，使得目標域權重矩陣近似等于源域的權重矩陣，利用目標域少量信息更新源域的訓練預測模型，從而實現(xiàn)對少標簽樣本的分類預測；此外，TLSSMM結(jié)合最小二乘損失和等式約束，使其只需求解一組線性方程組即可求得權重矩陣和閾值。通過采用兩個不同的滾動軸承故障數(shù)據(jù)集進行驗證，實驗結(jié)果表明，同其他分類方法相比，當帶標簽樣本較少時，TLSSMM具備良好的計算能力和優(yōu)異的分類性能。