劉慶強，曹 栩

(東北石油大學電氣信息工程學院，大慶 163318)

0 引言

由于現(xiàn)代工業(yè)技術飛速發(fā)展的推動，在工業(yè)領域中每天都將面臨著海量的數(shù)據(jù)，這些數(shù)據(jù)具有多樣、高維的特點，因此基于這些數(shù)據(jù)的分析與計算帶來了一定的困難。為了解決這一難題，流形學習作為一種高效的數(shù)據(jù)處理方法被提出，其可以極大地提高數(shù)據(jù)的處理效率和性能。流形學習方法可分為全局和局部算法，等距映射(isometric feature mapping，ISOMAP)[1]是經典的全局算法，局部線性嵌入(locally linear embedding，LLE)[2]、拉普拉斯特征映射(laplacian eigenmap，LE)[3]、局部保持投影(local preserving projection，LPP)[4]、局部切空間排列(local tangent space alignment，LTSA)[5]等均為經典的局部算法。其中全局算法能夠較好的保持數(shù)據(jù)的本質流形結構，但其存在時間復雜度高、不利于工業(yè)數(shù)據(jù)應用的確缺點；而局部算法通過挖掘數(shù)據(jù)的局部結構，保持樣本點的局部結構在降維前后不變，從而降低了計算的復雜度，得到了廣泛應用。

LPP作為經典的局部流形學習算法，其具有線性降維算法簡單的優(yōu)點，同時也有非線性問題處理的能力，因此LPP算法已廣泛應用在人臉圖像分析、模式識別、故障診斷等領域。但在原始的局部保持投影算法中，使用歐氏距離度量樣本間的相似性再由K近鄰算法得到局部鄰域圖，并不能有效地應用于高維非線性數(shù)據(jù)結構中。因此近年來許多學者對近鄰點的度量方式提出了不同的改進方法，其中ISOLLE(LLE with geodesic distance)算法[6]使用測地線距離來度量近鄰點，較好的保持了流形的全局結構；戴永奮等[7]提出以馬氏距離為度量的局部保持投影算法；王海燕等[8]提出樣本列信息與自適應鄰域圖的局部保持投影算法，根據(jù)不同樣本所對應的同一維度信息統(tǒng)計加權從而度量樣本間的相似性。甘航萍等[9]利用凸輪權重距離代替歐氏距離構造鄰接圖有效地處理了數(shù)據(jù)分布不均勻所造成的度量問題；李霽蒲等[10]提出一種近鄰概率距離用于度量近鄰點的相似性。以改進算法均采取不同的距離進行樣本相似性度量，但均未考慮到非線性數(shù)據(jù)間存在的相關信息，影響樣本相似性度量的準確性，從而破壞高維非線性數(shù)據(jù)局部結構的保持。

因此，本文提出了基于相關性Rank-order度量的局部保持投影算法。該方法首先采用相關系數(shù)計算數(shù)據(jù)間的相關性距離信息，并對相關性高的數(shù)據(jù)中使用Rank-order距離度量數(shù)據(jù)點之間共享的近鄰信息從而提高相似性度量的準確性，其次再構造局部近圖進而計算其權重，進行局部線性映射到低維空間。最后在公開標準的軸承故障數(shù)據(jù)集和實驗室實際采集的軸承故障數(shù)據(jù)集上的實驗表明，所提算法具有較好的特征提取效果。

1 局部保持投影算法

局部保持投影算法(LPP)的主要思想是通過構建近鄰圖在保持數(shù)據(jù)局部結構特征不變的條件下，將高維數(shù)據(jù)X通過投影矩陣P映射為低維數(shù)據(jù)Y，使得在高維空間中的近鄰點在低維空間中也保持近鄰。LPP算法通過優(yōu)化以下目標函數(shù)求解投影矩陣P：

(1)

式中，wij為數(shù)據(jù)xi與xj投影權值。即：

由式推導，投影矩陣P由以下目標函數(shù)獲得，即：

argmintr(PTXDXTP-PTXWXTP)=argmintr(PTXLXTP)

(2)

式中，D為對角矩陣，即D=∑ijWij；L=D-W為拉普拉斯特征映。

最后引入約束條件PTXTDXPT=1，則式(2)最優(yōu)問題轉化為求解廣義特征值問題：

XLXTP=λXDXTP

(3)

則求出前m個最小特征值對應的特征向量構成的投影矩陣P，即P=[p1,p2,…,pm]。最后則由Y=PTX得到低維投影數(shù)據(jù)。

2 相關性Rank-order距離

在數(shù)據(jù)處理過程中，如果采用歐氏距離度量數(shù)據(jù)間的相似性，缺失了數(shù)據(jù)間相關性信息并不能很好地挖掘每個數(shù)據(jù)點在高維空間中局部流形結構，同時也忽略了數(shù)據(jù)間的相對位置關系從而不能選擇出真正有效的近鄰點[11]。其中Rank-order距離[12-13]利用數(shù)據(jù)點間共享的近鄰點位置信息從而計算兩個數(shù)據(jù)點間的距離。由此本文提出了相關性Rank-order距離，在Rank-order度量的基礎上，通過加入數(shù)據(jù)相關距離信息不僅保持了高維數(shù)據(jù)點之間的流行結構，而且可以由效提高數(shù)據(jù)距離度量的可靠性。其相關示意如圖1和圖2所示，圖1中黑灰兩點僅依靠歐氏距離來度量兩者的相似性，而圖2中，將黑灰周圍近鄰點的相關性考慮在內，從而進行相似性度量。其中黑線表示與黑色點近鄰，灰線表示與灰色點近鄰。

圖1 歐氏度量 圖2 相關性Rank-order度量

其步驟可總結為：

步驟1：由式(4)和式(5)計算每個數(shù)據(jù)點與其它點之間的相關距離并按升序排列。

(4)

d(xy)=1-ρ(xy)

(5)

步驟2：根據(jù)各數(shù)據(jù)點之間的相關性，計算每兩個數(shù)據(jù)點之間的非對稱相關性Rank-order距離，計算公式為：

(6)

式中，fxi(m)為在xi的相關性近鄰列表中第m個近鄰數(shù)據(jù)點；Oxi(xj)為xj在xi相關性近鄰點列表中的位置，即xj為xi的第幾個近鄰點。當xi與xj之間的非對稱相關性Rank order距離越小，說明它們共享的近鄰點相關性越高，近鄰點間結構越相似。如圖3所示。

圖3 相關性Rank-order距離

步驟3：將D(xi,xj)距離對稱化和歸一化得到相關性Rank-order距離(CRD距離)，即：

(7)

3 改進的局部保持投影算法

局部保持投影算法常使用歐氏距離度量樣本間的相似性，從而選擇k個近鄰構建鄰域圖，然而對于高維空間中大量復雜的非線性數(shù)據(jù)點，歐氏距離度量對近鄰點的選擇并不可靠，會破壞高維局部結構的保持[14-15]，影響算法的特征提取能力。因此，本文給出相關性Rank-order距離定義及步驟替換局部保持投影算法中的歐氏距離，其他步驟與局部保持投影算法步驟一致，其偽代碼描述如下：

輸入：原始數(shù)據(jù)集X={x1,x2,…,xn}∈RD，目標維數(shù)d?D，初始鄰域參數(shù)k。

輸出：d維向量Y。

步驟1：運用相關系數(shù)公式計算每個樣本點xi與其其他樣本點間的相關距離，并對距離信息進行升序排列。

步驟2：計算相關性Rank-order距離。

fori=1 toN

end

步驟3：根據(jù)相關性Rank-order距離查找每個數(shù)據(jù)點的K近鄰點并構建鄰域圖。

步驟5：由式Y=PTX計算得到d維數(shù)據(jù)Y。

4 實驗

4.1 實驗數(shù)據(jù)

實驗所使用的CWRU數(shù)據(jù)集是由凱斯西儲大學(CWRU)提供的公開軸承故障數(shù)據(jù)。其采集裝置如圖4所示，主要由電機、扭矩傳感器、測力計及電子設備組成[17]。該數(shù)據(jù)集在電機轉速為1797 rpm，軸承負載為0，采集頻率為12 kHz條件下獲得的，共包含4類數(shù)據(jù)，分別為：正常軸承數(shù)據(jù)、滾珠故障數(shù)據(jù)、軸承內圈損傷數(shù)據(jù)、軸承外圈損傷數(shù)據(jù)，其中損傷直徑為0.007 in。每一種類型的數(shù)據(jù)共采集了100個樣本點，每個樣本的維數(shù)為1024。

圖4 CWRU實驗平臺 圖5 實驗室測試平臺

NED數(shù)據(jù)集為實驗室測試平臺上采集的軸承數(shù)據(jù)，其采集裝置如圖5所示，由電機、軸承和變速箱組成。通過由加速度計和模擬量采集模塊采集振動信號。該平臺配有3個不同位置有損傷的軸承：內圈、滾珠和外圈及無損傷的正常軸承。一共采集了4類數(shù)據(jù)，分別為：正常數(shù)據(jù)、滾珠故障數(shù)據(jù)、內圈損傷數(shù)據(jù)和外圈損傷數(shù)據(jù)。采集的數(shù)據(jù)負載為0 hp，采樣頻率為10 kHz。其中每一中類型的數(shù)據(jù)共100個樣本，每個樣本的維度為1024。

4.2 實驗結果及分析

首先，為了驗證本文所提改進算法在特征特征提取中的有效性，在第一組實驗中將CWRU數(shù)據(jù)集經過預處理得到的時頻域特征作為原始特征集，分別使用LLE算法、LE算法、LPP算法及本文改進算法CRO-LPP將提取的樣本特征投影到三維空間中。圖6為算法在CWRU數(shù)據(jù)集上的實驗結果，其中近鄰點個數(shù)為K=12，其他參數(shù)保持不變。由于有效的低維數(shù)據(jù)是進行分類識別最重要的特征，進而實現(xiàn)了重要特征提取。由圖6可以看出，在歐氏距離的度量下，LLE、LTSA算法所提取的特征在低維空間中出現(xiàn)了不同程度的混疊可分性較差，無法有效識別樣本類型。LPP算法和LE算法只能將其中兩類故障特征有效地分離。而在CRO-LPP算法中所提取的特征在異類可分離性表現(xiàn)明顯，同時也具有較好的聚類效果。

(a) LLE算法 (b) LE算法

圖6中，紅點為正常數(shù)據(jù)；綠點為內圈損傷數(shù)據(jù)；藍點為滾珠故障；黑點為外圈損傷數(shù)據(jù)。

在第二組實驗中將定量評估算法性能，引入了Fisher測度作為評估的指標[16]。該指標將通過類間散度與類內散度的比值，衡量樣本之間的分離程度，其值越大，則說明該算法提取到樣本特征的可分離性就越好。其定義為：

F=tr(Sb)/tr(Sw)

(8)

式中，Sb、Sw分別為樣本的類間散度和類內散度，定義如下：

(9)

(10)

表1 不同算法在兩種數(shù)據(jù)集上的Fisher度量

第三組實驗在NED數(shù)據(jù)集上將對比使用不同距離度量方法與相關性Rank-order距離度量進行比較，如圖7所示。在三維空間中，在余弦距離度量的度量下，算法所提取的故障特征重疊，分離性較差；Manhattan度量和杰卡德相似性度量僅能分離其中部分故障特征，分類效果并不明顯；而在相關性Rank-order距離度量中，所提取的故障特征均表現(xiàn)出了較好的分離和聚類性能，優(yōu)于其他度量方法，適合特征提取，進而證明了改進算法的有效性。

(a) LPP算法Manhattan距離 (b) LPP算法余弦距離

在第四實驗中，本文將對改進算法的特征提取性能進行驗證分析。分別在CWRU數(shù)據(jù)集和NED數(shù)據(jù)集中選擇80個數(shù)據(jù)樣本進行訓練，剩余20個樣本作為測試集分別使用局部算法進行特征提取，最后由KNN分類模型測試特征正確識別精度，并求其四次平均作為最后測試結果，如圖8所示。在圖中實驗的局部算法中，LTSA算法所提取特征識別精度較差，而CRO-LPP算法提取的特征識別率均高于其他算法，更進一步證明了算法對軸承故障特征有較好的提取性能。

圖8 算法在數(shù)據(jù)集上正確識別率

5 結束語

本文提出了一種基于相關性Rank-order度量的局部保持投影算法。該算法首先利用相關距離融合Rank-order距離度量樣本間的相似性，構建了降維模型。該方法極大的提高了原算法相似性度量的準確性，使樣本的聚類效果更加明顯。通過將該算法應用在兩種軸承數(shù)據(jù)集上，由可視化及識別精度等實驗對比驗證了所提算法的有效性。同時，未來將進一步對離群點進行研究并進一步優(yōu)化鄰域參數(shù)的選擇，使得到更好的降維效果。