王 哲,劉學平,李玙乾,李 旭
(清華大學 深圳國際研究生院,深圳 518055)
壽命預測是指利用現有的實驗數據,建立對未來數據變化的預測模型。目前比較常用的壽命預測方法有曲線擬合法、時間序列方法、神經網絡方法、支持向量機方法。其中神經網絡方法適用于精度要求比較高的非線性領域,由于機械設備的振動信號具有不穩(wěn)定性和非線性,所以神經網絡方法在機械設備的壽命預測方面應用比較廣泛。Hinton等人在2006年提出了深度學習的概念以后,深度學習就越來越廣泛地應用于機器學習領域[1]。深度學習模型可以高效率、深層次挖掘大量原始數據的內部規(guī)律,實現數據維度的減少,所以深度學習的發(fā)展為軸承的壽命預測提供了新的研究方向[2]。
劉小勇等人基于深度學習網絡,構件了設備退化指標的模型,并根據退化曲線對剩余壽命進行研究,以軸承振動監(jiān)測數據為研究對象,提出了軸承剩余壽命預測的算法[3]。張娜等通過對原始深度信念網絡參數和結構的改進,將其應用于滾動軸承的剩余生命預測中,并通過實驗驗證了該算法的有效性與先進性[4]。蔣會明等人基于隱馬爾可夫模型,對滾動軸承的性能退化以及壽命預測的算法進行了一定的改進,可以針對滾動軸承在實際使用過程中的條件快速消除無用的數據,同時通過試驗數據驗證了改進后的算法相比于之前的算法顯著提高了對軸承壽命預測的有效性[5]。吳超勇等人提出了在大數據環(huán)境下對滾動軸承的剩余生命預測的模型,運用大數據技術對滾動軸承的各種數據進行特征提取,然后根據經驗貝葉斯對軸承的剩余生命進行估計,最后通過軸承加速壽命實驗對提出的算法進行了驗證[6]。董紹軍等人基于粒子群算法改進的支持向量機模型,對采集到的滾動軸承全生命周期的振動數據進行特征提取,利用多個模型對相應的滾動軸承的特征數據進行預測,最后計算各模型的誤差權重來準確預測滾動軸承的剩余使用壽命[7]。
本文基于更有效的深度學習方法,選取綜合性能較強的ResNeXt作為網絡骨干,設計卷積神經網絡模型實現對滾動軸承剩余使用壽命的預測,達到更準確的精度。
卷積神經網絡相比傳統(tǒng)的壽命預測方法,減少了人工特征提取的操作,它的核心在于自主學習,可以通過堆疊大量的卷積層,每個卷積層將提取信號不同層次的特征,抽取到豐富的語義特征,當訓練數據較少時,仍然具有很好的泛化能力,可以準確挖掘當前軸承的退化信息,從而對軸承的剩余使用壽命進行預測。傳統(tǒng)的卷積神經網絡包括卷積層、池化層和全連接層。卷積層執(zhí)行卷積計算,主要對輸入數據進行特征提??;池化層通常位于卷積層之間,其作用是逐漸降低數據體的空間尺寸,減少網絡中參數的數量,減少計算資源的同時也能有效控制過擬合;全連接層的每個神經元與前一層所有神經元全部連接,一般作為最后的輸出層。
本文用于軸承壽命預測的卷積神經網絡模型設計選取用于特征提取的骨干網絡(backbone),設計網絡的末端用于執(zhí)行相應的任務,在網絡末端用卷積層直接輸出預測值,選取綜合性能較強的骨干網絡來抽取特征,目前常用的骨干網絡有ResNet、ResNeXt、Hourglass等,Hourglass網絡多用于人體姿態(tài)估計,網絡結構復雜且參數量大。ResNeXt在ResNet的基礎上進行改進得到,借鑒了Inception模型中分離、轉換、合并的思想,在有限的參數量下顯著提升了特征提取能力,在大型公開數據集ImageNet性能超越ResNet。因此選用ResNeXt作為網絡的骨干。ResNeXt與ResNet相似,采用堆疊基礎構建塊的方式搭建網絡模型,同時引入了基數,即構建塊內部的分支數量,基數與網絡的深度、寬度均可以作為網絡模型復雜度的量化指標,增大基數比加深、加寬網絡更有效。目前在深度學習中ResNeXt已經成為一種主流的骨干網絡。
本文的壽命預測主要是在Ubuntu16.04系統(tǒng)下配置深度學習開發(fā)環(huán)境,硬件配置為CPUi7-9700K16G,GPU RTX20808G,NVIDIA驅動440.33,CUDA10.2,使用python3.7來搭建網絡模型,深度學習框架選用Pytorch1.3.1。
本文的網絡模型結構如圖1所示(網絡中所用到的批標準化以及激活函數未在圖中表示)。Conv1d1表示卷積核為1的一維卷積層,Conv1d3表示卷積核為3的一維卷積層,Conv1d3_g是卷積核為3的一維分組卷積層,group設置為8,Avg_pool1是池化長度為2的池化層,Avg_pool2是池化長度為5的池化層,linear1、linear2表示全連接層。Stem為卷積核為7的卷積,用于將特征序列降采樣4倍。Avg_pool1用于縮小特征序列的長度,減少網絡的參數量,在Stage3后接一個卷積核為3的卷積層,再利用池化層將特征序列長度變成1,最后利用兩個全連接層輸出預測結果。
圖1 壽命預測網絡模型
其中Stage1~Stage3如圖2所示,由一個Bottleneck_s與兩個Bottleneck_i構成,主要用于提取特征。
圖2 Stage網絡結構
以Stem層為例,輸入4×1280的特征序列,其中4表示通道數,1280表示序列長度,如表1所示。
表1 各層輸入輸出信息
為了設計軸承壽命預測的算法,需要在公開數據集上進行測試和驗證。本文采用IEEEPHM2012挑戰(zhàn)賽的公開數據集,該數據集采集到的軸承振動信號分為水平和豎直兩個方向,使用加速度傳感器對振動信號進行采集,采樣的頻率為25.6kHz,每次采樣的數據為2560×2個。數據集包括兩部分,分別是訓練集和測試集,如圖3所示。
圖3 數據集詳細信息
在深度學習中對數據進行標準化有利于加速網絡模型的收斂,所以在本文中對軸承振動信號的處理時,為了縮短網絡訓練時間,首先對數據進行標準化操作,即對每一條數據(包含水平、垂直方向各2560個數據點),計算數據點的均值,將所有數據點減去均值后除以絕對值最大的數據點。經過標準化處理后仍為時序數據,為了便于后續(xù)網絡特征的提取,考慮將數據從時域轉換到頻域,由于快速傅里葉變換可以使計算機在運行時計算離散傅里葉變換的乘法次數減少,當采樣較大時效果顯著,所以采用快速傅里葉變換對數據進行預處理。
該算法預測的目標是軸承的剩余使用壽命,考慮使用均方誤差作為損失函數,其計算公式如下:
式(1)中,n表示數據量大小,yi表示軸承實驗中真正的剩余壽命,,表表示網絡模型預測出的剩余壽命。計算出損失后,再通過反向傳播算法更新網絡模型的權重。
由于該數據集訓練集較小,因此對訓練集不進行分割,直接利用訓練集進行訓練。加載訓練集得到7534條數據,經過標準化操作與快速傅里葉變換后,送入已經設計好的卷積神經網絡模型中進行訓練,一共迭代120個周期,初始學習率設置為0.01,批數設置為128,權重衰減設置為0.009,優(yōu)化器選用Adam算法。訓練過程的損失如圖4所示。
圖4 模型訓練
訓練完成達到收斂后,在測試集上加載模型進行評估,測試集共包含13959條數據,同樣對數據進行標準化操作,進行快速傅里葉變換后送入網絡模型中進行預測,在測試時使用數據集的評估標準E來評估算法性能,E的計算公式如下:
式(2)中RUL表示當前軸承的實際剩余使用壽命,,為利用本章算法預測出的剩余使用壽命。
本文設計的算法誤差E為17.1%,文獻 中的誤差為32.5%,文獻 中的誤差為53.2%,可以看出本文所設計的算法較之前文獻中的預測算法準確度有了顯著提高,利用該算法可以根據軸承的振動信號獲得軸承的退化信息,保證機械裝備的精度。
為了對滾動軸承剩余壽命進行預測,本文設計了基于卷積神經網絡的剩余壽命預測算法,采用最新的ResNeXt骨干網絡,首先對數據進行標準化,然后利用快速傅里葉變換將采樣數據從時域轉換到頻域,最后送入到卷積神經網絡中預測出結果。并在IEEE PHM 2012挑戰(zhàn)賽公開數據集上進行了算法驗證,算法的誤差為17.1%,結果表明本文設計的算法可以較為準確地預測出軸承的剩余使用壽命,對保證機械裝備的加工精度有重要的意義。