陶耀東,曾廣圣,李 寧

1(中國(guó)科學(xué)院 沈陽(yáng)計(jì)算技術(shù)研究所,沈陽(yáng) 110168)

2(中國(guó)科學(xué)院大學(xué),北京 100049)

基于回歸樹(shù)和AdaBoost方法的刀具磨損評(píng)估①

陶耀東1,2,曾廣圣1,李 寧2

1(中國(guó)科學(xué)院 沈陽(yáng)計(jì)算技術(shù)研究所,沈陽(yáng) 110168)

2(中國(guó)科學(xué)院大學(xué),北京 100049)

本文利用高速數(shù)控銑刀銑削中不同側(cè)面方向的切削力和振動(dòng)信號(hào)以及聲發(fā)射信號(hào)均方根值,以數(shù)據(jù)驅(qū)動(dòng)的形式對(duì)刀具磨損進(jìn)行了擬合評(píng)估. 在本次研究中,分別從時(shí)域、頻域和時(shí)頻聯(lián)合域上探索與刀具磨損相關(guān)的敏感特征,具體特征提取方法包括時(shí)域統(tǒng)計(jì)分析、頻域上的快速傅里葉變換(FFT)和時(shí)頻聯(lián)合分析的小波變換(WT). 本文中,決策樹(shù)被用于回歸問(wèn)題而非分類問(wèn)題,用于評(píng)估刀具磨損值. 同時(shí),引入AdaBoost算法對(duì)回歸樹(shù)模型進(jìn)行提升,并從模型的準(zhǔn)確性、穩(wěn)定性和適用性三個(gè)方面上綜合對(duì)比了提升的決策樹(shù)回歸模型和原模型的性能. 研究表明,AdaBoost算法提升的回歸決策樹(shù)模型在預(yù)測(cè)的準(zhǔn)確性和穩(wěn)定性上都有一定程度上提高,并且在面向全新刀具磨損預(yù)測(cè)的適用性上也取得了不錯(cuò)的提升效果.

刀具磨損; PHM; 統(tǒng)計(jì)分析; FFT; 小波變換; 回歸樹(shù); AdaBoost

在高速的切削工件的過(guò)程中,刀具的磨損對(duì)于加工的工件表面光滑程度和尺寸精度的影響至關(guān)重要.因此,刀具磨損的狀態(tài)評(píng)估成為了一個(gè)重要的研究課題,但更為重要的是如何精確和穩(wěn)定地?cái)M合或預(yù)測(cè)一個(gè)全新刀具的磨損值. 因?yàn)?過(guò)高地預(yù)測(cè)磨損值,將可能導(dǎo)致刀具材料的浪費(fèi),而過(guò)低地預(yù)測(cè)磨損值將會(huì)增加工件產(chǎn)品的次品率,甚至出現(xiàn)廢品或發(fā)生機(jī)械安全事件. 同時(shí),準(zhǔn)確但不穩(wěn)定地預(yù)測(cè)也將沒(méi)有足夠工程應(yīng)用上的可信度.

目前,在對(duì)刀具磨損評(píng)估方面的研究包括: S.Huang、X. Li等人提出了一種基于支持向量回歸(Support vector regression,SVR)的刀具磨損評(píng)估模型,并通過(guò)實(shí)驗(yàn)驗(yàn)證了該方法的靈活性和有效性[1]; T.Benkedouh等人用SVR模型預(yù)測(cè)了刀具的剩余使用壽命 (Remainning useful life,RUL)[2]; 作者韓玉輝將粒子群優(yōu)化算法引入SVR模型,并通過(guò)仿真實(shí)驗(yàn)表明,該方法具有較強(qiáng)的推廣能力和較高的預(yù)測(cè)精度[3]; X.Li、B.S. Lim等人對(duì)于干銑過(guò)程中刀具磨損建立了模糊神經(jīng)網(wǎng)絡(luò) (Fuzzy neural network,FNN)模型,并闡述了FNN相對(duì)于其他傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型在預(yù)測(cè)準(zhǔn)確率和學(xué)習(xí)速度上的優(yōu)越性[4]; D.A. Tobon-Mejia 等人論述了使用動(dòng)態(tài)貝葉斯網(wǎng)絡(luò)(Dynamic Bayesian networks,DBN)來(lái)對(duì)刀具磨損狀態(tài)進(jìn)行評(píng)估,并預(yù)測(cè)其RUL[5];Huimin Chen提出了一種基于多模型聯(lián)合的刀具磨損預(yù)測(cè)的方法,具有很強(qiáng)的針對(duì)性和擬合能力[6]. 從上述有關(guān)刀具磨損的故障診斷和健康管理(Prognostic and health management,PHM)方面的研究中可知,越來(lái)越趨向于: (1)基于模型和數(shù)據(jù)驅(qū)動(dòng)式的智能診斷; (2)基于統(tǒng)計(jì)學(xué)和機(jī)器學(xué)習(xí)兩大理論方法的結(jié)合; (3)屬于預(yù)測(cè)性的維護(hù),而非基于故障發(fā)生后的條件狀態(tài)數(shù)據(jù)的后發(fā)式維護(hù). 這類基于數(shù)據(jù)驅(qū)動(dòng)的智能診斷和預(yù)測(cè)性維護(hù)的方法,能夠在故障發(fā)生前幾個(gè)周期即可評(píng)估出故障發(fā)生的概率,從而給出預(yù)警信號(hào). 除此之外,該類方法還能夠預(yù)測(cè)工件的RUL,以達(dá)到合理利用原材料和提高工作效率的目的. 但是,上述模型中也存在幾個(gè)缺點(diǎn): (1)大部分模型過(guò)于復(fù)雜或者可解釋性不強(qiáng);(2)單模型的回歸擬合不夠穩(wěn)定,突出地體現(xiàn)在對(duì)于類似刀具這樣磨損模式不太固定的預(yù)測(cè)問(wèn)題上.

本文在此背景下,針對(duì)數(shù)控銑刀刀具的磨損,提出基于回歸決策樹(shù) (Decision tree regression,DTR)和集成方法AdaBoost相互結(jié)合的方式,用于擬合和預(yù)測(cè)刀具的磨損. DTR模型復(fù)雜性容易控制,并且可解釋性強(qiáng);AdaBoost方法是一種多模型集成的方法,“集成”使得預(yù)測(cè)的穩(wěn)定性得以提高. 在本文研究中,通過(guò)對(duì)比和實(shí)驗(yàn)分析,分別從擬合的準(zhǔn)確度、預(yù)測(cè)穩(wěn)定性和方法的適用性三個(gè)方面上驗(yàn)證基于AdaBoost提升的回歸決策樹(shù) (即提升回歸樹(shù)模型,Adative boosted decision tree regression,DTR-Ada)對(duì)于刀具磨損預(yù)測(cè)的有效性.

1 分析流程

本次研究分析的主要流程包括: 數(shù)據(jù)預(yù)處理、特征提取、特征選擇、建模擬合和性能對(duì)比分析. 如圖1所示.

圖1 分析流程

2 數(shù)據(jù)分析與特征工程

2.1 數(shù)據(jù)采集過(guò)程

本次研究的數(shù)據(jù)采用2010年P(guān)HM Society所提供的數(shù)據(jù)競(jìng)賽的數(shù)據(jù)集[7]. 數(shù)據(jù)集共6份,其中c1、c4和 c6為訓(xùn)練集,c2、c3和 c5為測(cè)試集. 每份數(shù)據(jù)集對(duì)應(yīng)315次銑削,每次銑削采集的信號(hào)包括X、Y、Z三個(gè)軸向的銑削力和振動(dòng)信號(hào),以及銑削過(guò)程中聲發(fā)射信號(hào)的均方根值,共計(jì)7個(gè)通道數(shù)據(jù). 每次銑削過(guò)程的磨損值分為flute1、flute2和flute3三個(gè)槽向的值.整個(gè)數(shù)據(jù)采集過(guò)程中,采集頻率為 50 KHz/通道,銑削主軸速度為 10400 RPM(轉(zhuǎn)/分),進(jìn)給速度為 1555 mm/min,Y 軸徑向銑削深度為 0.125 mm,Z 軸軸向銑削深度為 0.2 mm. 有關(guān)具體的數(shù)據(jù)采集系統(tǒng)[4],如圖2 所示.

本文研究中,只采用了c1、c4和c6三個(gè)具有真實(shí)磨損值的數(shù)據(jù)集作為實(shí)驗(yàn)數(shù)據(jù),共計(jì)3組實(shí)驗(yàn)數(shù)據(jù),每組數(shù)據(jù)空間為315×7.

圖2 實(shí)驗(yàn)數(shù)據(jù)采集系統(tǒng)

2.2 數(shù)據(jù)預(yù)處理和特征工程

2.2.1 數(shù)據(jù)預(yù)處理

該過(guò)程的作用是清洗數(shù)據(jù),剔除無(wú)效和異常值數(shù)據(jù)點(diǎn),采用的方法是截?cái)喾?、采樣法和濾波法.“截?cái)唷狈ㄓ糜谔蕹M(jìn)刀和退刀過(guò)程中形成的無(wú)效數(shù)據(jù). 以c1數(shù)據(jù)集X軸銑削力的第200次銑削的時(shí)序信號(hào)為例,如圖3所示,圖中顯示了尾部無(wú)效數(shù)據(jù)(箭頭范圍內(nèi)虛線部分).

圖3 c1_200 剔除尾部無(wú)效數(shù)據(jù)的前后對(duì)比

“截?cái)唷狈椒ň唧w步驟為: 首先,求一次銑削過(guò)程中原始數(shù)據(jù)的上四分位值Q3,作為首尾無(wú)效數(shù)據(jù)限界點(diǎn);然后,從原始數(shù)據(jù)的開(kāi)頭向后和末尾向前,剔除所有小于Q3數(shù)值,直至碰到第1個(gè)不小于Q3的數(shù)據(jù),則停止截?cái)?

剔除異常值之后,對(duì)數(shù)據(jù)進(jìn)行了降采樣處理,降采樣比例1/10. 因此,得到的降采樣后的數(shù)據(jù)頻率為5KHz,每次銑削過(guò)程數(shù)據(jù)量大約仍有2萬(wàn)個(gè).

最后,對(duì)降采樣后的數(shù)據(jù)進(jìn)行了hampel濾波處理,目的是剔除中間異常值數(shù)據(jù). hampel濾波原理中采用了滑動(dòng)窗口的機(jī)制和中值濾波的原理[8]. 由于篇幅原因,不在贅述. 經(jīng)過(guò) hampel濾波前后的信號(hào)對(duì)比,如圖4所示. 圖4中顯示了c1數(shù)據(jù)集中Y軸銑削力的第001次銑削的信號(hào)剔除中間異常值前后的對(duì)比結(jié)果(圓圈內(nèi)為異常數(shù)據(jù)點(diǎn)). 可見(jiàn),hample濾波能夠有效剔除中間數(shù)據(jù)中的異常值.

圖4 c1_001 剔除中間異常數(shù)據(jù)的前后對(duì)比

2.2.2 特征工程——特征提取

由上文所述,每次銑削過(guò)程都具有一個(gè)真實(shí)磨損值,而每次銑削的數(shù)據(jù)經(jīng)過(guò)數(shù)據(jù)預(yù)處理之后也有上萬(wàn)條數(shù)據(jù),與磨損值并非一一對(duì)應(yīng)關(guān)系,不能直接作為特征使用,需要“歸約”數(shù)據(jù)中的信息,提取出有效的特征.

時(shí)域統(tǒng)計(jì)提取特征: 本文中對(duì)信號(hào)進(jìn)行時(shí)域上的統(tǒng)計(jì)特征提取過(guò)程中,參考S. Huang、陳侃等作者有關(guān)這方面的研究[1,9]. 時(shí)域的統(tǒng)計(jì)分析值包括絕對(duì)平均幅值、平均值、標(biāo)準(zhǔn)差、均方根、方根幅值、峰度、偏斜度、裕度因子、波形因子等.

時(shí)頻變換和頻譜分析提取特征: 本文對(duì)銑削力、振動(dòng)信號(hào)采用的時(shí)頻變換分析方法為快速傅里葉變換(Fast Fourier transform,FFT). 頻域中提取的特征包括了幅值譜、功率譜(密度)和相位譜等.

時(shí)頻聯(lián)合能量分析提取特征: 對(duì)于時(shí)頻聯(lián)合的特征提取,本文采用小波變換 (Wavelet transform,WT)[10,11]對(duì)銑削力和振動(dòng)信號(hào)進(jìn)行特征提取. 其中對(duì)銑削力和振動(dòng)信號(hào)進(jìn)行小波變換分解的層數(shù)分別為2和4,采用的小波基函數(shù)為‘db3’. 提取的特征包括在分解出的近似系數(shù)和細(xì)節(jié)系數(shù)相應(yīng)頻段上能量比.

特征提取的最終結(jié)果為,時(shí)域統(tǒng)計(jì)特征計(jì)40個(gè),頻域特征計(jì)22個(gè),時(shí)頻聯(lián)合特征計(jì)13個(gè). 共計(jì)總特征為 75個(gè). 樣本數(shù)量為 3組 (c1、c4和 c6),315個(gè)樣本/組. 因此,最終的特征空間大小為 945×75.

2.2.3 特征工程——特征選擇

經(jīng)過(guò)特征提取過(guò)程,數(shù)據(jù)轉(zhuǎn)化為特征,每組數(shù)據(jù)集(c1、c4和c6)分別對(duì)應(yīng)一組315×75大小的特征空間.但并非有所特征都與磨損值相關(guān)或有較強(qiáng)關(guān)系,擇優(yōu)選取特征,既能夠減少特征空間大小,降低模型訓(xùn)練/測(cè)試時(shí)間,又能夠提升模型擬合性能.

本文中采用的特征評(píng)估和選擇方法包括互信息(Mutual information,MI)評(píng)估方法和 F-test檢驗(yàn)方法. MI的基本原理是一種基于k-最近鄰居距離的熵估計(jì)的非參數(shù)方法[12,13]. F-test檢驗(yàn)用于特征評(píng)估原理描述如下:

假設(shè)特征向量為X,i表示特征序號(hào),目標(biāo)值為y,mean()、std()和size()分別表示求向量均值、標(biāo)準(zhǔn)差和長(zhǎng)度,centered表示是否去均值中心化,則有:

相關(guān)系數(shù)Corr:

自由度n:

最終,F-test計(jì)算公式:

F-test檢驗(yàn)可以評(píng)估特征與目標(biāo)值具有的線性關(guān)系; MI可用于評(píng)估特征與目標(biāo)值任何的非線性相關(guān)關(guān)系. 特征選擇的標(biāo)準(zhǔn): MI評(píng)估值>0.5、F-test檢驗(yàn)值>0.5. 如圖5所示,為特征選擇過(guò)程的解析.

圖5 最優(yōu)特征選擇過(guò)程

通過(guò)最優(yōu)特征選擇過(guò)程,可以得到flute1磨損值較優(yōu)特征,共計(jì) 34 個(gè),如表1 所示 (其中,A4 表示第4層近似(Approximate)系數(shù)).

表1 最優(yōu)特征 (MI>0.5,F-test>0.5)

從表1可知,通過(guò)特征選擇出來(lái)的特征數(shù)量仍不少,但在本文中并未進(jìn)行特征降維處理,主要出于以下兩點(diǎn)考慮:

第一,不同刀具的磨損模式不太固定,即使在同一個(gè)銑削槽向上(例如,flute1)的磨損模式也存在一定差異性,這無(wú)形增加了擬合預(yù)測(cè)的難度. 在特征數(shù)量上保持一定的規(guī)模,能夠一定程度上保證預(yù)測(cè)的準(zhǔn)確度. 第二,決策樹(shù)模型在結(jié)點(diǎn)分支過(guò)程中,本身就具有一定的特征選擇作用. 因此,保持足夠的特征數(shù)量能夠在分支特征選擇過(guò)程中給予更優(yōu)的決策.

3 基于回歸樹(shù)與提升回歸樹(shù)模型擬合分析與性能對(duì)比

決策樹(shù)用于回歸問(wèn)題的基本原理是: 使用最小化剩余方差的方法來(lái)決定結(jié)點(diǎn)的最優(yōu)劃分. 劃分的目的是使得子樹(shù)誤差方差最小[14,15]. 而本文中引入的AdaBoost在回歸決策樹(shù)上應(yīng)用的基本原理是[16]: 首先,回歸問(wèn)題的損失函數(shù)為平方損失函數(shù). 通過(guò)擬合當(dāng)前模型的殘差的方式學(xué)習(xí)一個(gè)回歸樹(shù),并通過(guò)前向分步算法和經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化的方式確定下一顆決策樹(shù)的參數(shù). 最后,通過(guò)加法模型得到最終的提升回歸樹(shù)(DTR-Ada)模型.

下面將以flute1銑削槽上的磨損值擬合為例進(jìn)行分析. 如上文所述,flute1提取出來(lái)的最終特征空間為945個(gè)樣本(其中第1～315來(lái)自c1數(shù)據(jù)集,第316～630來(lái)自 c4數(shù)據(jù)集,第631～945來(lái)自 c6數(shù)據(jù)集),34個(gè)維度. 主要的研究?jī)?nèi)容包括決策樹(shù)回歸的準(zhǔn)確度、AdaBoost應(yīng)用于DTR提升的準(zhǔn)確度和穩(wěn)定性分析以及AdaBoost的適用性分析.

3.1 單數(shù)據(jù)集的獨(dú)立實(shí)驗(yàn)分析

單數(shù)據(jù)集獨(dú)立實(shí)驗(yàn)分析的目的在于比較DTR和DTR-Ada模型對(duì)于同組內(nèi)未知數(shù)據(jù)的擬合準(zhǔn)確度和預(yù)測(cè)穩(wěn)定性.

對(duì)3個(gè)數(shù)據(jù)集c1、c4和c6采取相同的數(shù)據(jù)劃分:訓(xùn)練集比例 2/3,計(jì) 210 個(gè)樣本; 測(cè)試集比例 1/3,計(jì)105個(gè)樣本. DTR模型決策樹(shù)最大深度(max_depth)選擇范圍為2～10. 通過(guò)100次重復(fù)訓(xùn)練和測(cè)試過(guò)程(劃分比例固定,樣本選擇隨機(jī)),取每個(gè)最大深度的100次試驗(yàn)的平均決定系數(shù)R2和平均均方誤差MSE作為評(píng)估值. 確定決策樹(shù)最大深度的原則:

(1) 平均 R2 最大,平均 MSE 最小;

(2) 若多個(gè)最大深度的R2和MSE相差不大,盡量選擇較小最大深度,以簡(jiǎn)化模型復(fù)雜度.

如圖6和圖7所示,為對(duì)c4和c6特征數(shù)據(jù)100次重復(fù)DTR和DTR-Ada訓(xùn)練/測(cè)試,在不同最大決策樹(shù)深度下的結(jié)果. 從圖中可知,決策樹(shù)最大深度分別達(dá)到 6 和 4 時(shí),R2 停止增加,MSE 停止減少. 因此,flute1c4、flute1c6所選擇決策樹(shù)最大深度分別為6和4.

在確定了決策樹(shù)最大深度的前提下,對(duì)DTR和DTR-Ada模型測(cè)試的準(zhǔn)確度和穩(wěn)定性進(jìn)行分析. 如表2～表4所示,為100次重復(fù)訓(xùn)練/測(cè)試過(guò)程中得到的3個(gè)獨(dú)立測(cè)試集的平均結(jié)果. 通過(guò)比較可知,DTR-Ada得到的兩項(xiàng)表征準(zhǔn)確度的評(píng)估指標(biāo)均優(yōu)于DTR.

如圖8和圖9所示,為100次重復(fù)訓(xùn)練/測(cè)試過(guò)程中分別得到的c4和c6的R2和MSE變化情況. 從圖中可知,在相同的最大決策樹(shù)深度前提下,DTR-Ada的R2和MSE變化波動(dòng)比DTR對(duì)應(yīng)指標(biāo)小的多,即DTR-Ada面向同組未知數(shù)據(jù)的預(yù)測(cè)擬合更加穩(wěn)定.

圖6 c4不同決策樹(shù)最大深度下的平均性能

圖7 c6不同決策樹(shù)最大深度下的平均性能

表2 c1 數(shù)據(jù)集兩種模型測(cè)試結(jié)果對(duì)比

3.2 多數(shù)據(jù)集聯(lián)合的實(shí)驗(yàn)分析(“K-Fold”法)

多數(shù)據(jù)集聯(lián)合(“K-Fold”交叉驗(yàn)證)的實(shí)驗(yàn)分析的主要目的在于驗(yàn)證DTR-Ada模型對(duì)于預(yù)測(cè)不同組的未知數(shù)據(jù)中的穩(wěn)定性和適用性.

表3 c4 數(shù)據(jù)集兩種模型測(cè)試結(jié)果對(duì)比

表4 c6 數(shù)據(jù)集兩種模型測(cè)試結(jié)果對(duì)比

圖8 c4獨(dú)立實(shí)驗(yàn)中模型測(cè)試的穩(wěn)定性對(duì)比

在本次實(shí)驗(yàn)中,數(shù)據(jù)集劃分的方法為: 從每組特征數(shù)據(jù)中得到訓(xùn)練集和測(cè)試集的方法是“K-Fold”方法,設(shè)置K=5,即訓(xùn)練集和測(cè)試集比例為4:1. 如圖10所示,為本次多數(shù)據(jù)集聯(lián)合的特征數(shù)據(jù)劃分和實(shí)驗(yàn)過(guò)程. 重復(fù)20次訓(xùn)練/測(cè)試過(guò)程,但訓(xùn)練集和測(cè)試集仍是隨機(jī)產(chǎn)生.

確定最大決策樹(shù)深度的方法如同3.1節(jié)所述,通過(guò)20次重復(fù)5-Fold交叉試驗(yàn),確定6為最合理的決策樹(shù)最大深度.

如表5所示,為20次重復(fù)5-Fold訓(xùn)練/測(cè)試過(guò)程中得到的聯(lián)合測(cè)試集擬合的平均R2和平均MSE. 通過(guò)比較可知,DTR-Ada得到的兩項(xiàng)表征準(zhǔn)確度的評(píng)估指標(biāo)仍然都優(yōu)于DTR. 如圖11所示,為本次實(shí)驗(yàn)中20次5-Fold重復(fù)測(cè)試得到的平均擬合效果圖,可知DTR-Ada對(duì)于測(cè)試集的擬合效果優(yōu)于DTR. 說(shuō)明了,DTR-Ada對(duì)于不同組特征集的擬合預(yù)測(cè)具有一定的適用性.

圖9 c6獨(dú)立實(shí)驗(yàn)中模型測(cè)試的穩(wěn)定性對(duì)比

圖10 c1c4c6 多數(shù)據(jù)集聯(lián)合實(shí)驗(yàn)過(guò)程 (K-Fold)

表5 聯(lián)合特征數(shù)據(jù)下測(cè)試結(jié)果對(duì)比 (“5-Fold”法)

圖11 20 次“5-Fold”重復(fù)試驗(yàn)的預(yù)測(cè)結(jié)果對(duì)比

如圖12所示,為20次重復(fù)訓(xùn)練/測(cè)試過(guò)程中得到的R2和MSE變化情況. 從圖中可知,在最大決策樹(shù)深度為6時(shí),模型測(cè)試結(jié)果為: DTR-Ada模型對(duì)于測(cè)試集的擬合預(yù)測(cè)仍要比DTR模型更加穩(wěn)定.

3.3 多數(shù)據(jù)集聯(lián)合的實(shí)驗(yàn)分析(“留一組”法)

多數(shù)據(jù)集聯(lián)合(“留一組”交叉驗(yàn)證)的實(shí)驗(yàn)分析的主要目的驗(yàn)證DTR-Ada方法對(duì)于未知的一整組數(shù)據(jù)集的預(yù)測(cè)準(zhǔn)確性和適用性.

本次實(shí)驗(yàn)中,從每組特征數(shù)據(jù)中得到訓(xùn)練集和測(cè)試集的方法是“留一組”方法: c1、c4和c6三組特征集中,兩組作為訓(xùn)練集,一組作為測(cè)試集,進(jìn)行 10 次重復(fù)試驗(yàn). 由于訓(xùn)練集和測(cè)試集生成過(guò)程是固定的,所以10次重復(fù)試驗(yàn)將呈現(xiàn)周期性的結(jié)果,并且模型的穩(wěn)定性也無(wú)從驗(yàn)證.

圖12 多數(shù)據(jù)集聯(lián)合實(shí)驗(yàn)中測(cè)試的穩(wěn)定性對(duì)比

確定最大決策樹(shù)深度的方法如同3.1和3.2節(jié)節(jié)所述. 在訓(xùn)練集為 630×34,測(cè)試集為 315×34 情況下,通過(guò)10次重復(fù)“留一組”試驗(yàn)對(duì)DTR和DTR-Ada模型進(jìn)行訓(xùn)練/測(cè)試,可確定決策樹(shù)最大深度為3. 下面將在最大深度為3的前提下,對(duì)DTR和DTR-Ada模型預(yù)測(cè)的準(zhǔn)確性和模型的適用性進(jìn)行分析.

如表6和圖13所示,分析過(guò)程可以參考3.1和3.2節(jié),可知: DTR-Ada模型對(duì)于一整組未知的磨損值的擬合預(yù)測(cè)結(jié)果要比DTR更加準(zhǔn)確,適用性也比DTR更強(qiáng).

表6 聯(lián)合特征數(shù)據(jù)下測(cè)試結(jié)果對(duì)比 (“留一組”法)

4 總結(jié)

本文研究中,利用銑削過(guò)程中采集的原始信號(hào)數(shù)據(jù),通過(guò)統(tǒng)計(jì)學(xué)方法、信號(hào)處理相關(guān)知識(shí)和特征工程理論的結(jié)合,對(duì)數(shù)據(jù)和特征進(jìn)行了分析,形成了數(shù)據(jù)驅(qū)動(dòng)式的分析流程. 同時(shí),引入回歸決策樹(shù)模型和集成方法AdaBoost,對(duì)刀具磨損進(jìn)行了擬合、預(yù)測(cè)和模型性能的對(duì)比分析. 研究表明,單獨(dú)地運(yùn)用DTR模型來(lái)擬合/預(yù)測(cè)未知磨損值的效果很不理想. 通過(guò)引入AdaBoost算法對(duì)DTR模型進(jìn)行提升,在擬合準(zhǔn)確度、預(yù)測(cè)穩(wěn)定性以及模型適用性三個(gè)方面上均能夠得到有效的提升.本文研究中,雖然在準(zhǔn)確度、穩(wěn)定性和適用性三方面上取得了提升效果,但仍存在有待提升的空間.

圖13 “留一組”交叉驗(yàn)證重復(fù)試驗(yàn)的預(yù)測(cè)對(duì)比

特征工程方面: 1)特征提取時(shí)缺乏足夠的專家知識(shí)指導(dǎo),未能預(yù)先人工地剔除一些無(wú)關(guān)特征,以致特征空間過(guò)于龐大. 2)本文只是泛性地應(yīng)用FFT和WT方法去提取每個(gè)信號(hào)每個(gè)軸向上的特征,對(duì)于不同信號(hào)沒(méi)有針對(duì)性地選擇時(shí)域/頻域上的分析方法. 3)在特征選擇后的數(shù)量上,在能夠保證模型足夠性能的前提下,可以通過(guò)調(diào)整特征評(píng)估的閥值,例如提高F-test閥值至6.7165,或者通過(guò)特征降維的方法,來(lái)減少輸入模型的特征空間大小.

DTR-Ada模型方面: 1) 通過(guò)第3節(jié)表中結(jié)果可知,DTR-Ada模型帶來(lái)了準(zhǔn)確度、穩(wěn)定性和適用性提升的同時(shí),其訓(xùn)練和預(yù)測(cè)時(shí)間也增加了,主要由于AdaBoost算法本身“串行計(jì)算”的特點(diǎn)造成的. 這方面可以通過(guò)適當(dāng)?shù)販p少?zèng)Q策樹(shù)數(shù)量、應(yīng)用類似Bagging這樣的具有“并行計(jì)算”特點(diǎn)的集成方法或利用集群計(jì)算來(lái)解決,后兩者也是未來(lái)工業(yè)大數(shù)據(jù)處理發(fā)展的方向之一. 2)DTR-Ada模型只設(shè)置了固定參數(shù)(學(xué)習(xí)率0.5,DTR模型個(gè)數(shù)300等),沒(méi)有深入優(yōu)化,其性能方面有待提升.

1Huang S,Li X,Gan OP. Tool wear estimation using support vector machines in ball-nose end milling. Proc. of the 2010 Annual Conference of the Prognostics and Health Management Society. Portland,Oregon,USA. 2010.

2Benkedjouh T,Medjaher K,Zerhouni N,et al. Health assessment and life prediction of cutting tools based on support vector regression. Journal of Intelligent Manufacturing,2015,26(2): 213–223. [doi: 10.1007/s10845-013-0774-6]

3韓玉輝. 基于粒子群優(yōu)化SVM的刀具磨損量預(yù)測(cè). 工具技術(shù),2016,50(11): 109–112. [doi: 10.3969/j.issn.1000-7008.2016.11.031]

4Li X,Lim BS,Zhou JH,et al. Fuzzy neural network modelling for tool wear estimation in dry milling operation.Proc. of 2009 International Conference of Prognostics and Health Management. San Diego,USA. 2009.

5Tobon-Mejia DA,Medjaher K,Zerhouni N. CNC machine tool’s wear diagnostic and prognostic by using dynamic Bayesian networks. Mechanical Systems and Signal Processing,2012,28: 167–182. [doi: 10.1016/j.ymssp.2011.10.018]

6Chen HM. A multiple model prediction algorithm for cnc machine wear pHM. International Journal of Prognostics and Health Management,2011,2(2): 27.

7PHM Society. 2010 phm society conference data challenge.https://www.phmsociety.org/competition/phm/10. [2010].

8MathWorks. Signal processing ToolBox. http://cn.mathworks.com/help/signal/ref/hampel.html. [2016].

9陳侃. 基于多模型決策融合的刀具磨損狀態(tài)監(jiān)測(cè)系統(tǒng)關(guān)鍵技術(shù)研究[博士學(xué)位論文]. 成都: 西南交通大學(xué),2012.

10MathWorks. Wavelet ToolBox. http://cn.mathworks.com/help/wavelet/ref/wavedec.html. [2016].

11Mallat SG. A theory for multiresolution signal decomposition: The wavelet representation. IEEE Trans. on Pattern Analysis and Machine Intelligence,1989,11(7): 674–693.[doi: 10.1109/34.192463]

12Kraskov A,St?gbauer H,Grassberger P. Estimating mutual information. Physical Review E,2004,69(6 Pt 2): 066138.

13Ross BC. Mutual information between discrete and continuous data sets. PLoS One,2014,9(2): e87357. [doi: 10.1371/journal.pone.0087357]

14Wikipedia. Decision tree learning. https://en.wikipedia.org/wiki/Decision_tree_learning#Variance_reduction.

15Breiman L,Friedman J,Stone CJ,et al. Classification and regression trees. Boca Raton: Chapman and Hall/CRC,1984:358.

16李航. 統(tǒng)計(jì)學(xué)習(xí)方法. 北京: 清華大學(xué)出版社,2012: 137–151.

Tool Wear Evaluation Based on Decision Tree Regression and AdaBoost Algorithm

TAO Yao-Dong1,2,ZENG Guang-Sheng1,LI Ning2

1(Shenyang Institute of Computing Technology,Chinese Academy of Sciences,Shenyang 110168,China)
2(University of Chinese Academy of Sciences,Beijing 100049,China)

In this paper,the cutting force and vibration signals in different axial directions and the RMS of the acoustic emission signal in the milling of the high speed CNC cutters are fully utilized to evaluate the tool wear in the data-driven method. In this study,the sensitive features related to tool wear are explored from three aspects: time-domain,frequencydomain and joint time-frequency domain,and the feature extraction methods include time-domain statistical analysis,fast Fourier transform (FFT) between time-domain and frequency-domain,and wavelet transform (WT) in time-frequency domain. In this paper,the decision tree will be used for regression problems,rather than classification issues,to assess the tool wear value. And then,the AdaBoost algorithm is introduced to improve the performance of the decision tree regression (DTR),and the performance of the adaptive boosted decision tree regression (DTR-Ada) model and the original model are compared at the aspects of the accuracy,steadiness and applicability. The result shows the DTR-Ada model can improve the accuracy and stability of the fitting and prediction,and it also achieves a good effect on the applicability of the new tool wears prediction.

tool wear; prognostic and health management; statistical analysis; fast Fourier transform; wavelet transform; decision tree regression; AdaBoost

陶耀東,曾廣圣,李寧.基于回歸樹(shù)和 AdaBoost方法的刀具磨損評(píng)估.計(jì)算機(jī)系統(tǒng)應(yīng)用,2017,26(12):212–219. http://www.c-sa.org.cn/1003-3254/6117.html

沈陽(yáng)市2014年科學(xué)計(jì)劃項(xiàng)目(F14-056-7-00)

2017-03-20; 修改時(shí)間: 2017-04-10; 采用時(shí)間: 2017-04-13