馬軍強(qiáng) 陳文麗 楊思鋒 孫樹江
(北京航天試驗(yàn)技術(shù)研究所,北京 100074)
基于ARVM模型的液體火箭發(fā)動機(jī)試驗(yàn)臺故障預(yù)測方法
馬軍強(qiáng) 陳文麗 楊思鋒 孫樹江
(北京航天試驗(yàn)技術(shù)研究所,北京 100074)
針對液體火箭發(fā)動機(jī)試驗(yàn)臺故障子樣少,故障預(yù)測精度低,故障維修保障困難等問題,在分析標(biāo)準(zhǔn)RVM優(yōu)缺點(diǎn)的基礎(chǔ)之上,提出了一種自適應(yīng)能力較強(qiáng)的故障預(yù)測模型——ARVM(Adaptive Relevance Vector Machine)。為測試該模型,以某型軌控發(fā)動機(jī)高空模擬試驗(yàn)臺管路流量、燃燒室壓力為輸入?yún)⒘繉ν屏κ噶窟M(jìn)行了預(yù)測,預(yù)測結(jié)果表明,ARVM方法能夠有效跟蹤推力矢量參數(shù)的變化趨勢,并且獲得了較高的預(yù)測精度和模型稀疏性。該方法對于復(fù)雜系統(tǒng)的故障預(yù)測和維修保障具有一定的理論價值和工程應(yīng)用意義。
液體火箭 發(fā)動機(jī)試驗(yàn)臺 ARVM 故障預(yù)測
液體火箭發(fā)動機(jī)試驗(yàn)臺系統(tǒng)復(fù)雜,集成化程度較高,在進(jìn)行發(fā)動機(jī)單機(jī)或全系統(tǒng)試驗(yàn)時,需要試驗(yàn)臺各系統(tǒng)的緊密協(xié)作配合,任何一個系統(tǒng)出現(xiàn)故障輕則影響試驗(yàn)的正常進(jìn)行,重則會影響試驗(yàn)的成敗[1]。因此,建立準(zhǔn)確、可靠的液體火箭發(fā)動機(jī)試驗(yàn)臺故障預(yù)測模型,對于搭建液體火箭發(fā)動機(jī)試驗(yàn)臺故障預(yù)示與健康管理系統(tǒng),指導(dǎo)試驗(yàn)技術(shù)人員規(guī)劃維修均具有重要意義。
試驗(yàn)臺故障預(yù)測的精確度通常由所用的數(shù)學(xué)模型的精確度來決定。由于液體火箭發(fā)動機(jī)試驗(yàn)臺系統(tǒng)復(fù)雜,各組成部件之間存在很強(qiáng)的非線性,同時,點(diǎn)火過程中的試驗(yàn)工況極其惡劣,從而使建立準(zhǔn)確、實(shí)用的數(shù)學(xué)模型十分困難。此外,受到傳感器技術(shù)和試驗(yàn)成本的限制,試驗(yàn)臺故障數(shù)據(jù)通常難以獲得,故障子樣比較少,所以基于小樣本[2,3]的故障預(yù)測方法成為了一種新的研究方向。
自適應(yīng)相關(guān)向量機(jī)(ARVM)是一種基于貝葉斯概率學(xué)習(xí)模型的有監(jiān)督小樣本學(xué)習(xí)理論。在貝葉斯框架下,其利用自相關(guān)判定理論(ARD)移除不相關(guān)的數(shù)據(jù)點(diǎn),以獲得稀疏化的模型[4~7]。它克服了神經(jīng)網(wǎng)絡(luò)故障預(yù)測需要較多訓(xùn)練樣本的缺陷,也克服了支持向量機(jī)故障預(yù)測核函數(shù)必須滿足Mercer條件[8,9]的限制。同時其通過為樣本數(shù)據(jù)引入獨(dú)立的噪聲方差系數(shù),也克服了標(biāo)準(zhǔn)相關(guān)向量機(jī)故障預(yù)測模型對數(shù)據(jù)樣本中混有的不規(guī)則噪聲敏感的不足,因此其在液體火箭發(fā)動機(jī)試驗(yàn)臺故障預(yù)測領(lǐng)域展現(xiàn)了很好的應(yīng)用前景。
2.1 標(biāo)準(zhǔn)相關(guān)向量機(jī)RVM回歸預(yù)測
ti=y(xi,w)+εi,i=1,2…N
(1)
假設(shè)εi是均值為0,方差為σ2的高斯白噪聲,有監(jiān)督學(xué)習(xí)的目的就是應(yīng)用這些訓(xùn)練數(shù)據(jù)和先驗(yàn)知識設(shè)計(jì)一個模型[4~7,9,10],使設(shè)計(jì)的模型對于新的輸入x*,預(yù)測出輸出y*。RVM預(yù)測模型的輸出可表示為
(2)
式中:wi——可調(diào)參數(shù)權(quán)值;N——樣本數(shù);K(x*,xi)——核函數(shù),這里的核函數(shù)的選擇不受Mercer定理的限制。
由于已經(jīng)假設(shè)εi服從同均值和同方差的高斯分布,由公式(2)可推導(dǎo)出輸出變量ti服從均值為y(xi,w),方差為σ2的高斯分布,亦即p(ti|xi)=p(ti|y(xi,w),σ2)。為了方便表達(dá),引入超參數(shù)β=1/σ2,由此可得出整個訓(xùn)練樣本集的似然函數(shù)為
(3)
式中:t=[t1,t2,…,tN];Φ —— 一個N×(N+1)的核函數(shù)矩陣,定義為Φ=[φ(x1),φ(x2),…,φ(xN)]T,其中φ(xi)=[1,K(xi,x1),…,K(xi,xN)]。相關(guān)向量機(jī)訓(xùn)練過程的最終目的是求出權(quán)值向量w的后驗(yàn)分布,為了保證模型的稀疏性,假設(shè)wi服從均值為0,方差為1/αi的高斯分布,則w的先驗(yàn)公式可表示為
(4)
式中:α=[α1,α2,…,αN],αi只與其對應(yīng)的wi有關(guān),根據(jù)w的先驗(yàn)分布和樣本似然函數(shù),可得w的后驗(yàn)分布計(jì)算公式為
(5)
由于p(w|α)和p(t|w,β)均為高斯分布,因此其乘積也滿足高斯分布,而p(t|α,β)中不包含參數(shù)w,故可以認(rèn)為是歸一化系數(shù),所以式(5)可進(jìn)一步簡化為
p(w|t,α,β)=N(w|μ,Σ)
(6)
式中:μ——均值向量;Σ——協(xié)方差矩陣。其計(jì)算公式分別為
(7)
式中:A=diag(α0,α1,…,αN)。超參數(shù)α和β直接影響w的后驗(yàn)分布,需要對其進(jìn)行優(yōu)化。優(yōu)化過程可通過最大化邊緣似然函數(shù)p(t|α,β)實(shí)現(xiàn)。首先將p(t|α,β)取對數(shù)得到目標(biāo)似然函數(shù),然后令目標(biāo)似然函數(shù)分別對超參數(shù)α和β取導(dǎo)數(shù)并令導(dǎo)數(shù)等于0,得到
(8)
式中:μj——均值向量μ的第j個元素;Σjj——協(xié)方差矩陣Σ的第j個對角元;γj=1-αjΣjj。
2.2 自適應(yīng)相關(guān)向量機(jī)ARVM回歸預(yù)測
標(biāo)準(zhǔn)相關(guān)向量機(jī)假定了所有樣本的噪聲服從同均值同方差的高斯分布,而在實(shí)際的液體火箭發(fā)動機(jī)試驗(yàn)中,受惡劣試驗(yàn)環(huán)境和各種物理因素的影響,試驗(yàn)現(xiàn)場測得的數(shù)據(jù)中通常會包含一些波動較大的數(shù)據(jù)點(diǎn)[1],這些數(shù)據(jù)點(diǎn)可看作是正常的試驗(yàn)數(shù)據(jù)中夾雜了不規(guī)則的噪聲所致,因而實(shí)際的試驗(yàn)數(shù)據(jù)集的噪聲分布不能單純地假設(shè)為服從同方差的高斯分布。假設(shè)訓(xùn)練數(shù)據(jù)集中第i個樣本的噪聲分布為
p(εi)=N(εi|0,σ2/βi)
(9)
式中:σ2——所有樣本的平均方差;βi——引入的噪聲方差系數(shù),并且假設(shè)其先驗(yàn)分布滿足γ分布,即p(βi)=Gamma(ai,bi)。定義噪聲方差系數(shù)向量β=[β1,β2,…,βN]T,則訓(xùn)練樣本的似然函數(shù)p(t|w,β,σ2)可表示為
(10)
(11)
(12)
由于w后驗(yàn)分布均值μ和協(xié)方差矩陣Σ中含有超參數(shù)α,σ2以及噪聲方差系數(shù)向量β,需要對其進(jìn)行優(yōu)化。根據(jù)相關(guān)向量機(jī)學(xué)習(xí)理論以及貝葉斯證據(jù)過程,超參數(shù)和噪聲方差系數(shù)的優(yōu)化通過最大化邊緣似然函數(shù)p(t|α,β,σ2)和β的先驗(yàn)分布p(β)的乘積來實(shí)現(xiàn)。由前文假設(shè)可知,βi的先驗(yàn)分布為γ分布,即
(13)
p(t|α,β,σ2)=∫p(t|w,β,σ2)p(w|α)dw
(14)
式中:C=σ2B-1+ΦA(chǔ)-1ΦT。最大化邊緣似然函數(shù)p(t|α,β,σ2)和p(β)的乘積等價于最大化其對數(shù)值。此外為了便于計(jì)算,對logα、logβ和logσ2進(jìn)行優(yōu)化,即可將待優(yōu)化的目標(biāo)函數(shù)表示為
(15)
設(shè)新的輸入向量為x*,通過模型可得對應(yīng)的輸出為
(16)
2.3 ARVM模型超參數(shù)優(yōu)化
(17)
分別對logβi,logαj和logσ2求偏導(dǎo),并令導(dǎo)數(shù)式等于0即可得到超參數(shù)α,β和σ2的迭代計(jì)算公式。
(18)
(19)
式中:μj——均值向量μ的第j個元素;Σjj——協(xié)方差矩陣Σ的第j個對角元,γj=1-αjΣjj。
ARVM算法流程如圖2所示。
3.1 評價指標(biāo)
(20)
3.2 測試結(jié)果
預(yù)測模型的訓(xùn)練和測試樣本來自某型軌控發(fā)動機(jī)高空模擬試驗(yàn)?zāi)炒吸c(diǎn)火啟動段的試車數(shù)據(jù),并進(jìn)行了預(yù)處理和歸一化,以在不減少數(shù)據(jù)間相關(guān)關(guān)系的情況下提高模型訓(xùn)練的速度[11]。訓(xùn)練樣本共13組,測試樣本共8組,如表1所示。為了對比說明本文提出的ARVM模型在液體火箭發(fā)動機(jī)試驗(yàn)臺故障預(yù)測方面的優(yōu)越性,本節(jié)分別用標(biāo)準(zhǔn)相關(guān)向量機(jī)(RVM)和自適應(yīng)相關(guān)向量機(jī)(ARVM)建立預(yù)測模型并對實(shí)測推力參數(shù)的變化趨勢進(jìn)行預(yù)測。核函數(shù)選取為高斯型核函數(shù)[12],如式(21)所示,通過網(wǎng)格搜索法可得當(dāng)核參數(shù)=2.7時,兩種模型的預(yù)測效果都最好。
(21)
預(yù)測結(jié)果如圖3、圖4、表1和表2所示。由圖3、圖4和表1可知,在某工況下的點(diǎn)火啟動段,ARVM模型輸出的推力矢量預(yù)測結(jié)果變化趨勢較符合發(fā)動機(jī)啟動后推力矢量的發(fā)展趨勢,且預(yù)測結(jié)果的變化值比較穩(wěn)定,符合發(fā)動機(jī)在正常工作狀態(tài)下的特點(diǎn)。而標(biāo)準(zhǔn)RVM無論是在模型訓(xùn)練階段還是在預(yù)測階段,推力矢量預(yù)測結(jié)果與原始推力數(shù)據(jù)相差都較大。另外由表2可知,與標(biāo)準(zhǔn)相關(guān)向量機(jī)RVM相比,本節(jié)提出的自適應(yīng)相關(guān)向量機(jī)模型ARVM在保證預(yù)測精度的同時,可以取得與RVM基本一致的模型稀疏性,由此也說明了本文提出的模型在液體火箭發(fā)動機(jī)試驗(yàn)臺故障預(yù)測方面具有較好的優(yōu)越性。
表1 基于ARVM模型的故障預(yù)測訓(xùn)練和測試樣本
模型名稱相關(guān)向量個數(shù)均方誤差EMSERVM20.2161ARVM40.0093
針對小樣本問題,本文研究并給出了基于ARVM模型的故障預(yù)測算法,并將其應(yīng)用于某型液體火箭發(fā)動機(jī)試驗(yàn)臺推力矢量的故障預(yù)測仿真中。研究結(jié)果表明,在混有噪聲的故障預(yù)測中,選取符合樣本本身特點(diǎn)的核函數(shù)和核參數(shù),自適應(yīng)相關(guān)向量機(jī)模型ARVM在兼顧標(biāo)準(zhǔn)RVM模型稀疏性的同時,能給出很好的預(yù)測效果,極大地體現(xiàn)了ARVM預(yù)測模型的稀疏性和算法的優(yōu)越性。因此,ARVM所具有的辨識復(fù)雜非線性系統(tǒng)的能力以及針對小樣本數(shù)據(jù)的預(yù)測能力,決定了該算法有望在液體火箭發(fā)動機(jī)試驗(yàn)臺故障預(yù)測中得到進(jìn)一步的應(yīng)用。
[1] 郭宵峰,李耀華,陳鴻彥等.液體火箭發(fā)動機(jī)試驗(yàn) [M].北京:宇航出版社,1990.
[2] 張恒喜,郭基聯(lián),朱家元等.小樣本多元數(shù)據(jù)分析及應(yīng)用[M].西安:西北工業(yè)大學(xué)出版社,2002.
[3] 范庚,馬登武,張繼軍.一種基于小樣本數(shù)據(jù)的裝備故障預(yù)測方法[J].彈箭與制導(dǎo)學(xué)報(bào),2012,32(2):225~228.
[4] Christopher M. Bishop Michael E. Tipping. Varia-tional Relevance Vector Machines[C]. // Uncertainty in Artificial Intelligence processing, USA,2000:46~53.
[5] Michael E.Tipping, Baseline Matlab Implementat-ion of "Sparse Bayesian" Model Estimation[J] //mike-tipping.com,2009(2).
[6] Michael E. Tipping , Bayesian Inference An Intro-duction to Principle and Practice in Machine Learning[J]//miketipping.com,2004.
[7] Michael E. Tipping, Anita C. Faul. Fast marginal likelihood maximisation for sparse Bayesian model[J].Proceedings of the Ninth International Workshop on Artificial Intelligence and Statistics,Florida, 2006(6).
[8] 李剛,邢書寶,薛惠鋒.基于RBF核的SVM及RVM模式分析性能比較[J].計(jì)算機(jī)應(yīng)用研究,2009,26(5):1 782~1 784.
[9] 范庚,馬登武,鄧力,呂曉峰.基于灰色相關(guān)向量機(jī)的故障預(yù)測模型[J].系統(tǒng)工程與電子技術(shù),2012.2,34(2):424~428.
[10] 廉建鑫.基于RVM和混合優(yōu)化算法的變壓器故障診斷與預(yù)測應(yīng)用研究[J].2012(5):21~22.
[11] 田干,張煒,楊正偉等.SVM方法在液體火箭發(fā)動機(jī)故障預(yù)測中的應(yīng)用研究[J].2010,24(1):1~9
[12] 楊淑瑩.模式識別與智能計(jì)算—Matlab技術(shù)實(shí)現(xiàn)(第2版) [M].北京:電子工業(yè)出版社,2011.
Fault Prediction Method for Liquid Rocket EngineTest Stand Based on ARVM Model
MA Jun-qiang CHEN Wen-li YANG Si-feng SUN Shu-jiang
(Beijing Institute of Aerospace Testing Technology, Beijing 100074, China)
Aiming at the problems of rare faulty samples, low accuracy of fault prediction and difficulty in maintenance and repair of liquid rocket engine test stand,based on the analysis of the advantages and disadvantages of standard RVM, a fault prediction ARVM model with strong adaptive ability is proposed. In order to test this model, the thrust vector of the high-altitude simulation test stand of a certain orbit control engine is predicted using the flow rate and combustor pressure as input parameters. The prediction result shows that, ARVM method can effectively track the trend of the thrust vector parameters, and obtain a higher prediction accuracy and model sparseness. This method has certain theoretical value and engineering application significance for fault prediction and maintenance of complex systems.
Liquid rocket Engine test-stand ARVM Fault prediction
2016-09-20,
2016-11-14
裝備預(yù)先研究航天支撐資助項(xiàng)目(617010604)
馬軍強(qiáng)(1986-),男,碩士,工程師,主要研究方向:液體火箭發(fā)動機(jī)試驗(yàn)臺故障預(yù)測。
1000-7202(2017) 02-0030-06
10.12060/j.issn.1000-7202.2017.02.07
V434
A