沈強，劉潔瑜，王琪，王杰飛(第二炮兵工程大學，西安710025)

基于相關向量機的MEMS陀螺儀隨機漂移補償

沈強，劉潔瑜*，王琪，王杰飛
(第二炮兵工程大學，西安710025)

提出了一種基于相關向量機的MEMS陀螺儀隨機漂移預測方法。針對MEMS陀螺儀隨機漂移誤差的非線性、不確定性等特點，建立了相關向量機預測模型，并采用EM算法獲得模型的參數(shù)。針對隨機漂移的混沌特性，利用相空間重構技術，將重構后的漂移序列作為輸入變量進行模型的訓練和預測。訓練和測試結果均表明，該方法具有很好的預測效果，優(yōu)于常用的時間序列分析法和支持向量機法。利用預測結果對隨機漂移進行補償，有效地提高了陀螺的使用精度。

MEMS陀螺儀;隨機漂移;相關向量機;相空間重構;EM算法

隨著精確制導武器的迅速發(fā)展，MEMS慣性器件正成為當前慣性技術的一個研究熱點。MEMS陀螺的隨機漂移產(chǎn)生的機理錯綜復雜，具有非線性和不確定性等特點，已成為影響MEMS陀螺儀精度的主要因素，必須通過有效的方法進行預測和補償［1］。

比較常用的處理方法包括以時間序列分析為主的線性預測方法和神經(jīng)網(wǎng)絡、機器學習等非線性預測方法。文獻［2-4］將線性預測方法和神經(jīng)網(wǎng)絡應用于MEMS陀螺的隨機漂移補償，在一定程度上提高了陀螺儀的精度，但是線性預測方法必須假設時間序列具有平穩(wěn)性、獨立性特征，會對模型的精度產(chǎn)生不利影響;神經(jīng)網(wǎng)絡存在過擬合現(xiàn)象，算法泛化能力差。基于機器學習理論的支持向量機方法SVM(Support Vector Machine)不易發(fā)生過擬合現(xiàn)象，有良好的泛化性能，文獻［5-6］將SVM用于陀螺儀隨機誤差的建模，取得了較好的效果。但該方法也具有明顯的缺陷:解相對上述方法是稀疏的，但當訓練集增大時，核函數(shù)數(shù)量顯著增加;需要調整不敏感參數(shù)，通常要求交叉驗證，浪費時間和數(shù)據(jù)計算;核函數(shù)必須為連續(xù)對稱的正定核。

相關向量機RVM(Relevance Vector Machine)是一種新的機器學習算法，與SVM相比，它是一種基于貝葉斯的稀疏概率模型，通過回歸估計獲得預測值的分布。RVM能夠突破SVM固有的局限，在預測性能相當?shù)那闆r下，能夠極大的減少所需的核函數(shù)［7-8］。

本文將相關向量機用于MEMS陀螺儀的隨機漂移預測補償。首先對隨機漂移序列進行相空間重構，然后利用重構后的時間序列建立RVM預測模型，并采用EM算法估計模型參數(shù)，最后通過實驗驗證模型的有效性。

1 相關向量機模型

假定訓練樣本集{xi，ti}ni=1，目標值ti獨立分布，且?guī)в懈郊釉肼暒舏，則目標值可以表示為

其中，w是模型權值。則RVM的模型由下式定義［9］

式中，w=(w0，w1，…，wn)T為權值，K(·，·)為核函數(shù)，基函數(shù)由核參數(shù)化。

假設εi～N(0，σ2)，σ2假設為未知量，后面在數(shù)據(jù)訓練的時候迭代更新獲取。則存在p(ti|x)=N(ti|y(xi)，σ2)。那么數(shù)據(jù)集的似然函數(shù)可以表示為

其中，t=(t1，t2，…，tn)T為目標向量;Φ=［φ(x1)，φ(x2)，…，φ(xn)］T為參數(shù)向量;φ(xi)=［1，K (x1，xi)，…，K(xn，xi)］T為基函數(shù)。

如果直接通過最大似然函數(shù)來估計w，會導致過學習現(xiàn)象，因而定義服從高斯分布的先驗概率分布

α=(α0，α1，…，αn)T為n+1維超參數(shù)。這樣每一個權值對應一個獨立的超參數(shù)，這是導致模型稀疏性的根本原因。

2 MEMS陀螺隨機漂移建模

MEMS陀螺隨機漂移可以看成是一個與溫度、形變、應力干擾等相關量有關的多維非線性混沌系統(tǒng)。受各種變量的影響，隨機漂移具有相對復雜、難以精確預測的特點。一般的建模過程會進行簡化和假設，影響模型的精度，利用相空間重構法將陀螺隨機漂移時間序列擴展到高維相空間后，再進行超參數(shù)的求解，一方面可以充分體現(xiàn)序列信息，顯著提高預測精度［10-12］;另一方面，可把一維標量序列轉換為滿足RVM要求的測試序列。

2.1 相空間重構

假設檢測到的隨機漂移序列是{xt}nt=1，根據(jù)坐標延遲重構法的Takens嵌入定理，狀態(tài)空間中重構的一點狀態(tài)向量可以表示為xt=(xt-(m-1)τ，xt-(m-2)τ，…xt)T，其中m為嵌入維數(shù)，τ為延遲時間。于是重構的預測模型為

在這里可將xi+1看作RVM的目標值，而xi為輸入值。

在相空間重構中，嵌入維數(shù)m和時間延遲τ的選取十分重要，其精度直接關系到相空間重構后描述奇異吸引子特征的不變量的準確度。大量實驗表明m和τ的關系與重構相空間的時間窗tw密切相關(tw=(m-1)τ)，對于特定的時間序列，其tw相對固定，m和τ不恰當?shù)呐鋵⒅苯佑绊懼貥嫼蟮南嗫臻g結構與原空間的等價關系，因此相應地產(chǎn)生了m和τ的聯(lián)合算法，如時間窗口法、C-C法等［13］。C-C法基于大量統(tǒng)計結果產(chǎn)生，計算量少，計算速度快，抗噪聲性能好，本文采用C-C法來進行相空間重構參數(shù)的選擇。

2.2 超參數(shù)求解

根據(jù)貝葉斯公式，由前面的模型推理得權值的后驗概率分布為

式中，σ2也作為RVMR的一個超參數(shù)，協(xié)方差矩陣Σ和均值向量μ分別為

其中A=diag(α0，α1，…，αn)T為對角陣。RVM學習問題轉化為求解超參數(shù)后驗分布關于α和σ2的最大值問題。超參數(shù)α和σ2的優(yōu)化，可通過EM算法近似求得

其中Σn是Σ中第i項在對角線上的元素。

先給出α和σ2初始值，然后通過式(9)、式(10)迭代計算，逐漸逼近優(yōu)化的超參數(shù)α和σ2。在重新估計過程中，大部分的αi會趨向無窮大，其對應的wi為0，相關的核函數(shù)就會刪除，其他權值不為零的訓練樣本成為關聯(lián)向量(RV)，從而實現(xiàn)了稀疏化。RVM使用的核函數(shù)比SVM少得多，因此，在預測性能相當?shù)那闆r下，RVM的稀疏性明顯高于SVM。

2.3 回歸預測

假設由2.2得到的超參數(shù)估計值為αM和σ2M，則對于新的測試樣本，目標值t*后驗概率分布可由式

得到。式(11)中被積分的兩項都服從高斯分布，故

其中，期望y*及和方差σ2*分別為

可以通過式(12)來預測t*的真實值，而σ2*為兩預測變量的期望誤差之和。

可見，RVM可以給出結果的后驗概率，可根據(jù)訓練數(shù)據(jù)自動調整其稀疏性，而SVM則需要由一個正規(guī)化參數(shù)來控制其稀疏性。

3 實驗結果及分析

采集微慣性組合XW-ADU5600中x軸陀螺儀的靜、動態(tài)輸出數(shù)據(jù)，得到陀螺儀的輸出序列，首先進行確定性誤差補償，得到陀螺儀隨機漂移的時間序列。使用C-C法進行相空間重構時，數(shù)據(jù)超過3 000效果較好，因此本文選取其中長度為3 500的一段漂移序列進行實驗，其中前2 500個數(shù)據(jù)作為訓練數(shù)據(jù)，后1 000作為測試數(shù)據(jù)。通過C-C法獲得嵌入維數(shù)m和時間延遲τ。

RVM權值是在貝葉斯框架下用最大似然方法來訓練的，且RVM的核函數(shù)不受Mercer條件的限制，因此基函數(shù)可選用每個訓練樣本為中心的高斯函數(shù)。當缺少過程的先驗知識時，在預測性能上徑向基核函數(shù)要優(yōu)于其他核函數(shù)。因此本文選用常用的徑向基函數(shù)核K(xi，xj)=exp(-γ‖xi-xj‖2)，其中核函數(shù)的寬度參數(shù)γ取3.5，學習過程最大迭代次數(shù)選擇1 200。

3.1 靜態(tài)實驗

圖1為回歸RVM在靜態(tài)條件下的預測結果。原始1 000點漂移的RMSE標準差為0.105 3°/s，預測后的RMSE標準差為0.006 0°/s，陀螺儀精度提高了17.55倍。

為了證明RVM對陀螺漂移預測效果提高的有效性，將基于時間序列的ARMA(2，1)模型、RBF神經(jīng)網(wǎng)絡以及SVM用于陀螺靜態(tài)漂移的預測，并對預測結果進行了比較，結果如表1所示。

表1 各種方法比較

圖1 靜態(tài)條件下的預測結果

SVM和RVM相對ARMA、RBF神經(jīng)網(wǎng)絡具有較明顯的優(yōu)勢，對于訓練樣本，SVM支持向量個數(shù)為126，而RVM相關向量個數(shù)為34，稀疏化效果明顯優(yōu)于前者，即RVM使用的核函數(shù)更少，結構更為簡單，因此預測速度更快，占用內存更少。

3.2 恒速率實驗

將陀螺儀放置在速率轉臺上控制轉臺分別以角速率20°/s、40°/s、60°/s旋轉并且各采集1組數(shù)據(jù)。圖2為回歸相關向量機法在恒速率條件下的預測結果。

圖2 恒速率條件下的預測結果

由圖2可以直觀的看出，預測后的漂移有明顯的降低。具體原始數(shù)據(jù)和預測值的均值和RMSE標準差數(shù)值如表2所示。

表2 恒速率條件下預測結果

根據(jù)表內數(shù)據(jù)，在恒速率條件下RVM預測精度也有顯著提高，證明RVM方法依然有效。

4 結束語

本文將基于貝葉斯的相關向量機法用于MEMS陀螺儀的隨機漂移預測補償，通過C-C法相空間重構將時間序列轉換為相關向量機模型可用的數(shù)據(jù)形式，通過EM算法實現(xiàn)了相關向量機回歸的超參數(shù)優(yōu)化。實驗結果表明，該方法克服了傳統(tǒng)方法的不足，并彌補了支持向量機的缺陷，非常適合MEMS陀螺儀隨機漂移的預測補償，對于提高MEMS陀螺儀的應用精度具有一定的參考意義。

［1］陳旭光，楊平，陳意.MEMS陀螺儀零位誤差分析與處理［J］.傳感技術學報，2012，25(5):628-632.

［2］談振藩，張勤拓.MEMS陀螺誤差辨識與補償［J］.傳感器與微系統(tǒng)，2010，29(3):39-41

［3］牛春峰，劉世平，王中原.基于小波神經(jīng)網(wǎng)絡的MEMS陀螺輸出預測方法［J］.海軍工程大學學報，2012，24(2):29-32.

［4］宋吉磊，吳訓忠，郭鈴.微機電系統(tǒng)陀螺儀隨機漂移誤差建模與濾波研究［J］.導彈與航天運載技術，2012(4):35-38

［5］李澤民，段鳳陽，馬佳智.基于支持向量機的MEMS陀螺儀隨機漂移補償［J］.傳感技術學報，2012，25(8):1084-1087

［6］Sebald D，Buckiew J.Support Vector Machine Techniques for Nonlinear Equalization［J］.IEEE Transactions on Signal Processing，2000，48(11):3217-3226.

［7］Wahyu C，Achmad W，Bo-Suk Y.Application of Relevance Vector Machine and Logistic Regression for Machine Degradation Assessment［J］.Mechanical System and Signal Processing，2010(24): 1161-1171.

［8］楊樹仁，沈洪遠.基于相關向量機的機器學習算法研究與應用［J］.計算機技術與自動化，2010，29(1):43-47

［9］Tipping M E.Sparse Bayesian Learning and the Relevance Vector Machine［J］.Journal of Machine Learning Research，2001，1(3): 211-244.

［10］吉訓生，王壽榮.硅微陀螺漂移混沌特性分析及預測［J］.中北大學學報，2011，32(5):567-573.

［11］孫宏偉，房建成.基于多尺度多參量的硅MEMS陀螺儀漂移預測［J］.宇航學報，2009，30(2):591-594.

［12］李松，劉力軍，谷晨.混沌時間序列預測模型的比較研究［J］.計算機工程與應用，2009，45(32):53-56.

［13］陸振波，蔡志明，姜可宇.基于改進的C-C方法的相空間重構參數(shù)選擇［J］.系統(tǒng)仿真學報，2007，19(11):2527-2529.

沈強(1989-)，男，漢族，山東人，碩士研究生，儀器科學與技術專業(yè)，主要研究方向為MEMS陀螺儀誤差補償技術研究，shenq110@163.com;

劉潔瑜(1970-)，女，漢族，陜西西安人，博士學位，教授，碩士生導師，主要研究方向為慣性儀表及導航技術，主持并參與了多項重要科研項目，多次獲得各級獎項，liujieyu128@163.com。

Random Drift Compensation of MEMS Gyros Based on Relevance Vector Machine

SHEN Qiang，LIU Jieyu*，WANG Qi，WANG Jiefei

(The Second Artillery Engineering University，Xi’an 710025，China)

A prediction and compensation method for MEMS gyroscope random drift based on relevance vector machine is proposed in this paper.Objected to the nonlinearity and indetermination of random drift error，the relevance vector machine modelis established，and the parameters ofprediction modelare gotby the Expectation Maximization (EM)algorithm.According to the chaotic property of random drift，the drift time-series which have been reconstructed by phase space reconstruction are used in this model.Both the train and test results indicate that this method can predict the gyroscope random drift accurately.Its prediction accuracy is superior to the time series method and support vector machine.Gyroscopes application precision can be further improved in practical system ifrandom drift is compensated by the predicting result.

MEMS gyroscope;random drift;relevance vector machine;phase space reconstruction;EM algorithm

V241.5

A

1004－1699(2014)05－0596－04

10.3969/j.issn.1004－1699.2014.05.005

2014-03-05

2014-04-22