王躍鋼，鄧衛(wèi)強(qiáng)，單 斌

(第二炮兵工程學(xué)院304實(shí)驗(yàn)室，西安 710025)

TVARMA模型是ARMA模型眾多改進(jìn)結(jié)構(gòu)中的一種。由于引入變系數(shù)的概念，TVARMA模型徹底解決了ARMA模型對(duì)非平穩(wěn)信號(hào)建模效果不佳的問題，其理論一經(jīng)提出便獲得了迅速的發(fā)展，并廣泛應(yīng)用于以建模與預(yù)測(cè)、目標(biāo)識(shí)別、故障診斷等為目的的非平穩(wěn)信號(hào)處理領(lǐng)域。

模型參數(shù)估計(jì)是TVARMA模型研究的重點(diǎn)和難點(diǎn)。目前，關(guān)于TVARMA模型參數(shù)估計(jì)的研究成果并不多。其中，以時(shí)間基函數(shù)展開思想為基礎(chǔ)的模型參數(shù)估計(jì)方法得到普遍重視和應(yīng)用。文獻(xiàn)［1］提出了時(shí)變ARMA模型的分步估計(jì)方法;文獻(xiàn)［2－3］提出了時(shí)變ARMA模型參數(shù)估計(jì)的最小二乘方法;文獻(xiàn)［4］提出了一種基于高階統(tǒng)計(jì)量的模型參數(shù)估計(jì)方法;文獻(xiàn)［5］針對(duì)AR參數(shù)時(shí)變而MA部分參數(shù)不變的一類特殊ARMA模型，提出了一種反饋線性估計(jì)法。文獻(xiàn)［6］通過樣本周期圖和多點(diǎn)平均方法得到時(shí)變參數(shù)的函數(shù)形式，再分別采用最小二乘法和極大似然法確定其中的待定參數(shù)，從而提出一種確定廣義時(shí)變ARMA模型參數(shù)函數(shù)的方法;文獻(xiàn)［7］分別將AR、MA和ARMA模型的時(shí)變系數(shù)展開為小波基等一系列時(shí)頻基函數(shù)的加權(quán)和，并推導(dǎo)了相應(yīng)參數(shù)估計(jì)方法。

支持向量機(jī)是Vapnik于1995年提出的一種機(jī)器學(xué)習(xí)算法［8］。與神經(jīng)網(wǎng)絡(luò)相比，支持向量機(jī)由于同時(shí)最小化經(jīng)驗(yàn)風(fēng)險(xiǎn)和VC維的界而對(duì)預(yù)測(cè)樣本有較好的泛化能力。最小二乘支持向量機(jī)［9］在保留支持向量機(jī)結(jié)構(gòu)風(fēng)險(xiǎn)最小化、小樣本等特性的前提下作了如下改進(jìn):一是將支持向量機(jī)優(yōu)化模型中的損失函數(shù)設(shè)定成最小二乘損失函數(shù);一是將不等式約束轉(zhuǎn)化為等式約束。這樣，支持向量機(jī)求解過程的二次尋優(yōu)問題即轉(zhuǎn)化為線性KKT(Karush-Kuhn-Tucker)方程組的解，從而降低了求解復(fù)雜性。2004年，Rojo-Alvarez將支持向量機(jī)應(yīng)用于常參數(shù)ARMA模型的辨識(shí)，取得了較好的效果［10］。

本文在前人研究成果基礎(chǔ)上，提出一種基于改進(jìn)最小二乘支持向量機(jī)的TVARMA模型辨識(shí)方法。實(shí)驗(yàn)結(jié)果證明了方法的有效性。

1 問題提出

假設(shè)非平穩(wěn)時(shí)間序列x(1)，x(2)，…，x(N)滿足 TVARMA 模型存在條件［11］，則其 TVARMA(p，q)模型可表示為

其中，a1(t)，…，ap(t)，b1(t)，…，bq(t)為時(shí)變系數(shù)，{w(t)}為激勵(lì)白噪聲序列且{w(t)}～N(0，σ2)。

進(jìn)一步假設(shè)模型的時(shí)變系數(shù)可展開為一系列時(shí)間基函數(shù)的線性加權(quán)和，即

fj(t)、gj(t)為時(shí)間基函數(shù)，可供選擇的時(shí)間基函數(shù)有Fourier基、多項(xiàng)式基、切比雪夫基等［11］。

將式(2)代入式(1)，則式(1)的變參數(shù)方程轉(zhuǎn)化為如下常方程

TVARMA模型辨識(shí)的目的就是通過某種合理的參數(shù)估計(jì)方法獲得未知參數(shù)aij和bij的估計(jì)，進(jìn)而按下式估計(jì)其激勵(lì)白噪聲的方差并最終獲得完整的模型表達(dá)式。

根據(jù)下式則可以獲得模型的進(jìn)化譜

2 基于改進(jìn)的最小二乘支持向量機(jī)的TVARMA模型辨識(shí)

與常參數(shù)ARMA模型類似，經(jīng)過基函數(shù)展開后的TVARMA模型的參數(shù)估計(jì)也是一非線性回歸過程，直接求解非常困難。然而，根據(jù)柯爾莫哥洛夫定理，基于同一觀測(cè)數(shù)據(jù)建立的ARMA模型均可等價(jià)表示為一高階AR模型或MA模型［12］。該結(jié)論對(duì)式(3)同樣成立。因此，可首先采用長自回歸法估計(jì)出TVARMA模型的白噪聲序列，從而可將非線性估計(jì)問題轉(zhuǎn)化為線性估計(jì)問題。

在以長自回歸方法獲得TVARMA模型的激勵(lì)白噪聲序列后［13］，分別將原始觀測(cè)時(shí)間序列及其激勵(lì)序列{w(t)}代入式(3)，有

進(jìn)一步，令M=［X－W］，則式(6)可改寫為如下矩陣方程

對(duì)上述方程，輸入變量為矩陣M的各列所對(duì)應(yīng)的變量，輸出向量為觀測(cè)數(shù)據(jù)x(1)，x(2)，…，x(N)，二者構(gòu)成方程的訓(xùn)練樣本集。依據(jù)結(jié)構(gòu)風(fēng)險(xiǎn)最小化準(zhǔn)則，求解上述問題的最小二乘支持向量機(jī)模型如下［14、15］:

式中，γ＞0為懲罰系數(shù)即模型平衡系數(shù);wi為回歸函數(shù)值與實(shí)際值的誤差。

由式(8)可以看出，最小二乘支持向量機(jī)模型對(duì)未知向量θ元素所對(duì)應(yīng)的不同變量賦予相同的結(jié)構(gòu)風(fēng)險(xiǎn)系數(shù)1，而對(duì)不同歷史數(shù)據(jù)對(duì)應(yīng)的經(jīng)驗(yàn)風(fēng)險(xiǎn)部分的加權(quán)系數(shù)也均為1。為此，對(duì)上述目標(biāo)函數(shù)，同時(shí)引入結(jié)構(gòu)風(fēng)險(xiǎn)權(quán)值矩陣Q和經(jīng)驗(yàn)風(fēng)險(xiǎn)權(quán)值因子vk，即考慮如下改進(jìn)的最小二乘支持向量機(jī)模型

其中，矩陣 Q=diag(Q11，Q22，…，Qnn)為對(duì)角矩陣且0＜Qii≤1(i=1，2，…n;n為變量數(shù)目且n=m×p+m×q)，以控制不同變量在系統(tǒng)結(jié)構(gòu)風(fēng)險(xiǎn)中的權(quán)重大小;vk(0≤vk≤1)用以控制不同歷史觀測(cè)樣本在經(jīng)驗(yàn)風(fēng)險(xiǎn)中的權(quán)重［16］。

引入拉格朗日函數(shù)，將上述約束優(yōu)化問題轉(zhuǎn)化為無約束優(yōu)化問題，在對(duì)偶空間可得到下式

式中，α=［α1α2… αN］為拉格朗日乘子。由KKT優(yōu)化條件可得到如下等式約束條件

證明:

(2)式(10)與下式等價(jià)

對(duì)式(11)消去θ和wi可得到如下線性方程組

求解上式得到αT

代入下式可得θ的估計(jì)

由上述過程可知，對(duì)于上述改進(jìn)的最小

二乘支持向量機(jī)，γ、Q和vk均為預(yù)置變量，且只需求解線性方程組就可得到α，具有簡單、快速、穩(wěn)定等優(yōu)點(diǎn)。

3 算法實(shí)驗(yàn)

(1)仿真實(shí)驗(yàn)

采用如下雙線性調(diào)頻信號(hào)［11］:

進(jìn)行仿真實(shí)驗(yàn)，采樣頻率1 000 Hz，數(shù)據(jù)長度為128，且{w(t)}～N(0，0.01)，信號(hào)時(shí)域波形如圖1所示。

采用SPWVD獲得雙線性調(diào)頻信號(hào)的功率譜等高線圖如圖2所示。

圖1 含白噪聲的雙線性調(diào)頻信號(hào)

圖2 仿真信號(hào)的SPWVD時(shí)頻譜等高線圖

首先，對(duì)矩陣MTM作奇異值分解，并將其奇異值按由小到大順序排列σ1≤σ2≤…≤σn。這時(shí)，將σn所對(duì)應(yīng)的變量的結(jié)構(gòu)風(fēng)險(xiǎn)權(quán)重矩陣元素設(shè)置為1，進(jìn)而按σi/σn確定其他變量的結(jié)構(gòu)風(fēng)險(xiǎn)權(quán)重。其次，確定經(jīng)驗(yàn)風(fēng)險(xiǎn)權(quán)值因子vk和γ，實(shí)驗(yàn)中按指數(shù)式e－(i－N)/5確定各觀測(cè)數(shù)據(jù)對(duì)應(yīng)的經(jīng)驗(yàn)風(fēng)險(xiǎn)權(quán)值因子，γ=500。最后，按式(12)和式(13)獲得 TVARMA模型參數(shù)估計(jì)，代入式(4)得模型激勵(lì)白噪聲序列的方差為0.033 7。此時(shí)，由式(5)可知模型參數(shù)譜等高線示意圖如圖3所示。

圖3 TVARMA模型進(jìn)化譜等高線圖

模型白噪聲方差反映了模型的時(shí)域精度，TVARMA模型進(jìn)化譜等高線圖與SPWVD等高線圖的匹配程度則反映模型的時(shí)頻域精度。實(shí)驗(yàn)結(jié)果表明，本文方法辨識(shí)后的TVARMA模型在時(shí)域和時(shí)頻域均具有較好的精度。

(2)工程應(yīng)用實(shí)驗(yàn)

飛行器結(jié)構(gòu)響應(yīng)序列是導(dǎo)彈彈體結(jié)構(gòu)或彈載儀器在多源外載荷作用下的結(jié)構(gòu)響應(yīng)，具有正態(tài)、非平穩(wěn)等特點(diǎn)。該信號(hào)的處理結(jié)果可以為改進(jìn)彈體結(jié)構(gòu)設(shè)計(jì)、優(yōu)化儀器艙儀器設(shè)計(jì)和配置等提供重要依據(jù)。下面以某飛行器結(jié)構(gòu)響應(yīng)序列對(duì)本文方法作進(jìn)一步驗(yàn)證，采樣長度64，采樣頻率5 120 Hz，如圖4所示。

圖4 飛行器結(jié)構(gòu)響應(yīng)序列

為便于對(duì)比，首先采用時(shí)頻分析方法獲得上述結(jié)構(gòu)響應(yīng)序列的WVD和SPWVD，如圖5和圖6所示。進(jìn)而，分別采用最小二乘方法和文中方法獲得TVARMA模型的參數(shù)估計(jì)結(jié)果并分別由式(4)和式(5)估計(jì)模型白噪聲方差(0.012和0.0233)和模型進(jìn)化譜(圖7和圖8)。

圖5 結(jié)構(gòu)響應(yīng)序列的WVD

圖6 結(jié)構(gòu)響應(yīng)序列的SPWVD

圖7 基于LS的TVARMA模型進(jìn)化譜

圖8 基于改進(jìn)LS-SVM的TVARMA進(jìn)化譜

實(shí)驗(yàn)結(jié)果分析。由圖5～圖7可以直觀地看出，飛行器結(jié)構(gòu)響應(yīng)序列是一個(gè)多分量信號(hào)，故而其WVD出現(xiàn)了許多由交叉項(xiàng)引起的虛假分量，而SPWVD和進(jìn)化譜顯然受交叉項(xiàng)影響極小。提取三種不同方法中譜峰所對(duì)應(yīng)的時(shí)間和頻率分別為(34，1480)、(34，1200)、(22，1474)和(34，1489)，提取結(jié)果表明，盡管SPWVD和基于LS的TVARMA模型進(jìn)化譜可以較好地抑制交叉項(xiàng)干擾，但其譜峰在此過程中也發(fā)生了平滑和漂移。相比之下，基于改進(jìn)的LS-SVM的TVARMA進(jìn)化譜既可以取得較好的時(shí)域精度，其進(jìn)化譜也保持了較高的時(shí)頻聚集性且較好地抑制了交叉項(xiàng)和譜峰漂移。

4 結(jié)論

本文提出了一種基于改進(jìn)的最小二乘支持向量機(jī)，并將之應(yīng)用于TVARMA模型參數(shù)的辨識(shí)過程。結(jié)合仿真實(shí)驗(yàn)和實(shí)際工程應(yīng)用實(shí)驗(yàn)，給出了一種結(jié)構(gòu)風(fēng)險(xiǎn)權(quán)值矩陣確定方法和經(jīng)驗(yàn)風(fēng)險(xiǎn)加權(quán)因子的經(jīng)驗(yàn)確定方法，實(shí)驗(yàn)結(jié)果表明本文方法的有效性。此外，預(yù)置變量γ對(duì)參數(shù)估計(jì)結(jié)果也有較大影響，一般取γ為較大的數(shù)，約為103量級(jí)。

［1］Maiwald D，Dalle Molle J W，Bohme J F.Model Identification and Validation of Nonstationary Seismic Signals［C］//Proceedings of IEEE Signal Processing Workshop on Higher-Order Statistics，1993:319－322.

［2］Emin Yuksel M，Sadik Kara，Necmi Taspinar.Time-Dependent ARMA Modeling of Continuous Wave Ultrasonic Doppler Signals［C］//Proceedings of 8th IEEE Signal Processing Workshop on Statistical Signal and Array Processing，1996:260－263.

［3］Emin Yuksel M，Sadik Kara，Necmi Taspinar.Time-Varying Parametric Modeling and Simulation of Ultrasonic Doppler Signals［C］//TFTS’96:157－160.

［4］Donghae Kim，Paul R White.Nonstationary Parametric System Identification Using Higher-Order Statistics［C］//Proceedings of the IEEE-SP International Symposium on Time-Frequency and Time-Scale Analysis，1998:457－460.

［5］王文華，王宏禹.非平穩(wěn)信號(hào)的一種ARMA模型參數(shù)估計(jì)法［J］.信號(hào)處理，1998，14(1):33－38.

［6］傅惠民，王治華.廣義時(shí)變ARMA模型參數(shù)函數(shù)的確定方法［J］.機(jī)械強(qiáng)度，2004，26(6):636－641.

［7］Jachan M，Matz G，Hlawatsch F.Time-Frequency ARMA Models and Parameter Estimators for Underspread Nonsationary Random Processes［J］.IEEE Trans.on Signal Processing，2007，55(9):4366－4381.

［8］Vapnik V N，著.張學(xué)工，譯.統(tǒng)計(jì)學(xué)習(xí)理論的本質(zhì)［M］.北京:清華大學(xué)出版社，2000.

［9］Suykens J A K，Andewalle J V.Least Squares Support Vector Machine Classifiers［J］.Neural Processing Letters，1999，9(3):293－300.

［10］Rojo-Alvarez J L，Martinez-Ramon M，Prado-Cumplido M D，et al.Support Vector Method for Robust ARMA System Identification［J］.IEEE Transactions on Signal Processing，2004，52(1):155－164.

［11］王宏禹.非平穩(wěn)隨機(jī)信號(hào)分析與處理［M］.北京:國防工業(yè)出版社，1999.

［12］楊叔子.時(shí)間序列分析的工程與應(yīng)用［M］.武漢:華中理工大學(xué)出版社，1991.

［13］何書元.應(yīng)用時(shí)間序列分析［M］.北京:北京大學(xué)出版社，2005.

［14］丁蕾，廖同慶，陶亮.基于SVR的多傳感器數(shù)據(jù)融合處理方法［J］.傳感技術(shù)學(xué)報(bào)，2011，24(5):710－713.

［15］王曉紅，吳德會(huì).基于SVR的傳感器Hammerstein模型辨識(shí)［J］.傳感技術(shù)學(xué)報(bào)，2007，20(5):1042－1046.

［16］付志超，程偉，徐成.基于LS-SVM的模態(tài)參數(shù)識(shí)別方法［J］.航空學(xué)報(bào)，2009，30(11):2087－2092.