劉喜梅,樊亞敏,李梅航

(青島科技大學(xué)自動(dòng)化與電子工程學(xué)院,山東青島 266061)

1 引言

非線性現(xiàn)象在現(xiàn)實(shí)生活中廣泛存在,就控制領(lǐng)域而言,幾乎所有的系統(tǒng)都存在一定的非線性特性[1–2].隨著現(xiàn)代科技的不斷發(fā)展,控制對象的非線性程度和復(fù)雜程度不斷提高,許多先進(jìn)的控制方法都需要非線性系統(tǒng)的數(shù)學(xué)模型[3–4],建立準(zhǔn)確的數(shù)學(xué)模型離不開系統(tǒng)辨識[5].復(fù)雜模型結(jié)構(gòu)由于不便實(shí)現(xiàn),控制器難于設(shè)計(jì)等原因,實(shí)際應(yīng)用中仍面臨壁壘.Hammerstein模型是一類典型的非線性模型,其基本結(jié)構(gòu)是一個(gè)輸入非線性模塊后連接一個(gè)動(dòng)態(tài)線性模塊,具有結(jié)構(gòu)簡單,可廣泛描述多種典型非線性過程等優(yōu)點(diǎn),其辨識問題已經(jīng)成為諸多領(lǐng)域的重要研究內(nèi)容[6–7].在實(shí)際應(yīng)用中,不同的場景往往對應(yīng)不同形式的線性和非線性模塊,為構(gòu)建普適性強(qiáng)的非線性模型,研究人員提出了多種表示方法來描述Hammerstein模型的輸入非線性部分.對于一些復(fù)雜且不規(guī)則的非線性特性,特別是硬非線性和不連續(xù)非線性等,使用分段線性函數(shù)能夠有效擬合其特征,具有參數(shù)化,易于辨識等優(yōu)點(diǎn)[8].因此,對于分段線性函數(shù)描述的非線性系統(tǒng)的參數(shù)辨識問題,近年來引起了廣泛關(guān)注.例如,針對具有輸入不可逆分段線性特性和輸出間隙非線性級聯(lián)的非線性動(dòng)態(tài)系統(tǒng),文獻(xiàn)[9]利用關(guān)鍵項(xiàng)分離技術(shù)給出了非線性模型的參數(shù)線性化描述,并提出了一種最小二乘迭代算法辨識其未知參數(shù).文獻(xiàn)[10]研究了兩種特殊的分段非線性結(jié)構(gòu)(飽和特性和預(yù)負(fù)載特性),提出了辨識分段非線性Hammerstein系統(tǒng)的迭代算法.

遞推辨識和迭代辨識是兩類主流的參數(shù)估計(jì)方法.遞推辨識在每一步遞推計(jì)算時(shí)利用增益與新息的乘積對上一時(shí)刻的參數(shù)估計(jì)進(jìn)行修正,適用于在線辨識[11–12].近年來,數(shù)據(jù)濾波技術(shù)和多新息理論等先進(jìn)的辨識思想與經(jīng)典的遞推辨識方法結(jié)合,在各類線性及非線性系統(tǒng)的辨識中得到了廣泛應(yīng)用.研究工業(yè)過程的建模及控制問題時(shí),不得不考慮系統(tǒng)受外部噪聲的影響[14–15].外部噪聲主要有白噪聲和有色噪聲兩種形式,與白噪聲相比,有色噪聲更具普遍性和代表性.近年來,對于受有色噪聲干擾的系統(tǒng),許多學(xué)者利用數(shù)據(jù)濾波技術(shù),在不改變系統(tǒng)輸入輸出關(guān)系的前提下改變系統(tǒng)的模型結(jié)構(gòu),能簡化計(jì)算,提高參數(shù)估計(jì)精度.例如,Ji等[16]研究了具有自回歸滑動(dòng)平均噪聲的雙輸入單輸出Hammerstein有限脈沖響應(yīng)系統(tǒng)的參數(shù)估計(jì)問題,應(yīng)用數(shù)據(jù)濾波技術(shù)提出了一種基于濾波的多新息隨機(jī)梯度算法.新息就是修正參數(shù)和狀態(tài)估計(jì)的有效信息,多新息辨識理論就是將單新息修正技術(shù)加以推廣,在每一步遞推計(jì)算中利用多重新息修正參數(shù)估計(jì),在系統(tǒng)辨識、故障診斷、自校正控制等問題上得到了廣泛的應(yīng)用[1,5].例如,Ma等[17]在系統(tǒng)辨識領(lǐng)域提出了一種基于支持向量機(jī)的在線辨識新方法,將牛頓搜索與多新息辨識理論相結(jié)合有效提高了算法收斂性.受上述內(nèi)容啟發(fā),本文針對Hammerstein系統(tǒng)的輸入非線性部分具有的多樣性、復(fù)雜性和難以參數(shù)化的問題,采用分段線性函數(shù)對其進(jìn)行擬合,將其表示為一系列參數(shù)化的分段函數(shù)形式,引入切換函數(shù)和位置函數(shù)將多分段函數(shù)轉(zhuǎn)化為包含所有非線性參數(shù)的解析形式.在此基礎(chǔ)上,利用估計(jì)的噪聲傳遞函數(shù)模型對系統(tǒng)的輸入輸出進(jìn)行濾波,構(gòu)造系統(tǒng)的濾波辨識模型,以濾波辨識模型為依據(jù),提出基于濾波的遺忘梯度(F-FG,filter-based forgetting gradient)算法和基于濾波的遞推廣義最小二乘(F-RGLS,filtered recursive generalized least squares)算法估計(jì)未知參數(shù).為進(jìn)一步提高F-FG算法的參數(shù)估計(jì)精度,結(jié)合多新息辨識理論,提出了基于濾波的多新息遺忘梯度(F-MI FG,filter-based multi-new information forgetting gradient)算法.

本文的章節(jié)組織如下: 第2節(jié)提出了用分段線性函數(shù)擬合的模型輸入非線性模塊,并推導(dǎo)了分段線性Hammerstein輸出誤差自回歸系統(tǒng)的濾波辨識模型;第3,4,5 節(jié)分別給出了F-FG算法、F-RGLS算法和FMIFG算法的詳細(xì)推導(dǎo);第6節(jié)列舉一個(gè)數(shù)值仿真實(shí)例驗(yàn)證所提方法的有效性;最后,在第7節(jié)提出了一些結(jié)論以及對未來研究的建議和展望.

2 系統(tǒng)描述

分段線性函數(shù)具有平衡計(jì)算量和擬合誤差的優(yōu)點(diǎn),常被用作逼近復(fù)雜非線性特性.理論上講,若分段節(jié)點(diǎn)的位置及數(shù)量選取得當(dāng),分段線性函數(shù)能夠以任意精度擬合非線性關(guān)系.因此,基于分段線性函數(shù)建立的控制系統(tǒng)模型具有參數(shù)化,普遍適用性強(qiáng)等特點(diǎn),為高度復(fù)雜非線性系統(tǒng)的精確控制提供了可能.分段線性函數(shù)一般由一系列相互連接的線段組成的靜態(tài)非線性函數(shù)表示[8,18],其數(shù)學(xué)表達(dá)式為

其中:ζ=[ζ0ζ1···ζm]T∈Rm+1是一個(gè)由分段節(jié)點(diǎn)ζi(i=0,1,···,m)組成的參數(shù)向量,且分段節(jié)點(diǎn)的選取滿足ζ0<ζ1<···<ζm.λ=[λ0λ1···λm]T∈Rm+1為參數(shù)向量,其元素λi(i=0,1,···,m)為分段線性函數(shù)在分段節(jié)點(diǎn)ζi處的函數(shù)值.hi(u(t),ζ)是關(guān)于系統(tǒng)輸入u(t)和參數(shù)向量ζ的函數(shù),也稱為“帳篷函數(shù)”,向量h(u(t),ζ)是由“帳篷函數(shù)”hi(u(t),ζ)組成的向量,其表達(dá)式為

當(dāng)參數(shù)向量ζ給定時(shí),h(u(t),ζ)可以被簡化表示為h(u(t)),其組成元素hi(u(t))的表達(dá)式如下:

由式(2)得,在ζi已知情況下,hi(u(t))的值僅與輸入信號u(t)相關(guān).為建立系統(tǒng)的辨識模型,需給出分段線性函數(shù)的參數(shù)線性表達(dá)形式.為此,定義切換函數(shù)

利用式(3)中的切換函數(shù),可構(gòu)造位置函數(shù):

因此,h(u(t))可以被重新寫作

經(jīng)過整理,式(1)中的分段線性函數(shù)可以由分段函數(shù)的形式轉(zhuǎn)化為一個(gè)線性參數(shù)表達(dá)式,即

該分段線性函數(shù)具有良好的分段逼近特性,將其作為Hammerstein模型輸入非線性環(huán)節(jié)的映射,有利于提高模型的擬合精度.考慮存在自回歸噪聲干擾的Hammerstein輸出誤差系統(tǒng),它由一個(gè)非線性無記憶模塊與一個(gè)線性動(dòng)態(tài)子系統(tǒng)串聯(lián)組成,其數(shù)學(xué)表達(dá)式為

其中:y(t)為系統(tǒng)輸出;x(t)表示非線性模塊的輸出,其表達(dá)式未知,利用分段線性函數(shù)對其進(jìn)行擬合分析,其表達(dá)式與式(6)中的f(u(t))相同,w(t)為有色噪聲,其表達(dá)式為

其中:v(t)表示方差為σ2的零均值白噪聲;A(z),B(z),C(z)是關(guān)于z-1(z-1是一個(gè)單位后向移位算子,滿足z-1u(t)=u(t-1))的定常多項(xiàng)式,即

為辨識全部線性和非線性參數(shù),避免冗余參數(shù)的出現(xiàn),利用關(guān)鍵項(xiàng)分離技術(shù)[19–20],將B(z)的第一個(gè)非零系數(shù)規(guī)一化為1,系統(tǒng)的無噪真實(shí)輸出g(t)可寫作

假設(shè)系統(tǒng)的階次na,nb和nc為已知,n0=na+nb+nc+m+1,定義參數(shù)向量θ及其對應(yīng)的信息向量?(t)為

根據(jù)上述定義,分段線性Hammerstein輸出誤差自回歸系統(tǒng)(7)的辨識模型可表示為

值得注意的是,系統(tǒng)的噪聲結(jié)構(gòu),即不可測有色噪聲w(t),是一個(gè)自回歸過程.有色噪聲的存在導(dǎo)致了參數(shù)估計(jì)的偏差.采用數(shù)據(jù)濾波技術(shù),將受有色噪聲干擾的系統(tǒng)模型轉(zhuǎn)化為白噪聲干擾模型,提出基于濾波的遞推辨識算法估計(jì)參數(shù)向量θ.利用噪聲模型傳遞函數(shù)C(z)作為濾波器,對線性動(dòng)態(tài)子系統(tǒng)的輸入和輸出進(jìn)行濾波,得到一個(gè)更容易辨識的輸入非線性輸出誤差辨識模型.定義靜態(tài)非線性模塊的濾波輸出

以及系統(tǒng)的濾波真實(shí)輸出

將式(7)的左右兩邊同時(shí)乘以C(z),得到

將式(10)–(11)代入式(12)中,整理得到

定義濾波信息向量

從而建立分段線性Hammerstein輸出誤差自回歸系統(tǒng)的濾波辨識模型

下面將推導(dǎo)F-FG算法,F-RGLS算法和F-MIFG算法估計(jì)系統(tǒng)的未知參數(shù).

3 F-FG算法

本節(jié)針對輸入非線性部分采用分段線性函數(shù)擬合的Hammerstein輸出誤差自回歸系統(tǒng),結(jié)合輔助模型思想和梯度搜索方法,提出F-FG算法.設(shè)(t)是t時(shí)刻參數(shù)向量θ的估計(jì),即

令r(t)為收斂因子,‖XXX‖2=tr[XXXXXXT]表示矩陣XXX的范數(shù).利用負(fù)梯度搜索,可得如下遞推關(guān)系:

由于濾波信息向量?f(t)包含未知濾波變量gf(t-j)和xf(t-j),且計(jì)算非線性輸出x(t)的估計(jì)所必須的非線性參數(shù)也是未知的,因此上述算法無法實(shí)現(xiàn).為了解決這一問題,構(gòu)造3個(gè)輔助模型估計(jì)濾波變量gf(t-j),xf(t-j)和x(t-j).利用非線性參數(shù)λi(t)估計(jì)(t),定義估計(jì)未知項(xiàng)x(t)的輔助模型為

構(gòu)造用于估計(jì)未知濾波變量xf(t)和gf(t)的輔助模型

將(15)–(16)中的濾波信息向量?f(t)替換為其估計(jì)f(t),得到用于估計(jì)參數(shù)向量θ的基于濾波的廣義隨機(jī)梯度算法.為優(yōu)化算法的瞬態(tài)性能,引入遺忘因子0 ≤μ<1,整理得到F-FG算法如下:

估計(jì)參數(shù)向量θ的F-FG算法計(jì)算步驟如下:

1) 令t=1,給定數(shù)據(jù)長度L,設(shè)初值(0)為一個(gè)n0維的隨機(jī)向量,的初始值為隨機(jī)數(shù);

2) 收集輸入和輸出數(shù)據(jù)u(t)和y(t),按式(20)構(gòu)造濾波信息向量(t);

3) 由式(22)計(jì)算r(t),并通過式(21)刷新參數(shù)估計(jì)(t);

5) 若t

4 F-RGLS算法

作為一類經(jīng)典的遞推辨識方法,遞推最小二乘方法與隨機(jī)梯度法相比具有更快的收斂速度以及更高的參數(shù)估計(jì)精度.本節(jié)將輔助模型思想與最小二乘方法相結(jié)合,利用式(14)中的濾波辨識模型推導(dǎo)F-RGLS算法.利用最小二乘原理可得如下遞推關(guān)系:

用式(25)–(27)中輔助模型的輸出替換?f(t)中的未知項(xiàng),可得?f(t)的估計(jì)

用?f(t)的估計(jì)(t)替換式(23)–(24)中的?f(t),得到F-RGLS算法

因此,用于辨識分段線性Hammerstein輸出誤差自回歸系統(tǒng)的F-RGLS算法包括以下步驟:

1) 令t=1,給定數(shù)據(jù)長度L,置初值(0)為一個(gè)n0維隨機(jī)向量,P(0)=p0I,(t-j),(t-j),(t-j),j=0,1,2,···,max[na,nb,nc]的初始值為隨機(jī)數(shù),p0=106;

2) 收集輸入和輸出數(shù)據(jù)u(t)和y(t),按式(28)構(gòu)造濾波信息向量(t);

3) 由式(30)計(jì)算協(xié)方差矩陣P(t),并通過式(29)刷新參數(shù)估計(jì)(t);

5) 若t

5 F-MIFG算法

F-RGLS算法收斂速度快,但由于涉及協(xié)方差矩陣的計(jì)算,導(dǎo)致計(jì)算量增大,F-FG算法與F-RGLS算法相比計(jì)算量雖然減小,但其收斂速率慢,辨識準(zhǔn)確度低,主要因?yàn)樵诿恳徊竭f推計(jì)算中對數(shù)據(jù)有效信息的提取能力不足.為了平衡收斂速率和計(jì)算量,并進(jìn)一步提高參數(shù)估計(jì)精度,利用多新息辨識理論,引入新息長度p,推導(dǎo)基于濾波的多新息遺忘梯度算法.通過擴(kuò)展新息e(t)=y(t)-(t)(t-1),可得多新息遞推關(guān)系如下:

將式(31)與F-FG算法中的式(15)比較后不難發(fā)現(xiàn),F-FG算法在每一步遞推計(jì)算中只用到了當(dāng)前時(shí)刻的數(shù)據(jù)和新息,而F-MIFG算法不僅用到當(dāng)前時(shí)刻的數(shù)據(jù)和新息,同時(shí)用到了過去p個(gè)時(shí)刻的數(shù)據(jù)集和新息,這也是提高收斂速度的關(guān)鍵所在.另外,通過多新息理論的應(yīng)用,每次更新的梯度都是從批數(shù)據(jù)中獲取,既可以保證梯度方向趨于穩(wěn)定一致,又能避免單一新息更新引起的方向過多的問題,能夠有效減少局部最優(yōu)問題的出現(xiàn).當(dāng)新息長度p的值為1時(shí),F-MIFG算法退化為F-FG算法.與F-FG算法和F-RGLS算法類似,F-MIFG算法也存在濾波信息向量?f(t)包含不可測變量的問題.同樣,利用參數(shù)的估計(jì)值構(gòu)造未知變量x(t-j),xf(t-j),gf(t-j)的輔助模型,用輔助模型的輸出(t-j),(t-j),(t-j)替換?f(t)中的未知變量,得到?f(t)的估計(jì).用(t)替換式(31)–(32)中的?f(t),引入遺忘因子μ,F-MIFG算法可歸納為

用于估計(jì)分段線性Hammerstein輸出誤差自回歸系統(tǒng)的F-MIFG算法步驟如下:

1) 令t=1,給定數(shù)據(jù)長度L,設(shè)初值(0)為一個(gè)n0維隨機(jī)向量,r(0)=1,(t-j),(t-j),(t-j),j=0,1,2,···,max[na,nb,nc]的初始值為隨機(jī)數(shù),確定新息長度p;

2) 收集輸入和輸出數(shù)據(jù)u(t)和y(t),按式(35)構(gòu)造濾波信息向量(t);

3) 由式(34)計(jì)算r(t),并通過式(33)刷新參數(shù)估計(jì)(t);

5) 若t

6 仿真實(shí)例

本節(jié)采用分段線性函數(shù)擬合Sigmoid函數(shù),并將其作為輸出誤差自回歸Hammerstein系統(tǒng)輸入非線性模塊的映射.Sigmoid函數(shù)是一種常見的S型函數(shù),由于其單調(diào)遞增和逆函數(shù)單調(diào)遞增的特性,常被用作神經(jīng)網(wǎng)絡(luò)的激活函數(shù).考慮以下輸出誤差自回歸Hammerstein系統(tǒng):

x(t)為Sigmoid函數(shù)的數(shù)學(xué)表達(dá)式,由圖1所示的6個(gè)等距的分段函數(shù)擬合,

圖1 用分段線性函數(shù)擬合的Sigmoid曲線Fig.1 Sigmoid curve fitted by the piecewise-linear functions

其表達(dá)式可被重新寫作

是已知的等距分段節(jié)點(diǎn),

是與分段節(jié)點(diǎn)對應(yīng)的函數(shù)值,待估計(jì)的參數(shù)向量為

仿真中,取數(shù)據(jù)集{u(t),y(t),t=1,···,5300},前5000組用于參數(shù)估計(jì),其余300組用于模型驗(yàn)證.輸入u(t)是均值為零,方差為1的連續(xù)激勵(lì)信號序列,v(t)是均值為零,方差為σ2=0.202的白噪聲序列,輸出y(t)由輸入u(t)和實(shí)際的參數(shù)計(jì)算生成.用文中提到的3種方法估計(jì)未知參數(shù),F-FG算法和FMIFG算法中遺忘因子μ的取值為0.995.F-FG算法、F-RGLS算法和F-MIFG 算法(新息長度p=3,6,9)的參數(shù)估計(jì)(t)及其誤差δ=‖(t)–θ‖/‖θ‖如表1-3所示.圖2給出了3種基于濾波的遞推算法的參數(shù)估計(jì)誤差δ隨t的變化曲線.

表1 F-FG參數(shù)估計(jì)及誤差Table 1 The F-FG estimates and errors

圖2 參數(shù)估計(jì)誤差δ隨t的變化曲線Fig.2 The estimation errors δ versus t

此外,用F-FG參數(shù)估計(jì)(表1第6行),F-RGLS 參數(shù)估計(jì)(表2第6行)和F-MIFG參數(shù)估計(jì)(表3倒數(shù)第2行,p=9)構(gòu)造預(yù)報(bào)模型.假設(shè)(t)是系統(tǒng)的估計(jì)輸出,(t)是估計(jì)的無噪輸出,(t)是非線性模塊的估計(jì)輸出,得到模型輸出為

表2 F-RGLS參數(shù)估計(jì)及誤差Table 2 The F-RGLS estimates and errors

表3 F-MIFG參數(shù)估計(jì)及誤差(p=3,6,9)Table 3 The F-MIFG estimates and errors(p=3,6,9)

將t=5001到t=5300的Lr=300組剩余樣本用于計(jì)算模型輸出.利用系統(tǒng)輸出y(t)和上述3種算法的模型輸出(t),(t)和(t)計(jì)算均方根誤差(RMSEs,root mean square errors),得到

為方便比較,圖3給出了t=5001到t=5050 的50組數(shù)據(jù),能夠清晰直觀地看出3種算法的模型輸出(t),(t),(t)與系統(tǒng)輸出y(t)隨時(shí)間t的變化情況.

圖3 系統(tǒng)輸出y(t)和模型輸出(t),(t),(t)隨t的變化Fig.3 System outputs y(t)and the model outputs (t),(t)and(t)versus t

由表1–3以及圖2–3,可以得出如下結(jié)論.

1) 隨著數(shù)據(jù)長度t的增加,文中提到的3種遞推辨識算法給出的參數(shù)估計(jì)誤差逐漸減小.在相同的仿真條件下,F-RGLS 算法和F-MIFG 算法在收斂速度和參數(shù)估計(jì)精度方面都明顯優(yōu)于F-FG 算法.對F-MIFG 算法而言,新息長度p的取值越大,得到的參數(shù)估計(jì)就越準(zhǔn)確.當(dāng)新息長度的選取足夠大時(shí),由F-MIFG 算法生成的參數(shù)估計(jì)令人滿意,可達(dá)到與F-RGLS 算法相似的性能,見表1–3 和圖2.

3) 適當(dāng)選擇新息長度可以實(shí)現(xiàn)更快的收斂速度和更準(zhǔn)確的參數(shù)估計(jì).當(dāng)新息長度達(dá)到一定大小時(shí),估計(jì)誤差就很小了.因此,在綜合考慮算法參數(shù)估計(jì)精度和計(jì)算量的基礎(chǔ)上,可以折衷地選取新息長度.

7 結(jié)論

本文采用分段線性函數(shù)擬合一類含有色噪聲Hammerstein模型的輸入非線性部分,具有良好的擬合精度和普遍適用性.利用數(shù)據(jù)濾波技術(shù)和關(guān)鍵項(xiàng)分離技術(shù)推導(dǎo)了系統(tǒng)的濾波辨識模型,并以此為基礎(chǔ)提出了3種基于濾波的遞推辨識方法.仿真結(jié)果表明,F-RGLS算法的參數(shù)估計(jì)誤差小,通過多新息辨識理論的應(yīng)用,F-MIFG算法具有比F-FG算法更高的參數(shù)估計(jì)精度.文中主要利用分段函數(shù)擬合結(jié)構(gòu)和參數(shù)均為未知的非線性特性,若是結(jié)構(gòu)已知而參數(shù)未知的情形,例如飽和非線性,死區(qū)非線性,間隙非線性等硬非線性特性,則可根據(jù)模型的結(jié)構(gòu)特點(diǎn)寫出相應(yīng)的分段函數(shù)表達(dá)式,進(jìn)而利用文中提到的方法辨識未知參數(shù).另外,文中提到的基于濾波的遞推辨識方法也可用于其它包含有色噪聲的線性和非線性系統(tǒng)的建模及辨識問題中.