劉海
(江西服裝學(xué)院商貿(mào)分院 計(jì)算機(jī)教研室,江西 南昌 330201)
?
基于AIC法則和極大似然法的系統(tǒng)辨識(shí)分析探討
劉海
(江西服裝學(xué)院商貿(mào)分院計(jì)算機(jī)教研室,江西南昌330201)
摘要:系統(tǒng)辨識(shí)在當(dāng)今社會(huì)中獲得了廣泛的應(yīng)用,本文運(yùn)用參數(shù)辨識(shí)方法對(duì)帶有白噪聲的系統(tǒng)進(jìn)行辨識(shí),分析研究關(guān)于系統(tǒng)辨識(shí)的原理和辨識(shí)過(guò)程.并設(shè)計(jì)M序列作為系統(tǒng)的輸入與干擾信號(hào),運(yùn)用AIC法則對(duì)系統(tǒng)的階次進(jìn)行辨識(shí),然后用極大似然法則對(duì)系統(tǒng)參數(shù)采取辨識(shí)并對(duì)結(jié)果進(jìn)行了分析討論.
關(guān)鍵詞:AIC法則;極大似然法;系統(tǒng)辨識(shí)
在當(dāng)今社會(huì)中系統(tǒng)辨識(shí)被廣泛的應(yīng)用,可以說(shuō),只要進(jìn)行實(shí)驗(yàn)數(shù)據(jù)確定數(shù)學(xué)模型和估計(jì)參數(shù)的場(chǎng)合,都需要用到辨識(shí)技術(shù).而系統(tǒng)辨識(shí)的基本思想是根據(jù)系統(tǒng)運(yùn)行或者是試驗(yàn)測(cè)得的數(shù)據(jù),并按照給定的“系統(tǒng)等價(jià)準(zhǔn)則”從一群候選數(shù)學(xué)模型集合里,確定一個(gè)與系統(tǒng)特性等價(jià)的數(shù)學(xué)模型.也就是說(shuō)只要是系統(tǒng)的輸入輸出來(lái)確定描述系統(tǒng)行為的數(shù)學(xué)模型,是系統(tǒng)辨識(shí)研究的對(duì)象.在進(jìn)行系統(tǒng)分析的一個(gè)重要方面是根據(jù)輸入時(shí)間函數(shù)與系統(tǒng)的特性來(lái)確定輸出信號(hào),系統(tǒng)辨識(shí)主要有模型階次辨識(shí)與參數(shù)辨識(shí)兩種.今后,隨著社會(huì)的發(fā)展,人類將更加深入地研究大范圍復(fù)雜工程的應(yīng)用,涉及的系統(tǒng)辨識(shí)會(huì)更多,包括非線性系統(tǒng)辨識(shí),高維時(shí)變系統(tǒng)的辨識(shí),多變量開(kāi)環(huán)或閉環(huán)系統(tǒng)的系統(tǒng)辨識(shí),整體和多級(jí)辨識(shí)以及辨識(shí)的可分離性理論等方面.本文將運(yùn)用參數(shù)辨識(shí)方法對(duì)帶有白噪聲的系統(tǒng)進(jìn)行辨識(shí),白噪聲在工程上人為是不可產(chǎn)生的,實(shí)際工程上,通常用M序列來(lái)代替白噪聲輸入信號(hào).本文用AIC法則來(lái)判定系統(tǒng)的階次,應(yīng)用確定階的Akaike信息準(zhǔn)則確定系統(tǒng)模型的階,根據(jù)確定系統(tǒng)模型階的算法闡述程序編制思路;辨識(shí)出模型階之后,選擇極大似然算法對(duì)系統(tǒng)進(jìn)行參數(shù)辨識(shí),并且列表與真值和辨識(shí)算法計(jì)算結(jié)果的比較和分析.
在系統(tǒng)辨識(shí)中,系統(tǒng)辨識(shí)主要是根據(jù)系統(tǒng)的輸入輸出時(shí)間函數(shù)來(lái)確定描述系統(tǒng)行為的數(shù)學(xué)模型,所以在系統(tǒng)辨識(shí)的基本步驟中,首先是先驗(yàn)知識(shí),先驗(yàn)知識(shí)主要包括系統(tǒng)運(yùn)動(dòng)規(guī)律、數(shù)據(jù)和其他方面的已存在的知識(shí).其作用是對(duì)選擇的模型結(jié)構(gòu)、設(shè)計(jì)實(shí)驗(yàn)與決定辨識(shí)方法等都非常重要的.并且用在不同目的的模型中都表現(xiàn)出很大的差別.其次是建模,建模的目的對(duì)于確定模型的結(jié)構(gòu)和辨識(shí)方法也有重要意義.然后是辨識(shí),辨識(shí)是從實(shí)驗(yàn)數(shù)據(jù)中提取有關(guān)系統(tǒng)信息的過(guò)程,設(shè)計(jì)實(shí)驗(yàn)的目標(biāo)之一是要使所得到的數(shù)據(jù)能包含系統(tǒng)更多的信息.主要包括輸入信號(hào)設(shè)計(jì),采樣區(qū)間設(shè)計(jì),預(yù)采樣濾波器設(shè)計(jì)等.結(jié)構(gòu)辨識(shí)也就是選擇模型類中的數(shù)學(xué)模型M的具體表達(dá)形式.除線性系統(tǒng)的結(jié)構(gòu)可通過(guò)輸入輸出數(shù)據(jù)進(jìn)行辨識(shí)外,一般的模型結(jié)構(gòu)主要通過(guò)先驗(yàn)知識(shí)獲得.系統(tǒng)辨識(shí)的基本步驟,具體流程如圖1所示.
圖1系統(tǒng)辨識(shí)的具體流程
m序列是一種線性反饋的移位寄存器產(chǎn)生的周期很長(zhǎng)的也是最常見(jiàn)的偽隨機(jī)序列,也是最長(zhǎng)線性反饋移存器,簡(jiǎn)稱m序列,如圖2.
圖2 M序列的產(chǎn)生原理圖
從圖2序列的產(chǎn)生原理圖所示,偽隨機(jī)序列是由反饋移位寄存器產(chǎn)生,并分成了兩類,包括線性反饋移位寄存器與非線性反饋移位寄存器.而周期最長(zhǎng)的二進(jìn)制數(shù)字序列也被叫做最大長(zhǎng)度線性反饋移位寄存器,是由線性反饋移位寄存器產(chǎn)生的.圖2則是一個(gè)一般線性反饋移存器的組成,圖中一級(jí)移存器的狀態(tài)用xi表示,xi=0或1,i=(1-4).m序列的設(shè)計(jì)是數(shù)字電路在通信里非常常用的一種形式,其硬件設(shè)計(jì)組成有五片74HCl64串連構(gòu)成,反饋信號(hào)則是由異或門MC40送出,需要注意的是鐘振蕩器不能由非門構(gòu)成的RC多諧振蕩器組成,原因是頻率特別低,我們用計(jì)數(shù)器分頻后實(shí)現(xiàn)(此處省略關(guān)于具體的硬件電路設(shè)計(jì)).
m序列作為一種最常用的偽隨機(jī)碼,在實(shí)際電路里M序列是由移位寄存器產(chǎn)生的,而本文是通過(guò)在MATLAB中用軟件來(lái)實(shí)現(xiàn)的.通過(guò)編寫一個(gè)M函數(shù)來(lái)實(shí)現(xiàn)要求的實(shí)際硬件電路.通過(guò)仿真可得M序列的圖形如圖3所示.
圖3 M序列
AIC信息準(zhǔn)則是20世紀(jì)70年代日本學(xué)者赤池提出的,基于信息度量的信息準(zhǔn)則及利用信息準(zhǔn)則判定模型階次的方法.AIC信息準(zhǔn)則的定義為l1:MC(m)=-21ogL(0lz)+2M(16)上式中的logL(0lY)=logL(0IYi)為模型參數(shù)極大i=l似然估計(jì)的對(duì)數(shù)似然函數(shù),它是各觀測(cè)對(duì)數(shù)似然函數(shù)之和,為獨(dú)立的模型參數(shù)個(gè)數(shù).采用的是模型階次判定準(zhǔn)則,使得隨機(jī)變量的真正概率分布相對(duì)于它的估計(jì)的概率分布的熵為最大,也就是使觀測(cè)數(shù)據(jù)z所估計(jì)的隨機(jī)變量的y的概率分布g (y)與其真正的概率分布的f(y)之間的擬合度B(f,g)為最大.
B(f,g)為信息熵,由于具有真正概率分布的f(y)的隨機(jī)變量y的熵是一定的,所以式(3-2)第二項(xiàng)為常數(shù),而第一項(xiàng)可寫成
可見(jiàn),要使J(g)最大,也就是要求式(3.2-3)最大,因此必須對(duì)EyIng[y/θ(z)]做出估計(jì),利用極大似然法,經(jīng)過(guò)推導(dǎo),可以得
式中θ0-為真實(shí)參數(shù);F-Fisher信息矩陣.
根據(jù)極大似然估計(jì)值的漸近性及正態(tài)隨機(jī)變量和隨機(jī)變量之間的關(guān)系,式(3-3)第二項(xiàng)漸近的具有自由度為r 的x2分布.并可得到
從上而得到,采用最小AIC方法判定模型階數(shù),可以歸結(jié)為在不同的模型階次下,先利用極大似然法估計(jì)出相應(yīng)階次模型下的各個(gè)參數(shù),然后再考慮到獨(dú)立參數(shù)數(shù)目下,求出在該模型階次下的AIC值.于是,具有最小AIC值的模型階次就是應(yīng)確定的模型階次.設(shè)干擾信號(hào)為白噪聲系統(tǒng)模型一般表達(dá)式為:
a(z-1)y(k)=b(z-1)u(k)+ε(k)(3.3-13)
式中:a(z-1)=1-1.8z-1-1.3z-2+0.4z-3b(z-1)=1.1z-1+0.288z-2
開(kāi)始任意取一組于模型相對(duì)應(yīng)的階數(shù),由已知的輸入,輸出根據(jù)極大適然法就可以求相應(yīng)的系數(shù)贊N,并且計(jì)算此時(shí)AIC的值,在取一組模型的任意階數(shù)值,重復(fù)以上過(guò)程,通過(guò)比較得到AIC取得最小值時(shí)候,就是該模型所辨識(shí)的最優(yōu)階數(shù).
通過(guò)對(duì)源程序的仿真可得到AIC值,其最小的值對(duì)應(yīng)的階次就是系統(tǒng)要辨別的階次,可得na=3,nb=2可見(jiàn)與給點(diǎn)題目的階次相同.
極大似然法由高斯提出,并由費(fèi)希爾(R.A.Fisher)發(fā)展,是現(xiàn)代辨識(shí)的參數(shù)估計(jì)方法之一.從本質(zhì)上講是一類概率性貝葉斯估計(jì)方法,是一種應(yīng)用比較廣泛的常用估計(jì)方法,這種估計(jì)方法用于動(dòng)態(tài)系統(tǒng)辨識(shí),可以獲得良好的估計(jì)
?效果.極大似然法需要構(gòu)造一個(gè)以測(cè)量數(shù)據(jù)和未知參數(shù)有關(guān)的似然函數(shù),并通過(guò)極大化這個(gè)函數(shù)獲得模型的參數(shù)辨識(shí).由上可知,極大似然法將參數(shù)估計(jì)問(wèn)題歸結(jié)為似然函數(shù)值為最大時(shí)候的最優(yōu)化問(wèn)題,所以極大似然函數(shù)法進(jìn)行參數(shù)估計(jì)時(shí)候,必須掌握可觀測(cè)變量y的聯(lián)合概率密度分布,也就是合理確定相應(yīng)的似然函數(shù).通過(guò)仿真可辨識(shí)得到系統(tǒng)的參數(shù)
a1=1.813, a2=-1.1989, a3=-0.421
b1=1.098, b2=0.289
可見(jiàn)辨識(shí)的參數(shù)與實(shí)際值還是存在一定的誤差,一方面可能數(shù)據(jù)的長(zhǎng)度取得還不夠長(zhǎng),實(shí)驗(yàn)證明數(shù)據(jù)的長(zhǎng)度越長(zhǎng),得到的值越準(zhǔn)確,所以要求獲取的數(shù)據(jù)盡可能長(zhǎng)些,另一方面可能存在一些因客觀原因而存在的一些誤差.
系統(tǒng)辨識(shí)的過(guò)程分為幾個(gè)階段,開(kāi)始是對(duì)系統(tǒng)的階次進(jìn)行辨識(shí),并在階次已知的前提下再對(duì)對(duì)系統(tǒng)的參數(shù)進(jìn)行辨識(shí)的過(guò)程.AIC法則得到了廣泛的應(yīng)用,已經(jīng)解決了許多系統(tǒng)的階次問(wèn)題,在本設(shè)計(jì)中準(zhǔn)確的辨識(shí)出了系統(tǒng)的階數(shù),并且在得到系統(tǒng)階數(shù)的前提下,利用極大似然法對(duì)系統(tǒng)參數(shù)進(jìn)行了辨識(shí),基本上與給出的參數(shù)相同.但是該方法也存在一些問(wèn)題,按此方法估計(jì)出來(lái)的模型階次不是漸近一致的,并且只適用于低階系統(tǒng),對(duì)于高階系統(tǒng)會(huì)引起較大的誤差,并且AIC估計(jì)的模型的階數(shù)偏高,為此Kashyap和Schwar利用貝葉斯方法提出了BIC準(zhǔn)則,可以看做是對(duì)它的改進(jìn).
其中α可以看做是對(duì)高階的懲罰,αInN=2時(shí)候,也就就變成了AIC準(zhǔn)則了.
參考文獻(xiàn):
〔1〕黃添強(qiáng),吳鐵浩,袁秀娟,等.利用模式噪聲聚類分析的視頻非同源篡改檢測(cè)[J].計(jì)算機(jī)科學(xué)與探索,2011,5(10):914-920.
〔2〕齊曉慧,田慶民,董海瑞.基于Matlab系統(tǒng)辨識(shí)工具箱的系統(tǒng)建模[J].兵工自動(dòng)化,2006,25(10):88-90.
〔3〕張新國(guó),馬義德,李守亮,等.非線性電路:基礎(chǔ)分析與設(shè)計(jì)[M].北京:高等教育出版社,2011.
〔4〕張聚.基于MATLAB的控制系統(tǒng)仿真及應(yīng)用[M].北京:電子工業(yè)出版社,2012.
〔5〕劉娣,許有熊林健.基于MATLAB的“系統(tǒng)辨識(shí)”課程實(shí)驗(yàn)教學(xué)改革[J].中國(guó)電力教育,2013(1):139-140.
收稿日期:2015年10月19日
中圖分類號(hào):TP273
文獻(xiàn)標(biāo)識(shí)碼:A
文章編號(hào):1673-260X(2016)02-0014-02
赤峰學(xué)院學(xué)報(bào)·自然科學(xué)版2016年4期