劉　駿,　殷曉明,　顧幸生

(華東理工大學化工過程先進控制與優(yōu)化技術(shù)教育部重點實驗室,上海 200237)

一種改進的T-S模糊模型建模及優(yōu)化方法

劉駿,殷曉明,顧幸生

(華東理工大學化工過程先進控制與優(yōu)化技術(shù)教育部重點實驗室,上海 200237)

摘要：模糊建模是一種有效的非線性系統(tǒng)建模方法,因為非線性系統(tǒng)的復雜性,仍有很多問題難以處理。針對T-S模糊模型,提出了一種改進的建模及優(yōu)化方法。首先,將快速搜索密度峰聚類和模糊C均值聚類(FCM)算法相結(jié)合,使用快速搜索密度峰聚類算法找到聚類個數(shù)和初始聚類中心后,再用FCM算法進行聚類;然后,通過最小二乘法辨識結(jié)論參數(shù)得到初始T-S模糊模型,使用改進的差分進化(DE)算法整體優(yōu)化模型的結(jié)構(gòu)和參數(shù),獲得最終的T-S模型;最后,選擇代表性實例,使用MATLAB程序進行仿真分析和比較,驗證了本文方法能有效提高T-S模糊模型的辨識精度和速度。

關(guān)鍵詞：模糊建模; T-S模型; 模糊C均值聚類; 快速搜索密度峰聚類; 差分進化算法

對復雜工業(yè)過程來說,實際對象往往有很強的非線性和不確定性,建立對象的精確數(shù)學模型十分困難。即便得出數(shù)學模型,因為模型通常十分復雜,很難利用傳統(tǒng)控制方法獲得需要的控制效果。隨著人工智能的發(fā)展,許多研究者將智能技術(shù)運用到非線性系統(tǒng)建模中,譬如模糊建模、神經(jīng)網(wǎng)絡(luò)建模、基于遺傳算法建模等,其中模糊建模是一種有效的非線性建模方法。模糊模型本質(zhì)上是一種非線性模型,擁有優(yōu)秀的逼近能力,文獻[1]已經(jīng)證明了其能夠以任意精度逼近有界閉集上的連續(xù)函數(shù)。

通過模糊建模方法已經(jīng)得到了許多經(jīng)典方法難于描述的復雜非線性系統(tǒng)模型,由于系統(tǒng)的復雜性,依然有許多難以處理的對象。文獻[2]通過模糊C均值聚類(Fuzzy C-Means,FCM)獲得模型的前件結(jié)構(gòu),然而該方法仍需要提前明確聚類個數(shù)和初始聚類中心,聚類結(jié)果依賴初始值的設(shè)定。文獻[3]采用MCR算法(Mountain C-regression Method)[4]自動確定聚類數(shù)目和初始聚類中心。文獻[5]先運行減法聚類算法,將其結(jié)果用作FCM算法的初始聚類中心,但需要預知聚類個數(shù),得到聚類結(jié)果后采用最小二乘法直接獲得結(jié)論參數(shù),即得出初始T-S模糊模型,最后使用遺傳算法整體優(yōu)化T-S模糊模型的參數(shù)和結(jié)構(gòu)。文獻[6]提出的快速搜索密度峰聚類算法不需要預先獲知聚類個數(shù),可以快速、精確地確定聚類中心。針對差分進化算法(Differential Evolution,DE),文獻[7-8]根據(jù)進化時期的不同，自適應(yīng)地選擇不同的變異策略,結(jié)合了兩種不同進化模式中的變異操作。文獻[9-10]采用的變異因子和交叉因子均為自適應(yīng)因子,都提高了算法性能。

由于基本FCM算法存在依賴初始值設(shè)定、容易陷入局部最優(yōu)、計算速度慢等缺點,本文將FCM算法與快速搜索密度峰聚類相結(jié)合。首先通過快速搜索密度峰聚類算法獲得聚類數(shù)目,同時將其聚類結(jié)果作為FCM算法的初始聚類中心,結(jié)合最小二乘法可以快速得到初始T-S模糊模型的結(jié)論參數(shù)。最小二乘法和其他梯度法一樣,有容易陷入局部最優(yōu)的缺點。針對上述缺點,本文引入全局搜索能力強的差分進化算法,改進了基本差分進化算法,并整體優(yōu)化模型的前后件參數(shù),提高了T-S模糊模型的辨識精度。

1T-S模糊模型辨識

1.1概述

模糊模型主要有3種:模糊關(guān)系模型、T-S模糊模型和Mamdani模糊模型。其中T-S模糊模型擁有簡單的模型結(jié)構(gòu)和強大的非線性逼近能力,非常適用于建立非線性系統(tǒng)的近似數(shù)學模型[11],已成為研究熱點。

1.2T-S模糊模型

(1)

T-S模糊模型的輸出為單個規(guī)則的加權(quán)平均

(2)

1.3模型辨識

1.3.1概述T-S模糊模型的辨識一般由結(jié)構(gòu)辨識與參數(shù)辨識組成,結(jié)構(gòu)辨識與參數(shù)辨識均包含前件部分與后件部分的辨識。模糊聚類是當前應(yīng)用廣泛的結(jié)構(gòu)辨識方法,在合理的聚類個數(shù)與聚類中心下,模糊聚類能夠?qū)崿F(xiàn)對前件空間的最優(yōu)模糊劃分,并能結(jié)合各種最小二乘技術(shù)快速估計后件參數(shù)。

1.3.2結(jié)構(gòu)辨識方法模糊C均值聚類(FCM)[13]算法是目前最常用的模糊聚類算法,算法結(jié)果中每一類對應(yīng)模型里的一條模糊規(guī)則。給定樣本集X={x1,x2,…,xr},設(shè)聚類數(shù)為c,每個樣本點xj屬于第i類的程度(即隸屬度)表示為uij,模糊劃分矩陣U=(uij)c×r,定義如下目標函數(shù):

(3)

(1) 確定聚類數(shù)目c,初始化聚類中心V0,模糊加權(quán)指數(shù)m一般取2,給定迭代停止閾值ε,迭代計數(shù)器b=0。

(2)根據(jù)式(4)計算并更新劃分矩陣

(4)

(3)

根據(jù)式(5)計算并更新聚類中心矩陣

(5)

(4)

如果‖Vb-Vb+1‖≤ε,則終止算法,獲得模糊劃分矩陣U和聚類中心V。否則令b=b+1,轉(zhuǎn)到步驟(2)。

1.3.3參數(shù)辨識方法在前提參數(shù)已得知的條件下,本文采用最小二乘估計用于直接辨識T-S模型的結(jié)論參數(shù)[14]。由式(2),系統(tǒng)輸出為

(6)

代入式(6),可得最小二乘形式:

Y=XP

(7)

P的最小二乘估計為

(8)

即可計算出模型的后件參數(shù),得到初始的T-S模糊模型。

2快速搜索密度峰聚類算法

2.1概述

FCM能夠快速有效地完成模糊聚類,但FCM同樣存在缺點:如果無法提前明確樣本集數(shù)據(jù)的聚類數(shù)目,聚類就不能進行;初始值的設(shè)定強烈影響結(jié)果,人們在不能精確設(shè)定初始聚類中心情況下通常隨機設(shè)定,增加了算法陷入局部最優(yōu)的可能[13]。針對上述缺點,為了防止陷入局部最優(yōu),并且提升聚類速度,本文在使用FCM之前先使用快速搜索密度峰聚類算法[7]求出聚類數(shù)目和初始聚類中心。

2.2算法簡介

快速搜索密度峰聚類算法不需要人為提前明確聚類個數(shù),只需計算各個樣本點之間的距離,是一種基于其提出的距離指標和密度指標的新型聚類算法,具有速度快、精度高的特點。

對于任意數(shù)據(jù)點i,與其余數(shù)據(jù)點的歐氏距離記為dij,根據(jù)dij計算密度指標ρi和距離指標δi。密度指標定義為

(9)

(10)

對于數(shù)據(jù)點i,其距離指標δi為全部密度比點i大的點與其距離中的最小值。如果點i的密度最大,則它的距離指標δi為全部相互距離中的最大值,即

(11)

計算出所有數(shù)據(jù)點的距離指標和密度指標后,根據(jù)兩項指標作出聚類中心抉擇圖,可利用圖像找出聚類中心和所有類簇。如圖1、圖2所示。

圖1　數(shù)據(jù)點分布圖

對圖1中28個數(shù)據(jù)點根據(jù)式(10)和式(11)計算出每個點的密度指標和距離指標,可得到橫軸為密度、縱軸為距離的聚類中心抉擇圖。聚類中心附近的數(shù)據(jù)點密度ρi會較大,但仍然低于各自屬于的聚類中心或者其他更靠近聚類中心的點,因此,它們的距離δi值普遍很小;對于聚類中心來說,密度ρi值都較大,密度指標比它們大的點只可能為其他聚類中心,因此,它們的距離δi值都較大;對于異常點,如數(shù)據(jù)點26、27、28,這些點周圍幾乎沒有其他數(shù)據(jù)點,并且遠離其他類簇,因此,它們具有非常小的密度指標和較大的距離指標。經(jīng)過上述分析,可以很清楚地在聚類中心抉擇圖中找出聚類中心,如圖2中,可判斷聚類數(shù)目為2,聚類中心為數(shù)據(jù)點1和10。

圖2　聚類中心抉擇圖

3改進的差分進化算法

3.1概述

由于模糊C均值聚類算法比較依賴初始值設(shè)定,在迭代過程中容易陷入局部極小點;最小二乘法屬于梯度法,同樣容易陷入局部極小點。差分進化算法(DE)[15]是一種隨機的并行全局搜索算法,擁有簡單易用、魯棒性高和全局搜索能力強等特點,可以用來克服上述缺陷。使用最小二乘法辨識得到初始T-S模糊模型,用改進的差分進化算法調(diào)整模型參數(shù),得到更加精確的模糊模型。

3.2算法流程

改進的DE算法流程如下:

(1)編碼和種群初始化。G=0,1,2,…,Gm表示進化代數(shù),第G代種群中的第i個個體Xi,G表示為

(12)

優(yōu)化T-S模糊模型時,應(yīng)該一并優(yōu)化隸屬度函數(shù)和模糊規(guī)則,這樣不僅調(diào)整了模型結(jié)構(gòu),也優(yōu)化了模型參數(shù)。文獻[5]使用遺傳算法對模糊模型的參數(shù)和結(jié)構(gòu)進行整體優(yōu)化,染色體編碼的參數(shù)為隸屬度函數(shù)的中心v和方差σ以及結(jié)論參數(shù)p,每條染色體包含(3n+1)c個實數(shù),這里n是輸入變量的維數(shù),c是數(shù)據(jù)集聚類個數(shù)。采用此種編碼,本文改進DE算法中D=(3n+1)c,[Xmin,Xmax]以FCM和最小二乘法獲得的初始參數(shù)為中心產(chǎn)生。當G=0時,初始種群中的第i個個體Xi,0為(v11,…,vcn,σ11,…,σcn,p11,…,pcn),其余的NP-1個個體均按此種格式編碼,在[Xmin,Xmax]內(nèi)隨機均勻產(chǎn)生,從而形成初始種群。

(2)變異操作。差分進化算法的進化模式[16]有多種,標準DE的進化模式是其中的DE/rand/1/bin,變異策略如式(13)。

(13)

對種群中每個個體Xi,G,隨機產(chǎn)生3個相互不同的整數(shù)r1,r2,r3∈{1,2,…,NP},且要求r1,r2,r3,i這 4個數(shù)相互不同。 另一種常用的進化模式為DE/best/1/bin,

(14)

這里Xbest,G代表目前種群里的最優(yōu)個體。若Vi,G不在[Xmin,Xmax]范圍中,則令Vi,G=Xmin+rand(0,1)·(Xmax-Xmin),其中rand[0,1]是[0,1]區(qū)間中均勻分布的隨機數(shù)。

這兩種進化模式,前者善于維持種群多樣性,然而收斂速度比較慢；而后者則是收斂速度比較快,但容易陷入局部極小點。為了充分發(fā)揮DE/rand/1/bin的全局搜索能力和DE/best/1/bin快速收斂的能力,克服這兩種進化模式的缺點,文獻[7]將這兩種進化模式的變異操作方式結(jié)合使用,自適應(yīng)地選擇變異策略,具體如下:

(15)

(16)

經(jīng)過測試比較,本文使用新的非線性閾值如下：

(17)

其中[φmin,φmax]=[0.1,1]。在算法初期,φ值較小,DE/rand/1/bin被使用的概率較大,隨著進化代數(shù)的增加,將更多地使用DE/best/1/bin,這樣算法在全局搜索和收斂速度之間進行了平衡。

式(13)、式(15)中的F為變異尺度因子,在標準DE中是一個常量。當F較大時,算法容易逃出局部極小點,但是收斂的速度會變慢,反之,算法雖然收斂速度變快,卻容易陷入局部極小點。采取自適應(yīng)機制對F進行賦值,文獻[9]采用式(18)線性遞增調(diào)整變異因子。

(18)

基于上述線性變化策略,本文使用新的非線性變化策略如下：

(19)

(20)

其中：randj是位于[0,1]間的均勻分布的隨機數(shù),randnj是屬于{1,2,…,D}內(nèi)隨機生成的維數(shù)索引號；CR為交叉概率因子,在標準DE中是處于[0,1]間的一個常量。當CR較大時,算法容易發(fā)生早熟收斂現(xiàn)象,反之,算法穩(wěn)定,成功率高,種群多樣性能夠得到很好的保持,但收斂速度慢。采取自適應(yīng)機制對CR進行賦值,文獻[10]采用式(21)線性遞減調(diào)整交叉因子。

(21)

同樣改用非線性變化策略

(22)

F隨著迭代次數(shù)的增加,由大變小,而CR則由小變大,在算法開始的時候充分保證種群的多樣性和算法的全局尋優(yōu)能力,在算法的后期適當減少種群的多樣性,促進算法盡快收斂。

(4)選擇操作。選擇操作遵循“貪婪選擇”策略,候選個體Ui,G與目標個體Xi,G進行競爭。

(23)

式中：f是適應(yīng)度函數(shù),對于Ui,G和Xi,G,取適應(yīng)度函數(shù)值更佳者作為第G+1代個體,取代原來的第G代個體,并使迭代計數(shù)器G增加1。式(23)適合最小化問題的處理。

(5)終止條件。假如種群Xi,G符合終止條件或者到達最大迭代次數(shù)Gm,則獲得最優(yōu)解;否則轉(zhuǎn)至步驟(2),直至滿足條件為止。

3.3建模過程歸納

本文建模及優(yōu)化算法流程如圖3所示。

圖3　T-S模糊模型建模過程流程圖

4仿真實驗和結(jié)果分析

著名的Box和Jenkins煤氣爐數(shù)據(jù)經(jīng)常被研究者選取為檢驗辨識方法是否合理的標準實驗數(shù)據(jù)。該系統(tǒng)為SISO動態(tài)系統(tǒng),包含296組輸入輸出數(shù)據(jù),其中輸入變量x(k)為煤氣流量,輸出變量y(k)為CO2濃度,k表示采樣間隔,且k=9 s。本文選擇煤氣流量x(k-1)及CO2濃度y(k-1),y(k-2)作為模糊模型的輸入,輸出是k時刻的CO2濃度y(k),選擇前148組數(shù)據(jù)作為訓練集用來辨識模型,余下的148組數(shù)據(jù)作為測試集。

對訓練集輸入數(shù)據(jù)由快速搜索密度峰聚類算法得到圖4所示的聚類中心抉擇圖。

經(jīng)判斷,將圖4中被圈出的點作為FCM的初始聚類中心,同時得到聚類個數(shù)c為3,通過FCM和最小二乘法(LS)得到初始T-S模糊模型;分別使用本文的改進DE算法和兩種基本DE算法(分別采用DE/rand/1/bin和DE/best/1/bin變異模式,記為DE1和DE2)對模型參數(shù)進行優(yōu)化。DE算法中種群個體維數(shù)D為30,種群規(guī)模NP為10D,進化代數(shù)Gm為300,適應(yīng)度函數(shù)f取模型的均方誤差MSE。

在DE1和DE2中,F=0.5,CR=0.9；本文改進DE算法中,F∈[0.2,0.5],CR∈[0.6,0.9]。

圖4　聚類中心抉擇圖

為了評價模型效果,使用如下幾項評價標準,包括均方誤差(MSE)、平均絕對百分誤差(MAPE)以及平均絕對誤差(MAD)。

分別利用訓練集實際輸出和測試集實際輸出與模型輸出作比較,得到模型誤差如表1和表2所示。

表1　訓練集模型誤差比較

采用訓練集時,3種DE算法迭代收斂曲線如圖5所示。

表2　測試集模型誤差比較

圖5　收斂曲線

由表1和表2可知,本文提出的改進DE算法的各項評價指標均最小,故對模型參數(shù)的優(yōu)化效果最佳。由圖5可知,DE2的收斂速度最快,其次是改進DE,DE1的收斂速度最慢;DE2在100代左右收斂,改進DE在160代左右收斂,而DE1在300代內(nèi)都還未收斂。本文提出的改進DE收斂速度比DE2略低,但收斂精度較高,在全局搜索和收斂速度之間進行了平衡,有效提高了收斂精度和模型辨識精度。

本文方法得出的T-S模糊模型,其訓練集模型輸出和測試集模型輸出與實際輸出的比較如圖6和圖7所示?？梢?模型輸出曲線與實際輸出曲線擬合良好,表明此模型擁有優(yōu)良的擬合精度和泛化能力。

圖6　訓練集模型輸出與實際值比較

圖7　測試集模型輸出與實際值比較

將296組數(shù)據(jù)全部作為訓練集進行辨識,表3列出了其他模糊模型辨識方法在相同性能指標MSE下的結(jié)果。從表中可以看出,與其他方法相比,本文方法擁有更高的辨識精度。

表3　不同辨識方法結(jié)果比較

5結(jié)束語

針對復雜非線性系統(tǒng)的建模問題,本文提出了一種改進的T-S模糊模型建模及優(yōu)化方法。快速搜索密度峰聚類算法可以快速得到聚類數(shù)目和聚類中心,與FCM相結(jié)合,彌補了FCM需要提前明確聚類數(shù)目和依賴初始值設(shè)定的缺點。對基本DE算法的編碼初始化、交叉和變異因子以及進化模式進行了改進,在全局搜索和收斂速度之間進行了平衡,提高了收斂精度。使用改進的DE算法整體優(yōu)化模型的結(jié)構(gòu)和參數(shù),得到最終的T-S模糊模型。選取Box和Jenkins煤氣爐數(shù)據(jù),在MATLAB中對其系統(tǒng)進行了仿真,并與其他建模方法進行了比較,驗證了本文方法可以快速、有效地提高非線性系統(tǒng)的模型辨識精度。

參考文獻：

[1]馬俊峰,張慶靈.T-S模糊廣義系統(tǒng)的逼近性[J].控制理論與應(yīng)用,2008,25(5):837-844.

[2]CHENG Weiyuan,JUANG Chia-Feng.An incremental support vector machine-trained TS-type fuzzy system for online classification problems[J].Fuzzy Sets and Systems,2011,163(1):24-44.

[3]林妹嬌,陳水利.一種新的TS模型辨識算法[J].集美大學學報(自然科學版),2013,18(3):219-224.

[4]WU Kulung,YANG Minshen,HAIEH Junenan.Mountain c-regression method[J].Pattern Recognition,2010,43:86-98.

[5]李盼盼.基于T-S模型的非線性系統(tǒng)模糊辨識方法研究[D].江蘇鎮(zhèn)江:江蘇大學,2008:1-5.

[6]ALEX R,ALESSANDRO L.Clustering by fast search and find of density peaks[J].Science,2014,344(6191):1492-1496.

[7]呼忠權(quán).差分進化算法的優(yōu)化及其應(yīng)用研究[D].河北秦皇島:燕山大學,2013.

[8]陳亮.改進自適應(yīng)差分進化算法及其應(yīng)用研究[D].上海:東華大學,2012.

[9]DAS S,KONAR A,CHAKRABORTY U K.Two improved differential evolution schemes for faster global search[C]//Genetic and Evolutionary Computation Conference,GECCO 2005.Washington DC,USA:ACM,2005:991- 998.

[10]謝曉鋒,張文俊,張國瑞,等.差異演化的實驗研究[J].控制與決策,2004,19(1):49-52,56.

[11]錢富才,伍光宇.一種T-S模型的在線辨識算法[J].控制與決策,2015,30(2):343-347.

[12]劉福才,竇金梅,王樹思.基于智能優(yōu)化算法的T-S模糊模型辨識[J].系統(tǒng)工程與電子技術(shù),2013,35(12):2643-2650.

[13]溫重偉,李榮鈞.改進的粒子群優(yōu)化模糊C均值聚類算法[J].計算機應(yīng)用研究,2010,27(7):2520-2522.

[14]王洪斌,劉少崗,李瑤瑤,等.基于自適應(yīng)模糊聚類的T-S模糊辨識方法[J].模糊系統(tǒng)與數(shù)學,2014,28(5):137-142.

[15]GUO Haixiang,LI Yanan,LI Jinling,etal.Differential evolution improved with self-adaptive control parameters based on simulated annealing[J].Swarm and Evolutionary Computation,2014,19:52-67.

[16]EPITROPAKIS M,TASOULIS D,PAVLIDIS N.Enhancing differential evolution utilizing proximity-based mutation operators[J].IEEE Transactions on Evolutionary Computation,2011,15(1):99-119.

[17]張椿玲,黃景廉,曾賢強.一種基于模糊聚類的模糊辨識方法[J].計算機應(yīng)用與軟件,2012,29(2):216-217.

Improved Modeling and Optimization of T-S Fuzzy Models

LIU Jun,YIN Xiao-ming,GU Xing-sheng

(Key Laboratory of Advanced Control and Optimization for Chemical Processes,Ministry of Education,East China University of Science and Technology,Shanghai 200237,China)

Abstract:Fuzzy modeling is an effective method for nonlinear systems,but there exist many unsolved issues due to the complexity of nonlinear system.This paper proposes an improved modeling and optimizing method for T-S fuzzy models.Firstly,we combine the fast search method of density peaks with the fuzzy cluster method (FCM),in which the former is utilized to find the initial clustering center and then the latter achieves the cluster.Secondly,the initial T-S fuzzy model is obtained by using the least square method to identify these parameters.And then,an improved differential evolution algorithm is utilized to optimize the above structure and parameters.Finally,the experimental results over a representative example show that the proposed method can improve the identification precision and convergence speed for T-S fuzzy model.

Key words:fuzzy modeling; T-S model; FCM; clustering by fast search of density peaks; DE

收稿日期：2015-07-31

基金項目：國家自然科學基金(61573144)

作者簡介：劉駿(1990-),男,安徽人,碩士生,主要研究方向為復雜工業(yè)過程建模、控制與優(yōu)化。E-mail:1017584186@qq.com 通信聯(lián)系人：顧幸生,E-mail:xsgu@ecust.edu.cn

文章編號：1006-3080(2016)02-0233-07

DOI:10.14135/j.cnki.1006-3080.2016.02.013

中圖分類號：TP273+.4

文獻標志碼：A