程　旸　顧曉清　蔣亦樟杭文龍　錢鵬江　王士同（江南大學(xué)數(shù)字媒體學(xué)院無(wú)錫214122）

?

具備視角協(xié)同學(xué)習(xí)能力的多視角TSK型模糊系統(tǒng)

程旸顧曉清蔣亦樟*杭文龍錢鵬江王士同
（江南大學(xué)數(shù)字媒體學(xué)院無(wú)錫214122）

傳統(tǒng)模糊系統(tǒng)建模方法本質(zhì)上是一種單視角學(xué)習(xí)模式，面向適合多視角處理的場(chǎng)景時(shí)，它們通常只能將每一視角割裂開來(lái)進(jìn)行獨(dú)立建模，這導(dǎo)致其所得系統(tǒng)泛化性能往往不令人滿意。針對(duì)此缺陷，該文探討具備多視角學(xué)習(xí)能力的模糊系統(tǒng)建模方法。為此，基于經(jīng)典的L2型TSK模糊系統(tǒng)，通過引入具備多視角學(xué)習(xí)能力的協(xié)同學(xué)習(xí)項(xiàng)，該文提出了核心的多視角TSK型模糊系統(tǒng)（MV-TSK-FS）建模方法。MV-TSK-FS不僅能有效地利用各視角不同特征構(gòu)成的獨(dú)立樣本信息，還能充分地利用各視角間由于相互關(guān)聯(lián)而存在內(nèi)在信息，以最終達(dá)到提高系統(tǒng)泛化性能的效果。在模擬數(shù)據(jù)集與真實(shí)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果驗(yàn)證了較之于傳統(tǒng)單視角模糊建模方法該多視角模糊系統(tǒng)有著更好的泛化性和適用性。

多視角學(xué)習(xí)；協(xié)同學(xué)習(xí)；模糊建模；TSK型模糊系統(tǒng)

模糊系統(tǒng)作為智能計(jì)算領(lǐng)域重要的研究分支，其獨(dú)特的可解釋性以及強(qiáng)大的學(xué)習(xí)能力，得到了較廣的應(yīng)用［9，10］。傳統(tǒng)的模糊系統(tǒng)建模方法均采用單視角學(xué)習(xí)方式，其在面對(duì)多視角問題時(shí)，一般的處理方式是人為地將多視角樣本集根據(jù)不同的視角劃分成若干個(gè)獨(dú)立的樣本，然后根據(jù)每一視角的樣本構(gòu)建出專屬于該視角的模糊系統(tǒng)。這種模糊系統(tǒng)存在各視角模糊系統(tǒng)泛化能力低且各視角間的系統(tǒng)泛化性能良莠不齊的現(xiàn)象。造成上述影響的主要原因在于單視角的建模方法只是簡(jiǎn)單地根據(jù)每一視角的樣本的獨(dú)立性特征構(gòu)建出了適應(yīng)于該視角的模糊系統(tǒng)而無(wú)視了各視角樣本之間的關(guān)聯(lián)關(guān)系，使得多視角樣本集的特征無(wú)法得到充分的利用，從而導(dǎo)致了上述現(xiàn)象。

針對(duì)上述挑戰(zhàn)，本文提出了一種具有多視角學(xué)習(xí)能力的模糊系統(tǒng)建模方法。鑒于Takagi-Sugeno-Kang（TSK）［11］型模糊系統(tǒng)在面對(duì)中小規(guī)模數(shù)據(jù)建模時(shí)優(yōu)越的性能，本文將其作為具體研究對(duì)象來(lái)構(gòu)建多視角模糊系統(tǒng)。在此模型的基礎(chǔ)上，通過引入多視角學(xué)習(xí)機(jī)制，構(gòu)造出了新的目標(biāo)函數(shù)，使得該模糊系統(tǒng)不僅能夠考慮各視角的獨(dú)立信息還能夠考慮各視角間的關(guān)聯(lián)信息，進(jìn)而達(dá)到提升系統(tǒng)泛化能力及穩(wěn)定各視角間系統(tǒng)性能的目的。各行各業(yè)科學(xué)技術(shù)的發(fā)展正在日益變化，看待問題的方法及角度也越來(lái)越豐富，這使得本文所提出的多視角TSK型模糊系統(tǒng)具有較好的應(yīng)用前景。

2　傳統(tǒng)的TSK型模糊系統(tǒng)

經(jīng)典模糊系統(tǒng)模型可分為以下3類：TSK型模型［11］，Mam dani-Larsen（ML）型模型［12］及廣義模糊模型（Generalized Fuzzy Model，GFM）［13］。其中，TSK型模型應(yīng)用最為廣泛［11］。在本節(jié)中我們將對(duì)傳統(tǒng)TSK型模糊系統(tǒng)及其對(duì)應(yīng)的學(xué)習(xí)策略進(jìn)行簡(jiǎn)要的回顧。

2.1 TSK型模糊系統(tǒng)的基本概念

TSK型模糊系統(tǒng)的模糊推理規(guī)則可表達(dá)為

TSK型模糊系統(tǒng)在去模糊化后其最終輸出可表示為

式中，jku即通過FCM算法得到的輸入向量隸屬于第k類的隸屬度。h為可人工調(diào)整的尺度參數(shù)。

根據(jù)文獻(xiàn)［8］描述，可令

根據(jù)式（3a）～式（3e）可將式（2）改寫為

通過上述描述，可知TSK型模糊系統(tǒng)的參數(shù)學(xué)習(xí)問題最終轉(zhuǎn)化為了線性回歸模型［8］。

2.2基于-e不敏感損失函數(shù)的L2型TSK型模糊系統(tǒng)

TSK模型基于-ε不敏感損失函數(shù)的目標(biāo)函數(shù)式一般被定義為

通過引入松弛變量iξ+及iξ-，并根據(jù)二次規(guī)劃理論，式（4）可轉(zhuǎn)化為經(jīng)典的二次規(guī)劃問題，其具體形式為

式（5）引入拉格朗日乘數(shù)項(xiàng)，可將式（4）化為式（6）的QP問題：

根據(jù)式（2d）及式（2e）所獲之模糊系統(tǒng)前件參數(shù)并結(jié)合式（7a）所獲得的模糊系統(tǒng)后件參數(shù)即可生成對(duì)應(yīng)的TSK型模糊系統(tǒng)。

3　多視角TSK型模糊系統(tǒng)學(xué)習(xí)框架

根據(jù)第2節(jié)所提之經(jīng)典TSK型模糊系統(tǒng)建模方法可知傳統(tǒng)的系統(tǒng)建模策略均是針對(duì)單視角場(chǎng)景設(shè)計(jì)的，當(dāng)該種經(jīng)典建模方法在面對(duì)多視角建模場(chǎng)景時(shí)，較為可行的建模策略則是針對(duì)不同的視角利用該視角下的樣本構(gòu)建出與之對(duì)應(yīng)的模糊系統(tǒng)，具體方法如圖1所示。雖然上述策略為單視角建模方法在多視角場(chǎng)景下的應(yīng)用提供了一種可行的方案，但是其針對(duì)每一視角較為獨(dú)立的建模方式在一定程度上破壞了多視角數(shù)據(jù)集之間的關(guān)聯(lián)關(guān)系，這通常會(huì)造成不同視角所獲得之模糊系統(tǒng)泛化能力存在良莠不齊的現(xiàn)象。

圖1　面對(duì)多視角學(xué)習(xí)場(chǎng)景時(shí)傳統(tǒng)的單視角TSK型模糊系統(tǒng)學(xué)習(xí)框架展示

為了使得傳統(tǒng)的單視角TSK型模糊系統(tǒng)建模方法具備多視角學(xué)習(xí)的能力進(jìn)而得到多視角TSK型模糊系統(tǒng)（MV-TSK-FS），本文給出了如圖2所示的建模策略。觀察圖2可知，該建模方法較之傳統(tǒng)單視角的建模方法而言，其不再將各視角下的數(shù)據(jù)樣本孤立開來(lái)進(jìn)行獨(dú)立的模糊系統(tǒng)構(gòu)建，而是通過多視角學(xué)習(xí)機(jī)制來(lái)訓(xùn)練不同視角下的模糊系統(tǒng)使得最終所獲之各視角模糊系統(tǒng)泛化能力得到提升并性能趨于一致。具體的多視角TSK型模糊系統(tǒng)的模型構(gòu)建方法將于第4節(jié)進(jìn)行詳細(xì)闡述。

4　多視角TSK型模糊系統(tǒng)建模方法

為改進(jìn)單視角TSK型模糊系統(tǒng)，使其具備多視角學(xué)習(xí)能力，本節(jié)將在第2節(jié)所提及的TSK型模糊系統(tǒng)建模方式上應(yīng)用多視角的學(xué)習(xí)原理構(gòu)建多視角TSK型模糊系統(tǒng)（M u lti-V iew TSK type FuzzySystem，MV-TSK-FS）。為了公式簡(jiǎn)潔性，我們僅以2視角為例進(jìn)行多視角模型構(gòu)建。

圖2　面對(duì)多視角學(xué)習(xí)場(chǎng)景時(shí)新型的單視角TSK模糊系統(tǒng)學(xué)習(xí)框架展示

4.1具備多視角協(xié)同學(xué)習(xí)能力的目標(biāo)函數(shù)構(gòu)造

為了使得經(jīng)典的L2型懲罰函數(shù)構(gòu)造的TSK型模糊系統(tǒng)具備多視角學(xué)習(xí)的能力，本小節(jié)以雙視角作為具體的研究場(chǎng)景探討了多視角TSK型模糊系統(tǒng)的目標(biāo)函數(shù)構(gòu)造。在構(gòu)建多視角TSK型模糊系統(tǒng)時(shí)，為了能夠充分利用不同視角數(shù)據(jù)樣本的特有特征（獨(dú)立性信息）及各視角間樣本內(nèi)在的關(guān)聯(lián)關(guān)系（關(guān)聯(lián)性信息），本文給出了如下的具備多視角學(xué)習(xí)能力的目標(biāo)函數(shù)式：

觀察式（8）可發(fā)現(xiàn)該式由式（8a）～式（8c）3項(xiàng)構(gòu)成，其中式（8a）及式（8b）分別為根據(jù)A和B視角樣本特征構(gòu)建的TSK型模糊系統(tǒng)，上述兩項(xiàng)保證了所提方法能夠充分利用不同視角下數(shù)據(jù)樣本特征的差異性構(gòu)建出屬于該視角特征的專有模糊系統(tǒng)。但僅考慮視角間的樣本特征差異性（獨(dú)立性信息）對(duì)于整個(gè)多視角TSK型模糊系統(tǒng)的構(gòu)建是不夠的，為增強(qiáng)多視角學(xué)習(xí)的能力，所提方法進(jìn)一步考慮了視角間的關(guān)聯(lián)關(guān)系，即各視角決策（輸出）的一致性。根據(jù)上述特性本文構(gòu)造了具備協(xié)同學(xué)習(xí)能力的式（8c），該式可使得視角A與視角B進(jìn)行協(xié)同學(xué)習(xí)，最終達(dá)到各視角所對(duì)應(yīng)的模糊系統(tǒng)之輸出趨于一致從而避免因視角特征的變化而造成各視角模糊系統(tǒng)的泛化性能的差異。需要說(shuō)明的是正則化參數(shù)A0т>，B0т>，S0т>控制了回歸模型的復(fù)雜度及誤差程度，其數(shù)值可人工設(shè)定，亦可通過交叉驗(yàn)證策略［15］選擇一個(gè)合適的值。

4.2 MV-TSK-FS參數(shù)學(xué)習(xí)規(guī)則

為求解式（8），根據(jù)拉格朗日優(yōu)化理論，引入相關(guān)拉格朗日乘子，可將式（8）轉(zhuǎn)換為式（9）：

至此，式（8）被化為了如式（9）的經(jīng)典QP問題，本文將采用文獻(xiàn)［8］中的QP求解方法來(lái)求解式（9）。

式（10a）為視角A對(duì)應(yīng)的TSK型模糊系統(tǒng)的后件參數(shù)，而式（10b）則為視角B對(duì)應(yīng)的TSK型模糊系統(tǒng)的后件參數(shù)。根據(jù)所獲之后件參數(shù)結(jié)合式（2d）及式（2e）所得到的模糊系統(tǒng)前件參數(shù)即可生成一個(gè)多視角TSK型模糊系統(tǒng)。具體的多視角TSK型模糊系統(tǒng)（MV-TSK-FS）的學(xué)習(xí)算法如表1所示。

表1　 MV-TSK-FS算法

由算法1可知，MV-TSK-FS模糊系統(tǒng)的時(shí)間復(fù)雜度主要由兩部分構(gòu)成：前件參數(shù)的學(xué)習(xí)（對(duì)應(yīng)步驟2）和后件參數(shù)的學(xué)習(xí)（對(duì)應(yīng)步驟3與步驟4）。在多視角學(xué)習(xí)中，MV-TSK-FS的每個(gè)視角對(duì)應(yīng)的模糊系統(tǒng)的前件參數(shù)由FCM聚類算法獲得，其時(shí)間復(fù)雜度是O（M TNK+M TK），其中M為視角的個(gè)數(shù)，T為算法迭代次數(shù)，N為樣本數(shù)，K為模糊系統(tǒng)規(guī)則條數(shù)。MV-TSK-FS的每個(gè)視角的后件參數(shù)的學(xué)習(xí)關(guān)鍵在二次規(guī)劃求極值問題上，時(shí)間復(fù)雜度為，通過使用SMO等分解方法處理二次規(guī)劃問題，其時(shí)間復(fù)雜度可降為O（N2），因此，多視角學(xué)習(xí)中，MV-TSK-FS的后件參數(shù)的學(xué)習(xí)的時(shí)間復(fù)雜度為之間。此外，因本文采用的對(duì)比方法，即經(jīng)典TSK模糊系統(tǒng)建模方法［8］為一種快速建模方法，其時(shí)間復(fù)雜度僅為O（TNK+TK）+ O（N2），因此所提出的多視角MV-TSK-FS模糊系統(tǒng)在時(shí)間性能上要劣于單視角TSK模糊系統(tǒng)建模方法。究其主要原因在于，MV-TSK-FS模糊系統(tǒng)建模策略融入了多視角協(xié)同學(xué)習(xí)策略，而單視角TSK模糊系統(tǒng)并不具備多視角學(xué)習(xí)能力，因此MVTSK-FS模糊系統(tǒng)更為耗時(shí)，但其泛化性能較之經(jīng)典單視角TSK模糊系統(tǒng)有著較大的提升。

5　實(shí)驗(yàn)研究

5.1實(shí)驗(yàn)設(shè)置

為對(duì)本文所提之多視角TSK型模糊系統(tǒng)（MVTSK-FS）的性能進(jìn)行驗(yàn)證與評(píng)估，本節(jié)將分別采用人工合成的多視角數(shù)據(jù)集以及真實(shí)的谷氨酸發(fā)酵多視角數(shù)據(jù)集進(jìn)行實(shí)驗(yàn)研究。其中合成數(shù)據(jù)以及谷氨酸真實(shí)數(shù)據(jù)將分別于5.2.1節(jié)和5.2.2節(jié)中給出具體描述。此外，實(shí)驗(yàn)中所涉及的一些符號(hào)定義如下：D 1和D2分別表示為多視角場(chǎng)景下視角1和視角2的訓(xùn)練數(shù)據(jù)集，D 1_test和D 2_test則為測(cè)試數(shù)據(jù)集；［D 1；D 2］表示為視角1及視角2訓(xùn)練數(shù)據(jù)集以特征擴(kuò)展的方式合并得到的單視角訓(xùn)練數(shù)據(jù)集，［D 1；D 2］_test為測(cè)試數(shù)據(jù)集；TSK-FS（View-D 1），TSKFS（View-D 2）及TSK-FS（View-［D 1；D 2］）分別為單視角TSK-FS基于D1，D 2及［D 1；D 2］數(shù)據(jù)集所構(gòu)之模糊系統(tǒng)；MV-TSK-FS（V iew-D 1）和MV-TSK-FS（View-D 2）則為本文所提之多視角MV-TSK-FS建模方法基于D1和D 2所構(gòu)之模糊系統(tǒng)。

為了對(duì)本文的實(shí)驗(yàn)結(jié)果給出合理的評(píng)價(jià)，采用式（11）作為性能評(píng)價(jià)指標(biāo)［8］。

其中，N為測(cè)試樣本集尺寸；yi為第n個(gè)測(cè)試樣本的真實(shí)輸出；表示第n個(gè)測(cè)試樣本對(duì)應(yīng)的模糊系統(tǒng)輸出；J 越小則表示泛化能力越好。

在實(shí)驗(yàn)中，所涉人工設(shè)定參數(shù)均采用如表2所述之優(yōu)化策略。實(shí)驗(yàn)環(huán)境：實(shí)驗(yàn)硬件平臺(tái)為Intel Pentium×2 CPU，其主頻為1.6 GHz，內(nèi)存為1 GB。編程環(huán)境為MATLAB 7.0。

5.2本文方法與經(jīng)典L2-TSK-FS性能比較

5.2.1合成數(shù)據(jù)集為了能夠體現(xiàn)多視角數(shù)據(jù)集各視角特征構(gòu)成的獨(dú)立性以及視角之間的關(guān)聯(lián)關(guān)系，本文根據(jù)上述的多視角數(shù)據(jù)的特點(diǎn)分別選用sin（x1）函數(shù)以及函數(shù)來(lái)表征兩個(gè)獨(dú)立的視角，并利用sin（x）函數(shù)與cos（π/2-x）函數(shù)具備相同的函數(shù)值的特點(diǎn)來(lái)形成兩視角之間的關(guān)聯(lián)關(guān)系（令x1=x而這樣構(gòu)成的多視角樣本集在各視角下，雖然輸入特征不同（視角間的獨(dú)立性），但最終各視角的輸出卻是一致的（視角間的關(guān)聯(lián)性）。具體的函數(shù)定義及相關(guān)采樣區(qū)間的描述可見表3所述。具體人工數(shù)據(jù)實(shí)驗(yàn)結(jié)果如表4和圖3所示。

根據(jù)表4和圖3所示的合成數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果，我們歸納出如下觀察結(jié)果：

（1）從表4以及圖3（a）和圖3（b）的實(shí)驗(yàn)結(jié)果看，無(wú)論是V iew（D 1）視角還是V iew（D2）視角的結(jié)果，均說(shuō)明了由本文方法所構(gòu)之模糊系統(tǒng)性能要明顯優(yōu)于經(jīng)典單視角TSK型模糊系統(tǒng)的性能。這說(shuō)明本文方法因具備多視角學(xué)習(xí)的能力較之經(jīng)典的單視角方法能夠更加有效地利用多視角數(shù)據(jù)集中各視角較為獨(dú)立的特征空間信息以及視角與視角之間的關(guān)聯(lián)關(guān)系，從而使得本文方法能夠更好地提升在各視角上所建之模糊系統(tǒng)的泛化能力。

表2　相關(guān)實(shí)驗(yàn)設(shè)置

表3　相關(guān)數(shù)據(jù)源生成函數(shù)定義

表4　多視角MV-TSK-FS建模方法及傳統(tǒng)TSK-FS建模方法在模擬數(shù)據(jù)集上的泛化性能比較

圖3　 MV-TSK-FS建模方法及傳統(tǒng)的TSK-FS建模方法在模糊規(guī)則數(shù)30K=的情況下各自的性能比較

（2）從圖3（c）的實(shí)驗(yàn)結(jié)果看，各視角雖然存在一定的關(guān)聯(lián)關(guān)系如一致性的輸出成分，但視角間的差異性亦是明顯的，如輸入成分（輸入特征空間）。這種差異性導(dǎo)致經(jīng)典單視角TSK型模糊系統(tǒng)在使用人為構(gòu)造的單視角樣本［D 1；D 2］進(jìn)行訓(xùn)練后所構(gòu)建模型的泛化性能明顯劣于任意視角下基于本文方法構(gòu)建的模型的性能。根據(jù)上述的結(jié)果說(shuō)明了僅考慮視角間的關(guān)聯(lián)性而忽視了視角間獨(dú)立性（存在差異的特征空間）也是不可行的。

（3）進(jìn)一步觀察圖3（a）-圖3（c）以及表4的TSKFS性能的第4列與MV-TSK-FS性能的第3列，可以發(fā)現(xiàn)經(jīng)典單視角方法得到的各視角模糊系統(tǒng)的性能指標(biāo)差明顯大于本文方法得到的各視角模糊系統(tǒng)的性能指標(biāo)差，這說(shuō)明單視角方法得到的模糊系統(tǒng)性能并不穩(wěn)定，各視角模糊系統(tǒng)的性能存在良莠不齊的現(xiàn)象，而本文方法由于采用了多視角協(xié)同學(xué)習(xí)的策略，使得其最終生成的各視角方法系統(tǒng)的性能在提升的同時(shí)還具備相互接近的穩(wěn)定狀態(tài)，這一點(diǎn)從圖3（c）中的“◇”線和“▽”線的重合程度可以得到進(jìn)一步的證實(shí)。

5.2.2真實(shí)數(shù)據(jù)集本小節(jié)利用具備多視角特征的發(fā)酵過程數(shù)據(jù)集［8］來(lái)進(jìn)行建模仿真實(shí)驗(yàn)以進(jìn)一步驗(yàn)證本文方法與經(jīng)典TSK型模糊系統(tǒng)的性能比較，通過對(duì)采集到的工廠發(fā)酵數(shù)據(jù)進(jìn)行篩選和分析后，本文選擇其中具有代表性并且覆蓋較為廣泛的21批共294組數(shù)據(jù)樣本作為研究對(duì)象，該數(shù)據(jù)集包含兩個(gè)視角樣本分別為：（1）根據(jù)攪拌速度為主特征的視角樣本D 1；（2）根據(jù)通風(fēng)指數(shù)為主特征的視角樣本D2。最終實(shí)驗(yàn)結(jié)果如表5所示。

從表5的實(shí)驗(yàn)結(jié)果可知，其實(shí)驗(yàn)結(jié)果與上節(jié)中在合成數(shù)據(jù)的觀察結(jié)果基本是一致的。具備多視角學(xué)習(xí)能力的TSK型模糊系統(tǒng)在模型訓(xùn)練時(shí)，其能夠通過充分利用多視角數(shù)據(jù)集的獨(dú)立性成分和關(guān)聯(lián)性成分訓(xùn)練得到有關(guān)各視角的模糊系統(tǒng)。對(duì)于這些得到的各視角模糊系統(tǒng)，我們無(wú)論是從獨(dú)立的單一視角看，還是從不同視角之間系統(tǒng)的泛化性能關(guān)聯(lián)關(guān)系角度分析，所得結(jié)論均顯示出了本文方法比傳統(tǒng)單視角方法在處理多視角問題具有更好的泛化性能，且各視角下的系統(tǒng)性能更為穩(wěn)定。因此利用本文方法構(gòu)建的模糊系統(tǒng)可以更加準(zhǔn)確地監(jiān)控發(fā)酵過程，并進(jìn)行相應(yīng)的預(yù)測(cè)。

6　結(jié)束語(yǔ)

本文針對(duì)傳統(tǒng)的模糊系統(tǒng)建模方法在處理多視角場(chǎng)景僅利用了視角間的獨(dú)立性信息而忽視了視角間樣本的關(guān)聯(lián)性信息，從而導(dǎo)致各視角所構(gòu)之模糊系統(tǒng)泛化能力差且性能存在良莠不齊的現(xiàn)象，提出了多視角協(xié)同學(xué)習(xí)的思想并將該方法融入具體的TSK型模糊系統(tǒng)中，得到了具備多視角學(xué)習(xí)能力的多視角TSK型模糊系統(tǒng)。該方法能夠有效且充分地利用多視角數(shù)據(jù)集中的獨(dú)立性成分和視角之間的關(guān)聯(lián)性成分，進(jìn)而提高各視角下模糊系統(tǒng)的泛化性能并通過協(xié)同學(xué)習(xí)機(jī)制進(jìn)一步穩(wěn)定各視角模糊系統(tǒng)的性能。通過在模擬數(shù)據(jù)集以及真實(shí)的發(fā)酵過程數(shù)據(jù)集上的仿真實(shí)驗(yàn)結(jié)果，顯示本文方法比傳統(tǒng)的單視角建模方法具備更好的適應(yīng)性。但由于多視角算法的復(fù)雜性，在本文的研究工作中僅給出了雙視角下的MV-TSK-FS的具體建模方法，在今后的工作中將致力于研究出一種推導(dǎo)及計(jì)算更為簡(jiǎn)潔且更適于推廣的多視角TSK型模糊系統(tǒng)的建模方法，同時(shí)也將考慮其他經(jīng)典模糊系統(tǒng)模型的多視角化構(gòu)建問題。

表5　多視角MV-TSK-FS建模方法及傳統(tǒng)TSK-FS建模方法在真實(shí)發(fā)酵數(shù)據(jù)集上的泛化性能比較

［1］LI Guangxia，CHANG Kuiyu，and HOI S C H.Multiview sem i-supervised learning w ith consensus［J］.IEEE Transactions on Know ledge and Data Engineering，2012，24（11）:2040-2051.doi:10.1109/TKDE.2011.160.

［2］HONG Chaoqun，YU Jun，YOU Jane，et al.Mu lti-view ensemble manifold regularization for 3D ob ject recognition［J］.Information Sciences，2015，320:395-405.doi:10.1016/ j.ins.2015.03.032.

［3］ZHANG Shun li，YU X in，SU IYao，et al.Ob ject trackingw ith multi-view support vector m ach ines［J］.IEEE Transactions on Multim edia，2015，17（3）:265-278.doi:10.1109/TMM. 2015.2390044.

［4］蔣亦樟，鄧趙紅，王駿，等.熵加權(quán)多視角協(xié)同劃分模糊聚類算法［J］.軟件學(xué)報(bào)，2014，25（10）:2293-2311.doi:10.13328/j. cnki.jos.004510.

JIANG Yizhang，DENG Zhaohong，WANG Jun，et al. Collaborative partition multi-view fuzzy clustering algorithm using entropy weighting［J］.JournalofSoftware，2014，25（10）: 2293-2311.doi:10.13328/j.cnki.jos.004510.

［5］TZORTZIS G F and LIKAS A C.M ultip le view clustering using a weigh ted com bination of exemp lar-based m ixtu re m odels［J］.IEEE Transactions on Neural Network，2010，21（12）:1925-1938.doi:10.1109/TNN.2010.2081999.

［6］JIANG Yizhang，CHUNG Fulai，WANG Shitong，et al. Collaborative fuzzy clustering from mu ltiple weighted view s［J］.IEEE Transactions on Cybernetics，2015，45（4）: 688-701.doi:10.1109/TCYB.2014.2334595.

［7］MERUGU S，ROSSET S，and PERLICH C.A new m ultiview regression app roach w ith an app lication to customer wallet estimation［C］.Proceedings of 12th ACM SIGKDD International Con ference on Know ledge Discovery and Data M ining，Philadelphia，USA，2006:656-661.

［8］DENG Zhaohong，JIANG Y izhang，CHOI Kupsze，et al. Know ledge-leverage-based TSK fuzzy system m odeling［J］. IEEE Transactions on Neural Networks and Learning System s，2013，24（8）:1200-1212.doi:10.1109/FUZZ-IEEE. 2014.6891544.

［9］?STR M K J and MCAVOY T J.Intelligent control［J］. Journal of Process Con trol，1992，2（3）:115-127.

［10］鄧趙紅，張江濱，蔣亦樟，等.基于模糊子空間聚類的〇階L2型TSK模糊系統(tǒng)［J］.電子與信息學(xué)報(bào)，2015，37（9）:2082-2088. doi:10.11999/JEIT 150074.

DENG Zhaohong，ZHANG Jiangbin，JIANG Yizhang，et al. Fuzzy subspace clustering based zero-order L2-norm TSK fuzzy system［J］.Journal of Electronics&Information Technology，2015，37（9）:2082-2088.

［11］TAKAGIT and SUGENO M.Fuzzy identification of system s and its app lication to m odeling and control［J］.IEEE Transactions on System s，M an，and Cybernetics，1985，15（1）: 116-132.doi:10.1109/TSMC.1985.6313399.

［12］MAMDANIE H.Application of fuzzy logic to app roximate reasoning using linguistic synthesis［J］.IEEE Transactions on Computers，1977，26（12）:1182-1191.doi:10.1109/TC.1977. 1674779.

［13］AZEEM M F，HANM ANDLU M，and AHMAD N. Generalization of adaptive neural-fuzzy in ference system s［J］. IEEE Transactions on Neural Networks，2000，11（6）: 1332-1346.doi:10.1109/72.883438.

［14］JIANG Y izhang，CHUNG Fulai，and WANG Shitong. Enhanced fuzzy partitions vs data randomness in FCM［J］. Journal of Intelligent and Fuzzy System s，2014，27（4）: 1639-1648.doi:10.3233/IFS-141130.

［15］ITO K and NAKANO R.Op timizing support vector regression hyperparameters based on cross-validation［C］. Proceedings of the International Joint Conference on Neural Networks，Jantzen Beach，Portland，Oregon，2003: 2077-2082.

程旸：男，1991年生，博士生，研究方向?yàn)橛?jì)算智能和模糊計(jì)算.

顧曉清：女，1981年生，講師，博士生，研究方向?yàn)橛?jì)算智能和模糊計(jì)算.

蔣亦樟：男，1988年生，講師，博士，研究方向?yàn)橛?jì)算智能和模糊計(jì)算.

杭文龍：男，1988年生，博士生，研究方向?yàn)槿斯ぶ悄芎湍Ｊ阶R(shí)別.

錢鵬江：男，1979年生，副教授，碩士生導(dǎo)師，研究方向?yàn)槿斯ぶ悄芎湍Ｊ阶R(shí)別.

王士同：男，1964年生，教授，博士生導(dǎo)師，研究方向?yàn)槿斯ぶ悄芎湍Ｊ阶R(shí)別.

Multi-view TSK Fuzzy System via Collaborative Learning

CHENG Yang GU Xiaoqing JIANG Y izhang HANG Wen long QIAN Pengjiang WANG Shitong
（School ofDigitalMedia，Jiangnan University，W uxi 214122，China）

Conventional fuzzy system modelingmethods essentially belong to the single-view learningmodality.In multi-view-oriented data scenarios，they can on ly cope w ith each view separately，which is p rone to incu rring their unsatisfactory generalization perform ance.In response to such p rob lem，the fuzzy system m odeling m ethod w ith the ability ofmu lti-view learning is pursued.To this end，based on the classic L2 norm Takagi-Sugeno-Kang（TSK）fuzzy system，by means of the collaborative learning items qualified formulti-view learning，the core Multi-View TSK Fuzzy System（MV-TSK-FS）modelingmethod is presented.MV-TSK-FS can not on ly effectively utilize the independent com ponents composed of the characteristics affiliated to each view，but also take full advantage of the potential in formation occurred by the interrelated effects among views，which eventually facilitates its relatively strong generalization ability.The experimental results performed on both synthetic and real-life datasets indicate that，compared w ith some traditional single-view methods，this propounded multi-view fuzzy modeling system owns p referable app licability aswell as generalization.

Multi-view learning；Collaborative learning；Fuzzy modeling；Takagi-Sugeno-Kang（TSK）type fuzzy system

1　引言

經(jīng)典的哲學(xué)理論告訴我們多視角學(xué)習(xí)方法較之傳統(tǒng)的單視角學(xué)習(xí)策略，在看待問題方面更為全面與客觀，并且大量的實(shí)際應(yīng)用，如多視角文本分類及多視角行為識(shí)別等均說(shuō)明了該方法的有效性。近年來(lái)多視角學(xué)習(xí)在機(jī)器學(xué)習(xí)領(lǐng)域得到了迅猛發(fā)展，具體工作可歸納為：（1）分類領(lǐng)域的多視角學(xué)習(xí)［13］-；（2）無(wú)監(jiān)督學(xué)習(xí)，特別是聚類領(lǐng)域的多視角學(xué)習(xí)［46］-；（3）回歸領(lǐng)域的多視角學(xué)習(xí)［7］。其中，在分類和聚類領(lǐng)域內(nèi)的多視角學(xué)習(xí)成果已較為豐富，但相對(duì)而言，針對(duì)回歸領(lǐng)域的多視角學(xué)習(xí)理論研究則較少。然而，在回歸領(lǐng)域多視角學(xué)習(xí)方式同樣具有很好的應(yīng)用前景及研究?jī)r(jià)值。以食品的發(fā)酵過程為例［8］，在對(duì)同一食品的發(fā)酵過程進(jìn)行檢測(cè)時(shí)，我們可從不同的角度，如風(fēng)速或攪拌速度，來(lái)記錄食品的發(fā)酵指標(biāo)參數(shù)值（即輸出值）。因角度不同從而導(dǎo)致輸入空間構(gòu)成不同（獨(dú)立性），但又因觀測(cè)對(duì)象相同，這使得各視角的最終輸出是一致的（關(guān)聯(lián)性），根據(jù)上述性質(zhì)即可得到一個(gè)多視角樣本集。同時(shí)，由于發(fā)酵過程是一個(gè)隨著時(shí)間變化的連續(xù)性函數(shù)，因此對(duì)其的預(yù)測(cè)可視為回歸問題。上述需求，促使我們應(yīng)當(dāng)在回歸領(lǐng)域開展多視角學(xué)習(xí)研究。

s:The National Natural Science Foundation of China（61300151），The Natural Science Foundation of Jiangsu Province（BK 20130155），The R&D Frontier G rant of Jiangsu Province（BY 2013015-02），The Fundamental Research Funds for the Central Universities（JUSRP51614A）

TP391

A

1009-5896（2016）08-2054-08

10.11999/JEIT 151209

2015-10-29；改回日期：2016-03-15；網(wǎng)絡(luò)出版：2016-05-05

蔣亦樟jyz0512@163.com

國(guó)家自然科學(xué)基金（61300151），江蘇省自然科學(xué)基金（BK 20130155），江蘇省產(chǎn)學(xué)研前瞻性聯(lián)合研究項(xiàng)目（BY 2013015-02），中央高?；究蒲袠I(yè)務(wù)費(fèi)專項(xiàng)資金資助重點(diǎn)項(xiàng)目（JUSRP 51614A）