董鎮(zhèn)林,伍世虔+,葉 健,銀開州
(1.武漢科技大學(xué) 信息科學(xué)與工程學(xué)院,湖北 武漢 430081;2.武漢科技大學(xué) 機(jī)器人與智能系統(tǒng)研究院,湖北 武漢 430081;3.北京奧信化工科技發(fā)展有限責(zé)任公司 項(xiàng)目部,北京 100040)
RBF神經(jīng)網(wǎng)絡(luò)[1-8]研究的關(guān)鍵在于如何確定網(wǎng)絡(luò)結(jié)構(gòu)[9],即如何確定最小隱節(jié)點(diǎn)個(gè)數(shù)。許多學(xué)者為此進(jìn)行研究:①聚類算法。Jia等提出一種基于改進(jìn)的Canopy-K均值算法的RBF神經(jīng)網(wǎng)絡(luò)[10],Liu等提出了一種基于K近鄰優(yōu)化聚類算法的RBF神經(jīng)網(wǎng)絡(luò)[11]。該類算法通過確定初始聚類中心,降低聚類的隨機(jī)性,繼而優(yōu)化神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。但是不能動(dòng)態(tài)地增減隱節(jié)點(diǎn),從而影響網(wǎng)絡(luò)結(jié)構(gòu)的精簡性。②結(jié)構(gòu)動(dòng)態(tài)優(yōu)化算法。Li等提出一種基于誤差校正-敏感度分析的RBF神經(jīng)網(wǎng)絡(luò)[12],Meng等將快速密度聚類算法用于RBF神經(jīng)網(wǎng)絡(luò)[13]。該類算法通過自組織聚類確定神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),具有較好的效果,但是僅考慮隱節(jié)點(diǎn)對(duì)網(wǎng)絡(luò)輸出的貢獻(xiàn)率,未考慮隱節(jié)點(diǎn)之間的相似程度。
基于以上問題,本文提出基于自組織聚類和JS散度的RBF神經(jīng)網(wǎng)絡(luò)(self-organizing clustering and Jensen-Shannon divergence RBF,SCJS-RBF)。利用自組織聚類思想,解決聚類算法初始聚類中心的問題;采用戴維森堡丁(Davies-Bouldin index,DBI)指數(shù)提高K-means聚類精度;結(jié)合敏感度指數(shù)(sensitivity index,SI)和詹森-香農(nóng)散度(Jensen-Shannon divergence),解決隱節(jié)點(diǎn)相似和冗余的問題。最后實(shí)驗(yàn)結(jié)果表明,SCJS-RBF的網(wǎng)絡(luò)結(jié)構(gòu)更精簡、預(yù)測效果更好、運(yùn)行時(shí)間更短。
RBF神經(jīng)網(wǎng)絡(luò)為一個(gè)典型的三層前饋型神經(jīng)網(wǎng)絡(luò)。網(wǎng)絡(luò)結(jié)構(gòu)表示為“n-m-p”,其中n為輸入層神經(jīng)元個(gè)數(shù);m為隱層神經(jīng)元個(gè)數(shù);p為輸出層神經(jīng)元個(gè)數(shù)。神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。
圖1 RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
X∈RNum×n為網(wǎng)絡(luò)輸入矩陣,Y∈RNum×p為網(wǎng)絡(luò)輸出矩陣,Num為樣本點(diǎn)個(gè)數(shù)。隱層的徑向基函數(shù)選用標(biāo)準(zhǔn)高斯核函數(shù),如下式所示
(1)
式中:φi(x) 為第i個(gè)徑向基函數(shù),ci為第i個(gè)徑向基函數(shù)的中心,δi為第i個(gè)徑向基函數(shù)的擴(kuò)展寬度。
本文采用聚類算法確定隱節(jié)點(diǎn)中心及其擴(kuò)展寬度,將得到的聚類中心作為隱節(jié)點(diǎn)中心,擴(kuò)展寬度計(jì)算方法如下所示
(2)
式中:dimax為第i個(gè)隱節(jié)點(diǎn)與其它隱節(jié)點(diǎn)的最大歐式距離,N為隱節(jié)點(diǎn)個(gè)數(shù)。采用最小二乘方法求解線性方程組得到隱層和輸出層之間的網(wǎng)絡(luò)權(quán)值矩陣。
基于聚類的RBF神經(jīng)網(wǎng)絡(luò)存在以下缺陷:需要預(yù)設(shè)聚類中心個(gè)數(shù)并隨機(jī)初始化位置;迭代停止條件僅考慮類內(nèi)的相似性;確定的聚類中心作為隱節(jié)點(diǎn)可能存在冗余或相似情況。因此,本文提出一種基于自組織聚類和JS散度的RBF神經(jīng)網(wǎng)絡(luò),解決以上問題。
為解決傳統(tǒng)的K-means聚類算法需要人為給定聚類中心個(gè)數(shù)和隨機(jī)初始化聚類中心的不確定性問題,提出一種基于距離的初始聚類,基于自組織聚類思想,計(jì)算樣本點(diǎn)與聚類中心之間的歐式距離并與閾值距離進(jìn)行比較,判斷是否增加聚類中心個(gè)數(shù)。
定義樣本數(shù)據(jù)集的閾值距離如下式所示
(3)
式中:xi為第i個(gè)樣本點(diǎn),xj為第j個(gè)樣本點(diǎn),Dismean為所有樣本點(diǎn)間的平均距離,Dis(xi,xj) 為樣本點(diǎn)xi和xj之間的歐式距離,λ1為調(diào)節(jié)系數(shù)。
初始時(shí)刻,聚類中心點(diǎn)個(gè)數(shù)為0,依次讀取樣本數(shù)據(jù)集,讀取第一個(gè)輸入樣本時(shí),將其作為第一個(gè)聚類中心。
讀取第k個(gè)樣本點(diǎn)xk時(shí),假設(shè)已經(jīng)存在j個(gè)聚類中心,計(jì)算該樣本與每個(gè)聚類中心的歐式距離,比較出最小值Dis(xk,cl) 并得到第l個(gè)聚類中心。下面分兩種情況討論:
(1)類內(nèi)點(diǎn)增加。當(dāng)Dis(xk,cl)≤V時(shí),認(rèn)為第l個(gè)聚類中心與樣本點(diǎn)xk的距離足夠近,則把該樣本點(diǎn)歸為第l類;
(2)聚類點(diǎn)增加。當(dāng)Dis(xk,cl)>V時(shí),認(rèn)為第l個(gè)聚類中心與樣本點(diǎn)xk的距離足夠遠(yuǎn),則把該樣本點(diǎn)新增為第j+1個(gè)聚類中心。
當(dāng)數(shù)據(jù)讀取完畢后,即完成了基于距離的自組織初始聚類,得到確定的初始聚類中心個(gè)數(shù)和位置,并將其作為K-means算法的輸入,從而避免因K-means算法對(duì)初值敏感而造成的聚類效果不夠準(zhǔn)確。
傳統(tǒng)的K-means聚類算法按照最小距離原則劃分樣本數(shù)據(jù)集,迭代停止條件為聚類中心不再發(fā)生變化,僅考慮了類內(nèi)的樣本點(diǎn)的稠密程度,并沒有考慮類與類之間的相異性?;诖耍岢霾捎肈BI指數(shù)作為K-means聚類算法的準(zhǔn)則函數(shù)。
DBI指數(shù)[14],又稱為分類適確性指標(biāo),為常用的聚類算法評(píng)價(jià)指標(biāo)之一。相關(guān)定義和概念如下:
(1)類間距離
類間距離Dis(ci,cj) 表示第i個(gè)聚類中心ci與第j個(gè)聚類中心cj之間的歐式距離,如下式所示
(4)
(2)類內(nèi)標(biāo)準(zhǔn)誤差
類內(nèi)標(biāo)準(zhǔn)誤差Si表示為第i個(gè)類Ci中每一個(gè)樣本數(shù)據(jù)點(diǎn)u與該類的聚類中心ci之間的歐式距離標(biāo)準(zhǔn)誤差和,如下式所示
(5)
式中:Ni表示為第i個(gè)聚類中心Ci包含的樣本數(shù)據(jù)個(gè)數(shù)。
(3)DBI指數(shù)
DBI指數(shù)的值由聚類中心與聚類中心之間和類內(nèi)點(diǎn)之間的歐式距離關(guān)系決定,如下式所示
(6)
理想的聚類效果應(yīng)為不同類之間的相似程度盡可能小,并且類內(nèi)的相似程度盡可能大。DBI指數(shù)既衡量類與類之間的相異性,即類與類之間的空間分布盡可能相互遠(yuǎn)離,也就是Dis(ci,cj) 越大越好,還考慮了類內(nèi)的相似性,即類內(nèi)點(diǎn)之間的空間分布情況盡可能稠密,也就是Si+Sj越小效果越好。因此,DBI指數(shù)的值越小,說明聚類結(jié)果越接近于樣本數(shù)據(jù)真實(shí)分布,表示聚類效果越好。
敏感度指數(shù)是衡量一個(gè)模型輸出對(duì)輸入依賴性的重要指標(biāo)。有很多方法來定義敏感度,但是共同點(diǎn)均為模型的輸入?yún)?shù)對(duì)輸出變量的貢獻(xiàn)程度。本文將確定的聚類中心作為隱節(jié)點(diǎn),為刪減可能存在的冗余隱節(jié)點(diǎn),得到更為緊湊的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),在不影響網(wǎng)絡(luò)整體性能的前提下,采用敏感度分析衡量RBF神經(jīng)網(wǎng)絡(luò)每個(gè)隱節(jié)點(diǎn)對(duì)網(wǎng)絡(luò)輸出的貢獻(xiàn)率,刪減對(duì)網(wǎng)絡(luò)輸出貢獻(xiàn)率較低的隱節(jié)點(diǎn)。
第i個(gè)隱節(jié)點(diǎn)的敏感度計(jì)算公式如下所示
(7)
式中:Std(wiφi(x)) 為第i個(gè)隱節(jié)點(diǎn)到網(wǎng)絡(luò)輸出的標(biāo)準(zhǔn)差,wi為第i個(gè)隱節(jié)點(diǎn)與輸出層隱節(jié)點(diǎn)間的權(quán)值。SIi越小,則說明其對(duì)網(wǎng)絡(luò)輸出的貢獻(xiàn)率越低,可刪除該隱節(jié)點(diǎn)。為了便于選取刪減隱節(jié)點(diǎn)的閾值,將敏感度進(jìn)行如下歸一化
(8)
其次,計(jì)算所有貢獻(xiàn)率的平均值如下式所示
(9)
當(dāng)所有隱節(jié)點(diǎn)的敏感度中的最小值NSImin<λ2NSImean時(shí),認(rèn)為第i個(gè)隱節(jié)點(diǎn)對(duì)網(wǎng)絡(luò)輸出的貢獻(xiàn)率過低,將該隱節(jié)點(diǎn)刪除。其中,λ2為調(diào)節(jié)系數(shù)。
在刪除隱節(jié)點(diǎn)后,網(wǎng)絡(luò)中可能仍存在相似度較高的隱節(jié)點(diǎn),在不影響網(wǎng)絡(luò)整體性能的前提下,本文提出一種基于JS散度的隱節(jié)點(diǎn)合并方法,進(jìn)一步精簡網(wǎng)絡(luò)結(jié)構(gòu)。在信息論中,JS散度常用于衡量兩個(gè)概率分布之間的相似程度[15]。給定一個(gè)連續(xù)概率分布P,信息熵表示為
(10)
式中:p(x) 為分布P的概率密度函數(shù)。KL散度(Kullback-Leibler divergence),又稱相對(duì)熵,用于衡量兩個(gè)概率分布之間的相似程度,當(dāng)兩個(gè)概率分布相等時(shí),KL散度為0,當(dāng)兩個(gè)概率分布差別較大時(shí),KL散度值也越大。計(jì)算公式表示為
(11)
式中:H(P,Q) 表示分布P和Q之間的交叉熵,可知DKL(P‖Q)≠DKL(Q‖P), 即KL散度具有不對(duì)稱性。為解決這個(gè)問題,在KL散度的基礎(chǔ)上引入JS散度,計(jì)算公式表示為
(12)
JS散度為KL散度的一種變體,能很好解決KL散度的不對(duì)稱性問題,思想在于構(gòu)造p(x) 和q(x) 的平均概率分布。JS散度具有對(duì)稱性,即DJS(P‖Q)=DJS(Q‖P), 取值范圍[0,1],當(dāng)兩個(gè)概率分布完全相反時(shí)為1,完全相同時(shí)為0。當(dāng)兩個(gè)概率分布的相似程度越高,其JS散度值也越小。將此思想引入RBF神經(jīng)網(wǎng)絡(luò),分析兩隱節(jié)點(diǎn)間的相似程度,相似程度足夠大,則可合并隱節(jié)點(diǎn)。計(jì)算兩個(gè)隱節(jié)點(diǎn)間的JS散度關(guān)鍵在于計(jì)算概率密度函數(shù)。考慮到徑向基函數(shù)和正態(tài)分布的概率密度函數(shù)的相似性,將徑向基函數(shù)φi(x) 歸一化,如下式所示
(13)
式中:fi(x) 即為正態(tài)分布的N概率密度函數(shù),其中變量x的維度為n,期望值為ci,標(biāo)準(zhǔn)差為δi。由式(11)~式(13)可得,兩兩隱節(jié)點(diǎn)間對(duì)應(yīng)的JS散度計(jì)算如下
(14)
其次,計(jì)算所有JS散度的平均值如下式所示
(15)
當(dāng)兩隱節(jié)點(diǎn)間的JS散度中最小值DJS(fi‖fj)min<λ3JSmean時(shí),認(rèn)為第i和第j個(gè)隱節(jié)點(diǎn)的相似程度足夠大,可以合并為一個(gè)新的隱節(jié)點(diǎn),中心位置調(diào)整為兩個(gè)隱節(jié)點(diǎn)位置的均值。其中,λ3為調(diào)節(jié)系數(shù)。
本算法中首先提出基于距離的初始聚類以得到確定的聚類中心個(gè)數(shù)和位置,作為K-means聚類算法的初始值;然后提出采用聚類算法評(píng)價(jià)指標(biāo)DBI指數(shù)作為K-means聚類的準(zhǔn)則函數(shù),并將聚類中作為網(wǎng)絡(luò)隱節(jié)點(diǎn);接著采用基于敏感度分析的隱節(jié)點(diǎn)刪除方法,刪除對(duì)網(wǎng)絡(luò)輸出貢獻(xiàn)率過低的隱節(jié)點(diǎn),更新網(wǎng)絡(luò)參數(shù);最后提出基于JS散度的隱節(jié)點(diǎn)合并方法,合并相似度較高的隱節(jié)點(diǎn),更新網(wǎng)絡(luò)參數(shù)。算法的詳細(xì)步驟如下:
步驟1 網(wǎng)絡(luò)初始化,此時(shí)聚類個(gè)數(shù)為0,輸入樣本點(diǎn)依次傳入網(wǎng)絡(luò);
步驟2 當(dāng)?shù)谝粋€(gè)樣本點(diǎn)進(jìn)入網(wǎng)絡(luò)后,增加一個(gè)聚類中心,并將第一個(gè)樣本點(diǎn)歸為該類;
步驟3 當(dāng)?shù)趉個(gè)樣本點(diǎn)進(jìn)入網(wǎng)絡(luò)后,假設(shè)存在j個(gè)聚類中心,計(jì)算其與每個(gè)聚類中心的距離,比較出最小值Dis(xk,cl), 即找出第l類;
步驟4 當(dāng)Dis(xk,cl)≤λ1時(shí),即滿足類內(nèi)點(diǎn)增加原則,則將第k個(gè)輸入樣本數(shù)據(jù)歸入類l,否則,轉(zhuǎn)向步驟5;
步驟5 當(dāng)Dis(xk,cl)>λ1時(shí),即滿足聚類點(diǎn)增加原則,則增加到j(luò)+1個(gè)聚類中心,將第k個(gè)輸入樣本數(shù)據(jù)歸入類j+1;
步驟6 重復(fù)步驟3~步驟5,直到輸入樣本點(diǎn)讀取完畢,至此輸入數(shù)據(jù)完成劃分,得到N個(gè)初始聚類中心個(gè)數(shù)和位置;
步驟7 完成K-means聚類的迭代過程,準(zhǔn)則函數(shù)為DBI指數(shù);
步驟8 完成網(wǎng)絡(luò)參數(shù)學(xué)習(xí),得到隱節(jié)點(diǎn)擴(kuò)展寬度和隱層與輸出層之間的網(wǎng)絡(luò)權(quán)值矩陣;
步驟9 計(jì)算每個(gè)隱節(jié)點(diǎn)的敏感度值與敏感度均值,如果敏感度最小值NSImin<λ2NSImean,認(rèn)為對(duì)應(yīng)隱節(jié)點(diǎn)的貢獻(xiàn)率過低,刪除該隱節(jié)點(diǎn),并重復(fù)步驟7~步驟8,更新網(wǎng)絡(luò)參數(shù),否則轉(zhuǎn)到步驟10;
步驟10 計(jì)算兩兩隱節(jié)點(diǎn)間的JS散度與JS散度均值,如果JS散度最小值DJS(fi‖fj)min<λ3JSmean, 認(rèn)為第i和第j個(gè)隱節(jié)點(diǎn)的相似程度足夠大,可以合并為一個(gè)新的隱節(jié)點(diǎn),并重復(fù)步驟7和步驟8,更新網(wǎng)絡(luò)參數(shù),否則訓(xùn)練結(jié)束。
為檢驗(yàn)SCJS-RBF的非線性映射能力和在實(shí)際應(yīng)用中的有效性,本文選取典型的非線性sinE函數(shù)、非線性動(dòng)態(tài)系統(tǒng)辨識(shí)和實(shí)例進(jìn)行仿真實(shí)驗(yàn),與其它算法進(jìn)行實(shí)驗(yàn)結(jié)果對(duì)比,并給出結(jié)論。實(shí)驗(yàn)環(huán)境為Intel(R) Core(TM) i7-6700HQ CPU @ 2.60 GHz,內(nèi)存8 G,操作系統(tǒng)為Windows10 X64專業(yè)版,仿真工具為MATLAB R2020b。
非線性函數(shù)sinE的數(shù)學(xué)表達(dá)式如下式所示
y=0.8e-0.2xsin(10x)
(16)
圖2 非線性sinE函數(shù)初始聚類中心變化曲線
圖3 非線性sinE函數(shù)逼近效果
由圖2可知,經(jīng)基于距離的初始聚類后,獲得的初始聚類中心個(gè)數(shù)為12。經(jīng)基于敏感度分析的隱節(jié)點(diǎn)刪除方法后隱節(jié)點(diǎn)為11個(gè),經(jīng)基于JS散度的隱節(jié)點(diǎn)合并方法后為隱節(jié)點(diǎn)為9個(gè)。由圖3可知,經(jīng)過SCJS-RBF訓(xùn)練,測試輸出與期望曲線基本吻合,可以很好的逼近非線性sinE函數(shù)。
此外,為了顯示SCJS-RBF的優(yōu)良逼近能力,將該網(wǎng)絡(luò)與淺層BP神經(jīng)網(wǎng)絡(luò)和FDC-RBF[13]進(jìn)行實(shí)驗(yàn)結(jié)果對(duì)比,見表1。當(dāng)BP神經(jīng)網(wǎng)絡(luò)設(shè)定結(jié)構(gòu)同為1-9-1時(shí),其運(yùn)行時(shí)間和測試MSE均高于SCJS-RBF;在逼近非線性sinE函數(shù)時(shí),SCJS-RBF需要的隱節(jié)點(diǎn)個(gè)數(shù)、測試MSE以及網(wǎng)絡(luò)運(yùn)行時(shí)間均低于FDC-RBF,結(jié)構(gòu)更精簡,逼近能力更強(qiáng),運(yùn)行時(shí)間更短。
表1 非線性sinE函數(shù)逼近實(shí)驗(yàn)結(jié)果對(duì)比
非線性動(dòng)態(tài)系統(tǒng)辨識(shí)表達(dá)式如下式所示
(17)
式中:u(t)=sin(2π/25),t∈[1,400],y(0)=0,y(1)=0。 函數(shù)表達(dá)關(guān)系為:f(t+1)=f(y(t),y(t-1),u(t)), 輸入為三維:y(t),y(t-1),u(t), 輸出為一維:f(t+1)。 選取100組訓(xùn)練樣本數(shù)據(jù),其中t∈[1,100], 100組測試樣本數(shù)據(jù),其中t∈[300,400]。 調(diào)節(jié)系數(shù)λ1=0.25,λ2=0.1,λ3=0.2。初始聚類中心個(gè)數(shù)的變化如圖4所示。SCJS-RBF的系統(tǒng)辨識(shí)效果如圖5所示。
圖4 非線性動(dòng)態(tài)系統(tǒng)初始聚類中心變化曲線
圖5 非線性動(dòng)態(tài)系統(tǒng)辨識(shí)效果
由圖4可知,經(jīng)基于距離的初始聚類后,獲得的初始聚類中心個(gè)數(shù)為14。經(jīng)基于敏感度分析的隱節(jié)點(diǎn)刪除方法后隱節(jié)點(diǎn)為12個(gè),經(jīng)基于JS散度的隱節(jié)點(diǎn)合并方法后為隱節(jié)點(diǎn)為9個(gè)。由圖5可知,經(jīng)過SCJS-RBF訓(xùn)練后,可以很好的對(duì)非線性動(dòng)態(tài)系統(tǒng)進(jìn)行辨識(shí)。
此外,為了顯示SCJS-RBF的優(yōu)良辨識(shí)能力,將該網(wǎng)絡(luò)與淺層BP神經(jīng)網(wǎng)絡(luò)和FDC-RBF[13]進(jìn)行實(shí)驗(yàn)結(jié)果對(duì)比,見表2。當(dāng)BP神經(jīng)網(wǎng)絡(luò)設(shè)定結(jié)構(gòu)同為3-9-1時(shí),其運(yùn)行時(shí)間和測試MSE均高于SCJS-RBF;與FDC-RBF比較,隱節(jié)點(diǎn)個(gè)數(shù)更少,測試MSE更小,網(wǎng)絡(luò)結(jié)構(gòu)更為精簡且辨識(shí)效果更好。可見,SCJS-RBF進(jìn)行非線性動(dòng)態(tài)系統(tǒng)辨識(shí)時(shí),可以得到更為緊湊的結(jié)構(gòu),辨識(shí)效果更好,運(yùn)行時(shí)間更短。
表2 非線性動(dòng)態(tài)系統(tǒng)辨識(shí)實(shí)驗(yàn)結(jié)果對(duì)比
在露天礦山爆破作業(yè)中,礦石爆破后的塊度尺寸為衡量爆破質(zhì)量的首要指標(biāo)。一般情況下,用平均塊度的尺寸來衡量爆破效果。偏大,會(huì)增加礦石二次爆破成本和運(yùn)輸成本;偏小,會(huì)增加鉆爆成本。塊度的大小主要受巖石性質(zhì)和爆破設(shè)計(jì)參數(shù)的影響。目前用戶主要通過經(jīng)驗(yàn)公式來設(shè)計(jì)爆破參數(shù)以達(dá)到期望的塊度尺寸,以滿足生產(chǎn)要求。然而經(jīng)驗(yàn)公式的適用范圍有限,無法滿足露天礦山爆破的高效和經(jīng)濟(jì)生產(chǎn)的要求。神經(jīng)網(wǎng)絡(luò)無需確定的函數(shù)關(guān)系,以數(shù)據(jù)為驅(qū)動(dòng)建立輸入和輸出之間的非線性映射關(guān)系,更加適合用于塊度尺寸預(yù)測。
為進(jìn)一步驗(yàn)證本算法在實(shí)際應(yīng)用中的有效性,現(xiàn)把某露天礦山的225組平均塊度數(shù)據(jù)作為樣本數(shù)據(jù),隨機(jī)取200組作為訓(xùn)練樣本數(shù)據(jù),25組作為測試樣本數(shù)據(jù),部分測試樣本數(shù)據(jù)見表3。輸入為巖石系數(shù)、單位炸藥消耗量和單孔裝藥量,輸出為平均塊度。調(diào)節(jié)系數(shù)為λ1=0.4,λ2=0.1,λ3=0.05。初始聚類中心個(gè)數(shù)變化如圖6所示,初始聚類中心個(gè)數(shù)為28。經(jīng)基于敏感度分析的隱節(jié)點(diǎn)刪除方法后隱節(jié)點(diǎn)為26個(gè),經(jīng)基于JS散度的隱節(jié)點(diǎn)合并方法后隱節(jié)點(diǎn)為19個(gè)。
表3 部分測試樣本數(shù)據(jù)
圖6 初始聚類中心個(gè)數(shù)變化曲線
測試結(jié)果對(duì)比如圖7所示,相較RBF預(yù)測曲線,本算法預(yù)測曲線更加吻合實(shí)際曲線,即測試誤差更小,預(yù)測效果更好。實(shí)驗(yàn)結(jié)果對(duì)比見表4,可知,在隱節(jié)點(diǎn)個(gè)數(shù)相同的情況下,SCJS-RBF的運(yùn)行時(shí)間和測試MSE優(yōu)于RBF。本算法可以較好地指導(dǎo)該礦山的爆破作業(yè),提高生產(chǎn)效率,控制生產(chǎn)成本。
表4 實(shí)驗(yàn)結(jié)果對(duì)比
圖7 測試結(jié)果
針對(duì)RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的確定問題,提出了一種基于自組織聚類和JS散度的RBF神經(jīng)網(wǎng)絡(luò)。提出基于距離的初始聚類解決傳統(tǒng)聚類算法的隨機(jī)化初始聚類中心問題;采用DBI指數(shù)解決K-means算法聚類精度的問題;采用敏感度分析刪減隱節(jié)點(diǎn),解決隱節(jié)點(diǎn)冗余的問題;提出基于JS散度的隱節(jié)點(diǎn)合并方法,解決隱節(jié)點(diǎn)相似的問題,得到更加精簡的網(wǎng)絡(luò)結(jié)構(gòu)。最后通過仿真實(shí)驗(yàn)驗(yàn)證了SCJS-RBF的有效性。