王崇榮，闞海玉，靜麗賢，陳麗芳

(1.華北理工大學 以升創(chuàng)新教育基地，河北 唐山 063210；2.華北理工大學 理學院，河北 唐山 063210)

?

基于KPCA遺傳算法的預報模型及其應用

王崇榮1，闞海玉1，靜麗賢1，陳麗芳2

(1.華北理工大學 以升創(chuàng)新教育基地，河北 唐山 063210；2.華北理工大學 理學院，河北 唐山 063210)

核主成分分析(KPCA)；遺傳算法(GA)；RBF神經網絡；健康度評價

針對數據的相關性、網絡參數初始化的隨機性對神經網絡模型效率和精度的影響，本課題提出采用核主成分分析和遺傳算法，優(yōu)化RBF神經網絡結構和參數。首先，采集與人體健康度有關的指標，應用核主成分分析對其進行降維處理；然后，針對RBF網絡初始權值、擴展常數設置隨意性大的不足，用MATLAB編程實現遺傳算法對RBF網絡初始參數的優(yōu)化，并用收集到的數據進行模型的訓練和仿真；最后，將該模型與未進行網絡優(yōu)化的模型進行比較。分析和對比表明，該預報模型消除了指標間的相關性，并且提高了預報精度和速度，為預報問題的處理提供了新的研究思路。

隨著人們生活水平的不斷提高，自身健康受到越來越多的關注。如何構建健康評價體系，全面客觀地反映個體健康狀況，已成為重要的研究課題。因此，構建體質健康綜合評價系統具有重大的指導意義和現實意義。

王國軍[1]引入模糊數學法對人體體質健康進行綜合評價，解決了評價標準在大面積推廣和使用時部分指標臨界點上下數值相差不大但等級相差很大、與事實不符的問題。劉勵[2]采用層次分析法和模糊綜合評價進行個體健康評價。劉秀伶[3]等利用擴展的卡爾曼濾波輔助方法進行預處理及特征提取，將模糊邏輯引入神經系統，設計了一種基于動態(tài)生理信息融合的健康評價系統。劉偉[4]針對在健康評價中評價信息的模糊性和隨機性，提出了基于自然語言的多屬性群決策云模型集結方法。

分析學者們的健康評價體系，均將人體健康狀況進行了有效的量化。但忽略了影響人體健康狀況指標間的相關性，并且模糊數學的引入具有很大的主觀性。本項目提出了人體健康評價體系模型，通過應用KPCA，消除了影響人體健康狀況指標間的相關性；引入RBF神經網絡對人體健康程度進行預測，消除了模糊數學的主觀性。并且應用遺傳算法優(yōu)化神經網絡參數，使網絡避免陷入局部極小值，獲得了更高的預報精度。

1 基本理論

1.1 核主成分分析(KPCA)

KPCA[5,6]是一種基于核函數的能夠有效地解決非線性問題的主成分分析方法。它將原變量空間 通過一個非線性變換 映射到高維特征空間 ，在特征空間進行內積運算后提取特征值和特征向量再進行降維。

1.2 遺傳算法

遺傳算法[7](Genetic Algorithm)是一種啟發(fā)式算法。其主要特點是直接對結構對象進行操作，不存在求導和函數連續(xù)性的限定；具有內在的隱并行性和良好的全局尋優(yōu)能力；采用概率化的尋優(yōu)方法，能自動獲取和指導優(yōu)化的搜索空間，自適應地調整搜索方向。

1.3 RBF神經網絡

RBF神經網絡[8,9]只有一個隱層，且隱層神經元與輸出層神經元的模型不同。隱層節(jié)點激活函數為徑向基函數，其凈輸入是輸入向量與節(jié)點中心的距離(范數)而非向量內積，且結點中心不可調。結點的非線性變換把線性不可分問題轉化為線性可分問題。輸出層節(jié)點激活函數為線性函數。

隱層節(jié)點參數確定后，輸出權值可通過解線性方程組得到，RBF網絡結構如圖1所示。

圖1 RBF網絡結構

2 模型構建

首先將核主成分分析后的分量作為RBF網絡的輸入[10,11]，其次用遺傳算法優(yōu)化的權值和擴展常數確定RBF網絡的參數[12,13]，并對網絡進行訓練，然后進行網絡仿真，測試模型的精度，最后通過和未經優(yōu)化的模型進行對比，對模型的性能進行評價。建模流程如圖2所示。

圖2 基于KPCA遺傳算法的RBF網絡建模流程

2.1 數據分析與預處理

對數據進行核主成分分析(KPCA)，提取計算核主成分分量；降低輸入的維數，簡化RBF神經網絡結構。

(1)輸入原始數據X；

(2)將原始數據進行標準化處M理：

(1)

其中:

(2)

(3)將核函數映射到高維空間，得到矩陣K

(4)求解原矩陣K的轉置矩陣K'，

K'=K-AijK-KAij+AijKAij

(3)

(4)

(5)計算矩陣K'/n的特征值λi(i=1,2…m)和特征向量vi(i=1,2…m)；

(6)找出m個主元對應的特征值λr和特征向量vr(i=1,2…m)；

(7)求出特征值的貢獻率和累積貢獻率；

(8)利用提取的核主成分作為輸入輸出綜合指標。

2.2 遺傳算法優(yōu)化RBF網絡參數

RBF神經網絡在開始訓練前將隱藏層到輸出層的連接權值隨機初始化為[0,1]之間的值，這種未經過優(yōu)化的隨機初始化會使RBF神經網絡的收斂速度慢，且容易陷入局部最優(yōu)解。采用遺傳算法優(yōu)化可以對初始權值、擴展常數進行優(yōu)化，使RBF神經網絡具有更高的精度。

初始化遺傳算法參數，需要初始化的參數有最大迭代次數maxgen、群體規(guī)模sizepop、參數個數D、選擇算子、交叉算子、交叉概率Pc、變異概率Pm.

根據實際求解的問題確定RBF神經網絡的拓撲結構，建立網絡初始模型；并根據網絡的拓撲結構，計算待優(yōu)化參數的個數D：

D=hiddennum*outputnum+1，其中，hiddennum和outputnum分別為RBF神經網絡隱層節(jié)點數和輸出層節(jié)點數。

輸入網絡的訓練樣本，將遺傳算法待優(yōu)化參數按照順序組成一個向量，作為RBF網絡連接初始權值、擴展常數，進行網絡訓練，計算實際輸出和預測輸出的均方誤差，并以均方誤差作為目標函數。

目標函數表示為:

(5)

式中，為訓練輸出值；yj為訓練期望輸出值；

遺傳算法優(yōu)化RBF神經網絡建模如下：

(1)讀取前面步驟中保存的數據data；

(2)對數據進行歸一化處理；

(3)參數設置；

(4)對種群進行實數編碼，并將預測數據與期望數據之間的誤差作為適應度函數；

(5)循環(huán)進行選擇、交叉、變異、訓練RBF神經網絡,計算適應度，直到達到進化次數，或精度滿足設置要求，停止循環(huán)操作；

(6)用得到的最佳權值和擴展常數構建RBF神經網絡；

(7)用測試數據測試神經網絡，并將預測的數據反歸一化處理；

(8)分析預測數據與期望數據之間的誤差。

3 人體健康評價模型

3.1 數據收集與處理

通過對50份體檢數據整理篩選，去除異常數據。得到47份數據作為樣本，部分樣本如表1所示。

表1 部分原始數據表

健康度是用來定量描述人體健康水平的數值，影響健康度的指標主要有營養(yǎng)、中毒、免疫抑制、過敏、炎癥、耗散。

3.2 KPCA優(yōu)化網絡輸入

將數據歸一化后，利用Cross-Validation方法，選取不同的核函數，經多次試驗，采用指數型徑向基核函數

(6)

當σ>200時，累計貢獻率趨近于穩(wěn)定，并且在選取的所有核函數中為最大，達到89.5%。圖3所示為當σ∈[1,1 000]時累計貢獻率。

圖3 當 時累計貢獻率

將營養(yǎng)、中毒、免疫抑制、過敏、炎癥、耗散分別記為 。

此時選出的分析主元有2個：

F1=0.0164x1+0.3290x2+0.4556x3+0.7352x4+0.2987x5+0.2328x6

(7)

F2=0.1421x1+0.3881x2+0.4098x3+0.3174x4+0.2782x5+0.6950x6

(8)

3.3 遺傳算法優(yōu)化RBF神經網絡參數

RBF學習的3個參數：

(1)基函數的中心ti；

(2)方差(擴展常數)σi；

(3)隱含層與輸出層間的權值wij。

當采用正歸化RBF網絡結構時，隱節(jié)點數即樣本數，基函數的數據中心即為樣本本身，參數設計只需考慮擴展常數和輸出節(jié)點的權值。

根據KPCA得到的結果，隱含層為2個神經元，可以計算出粒子的維數D=2*1+1=3。

選取40組新的數據作為訓練樣本。經多次試驗，誤差最小時，得到的平均誤差為8.3%。

此時GA的基本參數為：

(1)群體規(guī)模sizepop=10；

(2)粒子維數D=3；

(3)最大迭代次數maxgen=100次；

(4)選擇操作采用保留最優(yōu)個體的隨機采樣法；

(5)交叉操作采用均勻的交叉算子，交叉概率為 ；

(6)變異概率為pm=0.1-[1:1:sizepop]×0.1/sizepop；

(7)終止條件：循環(huán)達到終止迭代次數或最優(yōu)適度值連續(xù)迭代500次，計算結果差值小于0.000 01；

(8)群體適應度函數使用預測值和輸出值的均方誤差來定義。采取每15次顯示1次網絡參數，在第54次時得到全局最優(yōu)結果。尋優(yōu)結果動態(tài)如表2所示。

表2 尋優(yōu)結果動態(tài)

3.4 仿真驗證和預報

選取剩余的7組數據進行仿真。得到平均相對誤差為9.2%。將仿真結果與原始數據進行對比。得到誤差如圖4所示。

圖4 KPCA-GA-RBF網絡仿真誤差圖

4 效率對比分析

為進一步評價KPCA-GA-RBF網絡模型的仿真效果，與采用傳統的BP神經網絡模型、KPCA-BP網絡模型分別進行訓練仿真。

(1)單純RBP網絡預報：經多次試驗，在RBF網絡進行訓練均方差最小時，擴展常數為0.45；訓練精確度為0.000 01。

(2)KPCA-RBF網絡模型預報：用KPCA進行數據預處理，將原來的6個指標綜合成2個指標后，在RBF網絡進行訓練均方差最小時，擴展常數為0.52；訓練精確度為0.000 01。

在3個模型分別達到最優(yōu)時，用剩余的7組數據進行仿真，相對誤差對比如圖5所示。

圖5 3個模型精度對比圖

由圖5可以看出，RBF、KPCA-RBF和KPCA-GA-RBF網絡預測的相對誤差分別浮動在30%、25%和15%以內。KPCA-GA-RBF模型相對誤差明顯優(yōu)于其它2個模型，說明了模型在預測精度上的優(yōu)越性。

模型訓練性能對比結果如表3所示。

表3 模型訓練性能對比表

由表3可以看出，KPCA-GA-RBF網絡訓練步數僅僅為54時就已經收斂，而KPCA-RBF網絡和單純的RBF網絡，在訓練步數達到最大時還未收斂，證明了KPCA-GA-RBF網絡在收斂性上的優(yōu)越性。因此，對于同一組學習樣本集，應用KPCA-GA-RBF網絡混合算法，能夠大大減少迭代次數，加快訓練速度。

對比分析表明：與傳統RBF方法和KPCA-RBF神經網絡法相比，該項目所研究的方法具有輸出穩(wěn)定性好、收斂性快、預測精度高等優(yōu)點，將KPCA結合遺傳算法，對RBF網絡預報模型進行精簡和優(yōu)化，大大縮短了訓練時間，提高了訓練效率和預報精度。

5 結論

(1)分析了影響預報模型效率和精度的主要原因：數據的相關性和網絡初始參數設置的任意性，提出通過應用KPCA，實現數據的降維，從而精簡網絡結構。

(2)應用遺傳算法優(yōu)化參數，使網絡避免陷入局部極小值，從而獲得更高的預報精度和更快的預報速度。從模型優(yōu)化的角度，具有一定的理論意義和應用價值，為指導人們的生產生活提供了理論依據。

[1] 王國軍.健康管理理念下公務員體制健康評價系統的研究與應用[D].上海：上海體育學院,2013.

[2] 劉勵.兒童青少年健康的綜合評價及影響因素研究[D].武漢：華中科技大學,2009.

[3] 劉秀伶,楊國杰,王洪瑞.動態(tài)生理信息融合在人體健康評價系統的應用[J].計算機工程與應用.2010,46(16):226-228.

[4] 劉偉.基于BIA的人體健康監(jiān)測與智能評價系統研究[D].合肥，合肥工業(yè)大學,2013.

[5] 高宏賓,候杰,李瑞光.基于核主成分分析的數據流降維應用[J].計算機工程與應用.2013,49(11):105-110.

[6] 趙麗紅,孫宇舸,蔡玉，等.基于核主成分分析的人臉識別[J].東北大學學報(自然科學版).2006，27(8)：847-850.

[7] 張啟義,邱國慶,寇學智，等.兩階段遺傳算法在求解TSP問題中的應用[J] 解放軍理工大學學報(自然科學版),2011,12(1): 79-83(1): 12-15.

[8] 蔣吉麗.基于BP神經網絡的強對流天氣預報模型研究[J].電子科技大學，2010，03(2):11-29.

[9] 王蘭霞.基于RBF神經網絡的PM10污染預測研究[D].西安：西安建筑科技大學，2008.

[10] 孫志娟,趙京,戴京濤.采用KPCA-BP神經網絡的并聯機構全局綜合性能評價方法研究[J].現代制造工程,2014,11(11):18-24.

[11] 李琳娜.基于核主成分分析(KPCA)和神經網絡的單目紅外圖像深度估計[D].上海：東華大學,2013.

[12] 李敏強,徐博藝,寇紀淞.遺傳算法與神經網絡的結合[J].系統工程理論與實踐.1999(12):16-20.

[13] 李勇,李妍琰.改進粒子群優(yōu)化BP神經網絡的洪水智能預測模型研究[J].西南師范大學學報(自然科學版),2014,05(19):75-80.

Prediction Model Based on KPCA and Genetic Algorithm and Its Application

WANG Chong-rong1,KAN Hai-yu1,JING Li-xian1,CHEN Li-fang2

(1.Yi-sheng Innovation Education Base,North China University of Science and Technology,Tangshan Hebei 063210,China;2.College of Science,North China University of Science and Technology,Tangshan Hebei 063210,China)

kernel principal component analysis; genetic algorithm; RBF neural network; health degree evaluation

Based on the correlation of data and the accuracy and efficiency of predicting model under the influence of network parameters initialization randomness,the Kernel Principal Component Analysis (KPCA) and Particle Swarm Optimization (PSO) algorithm were put forward to optimize neural network structure and parameter and improve the efficiency and precision of the forecast model.First of all,the KPCA was applied to the acquisition of indicators related to human health,reduce the data dimension and eliminate the correlation between attributes,which makes the selection of influence factors more scientific and reasonable,and the model structure more compact.Then,in view of the default of initialization parameter setting arbitrary in BP network large,RBF neural network was applied to optimize network initial parameters,so as to avoid early convergence of premature in network learning process in local minimum values.MATLAB was applied to realize the training and simulation of the model.The analysis and comparison results show that the prediction model constructed through the method can eliminate the correlation among the indexes,and greatly improve the forecasting precision and speed.It provides a new research approach for solving the prediction problems.

2095-2716(2017)03-0109-07

2016-12-26

2017-05-06

華北理工大學校級大學生創(chuàng)新創(chuàng)業(yè)訓練計劃項目(X2016303)。

O242.1

A