楊 云, 董 雪, 齊 勇

(陜西科技大學(xué) 電氣與信息工程學(xué)院， 陜西 西安 710021)

?

關(guān)于人體頸動脈硬化斑塊診斷優(yōu)化仿真

楊 云, 董 雪, 齊 勇

(陜西科技大學(xué) 電氣與信息工程學(xué)院， 陜西 西安 710021)

人體頸動脈血流動力學(xué)數(shù)據(jù)與頸動脈硬化斑塊形成有重要關(guān)聯(lián)，其具有高維度、非線性等復(fù)雜屬性.支持向量機算法在克服維數(shù)災(zāi)難問題和處理非線性數(shù)據(jù)上具有顯著優(yōu)勢.基于該算法，首先通過多次實驗得到在血流動力學(xué)信息中與頸動脈硬化斑塊形成最為相關(guān)的屬性子集，并對懲罰因子與核函數(shù)參數(shù)進行選擇與優(yōu)化，結(jié)果顯示分類器性能有所提高，但并不明顯，分類準確率只有58.2%；然后又通過集成學(xué)習(xí)將其準確率提升了17.3%，達到75.5%，所建立的診斷分類器可為臨床提供一定的參考意見.

支持向量機； 頸動脈硬化斑塊診斷； 性能優(yōu)化； 性能評估

0 引言

頸動脈硬化多發(fā)于中老年人，最顯著的特點是硬化斑塊的形成，硬化斑塊形成后可能導(dǎo)致動脈狹窄[1]，而血管內(nèi)血流狀況的改變可能進一步改變動脈管壁上的壓力使動脈狹窄更加嚴重，引起硬化斑塊的破裂、脫落等，嚴重危害人們的生命健康[2].目前，頸動脈硬化斑塊的診斷大多通過醫(yī)生人工分析頸動脈多普勒超聲所提供的信息來做出判斷，這樣復(fù)雜且高維的信息數(shù)據(jù)人腦很難處理[3]，數(shù)據(jù)挖掘技術(shù)對高維且復(fù)雜的數(shù)據(jù)分析提供了有力支持，尤其是對缺少先驗知識的醫(yī)學(xué)數(shù)據(jù).而少數(shù)利用BP(Back Propagation)算法來分析處理頸動脈超聲數(shù)據(jù)的，又會帶來過度擬合等問題[4,5]，支持向量機在處理小樣本、非線性數(shù)據(jù)時能避免BP算法所產(chǎn)生的過學(xué)習(xí)問題.因此，本研究采用高性能的支持向量機算法，對西安市唐都醫(yī)院311例頸動脈硬化患者血流數(shù)據(jù)進行分析，建立頸動脈硬化斑塊診斷分類器，并研究頸動脈硬化斑塊的形成與血流動力學(xué)參數(shù)的關(guān)系.

1 人體頸動脈硬化斑塊診斷分類器優(yōu)化原理

優(yōu)化該診斷分類器時主要有兩個問題，一是支持向量機建立分類器時，它的核函數(shù)與參數(shù)的選擇；二是單個的弱支持向量機分類器通常情況下分類效果不佳，針對該問題用集成學(xué)習(xí)的思想將弱分類器進一步優(yōu)化提升.

在對支持向量機核函數(shù)與參數(shù)進行設(shè)置時總想要得到最好的參數(shù)組合，然而直到今天也沒有一個能滿足各種不同需要的參數(shù)設(shè)置的最好方法，一般在實際中經(jīng)常會用到的解決辦法就是把懲罰因子與核函數(shù)參數(shù)控制在一定范圍內(nèi)進行窮盡，用這種思想并通過某種評估方法，例如，本文所使用的20折交叉驗證法對一定范圍內(nèi)的所有可能取值進行評估，然后選取最優(yōu)的.

通常單個弱分類器的性能并不理想，集成學(xué)習(xí)的出現(xiàn)在一定程度上解決了用單個分類算法對數(shù)據(jù)集進行分類時性能不優(yōu)的弊端，但這也受到了數(shù)據(jù)集質(zhì)量與數(shù)量以及挖掘算法選用的是不是適合等問題的制約，但在大多數(shù)情況下與單個分類器相比較而言，集成分類器效果都會有所提高，它所依據(jù)的理論基礎(chǔ)是統(tǒng)計技術(shù)中的迭加分類器，并用某種方式將許多單一分類器結(jié)合起來而取得比單個分類器更高的準確率.一個集成支持向量機示意圖如圖1所示.

圖1 集成支持向量機

2 頸動脈斑塊診斷分類器建立的方法

2.1 數(shù)據(jù)預(yù)處理

頸動脈硬化斑塊診斷分類器建立過程中，首先，選取除血流動力學(xué)參數(shù)屬性以外其他屬性基本統(tǒng)一均衡的樣本，如所選的311例樣本中，有168例有硬化斑塊，143例無硬化斑塊，男性155例，女性156例，且年齡范圍在50～70歲之間，電子病歷顯示他們均不患有其他疾病，該樣本集中每一個樣本對應(yīng)一個病人的血流動力學(xué)參數(shù)以及斑塊有無的診斷結(jié)果.

2.1.1 血流動力學(xué)數(shù)據(jù)規(guī)范化

頸動脈血流動力學(xué)參數(shù)包括以下屬性：頸內(nèi)動脈收縮期的峰值流速(IVmax)、舒張末期流速(IVmin)、收縮期與舒張期流速比值(IVmax/IVmin)、平均血流速度(ITAMAX)、搏動(IPI)、阻力指數(shù)(IRI)，它們的數(shù)值范圍如表1所示，椎動脈收縮期的峰值流速(VVmax)、舒張末期流速(VVmin)、收縮期與舒張期流速比值(VVmax/VVmin)、平均血流速度(VTAMAX)、搏動指數(shù)(VPI)、阻力指數(shù)(VRI)，它們的數(shù)值范圍如表2所示.

表1 頸內(nèi)動脈各參數(shù)大小

表2 椎動各脈參數(shù)大小

由表1和表2可知，12個數(shù)值屬性范圍與單位各不相同，因此要進行規(guī)范化處理，規(guī)范化能夠有效避免某些過大屬性值對較小屬性值在建立分類器時的影響.使用數(shù)據(jù)挖掘工具WEKA的非監(jiān)督過濾器(UnsupervisedFilter)下的Normalize規(guī)約發(fā)現(xiàn)，將整個數(shù)據(jù)集簡單的規(guī)約至[0,1]之間分類效果很差，經(jīng)過多次實驗結(jié)果對比規(guī)約至[0,10]區(qū)間內(nèi)更有利于支持向量機數(shù)據(jù)挖掘.該樣本集中每一個實例都對應(yīng)了一個病人的血流動力信息參數(shù)以及斑塊有無的診斷結(jié)果分類標記分別記做‘1’，‘-1’，Weka給出實例斑塊有無的診斷結(jié)果統(tǒng)計圖如圖2所示.

圖2 診斷結(jié)果統(tǒng)計圖

2.1.2 血流動力學(xué)參數(shù)屬性過濾

屬性選擇作為數(shù)據(jù)預(yù)處理的一種重要方法對數(shù)據(jù)進行約減，在頸動脈血流動力學(xué)參數(shù)數(shù)據(jù)集的12個屬性中，無關(guān)屬性會對分類器建立造成負面影響，通常只保留最為相關(guān)的屬性而去除冗余屬性[6]，這樣既提高了算法性能又加快了算法運行速度[7,8].對血流動力學(xué)數(shù)據(jù)集進行離散處理，利用增益比率評價方法對不同屬性與診斷之間的相關(guān)性進行評價.評價過程中采用Ranker搜索策略，可對每個屬性的相關(guān)值由高到低的進行排序，并根據(jù)設(shè)定的閾值過濾掉部分屬性.過對實驗結(jié)果分析，得到血流動力學(xué)屬性與頸動脈硬化斑塊診斷相關(guān)性大小的排序為VPI>IVmax/IVmin>VVmax/VVmin>VVmax>VRI>IRI>IVmax>ITAMAX>IPI>VTAMAX>IVmin>VVmin.

由于Ranker的閾值難以確定，無法準確過濾屬性，有時甚至過濾掉了能獲得更好分類效果的屬性子集，因此從相關(guān)性最小的屬性VVmin開始依次向相關(guān)性增大的方向移除屬性，形成13個屬性子集，包括屬性全集和空集，再用支持向量機進行驗證，通過評估在13個屬性子集上支持向量機的分類效果，來獲得相關(guān)性最高并且屬性個數(shù)最小的屬性子集.選取Kappa統(tǒng)計量、平均絕對誤差和均方根誤差進行評估，其中Kappa統(tǒng)計量的值越大在該屬性子集上的分類效果越好，而平均絕對誤差和均方根誤差則是數(shù)值越小分類器性能越好.以移除次數(shù)為橫坐標，3個評估參數(shù)大小為縱坐標繪制3條曲線,如圖3所示.

圖3 支持向量機對屬性子集評估結(jié)果

如上圖所示，從屬性全集開始，依次移除每個屬性后，獲得的第六個屬性子集{VPI，IVmax/IVmin,VVmax/VVmin,VVmax,VRI,IRI,IVmax}有最大的Kappa統(tǒng)計量以及最小的平均絕對誤差與均方根誤差，此時所建立的分類器具有最好的分類效果，因此，該屬性子集即為目標屬性子集，而這7個屬性是血流力學(xué)參數(shù)種與頸動脈硬化斑塊形成最為相關(guān)的屬性.

2.2 基于支持向量機的仿真實驗

2.2.1 支持向量機原理

支持向量機(support vector machines，SVM) 是由Vapnik等提出的一類新型數(shù)據(jù)挖掘算法[9,10]，它能利用線性分類器實現(xiàn)對非線性分類邊界的描繪，主要用于小樣本、非線性的分類和回歸，在一定程度上解決了過學(xué)習(xí)和維數(shù)災(zāi)難等問題，廣泛應(yīng)用于基因分類、人臉識別等領(lǐng)域中[11,12].SVM的基本思想是對于二分類線性可分數(shù)據(jù)產(chǎn)生一個超平面w·x+b=0，其中w為權(quán)值向量，x為輸入向量，b為偏置，超平面與樣本點之間的間隔稱為分離邊緣,如圖4所示.距離最優(yōu)超平面最近的實例稱為支持向量，支持向量是最難分類的數(shù)據(jù)點在支持向量機的運行中起著主導(dǎo)作用，SVM就是要找到使得分離邊緣最大，也就是利用支持向量所定義的最優(yōu)超平面，并且使樣本點位于其兩側(cè)，因此要確定分離邊緣最大時w和b的最優(yōu)值(w0,b0)，然而直接求得(w0,b0)不太可能，因此轉(zhuǎn)化為如下的約束優(yōu)化問題[13].

圖4 最優(yōu)超平面示意圖

對于給定的訓(xùn)練樣本

T={(x1,t1),…,(xp,tp)},p=1,2,…,p,xi∈Rn,tp∈(-1,1)

其中，tp∈(-1,1)為分類類別標識，為找到w0和b0，問題轉(zhuǎn)化為使其在

tp(w·xp+b)≥1,p=1,2，…,P

(1)

約束條件下有最小的代價函數(shù)：

(2)

該代價函數(shù)是w的凸函數(shù)，因而保證了局部最優(yōu)解一定是全局最優(yōu)解[14]，然后利用Lagrange系數(shù)法和KKT條件解得最優(yōu)超平面為：

(3)

對于非線性可分數(shù)據(jù)引入了松弛變量ξp≥0 與懲罰因子C，與線性可分類似約束條件變?yōu)椋?/p>

tp(w·xp+b)≥1-ξp,p=1,2，…,P

(4)

最小代價函數(shù)為：

(5)

不同的是，非線性可分模式分類需將輸入向量映射到一個高維特征向量空間，使大多數(shù)分線性可分模式在特征空間中可轉(zhuǎn)化為線性可分模式，在特征空間構(gòu)造最優(yōu)超平面時，僅使用特征空間中的內(nèi)積，根據(jù)泛函分析用滿足Mercer定理的核函數(shù)K(xp,x)，它就對應(yīng)了某一轉(zhuǎn)換空間的內(nèi)積[15]，因此，非線性可分的最優(yōu)超平面為：

(6)

常用的核函數(shù)K(xp,x)有線性核函數(shù)、多項式核函數(shù)、Sigmoid核函數(shù)等，以及徑向基核函數(shù)，分別定義為以下公式，即

K(xp,x)=x′*xp

(7)

K(xp,x)=[(x·xp)+1]q

(8)

K(xp,x)=tanh(k(x·xp)+1)

(9)

(10)

2.2.2 支持向量機參數(shù)優(yōu)化

上述公式(7)、(8)、(9)、(10)中，除公式(7)沒有參數(shù)，公式(8)需確定多項式核函數(shù)的最優(yōu)階數(shù)q，公式(9)中需確定Sigmoid核函數(shù)的寬度k，公式(10)中徑向基核函數(shù)的寬度2δ2.此外還有支持向量機自身參數(shù)懲罰因子c，要分別與上述參數(shù)進行組合來確定整個支持向量機的參數(shù)設(shè)置.當使用線性核函數(shù)時只需優(yōu)化懲罰因子c的值，所以使用Weka中的CVParameterSelection單個屬性優(yōu)化方法，將它在2-8～28之間按照步長為1進行搜索，得到最優(yōu)的c為0.943 6；使用多項式核函數(shù)時，對(q,c)參數(shù)對優(yōu)化時使用Weka中的網(wǎng)格搜索，將q在常用的1～10范圍內(nèi)，c在2-8～28內(nèi)按步長為1進行搜索，得到q、c最優(yōu)值為(3,0.999 9)；使用Sigmoid核函數(shù)時，對(k,c)在2-8～28內(nèi)進行同樣搜索得到的最優(yōu)值為(0.062 5、0.965 2)；當使用徑向基核函數(shù)時，對(2δ2，c)進行相同搜索得到最優(yōu)值為(0.157 9、0.910 5).

通過上述過程，在一定范圍內(nèi)確保了各個核函數(shù)參數(shù)與懲罰因子組合的最優(yōu)性，為建立支持向量機診斷分類器需選取其中能使支持向量機性能最優(yōu)的一組參數(shù)作為最終參數(shù)組合，將20折交叉驗證所得的平均絕對誤差做為評判標準，結(jié)果如表3所示.由表3可知，當使用徑向基核函數(shù)建立支持向量機時平均絕對誤差值分別低于線性、所項式以及Sigmoid核函數(shù)7.4%、0.4%、7.1%，所以選擇徑向基核函數(shù)建立支持向量機.

表3 核函數(shù)參數(shù)與平均絕對誤差

2.2.3 集成學(xué)習(xí)優(yōu)化

集成學(xué)習(xí)中有裝袋法與提升法兩種不同的方法可對分類器集成.裝袋法中生成的每個分類器彼此之間都是獨立的，而提升法中則是迭代的生成每個分類器并且生成過程中后一個都要受到前一個的影響，它還會為所生成的各個分類器賦予不同的權(quán)值大小.它們都是用投票法將多個單一分類器的結(jié)果綜合在一起.與提升法相比，裝袋法更側(cè)重用防止過度擬合的發(fā)生，而提升法更注重提高分類器的性能，為提高頸動脈硬化斑塊分類器的準確度采用提升法中最具代表性的Adaboost算法來對準確率進行改善，該算法的流程圖如圖5所示.在Adaboost算法中需要確定迭代次數(shù)，進行30次實驗并將平均絕對誤差作為評價標準，結(jié)果如圖6所示.由圖6可知，迭代次數(shù)為15次的時候，平均絕對誤差最小，最小值為0.242 8，在進行更多次的迭代時誤差值趨于平穩(wěn)，所以此時所建立的集成支持向量機的性能最優(yōu).

圖5 Adaboost算法流程圖

圖6 平均絕對誤差隨迭代次數(shù)變化圖

3 仿真結(jié)果

對仿真結(jié)果進行分析時，首先對BP算法與支持向量機算法結(jié)果進行比較；其次將默認參數(shù)與優(yōu)化后的參數(shù)進行對比；最后對集成優(yōu)化后的分類器性能進一步比較.評估方法都采用20折交叉驗證.

3.1 BP算法與支持向量機結(jié)果對比

將Weka中默認參數(shù)下的BP算法與默認參數(shù)下的支持向量機所得評估結(jié)果進行統(tǒng)計，結(jié)果如表4所示.由表4可以看出，支持向量機的分類準確率高于BP算法8.04%，平均絕對誤差、均方根誤差與相對均方根誤差低于BP算法8.1%、5.9%、16.56%，因此在頸動脈血流信息數(shù)據(jù)集上支持向量機的性能優(yōu)于BP算法.

表4 核函數(shù)參數(shù)與平均絕對誤差

3.2 參數(shù)優(yōu)化后結(jié)果對比

選擇徑向基核函數(shù)建立支持向量機時，Weka中參數(shù)2δ2與c默認值為(0,1)，優(yōu)化后的值為(0.157 9,0.910 5)，將二者的評估參數(shù)進行對比，結(jié)果如表5所示.由該表可知，默認值時的平均絕對誤差、均方根誤差與相對均方根誤差分別高于優(yōu)化后的參數(shù)3.5%、12.5%、6.1%，因此通過網(wǎng)格搜索后參數(shù)的確得到了優(yōu)化.但只是參數(shù)優(yōu)化對分類器的性能提升并不顯著，所以進行集成優(yōu)化.

表5 核函數(shù)參數(shù)與平均絕對誤差

3.3 集成優(yōu)化后結(jié)果對比

將優(yōu)化前單個支持向量機與優(yōu)化后集成支持向量機的評估參數(shù)進行統(tǒng)計，結(jié)果如表6所示.由表6可知，集成向量機正確分類率提高了17.3%，平均絕對誤差降低了17.5%、均方根誤差降低了10.1%，而相對均方根誤差減少了34.01%.經(jīng)過對比分析發(fā)現(xiàn)，對單個支持向量機集成優(yōu)化后所建立的診斷分類器的各項誤差值均有所降低.

表6 單個與集成支持向量機的評估參數(shù)

醫(yī)學(xué)診斷性試驗的質(zhì)量通常用敏感性和特異性來衡量.敏感性是指在患病的人群中診斷結(jié)果是肯定的比例，特異性是指在沒有病的人群中診斷結(jié)果是否定的比例，分別表示為公式(11)、(12).

FP/(FP+TN)

(11)

TN/(FP+TN)

(12)

式中：TN為正確的肯定,FP為錯誤的否定.

以敏感性為縱軸,特異性為橫軸，將單個支持向量機與集成支持向量機的頸動脈硬化斑塊診斷分類器的ROC曲線(Receiver Operating Characteristic Curve)同時繪制在圖7中，曲線下面積記為AUC，當AUC>0.5時，AUC越接近于1，說明診斷效果越好;當且僅當AUC>0.5∧AUC<1時，分類器才是有價值的;AUC在0.9以上時分類器較準確.單個支持向量機的曲線下面積AUC=0.572，集成支持向量機的曲線下面積為AUC=0.75，進一步說明了集成優(yōu)化后分類器性能得到了提高,并且該分類器具有一定的價值，而頸動脈血流動力學(xué)參數(shù)與頸動脈硬化斑塊的形成有著密切聯(lián)系.

圖7 單個與集成支持向量機ROC曲線

4 結(jié)論

支持向量機可以實現(xiàn)對頸動脈血流動力學(xué)參數(shù)的信息融合與分析，在分類器建立過程中，經(jīng)過屬性過濾得到了血流動力學(xué)信息集中與頸動脈硬化斑塊形成最為相關(guān)的屬性子集.在使用支持向量機建立分類器時用窮盡的思想在一定范圍內(nèi)對其核函數(shù)參數(shù)與懲罰因子經(jīng)過選擇優(yōu)化，發(fā)現(xiàn)分類器性能有所提高，而后通過集成優(yōu)化使得分類器的性能得到了很大的提升.通過所建分類器可知，頸動脈硬化斑塊的形成與頸動脈血流動力學(xué)參數(shù)有著密切的關(guān)系，在臨床中雖不能僅憑血流動力學(xué)參數(shù)做出診斷，但也應(yīng)當充分考慮血流動力學(xué)參數(shù)帶來的影響.

[1] 白志勇,李敬府,楊玉杰,等.頸動脈粥樣硬化斑塊超聲造

影特征分析[J].中國超聲醫(yī)學(xué)雜志,2011,27(11):994-996,1 044.

[2] 楊 鑫.三維超聲圖像中頸動脈粥樣硬化的表型量化與分析[D].武漢：華中科技大學(xué),2013.

[3] 孫海燕,黃品同,黃福光,等.超聲造影評價頸動脈粥樣硬化斑塊的初步研究[J].中華超聲影像學(xué)雜志,2007,16(3):219-221.

[4] 諸 毅.超聲頸動脈血流量測量系統(tǒng)設(shè)計[D].上海：復(fù)旦大學(xué),2004.

[5] 郭 翌.超聲信息分析及其在動脈粥樣硬化判別中的應(yīng)用[D].上海：復(fù)旦大學(xué),2008.

[6] Alagugowri.S,D R.T.Christopher.Enhanced heart disease analysis and prediction system [EHDAPS] using data mining[J].International Journal of Emerging Trends in Science and Technology,2014,9(1):1 555-1 556.

[7] Kennethr,Robertk,Joseph.Machine learning,medical diagnosis,and biomedical engineering research-commentary[J].Biomedical Engineering OnLine,2014,13(1):94-103.

[8] Golino H F,Amaral L S B,Duarte S F P,et al.Predicting increased blood pressure using machine learning[J].Journal of Obesity,2014,6(2):99-103.

[9] 顧成揚,吳小俊.基于EST和SVM的乳腺癌識別新方法[J].計算機工程與應(yīng)用,2011,47(8):183-185,193.

[10] Jose M,Pablo E,Carlo B,et al.Prediction of the hemoglobin level in hemodialysis patients using machine learning techniques[J].Computer Methods and Programs in Biomedicine,2014,117(2):208-217.

[11] 顧亞祥,丁世飛.支持向量機研究進展[J].計算機科學(xué),2011,38(2):14-17.

[12] Mattia C F Prosperi,Susana Marinho.Predicting phenotypes of asthma and eczema with machine learning[J]. BMC Medical Genomics,2014,7(1):82-88.

[13] 丁世飛,齊丙娟,譚紅艷,等.支持向量機理論與算法研究綜述[J].電子科技大學(xué)學(xué)報,2011,40(1):1-10.

[14] 程 然.最小二乘支持向量機的研究和應(yīng)用[D].哈爾濱：哈爾濱工業(yè)大學(xué),2013.

[15] 楊雯斌.支持向量機在大規(guī)模數(shù)據(jù)中的應(yīng)用研究[D].上海：華東理工大學(xué),2013.

【責任編輯：蔣亞儒】

Research on carotid atherosclerotic plaque diagnosis basd on SVM

YANG Yun, DONG Xue, QI Yong

(College of Electrical and Information Engineering, Shaanxi University of Science & Technology, Xi′an 710021, China)

There is an important link between human carotid artery hemodynamic data and carotid atherosclerotic plaque formation, the hemodynamic data has high dimension and nonlinear attributes. The support vector machine algorithm has significant advantages in overcoming the curse of dimensionality and nonlinear data processing. Based on this algorithm. Firstly, the most relevant attributes subset of the hemodynamic data is obtained through many experiments. Secondly, the parameters of the cost and the kernel functions are selected and optimized. The results show that the classifier performance has improved, but not obviously. The accuracy is only 58.2%. And then through the ensemble learning the accuracy increased by 17.3%, and the final classification accuracy is 75.5%, the established diagnostic model can provide some references for clinical treatment.

SVM; carotid angiosclerosis plaque； classifier optimization； classifier performance

2016-04-20

陜西省科技廳科學(xué)技術(shù)研究發(fā)展計劃項目(2014K15-03-06)； 西安市科技計劃項目 (NC1403(2)，NC1319(1))

楊 云 (1965-)，女，陜西咸陽人，教授，博士，研究方向:數(shù)據(jù)倉庫與數(shù)據(jù)挖掘

1000-5811(2016)05-0162-06

TP391.9

A