劉朝強，秦麗娟，班允強

（沈陽理工大學信息科學與工程學院，遼寧沈陽110159）

基于Tri-training的圖像多特征融合目標分類

劉朝強，秦麗娟，班允強

（沈陽理工大學信息科學與工程學院，遼寧沈陽110159）

在對目標進行分類識別過程中，對其特征的有效提取直接影響最后分類的精度。針對此類問題，提出了基于Tri-training算法對圖像進行多特征融合分類，通過利用Principal Component Analysis（PCA）主成分分析法，并結(jié)合目前比較實用的半監(jiān)督學習Tri-training算法對圖像顯著目標進行分類，其中Tri-training算法是以Support Vector Machine（SVM）、Na?ve Bayes（NB）、Back Propagation（BP）為基分類器，將圖像的多特征數(shù)據(jù)值作為圖像在Tri-training分類器的輸入對分類器進行訓練和測試。實驗表明，在進行了有效的預處理之后，再對樣本進行多特征融合在一定程度上明顯提高了分類精度。

分類器；多特征融合；半監(jiān)督；顯著目標

0 引言

半監(jiān)督學習是近年來提出的一種新的學習策略，它不僅有效結(jié)合了監(jiān)督學習和非監(jiān)督學習的優(yōu)點，而且完善了它們的不足。它通過同時使用標記樣本和未標記樣本的數(shù)據(jù)，然后利用未標記樣本的信息數(shù)據(jù)來幫助其建立學習模型，使其可以獲得很好的學習泛化性能和學習效果。所以在近年來該理論及其算法得到快速的發(fā)展和應用，Blum和Mitchell提出的Co-training算法[1]，通過使用兩個不同的分類器來實行協(xié)同訓練，然后再將單個分類器所產(chǎn)生的新標記數(shù)據(jù)加入到另一個分類器中，通過迭代的方法，不停地擴充有標記樣本集并反復訓練。但是該算法不僅要求其數(shù)據(jù)屬性可以分為兩個不同的子集，而且要求其中每個子集能獨立訓練產(chǎn)生出分類器，所以在實際應用中很難得到滿足。Zhou等人提出的Tritraining算法[1]，它沒有充分冗余視圖的局限，同時也不需要采用不同的分類方法，其實用性更廣。將Co-training算法和Tri-Training算法結(jié)合的SVM分類方法，也可以獲得很好的分類精度。

為了提高對圖像中顯著目標的分類精度，本文提出了基于Tri-training算法對目標進行多特征融合分類的方法，首先對圖像中的目標進行預處理，消除圖像中的噪聲干擾，同時有效克服其強度敏感性。然后在此基礎上分別提取中心矩特征，仿射不變矩特征以及其灰度共生矩特征，然后再利用PCA方法將以上特征融合，最后基于Tri-training算法進行分類。

1 特征提取

1.1 數(shù)據(jù)預處理

在對圖像數(shù)據(jù)實行有效的預處理過程中，一般主要對其實行去噪處理。本文主要利用小波方法對圖像實行有效的降噪處理。小波變換降噪方法通過將數(shù)據(jù)變換到其小波域中，然后再利用小波分解獲得的高頻系數(shù)將其去除，最后再對圖像信號進行小波反變換來達到降噪目的。其公式如下：

其中g(shù)（x，y）為要得到的理想圖像，f（x，y）為輸入圖像，n（x，y）為噪聲，通過頻域變化將噪聲去除就得到了想要的理想圖像。

1.2 圖像中心矩特征提取

假設x={x（i），i=0，1，2，…，I-1}表示距離像幅度，其中x（i）為第i+1個距離單元的回波幅度，I為距離單元的個數(shù)，然后對其歸一化處理可得：所以x={x（i），i= 0，1，2，…，I-1}可以被當作一個離散概率分布函數(shù)。N（i）的J階中心矩WJ可表示為：

其中中心矩WJ的幅度與階數(shù)關(guān)系為遞增關(guān)系，為了能夠有效地抑制指數(shù)增長造成的影響，一般通過對中心矩作極差變換來達到消除數(shù)量級造成干擾的目的。在對中心矩特征作向量極差變換時，實質(zhì)上是做了歸一化處理，從而有效地解決了特征不在同一個數(shù)量級的問題。所以可得其中心矩特征為f=[f（1），f（2），…，f（J-1）]，其中J表示中心矩的最高階數(shù)。

1.3 圖像灰度共生矩陣特征提取

灰度共生矩陣一般定義為從灰度級為i的點離開某個固定位置關(guān)系d=（Dx，Dy）達到灰度為j的概率。這里用Pd=（i，j）（i，j=0，1，2，…，L-1）來表示灰度共生矩陣。其中L指圖像的灰度級，i，j分別表示像素的灰度。圖像中像素間的距離和方向由d的值決定。θ為灰度共生矩陣的生成方向，通常取0°，45°，90°和135°四個方向。灰度共生矩陣的像素對如圖1所示。

圖1 灰度共生矩陣的像素對

當選定像素間位置關(guān)系d后，就能基于關(guān)系d生成灰度共生矩陣[2]。

1.4 圖像仿射不變特矩特征提取

一般二維仿射線性變換的數(shù)學變換模型可表示為：

假設p是坐標平面上任一點，p′點是其仿射線性變換對應點，變換后坐標系下的兩點坐標可表示為（x，y）0）的尺度變換

如果通過歸一化中心矩來獲得仿射不變矩，只需要合適的扭曲不變性和拉伸不變性就可以實現(xiàn)仿射變換的不變性。通過利用構(gòu)造的中心矩多項式方法，可達到消除仿射變換矩A的目的，這樣就能實現(xiàn)一般情況下的仿射不變性。這里是利用Jan Flusser等人構(gòu)造的六個仿射不變矩變量來作為目標圖像的特征不變量[3]。

因此，矩陣A可表示為：

2 特征融合

PCA的基本思想是用一組維數(shù)最少的特征以最精確的方式描述原始樣本特征[4-5]。仿真實驗中從圖像中提取三種有效特征，然后使用主成分分析法再將三種特征融合成一種綜合特征對目標進行分類。實驗取每類樣本100張圖片，一共兩類樣本數(shù)據(jù)，其中每一組樣本數(shù)據(jù)中包含7維中心矩特征、6維仿射不變矩特征以及3維灰度共生矩特征。將上述三種特征生成一個16維的特征向量為x=（φ1，φ2，…，φ16）T，那么由200個特征向量構(gòu)成的特征矩陣為X=（x1，x2，…，x200），其中向量xk表示第k張樣本圖像的中心矩特征，仿射不變矩特征及灰度共生矩特征組成列向量。實驗仿真中先將三種特征數(shù)據(jù)進行串聯(lián)，然后通過PCA來將串聯(lián)后的數(shù)據(jù)進行有效的融合。目的有兩方面：一是將三種特征數(shù)據(jù)中的相關(guān)性消除；二是將三種特征數(shù)據(jù)從高維矢量降為低維矢量。

3 基于Tri-training的圖像目標分類

基于Tri-training算法的多特征融合圖像分類流程圖如圖2所示。將圖像數(shù)據(jù)轉(zhuǎn)換成算法程序能夠處理的數(shù)據(jù)格式（xls文件）并輸入到Tri-training算法的MATLAB程序中，由算法進行樣本集的劃分。當完成初始的三種基分類器之后，按百分比輸入已標記樣本，然后通過三個基分類器對未標記樣本進行相互標記以獲得置信度高的樣本，再加入到已標記樣本中進行模型的訓練。以此迭代直至結(jié)束，最后獲得由三個基分類器組成的集成分類器。在測試階段，通過三個分類器分別對測試樣本集進行有效的分類，使用多數(shù)投票法來獲得最后的分類結(jié)果。

圖2 基于Tri-training算法的多特征融合圖像分類流程圖

Tri－training分類算法流程圖如圖3所示。Tri－training[4]算法采用三個基分類器，再通過隨機采樣算法bootstrap來獲得存在差異的訓練數(shù)據(jù)子集，從而能夠有效地保證基分類器之間的差異性。在Tri－training訓練結(jié)束后，采用多數(shù)投票法對三個分類器進行集成，得到最終的分類器進行分類。

4 實驗結(jié)果與分析

圖3 Tri－training分類算法流程圖

本文中選取飛機和越野車各100張照片作為實驗數(shù)據(jù)，首先提取圖像的中心矩特征、放射不變矩特征和灰度共生矩特征，再將這些數(shù)據(jù)融合得到一個多特征數(shù)據(jù)來作為Tri-training分類器的輸入數(shù)據(jù)，實驗中基于MATLAB 7.0平臺進行仿真。部分樣本如圖4所示。

圖4 部分樣本圖

4.1 樣本分配

選用25%的特征數(shù)據(jù)作為測試樣本集，剩余的75%作為訓練樣本集。在訓練樣本集中，未標記樣本的比例依次選用80%，60%，40%和20%進行測試和比較。Tritraining算法中采用了SVM，NB，BP作為分類器。

4.2 算法的性能評價標準

采用算法對于測試集的分類錯誤率作為分類器的評價指標。

其中，E是算法分類錯誤率，Ncorrect是分類正確的樣本數(shù)目，N是總樣本數(shù)。

4.3 實驗結(jié)果

實驗中對未標記樣本的比例依次選用80%，60%，40%和20%進行測試和比較，結(jié)果如圖5～圖12所示。以下各圖中，（a）為PCA融合得到的方差圖，（b）為訓練之后與最優(yōu)線的比較，（c）是最后分類的精度。

圖5 飛機20%未標記樣本

圖7 飛機60%未標記樣本

圖8 飛機80%未標記樣本

圖9 越野車20%未標記樣本

圖10 越野車40%未標記樣本

圖11 越野車60%未標記樣本

圖12 越野車80%未標記樣本

表1是在4種不同百分比下未標記樣本的半監(jiān)督學習（PCA+Tri-training）與對應的PCA特征融合分類錯誤率的比較。

從表1中可以看出，當標記的樣本比較多時，PCA多特征融合法與基于Tri-training算法的PCA多特征融合法的分類精度差不多，但是當樣本開始減少時，就能看出兩種方法的差異性，所以在少數(shù)樣本情況下第二種方法更實用，分類精度更高，操作性很強。

表1 分類精度對比（%）

5 結(jié)束語

本文主要是將機器學習領(lǐng)域的Tri-training半監(jiān)督學習方法應用在圖像的顯著目標分類，并基于Tri-training算法提出了與多特征融合相結(jié)合的圖像分類方法，通過有效地將圖像的中心矩特征、仿射不變矩特征和灰度共生矩特征進行融合，利用SVM，NB，BP三個基分類器進行協(xié)同訓練，達到了很好的分類效果。仿真結(jié)果表明其在小樣本分類中具有很好的分類效果。

[1]周志華.機器學習及其應用2007[M].北京：清華大學出版社，2007.

[2]陸麗珍，劉仁義，劉南.一種融合顏色和紋理特征的遙感圖像檢索方法[J].中國圖象圖形學報，2004，9（3）：328-332．

[3]楚稼，張桂林.基于顏色和邊緣信息融合的背景建模方法[J].計算機工程，2008，34（4）：42-45．

[4]LOWE D G.Distinctive image features from scale invariant key points[J].In Journal of Computer Vision，2004，60（2）：91-110.

[5]謝輝，陸月明，孫松林.基于半監(jiān)督學習的一種圖像檢

索方法[J].計算機應用研究，2013，30（7）：2210-2212．

Target classification of image feature fusion based on the Tri-training

Liu Zhaoqiang，Qin Lijuan，Ban Yunqiang
（School of Information Science and Engineering，Shenyang Ligong University，Shenyang 110159，China）

In the process of target classification and recognition，the characteristics of the effective extraction affects the final classification accuracy directly.Aiming at such problems，the algorithm is proposed for image feature fusion classification which is based on Tri-training.It uses Principal Component Analysis（PCA）and combined with the practical semi-supervised Tri-training algorithm for target classification significantly.The Tri-training algorithm is based on Support Vector Machine（SVM），Na?ve Bayes（NB），Back Propagation（BP）as the classifier.The features of the image data value are used as the input image in the Tri-training classifier for classifier for training and testing.Experimental results show that the method can improve the classification accuracy，which make the samples multiple features fusion in a certain extent after the effective pretreatment.

classifier；multiple feature fusion；semi-supervised；significant target

TP751.1

A

1674-7720（2015）19-0043-04

劉朝強，秦麗娟，班允強.基于Tri-training的圖像多特征融合目標分類[J].微型機與應用，2015，34（19）：43-46.

2015-05-11）

劉朝強（1989-），男，在讀碩士研究生，主要研究方向：自適應信號處理。

秦麗娟（1978-），女，博士，副教授，主要研究方向：計算機視覺智能計算、虛擬實現(xiàn)系統(tǒng)、機器人控制理論等。

班允強（1986-），男，在讀碩士研究生，主要研究方向：自適應信號處理。