匡遜君，趙文倩，李明富

（湘潭大學(xué) 機(jī)械工程學(xué)院，湘潭 411105）

為了實(shí)現(xiàn)機(jī)械零件的分類識(shí)別，本文采用了不變矩與支持向量機(jī)(SVM)相結(jié)合的方法。提取了圖像的HU不變矩和仿射不變矩，通過(guò)交叉驗(yàn)證算法進(jìn)行SVM核參數(shù)和懲罰因子的參數(shù)尋優(yōu)，為了提高SVM分類器的分類性能，采用有向無(wú)環(huán)圖（DAG）方法設(shè)計(jì)多類分類器，實(shí)現(xiàn)了零件的分類。通過(guò)實(shí)驗(yàn)驗(yàn)證了本文提出的算法并對(duì)實(shí)驗(yàn)結(jié)果進(jìn)行了分析。

HU不變矩；仿射不變矩；SVM；零件分類；有向無(wú)環(huán)圖

0 引言

計(jì)算機(jī)視覺(jué)研究的目標(biāo)是使計(jì)算機(jī)具有通過(guò)二維圖像認(rèn)知三維物體及周邊環(huán)境信息的能力，包括識(shí)別三維物體的幾何形狀、位置、運(yùn)動(dòng)、姿態(tài)等。機(jī)械零件的分類識(shí)別是計(jì)算機(jī)視覺(jué)在機(jī)械領(lǐng)域一個(gè)很重要的應(yīng)用，它是機(jī)械加工制造自動(dòng)化的基礎(chǔ)，能夠大大提高機(jī)械加工生產(chǎn)的效率，將人從繁重的勞動(dòng)中解救出來(lái)，大大降低時(shí)間和成本。為了保障圖像分類識(shí)別的準(zhǔn)確性和可靠性，我們希望其特征具有良好的不變性。因此，圖像不變性特征研究成為了計(jì)算機(jī)視覺(jué)研究的重點(diǎn)之一。Hu[1]提出了圖像的不變矩概念，這些不變矩具有旋轉(zhuǎn)、平移、比例不變性,在目標(biāo)分類、圖像識(shí)別、形狀分析和圖像匹配等領(lǐng)域得到了廣泛的應(yīng)用; D.Shen等[2]提出了基于小波變換的特征提取方法—小波矩不變量，Jan Flusser[3]提出了仿射不變量，并將它們應(yīng)用于圖像和字符的分類識(shí)別，得到了很好的效果。本文提取了零件圖像的HU不變矩和仿射不變矩的組合矩，并將它們應(yīng)用于零件的分類。實(shí)際的圖像分類研究應(yīng)用中，訓(xùn)練樣本較少而且特征維數(shù)很高，導(dǎo)致大部分機(jī)器學(xué)習(xí)分類器不能很好的解決圖像分類問(wèn)題。以小樣本統(tǒng)計(jì)學(xué)習(xí)理論為基礎(chǔ)的支持向量機(jī)SVM擁有很好的泛化能力，對(duì)于訓(xùn)練樣本較少的情況也能夠達(dá)到很好的分類效果，因而，SVM很適用于圖像的分類。近年來(lái)也被廣泛應(yīng)用于圖像分類、人臉識(shí)別、文本分類、手寫(xiě)體識(shí)別等領(lǐng)域并取得顯著的分類效果。本文的機(jī)械零件的分類問(wèn)題實(shí)際上是一個(gè)典型的小樣本學(xué)習(xí)問(wèn)題，因此本文利用SVM，結(jié)合提取的組合不變矩，來(lái)實(shí)現(xiàn)零件的分類識(shí)別。

1 HU 不變矩和仿射不變矩

矩特征表征了圖像區(qū)域的幾何特征,又稱為幾何矩，因其具有旋轉(zhuǎn)、平移、尺度等特性的不變特征，所以又將其稱為不變矩。在圖像處理中，圖像不變矩可作為一個(gè)重要特征來(lái)描述物體，可以據(jù)此特征來(lái)對(duì)圖像進(jìn)行分類識(shí)別等操作。Hu于1962年首先提出了基于直角坐標(biāo)系的規(guī)則矩概念，提出了連續(xù)函數(shù)矩的定義同時(shí)給出了關(guān)于矩的基本性質(zhì)，證明了有關(guān)矩的旋轉(zhuǎn)、平移以及比例不變性等性質(zhì)，給出了具有平移、旋轉(zhuǎn)和比例不變性的七個(gè)不變矩表達(dá)式：

目標(biāo)識(shí)別最關(guān)鍵、最困難的問(wèn)題之一是如何從任意尺度和視角所獲取的同一場(chǎng)景的圖像中提取不變的特征。在現(xiàn)實(shí)場(chǎng)景下，天氣、距離、攝像設(shè)備、視覺(jué)角度都會(huì)影響物體成像。當(dāng)從不同的角度拍攝是，三維物體會(huì)發(fā)生變形，也就是仿射變換，這時(shí)只用HU不變矩反映目標(biāo)物體的特征是不夠的。仿射變換被證明是模擬圖像視點(diǎn)變換的最佳方法[4]。Jan Flusser等提取了仿射不變矩作為特征并證明在物體圖像發(fā)生平移、比例、旋轉(zhuǎn)、傾斜變化下仍具有不變性：

2 基于有向無(wú)環(huán)圖(DAG)的支持向量機(jī)SVM分類算法

2.1 支持向量機(jī)SVM

支持向量機(jī)法(Support Vector Machine,簡(jiǎn)稱SVM)是vapnik[5]等人在1995年基于統(tǒng)計(jì)學(xué)習(xí)理論基礎(chǔ)上提出的一種新的機(jī)器學(xué)習(xí)方法。與一般的分類器不同的是，SVM是基于結(jié)構(gòu)風(fēng)險(xiǎn)最小化準(zhǔn)則的分類器。通過(guò)適當(dāng)?shù)剡x擇函數(shù)的子集以及該子集中的判別函數(shù)，依據(jù)有限樣本信息，在模型的復(fù)雜性與學(xué)習(xí)能力之間尋求最佳折中，使實(shí)際風(fēng)險(xiǎn)達(dá)到最小化以及得到最好的泛化性能力。對(duì)于非線性可分的問(wèn)題，SVM采用非線性映射方法，將特征空間由低維映射到高維，來(lái)實(shí)現(xiàn)樣本的分類。在分類的過(guò)程中，只需使用適當(dāng)核函數(shù)K(xi, x)，就可以避免求解非線性映射函數(shù)的具體形式，同時(shí)在運(yùn)算中，也巧妙的解決了高維空間計(jì)算帶來(lái)的“維數(shù)災(zāi)難”問(wèn)題。因此，選擇滿足Mercer條件下的不同的內(nèi)積核函數(shù)，就可以構(gòu)成不同的SVM。目前研究最多的核函數(shù)有：

多項(xiàng)式函數(shù):K(x, xi)=(v〈x+xi〉+1)q

徑向基RBF函數(shù)：K(x, xi)=exp(-g‖ Xi-Xj‖2)

S 形函數(shù)：K(x, xi)=tanh(v+〈xi+x〉+c)

在這三種核函數(shù)中，徑向基RBF函數(shù)對(duì)于高維、低維、大樣本、小樣本等情況都適用，并且具有較寬的收斂域,是較理想的分類依據(jù)函數(shù)[6]。因此本文將選用徑向基RBF函數(shù)作為SVM的核函數(shù)來(lái)進(jìn)行零件的分類。

2.2 基于有向無(wú)環(huán)圖的SVM分類算法

SVM最初是針對(duì)兩類問(wèn)題提出的，由于本文要實(shí)現(xiàn)多類零件的分類，因此需要通過(guò)構(gòu)造多個(gè)SVM二類分類器并將它們組合起來(lái)實(shí)現(xiàn)多類分類。本文將采用有相無(wú)環(huán)圖方法DAG（Directed Acyclic Graph)將多個(gè)SVM二類分類器組合起來(lái)實(shí)現(xiàn)樣本的分類，這里把這種方法稱為DVGSVM，其結(jié)構(gòu)圖如圖1所示。

圖1 DAGSVM分類結(jié)構(gòu)圖

對(duì)于一個(gè)n類的分類問(wèn)題，DAG結(jié)構(gòu)共含有n(n-1)個(gè)節(jié)點(diǎn)，每一個(gè)節(jié)點(diǎn)就是一個(gè)分類器，對(duì)應(yīng)n(n-1)個(gè)分類器，分布于n層結(jié)構(gòu)中。對(duì)于給定的輸入樣本X，從根節(jié)點(diǎn)出發(fā)，然后計(jì)算每個(gè)節(jié)點(diǎn)決策函數(shù)值，如果為1，則從左邊進(jìn)入下一節(jié)點(diǎn)，如果為-1，則從右邊進(jìn)人到下一個(gè)節(jié)點(diǎn)，然后計(jì)算下一個(gè)節(jié)點(diǎn)的值，依此類推，在最后一層葉節(jié)點(diǎn)處的輸出就是X的類別，只需n-1次運(yùn)算就能夠得出分類的結(jié)果。DAGSVM方法與一般的決策樹(shù)方法相比，簡(jiǎn)單直觀、分類的精度高、重復(fù)訓(xùn)練樣本少。

3 基于不變矩和DAGSVM的機(jī)械零件分類

要利用DAGSVM實(shí)現(xiàn)機(jī)械零件的分類，先要訓(xùn)練分類器。因此，首先要采集一定數(shù)量的機(jī)械零件樣本圖像作為訓(xùn)練樣本并提取其不變矩作為分類器的訓(xùn)練數(shù)據(jù)。對(duì)訓(xùn)練樣本進(jìn)行標(biāo)號(hào)并作為對(duì)應(yīng)訓(xùn)練樣本的訓(xùn)練目標(biāo)，進(jìn)行訓(xùn)練。訓(xùn)練的結(jié)果就是要在DAGSVM特征空間中形成由支持向量描述的分類超平面，將各類別之間的特征空間劃分開(kāi)來(lái)。訓(xùn)練完成后，就得到了DAGSVM分類器。然后就可以將待分類的機(jī)械零件樣本的不變矩特征輸入到DAGSVM分類器，分類過(guò)程中，待分類零件樣本的不變矩特征落入哪個(gè)類別訓(xùn)練樣本所對(duì)應(yīng)的特征空間的范圍，就表明該樣本屬于該類別，從而實(shí)現(xiàn)了分類。

DAGSVM機(jī)械零件分類的實(shí)現(xiàn)過(guò)程如下：

1）采集一定數(shù)量的零件圖像，將其分為訓(xùn)練樣本和待分類樣本，并分別提取其HU不變矩和仿射不變矩，作為樣本的特征。

2）構(gòu)造K(K-1)個(gè)分類器，每個(gè)分類器取任意2個(gè)零件類別樣本進(jìn)行訓(xùn)練，K為待分類樣本的類別數(shù)。該階段就是通過(guò)對(duì)樣本的訓(xùn)練，獲得最優(yōu)分類函數(shù)：

式中K(xi, x)為核函數(shù)，本文選用的是徑向基RBF函數(shù)，xi為訓(xùn)練樣本集，x為待分類的樣本，yi是樣本的類別標(biāo)記，n為訓(xùn)練樣本個(gè)數(shù)，SV為支持向量。

3）采用DAGSVM方法構(gòu)造零件分類的多分類器。

4）將待分類零件樣本的特征向量輸入3)得到的多分類器模型，輸出的結(jié)果即為零件的類別。

4 機(jī)械零件分類實(shí)驗(yàn)

該實(shí)驗(yàn)選用工廠環(huán)境下拍攝的5類機(jī)械零件共90張圖像進(jìn)行分類識(shí)別。如圖2所示，圖上零件從左至右依次是：螺母、螺栓、齒輪、軸和螺柱。

圖2 實(shí)驗(yàn)用零件圖像

選取90張機(jī)械零件圖像中的59張作為訓(xùn)練樣本，進(jìn)行預(yù)處理，得到二值化圖像。再提取其HU不變矩和仿射不變矩作為樣本特征。將交叉驗(yàn)證算法應(yīng)用于樣本特征空間，進(jìn)行參數(shù)尋優(yōu)，得到最優(yōu)的（g,C）參數(shù)組合，然后通過(guò)訓(xùn)練得到分類器。最后將待分類樣本輸入SVM分類器進(jìn)行分類，其具體流程如圖3所示。

圖3 基于不變矩和SVM的機(jī)械零件分類分類流程圖

4.1 圖像預(yù)處理與不變矩的提取

實(shí)驗(yàn)中對(duì)采集的圖像進(jìn)行灰度化，圖像增強(qiáng)，濾波處理后，再采用自適應(yīng)閾值算法進(jìn)行閾值處理得到樣本的二值圖像，如圖4所示，然后再提取每一幅圖像的7個(gè)HU不變矩和3個(gè)仿射不變矩，以圖2中零件為例的不變矩如表1所示。

圖4 零件樣本的二值化圖像

4.2 核參數(shù) g 和誤差懲罰因子C 的確定

Vapnik 等[7]人的研究證明：SVM性能好壞與所選擇的核函數(shù)的類別關(guān)系不大，核函數(shù)參數(shù)和誤差懲罰因子才是影響SVM性能的最關(guān)鍵因素。本文選擇RBF函數(shù)作為核函數(shù)來(lái)設(shè)計(jì)分類器。對(duì)RBF核函數(shù)，其需要是尋找最佳的核參數(shù)g和誤差懲罰因子C，其中核參數(shù)g是徑向基核函數(shù)的寬度參數(shù)，懲罰因子C用于控制模型復(fù)雜度和逼近誤差的折中。

表1 提取的圖像的不變矩

實(shí)質(zhì)上，SVM參數(shù)選擇的問(wèn)題，就是一個(gè)優(yōu)化的問(wèn)題。目前存在的SVM參數(shù)尋優(yōu)算法有：交叉驗(yàn)證法、實(shí)驗(yàn)試湊法、網(wǎng)格搜索法、遺傳算法和梯度下降法等等[8]。

本文選取交叉驗(yàn)證算法來(lái)確定SVM核參數(shù)g和誤差懲罰因子C參數(shù)。算法過(guò)程為：將訓(xùn)練樣本數(shù)據(jù)分成K個(gè)相等子集，每次將K-1個(gè)子集作為SVM訓(xùn)練數(shù)據(jù)，而將另外一份數(shù)據(jù)作為測(cè)試數(shù)據(jù)。針對(duì)懲罰因子C和不同的核參數(shù)，計(jì)算剩余那一個(gè)子集的分類正確率。系統(tǒng)根據(jù)分類率的高低自動(dòng)調(diào)整懲罰因子C的值，通過(guò)上述算法選擇分類正確率最高的參數(shù)組合作為模型的最優(yōu)參數(shù)，獲得最佳的（g,C）參數(shù)組合。

將交叉驗(yàn)證算法應(yīng)用于零件樣本數(shù)據(jù)，在軟件Libsvm 2.86上實(shí)現(xiàn)過(guò)程如圖5所示。

圖5 參數(shù)選擇結(jié)果圖

通過(guò)交叉驗(yàn)證算法計(jì)算結(jié)果，最終確定參數(shù)（2, 0.35355）為最優(yōu)的（g,C）參數(shù)組合，對(duì)應(yīng)圖中坐標(biāo)點(diǎn)（-1.5,1），并以此來(lái)實(shí)現(xiàn)零件的分類。

圖6 DAGSVM零件多分類器結(jié)構(gòu)圖

4.3 DAG SVM零件多類分類器

要實(shí)現(xiàn)5類零件的分類，依據(jù)DAGSVM分類算法，如圖6所示設(shè)計(jì)多分類器。圖中SVM1、SVM2、SVM3、SVM4、SVM5、SVM6分別代表螺母VS螺柱、螺栓VS螺柱、螺母VS軸、齒輪VS螺柱、螺栓VS軸、螺母VS齒輪的2類分類器。在確定了RBF核函數(shù)和（g,C）參數(shù)組合后，選擇每個(gè)2類分類器對(duì)應(yīng)的兩個(gè)類別的零件樣本進(jìn)行訓(xùn)練，便可以得到圖6中所有的分類器。

4.4 實(shí)驗(yàn)結(jié)果

利用不變矩和圖6中DAG SVM分類器對(duì)零件進(jìn)行分類的結(jié)果如表2所示。

表2 實(shí)驗(yàn)分類結(jié)果

從上面的實(shí)驗(yàn)結(jié)果來(lái)看，對(duì)5類零件的分類識(shí)別達(dá)到了較為理想的效果，但也存在誤判，經(jīng)過(guò)進(jìn)一步的分析發(fā)現(xiàn)，影響分類正確率的主要原因有：

1） 實(shí)驗(yàn)用的零件大多來(lái)自工廠現(xiàn)場(chǎng)，零件表面都有較大程度的磨損、擦傷和油污，這影響到了圖像二值化時(shí)的分割效果，提取的不變矩不能精確描述圖像的特征，一定程度上影響了分類正確率。

2）由于條件限制，拍攝的機(jī)械零件訓(xùn)練樣本圖像不夠充足，對(duì)分類器的性能造成了一定的影響。

3）DAG SVM方法具有分類速度快、易于計(jì)算、學(xué)習(xí)效果好等優(yōu)點(diǎn)的同時(shí)，也存在一些缺陷：當(dāng)它前面的分類器出現(xiàn)誤分時(shí)，后面的分類器無(wú)法糾正它的錯(cuò)誤，出現(xiàn)錯(cuò)誤累積。有待作出進(jìn)一步的改善。

5 結(jié)束語(yǔ)

將SVM和不變矩應(yīng)用于機(jī)械零件的分類識(shí)別中，并對(duì)分類結(jié)果進(jìn)行了驗(yàn)證。運(yùn)用交叉驗(yàn)證法進(jìn)行核參數(shù)和懲罰因子的優(yōu)化選擇，該方法易于實(shí)現(xiàn)，有效克服了核函數(shù)參數(shù)選擇對(duì)SVM分類效果造成的影響。利用有向無(wú)環(huán)圖方法能快速的實(shí)現(xiàn)零件的分類，避免了分類重疊和不可分類現(xiàn)象。實(shí)驗(yàn)結(jié)果表明本文所研究的方法是行之有效的。

[1] Hu M K.Visual pattern recognition by moment invariants[J].IEEE Transactions on Information Theory, 1962, 8(2): 179-187.

[2] Shen D, Horace H Slp.Discriminative Wavelet Shape Descriptors for recognition of Z-D Patters[J].Pattern Recognition, 1999, 32(2): 151-165.

[3] Flusser J, Suk T.Pattern recognition by affine moment invariants[J].Pattern Recognition, 1993, 26(1): 167-174.

[4] Rahtu, M.Salo,J.Heikkila.Affine invariant pattern recognition using multiscale.Autoconvolution.IEEE Transactions on Pattern Analysis and Machine Intelligence,2005, 27(6): 908-918.

[5] V vapnik.The nature of statistical learning theory[M].NewYork: springer-verlag, 1995.

[6] 李盼池, 許少華.支持向量在模式識(shí)別中的核函數(shù)特性分析[J].計(jì)算機(jī)工程與設(shè)計(jì), 2005, 26(2): 302-304.

[7] Vapnik V, Golowich S, Smola A.Support vector method for function approximation, regression estimation, and signal processing[C]//Mozer M, Jordan M, Petsche T.Neural Information Processing Systems 9.Cambridge, MA: MIT Press, 1997(4): 281-287.

[8] 奉國(guó)和.SVM分類核函數(shù)及參數(shù)選擇比較[J].計(jì)算機(jī)工程與應(yīng)用, 2011, 47(3): 123-125.