呂永強

(山東科技大學數(shù)學與系統(tǒng)科學學院 山東 青島 266590)

支持向量機的應用

呂永強

(山東科技大學數(shù)學與系統(tǒng)科學學院 山東 青島 266590)

支持向量機算法是十大經(jīng)典算法之一，對于數(shù)據(jù)分類，數(shù)據(jù)回歸方便有著極好的應用。在實際操作中，我們常用它來處理分類問題。但傳統(tǒng)的支持向量機存在噪聲太多，數(shù)據(jù)處理太慢和收斂過快的問題，可通過調(diào)整參數(shù)進行改進。本文將建立一個模型，實現(xiàn)對支持向量機的簡單應用。

支持向量機;分割超平面

一、模型準備

在實際問題中。我們可以對分類化做數(shù)學描述，轉(zhuǎn)化數(shù)量和點的形式，然后對問題進行數(shù)學描述，將問題應用到支持向量機中，得到適合支持向量機的求解模型。我們需要得到支持向量機的原始提法。

現(xiàn)在給出分類問題的原始提法。設分類對象可以表示為

x=([x]1,…,[x]n)T,

分類對象有n個特征，[x]i特征i的指標。找出若干個分類對象，構(gòu)建出原始訓練集

T={(x1,y1),…,(xl,yl)},

(xi,yi),xi=([xi]1,…,[xi]n)T為第i個分類對象對應的訓練點的輸入，yi∈γ={-1,1}為第i個分類對象對應的訓練點的輸出。我們可以依此得出分類問題的原始提法，取實值函數(shù)g(x),g(x)∈Rn，用于決策函數(shù)f(x)=sgn(g(x))

推斷給出輸入x相對應的y值。接下來進行特征選擇，再進行特征提取，完成構(gòu)建。

二、問題描述

支持向量機實質(zhì)是一個判別分類器，通過分類超平面進行判別。支持向量機可以將不同類別的樣本進行空間分隔。工作機理也，把一些標記(label)好的訓練樣本(監(jiān)督式學習),通過SVM算法，輸出一個最優(yōu)化的分隔超平面，使平面上的所有點到平面的距離之和最大。

假定在空間中標定了一堆分屬于二類用顏色分類的二維點假設在空間存在兩類用顏色分類的二維點，位置信息就是它的數(shù)據(jù)。SVM算法的實質(zhì)是找出一個能夠?qū)⒛硞€值最大化的超平面，這個值就是超平面離所有訓練樣本的最小距離。這個最小距離用SVM術(shù)語來說叫做間隔(margin)。得到的最優(yōu)分割超平面噪聲低，敏感性高。

通過SVM最優(yōu)分割超平面，得到分割特征和分割程序。輸入新的數(shù)據(jù)，通過特征提取，得到位置信息，就可以找出它應該是哪一種顏色(類別)了。

通過目前已有的點的信息，訓練SVM得到一個所有參數(shù)都適用的分區(qū)模型。然后 for 循環(huán)根據(jù)已經(jīng)訓練好的模型，根據(jù)新輸入的值，輸出預測新值以及所這個點所對應的類別。本文通過SVM 進行樣本訓練，通過其判別能力，將整個空間依據(jù)SVM分類的結(jié)果劃分，并顯示支持向量。

三、步驟

(一)建立訓練樣本

本文中的訓練樣本分為兩類，程序如下：

float labels[4]= {1.0,-1.0,-1.0,-1.0};

float trainingData[4][2]= { {501,10},{255,10},{501,255},{10,501} };

函數(shù) CvSVM::train 訓練數(shù)據(jù)儲存儲存類型為float儲存在其 Mat 結(jié)構(gòu)中。

Mat labelsMat(3,1,CV_32FC1,labels);

Mat trainingDataMat(3,2,CV_32FC1,trainingData);

(二)SVM參數(shù)設定

這些參數(shù)保存在類 CvSVMParams 中。

SVM類型，這里我們選擇了 CvSVM::C_SVC 類型，該類型可以用于n-類分類問題(n-2)。這個參數(shù)定義在 CvSVMParams.svm_type 屬性中。

SVM核類型，核函數(shù)是一個映射函數(shù)，通過映射，使訓練后的樣本更容易線性分割，映射后樣本的維度增加。此處我們選擇的核函數(shù)類型是CvSVM::LINEAR 表示不需要進行映射。

算法終止條件.SVM訓練的過程是一個通過迭代解決約束下的二次優(yōu)化問題，我們給出一個最大迭代次數(shù)和容許誤差，作為算法的終止準則。

(三)訓練支持向量機

調(diào)用函數(shù) CvSVM::train 來建立SVM模型

CvSVM SVM;

SVM.train(trainingDataMat,labelsMat,Mat(),Mat(),params);

(四)SVM區(qū)域分割

函數(shù) CvSVM::predict 重建訓練完畢的支持向量機來將輸入的樣本分類。 使用這個函數(shù)給對向量空間進行著色，我們將圖中的所有的像素作為卡迪爾平面上的點，每一點的著由于SVM分類類別決定：綠色為標記為1的點，藍色為標記為-1的點。

(五)支持向量

這里用了幾個函數(shù)來獲取支持向量的信息。函數(shù) CvSVM::get_support_vector_count 輸出支持向量的數(shù)量，函數(shù) CvSVM::get_support_vector 根據(jù)輸入支持向量的索引來獲取指定位置的支持向量。 通過這一方法我們找到訓練樣本的支持向量并突出顯示它們。

四、實現(xiàn)圖

程序得到了一個二分類圖像，通過訓練得到SVM，將圖像按照像素分類。分類將圖像分為兩部分。

圖1 最優(yōu)分割超平面

最后支持向量通過灰色邊框加重顯示。

圖2 支持向量

呂永強(1992-)，男，漢族，山東濰坊人，在讀研究生，山東科技大學數(shù)學與系統(tǒng)科學學院，研究方向：系統(tǒng)分析與集成。