基于支持向量機的單分類布匹疵點檢測算法

解祥新,金 彬,魏 燕

(南通理工學院,江蘇 南通 226002)

0 引言

SVM是一個二分類的分類模型,但是在實際應用中,有些時候并不能得到兩種不同類型的樣本,或者其中一類樣本數(shù)量太多。例如:在進行布匹檢測正負樣本二分類時,布匹的負樣本即疵點類型樣本過多而標準樣本較少。這些情況都不能進行二分類,所以只能通過一種類型的樣本進行訓練學習進而實現(xiàn)分類,這就是單分類支持向量機(One-class Support Vector Machine,OC-SVM)[1]。

1 單分類支持向量機(OC-SVM)原理

單分類支持向量機的模型描述如下:OC-SVM給定訓練數(shù)據(jù)集,xi∈RN,給出RN到某高維特征空間χ的非線性映射?(x),通過核函數(shù)?映射到高維特征空間,使得?(xi)∈χ,使其具有更好的聚集性[2]。在高維特征空間建立一個超平面W·?(x)-ρ=0,實現(xiàn)目標數(shù)據(jù)與坐標原點的最大分離。將映射樣本與原點以間隔ρ分開,其中W為超平面的法向量,ρ為超平面的截距,為了使超平面盡可能遠離原點,最大化原點到目標數(shù)據(jù)間的歐式距離ρ/ω來尋找最優(yōu)超平面,并允許少部分樣本在坐標原點與分界面之間,與分類超平面的距離為ξi/‖ω‖。經(jīng)過映射后的OC-SVM在二維空間中找到的最優(yōu)超平面。

為了使算法具有一定的魯棒性,引入松弛因子ξi≥0,此時OC-SVM的優(yōu)化問題為:

其中,w∈χ和,ρ∈R為超平面參數(shù)。v∈[0,1]是預先定義的百分比參數(shù)估計,vn與標準SVM中的懲罰系數(shù)C的作用類似,在這里表示邊界支持向量率(分類錯誤率)的上界,全部支持向量率的下界,因此也稱為v屬性。

為了求解二次規(guī)劃問題,引入拉格朗日函數(shù):

分別最小化w,ρ和ξi得:

上述3個公式代入拉格朗日函數(shù),可得對偶型:

拉格朗日函數(shù)中的參數(shù)ρ可由任一滿足0＜ai＜的樣本(將該樣本記為xj,事實上xj即支持向量)求得,即

則決策函數(shù)可以寫成:

SVM在遇到線性不可分時,想要將非線性數(shù)據(jù)進行分離,需要在低維空間中完成計算,將數(shù)據(jù)從低維輸入空間利用核函數(shù)的特性映射到高維空間,最后通過在高維特征空間中構(gòu)造出最優(yōu)分離超平面,將不能通過線性分離的非線性數(shù)據(jù)分開。

而在此之前,未使用核函數(shù),使用原始方法進行劃分,需要先選擇一個非線性特征集,并將數(shù)據(jù)利用新的表達形式映射到特征空間,并通過線性學習器分割出類型,比如特征集函數(shù)類型如下:

這里?:x-＞F是從輸入空間到某個特征空間的映射,因此建立非線性學習器需要分為兩步:第一步,使用一個非線性特征集將數(shù)據(jù)利用新的表達形式的映射到一個特征空間F;第二步,在特征空間F使用線性學習器分類。

而由于對偶形式就是線性學習器的一個重要性質(zhì),這意味著假設可以表達為訓練點的線性組合,因此決策規(guī)則可以用測試點和訓練點的內(nèi)積來表示:

如果有一種方式可以在特征空間中直接計算內(nèi)積〈?(xi)·?(x)〉,就像在原始輸入點的函數(shù)中一樣,就有可能將兩個步驟融合到一起建立一個非線性的學習器,這樣直接計算法的方法稱為核函數(shù)方法。

核是一個函數(shù)K,對所有x,z∈x,滿足K(x,z)=〈?(x)·?(z)〉,這里φ是從X到內(nèi)積特征空間F的映射。

本文采用高斯核函數(shù)K(x1,x2)=exp,可以將原始空間映射到無窮維空間。若σ的值很大,則高次特征上的權重會因此急速衰減,因此只能相當于一個低維子空間;若σ的值很小,則可以將任意的數(shù)據(jù)映射為線性可分,但是可能會因此引起過擬合問題。在核函數(shù)中,高斯核函數(shù)的使用相當廣泛,其具有較高的靈活性,可以通過設置參數(shù)σ值的大小來實現(xiàn)控制。

2 實驗步驟及仿真

本文利用OC-SVM對標準布匹圖像樣本進行學習訓練,再將采集到的實際圖像通過訓練完成的OC-SVM分類器進行分類,若有疵點則分割疵點的區(qū)域,得到疵點的大小位置等信息[3-4]。本小節(jié)算法實現(xiàn)的流程如圖1所示。

圖1 基于OC-SVM的疵點檢測算法流程

具體實驗步驟如下。

步驟1:通過工業(yè)相機在現(xiàn)場采集20張標準無缺陷的布匹圖像樣本。

步驟2:對通過工業(yè)相機在現(xiàn)場采集20張標準無缺陷的布匹圖像樣本進行圖像預處理,構(gòu)造雙邊濾波器,權重系數(shù)ω(i,j,k,l)取決于定義域核d(i,j,k,l)=與 值 域 核r(i,j,k,l)=的乘積,其中i,j是像素位置,k,l是鄰域內(nèi)像素位置,σ為方差,運用雙邊濾波器盡可能地保護邊緣部分信息的情況下去除噪聲。

步驟3:建立單分類SVM,將內(nèi)積用高斯核替換,并將需要進行訓練的數(shù)據(jù)映射到高維特征空間,在高維特征空間中構(gòu)造出最優(yōu)分離函數(shù):

利用該函數(shù)能在最大限度降低計算復雜度的基礎上完成分類。其中x為輸入的特征量,α為相應系數(shù),K(xi,x)=為RBF核函數(shù),RBF核函數(shù)在實際應用中具有相當高的靈活性。

步驟4:將預處理之后的20張標準無瑕疵的布匹圖像樣本,輸入單分類SVM并通過Laws紋理特征提取方法進行特征提取。Laws紋理能量度量由L(平均)、E(微分)、S(斑點)這3個向量與他們自身以及相互卷積后產(chǎn)生5個向量:EL,LE,ES,SE,EE。這些向量相互乘積,形成5×5的Laws掩模,將原圖像和二維模板圖像進行卷積運算,可得到所對應的紋理圖像,通過觀察Laws紋理看出,所有模板的均值都是0。所以需要對卷積運算后所得到的紋理圖像進行歸一化元運算,得出一個可以描述布匹紋理的特征量。

步驟5:利用單分類SVM對提取的樣本特征量進行訓練。

步驟6:采集現(xiàn)場布匹圖像,對該圖像進行圖像預處理包括濾波處理進行去噪以及圖像增強處理。

步驟7:將預處理之后的現(xiàn)場布匹圖像輸入已建立的單分類SVM,進行Laws紋理特征提取,判斷是否存在缺陷。若無缺陷,則將圖像放入無缺陷圖像容器,并繼續(xù)采集下一幀圖像。

步驟8:若存在缺陷,則對圖像進行迭代全局閾值分割,選擇圖像所有像素點的平均灰度值作為全局閾值的初值P;將整幅圖像以P為界限,分成兩個像素組,圖像像素點的灰度值中大于初值P的像素點組成G1,圖像像素點的灰度值中小于初值P的像素點組成G2;計算出G1組中所有像素點灰度值的均值(即平均灰度值)m1,同時計算出G2組中所有像素點的均值m2;計算一個新的閾值:P1=(m1+m2)/2;若P=P1,則所得即為閾值;否則重復步驟2到步驟4,直到連續(xù)迭代中的P值間的差小于一個預定義的參數(shù)p為止。

步驟9:利用形態(tài)學的方法對通過迭代全局閾值分割的圖像缺陷區(qū)域先膨脹再腐蝕,以消除各種干擾,使缺陷區(qū)域更加清晰。

步驟10:采用最小包圍矩形計算出缺陷的位置以及面積范圍,并進行數(shù)據(jù)統(tǒng)計。

仿真結(jié)果如下:

利用Laws紋理能量度量之后建立單分類SVM分類器進行訓練學習,此時可以得到基于標準樣本的訓練模型。

通過實際檢測,將實際疵點數(shù)量和檢測后的檢出疵點數(shù)量進行統(tǒng)計分析,得到最終的識別準確率。檢測結(jié)果如表1所示。

表1 該算法的檢測效果

通過計算可知,最終的綜合檢測效果可以達到92%。

3 結(jié)語

通過Laws紋理能量度量可以得出對圖像的特征描述,便于支持向量機的訓練學習,結(jié)合支持向量在小樣本中的優(yōu)勢,使得算法可以降低計算復雜度,減少運算時間。通過實驗仿真在紋理相對簡單,且樣本數(shù)量相對較少的情況下,達到很好的檢測效果。