基于LBP與LSSVM的數(shù)字圖像分類算法

張艮山，田建恩，張 哲

(石家莊學(xué)院 教育技術(shù)中心，河北 石家莊 050035)

1 引 言

隨著互聯(lián)網(wǎng)的發(fā)展，互聯(lián)網(wǎng)中的圖像內(nèi)容信息越來越豐富，種類越來越多，如何實(shí)現(xiàn)數(shù)字圖像的精確分類在機(jī)器視覺領(lǐng)域引起了廣泛關(guān)注[1-4]。

圖像分類技術(shù)的發(fā)展經(jīng)歷了多個(gè)階段，從最開始的手寫體阿拉伯?dāng)?shù)字識(shí)別[5]到后來的包含過萬類圖像數(shù)據(jù)集的分類[6-7]，伴隨著數(shù)據(jù)集規(guī)模增長(zhǎng)的是圖像分類模型性能的逐步提升。整體來說，對(duì)于單標(biāo)簽圖像分類問題，可以被分為以下3大類別：跨物種語義級(jí)別圖像分類[8]；子類細(xì)粒度圖像分類[9]；實(shí)例級(jí)別圖像分類[10]。跨物種的語義級(jí)別圖像分類，其主要目的是在不同物種層面進(jìn)行識(shí)別，識(shí)別得到的結(jié)果為不同的類別，例如動(dòng)物、植物類別。相對(duì)于跨物種的圖像分類，子類細(xì)粒度圖像分類級(jí)別更低一些。它往往是同一個(gè)大類圖像中的子類圖像的分類，如不同飛機(jī)類的分類、不同豬類的分類、不同果實(shí)的分類等。如果要區(qū)分不同的個(gè)體而不僅僅是物種類或者子類，則是實(shí)例級(jí)別的圖像分類，最典型的任務(wù)就是人臉識(shí)別。

就應(yīng)用層面而言，跨物種的語義級(jí)別分類任務(wù)在實(shí)際中最常見。為了在一些算力有限的小型嵌入式設(shè)備(如手機(jī)、平板電腦)中實(shí)現(xiàn)中小規(guī)模數(shù)字圖像數(shù)據(jù)集的分類問題，考慮到局部二值模式(LBP)算法具有的運(yùn)算速度快、對(duì)圖片光照不敏感、可以充分提取圖片的紋理信息等特點(diǎn)，同時(shí)考慮到最小二乘支持向量機(jī)(LSSVM)算法將支持向量機(jī)(SVM)優(yōu)化問題的非等式約束用等式約束替換，極大地減小了計(jì)算量，使得LSSVM算法具有極好的對(duì)小型嵌入式設(shè)備的適應(yīng)性，本文針對(duì)性地提出了一種基于LBP和LSSVM的數(shù)字圖像分類方案，該方案包含兩個(gè)模塊：基于LBP特征提取的特征數(shù)據(jù)集構(gòu)建模塊；基于LSSVM的最優(yōu)圖像分類器構(gòu)建模塊。本文所提出的算法與傳統(tǒng)的基于SVM的圖像分類算法[11]、基于極限學(xué)習(xí)機(jī)的圖像分類算法[12]和基于Hopfield神經(jīng)網(wǎng)絡(luò)的圖像分類算法[13]進(jìn)行了比較，在宏查準(zhǔn)率、宏查全率和分類時(shí)間這幾個(gè)典型性能指標(biāo)的測(cè)試上，本文所提出的LBP-LSSVM算法均表現(xiàn)出了優(yōu)異的性能。

2 理論基礎(chǔ)

2.1 LBP算法

在LBP[14]算法中，原始圖像按照一個(gè)區(qū)塊大小為3行×3列的原則被劃分為多個(gè)區(qū)塊，中心像素點(diǎn)的像素灰度值與相鄰像素點(diǎn)的像素灰度值進(jìn)行比較，比較閾值被設(shè)置為區(qū)塊的中心像素值。若相鄰像素值大于中心像素值，則對(duì)應(yīng)的相鄰像素點(diǎn)被標(biāo)記為1，否則為0。這樣，一個(gè)區(qū)塊中邊沿部分的8個(gè)像素點(diǎn)在完成一次比較之后可產(chǎn)生8位二進(jìn)制數(shù)，按照順時(shí)針旋轉(zhuǎn)的規(guī)則將該二進(jìn)制數(shù)轉(zhuǎn)換為十進(jìn)制數(shù)，就可以得到一個(gè)唯一的LBP碼，LBP碼共計(jì)256種。LBP碼被用于反映該3×3區(qū)域的紋理信息，如圖1所示，這一過程用數(shù)學(xué)公式可以表示為:

(1)

其中:pxi和pxc分別為相鄰像素點(diǎn)的值和中心像素點(diǎn)的值，(xc,yc)表示中心像素點(diǎn)的坐標(biāo)。

為了適應(yīng)不同尺度的紋理特征，同時(shí)實(shí)現(xiàn)旋轉(zhuǎn)不變性，文獻(xiàn)[15]設(shè)置了一種改進(jìn)型的LBP 算子，用圓形的區(qū)塊代替了正方形區(qū)塊，改進(jìn)型LBP 算子在半徑為R的圓形區(qū)塊內(nèi)允許有P個(gè)(P為任意數(shù))像素點(diǎn)，其坐標(biāo)由公式(2)確定：

(2)

通過式(2)可以計(jì)算任意多個(gè)采樣點(diǎn)的坐標(biāo)。一個(gè)包含P個(gè)邊沿像素點(diǎn)的LBP算子可以產(chǎn)生2P種二進(jìn)制模式，當(dāng)一個(gè)區(qū)塊內(nèi)的邊沿像素點(diǎn)數(shù)增加時(shí)，對(duì)應(yīng)的二進(jìn)制模式的類別數(shù)是呈指數(shù)級(jí)別遞增的。這種情況將給圖像特征的提取、識(shí)別、分類及存取帶來極大挑戰(zhàn)。

為了解決二進(jìn)制模式即LBP碼數(shù)量過多的問題，文獻(xiàn)[15]提出了一種“均勻模式”(Uniform Pattern)來降低LBP碼的種類數(shù)量。文獻(xiàn)[15]中提出，在現(xiàn)實(shí)世界采集到的圖像中，絕大多數(shù)LBP碼最多只包含兩次從1到0或從0到1的變化。因此，“均勻模式”被定義為：當(dāng)某個(gè)LBP碼所對(duì)應(yīng)的P位二進(jìn)制數(shù)從0到1或從1到0的變化最多只有兩次時(shí)，該LBP碼就稱為一個(gè)均勻模式類。除均勻模式類以外的模式都?xì)w為另一類，稱為混合模式類。通過這樣的改進(jìn)，LBP碼的種類大幅減少，數(shù)量由原來的2P種減少為P(P-1)+1種，其中P表示區(qū)塊內(nèi)的采樣點(diǎn)數(shù)即邊沿像素點(diǎn)數(shù)。

圖像分類算法的LBP特征向量構(gòu)建的一般步驟為：首先確定區(qū)塊大小，然后通過LBP算法使用大小為M×N的原始圖像生成大小為(M-2)×(N-2)的LBP圖，再根據(jù)LBP圖中像素值統(tǒng)計(jì)其LBP直方圖，以直方圖構(gòu)成特征向量。

圖1 LBP碼生成過程Fig.1 Generation process of LBP code

2.2 LSSVM算法

支持向量機(jī)(Support Vector Machine, SVM)算法建立在統(tǒng)計(jì)學(xué)習(xí)理論的VC維理論和結(jié)構(gòu)風(fēng)險(xiǎn)最小原理基礎(chǔ)上[16]。該算法在解決中小樣本數(shù)據(jù)集的識(shí)別中表現(xiàn)出許多特有的優(yōu)勢(shì)。SVM的主要思想是建立一個(gè)超平面作為樣本點(diǎn)的分隔面, 使得正例樣本和反例樣本之間的隔離邊緣距離被最大化。

設(shè)有樣本集D={(xi,yi),xi∈Rd,yi∈{-1,1},i=1,2,…,N}，xi為d維特征向量，yi為標(biāo)簽。SVM的分隔面方程為：

ωx+b=0，

(3)

其中ω為權(quán)重向量，b為分類閾值。SVM問題可以歸結(jié)為如公式(4)所示的不等式約束。

(4)

LSSVM和SVM的區(qū)別在于，LSSVM將SVM中的不等式約束優(yōu)化為等式約束，從而大大方便了拉格朗日乘子的求解，QP問題被LSSVM轉(zhuǎn)化為解線性方程組的問題[17]。

LSSVM問題等價(jià)于如公式(5)所示的約束。

(5)

(6)

分別對(duì)ω,b,e,αi求偏導(dǎo)并令其為0，得到公式(7):

(7)

整理可得：

(8)

其中Y=(y1,…,yN)T;Ωij=K(xi,xj);I為單位矩陣；I1為只包含元素1的矩陣。

求解后得到：

(9)

其中K(·,·)為核函數(shù)。考慮到RBF核函數(shù)的參數(shù)較少且非線性映射能力極強(qiáng)，本文所設(shè)計(jì)的LSSVM分類器的核函數(shù)采用了徑向基核函數(shù)，其形式如公式(10)所示。

(10)

3 算法方案設(shè)計(jì)

本文所設(shè)計(jì)的基于LBP直方圖特征與LSSVM算法的數(shù)字圖像分類算法主要包含特征數(shù)據(jù)集構(gòu)建模塊和最優(yōu)分類器構(gòu)建模塊兩部分，其詳細(xì)運(yùn)行步驟如下：

(1)將圖像數(shù)據(jù)集進(jìn)行分層抽樣，將70%的圖像樣本劃分為訓(xùn)練數(shù)據(jù)集，剩余30%的圖像樣本劃分為測(cè)試數(shù)據(jù)集；

(2)假設(shè)圖像樣本的尺寸均為M×N，設(shè)定鄰域大小為3×3，對(duì)訓(xùn)練數(shù)據(jù)集中圖像樣本進(jìn)行LBP圖構(gòu)建，然后按照公式(11)對(duì)每張LBP圖進(jìn)行LBP直方圖特征向量構(gòu)建，所有的特征向量添加標(biāo)簽，然后構(gòu)成新的LBP直方圖特征訓(xùn)練數(shù)據(jù)集；

(11)

(3)設(shè)定LSSVM算法的優(yōu)化參數(shù)γ及核函數(shù)參數(shù)σ的尋優(yōu)范圍為[-20,20]并在該范圍內(nèi)使用訓(xùn)練數(shù)據(jù)集進(jìn)行參數(shù)尋優(yōu)，構(gòu)建最優(yōu)分類模型；

原題：Models of the Earth's crust from controlled－source seismology—where we stand and where we go？

(4)按照步驟(2)中方法，對(duì)部分原始圖像構(gòu)成的測(cè)試數(shù)據(jù)集進(jìn)行LBP直方圖特征測(cè)試數(shù)據(jù)集構(gòu)建，然后對(duì)送入步驟(3)中得到的最優(yōu)分類模型進(jìn)行分類并計(jì)算各項(xiàng)性能指標(biāo)。

4 公開數(shù)據(jù)集的分類測(cè)試

為驗(yàn)證本文所提出算法的有效性，兩個(gè)公開的圖像分類數(shù)據(jù)集被用于分類測(cè)試。兩個(gè)數(shù)據(jù)集分別為人臉數(shù)據(jù)集YALE和Kaggle的Flowers Recognition數(shù)據(jù)集。人臉數(shù)據(jù)集YALE共包含165 幅灰度圖像，分別屬于15個(gè)人，每個(gè)人對(duì)應(yīng)有11 幅不同的臉部圖像，這11幅圖像分別為：中心光、戴眼鏡、快樂、左側(cè)光、不戴眼鏡、正常表情、右側(cè)光、悲傷、困倦、吃驚和眨眼。部分樣本圖像如圖2所示。Kaggle的Flowers Recognition數(shù)據(jù)集共包含4 326張圖像，分別屬于5種花：雛菊，向日葵，玫瑰，蒲公英和郁金香。

圖2 人臉數(shù)據(jù)集YALE中部分樣本圖片F(xiàn)ig.2 Partial sample images of face dataset YALE

使用同一個(gè)由LBP特征向量構(gòu)建的訓(xùn)練數(shù)據(jù)集，以本文所提出算法(核函數(shù)使用徑向基核函

通過表2可以發(fā)現(xiàn)，本文所提出的算法整體上具有最佳的性能表現(xiàn)，主要是因?yàn)楸疚乃岢鏊惴ㄟx取的LBP直方圖特征能夠充分反映數(shù)字圖像的內(nèi)在規(guī)律，同時(shí)LSSVM保持了SVM的結(jié)構(gòu)風(fēng)險(xiǎn)最小化特征，因此泛化能力極強(qiáng)。LSSVM的速度達(dá)到了與極限學(xué)習(xí)機(jī)算法同等水平的速度，這主要是因?yàn)椋m然在LSSVM算法中所有樣本數(shù)據(jù)點(diǎn)均為“支持向量點(diǎn)”，計(jì)算核矩陣時(shí)運(yùn)算量較大，但LSSVM 將分類問題的凸二次規(guī)劃問題轉(zhuǎn)化為求解線性方程的問題，大大加快了分類速度，在數(shù)據(jù)集樣本量較大時(shí)，運(yùn)算時(shí)間縮短將更為明顯。

表1 種最優(yōu)分類模型的訓(xùn)練誤差Tab.1 Training error of four optimal classification models

表2 測(cè)試數(shù)據(jù)集上4種算法的分類結(jié)果及執(zhí)行效率比較Tab.2 Comparison of classification results and execution efficiency of four algorithms on test dataset

5 結(jié) 論

針對(duì)數(shù)字圖像的高精度分類問題，本文提出了一種基于LBP直方圖特征的LSSVM數(shù)字圖像分類算法。在該算法中，LBP算子被用于進(jìn)行數(shù)字圖像的LBP圖構(gòu)建，LBP圖的直方圖被用于構(gòu)建圖像樣本的特征向量，最后大量樣本的特征向量構(gòu)建的訓(xùn)練數(shù)據(jù)集被送入 LSSVM進(jìn)行分類模型的構(gòu)建。在測(cè)試數(shù)據(jù)集的分類測(cè)試中，核函數(shù)使用徑向基核函數(shù)時(shí)，本文所提出算法與3種分別基于傳統(tǒng)支持向量機(jī)算法、極限學(xué)習(xí)機(jī)算法和Hopfield神經(jīng)網(wǎng)絡(luò)方法的圖像分類算法進(jìn)行了比較，在宏查準(zhǔn)率、宏查全率和分類時(shí)間這幾個(gè)典型性能指標(biāo)的測(cè)試方面，本文所提出的LBP-LSSVM算法均表現(xiàn)出了優(yōu)異的性能。