基于SVM和KNR的體型分類算法

先詩(shī)亮，劉本永

（1貴州大學(xué) 大數(shù)據(jù)與信息工程學(xué)院，貴陽(yáng) 550025；2貴州大學(xué) 智能信息處理研究所，貴陽(yáng) 550025）

0 引 言

在行人識(shí)別領(lǐng)域，目前比較成熟的技術(shù)主要是人臉識(shí)別，但是人臉識(shí)別容易受到表情變化、光照條件，面部遮擋物的影響。因此，如果將被識(shí)別對(duì)象的體型特征（比如矮胖、高瘦等）加以利用，可以很好地彌補(bǔ)人臉識(shí)別的缺陷。許多學(xué)者對(duì)體型測(cè)量展開(kāi)了研究，并取得了很大進(jìn)展。

基于圖像的體型測(cè)量方法主要分二種：一種是立體視覺(jué)方法［1-2］，一種是單目測(cè)量方法［3］。立體視覺(jué)法需要進(jìn)行三維重建來(lái)實(shí)現(xiàn)測(cè)量，其主要步驟是圖像匹配、攝像機(jī)參數(shù)標(biāo)定。單目測(cè)量法避免了圖像匹配、相機(jī)標(biāo)定的難點(diǎn)。Criminisi［4］等首先提出未標(biāo)定圖像的視覺(jué)測(cè)量理論，利用圖像的消失點(diǎn)和消失線信息，以及映射變換中共線四點(diǎn)形成的交比不變性的性質(zhì)，推導(dǎo)出度量信息之間的比例關(guān)系。此后，Peng［5］等人提出以場(chǎng)景中的規(guī)則物體建立歐式坐標(biāo)系，以便測(cè)量其幾何量的方法。根據(jù)投影幾何中的約束關(guān)系，以及共線四點(diǎn)交比不變的性質(zhì)，建立約束方程求得目標(biāo)的高度。但該方法僅能準(zhǔn)確測(cè)量規(guī)則物體的長(zhǎng)度。

與基于圖像的測(cè)量方法相比，基于視頻的體型測(cè)量方法不僅可以利用視頻的運(yùn)動(dòng)信息，還可以對(duì)每幀的測(cè)量結(jié)果進(jìn)行概率統(tǒng)計(jì)，提高測(cè)量的精度。董秋雷［6］等人采用混合高斯模型提取頭頂點(diǎn)，根據(jù)幾何約束計(jì)算垂足點(diǎn)，結(jié)合投影矩陣求出人體高度。Park［7］等人根據(jù)前景區(qū)域的主軸線和前景區(qū)域的交點(diǎn)計(jì)算頭頂點(diǎn)、垂足點(diǎn)，根據(jù)攝像機(jī)參數(shù)和投影矩陣求出人體高度。以上方法都需要事先進(jìn)行相機(jī)標(biāo)定。姜明新［8］等人提出一種為未標(biāo)定視頻下的人體身高測(cè)量方法，通過(guò)構(gòu)造虛擬水平面和虛擬垂直線來(lái)提取特征點(diǎn)，完成身高測(cè)量。

以上體型測(cè)量方法雖都能較準(zhǔn)確的得到人體身高，但是求解過(guò)程都比較復(fù)雜。有些場(chǎng)景下，并不需要準(zhǔn)確的身高數(shù)據(jù)，而高瘦、矮胖這樣的體型特征或許更有用處?；诖耍疚难芯苛艘环N基于人體寬高比的體型分類算法，將體型分為正常、矮胖、高瘦3類，并嘗試將核非線性表達(dá)器［9］（KNR）用于實(shí)現(xiàn)體型分類算法，并在相同條件下，與支持向量機(jī)［10］（SVM）的分類性能作對(duì)比。

1 支持向量機(jī)（SVM）

支持向量機(jī)是一種結(jié)構(gòu)風(fēng)險(xiǎn)最小化的統(tǒng)計(jì)學(xué)習(xí)方法，是基于分類邊界的方法。若給定一個(gè)具有N個(gè)輸入／輸出對(duì)的訓(xùn)練集：

其中，xi∈X、yi∈Y，X為訓(xùn)練樣本的輸入集，Y為訓(xùn)練樣本的輸出集。

傳統(tǒng)的線性回歸估計(jì)線性函數(shù)Y=WT X+b是通過(guò)最小二乘估計(jì)的方式實(shí)現(xiàn)的，其表達(dá)式為：

線性回歸估計(jì)適用于樣本能夠線性分離的情況，但在實(shí)際應(yīng)用中很多樣本是不能夠線性分離的。為了得到更好的結(jié)果，支持向量回歸通過(guò)非線性映射φ，將數(shù)據(jù)X映射到一個(gè)高位特征空間F中，使得φ（X）在特征空間F中具有很好的線性回歸特性。首先在該特征空間中進(jìn)行線性回歸，然后返回到原始空間中。支持向量回歸可以通過(guò)最優(yōu)化問(wèn)題來(lái)解決：

其中，ζ為不敏感值，為松弛變量，表示ζ帶的上界和下界，所有在ζ帶內(nèi)部的樣本點(diǎn)（xi，yi）都不是支持向量；C為代價(jià)函數(shù)，l為支持向量的個(gè)數(shù)，WTW為正則化項(xiàng)，主要是為了防止過(guò)擬合現(xiàn)象的發(fā)生。

使用Lagrange乘子法，得到式（3）的對(duì)偶形式：

其中，k（xi，xj）=＜φ（xi），φ（xj）＞核函數(shù)。常用的核函數(shù)有線性核、多項(xiàng)式核、高斯核等。核函數(shù)可以將m維高維空間的內(nèi)積運(yùn)算，轉(zhuǎn)化為n維低維輸入空間的核函數(shù)計(jì)算，從而解決了在高維特征空間中計(jì)算的維數(shù)災(zāi)難等問(wèn)題，為在高維特征空間中解決復(fù)雜的回歸問(wèn)題奠定了理論基礎(chǔ)。最終，可得出如下回歸函數(shù)：

2 核非線性回歸（KNR）

假設(shè)擬合函數(shù)所屬空間為再生核Hilbert空間，xi為第i個(gè)訓(xùn)練樣本，x為測(cè)試樣本，定義其對(duì)應(yīng)的核函數(shù)如式（8）：

其中，k為核函數(shù)，則擬合函數(shù)f（x）有多個(gè)核函數(shù)疊加而成，表示如式（9）：

式中，M為原圖像像素點(diǎn)的總數(shù)；a為系數(shù)向量。由最小二乘準(zhǔn)則估計(jì)a，如式（10）：

其中，T表示向量或者矩陣的轉(zhuǎn)置，+則表示矩陣的MoorePenrose廣義逆，并且K中的第i行第j列的元素為：

3 實(shí)驗(yàn)及結(jié)果分析

本實(shí)驗(yàn)采用中科院的CISIA-B數(shù)據(jù)集，該數(shù)據(jù)集由124人的二值輪廓圖組成。其中每個(gè)人有3種形態(tài)（背包、穿夾克、正常），每一種形態(tài)有十一個(gè)角度（從00，180，360，...，1800）。本文選取了數(shù)據(jù)集中所有人正常形態(tài)的00二值輪廓圖，共計(jì)7 500張圖片，每張圖片的分辨率均為240*320。算法流程如圖1所示。

圖1 算法流程Fig.1 Algorithm flow

3.1 人體主軀干輪廓檢測(cè)

輪廓檢測(cè)指在包含目標(biāo)和背景的數(shù)字圖像中，采用一定的技術(shù)和方法來(lái)實(shí)現(xiàn)目標(biāo)輪廓提取的過(guò)程［11］。常用的輪廓檢測(cè)算法是Opencv中的findcontour。該算法核心是確定二值圖像外邊界、孔邊界之間的層次關(guān)系，找到最外圍的邊界，然后用邊框?qū)⒃撨吔绠?huà)出。本文為了減少手臂的擺放、衣著對(duì)體型的影響，采用如下步驟完成：

（1）對(duì)原始二值輪廓圖的每一列進(jìn)行遍歷，統(tǒng)計(jì)每一列非零像素的數(shù)量，得到一個(gè)像素?cái)?shù)與列的關(guān)系，如圖2所示；

圖2 像素分布Fig.2 Pixel distribution

（2）對(duì)像素?cái)?shù)非零的所有列求均值μ和方差σ；

（3）保留μ+σ和μ-σ的列數(shù)，其余列的像素全部置為0，得到一個(gè)新的輪廓圖；

（4）利用findcontour對(duì)新輪廓圖進(jìn)行輪廓檢測(cè)，畫(huà)出主軀干的邊框，如圖3所示；

圖3 原始圖與主軀干效果圖Fig.3 Original image and body main contour image

（5）得到主軀干寬度和高度，計(jì)算寬高比。

3.2 Kmeans聚類

Kmeans聚類是一種無(wú)監(jiān)督學(xué)習(xí)算法，其思想是在給定的樣本集，按照樣本之間的距離大小，將樣本劃分為K個(gè)簇，讓簇內(nèi)的點(diǎn)盡量緊密的連在一起，而使均方誤差最小，同時(shí)簇間的距離盡量的大［12］。

通過(guò)3.1節(jié)的處理已獲得每張圖片的主軀干的長(zhǎng)度和寬度，將7 500張圖片主軀干的寬度和長(zhǎng)度比值進(jìn)行聚類，其目的是將體型數(shù)據(jù)分為正常、高瘦、矮胖3類。聚類所用參數(shù)見(jiàn)表1。

表1 聚類過(guò)程Tab.1 Clustering process

聚類結(jié)果如下：

第一類的聚類中心：018，含有2 122個(gè)寬高比數(shù)據(jù)；第二類的聚類中心：0.20，含有3 821個(gè)寬高比數(shù)據(jù)；第三類的聚類中心：0.22，含有1 557個(gè)數(shù)據(jù)。

為了方便驗(yàn)證本文的分類算法，采用五折交叉驗(yàn)證法：

在第一類的2 122個(gè)數(shù)中選取2 000個(gè)數(shù)據(jù)，在第二類的3 821個(gè)數(shù)中選取3 500個(gè)數(shù)，第三類的1 557個(gè)數(shù)中選取1 500個(gè)數(shù)，將以上取出的3組數(shù)據(jù)均分為5等份，并隨機(jī)取一組作為測(cè)試集，其余4組用作訓(xùn)練集展開(kāi)多次實(shí)驗(yàn)。

3.3 KNR（核非線性回歸）分類器訓(xùn)練

KNR分訓(xùn)練階段和測(cè)試階段，整體的訓(xùn)練流程如下：

（1）本文采用高斯核，確定核函數(shù)k的形式；（2）高斯核函數(shù)關(guān)鍵參數(shù)σ的估計(jì)；

（3）利用每類體型數(shù)據(jù)的訓(xùn)練樣本及核函數(shù)，按照式（11）構(gòu)造核矩陣K，并根據(jù)式（10）計(jì)算對(duì)應(yīng)的系數(shù)矢量α；

（4）給定一個(gè)訓(xùn)練樣本x，將其輸入到每類KNR分類器中，根據(jù)式（9）計(jì)算每類的輸出，取輸出值最大的分類器所對(duì)應(yīng)的類別作為x的分類結(jié)果。

根據(jù)3.2節(jié)可知，3種類別都有5種不同數(shù)據(jù)集，為了更加明顯的和SVM比較分類效果，需估計(jì)出每一種數(shù)據(jù)集性能較理想的σi（i=1，2，3，...，15）。σ的估值過(guò)程為：首先，將σi的初始值σi0取為訓(xùn)練樣本的方差，然后按照式（10）和式（9）分別求出相應(yīng)的的K和α，根據(jù)測(cè)試樣本可得到αi0下的準(zhǔn)確率；將σi的值從0.2σi0開(kāi)始，按照相隔0.1σi0的增值規(guī)律增加到2σi0，統(tǒng)計(jì)對(duì)比相應(yīng)的識(shí)別率。當(dāng)取到最高識(shí)別率（見(jiàn)表3）時(shí)，得到的最佳σ估計(jì)值見(jiàn)表2。

表2 σ的最佳估計(jì)值Tab.2 The best estimate ofσ

3.4 KNR與SVM的性能比較

為了與SVM進(jìn)行比較，SVM也采用高斯核，并且使用相同的訓(xùn)練和測(cè)試樣本，同時(shí)其σ取表2中每一類經(jīng)過(guò)多次實(shí)驗(yàn)后得到的均值，即0.33，0.27，0.47。將3類的訓(xùn)練集和測(cè)試集樣本送入SVM中，得到的準(zhǔn)確率對(duì)比結(jié)果見(jiàn)表3。

表3 KNR和SVM準(zhǔn)確率對(duì)比Tab.3 Comparison of accuracy between KNR and SVM

實(shí)驗(yàn)結(jié)果表明，在本文研究的三分類體型任務(wù)中，KNR的平均識(shí)別率總體上好于SVM，證明了KNR用于多分類問(wèn)題的有效性。

4 結(jié)束語(yǔ)

本文利用人體主軀干寬高比來(lái)描述體型，通過(guò)對(duì)輪廓進(jìn)行處理，提取到了人體主軀干數(shù)據(jù)，盡可能地消除了手臂、衣著對(duì)寬度測(cè)量的影響。作為一種嘗試，將KNR（核非線性回歸）用于體型分類中，并與SVM進(jìn)行了性能對(duì)比。從實(shí)驗(yàn)結(jié)果可以看到，KNR得到了滿意的識(shí)別率。如何在該分類算法基礎(chǔ)上，實(shí)現(xiàn)異常體型的檢測(cè)，則是未來(lái)工作需要進(jìn)一步解決的問(wèn)題。