基于卷積神經網絡結合SVM的人臉識別研究

黃 超，薄 華

(上海海事大學 信息工程學院，上海 201306)

基于卷積神經網絡結合SVM的人臉識別研究

黃 超，薄 華

(上海海事大學 信息工程學院，上海 201306)

提出了卷積神經網絡與支持向量機結合的方法運用于遮擋人臉識別。通過卷積神經網絡的卷積、下采樣和Softmax的特征提取處理，由支持向量機完成后續的訓練和識別。利用AR人臉庫進行實驗，并和傳統的人臉識別方法進行比較分析，實驗結果表明本文的方法有更高的識別率。

卷積神經網絡；支持向量機；人臉識別

0 引言

隨著科學技術的發展，機器人的應用越來越廣泛，人機交互也變得十分重要。人臉識別作為生物特征識別(虹膜識別、指紋識別、掌紋識別等)技術之一，由于具有成本低、用戶易接受、可靠性高等優點，在身份認證、安防監控、人機交互等領域具有廣泛的應用前景。目前對于人臉識別的技術已經展開了很多研究工作[1]。

過去許多年來，研究者們提出了很多人臉識別的算法，主要是提取人臉特征，特征提取在人臉識別中起到了關鍵的作用，影響著系統識別人臉的識別率。人臉識別方法有幾何特征的方法、相關匹配的方法、子空間方法和統計識別的方法等[2]。近幾年來應用神經網絡進行人臉識別非常流行，尤其是卷積神經網絡。卷積神經網絡對圖像識別有很強的優勢，支持向量機有很好的分類效果，在人臉識別中也被廣泛的運用[3]。

本文方法結合卷積神經網絡和支持向量機對人臉進行識別。首先，對人臉圖像進行卷積和下采樣處理，處理后由支持向量機分類識別，最后使用AR人臉數據庫進行驗證，識別出200張有遮擋的人臉圖片。

1 卷積神經網絡(CNN)

卷積神經網絡是一類特殊的多層神經網絡，與其他的神經網絡一樣是用BP神經網絡算法進行訓練，只是用在卷積神經網絡的結構有點不同。卷積神經網絡可以直接識別視覺圖像，它進行像素圖像的預處理，并具有魯棒性和簡單的幾何變換。卷積網絡識別圖像的傳統步驟如圖1所示。通過將圖像輸入CNN網絡，訓練后，再分類識別得出結果。

圖1 CNN識別圖像的傳統步驟

卷積神經網絡經典結構是LeNet-5。如圖2所示。LeNet-5是LeCun提出的一個應用在手寫數字識別的神經網絡。如圖，其中處理層包含卷積層C1和C3，中間靠兩個下采樣層S2和S4連接，最后是輸出層。

圖2 LeNet-5經典結構卷積神經網絡

卷積層的每一個特征圖是之前的特征圖通過卷積核與濾波卷積和的結果，再增加偏置項應用于非線性函數。輸入的特征圖的值如式(1)所示，通過訓練調整k和b的值，找到最好的，再用已經訓練好的特征圖來識別其他的圖片[4]。

(1)

其中，f(·)為激活函數，一般為sigmoid或者tanh；b為偏置項。上一層圖的大小為m×m，卷積核為n×n，卷積后的圖大小為(m-n+1)×(m-n+1)。

下采樣是為了達到空間不變性，通過采用減少特征圖的方法來對上一層特征圖降維，下采樣的形式如式(2)[5]：

(2)

其中down(·)為下采樣函數，類似于卷積；β為乘性偏置；b為加性偏置。特征圖像在維度上進行了縮小，用n×n大小的窗口進行采樣，最后縮小的圖像為(m/n)×(m/n)。

2 支持向量機(SVM)

支持向量機是AT&TBell 實驗室的V.Vapnik等人在1995年提出的算法。支持向量機用于二分類尋找特征空間上的間隔最大的線性分類器。其原理示意如圖3所示[6]。

圖3 SVM原理示意圖

本文使用的SVM是臺灣林智仁(Lin Chih-Jen)教授開發設計的MATLAB版LIBSVM 3.22。LibSVM[7]大規模線性分類器，包含了單類支持向量機和用支持向量機實現多類分類的功能，還包含交叉驗證、用網格試算方法選擇核函數參數的功能[8]。

3 本文算法(CNN+SVM)

圖5 卷積神經網絡加LibSVM工作流程

本文使用卷積神經網絡和SVM結合的算法，如圖4所示。這樣的算法相比傳統的遮擋人臉識別算法在識別率上有所提高，在后面的實驗中將會驗證。本文算法其中包含有卷積神經網絡的卷積層、池化層、全連接層和Softmax。本文使用的卷積神經網絡結構類似于LeNet-5結構，其中分別有2個卷積層、2個下采樣層和1個全連接層，整個網絡中的卷積層和下采樣層交替運行，最后一個下采樣層與全連接層相連，全連接層再通過Softmax分類器到LibSVM，最后進行訓練和測試并輸出結果，具體結構如圖5所示。

圖4 CNN結合LibSVM

本文的工作流程如下：

(1)樣本輸入卷積后生成卷積層1；

(2)卷積層1的圖片下采樣生成池化層1；

(3)重復上述過程生成卷積層2和池化層2；

(4)把池化層2的二維數據轉變為一維，這一維為全連接層；

(5)全連接層數據傳給Softmax；

(6)最后由LibSVM訓練以及分類識別測試圖像。

4 仿真實驗

4.1 實驗設定

實驗使用的是AR人臉數據庫，如圖6所示為數據庫中的1個人的26張不同狀態的人臉。人臉庫中有100個不同的人臉，有分男和女，有遮擋眼睛和嘴巴，有不同光照角度等不同狀態。每個人臉有26張不同狀態的圖，總共2 600張，本文把每個人臉中的24張為訓練圖和2張為測試圖，總共有2 400張訓練圖和200張測試圖，其中2張測試圖為隨機1張眼睛遮擋和1張嘴巴遮擋。本文主要測試人臉遮擋情況下的人臉識別率。

圖6 AR人臉數據庫

實驗操作步驟：

(1)每張圖原圖為165×120，用MATLAB命令imresize設置圖片大小為28×28，然后歸一化處理。

(2)卷積神經網絡的卷積核設置為5×5，采樣大小為2×2(平均值下采樣)，經過2次卷積和2次下采樣，最后輸出4×4的特征圖。然后使其為16×1的全連接輸入給Softmax。Softmax輸出結果輸入給LibSVM。

(3)LibSVM算法分類識別測試圖像，直接識別出200張人臉遮擋圖片分別為某人。

(4)進行十折交叉驗證，6張眼睛遮擋和6張嘴巴遮擋每個挑選一個做測試樣本，剩下的都作為訓練樣本，一共是6次。在無遮擋中挑選4次，總共進行10次上述步驟，最后求出平均識別率。

卷積時使用的卷積核是卷積神經網絡訓練好k值和b值后的卷積核，其中不同的迭代次數有不同的k和b值，識別率也不同，本文用0.12的學習率，分別迭代80次、100次、200次、500次、1 000次和2 000次。

4.2 實驗結果

實驗結果如表1、表2所示。

表1 算法識別率比較

表2 CNN+SVM算法與其他算法識別率比較

4.3 實驗結論

本文提出用卷積神經網絡結合LibSVM來分類識別AR人臉數據庫的人臉，由表1結果可知，當迭代數增加，識別率也相應地提高，當迭代次數增加到一定數值時，識別率提高效果不明顯。由表2比較其他算法卷積神經網絡結合支持向量機在AR人臉識別率上也有一定的優勢。對測試結果進行分析可知，CNN結合LibSVM的算法對分類識別遮擋人臉有良好的效果，提高了一定的識別率，為遮擋人臉識別提供了一種新的方法。

5 結束語

人臉識別一直被廣泛的關注，主要在于它有著廣泛的應用。從原來的特征提取結合SVM到現在的卷積神經網絡，其識別率一直在不斷地提高。后續可以通過對網絡的算法和訓練的算法進行改進，進而增強人臉的識別。

[1] 陳海霞，崔茜.基于Gabor小波和PCA的人臉識別[J].東北師范大學報(自然科學版),2014,46(4):77-80.

[2] 祝秀萍,吳學毅,劉文峰. 人臉識別綜述與展望[J]. 計算機與信息技術,2008(4):53-56.

[3] 舒雙寶,羅家融,徐從東,等. 一種基于支持向量機的人臉識別新方法[J]. 計算機仿真,2011,28(2):280-283.

[4] SYAFEEZA A R, KHALIL-HANI M, LIEW S S, et al. Convolutional neural network for face recognition with pose and illumination variation[J]. International Journal of Engineering & Technology,2014,6(1):44-57.

[5] LECUN Y, KAVUKCUOGLU K, FARABET C. Convolutional networks and applications in vision[C]. In Proceedings of the IEEE International Symposium on Circuits and Systems, Paris, France, 2010: 253-256.

[6] 王書舟,傘冶. 支持向量機的訓練算法綜述[J]. 智能系統學報,2008,3(6):467-475.

[7] FAN R E, CHEN P H, LIN C J. Working set selection using second order information for training SVM[J]. Journal of Machine Learning Research, 2005,6(4):1889-1918.

[8] 張學工. 模式識別(第三版)[M]. 北京：清華大學出版社，2010.

[9] 張建明,周威,吳宏林. 基于Gabor特征和支持向量引導字典學習的人臉識別[J]. 計算機工程與應用,2016,52(13): 177-182.

[10] YANG J, ZHANG D,FRANGI A F, et al. Two-dimensional PCA: a new approach to appearance-based face representation and recognition[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2004,26(1):131-137.

Study on face recognition based on CNN and SVM

Huang Chao, Bo Hua

(College of Information Engineering, Shanghai Maritime University, Shanghai 201306, China)

In this paper, a method combining convolution neural network and support vector machine is proposed for occluded face recognition. Through the convolution, deconvolution and Softmax feature extraction of convolution neural network, the training and recognition are completed by support vector machine. Experiments are carried out using AR face database and compared with traditional face recognition methods. Experimental results show that the proposed method has higher recognition rate.

convolution neural network; support vector machine; face recognition

TP391

A

10.19358/j.issn.1674- 7720.2017.15.016

黃超，薄華.基于卷積神經網絡結合SVM的人臉識別研究[J].微型機與應用，2017,36(15)：56-58,72.

2017-02-07)

黃超(1987-) ，男，碩士研究生，主要研究方向: 圖像處理與機器學習。

薄華(1971-) ，女，博士，碩士生導師，主要研究方向：遙感圖像處理、模式識別、人工智能。