基于深度卷積稀疏自編碼分層網絡的人臉識別技術

王金平

(太原理工大學 科學技術研究院，太原 030024)

人臉識別作為計算機視覺中的重要領域一直是學術界與工業界的研究熱點。人臉識別往往通過辨別面部器官(眼睛、鼻子、嘴等)形狀、大小、分布的不同而進行判斷。但光照、姿態、遮擋、表情、老化等變化因素為人臉識別帶來了困難。同時，海量人臉圖像處理過程中所遇到的“維度災難”問題，同樣是人臉識別領域的挑戰之一。

20世紀90年代以來，研究者們相繼提出了不同的人臉識別方法。BRUNELLI et al[1]提出了兩種算法,分別基于幾何特征與灰度特征進行模板匹配。WISKOTT et al[2]提出了一種基于彈性圖匹配的人臉識別系統，該系統對人臉圖像通過彈性圖匹配操作進行特征提取，并通過相似函數進行比較。CHEUNG et al[3]針對基于整體外觀的臉部識別方法需要高維度特征空間來獲得優秀表現這一問題，提出了一種較低維的特征尺寸與模板匹配方案,使用聚合Gabor濾波器響應來表示臉部圖像,在識別面部表情有變化的重復圖像上比主成分分析方法更具有魯棒性。WRIGHT et al[4]將識別問題看作多元線性回歸模型中的一種分類模型,并使用了稀疏重構表示主成分特征,提出了處理由遮擋和破壞引起的錯誤識別的新框架。針對維度災難問題，不少研究者利用主成分分析(PCA)[5]方法來對人臉識別進行研究，但這種方法只考慮圖像的低層統計信息而忽略圖像的高層信息。一些研究者進一步提出利用稀疏編碼方法對人臉進行識別以獲得海量人臉圖像更高階的信息[6-7]。但利用稀疏編碼進行人臉識別的方法存在的問題是，由于其基函數依賴于人臉數據庫基函數，當數據庫不同時需要對相應數據庫進行重新學習。

以上方法均是利用傳統方法提取人臉圖像特征；盡管將不同形式的特征(紋理特征、形狀特征等)用于人臉識別系統中,但是研究人員仍無法確定最適合于人臉識別的特征子集。而且,由于人臉圖像和其他因素緊密相關，這些人為定義的傳統特征能否充分有效地表征人臉圖像也無法確定。因此，利用深度學習方法實現檢測和無限制的面部識別應運而生。近年來，運用深度學習方法進行人臉識別已經取得一定的成果。WANG et al[8]提出了通過逐層訓練深度卷積神經網絡對網絡進行收斂,通過樣本轉換方法,避免過擬合的情況,有效提高了人臉識別的準確率。HU et al[9]利用三種卷積神經網絡對公共人臉數據庫LFW進行人臉識別，并定量比較了CNN的體系結構，評估了不同選擇的實現效果。ZHU et al[10]提出了一種深層神經網絡多視覺感知器(MVP),用以識別身份以及視圖特征,模擬人腦推測出全景圖像并給出單張2D臉部圖像。

目前,研究人員更傾向于使用深度網絡進行識別,然而仍存在調整參數多、計算成本高、特征提取能力弱的問題。針對這一問題,本文提出一種基于深度卷積稀疏自編碼分層網絡(hierarchical deep convolution sparse autoencoder，HDCSAE)的人臉識別方法。該方法將基于Same模式的卷積操作融入自編碼網絡中，同時加入稀疏化思想，從而形成深度卷積稀疏自編碼網絡；用該網絡可自動提取海量人臉圖像的魯棒高層特征，避免了繁瑣的手工提取特征過程。為了進一步提高分類效果，將卷積神經網絡的Softmax層替換為SVM分類器形成分層網絡，即將提取的高層特征輸入至SVM中進行分類。

1 網絡模型構建

1.1 自編碼網絡

自編碼網絡是一種用于學習一組數據表示的神經網絡[11]，旨在學習輸入的緊湊表示，同時保留最重要的信息。自編碼網絡由編碼器和解碼器兩部分構成，如圖1所示。其中，編碼器是指輸入層與中間層組成的子網，目的在于減少輸入數據的維度以學習輸入數據的簡化表示；解碼器是指中間層與輸出層組成的子網，目的在于在低維空間重建輸入。自編碼網絡的特點是，通過無監督的學習使得輸出值盡可能地接近輸入值。

圖1 自編碼網絡模型Fig.1 Autoencoder network model

給定樣本，X=[x1,x2,…,xd].自編碼的訓練目標是最小化重建誤差，如式(1)：

(1)

(2)

式中：hi表示中間隱含層；W1和W2分別代表編碼器和解碼器的權重矩陣；b1和b2表示網絡偏置；g(·)表示激活函數。

1.2 基于Same模式的卷積自編碼網絡

卷積自編碼[12]包括卷積編碼與卷積解碼，其核心思想是在自編碼網絡的無監督學習方式基礎上結合卷積神經網絡的卷積與池化操作，來實現特征不變性提取。為了更好地實現無損特征提取以及特征圖重構，本文采用Same模式卷積操作下的卷積自編碼網絡CAE-S，如圖2所示。

圖2 CAE-S結構圖Fig.2 CAE-S structure

對特征圖執行基于Same模式卷積操作的CAE-S卷積編碼，具體公式如下：

(3)

式中：g為輸出圖像；f為輸入的人臉圖像；f'為對矩陣f上下左右各填充(m-1)/2維數據；h為卷積核；m為輸入圖像的寬。采用基于Same模式的卷積自編碼網絡，計算CAE-S的輸出與輸入的均方誤差并由此更新網絡權值，進而實現特征提取。

1.3 稀疏自編碼網絡

將稀疏自編碼網絡的輸入設為{x(1),x(2),…}，并將目標值設為輸入值y(i)=x(i).稀疏自編碼網絡結構如圖3所示。前向傳播的公式如下：

(4)

圖3 稀疏自編碼網絡結構Fig.3 Sparse autoencoder network structure

(5)

用最少的隱藏單元來表示輸入層的特征以達到稀疏性,因此應采用KL(Kullback-Leibler divergence)距離,具體表達式如下：

(6)

稀疏自編碼網絡[13]整體代價函數如下：

(7)

式中，

(8)

(9)

這樣,一個稀疏自編碼器就完成了。稀疏自編網絡同樣可用于降維，其稀疏性具體表現為用較少的隱含層來表示原始數據。

1.4 基于Same模式的深度卷積稀疏自編碼分層網絡

本文在自編碼網絡的基礎上引入Same模式下卷積操作與稀疏化思想，同時用SVM分類器代替傳統的Softmax分類器作為本文所提出網絡的分類器，提出了HDCSAE。該網絡結合了無監督稀疏自編碼(sparse autoencoder,SAE)的特征提取能力和有效的卷積特征表示能力，實現了人臉圖像特征的自動提取。在卷積之后，由SAE提取的代表特征是對原始輸入圖像的特定方向和結構信息的響應，并且卷積特征圖包含用于后一層特征表示的重要且期望的信息。該網絡由3部分組成：第1部分由CSAE-S層與Pooling層的組合CSAE作為深度網絡的基本模塊堆疊而成；第2部分為全連接層；第3部分為分類器部分，即將全連接層后提取的高層抽象特征輸入SVM分類器，得到分類結果。最終形成基于Same模式的深度卷積稀疏自編碼分層網絡(HDCSAE)，如圖4所示。

圖4 基于Same模式的深度卷積稀疏自編碼分層網絡(HDCSAE)
Fig.4 Hierarchical deep convolution sparse autoencoder
(HDCSAE) network based on Same mode

整個網絡采用LeakyReLU作為激活函數。在網絡的每個Pooling層后加入Dropout層，可抑制網絡陷入過擬合的狀態,增強其泛化性。最后使用多類別SVM分類器(multiclass support vector machine)代替傳統的Softmax分類器，從而形成分層網絡，進一步提高了識別準確率。

2 實驗結果與分析

2.1 實驗數據

本文使用FERET人臉數據庫對本文提出的HDCSAE的性能進行測試。FERET人臉數據庫作為目前常用的人臉識別數據庫之一，包含1 196人14 051幅多姿態和光照的人臉灰度圖像。圖5為部分人臉圖像。

2.2 參數設置

選取數據集中的80%圖像進行訓練,20%進行測試。為了驗證系統的穩定性和魯棒性,采用5折交叉驗證法對網絡性能進行評估。HDCSAE比傳統CNN要多n×m次卷積操作；其中，n表示HDCSAE的卷積層數，m表示該網絡中自編碼訓練迭代次數。

圖5 FERET人臉數據庫部分圖像Fig.5 Part of the images in FERET face database

為了使CNN在訓練過程中可以更快地收斂，目前常用的方法是通過無監督預訓練的方式來代替隨機初始化權重[14]。而本文中DCAE/DCSAE的本質就是利用自編碼初始化CNN權重，即通過控制輸出近似等于輸入的自編碼訓練思想完成CNN參數初始化設置。

為了證明將基于Same的卷積操作融入自編碼網絡中同時加入稀疏化思想所形成的深度卷積稀疏自編碼網絡在特征提取方面的有效性，本文將傳統CNN、基于Same的卷積操作融入自編碼網絡所形成的的DCAE以及在DCAE的基礎上加入稀疏化思想所形成的DCSAE進行對比。網絡設計如表1所示。

表1 DCSAE及對比網絡結構Table 1 Structure of DCSAE and contrast network

表1為所設計的3種網絡模型，其中(64,5×5)表示該卷積層包含64個5×5卷積核。在實驗條件允許且不增加訓練時間的情況下，將訓練塊大小設置為32，每層自編碼迭代5次，整個網絡迭代13次。

2.3 實驗分析

實驗1通過比較CNN, DCAE,DCSAE等3種識別方法在測試集以及訓練集上的準確性來評價本文提出的網絡的性能，具體結果如表2所示。

表2 DCSAE及對比網絡實驗結果Table 2 DCSAE and contrast network experiment result

分析圖6以及表2可以得出,相較于傳統CNN，DCAE和DCSAE在訓練準確率以及測試準確率上均有提高。其中，DCSAE在測試準確率以及訓練準確率上均取得最高值。由此說明，將基于Same模式卷積操作融入自編碼網絡以及在此基礎上加入稀疏化操作在提取人臉圖像魯棒的高層特征上的有效性，從而使得網絡的泛化性能更好。

圖6 FERET數據集下不同方法的測試準確率與訓練準確率Fig.6 Test accuracy rate (a) and train accuracy rate (b) of different methods under FERET dataset

為了說明分層結構可以有效提高深度卷積稀疏自編碼網絡的識別性能，并且說明本文提出的人臉識別方法相對于其他人臉識別方法的優越性，實驗2在FERET數據集下將本文提出的HDCSAE與傳統的PCA+SVM結合方法[15]、SDAE(棧式降噪

自編碼,stacked denoising autoencoders)[16]方法以及F-NNSC方法[17]進行比較，實驗對比結果如表3所示。

表3 FERET數據集下不同算法的識別率Table 3 Recognition rate of different algorithms under FERET dataset

分析對比表3中HDCSAE與表2中DCAE、DCSAE的實驗結果后得出，HDCSAE的識別率更高。由此說明了將傳統Softmax層替換為SVM分類器對人臉識別的有效性，即說明了分層框架的有效性。

由表3還可以看出：相較于PCA+SVM算法、F-NNSC算法這些基于人為定義特征的人臉識別方法，本文方法(HDCSAE)的識別率有所提高；相較于基于SDAE的人臉識別算法，本方法的識別率有明顯的提高。由此證明，本文提出的人臉識別方法可以提取更加魯棒的人臉圖像特征，在深度網絡結構設計上更加合理。

3 結論

本文在自編碼網絡的基礎上融入基于Same模式的卷積操作并引入稀疏化思想，形成深度卷積稀疏自編碼網絡，再將網絡中Softmax分類器替換為SVM分類器，從而提出深度卷積稀疏自編碼分層網絡(HDCSAE)，并將其運用于人臉識別。實驗證明，該網絡能提取人臉圖像更加有效魯棒的高層特征并得到較好的識別結果。