基于NPE改進(jìn)算法的人臉識(shí)別

王族 閆德勤 何陽(yáng) 婁雪

摘 要：鄰域保持嵌入（NPE）算法與極端學(xué)習(xí)機(jī)結(jié)合后應(yīng)用到人臉識(shí)別中沒(méi)有達(dá)到令人滿意的識(shí)別效果，為找到更優(yōu)的解決方案，提出一種改進(jìn)的鄰域保持嵌入算法（SNPE）。在SNPE算法中將NPE目標(biāo)式子與帶有類間判別信息的式子做減法，通過(guò)極小化目標(biāo)函數(shù)，達(dá)到最小化同一類別領(lǐng)域距離且最大化不同類別領(lǐng)域距離的目的。通過(guò)Yale人臉數(shù)據(jù)庫(kù)、Yale B人臉數(shù)據(jù)庫(kù)、ORL人臉數(shù)據(jù)庫(kù)等實(shí)驗(yàn)結(jié)果表明，改進(jìn)后的算法大幅提高了人臉識(shí)別率。

關(guān)鍵詞：鄰域保持嵌入算法;流行學(xué)習(xí);人臉識(shí)別

DOI：10. 11907/rjdk. 182389

中圖分類號(hào)：TP301文獻(xiàn)標(biāo)識(shí)碼：A文章編號(hào)：1672-7800（2019）002-0009-04

Abstract： The combination of the neighborhood persistence embedding （NPE） algorithm and the extreme learning machine does not achieve a satisfactory recognition effect when applied to face recognition. In order to find a better solution， this paper proposes an improved neighborhood persistence embedding （SNPE） algorithm. In the SNPE， we subdivide NPE object subtypes with equations with inter-class discriminant information， minimize the distance between the same category and maximize the distance between different categories by minimizing the objective function. Through experiments such as the general Yale face database， Yale B face database， and ORL face database， the improved algorithm is proved to greatly improve the recognition rate in face recognition.

Key Words： neighborhood persistence embedding algorithm;manifold learning;face recognition

0 引言

人臉識(shí)別作為信息鑒別的一種常用手段，在公安、遙感、銀行等部門及領(lǐng)域均有相當(dāng)廣泛應(yīng)用，但在實(shí)踐中大多數(shù)數(shù)據(jù)均為高維數(shù)據(jù)，且存在分布不均勻的現(xiàn)象，因此對(duì)研究數(shù)據(jù)進(jìn)行有效維數(shù)約減十分重要。

基于現(xiàn)有維數(shù)約減方法發(fā)展出很多數(shù)據(jù)降維改進(jìn)算法。Kirby & Turk等[1-2]將主元分析法（Principal Component Analysis，PCA）引入到人臉識(shí)別降維算法中，后續(xù)還包括線性判別分析（Linear Discriminant Analysis，LDA）[3-5]。這兩種算法共同缺點(diǎn)是沒(méi)有考慮數(shù)據(jù)幾何結(jié)構(gòu)，即人臉圖像易受表情、臉部姿態(tài)、人臉形狀和皮膚及光照等內(nèi)外在因素影響，為了避免該問(wèn)題，研究者相繼提出了幾種非線性流行結(jié)構(gòu)降維方法[6]：等距映射法（Isometric Feature Mapping，Isomap）[7]、局部線性嵌入算法（Locally Linear Embedding，LLE）[8]及LE（Laplacian Eigenmaps）[9]算法，但由于以上算法會(huì)出現(xiàn)樣本外問(wèn)題，無(wú)法直接用于人臉識(shí)別。之后有學(xué)者提出域保持嵌入算法（Neighborhood Preserving Embedding，NPE）[10-12]，該算法在選取近鄰點(diǎn)時(shí)采用歐式距離計(jì)算方法，造成重構(gòu)誤差[13-14]，且在進(jìn)行線性重構(gòu)時(shí)NPE算法沒(méi)有考慮到樣本點(diǎn)間的判別信息。

針對(duì)上述問(wèn)題，本文在NPE基礎(chǔ)上進(jìn)行改進(jìn)， 改進(jìn)后算法不僅繼承了傳統(tǒng)NPE方法的優(yōu)點(diǎn)， 而且因目標(biāo)函數(shù)中加入類間判別信息，并用極端學(xué)習(xí)機(jī)（ELM）分類器[15]進(jìn)行分類，該方法能增強(qiáng)樣本點(diǎn)間的判別能力，更加準(zhǔn)確地實(shí)現(xiàn)數(shù)據(jù)降維。為了證明本文SNPE算法有效性，將其與LMMDE、RAF-GM、NPE算法在人臉數(shù)據(jù)集上進(jìn)行比較，實(shí)驗(yàn)結(jié)果證明本文算法優(yōu)于其它對(duì)比算法，并在降維問(wèn)題上取得了良好效果。

2 鄰域保持嵌入算法

鄰域保持嵌入（NPE）算法是一種局部特征提取算法，與其它算法相比主要有兩個(gè)優(yōu)點(diǎn)：一是能夠充分挖掘高維數(shù)據(jù)的局部信息，二是可解決數(shù)據(jù)非線性特性。假設(shè)高維數(shù)據(jù)由[X=x1，x2，？，xd，xi/xi？Rn]空間降到相對(duì)低維空間[X=y1，y2，？，yd，yi/yi？Rm（m

（1）選取數(shù)據(jù)樣本點(diǎn)[xi]的k個(gè)歐式距離最近的近鄰點(diǎn)[xj]，連接[xi]和[xj]。

（2）計(jì)算權(quán)重W。高維[Rn]空間中權(quán)重系數(shù)矩陣可以通過(guò)[φ（W）=ixi-jWijxj2]（約束條件為[jWij=1，][j=1，][2？N]）求得，[Wij]既能在[Rn]空間中重構(gòu)[xi]，也能在[Rm]空間中重構(gòu)[yi]，因此有[φ（y）=iyi-jWijyj2]，又由于NPE假設(shè)每個(gè)局部近鄰是線性的，則有[yi=ATxi]，經(jīng)過(guò)代數(shù)運(yùn)算可化簡(jiǎn)為[φ（y）=ATXMXTA]，其中[M=（I-W）T（I-W），][I=][diag（1，1？1）]，約束條件變?yōu)閇ATXMXTA=1]。

（3）求解特征映射。利用拉格朗日乘子法可將求解[φ（y）]的最優(yōu)化問(wèn)題轉(zhuǎn)化為求解特征值的問(wèn)題，即[XMXTA=μXXTA] ，設(shè)按[μ0<μ1<？<μm-1]從小到大排列所對(duì)應(yīng)的特征向量為[α0，α1，？，αm-1]，最終求得由[Rn]空間映射到[Rm]空間的坐標(biāo)為[yi=ATxi]，式中[A=（α0，α1，？αm-1）]。

3 基于NPE改進(jìn)的鄰域保持嵌入算法

由于人臉圖像數(shù)據(jù)存在信息冗余及噪音，會(huì)對(duì)ELM泛化能力造成影響，因此本文提出一種改進(jìn)的稀疏鄰域保持嵌入算法（SNPE）。SNPE算法主要特點(diǎn)包括：①該方法不僅能在固定權(quán)重的情況下使類內(nèi)局部鄰域線性重構(gòu)誤差最小，而且能增強(qiáng)樣本點(diǎn)之間的判別能力，使得在[Rm]空間內(nèi)的數(shù)據(jù)集具有最大的類間距離;②應(yīng)用到人臉識(shí)別時(shí)，會(huì)遇到小樣本問(wèn)題，即未經(jīng)處理的人臉數(shù)據(jù)維數(shù)較高且訓(xùn)練樣本數(shù)又很少，可能造成類間離散度矩陣[S]是奇異矩陣，為避免該類問(wèn)題本文算法采用減式而非除式。

將給定的N個(gè)訓(xùn)練樣本集[X=（x1，x2，？，xN）∈Rn]分為c類，記為[X=（x1，x2，？，xc）]。則[Y=（y1，y2，？，yc）]代表嵌入映射數(shù)據(jù)集[Y=（y1，y2，？，yN）∈Rm]的c類低維數(shù)據(jù)集。[xci]表示第[c]類第[i]個(gè)數(shù)據(jù)樣本，第[c]類數(shù)據(jù)樣本個(gè)數(shù)為[nc]。

基于上述假設(shè)，SNPE理論框架可由優(yōu)化公式（1）得到。

其中，[yci]和[ycj]分別為第[c]類樣本的第[i]個(gè)和第[j]個(gè)低維嵌入向量，[Wcij]為[yci]和[ycj]的重構(gòu)權(quán)重系數(shù)，[ωc]和[ω]分別為第[c]類樣本低維均值向量和總體樣本低維均值向量，再通過(guò)代數(shù)運(yùn)算對(duì)目標(biāo)函數(shù)進(jìn)行簡(jiǎn)化。SNPE繼承了NPE在降維時(shí)能保持?jǐn)?shù)據(jù)集固有的局部鄰域結(jié)構(gòu)不變的優(yōu)點(diǎn)，因此假設(shè)線性變化向量為[α]，則[YT=αTX]。

（1）被減數(shù)化簡(jiǎn)。

（2）減數(shù)化簡(jiǎn)。

（3）求解嵌入映射向量矩陣A。為達(dá)到降維時(shí)同類樣本點(diǎn)內(nèi)部幾何結(jié)構(gòu)不變，不同類樣本點(diǎn)間信息盡可能映射得比較遠(yuǎn)的目的，可以將其理解為極小化目標(biāo)函數(shù)被減數(shù)項(xiàng)及極大化目標(biāo)函數(shù)減數(shù)項(xiàng)，所以求解嵌入映射向量矩陣A可通過(guò)極小化目標(biāo)函數(shù)達(dá)到，即：

4 實(shí)驗(yàn)結(jié)果與分析

為證明SNPE算法與極端學(xué)習(xí)機(jī)（ELM）有更好的人臉識(shí)別率，本文主要考慮兩個(gè)變量因素：一是ELM分別采用Agauss 、Sig、Hardlim、Gauss、PCA、Sin六大函數(shù)在Yale人臉數(shù)據(jù)庫(kù)、Yale B人臉數(shù)據(jù)庫(kù)及ORL人臉數(shù)據(jù)庫(kù)上進(jìn)行對(duì)比實(shí)驗(yàn)，最終由于Sin函數(shù)性能的突出表現(xiàn)被選為統(tǒng)一的激活函數(shù)應(yīng)用于實(shí)驗(yàn)當(dāng)中;二是實(shí)驗(yàn)在每個(gè)樣本中隨機(jī)選取L={3，4，5，6}個(gè)訓(xùn)練集，其余部分為測(cè)試集。

對(duì)比SNPE和LMMDE、RAF-GM、NPE算法降至不同維數(shù)下的識(shí)別率，不同數(shù)據(jù)庫(kù)參數(shù)設(shè)置如表1所示，不同人臉庫(kù)圖像如圖1所示。

從圖2-圖4和表2-表4可看出，訓(xùn)練樣本個(gè)數(shù)和維數(shù)不同值均可帶來(lái)不同結(jié)果。對(duì)于Yale人臉數(shù)據(jù)，訓(xùn)練樣本為6、維數(shù)為40和90時(shí)最好; 對(duì)于Yale B人臉數(shù)據(jù)，訓(xùn)練樣本為6、維數(shù)為90最好;對(duì)于ORL人臉數(shù)據(jù)，訓(xùn)練樣本為6、維數(shù)為40和90時(shí)最好。SNPE性能可通過(guò)改變參數(shù)進(jìn)行調(diào)整。

圖2-圖4分別給出ELM運(yùn)用不同降維算法在Yale、Yale B及ORL人臉數(shù)據(jù)集上的識(shí)別率曲線，從中可以看出SNPE算法的識(shí)別率與LMMDE、NPE、RAF-GE算法相比有大幅度提升，在Yale B 人臉數(shù)據(jù)集上表現(xiàn)極為明顯，但在不同維數(shù)上的識(shí)別率不是很穩(wěn)定。ELM運(yùn)用于Yale及ORL人臉數(shù)據(jù)集上的識(shí)別率相對(duì)穩(wěn)定，且準(zhǔn)確率接近100%。表2-表4進(jìn)一步證明了以上結(jié)論，并充分說(shuō)明：①SNPE算法較原始的NPE算法有更好的識(shí)別率;②在Yale和ORL人臉數(shù)據(jù)集上的識(shí)別率基本達(dá)到90%以上且較穩(wěn)定，在Yale B人臉數(shù)據(jù)集上識(shí)別率較低但也明顯高于其它算法。因SNPE結(jié)合ELM算法充分考慮樣本點(diǎn)之間的結(jié)構(gòu)信息，NPE算法更能準(zhǔn)確地在復(fù)雜環(huán)境下實(shí)現(xiàn)人臉識(shí)別，

5 結(jié)語(yǔ)

人臉識(shí)別自提出以來(lái)受到廣泛關(guān)注，并且在實(shí)際生活中得到了很好的普及。本文算法將類間離散度矩陣作為判別信息加入到目標(biāo)函數(shù)中，進(jìn)行了一次有意義降維算法嘗試。SNPE算法能夠有效地對(duì)人臉識(shí)別數(shù)據(jù)維數(shù)進(jìn)行約減，減少了計(jì)算量，提高了ELM泛化性能。通過(guò)SNPE與LMMDE、RAF-GM、NPE的對(duì)比實(shí)驗(yàn)表明，本文方法在人臉圖像實(shí)驗(yàn)中取得了良好的分類效果。下一步研究重點(diǎn)是將SNPE應(yīng)用于其它圖像分類任務(wù)中，進(jìn)一步驗(yàn)證本文算法泛化性能。

參考文獻(xiàn)：

[1] LLC Member Representatives Committee. Digital Cinema Initiatives， LLC Digital Cinema System Specifications V1.0[EB/OL]. http：//www.dcimovies.com.

[2] ADAMS M，WARD R. JasPer：a portable flexible open-source software tool kit for image coding/processing[C]. Montreal： International Conference on Acoustics， Speech， and Signal Processing，2004.

[3] 李瑞敏，陸化普. 基于WebGIS的智能交通管理指揮調(diào)度系統(tǒng)[J].? 計(jì)算機(jī)工程，2007，33（21）：232-234.

[4] SCHMITT E J，JULA H. Vehicle route guidance systems： classification and comparison[C]. Proceedings of IEEE Intelligent Transportation Systems Conference， 2006： 242-247.