基于無監督最佳鑒別平面的人臉識別

摘 要:最佳鑒別平面作為一種重要的特征抽取方法，在人臉特征降維中具有重要的影響。然而，傳統的最佳鑒別平面是基于Fisher準則的，只能用于有監督模式。為此，提出了一種將最佳鑒別平面擴展到無監督模式下的方法，其基本思想是以投影空間中模糊類間離散度和模糊類內離散度的比值最大為優化目標，計算出無監督模式下最佳鑒別矢量及模糊離散度矩陣，進而獲得一種新的基于無監督最佳鑒別平面的特征抽取方法。較之同屬于無監督特征抽取的主成分分析，該方法更容易獲得有利于分類的特征。對CMUPIE人臉數據庫進行實驗，結果表明，在樣本類別信息缺失的情況下，該方法盡管無法具有與有監督模式下的最佳鑒別平面特征抽取方法同樣的性能，但當不同類之間差異較大時，將優于主成分分析方法。

關鍵詞:人臉識別; 特征抽取; 最佳鑒別平面; 無監督模式

中圖分類號:TP181文獻標志碼:A

文章編號:1001-3695(2010)06-2352-04

doi:10.3969/j.issn.10013695.2010.06.102

Face recognition based onunsupervised optimal discriminant plane

CAO Suqun1，2， WANG Shitong1， WANG Jun1，3

(1.School of Information， Jiangnan University， Wuxi Jiangsu 214122， China; 2.Faculty of Mechanical Engineering， Huaiyin Institute of Technology， Huaian Jiangsu 223003， China; 3.School of Computer Science Technology， Nanjing University of Science Technology， Nanjing 210093， China)

Abstract:As an important supervised feature extraction method， optimal discriminant plane has great influence in the facial feature reduction. However， traditional optimal discriminant plane is based on Fisher criterion function and it can only be used in supervised pattern. This paper presented a novel method to extend optimal discriminant plane to unsupervised pattern. Using the maximum ratio between fuzzy betweenclass scatter and withinclass scatter in the projection space as its optimization objective， an optimal discriminant vector and fuzzy scatter matrixes in unsupervised pattern could be figured out. With these， obtained a novel feature extraction method based on unsupervised optimal discriminant plane. Compared to principal component analysis(PCA) unsupervised feature extraction algorithm，this method is easier to get the features for the classification. The experimental results for CMUPIE face database demonstrate that although this method can’t have the same performance of traditional optimal discriminant plane in the condition of unlabelled data， it is superior to principal component analysis when the difference between one class and the another class is big.

Key words:face recognition; feature extraction; optimal discriminant plane; unsupervised pattern

0 引言

人臉識別是當前計算機模式識別領域的研究熱點，它屬于生物特征識別技術，在護照、信用卡、駕照、刑偵等身份鑒別領域有著廣泛的應用前景。人臉識別研究主要圍繞三個方面來進行，包括圖像分割、特征抽取和人臉分類[1]。特征抽取作為特征降維的一種，是人臉識別中的關鍵步驟，特征臉和Fisher臉是目前較為流行的人臉特征抽取方法，它們的理論基礎分別是主成分分析(principle component analysis，PCA) [2，3]和線性判別分析(linear discriminant analysis，LDA) [4]。

PCA方法是1901年Pearson在研究回歸分析時附帶提出的，其數學基礎是在1933年由Hotelling奠定的，隨著模式識別、機器學習等的興起與發展，PCA成為該領域特征抽取最重要的手段之一[3]。PCA將原數據空間投影到一個新的坐標空間，并保證在新坐標空間中保存的數據能量最大，該思想來源于KarhunenLoeve變換，其目的是通過線性變換找到一組最優的單位正交向量基 (也稱主成分)，用這組向量基的線性組合來重建原樣本，并使得重建后的樣本和原樣本的誤差最小。PCA在圖像處理、人臉識別、文本聚類等領域展示了良好的降維性能[5~7]。

LDA是在Fisher準則[8]下的線性投影變換，通過變換使模式在投影空間中類間離散度和類內離散度的比值最大，從而得到最有利于分類的模式特征，這種方法又叫Fisher線性判別(Fisher linear discriminant，FLD)。Belhumeur等人[9]以兩類兩維樣本為例，對PCA與FLD作了對比，如圖1所示，將二維數據投影到一維時，PCA選擇的投影方向顯然不如FLD選擇的投影方向更能區分這兩類，因此，FLD更強調類別間的可分性。與FLD相比，PCA在降維的同時也容易丟失樣本內有助于判別的信息。

由于LDA只能獲得一個最佳鑒別矢量，為此，Sammon[10]對其進行了擴展，提出了最佳鑒別平面技術，即在Fisher準則函數取得最大值的條件下，求得與Fisher鑒別矢量正交的第二個最佳鑒別矢量，進而構成最佳鑒別平面。1975年，Foley等人[11]將其進一步擴展，提出了最佳鑒別矢量集技術。1982年，Longstaff[12]提出了分別基于FukunagaKoontz變換和基于徑矢(radius vector)的最佳鑒別平面。1992年，程永清等人[13]探討了小樣本情況下求解最佳鑒別平面的方法。1999年，金忠等人[14]證明構成最佳鑒別平面的兩個鑒別矢量是統計相關的，提出將正交約束條件更改為總體散布矩陣共軛正交條件，以求得統計不相關的兩個鑒別矢量，進而獲得了具有統計不相關性的最佳鑒別平面。2000年，趙海濤等人[15]指出由于類間散布矩陣是對稱矩陣，存在既滿足正交又滿足總體散布矩陣共軛正交兩個條件的鑒別矢量，并基于此，提出了一種改進的最佳鑒別平面技術。此后，吳小俊等人[16~18]從譜分解和廣義統計不相關角度分別對最佳鑒別平面技術進行了拓展。

上述的這些最佳鑒別平面的技術都是以基于Fisher準則求得Fisher最佳鑒別矢量為基礎的。由于傳統上無法通過未標記樣本計算Fisher最佳鑒別矢量，這些方法只能用于有監督模式。針對此，本文給定模糊Fisher準則的定義，通過對該準則優化，在無監督模式下求得最佳鑒別矢量，進而給出最佳鑒別平面擴展到無監督模式的方法，并將其應用于人臉識別。

1 Fisher準則與最佳鑒別平面

設X包含N個d維樣本x1，x2，…，xN，可用d×N矩陣表示，模式類別有c個，各類別樣本數分別為Ni(i=1，2，…，c)，有N1+N2+…+Nc=N， 定義模式類間散布矩陣Sb和類內散布矩陣Sw分別為

Sb=∑ci=1NiN(mi-x)(mi-x)T

Sw=1N∑ci=1∑Nij=1(xij-mi)(xij-mi)T

其中:mi(i=1，2，…，c)是第i類樣本的均值向量，是總體樣本的均值向量。

定義Fisher準則函數為

JF(ω)=ωTSbωωTSwω，ω≠0(1)

使JF(ω)取得極大值的矢量ω1稱為最佳鑒別矢量，此時，樣本在ω1方向投影將具有最大類間散布和最小類內散布。使用拉格朗日(Lagrange)乘子法求解知，當Sw非奇異時，有

Sbω1=λSwω1(2)

其中:λ為Lagrange乘子，ω1為該廣義特征方程中最大的特征值對應的特征向量。通過Y=ωT1X，實現模式X由d維向一維的投影轉換。

根據Sammon[10]的思想，在Fisher準則函數取最大值的條件下，求得與Fisher最佳鑒別矢量ω1正交的第二個最佳鑒別矢量ω2，從而由ω1、ω2構成最佳鑒別平面。

顯然，ω2是在滿足下列正交條件下使得式(1)取得最大值的向量:

ωT2ω1=0(3)

經求解，ω2是下列廣義特征方程中最大的特征值對應的特征向量:

PSbω2=λSwω2(4)

其中:P=I-ω1ωT1S-1wωT1S-1wω1， I是d×d的單位矩陣。

通過Y=ωT1ωT2X，實現模式X由d維向二維的投影轉換。

2 模糊Fisher準則與無監督最佳鑒別平面

設uij為隸屬函數，表示第j個d維樣本隸屬第i類的程度，uij∈[0，1]且對于所有j，有∑ci=1uij=1;m為模糊指數，m>1。

在樣本空間，定義各類樣本均值向量記為mi，模糊類內散布矩陣記為

Sfw=∑ci=1∑Nj=1umij(xj-mi)(xj-mi)T(5)

模糊類間散布矩陣記為

Sfb=∑ci=1∑Nj=1umij(mi-)(mi-)T(6)

設y=ωTx，在該投影空間，定義各類樣本均值向量記為i，有

i=ωTmi(7)

定義模糊類內散布矩陣記為

S~fw=∑ci=1∑Nj=1umij(yj-i)(yj-i)T=ωTSfwω

模糊類間散布矩陣記為

S~=∑ci=1∑Nj=1umij(i-)(i-)T=ωTSfbω

定義模糊Fisher準則(fuzzy Fisher criterion)函數[19]:

JFFC=S~fbS~fw=ωTSfbωωTSfwω(8)

使用Lagrange乘子法求解JFFC取得極大值時，ω、mi和uij的取值。

定義Lagrange函數為

L=ωTSfbω-λωTSfwω+∑Nj=1λj(∑ci=1uij-1)

式中λ和λj(j=1，2，…，n)為Lagrange乘子。

將L分別對ω、mi和uij求偏導數，并令偏導數為零，由此，可給定如下約束條件:

Sfbω=λSfwω(9)

當Sfw可逆時，λ取為S-1fwSfb的最大特征值，ω取其對應的特征向量。

mi=∑Nj=1umij(xj-1λ)∑Nj=1umij(1-1λ)(10)

uij=F1F2(11)

其中:

F1=(ωT(xj-mi)(xj-mi)Tω-1λωT(mi-)(mi-)Tω)-1m-1

F2=∑ck=1(ωT(xj-mk)(xj-mk)Tω-1λωT(mk-)(mk-)Tω)-1m-1

由于uij∈[0，1]，對式(11)給出如下限定條件，若

ωT(xj-mi)(xj-mi)Tω≤1λωT(mi-)(mi-)Tω(12)

則uij=1，且對所有i′≠i，有ui′j=0。

在模糊Fisher準則函數取最大值的條件下，使用以上公式進行迭代運算，最終可由式(9)求得模糊Fisher最佳鑒別矢量，記為ω1。

在此基礎上，求得與ω1正交且模糊Fisher準則函數取最大值的第二個鑒別矢量ω2，由ω1、ω2構成無監督最佳鑒別平面，求解方法可參照定理1。

定理1 若ω2是在滿足下列正交條件下使得式(8)取得最大值的向量:

ωT2ω1=0(13)

則ω2是下列廣義特征方程中最大特征值對應的特征向量:

PSfbω2=λSfwω2(14)

其中:P=I-ω1ωT1S-1fwωT1S-1fwω1， I是d×d的單位矩陣。

證明 采用Lagrange乘子法，定義:

L=ωTSfbω-λωTSfwω-βωTω1

其中λ和β均為拉格朗日乘子。

對ω求導，有

Lω=02Sfbω-2λSfwω-βω1=0(15)

將式(15)兩邊同乘ωT，得

2ωTSfbω-2λωTSfwω=0λ=ωTSfbωωTSfwω(16)

由此式可知，λ表示該表達式取得的最大值。

將式(15)兩邊同乘ωT1S-1fw，得

2ωT1S-1fwSfbω-2λωT1S-1fwSfwω-βωT1S-1fwω1=0(17)

βωT1S-1fwω1=2ωT1S-1fwSfbω

β=2(ωT1S-1fwω1)-1ωT1S-1fwSfbω

將此式代入式(15)，得

2Sfbω-2λSfwω-ω1×2(ωT1S-1fwω1)-1ωT1S-1fwSfbω=0

Sfbω-ω1(ωT1S-1fwω1)-1ωT1S-1fwSfbω=λSfwω

I-ω1ωT1S-1fwωT1S-1fwω1Sfbω=λSfwω(18)

根據式(16)，由于λ是模糊Fisher準則函數最大值，ω即為該廣義特征方程中最大特征值對應的特征向量，證明完畢。

通過以上分析，求得ω1和ω2，進而由

Y=ωT1ωT2X(19)

實現模式X由d維向二維的投影轉換。

綜上所述，提出一種基于無監督最佳鑒別平面(unsupervised optimal discriminant plane，UODP)的特征抽取算法。UODP算法描述如下:

a)給定閾值ε或迭代次數，使用Kmeans算法初始化隸屬矩陣U以及聚類中心mi;

b)使用式(5)(6)分別計算Sfw、Sfb;

c)根據式(9)求得廣義特征方程的最大特征值λ，并取ω1為屬于λ的模為1的特征向量;

d)使用式(10)(11)分別計算新的隸屬矩陣U以及聚類中心mi;

e)使用式(8)計算模糊Fisher準則函數JFFC，若它相對上次準則函數數值的改變量小于閾值ε或迭代次數超過設定次數，則轉f)，否則返回b);

f)使用式(14)計算λ2和對應的ω2;

g)使用式(19)完成特征抽取，算法結束。

3 實驗結果及分析

采用美國卡耐基梅隆大學的姿態、光照和表情數據庫CMUPIE[20]進行測試，以便比較主成分分析(PCA)、獨立成分分析(ICA)[21] 、無監督最佳鑒別平面(UODP)和傳統最佳鑒別平面(ODP)等特征抽取方法在人臉數據降維中的性能。

CMUPIE數據庫收集了68個人的41 368幅圖像，分別是每個人在13種不同姿態、43種不同光照以及4種表情下的圖像。本實驗選取C05、C07、C09、C27、C29五個姿態以及不同光照和表情的圖像 [22]中差異明顯的一男一女兩個人圖像作為實驗數據。圖2為實驗中所用部分圖像。

為避免小樣本問題，分別將圖像分辨率縮小到4×4、6×6、8×8、10×10、12×12、14×14、16×16以及18×18的大小，分別取每人前15%和20%圖像作為訓練集，其余圖像作為測試集，使用最近鄰分類器，對分別采用PCA、FastICA[18]、UODP和ODP得到的降維數據進行測試。經測試，采用ODP有監督特征降維，除了在圖像分辨率為4×4時，錯分10個外，其余均能100%正確分類。這一方面說明了樣本類別信息對降維的重要性，體現了ODP屬于有監督特征降維的優點;另一方面也證明了此兩類人臉數據具有良好的可分性。而對采用PCA、fastICA和UODP得到的降維數據進行測試所得錯分樣本數如表1所示。

a)由于屬于有監督特征抽取的ODP方法有效地利用樣本類別信息，在三種降維方法中占有絕對的優勢，當圖像分辨率在6×6~18×18，采用ODP特征抽取降維數據進行最近鄰分類器分類的錯分數均為0，也說明了原兩類人臉數據具有良好的可分性。

b)采用UODP特征降維數據與PCA和FastICA特征降維數據人臉識別相比，錯分數較少。由于無監督最佳鑒別平面技術強調投影空間類內相對集中的同時，還強調類間相對分散，當類別數據具有良好的可分性時，UODP比PCA更易于獲取有利于分類的特征。

c)采用總數據的20%作為測試集時，PCA在分辨率為4×4、10×10和14×14時優于UODP;而采用總數據的15%作為測試集時，PCA僅在分辨率為10×10時優于UODP。

相比較而言，采用總數據的20%作為測試集時，PCA性能更好，主要的原因在于PCA算法需要一個數據量充足的協方差矩陣，當測試集數據量較少時，將導致PCA計算不夠準確，從而造成性能下降。

與PCA相比，UODP對測試數據占15%與20%不敏感，兩種情況下均具有較為穩定的性能。

4 結束語

本文針對特征降維，提出了一種基于模糊Fisher準則的無監督最佳鑒別平面，并將其應用于無監督特征抽取。該方法改變了傳統最佳鑒別平面只能在有監督模式下運用的情況，拓展了最佳鑒別平面技術使用范圍。對CMUPIE人臉數據降維后的人臉識別實驗結果表明，盡管由于樣本信息的缺失，本方法無法獲得與用于有監督特征降維的傳統最佳鑒別平面同樣的性能，但當樣本類別差異大，能夠很好地利用模糊類間離散度，從而獲得比同屬于無監督特征抽取的PCA以及ICA方法更好的性能。必須指出，該方法在多樣本數據降維中取得較好的效果，對于小樣本數據降維問題，在未來工作中還需加以研究。

參考文獻:

[1]JIN Z， YANG J Y， HU Z S， et al. Face recognition based on the uncorrelated discriminant transformation[J]. Pattern Recognition， 2001， 34(7):1405-1416.

[2]WEBB A R. Statistical pattern recognition[M]. 2nd ed. New York: Wiley， 2002.

[3]王玨， 周志華， 周傲英. 機器學習及其應用[M]. 北京: 清華大學出版社， 2006.

[4]邊肇祺， 張學工. 模式識別[M]. 2版. 北京: 清華大學出版社， 2000.

[5]HSIEH P C， TUNG P C. A novel hybrid approach based on subpattern technique and whitened PCA for face recognition[J]. Pattern Recognition， 2009， 42(5):978-984.

[6]MYOUNG S P， JIN Y C. Theoretical analysis on feature extraction capability of classaugmented PCA [J]. Pattern Recognition， 2009， 42(11):2353-2362.

[7]VENKATESH Y V， KASSIM A A， RAMANA MURTHY O V. A novel approach to classification of facial expressions from 3Dmesh datasets using modified PCA[J]. Pattern Recognition Letters， 2009， 30(12):1128-1137.

[8]FISHER R A. The use of multiple measurements in taxonomic problems[J]. Ann Eugenics， 1936，7:178-188.

[9]BELHUMEUR P N， HESPANHA J P， KRIEGMAN D J. Eigenfaces vs. Fisher faces: recognition using class specific linear projection[J]. IEEE Trans on PatternAnal Mach Intell， 1997，19(7):711-720.

[10]SAMMON J W. An optimal discriminant plane[J]. IEEE Trans on Computers， 1970，19(9):826-829.

[11]FOLEY D H， SAMMON J W. An optimal set of discriminant vectors[J]. IEEE Trans on Computers， 1975， 24(3):281-289.

[12]LONGSTAFF I D. On extensions to fisher’s linear discriminant function[J]. IEEE Trans on Pattern Analysis and Machine Intelligence， 1987， 9(2): 321-325.

[13]程永清， 莊永明， 楊靜宇. 小樣本下的最佳鑒別平面[J]. 華東工學院學報， 1992， 61(1):1-5.

[14]金忠， 婁震， 楊靜宇. 一種具有統計不相關性的最佳鑒別平面[J]. 模式識別與人工智能， 1999， 12(3):334-338.

[15]趙海濤， 金忠. 一種改進的最佳鑒別平面[J]. 南京理工大學學報， 2000， 24(1): 88-92.

[16]吳小俊， 楊靜宇， 王士同，等. 基于譜分解的FS最佳鑒別平面及艦船識別研究[J]. 船舶力學， 2003， 7(2):116-120.

[17]吳小俊，楊靜宇，王士同，等. 改進的統計不相關最優鑒別矢量集[J]. 電子與信息學報， 2005， 27(1):47-50.

[18]WU X J， WANG S T， ZHENG Y J， et al. A new statistically uncorrelated discriminant plane[C]//Proc of International Conference on Neural Networks and Brain. 2005:712-716.

[19]曹蘇群， 王士同， 陳曉峰，等. 基于模糊Fisher準則的半模糊聚類算法[J]. 電子與信息學報， 2008， 30(9):2162-2165.

[20]RALPH G. Robotics Institute: PIE database[EB/OL]. (2001). http://www.ri.cmu.edu/research_project_detail.html?project_id =418menu_id=261.

[21]FastICA package for MATLAB[EB/OL].(2007). http://www.cis.hut.fi/projects/ica/fastica/.

[22]CAI D， HE X， HAN J， et al. Orthogonal Laplacianfaces for face recognition[J]. IEEE Trans on Image Processing， 2006，15(11): 3608-3614.