對人臉識別中Ｆｉｓｈｅｒ線性判別的改進方法

摘要：論文對傳統的Fisher線性判別作了深入的分析，由于樣本類間離散度矩陣不能很好的分開距離較近的樣本類，為此該文又重新定義了樣本類間離散度矩陣。通過改進其投影方向來減輕邊緣類對特征分解的主導作用，從而提高了識別效率。

關鍵詞： Fisher線性判別；人臉識別；離散度矩陣；邊緣類

中圖分類號：TP311文獻標識碼：A文章編號：1009-3044(2008)27-2054-02

To Face Recognition in Fisher Linearity Distinction Corrective Method

CHENG Xing-jing ， FU jia-xiang

(College of Electrical Science and Technology， Guizhou University， Guiyang 550003， China )

Abstract: The paper to the traditional Fisher linearity distinguished has made the thorough analysis， Because between the sample class relative dispersion matrix cannot very good be away from the near sample class separately ，Has redefined between the sample class relative dispersion matrix for this this article .Through improves its projection direction to reduce the edge class the leading role which decomposes to the characteristic， thus enhanced the recognition efficiency.

Key words: fisher linearity distinction; face recognition; relative dispersion matrix; edge class

1 引言

在應用統計方法解決模式識別問題時，碰到的一大困難是維數過高。許多在低維空間里解析上或計算上行的通的方法，在高維空間里往往行不通。因此，降低維數有時就成為處理實際問題的關鍵。例如將d維空間的樣本投影到一條直線上形成一維空間，即把維數壓縮到一維。但是，即使樣本在d維空間里形成若干緊湊的互相分得開的集群，若把它們投影到一條任意的直線上，也可能使幾類樣本混在一起而變得無法識別。但在一般情況下，總可以找到某個方向，使在這個方向的直線上，樣本的投影能分開的最好。如何根據樣本找到最好的、最易于分類的投影線，就是Fisher線性判別要解決的問題。

2 Fisher線性判別分析

Fisher線性判別準則是假設不同類別在模式空間是線性可分的，而引起它們可分的主要原因是不同人臉之間的差異，Fisher線性判別的原則就是從高位特征空間里取出最具有判別能力的低維特征使不同類樣本盡可能地遠些，同類樣本盡可能地近些。

從d維空間投影到一維空間，實際上是通過(1)式完成的：

其中，x為d維樣本，一共有N個，可以分為兩類，c=2，N1個為一類，N2個為另一類，w為投影方向，y為一維的樣本。w的方向不同，投影后的可分離程度就不同，識別效果也就不同。

為了更容易的定義Fisher準則函數，可以先來定義幾個必要的基本量。

樣本的內類離散度矩陣可以定義為：

其中，pi是先驗概率，mi是ci類的均值。

各樣本的均值向量mi，設每類樣本的數目為K個，mi可以表示為：

其中，pi是先驗概率，mi是ci類的均值，m是所有樣本的均值。

如果Sw是非奇異的矩陣，則希望在投影以后，各類樣本之間盡可能的分開一些，也就是類間離散度越大越好，同時希望各類樣本的內部盡量的密集起來，也就是類內離散度越小越好。因此可以定義Fisher準則函數如（6）式：

Wopt就是使得樣本類間離散度矩陣和樣本內類離散度矩陣的比值最大的那些正交特征向量。

下面就是要求出J（Wopt）取最大值是對應的特征向量。通過數學變換可以得出，Wopt就是滿足如下等式的解：

如果Sw非奇異，就是求Sw-1Sb的本征值問題。其中該矩陣最多只有C-1非零特征值，C是類別數目。

Fisher線性判別分析提取的特征向量集強調的是不同人臉差異而不是照明條件、人臉表情和方向上的變化，這樣有助于提高識別率。但采用這種方法計算時計算量比較大，訓練時間比較長。當圖像的像素個數比訓練的圖像多的時候，本樣的離散度矩陣通常是奇異的，造成求特征值、特征向量不可解。

3 改進的Fisher線性判別

傳統的LDA方法尋找的投影方向是將同一類別的所有樣本聚集在一起，而不同類別的樣本盡量分開。從樣本類間離散度矩陣的定義來看，該定義使得所有樣本的均值與個樣本的均值盡量的分開，但是這樣做并不能避免各個類的均值相互接近。更嚴重的是，有些不同類別的樣本還有相互重疊的現象。如果一個類距離較遠，我們把它稱為邊緣類。用傳統的LDA方法只能分開那些邊緣類與其他類。但在這個方向，并不能很好的區分除邊緣類意外的其它類，這就是由于邊緣類主導了這個投影方向，從而導致判別錯誤增加。邊緣類是罪魁禍首。為了說明這種現象，我們可以用圖1表示。

如果根據傳統定義的樣本類間離散度矩陣，可以得出投影方向A。從圖中可以發現，當類1和類別2要投影到A方向時，有明顯的重疊。由于邊緣類主導了特征分解，用傳統的LDA使投影矩陣過分強調了那些距離很遠的類別。如投影到B方向就會有很好的表現。

針對這個問題我們可以重新定義樣本類間離散度矩陣Sb：

這里的pipj分別是類別i，j的先驗概率，△ij是兩個類之間的歐幾里德距離，W（△ij）是加權函數，當W（△ij）是一個常函數時，（8）定義的投影方向與（5）定義的投影方向相同。

為了減輕邊緣類對特征分解的主導作用，可以考慮的辦法使用加權值的方法減小邊緣類對特征分解的作用。具體來說就是：如果||μi—μj||距離越大，給它們的權值就越小，相當于在樣本類間離散度的定義中只考慮樣本類間距離的方向，而忽略其距離的大小。所有的類別都被公平的對待，以減輕邊緣類主導特征分解帶來的問題。

4 結語

本文從基于Fisher線性判別分析方法的角度出發，分析了該方法的優缺點，并對樣本類間離散度矩陣重新定義。通過改進其投影方向來減輕邊緣類對特征分解的主導作用，從而提高了識別效率。

參考文獻：

[1] 余冰，金連莆，陳平.利用標準化LDA進行人臉識別[J].計算機輔助設計與圖形學學報，2003，15(3):302-306.

[2] 郭娟，林冬，戚文芽.基于加權Fisher 準則的線性鑒別分析及人臉識別[J].計算機應用，2006，26(5):1037-1039.

[3] 陳力，劉文超，陳艷紅.一種基于Fisher 最優判據的人臉識別新方法[J].汕頭大學學報，2005，20(1):64-67.

[4] CHANG H，YEUNG D Y.Leaning the kemel matrix by maximixing a KFD-based class separability criterion[J].Pattem Recognition，2007.

[5] SU C L.Face recognition by using characteristic matrix and ring rotation invariant transform[J].Mathematics and Computation，2007.

[6] Czirjek C， Connor S M， urphy N M.FaceD etection and Clustering for Video Indexing Applications[J].in Proceedings of Advanced Concepts for Intelligent Vision Systems，2003.

注：“本文中所涉及到的圖表、注解、公式等內容請以PDF格式閱讀原文。”