基于判別信息的正則極端學(xué)習(xí)機在人臉識別中的應(yīng)用

張海英+閆德勤+楚永賀

摘 要：極端學(xué)習(xí)機作為傳統(tǒng)單隱層前饋神經(jīng)網(wǎng)絡(luò)（Single-Hidden Layer Feedforward Networks，SLFNs）的拓展在模式識別領(lǐng)域成為新的研究熱點之一，然而已有的極端學(xué)習(xí)機算法及其改進(jìn)不能較好地利用數(shù)據(jù)蘊含的判別信息。針對該問題，提出一種基于判別信息的正則極端學(xué)習(xí)機（Discriminative Information Regularized Extreme Learning Machine，IELM）。對于模式識別問題，IELM引入同類離散度和異類離散度的概念，體現(xiàn)輸入空間數(shù)據(jù)的判別信息，通過最大化異類離散度和最小化同類離散度，優(yōu)化極端學(xué)習(xí)機的輸出權(quán)值，從而在一定程度上提高ELM的分類性能和泛化能力。為了評價和驗證所提出方法的有效性，使用Yale、Yale B、ORL、UMIST人臉數(shù)據(jù)進(jìn)行實驗。結(jié)果表明，該算法能夠顯著提高ELM的分類性能和泛化能力。

關(guān)鍵詞：極端學(xué)習(xí)機；單隱層前饋神經(jīng)網(wǎng)絡(luò)；判別信息；同類離散度；異類離散度

DOIDOI：10.11907/rjdk.171232

中圖分類號：TP317.4

文獻(xiàn)標(biāo)識碼：A 文章編號：1672-7800（2017）007-0187-04

0 引言

近來，極端學(xué)習(xí)機（Extreme Learning Machine， ELM）吸引了越來越多學(xué)者的關(guān)注，Huang等[1-2]基于單隱層前饋神經(jīng)網(wǎng)絡(luò)（Single-Hidden Layer Feedforward Networks， SLFNs）結(jié)構(gòu)提出了極端學(xué)習(xí)機。ELM不同于傳統(tǒng)的單隱層前饋神經(jīng)網(wǎng)絡(luò)（SLFNs），而是在最小化訓(xùn)練誤差的同時最小化輸出權(quán)值[3]。ELM隨機選擇輸入權(quán)值并分析確定SLFNs的輸出權(quán)值，避免了傳統(tǒng)SLFNs學(xué)習(xí)方法收斂速度慢及陷入局部極小解的可能。ELM具有更好的泛化能力和更快的學(xué)習(xí)速度，使其在在線和實時應(yīng)用中具有較高效率。由于ELM高效及易于實施的特點，適用于分類和回歸等問題[4-5]。ELM現(xiàn)已成功運用到不平衡數(shù)據(jù)學(xué)習(xí)[6]、人臉識別[7]、噪音數(shù)據(jù)學(xué)習(xí)[8]、在線連續(xù)數(shù)據(jù)學(xué)習(xí)[9]等實際問題中。……