稀疏約束圖正則非負矩陣分解的增量學習算法

汪金濤，曹玉東，孫福明

遼寧工業(yè)大學 電子與信息工程學院，遼寧 錦州 121001)(*通信作者電子郵箱cyd9229@163.com)

稀疏約束圖正則非負矩陣分解的增量學習算法

汪金濤，曹玉東*，孫福明

遼寧工業(yè)大學 電子與信息工程學院，遼寧 錦州 121001)(*通信作者電子郵箱cyd9229@163.com)

針對非負矩陣分解后數(shù)據(jù)的稀疏性降低、訓練樣本增多導致運算規(guī)模不斷增大的現(xiàn)象，提出了一種稀疏約束圖正則非負矩陣分解的增量學習算法。該方法不僅考慮數(shù)據(jù)的幾何信息，而且對系數(shù)矩陣進行稀疏約束，并將它們與增量學習相結合。算法在稀疏約束和圖正則化的條件下利用上一步的分解結果參與迭代運算，在節(jié)省大量運算時間的同時提高了分解后數(shù)據(jù)的稀疏性。在ORL和PIE人臉數(shù)據(jù)庫上的實驗結果表明了該算法的有效性。

非負矩陣分解；稀疏約束；圖正則；幾何結構；增量學習

0 引言

子空間降維是機器學習和模式識別的一種常用方法，也是數(shù)據(jù)挖掘等領域的研究熱點。1999年，Lee等[1]在《Nature》上首次提出了非負矩陣分解(Non-negative Matrix Factorization, NMF)的概念，通過添加“矩陣中所有元素均非負”的限制條件，保證了分解結果的可解釋性。隨后，大量改進算法被提出并應用。文獻[2]在分解原始矩陣時，對基矩陣和系數(shù)矩陣施加稀疏約束，將稀疏編碼的思想引入到非負矩陣分解中，提出稀疏約束非負矩陣分解算法(NMF with Sparseness Constraints, NMFSC)具有存儲空間少的優(yōu)點;文獻[3]將增量學習與非負矩陣分解相結合，提出了增量非負矩陣分解(Incremental NMF, INMF)算法，利用上一步的分解結果……