數據流概念漂移分類和挖掘研究綜述

趙峰

摘 要：基于數據流概念漂移技術在機器學習和數據挖掘領域的重要性，文章首先闡述了數據流漂移概念的概念，接著綜述了近年來數據流概念漂移處理方法的發展趨勢，最后概括了數據流概念漂移挖掘和分類研究的現狀。

關鍵詞：概念漂移；數據流；數據挖掘

引言

數據流概念漂移的研究在機器學習和數據挖掘領域的重要性與日俱增， 并在處理途徑方面取得了一定的成果，從2000年開始，數據流概念漂移分類研究進入了快速發展期，研究人員開始考慮更加接近實際狀況的數據流概念漂移。從近年機器學習與數據挖掘領域的一些國際權威期刊和國際頂級會議上發表的論文來看，數據流概念漂移挖掘和分類研究正日益成為學術界關注的焦點，對數據流概念漂移的研究已經開始與轉移學習、進化計算、特征選擇、聚類、時間復雜度分析、社會計算等結合起來。因此，從趨勢上來講，已有各種模式分類的理論和算法都可與概念漂移相結合而引出更多新的研究問題。

1 數據流概念漂移的概念及處理方式

某些文本的類別特征往往對它內部所包含的一些“隱性內容”具有很大的依賴性，這種現象通常被稱為概念漂移。隨著時間的向前推移，其中的這些隱性特征不斷發生著細小隱蔽的變化，這些變化事先不易預知，事后也不易覺察，但是，當積累到一定程度時，卻會導致整個目標概念發生變化。Schlimmer（1986）對概念漂移做出定義，認為其是環境的隱藏性變化而導致目標概念發生變化的過程。許多真實學習任務的數據都是從某一特定的擴展時間段之內收集的，隨著時間的推移，背景環境發生變化不僅會導致目標概念本身發生變化，還會引起數據集的分布發生變化。Lidmer（1993）把環境的隱藏性變化導致目標概念發生變化的過程稱為真實概念漂移，把環境變化導致數據集分布發生變化的過程稱為虛擬概念漂移，這兩者可以同時發生，也可以只有虛擬概念漂移發生。

數據流中的概念流可以通過以下三種方式進行處理：基于窗口的方法、基于重量的方法以及集成分類。基于窗口的方法是通過選擇一個固定的或動態的滑動窗口構建一個分類模型，在分類精度的基礎上調整窗口的大小（Lee，2009）。在以重量為基礎的方法上，每個訓練實例被分配一個權重。最流行的演變技術來處理概念漂移的數據流是使用集成分類（分類器的組合），幾個輸出分類器的組合是用來確定最終的分類，這通常被稱為融合規則。另外，在每個時間點的個體輸出分類器上分配權重，權重通常為一個歷史表現函數，通過使用交叉驗證過去或估計的函數。

2 數據流概念漂移挖掘研究現狀

為了從大量來自真實世界的復雜數據中提取最有用的信息和知識，在過去十年，各種數據挖掘算法已經被提出和發展。Masud等（2011）建議在真正的標記新類型的實例之前應使用分類器來檢測新的類別。為了確定每個個體是否屬于某一新類型，其分類模型有時需要收集更多的測試實例來發現數據之間的異同。Polikar（2011）也推出了可以漸進式學習流的分類器集合體，并命名為學習+NSE方法，通過當前和過去的環境動態加權多數表決技術結合這些分類可以調整各個分類時間的準確率。Song（2010）提出了一種基于關聯規則的關聯分類算法的數據流，其工作宗旨是發現各項集之間的關系，并從輸入的數據集中提取一套完整的頻繁模式。

Surace（2008）應用了人體免疫系統拓寬的一般特性集和時間序列異常檢測，其中系統或結構的正常狀態可能會改變。Tsai（2007）提出了一個新的挖掘樹規則概念流，被稱為CDR-樹的規則挖掘數據流的概念。CDR-樹能有效地提取決策中的每個數據塊的分類模型。Haggett（2005）提出了包括神經探測器與動態預測編碼為特定應用程序的屬性提取系統，它在各種情況下都勝過專家的方法。Maloof（2003）針對使用動態加權多數性能變化問題，提出了一個為創建動態流概念和刪除加權的集成方法，其通過培訓網上學習者的綜合能力以及基于所述集合的全局性能添加或移除的能力。

3 數據流概念漂移分類研究現狀

在數據挖掘和機器學習領域中的數據流分析和挖掘是一項具有挑戰性的研究，它最近受到許多計算智能研究人員的關注（Holmes，2012）。數據流分類是提取知識和連續數據點信息的方法（Read，2010）。在數據流中的數據是隨著時間的推移所產生的，并且不能由任何預先定義的順序來控制。一個數據流與傳統的靜態數據或數據庫相比有非常多元化的特點，包括：動態、無限、高維、有序、不重復、高速和時變（Zliobaite，2009年）。大多數現有的數據挖掘技術不能檢測及在數據流環境中進行分類（Qin，2007），因而現有的挖掘模型會將這些分類新實例與類標簽弄錯（Biswas，2004）。因此，這樣的數據流分類需要不斷更新和再培訓通過在線數據流中標記新來的數據。

新類型檢測數據流概念漂移是必需的，因為目標類的統計特性在不可預見的方式隨時間而改變，并且必須是任何實際的數據流分類技術的一個組成部分。目前，主要有兩種數據流的分類方法：單一型號的增量分類和基于分類的集成模型。單一模式分類技術逐步更新為新數據的單一分類器，以應付數據流的演變；同時，一種綜合的方法是使用組合或一組分類器，相比升級一個單獨的模型，構建整體模型會更有效。比起單一模式分類技術其也有較高的分類正確率，這拓展了以前在數據流概念漂移中的新類型檢測的處理方法（Farid，2012）。

4 結束語

數據流概念漂移是數據分類過程中最棘手的問題，當前不少學者對該問題提出了許多算法和集成分類器方法，尤其是近年來的相關研究，使其成為當前數據挖掘領域研究的熱點和前沿問題，文章對該問題的研究現狀進行了綜述和評價。

參考文獻

[1]張杰，孫曰瑤.基于AdaBoost組合算法的衍生金融工具風險預測[J].統計與決策，2012，7（7）：42-44.

[2]張杰，張婭萍.高校青年自組織文化認同研究[J].知識經濟，2012，1（1）：165.endprint