基于關(guān)聯(lián)熵系數(shù)的粗糙Vague集相似性度量方法

張倩倩，馬媛媛，徐久成

（1. 河南師范大學 計算機與信息工程學院，河南 新鄉(xiāng) 453007; 2. “智慧商務與物聯(lián)網(wǎng)技術(shù)”河南省工程實驗室，河南 新鄉(xiāng) 453007; 3. 河南省高校計算智能與數(shù)據(jù)挖掘工程技術(shù)研究中心，河南 新鄉(xiāng) 453007）

作為一種有效的知識表示和處理工具，粗糙集理論[1]的主要思想是在保持分類能力不變的前提下，通過引入上近似和下近似等概念來刻畫知識的不確定性和模糊性。Vague集[2]是在模糊集基礎上發(fā)展起來的新型理論，與模糊集相比，該理論能同時表達支持和反對的證據(jù)，更加符合人類的直覺，在模式識別、人工智能、故障診斷等領(lǐng)域的應用已取得了顯著效果[3-4]。Atanassov于1986年提出的直覺模糊集[5]理論同時考慮了對象的隸屬度、非隸屬度和猶豫度3個方面的信息，其實，Bustince等[6]已經(jīng)證明，Vague集和直覺模糊集在定義上是等同的，在本質(zhì)上是一致的。目前，有很多學者對粗糙集理論和Vague集理論[7-13]相互融合問題做了大量研究。我們后面的研究內(nèi)容，將不對Vague集和直覺模糊集的描述方式作區(qū)分，在此統(tǒng)稱為Vague集。

在模糊集、Vague集及粗糙Vague集理論研究中，相似性度量都是研究重點，它是模糊聚類、模式識別、近似推理等理論研究的基礎[14-16]。權(quán)雙燕等[17]研究了Vague集的偏熵、關(guān)聯(lián)熵和關(guān)聯(lián)熵系數(shù)，將其應用于Vague集相似性度量；魏萊等[18]將關(guān)聯(lián)熵和關(guān)聯(lián)熵系數(shù)引入粗糙模糊集，為考慮某種分類知識R下度量模糊集合之間的相似性程度提供了一種新方法。上述方法僅限于模糊集、Vague集和粗糙模糊集的研究范疇，具有一定的局限性。粗糙Vague集模型是粗糙集和Vauge集相互融合的理論方法，適用于處理現(xiàn)實世界中兼具不可分辨性和模糊性概念的問題。Namburu等[19]提出了廣義粗糙直覺模糊c均值聚類算法，用于腦磁諧振圖像分割；Liu等[20]通過直覺模糊相似性度量定義了沖突距離測量方法，用于解決現(xiàn)實生活中的沖突問題。為了有效度量粗糙Vague集模型的相似性，本文將關(guān)聯(lián)熵、關(guān)聯(lián)熵系數(shù)的應用領(lǐng)域進一步推廣，為粗糙Vague集相似性度量及模式識別提供一種新的思路和方法。最后給出的實例證明，在知識對象具有不可分辨關(guān)系的背景下，對Vague集對象進行聚類分析時，應用粗糙Vague集的關(guān)聯(lián)熵系數(shù)進行相似性度量更具合理性。

1 粗糙Vague集理論基礎

定義1[2]設論域為一個對象空間，元素xi()是所討論的對象。U上一Vague集A用一個真隸屬函數(shù)tA和一個假隸屬函數(shù)fA表示：，。其中tA(xi)是由支持xi的證據(jù)所導出的xi隸屬度的下界，fA(xi)則是由反對xi的證據(jù)所導出xi的否定隸屬度下界，且。元素xi的隸屬度被區(qū)間[0, 1]的一個子區(qū)間[tA(xi), 1–fA(xi)]所界定，稱該區(qū)間為xi在A中的Vague值。

定義2[17]假定論域上一Vague集A，我們稱為Vague集A的熵。

一個Vague集的熵E同時表征了該Vague集的模糊正熵和模糊負熵，在定義2中，按慣例規(guī)定 0·ln 0=0，ln 0= –∞。在此定義的 Vague集 A 的熵刻畫了論域U中元素xi與Vague集A之間關(guān)系的不確定性程度，E越大，我們對x與A的關(guān)系了解得越少。

定義3[17]設A, B是論域U中任意兩個Vague集，則A關(guān)于B的偏熵定義為

式中B稱為基準集。

與Vague集的熵定義類似，偏熵EB(A)也是Vague集A的不確定性程度的一種度量。

定義4[17]兩個Vague集A與B之間的關(guān)聯(lián)熵定義為它們的偏熵之和，即

顯然 E(A; B)關(guān)于 tA(xi)、tB(xi)和 fA(xi)、fB(xi)是對稱的，而且是非負的。關(guān)于Vague集的關(guān)聯(lián)熵的相關(guān)性質(zhì)證明過程請參考文獻[17]。

作為處理不確定信息的兩種工具，Vague集理論的出發(fā)點在于描述和解決概念內(nèi)涵的模糊性和人們對概念認識不精確性的問題，粗糙集理論則側(cè)重于知識對象不可分辨性的不確定性問題的研究。當人們所面對的問題兼具這兩方面的不確定性時，即概念不但是模糊的，而且是不可分辨的，此時，需要將粗糙集理論和Vague集理論相互融合，研究粗糙Vauge集[7-8]的理論、方法及其不確定性度量，以彌補它們單獨在處理實際問題時的不足。

定義5[21]設為一論域，R是U上的等價關(guān)系，V是U上一Vague集，，由R和V構(gòu)成的粗糙Vague集(RV sets)定義如下：

式中：[x]R表示包含元素x∈U的R等價類，則上下近似Vague集表示為

定義6[21]設是給定論域U上的粗糙Vague集，x∈U，定義：

2 粗糙Vague集的偏熵

定義7 設S=(U, R)為一近似空間，U為論域，R為U上一等價關(guān)系，RVA, RVB是其上的兩個粗糙Vague集，定義RVA關(guān)于RVB的偏熵為

如果將RVB看作一個基準粗糙Vague集，那么RVA關(guān)于RVB的偏熵表示了粗糙Vague集RVA的一個不確定性程度，它分別考慮了RVA上近似、RVA下近似的不確定性程度。

下面給出粗糙Vague集RVA關(guān)于粗糙Vague集RVB的偏熵具有的性質(zhì)。

性質(zhì)1(非負性) 設S=(U, R)為一近似空間，RVA、RVB是其上的兩個粗糙Vague集，則有。

性質(zhì)3 設S=(U, R)為一近似空間，RVA、RVB是其上的兩個粗糙Vague集，則有：

這些性質(zhì)根據(jù)定義很容易證明，在這里不再贅述。

3 粗糙Vague集的關(guān)聯(lián)熵系數(shù)及相似性度量方法

定義8 粗糙Vague集RVA、RVB的關(guān)聯(lián)熵同時考慮到兩個粗糙Vague集的上近似與下近似并且定義為它們的偏熵之和，即

顯然，從定義7可以看出，粗糙Vague集的關(guān)聯(lián)熵系數(shù)E(RVA; RVB)是對稱的，而且是非負的，即有如下性質(zhì)：

性質(zhì)5 RVA、RVB是粗糙Vague集，則有

在此，需要分4種情況進行討論：

其他3種情況證明類似。

定義9 粗糙Vague集RVA、RVB的關(guān)聯(lián)熵系數(shù)定義為

為了進一步利用關(guān)聯(lián)熵系數(shù)來度量粗糙Vague集的相似性，下面我們先給出粗糙Vague集相似度的定義。

定義10 設論域U是一個非空集合，R是U上的一個等價關(guān)系，A、B是U上兩個Vague集，由R和A、B構(gòu)成的粗糙Vague集分別為RVA和RVB，其中，，如果M(RVA, RVB)滿足性質(zhì)：

1) 0 ≤ M(RVA, RVB) ≤ 1；

2) 如果 RVA= RVB，則 M(RVA, RVB) = 1；

3) M(RVA, RVB) = M(RVB, RVA)，

則稱M(RVA, RVB)為粗糙Vague集RVA與RVB的相似度。

顯然，粗糙Vague集RVA、RVB的關(guān)聯(lián)熵系數(shù)ρ(RVA; RVB)是對稱的，而且是非負的，即粗糙Vague集的關(guān)聯(lián)熵系數(shù)具有如下性質(zhì)：

證明 由定義6可知，當RVA=RVB時，有，；且，，所以根據(jù)粗糙Vague集關(guān)聯(lián)熵定義即有ρ(RVA; RVB)=1。

從性質(zhì)6和性質(zhì)7可以看出，粗糙Vague集的關(guān)聯(lián)熵系數(shù)ρ(RVA; RVB)滿足定義10中粗糙Vague集相似度的定義。

性質(zhì)7 RVA, RVB是任意的粗糙Vague集，則有；當且僅當RVA=RVB時，ρ(RVA; RVB)=1。

與Fuzzy集、粗糙模糊集的關(guān)聯(lián)熵系數(shù)類似，在定義9中粗糙Vague集RVA、RVB的關(guān)聯(lián)熵系數(shù)的定義中，是對兩個粗糙Vague集RVA, RVB上近似相似程度的度量，是對兩個粗糙Vague集RVA、RVB下近似相似性度量。為了有效度量兩個粗糙Vague集間的相似性，關(guān)聯(lián)熵系數(shù)ρ(RVA; RVB)同時考慮了上、下近似相似性程度，具有一定的合理性。

證明方法同性質(zhì)5的證明類似，這里不再贅述。

粗糙Vague集是針對現(xiàn)實世界中所研究對象兼具模糊性和不可分辨性特點的新的理論方法，研究粗糙Vague集的關(guān)聯(lián)熵和關(guān)聯(lián)熵系數(shù)可為粗糙Vague集相似性度量提供一種新思路。

4 實例分析與比較

對于每個對象Vague取值的依據(jù)，這里暫不做討論，有時候是憑借專家經(jīng)驗。由粗糙Vague集的定義可知，論域U上的兩個Vague集A、B在不分明關(guān)系R上的下、上近似Vague集分別為：

式中：gi分別代表論域U上的對象在等價關(guān)系R下的等價類。這樣，，分別為等價關(guān)系R下的兩個粗糙Vague集。

由粗糙Vague集關(guān)聯(lián)熵系數(shù)的定義，經(jīng)計算可得：

則RVA和RVB的關(guān)聯(lián)熵系數(shù)，即在論域U中知識具有不可分辨關(guān)系的背景下，兩個Vague集A和B具有極高的相似度，難以區(qū)分。

同樣可以計算，若不考慮知識背景R時，Vauge集A和Vague集B的關(guān)聯(lián)熵系數(shù)ρ(VA; VB) = 0.84，則在模式識別或者聚類分析應用領(lǐng)域，若研究對象空間的粒度很細，即所研究對象可精確分辨的背景下，Vague集A和B相對容易區(qū)分。

為了進一步說明問題，下面和文獻[22-23]中有關(guān)直覺模糊集相似度在模式識別方面的應用來做對比分析。

例2 設有3個已知模式P1、P2與P3，分別被標注為 C1、C2與 C3類。3個模式 P1、P2與 P3是定義在論域U ={x1, x2, x3, x4}上的直覺模糊集。在此，我們將此例中的直覺模糊集用Vague集的形式表示，則有：

為了知道Q被劃分到C1、C2與C3的哪一個類，需要分別計算Q與3個已知模式P1、P2與P3的相似度。

在例2中，可以認為是最細粒度的粗糙Vague集，即每個對象xi都是可區(qū)分的。因此，只需要分別計算Q與P1、P2、P3的關(guān)聯(lián)熵系數(shù)即可。由定義 9 計算得知 ρ(P1; Q) = 0.96，ρ(P2; Q) = 0.97，ρ(P3; Q)=0.79。

其中，在計算ρ(P3; Q)過程中，由于P3在x2上的假隸屬度fx=0，因此在計算中使用了一個較小的數(shù)，這里用0.01來替換，得出P3與Q的關(guān)聯(lián)熵系數(shù)為0.79。如果用來替換的數(shù)值更小，關(guān)聯(lián)熵系數(shù)越小。因此，使用關(guān)聯(lián)熵系數(shù)來度量Vague集的相似度時，將Q識別為C2類，得到了和文獻[23]一致的結(jié)論。此外，Q與C1類之間的相似度和Q與C2類之間的相似度差別較小，這就是為什么在文獻[23]中，會出現(xiàn)采用某些度量方法將Q識別為C1類，有些度量方法將Q識別為C2類。

可見，文中采用關(guān)聯(lián)熵系數(shù)來度量粗糙Vague集相似度的方法，是Vague集相似度度量方法的推廣。當Vague集中對象之間完全可區(qū)分時，即可用來度量兩個Vague集的相似度；當Vague集中對象之間具有不可分辨關(guān)系時，即可用關(guān)聯(lián)熵系數(shù)來度量粗糙Vague集的相似度，此時，需要同時考慮上近似和下近似的相似程度。

5 結(jié)束語

若考慮一定的知識背景，即所研究對象在某種程度上不可分辨時，單純度量模糊集或者Vague集之間相似性的度量方法具有一定的局限性。有學者通過引入粗糙模糊集的關(guān)聯(lián)熵系數(shù)，用于度量粗糙模糊集的相似性程度就比較合理。當實際應用中所面對的研究對象為更符合人類直覺的Vague集時，本文提出了基于關(guān)聯(lián)熵系數(shù)的粗糙Vague集模型相似性度量方法，并通過實例驗證了方法的有效性，為粗糙Vague集的相似性度量提供一種新思路。在以后的研究中，將進一步討論粗糙Vague集相似性度量方法在真實數(shù)據(jù)集上的相關(guān)應用，為Vague集聚類分析、模式識別和大數(shù)據(jù)挖掘提供理論基礎。