信息源在香濃熵及鄧熵中的應用原理

摘 要：在量子決策中，一個事件發生的概率無法單一使用實數來表示。從薛定諤的貓到人類決策。一個事件伴隨著多種狀態。故需要引入復數來表示這類事件，它也被叫做信息源。香濃熵及鄧熵作為一種信息融合方式，表示一組數據的相關程度，混亂程度。用信息源表示鄧熵，要解決復數在香濃熵和鄧熵公式中的運用，以及所得結果的數學意義。

關鍵詞：量子決策;信息源;香濃熵

一、復數概率的量子性

量子概率來源于量子物理，但不一定要用來描述微觀粒子，而是去描述更一般的宏觀系統，如人類的認知現象。從數學的角度上來講，就是將概率取復數這個特點切入到量子概率的理論體系中。量子概率可以說是將經典概率擴展到復數域之后的數學產物，故整個量子概率體系的結論都可以自然得到。

量子概率可以解釋成經典概率在復數域的擴充，其實刻畫的是觀察者對于外界信息的不確定情況下的描述。這種不確定要比經典概率不確定更不確定：一個是量子概率考慮到了觀察對觀測系統的影響，也考慮到觀察者處理信息能力的極限。

量子概率的最主要的特點是不兼容屬性-指一個客觀物體所具備的兩種屬性，這兩種屬性不能同時得到確切的測量值。其中可以用不確定性原理來解釋。具體說是我們對兩個屬性 A 和 B 的認識存在著局限性，如果我們對 A 取某值的信念程度越高，我們對 B 取值的看法就會變得更模糊不清。

例如，由于我們人類的觀察、信息處理能力有限，在某一個特定時刻，我們掌握了 A 屬性的性質，也就必然會伴隨著對 B屬性的不掌握。如我們看到了月球的正面，就看不到其反面。故正反面就構成了一對不兼容的屬性，并呈現出不確定的關系。

二、信息源在量子化DS證據理論中的形態

Dempster-Shafer證據理論作為對處理未知的信息與模型的時候要比經典證據理論更加靈活。這種未知與量子概率的不確定性相似。因此，在識別框架下的mass（質量）函數除了可以用DS證據理論表示，還應可以在量子理論基礎上進行表示。

量子識別框架下的mass函數：

如圖所示，要用信息源（|q1>與|q2>）表示一個證據事件對于兩個信念|A>與|B>的支持度。

量子框架下的mass函數與DS類似：

Q（|A>）=γeiθ? ?Q（Φ）=0

其中量子框架下的mass函數Q（|A>）也可以被稱作QBPA，叫信息源。

三、香農熵和鄧熵的介紹

香農信息熵，解決了對信息的量化度量問題。一條信息的信息量大小和它的不確定性有直接的關系。比如我們要搞清楚一件非常不確定的事，就需要了解大量的信息。相反，如果對某件事已經有了較多的了解，我們不需太多的信息就能把它搞清楚。從這個角度，我們可認為，信息量的度量等于不確定性的多少。

香農熵 H（U）=E[-logpi]=-Σni=1PilogPi

該公式表示，變量的不確定性越大，熵就越大，所需要的信息量也就越大。

香農熵可以度量一個概率分布的不確定度和信息容量，是信息論的基礎。證據理論中的基本概率指派（Basic Probability Assignment， BPA），作為視作對概率分布的一種推廣。如何度量BPA的不確定度和信息容量，仍然是一個有待解決的問題。針對該問題，提出了一種基本概率指派的熵—鄧熵。

Ed （m） = -A? ? X m（A）log2 m（A）/2|A|-1;

當BPA從冪集退化為單子集上的概率分布時，鄧熵退化為香農熵。

四、香濃熵與鄧熵在mass函數中的應用與區別

Ed （m） = -A? ? X m（A）log2 m（A） /2|A| - 1

給出一個識別框架 X = {a， b， c}，已知它們的質量mass函數值為 m（a） = m（b） = m（c） = 1/3， 得到香濃熵和鄧熵均為1.585：（香濃熵和鄧熵在單子集所得的結果一致

給定一個辨識框架 X={a，b}，對于這個辨識框架的質量函數為m1（a，b）=1

則鄧熵表示為

Ed （m）=-log21/22-1

此時無法用香農熵來表示。

五、香農熵與鄧熵的信息源表示

在辨識框架Ω={|A>，|B>，|C>}下，有單元素信息源如下

Q（|A>）=0.574eiθ1

Q（|B>）=0.574eiθ2

Q（|C>）=0.574eiθ3

則香農熵鄧熵均為

-（0.574eiθ1log20.574eiθ1+0.574eiθ2log20.574eiθ2+0.574eiθ3log20.574eiθ3

根據對數公式和歐拉公式可以得出

-0.574eiθlog20.574eiθ=-0.574（cosθ+isinθ）[ln（0.574）+i（θ+2nπ）]

展開得到

-0.574[ln（0.574）（cosθ+isinθ）+θ（icosθ-sinθ）]

-0.574[ln（0.574）ejθ+θe-i（θ-1/2π）]

當θ分別取 π/4 π/6 π/8時，結果為

此時香農熵等于鄧熵;

在多元素信息源在該辨識框架下

Q（|A>）=0.447ejθ1

Q（|B>）==0.447ejθ2

Q（|A>，|B>）=0.547ejθ3

Q（|B>，|C>）=0.547ejθ4

鄧熵為

當θ分別取 π/4 π/6 π/8 π/12時，結果為

六、數據分析與結論

當信息源是meiθ

1.則單子集上該信息源的香農熵和鄧熵為? ?-m（lnmeiθ+θe-i（θ-1/2π））

則n子集上該信息源的鄧熵為? ?-m/2n-1（lnmeiθ+θe-i（θ-1/2π））

2.當信息源在單子集的情況下，香農熵與鄧熵相同。這與經典情況下的mass 函數一致。

而信息源擴充到多子集的時候，只有鄧熵可以表示該信息源。

3.關于θ的探究

每個信息源而言，θ獨立，變化范圍在0-360之間。

θ與m無具體的聯系，且與概率信念無關，表示的并不是信息源與坐標軸的夾角。

參考文獻：

[1]X.Z. Gao and Y.Deng ”Quantum model of mass function” WILEY Int J Intell Syst. 2020;35;267-282.;

[2]Y.Deng “不確定性度量的新方法” 陜西西安：陜西師范大學. 2019.6.18

[3]Pan Y， Zhang L， Li Z， Ding L. Improved fuzzy bayesian network‐based risk analysis with interval-valued fuzzy sets and d‐s evidence theory. IEEE Trans Fuzzy Syst. 2019：1-1. https：//doi.org/10.1109/TFUZZ.2019. 2929024

作者簡介：

劉榮政（2001.06- ）男，漢族，遼寧沈陽人，西南大學計信院自動化專業，本科在讀，主要研究方向為信息融合與決策。