關(guān)于Tsallis型非對稱熵的若干研究

吳賢東,汪加梅,李婉晴

(安徽工業(yè)大學(xué)數(shù)理科學(xué)與工程學(xué)院,安徽 馬鞍山 243032)

1 引言

在統(tǒng)計物理學(xué)中,香農(nóng)熵是最基本的概念,刻畫了系統(tǒng)無序性.Tsallis熵是香農(nóng)熵的一個典型的不可加延伸,在非廣延的統(tǒng)計學(xué)中扮演了至關(guān)重要的角色.

對于隨機變量X的概率分布p(x)=p(X=x),Tsallis熵[1]定義為

同時,其他的廣義熵,如(r,s)-熵、Rényi熵、類型r的熵,統(tǒng)一 (r,s)-熵以及相應(yīng)的相對熵被引進各種領(lǐng)域,并且對它們的性質(zhì)進行了深入的研究[2-5].最大熵原理是1957年由文獻[6]提出的,它建立了熱動力學(xué)熵和信息理論熵之間的一個自然對應(yīng).由最大熵原理,一些普通的概率分布可以獲得,但是一些系統(tǒng)即使是利用一些廣義熵的最大熵原理也無法獲得.后來,劉成仕通過引進一個輔助參數(shù)定義了非對稱熵,該熵定義為

該熵在獲得概率分布及冪律方面比起其他的熵更方便[7-8].文獻[9-10]研究了最大熵方法的逆問題,就是假設(shè)某個概率密度在某種約束下使得熵最大,求這個約束條件.

本文首先定義了Tsallis型非對稱熵,該熵包含Tsallis熵Tsallis相對熵,并且非對稱熵是該熵的極限情形.因而,非對稱熵可以看成是Tsallis型非對稱熵的特例.其次討論了離散情形和連續(xù)情形下的Tsallis型非對稱熵以及相應(yīng)的非對稱熵原理,并且從這個最大熵原理獲得了一些有用的分布.非對稱熵可以看成是Tsallis型非對稱熵的特例,本文的結(jié)果推廣了文獻[8]的結(jié)果.

2 最大的Tsallis型非對稱熵原理

令X是一個離散型的隨機變量,其取值為{1,2,···,m},且取值為i所對應(yīng)的概率為

且

定義2.1 取值為i所對應(yīng)的Tsallis輔助信息定義為:

其中βj>0是輔助信息參數(shù).相應(yīng)的,取值為i的Tsallis總信息定義為:

定義2.2 定義離散型隨機變量X的Tsallis型非對稱熵為如下函數(shù):

其中βj>0是一個輔助信息參數(shù).

注2.1 由前面的記號,

注意到

從而

即為非對稱熵.

注2.2 在(3)式中,令βi=1,可以得到離散條件下的Tsallis熵:

定理2.1(離散情形下的最大的Tsallis型非對稱熵原理)如果{p1,p2,···,pm}滿足

那么Tsallis型非對稱熵Sr(X)取得最大值

證明令輔助函數(shù)

由

得到

即

從而

所以,可以得到

注2.3 取βi=iα,那么由 (5)式知

下面給出定理2.1的等價表述:

定理2.2 若存在一個概率分布P0=(p01,p02,···,p0m),使得

是一個與Pi無關(guān)的常數(shù),那么P0是最大的Tsallis型非對稱熵的分布,且是最大的Tsallis型非對稱熵.

證明對于任意的概率分布P={p1,p2,···,pm},有:

定理2.3假設(shè),那么最大的Tsallis型非對稱熵分布是

其中λ1和λ2滿足兩個約束條件:

證明運用拉格朗日乘子法構(gòu)造一個輔助函數(shù):

其中λ1和λ2滿足兩個制約條件

定理2.4 (在約束條件下的最大的Tsallis型非對稱熵原理)Tsallis型非對稱熵

在n+1個約束條件,r=1,2,···,n下的最大熵分布為

其中λ0和λ1(1≤i≤n)滿足n+1個約束條件:

證明構(gòu)造輔助函數(shù)

其中λ0,λ1,···,λn是拉格朗日乘子.

定義2.3 對于連續(xù)的情況,Tsallis型非對稱熵定義為:

其中β(x)是輔助信息∫參數(shù)函數(shù),ρ(x)是事件x的概率密度.

定理2.5 假設(shè)xρ(x)dx=μ,那么最大的Tsallis型非對稱熵分布是

其中λ1和λ2滿足兩個約束條件:

證明運用拉格朗日乘子法構(gòu)造一個輔助泛函:

有

由δF=0,可以推出

其中λ1和λ2滿足兩個制約條件

定理2.6 假設(shè)

那么最大的Tsallis型非對稱熵分布是

其中λ1,λ2和λ3滿足 3個約束條件:

證明 運用拉格朗日乘子法構(gòu)造一個輔助泛函:

有

由δF=0,可以推出

其中λ1,λ2和λ3滿足3個制約條件

下面將離散情形下的最大的Tsallis型非對稱熵原理推廣到連續(xù)的情形.

定義2.4 令Λ是一類概率密度函數(shù)集,如果存在ρ0∈Λ,使得

那么ρ0叫作最大的Tsallis型非對稱熵的分布,Sr(ρ0)叫做最大的 Tsallis型非對稱熵.

定理2.7 (連續(xù)情形下的最大的 Tsallis型非對稱熵原理)令 Λ是一類固定的概率密度函數(shù),如果存在ρ0∈Λ,使得,對于任意的ρ而言,它是一個與ρ(x)無關(guān)的常數(shù).那么ρ(x)是最大的 Tsallis型非對稱熵的分布,Sr(ρ0)=S0=lnrC是最大的Tsallis型非對稱熵.

證明對于任意的ρ∈Λ,有

3 應(yīng)用

利用(6)式-(9)式,可以得到許多特殊的分布.例如,在(8)式中,令