可列非齊次隱Markov模型的強大數定律

楊國慶,楊衛國

可列非齊次隱Markov模型的強大數定律

楊國慶,楊衛國

(江蘇大學理學院,江蘇鎮江212013）

隱馬爾科夫模型被廣泛的應用于弱相依隨機變量的建模,是研究神經生理學、發音過程和生物遺傳等問題的有力工具.研究了可列非齊次隱Markov模型的若干性質,得到了這類模型的強大數定律,推廣了有限非齊次馬氏鏈的一類強大數定律.

可列非齊次隱Markov模型;強大數定律;非齊次馬爾科夫鏈

1 引言

隱馬爾科夫模型作為一種簡單的數學模型,近幾十年來被廣泛的應用于弱相依隨機變量的建模,它是研究神經生理學、發音過程和生物遺傳等問題的有力工具.但在實際應用中經常遇到隱藏鏈是非齊次馬氏鏈的情形,如動態的圖像處理[1]、氣候預測[2]等均需要建立非齊次隱Markov模型.因此研究非齊次隱Markov模型有重要的意義.

隱馬爾科夫模型在理論研究方面也取得了豐富的成果.文獻[3-4]分別研究了隱馬爾科夫模型在大數定律與中心極限定理方面的一些性質;文獻[5]系統介紹了隱馬爾科夫模型的性質及定理;文獻[6]給出了有限隱馬爾科夫模型的定義;文獻[7]研究了一類隱非齊次馬爾科夫模型的極限定理,并獲得了觀測鏈的強大數定律;文獻[8-9]研究了有限狀態的隱非齊次馬爾科夫模型的強大數定律.在非齊次馬氏鏈強大數定律的研究方面,文獻[10]研究了有限非齊次馬氏鏈的強大數定律;文獻[11]研究了可列非齊次馬氏鏈的一類強大數定律;文獻[12]研究了可列非齊次馬氏鏈的另一類強大數定律.本文介紹了可列非齊次隱馬爾科夫模型的性質與等價定義,研究了可列非齊次隱馬爾科夫模型的一個強大數定律,推廣了有限非齊次馬氏鏈的一類強大數定律.

設S={1,2,···,N}為有限狀態空間,X={Xn,n≥0}為定義在概率空間(?,F,P)上在S中取值的非齊次馬氏鏈,其初始分布與轉移矩陣列分別為:

其中pn(i,j)=P(Xn=j|Xn?1=i).

設L={1,2,···}為可列狀態空間,Y={Yn,n≥0}為定義在概率空間(?,F,P)上在L中取值的隨機變量序列,如果Y={Yn,n≥0}關于X={Xn,n≥0}是條件獨立的且Yn只依賴于Xn,即對任意n,有

則稱{X,Y}={Xn,Yn,n≥0}為可列非齊次隱Markov模型.Y={Yn,n≥0}稱為可列非齊次隱馬爾科夫鏈,也稱為觀測鏈.X={Xn,n≥0}稱為隱藏鏈.

記

稱Bn為由隱藏鏈到觀測鏈的轉移矩陣.令:

2 模型的性質

可列非齊次隱Markov模型具有如下性質:

引理2.1設X={Xn,n≥0}與Y={Yn,n≥0}是分別在S與L中取值的隨機變量序列(3)式成立的充要條件為:對任意n,有

證明類似于文獻[9]中等式的證明,可知(3)式成立的充要條件為:對固定的n與任意的k,有

因此,要證(3)式與(4)式等價,只要證(4)式與(5)式等價即可.

首先證明(5)?(4).設(5)式成立,在(5)式中令k=n,有

及

由(6)式與(7)式可得(4)式成立.于是(5)?(4).

下證(4)?(5).設(4)式成立,分兩種情形加以證明.

當k≤n時,由于

及

由(8)式和(9)式可知,當k≤n時,(5)式成立.

當k>n時,由于

及

定理2.1設X={Xn,n≥0}與Y={Yn,n≥0}是分別在S與L中取值的隨機變量序列,{X,Y}={Xn,Yn,n≥0}為可列非齊次隱Markov模型的充要條件為:

證明由引理2.1及馬氏鏈的等價性可得本定理成立.

注2.1文獻[6]利用(12)式給出了有限隱馬爾科夫模型的定義.

注2.2由定理2.1知,可列非齊次隱馬爾科夫模型{X,Y}可以在某個概率空間實現.

引理2.2設X={Xn,n≥0}與Y={Yn,n≥0}是分別在S與L中取值的隨機變量序列,{X,Y}={Xn,Yn,n≥0}為可列非齊次隱Markov模型的充要條件為:對任意n≥0,有

證明此證明與文獻[7]的引理2.1類似,故從略.

引理2.3設{X,Y}={Xn,Yn,n≥0}為非齊次隱Markov模型,并記

則對任意A∈Fn+1,有

注2.3文獻[7]給出引理2.3的證明,但比較粗糙,以下將給出詳細的證明.

證明要證(15)式成立,首先證A為柱集時,即

時(15)式成立.以下只證k=1,2的情形.

當k=1時,由于

故當k=1時,(15)式成立.

當k=2時,由引理2.2,得

故當k=2時,(15)式成立.由歸納法當A為任一柱集時(15)式成立,再由測度論中λ-π系方法可證當A∈Fn+1時(15)式成立.

3 強大數定律

證明主要結論前先給出兩個引理.

引理3.1設{X,Y}={Xn,Yn,n≥0}為S×L上取值的非齊次隱馬爾科夫模型, {gn,n≥1}為定義在S2×L2上的函數列.設{φn,n≥1}是一列定義在R上的非負偶函數,滿足當|x|↑時,

如果

則對任意m≥1,有

證明此引理的證明與文獻[12]中(24)式與(25)式之間的式子的證明類似,故從略.設{Xn,n≥0}是在S={1,2,···,N}中取值的非齊次馬氏鏈,其轉移矩陣列為:

令

設p(m,n)(i,j)為P(m,n)的元素,易知p(m,n)(i,j)=P(Xn=j|Xm=i)

引理3.2[11]設{Xn,n≥0}是在S={1,2,···,N}中取值的非齊次馬氏鏈,其轉移矩陣列為:

設P=(p(i,j)),i,j∈S是另一個轉移矩陣.如果對任意i,j∈S,有

則對任意i,j∈S及任何正整數m和v,有

其中p(v)(i,j)是由P確定的v步轉移概率.

定理3.1設{X,Y}={Xn,Yn,n≥0}為如前定義的可列非齊次隱Markov模型,其中非齊次馬氏鏈(隱藏鏈)X={Xn,n≥0}的轉移矩陣為:

{gn,n≥1}是定義在S2×L2的四元函數列,{φn,n≥1}如引理3.1,設

是另一個轉移矩陣,且P是不可約的.令

h(i)是定義在S上的函數,如果(19)式與(22)式成立,并且對任意的i∈S,有

則

其中π=(π1,π2,···,πN)是由P確定的唯一平穩分布.

注3.1由引理2.3知{X,Y}為非齊次馬氏雙鏈,其轉移概率為:

這對研究強大數定律沒有幫助,因為條件不易加到這樣的轉移概率中.

證明令Fn=σ(,),由引理2.3,知

設p(k)(i,j)為Pk的元素,可得

由(25)式易得當n→∞時,(28)式第一項極限為零,再由(22)式可得當n→∞時,(28)式第二項極限也為零.由(19)式可得(20)式成立.于是,由(28)式與(20)式可得:

由(29)式知,對任意N,有

因為

由于P是不可約的,當N充分大時,(31)式右端可以任意小.由(30)式與(31)式可知(26)式成立.

推論3.1[10]設X={Xn,n≥0}為在S中取值的非齊次馬氏鏈,其初始分布與轉移矩陣列分別為(1)式與(2)式,設Sn(k,ω)是X0(ω),X1(ω),···,Xn?1(ω)中k出現的次數,即

其中δk(·)為Kronecker δ函數.設P是另外一個轉移矩陣,假設P是不可約的.如果(22)式成立,則

其中π=(π1,π2,···,πN)是由P確定的唯一平穩分布.

證明在定理3.1中令gn=δk(Xn),則(19)式顯然成立.又

令h(i)=p(i,k),由(22)式可得(25)式成立.由于π是P的平穩分布,所以有

由定理3.1,有

即(33)式成立.

推論3.1設{X,Y}={Xn,Yn,n≥0}為如前定義的可列非齊次隱Markov模型,其隱藏鏈的轉移矩陣列為(2)式,由隱藏鏈到觀測鏈的轉移矩陣列為:

設Tn(m,ω)是Y0,Y1,···,Yn?1中m出現的次數,設P是S×S上的另一轉移矩陣,假設P是不可約的,設bm(j)是S上的函數.如果(22)式成立,并且對任意j∈S,有

則

證明在定理3.1中令gn=δm(Yn?1),則(19)式顯然成立.又因為

令h(j)=bm(j),由(34)式可得(25)式成立.再由(22)式及定理3.1,可得

即(35)式成立.

[1]Lacrz B,Lasala P,Lekuona A.Dynamic graphical models and nonhomogeneous hidden Markov models[J]. Stat.Probab.Letts.,2000,49:377-385.

[2]Bates B C,Charles S P,Hughes P.Stochastic downscaling of numerical climate model simulations[J]. Envrionmental Modelling Software,1998,13:325-331.

[3]Leroux B G.Maximum-likelihood estimation for hidden Markov models[J].Stochastic Processes and their Appl.,1992,40:127-143.

[4]Bickel P,Ritov Y,Ryden T.A smptotic normality of the maximum-likelihood estimation for general hidden Markov models[J].The Annals of Statistics,1998,26(4):1614-1635.

[5]Ephrain Y,Merhav N.Hidden Markov process[J].2002,48(6):1518-1569.

[6]龔光魯,錢敏平.應用隨機過程[M].北京:清華大學出版社,2004.

[7]吳小太,楊衛國.隱非齊次馬爾科夫模型的強大數定律[J].數學雜志,2011,31(2):314-322.

[8]吳小太,吳艷蕾.隱非齊次馬爾科夫模型的強大數定律[J].純粹數學與應用數學,2009,25(3):502-506.

[9]Chung K L.A Course in Probability Theory[M].2nd ed,New York:Academic Press,1974.

[10]Yang W G.The asymptotic equipartition property for a nonhomogeneous Markov information source[J]. Probability in the Engineering and Informational Science,1998,12:509-518.

[11]Yang W G.Convergence in the ces`aro sense and strong law of large numbers for countable nonhomogeneous Markov chains[J].Linear Algebra and its Application,2002,354:275-286.

[12]Yang W G.Strong law of large numbers for countable nonhomogeneous Markov chains[J].Linear Algebra and its Application,2009,430:3009-3018.

Strong law of large numbers for countable nonhomogeneous hidden Markov models

Yang Guoqing,Yang Weiguo
(Faculty of Science,Jiangsu University,Zhenjiang212013,China)

Hidden Markov models have been widely used for modeling sequences of weakly dependent random variables,with application in areas such as speech processing,neurophysiology and biology.In this paper,we study some properties of countable nonhomogeneous hidden Markov models,get the strong law of large numbers for those Markov models and extend a class of the strong law of large numbers for f i nite nonhomogeneous Markov chains.

countable nonhomogeneous hidden Markov models,strong law of large numbers, nonhomogeneous Markov chains

O211.62

A

1008-5513(2014)06-0618-09

10.3969/j.issn.1008-5513.2014.06.011

2014-07-16.

國家自然科學基金(11071104)

楊國慶(1988-),碩士生,研究方向：馬氏鏈.

2010 MSC:60G05