高斯尺度混合大氣噪聲模型的參數估計*

應文威,李成軍,馮士民

(1.91635部隊,北京102249;2.海軍工程大學兵器工程系,湖北武漢430033)

高斯尺度混合大氣噪聲模型的參數估計*

應文威1,李成軍1,馮士民2

(1.91635部隊,北京102249;2.海軍工程大學兵器工程系,湖北武漢430033)

非高斯大氣噪聲的參數估計對甚低頻、超低頻信號的最佳接收有重要意義。對大氣噪聲采用基于逆高斯分布的高斯尺度混合分布模型建模,研究了基于逆高斯分布的高斯尺度混合分布模型參數的性質,設計了高斯尺度混合大氣噪聲模型參數的馬爾可夫鏈蒙特卡羅(MCMC)算法。算法在貝葉斯層次模型下,采用Gibbs抽樣和M-H抽樣更新參數。仿真結果表明,該模型對大氣噪聲有很好的適用性,MCMC算法迭代效率和精度高,具有實際的應用價值。

高斯尺度混合 逆高斯分布 大氣噪聲 馬爾可夫鏈蒙特卡羅

0 引 言

甚低頻和超低頻通信系統中,對噪聲的建模都是基于高斯分布,然而在實際應用中,受雷電等產生的大氣噪聲的影響,噪聲往往具有明顯的非高斯特性[1]。為了實現最佳接收,必須對噪聲進行參數估計。對噪聲的參數估計,傳統上采用最大期望算法或最大似然估計[2-4];對噪聲的建模也以對稱α穩定分布居多[5-6]。高斯尺度混合分布模型是更廣泛意義上的非高斯分布模型,近年來受到廣泛關注。基于逆高斯分布的高斯尺度混合分布模型,具有更好的高尖峰、重拖尾特性,能很好反映大氣噪聲的非高斯特性[7-9]。同時,由于該模型參數較多,概率密度計算難度大,精度也不夠理想,所以本文采用馬爾可夫鏈蒙特卡羅(MCMC,Markov chain Monte Carlo)算法,設計了基于逆高斯分布的高斯尺度混合分布模型下的參數估計算法。

MCMC算法,能夠解決具有高維度且形式復雜的未知參數的后驗概率計算問題,是一種在統計計算中性能優越的方法[10-11]。本文通過設計MCMC層次算法來估計混合模型的參數,迭代收斂快,精度高,具有明顯的優勢。

1 高斯尺度混合分布模型

1.1 高斯尺度混合分布模型

高斯尺度混合分布模型是由高斯分布的隨機變量和非負尺度隨機變量混合形成的,其表達式為:

式中,g服從0均值的高斯分布g～N(0,δ2),概率密度函數為:

式中,τ為非負尺度的隨機變量,典型的分布可以取為伽馬分布,逆伽馬分布等。為了更好的擬合大氣噪聲特征,文中τ服從逆高斯分布τ～IG(μ,λ),其中μ為形狀參數,λ為尺度參數,其概率密度函數的表達式為:

通過對隨機變量x的概率密度函數的計算可以發現,隨機變量x的概率密度函數的表達式復雜,難以用解析表達式表達。

1.2 性質

通過對上述高斯尺度混合分布概率密度函數的特征函數的計算,不難證明有如下性質:

性質若隨機變量x=τ1/2g,其中,g服從0均值的高斯分布:g～N(0,δ2),τ服從逆高斯分布:τ～IG(μ,λ),則隨機變量x可以等效為:

并且,對于上述一個固定的分布,滿足μδ2=a,其中a為固定常數。

從上述性質可以得出,對于一個固定的分布,參數δ2,μ,λ不是固定值,可以有多種組合,只有在其中一個參數固定的條件下,才可以確定其他兩個參數。

2 貝葉斯層次模型

2.1 大氣噪聲模型

根據1.2節所述性質,高斯尺度混合分布大氣噪聲的參數{δ2,λ,μ}滿足一定關系,那么可以固定μ=10,則混合模型需要估計的參數為{δ2,λ}。

假設觀測到的噪聲數據集x={xi,i=0,1,2,…,n},根據式(4),可以得出高斯尺度混合分布大氣噪聲的等效形式:

2.2 貝葉斯層次模型

貝葉斯推斷通過先驗分布來推斷后驗分布,參數集變量{δ2,λ}的后驗分布為:

選取合理的共軛先驗能夠充分利用先驗信息,這使得貝葉斯模型的性能顯著提高,對上述參數選取以下先驗分布:

參數δ-2的共軛先驗分布為伽馬分布:δ-2～Γ(α,β),其中α和β分別為伽馬分布的形狀參數和逆尺度參數。

參數λ的后驗概率分布計算復雜,難以得到其共軛先驗分布,所以λ取慣常的先驗分布,為伽馬分布:λ～Γ(ξ,τ)。

為了使超參數β,τ具有更強的靈活性,增加兩個額外層,他們的共軛先驗分別為:β～Γ(g,h),τ～Γ(κ,ε)。

為了直觀表述參數之間的關系,畫出高斯尺度混合分布模型各參數的直接非循環圖,圖中圓圈代表參量,是需要估計的值,方框代表定值,如圖1所示。

圖1 模型的直接非循環Fig.1 Direct acyclic graph specific to the model

3 MCMC算法

在MCMC算法中,常采用Gibbs抽樣和Metropolis-Hasting(M-H)抽樣算法對更新參數進行抽樣。本文對于容易計算的、常見的后驗概率采用Gibbs抽樣,對復雜、不常見的后驗概率采用M-H抽樣。具體算法流程如下:

步驟1通過Gibbs抽樣更新參數δ2。

步驟2通過M-H算法更新參數λ。

步驟3通過Gibbs抽樣更新參數β,τ。

步驟4通過M-H算法更新變量{γi}。

3.1 通過Gibbs抽樣更新參數δ2

δ-2的全條件后驗分布為:

通過Gibbs抽樣,生成新的伽馬分布隨機數對δ2進行更新。

3.2 通過M-H算法更新參數λ

λ的全條件后驗概率為:

因為λ的全條件后驗概率復雜,不是常見的分布,所以通過M-H抽樣算法更新λ值,算法步驟如下:

1)λ選用建議分布為q():μ～N(λ(t),0.1)。

2)從1)中抽樣λ′作為備選值。

3)從均勻分布中生成隨機數u～U(0,1)。

4)計算接受概率R=min(1,A),其中:

因為建議分布是對稱的,所以式(14)可以化簡為:

5)若u≤R,則接受新值λ(t+1)=λ′,否則不接受新值,則λ(t+1)=λ(t)。

3.3 通過Gibbs抽樣更新參數β,子

β,τ的全條件后驗分布分別為:

通過Gibbs抽樣,生成新的伽馬分布隨機數對β,τ進行更新。

3.4 通過M-H算法更新變量{γi}

γ的全條件概率分布為:

1)γi選用建議分布為:γi～IG(10,λ)。

2)從1)中抽樣γi'作為備選值。

3)從均勻分布中生成隨機數u～U(0,1)。

4)計算接受概率:

5)若u≤R,則接受新值,否則不接受新值,則。

4 仿真及測試

仿真實驗中,將混合模型的參數設置為δ2=1,λ=0.5,仿真數據數目設為n=2 000。超參數簡單的設置為α=0.5,β=1,ξ=0.5,τ=1,g=2,h=1,κ= 2,ε=1。設置算法的預燒期為400,總迭代次數為1 000。仿真的結果如圖2和圖3所示。

圖2 δ2的迭代收斂Fig.2 Time-average convergence ofδ2

圖3 λ的迭代收斂Fig.3 Time-average convergence ofλ

從各參數的迭代收斂情況可以看出,在進行200次迭代后,各參數就收斂到實際值。對預燒期之后的迭代值進行平均,得到各參數的估計結果為δ2=0.971,λ=0.509。

圖4為上述參數下噪聲模型數據,可以看出其中明顯的非高斯特征。圖5為用參數的估計結果畫出的幅度概率分布(APD,Amplitude Probability Distribution)曲線,圓圈代表仿真的噪聲數據的實際值,曲線為用參數的估計值畫出的APD曲線(X軸尺度為-0.5 log10(-lnP(＞x0)),Y軸尺度為10lg(x0) dB)。從圖5中可以看出,估計參數畫出的APD曲線與噪聲數據吻合的很好,這也說明了本文的模型對大氣噪聲的適用性,并且,用MCMC算法能對模型參數進行有效估計。

圖4 仿真大氣噪聲數據Fig.4 Simulation data of the atmospheric noise

圖5 實際仿真數據和估計參數下的APD曲線Fig.5 APD graphs of the actual noise data and noise data with estimation parameters

5 結 語

本文通過對噪聲采用基于逆高斯分布的高斯尺度混合分布模型建模,研究了基于逆高斯分布的高斯尺度混合分布模型的性質,將高斯尺度混合分布等價為高斯分布,使算法有更高的迭代效率和精度。通過設計貝葉斯層次模型,采用MCMC算法,對參數通過Gibbs抽樣和M-H抽樣算法進行更新和估計。仿真結果表明,該模型對大氣噪聲有很好的適用性,MCMC算法迭代效率和精度高,對水下低頻非高斯噪聲下通信接收有實際的意義。

[1] 施意,張爽,張昕.大氣噪聲對甚低頻通信系統干擾仿真分析[J].通信技術,2013,46(09):32-34.

SHI Yi,ZHANG Shuang,ZHANG Xin.Simulation and Analysis of Atmospheric Noise Interference on VLF/LF Communication[J].Communications Technology,2013, 46(9):32-34.

[2] 趙宜楠,李風從,尹彬.嚴重拖尾復合高斯雜波中目標的自適應極化檢測[J].電子與信息學報,2013, 35(02):376-380.

ZHAO Yi-nan,LI Feng-cong,YIN Bin.Adaptive Polarimetric Detection of Targets in Heavy-Tailed Compound-Gaussian Clutter[J].Journal of Electronics&Information Technology,2013,35(2):376-380.

[3] WANG J,ALEKSANDAR D,and ARYE N.Maximum Likelihood Estimation of Compound-Gaussian Clutter and Target Parameters[J].IEEE Transactions on Signal Processing,2006,54(10):3884-3898.

[4] BALLERI A,NEHORAI A,and WANG J.Maximum Likelihood Estimation for Compound-Gaussian Clutter with Inverse Gamma Texture[J].IEEE Transactions on Aerospace and Electronic Systems,2007,43(02):775-780.

[5] 應文威,蔣宇中,劉月亮.大氣低頻噪聲混合模型的MCMC參數估計[J].系統工程與電子技術,2012, 34(06):1241-1245.

YING Wen-wei,JIANG Yu-zhong,LIU Yue-liang.Parameter Estimation for Mixture Model of Atmospheric Noise through MCMC Method[J].Systems Engineering and Electronics,2012,34(6):1241-1245.

[6] YING Wen-wei,JIANG Yuzhong,and LIU Yue-liang, et al.A Blind Receiver with Multiple Antennas in Impulsive Noise Modeled as the Sub-Gaussian Distribution via the MCMC Algorithm[J].IEEE Transactions on Vehicular Technology,2013,62(07):3492-3497.

[7] LIU B,CHEN Biao,and JAMES H M.A GLRT for Radar Detection in the Presence of Compound-Gaussian Clutter and Additive White Gaussian Noise[C]//Sensor Array and Multichannel Signal Processing Workshop Proceedings.USA:IEEE,2002:87-91.

[8] ESA O,DAVID E T,and VISA K,et al.Compound-Gaussian Clutter Modeling with An Inverse Gaussian Texture Distribution[J].IEEE Signal Processing Letters, 2012,19(12):876-879.

[9] CHEN Sijia,KONG Lingjiang,and YANG Jianyu.A-daptive Detection in Compound-Gaussian Clutter with Inverse Gaussian Texture[J].Progress in Electromagnetics Research M,2013(28):157-167.

[10] PENG Geng,HUANG Zhitao,and WANG Fenghua,et al.Single Channel Blind Signal Separation with Bayesian-MCMC[C]//Wireless Communications&Signal Processing.China:IEEE,2009:1-4.

[11] ANTHONY L,CHRISTOPHER Y,and MICHAEL B G,et al.On the Utility of Graphics Cards to Perform Massively Parallel Simulation of Advanced Monte Carlo Methods[J]Journal of Computational and Graphical Statistics,2010,19(04):769-789.

YING Wen-wei(1987-),male,Ph.D.,majoring in digital signal processing;

李成軍(1976—),男,博士,高級工程師,主要研究方向為數字信號處理;

LI Cheng-jun(1976-),male,Ph.D.,senior engineer, mainly engaged in digital signal processing.

馮士民(1987—),男,博士,主要研究方向為通信信號處理。

FENG Shi-min(1987-),male,Ph.D.,mainly engaged in communication signal processing.

Parameters Estimation for Gaussian Scale Mixture Atmospheric Noise

YING Wen-wei1,LI Cheng-jun1,FENG Shi-min2
(1.Unit 91635 of PLA,Beijing 102249,China; 2.Department of Weaponry Engineering,Naval University of Engineering,Wuhan Hubei 430033,China)

Parameters estimation of the non-Gaussian atmospheric noise has an important significance to the signals optimal detection in very low frequency(VLF)and extremely low frequency(ELF)communication.A model based on Gaussian scale mixture(GSM)distribution with inverse-Gaussian is proposed. The characteristic of parameters of GSM distribution with inverse-Gaussian is studied.Markov chain Monte Carlo(MCMC)method is designed to estimate parameters.This method,based on Bayesian hierarchical model,updates the parameters through Gibbs sampler and M-H algorithm.The experimental results show that the proposed model performs well.The MCMC method is of good iterative efficiency and precision,and can be excellently applied in practice.

Gaussian scale mixture(GSM);inverse-Gaussian distribution;atmospheric noise;Markov chain Monte Carlo(MCMC)

TN911.7

A

1002-0802(2014)09-1010-04

10.3969/j.issn.1002-0802.2014.09.007

應文威(1987—),男,博士,主要研究方向為數字信號處理;

2014-06-10;

2014-07-10 Received date：2014-06-10;Revised date：2014-07-10