改進的自然梯度盲源分離算法在非平穩環境中的應用*

劉　婷，張　錦，李燈熬

（太原理工大學信息學院，太原030024）

改進的自然梯度盲源分離算法在非平穩環境中的應用*

劉婷，張錦*，李燈熬

（太原理工大學信息學院，太原030024）

對于傳統的自然梯度算法，在處理非平穩信號時，在步長更新迭代過程中，非平穩信號變化幅度過快而導致分離矩陣幅度變化的不穩定，從而影響分離效果。針對此問題，結合變步長的思想，提出了基于正交約束的自然梯度盲分離算法，該算法主要對恢復信號進行約束，通過使用瞬時誤差有目的地控制變步長，從而加快算法收斂速度且提高了分離精度，同時保證了非平穩環境下分離過程的穩定性。結果表明，正交約束下的盲源分離算法可以高效地分離出非平穩環境下的源信號。

盲源分離；自然梯度；非平穩；正交約束

目前基于獨立分量分析ICA（Independent Component Analysis）的盲信號分離算法在生物醫學工程［1］、語音增強、通信系統和機械故障診斷等信號處理領域應用廣泛。盲分離算法按具體解決途徑分為自適應和批處理［2］。批處理算法數值穩定性較好，但需要預先已知大量的觀測數據，不宜進行實時的在線信號分離。自適應算法計算量小，計算時間短，且適于非平穩環境，因而被廣泛應用，該類算法主要有EASI算法［3］，Fast-ICA算法［4］，隨機梯度，迭代求逆和自然梯度算法［5］，算法最關鍵的部分是平衡收斂速度和穩態誤差之間的矛盾。自適應變步長具有良好的全局收斂性，然而自然梯度控制步長依賴于輸出的估計信號和分離矩陣，而迭代的過程中，分離矩陣在某些情況下只在其等價矩陣集合內更新，使算法停滯不前，這樣既增加了計算量又使收斂變慢，為了解決上述問題，本文引入了可變步長的正交約束，對混合的觀測信號進行分離，通過仿真實驗，證明了算法的有效性。

1　自然梯度算法描述

1.1自適應盲源分離模型

盲源分離是指從混合信號中提取出各個獨立成分，分離之前，任何先驗知識都是未知的，模型可被寫為：

項目來源：國家自然科學基金項目（61371062）；山西省留學回國人員科研項目（2013-032）；山西省國際合作項目（2012081031）

收稿日期：2015-06-04修改日期：2015-07-30

其中s（t）是源信號向量，零均值且相互獨立的量，A是未知的滿秩混合矩陣，x（t）是s（t）經線性瞬時混合得到的混合信號向量。盲源分離一般是先選定一個目標函數，根據目標函數尋找一種最優算法，解混的過程是通過算法使得恢復出的信號y（t）盡可能地接近源信號，分離的結果是要找出一個最優分離矩陣W，分離過程可用公式表達為：

定義全局矩陣為G=WA，理想情況下，算法應找到一個分離矩陣W使得G=WA=I，I為單位陣，但通常情況下，只能得到一個與單位陣相似的矩陣，即G=ΛP，Λ表示任一可逆對角陣，P為任一置換矩陣，當且僅當y（t）=ΛPs（t）時，y（t）的分量相互獨立，源信號即被很好地分離出來，Λ表示分離出的信號可能與源信號存在幅度上的差異，P表示排列次序的不確定性，實際應用中，這兩者都是可以接受的。自適應盲分離的過程如圖1所示［6-8］。

圖1　自適應盲源分離算法圖

由此過程可以看出，迭代產生的獨立成分y（t）反饋到分離矩陣W，連同觀測信號一起作為下一次的輸入，觀測信號x（t）輸入算法目的是自適應地估計源信號y（t），達到盲源分離的目的。

1.2自然梯度算法

盲分離的關鍵是尋找最優的分離矩陣Wopt，使得各信號分量yi之間盡可能的相互獨立，相依性最小，常用Kullback-Leibler散度I（W）作為獨立性測度，并使其最小化。公式表示如下［9］：

式（3）中，p（y）是y的聯合概率密度函數，pi（yi）是y的邊緣概率密度函數，當且僅當p（y；W）與pi（yi）具有相同的分布時，KL散度I（W）為0，且不隨變量yi的非線性變換而變化，此時，分離效果達到理想情況。基于散度得到隨機梯度的盲源分離算法如下：

但是隨機梯度收斂慢，且易受混合矩陣的影響，此外，由公式可以看出，迭代過程需要求逆，計算復雜，因此，在隨機梯度的基礎上提出自然梯度算法，其通用的迭代公式為：

其中μ（t）是取決于t的學習速率，f為所謂的評價函數（Score Function），f（y）=（f1（y1），f2（y2），…，fn（yn）T，是列向量，定義如下：

如果源信號滿足非高斯性，則 fi（yi）為非線性函數。

對于式（5）算法，當學習步長參數取固定值時，步長太大則收斂較快，但是穩態變差；反之，步長太小則穩態性好，但是收斂變慢，不適合實時處理，甚至可能導致混合信號永遠無法得到分離。本文提出一種新的自適應變步長算法，該算法用瞬時誤差信號自動控制分離的快慢達到收斂速度與穩態的平衡。

2　正交約束的引入

經典模式的目標函數有基于互信息、最大似然和信息最大化準則，基于這些函數的算法都屬于無約束的盲源分離算法，通常情況下，為去除各混合信號間的相關性，簡化后續獨立信號分量的提取算法，運用分離算法之前都先用主分量分析方法，PCA （Principle Component Analysis）對混合信號進行白化處理。白化后的混合信號x（t）變為具有單位方差的信號且各混合信號相互正交，經推導證明輸出的分離信號也具有單位方差，并且分離矩陣一定是正交矩陣，即滿足W-1=WT。

但是，基于預白化數據的盲源分離不具有等變化性。等變化性的意思是算法的全局矩陣G=WA，與混合矩陣A無關，即使當系統混合方式發生變化時，算法的全局矩陣也不會發生變化，這種性質是盲源分離算法的重要性質之一。因此，基于預白化數據的盲源分離雖然可以簡化算法，但同時也限制了算法的應用，而且在遇到病態混合矩陣或者源信號很弱時，基于預白化數據的盲源分離，其分離性能會很差。因此，需要考慮加權正交約束WRxWT=I［3-4］，此方法不僅可以達到預白化的效果且還可保留盲源分離的等變化性質，分離效果更穩定。只需在每一次迭代后，對分離矩陣進行正交性處理，方法如下：

其中，自相關矩陣可以用式（8）估計：

3　自適應變步長算法

傳統的自然梯度算法中，步長因子μ（t）通常采用固定值，步長太大則收斂快，但是穩態誤差也隨之變大，不能很好的恢復信號；步長太小則穩態效果較好，但收斂變慢，不利于實時處理。要解決這個矛盾，必須要采用自適應變步長算法，任何自適應變步長系統調整參數的目的都是為了找到收斂速度與穩態誤差的最佳平衡點。

本文引入正交約束后用瞬時誤差信號的Frobenius范數的平方作為參數控制步長使其自適應地變化，令誤差為：

可以看出，E（t）恒大于等于零。對于非平穩信號幅度變化太大，分離的過程中步長也可能波動較大。因此，為了使分離結果滿足要求，本文的步長自適應調整的原則是：在自適應分離的過程中，為了不使步長變化太大或太小，本文設置了步長上限和下限，μmax=0.03和 μmin=0.000 005。當步長處于最大值和最小值之間時，本文規定步長的更新依據誤差信號的變化量來定，具體過程描述如下：令ΔE（t）=E（t）-E（t-1），如果ΔE（t）增大，則說明步長太大，出現了動蕩，下一時刻的步長需要比這一時刻的步長小，本文采用在這一時刻的步長前乘以一個小于1且接近于1的系數對步長進行微調，其中β是為了調整λ（t）引入的參數，是經過大量實驗得到的，根據實驗所需，β取0.001；相應地，如果ΔE（t）進一步減小，說明還沒有進入收斂領域，也即還沒有得到最佳分離矩陣，迭代繼續進行。如式（11）、式（12）所示。

最終，新的正交約束下的自然梯度變步長算法的分離矩陣更新公式為：

4　計算機仿真

為了驗證算法的有效性，本實驗對如圖2所示的三個非平穩源信號分別是突變信號、FSK信號和語音信號進行了線性混合，隨機生成一個3×3維的混合矩陣A，并服從區間［-1，1］上的均勻分布，采樣頻率用10kHz，初始步長 μ0=0.03，進行200次蒙特卡洛仿真實驗，激活函數取 f（y（t）=y3（t）。

算法的分離性能用“串音誤差”（Cross-talking Error）來衡量，公式如下：

其中G是全局矩陣，表示為G=WA，gpq為第p行第q列元素。從以上指標可以看出，當Ect越大，分離獨立分量效果越差。反之，Ect越小，分離效果越好。

圖2　源信號

正交約束自然梯度變步長算法的實驗流程：

（1）隨機產生混合矩陣，對源信號進行線性混合，得到3個混合信號。

（2）初始化分離矩陣W0=0.5?I3×3，自相關矩陣Rx（t）=I3×3，學習步長 μ0=0.03。

（3）參數值的大小β=0.001，α=0.995，ρ=0.28。

（4）計算y（t）=W（t）x（t）。

（5）更新學習步長μ（t）、更新自相關矩陣Rx（t）、更新分離矩陣W（t）。

（7）t＜T，回到步驟（4），否則進行步驟（8）。

（8）依據y（t）和Ect（t）繪制恢復的源信號波形和算法性能曲線。

為了進行比較，將本文提出的正交約束算法與基于預白化處理數據一同應用于處理上述混合信號，從圖3（a）、圖3（b）可以看出，基于預白化的算法與隨機矩陣的選擇有關，所以分離效果不穩定，本文加入正交約束后的算法對非平穩信號的處理效果更好一些，實用性較強。

圖3　基于預白化處理和正交約束處理的分離信號

為了驗證變步長算法的有效性，用本文算法與固定步長的自然梯度算法作了對比，取固定步長μF=0.002，分別計算兩種算法運行過程中的平均串音誤差，其學習曲線如圖4所示。從串音誤差曲線可以看出，變步長使得分離過程收斂變快且分離到最后階段的時候穩態誤差明顯比固定步長小。

圖4　斂曲線對比圖

5　結束語

盲源分離算法作為一種功能強大的信號處理工具越來越受到重視，研究也越來越趨于實用化。本文針對非平穩信號較難處理的問題，提出了一種基于正交約束的盲源分離算法，實驗結果表明，本文算法可以高效可靠地分離出非平穩信號，且相較于固定步長算法，變步長算法收斂快、穩定性好，為非平穩信號的處理提供了一種新思路。

［1］ Yong X，Ward R K，Birch G E.Generalized Morphological Component Analysis for EEG Source Separation And Artifact Removal ［C］//Neural Engineering，2009.NER'09.4th International IEEE/ EMBS Conference on.IEEE，2009：343-346.

［2］ 羅志增，周煒.一種改進的盲源分離技術及其在SEMG中的應用［J］.傳感技術學報，2009，22（8）：1204-1207.

［3］ Cardoso J F，Laheld B H.Equivariant Adaptive Source Separation ［J］.IEEE Transactions on Signal Processing，1996，44（12）：3017-3030.

［4］ 王小敏，曾生根，夏德深.獨立分量分析算法的改進研究［J］.電子器件，2008，31（5）：1681-1684.

［5］ Amari S I.Natural Gradient Works Efficiently in Learning［J］. Neural computation，1998，10（2）：251-276.

［6］ Zhu X L，Zhang X D，Ding Z Z，et al.Adaptive Nonlinear PCA Algorithms for Blind Source Separation Without Prewhitening［J］. IEEE Transactions on Circuits and Systems I：Regular Papers，2006，53（3）：745-753.

［7］ Ye J，Huang T.New Fast-ICA algorithms for Blind Source Separation without Prewhitening［M］//Applied Informatics and Communication.Springer Berlin Heidelberg，2011：579-585.

［8］ 高穎，李月，楊寶俊.變步長自適應盲源分離算法綜述［J］.計算機工程與應用，2007，43（19）：75-79.

［9］ Yuan L，Wang W，Chambers J A.Variable Step-Size Sign Natural Gradient Algorithm for Sequential Blind Source Separation［J］. Signal Processing Letters，IEEE，2005，12（8）：589-592.

劉婷（1988-），女，漢族，山西朔州人，太原理工大學碩士，從事醫電信號處理工作1097898450@qq.com；

張錦（1964-），女，漢族，山西黎城人，山西大醫院博士，從事醫院醫技科室的管理與研究工作，zhangjin_99@126.com；

李燈熬（1971-），男，漢族，山西忻州人，太原理工大學博士，從事醫電信號處理研究工作，lidengao@tyut.edu.cn。

An Improved Blind Source Separation Based on Natural Gradient Algorithm Used in Non-Stationary Environments*

LIU Ting1，ZHANG Jin2*，LI Dengao1
（Information Engineering，Taiyuan University of Technology，Taiyuan 030024，China）

Traditional natural gradient algorithm may lead to unstable variations for separating matrix during the processing of non-stationary signals，which may greatly affect separation.To solve this problem，combined with the idea of variable step，we propose a natural gradient algorithm for blind source separation based on orthogonal constraints，it constrains the strength of the recovery signals in order to ensure the stability of the separation process under non-stationary environment；in addition，we employ the instantaneous error to control variable step purposefully，for this reason，the convergence speed increases and the separation accuracy is improved.The results showed that blind source separation algorithm by using orthogonal constraints can efficiently separate the source signals even in non-stationary environments.

blind source separation；natural gradient algorithm；non-stationary；orthogonal constraints

TN912.3

A

1005-9490（2016）03-0675-05

EEACC：7220；0290Z10.3969/j.issn.1005-9490.2016.03.034