一種基于均方偏差分析的通用最小均方算法

謝小平 史雄坤

(湖南大學(xué)汽車車身先進(jìn)設(shè)計(jì)制造國家重點(diǎn)實(shí)驗(yàn)室 長沙 410012)

1 引言

最小均方(Least Mean Square,LMS)算法屬于隨機(jī)梯度算法的一種，可以表示為一種橫向線性濾波器，如圖1所示。因其算法簡單且易于實(shí)現(xiàn)而廣泛應(yīng)用于系統(tǒng)辨識、自適應(yīng)均衡、自適應(yīng)噪聲消除、自適應(yīng)譜線增強(qiáng)、自適應(yīng)波束形成等領(lǐng)域[1]。收斂速度和均方誤差(Mean Square Error,MSE)是衡量LMS算法的兩個重要指標(biāo)。對于傳統(tǒng)的定參數(shù)LMS算法，采用較大的步長可以加快算法的收斂速度，但收斂時(shí)誤差值較大；采用較小的步長收斂速度較慢，收斂時(shí)穩(wěn)態(tài)誤差較小。

圖1 橫向自適應(yīng)LMS濾波器

為了解決收斂速度和穩(wěn)態(tài)誤差之間的矛盾，人們提出了各種變步長LMS算法，這些算法大致可以分為如下4個大類。第1類是通過輸出響應(yīng)和期望響應(yīng)之差的大小來控制步長的大小，其步長的變化趨勢與S型曲線Sigmoid[2]函數(shù)一致；即誤差較大和較小時(shí)步長變化的梯度較小，而中間過渡過程的步長變化梯度較大。這種S型的步長變化曲線使算法在誤差較大時(shí)保持較快的收斂速度，誤差較小時(shí)保持較小的穩(wěn)態(tài)誤差。該類算法典型的代表有：基于Sigmoid函數(shù)的最小均方(Least Mean Square based on Sigmoid function,GSVSLMS)算法[3]、基于Sigmoid框架的非負(fù)最小均方(Non-Negative Least Mean Square based on Sigmoid framework,SNNLMS)算法[4]等。這類算法的參數(shù)選取沒有一個很好的數(shù)學(xué)準(zhǔn)則，沒有給出嚴(yán)格的數(shù)學(xué)證明，只能根據(jù)經(jīng)驗(yàn)選擇合適的大小。第2類是通過加入一些約束準(zhǔn)則使誤差均方代價(jià)函數(shù)最小[5]，然后求解出在這種約束下的步長更新公式。該類算法的代表有：重新加權(quán)0吸引最小均方(Reweighted Zero-Attracting Least Mean Square,RZA-LMS)算法[6]、分?jǐn)?shù)最小均方(Fractional Least Mean Squares, FLMS)算法[7]等。這一類算法的優(yōu)點(diǎn)是其算法參數(shù)都是滿足代價(jià)函數(shù)最小準(zhǔn)則，并且在數(shù)學(xué)上是嚴(yán)格收斂的；缺點(diǎn)是在引入這些約束后使算法步長更新公式變得異常復(fù)雜，算法參數(shù)所受約束比較嚴(yán)格，其性能也將被削弱。第3類是一些步長調(diào)節(jié)組合類算法，這類算法組合了兩種步長約束準(zhǔn)則；根據(jù)設(shè)定的條件選擇相應(yīng)的約束準(zhǔn)則進(jìn)行步長的迭代更新。這類算法的代表有：組合正則化參數(shù)歸一化最小均方(Combined Regularization Parameter for Normalized Least Mean Square,CRP-NLMS)算法[8]、魯棒可變加權(quán)系數(shù)擴(kuò)散最小均方(Robust Variable Weighting Coefficients Diffusion Least Mean Square,RVWC-DLMS)算法[9]、分?jǐn)?shù)階修正最小均方(Fractional Order Modified Least Mean Square,FOMLMS)算法[10]等。該類算法的性能介于兩種組合算法之間，性能比較均衡，但復(fù)雜度一般都比較高。第4類是頻域內(nèi)的塊LMS自適應(yīng)算法，如改進(jìn)的頻域塊最小均方(Modified Frequency-domain Block Least Mean Square,MFBLMS)算法[11]、距離-

多普勒-空間最小均方(Range Doppler Space Least Mean Square,RDS-LMS)算法[12]等。這類算法通過快速傅里葉變換(Fast Fourier Transform,FFT)將時(shí)域信號轉(zhuǎn)變到頻域再做自適應(yīng)；在頻域的自適應(yīng)可以減弱輸入序列的線性相關(guān)性，起到一定加速收斂的作用；當(dāng)自適應(yīng)權(quán)值向量的維數(shù)較大時(shí)，頻域自適應(yīng)算法的性能才明顯好于傳統(tǒng)時(shí)域算法。此外還有遞歸最小二乘(Recursive Least Squares,RLS)算法和總體最小二乘(Total Least Squares,TLS)算法；其代表有：魯棒遞歸最小二乘(Robust Recursive Least Squares,RLS)算法[13]和對數(shù)總體最小二乘(Logarithmic Total Least Square,L-TLS)算法[14]等。該類算法以最小二乘法為基礎(chǔ)，具有較快的收斂速度和較小的誤差；但該類算法涉及一些矩陣求逆的問題，計(jì)算復(fù)雜度較高。

前面提到的一些算法雖然有的算法都給出了參數(shù)的取值范圍，但在對具體信號處理時(shí)還需要選定合適的值。當(dāng)信號信噪比、信號功率等參數(shù)改變時(shí)就需要重新選定參數(shù)，因此并不具備通用性。

本文分析了基本LMS算法的收斂特性，確定了LMS算法收斂臨界參數(shù)值與輸入信號、期望信號之間的關(guān)系；并引入了采用相對誤差作為步長調(diào)節(jié)因子的新算法。即使所處理信號特征發(fā)生改變，但相對誤差值仍然可以反映算法收斂情況。通過分析算法收斂特性臨界值結(jié)合相對誤差快速調(diào)節(jié)步長參數(shù)，可以使新算法自適應(yīng)不同特征信號處理。計(jì)算機(jī)仿真表明，新算法可以快速收斂并達(dá)到較小的均方誤差，是一種高度自適應(yīng)的通用LMS算法。

2 基本LMS算法收斂特性分析

2.1 系統(tǒng)模型

圖2 LMS算法系統(tǒng)結(jié)構(gòu)

2.2 均方偏差分析

圖3 h與M SD變化關(guān)系

3 新的變步長RELMS算法及分析

運(yùn)用GSVSLMS這類算法的思想，結(jié)合LMS算法在實(shí)際信號處理過程的特性。即在前期迭代時(shí)LMS觀測誤差較大，可以采用較大步長加速收斂；在算法接近收斂時(shí)，采用較小的步長使觀測誤差減小。

圖4 y隨不同A 的變化情況

圖5 A (n)隨不同qmin的變化情況

4 計(jì)算機(jī)仿真驗(yàn)證

圖6 μ (n)隨 不同qmin的變化情況

本節(jié)通過計(jì)算機(jī)仿真來驗(yàn)證新算法的性能。由于本文的LMS偏差分析基于假設(shè)1和假設(shè)3，所以首先通過仿真驗(yàn)證其假設(shè)可靠性。結(jié)合假設(shè)2和假設(shè)3本文得出結(jié)果為

圖7 系統(tǒng)辨識模型

圖8 式(47)的驗(yàn)證

圖9 式(48)的驗(yàn)證

圖10 仿真實(shí)驗(yàn)1的結(jié)果

圖11 仿真實(shí)驗(yàn)2的結(jié)果

圖12 一段原始語音信號x(n)

圖13 加性噪聲z(n)

圖14 含噪聲語音信號d(n)

圖15 LMS算法誤差

圖16 GSVSLMS算法誤差

圖17 RELMS算法誤差

5 結(jié)論

本文通過合理的假設(shè)分析了基本LMS的收斂特性，得出了LMS算法可以接受的最大步長條件；并通過計(jì)算機(jī)仿真驗(yàn)證了這些假設(shè)的合理性。采用誤差序列短時(shí)功率與期望序列信號短時(shí)功率的比值來表征算法的收斂程度，并據(jù)此提出了新的變步長RELMS算法；新算法步長調(diào)節(jié)方式契合LMS算法步長理想調(diào)整原則，相對誤差形式的步長控制自變量可以自適應(yīng)不同特征的信號，更適用于信號功率有突變的自適應(yīng)信號處理。新算法避免了傳統(tǒng)自適應(yīng)算法參數(shù)選擇的過程，是一種性能較好的通用性LMS算法。

6 附錄

又D=QA，根據(jù)式(56)則有