一種改進(jìn)的可變步長LMS算法及性能分析*

張炳婷，趙建平，劉鳳霞

(曲阜師范大學(xué) 物理工程學(xué)院,山東 曲阜 273165 )

一種改進(jìn)的可變步長LMS算法及性能分析*

張炳婷，趙建平，劉鳳霞

(曲阜師范大學(xué) 物理工程學(xué)院,山東 曲阜 273165 )

為解決自適應(yīng)算法的收斂速度和穩(wěn)態(tài)誤差兩者間的矛盾，對歸一化的最小均方(NLMS)算法、變步長算法及可變步長NVSS算法進(jìn)行了研究，并結(jié)合變步長的思想，提出了一種新的可變步長算法。新的算法中引入合適的遺忘因子與修正參數(shù)來建立與步長因子間的函數(shù)關(guān)系，加快了算法收斂速度的同時，也能在非平穩(wěn)的環(huán)境中有好的跟蹤能力。最后把不同的算法應(yīng)用到系統(tǒng)辨識系統(tǒng)中，通過MATLAB進(jìn)行實(shí)驗(yàn)仿真，結(jié)果證實(shí)了新提出的算法有快的收斂速度和跟蹤時變系統(tǒng)的能力。

NVSS算法；變步長；系統(tǒng)辨識；收斂速度；跟蹤能力

0 引 言

目前基于最小均方誤差LMS(Least Mean Square)算法的自適應(yīng)濾波器，被廣泛的用于系統(tǒng)辨識或系統(tǒng)建模、自適應(yīng)噪聲對消、自適應(yīng)天線系統(tǒng)、信號處理等多個領(lǐng)域，LMS算法最早是由Windrow和Hoff提出的[1]，是建立在維納濾波器的基礎(chǔ)上，通過自動的調(diào)節(jié)濾波器的權(quán)系數(shù)，使濾波器的實(shí)際期望信號與已知輸入信號間的誤差達(dá)到最小。但在具體的應(yīng)用中，始終存在著收斂速度和穩(wěn)態(tài)誤差這兩者間的矛盾，隨著研究者的進(jìn)一步的研究，多種的改進(jìn)的變步長被提出來解決這一矛盾。在時域上主要?dú)w結(jié)為兩個方面的改進(jìn)，一個方面是用誤差來控制迭代步長，另一個方面是利用梯度向量來控制步長。最終是算法在初始的收斂階段選取大的步長，在達(dá)到穩(wěn)態(tài)時采用小的步長，來達(dá)到低的穩(wěn)態(tài)誤差[2]。本文主要研究了改進(jìn)算法的具體改進(jìn)方式，分析了變步長NLMS算法、NVSS算法、λNVSS算法及改進(jìn)的算法在系統(tǒng)辨識應(yīng)用中的性能。

1 NLMS算法

1.1 傳統(tǒng)的NLMS算法

傳統(tǒng)歸一化的最小均方誤差(NLMS)算法，是在基本的LMS算法的基礎(chǔ)上，對步長進(jìn)行了歸一化的處理[3]，解決了當(dāng)輸入功率過大時引起的大的誤差變化，降低了算法對梯度噪聲的敏感度，減小了穩(wěn)態(tài)誤差，提高了收斂速度。具體的NLMS算法的相關(guān)表達(dá)式如下：

y(n)=w(n)Tx(n)

(1)

e(n)=d(n)-y(n)

(2)

w(n+1)=w(n)+u(n)e(n)x(n)T

(3)

(4)

式中，x(n)是已知的輸入信號,d(n)是期望響應(yīng)的輸出信號,y(n)則是實(shí)際的輸出信號,w(n)是濾波器的抽頭系數(shù)。e(n)是誤差信號。式(3)是抽頭權(quán)向量的遞推公式，u(n)是步長因子，當(dāng)滿足0

J(n)=E{|e(n)|2}=E{|d(n)-y(n)|2}

(5)

即使濾波器的期望信號與實(shí)際濾波器的輸出信號間的誤差最小。此時的穩(wěn)態(tài)誤差作為衡量算法的一個性能指標(biāo)。而算法的收斂速度則受步長大小的控制，是衡量算法的另一個重要標(biāo)準(zhǔn)。在滿足收斂條件時，步長越大，收斂速度越快，但相應(yīng)的穩(wěn)態(tài)誤差也越大；步長越小，穩(wěn)態(tài)誤差小，但相應(yīng)的收斂速度減慢。對于算法在不同的應(yīng)用中，穩(wěn)態(tài)誤差和收斂速度始終是衡量算法性能好壞的兩個最重要的標(biāo)準(zhǔn)。但NLMS算法的步長是一定值，當(dāng)步長固定時，容易取得局部最優(yōu)，穩(wěn)態(tài)誤差和收斂速度不能同時滿足[4]。

1.2 變步長NLMS算法

文獻(xiàn)[5]中針對NLMS算法的不足之處，提出了變步長的NLMS算法。

該算法的步長表達(dá)式：

u(n)=β[1-exp(-α|e(n)e(n-1)|)]

(6)

權(quán)向量的更新表達(dá)式：

(7)

式中，0<α,0<β<1，0<γ的常數(shù)，防止分母為零。具體來說就是建立誤差信號與步長因子間的函數(shù)對應(yīng)關(guān)系，用當(dāng)前的誤差信號e(n)和前一時刻的誤差信號的e(n-1)乘積來調(diào)節(jié)步長的變化來，這樣進(jìn)一步降低了算法對噪聲的敏感度。同時使算法在開始的收斂階段采用大的步長來加快收斂速度，達(dá)到穩(wěn)態(tài)后使用小的步長來降低穩(wěn)態(tài)誤差。但是具體的效果并不明顯，為進(jìn)一步的解決這兩者間的矛盾，更多的改進(jìn)算法被提出。

1.3 NVSS算法

在文獻(xiàn)[6]當(dāng)中提出的改進(jìn)的NVSS算法，其中步長的迭代公式為：

(8)

在文獻(xiàn)[7]中提出的改進(jìn)的λNVSS算法。將式(8)進(jìn)一步的變形得到式(9)：

(9)

(10)

(11)

在式(10)中p>0看作是修正參數(shù)，M是濾波器的階數(shù)，該算法通過修正系數(shù)p和遺忘因子λn，利用當(dāng)前和過去的共M個誤差控制步長的迭代變化，記為NVSS算法。

2 本文提出的算法

本文提出的算法在NVSS和λNVSS算法的基礎(chǔ)上，受文獻(xiàn)[5]中變步長NLMS算法步長因子的啟發(fā)，嘗試引入新的修正參數(shù)p和遺忘因子λn來控制步長的迭代過程。令λn=exp(-α|e(n)e(n-1)|)則此時權(quán)向量的迭代方程變?yōu)椋?/p>

w(n+1)=w(n)+

(12)

式中，p>0,0<α<1。分析新的算法中，在平穩(wěn)環(huán)境時，在算法的出初始階段誤差e(n)比較大，由于0<α則p/λn取得的值較小，迭代次數(shù)不多則‖e(n)‖2較小，此時步長較大。也就是在算法的初始階段取得大的步長，隨著迭代次數(shù)的增加‖e(n)‖2是逐漸變大的，而誤差e(n)是逐漸變小的，即p/λn是變大的，則步長是減小的。通過仿真畫出算法中步長因子u(n)隨迭代次數(shù)變化時的圖形。如圖1所示，在算法的開始取得大的步長，隨著迭代次數(shù)的增加，步長逐漸減小。從分析得知，這樣算法有快的收斂速度時，也能獲得低的穩(wěn)態(tài)誤差，相應(yīng)的性能分析在文章的后半部分會進(jìn)行驗(yàn)證。

圖1 本文算法的步長隨迭代次數(shù)的變化

而在非平穩(wěn)的環(huán)境中，即系統(tǒng)發(fā)生跳變時，e(n)變化較大，而在算法的初始階段p/λn起主要作用，它的變化是較小，從而擁有好的跟蹤躍變能力。

3 算法在性能分析

3.1 系統(tǒng)辨識的分析

為了驗(yàn)證新算法的收斂速度、穩(wěn)態(tài)誤差和跟蹤跳變系統(tǒng)的能力。將本文提出的新算法和變步長的NLMS、NVSS算法、λNVSS算法應(yīng)用到系統(tǒng)辨識系統(tǒng)當(dāng)中，用MATLAB來進(jìn)行系統(tǒng)性能的仿真分析。系統(tǒng)辨識就是當(dāng)給定一個未知的系統(tǒng)時，自適應(yīng)濾波器通過反饋信息來調(diào)節(jié)自身的濾波器系數(shù)，當(dāng)誤差最小時，自適應(yīng)濾波器就與未知系統(tǒng)有相似的特性，從而達(dá)到系統(tǒng)辨識的目的[8]。

圖2是常見的系統(tǒng)辨識原理框圖，為了方便實(shí)現(xiàn)仿真，假定自適應(yīng)濾波器與未知系統(tǒng)兩者的階數(shù)是相同的。圖2中x(n)是隨機(jī)的輸入信號,d(n)是由經(jīng)未知系統(tǒng)后得到的輸出信號y(n)與噪聲信號v(n)疊加而成，其中v(n)是高斯白噪聲，與輸入信號x(n)不相關(guān)，誤差信號e(n)是濾波器的輸出y∧(n)與d(n)間的差值。它們之間的對應(yīng)運(yùn)算關(guān)系如下：

(13)

d(n)=y(n)+v(n)

(14)

y∧(n)=WT(n)X(n)

(15)

e(n)=d(n)-y∧(n)

(16)

W(n+1)=w(n)+

(17)

算法經(jīng)過多次迭代運(yùn)算，當(dāng)誤差信號e(n)最小時，自適應(yīng)濾波器的權(quán)系數(shù)近似于未知系統(tǒng)的濾波器系數(shù)，也就達(dá)到了系統(tǒng)辨識的目的。

圖2 系統(tǒng)辨識原理框

3.2 穩(wěn)態(tài)環(huán)境下不同算法的性能分析

將變步長算法NLMS、NVSS算法、λNVSS和本文提出的算法應(yīng)用到上述的系統(tǒng)辨識中，要測量的未知系統(tǒng)是4階的橫向?yàn)V波器。設(shè)定測量的輸入信號與測量的噪聲信號的信噪比是20 dB。把自適應(yīng)濾波器的權(quán)系數(shù)設(shè)定為Hn=[0.8783 -0.5806 0.6537 -0.3223]。在進(jìn)行具體的應(yīng)用環(huán)境中，相應(yīng)的參數(shù)都取相應(yīng)的最佳值，變步長算法NLMS中β=0.08、α=20，NVSS算法中，步長u取0.04，λNVSS中p=5,在本文提出的算法中α=0.8、p=1。不同的算法都做200次的獨(dú)立仿真，并求平均值，得到學(xué)習(xí)曲線的仿真結(jié)果如圖3所示。

圖3 不同算法的學(xué)習(xí)曲線比較

從圖3中可以清楚地看到，在相同的信噪比下，不同算法都有低的穩(wěn)態(tài)誤差，但是就收斂速度而言，文獻(xiàn)[7]中的λNVSS算法，要比變步長NLMS算法和文獻(xiàn)[6]中NVSS算法的收斂速度快，而本文中提出的算法與這3種算法相比，有更快的收斂速度。因此本文提出的新的算法在沒有增加穩(wěn)態(tài)誤差的前提下，同時明顯的提高了收斂速度。

3.3 跟蹤跳變系統(tǒng)的性能分析

上述僅是驗(yàn)證了新的算法在穩(wěn)態(tài)環(huán)境中的快的收斂速度，在非穩(wěn)態(tài)環(huán)境中時算法的跟蹤能力需要進(jìn)一步的驗(yàn)證。因此為了驗(yàn)證本文算法的跟蹤時變系統(tǒng)的能力，定義未知系統(tǒng)的初始值Hn=[0.8 0.5]，在第400個采樣點(diǎn)系統(tǒng)跳變?yōu)?Hn=[0.4 0.2]，在第800,1 200,1 600個采樣點(diǎn)處依次跳變。采用NVSS算法和新提出的算法進(jìn)行仿真，在NVSS算法中步長u取0.04，新提出的算法中p=1、α=0.8。圖4是算法運(yùn)行200次后取平均值得到的學(xué)習(xí)曲線。

通過比較可以看出系統(tǒng)發(fā)生跳變時，兩種算法都有跟蹤時變系統(tǒng)的能力，但是隨著跳變次數(shù)的增加，算法的跟蹤速度都有所減慢，但是本文算法的減慢速度要低于NVSS算法的減慢速度。因此，仿真證實(shí)本文提出的算法有好的跟蹤跳變系統(tǒng)的能力。

圖4 不同算法的學(xué)習(xí)曲線比較

4 結(jié) 語

在歸一化的最小均方(NLMS)算法和可變步長NVSS算法的基礎(chǔ)上，結(jié)合變步長NLMS的變步長思想，通過引入新形式的遺忘因子來建立變步長表達(dá)式，從而提出新的算法。并將算法應(yīng)用到系統(tǒng)辨識中，通過仿真實(shí)驗(yàn)證明了本文提出的算法有快的收斂速度、跟蹤時變系統(tǒng)的能力和好的穩(wěn)態(tài)誤差。但是新的算法只是維持了原有的穩(wěn)態(tài)誤差，并沒有做到進(jìn)一步的減小穩(wěn)態(tài)誤差，在接下來的學(xué)習(xí)過程中要努力解決這個問題，并嘗試把算法在硬件中實(shí)施。

[1] Widrow B, Mcool J M, Arimoer M G. Stationary and No Stationary Learning Characteristic of the LMS Adaptive Filter[J].ProcIEEE,1976,64(8):1151-1162.

[2] 李寧. LMS自適應(yīng)濾波算法的收斂性能研究與應(yīng)用[D].哈爾濱：哈爾濱工程大學(xué)，2009. LI Ning. Convergence Performance Analysis and Application of the Adaptive Lease Mean Square Algorithm [D].Harbin: Harbin Engineering University, 2009.

[3] 張琦,王霞,王磊等.自適應(yīng)回波抵消中變步長NLMS算法 [J].數(shù)據(jù)采集與處理,2013,29(01):35-41. ZHANG Qi, WANG Xia, WANG Lei, etc. Variable Step Size NLMS Algorithms in Echo Cancellation [J]. Journal of Data Acquisition and Processing,2013,29(01):35-41.

[4] 韓冰，晉東立.數(shù)字預(yù)失真器模型參數(shù)辨識算法研究[J].通信技術(shù)，2015,48(07)：799-802. HAN Bing, JIN Dong-li. Parameters Identifications Algorithm of Digital Pre-Distorter Model [J]. Communications Technology, 2015,48(07)：799-802.

[5] 沈大偉，賀思，李正宙等.一種改進(jìn)的變步長變更新速率LMS自適應(yīng)濾波算法及仿真[J].電子質(zhì)量,2010(12): 11-12. SHEN Da-wei，HE Si, LI Zheng-zhou, et al. A Modified Variable Step-Size and Multi-Rate Updated LMS Adaptive Filtering Algorithm and Its Simulation [J].Electronics Quality,2010(12):11-12.

[6] Zayed Ramadan. Alexander Poularikas. Performance Analysis of a New Variable Step-Size LMS Algorithm with Error Nonlinearities[A]. Southeastern Symposium on System[C]. America: Atlanta, IEEE Press,2004.384-388.

[7] 王偉強(qiáng)，楊金明，楊萍.一種新的可變步長LMS算法及性能分析[J].信息技術(shù)，2005,9(38)：117-122. WANG Wei-qiang, YANG Jin-ming, YANG Ping. Performance Analysis of a Novel Variable Step-Size LMS Algorithm[J]. Information Technology, 2005,9(38)：117-122.

[8] 李竹,楊培林,行小帥.一種改進(jìn)的變步長LMS算法及其在系統(tǒng)辨識中的應(yīng)用[J].儀器儀表學(xué)報(bào)，2007,28(07)：1340-1344. LI Zhu，YANG Pei-lin, HANG Xiao-shuai. Modified Variable Step-Size LMS Algorithm and Its Application in System Identification [J].Chinese Journal of Scientific Instrument, 2007,28(07)：1340-1344.

A Modified Variable Step-Size LMS Algorithm and Its Performance Analysis

ZHANG Bing-ting，ZHAO JIAN-ping，LIU Feng-xia

(College of Physics Engineering, Qufu Normal University, Qufu Shandong 273165, China )

To solve the contradiction of between convergence rate and steady-state error of adaptive algorithm, NLMS (Normalized Least Mean Square) algorithm, variable step algorithm and variable step NVSS algorithm are studied and researched, and in combination with the idea of variable step,a novel variable step-size algorithm is proposed. By introducing appropriate forgetting factor and correction parameters in this novel algorithm and establishing function relationship with between step factors,the convergence rate is accelerated and meanwhile, a fairly a good tracking ability in non-stationary environments maintained. Finally, different algorithms are applied in system identification, and MATLAB simulation indicates that the newly-proposed algorithm enjoys fairly fast convergence speed and tracking ability of time-varying systems.

NVSS algorithm; variable step size; system identification; convergence rate; tracking ability

10.3969/j.issn.1002-0802.2015.11.003

2015-06-02；

2015-09-20 Received date:2015-06-02；Revised date：2015-09-20

國家自然科學(xué)基金資助項(xiàng)目(No.11302118)；山東省自然科學(xué)基金資助(No.ZR2014FM011)； 山東省高等學(xué)校科技計(jì)劃項(xiàng)目資助(No.J12LN08)Foundation Item:National Natural Science Foundation of China(No.11302118);Natural Science Foundation of Shandong Province (No.ZR2014FM011);Science and Technology Project of Higher Education of Shandong Province(No.J12LN08)

TN929.5

A

1002-0802(2015)11-1217-05

張炳婷(1990—)，女，碩士研究生，主要研究方向?yàn)闊o線通信技術(shù)；

趙建平(1964—)，男，教授，主要研究方向?yàn)闊o線通信技術(shù)；

劉鳳霞(1988—)，女，碩士研究生，主要研究方向?yàn)橹悄苄畔⑻幚怼?/p>