摘 要:聯合估計過程有2種模式,分為總體誤差更新及階誤差遞歸更新方式。經過格型結構濾波后,提取其中產生的后向預測誤差序列作為聯合估計的輸入信號。通過對系統辨識問題的仿真分析,得出以下結論:如果不需要嚴格關注濾波模型本身噪聲所帶來的測量誤差,從實用性的角度考慮,在總體誤差更新模型中采用遞歸最小二乘格型聯合估計處理方式(RLSLJE)性能較好,其收斂效果較為理想。
關鍵詞:自適應處理; 遞歸最小二乘格型聯合估計; 誤差更新; 系統辨識
中圖分類號:TN713 文獻標識碼:A
文章編號:1004-373X(2010)14-0140-04
Analysis of Recursive Least Squares Lattice Joint-process Estimation
CHEN Bo1, LIU Zheng-dong2, LIU Jin-gen1
(1. School of Information Engineering, Wuhan University of Technology, Wuhan 430070, China;
2. Shanghai Zhiyin Information Technology Co. Ltd., Shanghai 201203, China)
Abstract: Joint-process estimation has two kinds of modes:the overall error updating and the step error recursion update. A sequence of backward prediction errors generated by the lattice filter is extracted as the input signal of the estimation. The simulation of the system identification obtained the following conclusions: if the measurement error caused by the noise of the filtering model need not be paid a strict attention and just takes practicability into account, it is better to use the recursive least squares lattice joint-process estimation (RLSLJE) in the overall error update model, and its convergence results is ideal.
Keywords: adaptive processing; RLSLJE; error update; system identification
0 引 言
自適應處理技術在近幾十年的發展過程中,總體歸納為由Widrow.B等人提出的最小均方法(LMS)和之后的遞歸最小二乘法(RLS)2類,在結構上可以分為橫向結構、格型結構和神經網絡等。其中格型結構不同于橫向濾波結構,其由多級相同單元及聯而成,對信號的傳遞是以預測誤差的方式進行,有別于橫向結構僅僅是對輸入信號采取單位延遲的方式,通過對輸入信號的變換提高了結構的穩定性。基于最小均方法的梯度自適應格型結構算法(GAL)已由Griffiths.L.J提出,文獻[1-2]分析了GAL的特點及其應用。但由于最小均方法本身收斂性就不太好決定了GAL使用的局限性,而且GAL要求輸入為平穩信號條件下,并且前向反射系數和后向反射系數相同。如果從另一類方式入手,利用最小二乘格型算法(LSL)產生預測誤差的性能將優于GAL,文獻[3-4]分析了LSL的優點及其應用。然而在許多應用情況下,需要由期望信號d(n)所表達的某一過程性質的預測與輸入信號x(n)所包含的有關過程進行測量和估計。將后向預測誤差序列用于另一自適應處理過程中是格型聯合估計過程的核心,簡單來說,聯合處理分為2個階段,利用格型濾波結構產生的后向預測誤差序列再同時經過單獨的另外一次常規自適應濾波處理。本文結合自適應處理中一個重要的應用系統辨識問題,通過對模型內部參數的識別,提出在最小二乘格型濾波結構的基礎上,對后向預測誤差序列采用遞歸最小二乘(RLS)算法進行加權求和,做估計的聯合處理,稱之為遞歸最小二乘格型聯合估計處理方式(recursive least squares lattice joint-process estimation,RLSLJE),并以歸一化最小均方算法(NLMS)作為參照進行對比,從最后的仿真結果可以驗證此種方式的可行性和有效性。另外也分析了一種非常特殊的濾波系數獲取方式的性能。
1 格型濾波原理
格型結構一個最大的優點是能夠將相關輸入序列變換為一個新的相互之間正交的后向預測誤差序列[5],即將輸入/輸出信號做映射,對一組正交序列的線性組合遠比對一組非正交序列的線性組合更加精確。由LSL產生預測誤差的格型濾波結構如圖1所示,需要計算2組不同的反射系數[6-7]:
圖1 格型結構示意圖
κfm(n)=-Δm(n)εbm-1(n-1), κbm(n)=-Δm(n)εfm-1(n) (1)
m=1,2,…,M
在格型結構中前后級間預測誤差存在以下關系:
fm(n)=fm-1(n)+κfm(n)bm-1(n-1)
bm(n)=bm-1(n-1)+κbm(n)fm-1(n)(2)
式(1),式(2)中其他變量如Δm(n)為前向預測誤差與后向預測誤差之間的部分相關系數;γm(n-1)為角參量;εfm(n)和εbm(n)分別為前后向殘數,即分別為前后向預測誤差序列自身內積,各變量更新如下:
Δm(n)=Δm(n-1)+bm-1(n-1)fm-1(n)γm-1(n-1)
γm(n-1)=γm-1(n-1)-[bm-1(n-1)]2εbm-1(n-1)
εfm(n)=εfm-1(n)-Δ2m(n)εbm-1(n-1)
εbm(n)=εbm-1(n-1)-Δ2m(n)εfm-1(n)(3)
2 聯合估計過程
經過格型結構濾波后,提取其中產生的后向預測誤差bm(n)序列作為聯合估計的輸入信號。因為后向預測誤差bm(n)彼此之間具有正交的特性,使得格型結構前后兩級間是去耦的,因此級間信號抗干擾性得到了保障。對后向預測誤差bm(n)序列做加權求和,并與參考信號d(n)進行比較,以獲得誤差e(n)。
通過對期望信號引入方式的分析,聯合估計過程有2種模式,分為總體誤差更新和階誤差遞歸更新方式,它們對權值的更新的方式不同,前者如圖2所示以當前時刻的總體誤差即為期望信號與整個濾波系數同時和所有估計器輸入信號的乘積之差作為調整下一時刻整個濾波系數的修正因子;而后者如圖3所示則是在當前時刻先從第一級濾波系數進行調整,逐次計算每一個濾波系數的更新,調整后的單級誤差成為下級單元的期望信號,依次遞歸計算每一級的誤差和濾波系數以達到整體最優。總體誤差更新方式中如圖2所示,總體誤差為:
e(n)=d(n)-w(n)b(n)
W=[w0,w1,w2,…,wM],B=[b0,b1,b2,…,bM] (4)
濾波系數的更新可以采用NLMS算法或者是RLS算法以及其他類型的更新算法。
圖2 總體誤差更新過程
階誤差遞歸更新方式如圖3所示,單級誤差為:
圖3 階誤差遞歸更新過程
em+1(n)=em(n)-wm(n)bm(n)
e0(n)=d(n), m=0,1,2,…,M(5)
濾波系數的更新一般采用NLMS算法。Morf.M和Lee.D.T曾總結出一種特殊的濾波系數獲取方式[3] ,后來Haykin.S在研究卡爾曼變量與LSL變量之間的關系時詮釋如下[8]:
wm(n)=πm(n)/εbm(n) (6)
πm(n)=πm(n-1)+bm(n)em(n)γm(n) (7)
通過對比觀察式(7)中πm(n)和式(3)中Δm(n),發現它們在形態上存在一定程度的相似性,可以理解為πm(n)是一個與bm(n)及em(n)有聯系的中間變量;進一步對比式(6)中wn(n)和式(1)中κfm(n)及κbm(n),三者是一致的,這體現了濾波系數直接獲取的本質:將后向估計誤差bm(n)投影到聯合估計處理中誤差em(n)的方向上,使投影后的下一級誤差em+1(n)達到最小,從而獲得最佳濾波系數wm(n)。
3 性能仿真分析
自適應濾波器具有學習功能,能夠在數據處理過程中不斷修正濾波系數,以達到使濾波器輸出與待參考量一致的特性。自適應濾波器最主要的應用之一就是系統辨識問題如圖4所示,對于一個黑箱系統,如果對輸入信號分別通過未知系統和自適應濾波器后達到一致,因此就可以以自適應濾波器的濾波系數來近似表征未知系統的內部參數。
可以采用聯合處理系統作為圖4中的自適應濾波器,其各級結構相同因而調整階的數量較為容易,便于對實際模型擬合過程中需要隨時增加或者減少濾波器系數以最大限度來近似未知系統。這里考慮一個滑動平均(MA)模型[9-10],該模型由8個系數組成,假定為[1,-1.6,0.8,0.5,2,2.2,-1.9,2],因此聯合處理系統取為8階,輸入信號一般采用隨機噪聲序列即可。MA系統參考模型如下:
Sout(n)=∑7i=0aiSin(n-i) (8)
首先在對總體誤差更新模式中由LSL產生的后向預測誤差序列作為聯合估計輸入信號進行處理過程中分別采用NLMS算法和RLS算法對濾波系數更新,由同一信源通過未知系統和2種自適應算法后的收斂曲線結果如圖5,圖6所示。
圖4 系統辨識原理
圖5 NLMS估計曲線
從圖5和圖6中可以分別看出采用NLMS算法的聯合估計各濾波系數整體在數據通過125點左右后開始收斂,收斂曲線較為平滑;相對采用RLS算法的聯合估計各系數整體需要100點左右后就開始收斂,收斂曲線剛開始時波動較為劇烈,幅度變化大,隨后急劇收斂為一條直線。
因為未知系統是無法用精確值來確定的,所以用收斂后的濾波系數值來近似表征未知模型的假定參考數值被認為是可行的,存在一定的誤差也是不能夠避免的。表1為2種算法最終收斂后的濾波系數值,可以看到2種算法收斂值均趨向于未知MA系統的已知給定參數。
圖6 RLS估計曲線
表1 濾波系數收斂值
系數w1w2w3w4
NLMS1.126 5-1.475 50.796 50.481 9
RLS1.081 4-1.486 50.905 20.355 1
系數w5w6w7w8
NLMS2.026 82.290 5-1.915 62.017
RLS2.038 82.303 5-1.964 82.033 4
另外從頻譜圖7中也可以看出輸入信號分別通過2種算法后的輸出頻譜與未知系統的輸出頻譜幾乎一致,但是從部分小細節處,如在16 Hz,98 Hz,162 Hz等處近似程度RLS算法優于NLMS算法,更加貼近未知系統輸出頻譜,因此可以證實本文中所提出的對LSL產生的后向預測誤差序列采用RLS算法進行聯合處理的方式,即RLSLJE的性能優于聯合處理第2階段中相對采用NLMS算法的估計性能。
圖7 頻譜分析
然后在對階誤差遞歸更新模式中分別采用NLMS算法和Haykin.S所定義的方法對濾波系數更新,兩種自適應算法的收斂曲線結果如下:
從圖8和圖9中可以分別看出采用NLMS算法的聯合估計各系數整體在數據通過200點左右后開始收斂,收斂曲線慢并且平滑性也不太好;相對采用直接獲取法的聯合估計各系數整體需要120點左右后就開始收斂,收斂曲線剛開始時雖有波動,但幅度不大。據此可以直觀得出直接獲取法優于NLMS算法的結論。
圖8 NLMS估計曲線
圖9 直接獲取估計曲線
表2為兩種算法最終收斂后的濾波系數值,盡管存在難以避免的誤差,還是可以看到兩種算法收斂值均趨向于未知MA系統的已知給定參數。
另外從頻譜圖10中也可以看出輸入信號分別通過2種算法后的輸出頻譜與未知系統的輸出頻譜大體一致,然而還是可以明顯看出在35 Hz、40 Hz、124 Hz等處NLMS不同于未知系統輸出頻譜,而直接獲取法的頻譜在這些點與未知系統頻譜是吻合的,這說明其更加貼近未知系統輸出頻譜。
表2 濾波系數收斂值
系數w1w2w3w4
NLMS0.994 1-1.466 80.814 90.570 2
直接獲取1.085 6-1.963 10.907 10.571 2
系數w5w6w7w8
NLMS2.217 82.078-1.817 51.987
直接獲取2.118 62.092-1.768 61.995 4
圖10 頻譜分析
4 結 語
從以上分析可以看出在以總體誤差作為濾波系數修正因子的過程中,聯合處理過程第2階段中RLS算法明顯比NLMS算法特性好,而且該聯合估計模型也比另外一個簡單得多。而以階誤差作為各級濾波系數修正因子的過程中,NLMS算法也沒有直接獲取法的效果好,但是這種模型在處理過程中各級誤差遞歸計算需要一定時間,比前一種模型構造要復雜得多。
通過對系統辨識問題的仿真分析,比較這2種模型的仿真結果后得出以下結論:如果一定需要嚴格限制估計過程中濾波模型本身噪聲所帶來的測量誤差,那么就有必要采用后一種模型中的直接獲取法進行聯合估計,因為階誤差遞歸更新模型以每一級為最優處理對象,致使總的M級測量誤差之和也將最小;但是如果不需要嚴格關注濾波模型本身噪聲所帶來的測量誤差,從實用性的角度考慮,在易于實現的總體誤差更新模型中采用RLSLJE處理方式作為聯合估計性能較好,其收斂效果較為理想,計算量也相對較小。
參考文獻
[1]ANANTHAKRISHNAN K S, DOGANCAY K. Analysis of gradient adaptive lattice filter as a pre-processor in a speech separation system[C]//2006 IEEE Design 10 Conference. Hong Kong: IEEE, 2006: 1-4.
[2]PALEOLOGU C, CIOCHINA S, ENESCU A A. Gradient adaptive lattice algorithm suitable for fixed point implementation[C]//The Third International Conference on Diginal Telecommunications. Bucharest: University Polileh of Bucharest, 2008: 41-46.
[3]施蕾,姚天任,吳姍,等.自適應濾波LSL算法及其在去噪中的應用[J].通信技術,2002(6):13-15.
[4]劉軍,徐巖.自適應最小二乘格型算法在天線陣列中的應用[J].信息技術,2006,(12):63-65.
[5]何振亞.自適應信號處理[M].北京:科學出版社,2002.
[6]張賢達.現代信號處理[M].2版.北京:清華大學出版社,2002.
[7]PAULO S R.自適應濾波算法與實現[M].2版.劉郁林,譯.北京:電子工業出版社,2004.
[8]HAYKIN S. Adaptive filter theory[M]. 4th ed.Beijing: Publishing House of Electronics Industry, 2002.
[9]裴益軒,郭民.滑動平均法的基本原理及應用[J].火炮發射與控制學報,2001(1):21-23.
[10]周毅,丁峰.滑動平均模型的最小二乘辨識方法比較研究[J].科學技術與工程,2007,7(18):142-146.