基于動態Lloyd-Max 量化的網絡化系統實時狀態估計*

陳軍勇

(浙江科技學院信息與電子工程學院，浙江 杭州 310023)

基于網絡通信約束、信息量化與無線傳輸的系統狀態估計與濾波是無線傳感器網絡(WSN)、網絡化控制系統(NCS)等網絡化系統應用中的共有基礎性問題[1-3]。通常，系統狀態估計與濾波作為整個網絡化系統的基礎部分，其往往有嚴格的實時(因果)性要求，甚至要求具備零延遲特性即每步的信源量化、編碼、傳輸、解碼與估計過程在一個時間步長內完成，這對整個系統的運行性能與穩定性起著關鍵性作用[4-5]。

針對一般性的馬爾可夫信源實時編碼與估計問題，Witsenhausen 和Walrand 等[6-7]較早地研究了其分別在無噪信道和有噪信道帶無噪反饋環境下實時傳輸的編碼器與解碼器設計問題，建立了最優編碼器與解碼器的一些基本結構特征。進一步，Teneketzis 和Mahajan[8-9]研究了有噪信道且無反饋信息的馬爾可夫信源實時傳輸最優設計問題，確立了有限時間平均失真測度最小化的最優實時編碼與解碼結構策略，同時提供了一種研究各種實時傳輸變體問題的統一方法。

對于線性動態系統的實時編碼與估計問題，Nair 和Evans[10]證明基于編碼觀測信息的最優狀態估計問題可以等價轉換為馬爾可夫信源的最優重構問題，然而其并沒有提供具體的實現方案。此外，Nayyar 和Teneketzis[11]研究了多端通信系統的最優實時編碼與解碼函數設計問題，利用編解碼兩端的共有信息獲得了時不變域的有限維充分統計量。Yüksel[12]針對部分觀測馬爾可夫信源的最優因果編碼問題，證明了點對點通信下的估計-量化分離原理，但在多端通信系統中一般不存在類似的分離原理。

當前大部分相關文獻研究了實時編碼與估計系統的編解碼理論最優結構問題，但多數都沒有提供具體的設計與實現方案。由于系統的實時性限制和量化的非線性操作，其全局最優實現方案一般難以找到。針對線性動態系統，Msechu 等[13]基于狀態預測分布的高斯近似，提出了一種分布式量化卡爾曼濾波算法，但其實現方案要求消息廣播通道的存在，且缺乏編解碼結構的最優性評估?；陬愃频母咚狗植冀疲琇eong 等[14]建立了多傳感器觀測下的線性量化濾波方案，且證明了算法在高率量化下的穩定性。近年，Stavrou 等[5]基于信息論導出了向量高斯-馬爾可夫信源零延遲編碼與估計的率失真性能上下界，且分析了點陣量化結合無記憶熵編碼實現方案的率失真性能。

正如文獻[12]所指出，對于動態系統的最優實時編碼與估計問題，當前關鍵點是實時編碼與估計的具體設計和實現方案，因此其也是本文的研究重點。本文主要針對線性離散動態系統，分析和簡化了最優實時量化與估計結構的等效形式，并基于向量Lloyd-Max 量化原理和量化信源預測分布的高斯近似，設計了遞推形式的動態Lloyd-Max 量化與估計實現算法，其中采用雙邊同步器利用發送端和接收端的共有信息實現了編解碼操作的同步。本文主要貢獻在于對最優實時量化與估計結構作出了一定優化，并提出了對應的實現方案與實現算法，仿真結果表明優于現有方案。最優實時量化與估計結構的簡化以及所提出實現方案的遞推運行特性，可使網絡化系統節省大量存儲空間并降低計算復雜度，這有利于保證系統的實時性和有效性，促進其在智能信息領域中的潛在應用。

1 問題描述

考慮圖1 所示的網絡化實時狀態估計系統，其中動態系統狀態由傳感器進行實時觀測，然后測量信息(集)通過一定方式的量化與編碼，并經由無噪聲無線數字信道發送至遠程接收端，然后解碼并估計出動態系統的實時狀態。

圖1 網絡化實時狀態估計系統

本文考慮如下所示的線性離散動態系統，其狀態方程和觀測方程描述為:

式中:系統狀態Xk∈?p，初始狀態X0～N(x0，M0)，系統矩陣A∈?p×p，驅動噪聲Uk∈?p為獨立零均值高斯隨機序列，其協方差矩陣為Q。傳感器觀測Yk∈?q，觀測矩陣H∈?q×p，觀測噪聲Vk∈?q為獨立零均值高斯序列，其協方差矩陣為C。另外，{Uk，Vk}相互獨立，且(A，H)可測。

本文要求網絡化系統中量化編碼與解碼估計過程具有嚴格的實時性，即整個處理過程在一個時間步長內完成。設網絡通道傳輸比特率為R位/bits，定義二進制量化輸出為Zk∈? ＝{0，1，…，2R-1}。不失一般性，對于發送端，在任意k≥1 時刻，其實時量化輸出Zk可用如下量化函數表示，即:

式中:Fk(·)為實時量化函數，Y1:k＝{Y1，Y2，…，Yk}，Z1:k＝{Z1，Z2，…，Zk}。對于接收端，在每個時刻k，在保證實時性的前提下，解碼/估計器可利用當前接收到的全部量化輸出作出對當前系統狀態Xk的最優估計，即:

式中:Sk(·)為實時估計函數。

我們采用均方誤差(MSE)作為估計性能準則，定義K個時刻的估計MSE 之和為:

在本文中，我們主要研究如何設計最優實時量化與估計器，以極小化均方誤差D(K)。注意到式(2)和式(3)所示的量化與估計函數要求發送端和接收端存儲過去的所有觀測數據或量化數據。對于資源受限的傳感網絡節點，當K較大或無限時，這將帶來嚴重的存儲負擔，使得系統實現變得非常困難或不可實現。

針對上述問題，在保證估計性能最優化以及算法容易實現的前提下，本文首先需要對原始的實時量化與估計方式進行等價轉換和優化，然后研究具體的實時量化與估計算法，并對其估計性能進行分析和評估。

2 量化與估計結構優化

本節討論在沒有任何估計性能損失的情況下，給出簡化的最優實時量化與估計結構。

對于系統模型，根據標準卡爾曼濾波理論[15]，定義:

其分別為基于未量化觀測Y1:k對狀態Xk的最優MSE 估計和對應的誤差協方差陣。

根據估計-量化分離原理[12]，本文優化問題可以等效轉換為對標準卡爾曼濾波器輸出的最優量化與重構問題，且代價函數式(4)可重寫為:

根據標準卡爾曼濾波理論[15]，定義:

其分別表示基于未量化觀測Y1:k-1對Xk的最優MSE 預測估計和對應的預測誤差協方差陣。同時，Mk滿足如下黎卡提方程:

式中:增益矩陣函數G(M)定義為:

Mk的收斂值M∞可通過求解如下漸近矩陣方程得到，即:

上述式(14)、式(15)和式(16)雖然給出了等效的最優實時量化與估計結構，但要獲得具體的實時量化與估計實現方案并不容易。由于量化與估計操作的高度非線性，精確評估條件概率測度p(｜Z1:k-1)非常困難。因此，常用方式是作一定的分布近似，例如近似為高斯分布。由于高斯分布統計特性僅由均值和協方差描述，因此更容易尋求具體的實時量化與估計算法，且量化與估計操作只需額外存儲有限個信息量，這使得整個網絡化估計系統更易實現。

3 動態Lloyd-Max 量化與估計

本節首先介紹標量Lloyd-Max 量化器的基本原理，并導出高斯信源的量化基本特性。然后，基于標量Lloyd-Max 量化特性并在p(｜Z1:k-1)的高斯分布近似下，給出一種向量狀態實時動態Lloyd-Max量化與估計實現方案。

3.1 標量Lloyd-Max 量化器

Lloyd-Max 量化器[16-17]是一種最小均方失真量化器。對于給定分布的連續隨機信源x～p(x)，量化比特率為r位，量化規則如圖2 所示，則量化輸出:

圖2 量化器結構圖

Lloyd-Max 量化器以分區質心為重構值，相鄰重構值的中點為閾值，即重構值:

若隨機信源x服從高斯分布，不失一般性，設x～N(0，1)，其概率密度函數用φ(x)表示，則易得:

且條件方差

3.2 動態Lloyd-Max 量化與估計實現方案

上節導出了標量高斯信源Lloyd-Max 量化器的一些基本特性，本節給出向量系統動態Lloyd-Max量化與估計的實時在線更新原理與遞推實現方案。

根據貝葉斯最優估計原理[15]，有:

且估計誤差協方差陣為:

量化誤差協方差陣為:

同理，根據估計-量化分離原理[12]，可知:

為實現實時量化、編碼與估計，系統運行時必須同步編碼器與解碼器。根據前述最優實時量化結構式(14)和式(15)，在任意時刻k，發送端和接收端可以基于過去的共有信息Z1:k-1得到編碼器與解碼器的同步規則。對于向量Lloyd-Max 量化器，我們需要獲得量化信源預測分布p(｜Z1:k-1)?；诖?，我們提出圖3 所示的動態Lloyd-Max 量化與估計實現方案。在任意時刻k，首先運行標準卡爾曼濾波器得到狀態估計，然后其經向量Lloyd-Max 量化與編碼并發送到接收端，以解碼并生成最終的最優狀態估計。注意其中在發送端和接收端分別設置了同步器(雙邊同步器)，兩者均基于過去的共有信息Z1:k-1獲得一致的預測分布p(｜Z1:k-1)，以設計一致的向量Lloyd-Max 量化、編碼與解碼規則。

圖3 動態Lloyd-Max 量化與估計實現方案

基于圖3 所給出的實現方案，下面推導具體的向量Lloyd-Max 量化與估計及同步算法。如前所述，由于量化與估計操作的高度非線性，同步器精確實時評估p(｜Z1:k-1)非常困難，計算量相當大，不便于系統實現。因此，根據高斯-馬爾可夫關系式(12)，我們可采用如下高斯分布近似，即:

相似的高斯近似參見文獻[13-14]，數值結果顯示該類近似具有較高的準確度和有效性，尤其對于高比特率量化，此時量化誤差協方差陣Φk-1趨近于零，預測分布p(｜Z1:k-1)主要由高斯驅動噪聲Δk決定。

前面我們給出了標量Lloyd-Max 量化器的一些基本特征，而對于向量源的量化，我們需要作一定變換。對任意時刻k，基于前面的高斯分布近似，在給定Z1:k-1下信源為多維相關高斯分布，因此根據最優向量量化原理[18]，可對其先作線性變換使其轉換為分量獨立高斯分布源，即:

分別采用p個獨立的標量Lloyd-Max 量化器，其中(n)和(n)分別表示向量和的第n個分量。需要注意的是，在給定的量化比特率R位下，在的各分量之間存在一個最優量化比特分配方案以使總的量化均方誤差最小。設rk(n)為分量(n)的量化比特率，則有。根據文獻[18]，最優量化比特率滿足如下條件，即:

接著尋找標準差最高的分量分配第二位，并按照式(34)進行修正，如此循環直至所有比特分配完畢。

由于系統中共存在p個獨立的標量Lloyd-Max量化器，因此整個量化輸出可表示為:

在任意時刻k給定Z1:k-1下，當接收端收到量化輸出Zk，首先可根據式(20)和式(21)對歸一化分量進行估計，對(n)的最優MSE 估計為:

且條件方差:

且條件方差:

且條件協方差矩陣:

式中:Cov(·)表示協方差陣。

最后，根據式(22)、式(28)和式(42)，對Xk的最優MSE 估計為":

且由量化誤差協方差陣和式，有:

又由式(25)即可得估計誤差協方差陣:

綜上，式(44)和式(46)給出了關于Xk的實時最優MSE 估計及誤差協方差陣的最終表示形式。

3.3 系統實現方案分析

對于本文提出的動態Lloyd-Max 量化與估計實現方案，整個系統運行過程由卡爾曼濾波、線性變換、比特分配、歸一化、量化/編碼、無線傳輸、解碼/估計組成。由于對預測分布p(｜Z1:k-1)的高斯近似即式(26)和(27)，其均值Υk和協方差陣Ωk分別僅由前一時刻的估計-1和量化誤差協方差陣Φk-1決定，因此整個動態量化與估計過程實際為一個遞推過程，當前時刻的量化與估計操作僅與前一時刻的量化與估計結果有關，且在當前時間步長內完成，實現零步長延遲。量化與估計過程的遞推運行也使整個網絡化系統可以節省大量存儲空間并減輕計算負擔，確保系統的實時性和有效性。

4 仿真結果與分析

考慮如下的二維目標實時跟蹤系統，其狀態和觀測方程描述為:

式中:狀態向量Xk＝(sk，)T，sk和分別為目標位置和速度，T為采樣周期，Uk為驅動噪聲，Yk為傳感器的觀測量，Vk為觀測噪聲。

本文采用MATLAB 軟件進行仿真，假定系統初始狀態服從X0～N((0，5)T，0.2I2)，采樣周期T＝0.1，驅動噪聲Uk～N(0，2)，觀測噪聲Vk～N(0，1)。為簡化，本文提出的動態Lloyd-Max 量化與估計算法用DLMQE 表示。仿真中全部MSE 結果通過105次獨立模擬運行平均得到。

圖4 給出了本文提出的DLMQE 算法在兩種量化比特率下的理論和實際MSE 曲線以及其下界即標準卡爾曼濾波器(KF)的MSE。圖4 中DLMQE和KF 的理論MSE 分別通過計算tr(＾Mk)的理論平均值和tr(Mk｜k)得到，而實際MSE 通過仿真過程中狀態估計實際誤差計算得到。

圖4 DLMQE 理論和實際MSE 及其下界

從圖4 可以看出，對于理論和實際MSE 曲線，其均隨時間增加趨近于穩定，且量化比特率越大，DLMQE 算法估計性能亦越好。事實上，若量化比特率趨近于無窮大，則DLMQE 算法中量化誤差將趨近于零，此時DLMQE 將完全等價于KF。

圖5 給出了DLMQE 算法在不同量化比特率下的理論和實際MSE 曲線對比。從圖5 可以看出，理論MSE 曲線和實際MSE 曲線非常接近，即使對于量化比特率僅為1 位的情形，兩者之間也很好匹配。這反映了本文基于量化信源預測分布的高斯近似所提出的DLMQE 算法的有效性和準確性。

圖5 DLMQE 理論和實際MSE 對比

進一步，為驗證本文所提出算法的估計性能，定義如下漸近平均MSE 失真，即

對于無量化的標準卡爾曼濾波器，則有D∞＝M∞｜∞。

表1 給出了不同估計方案下的D∞數值計算結果。注意為進行性能對比，我們還計算了現有的量化卡爾曼濾波器(QKF)[13-14]的D∞值，其中量化的是觀測新息而不是狀態估計量，缺乏最優性。標準卡爾曼濾波器(KF)的D∞值也一并列出，其與量化比特率無關，作為所有量化估計器的D∞下界。

表1 漸近平均MSE 失真D∞比較

從表1 可以看出，隨著量化比特率增加，DLMQE 和QKF 的D∞值均減小，即估計性能越好。在相同的量化比特率下，本文提出的DLMQE 的D∞值均小于現有的QKF，這說明了DLMQE 算法估計性能的優越性。此外，與圖5 中的理論和實際MSE曲線對比結果類似，從表1 中的數值結果亦可以看出D∞的理論值和實際值非常接近，即使對于低比特率區域。這進一步證實了對量化信源預測分布進行高斯近似的有效性和準確性。

5 結論

本文研究了網絡化線性離散動態系統的最優實時量化與估計問題。根據估計-量化分離原理，原優化問題可以等效轉換為一階高斯-馬爾可夫信源的最優量化與重構問題，進而分析了最優實時量化與估計結構的等效簡化形式。然后，基于Lloyd-Max量化原理和量化信源預測分布的高斯近似，設計了遞推形式的向量動態Lloyd-Max 量化與估計實現方案，其中采用雙邊同步器利用發送端和接收端的共有信息實現了編解碼操作的同步。最優實時量化與估計結構的簡化以及方案實現過程的遞推運行，使系統可以節省大量存儲空間并降低計算復雜度，有利于保證系統的實時性和有效性。MATLAB 仿真結果表明，本文提出的動態Lloyd-Max 量化與估計算法(DLMQE)估計性能優于現有的量化卡爾曼濾波器(QKF)，且即使對于較低的量化比特率區域，DLMQE 算法依然有效。