六角變換方法在視頻編碼中的應用

程 武，趙海武，2，李亞珂，王國中，2，騰國偉，2

(1.上海大學通信與信息工程學院，上海 200072;2.上海國茂數字技術有限公司，上海 201204)

責任編輯:魏雨博

基于塊的變換編碼已經在圖像和視頻編碼領域有著廣泛的應用。在眾多的正交變換編碼中，離散余弦變換(Discrete Cosine Transform，DCT)被視為是最接近正交變換中的最佳變換——K-L變換(Karhunen-Loeve Transform，KLT)。離散余弦變換(DCT)是N.Ahmed等人在1974年提出的正交變換方法［1］。DCT變換可以在變換域中極大地消除圖像元素之間的相關性。由于KL變換計算復雜，而且很難滿足實時處理的要求，因此，DCT常被認為是對視頻和圖像信號進行變換的最佳方法，被廣泛應用于各種視頻圖像編碼標準中，而且已被證明是在實踐中是一個更好的選擇［2］。

然而，DCT的變換矩陣是用浮點數表示，浮點運算量較大，在通用芯片上乘法計算將會消耗更多的系統資源，并需要更多的計算時間［3］。在有限字長的條件下，浮點運算的精度不是很高，而且會產生截斷誤差，這就使得在具體實現時會導致編解碼的不匹配［4-5］。因此，在實際運用中大多使用整數變換來代替DCT變換，其核心是用整數變換矩陣代替DCT的浮點數變換矩陣，這樣變換過程完全是整數運算，不存在精度誤差，保證了編碼的可逆性［6］。因此，下一代音視頻壓縮標準 H.264/AVC［7］和中國國家音視頻編碼標準AVS［8］均使用整數DCT變換。

在本文中，筆者提出六角變換方法及其快速整數實現方法，其不僅具有相比浮點DCT實現復雜度低、解碼端無誤差累積的優點，而且能提供相比其他整數近似變換更高的編碼性能。

1 離散余弦變換

在離散余弦變換中，二維8×8變換可以描述為Y=TXTT，其中X是幀內或幀間預測后的殘差矩陣，Y是變換之后的矩陣，變換矩陣T可以用公式(1)來描述［4］。

由于DCT變換的實現復雜度高，不同的解碼器采用近似的整數實現則可能帶來誤配問題。而在視頻編碼中，由于時域預測的使用，誤差的累積會降低視頻的質量［4］。于是在新一代的視頻編碼標準中均廣泛采用了近似于DCT的整數變換以降低實現復雜度并使解碼器操作具有一致性。

2 六角變換方法及其整數實現過程

本文提出了一種六角變換方法，其變換方法可以描述為Y=PXPT，其中，變換矩陣P可以按如下方法得到:設 α1，α2，α3，α4，α5，α6 是所選取的 6 個角度，令 C=cosα1，D=sin α1;E=cosα2，F=sin α2;G=cosα3，H=sin α3;I=cosα4，J=sin α4;K=cosα5，L=sin α5;M=cosα6，N=sin α6。

變換矩陣P可以用公式(3)來描述

在本文中，選 取 α1 = arccos(0.6367)，α2 =arccos(0.6836)，α3=arccos(0.6914)，α4=arccos(0.4141)，α5=arccos(0.2148)，α6=arccos(0.7930)。

代入上述計算公式可以得到如下變換矩陣［9］

其中，a00=0.3113，a01=0.3492，a02=0.3729，a03=0.3770;a04=0.4397，a05=0.4441，a06=0.3121，a07=0.1098;a08=0.4963，a09=0.2137，a10=0.2002，a11=0.4098;a12=0.4324，a13=0.0220，a14=0.4731，a15=0.2979;a16=0.3253，a17=0.3342，a18=0.3568，a19=0.3939;a20=0.3322，a21=0.4823，a22=0.0819，a23=0.3877;a24=0.2258，a25=0.4698，a26=0.4400，a27=0.1864;a28=0.0967，a29=0.2640，a30=0.4148，a31=0.4989。

由上述矩陣可知:與離散余弦變換和既有的整數變換相比，本文提出的六角變換方法的一大特點在于變換矩陣第一行的系數是不同的，中間值比邊緣值較大，增大了數據塊中心附近數據的權重，可以有效地提高編碼的效率。

同時，矩陣T具有對稱性質，利用其對稱性可以將矩陣T分解成一系列的蝶形和旋轉角度［10］以簡化計算，其蝶形變換快速算法如圖1所示［11］。

圖1 蝶形變換快速算法

在具體實現中，由于浮點算法具有較大的開銷，通常轉化為整數實現。針對浮點系數0.6367和0.7711，選取一個整數，使得浮點數轉換為整數，其計算結果如式(5)所示

式中:ɑ≈2n×0.6367，b≈2n×0.7711。

當選擇的整數越大，就可以得到更高的精確度。在具體實施中，數據的大小是由硬件的性能決定的［12］。在本文中，選擇n=8，則ɑ=163，b=197，這樣可以得到

本文的其他系數可以用上述同樣的方法整數化得到，最終的快速變換整數實現方法如圖2所示［11］。

圖2 正向整數變換蝶形圖

在量化方面，采用了如下的量化方法［13］

C是變換后的系數，Cq是量化后的系數，數組Q_TAB的值如表1所示。

表1 數組Q_TAB的取值

3 實驗結果及分析

將上述六角變換方法嵌入到中國國家標準AVS加強檔MM1.1v2版本中用以測試本文提出方法的編碼效率，分別對不同分辨率的視頻序列進行了測試，在測試中，使用了“IBBPBBP…”編碼結構，選擇適當的QP，使得最后輸出碼流在常用的比特率范圍內。表2～表4是實驗的測試條件和實驗數據。

表2 實驗測試條件

表3 低分辨力視頻序列測試數據

其中，在表3的低分辨力視頻測試序列中，運動搜索的最大范圍設置在±32，而在高清視頻中，往往運動范圍比較大，需要對搜索范圍進行擴大，所以在表4高清視頻測試序列中，將運動搜索的最大范圍設置在±64已進行更精確的運動搜索。從表中可以看出，與AVS現有的整數變換相比，本文提出的方法在低分辨力視頻測試序列中亮度可提高1.8%的編碼效率，色度可以分別提高3.9%和2.1%的編碼效率;在高清序列中，亮度可以提高1.9%的編碼效率，色度分別提高了4.2%和4.8%的編碼效率。

表4 高清視頻序列測試數據

圖3繪出了測試序列的RD曲線圖［14］，從圖中可以直觀地看出本文提出的方法相比AVS現有整數變換在編碼效率上有了一定的提升。

圖3 測試序列RD曲線圖

4 結論

在本文中，筆者提出一種六角變換方法及其快速整數實現方法，其不僅具有相比浮點DCT實現復雜度低、解

碼端無誤差累積的優點，而且能提供相比其他各種整數近似變換更高的編碼效率。

［1］AHMED N，NATARAJAN T，RAO K R.Discrete cosine transform［J］.IEEE Trans.Computer，1974，23(1):90-93.

［2］梁岑.基于DCT的圖像壓縮技術研究與仿真實現［D］.鄭州:河南工業大學，2010.

［3］戴聲奎，劉建國，汪國有，等.一種無乘法的整數DCT快速實現方法［J］.微電子學與計算機，2008，25(5):11-13.

［4］WU Junqin，LI Yanli.A new type of integer DCT transform radix and its rapid algorithm［C］//Proc.International Conference on Electric Information and Control Engineering(ICEICE)，2011.［S.l.］:IEEE Press，2011:601-604.

［5］周恒.H.264的研究與軟件實現［D］.南京:南京郵電大學，2007.

［6］張新安，宮彥軍，陳愛武，等.一種AVS-M運動搜索快速算法［J］.計算機工程，2011，37(9):260-261.

［7］ITU-T H.264|ISO/IEC 14496-10 Information technology-Generic Coding of Moving Pictures and Associated Audio Information:Advanced Video Coding［S］.2003.

［8］GB/T 20090.2—2006，信息技術-先進音視頻編碼 第2部分:視頻［S］.2006.

［9］CHENG Wu，ZHAO Haiwu，LIGuoping，etal.A Novel8×8 Transform Method Applied in Video Coding［C］//Proc.2011 IET International Communication Conference on Wireless Mobile＆Computing(IET CCWMC2011).Shanghai:IET Press，2011:14-16.

［10］LIANG Jie TRAN T D.Fast Multiplierless Approximation of the DCT with the Lifting Scheme［J］.IEEE Trans.Signal Processing，2001，4(12):3032-3044.

［11］程武，殷汶杰，趙海武，等.AVS視頻提案A AVS_M2881:一種新的視頻編碼變換與量化方法［EB/OL］.［2012-03-10］.http://www.avs.org.cn/FileList.asp?meetingid=64＆filetype=proposal.

［12］XIN Jun，VETRO A，SUN Huifang.Converting DCT coefficients to H.264/AVC transform coefficients［C］//IEEE Pacific-Rim Conference on Multimedia(PCM)，2004.［S.l.］:IEEE Press，2004:939.

［13］程武，趙海武，滕國偉，等.AVS視頻提案B-1 AVS_M2928:對提案AVS_M2881的進一步分析與測試［EB/OL］.［2012-03-10］.http://www.avs.org.cn/FileList.asp?meetingid=65＆filetype=proposal.

［14］BJONTEGAARD G.Calculation of average PSNR differences between RD-Curves［R］.ITU-T SG16 Q.6/SG16 DOCUMENT VCEG-M33，Austin，TX，2001.