基于小波變換的新型幀內模式預測快速選擇算法

羅國成，余彪，劉進，王家友

(南京航空航天大學 電子信息工程學院，江蘇 南京210016)

H.264/AVC視頻編碼系統的復雜度主要集中在幀內預測和幀間預測兩部分，幀內預測編碼的復雜度主要集中在最佳預測模式選擇部分。隨著信息技術的發展，雖然幀內預測編碼技術取得了長足的進步，但與幀間預測編碼技術的研究相比，發展相對較慢，仍有很大的發展空間。對整個H.264/AVC視頻編碼系統而言，降低幀內預測編碼的復雜度有助于大幅降低H.264/AVC編碼器的復雜度。因此，研究幀內預測編碼快速算法具有重要的現實意義和實用價值[1-2]。

H.264/AVC視頻編碼標準中，幀內預測模式執行以基于方向為主的預測模式，尤其是在4×4亮度塊的9種預測模式中，有8種是方向預測。在編碼過程中，如果選擇了某一方向為主要的預測模式，那么就表示該編碼塊的紋理方向具有與所選預測模式相同的方向。基于這樣的思想，Pan等[3-4]提出了一種基于邊緣方向直方圖的幀內模式預測快速選擇算法，該算法首先用Sobel算子把每個像素點的邊緣方向矢量求出來，然后利用得到的邊緣方向矢量求出每一個宏塊的邊緣方向直方圖，最后依據邊緣方向直方圖的分布選擇出可能性最大的幾個預測模式作為候選模式,從而降低幀內預測的計算復雜度。在Pan方案中，不管塊的方向性是否都明顯采用了直流DC(Direct Current)模式，其沒有最大限度地降低幀內預測的計算復雜度，存在改進的余地。參考文獻[5]和參考文獻[6]都對Pan的基于邊緣方向直方圖的快速算法進行了改進，但壓縮比提高的同時，運算量不免增大。

本文提出了一種基于小波變換的新型幀內模式預測快速選擇算法，利用小波變換后的低頻子圖結合改進后的Pan算法作幀內模式預測選擇，由此預判斷宏塊中每個4×4子塊可能的預測模式。實驗結果表明,與未使用快速算法及Pan算法相比，該算法在保證了視頻編碼質量的同時，H.264/AVC幀內編碼速度得到顯著提高。

1 H.264/AVC的幀內預測模式

在H.264/AVC標準中，幀內預測分為亮度分量和色度分量幀內預測兩類。其中亮度分量又分成兩種，一種是Intra 4×4亮度塊的預測，共包括9種預測模式，其中包括一種DC模式和8種具有方向性的預測模式；還包含一種預測，共有4種預測模式，分別稱為垂直預測模式、水平預測模式、均值預測模式和平面預測模式，Intra 16×16較適用于編碼圖像中的平滑區域。色度分量的預測模式是Intra 8×8，有與Intra 16×16基本相同的4種預測模式[7]。而用全搜索算法找到一個16×16宏塊的最優幀內預測模式需要進行(9×16+4)×4=592次計算,計算量非常大。

2 基于小波變換的Pan算法改進算法

由于幀內預測的各個模式具有很強的方向性，并且最佳模式和次最佳模式往往具有類似的預測方向，即最佳模式和次最佳模式在預測方向圖上通常是相鄰的，因此,利用邊緣方向矢量直方圖的方法來進行幀內預測算法的改進，決定對當前塊模式的選擇。在直方圖中，令最大值和次最大值分別代表預測時的最佳模式和次最佳模式。當二者相差不大且相鄰時，說明圖像的紋理對應的是最大值及其相鄰值對應的預測模式；當二者相差不大但不相鄰時，說明圖像塊的紋理混亂，可以直接采用DC模式來預測;當二者相差較大時，說明當前塊的主要紋理方向一定是最大值對應的方向，這時可以直接采用最大值的預測模式。為衡量最大值與次最大值的差值，本文引入一個閾值M。當最大值大于M次最大值時，二者相差足夠大。在得到最佳模式、次最佳模式和最可能模式以后，通過比較最大值與次最大值就能選擇出最終的預測模式。

改進后的幀內4×4塊預測算法流程圖如圖1所示。在完成4×4亮度塊模式選擇后，繼續對16×16塊計算每個點點額邊緣矢量強度和方向，然后建立邊緣方向矢量直方圖并得到最大值模式，預測最大值模式與DC模式。色度塊預測與之類似。算法中設定閾值M=3。

圖1 改進的幀內4×4亮度塊模式選擇算法流程圖

3 實驗結果及分析

在H.264/AVC標準模型JM10.1中進行實驗仿真，測試序列為兩個紋理復雜度不同的CIF標準序列Foreman序列和Football序列。并且在不同量化參數QP下將本文方法與全搜索方法及Pan方法進行比較。其中Bitrate代表編碼位率，PSNR代表亮度分量Y的峰值信噪比。實驗時編碼碼流為30幀/s,實驗結果如表1和表2所示。

表1 Foreman序列實驗結果

表2 Football序列實驗結果

由表1和表2可以看出，本文算法與全搜索及Pan方法相比，在提高了模式選擇算法速度、節省編碼時間的同時，基本保持了PSNR，且比特率增長不大。這是由于本文首先用小波變換將圖像分解，只在低頻子帶進行模式選擇，降低了搜索范圍，同時在搜索時設置了一個閾值，將不符合要求的模式排除,大大降低了運算量。

圖2和圖3分別為QP=25時Foreman第95幀和Football第34幀編碼后的效果圖。從主觀上看，本文方法能夠保證圖像質量。

本文主要研究了基于小波變換的新型H.264/AVC的幀內模式預測快速選擇算法。本文改進的方向是縮小預測模式的搜索范圍，根據當前塊與相鄰像素的特征排除可能性小的預測模式，減少代價函數的計算量，從而達到優化的目的。本文在邊緣矢量方向直方圖算法的基礎作了改進，通過比較最佳模式、次最佳模式與最可能模式來進行幀內預測的模式選擇。與Pan算法相比，本文算法在保證視頻圖像PSNR的同時，能夠大幅度降低模式選擇的個數，提高編碼效率。但該算法在邊緣矢量的計算上復雜度較大，在后面的工作中，可以更多地使用一些先進知識來進一步降低模式選擇的計算復雜度，提高編碼效率。

圖2 在QP=25時對Foreman第95幀編碼的效果圖

圖3 在QP=25時對Football第34幀編碼的效果圖

[1]ITU-T Rec H.264/ISO/IEC 14496-10 JVT-G050∶Final draft international standard of joint video specification[S].JVT,2005.

[2]WIEGAND T,SULLIVAN G,BJNTEGAARD G,et al.Overview of the H.264/AVC video coding standard[J].IEEE Transactions on Circuits and Systems for Video Technology,2003,13(7)∶560-576.

[3]PAN F,LIN X,RAHARDJA S,et al.A directional field based fast intra mode decision algorithm for H.264 video coding[C].2004 IEEE International Conference on Multimedia and Expo,ICME′04,Singapore,2004∶1147-1150.

[4]ELYOUSFI A,TAMTAOUI A,BOUYAKHF EL H.Fast mode decision algorithm for intra prediction in H.264/AVC video coding[J].International Journal of Computer Science and Network Security,2007,7(1)∶356-364.

[5]李世平,蔣剛毅,郁梅.快速幀內預測模式選擇新方法[J].電子學報,2006,34(1)∶141-146.

[6]邵娟,張衛寧,魏磊,等.AVS中幀內預測模式的快速選擇策略[J].計算機工程與應用,2009,45(25)∶163-65.

[7]WIEGANG T,SULIVAN G.BJONTEGAARD G,et al.Overview of the H.264/AVC video coding standard[J].IEEE Transactions on Circuits System Video Technology,2003,13(7)∶560-576.