基于RDO和SSIM的AVS幀內模式選擇算法

楊俊斌，武淑紅

(太原理工大學計算機科學與技術學院，山西太原030024)

AVS是我國具備自主知識產權的第二代信源編碼標準，又稱為數字音視頻編解碼技術。它以H.264標準為參考，在編碼效率與H.264基本相同的基礎上，明顯降低了編碼復雜度［1］。在AVS的幀內模式選擇中，通常采用SAD或RDO來計算失真代價，同時利用PSNR衡量視頻圖像編碼質量。利用RDO和PSNR對原始圖像和預測圖像進行純數學計算，這種方法易于理解，但缺點是沒有考慮人眼視覺系統的主觀性。SSIM作為一種新的圖像質量評價方法，計算簡單，能更好地反應人眼視覺感知［2-3］。本文提出一種基于RDO和SSIM的AVS幀內模式選擇算法，將RDO和SSIM組合共同作為代價函數用于AVS幀內模式選擇。

1 原AVS幀內模式選擇算法

1.1 AVS的幀內亮度預測模式

在AVS幀內編碼器中，每幀圖像被均勻劃分為若干個非重疊的16×16的宏塊(MB)。AVS幀內預測與H.264/AVC的幀內預測類似，對亮度、色度分量分別進行預測;區別在于AVS幀內預測以8×8宏塊為基本單位進行編碼，而且在AVS幀內亮度編碼過程中共有5種預測模式［4］。AVS幀內亮度的5種預測模式如表1所示。

表1 AVS幀內亮度的5種預測模式

1.2 原AVS幀內模式選擇算法

率失真優化技術RDO是AVS引入的一種非標準技術。RDO的值是經過模式預測、運動估計與補償、變換、量化、反量化、反變換、熵編碼等步驟以后得到的，故可以大幅度地提高壓縮效率和編碼性能。在幀內模式選擇中，先用RDO代價函數算出每種可用預測模式的代價值(rd_cost)，從得到的rd_cost中選出最小的一個作為當前編碼塊的最優預測模式(rd_cost值相同時選預測模式編號較小的作為最優預測模式)。RDO計算如下

式中:SSD(誤差平方和)為當前塊與重建塊的差值;λ是拉格朗日因子;rate為當前預測模式下的殘差塊編碼比特數，由熵編碼給出。

2 結構相似度(SSIM)

結構相似度SSIM是近些年來被提出的一種新的圖像質量評價標準，包括亮度、對比度和結構信息3個方面的計算，故SSIM較符合人的視覺主觀評價標準［5］。SSIM定義如下

式中:l(x，y)是亮度比較函數，函數中用到原圖像和評估圖像的均值μx和μy;c(x，y)是對比度比較函數，函數中用到原圖像和評估圖像的方差σx和σy;s(x，y)是結構信息比較函數，函數中用到原圖像和評估圖像的協方差σxy。這3個函數分別定義為

式中:參數C1，C2和C3是為避免分母為0而加上的小常數，分別定義為C1=(K1L)2，C2=(K2L)2，C3=C2/2;L是圖像中像素灰度的變化范圍(如灰度值為8 bit，L取255);K1和K2是很小的數(本實驗取K1=0.01，K2=0.03)。從以上計算公式可知SSIM值域為［0，1］，且SSIM越大，評估圖像和原始圖像越相似［6］。

3 基于RDO和SSIM的AVS幀內模式選擇算法

率失真方法對每一種預測模式都要進行預測、變換、量化和變長編碼，并進行反量化和反變換，再比較各預測模式的編碼碼率和重建圖像質量，代價最小的一種模式被選擇作為最優的預測模式［7］。RDO方法可以得到更高的編碼性能和更好的編碼效率，但是它并沒有考慮到人眼視覺系統的主觀性。文獻［8］提到誤差平方和SSD能夠很好地衡量平坦區域的圖像質量，而SSIM能更好地評價圖像的邊緣紋理區域［8］。因此將SSIM和RDO結合在一起作為模式選擇的代價函數，同時兼顧數學方法科學性和人視覺系統的主觀性。改進的代價函數為

式中:rd_cost是原RDO算法求出來的率失真代價值，見式(1);SSIM為當前塊與重建塊的結構相似度值。因為RDO值與SSIM值不在一個數量級上且評價方向不一致，故增加一個因子k來進行平衡，用1-SSIM來使二者評價方向相同。經過大量的實驗數據發現k值在不同QP下有所不同，其取值如表2所示。

表2 不同QP下k的取值

新的幀內預測模式選擇流程圖如圖1所示。

圖1 基于RDO和SSIM的幀內預測模式選擇流程

4 實驗結果分析

實驗測試了3個具有代表性的YUV(4∶2∶0)序列(news_cif，foreman_cif和flower_cif)，量化參數QP，分別取28，36和42。實驗結果如表3所示，其中Δbr是用改進算法與原RDO算法在不同QP下碼率變化的百分比;ΔPSNR是平均亮度的信噪比變化量，單位為dB;ΔMSSIM是整個視頻序列的平均結構相似度值變化量。數值上帶“-”號的表示減少量，不帶“-”號的表示增加量。

表3 不同序列、不同QP下的測試結果

從實驗數據可以明顯的得到:在不同QP、不同序列條件下，采用本文的AVS幀內模式選擇算法的亮度信噪比(PSNR)、平均結構相似度(MSSIM)都有不同程度的提高(得了更好的編碼質量);同時碼率都有不同程度的降低(更高的視頻序列壓縮比)。也就是說在算法復雜度增加不多的情況下，SSIM算法的引入使AVS視頻編碼器的性能有了一定的提高。為了觀看效果選取6幀圖像(見圖2～圖7)，其中圖2和圖5是原始YUV視頻序列的一幀，圖3和圖6是使用原AVS幀內模式選擇算法的編解碼視頻序列的一幀，圖4和圖7是使用新AVS幀內模式選擇算法的編解碼視頻序列的一幀。foreman_cif序列(圖3和圖4)編碼時取QP=28，flower_cif序列(圖6和圖7)編碼時取QP=42。

圖7 使用新算法(第100幀)

由圖可知:圖4比圖3更接近圖2，圖7比圖6更接近圖5。也就是說使用了新的模式選擇算法得到的重建圖像質量更好。

5 小結

本文在原來率失真優化算法(RDO)的基礎上引入了結構相似度算法(SSIM)，提出了一種基于RDO和SSIM的AVS幀內模式選擇優化算法。新的算法在保留RDO算法的優異性能的同時兼顧了人的主觀感受。大量實驗數據表明，新的算法取得了更好的編碼質量和更高的視頻序列壓縮比。

［1］邵娟，張衛寧，魏磊，等.AVS中幀內預測模式的快速選擇策略［J］.計算機工程與應用，2009，45(25):163-165.

［2］楊春玲，肖冬琴.基于SSE和SSIM的H.264幀內預測模式選擇改進算法［J］.電子與信息學報，2011，33(2):289-294.

［3］WANG Z，BOVIK A C，SHEIKH H R，et al.Image quality assessment:from error visibility to structural similarity［J］.IEEE Trans.Image Processing，2004，13(4):600-612.

［4］游娜，彭玉華，劉微，等.基于AVS的幀內預測模式快速選擇算法［J］.計算機工程與應用，2009，45(14):185-187.

［5］崔子冠，朱秀昌.基于結構相似的H.264主觀失真性能改進機制［J］.電子與信息學報，2012，34(2):433-439.

［6］陳云善，高慧斌，蘇宛新，等.結構相似度在AVS幀間模式選擇中的應用［J］.光電子·激光，2011，22(3):435-439.

［7］馬宏興，張伶.H.264/AVC率失真優化技術綜述［J］.電視技術，2010，34(6):19-22.

［8］YANG C L，LEUNG R K，PO L M，et al.An SSIM-optimal H.264/AVC inter frame encoder［C］//Proc.IEEE International Conference on Intelligent Computing and Intelligent Systems.Shanghai，China:IEEE Press，2009:291-295.