基于深度學習的視頻編碼單元選擇算法研究

溫潔 楊帆 潘旭冉 王曉宇 范海瑞

摘要 新一代視頻編碼標準VP9與上一代標準VP8相比性能提升了近1倍，且它的開源特性使得其在視頻編碼領域取得了廣泛應用，但是編碼性能提高的同時帶來了編碼復雜度的增加，從而對一些實時的視頻應用產生很大影響。因此本文通過對編碼單元模式劃分復雜度過高問題的影響因素進行分析，提出基于深度學習的視頻編碼單元選擇算法，該算法首先選擇對編碼復雜度很高的塊劃分進行研究，主要針對超級塊劃分模式的選擇進行了優化。應用深度學習中的全連接神經網絡模型作為劃分模型，輸入特征向量為36個，輸出是具體的塊劃分模式，訓練方式選擇離線訓練。其次，為了進一步的簡化模型結構同時提升分類器的性能，將對復雜度很高的四叉樹遞歸劃分方式進行優化，并根據具體的量化參數（QP）值和塊大小得到不同的結構，以便得到1個4層二分類模型。最后，通過對不同復雜視頻圖像應用簡化版的四叉樹進行測試，測試結果與原四叉樹遞歸算法相比編碼復雜度降低很多，編碼復雜度平均降低比例高達77.84%，編碼效率得到了很大的提升。

關 鍵 詞 視頻圖像編碼;VP9;編碼單元劃分;深度學習;SAD值

中圖分類號 TN919.81? ? ?文獻標志碼 A

Abstract The performance of the new generation video coding standard VP9 is nearly double that of the previous generation VP8， and its open source characteristics make it widely used in the field of video coding. However， the improvement of coding performance brings about an increase in coding complexity， which has a great impact on some real-time video applications. Therefore， this paper proposes a video coding unit selection algorithm based on deep learning after analyzing the influencing factors of the problem of excessively high coding unit mode partitioning. The algorithm selects the block partition with high coding complexity， mainly for super block partitioning. The choice of mode is optimized. The fully connected neural network model in deep learning is applied as the partition model， and the input feature vector is 36. The output is a specific block partition mode， and the training mode selects offline training. Secondly， in order to further simplify the model structure and improve the performance of the classifier， the recursive partitioning method of the highly complex quadtree is optimized， and different structures are obtained according to the specific QP value and block size， so as to obtain a four-layer-two-classification model. Finally， by applying a simplified version of the quadtree to different complex video images， the test results are much simpler than the original quadtree recursive algorithm. The average coding complexity is reduced by 77.84%， and the coding efficiency has been greatly improved.

Key words video image coding; VP9; coding unit partition; deep learning; SAD value

0 引言

VP9[1-3]是Google針對上一代視頻編碼標準VP8[4]進行優化新推出的新一代編碼標準，主要涉及的改進技術包括：引入超大塊概念可對更大的編碼區域進行處理;對一些參考幀采用了動態的方式進行選擇;對熵編碼也進行了相關的優化等。這些新技術確實帶來了壓縮效率的提高，但也引入了其他的問題，比如超級塊技術的引入，可以在同等質量的視頻下，降低近一半的碼率，但是會出現編碼復雜度的大幅度提高的現象，這種編碼性能的提高以編碼復雜度為代價的方式，使其在實時的編碼應用場景下效果不太理想。針對上述問題已有大量的研究文獻出現，文獻[5]提出了編碼單元模式判別與預測單元（PU）模式判別的優化算法，利用了率失真（RD）代價相關度、空域相近塊與父塊之間的預測模式相關度來獲取當前塊的劃分方式。文獻[6]提出了利用父塊和子塊之間RD代價的差異性來進行判斷是否進行四叉樹遞歸劃分的終止動作。文獻[7]利用了SVM作為分類器進行模式劃分的預測，對RD代價性能的影響進行了考量。文獻[8]利用了聚類算法進行幀間模式預測，輸入主要涉及時空域、相關的RD代價值。上述算法優化基本上采用的方式是機器學習加上RD代價及時空域相關性的方式，這類優化方式可以對簡單的視頻內容進行很高效的處理，誤判率也很低，但是存在的問題主要是，對于視頻內容多變且編碼復雜結構多的情況，編碼效率下降很嚴重，誤判率也增加很多。

綜上，本文采用的優化方式是通過對編碼單元模式劃分復雜度過高問題的影響因素進行分析，選擇編碼復雜度很高的塊劃分進行研究，主要針對超級塊劃分模式的選擇進行了優化。本文應用深度學習中的全連接神經網絡模型作為劃分模型，輸入特征向量為36個，輸出是具體的塊劃分模式，訓練方式選擇離線訓練。為了進一步的簡化模型結構同時提升分類器的性能，本文將對復雜度很高的四叉樹遞歸劃分方式進行優化，并根據具體的量化參數（QP）值和塊大小來得到不同的結構，最終可以得到1個三層二分類模型。最終通過對不同復雜視頻圖像應用簡化版的四叉樹進行測試，測試結果與原四叉樹遞歸算法相比編碼復雜度降低很多，編碼效率得到了很大的提升。

1 編碼塊特征向量提取

1.1 編碼單元模式劃分影響因素分析

在分類任務中，特征工程是影響分類結果非常重要的因素。所以首先需要對編碼單元模式劃分影響因素進行分析。VP9是針對率失真優化（RDO）[9-10]理論進行編碼塊選擇優化的，塊的大小有很多，主要針對大于8×8的塊大小，對于每個塊應用劃分及不劃分兩種模式的率失真代價來選擇每個編碼塊的劃分模式。具體的率失真優化（{Para}opt）求取公式如式（1）所示。

式中：J為RD代價;D可以代表原始與重構之間的不同之處，稱為編碼失真;R為編碼比特率;λ為拉格朗日因子[11-13]，與QP成正相關的關系。

由式（1）可以看出率失真代價的計算是很復雜的過程，但是根據不同的視頻內容可以找到基于RDO塊劃分的規律性。一般規律為：對于色彩單一、條紋簡單的圖像塊主要采用大塊方式劃分，而對于色彩復雜、條紋豐富的圖像塊則主要采用小塊的劃分方式;同理對于含有運動信息的圖像塊主要采用小塊劃分方式，純背景或不含運動信息的圖像塊則主要采用大塊劃分的方式等。

除了上述視頻本身的特性外，如圖1所示，采用不同量化參數（QP）進行編碼所得劃分深度分布圖。由圖1可得，QP與最終的編碼塊劃分成正相關的關系。

綜上所述，編碼參數及視頻內容特性與編碼塊劃分模式有很大的相關度，這里編碼參數主要考慮影響因素較大的QP，視頻內容特性主要涉及條紋、色彩復雜度及時空域信息等。因此，編碼參數及視頻內容特性是在后續特征工程中要充分考慮的兩個影響因素。

1.2 輸入特征向量的選擇和提取

本文主要的目的就是對編碼塊遞歸劃分的過程進行優化，優化的同時還要保證原編碼的性能。對于一個M[×]N的圖像區域塊，殘差信號絕對值之和（SAD）的公式如式（2）所示，其中SAD主要是對運動圖像進行估計的，用來衡量殘差時域的差異性。

一般紋理簡單或運動較小的圖像序列精確匹配更容易，對應的SAD值會偏小一些;相反的，則精確匹配變得復雜一些，相應的SAD值會偏大一些。因此，本文采用前一幀在9個不同點的SAD值及當前待編碼幀中的4個子塊作為特征向量。如圖2所示，選取的9個搜索點及相應子塊的位置分布圖。其中，9個點是等間隔分布的，每兩個點相距2個像素的距離，圖中最中心的點表示當前子塊在上一幀中的對應位置。

從圖2可以看出中心位置點及對應該點的9個方向是用9個搜索點來表示的，所以1個圖像區塊在9個搜索點的SAD在某種程度上可以代表區塊的運動趨勢。然后選取1個區塊中的4個子塊來分析當前區塊的運動趨勢，如圖3所示，a）為不含局部運動的區塊對應其中的4個子塊的SAD變化曲線圖，b）為含局部運動趨勢的區塊對應其中的4個子塊的SAD變化曲線圖。

由圖3可以看出，9個搜索點由于紋理復雜度的差異性，不同點的SAD值變化很大，但是同1個子塊的SAD值的變化趨勢基本是一致的。含有運動信息的4個子塊之間的差異還是很清晰的。所以可以用不同子塊的SAD值來表示含有運動信息的視頻圖像。

綜上所述，本文選取36個SAD值（4個子塊，每個9點SAD值）來作為全連接網絡的特征進行輸入，這樣對視頻區域塊的可區分度較高。

2 樣本的預處理

由于神經網絡的各個節點的權值是通過訓練得到的，為了縮短訓練時間，提高分類器的預測準確率，本文會選用典型的樣本進行網絡的訓練，所以就要在離線訓練前進行訓練樣本的篩選。

本網絡輸入為36個SAD值，輸出為編碼塊劃分模式，對于分類器結果好壞一般采用預判準確率來判斷網絡性能的優劣，但是對于本文的應用還需要考慮判別結果與RDCOST性能之間的關聯。比如：4個子塊與其父塊的RDCOST值差異很小時，則劃分模式誤判決的影響結果較小;但是當差異較大時，一旦出現誤判決，則對RDCOST性能影響很大。所以訓練網絡時就要尋找這種“典型的樣本”，即：特征值與劃分模式之間的映射關系。對于劃分與不劃分RDCOST差異較小的樣本稱為“奇異樣本”，反之稱為“典型樣本”。我們選擇樣本就是要選擇典型樣本，去掉奇異樣本。對于劃分與不劃分RDCOST差異[ΔRDCOST]是否顯著的衡量公式為

式中，[Rspilt]和[Rnonsplit]分別表示劃分與不劃分的率失真代價。這樣在進行典型樣本的選擇時，當[ΔRDCOST]大于1個給定的閾值時，則該樣本被挑選出來，不同的閾值對應的網絡泛化能力的實驗結果是不同的，通過大量的實驗得出，閾值取值大概為0.012時，測試準確率處于最高點位置附近。典型樣本篩選完成后，還要選擇樣本的數量，太多則訓練時間過長同時容易出現過擬合;反之，則容易出現欠擬合的問題。本實驗選擇400 000個樣本集合，同時劃分與不劃分模式樣本各占50%。

3 全連接網絡模型及設計

人工神經網絡（ANN）[14-15]是對人類大腦神經元系統建立的一種數學模型，具有強大的自學習及非線性擬合能力。對于全連接網絡模型，即BP神經網絡，在1985年被Rumelhart等[16]提出。

其中，神經元數學模型如式（4）所示。其中XW是對輸入和權重的向量表示形式，[f（x）]為激活函數。一般的全連接網絡層級分為輸入、輸出及隱含層，當隱含層層數增加到一定數目時即為深度學習。

本文的分類過程屬于監督式學習，采用的思想是通過對比預測輸出與實際輸出的值，來不斷優化網絡，縮小最終的錯誤代價函數，最終訓練出合適的網絡參數。全連接網絡的參數迭代過程包括正向和反向兩個過程。一般在初始時，給各個權重1個初始值，然后正向逐層的計算，一直到輸出結果，這個過程沒有參數修正的過程，然后反向由輸出層到輸入層的過程應用BP算法[17-19]進行權重的修正。這樣不斷的迭代最終得到合適的網絡參數值。這里面主要要考慮的影響訓練時間及結果的關鍵點包括：網絡初始權值的設定，激活函數的選擇，誤差損失函數的選擇和學習步長[η]的選取等。

模型結構的建立主要涉及網絡結構的搭建及神經元參數的給定2個部分。其中網絡拓撲結構的建立主要是神經元個數的確定和網絡層數的設計;神經元相關屬性設定則為上面所敘述的關鍵點。實際建模的過程主要是根據具體的問題，通過經驗和實驗來確定的。由于本實驗應用MATLAB開發工具進行訓練，全連接網絡訓練采用的是開源庫代碼Deeplearning來實現，這樣很多初始化參數，如權值的初始化值已經給定。因此，下面僅對網絡建模過程中需要設定的相關參數進行說明。

3.1 網絡節點及層數設計

網絡節點個數及網絡層數的設計是和具體任務緊密相關的，由于網絡的輸入特征是36個，所以網絡的輸入層節點數為36。網絡的功能是判斷是否劃分為該類型編碼單元，所以網絡的輸出節點數為2。為了更充分地提取輸入特征，本文使用2個隱藏層的BP神經網絡。因為增加網絡的深度比增加網絡的廣度對特征提取的貢獻更大，使得深度學習在多種圖像處理任務中取得顯著優勢。但增加網絡深度會增加計算量，層數不能增加太多，因此，這里選擇包含兩個隱藏層的4層BP神經網絡。由于輸入特征和輸出特征數量相差較大，設計神經網絡每層的神經元個數逐步減小，用于逐步提取更準確的特征。經過多次測試選擇最終的網絡節點數，表1列舉了最終測試中幾對不同隱藏層神經元個數的性能。

表1測試了幾種常見隱層節點數的性能，通常情況下隱層1的節點數要比隱層2的節點數多，隱層1的節點用于提取輸入節點中的特征，隱層2的節點用于判別結果，經過試驗，最優的隱藏層節點配置為：隱層1節點數為18，隱層2節點數為8。

3.2 網絡及神經元幾個關鍵點的確定

本文采用全連接網絡結構，由于輸出結果為0到1，所以激活函數選擇常用的單極性的sigmoid函數;學習步長[η]代表的是權值的修正步長，[η]過大則網絡訓練不易收斂;[η]過小則網絡收斂速度很慢，訓練時間過長，一般為了得到穩定的結果會選擇0.03～0.75之間偏小一點的[η]值。在實踐中一般根據學習的情況來隨時調整學習步長，最終選擇1個合適的學習步長來訓練出網絡權值;本實驗誤差損失函數選擇均方誤差損失函數;動量因子[α]和學習步長一樣都需要根據實驗情況，實踐中去最終確定，最終[α]確定的區間為0.06～0.22;迭代次數就是網絡中權重的更新次數，一般的迭代次數與測試準確率之間的關系為：一開始網絡迭代次數小于某個限定值時，網絡處于欠擬合狀態，最終的測試準確度很低，隨著迭代次數的增加，測試準確率達到最高，這時的網絡權值時最優的權值結果，之后測試準確率開始下降，網絡出現過擬合，所以需要根據具體的問題設置合適的迭代次數，這樣網絡性能才能達到最優，本實驗通過測試，本實驗的迭代次數通常確定在3 500到5 200之間。

4 基于全連接網絡的編碼單元模式選擇優化

4.1 編碼模型的簡化

VP9支持的編碼塊大小有4種，包括：8[×]8、16[×]16、32[×]32和64[×]64，這導致最終需要預測的結果有83 522種。所以使用正常的分類器模式進行劃分是不符合需求的。因此，本文采用的是如圖4所示的優化模型，即：超級塊劃分全連接網絡分類器的分布圖，建立1個3層二分類模型，這樣可以取代原來復雜的四叉樹模型。圖4中的分類器遞歸為3層，對于不同的64[×]64、32[×]32和16[×]16層分類器個數分別為1個，4個和16個。因此，分類遞歸過程分別進行1次，4次和16次的判決。把三層劃分深度（cuDepth）從0到2進行編號，每層的命名如圖4所示。最后，對所有不同的分類器輸出結果進行整合即可得到超級塊的1組預判決劃分模式。具體編碼過程的流程如圖5所示。描述過程是逐層的對當前塊是否劃分進行標記，劃分則對4個子塊進行標記，然后進行預判決處理;不劃分則對當前塊進行標記，停止對4個子塊進行進一步的預判決。這樣就可以應用簡化后的四叉樹來進行編碼處理。

4.2 編碼單元劃分結果預測

根據上述的理論分析方法，各個網絡模型的輸入、輸出向量及模型結構幾乎都一致，也就是輸入、輸出向量分別為36和2，最優的隱藏層節點配置為：隱層1節點數為18，隱層2節點數為8。實驗中為進一步簡化網絡模型結構，通過設置不同的QP值得到不同的模型結構。

各層分類器進行模式分類的過程主要為3步驟：1）進行典型樣本的篩選，然后分為測試樣本和訓練樣本;2）應用離線的方式訓練出各層的網絡模型并進行簡單測試;3）將訓練后的網絡模型移植到編碼器，然后對各個塊劃分模型進行預測。具體的編碼單元劃分模式預判決算法各處理模塊流程圖如圖6所示。

5 實驗結果與分析

對于一個算法性能的評估，需要選擇合適的評估方式及參數進行評估，本實驗根據實際的需求情況，選擇從算法的預判決準確率及對編碼復雜度和編碼性能影響等方面對本實驗算法進行評估。本實驗不使用BPNN進行預測，都是以原始編碼算法的結果進行評估的。全連接網絡的訓練和測試都是采用MATLAB工具進行的，視頻編碼VP9使用的軟件版本號是libvpx-v1.30。具體的主要參數設置為：Frame類型是IPPP，對應的Frame Rate為30 fps，GOP設置為200，劃分深度為0到3，進行幀間預測時的參考幀數為單位幀數，對應編碼塊的非對稱劃分方式采用關閉處理的方式。

具體內容特征屬性的統計情況如表2所示，其中前3個為訓練樣本，后2個為測試樣本。從表中可以看到所選的5個1 080p序列在各自不同特征分布上的差異情況。

下面分別從各層網絡命中率測試結果及優化后的算法性能測試結果進行分析。

1）各層模型結構命中率測試結果。各層模型結構命中率就是對上面3層的預判決命數進行統計，用HitRate_xx來表示，具體計算公式如式（5）所示。具體的測試結果準確率如表3所示。

HitRate = 當前層預判定模式與RDO模式相同的塊個數/當前層總的塊個數×100%。? ? ? ? ?（5）

2）優化后的算法性能測試結果。對于算法性能的衡量，則選用了5個參數來測試衡量，針對不同QP和序列得到的測試結果如表4所示。其中[ΔTime]計算公式如式（6）所示。式中變量分別對應原始編碼器（[Toriginal]）和優化后算法編碼器（[Tmethod]）的編碼復雜度。

由上述測試后的統計結果如表3所示，可以看出針對不同序列、不同層的編碼塊，分類器進行預判后的準確率是不同的，整體預測準確率范圍分布為76.3%～99.5%，3層的HitRate_xx平均命中率分別為83.57%， 81.31%和95.62%。從表4可以看出，雖然比特率（[ΔBitrate]平均上升了25.01%，YUV三分量的PSNR（峰值信噪比）即：[ΔPSNR-Y]，[ΔPSNR-U]， [ΔPSNR-V]分別平均下降了-0.459，-0.196，? -0.294（下降幅度很小），但是優化后的算法的編碼復雜度得到了很大的降低，與正常編碼預測相比，本文優化后模型的編碼復雜度[（ΔTime）]平均降低比例高達77.84%。

由實驗結果可以得出，對不同復雜視頻圖像應用簡化版的四叉樹進行測試，測試結果與原四叉樹遞歸算法相比編碼復雜度降低很多，編碼效率得到了很大的提升。與之前相關的研究文獻結果相比，本文針對ParkScene，Cactus等這種復雜度很高的視頻圖像內容進行測試，測試結果可以看出編碼效率沒有大幅度降低，而是得到了很大的提升。

6 結論

本文通過對編碼單元模式劃分復雜度過高問題的影響因素進行分析，選擇編碼復雜度很高的塊劃分進行研究，主要針對超級塊劃分模式的選擇進行了優化。使用了基于全連接網絡的編碼塊劃分算法，將提出的算法應用到編碼器中的1個預處理模塊。通過最終的測試結果的對比，可以看出編碼復雜度得到了很好地降低，但是當直接使用網絡輸出結果時，與之前相關文獻出現的問題一樣，就是整體的預測精度會有所降低。后續繼續優化的方向是針對神經網絡輸出結果的規律性來對該算法進行優化處理，以此來提升預測精度。

參考文獻：

[1]? ? UHRINA M，BIENIK J，VACULIK M. Coding efficiency of VP8 and VP9 compression standards for high resolutions[C]//2016 ELEKTRO. Strbske Pleso，High Tatras，Slovakia，IEEE，2016：100-103.

[2]? ? SRINIVASAN M. VP9 encoder and decoders for next generation online video platforms and services[C]//SMPTE 2016 Annual Technical Conference and Exhibition. Los Angeles，CA，IEEE，2016：1-14.

[3]? ? 袁星范. 最新一代視頻壓縮標準VP9綜述[J]. 電視技術，2016，40（5）：18-21.

[4]? ? FELLER C，WUENSCHMANN J，ROLL T，et al. The VP8 video codec-overview and comparison to H.264/AVC[C]//2011 IEEE International Conference on Consumer Electronics-Berlin （ICCE-Berlin）. Berlin，Germany，IEEE，2011：57-61.

[5]? ? SHEN L Q，ZHANG Z Y，AN P. Fast CU size decision and mode decision algorithm for HEVC intra coding[J]. IEEE Transactions on Consumer Electronics，2013，59（1）：207-213.

[6]? ? GOSWAMI K，KIM B G，JUN D S，et al. Early coding unit-splitting termination algorithm for high efficiency video coding （HEVC）[J]. ETRI Journal，2014，36（3）：407-417.

[7]? ? SHEN X L，YU L. CU splitting early termination based on weighted SVM[J]. EURASIP Journal on Image and Video Processing，2013，2013（1）：4.

[8]? ? SUNG Y H，WANG J C. Fast mode decision for H.264/AVC based on rate-distortion clustering[J]. IEEE Transactions on Multimedia，2012，14（3）：693-702.

[9]? ? SULLIVAN G J，WIEGAND T. Rate-distortion optimization for video compression[J]. IEEE Signal Processing Magazine，1998，15（6）：74-90.

[10]? ORTEGO A，RAMCHANDRAN K. Rate-distortion methods for image and video compression[J]. IEEE Signal Processing Magazine，1998，15（6）：23-50.

[11]? ORTEGA A，RAMCHANDRAN K，VETTERLI M. Optimal trellis-based buffered compression and fast approximations[J]. IEEE Transactions on Image Processing，1994，3（1）：26-40.

[12]? 王雙龍. 快速 AVS 幀內預測算法[J]. 計算機應用與軟件，2015，32（6）：185-187.

[13]? 佘航飛，郁梅，蔣剛毅，等. 基于對比敏感度函數的高動態范圍視頻編碼[J]. 光電子·激光，2018，29（10）：73-80.

[14]? AGATONOVIC-KUSTRIN S，BERESFORD R. Basic concepts of artificial neural network （ANN） modeling and its application in pharmaceutical research[J]. Journal of Pharmaceutical and Biomedical Analysis，2000，22（5）：717-727.

[15]? 李英玉，陳剛. 基于人工神經網絡的RSSI測距的牛頓定位算法[J]. 儀表技術與傳感器，2017（8）. 1002-1841.

[16]? RUMELHART D E，HINTON G E，WILLIAMS R J. Learning representations by back-propagating errors[J]. Nature，1986，323（6088）：533-536.

[17]? LI J，CHENG J H，SHI J Y，et al. Brief introduction of back propagation （BP） neural network algorithm and its improvement[J]. Advances in Computer Science and Information Engineering，2012：553-558.

[18]? 嚴鄧濤，霍智勇，戴偉達，等. 基于全連接神經網絡和邊緣感知視差傳播的立體匹配算法研究[J]. 南京郵電大學學報（自然科學版），2018，38（3）：83-88.

[19]? WANG X G，TANG Z，TAMURA H，et al. A modified error function for the backpropagation algorithm[J]. Neurocomputing，2004，57：477-484.

[責任編輯? ? 田? ? 豐]