基于率失真優化的HEVC幀內編碼模式選擇

喬莉 李博 劉偉杰

摘 要： 針對高壓縮率的視頻編碼算法產生的視頻失真，引起視頻感知效果下降的問題，提出一種基于率失真優化（RDO）的HEVC編碼模式選擇。HEVC的幀內預測模式采用基于塊的多方向幀內預測方式，具有高達35種預測模式的幀內預測算法。在此使用率失真優化方法在眾多的編碼模式中選擇出一種最優的模式，使得編碼失真最小且編碼輸出碼率最低。實驗結果表明，基于率失真優化的HEVC幀內編碼模式選擇可以降低38.76%的編碼復雜度，比特率增加0.834%，峰值信噪比（PSNR）下降0.043 dB。

關鍵詞： HEVC; 幀內編碼模式選擇; 拉格朗日代價; 率失真優化; 最優模式; 編碼復雜度

中圖分類號： TN919.8?34 文獻標識碼： A 文章編號： 1004?373X（2018）12?0087?05

Abstract： As the video coding algorithm with high compression rate has the video distortion problem and causes reduction of video perception effect， an HEVC coding mode selection based on rate distortion optimization （RDO） is proposed. In the HEVC intraframe prediction mode， the block?based multi?direction intraframe prediction method and an intraframe prediction algorithm with up to 35 prediction modes are adopted. The RDO method is adopted to select an optimal mode from various coding modes to minimize the distortion and output code rate of coding. The experimental results show that the HEVC intraframe coding mode selection based on RDO can reduce coding complexity by 38.76%， increase bit rate by 0.834%， and decrease peak signal?to?noise ratio （PSNR） by 0.043 dB.

Keywords： HEVC; intraframe coding mode selection; Lagrange price; RDO; optimal mode; coding complexity

0 引 言

在大數據信息時代，隨著視頻技術的發展和應用，海量的視頻信息深入到人們的工作和生活的方方面面中。隨著高清（HD）、超高清（UHD）、3D和多視點（Multi?View）視頻的普及，針對海量視頻數據的傳輸和存儲，需要有高效的視頻編碼方法來解決這一問題。

2013年由國際電信組織（International Telecommunication Union，IUT）和運動圖像專家組（Moving Picture Experts Group，MPEG）聯合成立的JCT?VC（Joint Collaborative Team?Video Coding）組織提出新一代高效視頻編碼標準（High Efficiency Video Coding，HEVC）[1]。HEVC包含著最新的視頻編碼技術，比上一代H.264/AVC在同樣的編碼質量下，碼率[2]能夠節約50%以上。高壓縮比、低碼率和特有的并行處理設計等優點，使得HEVC快速在各類視頻業務中獲得廣泛應用。

人類通過視覺獲取大部分信息，圖像和視頻是信息最重要的載體。數字視頻（Digital Video）是由一系列靜止圖像構成，通過一幀幀快速播放的方式為用戶呈現出一個動態場景。但是海量的視頻所攜帶的數據量是非常龐大的，例如，分辨率為1 920×1 080的高清視頻，它的幀率為30 f/s。若一個像素值用8個比特數來表示，則亮度分量對應的碼率約為1 920×1 080×30×8≈498 Mbit/s，這么大的數據量造成傳輸網絡和存儲介質難以承受。因此，HEVC有效的視頻壓縮或編碼技術在多媒體應用方面，變得尤為重要。

視頻編碼的性能基本取決編碼碼率、壓縮失真和計算復雜度這三個因素。視頻編碼的根本任務就是在這三者之間折中選擇和優化設計。在相同的計算復雜度下，率失真定理決定了碼率和失真的關系。基于率失真優化的HEVC編碼模式選擇主要是通過使用率失真優化方法在眾多的編碼模式中，選擇出一種最優的模式，使得編碼失真最小且編碼輸出碼率最低。

實驗結果表明，基于率失真優化的HEVC幀內編碼模式選擇可以降低38.76%的編碼復雜度，比特率增加0.834%，峰值信噪比（PSNR）下降0.043 dB。

1 視頻編碼中的率失真優化

香農在1959年發表的“保真度準則下的離散信源編碼定理”[3]，如下。

定理1 保真度準則下信源編碼定理。

設[RD]是離散無記憶平穩信源的信息率失真函數，并且有有限的失真測度。對于任意的允許失真度[D≥0]和任意小的正數[ε>0，δ>0]，當信源序列長度[l]足夠長，一定存在一種信源編碼[C]，其碼字個數為：

4 結 語

HEVC視頻編碼比H.264僅用一半的比特率能傳送相同質量的視頻，編碼效率也提高了一倍以上，但其解碼復雜度也增加了很多，如何提高壓縮比、減少失真度、減少編碼率具有重要的研究意義。

HEVC的CTU可以劃分為CU，CU在預測編碼時劃分為PU，在量化編碼時劃分為TU，率失真優化可以應用于CTU級、CU級、PU級、TU級等。本文重點研究的是在幀內編碼中的率失真優化，基于率失真優化的HEVC幀內編碼模式選擇可以降低38.76%的編碼復雜度，比特率增加0.834%，峰值信噪比（PSNR）下降0.043 dB。以后將進一步研究在其他級別中的率失真優化，使得HEVC能具有更高的壓縮比、更少的失真、更少的編碼率、更快的傳輸率以及更便捷快速的存儲。

注：本文通訊作者為李博。

參考文獻

[1] SULLIVAN G J， OHM J， HAN W J， et al. Overview of the high efficiency video coding （HEVC） standard [J]. IEEE transaction on circuits and systems for video technology， 2013， 22（12）： 1649?1668.

[2] 姚路歡，何小海，吳曉紅，等.基于梯度的HEVC幀內碼率控制算法[J].科學技術與工程，2016，16（8）：206?211.

YAO Luhuan， HE Xiaohai， WU Xiaohong， et al. An intra frame rate control algorithm based on gradient for HEVC [J]. Science technology and engineering， 2016， 16（8）： 206?211.

[3] SHANNON C E. Coding theorems for a discrete source with a fidelity criterion [J]. IRE national convention record， 1959， 7： 142?163.

[4] 萬帥，楊付正.新一代高效視頻編碼H.265/HEVC：原理、標準與實現[M].北京：電子工業出版社，2014：327?342.

WAN Shuai， YANG Fuzheng. The principle， standard and implementation of a new generation of high?efficiency video coding H.265/HEVC [M]. Beijing： Publishing House of Electronics Industry， 2014： 327?342.

[5] 邱春婷，齊靜.高效視頻編碼（HEVC）幀內預測塊尺度的快速選擇方法[J].科學技術與工程，2014，14（18）：64?67.

QIU Chunting， QI Jing. Fast selection method for HEVC intra prediction block size [J]. Science technology and engineering， 2014， 14（18）： 64?67.

[6] 朱秀昌，劉峰，胡棟.H.265/HEVC視頻編碼新標準及其擴展[M].北京：電子工業出版社，2016.

ZHU Xiuchang， LIU Feng， HU Dong. New standards and extensions of H.265/HEVC video coding [M]. Beijing： Publishing House of Electronics Industry， 2016.

[7] JAMALI M， COULOMBE S， CARON F. Fast HEVC intra mode decision based on edge detection and SATD costs classification [C]// Proceedings of Data Compression Conference. Snowbird： IEEE， 2015： 43?52.

[8] TING Y C， CHANG T S. Gradient?based PU size selection for HEVC intra prediction [C]// Proceedings of IEEE International Symposium on Circuits and Systems. Melbourne： IEEE， 2014： 1929?1932.

[9] 陳先義，趙利平，林濤.一種新的用于屏幕圖像編碼的HEVC幀內模式[J].電子與信息學報，2015，37（11）：2685?2690.

CHEN Xianyi， ZHAO Liping， LIN Tao. A new HEVC intra mode for screen content coding [J]. Journal of electronics & information technology， 2015， 37（11）： 2685?2690.

[10] KIM Y， JUN D S， JUNG S， et al. A fast intra?prediction method in HEVC using rate?distortion estimation based on Hadamard transform [J]. ETRI journal， 2013， 35（2）： 270?280.

[11] ZHANG H， MA Z. Early termination schemes for fast intra mode decision in high efficiency video coding [C]// Proceedings of IEEE International Symposium on Circuits and Systems. Beijing： IEEE， 2013： 45?48.