摘" 要： 隨著視頻應(yīng)用和新興業(yè)務(wù)的快速發(fā)展，對(duì)視頻編碼速度和質(zhì)量的要求也不斷提高。為了降低H.265/HEVC的幀內(nèi)編碼復(fù)雜度，提出一種基于最有可能模式（MPM）的模糊搜索算法，通過減少搜索候選模式的數(shù)量來降低計(jì)算復(fù)雜度；同時(shí)提出一種簡化編碼單元?jiǎng)澐诌^程的方法，利用相鄰編碼單元率失真代價(jià)計(jì)算的閾值，提前終止編碼單元?jiǎng)澐?，避免了傳統(tǒng)算法的遍歷劃分，提高了編碼效率。實(shí)驗(yàn)結(jié)果表明，所提算法與HEVC傳統(tǒng)模型比較，能夠平均降低39.38%的編碼時(shí)間，而碼率只增加了1.62%，峰值信噪比差值僅降低0.085 dB。在保證視頻質(zhì)量的前提下，所提算法大幅降低了編碼的復(fù)雜度。

關(guān)鍵詞： HEVC； 視頻編碼； 幀內(nèi)編碼； 最有可能模式； 編碼單元?jiǎng)澐郑?率失真優(yōu)化

中圖分類號(hào)： TN919.81?34" " " " " " " " " " " " "文獻(xiàn)標(biāo)識(shí)碼： A" " " " " " " " " " " "文章編號(hào)： 1004?373X（2025）08?0051?05

Research on fast intraframe coding based on H.265/HEVC

MA Zhenhua1， JIA Huayu1， LUO Biao2

（1. College of Electrical and Power Engineering， Taiyuan University of Technology， Taiyuan 030024， China; 2. Accelink Technologies Co.， Ltd.， Wuhan 430074， China）

Abstract： With the rapid development of video applications and quality businesses， the requirements for video encoding speed and quality are increasing constantly. In order to reduce the H.265/HEVC （high efficiency video coding） complexity of intra frame coding， a fuzzy search algorithm based on the most probable mode （MPM） is proposed， which can reduce computational complexity by reducing the number of candidate search patterns. At the same time， a method for simplifying the process of encoding unit division is proposed， which can use the threshold calculated by the rate distortion cost of adjacent encoding units to terminate encoding unit division in advance， avoiding the traditional algorithm's traversal division and improving encoding efficiency. The experimental results show that compared with the traditional HEVC model， the proposed algorithm can reduce the encoding time by an average of 39.38%， while the bit rate is only increased by 1.62%， and the peak signal?to?noise ratio difference is only reduced by 0.085 dB. Under the premise of ensuring video quality， the proposed algorithm can greatly reduce the encoding complexity.

Keywords： HEVC; video coding; intra coding; most probable mode; coding unit partition; rate?distortion optimization

0" 引" 言

隨著人們對(duì)高清視頻的需求不斷增大，視頻編碼聯(lián)合協(xié)助小組推出了新一代的高效視頻編碼（HEVC）標(biāo)準(zhǔn)[1]，也稱H.265，通過引入四叉樹結(jié)構(gòu)、更多預(yù)測(cè)模式等新算法，并新增編碼單元（Coding Unit， CU）、預(yù)測(cè)單元（Prediction Unit， PU）和變換單元（Transform Unit， TU）等概念，使HEVC能夠更有效地處理視頻數(shù)據(jù)，實(shí)現(xiàn)更高質(zhì)量的視頻壓縮，提高了50%以上的率失真性能。但這種性能改進(jìn)是以增加編碼復(fù)雜度為代價(jià)的，為了滿足當(dāng)前市場(chǎng)對(duì)實(shí)時(shí)高清視頻的需求，降低HEVC的編碼復(fù)雜度已成為當(dāng)前研究的熱點(diǎn)問題。近年來，許多學(xué)者致力于降低HEVC幀內(nèi)編碼復(fù)雜度的研究，主要集中在三類方法：基于預(yù)測(cè)模式選擇、基于編碼單元?jiǎng)澐?、基于機(jī)器學(xué)習(xí)的方法。

在第一類方法中，研究者們嘗試通過不同的途徑來優(yōu)化預(yù)測(cè)模式的選擇，減少編碼復(fù)雜度。文獻(xiàn)[2]利用圖像梯度信息估計(jì)CU的紋理方向，從而確定最優(yōu)幀內(nèi)預(yù)測(cè)方向；文獻(xiàn)[3]利用統(tǒng)計(jì)概率分層構(gòu)建進(jìn)入粗選擇模式（Rough Mode Decision， RMD）過程的模式列表，從而減少進(jìn)入RMD過程模式數(shù)量。上述快速幀內(nèi)預(yù)測(cè)模式算法通常在計(jì)算梯度或者運(yùn)用特定算法進(jìn)行信息提取時(shí)，會(huì)帶來較為復(fù)雜的計(jì)算過程，對(duì)硬件要求也很高，同時(shí)，梯度和紋理信息只能粗略反映當(dāng)前塊的紋理特征。因此，基于這些信息進(jìn)行預(yù)測(cè)模式的計(jì)算與實(shí)際最優(yōu)預(yù)測(cè)模式之間可能會(huì)存在一些差異。在第二類中，文獻(xiàn)[4?5]給出了快速CU分割算法，這些算法使用時(shí)空相鄰CTU的編碼信息來估計(jì)CU的深度搜索范圍，以減少不必要的CU分割；文獻(xiàn)[6]提出一種基于AVS2的編碼單元快速劃分算法，對(duì)當(dāng)前CU劃分進(jìn)行快速?zèng)Q策。在第三類的機(jī)器學(xué)習(xí)方面，文獻(xiàn)[7?8]中提出了使用支持向量機(jī)處理CU的紋理和熵信息來決定CU的大?。晃墨I(xiàn)[9]訓(xùn)練了一個(gè)深度CNN模型來提取特征，尋找每個(gè)樹塊中的最優(yōu)編碼單元并減少預(yù)測(cè)模式的數(shù)量?；跈C(jī)器學(xué)習(xí)的幀內(nèi)快速算法雖然訓(xùn)練參數(shù)數(shù)量可超過100萬，但模型很容易過擬合，并且訓(xùn)練階段會(huì)帶來巨大的計(jì)算成本。

針對(duì)上述HEVC的幀內(nèi)快速算法存在的問題，本文從幀內(nèi)預(yù)測(cè)模式和編碼單元?jiǎng)澐謨煞矫嫒胧?，降低編碼復(fù)雜度。首先，利用視頻空間相關(guān)性的特點(diǎn)，以相鄰編碼單元的最佳率失真代價(jià)（Rate Distortion Cost， RDCost）為閾值，判斷是否需要提前終止當(dāng)前CU的劃分，從而降低編碼的復(fù)雜度。其次，以最有可能模式（Most Probable Mode， MPM）中預(yù)測(cè)模式的索引為初始基準(zhǔn)值，向兩邊33種預(yù)測(cè)模式進(jìn)行模糊搜索，減少候選模式的計(jì)算量。本文提出的算法是在傳統(tǒng)算法已有信息的基礎(chǔ)上進(jìn)行的改進(jìn)，不需要進(jìn)行額外的計(jì)算，在基本不降低視頻質(zhì)量與輸出碼率的基礎(chǔ)上，降低編碼的復(fù)雜度，縮短編碼時(shí)間。

1" CU劃分及預(yù)測(cè)模式統(tǒng)計(jì)分析

1.1" CU的遞歸劃分過程

在HEVC幀內(nèi)預(yù)測(cè)編碼單元的劃分過程中，首先將視頻序列中每一幀劃分為多個(gè)64×64的編碼樹單元（Coding Tree Unit， CTU），其初始深度為0。對(duì)每個(gè)CTU進(jìn)行光柵掃描，將CTU通過四叉樹結(jié)構(gòu)遞歸劃分，每次劃分后尺寸減半，深度值加1，當(dāng)深度值為3時(shí)停止劃分。因此，只有將每一個(gè)CTU從深度為0劃分到3，才能得出劃分結(jié)果。圖1a）表示CTU劃分時(shí)所對(duì)應(yīng)的四叉樹結(jié)構(gòu)圖。其中黑色點(diǎn)表示停止劃分，白色點(diǎn)表示繼續(xù)劃分。

如圖1b）所示，分別計(jì)算CU0的RDCost0和4個(gè)子CU1的率失真代價(jià)之和RDCost1，如果RDCost0小于RDCost1，則不對(duì)CU0劃分，否則將其劃分為4個(gè)子CU1。依次類推，直到深度為3時(shí)結(jié)束。

表1統(tǒng)計(jì)了5個(gè)不同類型的視頻序列，并采用HEVC標(biāo)準(zhǔn)算法劃分得到了尺寸從64×64到8×8編碼單元的分布情況。從中可以看出，對(duì)不同分辨率的視頻序列，得到的最佳劃分結(jié)果中64×64、32×32、16×16尺寸占到了70.6%，由此可知沒有必要將CU都劃分至最后，可提前終止編碼單元?jiǎng)澐?，從而減少CU劃分的次數(shù)，降低編碼復(fù)雜度。

1.2" 幀內(nèi)角度預(yù)測(cè)模式的選擇

HEVC采用窮舉搜索方式將編碼單元從64×64的尺寸開始遍歷，且對(duì)每層編碼單元預(yù)測(cè)時(shí)，都要完成35種預(yù)測(cè)模式（包括Planar模式、DC模式和33種角度模式）的搜索，幀內(nèi)預(yù)測(cè)模式編號(hào)和角度對(duì)應(yīng)情況見圖2。

首先，利用35種幀內(nèi)預(yù)測(cè)模式計(jì)算基于哈德瑪變換值SATD的代價(jià)值[10]HCost，得到粗選子集，驗(yàn)證MPM模式，依據(jù)候選列表中的預(yù)測(cè)模式計(jì)算率失真代價(jià)RDO的值，代價(jià)最小的模式就是最優(yōu)幀內(nèi)預(yù)測(cè)模式。在粗略模式候選列表中被選為最優(yōu)幀內(nèi)預(yù)測(cè)模式的概率情況如表2所示。表2中統(tǒng)計(jì)了5類不同標(biāo)準(zhǔn)視頻序列中最優(yōu)幀內(nèi)預(yù)測(cè)模式的命中概率。第一種模式被選中的概率為45%～63%，前兩種模式被選中的概率為67%～86%。

由上述統(tǒng)計(jì)數(shù)據(jù)可知，雖然當(dāng)前的幀內(nèi)預(yù)測(cè)模式算法已經(jīng)具備一定的有效性，但仍有進(jìn)一步改進(jìn)空間，可通過進(jìn)一步優(yōu)化預(yù)測(cè)模式選擇策略，降低編碼的復(fù)雜度，提高編碼效率。

2" 低復(fù)雜度幀內(nèi)編碼優(yōu)化算法

2.1" 基于RDCost閾值的CTU劃分算法

根據(jù)第1.1節(jié)分析，可對(duì)傳統(tǒng)的算法進(jìn)一步優(yōu)化。通過分析圖3中CU深度信息可知，在A～E類視頻中，深度差小于或等于1的相鄰CU的百分比都超過了80%。因此，基于這種空間相關(guān)性，利用編碼單元周圍的信息直接得出當(dāng)前編碼單元的分割情況，加速編碼單元的劃分過程，且空域相鄰的編碼單元之間的率失真代價(jià)值的分布相似[11]?；诖耍疚奶岢隽艘环N基于RDCost閾值的劃分算法，利用相鄰CU的RDCost值的相關(guān)性提前確定當(dāng)前編碼單元的劃分。閾值[TC]的計(jì)算公式如下：

式中：[μRCUp]、[μRCLeft]和[μRCUL]分別表示當(dāng)前CU1上面、左面以及左上面相對(duì)應(yīng)編碼單元的最佳率失真代價(jià)RDCost值。其中，圖4表示當(dāng)前CU與相鄰CU的關(guān)系。利用公式（1）計(jì)算閾值TC，并與劃分前CU0的RDCost值進(jìn)行比較，如果當(dāng)前RDCost大于TC，則表示編碼單元需要進(jìn)一步劃分；如果小于TC，則停止分割。因此，可以跳過不必要的計(jì)算，提高編碼效率。如果當(dāng)前CU位于圖像邊緣時(shí)，不存在相鄰編碼單元，則使用傳統(tǒng)算法進(jìn)行處理。

2.2" 基于MPM的模糊搜索算法

HEVC中定義了35種預(yù)測(cè)模式，如果計(jì)算每種模式對(duì)應(yīng)的RDO值，會(huì)非常耗時(shí)。為了減少計(jì)算量，文獻(xiàn)[12]提到了相鄰塊MPM模式，且當(dāng)前塊的MPM有很大的概率成為當(dāng)前塊中的最佳模式，基于此結(jié)論提出了基于MPM的模糊搜索算法。

首先利用MPM的索引得出一個(gè)基準(zhǔn)值P，該值的計(jì)算公式為：

式中：N是MPM中預(yù)測(cè)模式的數(shù)量，恒為3；Ta是預(yù)測(cè)模式的索引值。

在采樣過程中隨著迭代次數(shù)的增加，獲取的模式與初始基準(zhǔn)點(diǎn)模式的相關(guān)性越來越弱，采樣距離dn取值公式如下：

以P為初始基準(zhǔn)值對(duì)33種（planar模式和DC模式除外）預(yù)測(cè)模式向左右兩個(gè)方向進(jìn)行迭代采樣，可表示為：

式中：[PLn]和[PRn]分別表示左采樣值和右采樣取值；n表示迭代次數(shù)，從1開始。

左采樣和右采樣集合為：

在粗略模式?jīng)Q策過程中將L與R合并成列表T，作為參與RDO計(jì)算的候選列表。然后將planar模式、DC模式和初始基準(zhǔn)值代表的模式加入T列表中，如果當(dāng)前CU的MPM不包含在T列表中，也將其加入列表T中進(jìn)行后續(xù)計(jì)算，這極大地減少了編碼的復(fù)雜度。

3" 實(shí)驗(yàn)結(jié)果及分析

利用HEVC標(biāo)準(zhǔn)編碼模型16.7驗(yàn)證改進(jìn)算法的有效性。實(shí)驗(yàn)環(huán)境的配置為：Intel Core i7?12650H，主頻為2.30 GHz，內(nèi)存為16.0 GB，操作系統(tǒng)為64位Windows 11，開發(fā)工具為VS2022。測(cè)試中使用了JCT?VC提供的5類視頻序列，全I(xiàn)幀模式，同時(shí)設(shè)置不同的量化參數(shù)值（QP為27、32、37、42）。編碼幀數(shù)為50幀，剩余參數(shù)均采用默認(rèn)配置。編碼性能使用峰值信噪比（PSNR）的差值ΔPSNR、碼率的變化百分比ΔBR和編碼時(shí)間的變化百分比ΔT三個(gè)指標(biāo)來衡量。計(jì)算公式分別如下：

式中：HM和Improve分別表示HM16.7和改進(jìn)后的算法。

本文利用不同分辨率的視頻序列測(cè)試了算法效果，測(cè)試結(jié)果如表3所示。

使用本文算法編碼時(shí)，PartyScene序列的編碼時(shí)間減少最多，為50.67%；ParkScene序列減少最少，為29.83%。由此可知，在處理動(dòng)態(tài)視頻序列時(shí)本文算法表現(xiàn)更加優(yōu)異。

總體來看，本文提出的算法在編碼各類視頻序列時(shí)性能顯著提升，平均減少了39.38%的幀內(nèi)編碼時(shí)間，而PSNR值平均僅下降0.085 dB，視頻質(zhì)量基本不受影響。本文算法顯著提高了編碼效率，對(duì)視頻質(zhì)量影響極小，具有較高的應(yīng)用價(jià)值。

將本文算法分別與文獻(xiàn)[13?15]的算法相比，結(jié)果如表4所示。本文算法在編碼時(shí)間上比三個(gè)對(duì)比算法分別降低了1.98%、8.78%、12.62%，碼率略低于文獻(xiàn)[13]所提算法，高于文獻(xiàn)[14]和文獻(xiàn)[15]算法。因此，該算法在保持編碼質(zhì)量基本不變的情況下，有更為出色的編碼時(shí)間優(yōu)化能力。

為了更清晰地評(píng)估本文提出的快速算法對(duì)編碼器性能的影響，繪制了傳統(tǒng)算法與改進(jìn)算法的率失真優(yōu)化RD曲線。如圖5所示，對(duì)于不同序列的視頻，兩種算法的RD曲線基本重合，這表明本文算法幾乎不影響視頻質(zhì)量。

4" 結(jié)" 論

為了降低HEVC幀內(nèi)編碼計(jì)算復(fù)雜度，本文提出了一種幀內(nèi)快速編碼算法?；诳臻g相似性，采取了兩方面的優(yōu)化策略：一方面，以相鄰編碼單元RDCost的均值為TC，提前終止CU劃分；另一方面，利用MPM中預(yù)測(cè)模式索引的均值為基準(zhǔn)點(diǎn)，進(jìn)行模糊搜索，減少預(yù)測(cè)模式計(jì)算量。實(shí)驗(yàn)結(jié)果表明，本文算法在幾乎不損失視頻質(zhì)量的前提下，顯著減少了編碼時(shí)間，為HEVC幀內(nèi)編碼的實(shí)際應(yīng)用提供了更為高效的解決方案。

注：本文通訊作者為賈華宇。

參考文獻(xiàn)

[1] BROSS B. High efficiency video coding （HEVC） text specifica?tion draft 9 [C]// Proceeding of 11th JCT?VC Meeting. Shanghai： IEEE， 2012： 102?110.

[2] 李文武，孫書為，郭陽.基于梯度的H.265/HEVC幀內(nèi)預(yù)測(cè)硬件加速算法研究[J].計(jì)算機(jī)工程與科學(xué)，2019，41（4）：575?582.

[3] 石敏，席詩華，易清明.基于預(yù)測(cè)單元尺寸的高效視頻編碼幀內(nèi)預(yù)測(cè)模式快速選擇的改進(jìn)算法[J].激光與光電子學(xué)進(jìn)展，2019，56（20）：234?242.

[4] ZHU W， YI Y， ZHANG H， et al. Fast mode decision algorithm for HEVC intra coding based on texture partition and direction [J]. Journal of real time image processing， 2020， 17： 275?292.

[5] MENON V V， AMIRPOUR H， TIMMERER C， et al. Incept： Intra cu depth prediction for HEVC [C]// 2021 IEEE 23rd International workshop on multimedia signal processing （MMSP）. [S.l.]： IEEE， 2021： 1?6.

[6] 周蕓，李日，郭曉強(qiáng)，等.基于AVS2的編碼單元快速劃分算法研究與實(shí)現(xiàn)[J].廣播與電視技術(shù)，2021，48（10）：37?41.

[7] CHEN F， REN Y， PENG Z， et al. A fast CU size decision algorithm for VVC intra prediction based on support vector machine [J]. Multimedia tools and applications， 2020， 79： 27923?27939.

[8] FU B， ZHANG Q， HU J. Fast prediction mode selection and CU partition for HEVC intra coding [J]. IET image processing， 2020， 14（9）： 1892?1900.

[9] KUANAR S，RAO R K，BILAS M， et al. Adaptive CU mode selection in HEVC intra prediction： a deep learning approach [J]. Circuits， systems， and signal processing， 2019， 38（11）： 5081?5102.

[10] DONG X， SHEN L， YU M， et al. Fast intra mode decision algorithm for versatile video coding [J]. IEEE transactions on multimedia， 2021， 24： 400?414.

[11] BALAJI L， THYAGHARAJAN K K， RAJA C， et al. An optimal mode selection algorithm for scalable video coding [J]. International journal of computational vision and robotics， 2020， 10（2）： 143?155.

[12] TARIQ J， ALFALOU A， IJAZ A， et al. Fast intra mode selection in HEVC using statistical model [J]. Computers， materials and continua， 2022， 70（2）： 3903?3918.

[13] 劉暢，賈克斌，劉鵬宇.基于多分支網(wǎng)絡(luò)的深度圖幀內(nèi)編碼單元快速劃分算法[J].電子與信息學(xué)報(bào)，2022（12）：4357?4366.

[14] ZHANG Q， JING R， WANG B， et al. Fast mode decision based on gradient information in 3D?HEVC [J]. IEEE access， 2019， 7： 135448?135456.

[15] 謝豪，姜周，張雋祺，等.基于感知的幀內(nèi)快速模式?jīng)Q策算法研究[J].中國儀器儀表，2022（2）：67?72.

作者簡介：馬振華（1996—），男，山西忻州人，在讀碩士研究生，研究方向?yàn)橐曨l與圖像處理。

賈華宇（1977—），男，山西太原人，博士研究生，副教授，主要從事半導(dǎo)體激光器方面的研究。

羅" 飚（1977—），男，湖北武漢人，碩士研究生，研究方向?yàn)榘雽?dǎo)體激光器。

收稿日期：2024?06?16" " " " " "修回日期：2024?08?05

基金項(xiàng)目：國家自然科學(xué)基金項(xiàng)目：高速激光器芯片光學(xué)災(zāi)變損傷過程實(shí)時(shí)分析儀（62027819）