許東旭, 林其偉

(華僑大學(xué) 信息科學(xué)與工程學(xué)院， 福建 廈門 361021)

二維直方圖的HEVC幀內(nèi)快速深度決策算法

許東旭, 林其偉

(華僑大學(xué) 信息科學(xué)與工程學(xué)院， 福建 廈門 361021)

摘要：針對(duì)高效率視頻編碼(HEVC)幀內(nèi)預(yù)測(cè)高額的計(jì)算復(fù)雜度，提出一種基于二維直方圖的快速深度決策算法.首先，對(duì)當(dāng)前最大編碼單元(LCU)采用3×3矩陣進(jìn)行濾波；然后，分別統(tǒng)計(jì)原始LCU以及濾波后LCU的像素分布，生成二維灰度直方圖.通過(guò)該二維直方圖所表征的紋理特征，進(jìn)行深度的自適應(yīng)選擇，減少不必要的深度計(jì)算.實(shí)驗(yàn)結(jié)果表明：同原始HM10.1相比，文中提出的算法可以節(jié)省編碼時(shí)間21.6%，同時(shí)保證視頻質(zhì)量幾乎不變.

關(guān)鍵詞：高效率視頻編碼； 深度； 二維直方圖； 快速模式選擇； 編碼單元； 灰度直方圖

高效率視頻編碼(high efficiency video coding,HEVC)是繼H.264之后，又一新的視頻編碼標(biāo)準(zhǔn).相比H.264,它引進(jìn)了大量的創(chuàng)新技術(shù)，即更多編碼單元尺寸的選擇及更多幀內(nèi)預(yù)測(cè)模式的選擇.同時(shí)，創(chuàng)新性地引入了3種新型編碼單元的概念：編碼單元(coding unit，CU)，預(yù)測(cè)單元(prediction unit，PU)，變換單元(transform unit，TU).這些創(chuàng)新技術(shù)使HEVC相比于H.264在提供相同視頻質(zhì)量的同時(shí)，又可節(jié)省將近50%比特率[1]，但是它也引入了巨大的計(jì)算復(fù)雜度.如為了得到最優(yōu)的CU，HEVC需窮盡地遞歸搜索CU,PU,TU的最優(yōu)組合[2]，同時(shí)對(duì)于每個(gè)CU幀內(nèi)又需要遍歷高達(dá)35種的預(yù)測(cè)模式.所以，現(xiàn)階段很多學(xué)者圍繞CU尺寸的快速選擇以及幀內(nèi)模式的快速?zèng)Q策這2個(gè)角度，做了大量的努力.Silva等[3]利用5個(gè)濾波模板求得當(dāng)前PU的主要邊緣方向，并依據(jù)求得的主要邊緣方向進(jìn)一步減少模式計(jì)算的數(shù)量.Shen等[4]對(duì)當(dāng)前編碼塊與其周圍相鄰的編碼塊的空間相關(guān)性做了研究.Jiang等[5]利用Sobel算子提取當(dāng)前CU的邊緣信息，按生成的邊緣梯度直方圖進(jìn)一步排除冗余的預(yù)測(cè)模式.Ting等[6]利用DCT變換后的系數(shù)進(jìn)行邊緣檢測(cè)，以此進(jìn)一步減少模式數(shù)量.Xu等[7]的前期工作對(duì)基于自相關(guān)函數(shù)的快速深度決策算法進(jìn)行了報(bào)導(dǎo).Zhang等[8]采用4個(gè)方向的梯度濾波器判斷當(dāng)前CU的紋理特征，提前決定當(dāng)前CU是否進(jìn)行分割.Kim等[9]利用離線設(shè)置的率失真代價(jià)(rate-distortion cost，RDcost)閾值，提前終止某些CU的進(jìn)一步分割.文獻(xiàn)[8-9]的主要思想都是采用某種策略終止某些塊的分割進(jìn)程，即對(duì)分割的子樹(shù)進(jìn)行修剪.上述這些算法都在一定程度上減少了HEVC的編碼復(fù)雜度，但HEVC仍不利于實(shí)時(shí)應(yīng)用，所以有必要進(jìn)一步研究高效準(zhǔn)確的快速算法來(lái)優(yōu)化HEVC編碼器.從子樹(shù)修剪的角度加速HEVC的編碼器是個(gè)好方法，但搜索深度仍然固定.本文從提取當(dāng)前最大編碼單元(largest coding unit，LCU)內(nèi)部的紋理特征角度，利用改進(jìn)的二維直方圖法[10]，建立二維直方圖與當(dāng)前LCU深度之間的統(tǒng)計(jì)關(guān)系，提出了一種新的快速深度決策算法.

圖1　遞歸CU結(jié)構(gòu)的圖解Fig.1　Illustration of the split procedure of recursive CU

1HEVC幀內(nèi)預(yù)測(cè)過(guò)程

HEVC采用四叉樹(shù)的遞歸分割結(jié)構(gòu)，如圖1所示.首先，當(dāng)CU不劃分時(shí)稱為L(zhǎng)CU，其尺寸為64×64，深度為0，對(duì)該LCU進(jìn)行預(yù)測(cè)編碼，得其率失真(rate-distortion，RD)代價(jià).然后，對(duì)LCU進(jìn)行分割，此時(shí)CU的尺寸為32×32，深度為1，同樣對(duì)當(dāng)前CU進(jìn)行預(yù)測(cè)編碼，得其RD代價(jià).若當(dāng)前CU尺寸為8×8時(shí)，即深度為3時(shí)，便不再進(jìn)行分割.接著,從8×8的CU尺寸開(kāi)始，往上進(jìn)行修剪：比較4個(gè)8×8的RD代價(jià)是否小于其上一深度對(duì)應(yīng)的16×16尺寸CU的RD代價(jià)，若小于，則選擇8×8的CU尺寸;否則，選擇16×16尺寸的CU;如此比較下去，直到深度為0.最后,選出具有最小RD代價(jià)的CU作為最終的分割模式.

對(duì)于幀內(nèi)2N×2N的CU，其對(duì)應(yīng)的PU尺寸只能為N×N或2N×2N.而N×N的PU在當(dāng)前CU為8×8時(shí)，才被允許使用.

圖2　HEVC的幀內(nèi)算法流程圖Fig.2　Flowchart of the intra prediction in HEVC

同時(shí)，在每個(gè)深度級(jí)上，HEVC的幀內(nèi)預(yù)測(cè)需在包括2~34等33種角度預(yù)測(cè)模式以及planar和DC模式之間進(jìn)行率失真優(yōu)化(rate distortion optimization，RDO)計(jì)算后，選取具有最小RD代價(jià)的模式作為最優(yōu)的預(yù)測(cè)模式.可見(jiàn)其計(jì)算量相當(dāng)巨大.為了緩解對(duì)35種模式進(jìn)行RDO計(jì)算所帶來(lái)的高額計(jì)算復(fù)雜度，HEVC進(jìn)行粗略模式選擇(rough mode decision，RMD)過(guò)程[11]：首先，利用Hadamard變換代替RDO計(jì)算；然后，從35種模式中粗略選出N個(gè)具有最小的Hadamard代價(jià)(即對(duì)殘差進(jìn)行Hadamard變換求得該殘差的變換絕對(duì)差值和，同時(shí)考慮需要編碼的比特?cái)?shù)這兩者所花費(fèi)的代價(jià))作為候選模式，并且考慮了當(dāng)前CU來(lái)自左邊與上邊CU的最有可能模式(most probable modes，MPMs)；最后，對(duì)這可能的N到N+2個(gè)候選模式進(jìn)行RDO計(jì)算，從中選出代價(jià)最小的預(yù)測(cè)模式作為最優(yōu)的模式.該算法極大地提高了HEVC的編碼速度.幀內(nèi)總的預(yù)測(cè)算法流程，如圖2所示.

2基于二維灰度直方圖的快速深度決策算法

文中算法之所以考慮二維直方圖，是因?yàn)槠胀ǖ囊痪S直方圖只是統(tǒng)計(jì)了某一個(gè)LCU的像素組成，不能反映出該LCU所有像素的位置信息及其內(nèi)部特征.通常一個(gè)LCU塊內(nèi)部周圍的像素相關(guān)性是非常強(qiáng)的，所以要充分利用這些相關(guān)性.基于上述分析，首先，根據(jù)當(dāng)前像素與其周圍像素的相關(guān)程度(與當(dāng)前像素的距離大小)的高低采用不同的權(quán)值進(jìn)行求和，并通過(guò)當(dāng)前像素與濾波后的像素聯(lián)立構(gòu)造二維像素直方圖.可見(jiàn)該二維直方圖不僅利用了該像素本身攜帶的信息，而且還利用了其周圍像素的信息，這在一定程度上可以反映出當(dāng)前LCU的紋理特征.然后，利用該提取的紋理特征選擇當(dāng)前LCU最有可能的深度范圍，跳過(guò)不必要的深度計(jì)算，加快編碼速度.

2.1　二維直方圖的構(gòu)造

圖像的灰度直方圖是統(tǒng)計(jì)某一幅圖像的灰度級(jí)內(nèi)容，它表達(dá)了某一幅圖像各個(gè)灰度級(jí)出現(xiàn)的次數(shù)或者概率.其橫軸覆蓋的灰度級(jí)范圍可以表示出當(dāng)前圖像的色調(diào)變化情況，縱軸可以表示當(dāng)前色調(diào)范圍內(nèi)的灰度值數(shù)量或者頻率.從灰度直方圖可以讀出該幅圖像的很多信息.比如，如果某一灰度級(jí)出現(xiàn)的次數(shù)很多，說(shuō)明組成該幅圖像的灰度值種類較少，該幅圖像色調(diào)比較單一，紋理可能相對(duì)平坦；相反，如果組成該幅圖像的灰度級(jí)有很多種，說(shuō)明該幅圖像的色調(diào)變化劇烈，紋理可能很復(fù)雜.由此可知:可以通過(guò)統(tǒng)計(jì)當(dāng)前LCU的灰度組成，來(lái)判別當(dāng)前LCU是否平坦.因?yàn)橹庇^上，一個(gè)LCU若處于一幅圖像的背景區(qū)域，那么其紋理應(yīng)該相對(duì)平坦，對(duì)于紋理較為平坦的LCU，一般不可能分割到太小的尺寸；相反，一個(gè)LCU若處于圖像的邊緣或細(xì)節(jié)區(qū)域，那么其紋理應(yīng)該會(huì)相對(duì)復(fù)雜，此類LCU一般要分割到比較小的尺寸.所以,研究一個(gè)LCU的紋理特征有助于提前決策出當(dāng)前LCU需要進(jìn)行RDO計(jì)算的深度級(jí)，從而跳過(guò)不必要的深度計(jì)算.

通過(guò)構(gòu)造二維直方圖來(lái)提取當(dāng)前LCU的紋理特征.因?yàn)槎S直方圖不僅利用了本身的像素信息，而且也包含了周圍像素的信息，這在很大程度上能夠表示出當(dāng)前CU的內(nèi)部紋理特征.而對(duì)于紋理比較復(fù)雜的編碼塊，一般會(huì)分割到比較小的尺寸，即比較大的深度，對(duì)于此類編碼塊，可以直接跳過(guò)大尺寸分割時(shí)的編碼計(jì)算；反之亦然.

為了減少計(jì)算量，首先對(duì)當(dāng)前64×64 尺寸的LCU分成16×16個(gè)4×4的子塊；然后，對(duì)每個(gè)4×4子塊的像素進(jìn)行求平均；最后，對(duì)于64×64的LCU，可以得到16×16=256個(gè)像素值.把由這256個(gè)像素所組成的LCU記為P.通常來(lái)講，距離當(dāng)前像素越近的像素與當(dāng)前像素的相關(guān)程度應(yīng)該越高，所以根據(jù)當(dāng)前像素與其周圍像素相關(guān)程度的高低分配不同的權(quán)值，同時(shí)需要滿足權(quán)值的累加和為1.定義矩陣模板為

(1)

利用該模板進(jìn)行濾波，并把濾波后的LCU記為Q.取P中的任一像素值(記為X)和Q中的任一像素值(記為Y)，X與Y都屬于[0,255]區(qū)間內(nèi)，統(tǒng)計(jì)由(X,Y)組成的坐標(biāo)出現(xiàn)的次數(shù)，并把相應(yīng)坐標(biāo)出現(xiàn)的次數(shù)記為Z，可見(jiàn)Z屬于[0,256]區(qū)間內(nèi).最后由(X，Y,Z)可以生成當(dāng)前LCU的二維灰度直方圖.通過(guò)以上描述可知，該二維灰度直方圖不僅考慮了當(dāng)前像素的信息，還包含了其周圍像素的信息.

HEVC中某個(gè)典型的紋理較平坦的LCU的二維灰度直方圖，如圖3所示.由圖3可知：通過(guò)使用HEVC的編解碼參考軟件HM 10.1，該LCU經(jīng)過(guò)RDO計(jì)算后，最終以當(dāng)前深度0作為最優(yōu)的深度.HEVC中某個(gè)典型的紋理復(fù)雜的LCU的二維灰度直方圖，如圖4所示.由圖4可知：該LCU經(jīng)過(guò)RDO計(jì)算后，最終分割到了深度3.圖3~4有力地證明了之前的假設(shè)，即LCU的二維灰度直方圖確實(shí)能在一定程度上反映出當(dāng)前LCU需要分割到的深度級(jí).

圖3　典型的紋理平坦的LCU二維灰度直方圖　　　　　圖4　典型的紋理復(fù)雜的LCU二維灰度直方圖Fig.3　Typical two-dimensional histogram 　　　　　Fig.4　Typical two-dimensional histogram of a homogeneous LCU 　　　　　　　　　of a complicated LCU

2.2　算法流程

從圖3~4所示2種典型紋理的LCU的直方圖特征可以進(jìn)一步發(fā)現(xiàn)：對(duì)于圖3的灰度值對(duì)應(yīng)的最大像素個(gè)數(shù)是一個(gè)較大的值，說(shuō)明這類平坦的LCU主要僅有幾種灰度組成，很有可能是平坦的；相反，對(duì)于圖4比較分散，其灰度值對(duì)應(yīng)的最大像素個(gè)數(shù)值較小，說(shuō)明該類LCU由多種灰度級(jí)構(gòu)成，該類LCU內(nèi)部的灰度變化可能會(huì)比較劇烈.根據(jù)這樣的特點(diǎn)，考慮選取當(dāng)前LCU生成的二維直方圖中灰度值對(duì)應(yīng)的最大像素個(gè)數(shù)值，結(jié)合設(shè)置的閾值進(jìn)行判斷.

經(jīng)過(guò)以上分析及對(duì)大量閾值和不同序列進(jìn)行測(cè)試后，基于二維直方圖的快速深度決策算法具體有如下3個(gè)步驟.

步驟1對(duì)當(dāng)前LCU分成16×16個(gè)4×4的子塊，然后對(duì)每個(gè)4×4子塊的像素進(jìn)行求平均，得到256個(gè)像素值.采用式(1)所示的模板對(duì)這256個(gè)像素進(jìn)行濾波，統(tǒng)計(jì)由該原始LCU以及濾波后的LCU的像素分布，構(gòu)造二維灰度直方圖.

步驟2找出該二維灰度直方圖最大的像素個(gè)數(shù)值，記為max_value.

步驟3判斷max_value所屬的區(qū)間.如果max_value<10，則當(dāng)前LCU的最小深度級(jí)設(shè)置為2；如果10≤max_value<30，則當(dāng)前LCU的最小深度級(jí)設(shè)置為1；如果30≤max_value<40，則當(dāng)前LCU的最小深度級(jí)設(shè)置為1，同時(shí)最大深度級(jí)設(shè)置為2；如果40≤max_value<50，則當(dāng)前LCU的最大深度級(jí)設(shè)置為2；如果max_value≥50，則當(dāng)前LCU的最小與最大深度級(jí)同時(shí)設(shè)置為0.

經(jīng)過(guò)上述分析可知:文中算法是采用4個(gè)閾值，即10,30,40,50，將搜索的深度區(qū)間分為5種，即[2,3],[1,2,3],[1,2],[0,1,2],[0].可以看出:相比HEVC原始幀內(nèi)預(yù)測(cè)算法均統(tǒng)一進(jìn)行4個(gè)深度級(jí)[0,1,2,3]的RDO計(jì)算，采用文中算法至少可以減少1個(gè)深度級(jí)的RDO計(jì)算.若此時(shí)減少的剛好是深度級(jí)3，則可以減少64次CU的RDO計(jì)算，減少的編碼時(shí)間相當(dāng)可觀.

為了證明4個(gè)閾值(10,30,40,50)的合理性，取紋理特征互不相同的4個(gè)序列，量化參數(shù)分別選取22，27，32，37，統(tǒng)計(jì)其命中率,結(jié)果如表1所示.通過(guò)表1可以看出：基于二維直方圖快速深度決策算法對(duì)于測(cè)試序列命中率高達(dá)90%以上，說(shuō)明文中算法可精確排除不必要的深度計(jì)算.

表1　文中算法命中率

3實(shí)驗(yàn)結(jié)果與分析

采用HM10.1測(cè)試模型，測(cè)試的環(huán)境為具有Intel(R) Core(TM)2 Quad CPUQ9400 @2.66 GHz,4.0 GB內(nèi)存的計(jì)算機(jī)，采用VS2008編譯器.因?yàn)槲闹兄会槍?duì)幀內(nèi)編碼進(jìn)行優(yōu)化，故采用的編碼配置為全幀內(nèi)編碼模式，量化參數(shù)(quantization parameter,QP)分別選取22,27,32,37，序列全部統(tǒng)一編碼50幀，其余為默認(rèn)配置[12].

分別選取了A，B，C，D，E 5個(gè)等級(jí)的分辨率共11個(gè)序列進(jìn)行測(cè)試.需要注意的是，本節(jié)所用的11個(gè)實(shí)驗(yàn)序列不與表1中的統(tǒng)計(jì)序列重合.由于文獻(xiàn)[4]同樣提出了幀內(nèi)快速深度決策算法，所以本實(shí)驗(yàn)也實(shí)現(xiàn)了文獻(xiàn)[4]的快速深度決策算法部分，用以與文中算法進(jìn)行比較.采用文獻(xiàn)[4]和文中算法與原始HM10.1比較的實(shí)驗(yàn)結(jié)果，如表 2所示.表2中：BDBR(Bj?ntegaard delta bit rate)與Y-BDPSNR(Y-Bj?ntegaard delta peak signal-to-noise ratio)是文獻(xiàn)[13]中提出的評(píng)價(jià)準(zhǔn)則，分別表示在同樣的客觀質(zhì)量下，2種方法的平均碼率節(jié)省情況，以及在給定的同等碼率下，2種方法的平均Y-PSNR(Y-peak signal-to-noise ratio)的差異.

時(shí)間改變量Δt定義為

(2)

式(2)中:tHM10.1(QPi),tpro(QPi)分別為原始HM10.1和文中算法在不同QP值下的編碼時(shí)間.

由表2可知：文中算法與原始HM10.1相比，平均Y-BDPSNR僅降低0.036 dB,平均BDBR僅增加0.865%，同時(shí)可以節(jié)省21.6%的編碼時(shí)間.從表2可以進(jìn)一步看出：文中算法對(duì)于像PartyScene這類紋理清晰的序列有較好的預(yù)測(cè)，基本不會(huì)影響其率失真性能，且同時(shí)可以減少23.8%的編碼時(shí)間.與文獻(xiàn)[4]相比，兩者的率失真性能幾乎相近，但文中算法編碼時(shí)間減少量更多，提高了2.2%.文中算法是基于當(dāng)前LCU塊的內(nèi)部紋理特征，而文獻(xiàn)[4]是基于一幀視頻內(nèi)空間上的連續(xù)性，即當(dāng)前LCU塊與周圍已編碼的LCU塊最優(yōu)深度之間滿足的較強(qiáng)相關(guān)性.所以，文中算法獨(dú)立于文獻(xiàn)[4]的算法，可以與其進(jìn)一步融合，更大地減少HEVC的幀內(nèi)編碼復(fù)雜度.

表2　文中算法與文獻(xiàn)[4]比較的實(shí)驗(yàn)結(jié)果

圖5　文中算法與原始HM10.1算法的RD曲線Fig.5　RD curves of the proposed algorithm and original algorithm

Traffic序列(class A 2 560×1 600)分別采用文中算法與原始HM10.1算法的RD曲線，如圖5所示.由圖5可知：該序列采用文中算法后的RD曲線與采用原始算法的RD曲線幾乎重合，即在不同的比特率上,文中算法幾乎與HEVC原始算法取得相同的Y-PSNR，這也進(jìn)一步說(shuō)明文中算法具有較高的命中率.

4結(jié)束語(yǔ)

通過(guò)構(gòu)造二維直方圖提取當(dāng)前LCU的紋理特征，并利用該紋理特征進(jìn)行深度的自適應(yīng)選擇，跳過(guò)不必要的深度計(jì)算.實(shí)驗(yàn)結(jié)果表明：文中算法可以保證取得與原始HM10.1幾乎相同的率失真性能，同時(shí)可以減少編碼時(shí)間21.6%，極大地降低了HEVC的編碼復(fù)雜度；而且，文中算法獨(dú)立于現(xiàn)階段出版的大部分幀內(nèi)快速算法，可以與其他幀內(nèi)快速算法融合,進(jìn)一步減少HEVC的幀內(nèi)編碼復(fù)雜度.現(xiàn)階段所做的研究工作都在快速CU尺寸決策的層面上進(jìn)行，今后的工作將嘗試對(duì)幀內(nèi)35種預(yù)測(cè)模式進(jìn)行優(yōu)化，使多種方法融合，以更大地減少HEVC的編碼復(fù)雜度.

參考文獻(xiàn)：

[1]HAN G J,OHM J R,HAN W J,et al.Overview of the high efficiency video coding (HEVC) standard[J].IEEE Transactions on Circuits and Systems for Video Technology,2012,22(12):1649-1668.

[2]BOSSEN F,BROSS B,SUHRING K,et al. HEVC complexity and implementation analysis[J].IEEE Transactions on Circuits and Systems for Video Technology,2012,22(12):1685-1696.

[3]da SILVA T L,AGOSTINI L V,da SILVA CRUZ L A.Fast HEVC intra prediction mode decision based on EDGE direction information[C]∥20th European Signal Processing Conference.Bucharest:IEEE Press,2012:1214-1218.

[4]SHEN Li-quan,ZHANG Zhao-yang,AN Ping.Fast CU size decision and mode decision algorithm for HEVC intra coding[J].IEEE Transactions on Consumer Electronics,2013,59(1):207-213.

[5]JIANG Wei,MA Han-jie,CHEN Yao-wu.Gradient based fast mode decision algorithm for intra prediction in HEVC[C]∥2nd International Conference on Consumer Electronics, Communications and Networks.Yichang:IEEE Press,2012:1836-1840.

[6]TING Y C,CHANG T S.Fast intra prediction algorithm with transform domain edge detection for HEVC[C]∥Asia Pacific Conference on Circuits and Systems.Kaohsiung:IEEE Press,2012:144-147.

[7]XU Dong-xu,LIN Qi-wei,DONG Xiao-hui.Fast intracoding unit size decision algorithm for high-efficiency video coding[J].Journal of Electronic Imaging,2014,23(1):1-13.

[8]ZHANG Yong-fei,LI Zhe,LI Bo.Gradient-based fast decision for intra prediction in HEVC[C]∥Visual Communications and Image Processing.San Diego:IEEE Press,2012:1-6.

[9]KIM J,CHOE Y,KIM Y G.Fast coding unit size decision algorithm for intra coding in HEVC[C]∥IEEE International Conference on Consumer Electronics.Las Vegas:IEEE Press,2013:637-638.

[10]謝晶,賈克斌.一種基于二維直方圖的H.264/AVC快速幀內(nèi)預(yù)測(cè)判決算法[J].電子與信息學(xué)報(bào),2005,27(7):1053-1057.

[11]ZHAO Liang,ZHANG Li,MA Si-wei,et al.Fast mode decision algorithm for intra prediction in HEVC[C]∥Visual Communications and Image Processing.Tainan:IEEE Press,2011:1-4.

[12]BOSSEN F.HM 10 common test conditions and software reference configurations[C]∥12th Joint Collaborative Team on Video Coding Meeting.Geneva:[s.n.],2013:JCTVC-L1100.

[13]BJONTEGARD G.Calculation of average PSNR differences between RD-curves[C]∥13th Video Coding Experts Group Meeting.Austin:ITU-T VCEG,2001：VCEG-M33.

(責(zé)任編輯： 黃曉楠英文審校： 吳逢鐵)

Fast Depth Decision Algorithm Based on Two-Dimensional

Histogram for HEVC Intra Coding

XU Dong-xu, LIN Qi-wei

(College of Information Science and Engineering, Huaqiao University, Xiamen 361021, China)

Abstract：In order to further reduce the great computational complexity for high efficiency video coding (HEVC) intra coding prediction high cost case, a fast depth decision algorithm based on two-dimensional histogram has been proposed in this paper. First, a 3×3 matrix is used to filter the current largest coding unit (LCU). Then, a two-dimensional histogram which is based on the distribution of gray values of the original LCU and the filtered LCU can be generated. By using the two-dimensional histogram, some of the depth levels which are unnecessary can be skipped. Experimental results show that the proposed algorithm can save 21.6% of the encoding time on average with negligible loss of coding efficiency compared with the original HM10.1.

Keywords：high efficiency video coding; depth; two-dimensional histogram; fast mode decision; coding unit; gray histogram

基金項(xiàng)目：福建省自然科學(xué)基金資助項(xiàng)目(2012J01275)

通信作者：林其偉(1959-)，男，副教授，主要從事HEVC中的快速算法的研究.E-mail:qwlin@hqu.edu.cn.

收稿日期：2013-12-23

中圖分類號(hào)：TN 919.81

文獻(xiàn)標(biāo)志碼：A

doi:10.11830/ISSN.1000-5013.2015.01.0023

文章編號(hào)：1000-5013(2015)01-0023-06