張志華
摘 要 文章首先簡要介紹了高效視頻編碼(HEVC)的產(chǎn)生背景,隨后對其相對于H.264/AVC采用的新的關(guān)鍵技術(shù)進(jìn)行了介紹,然后通過對HEVC進(jìn)行檢索,統(tǒng)計(jì)分析了HEVC技術(shù)的專利申請情況,并介紹了典型的專利申請案例,對HEVC的專利概況進(jìn)行了簡單的梳理。
關(guān)鍵詞 HEVC;專利申請;專利分析
中圖分類號 C18 文獻(xiàn)標(biāo)識碼 A 文章編號 1674-6708(2018)219-0136-03
近年來,隨著高清、超高清視頻應(yīng)用的興起,視頻信息的數(shù)據(jù)量大大增加,現(xiàn)有的視頻壓縮標(biāo)準(zhǔn)H.264/AVC已經(jīng)不能滿足海量視頻的傳輸和存儲要求。為此,ITU-T和ISO/IEC聯(lián)合成立了視頻編碼聯(lián)合組(JCT-VC),致力于研制具有更高壓縮率的新一代視頻編碼標(biāo)準(zhǔn)——H.265/HEVC [ 1 ]。
1 HEVC關(guān)鍵技術(shù)[2]
1.1 基于四叉樹靈活的塊分割結(jié)構(gòu)
HEVC中為圖像的劃分定義了一套全新的分割結(jié)構(gòu),包括:編碼樹單元(CTU)、編碼單元(CU)、預(yù)測單元(PU)和變換單元(TU)。一個(gè)CTU可以通過四叉樹遞歸分解的方式劃分為若干CU,一個(gè)CU在進(jìn)行幀內(nèi)/幀間預(yù)測時(shí)可以劃分成一個(gè)或多個(gè)PU,在進(jìn)行變換和量化時(shí)又可以劃分成多個(gè)TU。每個(gè)葉子節(jié)點(diǎn)上的CU是HEVC中進(jìn)行編碼的基本單位,用于指示當(dāng)前塊的預(yù)測模式,即幀內(nèi)或幀間預(yù)測。這種四叉樹結(jié)構(gòu)使得HEVC能夠根據(jù)當(dāng)前塊的局部特性靈活地進(jìn)行分塊處理,在平滑區(qū)域采用較大的編碼單元,而在紋理細(xì)節(jié)區(qū)域采用較小的編碼單元,從而能夠更好地提高壓縮效率。
1.2 改進(jìn)的幀內(nèi)預(yù)測技術(shù)
為了更準(zhǔn)確地反映紋理特性,降低預(yù)測誤差,HEVC提出了更為精確的幀內(nèi)預(yù)測技術(shù)。對于亮度信息,HEVC中一共定義了35種幀內(nèi)預(yù)測模式,包括Planar預(yù)測模式、DC預(yù)測模式和33種角度預(yù)測,與H.264/AVC的9種預(yù)測模式相比增加了許多。增加的預(yù)測模式能夠更好地匹配視頻中復(fù)雜的方向性紋理信息,從而得到更好的預(yù)測效果。
1.3 先進(jìn)的幀間預(yù)測技術(shù)
為了提升幀間預(yù)測性能,在HEVC中引入了新的幀間預(yù)測技術(shù),設(shè)有3種模式,分別是Skip模式、Merge模式和Inter模式。其中Skip模式和Merge模式均無需傳送運(yùn)動矢量信息,只傳送候選PU塊的索引信息即可,這樣大幅節(jié)省了運(yùn)動信息的編碼比特?cái)?shù)。在Skip模式中,連運(yùn)動補(bǔ)償后的預(yù)測殘差信息也無需傳送,在解碼端直接由運(yùn)動補(bǔ)償?shù)玫降念A(yù)測信號作為重構(gòu)信號。對于Inter模式,每一個(gè)預(yù)測單元含有一組運(yùn)動參數(shù),包括:幀間預(yù)測的方向、參考幀的索引值、運(yùn)動向量預(yù)測器的索引值以及運(yùn)動向量的預(yù)測殘差。
1.4 自適應(yīng)熵編碼技術(shù)
HEVC中選擇基于上下文的自適應(yīng)二進(jìn)制算術(shù)編碼(CABAC)作為熵編碼算法,其基本設(shè)計(jì)與H.264/ AVC中的CABAC類似,但是HEVC中CABAC熵編碼器的上下文數(shù)量、數(shù)據(jù)間的相互依賴性較H.264有所減少,通過對相同上下文的編碼符號進(jìn)行組合,對通過旁路編碼的符號進(jìn)行組合,同時(shí)減少解析碼流時(shí)的相互依賴性以及對內(nèi)存讀取的需求,使得熵編碼的效率得到進(jìn)一步提高。
1.5 樣值自適應(yīng)補(bǔ)償技術(shù)(SAO)
圖像經(jīng)過編碼后,重構(gòu)圖像的失真不僅存在方塊效應(yīng),還存在振鈴效應(yīng)。HEVC引入樣本自適應(yīng)補(bǔ)償技術(shù),對重建圖像的像素分為不同的類型,然后按照不同的類型為每個(gè)像素加上相應(yīng)的偏移量,從而補(bǔ)償重構(gòu)像素值,降低源圖像的失真,以達(dá)到減少振鈴效應(yīng)失真的目的。SAO主要分為帶狀補(bǔ)償和邊緣補(bǔ)償兩種。帶狀補(bǔ)償主要是針對不同的像素值范圍給予不同的補(bǔ)償值。邊緣補(bǔ)償主要是對圖像的輪廓進(jìn)行補(bǔ)償[3]。
2 專利申請總體狀況
為了研究HEVC專利申請的現(xiàn)狀,筆者在中文專利摘要庫、中文專利全文庫、英文專利摘要庫及英文專利全文庫中利用關(guān)鍵詞、分類號等多種檢索手段,對涉及HEVC的專利文獻(xiàn)進(jìn)行了檢索,檢索截止日期為2017年12月31日。經(jīng)檢索,共獲得全球范圍內(nèi)HEVC相關(guān)專利申請6 933件。由于彼時(shí)2016-2017年的部分專利申請尚未公開,文章僅針對已公開的專利申請進(jìn)行數(shù)據(jù)統(tǒng)計(jì)分析。
2.1 申請量變化趨勢
圖1為2010年至2017年HEVC技術(shù)相關(guān)專利全球及中國申請量的變化趨勢圖。由于JCT-VC于2010年1月才成立,之后正式開始征集提案,因此2010年涉及HEVC的專利申請較少,各公司都剛剛著手進(jìn)行HEVC技術(shù)的研發(fā)。隨著技術(shù)研發(fā)工作的推進(jìn),2011-2012年,申請量快速增長。
2013年4月,HEVC被ITU-T正式接受為國際標(biāo)準(zhǔn)。反映到專利申請量方面,2013年的申請量達(dá)到頂峰,申請人紛紛圍繞新制定的HEVC標(biāo)準(zhǔn)進(jìn)行專利布局。隨著各項(xiàng)關(guān)鍵技術(shù)研究的深入開展,2014年的申請量仍保持高位。隨著該領(lǐng)域技術(shù)的日漸成熟,2015年開始申請量出現(xiàn)明顯回落。2016年,特別是2017年專利申請量較少的原因與統(tǒng)計(jì)時(shí)間有關(guān),相關(guān)專利申請尚未公開。
HEVC技術(shù)在中國的專利申請量相對較少,在中國提出申請或有中文同族的申請僅457件。雖然在 2010年已提出4件申請,但申請量增長比較緩慢,明顯落后于全球HEVC申請量的增長勢頭。這說明我國申請人雖然已有一定的專利布局意識,但技術(shù)研發(fā)水平較國外申請還有一定差距。
到2017年我國申請量才開始快速增長,一舉達(dá)到145件,且考慮到2017年相當(dāng)一部分申請尚未公開,該上升趨勢實(shí)際上會更加迅猛。這一方面是由于其他國家之前的申請開始進(jìn)入中國,另一方面,也說明國內(nèi)企業(yè)和高校仍在針對HEVC標(biāo)準(zhǔn)不斷進(jìn)行改進(jìn)。此時(shí),HEVC的發(fā)展已經(jīng)進(jìn)入了一種穩(wěn)定的狀態(tài),不再有爆發(fā)性的技術(shù)革命,而是相關(guān)技術(shù)的不斷改進(jìn)和完善。這說明我國企業(yè)和高校對HEVC的研發(fā)多以細(xì)節(jié)上的改進(jìn)為主,旨在對HEVC標(biāo)準(zhǔn)進(jìn)行進(jìn)一步完善和升級,根本性的技術(shù)創(chuàng)新較少。
2.2 申請人分析
涉及HEVC技術(shù)的專利申請的主要申請人及其申請數(shù)量如圖2所示。從申請人的分布情況來看,高通遙遙領(lǐng)先,占據(jù)絕對優(yōu)勢,體現(xiàn)了其在該領(lǐng)域的強(qiáng)勁實(shí)力。臺灣的聯(lián)發(fā)科技和日本的索尼分別位列第二和第三,表明其對HEVC的研究也處于全球領(lǐng)先地位。除索尼外,日本的佳能、松下、夏普排名均進(jìn)入前十位,體現(xiàn)了日本企業(yè)在該領(lǐng)域的研發(fā)實(shí)力。華為公司位列第四位,是國內(nèi)申請人中在該領(lǐng)域申請量最高的,也是唯一進(jìn)入前十的中國大陸企業(yè),這體現(xiàn)了華為公司近年來對技術(shù)研發(fā)和專利申請保護(hù)的日益重視,但與國外申請人的申請量相比還有一定的差距,國內(nèi)企業(yè)仍然需要更加努力,縮小差距。
3 典型專利申請
3.1 CN102984521A涉及編碼單元?jiǎng)澐?/p>
本發(fā)明利用相鄰幀之間的PU模式選擇的相似性,根據(jù)前一幀中大尺寸CU所采取的PU模式,選擇當(dāng)前CU的PU模式,跳過一些不太可能的CU分塊尺寸及PU預(yù)測模式,所述方法包括:預(yù)測方式配置和預(yù)測模式選擇,在預(yù)測方式配置中,CU分割深度不大于4,PU采用對稱和非對稱綜合預(yù)測模式或只采用對稱預(yù)測模式,在預(yù)測模式選擇中,將當(dāng)前深度CU總的率—失真代價(jià)之和與上一層CU總的率—失真代價(jià)之和進(jìn)行比較,若比上層更小,則進(jìn)一步采取四叉樹劃分成4個(gè)更下一層深度的CU,否則終止四叉樹劃分。本方法能減少所需遍歷的PU模式,從而能減少率失真代價(jià)計(jì)算的數(shù)量,最終能降低HEVC視頻編碼的計(jì)算復(fù)雜度。
3.2 CN104639940A涉及幀內(nèi)預(yù)測模式選擇
本發(fā)明在幀內(nèi)預(yù)測模式粗選后,充分利用了粗選的幀內(nèi)預(yù)測模式對應(yīng)的基于哈德瑪變換的代價(jià)值的統(tǒng)計(jì)特性,充分考慮了視頻紋理方向與幀內(nèi)預(yù)測模式角度的相關(guān)性,對于不同尺寸的預(yù)測單元類型,通過閾值的方法來快速篩減粗選后的幀內(nèi)預(yù)測模式或者通過計(jì)算粗選的幀內(nèi)預(yù)測模式的連續(xù)性來反映預(yù)測單元的紋理方向,從而篩選掉相應(yīng)不必要的粗選的幀內(nèi)預(yù)測模式,這樣不會引入過多的額外計(jì)算量;其在驗(yàn)證最有可能預(yù)測模式的過程中,充分考慮了粗選的幀內(nèi)預(yù)測模式和最有可能預(yù)測模式的相關(guān)性,及視頻圖像本身的空間相關(guān)性,快速的獲得了最終的最優(yōu)幀內(nèi)預(yù)測模式,在保證視頻編碼質(zhì)量的前提下,減少了幀內(nèi)編碼復(fù)雜度。
3.3 CN103609121A涉及在幀間預(yù)測中的候選塊選擇
本發(fā)明確定用于待譯碼的視頻數(shù)據(jù)的當(dāng)前塊的運(yùn)動向量預(yù)測過程的多種模式中的一者;使用所確定模式和候選塊集合執(zhí)行用于視頻數(shù)據(jù)的當(dāng)前塊的運(yùn)動向量預(yù)測過程,其中,候選塊集合對于多種模式中的每一者相同,可包含左上方候選塊、上方候選塊、右上方候選塊、左側(cè)候選塊、左下方候選塊、時(shí)間候選塊,多種模式可包含合并模式和自適應(yīng)運(yùn)動向量預(yù)測模式。該方法使得存儲運(yùn)動向量和其它幀間預(yù)測相關(guān)信息需要較少存儲器,存儲器帶寬要求也可得以減少。
3.4 CN103563380A涉及基于上下文自適應(yīng)二進(jìn)制算術(shù)編碼
本發(fā)明提供一種減少用于上下文自適應(yīng)熵處理的行緩存的方法,包括確定用于處理區(qū)域中當(dāng)前塊的當(dāng)前語法元素的上下文信息,其中,該上下文信息依據(jù)相應(yīng)于相鄰區(qū)塊的區(qū)塊信息;如果該相鄰區(qū)塊相對于該當(dāng)前區(qū)塊位于區(qū)域邊界的不同邊,以替換區(qū)塊信息來替換相應(yīng)于該相鄰區(qū)塊的該區(qū)塊信息;根據(jù)該上下文信息執(zhí)行該當(dāng)前語法元素的上下文自適應(yīng)熵處理。該方法可有效地減少或移除行緩存需求。
3.5 CN103404137A涉及樣本自適應(yīng)補(bǔ)償
本發(fā)明使用率失真優(yōu)化對已處理視頻數(shù)據(jù)的SAO補(bǔ)償?shù)哪J經(jīng)Q定方法:接收已處理視頻數(shù)據(jù);識別SAO的多個(gè)模式;依據(jù)失真減少量決定每一模式相關(guān)的失真,第一失真與已SAO補(bǔ)償信號和已處理視頻數(shù)據(jù)相關(guān)的原始信號相關(guān),第二失真信號與重建信號(128)和已處理視頻數(shù)據(jù)相關(guān)的原始信號有關(guān);基于失真決定每一模式的率失真成本,在多個(gè)模式中選擇最佳模式,其中最佳模式具有最小的率失真成本;依據(jù)已選擇的最佳模式對已處理視頻數(shù)據(jù)應(yīng)用SAO。該方法可以大大減少所需的計(jì)算和圖像緩沖區(qū)的訪問。
4 結(jié)論
文章簡要介紹了HEVC的發(fā)展概況、主要技術(shù)熱點(diǎn)和專利申請情況,同時(shí)對典型專利進(jìn)行了分析??梢钥闯?,HEVC具有很多有特色的核心技術(shù),這使得它具有出色的壓縮性能和更好的實(shí)用性。在不久的將來,其必將于取代H.264/AVC,成為廣泛應(yīng)用的主流編碼標(biāo)準(zhǔn)。
申請量位于前10位的申請人均為企業(yè),這說明該技術(shù)已經(jīng)進(jìn)入實(shí)際應(yīng)用階段,各大通信企業(yè)都大力投入到了該技術(shù)的研發(fā)和測試中。尤其需要關(guān)注的是該技術(shù)領(lǐng)域中的領(lǐng)軍企業(yè)高通,其申請總量占據(jù)絕對優(yōu)勢,重要專利數(shù)量也非常多,且積極在各國家和地區(qū)進(jìn)行專利布局,值得國內(nèi)企業(yè)跟蹤學(xué)習(xí)。
參考文獻(xiàn)
[1]萬帥,楊付正.新一代高效視頻編碼H.265/HEVC:原理、標(biāo)準(zhǔn)與實(shí)現(xiàn)[M].北京:電子工業(yè)出版社,2014.
[2]趙耀,黃晗,林春雨,等.新一代視頻編碼標(biāo)準(zhǔn)HEVC的關(guān)鍵技術(shù)[J].數(shù)據(jù)采集與處理,2014,29(1):1-10.
[3]崔遙,劉軍.HEVC關(guān)鍵技術(shù)介紹[J].科技創(chuàng)新與應(yīng)用,2012(33):1.