仇紅劍,曹 磊,谷開(kāi)超

(江蘇電力信息技術(shù)有限公司,江蘇 南京 210024)

0 引言

基于深度神經(jīng)網(wǎng)絡(luò)[1-3](DNN)的實(shí)時(shí)視頻流分析使智慧城市建設(shè)、智慧工地項(xiàng)目以及智能駕駛等成為可能。 實(shí)時(shí)視頻流對(duì)于任務(wù)的響應(yīng)時(shí)延極其敏感,隨著離用戶更近、響應(yīng)時(shí)延更低的邊緣計(jì)算技術(shù)的不斷發(fā)展,邊緣服務(wù)器成為基于深度神經(jīng)網(wǎng)絡(luò)的視頻流分析的主要運(yùn)行位置。 通過(guò)在邊緣服務(wù)器上執(zhí)行視頻流分析并向云端或用戶傳輸分析結(jié)果信息,可以降低視頻流分析任務(wù)的響應(yīng)時(shí)延,減少大量高清視頻對(duì)于廣域網(wǎng)帶寬的消耗,同時(shí)提高用戶信息的安全性。

但隨著基于深度神經(jīng)網(wǎng)絡(luò)的視頻流分析越來(lái)越多的部署在邊緣服務(wù)器上,邊緣服務(wù)器上需要處理的工作負(fù)載迅速增多。 邊緣服務(wù)器上的實(shí)時(shí)視頻流分析任務(wù)的服務(wù)質(zhì)量和配置選擇存在著變化的對(duì)應(yīng)關(guān)系,任意時(shí)刻服務(wù)質(zhì)量和配置之間的對(duì)應(yīng)關(guān)系是隨機(jī)的。 邊緣服務(wù)器面臨著如何面對(duì)隨機(jī)的服務(wù)質(zhì)量和配置對(duì)應(yīng)關(guān)系為邊緣上的實(shí)時(shí)視頻流分析任務(wù)選取執(zhí)行配置的問(wèn)題。 亟須研究一種面向邊緣的實(shí)時(shí)視頻流分析系統(tǒng)配置動(dòng)態(tài)調(diào)整算法,提高邊緣服務(wù)器上實(shí)時(shí)視頻流分析任務(wù)處理能力。

本文描述了一種基于側(cè)寫的實(shí)時(shí)視頻流任務(wù)配置更新和調(diào)整算法,通過(guò)動(dòng)態(tài)調(diào)整邊緣上實(shí)時(shí)視頻分析任務(wù)的執(zhí)行配置,并動(dòng)態(tài)對(duì)實(shí)時(shí)視頻分析任務(wù)的配置服務(wù)質(zhì)量進(jìn)行更新,達(dá)到提高邊緣上實(shí)時(shí)視頻流分析任務(wù)總體服務(wù)質(zhì)量的效果。 系統(tǒng)周期性的根據(jù)各實(shí)時(shí)視頻流分析任務(wù)的服務(wù)質(zhì)量與配置的對(duì)應(yīng)關(guān)系選擇需要更新服務(wù)質(zhì)量的配置,并決定各個(gè)實(shí)時(shí)視頻流分析任務(wù)的執(zhí)行配置,之后根據(jù)決定的配置進(jìn)行任務(wù)的執(zhí)行并獲取任務(wù)的反饋信息,最后根據(jù)任務(wù)的反饋信息對(duì)于各實(shí)時(shí)視頻流分析任務(wù)的服務(wù)質(zhì)量與配置的對(duì)應(yīng)關(guān)系進(jìn)行更新,以達(dá)到時(shí)刻維護(hù)系統(tǒng)中各任務(wù)服務(wù)質(zhì)量與配置對(duì)應(yīng)關(guān)系同時(shí)保證系統(tǒng)中任務(wù)的分析精度。

1 邊緣實(shí)時(shí)視頻流分析系統(tǒng)模型

為了提升系統(tǒng)整體服務(wù)質(zhì)量,需要對(duì)于系統(tǒng)運(yùn)行過(guò)程建模。 以最大化系統(tǒng)長(zhǎng)期服務(wù)質(zhì)量為目標(biāo),在考慮邊緣上資源約束以及服務(wù)連續(xù)性約束的基礎(chǔ)上,本文提出了面向邊緣的視頻流分析系統(tǒng)運(yùn)行時(shí)模型。

系統(tǒng)的長(zhǎng)期服務(wù)質(zhì)量定義如下,由每個(gè)時(shí)間槽和每個(gè)視頻流的服務(wù)質(zhì)量總和決定:

每個(gè)視頻流的服務(wù)質(zhì)量定義如下:

其中,yit代表在t時(shí)間時(shí)視頻流i是否需要更新配置,更新配置時(shí)系統(tǒng)會(huì)為該視頻流分配額外的資源用于部署標(biāo)準(zhǔn)配置,使用標(biāo)準(zhǔn)配置的結(jié)果作為其他配置更新服務(wù)質(zhì)量信息時(shí)的參照信息。xijt代表在t時(shí)間時(shí)視頻流i是否部署一個(gè)以j配置運(yùn)行的視頻流任務(wù)。yit與xijt均為0~1 變量。 當(dāng)yit為1 時(shí),系統(tǒng)會(huì)在時(shí)間槽結(jié)束時(shí)為視頻流的執(zhí)行配置運(yùn)行服務(wù)質(zhì)量評(píng)估流程,以此更新系統(tǒng)中各視頻流的服務(wù)質(zhì)量與配置的對(duì)應(yīng)關(guān)系。aijt代表在t時(shí)間時(shí)視頻流i以配置j進(jìn)行視頻流分析時(shí)能夠得到的精度。 由于在每個(gè)時(shí)刻決策時(shí)無(wú)法獲取當(dāng)前時(shí)間視頻流分析時(shí)能夠得到的精度,系統(tǒng)使用當(dāng)前維護(hù)的視頻流預(yù)估精度μijt進(jìn)行計(jì)算。

系統(tǒng)中的約束主要存在兩種,一種是邊緣服務(wù)器的計(jì)算資源約束。 其含義是平均每個(gè)時(shí)刻視頻流使用的GPU 資源不能超過(guò)邊緣上的可用資源,否則會(huì)產(chǎn)生任務(wù)堆積,影響響應(yīng)時(shí)間。 計(jì)算資源約束的建模形式如下:

其中,P代表服務(wù)器的可用計(jì)算資源,oij代表視頻流分析任務(wù)i在使用配置j運(yùn)行時(shí)每秒消耗的GPU 運(yùn)行時(shí)間,該變量隨著時(shí)間變化波動(dòng)較小,因此可以任務(wù)運(yùn)行前通過(guò)額外實(shí)驗(yàn)獲取。 特別的,oi0代表該視頻分析任務(wù)標(biāo)準(zhǔn)配置運(yùn)行消耗的資源量,標(biāo)準(zhǔn)配置在任務(wù)運(yùn)行前需要手動(dòng)指定,并在系統(tǒng)運(yùn)行過(guò)程中保持不變。

另一種是系統(tǒng)中服務(wù)連續(xù)性約束,實(shí)時(shí)視頻流分析任務(wù)需要連續(xù)不斷的運(yùn)行,需要保證每個(gè)時(shí)刻每個(gè)視頻流至少有一個(gè)配置正在運(yùn)行。 在該視頻流的配置服務(wù)質(zhì)量需要更新時(shí),該視頻流執(zhí)行的配置可以超過(guò)一個(gè)。 因此,連續(xù)性約束建模形式如下:

第一個(gè)約束表示每個(gè)時(shí)刻每個(gè)視頻流都需要至少一個(gè)配置,第二個(gè)約束表示只有在視頻流的配置服務(wù)質(zhì)量需要更新時(shí),該視頻流執(zhí)行的配置可以超過(guò)一個(gè)。

2 實(shí)時(shí)視頻流任務(wù)配置選擇算法

2.1 配置篩選

在視頻流分析任務(wù)中存在多維可選參數(shù),每維可選參數(shù)存在多種可選值,每維可選參數(shù)的所有可選值的笛卡爾積組成視頻流分析任務(wù)的所有配置,故視頻流分析任務(wù)中的配置數(shù)十分龐大,可能達(dá)到數(shù)百個(gè)配置。 每個(gè)配置都進(jìn)行考慮并更新對(duì)于問(wèn)題求解以及系統(tǒng)運(yùn)行都是巨大的負(fù)擔(dān),因此首先通過(guò)帕累托最優(yōu)篩選出具有代表性的配置,在后續(xù)選擇時(shí)只選擇這些配置。

首先,篩掉所有效益預(yù)期低于系統(tǒng)預(yù)期的配置,這些配置的執(zhí)行效果太差,一旦執(zhí)行會(huì)導(dǎo)致任務(wù)擠壓,所以應(yīng)當(dāng)首先出去。

其次,將所有的配置按照其消耗的資源量進(jìn)行排序,后續(xù)一定不會(huì)被選到的配置方案為滿足以下任一條件的配置方案:

其中:μ′ij-1為配置方案cij-1的準(zhǔn)確率,wij-1配置方案cij-1的計(jì)算資源開(kāi)銷,cij-1為實(shí)時(shí)流式數(shù)據(jù)分析任務(wù)i以配置j -1 執(zhí)行的配置方案;μ′ij+1為配置方案cij+1的優(yōu)先級(jí),wij+1配置方案cij+1的計(jì)算資源開(kāi)銷,cij+1為實(shí)時(shí)流式數(shù)據(jù)分析任務(wù)i以配置j +1 執(zhí)行的配置方案。 第一項(xiàng)篩掉的是前一項(xiàng)比后一項(xiàng)優(yōu)秀的配置,因?yàn)榇藭r(shí)配置j -1 的資源量比j的資源量要少,而且其處理準(zhǔn)確率比j要好,顯然選擇j -1 要優(yōu)先于j。 而后一項(xiàng)篩掉的是選取前后兩個(gè)配置要好于只選j配置的方案。

2.2 啟發(fā)式求解算法

將上文提出的長(zhǎng)效優(yōu)化問(wèn)題分解成每個(gè)時(shí)隙求解的子問(wèn)題。 平均資源消耗則化為嚴(yán)格在每個(gè)時(shí)間資源消耗不超過(guò)P。 以上提出的每個(gè)時(shí)隙解決的問(wèn)題是背包問(wèn)題的特例,因此也是NPH 問(wèn)題,無(wú)法在多項(xiàng)式時(shí)間內(nèi)給出最優(yōu)解。 本文針對(duì)上述問(wèn)題提出啟發(fā)式算法進(jìn)行求解。 啟發(fā)式算法首先考慮不更新配置服務(wù)質(zhì)量關(guān)系以及只更新單一配置的情況,該種情況是原問(wèn)題的一個(gè)可行解。 接著利用剩下的資源求解一個(gè)背包問(wèn)題,即目標(biāo)是最大化所有流的服務(wù)質(zhì)量,約束條件是資源使用不超過(guò)限制,使得更新配置與服務(wù)質(zhì)量關(guān)聯(lián)關(guān)系的視頻流能夠得到盡量多的信息。 將第一步得到的結(jié)果與第二步得到的結(jié)果結(jié)合,得到的解仍然是原問(wèn)題的一個(gè)解,這樣就得到了原問(wèn)題的一個(gè)可行解。

3 實(shí)驗(yàn)結(jié)果與分析

本文研究了面向邊緣環(huán)境的實(shí)時(shí)視頻流分析系統(tǒng)的配置更新與執(zhí)行問(wèn)題,以最大化系統(tǒng)長(zhǎng)期服務(wù)質(zhì)量為目標(biāo),在考慮邊緣上資源約束以及服務(wù)連續(xù)性約束的基礎(chǔ)上,提出了一種啟發(fā)式的服務(wù)質(zhì)量最大化算法以實(shí)現(xiàn)較優(yōu)的系統(tǒng)效益。

為了證明本文算法的可行性與效果,本文實(shí)現(xiàn)了實(shí)時(shí)視頻流分析原型系統(tǒng),并選取了真實(shí)交通路口車流監(jiān)控視頻進(jìn)行實(shí)驗(yàn)。 在實(shí)驗(yàn)中,配備CPU、Intel(R)Xeon(R)Gold 5117 CPU@ 2.00 GHz、GPU、GeForce RTX 2 080 Ti(11 GB)、內(nèi)存128 GB 的物理機(jī)器上部署視頻分析系統(tǒng),以便處理所有分析。 分析任務(wù)是基于DNN 的目標(biāo)檢測(cè)。 使用CUDA 10.1 和cuDNN 7.0 來(lái)加速DNN 推理速度。 本文使用darknet Python API 執(zhí)行DNN 模型進(jìn)行檢測(cè),使用預(yù)先訓(xùn)練的對(duì)象檢測(cè)模型Yolov3-416,分類閾值為0.7。 該模型在COCO 圖像數(shù)據(jù)集上預(yù)訓(xùn)練,可以檢測(cè)80 個(gè)類。 實(shí)驗(yàn)與目前最先進(jìn)的相關(guān)算法進(jìn)行對(duì)比,驗(yàn)證了本算法能夠提升系統(tǒng)的整體服務(wù)質(zhì)量。 實(shí)驗(yàn)結(jié)果如圖1 所示。

圖1 實(shí)驗(yàn)結(jié)果

4 結(jié)語(yǔ)

針對(duì)邊緣服務(wù)器上的實(shí)時(shí)視頻流分析系統(tǒng)的配置選擇問(wèn)題,本文提出了基于側(cè)寫的實(shí)時(shí)視頻流任務(wù)配置更新和調(diào)整算法用于提升邊緣服務(wù)器的實(shí)時(shí)視頻流分析任務(wù)的處理能力,想必其他同類算法。 本文算法能夠利用有限的資源提升邊緣服務(wù)器上現(xiàn)有任務(wù)的服務(wù)質(zhì)量或在平均服務(wù)質(zhì)量相近的情況下提升邊緣服務(wù)器上的視頻分析任務(wù)執(zhí)行任務(wù)數(shù)。