張?jiān)Q，虞家睿,陸佳煒，高 飛，肖 剛

(浙江工業(yè)大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院，浙江 杭州 310023)

1 引言

視頻設(shè)備被廣泛應(yīng)用于公共區(qū)域、智慧城市和智慧工廠(chǎng)等許多領(lǐng)域，其產(chǎn)生的視頻數(shù)據(jù)具有體量巨大、速度極快、價(jià)值稀疏和完全非結(jié)構(gòu)化等典型大數(shù)據(jù)特征[1,2]。與此同時(shí)，視頻數(shù)據(jù)中蘊(yùn)含了豐富的有價(jià)值的信息，如根據(jù)電梯視頻數(shù)據(jù)可以進(jìn)行乘客數(shù)統(tǒng)計(jì)、不文明乘梯檢測(cè)和運(yùn)行異常報(bào)警等。由于視頻數(shù)據(jù)體量巨大，如何提高處理性能以快速執(zhí)行視頻分析成為視頻大數(shù)據(jù)面臨的難題。

為了提高視頻數(shù)據(jù)處理的性能，研究者提出了一些視頻大數(shù)據(jù)并行處理框架。Tan等[3]提出了一種將視頻數(shù)據(jù)放至Hadoop分布式框架上作多節(jié)點(diǎn)檢測(cè)以提升運(yùn)算效率的計(jì)算平臺(tái)，詳細(xì)比較了不同節(jié)點(diǎn)與文件大小的效率差異；Lü等[4]通過(guò)Spark云計(jì)算平臺(tái)進(jìn)行分布式存儲(chǔ)，引入CaffeOnSpark提供深度學(xué)習(xí)支持，通過(guò)層次特征完成人臉并行分類(lèi)計(jì)算；葉鋒等[5]提出一種將方向梯度直方圖HOG(Histogram of Oriented Gradient)特征檢測(cè)與Spark大數(shù)據(jù)框架相結(jié)合，并輔以射頻識(shí)別技術(shù)實(shí)現(xiàn)車(chē)輛計(jì)數(shù)的方法；張洪等[6]通過(guò)將幀差法與Spark分布式框架相結(jié)合，利用多節(jié)點(diǎn)的方式實(shí)現(xiàn)車(chē)流量并行統(tǒng)計(jì)；王麗園[7]通過(guò)將電梯監(jiān)控?cái)?shù)據(jù)與分布式框架相結(jié)合，利用在線(xiàn)學(xué)習(xí)算法對(duì)電梯運(yùn)行狀態(tài)進(jìn)行高效監(jiān)測(cè)。但是，這些研究側(cè)重于視頻并行處理框架的設(shè)計(jì)與實(shí)現(xiàn)，并未針對(duì)算法的特點(diǎn)給出相應(yīng)的并行策略，制約了視頻數(shù)據(jù)處理性能的進(jìn)一步提升。

在視頻數(shù)據(jù)處理優(yōu)化方面，研究者們也進(jìn)行了相關(guān)研究。鄭健等[8]將流式計(jì)算和在線(xiàn)分析處理OLAP(On-Line Analytical Processing)框架相結(jié)合，提出了一種基于流式計(jì)算的實(shí)時(shí)視頻分析方法，對(duì)海量視頻數(shù)據(jù)進(jìn)行高效的實(shí)時(shí)查詢(xún)；李海躍等[9]提出了將視頻轉(zhuǎn)化為圖像集，通過(guò)比較曼哈頓距離的方式去冗余幀以提高查詢(xún)效率；張曉宇等[10]提出了基于融合特征的關(guān)鍵幀提取方法；Lü等[11]通過(guò)對(duì)比顏色名稱(chēng)CN(Color Name)、尺度不變特征變換SIFT(Scale Invariant Feature Transform)和局部最大發(fā)生LOMO(Local Maximal Occurrence)3種圖像特征提取圖像關(guān)鍵信息，并結(jié)合分布式框架完成圖像檢測(cè)。然而，以上研究?jī)H適用于幀間無(wú)關(guān)分析算法，不適用于幀間相關(guān)分析算法。由于幀間相關(guān)算法存在前后幀依賴(lài)關(guān)系，無(wú)法直接通過(guò)去冗余幀等方法提高性能，也無(wú)法用簡(jiǎn)單的節(jié)點(diǎn)拆分進(jìn)行并行化。

為了進(jìn)一步提高視頻大數(shù)據(jù)處理性能，滿(mǎn)足視頻大數(shù)據(jù)性能需求，本文提出了基于Spark Streaming的視頻大數(shù)據(jù)并行處理方法，其主要貢獻(xiàn)包括：

(1)針對(duì)幀間無(wú)關(guān)分析算法，提出基于數(shù)據(jù)并行機(jī)制的視頻大數(shù)據(jù)并行處理策略，將視頻數(shù)據(jù)轉(zhuǎn)換為字節(jié)型數(shù)據(jù)，然后將各個(gè)字節(jié)型數(shù)據(jù)劃分到不同的節(jié)點(diǎn)上并行處理。

(2)針對(duì)幀間相關(guān)分析算法，提出基于流水線(xiàn)并行機(jī)制的視頻大數(shù)據(jù)并行處理策略，建立算子之間的依賴(lài)關(guān)系，將各個(gè)算子分別映射到不同節(jié)點(diǎn)以流水線(xiàn)的方式重疊執(zhí)行。

(3)以電梯視頻大數(shù)據(jù)為例，對(duì)典型視頻分析算法進(jìn)行了并行化，通過(guò)實(shí)驗(yàn)證明2種策略在Spark Streaming框架上能夠獲得更高的處理性能。

2 視頻大數(shù)據(jù)并行處理框架

Spark是一個(gè)基于MapReduce并行計(jì)算框架的開(kāi)源實(shí)現(xiàn)[12]，由美國(guó)加州大學(xué)伯克利分校AMPLab實(shí)驗(yàn)室開(kāi)發(fā)，基于內(nèi)存計(jì)算對(duì)數(shù)據(jù)讀寫(xiě)過(guò)程進(jìn)行優(yōu)化，具有更小的I/O開(kāi)銷(xiāo)，支持批處理、迭代計(jì)算、交互式查詢(xún)和流處理等多種計(jì)算模式。彈性分布式數(shù)據(jù)集RDD(Resilient Distributed Dataset)是Spark最基本的抽象概念，它提供了一種共享內(nèi)存式的并行運(yùn)算，將數(shù)據(jù)加載到內(nèi)存中，使得不同的RDD之間存在一定的依賴(lài)關(guān)系。

Spark Streaming是Spark框架的實(shí)時(shí)流處理組件[13]，其采用了一種新的離散流處理模型，計(jì)算流程是將數(shù)據(jù)流以時(shí)間片為單位進(jìn)行切割形成彈性分布式數(shù)據(jù)集RDD，隨后通過(guò)Spark引擎將數(shù)據(jù)集經(jīng)過(guò)處理得到的中間結(jié)果保存在內(nèi)存中,最后再根據(jù)業(yè)務(wù)需求對(duì)中間結(jié)果進(jìn)行疊加或存儲(chǔ)到外部設(shè)備。Spark Streaming流處理的基本模型如圖1所示。

Figure 1 Spark Streaming processing model圖1 Spark Streaming流處理模型

為了提高視頻數(shù)據(jù)處理的實(shí)時(shí)性，本文設(shè)計(jì)了基于Spark Streaming的視頻大數(shù)據(jù)處理框架，其層次結(jié)構(gòu)如圖2所示，該框架包括數(shù)據(jù)分發(fā)層、數(shù)據(jù)傳輸層、數(shù)據(jù)處理層和數(shù)據(jù)應(yīng)用層：

(1)數(shù)據(jù)分發(fā)層：該層用來(lái)采集與分發(fā)各攝像頭的視頻數(shù)據(jù)，通過(guò)4G/5G或有線(xiàn)網(wǎng)絡(luò)將視頻傳入Kafka消息隊(duì)列作為消息生產(chǎn)者，根據(jù)視頻線(xiàn)路將數(shù)據(jù)分發(fā)至不同的傳輸層節(jié)點(diǎn)。

(2)數(shù)據(jù)傳輸層：該層用于傳輸解碼后的視頻幀序列，通過(guò)Receiver接收視頻數(shù)據(jù)流，使用Broker代理節(jié)點(diǎn)對(duì)消息進(jìn)行緩存與傳輸，為每路視頻數(shù)據(jù)設(shè)置相應(yīng)的主題，每個(gè)代理節(jié)點(diǎn)根據(jù)主題的不同將視頻數(shù)據(jù)傳輸至不同的處理層區(qū)域。

Figure 3 Parallelization of inter-frame independent video analysis圖3 幀間無(wú)關(guān)視頻分析算法并行化方法

Figure 2 Video big data processing framework based on Spark Streaming圖2 基于Spark Streaming的視頻大數(shù)據(jù)處理框架

(3)數(shù)據(jù)處理層：該層對(duì)視頻流數(shù)據(jù)解碼并分析，通過(guò)流處理的方式將數(shù)據(jù)流轉(zhuǎn)譯成字節(jié)數(shù)組，以字節(jié)流形式生成RDD數(shù)據(jù)集[14]，通過(guò)Spark Streaming對(duì)各個(gè)RDD并行處理，根據(jù)視頻分析算法采用不同的并行策略，隨后通過(guò)視頻算法對(duì)數(shù)據(jù)進(jìn)行分析，將分析結(jié)果傳入數(shù)據(jù)應(yīng)用層。

(4)數(shù)據(jù)應(yīng)用層：該層用于展示視頻處理與分析的結(jié)果，設(shè)置相應(yīng)的功能模塊，為用戶(hù)提供統(tǒng)一的可視化界面。

3 視頻大數(shù)據(jù)并行處理策略

根據(jù)視頻幀之間的相關(guān)性，典型的視頻分析算法可以被劃分為幀間無(wú)關(guān)分析算法與幀間相關(guān)分析算法[3]。幀間無(wú)關(guān)分析算法不需要考慮前后幀的依賴(lài)關(guān)系，可以獨(dú)立處理各個(gè)視頻幀，例如目標(biāo)檢測(cè)等屬于此類(lèi)算法的應(yīng)用范圍；幀間相關(guān)分析算法則需要考慮前后幀的依賴(lài)關(guān)系，需要分析連續(xù)的視頻幀才能得出結(jié)果，例如目標(biāo)跟蹤、背景差分等屬于此類(lèi)算法的應(yīng)用范圍。針對(duì)以上2種類(lèi)型的視頻分析算法，本文給出不同的并行化策略。

3.1 幀間無(wú)關(guān)分析算法并行化

由于幀間無(wú)關(guān)分析算法不存在前后幀依賴(lài)關(guān)系，因此本文采用數(shù)據(jù)級(jí)并行機(jī)制對(duì)分析算法并行化。為了使視頻分析算法與Spark Streaming框架相兼容，本文使用JavaCV作為視頻幀分析算法庫(kù)，先對(duì)視頻流進(jìn)行解碼，將視頻解析成視頻幀，緩存到內(nèi)存中；將視頻幀轉(zhuǎn)化成字節(jié)數(shù)組，提取幀的長(zhǎng)寬和顏色信息生成對(duì)應(yīng)的圖像數(shù)據(jù)結(jié)構(gòu)，再轉(zhuǎn)化為字節(jié)數(shù)組作為輸入數(shù)據(jù)流；將數(shù)據(jù)流寫(xiě)入隊(duì)列，構(gòu)建分布式視頻流數(shù)據(jù)所特有的格式JavaDStream，視頻幀被轉(zhuǎn)化為JavaRDD，同時(shí)每幀數(shù)據(jù)都由字節(jié)數(shù)組構(gòu)成；將JavaDStream流數(shù)據(jù)格式轉(zhuǎn)換為鍵值對(duì)數(shù)據(jù)，并控制視頻流處理的速度，各個(gè)鍵值對(duì)數(shù)據(jù)并行地在各個(gè)節(jié)點(diǎn)處理，最終輸出分析結(jié)果。在分配集群資源時(shí)，盡量將壓力較大的節(jié)點(diǎn)上的Receiver接收器分配至空閑的節(jié)點(diǎn)上[15]。幀間無(wú)關(guān)分析算法并行化方法如圖3所示，圖中不同節(jié)點(diǎn)表示視頻流處理過(guò)程中格式轉(zhuǎn)化過(guò)程，其中n表示數(shù)據(jù)流中總視頻幀數(shù)。

為了去除冗余幀來(lái)提升視頻處理性能，可結(jié)合幀差法捕捉關(guān)鍵幀。幀差提取法是一種常用的去冗余幀算法[16]，通過(guò)幀差法可在視頻流傳入消息分發(fā)系統(tǒng)前進(jìn)行關(guān)鍵幀的篩選，當(dāng)畫(huà)面變動(dòng)超出閾值時(shí)，將視頻幀傳入Kafka中進(jìn)行分發(fā)，以此減少視頻幀處理數(shù)量。

3.2 幀間相關(guān)分析算法并行化

幀間相關(guān)分析算法要求依次處理各視頻幀才能得到正確的結(jié)果。為此，本文給出一種基于流水線(xiàn)并行機(jī)制的幀間相關(guān)分析算法并行化方法，將分析算法的各個(gè)步驟抽象為算子，建立算子之間的依賴(lài)關(guān)系，并基于算子間的依賴(lài)關(guān)系在Spark Streaming上以流水線(xiàn)并行機(jī)制執(zhí)行。

Figure 5 Parallelization of video background difference algorithm圖5 視頻背景差分算法并行化方法

視頻背景差分算法屬于典型的幀間相關(guān)分析算法，其包括8個(gè)算子，這些算子之間的依賴(lài)關(guān)系如圖4所示。根據(jù)該依賴(lài)圖，顏色濾鏡(cvtColor)算子、背景創(chuàng)建(create)算子、格式轉(zhuǎn)換(convertTo)算子可以并行執(zhí)行，前后幀相減(Absdiff)算子和閾值判定(threshold)算子須串行執(zhí)行，輸出視頻幀分析結(jié)果。根據(jù)視頻分析算法內(nèi)各個(gè)算子之間的依賴(lài)關(guān)系，對(duì)視頻分析算法進(jìn)行并行化。

Figure 4 Dependency diagram between operators in the video background difference algorithm圖4 背景差分算法內(nèi)算子間的依賴(lài)關(guān)系圖

圖5給出了背景差分算法并行化方法，將顏色濾鏡、背景創(chuàng)建、格式轉(zhuǎn)換、大律法和格式轉(zhuǎn)換5個(gè)算子作為子任務(wù)，為其分配獨(dú)立的計(jì)算資源，以分節(jié)點(diǎn)方式并行執(zhí)行。由于背景差分算法需要前后幀相減得出結(jié)果，因此通過(guò)同步算子將視頻幀重新序列化，使其在之后的節(jié)點(diǎn)按序串行執(zhí)行，經(jīng)過(guò)前后幀相減算子與閾值判定算子后輸出結(jié)果。

上述以背景差分視頻算法為例給出了幀間相關(guān)視頻算法并行化過(guò)程。對(duì)于一般的幀間相關(guān)視頻分析算法而言，提取算子的基本策略是對(duì)算法內(nèi)部的關(guān)鍵步驟進(jìn)行分析并劃分，將劃分得到的關(guān)鍵步驟提取為算子，然后建立算子之間的數(shù)據(jù)流依賴(lài)關(guān)系；在輸出分析結(jié)果時(shí)，如果需要同步算子的輸出，則插入同步算子Absdiff以確保算法的正確性。在算子抽取過(guò)程中，盡可能地提取細(xì)粒度的算子，以增加視頻分析算法的并行度。

4 實(shí)驗(yàn)方案與評(píng)價(jià)

電梯是人們?nèi)粘Ｉ钪兄匾慕煌ㄔO(shè)備，為了提升電梯的安全性，不少電梯都配置了監(jiān)控設(shè)備，其產(chǎn)生的數(shù)據(jù)具有典型的大數(shù)據(jù)特征。本文以電梯乘客數(shù)檢測(cè)算法和電梯門(mén)開(kāi)關(guān)檢測(cè)算法為例對(duì)視頻大數(shù)據(jù)處理并行化方法進(jìn)行評(píng)價(jià)，前一個(gè)是幀間無(wú)關(guān)分析算法，后一個(gè)是幀間相關(guān)分析算法。

實(shí)驗(yàn)環(huán)境是具有16個(gè)結(jié)點(diǎn)的集群，每個(gè)結(jié)點(diǎn)為8核CPU，內(nèi)存16 GB，帶寬50 Mbps，操作系統(tǒng)為Ubuntu 16.01，集群上部署了Spark-2.3.1，開(kāi)發(fā)環(huán)境是Java JDK 8.0,在OpenCV 3.3.0上編寫(xiě)程序，使用JavaCV 1.4.2進(jìn)行語(yǔ)言轉(zhuǎn)化。電梯監(jiān)控視頻共32段，每個(gè)視頻時(shí)長(zhǎng)38 min，測(cè)試用視頻大小約為8.28 GB，總時(shí)長(zhǎng)約為6.5 h，視頻大小為1280×720，幀率為24 f/s。

4.1 電梯乘客數(shù)并行檢測(cè)算法

電梯乘客數(shù)檢測(cè)算法采用Haar特征對(duì)圖像進(jìn)行特征提取與識(shí)別[17]，讀入視頻時(shí)將視頻數(shù)據(jù)解析成為圖像數(shù)據(jù)，轉(zhuǎn)換為字節(jié)數(shù)組，通過(guò)Spark Streaming中的Parallelize方法將字節(jié)數(shù)組劃分為RDD作為處理對(duì)象。

視頻字節(jié)數(shù)據(jù)流作為電梯乘客數(shù)檢測(cè)算法的輸入，分析時(shí)將電梯編號(hào)作為Key值，RDD作為Value值，生成流數(shù)據(jù)鍵值對(duì)；以Rect為單位，將鍵值對(duì)數(shù)據(jù)中的RDD數(shù)據(jù)用列表形式存儲(chǔ)，用以記錄每幀數(shù)據(jù)中檢測(cè)到乘客的位置與數(shù)目，在提取圖像像素值后對(duì)像素顏色進(jìn)行灰度化并對(duì)其進(jìn)行圖像預(yù)處理，以降低光照變化對(duì)其產(chǎn)生的影響；調(diào)用訓(xùn)練所得的分類(lèi)器并配合機(jī)器學(xué)習(xí)檢測(cè)方法檢測(cè)此時(shí)圖像中的乘客目標(biāo)；將檢測(cè)所得的乘客位置放入Rect列表中，提取列表長(zhǎng)度作為檢測(cè)到的人數(shù)；最終在后臺(tái)記錄檢測(cè)后生成鍵值對(duì)數(shù)據(jù)流，檢測(cè)出每路視頻中的乘客數(shù)。電梯視頻乘客數(shù)檢測(cè)效果如圖6所示。

Figure 6 Elevator passenger detection effect圖6 電梯乘客數(shù)檢測(cè)效果

檢測(cè)算法采用Haar分類(lèi)器檢測(cè)，訓(xùn)練樣本包括8 235個(gè)正樣本和37 885個(gè)負(fù)樣本，其中正樣本截取自電梯環(huán)境下拍攝的乘客頭肩部分，負(fù)樣本源自各種電梯環(huán)境和乘客物品；在保證準(zhǔn)確度的情況下，設(shè)置訓(xùn)練層數(shù)為21層，每層正樣本數(shù)為1 500，負(fù)樣本數(shù)為3 000，子節(jié)點(diǎn)分裂數(shù)為2次。

在Spark Streaming集群上基于數(shù)據(jù)并行化策略對(duì)電梯乘客數(shù)檢測(cè)算法進(jìn)行了并行化，實(shí)驗(yàn)結(jié)果如圖7所示?？梢钥闯觯瑢?duì)于不同的視頻數(shù)據(jù)量，并行化方法都能夠有效地提高性能：當(dāng)數(shù)據(jù)量為5 GB時(shí)，結(jié)點(diǎn)數(shù)為2,5,10,16的性能分別比結(jié)點(diǎn)數(shù)為1時(shí)的性能提高了178%,260%,463%,658%；當(dāng)數(shù)據(jù)量為8 GB時(shí)，結(jié)點(diǎn)數(shù)為2,5,10,16的性能分別比結(jié)點(diǎn)數(shù)為1時(shí)的性能提高了176%,248%,471%,615%。

Figure 7 Execution time of elevator passenger parallel detection algorithm圖7 電梯乘客數(shù)并行檢測(cè)算法的執(zhí)行時(shí)間

另一方面，當(dāng)視頻數(shù)據(jù)大小一定時(shí)，隨著結(jié)點(diǎn)數(shù)的增加，集群的分析性能并沒(méi)有呈線(xiàn)性增長(zhǎng)。其原因在于結(jié)點(diǎn)數(shù)增加后結(jié)點(diǎn)間的數(shù)據(jù)傳輸開(kāi)銷(xiāo)增大，同時(shí)部分視頻幀計(jì)算量大于其它視頻幀，如部分視頻幀中人數(shù)較多，計(jì)算量較大，使得分區(qū)出現(xiàn)負(fù)載不平衡。

為了便于研究算法中各模塊性能，本文進(jìn)一步分析了視頻數(shù)據(jù)處理各環(huán)節(jié)所消耗時(shí)間，如圖8所示。以視頻數(shù)據(jù)量8 GB為例，從圖8中可以看出，數(shù)據(jù)分發(fā)與人頭檢測(cè)占用了算法絕大部分時(shí)間，分別占到分析時(shí)間的30.9%和39.2%，其次是關(guān)鍵幀提取，占分析時(shí)間的26.9%，最后人頭特征提取與數(shù)據(jù)存儲(chǔ)所占時(shí)間最少，分別占1.8%和1.2%。

Figure 8 Execution time of each module duringparallel detection of elevator passenger number圖8 電梯乘客數(shù)并行檢測(cè)各模塊執(zhí)行時(shí)間

針對(duì)視頻優(yōu)化算法，本文測(cè)試了關(guān)鍵幀提取操作對(duì)電梯乘客數(shù)并行檢測(cè)算法性能的影響，圖9給出了實(shí)驗(yàn)結(jié)果?？梢钥闯?，當(dāng)結(jié)點(diǎn)數(shù)與視頻數(shù)據(jù)大小一定時(shí)，關(guān)鍵幀提取能夠有效地提升性能。例如，當(dāng)數(shù)據(jù)量為8 GB，結(jié)點(diǎn)數(shù)為5時(shí)，通過(guò)關(guān)鍵幀提取性能提高了123%，結(jié)點(diǎn)數(shù)為16時(shí)，通過(guò)關(guān)鍵幀提取性能提高了105%。結(jié)點(diǎn)數(shù)增加時(shí)，由于分布式系統(tǒng)的通信開(kāi)銷(xiāo)增加，導(dǎo)致性能提升會(huì)小于結(jié)點(diǎn)數(shù)較少時(shí)；對(duì)于進(jìn)出人數(shù)較少的視頻幀，關(guān)鍵幀提取的效果明顯高于進(jìn)出頻繁的視頻幀。

Figure 9 Key frame extraction timefor parallel detection of elevator passenger number圖9 電梯乘客數(shù)并行檢測(cè)關(guān)鍵幀提取執(zhí)行時(shí)間

4.2 電梯門(mén)開(kāi)關(guān)異常并行檢測(cè)算法

電梯門(mén)開(kāi)關(guān)異常檢測(cè)算法使用背景差分法檢測(cè)電梯門(mén)開(kāi)關(guān)情況。將視頻數(shù)據(jù)解析為圖像數(shù)據(jù)，并生成對(duì)應(yīng)的灰度圖像，把前一幀的圖像作為前景與背景，對(duì)后一幀的圖像進(jìn)行灰度轉(zhuǎn)換，并將前后幀分別轉(zhuǎn)化為浮點(diǎn)數(shù)格式；隨后使用大律法算法對(duì)前后幀進(jìn)行直方圖計(jì)算，選取全局閾值，按照時(shí)間戳對(duì)視頻幀進(jìn)行同步，確保視頻幀按照時(shí)間順序進(jìn)行后續(xù)處理。在處理完成后使用差分算子將視頻流前后幀相減，若得到的值超過(guò)設(shè)定的閾值threshold，則判定電梯門(mén)正在開(kāi)關(guān)；若得到的值小于設(shè)定的閾值threshold，則判定電梯門(mén)已經(jīng)關(guān)閉，此處閾值為經(jīng)驗(yàn)值，實(shí)驗(yàn)中設(shè)為30像素。實(shí)驗(yàn)效果如圖10所示，當(dāng)有異物或乘客擋住電梯門(mén)時(shí)，監(jiān)控視頻會(huì)馬上報(bào)警提示后臺(tái)。從實(shí)驗(yàn)中可以看出，在電梯轎廂內(nèi)的多種環(huán)境下，該算法的誤檢率與漏檢率均在3%以下，延時(shí)率較低，且對(duì)于背景干擾、光照干擾和抖動(dòng)干擾等該算法都具有一定的適應(yīng)性，擁有較好的泛化能力，可以滿(mǎn)足一般場(chǎng)景下的電梯監(jiān)測(cè)需求。

Figure 10 Elevator door switch abnormality detection圖10 電梯門(mén)開(kāi)關(guān)異常檢測(cè)效果圖

在Spark Streaming集群上基于流水線(xiàn)任務(wù)并行化策略對(duì)電梯門(mén)開(kāi)關(guān)異常檢測(cè)算法進(jìn)行并行化處理，實(shí)驗(yàn)結(jié)果如圖11所示?？梢钥闯?，對(duì)于不同的視頻數(shù)據(jù)量，并行化方法均能夠有效地提高性能：當(dāng)數(shù)據(jù)量為5 GB時(shí)，結(jié)點(diǎn)數(shù)為2,5,10,16的性能分別比結(jié)點(diǎn)數(shù)為1時(shí)的性能提高了137%,164%,211%,259%；當(dāng)數(shù)據(jù)量為8 GB時(shí)，結(jié)點(diǎn)數(shù)為2,5,10,16的性能分別比結(jié)點(diǎn)數(shù)為1時(shí)的性能提高了143%,161%,238%,253%。當(dāng)結(jié)點(diǎn)數(shù)目增加時(shí)，并行檢測(cè)算法的性能提升趨向緩慢，其原因是由于結(jié)點(diǎn)間數(shù)據(jù)傳輸開(kāi)銷(xiāo)以及關(guān)鍵步驟同步開(kāi)銷(xiāo)所引起的部分計(jì)算串行化。

Figure 11 Execution time of elevator door switch abnormality parallel detection algorithm圖11 電梯門(mén)開(kāi)關(guān)異常并行檢測(cè)算法執(zhí)行時(shí)間

針對(duì)幀間相關(guān)分析算法，將流水線(xiàn)任務(wù)并行化策略與現(xiàn)有的分段式并行策略[18]進(jìn)行對(duì)比,實(shí)驗(yàn)結(jié)果如圖12所示。從圖12中可以看出，當(dāng)結(jié)點(diǎn)數(shù)為10時(shí)，2種并行化方法均能有效提高視頻分析效率，且流水線(xiàn)任務(wù)并行化方式明顯優(yōu)于視頻流分段并行化方式，當(dāng)文件大小相同時(shí)，流水線(xiàn)任務(wù)并行化分析效率同比視頻流分段并行高出190%～290%。當(dāng)視頻數(shù)據(jù)量較大時(shí)，分階段任務(wù)并行化策略能有效避免傳統(tǒng)的視頻分段造成的負(fù)載不均衡問(wèn)題，防止通信限制與負(fù)載不均導(dǎo)致分析效率出現(xiàn)大幅下降。

Figure 12 Execution time comparison of inter-frame correlation parallel algorithm圖12 幀間相關(guān)并行算法執(zhí)行時(shí)間比較

5 結(jié)束語(yǔ)

為了提高視頻大數(shù)據(jù)的處理性能，本文設(shè)計(jì)了基于Spark Streaming的視頻大數(shù)據(jù)并行處理框架，包括視頻數(shù)據(jù)的分發(fā)層、傳輸層、處理層和應(yīng)用層。根據(jù)視頻處理算法的特點(diǎn)，結(jié)合數(shù)據(jù)級(jí)并行化機(jī)制與流水線(xiàn)并行化機(jī)制，分別給出了面向視頻幀間無(wú)關(guān)算法的數(shù)據(jù)并行優(yōu)化策略和面向視頻幀間相關(guān)算法的流水線(xiàn)任務(wù)并行化策略。以電梯視頻大數(shù)據(jù)為例，采用幀間無(wú)關(guān)的電梯乘客數(shù)檢測(cè)算法和幀間相關(guān)的電梯門(mén)異常檢測(cè)算法對(duì)并行化方法進(jìn)行了評(píng)價(jià)，結(jié)果表明，本文提出的并行化方法能夠快速提高視頻大數(shù)據(jù)的處理性能，隨著結(jié)點(diǎn)數(shù)的增加性能得到有效提升。本文提出的視頻大數(shù)據(jù)并行框架也可以應(yīng)用于其它視頻領(lǐng)域，如智能交通、視頻安監(jiān)和工業(yè)視頻等領(lǐng)域，以提高視頻分析的總體性能。