趙華 江西省農(nóng)業(yè)信息中心 江西南昌 330046
論云存儲在視訊領(lǐng)域的應(yīng)用優(yōu)勢
趙華 江西省農(nóng)業(yè)信息中心 江西南昌 330046
本文概述了云存儲在視訊領(lǐng)域應(yīng)用的工作原理、并且介紹如何實現(xiàn)視訊資源的存儲、管理、共享、維護(hù)等,以及云存儲在網(wǎng)絡(luò)化和海量視頻共享需求在實際工作中所產(chǎn)生的效益。
網(wǎng)絡(luò) 云存儲 資源共享
近年來,隨著多媒體信息、尤其是海量視頻信息的快速增長,傳統(tǒng)的視訊技術(shù)越來越難以滿足部分行業(yè)在傳輸、存儲及大數(shù)據(jù)計算分析上的需要,或者說很難以更低的成本、更靈活的擴(kuò)展性、更健壯更可靠更安全的系統(tǒng)架構(gòu)來滿足這些需要。因此,云計算的概念這兩年開始越來越多的滲透到視訊領(lǐng)域。其中,云存儲取得的突破性應(yīng)用尤為引人注目。本文將主要就云存儲在視訊領(lǐng)域的應(yīng)用展開分析。
網(wǎng)絡(luò)化技術(shù)的普及,使得視頻會議、視頻監(jiān)控、遠(yuǎn)程會商、按遠(yuǎn)程教育等的應(yīng)用越來越廣泛,信息量越來越多,每時每刻都在增加新的視頻資源。同時,720P、1080P以及4K高分辨率的視頻資源包含著更大的信息量,而這些視頻資源的共享、點播等也成為很多行業(yè)日益迫切的需求,促使現(xiàn)有分散的視頻資源正朝著大集中的方向推進(jìn)。這些不斷增長的視頻數(shù)據(jù)在帶來海量視頻存儲需求的同時,也對當(dāng)前的視頻存儲技術(shù)提出了一系列新的挑戰(zhàn):如何實現(xiàn)存儲容量的平滑擴(kuò)展?如何有效的降低由此帶來的存儲成本?如何更可靠地保存、更安全地使用和更便捷地分享這些數(shù)據(jù)?如何解決越來越龐大的系統(tǒng)給維護(hù)管理帶來的困擾?答案就在云存儲。
云存儲是在云計算概念上衍生和發(fā)展出來的一種技術(shù)或服務(wù)。將網(wǎng)絡(luò)中各類存儲設(shè)備匯集在云計算系統(tǒng)當(dāng)中,通過云計算的概念組織起來協(xié)同工作,對外提供數(shù)據(jù)存儲和業(yè)務(wù)訪問的功能以及與存儲相關(guān)的增值應(yīng)用,即稱為云存儲。
云存儲和云計算都是云架構(gòu)的技術(shù)實現(xiàn),任何應(yīng)用都需要一個計算模型、一個存儲模型和一個通信模型。云計算中,為了實現(xiàn)資源的彈性利用以及給用戶造成資源無限的假象,必須實現(xiàn)資源的復(fù)用。云存儲也是一樣,它通過虛擬化和精簡配置技術(shù),讓資源的效益最大化。與傳統(tǒng)的存儲設(shè)備相比,云存儲不再僅僅是一個硬件,而是一個集合網(wǎng)絡(luò)設(shè)備、存儲設(shè)備、服務(wù)器、應(yīng)用軟件、公用訪問接口、接入網(wǎng)和客戶端程序等多個部分組成的復(fù)雜系統(tǒng)。各部分以存儲設(shè)備為核心,通過應(yīng)用軟件來對外提供數(shù)據(jù)存儲和業(yè)務(wù)訪問服務(wù)。云存儲對外提供的是與存儲相關(guān)的服務(wù)。云存儲可以提供類似于磁盤陣列的裸空間服務(wù),也可以提供基于存儲的特定服務(wù)。
要了解云存儲的系統(tǒng)架構(gòu),需要先了解其應(yīng)用架構(gòu)。我們以平安城市為例來看云存儲的應(yīng)用架構(gòu)。在平安城市中,云存儲可為多個系統(tǒng)提供存儲服務(wù),包括視頻監(jiān)控、卡口電警、圖像資源庫、圖偵分析研判等。其可完成日常視頻錄像資源、各個案件中所涉及的視頻和圖片等資源、卡口電警所產(chǎn)生的車輛抓拍圖片等資源的統(tǒng)一存儲。從應(yīng)用架構(gòu)上看,云存儲系統(tǒng)與傳統(tǒng)分布式存儲系統(tǒng)差異并不明顯,其更本質(zhì)的區(qū)別其實體現(xiàn)在內(nèi)部軟件架構(gòu)上。
云存儲的應(yīng)用架構(gòu)
云存儲系統(tǒng)采用大規(guī)模分布式并行文件系統(tǒng),以大量的服務(wù)器和存儲設(shè)備為基礎(chǔ),構(gòu)建一個大規(guī)模存儲集群,提供上百PB的存儲容量,并能夠在線進(jìn)行容量的擴(kuò)充,由此搭建的大容量存儲系統(tǒng)整體成本遠(yuǎn)低于傳統(tǒng)存儲架構(gòu),并且具有良好的可擴(kuò)充性和靈活性。
云存儲系統(tǒng)通過元數(shù)據(jù)和存儲數(shù)據(jù)分離的非對稱式架構(gòu),通過負(fù)載均衡和數(shù)據(jù)并發(fā)訪問策略,在普通硬件條件下獲得高達(dá)數(shù)十Gbps的傳輸速率以及上百PB級的存儲容量,并可根據(jù)用戶應(yīng)用發(fā)展的趨勢,適時按需進(jìn)行在線動態(tài)擴(kuò)展。與單機的文件系統(tǒng)不同,分布式文件系統(tǒng)不是將這些數(shù)據(jù)放在一塊磁盤上由上層操作系統(tǒng)來管理,而是存放在一個服務(wù)器集群上,由集群中的服務(wù)器,各盡其責(zé),通力合作,提供整個文件系統(tǒng)的服務(wù)。云存儲系統(tǒng)內(nèi)置了基于對象數(shù)據(jù)管理策略,能夠保證在系統(tǒng)局部發(fā)生故障時數(shù)據(jù)的安全性和可靠性,徹底消除存儲系統(tǒng)中的單點故障,結(jié)合自動故障探測和快速故障恢復(fù)技術(shù),確保用戶的應(yīng)用持續(xù)穩(wěn)定地運行,同時減少部署和管理的難度。
更直觀的理解,云存儲系統(tǒng)本身也是構(gòu)建在通用磁盤陣列之上的,它通過通過操作系統(tǒng)的API管理磁盤上的數(shù)據(jù),只不過這樣一個系統(tǒng)在邏輯上可以分為元數(shù)據(jù)節(jié)點(控制節(jié)點)、數(shù)據(jù)節(jié)點(存儲節(jié)點)、管理節(jié)點以及客戶端四個部分。
云存儲結(jié)構(gòu)模型
2.1 元數(shù)據(jù)節(jié)點(控制節(jié)點)
元數(shù)據(jù)節(jié)點即控制節(jié)點,用于記錄所存儲的文件的各種屬性,相當(dāng)于整個文件系統(tǒng)的大腦,管理各個數(shù)據(jù)節(jié)點,收集數(shù)據(jù)節(jié)點信息,了解所有數(shù)據(jù)節(jié)點的現(xiàn)狀,然后給它們分配任務(wù),協(xié)調(diào)指示各數(shù)據(jù)節(jié)點為系統(tǒng)服務(wù);
2.2 數(shù)據(jù)節(jié)點(存儲節(jié)點)
數(shù)據(jù)節(jié)點即存儲節(jié)點,用于管理磁盤和卷和存儲用戶的文件數(shù)據(jù),是整個存儲系統(tǒng)的存儲資源提供者,它同時還負(fù)責(zé)集群構(gòu)建,包括節(jié)點管理和數(shù)據(jù)分片,并承擔(dān)數(shù)據(jù)冗余保護(hù)和對數(shù)據(jù)訪問的負(fù)載均衡;
2.3 管理節(jié)點
管理節(jié)點統(tǒng)一管理云存儲系統(tǒng)中的集群節(jié)點、文件、日志、告警、網(wǎng)關(guān)等,同時提供日志管理、性能監(jiān)控、配置管理、故障管理等能力,方便系統(tǒng)管理維護(hù)人員管理云存儲系統(tǒng);
2.4 客戶端
客戶端在一個獨立的進(jìn)程中提供服務(wù),為用戶提供文件讀寫、目錄操作等APIs,當(dāng)用戶需要使用分布式文件系統(tǒng)進(jìn)行文件讀寫的時候,將客戶端安裝至需使用系統(tǒng)的服務(wù)器,即可使用系統(tǒng)提供的服務(wù)。
與傳統(tǒng)存儲相比,云存儲具備以下幾個方面的顯著優(yōu)勢:
3.1 存儲容量的彈性擴(kuò)展
傳統(tǒng)存儲設(shè)備最大容量有限,當(dāng)達(dá)到一定擴(kuò)展能力就很難再擴(kuò)展,同時存儲性能、安全性、可靠性和經(jīng)濟(jì)性都大大降低。云存儲能夠通過集群很容易獲得PB級存儲容量,存儲擴(kuò)展沒有限制,可隨時隨地在線增加存儲節(jié)點來滿足存儲容量需求,并且能夠做到“增加存儲節(jié)點,數(shù)據(jù)自動重組,減少存儲節(jié)點,數(shù)據(jù)自動恢復(fù)”的彈性和可伸縮性。
3.2 高并發(fā)讀寫性能
傳統(tǒng)存儲設(shè)備的并發(fā)讀寫性能容易受到NAS機頭、CPU或控制器的能力限制,而云存儲系統(tǒng)采用控制與數(shù)據(jù)分離的架構(gòu),脫離了單臺設(shè)備的能力束縛,整個系統(tǒng)的性能主要受網(wǎng)絡(luò)吞吐能力的限制。云存儲技術(shù)可將存儲節(jié)點的帶寬聚合,隨著存儲節(jié)點的增加可以實現(xiàn)帶寬的線性增長,理論上帶寬是無限的。同時在云存儲系統(tǒng)中數(shù)據(jù)文件是拆分成數(shù)據(jù)塊進(jìn)行條帶化存儲在多臺物理存儲節(jié)點上的,能夠最快速的并發(fā)訪問數(shù)據(jù)。另外云存儲中數(shù)據(jù)存儲是采用多副本策略存儲的,可以實現(xiàn)熱點數(shù)據(jù)的負(fù)載均衡訪問。
3.3 可維護(hù)性
云存儲系統(tǒng)采用數(shù)據(jù)冗余存儲機制,硬盤或存儲節(jié)點損壞時,其余節(jié)點可自動重組,數(shù)據(jù)不丟失,系統(tǒng)運行不受影響。這一點大大提升了海量存儲節(jié)點的可維護(hù)性。當(dāng)前來看,最直觀、最能夠體現(xiàn)云存儲優(yōu)勢的就是可維護(hù)性。傳統(tǒng)的存儲設(shè)備,通常用RAID方式進(jìn)行冗余備份,當(dāng)有硬盤損壞時,RAID重構(gòu)時間通常要十幾個小時。而采用分布式文件系統(tǒng),數(shù)據(jù)的存儲和備份不再依賴單臺設(shè)備的能力,有硬盤壞掉時,其余的硬盤將自動進(jìn)行重構(gòu),恢復(fù)受損的數(shù)據(jù),這只需要十幾分鐘的時間,維護(hù)人員只需要定期檢查硬盤的損壞情況,并更換新硬盤即可,維護(hù)非常簡單。
3.4 安全性、可靠性
傳統(tǒng)存儲設(shè)備提供的是一個透明的存儲空間,原始數(shù)據(jù)直接存在存儲設(shè)備上的,數(shù)據(jù)可以直接訪問和使用,并不具有信息安全和私密性。云存儲中的數(shù)據(jù)傳輸是加密的,首先用戶并不知道數(shù)據(jù)存在哪個物理硬盤上,而且數(shù)據(jù)在存儲設(shè)備上是按文件塊存儲的無法直接進(jìn)行訪問。用戶存儲的數(shù)據(jù)只有自己有權(quán)限進(jìn)行訪問和管理,系統(tǒng)管理員也無法讀取。
3.5 資源共享性
傳統(tǒng)存儲設(shè)備一般是以單一形式工作,無法做到多臺設(shè)備之間的容量和帶寬聚合。而云存儲集群文件系統(tǒng),不受限于硬件存儲節(jié)點的數(shù)量,可靈活的進(jìn)行統(tǒng)一管理和共享。云存儲可以把一個存儲池共享給多個用戶進(jìn)行訪問,傳統(tǒng)存儲受限于容量和帶寬的性能是無法做到的。云存儲提供全局統(tǒng)一命名空間,提供示準(zhǔn)的文件訪問接口,支持主流的文件傳輸協(xié)議,同時支持API接口可于應(yīng)用程序更完美的結(jié)合,實現(xiàn)最佳訪問效率。
3.6 總擁有成本低
云存儲系統(tǒng)采用高性價比的以太網(wǎng)絡(luò)和存儲節(jié)點構(gòu)成,比傳統(tǒng)的中高端存儲設(shè)備具有更好的性價比優(yōu)勢。云存儲擴(kuò)容相對比較靈活,可根據(jù)業(yè)務(wù)隨時隨地的進(jìn)行彈性擴(kuò)展,用戶不需要在前期一次性購入,需要時可在線進(jìn)行性能和容量的擴(kuò)展,從而能夠保護(hù)用戶的前期投資。更重要的是,云存儲通過前面提到的可維護(hù)性,可以在管理維護(hù)上大大節(jié)省用戶的總擁有成本(TCO)。
視頻圖像的存儲特點是對實時的存取性能要求較高,而云存儲的系統(tǒng)架構(gòu)決定了它能夠以較低的總擁有成本很好的滿足海量高清或標(biāo)清視頻的并發(fā)寫入、讀取,并能實現(xiàn)快速配置和即插即用。因此,雖然短期來看,云存儲的需求當(dāng)前主要還將集中在大型行業(yè)市場以及基于公有云架構(gòu)的民用市場,但相信未來隨著網(wǎng)絡(luò)化更全面普及和海量視頻共享需求的更快速增長,其應(yīng)用前景將更加廣闊。
1009-0940(2014)-4-0028-03
2014-10-08