盧楠 耿輝 張金剛

【摘要】 移動互聯(lián)網(wǎng)時代，各通信運營商均已建立起大數(shù)據(jù)平臺，而平臺對內(nèi)對外的應(yīng)用支撐能力、數(shù)據(jù)開放共享能力的需求也更加強烈。而日趨成熟的PaaS多租戶架構(gòu)等技術(shù)，對于支撐大數(shù)據(jù)平臺的能力開放建設(shè)提供了有效的技術(shù)思路。本文對大數(shù)據(jù)建設(shè)面臨的業(yè)務(wù)和技術(shù)趨勢，提出了大數(shù)據(jù)平臺能力開放的發(fā)展、演進(jìn)思路，為運營商建設(shè)大數(shù)據(jù)平臺的能力開放提供架構(gòu)設(shè)計上的一點可借鑒的思路。

【關(guān)鍵詞】 大數(shù)據(jù) 能力開放 PaaS 多租戶

一、背景

目前某省通信運營商已建立起以“大數(shù)據(jù)、超細(xì)分、微營銷”為方向，初步實現(xiàn)支持跨域數(shù)據(jù)融合與能力共享的一個大數(shù)據(jù)集中平臺，目前平臺通過云化ETL實現(xiàn)數(shù)據(jù)的采集、裝載、計算。對業(yè)務(wù)支撐域主要接口和網(wǎng)管支撐域的2、3G信令數(shù)據(jù)進(jìn)行采集，構(gòu)建MPP數(shù)據(jù)庫和Hadoop處理平臺，構(gòu)建客戶標(biāo)簽庫、互聯(lián)網(wǎng)內(nèi)容識別能力，并且初步實現(xiàn)了統(tǒng)一運維管理。

隨著業(yè)務(wù)的不斷發(fā)展，平臺接入的各類數(shù)據(jù)不斷增長，包括管理支撐域和政企客戶、電商等相關(guān)數(shù)據(jù)也納入了大數(shù)據(jù)平臺進(jìn)行分析。這對平臺本身面向各類業(yè)務(wù)部門、各種合作伙伴的運營支撐工作提出了挑戰(zhàn)，為充分利用系統(tǒng)的計算資源、數(shù)據(jù)資源，提升數(shù)據(jù)挖掘的能力，統(tǒng)一數(shù)據(jù)模型，進(jìn)一步增強數(shù)據(jù)使用和管理的效率，有必要建設(shè)一體化架構(gòu)、支持能力開放、多租戶技術(shù)的大數(shù)據(jù)平臺，滿足一體化運營發(fā)展的要求。因此，下面提出了一種基于PaaS、多租戶技術(shù)的大數(shù)據(jù)開放平臺建設(shè)方案。

二、大數(shù)據(jù)平臺現(xiàn)狀及問題分析

大數(shù)據(jù)平臺在一期工程完成了基礎(chǔ)架構(gòu)的搭建，采用MPP+Hadoop混搭式架構(gòu)，同時兼顧與現(xiàn)有經(jīng)分架構(gòu)的融合，便于演進(jìn)和擴(kuò)展。

在具體應(yīng)用方面，支撐了營銷策劃、審批和執(zhí)行的閉環(huán)流程，打通了短廳、CRM、外呼等電子渠道；支撐流量運營，提供流量全景圖、客戶畫像中心、營業(yè)廳效能評估、移動指數(shù)應(yīng)用等。

系統(tǒng)總體架構(gòu)分為數(shù)據(jù)采集層、數(shù)據(jù)處理層、數(shù)據(jù)共享層和應(yīng)用層。

系統(tǒng)采集層：構(gòu)建企業(yè)級統(tǒng)一數(shù)據(jù)采集能力，水平擴(kuò)展接入B域數(shù)據(jù)、O域數(shù)據(jù)、M域數(shù)據(jù)、互聯(lián)網(wǎng)數(shù)據(jù)、實時數(shù)據(jù)和外部數(shù)據(jù)等。

數(shù)據(jù)處理層：構(gòu)建多樣化且高效的數(shù)據(jù)處理能力，DB2庫主要負(fù)責(zé)日常生產(chǎn)分析，數(shù)據(jù)價值密度高、周期短、使用頻率高、高度匯總頻率高；MPP庫主要負(fù)責(zé)結(jié)構(gòu)化數(shù)據(jù)計算和存儲、數(shù)據(jù)深度挖掘、長周期數(shù)據(jù)應(yīng)用，數(shù)據(jù)特征價值密度中、周期長（同時視為DB2的備份庫）、跨域跨度大；Hadoop平臺主要負(fù)責(zé)處理后臺結(jié)構(gòu)化/半結(jié)構(gòu)化數(shù)據(jù)，信令數(shù)據(jù)和互聯(lián)網(wǎng)數(shù)據(jù)處理完成后輸出互聯(lián)網(wǎng)知識庫清單，后期將承擔(dān)流量詳單查詢應(yīng)用；實時計算集群負(fù)責(zé)信令數(shù)據(jù)的高效處理和分發(fā)，支撐在線營銷。數(shù)據(jù)處理層離線數(shù)據(jù)和實時數(shù)據(jù)的交互通過云化ETL橫向平滑擴(kuò)展，縱向通過消息接口實現(xiàn)在線數(shù)據(jù)支撐。

共享層：通過服務(wù)總線北向提供豐富的服務(wù)能力和組件能力，提供外部應(yīng)用使用，并屏蔽底層異構(gòu)數(shù)據(jù)源，使外部應(yīng)用按需取數(shù)，實現(xiàn)應(yīng)用與數(shù)據(jù)解耦，支撐應(yīng)用百花齊放。

應(yīng)用層：實現(xiàn)應(yīng)用的統(tǒng)一管理；

目前，系統(tǒng)存在的不足包括以下方面：（1）大數(shù)據(jù)接入大量數(shù)據(jù)源，業(yè)務(wù)部門亟待數(shù)據(jù)開發(fā)（2）上層應(yīng)用程序調(diào)度管理無序，系統(tǒng)資源使用不充分，傳統(tǒng)開發(fā)模式響應(yīng)慢，不能滿足敏捷開發(fā)需求；（3）對于應(yīng)用開發(fā)部署支撐能力弱，無法及時支撐開發(fā)需求；（4）應(yīng)用開發(fā)過程管控能力不足，無法實現(xiàn)對應(yīng)用開發(fā)全流程、全生命周期的有效管控。

因此，大數(shù)據(jù)平臺應(yīng)建立起能力開放體系，將系統(tǒng)處理能力進(jìn)行標(biāo)準(zhǔn)化封裝，按需進(jìn)行開放，實現(xiàn)統(tǒng)一調(diào)度、開發(fā)管理、數(shù)據(jù)管理、多租戶下的資源管控，滿足各業(yè)務(wù)部門數(shù)據(jù)使用的需求，并在經(jīng)驗成熟的情況下逐漸開放給外部眾多的開發(fā)合作伙伴使用。

三、 大數(shù)據(jù)平臺PaaS能力開放需求分析

根據(jù)某省通信運營商的生產(chǎn)、管理、維護(hù)職能的不同特點和技術(shù)要求，大數(shù)據(jù)開放平臺的主要建設(shè)需求分為以下三類：1、數(shù)據(jù)開放：Hadoop中HDFS文件目錄的讀、寫權(quán)限控制；2、資源開放：Hadoop中計算資源（CPU、內(nèi)存），存儲資源（HDFS存儲空間）；3、能力開放：開發(fā)能力，統(tǒng)一開發(fā)IDE，提供MR批量數(shù)據(jù)處理、數(shù)據(jù)挖掘、數(shù)據(jù)報表的開發(fā)能力。統(tǒng)一運行，提供統(tǒng)一開發(fā)結(jié)果的編譯運行引擎，實現(xiàn)開發(fā)結(jié)果在基礎(chǔ)軟件上的運行。提供OpenAPI字典，SDK包。

管控能力，數(shù)據(jù)和資源的管控，基于基礎(chǔ)軟件提供的數(shù)據(jù)、資源隔離能力，PaaS平臺通過多租戶的方式進(jìn)行封裝，實現(xiàn)不同租戶數(shù)據(jù)和資源的隔離。應(yīng)用開發(fā)的管控，提供基于元數(shù)據(jù)的開發(fā)、調(diào)度、數(shù)據(jù)標(biāo)準(zhǔn)、數(shù)據(jù)安全、數(shù)據(jù)隱私、數(shù)據(jù)質(zhì)量、元數(shù)據(jù)、運維監(jiān)控的統(tǒng)一管控，實現(xiàn)可管控的開放。

通過構(gòu)建能力開放的大數(shù)據(jù)開發(fā)環(huán)境，能夠?qū)崿F(xiàn)對整個平臺的多應(yīng)用開發(fā)廠家的情況下開發(fā)過程的管控，有效提升數(shù)據(jù)質(zhì)量。

四、大數(shù)據(jù)平臺PaaS能力開放建設(shè)方案

4.1系統(tǒng)建設(shè)目標(biāo)

綜合系統(tǒng)現(xiàn)有問題和需求分析，提出了目前大數(shù)據(jù)平臺的建設(shè)目標(biāo)：

（1）能力開放。進(jìn)一步開放企業(yè)數(shù)據(jù)中心各層次能力，以提供：數(shù)據(jù)層面的支撐、工具層面的支撐、服務(wù)層面的支撐、系統(tǒng)資源的支撐。

（2）開發(fā)管控。提升數(shù)據(jù)治理的能力，幫助應(yīng)用開發(fā)規(guī)范和流程的落地。統(tǒng)一數(shù)據(jù)治理，實現(xiàn)對應(yīng)用開發(fā)全流程、全生命周期的有效管控。建立數(shù)據(jù)產(chǎn)品目錄，以實現(xiàn)對數(shù)據(jù)資產(chǎn)的有效管理。建立基于元數(shù)據(jù)驅(qū)動的統(tǒng)一開發(fā)和統(tǒng)一運維機(jī)制。規(guī)避資源分配浪費，降低平臺運維成本，打破流程管理瓶頸、解決應(yīng)用廠商開發(fā)差異，提升平臺支撐效率。進(jìn)一步提升開放的能力，促進(jìn)應(yīng)用開發(fā)效率的提高，落實百花齊放的應(yīng)用開發(fā)模式。規(guī)范流程、制定準(zhǔn)入規(guī)范，推動能力開放中心能力應(yīng)用。擴(kuò)展能力開放中心組件能力，提升使用效率。

（3）三個基礎(chǔ)構(gòu)建：①搭建PaaS平臺基礎(chǔ)框架，實現(xiàn)基礎(chǔ)資源的集中管控，低成本運維，資源可以租戶式彈性割離；②基于元數(shù)據(jù)的數(shù)據(jù)資產(chǎn)管理，實現(xiàn)可流動數(shù)據(jù)資產(chǎn)管理；③元數(shù)據(jù)驅(qū)動的統(tǒng)一開發(fā)和執(zhí)行。

4.2 PaaS平臺總體架構(gòu)及功能設(shè)計

大數(shù)據(jù)開放平臺主要實現(xiàn)數(shù)據(jù)、資源、能力的開放。其中數(shù)據(jù)和資源的開放依賴于軟件基礎(chǔ)設(shè)施提供的功能，PaaS平臺封裝軟件基礎(chǔ)設(shè)施的功能實現(xiàn)開放。

某省大數(shù)據(jù)平臺構(gòu)建的PaaS通過提供：統(tǒng)一開發(fā)、統(tǒng)一運行、統(tǒng)一調(diào)度、統(tǒng)一管控功能，實現(xiàn)開發(fā)和管控能力開放，數(shù)據(jù)和資源通過統(tǒng)一管控中的多租戶管理由PaaS封裝軟件基礎(chǔ)設(shè)施功能后開放。

系統(tǒng)提供以下功能：

（1）統(tǒng)一開發(fā)：提供基于元數(shù)據(jù)統(tǒng)一開發(fā)環(huán)境、開發(fā)過程管理，實現(xiàn)數(shù)據(jù)批處理開發(fā)、數(shù)據(jù)挖掘、數(shù)據(jù)報表的開發(fā)。

（2）統(tǒng)一運行：是指統(tǒng)一開發(fā)結(jié)果的運行，提供統(tǒng)一開發(fā)生成元數(shù)據(jù)的編譯執(zhí)行引擎，對大數(shù)據(jù)平臺的數(shù)據(jù)分析、數(shù)據(jù)處理等不同的開發(fā)能力提供相應(yīng)的引擎，滿足開發(fā)結(jié)果的運行。主要包括批處理引擎、數(shù)據(jù)挖掘引擎、報表引擎。

（3）統(tǒng)一調(diào)度：PaaS平臺提供調(diào)度策略的配置，支持以周期性自動調(diào)度和手工調(diào)度；對外提供標(biāo)準(zhǔn)接口服務(wù)，支持對接外部腳本或程序標(biāo)注化接口調(diào)度和優(yōu)先級控制。

（4）統(tǒng)一管控：提供數(shù)據(jù)標(biāo)準(zhǔn)、數(shù)據(jù)權(quán)限、數(shù)據(jù)隱私、數(shù)據(jù)生命周期、數(shù)據(jù)質(zhì)量、元數(shù)據(jù)的管理，通過多租戶管理實現(xiàn)軟件基礎(chǔ)設(shè)施數(shù)據(jù)、資源、能力開放，運維監(jiān)控實現(xiàn)PaaS平臺的監(jiān)控與運維。實現(xiàn)平臺多租戶的資源隔離，針對每個租戶開放的資源可以有自己的CPU，內(nèi)存，存儲配額。租戶可以申請配額，租戶任務(wù)運行過程中使用自己的配額，相互之間的性能不影響。

（5）多租戶開放：PaaS平臺通過多租戶封裝數(shù)據(jù)、資源和工具的能力，PaaS平臺對于存儲在Hadoop上的數(shù)據(jù)都可以通過多租戶方式開放。云化ETL（BDI）、數(shù)據(jù)挖掘（Smartminer）、數(shù)據(jù)報表等可作為工具能力開放，為不同租戶使用。實現(xiàn)Hadoop多租戶的資源隔離，針對每個租戶開放的資源可以有自己的CPU，內(nèi)存，存儲配額。租戶可以申請配額，租戶任務(wù)運行過程中使用自己的配額，相互之間的性能不影響。

（6）流程管控：大數(shù)據(jù)開放平臺主要支撐調(diào)度監(jiān)控者、任務(wù)開發(fā)者和資源分配者三類人員的使用，分別參與PaaS管控平臺的資源分配和審核流程、開發(fā)流程、日常運行維護(hù)和任務(wù)管理流程中。① 任務(wù)開發(fā)者：利用PaaS管控平臺開發(fā)環(huán)境進(jìn)行任務(wù)腳本或過程開發(fā)，并交由統(tǒng)一調(diào)度進(jìn)行任務(wù)執(zhí)行；同時任務(wù)開發(fā)者還進(jìn)行調(diào)度任務(wù)開發(fā)。應(yīng)用開發(fā)、任務(wù)開發(fā)的人我們統(tǒng)稱為任務(wù)開發(fā)者。② 調(diào)度監(jiān)控者：利用PaaS管控平臺的統(tǒng)一調(diào)度監(jiān)控功能，進(jìn)行任務(wù)調(diào)度的日常運維，包括監(jiān)控、啟停等工作，比如：任務(wù)調(diào)度執(zhí)行、監(jiān)控；數(shù)據(jù)質(zhì)量監(jiān)控、元數(shù)據(jù)管理監(jiān)控等。③ 資源分配者：利用PaaS管控平臺的資源管理能力，進(jìn)行資源的分配、審核等。

（7）數(shù)據(jù)共享平臺：PaaS架構(gòu)的數(shù)據(jù)共享平臺提供標(biāo)準(zhǔn)API封裝，提供給外部系統(tǒng)進(jìn)行數(shù)據(jù)查詢和調(diào)用，實現(xiàn)大數(shù)據(jù)系統(tǒng)對外數(shù)據(jù)服務(wù)標(biāo)準(zhǔn)化，同時保障數(shù)據(jù)安全性并降低外部系統(tǒng)數(shù)據(jù)存儲壓力。

4.3未來演進(jìn)思路

引入PaaS架構(gòu)后的大數(shù)據(jù)開放平臺，未來也可以同步接入云資源池管理，演進(jìn)為實現(xiàn)云化管理，實現(xiàn)應(yīng)用的虛擬化部署，支持彈性伸縮，所有部件具備自動配置能力，能夠靜默安裝和配置；系統(tǒng)的安裝、升級、配置均通過IT PaaS進(jìn)行。能在保證數(shù)據(jù)安全、流程管理規(guī)范的前提下，有效地提升應(yīng)用開發(fā)部署的速度。

五、結(jié)束語

從長遠(yuǎn)角度看，通信運營商的IT支撐系統(tǒng)在向著集中化的大方向發(fā)展。大數(shù)據(jù)平臺未來將成為企業(yè)各類網(wǎng)絡(luò)、業(yè)務(wù)核心數(shù)據(jù)的處理中心。實現(xiàn)IT系統(tǒng)的能力開放，將各應(yīng)用系統(tǒng)獨立、封閉的“煙囪”式開發(fā)、交付，轉(zhuǎn)變?yōu)檫\行在PaaS平臺的統(tǒng)一服務(wù)交付和應(yīng)用系統(tǒng)交付模式，已經(jīng)成為面向融合建設(shè)的IT支撐系統(tǒng)的關(guān)鍵。在具備能力開放環(huán)境的IT系統(tǒng)中，既可以提高相關(guān)業(yè)務(wù)系統(tǒng)的生產(chǎn)效率，也保證了各類數(shù)據(jù)的信息安全，對于加快發(fā)展企業(yè)創(chuàng)新模式和思路有著重要意義。

參 考 文 獻(xiàn)

[1] 丁巖. 基于云計算的數(shù)據(jù)挖掘平臺架構(gòu)及其關(guān)鍵技術(shù)研究[J]. 中興通訊技術(shù)，2013，2（1）：53-60

[2] 胡尼亞. 面向移動互聯(lián)網(wǎng)的業(yè)務(wù)能力開放技術(shù)標(biāo)準(zhǔn)綜述[J]. 信息通信技術(shù)，2011，（4）：23-31

[3] 董西成.hadoop技術(shù)內(nèi)幕：深入解析YARN架構(gòu)設(shè)計與實現(xiàn)原理[M].北京：機(jī)械工業(yè)出版社，2013

[4] 成靜靜.基于Hadoop的分布式云計算/云存儲方案的研究與設(shè)計[J].數(shù)據(jù)通信，2012（05）：14-18