文/黎建輝 虞路清 張波 劉峰 吳章生

中科院科學(xué)數(shù)據(jù)云架構(gòu)探析

文/黎建輝 虞路清 張波 劉峰 吳章生

隨著云計(jì)算技術(shù)的發(fā)展，中科院“十二五”信息化發(fā)展規(guī)劃提出了建設(shè)科技云的總體思路，從高速網(wǎng)絡(luò)、超級(jí)計(jì)算、科學(xué)數(shù)據(jù)等方面著手，整合集成各類資源和服務(wù)，形成信息化服務(wù)的云環(huán)境，以云服務(wù)模式為科研活動(dòng)與科技創(chuàng)新提供應(yīng)用服務(wù)。

總體架構(gòu)

科學(xué)數(shù)據(jù)云是“十二五”中科院信息化建設(shè)科技云的重要組成內(nèi)容?？茖W(xué)數(shù)據(jù)云平臺(tái)的總體架構(gòu)如圖1所示。

科學(xué)數(shù)據(jù)云平臺(tái)總體架構(gòu)自下而上共分為三層：基礎(chǔ)設(shè)施層、平臺(tái)層和軟件服務(wù)層三個(gè)層次，并分別對(duì)應(yīng)相關(guān)的資源與服務(wù)，基礎(chǔ)設(shè)施即服務(wù)（IaaS），數(shù)據(jù)即服務(wù)（DaaS）/平臺(tái)即服務(wù)（PaaS）和軟件即服務(wù)（SaaS）。

IaaS層在計(jì)算機(jī)服務(wù)器、網(wǎng)絡(luò)設(shè)備、存儲(chǔ)設(shè)備等硬件環(huán)境基礎(chǔ)上應(yīng)用虛擬化技術(shù)統(tǒng)一為基礎(chǔ)設(shè)施資源池，包括計(jì)算資源、網(wǎng)絡(luò)資源和存儲(chǔ)資源。依托這些資源，面向科研實(shí)際需求構(gòu)建云存儲(chǔ)服務(wù)、云災(zāi)備服務(wù)、云歸檔服務(wù)和云計(jì)算服務(wù)。

圖1 科學(xué)數(shù)據(jù)云平臺(tái)總體架構(gòu)

PaaS層是為用戶提供一整套開發(fā)、運(yùn)行和運(yùn)營應(yīng)用軟件的支撐平臺(tái)，科學(xué)數(shù)據(jù)云的重點(diǎn)是圍繞數(shù)據(jù)處理和數(shù)據(jù)資源開發(fā)數(shù)據(jù)處理與服務(wù)平臺(tái)（DaaS），例如在數(shù)據(jù)處理方面搭建了大數(shù)據(jù)處理和個(gè)性化地圖數(shù)據(jù)定制的平臺(tái)，在數(shù)據(jù)資源方面提供了科學(xué)數(shù)據(jù)庫建庫、管理、發(fā)現(xiàn)的服務(wù)平臺(tái)。

SaaS層是一種通過互聯(lián)網(wǎng)軟件提供資源的服務(wù)模式。重點(diǎn)面向終端用戶需求，在基礎(chǔ)設(shè)施層和平臺(tái)軟件層的基礎(chǔ)上，封裝成熟的數(shù)據(jù)服務(wù)為核心的應(yīng)用軟件平臺(tái)，如提供科學(xué)數(shù)據(jù)共享社區(qū)（DataPub）、地理空間數(shù)據(jù)云系統(tǒng)（GSCloud）等。

隨著“十二五”中科院信息化專項(xiàng)“科技數(shù)據(jù)資源整合與共享工程”實(shí)施和推進(jìn)，目前，科學(xué)數(shù)據(jù)云存儲(chǔ)設(shè)施的總?cè)萘繌?010年6.42PB擴(kuò)展到當(dāng)前的43PB，科學(xué)數(shù)據(jù)庫資源支持了13個(gè)學(xué)科領(lǐng)域數(shù)據(jù)整合重點(diǎn)庫和7個(gè)研究所數(shù)據(jù)整合重點(diǎn)庫，以及20個(gè)專業(yè)數(shù)據(jù)庫，由全院65家單位參與數(shù)據(jù)整合建設(shè)與服務(wù)，海量存儲(chǔ)設(shè)施和科學(xué)數(shù)據(jù)資源取得了重大進(jìn)展，為推動(dòng)科學(xué)數(shù)據(jù)云服務(wù)奠定了重要的基礎(chǔ)。

分布式大規(guī)模基礎(chǔ)設(shè)施環(huán)境

面向全院科研活動(dòng)需求，科學(xué)數(shù)據(jù)存儲(chǔ)基礎(chǔ)設(shè)施分布在中國科學(xué)院12個(gè)分院，形成統(tǒng)一管理、統(tǒng)一服務(wù)的海量數(shù)據(jù)存儲(chǔ)與容災(zāi)備份的云服務(wù)環(huán)境，面向全院提供科學(xué)數(shù)據(jù)中心基礎(chǔ)設(shè)施服務(wù)。

目前，科學(xué)數(shù)據(jù)云的基礎(chǔ)設(shè)施環(huán)境建成總?cè)萘?3PB，具體包括存儲(chǔ)環(huán)境12PB，歸檔環(huán)境（磁帶庫）30PB，災(zāi)備環(huán)境1PB。形成了布局12個(gè)分院、服務(wù)輻射全國的中科院分布式海量存儲(chǔ)環(huán)境系統(tǒng)架構(gòu)，構(gòu)建了包括北京、長春、南京、昆明和東莞5個(gè)災(zāi)備中心的數(shù)據(jù)災(zāi)備服務(wù)網(wǎng)絡(luò)。

分布式海量存儲(chǔ)環(huán)境由上海、廣州、蘭州、合肥、昆明、新疆、成都、武漢、長春、南京、無錫和西安12個(gè)存儲(chǔ)分中心構(gòu)成，各個(gè)存儲(chǔ)分中心和北京總中心之間通過高速CNGI寬帶互聯(lián)，提供統(tǒng)一的云存儲(chǔ)服務(wù)，為海量數(shù)據(jù)的存儲(chǔ)備份、長期保存和數(shù)據(jù)密集型處理等需求提供支撐。數(shù)據(jù)災(zāi)備環(huán)境可提供達(dá)到國標(biāo)5級(jí)“同城兩中心”及“多地多中心”高等級(jí)共享災(zāi)備服務(wù)。此外，中關(guān)村機(jī)房部署了100臺(tái)服務(wù)器，全部用于云計(jì)算服務(wù)。

圖2 云存儲(chǔ)服務(wù)系統(tǒng)框架

中關(guān)村存儲(chǔ)總中心是整個(gè)海量數(shù)據(jù)環(huán)境的中心、數(shù)據(jù)備份中心和管理中心。北京懷柔數(shù)據(jù)備份中心是總歸檔備份中心，主要為數(shù)據(jù)異地備份提供安全保障。

依托海量存儲(chǔ)環(huán)境研發(fā)了云存儲(chǔ)服務(wù)系統(tǒng)。云存儲(chǔ)系統(tǒng)架構(gòu)包括北京中關(guān)村存儲(chǔ)總中心、懷柔數(shù)據(jù)備份中心和12個(gè)區(qū)域存儲(chǔ)分中心，各區(qū)域存儲(chǔ)節(jié)點(diǎn)通過1Gbit/s高速科技網(wǎng)絡(luò)互聯(lián)，面向全院提供統(tǒng)一存儲(chǔ)備份服務(wù)。

云存儲(chǔ)服務(wù)在對(duì)存儲(chǔ)資源虛擬化管理基礎(chǔ)上，形成統(tǒng)一的存儲(chǔ)資源池，實(shí)現(xiàn)用戶1分鐘內(nèi)自助啟用存儲(chǔ)備份。云歸檔服務(wù)支持用戶遠(yuǎn)程數(shù)據(jù)歸檔和自主管理，將專業(yè)數(shù)據(jù)庫應(yīng)用開發(fā)轉(zhuǎn)變成按需配置的在線服務(wù)，實(shí)現(xiàn)用戶1小時(shí)內(nèi)自助云端建庫和數(shù)據(jù)管理。云處理服務(wù)依托分布式海量存儲(chǔ)設(shè)施和處理節(jié)點(diǎn)，構(gòu)建數(shù)據(jù)密集型處理環(huán)境和可視化分析平臺(tái)，為高通量、高性能數(shù)據(jù)處理提供自適應(yīng)、可擴(kuò)展的處理資源適配和調(diào)度。數(shù)據(jù)云服務(wù)針對(duì)可共享的數(shù)據(jù)資源和匯集歸檔并到期釋放的數(shù)據(jù)資源，建立統(tǒng)一的科學(xué)數(shù)據(jù)發(fā)布與引用系統(tǒng)、科學(xué)數(shù)據(jù)管理與服務(wù)運(yùn)行監(jiān)控環(huán)境，提供用戶穩(wěn)定的數(shù)據(jù)集成檢索、數(shù)據(jù)成果發(fā)布等服務(wù)。

云存儲(chǔ)技術(shù)架構(gòu)

在存儲(chǔ)資源虛擬化技術(shù)基礎(chǔ)上，云存儲(chǔ)將分布于12個(gè)分院的存儲(chǔ)節(jié)點(diǎn)的大量存儲(chǔ)設(shè)備通過分布式文件系統(tǒng)集合起來協(xié)同工作，形成統(tǒng)一的存儲(chǔ)資源池，實(shí)現(xiàn)用戶自助使用存儲(chǔ)服務(wù)。同時(shí)使用應(yīng)用軟件進(jìn)行業(yè)務(wù)管理，并通過標(biāo)準(zhǔn)的Web Service應(yīng)用接口，支持科研應(yīng)用在線數(shù)據(jù)存儲(chǔ)和業(yè)務(wù)訪問（如圖2所示）。

為此，科學(xué)數(shù)據(jù)云在各個(gè)分中心部署云存儲(chǔ)相關(guān)軟件，包括分布式存儲(chǔ)系統(tǒng)、應(yīng)用服務(wù)器集群、網(wǎng)絡(luò)和安全支撐平臺(tái)、云存儲(chǔ)業(yè)務(wù)服務(wù)與監(jiān)控運(yùn)維管理平臺(tái)等，同時(shí)各軟件還支持IPv6協(xié)議。

分布式存儲(chǔ)系統(tǒng)：分布式存儲(chǔ)系統(tǒng)作為云存儲(chǔ)環(huán)境的基礎(chǔ)組成部分，硬件平臺(tái)由位于多個(gè)分中心標(biāo)準(zhǔn)的多盤位存儲(chǔ)服務(wù)器構(gòu)建，存儲(chǔ)虛擬化平臺(tái)由全局存儲(chǔ)管理系統(tǒng)將把分散部署在多個(gè)分中心的分布式存儲(chǔ)系統(tǒng)整合為全局可見、可訪問的統(tǒng)一存儲(chǔ)資源池，實(shí)現(xiàn)數(shù)據(jù)異地高速分發(fā)、傳輸以及廣域單一命名空間訪問。分布式集群存儲(chǔ)系統(tǒng)提供符合POSIX規(guī)范的標(biāo)準(zhǔn)接口，任意應(yīng)用程序無需更改便可直接訪問分布式存儲(chǔ)系統(tǒng)中的相關(guān)數(shù)據(jù)。

應(yīng)用服務(wù)器集群：作為應(yīng)用服務(wù)的基礎(chǔ)平臺(tái)，考慮到用戶的不固定性帶來的應(yīng)用不固定性，服務(wù)器集群采用綠色、節(jié)能的刀片服務(wù)器與具有高可擴(kuò)展性的機(jī)架服務(wù)器組合。

網(wǎng)絡(luò)和安全支撐平臺(tái)：作為各硬件系統(tǒng)的通信橋梁，網(wǎng)絡(luò)支撐平臺(tái)包括網(wǎng)絡(luò)交換設(shè)備和網(wǎng)絡(luò)安全設(shè)備兩個(gè)部分?；诎踩?、穩(wěn)定的前提，網(wǎng)絡(luò)交換設(shè)備采用冗余配置，同時(shí)采取應(yīng)用網(wǎng)絡(luò)與存儲(chǔ)網(wǎng)絡(luò)分離的架構(gòu)；為了最大限度地保證部署在多個(gè)分中心的安全，同時(shí)有效地把多個(gè)數(shù)據(jù)分中心整合為一個(gè)虛擬的專用網(wǎng)絡(luò)，每個(gè)數(shù)據(jù)中心部署防火墻、VPN等相關(guān)設(shè)備。

云存儲(chǔ)服務(wù)與管理平臺(tái)：云存儲(chǔ)服務(wù)平臺(tái)是一個(gè)IaaS服務(wù)平臺(tái)，主要為院內(nèi)科研應(yīng)用提供基礎(chǔ)存儲(chǔ)服務(wù)，主要是以Web Service標(biāo)準(zhǔn)接口為科研應(yīng)用服務(wù)提供使用存儲(chǔ)資源的途徑，科研應(yīng)用服務(wù)通過二次開發(fā)調(diào)用Web Service接口實(shí)現(xiàn)文件的在線存儲(chǔ)。

云存儲(chǔ)監(jiān)控和運(yùn)維管理平臺(tái)：為系統(tǒng)運(yùn)維人員提供云存儲(chǔ)資源管理、底層系統(tǒng)管理、用戶賬號(hào)管理、記賬管理、充值服務(wù)、資源分析等運(yùn)維支持服務(wù)。監(jiān)控平臺(tái)主要包括數(shù)據(jù)采集模塊、遠(yuǎn)程控制模塊、用戶管理模塊、存儲(chǔ)管理模塊和開放接口等幾個(gè)部分。利用遠(yuǎn)程控制模塊可以在北京數(shù)據(jù)中心實(shí)現(xiàn)對(duì)異地?cái)?shù)據(jù)中心的設(shè)備有效管理，提高異地?cái)?shù)據(jù)中心設(shè)備的可維護(hù)度。云存儲(chǔ)監(jiān)控平臺(tái)提供標(biāo)準(zhǔn)訪問接口，可以將其它管理、監(jiān)控等多種系統(tǒng)無縫接入到該平臺(tái)中，增強(qiáng)該平臺(tái)的監(jiān)管力度和功能。

云存儲(chǔ)架構(gòu)支持在線擴(kuò)展，在擴(kuò)展的同時(shí)將保障前端應(yīng)用系統(tǒng)服務(wù)的持續(xù)性。當(dāng)擴(kuò)容完畢，新加入的存儲(chǔ)單元自動(dòng)接受全局化調(diào)度和管理。

(作者單位為中國科學(xué)院計(jì)算機(jī)網(wǎng)絡(luò)信息中心)