劉辰，李俊，雷斌，傅揚

（中國黃金集團(tuán)有限公司，北京 100011）

1 引言

1.1 研究背景

信息化浪潮席卷世界，今天的企業(yè)，特別是大型央企的運轉(zhuǎn)越來越依賴體系內(nèi)各類信息系統(tǒng)。一方面業(yè)務(wù)越來越繁忙，帶來時間成本效率比越來越高，另一方面也帶來了不可忽視的信息系統(tǒng)安全問題，這充分說明信息化建設(shè)是一把雙刃劍。特別是，由于各種人為或意外導(dǎo)致的數(shù)據(jù)丟失造成系統(tǒng)崩潰、業(yè)務(wù)中斷的問題屢見不鮮。保障數(shù)據(jù)安全和業(yè)務(wù)連續(xù)，已成為信息化工作的下一個重點，也是行業(yè)大勢所趨。

中國黃金的每一個業(yè)務(wù)系統(tǒng)都為公司的生產(chǎn)經(jīng)營發(fā)揮著積極作用，從管理提升、精細(xì)化管理等多個層面加快了業(yè)務(wù)流程的協(xié)調(diào)運行。為了應(yīng)對信息系統(tǒng)可能存在的風(fēng)險，保障核心業(yè)務(wù)系統(tǒng)的不間斷運行，備份是數(shù)據(jù)安全保護(hù)的有效手段。只有進(jìn)行了數(shù)據(jù)備份，才能夠在災(zāi)難發(fā)生時快速地恢復(fù)系統(tǒng)和數(shù)據(jù)，將意外帶來的損失降低到最小。但僅有數(shù)據(jù)備份是不夠的。為確保關(guān)鍵數(shù)據(jù)、關(guān)鍵數(shù)據(jù)處理系統(tǒng)和關(guān)鍵業(yè)務(wù)在災(zāi)難發(fā)生后可以快速恢復(fù)，在數(shù)據(jù)備份的基礎(chǔ)上，還需要進(jìn)行災(zāi)備中心的建設(shè)。災(zāi)備中心在異地保存?zhèn)浞輸?shù)據(jù)與應(yīng)用，確保災(zāi)難發(fā)生后用戶原有的數(shù)據(jù)不會丟失或遭到破壞，確保在主數(shù)據(jù)中心發(fā)生故障的情況下，異地災(zāi)備中心可及時接管業(yè)務(wù)，以滿足業(yè)務(wù)連續(xù)性需求。

2 系統(tǒng)設(shè)計

2.1 設(shè)計思想

業(yè)務(wù)連續(xù)性的支撐是指通過對生產(chǎn)系統(tǒng)給予綜合性、多層次的容災(zāi)保護(hù)，確保在任何情況下都能提供不間斷的用戶應(yīng)用服務(wù)。其中非常重要的一個設(shè)計考慮就是：如果只有一套生產(chǎn)應(yīng)用系統(tǒng)，即使自身的冗余性再高，但當(dāng)面臨區(qū)域性災(zāi)難時就會由于單點失敗而使應(yīng)用服務(wù)中斷。所以通過在拉長一定距離的另外一個空間上建立與應(yīng)用系統(tǒng)相同的備用系統(tǒng)，是實現(xiàn)業(yè)務(wù)連續(xù)性的必要保證。因此，要實現(xiàn)業(yè)務(wù)連續(xù)性支撐需要在一定距離上的遠(yuǎn)端，建立一套完整的、與本地系統(tǒng)相當(dāng)?shù)那铱梢曰閭浞莸膽?yīng)用系統(tǒng)；其次，主備系統(tǒng)間通過數(shù)據(jù)備份和數(shù)據(jù)復(fù)制技術(shù)實現(xiàn)數(shù)據(jù)層面的容災(zāi)，進(jìn)而為實現(xiàn)應(yīng)用級容災(zāi)打下基礎(chǔ)；最后，通過云計算的特征使得備用系統(tǒng)能接替主系統(tǒng)對外提供服務(wù)，保證服務(wù)不中斷。

本系統(tǒng)應(yīng)用級容災(zāi)采用數(shù)據(jù)庫存儲業(yè)務(wù)數(shù)據(jù)。在此基礎(chǔ)上，可以避免上層應(yīng)用及其處理流程的復(fù)雜性和多樣性，不必為消除應(yīng)用間的差異而改建原有的應(yīng)用體系，而且能使用數(shù)據(jù)庫現(xiàn)有的一些成熟技術(shù)。

2.2 系統(tǒng)結(jié)構(gòu)

本系統(tǒng)的結(jié)構(gòu)如圖1所示：

圖1 系統(tǒng)結(jié)構(gòu)示意圖

2.3 構(gòu)成模塊

（1）數(shù)據(jù)備份

在中國黃金集團(tuán)本地機(jī)房部署一套實時數(shù)據(jù)備份系統(tǒng)，通過CDP實時保護(hù)技術(shù)，實現(xiàn)各業(yè)務(wù)系統(tǒng)的文件、數(shù)據(jù)庫、操作系統(tǒng)以及虛擬化平臺的數(shù)據(jù)在線保護(hù)。

（2）異地容災(zāi)

在中國黃金集團(tuán)本地機(jī)房部署一套容災(zāi)系統(tǒng)，同時在異地災(zāi)備中心（IDC機(jī)房）部署一套容災(zāi)系統(tǒng)；通過CDP實時保護(hù)技術(shù)，實現(xiàn)應(yīng)用容災(zāi)機(jī)制。

本地容災(zāi)接管：當(dāng)關(guān)鍵生產(chǎn)服務(wù)器或存儲發(fā)生故障時，服務(wù)能夠自動及時切換到本地容災(zāi)平臺上繼續(xù)運行，并可持續(xù)對外提供業(yè)務(wù)服務(wù)；

異地容災(zāi)接管：異地災(zāi)備中心容災(zāi)平臺，可提供異地容災(zāi)服務(wù)，當(dāng)本地關(guān)鍵生產(chǎn)服務(wù)器發(fā)生故障時，服務(wù)能夠自動及時切換到地容災(zāi)平臺上繼續(xù)運行，并可持續(xù)對外提供業(yè)務(wù)服務(wù)。從而確保各業(yè)務(wù)系統(tǒng)7×24小時不間斷運行，保障核心業(yè)務(wù)連續(xù)服務(wù)。

最終可以實現(xiàn)如下的目標(biāo)：各業(yè)務(wù)系統(tǒng)RTO≤2小時；A級數(shù)據(jù)庫RPO≤1分鐘；B級數(shù)據(jù)庫RPO≤30分鐘；C級數(shù)據(jù)庫RPO≤24小時；應(yīng)用RPO≤1周。

3 具體實現(xiàn)

3.1 數(shù)據(jù)備份實現(xiàn)

（1）在本地數(shù)據(jù)中心機(jī)房，在需要進(jìn)行備份的各業(yè)務(wù)系統(tǒng)服務(wù)器上分別安裝備份Agent代理，備份服務(wù)器將自動識別到已安裝備份代理的業(yè)務(wù)系統(tǒng)服務(wù)器。

（2）A級：針對A級數(shù)據(jù)庫（業(yè)務(wù)等級）關(guān)鍵業(yè)務(wù)系統(tǒng)RPO≤1分鐘的數(shù)據(jù)保護(hù)需求，方案采用CDP實時數(shù)據(jù)保護(hù)技術(shù)，連續(xù)實時捕獲所需備份數(shù)據(jù)變化，多版本備份，實現(xiàn)過去任意時間點的數(shù)據(jù)恢復(fù)，備份恢復(fù)顆粒度需要達(dá)到秒級；支持Oracle、SQLServer、MySQL等數(shù)據(jù)庫數(shù)據(jù)的CDP實時保護(hù)。并且在恢復(fù)時可以選擇單個文件或數(shù)據(jù)庫進(jìn)行任意一秒的恢復(fù)，實現(xiàn)業(yè)務(wù)數(shù)據(jù)零丟失，提高應(yīng)急防護(hù)能力，滿足中國黃金集團(tuán)公司關(guān)鍵業(yè)務(wù)系統(tǒng)數(shù)據(jù)的保護(hù)要求。

（3）B級：針對B級數(shù)據(jù)庫（業(yè)務(wù)等級）重要業(yè)務(wù)系統(tǒng)RPO≤30分鐘的保護(hù)需求，方案采用CDP實時數(shù)據(jù)保護(hù)技術(shù)，連續(xù)實時捕獲所需備份數(shù)據(jù)變化，多版本備份；支持Oracle、SQLServer、MySQL等數(shù)據(jù)庫數(shù)據(jù)的CDP實時保護(hù)，提高應(yīng)急防護(hù)能力，滿足中國黃金集團(tuán)公司重要業(yè)務(wù)系統(tǒng)數(shù)據(jù)的保護(hù)要求。

（4）C級：針對C級數(shù)據(jù)庫（業(yè)務(wù)等級）重要業(yè)務(wù)系統(tǒng)RPO≤24小時的保護(hù)需求，采取定時備份措施，多版本備份，通過備份策略部署，可實現(xiàn)SQL、Oracle、Mysql、DB2等主流數(shù)據(jù)庫、以及國產(chǎn)數(shù)據(jù)庫的在線定時保護(hù)，滿足RPO≤24小時的備份需求。

（5）應(yīng)用：針對應(yīng)用業(yè)務(wù)系統(tǒng)RPO≤1周的保護(hù)需求，采用定時備份措施，通過備份策略部署，多版本備份，可實現(xiàn)應(yīng)用的數(shù)據(jù)保護(hù)（數(shù)據(jù)庫、操作系統(tǒng)、文件等數(shù)據(jù)備份、以及虛擬化平臺備份），滿足RPO≤1周的備份需求。

（6）備份任務(wù)通過數(shù)據(jù)備份策略頁面進(jìn)行設(shè)定，即可完成數(shù)據(jù)備份策略設(shè)置。

本地數(shù)據(jù)備份策略設(shè)置完成后，可一步到位將目標(biāo)服務(wù)器上的數(shù)據(jù)庫、操作系統(tǒng)、虛擬機(jī)、文件等類型數(shù)據(jù)進(jìn)行備份，數(shù)據(jù)將會通過備份系統(tǒng)中的CDP備份模塊自動集中備份到備份服務(wù)器中。

通過在機(jī)房網(wǎng)絡(luò)中部署數(shù)據(jù)實時備份與恢復(fù)系統(tǒng)，對各主機(jī)數(shù)據(jù)進(jìn)行多版本歷史數(shù)據(jù)的集中備份保護(hù)，可有效規(guī)避各類數(shù)據(jù)丟失或是邏輯錯誤問題。當(dāng)發(fā)生諸如此類問題時，可從數(shù)據(jù)備份保護(hù)系統(tǒng)中按任意時間點，進(jìn)行數(shù)據(jù)的細(xì)粒度應(yīng)急恢復(fù)服務(wù)，確保數(shù)據(jù)的可用性，從而將災(zāi)難所導(dǎo)致的損失降到最低。

數(shù)據(jù)實時備份與恢復(fù)系統(tǒng)跨平臺支持各類桌面PC、服務(wù)器、虛擬機(jī)及小型機(jī)等主機(jī)，且支持Windows、Linux、Unix等主流操作系統(tǒng)下Oracle、SQL等數(shù)據(jù)庫，支持各類數(shù)據(jù)CDP備份，整個系統(tǒng)具有良好的兼容性和可擴(kuò)展性。

策略設(shè)置完成后，可一步到位將數(shù)據(jù)庫、操作系統(tǒng)、虛擬機(jī)、文件等類型數(shù)據(jù)，數(shù)據(jù)將會通過備份系統(tǒng)中的CDP備份模塊自動集中備份到備份服務(wù)器中，進(jìn)行加密存儲。完善后的數(shù)據(jù)備份平臺可提供檔案業(yè)務(wù)系統(tǒng)的數(shù)據(jù)的應(yīng)急恢復(fù)能力，將災(zāi)難所導(dǎo)致的損失降到最低。

3.2 應(yīng)用容災(zāi)實現(xiàn)

在集團(tuán)公司生產(chǎn)機(jī)房部署一套容災(zāi)系統(tǒng)，同時在災(zāi)備中心部署一套容災(zāi)系統(tǒng)，部署在虛擬機(jī)中，即可實現(xiàn)本地業(yè)務(wù)系統(tǒng)的容災(zāi)接管，以及異地容災(zāi)接管，詳細(xì)如下：

3.2.1 建設(shè)要求

（1）RTO≤2小時；

（2）從整體虛擬化架構(gòu)布局等因素考慮，電信災(zāi)備中心虛擬化采用VMware平臺；

（3）集團(tuán)公司本地機(jī)房與電信災(zāi)備中心之間的網(wǎng)絡(luò)暢通，保障數(shù)據(jù)的傳輸；

3.2.2 容災(zāi)接管方案概述

（1）通過災(zāi)備客戶端將捕獲到本地OS與數(shù)據(jù)盤的差異數(shù)據(jù)同步到容災(zāi)系統(tǒng)所管理的存儲介質(zhì)上；

（2）通過數(shù)據(jù)傳輸方式將本地容災(zāi)系統(tǒng)備份數(shù)據(jù)同步到電信災(zāi)備中心異地容災(zāi)系統(tǒng)中，實現(xiàn)本/異地的雙重容災(zāi)接管；

（3）在本地容災(zāi)系統(tǒng)和異地容災(zāi)系統(tǒng)實現(xiàn)自動快照演練功能，可自動診斷容災(zāi)的可用性、數(shù)據(jù)完整性以及可靠性；

（4）可以使用本地容災(zāi)系統(tǒng)實現(xiàn)本地單點故障容災(zāi)功能，實現(xiàn)容災(zāi)接管，保障業(yè)務(wù)不中斷；

（5）可以使用異地容災(zāi)系統(tǒng)實現(xiàn)異地容災(zāi)功能，實現(xiàn)異地容災(zāi)接管，保障業(yè)務(wù)不中斷；

3.2.3 容災(zāi)管理

容災(zāi)系統(tǒng)方案針對應(yīng)急接管的需求而設(shè)計，實現(xiàn)數(shù)據(jù)中心的關(guān)鍵業(yè)務(wù)系統(tǒng)進(jìn)行應(yīng)急容災(zāi)接管保護(hù)，保障業(yè)務(wù)不中斷。

采用CDP實時數(shù)據(jù)保護(hù)技術(shù)，完善后的容災(zāi)平臺可提供應(yīng)急恢復(fù)、應(yīng)急接管、仿真演練等能力，從而將災(zāi)難所導(dǎo)致的損失降到最低，確保應(yīng)用系統(tǒng)的連續(xù)性工作。

容災(zāi)管理的原理圖如圖2所示：

方案利用磁盤級CDP技術(shù)，可實現(xiàn)IO級別的細(xì)顆粒度實時捕獲并定時備份，將備份窗口、數(shù)據(jù)丟失降到最低。并且可以實現(xiàn)任意快照時間點的數(shù)據(jù)恢復(fù)與演練，能夠快速響應(yīng)業(yè)務(wù)系統(tǒng)的接管需求，對應(yīng)用實現(xiàn)連續(xù)保護(hù)。

3.3 數(shù)據(jù)庫容災(zāi)實現(xiàn)

在本項目的建設(shè)中，財務(wù)數(shù)據(jù)庫和操作系統(tǒng)比較特殊，需采用不同的同步容災(zāi)方式，數(shù)據(jù)庫的復(fù)制采用英方的I2Active軟件，應(yīng)用層的備份由應(yīng)用開發(fā)方通過腳本等方式實現(xiàn)，文件和系統(tǒng)的備份采用備份系統(tǒng)平臺提供的統(tǒng)一備份方式。

3.3.1 數(shù)據(jù)庫容災(zāi)保護(hù)

如圖3所示，使用一臺云主機(jī)部署I2Active，在主系統(tǒng)正常工作的同時將主系統(tǒng)產(chǎn)生歸檔日志文件（Archived Log）不斷的傳送到后備數(shù)據(jù)庫系統(tǒng)，并且利用這些日志文件在后備數(shù)據(jù)庫系統(tǒng)上連續(xù)進(jìn)行恢復(fù)（Recover）操作，以保持后備系統(tǒng)與運行系統(tǒng)的一致。當(dāng)主系統(tǒng)發(fā)生故障時，立即使用后備系統(tǒng)頂替主系統(tǒng)。

其優(yōu)勢是（如圖4所示）：

完全通過數(shù)據(jù)庫機(jī)制來實現(xiàn)，完全不依賴于其它軟件和底層存儲平臺；主備系統(tǒng)的硬件可以完全不同；可以實現(xiàn)一對多的數(shù)據(jù)復(fù)制，提供多重保護(hù)；支持?jǐn)?shù)據(jù)庫異構(gòu)；后備數(shù)據(jù)庫可以在很短的時間內(nèi)提升到生產(chǎn)狀態(tài)（因為數(shù)據(jù)庫已經(jīng)在打開運行）；后備數(shù)據(jù)庫也可以使用，可以用做查詢、統(tǒng)計分析等用途；基于IP網(wǎng)絡(luò)，沒有距離限制。

圖2 容災(zāi)管理原理圖

圖3 數(shù)據(jù)容災(zāi)保護(hù)結(jié)構(gòu)

圖4 數(shù)據(jù)備份流程示意

4 測試分析

在本項目試運行階段，針對方案要點在實際環(huán)境中進(jìn)行了長時間測試。經(jīng)過測試分析，總結(jié)歸納，本方案設(shè)計有以下優(yōu)點：

（1）高性能：整個系統(tǒng)是一套以保證信息系統(tǒng)持續(xù)運行為目的數(shù)據(jù)級容災(zāi)系統(tǒng)，可實現(xiàn)在對信息系統(tǒng)關(guān)鍵數(shù)據(jù)進(jìn)行實時保護(hù)的同時，保證業(yè)務(wù)持續(xù)運行。能夠全面覆蓋信息系統(tǒng)常見故障及災(zāi)難，為數(shù)據(jù)中心提供最為全面的保護(hù)與快速恢復(fù)機(jī)制。

（2）高可靠性：本系統(tǒng)是為了進(jìn)一步增強(qiáng)關(guān)鍵業(yè)務(wù)數(shù)據(jù)的抵御災(zāi)難能力，所以本系統(tǒng)的設(shè)計和建設(shè)都充分考慮了其自身的穩(wěn)定性和安全性，從而確保關(guān)鍵數(shù)據(jù)能夠持續(xù)、穩(wěn)定地傳送到備份存儲器，以保證出現(xiàn)任何問題時都能夠通過備份數(shù)據(jù)提供應(yīng)急恢復(fù)。

（3）標(biāo)準(zhǔn)化：本系統(tǒng)嚴(yán)格執(zhí)行《信息安全技術(shù)信息系統(tǒng)災(zāi)難恢復(fù)規(guī)范》等國內(nèi)及國際相關(guān)標(biāo)準(zhǔn)和規(guī)范，充分考慮抗毀性與災(zāi)難恢復(fù)，從實際出發(fā)，保證不同品牌災(zāi)備解決方案之間的互操作性和系統(tǒng)的開放性，竭力做到資源共享、互為備份。

（4）可擴(kuò)展性：系統(tǒng)的設(shè)計不但能滿足當(dāng)前需要，還充分考慮了業(yè)務(wù)的發(fā)展空間，同時便于向更新技術(shù)進(jìn)行升級與銜接，保護(hù)現(xiàn)有投資。本系統(tǒng)所采用的技術(shù)路線和主要技術(shù)是目前主流技術(shù)，所采用的標(biāo)準(zhǔn)支持目前和將來可能出現(xiàn)的國家或行業(yè)標(biāo)準(zhǔn)。系統(tǒng)可保證在國內(nèi)三到五年保持領(lǐng)先的水平，并具備良好的升級發(fā)展空間，保障數(shù)據(jù)和業(yè)務(wù)的持續(xù)運行，以充分適應(yīng)未來災(zāi)備技術(shù)的發(fā)展。

（5）可維護(hù)性：整個系統(tǒng)的設(shè)計與建設(shè)充分考慮了易于管理維護(hù)的需求，可根據(jù)客戶的個性化需求進(jìn)行定制化維護(hù)，操作簡單，易學(xué)易用，便于進(jìn)行配置，便于發(fā)現(xiàn)故障、解決故障。

（6）安全性：本系統(tǒng)承載的是數(shù)據(jù)備份與容災(zāi)保護(hù)，所以在設(shè)計、研發(fā)和建設(shè)的過程中都嚴(yán)格遵循數(shù)據(jù)傳輸、存放和傳輸?shù)陌踩栽瓌t，確保數(shù)據(jù)在存儲備份的過程中趨于且實現(xiàn)零損耗。

5 研究成果

對于大型企業(yè)，異地災(zāi)備中心建設(shè)對網(wǎng)絡(luò)帶寬、服務(wù)器、網(wǎng)絡(luò)設(shè)備的性能、人員技術(shù)水平都有更高的要求。在建設(shè)方式?jīng)Q策時，如果考慮自采購機(jī)房、線路、設(shè)備、集成實施，將會有很大投入，且每年還需支付維護(hù)費用（含電費、網(wǎng)費、維修費、人員工資）。

本文為企業(yè)提供了一種安全、高效、面向云網(wǎng)新技術(shù)應(yīng)用的業(yè)務(wù)連續(xù)性支撐系統(tǒng)。以購買服務(wù)的方式替代一次性采購，為集團(tuán)型企業(yè)建設(shè)異地災(zāi)備中心，提供了新思路和新方法。

當(dāng)然，企業(yè)要在災(zāi)難發(fā)生時能夠更加從容面對，除了業(yè)務(wù)連續(xù)性支撐系統(tǒng)之外，還應(yīng)該結(jié)合自身的資源，確定合理的應(yīng)急方案和制定完備的業(yè)務(wù)連續(xù)性組織執(zhí)行計劃。特別是在業(yè)務(wù)連續(xù)性支撐系統(tǒng)立之后，還需要建立完善的管理機(jī)制，才能最大限度地發(fā)揮容災(zāi)系統(tǒng)的作用。

利用本次異地災(zāi)備中心建設(shè)契機(jī)，中國黃金業(yè)務(wù)信息系統(tǒng)進(jìn)行了重新規(guī)劃，利用先進(jìn)的互聯(lián)網(wǎng)技術(shù)，建立了跨域集團(tuán)的軟件大集中、數(shù)據(jù)大集中的財務(wù)系統(tǒng)框架。

建立了行業(yè)內(nèi)第一個基于云架構(gòu)的異地災(zāi)備中心。傳統(tǒng)觀念認(rèn)為，勘探業(yè)、信息化程度較低的施工企業(yè)不適合建設(shè)異地災(zāi)備中心。因此，異地災(zāi)備中心一直是電信行業(yè)、金融行業(yè)、保險行業(yè)的專利，以ERP為代表信息化投資高達(dá)億元以上。但通過實踐，中國黃金在短短半年時間，用遠(yuǎn)低于其他行業(yè)的成本，建立了有色行業(yè)第一個基于云架構(gòu)的異地災(zāi)備中心。

中國黃金的數(shù)據(jù)庫結(jié)構(gòu)非常復(fù)雜。業(yè)務(wù)數(shù)據(jù)大集中后，數(shù)據(jù)量的提升將遠(yuǎn)遠(yuǎn)超出普通企業(yè)的業(yè)務(wù)系統(tǒng)承載的范圍。通過使用云計算、大數(shù)據(jù)、分布式、緩存處理等互聯(lián)網(wǎng)技術(shù)對系統(tǒng)進(jìn)行改造，建設(shè)了異地災(zāi)備中心，實現(xiàn)了集團(tuán)的數(shù)據(jù)大集中，為下一步行政體系的大統(tǒng)一提供了有力的抓手。