趙鵬飛

（中國(guó)人民銀行 蘭州中心支行，甘肅　蘭州　730000）

利用DRBD和Pacemaker技術(shù)構(gòu)建高可用數(shù)據(jù)容災(zāi)備份系統(tǒng)

趙鵬飛

（中國(guó)人民銀行 蘭州中心支行，甘肅蘭州730000）

為充分保證數(shù)據(jù)信息安全，提高數(shù)據(jù)中心容災(zāi)備份能力，以DRBD和Pacemaker技術(shù)為基礎(chǔ)構(gòu)建具有高可用性的數(shù)據(jù)容災(zāi)備份系統(tǒng)，實(shí)現(xiàn)生產(chǎn)數(shù)據(jù)在本地、異地之間三臺(tái)服務(wù)器的鏡像復(fù)制，并且實(shí)現(xiàn)應(yīng)用和數(shù)據(jù)兩個(gè)級(jí)別的高可用（HA），解決目前主流SAN存儲(chǔ)環(huán)境下共享磁盤陣列的單點(diǎn)故障威脅，有效滿足不斷提升的數(shù)據(jù)恢復(fù)RTO和RPO的要求。本論述為數(shù)據(jù)中心業(yè)務(wù)系統(tǒng)高可用和數(shù)據(jù)異地備份提出了低成本的技術(shù)方案。

數(shù)據(jù)中心；數(shù)據(jù)安全；DRBD；Pacemaker

目前，數(shù)據(jù)中心主流的存儲(chǔ)備份系統(tǒng)主要采用SAN（存儲(chǔ)區(qū)域網(wǎng)絡(luò)）技術(shù)，服務(wù)器、共享磁盤陣列、磁帶庫(kù)等設(shè)備通過(guò)光纖連接，數(shù)據(jù)讀寫具有較高的穩(wěn)定性和可靠性。但其高成本、不易擴(kuò)展，且對(duì)技術(shù)人員要求較高，導(dǎo)致SAN網(wǎng)絡(luò)不能滿足中小應(yīng)用系統(tǒng)快速接入、靈活多樣的存儲(chǔ)需求。此外，由于技術(shù)原因和費(fèi)用問(wèn)題，SAN網(wǎng)絡(luò)中共享的磁盤陣列往往采用單獨(dú)部署模式，存在發(fā)生存儲(chǔ)陣列故障造成數(shù)據(jù)損失的風(fēng)險(xiǎn)。因此，迫切需要采用安全可靠的容災(zāi)備份方式保障數(shù)據(jù)安全，否則一旦數(shù)據(jù)遭受損失，將會(huì)造成系統(tǒng)無(wú)法使用、對(duì)外服務(wù)中斷的嚴(yán)重后果。

1　DRBD工作原理

DRBD（Distributed Replicated Block Device）是一個(gè)用軟件實(shí)現(xiàn)的服務(wù)器之間鏡像塊設(shè)備內(nèi)容復(fù)制的解決方案，主要被用于Linux平臺(tái)下的高可用（High Available）方案之中。DRBD是介于文件系統(tǒng)和磁盤硬件之間的中間件。DRBD負(fù)責(zé)接收要寫入文件系統(tǒng)的數(shù)據(jù)，并把數(shù)據(jù)寫到本地磁盤，然后通過(guò)網(wǎng)絡(luò)發(fā)送給另一臺(tái)主機(jī)；另一臺(tái)主機(jī)在DRBD守護(hù)進(jìn)程的作用下再將接收到的數(shù)據(jù)存到自己的磁盤中，本地節(jié)點(diǎn)與遠(yuǎn)程節(jié)點(diǎn)的數(shù)據(jù)可以保證實(shí)時(shí)同步。因此，當(dāng)本地節(jié)點(diǎn)的數(shù)據(jù)出現(xiàn)問(wèn)題造成訪問(wèn)中斷時(shí)，遠(yuǎn)程節(jié)點(diǎn)的主機(jī)上還會(huì)保留有一份完全相同的數(shù)據(jù)，繼續(xù)提供使用，以達(dá)到高可用的目的。DRBD通過(guò)網(wǎng)絡(luò)將整個(gè)塊設(shè)備進(jìn)行鏡像，實(shí)現(xiàn)數(shù)據(jù)存儲(chǔ)的高可用性，可以看成是網(wǎng)絡(luò)版的RAID1。DRBD系統(tǒng)結(jié)構(gòu)見圖1所示。

圖1　DRBD系統(tǒng)結(jié)構(gòu)圖

2　數(shù)據(jù)復(fù)制鏡像

在DRBD技術(shù)中，實(shí)現(xiàn)數(shù)據(jù)鏡像有三種數(shù)據(jù)復(fù)制同步方式，分別是異步復(fù)制協(xié)議、內(nèi)存同步復(fù)制協(xié)議（也稱半同步復(fù)制協(xié)議）以及同步復(fù)制協(xié)議。異步復(fù)制協(xié)議A，它是在主節(jié)點(diǎn)將數(shù)據(jù)寫入到本地TCP發(fā)送緩存區(qū)的時(shí)候就認(rèn)為將同步數(shù)據(jù)發(fā)送到從節(jié)點(diǎn)上。這種數(shù)據(jù)同步方式的速度較快，但是在發(fā)生故障的時(shí)候，可能會(huì)引起數(shù)據(jù)丟失；內(nèi)存同步復(fù)制協(xié)議B，它是在主節(jié)點(diǎn)進(jìn)行寫數(shù)據(jù)時(shí)，將數(shù)據(jù)寫入發(fā)送隊(duì)列后，就認(rèn)為本地磁盤的寫入和從節(jié)點(diǎn)的數(shù)據(jù)寫入已經(jīng)同步完成，而事實(shí)是數(shù)據(jù)還在內(nèi)存中等待實(shí)際的寫入；同步復(fù)制協(xié)議C，它是在主次節(jié)點(diǎn)數(shù)據(jù)寫入都被確認(rèn)后才認(rèn)為同步完成。這種復(fù)制方式，不會(huì)因?yàn)楣收隙斐赏绞?，引起?shù)據(jù)的不一致。數(shù)據(jù)復(fù)制流程見圖2所示。

圖2　DRBD數(shù)據(jù)復(fù)制流程

3　Pacemaker技術(shù)

Pacemaker（直譯：起搏器）是一個(gè)集群資源管理器，它實(shí)現(xiàn)了集群資源級(jí)故障檢測(cè)和恢復(fù)，但它本身還需依賴其他集群基礎(chǔ)工具（如Corosync或Heartbeat）所提供的消息通信和成員關(guān)系的能力。它可以做任何規(guī)模的集群管理員，能夠準(zhǔn)確地實(shí)施集群節(jié)點(diǎn)間資源的運(yùn)行關(guān)系（包括順序和位置）。Pacemaker主要通過(guò)Resource Agents來(lái)實(shí)現(xiàn)資源的啟動(dòng)停止。Pacemaker支持如下幾種 Resource Agents：1.LSB（Linux Standard Base），這是由操作系統(tǒng)提供的所有放在/etc/init.d下面的各種services，services（或Script）只要符合LSB規(guī)范就能被Pacemaker兼容；2.OCF（Open Cluster Frame－Work）是LSB的規(guī)范擴(kuò)展，放在/usr/lib/ocf/resource.d/目錄下，常用的OCF資源有Filesystem、IPaddr、LVM、apache dhcpd等。

4　系統(tǒng)的設(shè)計(jì)

Pacemaker+DRBD架構(gòu)常用的構(gòu)建高可靠集群的方法有Active/Passive主備模式：使用DRBD實(shí)現(xiàn)主備機(jī)的容災(zāi)，Heartbeat或Corosync做心跳監(jiān)測(cè)、服務(wù)切換甚至Failover，Pacemaker實(shí)現(xiàn)服務(wù)（資源）的切換及控制等。

如圖3所示，系統(tǒng)設(shè)計(jì)的高可用集群由三臺(tái)PC服務(wù)器組成，服務(wù)器nfs1和nfs2部署在本地?cái)?shù)據(jù)中心，nfs3部署在異地備份中心。集群資源包括：資源組（group）：NFS服務(wù) IP、nfsserver；主從資源（Master/ Slave）：ms_left、ms-right；普通資源（Primitive）：Filesystem、stonith1、stonith2。

集群首先啟動(dòng)主從資源，然后啟動(dòng)其他資源（普通資源、資源組），普通資源和資源組都被限定在主從資源中角色為Master的服務(wù)器上運(yùn)行，這樣實(shí)現(xiàn)了其他資源隨主從資源的節(jié)點(diǎn)切換而切換。集群中主從資源DRBD在兩臺(tái)服務(wù)器之間建立鏡像塊設(shè)備/dev/drbd0，在正常運(yùn)行時(shí)，只有主服務(wù)器能夠修改同步空間中的數(shù)據(jù)，從服務(wù)器只是保證同步空間中的數(shù)據(jù)和主服務(wù)器相同，不能對(duì)其中的數(shù)據(jù)進(jìn)行修改。當(dāng)主服務(wù)器出現(xiàn)故障，從服務(wù)器中的DRBD變?yōu)镻rimary模式，可以實(shí)現(xiàn)數(shù)據(jù)讀寫。Pacemaker中有兩個(gè)主從資源：DRBDPrimary和DRBD-Secondary組成的ms_left，ms_left中的主服務(wù)器和DRBD-Third組成的ms-right。在ms_left中，主服務(wù)器可能是nfs1或nfs2，而從服務(wù)器永遠(yuǎn)設(shè)定為nfs3。其他資源、資源組則被限制在ms-right中Master角色的節(jié)點(diǎn)上，只在nfs1或nfs2上運(yùn)行。nfs3只作為底層DRBD的遠(yuǎn)程數(shù)據(jù)同步節(jié)點(diǎn)，不接管上層其他資源，這樣實(shí)現(xiàn)了本地?cái)?shù)據(jù)中心高可靠的NFS服務(wù)，而底層數(shù)據(jù)能通過(guò)DRBD復(fù)制到異地災(zāi)備節(jié)點(diǎn)nfs3中。普通資源stonith1、stonith2分別運(yùn)行在兩個(gè)節(jié)點(diǎn)上，stonith（Shoot-The-Other-Node-In-The-Head）可翻譯為一槍斃命，是當(dāng)服務(wù)器發(fā)現(xiàn)對(duì)端節(jié)點(diǎn)出現(xiàn)故障時(shí)采取的強(qiáng)行將對(duì)端節(jié)點(diǎn)踢出集群的措施，用來(lái)防止節(jié)點(diǎn)工作不穩(wěn)定造成集群癱瘓。

圖3　數(shù)據(jù)容災(zāi)備份系統(tǒng)組成

5　結(jié)束語(yǔ)

通過(guò)DRBD+Pacemaker技術(shù)，在中國(guó)人民銀行蘭州中心支行數(shù)據(jù)生產(chǎn)中心、備份中心三臺(tái)PC服務(wù)器上實(shí)現(xiàn)了本地?cái)?shù)據(jù)雙鏡像加遠(yuǎn)程數(shù)據(jù)異步復(fù)制，達(dá)到了保障數(shù)據(jù)安全性、應(yīng)用連續(xù)性的目的，使數(shù)據(jù)中心存儲(chǔ)備份架構(gòu)得到了優(yōu)化完善。同時(shí)，還可以繼續(xù)做以下研究測(cè)試：一是可被Pacemaker管理的資源管理非常豐富，如：http、DB2、MQ、Tonglink、自定義腳本等，因此，可將Linux環(huán)境下重要業(yè)務(wù)系統(tǒng)通過(guò)Pacemaker建立HA集群，滿足系統(tǒng)業(yè)務(wù)不間斷對(duì)外服務(wù)需求；二是云計(jì)算開源技術(shù)快速發(fā)展，考慮今后將Pacemaker和Openstack結(jié)合，建立高可用的私有云環(huán)境。

［1］ The DRBD User's Guide［EB/O L］.http：//drbd.linbit.com/ users-guide-8.3.

［2］ Pacemaker 1.1 Configuration Explained［EB/OL］.http：//clusterlabs.org/doc/.

［3］ SUSE Linux Enterprise High Availability Extension［EB/OL］. https：//www.suse.com/products/highavailability/.

［4］ 馮建．黃河數(shù)據(jù)中心存儲(chǔ)備份平臺(tái)的發(fā)展和設(shè)計(jì)［J］.電子信息與計(jì)算機(jī)科學(xué)，2014（11）：3-5．

［5］ 王鶴，孫曉艷．Heartbeat與Drbd在大容量OLT中的應(yīng)用［J］．現(xiàn)代電子技術(shù)，2012，35（24）：131-137．

［6］ 蔡亮節(jié)．面向低帶寬的遠(yuǎn)程鏡像系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)［D］．南京：南京理工大學(xué)，2014．

［7］ 黃晶.數(shù)據(jù)備份系統(tǒng)的研究與實(shí)現(xiàn)［D］.湖北：華中科技大學(xué)，2008：3-4．

［8］ 彭建榮.網(wǎng)絡(luò)存儲(chǔ)技術(shù)及其發(fā)展趨勢(shì)［J］.計(jì)算機(jī)與現(xiàn)代化，2006（7）：66-68．

TP309.2

A

10.3969/j.issn.1672-6375.2016.04.001

2016-02-18

趙鵬飛（1981-），男，漢族，甘肅蘭州人，研究生，工程師，主要研究方向：數(shù)據(jù)保護(hù)。