本刊記者 | 黃海峰

遼寧移動探索“小機(jī)x86化”成星星之火點(diǎn)亮運(yùn)營商數(shù)據(jù)庫轉(zhuǎn)型之路

本刊記者 | 黃海峰

通過在x86服務(wù)器上部署分布式軟件的方式，遼寧移動把所有服務(wù)器的本地硬盤組織成一個虛擬存儲資源池，提供塊存儲功能。

“又慢、又貴、利用率又低?！边@是中國移動多省現(xiàn)網(wǎng)數(shù)據(jù)庫的真實(shí)寫照。

曾經(jīng)強(qiáng)大的運(yùn)營商數(shù)據(jù)庫，采用“小型機(jī)+老舊式傳統(tǒng)存儲”方式部署，但面對業(yè)務(wù)的快速發(fā)展、數(shù)據(jù)量指數(shù)式增長，開始存在業(yè)務(wù)風(fēng)險高、投資費(fèi)用高和資源利用率低等問題，已經(jīng)無法滿足新類型業(yè)務(wù)發(fā)展的需求。

現(xiàn)在，運(yùn)營商已到了不得不改變的時刻。在諸多改造方案中，小型機(jī)“x86化”探索如“星星之火”在全國各地燃起。而中國移動遼寧公司（以下簡稱遼寧移動）攜手華為進(jìn)行的分布式x86數(shù)據(jù)庫改造十分成功，其實(shí)踐經(jīng)驗(yàn)被業(yè)內(nèi)所推崇。

傳統(tǒng)數(shù)據(jù)庫系統(tǒng)面臨“慢、貴、低”挑戰(zhàn)

遼寧移動是中國移動在東北的重要省公司，其下轄14個市級分公司，56個縣級分公司。遼寧移動正不斷開拓進(jìn)取，創(chuàng)新發(fā)展，致力于肩負(fù)起“創(chuàng)無限通信世界，做信息社會棟梁”的企業(yè)使命。

目前，遼寧移動采用“小型機(jī)+老舊式傳統(tǒng)存儲”的方式部署了60多套Oracle數(shù)據(jù)庫，數(shù)據(jù)庫小型機(jī)60多臺，承載計費(fèi)、網(wǎng)管、管信、數(shù)據(jù)增值業(yè)務(wù)、位置業(yè)務(wù)等100多套系統(tǒng)，數(shù)據(jù)總量近700TB。

但是這些數(shù)據(jù)庫系統(tǒng)慢慢成為了業(yè)務(wù)發(fā)展的重要瓶頸，主要問題是“慢、貴、低”。

具體而言，一是在業(yè)務(wù)風(fēng)險方面，隨著業(yè)務(wù)數(shù)據(jù)不斷增長，現(xiàn)有數(shù)據(jù)庫數(shù)據(jù)運(yùn)行越來越慢，導(dǎo)致業(yè)務(wù)處理周期越來越長；現(xiàn)網(wǎng)老舊存儲故障恢復(fù)需要手動從硬盤恢復(fù)數(shù)據(jù)，故障恢復(fù)時間長，業(yè)務(wù)在故障恢復(fù)期間無法提供服務(wù)。

二是擴(kuò)容投資、維保費(fèi)用高：如某廠商的DMX 4存儲必須整柜擴(kuò)容，每次擴(kuò)容成本非常高昂；維保服務(wù)費(fèi)高昂，甚至高于新購設(shè)備價格。

三是資源利用率低：不同功能小型機(jī)間負(fù)載差別較大；部分設(shè)備負(fù)載峰值較高但均值很低，長時間處在低負(fù)荷運(yùn)轉(zhuǎn)狀態(tài)。

這種糟糕的現(xiàn)狀，讓遼寧移動IT系統(tǒng)運(yùn)維人員苦不堪言。工程師們特別希望有新的方案帶來4方面的改變：降低業(yè)務(wù)風(fēng)險、提高業(yè)務(wù)性能、降低維護(hù)成本和提高資源利用率。

比如在降低業(yè)務(wù)風(fēng)險方面，新方案要能解決老舊傳統(tǒng)存儲故障導(dǎo)致業(yè)務(wù)數(shù)據(jù)庫無法繼續(xù)使用的問題，提高業(yè)務(wù)連續(xù)性，解耦軟硬件關(guān)聯(lián)；存儲需要快速部署，能夠按需分配；提高業(yè)務(wù)可用性、連續(xù)性和穩(wěn)定性。

為解決上述數(shù)據(jù)庫面臨的問題，兩條發(fā)展路徑浮出水面。路徑一是開源數(shù)據(jù)庫解決方案，顛覆性地變更，傳統(tǒng)應(yīng)用大量修改，部分復(fù)雜關(guān)系數(shù)據(jù)模型無法支持。路徑二是分布式x86數(shù)據(jù)庫解決方案，分布式存儲+x86實(shí)現(xiàn)I+E替換，數(shù)據(jù)庫無需修改。

到底哪種方案更適合遼寧移動呢？通過測試驗(yàn)證發(fā)現(xiàn)：互聯(lián)網(wǎng)公司的數(shù)據(jù)類型以非結(jié)構(gòu)化和半結(jié)構(gòu)化為主，因此適合采用開源非關(guān)系型數(shù)據(jù)庫解決方案；而遼寧移動公司主要處理結(jié)構(gòu)化數(shù)據(jù)，且業(yè)務(wù)系統(tǒng)改造難度極大，因此路徑二更適合遼寧移動現(xiàn)狀、更易實(shí)現(xiàn)并節(jié)省投資。

“三步走”方案實(shí)現(xiàn)成功改造

經(jīng)過仔細(xì)地對比測試，遼寧移動最終選擇了華為FusionStorage解決方案:通過在x86服務(wù)器上部署分布式軟件的方式，把所有服務(wù)器的本地硬盤組織成一個虛擬存儲資源池，提供塊存儲功能。

據(jù)了解，傳統(tǒng)架構(gòu)被改造為分布式x86架構(gòu)，經(jīng)過了應(yīng)用層、平臺層以及數(shù)據(jù)層“三步走”。第一步在應(yīng)用層，遼寧移動實(shí)現(xiàn)上層應(yīng)用系統(tǒng)的分布式改造；第二步在平臺層，遼寧移動搭建分布式X86集群環(huán)境，安裝分布式存儲系統(tǒng)和數(shù)據(jù)庫管理系統(tǒng)；第三步在數(shù)據(jù)層，遼寧移動將業(yè)務(wù)系統(tǒng)數(shù)據(jù)從集中式數(shù)據(jù)庫導(dǎo)出，并導(dǎo)入至分布式x86數(shù)據(jù)庫中。

其主要工作包括以下5方面：一是計算節(jié)點(diǎn)：高性能x86服務(wù)器替代傳統(tǒng)小型機(jī)；二是存儲節(jié)點(diǎn)：FusionStorage+服務(wù)器本地存儲替代傳統(tǒng)老舊式存儲，存儲資源統(tǒng)一管理，I/O性能大幅提升；三是網(wǎng)絡(luò)：InfiniBand網(wǎng)絡(luò)替代傳統(tǒng)SAN網(wǎng)絡(luò)，存儲帶寬由10G擴(kuò)展至128G；四是備份：存儲平面?zhèn)浞萏娲鷤鹘y(tǒng)帶庫式備份，無須通過物理帶庫和虛擬帶庫進(jìn)行數(shù)據(jù)備份，直接將數(shù)據(jù)庫數(shù)據(jù)備份至分布式備份資源池；五是容災(zāi)：分布式容災(zāi)復(fù)制替代傳統(tǒng)集中式容災(zāi)同步，分布式x86數(shù)據(jù)庫系統(tǒng)將源數(shù)據(jù)打散后分別同步給多個目標(biāo)服務(wù)器，通過軟件實(shí)現(xiàn)了分布式容災(zāi)數(shù)據(jù)的一致性復(fù)制。

以業(yè)務(wù)支撐的經(jīng)營分析系統(tǒng)為例，隨著數(shù)據(jù)量的快速膨脹，日報、月報業(yè)務(wù)的處理時間需要10個小時以上。系統(tǒng)主要的性能瓶頸是高端存儲與小機(jī)之間的I/O吞吐。

系統(tǒng)采用大吞吐、低時延的InfiniBand交換機(jī)打破FC交換機(jī)的網(wǎng)絡(luò)帶寬瓶頸；采用分布式存儲技術(shù)，徹底打破高端存儲的機(jī)頭限制，實(shí)現(xiàn)性能的線性擴(kuò)展；利用SSD存儲介質(zhì)及分布式Cache技術(shù)，讓I/O性能大幅提升。通過對經(jīng)營分析系統(tǒng)的現(xiàn)場測試，月報性能可提升到1小時15分鐘。

經(jīng)濟(jì)、社會效益表現(xiàn)出色

此次改造項(xiàng)目，遼寧移動的收益十分顯著，具體表現(xiàn)在系統(tǒng)提升、成本節(jié)省以及未來發(fā)展方面。

首先，改造后應(yīng)用系統(tǒng)性能實(shí)現(xiàn)大幅度提升。針對100T經(jīng)分?jǐn)?shù)據(jù)進(jìn)行分析處理，效果明顯，處理時長由10小時18分縮短至2小時9分，性能提升5~6倍；支持最大并發(fā)用戶數(shù)由400增加至1000。

其次，經(jīng)濟(jì)效益表現(xiàn)出色。遼寧移動采用通用的x86服務(wù)器，代替原有的小機(jī)及高端存儲設(shè)備，降低IT建設(shè)的整體投資；同時有效地降低了主機(jī)服務(wù)器的維保費(fèi)用，以替換1臺小型機(jī)為例，每年可節(jié)省維保費(fèi)用59萬；以替換1T傳統(tǒng)老舊存儲為例，每年可節(jié)省維保費(fèi)用1.8萬。

最后，社會效益十分突出。遼寧移動采用新的數(shù)據(jù)庫云平臺，可以實(shí)現(xiàn)日報、月報的及時性，進(jìn)而提升服務(wù)質(zhì)量和用戶滿意度；通過降低小型機(jī)和高端存儲的采購數(shù)量，實(shí)現(xiàn)節(jié)能減排、綠色環(huán)保的健康持續(xù)發(fā)展；有力地推進(jìn)了遼寧移動業(yè)務(wù)支撐網(wǎng)建設(shè)卓越運(yùn)營體系的進(jìn)程。

華為方面表示，在該改造項(xiàng)目實(shí)施初期，遼寧移動各方面經(jīng)濟(jì)效益即得到很大提高，相信隨著傳統(tǒng)數(shù)據(jù)中心向云計算業(yè)務(wù)中心轉(zhuǎn)型的不斷深入，一定會為企業(yè)創(chuàng)造更大的經(jīng)濟(jì)收益。