□ 文 余 斌 鞠昌斌 王超
2020年在國內(nèi)掀起“新基建”的熱潮下,各云計算公司快速推進數(shù)據(jù)中心建設(shè),配電容量高達100~200MW的超級數(shù)據(jù)中心開始出現(xiàn)。數(shù)據(jù)中心的大規(guī)模建設(shè)推動創(chuàng)新技術(shù)快速迭代和推廣,以10kV交流輸入的直流不間斷電源、間接蒸發(fā)冷卻空調(diào)為代表的一大批創(chuàng)新技術(shù)應(yīng)用規(guī)模在迅速擴大,研發(fā)和推廣應(yīng)用周期不斷縮短,技術(shù)迭代頻率不斷提高。
2020年3月4日,中共中央政治局會議提出“加快5G網(wǎng)絡(luò)、數(shù)據(jù)中心等新型基礎(chǔ)設(shè)施建設(shè)進度”,數(shù)據(jù)中心建設(shè)驟然提速。2020年各互聯(lián)網(wǎng)公司加大投入,用于云計算核心技術(shù)的研發(fā)和面向未來的數(shù)據(jù)中心建設(shè)。2020年主要互聯(lián)網(wǎng)公司將建設(shè)多個百萬級服務(wù)器規(guī)模的超大型數(shù)據(jù)中心,隨之超級互聯(lián)網(wǎng)數(shù)據(jù)中心開始出現(xiàn)。與傳統(tǒng)數(shù)據(jù)中心相比,超級互聯(lián)網(wǎng)數(shù)據(jù)中心具有鮮明的特點。
圖1 某云計算公司數(shù)據(jù)中心俯瞰圖
2016年開始,互聯(lián)網(wǎng)云計算高速發(fā)展,互聯(lián)網(wǎng)數(shù)據(jù)中心的規(guī)模也在快速增長,同時由于互聯(lián)網(wǎng)數(shù)據(jù)中心對成本的要求極高,大型互聯(lián)網(wǎng)數(shù)據(jù)中心開始選址在距離核心城市300~500km的遠郊,在部分城市逐漸出現(xiàn)了具備極大規(guī)模、極低成本的超級互聯(lián)網(wǎng)數(shù)據(jù)中心。常規(guī)數(shù)據(jù)機房或數(shù)據(jù)中心電力容量在1MW~10MW左右,云計算公司的超級互聯(lián)網(wǎng)數(shù)據(jù)中心電力容量可達100~200MW,是傳統(tǒng)數(shù)據(jù)中心規(guī)模的10倍以上。
以某云計算公司數(shù)據(jù)中心為例,該數(shù)據(jù)中心可容納30萬臺服務(wù)器,設(shè)計電力容量160MW,是常規(guī)數(shù)據(jù)中心的16倍。目前各大云計算、互聯(lián)網(wǎng)公司新建超級數(shù)據(jù)中心正在朝著百萬服務(wù)器、200MW以上的規(guī)模發(fā)展。圖1為某云計算公司數(shù)據(jù)中心俯瞰圖。
圖2 Google所有數(shù)據(jù)中心平均PUE
圖3 不同SLA對數(shù)據(jù)中心服務(wù)中斷時間的允許值
PUE(Power Usage Effec tiveness)是評價數(shù)據(jù)中心能源效率的重要指標(biāo)之一,PUE=數(shù)據(jù)中心總能耗/IT設(shè)備能耗,其中數(shù)據(jù)中心總能耗包括IT設(shè)備能耗和制冷、配電等系統(tǒng)的能耗,PUE值大于1。PUE越接近1表明非IT設(shè)備耗能越少,即能效水平越好。目前新建數(shù)據(jù)中心的PUE一般為1.5(效率66.7%)左右,國內(nèi)個別典型數(shù)據(jù)中心其年平均PUE最低可達1.1(效率90.9%),與國際先進數(shù)據(jù)中心相比接近Google數(shù)據(jù)中心PUE水平,數(shù)據(jù)中心的平均能耗下降26%。圖2為Google所有數(shù)據(jù)中心平均PUE。
當(dāng)前,ToB(To Business)業(yè)務(wù)在各互聯(lián)網(wǎng)公司業(yè)務(wù)中的占比不斷上升,其對于業(yè)務(wù)的可用性、連續(xù)性要求遠高于ToC(To Customer)業(yè)務(wù)。當(dāng)前由單次故障引發(fā)的商業(yè)成本損失和品牌價值損失成為倒逼更高可用性要求的關(guān)鍵因素,“不接受任何一臺機柜宕機”的要求成為業(yè)務(wù)對數(shù)據(jù)中心可用性的強需求。如何不斷提高數(shù)據(jù)中心的可用性,滿足業(yè)務(wù)極高需求,是當(dāng)前數(shù)據(jù)中心設(shè)計、運維必須解決的關(guān)鍵問題。圖3為數(shù)據(jù)中心常見服務(wù)級別協(xié)議(Service-Level Agreement,SLA)對服務(wù)中斷時間的允許值。目前數(shù)據(jù)中心UPTIME Tier-IV級標(biāo)準(zhǔn)對可用性的要求達到99.995%,年允許中斷時間不超過40分鐘。
根據(jù)市場調(diào)研,價格仍然是企業(yè)上云的第一考慮要素。各云計算公司云產(chǎn)品也經(jīng)歷了多次全行業(yè)的云產(chǎn)品降價。未來價格下降仍然是市場競爭的主要手段。云計算產(chǎn)品價格的不斷下降給數(shù)據(jù)中心成本基線控制提出了更高的目標(biāo)。
相比行業(yè)平均水平,大型云計算公司超級數(shù)據(jù)中心的機柜單千瓦建設(shè)成本已經(jīng)下降30%以上,設(shè)施初投資已經(jīng)達到一個較低的基線,傳統(tǒng)技術(shù)方案下,設(shè)施投資短期難再有較大的降低。但行業(yè)競爭壓力要求超級數(shù)據(jù)中心的機柜單千瓦建設(shè)成本基線必須繼續(xù)下降。超級數(shù)據(jù)中心必須尋找成本更優(yōu)的創(chuàng)新技術(shù)方案。
圖4 四種不間斷電源技術(shù)與IT設(shè)備顆粒度的對應(yīng)關(guān)系
數(shù)據(jù)中心行業(yè)的快速發(fā)展帶動制冷、散熱、電源、電池技術(shù)不斷演進,不間斷電源是技術(shù)發(fā)展的熱點領(lǐng)域。不間斷電源是保證數(shù)據(jù)中心IT負荷持續(xù)不間斷運行的最后一道防線,是數(shù)據(jù)中心的咽喉部位。按照備電電池的分布位置及與IT設(shè)備對應(yīng)關(guān)系分類,數(shù)據(jù)中心不間斷供電技術(shù)有兩種技術(shù)路線:集中式、分布式,其又分別有兩種實現(xiàn)形式。集中式主要為交流不間斷電源技術(shù)UPS(Uninterrupted Power Supply)和高壓直流技術(shù)HVDC(High Voltage Direct Current),分布式主要為機柜級機架電源PowerShelf和服務(wù)器級不間斷電源BBU。圖4為四種不間斷電源技術(shù)與IT設(shè)備顆粒度的對應(yīng)關(guān)系。其中高壓直流(HVDC)供電技術(shù)是目前互聯(lián)網(wǎng)公司、電信運營商等廣泛采用的主流供電方案。
高壓直流技術(shù)起源于電信運營商48V通信電源技術(shù)和電力系統(tǒng)的110VDC、220VDC操作電源技術(shù),核心思想是采用蓄電池直接為服務(wù)器供電,在提高服務(wù)器電源轉(zhuǎn)換效率的同時,也提高了服務(wù)器供電的可靠性。其突出優(yōu)點為易維護、成本低、高可用,滿足了國內(nèi)電信運營商和互聯(lián)網(wǎng)企業(yè)的高可用的業(yè)務(wù)訴求。隨著交流不間斷電源技術(shù)的不斷發(fā)展演進,也逐漸克服了難維護、成本高等缺點,互聯(lián)網(wǎng)公司采用的HVDC技術(shù)與UPS技術(shù)差距縮小,HVDC技術(shù)亟需演進發(fā)展。
圖5 IDC供配電鏈路簡化和模塊結(jié)構(gòu)簡化圖
10kV交流輸入的直流不間斷電源技術(shù)在2018年首先由國內(nèi)某互聯(lián)網(wǎng)公司根據(jù)業(yè)務(wù)需求和數(shù)據(jù)中心特定場景研發(fā)成功并開始在內(nèi)部試點,隨后電信運營商、各互聯(lián)網(wǎng)公司也開始試點應(yīng)用。10kV交流輸入的直流不間斷電源技術(shù)是高壓直流技術(shù)的演進,也是直流不間斷電源技術(shù)的迭代與發(fā)展,主要從供配電鏈路和整流模塊拓撲兩個維度對原有系統(tǒng)進行優(yōu)化設(shè)計。圖5為IDC供配電鏈路簡化和模塊結(jié)構(gòu)簡化圖。
供配電鏈路4合1:提升直流不間斷電源的功率等級,將原有配電鏈路中的中壓隔離柜、變壓器柜、低壓配電柜組、HVDC柜優(yōu)化為一套10kV交流輸入的直流不間斷電源系統(tǒng),從而將配電鏈路中的4個環(huán)節(jié)35面柜體整合為一套2N的10kV交流輸入的直流不間斷電源系統(tǒng)。從而簡化了配電鏈路,提高了鏈路的供電效率,進而降低了成本。
整流模塊拓撲5變2:傳統(tǒng)的HVDC的模塊拓撲具有5個環(huán)節(jié),分別為三相功率因數(shù)校正(Vienna Topology)的整流、Boost和隔離LLC電路的逆變、隔離、整流環(huán)節(jié)。經(jīng)過分析,優(yōu)化為三相不控整流和Buck調(diào)壓兩個環(huán)節(jié),大大減少了功率變換環(huán)節(jié)和器件,功率密度從1.8W/cm3提升到3.6W/cm3,提升一倍。從而實現(xiàn)了成本的降低和效率、可靠性的提升。
相比傳統(tǒng)的供備電方式,采用10kV交流輸入的直流不間斷電源的數(shù)據(jù)中心具有明顯的優(yōu)勢:更快的交付速度,數(shù)據(jù)中心的建設(shè)速度加快3個月以上。交付速度對互聯(lián)網(wǎng)行業(yè)至關(guān)重要;更高的可靠性,服務(wù)器雙側(cè)直流供電,電源全部受到電池保護,抵抗外部電網(wǎng)電能質(zhì)量變化;TCO更低,相比傳統(tǒng)的供備電技術(shù),單棟樓建設(shè)成本下降1000萬元以上。全生命周期運行成本節(jié)省2000余萬元,配電占地面積節(jié)省30%以上,實現(xiàn)更低建設(shè)成本。全樓多產(chǎn)出IT機柜50余面,帶來更大的業(yè)務(wù)收益。
隨著互聯(lián)網(wǎng)數(shù)據(jù)中心的創(chuàng)新技術(shù)迭代快、推廣快,與之相比標(biāo)準(zhǔn)立項批復(fù)的節(jié)奏需要加快。中國通信標(biāo)準(zhǔn)化協(xié)會通信電源與局站工作環(huán)境技術(shù)委員會(CCSA TC4)跟蹤新技術(shù)應(yīng)用案例及實證數(shù)據(jù),在總結(jié)試點經(jīng)驗和應(yīng)用經(jīng)驗的基礎(chǔ)上,在2019年12月在CCSA TC4提出《信息通信用10kV交流輸入的直流不間斷電源系統(tǒng)》通信行標(biāo)立項。
此標(biāo)準(zhǔn)在產(chǎn)品技術(shù)、方案設(shè)計、工程驗收、監(jiān)控維保等多個方面進行規(guī)定,有針對性的解決前期試點中遇到的障礙。圖6為10kV交流輸入的直流不間斷電源應(yīng)用進展及標(biāo)準(zhǔn)進展。
圖6 10kV交流輸入的直流不間斷電源應(yīng)用進展及標(biāo)準(zhǔn)進展
10kV交流輸入的直流不間斷電源與傳統(tǒng)的不間斷電源不同,既包含常規(guī)低壓備電部分,還集成了中壓配電、變壓器部分,橫跨多個領(lǐng)域。
業(yè)務(wù)需求是牽引互聯(lián)網(wǎng)基礎(chǔ)設(shè)施技術(shù)進步的發(fā)動機,創(chuàng)新技術(shù)大規(guī)模應(yīng)用才能為企業(yè)創(chuàng)造更大的價值。標(biāo)準(zhǔn)支撐是推動技術(shù)大規(guī)模推廣應(yīng)用的關(guān)鍵基礎(chǔ)。
過去十年,是互聯(lián)網(wǎng)電商、短視頻等“ToC 業(yè)務(wù)”快速發(fā)展的十年,催生帶動了數(shù)據(jù)中心領(lǐng)域朝著超大規(guī)模發(fā)展,催生的一大批創(chuàng)新技術(shù)保障了業(yè)務(wù)的快速發(fā)展。未來十年,更大規(guī)模的云計算等“ToB業(yè)務(wù)”必將以更快的速度發(fā)展,標(biāo)準(zhǔn)建設(shè)必將助力更多、更新的創(chuàng)新技術(shù)大規(guī)模推廣,助力我國“新基建”的快速發(fā)展。