王天澤

摘 要：隨著云計(jì)算的快速發(fā)展，大量應(yīng)用開始向云上遷移，云平臺(tái)資源分配受到關(guān)注。云服務(wù)負(fù)載是動(dòng)態(tài)變化的，為保證服務(wù)質(zhì)量不受負(fù)載量變化影響，最大化利用云資源，如何動(dòng)態(tài)擴(kuò)充、縮緊資源成為需要考慮的重要問題。設(shè)計(jì)并實(shí)現(xiàn)了一個(gè)Docker Swarm彈性云動(dòng)態(tài)伸縮模塊，通過增加和減少云服務(wù)副本數(shù)量改變服務(wù)資源的分配。彈性云的動(dòng)態(tài)伸縮模塊使用了響應(yīng)式伸縮模型與預(yù)測式伸縮模型，其中預(yù)測式伸縮模型基于灰色預(yù)測模型。實(shí)驗(yàn)證明基于灰色預(yù)測的預(yù)測式伸縮模型具有較高的預(yù)測準(zhǔn)確率。

關(guān)鍵詞：云平臺(tái)；動(dòng)態(tài)伸縮；彈性云；灰色預(yù)測

DOI：10.11907/rjdk.172652

中圖分類號(hào)：TP319

文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1672-7800（2018）004-0131-04

Abstract：With the development of cloud-computing，more and more application start to move on cloud，and the resource allocation of cloud platform has been much accounted.The workload of cloud-service is changing dynamically. It is the main concern of how to maximize cloud-resource and realize auto-scaling to ensure quality service. A Docker Swarm elastic-cloud platform has been designed and achieved，which uses replica to change resource allocation of platform.The auto-scaling model in elastic cloud uses both reactive scaling model and prediction scaling model to ensure auto-scaling.The prediction scaling model is based on Grey-forecasting model.The experiment proves the prediction scaling model which based on Grey-forecasting model has high prediction accuracy.

Key Words：cloud platform； auto-scaling； elastic cloud； grey-forecasting

0 引言

在PaaS（Platform as a service）概念支撐下，云服務(wù)獲得了長足發(fā)展。很多公司如谷歌、亞馬遜等都在云服務(wù)上獲得了極大的成功[1]。云服務(wù)平臺(tái)應(yīng)該保證其提供的服務(wù)質(zhì)量（QoS，Quality of Service）達(dá)到SLA（Service Level Agreement）協(xié)定要求。云服務(wù)負(fù)載往往隨時(shí)間而劇烈變化。伴隨著云服務(wù)發(fā)展的則是大量的突發(fā)訪問[2]。如果維持最高負(fù)載所需資源，就會(huì)造成資源浪費(fèi)。反過來，如果服務(wù)平臺(tái)通過保證服務(wù)的最低或中等計(jì)算資源來縮減資源消耗，那么當(dāng)服務(wù)負(fù)載達(dá)到峰值時(shí)其體驗(yàn)就會(huì)變差，最終導(dǎo)致客戶流失。云計(jì)算是一種基于支付體系的需求導(dǎo)向計(jì)算模型。在云計(jì)算的幫助下，開發(fā)者可以通過手動(dòng)或API的方式將應(yīng)用資源擴(kuò)容或縮容，這種擴(kuò)縮容操作通常需要花費(fèi)很長時(shí)間。云計(jì)算中的自動(dòng)伸縮功能可以很好地解決這個(gè)問題。自治彈性云根據(jù)當(dāng)前負(fù)載狀態(tài)動(dòng)態(tài)地分配資源[3]，而基于以往負(fù)載記錄對未來負(fù)載進(jìn)行預(yù)測，就可以提前分配資源以避免違背SLA。

動(dòng)態(tài)伸縮在云計(jì)算中是一個(gè)熱門研究領(lǐng)域，彈性云常常搭建在虛擬機(jī)（VM，Virtual Machine）之上。但是VM對于Web應(yīng)用來說過于重量級(jí)，因?yàn)閃eb應(yīng)用所需要的僅是Web Server（APACHE，TOMCAT，NGINX）、語言包、數(shù)據(jù)庫等運(yùn)行環(huán)境，并非整個(gè)VM操作系統(tǒng)。因此，將Web應(yīng)用部署在VM中就是一種資源浪費(fèi)[4]?，F(xiàn)在突發(fā)訪問情況越來越多，需要彈性云自動(dòng)擴(kuò)容，而基于VM的彈性云并不能實(shí)現(xiàn)這個(gè)目標(biāo)。Docker是一種新型輕量級(jí)虛擬化技術(shù)。在Docker的幫助下，可以將Web應(yīng)用與它的運(yùn)行環(huán)境打包到一個(gè)Docker鏡像中進(jìn)行開發(fā)、測試、轉(zhuǎn)移和部署。在同一個(gè)宿主機(jī)上運(yùn)行的Docker容器共享相同的Linux kernel，所以Docker容器可以在秒級(jí)時(shí)間內(nèi)部署并充分利用計(jì)算資源[5]。本文基于Docker Swarm集群設(shè)計(jì)并實(shí)現(xiàn)一個(gè)帶有響應(yīng)式伸縮與預(yù)測式伸縮的動(dòng)態(tài)伸縮模塊。

1 相關(guān)工作

圖1展現(xiàn)了Docker容器和虛擬機(jī)在架構(gòu)上的不同之處。每個(gè)虛擬機(jī)都包含應(yīng)用、二進(jìn)制文件、依賴庫及一整套操作系統(tǒng)，所以虛擬機(jī)會(huì)浪費(fèi)很多CPU、內(nèi)存與存儲(chǔ)資源。在容器中只有應(yīng)用與應(yīng)用所依賴的庫。容器相當(dāng)于運(yùn)行在宿主機(jī)系統(tǒng)上的一個(gè)資源隔離進(jìn)程。容器可在2s～3s啟動(dòng)，而虛擬機(jī)啟動(dòng)則要花費(fèi)數(shù)分鐘，容器這種快速部署性質(zhì)非常適合處理瞬間擁擠訪問。IBM研究[6]對比了虛擬機(jī)與容器的性能，使用一套負(fù)載任務(wù)給予集群系統(tǒng)的CPU、內(nèi)存、存儲(chǔ)與網(wǎng)絡(luò)資源壓力，結(jié)果證明容器在大多數(shù)情況下性能優(yōu)于虛擬機(jī)。

文獻(xiàn)[7]提出了基于DSA （detect-strategy-action）思想的資源調(diào)度策略框架。文獻(xiàn)[8]基于云計(jì)算虛擬化技術(shù)，提出了一種租借理論和動(dòng)態(tài)多級(jí)資源池相結(jié)合的資源調(diào)度策略，可以有效減少資源空閑時(shí)間，提高資源利用率。文獻(xiàn)[9]提出了一種基于馬爾科夫鏈的資源預(yù)測方法，它全面考慮了CPU使用量、網(wǎng)絡(luò)負(fù)載以及資源失敗率，預(yù)測使用何種資源配置能獲得更好的工作調(diào)度結(jié)果。但是馬爾科夫鏈模型只考慮了當(dāng)前狀態(tài)，忽視了資源配置的歷史記錄。文獻(xiàn)[10]提出了基于模型匹配的云計(jì)算資源預(yù)測，將歷史負(fù)載信息與當(dāng)前負(fù)載情況配對解決負(fù)載預(yù)測問題，闡述了使用這種方法進(jìn)行云資源自動(dòng)擴(kuò)縮容算法。這種基于歷史記錄的方法在沒有可匹配記錄時(shí)效果很差。

考慮到長連接應(yīng)用特點(diǎn)，文獻(xiàn)[11]提出了基于最小權(quán)重連接的指數(shù)平滑預(yù)測法（ESBWLC）。ESBWLC優(yōu)化了實(shí)際負(fù)載與服務(wù)能力權(quán)重，使用一次指數(shù)平滑法的預(yù)測機(jī)制。這種算法可以增加服務(wù)器的負(fù)載效率，但預(yù)測精度較差。

許多資源預(yù)測系統(tǒng)把重點(diǎn)放在預(yù)測任務(wù)的執(zhí)行時(shí)間而非任務(wù)所需資源上。文獻(xiàn)[12]、[13]中的預(yù)測系統(tǒng)需要用戶提供任務(wù)運(yùn)行時(shí)間的近似值，然后根據(jù)現(xiàn)有CPU負(fù)載預(yù)測任務(wù)運(yùn)行時(shí)間。除此之外，還有一些技術(shù)不需要用戶提供任何信息就可預(yù)測任務(wù)的運(yùn)行時(shí)間，如文獻(xiàn)[14]就使用了同用戶過往相似任務(wù)的執(zhí)行情況進(jìn)行回歸分析，以得到任務(wù)運(yùn)行時(shí)間的預(yù)測值。

灰色預(yù)測模型基于灰色理論，灰色理論認(rèn)為系統(tǒng)的行為現(xiàn)象盡管是朦朧的、數(shù)據(jù)是復(fù)雜的，但它畢竟是有序的，是有整體功能的?；覕?shù)的生成就是從雜亂中尋找出規(guī)律[15]?；疑A(yù)測廣泛應(yīng)用于銷售與生產(chǎn)預(yù)測，本文基于灰色預(yù)測進(jìn)行負(fù)載預(yù)測。

2 架構(gòu)設(shè)計(jì)

圖2是彈性云平臺(tái)的基本架構(gòu)，包括一個(gè)集群控制節(jié)點(diǎn)、多個(gè)工作節(jié)點(diǎn)、集群狀態(tài)監(jiān)控子系統(tǒng)、資源預(yù)測子系統(tǒng)、伸縮控制模塊?？紤]到應(yīng)用會(huì)頻繁更新升級(jí)，所以添加了一個(gè)鏡像倉庫，能更方便地轉(zhuǎn)移、部署與更新在平臺(tái)上的應(yīng)用。實(shí)現(xiàn)動(dòng)態(tài)伸縮的3個(gè)模塊主要功能如下：

（1）集群狀態(tài)監(jiān)控子系統(tǒng)：監(jiān)控集群的負(fù)載狀態(tài)，用以實(shí)現(xiàn)響應(yīng)式伸縮，負(fù)責(zé)記錄每個(gè)Service狀態(tài)，用以實(shí)現(xiàn)預(yù)測式伸縮。

（2）集群預(yù)測子系統(tǒng)：通過狀態(tài)監(jiān)控的記錄數(shù)據(jù)預(yù)測集群未來的負(fù)載情況，提前分配資源以維持SLA。

（3）伸縮控制模塊：是伸縮功能的實(shí)施模塊，可通過集群狀態(tài)監(jiān)控子系統(tǒng)獲得集群狀態(tài)，進(jìn)行響應(yīng)式伸縮，也可從資源預(yù)測子系統(tǒng)獲得預(yù)測信息進(jìn)行預(yù)測式伸縮。

3 算法描述

3.1 灰色預(yù)測

灰色預(yù)測通過鑒別系統(tǒng)因素之間發(fā)展趨勢的差異程度，對原始數(shù)據(jù)進(jìn)行生成處理，尋找系統(tǒng)變動(dòng)的規(guī)律，生成有較強(qiáng)規(guī)律性的數(shù)據(jù)序列，然后建立相應(yīng)的微分方程模型，從而預(yù)測事物未來發(fā)展趨勢?；疑A(yù)測的數(shù)據(jù)是通過生成數(shù)據(jù)模型得到的預(yù)測值的逆處理結(jié)果?；疑A(yù)測以灰色模型為基礎(chǔ)。在諸多的灰色模型中，以灰色系統(tǒng)中單序列一階線性微分方程模型GM（1，1）最為常用。GM（1，1）模型介紹如下：

3.2 響應(yīng)式伸縮模型

服務(wù)剛建立時(shí)，還沒有負(fù)載歷史記錄用以預(yù)測，所以這時(shí)使用響應(yīng)式伸縮模型實(shí)現(xiàn)動(dòng)態(tài)伸縮功能。當(dāng)某個(gè)服務(wù)的replica CPU負(fù)載達(dá)到90%時(shí)，觸發(fā)擴(kuò)容，為其增加replica，直到負(fù)載回復(fù)到80%。當(dāng)某個(gè)服務(wù)的replica CPU負(fù)載低于50%時(shí)，觸發(fā)縮容，為其縮減replica，直到負(fù)載回復(fù)到60%以上。

算法描述如下：

function reactiveScaling（）

Nexceed=0

while（R>=Tupper）

Nexceed++

end while

while（R<=Tlower）

Nexceed--

end while

Return Nexceed

其中，Nexceed是 replica變化個(gè)數(shù)，R為服務(wù)當(dāng)前負(fù)載，Tupper為觸發(fā)上界，Tlower為觸發(fā)下界。

3.3 預(yù)測式伸縮模型

服務(wù)運(yùn)行一段時(shí)間后，集群控制模塊有了負(fù)載歷史記錄，這時(shí)就可使用預(yù)測式伸縮模型進(jìn)行動(dòng)態(tài)伸縮。利用過去100s的負(fù)載記錄，使ΔT為10s，那么原始數(shù)據(jù)列就是過去100s內(nèi)每10s的CPU負(fù)載均值。將ΔT設(shè)為10s較好地利用了Docker秒級(jí)部署優(yōu)勢。

4 實(shí)驗(yàn)結(jié)果

為了驗(yàn)證灰色預(yù)測的準(zhǔn)確度，使用Tsung模擬負(fù)載，將預(yù)測結(jié)果與真實(shí)負(fù)載進(jìn)行比較，如圖3所示。將灰色預(yù)測與簡單平均法、加權(quán)移動(dòng)平均法的預(yù)測結(jié)果進(jìn)行對比，可以明顯看出灰色預(yù)測的優(yōu)勢，如圖4所示。

從圖3可以看出，灰色預(yù)測與真實(shí)值的近似程度很高，其預(yù)測值隨著調(diào)度時(shí)間降低而減少。從圖4可以看出，灰色預(yù)測比簡單平均法和加權(quán)移動(dòng)平均法表現(xiàn)更好，因?yàn)榛疑A(yù)測不僅考慮當(dāng)前情況，還根據(jù)以往記錄進(jìn)行預(yù)測。

通過SLA的違背次數(shù)評(píng)價(jià)彈性云動(dòng)態(tài)伸縮的可靠性，如圖5所示。服務(wù)剛被創(chuàng)建時(shí)，使用響應(yīng)式伸縮模型， SLA的違背次數(shù)較多。預(yù)測式伸縮模型啟動(dòng)后，SLA的違背次數(shù)就變得非常小。

5 結(jié)語

本文設(shè)計(jì)并實(shí)現(xiàn)了一個(gè)基于Docker Swarm集群的動(dòng)態(tài)伸縮功能。設(shè)計(jì)了響應(yīng)式伸縮模型與基于灰色預(yù)測的伸縮模型，以調(diào)度集群的伸縮。實(shí)驗(yàn)結(jié)果證明，灰色預(yù)測模型具有良好的預(yù)測準(zhǔn)確率，且該Docker Swarm集群動(dòng)態(tài)伸縮功能具有良好的可靠性。但灰色預(yù)測模型在波動(dòng)性較大的情況下精準(zhǔn)度欠佳，未來將對這一問題進(jìn)行改進(jìn)。

參考文獻(xiàn)：

[1] 吳吉義，平玲娣，潘雪增，等.云計(jì)算：從概念到平臺(tái)[J].電信科學(xué)，2009（12）：168-171.

[2] 劉鵬程.云計(jì)算中虛擬機(jī)動(dòng)態(tài)遷移的研究[D].上海：復(fù)旦大學(xué)，2009.

[3] 李冰.云計(jì)算環(huán)境下動(dòng)態(tài)資源管理關(guān)鍵技術(shù)研究[D].北京：北京郵電大學(xué)，2012.

[4] 馬越，黃剛.基于Docker的應(yīng)用軟件虛擬化研究[J].軟件，2015，36（3）：10-14.

[5] 劉思堯，李強(qiáng)，李斌.基于Docker技術(shù)的容器隔離性研究[J].軟件，2015，36（4）：110-113.

[6] FELTER W， FERREIR A， ARAJJAMONY R， et al. An updated performance comparison of virtual machines and linux containers[J].Technology，2014（2）：28-32.

[7] 肖斐.虛擬化云計(jì)算中資源管理的研究與實(shí)現(xiàn)[D].西安：西安電子科技大學(xué)，2010.

[8] 孫瑞鋒，趙政文.基于云計(jì)算的資源調(diào)度策略[J].航空計(jì)算技術(shù)，2010（3）：123-125.

[9] SHI L L， YANG S B， GUO L M， et al. A Markov Chain based resource prediction in computational grid[C].Frontier of Computer Science and Technology，2009. FCST'09. Fourth International Conference on，2009：119-124.

[10] CARON E， DESPREZ F， MURESAN A. Forecasting for grid and cloud computing on-demand resources based on pattern matching[J].Cloud Computing Technology and Science （CloudCom），2010 IEEE Second International Conference on，2010（12）：456-463.

[11] REN X N， LIN R H， ZOU H. A dynamic load balancing strategy for cloud computing platform based on exponential smoothing forecast[C].Cloud Computing and Intelligence Systems （CCIS），2011 IEEE International Conference on，2011.

[12] PADGETT J， DJEMAME K， DEW P. Predictive run-time adaptation for service level agreements on the grid[J]. 21st UK Performance Engineering Workshop. Nottingham，2005（7）：267-269.

[13] DINDA P. Online prediction of the running time of tasks[J].Cluster Computing，2002，5（3）：225-236.

[14] SMITH W， FOSTER I， TAYLOR V. Predicting application run times using historical information[J].Lecture Notes in Computer Science，1998，1459（122）：183-185.

[15] 鄧聚龍.灰色系統(tǒng)理論教程[M].武漢：華中理工大學(xué)出版社，1990.

（責(zé)任編輯：杜能鋼）