魯 明,宋馥莉

(河南廣播電視大學(xué)，河南 鄭州 450008)

基于隱馬爾可夫模型的虛擬機性能異常預(yù)測

魯 明,宋馥莉

(河南廣播電視大學(xué)，河南 鄭州 450008)

基于隱馬爾可夫模型(Hidden markov model，簡稱HMM)的虛擬機性能，提出了一種虛擬機性能異常的預(yù)測方法。該方法的核心思想是基于業(yè)務(wù)系統(tǒng)的運行時資源消耗具有一定的規(guī)律性。通過該規(guī)律性采用隱馬爾可夫模型刻畫當(dāng)前業(yè)務(wù)系統(tǒng)的正確狀態(tài)，并根據(jù)業(yè)務(wù)系統(tǒng)預(yù)測結(jié)果是否偏移正常狀態(tài)來判定業(yè)務(wù)系統(tǒng)是否出現(xiàn)性能異常?；赥PC-W的試驗結(jié)果顯示，該方法具有快速發(fā)現(xiàn)和定位性能異常的能力，且其運行時開銷較小。

虛擬機;性能異常發(fā)現(xiàn);機器學(xué)習(xí)

隨著云計算業(yè)務(wù)范圍的不斷擴展，越來越多的關(guān)鍵業(yè)務(wù)系統(tǒng)向云計算遷移，云計算服務(wù)的可靠性和穩(wěn)定性日益被關(guān)注。虛擬機作為構(gòu)建云計算底層信息化的關(guān)鍵性基礎(chǔ)設(shè)施，其運行性能的優(yōu)劣和可靠性，直接關(guān)系到用戶對云服務(wù)的體驗度和滿意度[1-2]。軟件分布在 Internet 上應(yīng)該是自治的、上下文敏感的、演化的,所以需要提供更好的可擴展性、可讀性和可重用性[3]。如何對虛擬機性能異常進行準確預(yù)測，對虛擬機的故障信息進行準確及時定位成為研究熱點。第3方數(shù)據(jù)顯示，谷歌網(wǎng)絡(luò)的故障率約為每年每集群1 h，國內(nèi)阿里云數(shù)據(jù)服務(wù)商的3 000臺規(guī)模服務(wù)器每天會損壞3塊硬盤，其sata磁盤年故障率約為3.6%。傳統(tǒng)虛擬機性能異常預(yù)測技術(shù)，主要針對系統(tǒng)正常運行情況下的參數(shù)輪廓進行建模，然后提取系統(tǒng)當(dāng)前運行狀態(tài)的參數(shù)，勾畫系統(tǒng)當(dāng)前運行狀態(tài)的輪廓，以當(dāng)前運行狀態(tài)輪廓與正常系統(tǒng)運行狀態(tài)輪廓進行對比，從而得出系統(tǒng)當(dāng)前是否異常的結(jié)論，一般采用神經(jīng)網(wǎng)絡(luò)、專家系統(tǒng)、數(shù)學(xué)統(tǒng)計和模式匹配技術(shù)，來對日志文件或者網(wǎng)絡(luò)流量進行分析對比，從而判斷當(dāng)前虛擬機的性能異常情況。BOULON等[4]設(shè)計開發(fā)了基于Hadoop云平臺的大規(guī)模監(jiān)控系統(tǒng)chukwa。該系統(tǒng)只提供了虛擬機的管理功能，虛擬機性能異常預(yù)測只能靠系統(tǒng)管理者的經(jīng)驗來獲得 。JIN等[5]提出一些虛擬機內(nèi)部監(jiān)測的方法，分別從主機代理、檢查點和回滾、陷阱和檢查、體系結(jié)構(gòu)監(jiān)控這4個內(nèi)部指標進行內(nèi)部監(jiān)測方法進行對比分析，以評估對虛擬機的影響程度、健壯性影響等。CHEN等[6]在一種基于PCA的虛擬機聚類的云監(jiān)控可擴展性改進中，采用了統(tǒng)計分析的方法對集群內(nèi)的虛擬機的相似行為進行識別分類，可實現(xiàn)基于虛擬機的一些性能指標進行相似虛擬機的自動聚類分組，對虛擬機性能異常預(yù)測的功能只能靠人為的對聚類分組的數(shù)據(jù)進行推測。田文洪等[7]提出了名為CloundMoni的虛擬機監(jiān)控框架，卻未對虛擬機性能異常狀態(tài)的預(yù)測展開重點研究。王敏等[8]在基于主元法分析法的虛擬機異常監(jiān)控研究中提出了一種對虛擬機進行多維數(shù)據(jù)采集，然后采用主元法對采集到的數(shù)據(jù)進行分析，從而得出虛擬機系統(tǒng)是否異常的結(jié)論。該方法在對集中式計算環(huán)境，或是針對已知異常源分析中對虛擬機狀態(tài)異常有較高的識別率，卻不太適合于在線部署實施[9]。于明等[10]提出了一種基于信息熵的虛擬機異常檢測方法。這種方法往往會受到信息采樣矩陣行值N的設(shè)置影響，而采用矩陣行值N的最優(yōu)化設(shè)置，目前尚未有相關(guān)的理論依據(jù)。本研究針對業(yè)務(wù)系統(tǒng)運行時系統(tǒng)資源消耗有一定的規(guī)律性，同時兼顧考慮到資源競爭對資源消耗分布的影響，提出了一種基于隱馬爾可夫模型(Hidden Markov model，簡稱HMM)的虛擬機性能異常發(fā)現(xiàn)方法，能快速發(fā)現(xiàn)和定位性能異常，以便達到及時修正此類異常的目的。

1 隱馬爾可夫預(yù)測方法

隱馬爾可夫模型(Hidden Markov model，HMM)是統(tǒng)計模型，用來描述一個含有隱含未知參數(shù)的馬爾可夫過程[11-12]。其難點是從可觀察的參數(shù)中確定該過程的隱含參數(shù)。然后利用這些參數(shù)來進一步分析，是在被建模的系統(tǒng)被認為是一個馬爾可夫過程與未觀測到的(隱藏的)的狀態(tài)的統(tǒng)計馬爾可夫模型。

典型的隱馬爾可夫模型如圖1所示。它是用五元組λ(S,O,A,B,π)來刻畫的：

圖1 隱馬爾可夫模型Fig.1 Hidden Markov model

圖1中：S={S1,S2,…,SN}表示隱馬爾可夫模型的隱含狀態(tài)，例如系統(tǒng)健康還是互相干擾；O={O1,O2,…,OM}表示可觀測的系統(tǒng)特征。例如，監(jiān)測的CPU、內(nèi)存、網(wǎng)絡(luò)等資源使用情況；A={aij,i,j=1,2,…,B}和B={bjk,j=1,2,…,N,k=1,2，…,M}表示各個狀態(tài)之間的轉(zhuǎn)移概率趨勢。

本研究采用向量數(shù)組{S,I}表示狀態(tài)空間，其中S表示系統(tǒng)的健康狀況，其取值范圍為{h1,h2}，分別表示系統(tǒng)處于正常、異常狀態(tài)；I表示系統(tǒng)的干擾狀況，其取值范圍為{l1,l2}，分別表示無干擾和有干擾2個狀態(tài)。因此，可得到系統(tǒng)的4個(H*L)隱藏狀態(tài)，以及它們之間的概率轉(zhuǎn)移矩陣

可觀測的系統(tǒng)狀態(tài)采用CPU利用率、內(nèi)存利用率、網(wǎng)絡(luò)利用率、磁盤讀寫速度這4個特征來刻畫。因此，可以得到構(gòu)成隱馬爾可夫模型的輸出狀態(tài)的概率矩陣

2 基于隱馬爾科夫鏈模型的性能異常檢測模型及算法

2.1性能異常檢測模型設(shè)計

如圖2所示,根據(jù)系統(tǒng)狀態(tài)觀測序列Y=(y1,y2,…,yt)，計算系統(tǒng)在下一個時刻Xt+1進入干擾狀態(tài)的概率P(Xt+1=Xi)。具體而言，首先計算t時刻系統(tǒng)分別處于不同狀態(tài)的概率向量數(shù)組πt，然后在此基礎(chǔ)上計算t+1時刻系統(tǒng)處于不同狀態(tài)的概率向量數(shù)組Xt+1，根據(jù)異常狀態(tài)分布確定t+1時刻出現(xiàn)異常的概率。

圖2 概率預(yù)測算法過程Fig.2 Probabilistic prediction algorithm process

(2)

通過上述計算過程，可以得到t+1時刻系統(tǒng)處于不同狀態(tài)的概率。

2.2模型參數(shù)訓(xùn)練

建立一個通用HMM模型λ=(S,O,A,B,π)確定模型的狀態(tài)數(shù)，允許的狀態(tài)轉(zhuǎn)移和觀測序列向量的大小。

將訓(xùn)練得到的數(shù)據(jù)與N個狀態(tài)進行對應(yīng)，計算隱馬爾可夫模型的初始參數(shù)，狀態(tài)之間的轉(zhuǎn)移概率矩陣A在這里初始化，設(shè)定狀態(tài)i只能返回到本身或者轉(zhuǎn)移到j(luò)=i+1狀態(tài)，即aij=0，ji+1。

對于初始狀態(tài)概率分布，設(shè)定πi=1，即假設(shè)HMM是從第1個狀態(tài)開始的，而對于觀察概率的初始化，假設(shè)：bij=1/M，1≤i≤N, 1≤k≤M，這樣，就初始化一個隱馬爾科夫模型λ=(S,O,A,B,π)。

最后采用向前-向后算法或者Viterbi算法計算出觀察向量O在這個模型下的P(O|λ)，用Viterbi分割取代均勻分割，重新進行參數(shù)的初始估計。

初始模型確定之后，利用Baum-welch重估算法對初始隱馬爾科夫模型進行重新計算。隱馬爾科夫模型的各個參數(shù)在這個步驟中得以重新估計，得到一個新的λ=(S,O,A′,B′,π′)，然后利用向前-向后算法或者Viterbi算法計算出觀察值序列O在這個模型下的P(O|λ′)，為了估計出最接近于觀察值序列O的模型，設(shè)定門限值C，當(dāng)|P(O|λ′)-P(O|λ)|

3 試驗及結(jié)果分析

本研究所述方法已在基于Xen的虛擬化環(huán)境下進行了原型實現(xiàn)。本研究將多臺虛擬機在不同的應(yīng)用場景內(nèi)進行30多次試驗，模擬虛擬機異常檢測，每次異常檢測的結(jié)果相似，從這些試驗數(shù)據(jù)來驗證分析所提出的方法的有效性。這里由于篇幅有限，下面只給出其中一次的試驗結(jié)果。

試驗的硬件部署環(huán)境如圖3所示，服務(wù)器A作為主節(jié)點運行Xen服務(wù)程序，其配置了Intel Core i7 CPU 3.40 GHz 4 CPU，4 G內(nèi)存以及千兆網(wǎng)卡，其同樣配置了Intel Core i7 CPU 3.40 GHz，4 G內(nèi)存以及千兆網(wǎng)卡。服務(wù)器F作為NFS文件服務(wù)器，用于存儲虛擬機的鏡像文件，其硬件配置為Intel Core2 CPU 2.83 GHz，4 G內(nèi)存以及千兆網(wǎng)卡。另外有一臺負載生成的客戶端節(jié)點C，用于產(chǎn)生對系統(tǒng)的壓力負載。所有的服務(wù)器節(jié)點都通過一個千兆的交換機連接在同一個局域網(wǎng)中。

其中，load generator作為負載生成器，使用的是Apache公司的Jmeter用于對系統(tǒng)進行壓力測試。Xen作為一個開放源代碼虛擬機監(jiān)視器，F(xiàn)edora是一款基于linux的操作系統(tǒng)，作為系統(tǒng)測試的平臺。

圖3 試驗系統(tǒng)

服務(wù)器A上安裝2個Tomcat 7.0.41虛擬機,其命名分別是Node 0和Node 1,每臺虛擬機占用2 V CPU,2 G內(nèi)存?？蛻舳斯?jié)點C部署了Windows操作系統(tǒng)，并運行JMeter壓力生成程序來產(chǎn)生負載。

控制Jmeter對Node 0進行壓力測試,使其CPU利用率分別從0%到100%,Node 1空閑?？梢姳舅惴ㄎ窗l(fā)現(xiàn)Node 0和Node 1出現(xiàn)性能異常,Steal和Usr之間沒有出現(xiàn)分歧。其中，Steal表示虛擬機應(yīng)該能使用而未使用的CPU資源情況，Usr表示虛擬機實際使用的CPU資源情況。

圖4 不存在資源競爭的情況Fig.4 No Competition for resources

控制Node 0和Node 1所有虛擬CPU映射到同一物理CPU;控制Jmeter對Node 0進行壓力測試,使其CPU利用率分別從0%到100%;控制Jmeter對Node 1進行壓力測試,使其CPU利用率控制在75%?？梢姳舅惴苡行Оl(fā)現(xiàn)Node 0和Node 1出現(xiàn)性能異常,發(fā)生的拐點是當(dāng)Node 0的使用率為25%時,且隨著Node 0壓力的增加,圖中 Steal和Usr之間鴻溝越來越大。

兩臺虛擬機競爭同一CPU的情況：

圖5 存在資源競爭的情況

這是因為Node 0和Node 1兩臺虛擬機使用同一物理CPU，其最多能使用到100%的CPU資源。Node 1正常需要獲取75%的CPU，但當(dāng)Node 0的CPU資源需求增加后，Node 0和Node 1的CPU資源需求會大于100%。此時會產(chǎn)生資源競爭現(xiàn)象，根據(jù)虛擬化默認調(diào)度算法，Node 0和Node 1會平分CPU資源，均為50%。

綜上所述,本算法能有效地檢測到因資源競爭而導(dǎo)致的性能問題。

5 結(jié)論與討論

計算機主機的異常行為多種多樣，而在云計算的大背景下虛擬機的異常行為更為復(fù)雜多變，已有的針對主機異常檢測的方法，如日志審計法、文件系統(tǒng)監(jiān)控法、操作系統(tǒng)內(nèi)核監(jiān)控法、網(wǎng)絡(luò)連接監(jiān)控法等檢測方法[11-12]。這些方法已經(jīng)很難判斷云環(huán)境下虛擬機的當(dāng)前運行性能異常情況了。虛擬機的失效恢復(fù)機制是保障虛擬機可靠運行的重要方法，但是，由于虛擬化環(huán)境的特殊性，對整個虛擬機狀態(tài)的復(fù)制備份過程是一個相當(dāng)耗費資源的過程。傳統(tǒng)的研究思路主要集中在對備份過程中產(chǎn)生的數(shù)據(jù)進行優(yōu)化的方面，通過壓縮或者去除冗余數(shù)據(jù)的方式來降低系統(tǒng)的開銷[13-15]。本研究提出了一種利用隱馬爾可夫模型對系統(tǒng)健康狀態(tài)進行預(yù)測的方法，主要把采集到的性能指標采用了隱馬爾科夫鏈模型進行分析預(yù)測，同時給出了訓(xùn)練數(shù)據(jù)的建模算法，在擴大性能指標采集的全面性基礎(chǔ)上，提升了性能異常檢測的準確性，對系統(tǒng)的備份頻率進行動態(tài)調(diào)整，有效降低了系統(tǒng)正常狀態(tài)下的性能開銷問題，使有效計算可以獲得更多的系統(tǒng)資源，提高了用戶的響應(yīng)時間。

[1] 陳康，鄭緯民．云計算：系統(tǒng)實例與研究現(xiàn)狀[J]．軟件學(xué)報,2009,20(5):1337-134.

[2] 劉鵬．云計算[M]．北京：電子工業(yè)出版社，2011.

[3] 魯明，李旻．基于OSGi的Web容器重構(gòu)[J]．河南大學(xué)學(xué)報(自然科學(xué)版)，2010，40(3)：296-298.

[4] BOULON J，KONWINSKI A， CHUKWA B, et al．A large-scale monitoring system[J]．Computer Networks，2008，52(9)：2013-2025.

[5] JIN H, DENG L, WU S, et al．, Live virtual machine migration with adaptive, memory compression [C]．[S.L.]： International Conference on Cluster Computing， 2009:1-10.

[6] CHEN H C，JIN H，HU K，et al．Scheduling overcommitted VM：behavior monitoring and dynamic switching-frequency scaling [J]．Future Gereration Computer Systems，2013，29(1)：341-351.

[7] TIAN W H，SUN X S．CloudMoni：a monitoring framework for on demand virtual machine allocation in cloud data centers[J]．Journal of Information and Computational Science，2013，10(4)：4936-4946.

[8] 王敏，鄧勝東．基于主元分析法的虛擬機異常監(jiān)控研究[J]．西安郵電學(xué)院學(xué)報，2012，24(6)：728-734.

[9] SHAO Z Y，HE L．VSA：an offline scheduling analyzer for xen virtual machine monitor[J]．Future Gereration Computer Systems，2013，29(8)：2067-2076.

[10] 于明，張雨．云環(huán)境基于多屬性信息熵的虛擬機異常檢測[J]．華中科技大學(xué)學(xué)報，2015，43(5)：60-68.

[11] 劉紹輝，孫建超，姚鴻勛．一種改進的基于馬爾科夫鏈的擴頻圖像隱寫分析方法[J]．中國科學(xué)院研究生院學(xué)報，2011,28(5)：690-695.

[12] 王卅，張文博，吳恒，等．一種基于硬件計數(shù)器的虛擬機性能干擾估算方法[J]．軟件學(xué)報，2015,26(8):2074-2090.

[13] TAN Y, VENKATESH V, GU X. RESILIENT self-compressive monitoring for large-scale hosting infrastructures [J]. IEEE Transactions on Parallel and Distributed Systems, 2013, 24(3):576-586.

[14] 宋彩華．云資源監(jiān)控中的數(shù)據(jù)傳輸模型研究[D]．鄭州：鄭州大學(xué)，2013.

[15] TOOSI A N, CALHEIROS R N, BUYYA R. Interconnected cloud computing environments: challenges, taxonomy and survey[J]. Acm Computing Surveys, 2014, 47(1):1-47.

(責(zé)任編輯：常思敏)

PredictionofvirtualmachinepropertyabnormalitybasedonhiddenMarkovmodel

LU ming，SONG Fuli

(Henan Radio and Television University, Zhengzhou 450008，China)

We made an unusual discovery of virtual machine performance based on Hidden Markov Model. The core idea is that the consumption of resources has a certain regularity when the operation system runs. Hidden Markov model is adopted to correctly portray the current state of business systems, and according to the results of forecasts to determine whether the business system is abnormal or not. The test results based on TPC-W show that this method has the unusual ability to quickly find and locate properties, and the cost is much lower.

virtual machine; discovery of property abnormality; robotic learning

2016-01-08

河南省教育廳科學(xué)技術(shù)研究重點項目(14A520084)；河南省科技廳科技攻關(guān)課題(152102310325；152102310118)

魯明(1977-)，男，河南開封人，講師，碩士，主要從事計算機應(yīng)用技術(shù)和教育信息化研究。

1000-2340(2016)04-0563-05

TP 311

：A