顏永明，陳兵，許文杰

?

互聯(lián)網(wǎng)跨域端到端質(zhì)量監(jiān)測及故障定位方案

顏永明1，陳兵2，許文杰1

（1. 中國電信股份有限公司上海分公司，上海 200085； 2. 上海市信息網(wǎng)絡(luò)有限公司，上海 200081）

隨著互聯(lián)網(wǎng)市場的迅猛發(fā)展，互聯(lián)網(wǎng)內(nèi)容提供商對網(wǎng)絡(luò)質(zhì)量提出了更高的要求。大型互聯(lián)網(wǎng)內(nèi)容提供商因業(yè)務(wù)需要，應(yīng)用遍布于各地數(shù)據(jù)中心，對互聯(lián)網(wǎng)跨域訪問質(zhì)量有很高的要求。建立互聯(lián)網(wǎng)跨域端到端質(zhì)量監(jiān)測系統(tǒng)，快速定位域外網(wǎng)絡(luò)故障，對互聯(lián)網(wǎng)運營商及服務(wù)提供商具有較大的意義。分析了常用網(wǎng)絡(luò)監(jiān)控技術(shù)和等價路徑中的散列（Hash）算法，提出利用散列算法實現(xiàn)網(wǎng)絡(luò)路徑全遍歷，監(jiān)測互聯(lián)網(wǎng)跨域端到端質(zhì)量，最后對故障定位方案給出了建議。

跨域；端到端質(zhì)量；散列；路徑全遍歷

1 引言

在各類移動端和桌面端應(yīng)用，如游戲、社交應(yīng)用、購物以及搜索引擎等需求的推動下，互聯(lián)網(wǎng)企業(yè)對網(wǎng)絡(luò)帶寬的需求持續(xù)增長，數(shù)據(jù)中心經(jīng)多年發(fā)展，建設(shè)規(guī)模不斷擴大。同時ICP（internet content provider，互聯(lián)網(wǎng)內(nèi)容提供商）對網(wǎng)絡(luò)訪問質(zhì)量提出了更高的要求。云計算數(shù)據(jù)中心更因業(yè)務(wù)跨機房調(diào)度、配置部署等特性，對網(wǎng)絡(luò)高可靠性、穩(wěn)定性、網(wǎng)絡(luò)時延、分組丟失、抖動等質(zhì)量問題更為敏感[1]。網(wǎng)絡(luò)異常對這些業(yè)務(wù)的用戶體驗造成極大影響。因此，本文針對因自治域問題而無法直接采集到網(wǎng)元、鏈路狀態(tài)的互聯(lián)網(wǎng)跨域場景，重點研究了端到端質(zhì)量監(jiān)測及故障定位方案。

2 互聯(lián)網(wǎng)跨域端到端質(zhì)量監(jiān)測場景需求和問題

目前，大型互聯(lián)網(wǎng)公司大多在全國租用或自建數(shù)據(jù)中心，網(wǎng)絡(luò)游戲、社交應(yīng)用、在線購物及搜索等各類業(yè)務(wù)分布式部署，訪問這些服務(wù)的用戶來自全國各地，且數(shù)量龐大。以手機端游戲業(yè)務(wù)為例，玩家來自全國各地，而服務(wù)器則可能集中部署于北京、上?；蛘邚V州等主要城市的數(shù)據(jù)中心，玩家使用手機終端經(jīng)本地運營商接入網(wǎng)絡(luò)、城域網(wǎng)、骨干網(wǎng)，再到業(yè)務(wù)所在數(shù)據(jù)中心城域網(wǎng)，數(shù)據(jù)中心服務(wù)器經(jīng)返程完成完整的數(shù)據(jù)交互。此類業(yè)務(wù)特性決定了ICP非常關(guān)注跨域端到端網(wǎng)絡(luò)質(zhì)量。從運營商收到的日常申告來看，ICP主要反映從數(shù)據(jù)中心到某個/某些省市的訪問質(zhì)量劣化，影響業(yè)務(wù)，并經(jīng)常要求確認相應(yīng)省間、區(qū)域間（例如全國往華東區(qū)域）的網(wǎng)絡(luò)是否存在問題。事實上，只要端到端路徑中某個段落的網(wǎng)絡(luò)出現(xiàn)異常，就有可能會導致分組丟失、擁塞、時延增大、數(shù)據(jù)重傳，造成游戲卡頓，降低用戶體驗[2]，因此，亟需建立一套端到端網(wǎng)絡(luò)質(zhì)量監(jiān)控系統(tǒng)來實時監(jiān)控網(wǎng)絡(luò)質(zhì)量，快速定位故障點，以便ISP（internet service provider，互聯(lián)網(wǎng)服務(wù)提供商）/ICP及時排障、迂回，確保業(yè)務(wù)質(zhì)量保持穩(wěn)定。

3 傳統(tǒng)端到端質(zhì)量監(jiān)測和故障定位方式

傳統(tǒng)網(wǎng)絡(luò)質(zhì)量監(jiān)控通過部署在數(shù)據(jù)中心的網(wǎng)絡(luò)探針向目的被監(jiān)控IP地址進行單向ping和trace測試，以發(fā)現(xiàn)、定位故障[3]。這一方式存在如下缺陷：

·? 探針部署位置固定，無法擬合用戶數(shù)據(jù)分組轉(zhuǎn)發(fā)路徑；

·? 由于是網(wǎng)絡(luò)探針單向做ping和trace，當監(jiān)測到故障時無法判斷是ICMP（internet control message protocol，Internet控制報文協(xié)議）數(shù)據(jù)分組去程方向路徑異常還是回程路徑異常；

·? 目前數(shù)據(jù)網(wǎng)絡(luò)都具有冗余保護措施，網(wǎng)絡(luò)設(shè)備都是多上聯(lián)架構(gòu)，每條路徑都有2個以上的冗余節(jié)點，整個網(wǎng)絡(luò)路徑呈現(xiàn)復雜的ECMP（equal-cost multipath，等價多路徑）路由，傳統(tǒng)的單向監(jiān)測的探針I(yè)P地址和目的IP地址相對固定，導致監(jiān)測路徑也是固定的，由于無法遍歷每條路徑，若監(jiān)測數(shù)據(jù)分組正好走在狀態(tài)正常的路徑，就無法監(jiān)測其他可能發(fā)生質(zhì)量劣化的等價鏈路，大概率與實際用戶業(yè)務(wù)數(shù)據(jù)分組流經(jīng)的路徑不一致，對網(wǎng)絡(luò)質(zhì)量監(jiān)測和故障定位造成嚴重干擾[4-5]。

4 互聯(lián)網(wǎng)跨域場景下網(wǎng)絡(luò)路徑全遍歷的質(zhì)量監(jiān)測方案

4.1 端到端網(wǎng)測監(jiān)控系統(tǒng)技術(shù)分析

有多種方法可實現(xiàn)支持目前主流網(wǎng)絡(luò)協(xié)議場景的網(wǎng)絡(luò)質(zhì)量監(jiān)控，分為被動式和主動式網(wǎng)絡(luò)質(zhì)量監(jiān)測。

被動式網(wǎng)絡(luò)質(zhì)量監(jiān)控，如網(wǎng)元告警系統(tǒng)等是運營商常用的監(jiān)控方式。該監(jiān)控室采集各種信息例如設(shè)備告警、端口流量等，然后把采集到的信息傳送到相關(guān)服務(wù)器進行篩選、分析、告警和存儲等處理。但考慮到用此種方式采集到的數(shù)據(jù)主要是監(jiān)控自治域內(nèi)的網(wǎng)絡(luò)設(shè)備、鏈路告警，存在很大的局限性，且由于維護權(quán)域問題，很難做到跨域的端到端網(wǎng)絡(luò)質(zhì)量監(jiān)控。

采用主動式網(wǎng)絡(luò)質(zhì)量監(jiān)控，在網(wǎng)絡(luò)部署探針發(fā)起監(jiān)測，對網(wǎng)絡(luò)上的一些目的地址，例如實際用戶訪問的互聯(lián)網(wǎng)網(wǎng)站，也可以通過數(shù)據(jù)中心間的網(wǎng)絡(luò)探針做雙向監(jiān)控，根據(jù)應(yīng)用場景靈活部署監(jiān)控任務(wù)。

IP 在當前網(wǎng)絡(luò)中使用最廣泛，ICMP作為 IP的一個子協(xié)議具有一定的控制能力和網(wǎng)絡(luò)監(jiān)控能力，經(jīng)常用于網(wǎng)絡(luò)監(jiān)控和鏈路故障定位。

4.1.1 ping測試

ping測試通過發(fā)送ICMP數(shù)據(jù)分組給目標主機，要求目標主機返回應(yīng)答消息。ICMP是 TCP/IP （transmission control protocol/internet protocol，傳輸控制協(xié)議/互聯(lián)網(wǎng)互聯(lián)協(xié)議）協(xié)議族的一個子協(xié)議，屬于網(wǎng)絡(luò)層協(xié)議，廣泛使用于檢測網(wǎng)絡(luò)連通性、路由可用性、目的主機是否可達等。遇到數(shù)據(jù)分組無法到達目的網(wǎng)絡(luò)、網(wǎng)絡(luò)帶寬速率低、時延高等情況發(fā)生時，可發(fā)送 ICMP 消息，測試當前網(wǎng)絡(luò)狀態(tài)。

ping測試將ICMP數(shù)據(jù)分組發(fā)出，目的IP地址對收到的數(shù)據(jù)進行分組后檢查目的地址，如和自身IP地址相符則接受，并且把數(shù)據(jù)分組中相關(guān)信息交給ICMP處理，封裝應(yīng)答數(shù)據(jù)分組后回傳給源地址。當ping測路徑異常時，返程應(yīng)答數(shù)據(jù)分組里包含路由不可用、目的主機不可達等錯誤信息。在日常網(wǎng)絡(luò)運維中經(jīng)常使用ping測試用于檢測網(wǎng)絡(luò)連通性。

4.1.2 trace工具

trace發(fā)出TTL（time to live，存活時間）值追蹤到達目的主機所經(jīng)過的節(jié)點，從節(jié)點收到ICMP檢測的應(yīng)答數(shù)據(jù)，用來檢測數(shù)據(jù)發(fā)送源到目的節(jié)點之間所經(jīng)節(jié)點。信息在網(wǎng)絡(luò)中傳輸會經(jīng)過服務(wù)器、交換機、路由器等網(wǎng)絡(luò)設(shè)備，這些設(shè)備通常都配置IP地址，trace可以讓運維人員知道數(shù)據(jù)端到端傳輸所經(jīng)過的路徑。trace可以測量數(shù)據(jù)分組從發(fā)送到目的地址再返回源地址所需要的時間，其測試報告包含節(jié)點IP地址、每個節(jié)點所花費時間、分組丟失率等信息。

需要注意的是，根據(jù)散列算法數(shù)據(jù)分組從源地址到目的地址走的路徑可能會隨著每次測試而改變，使用固定源、目的IP地址測試分組測試網(wǎng)絡(luò)狀態(tài)時，ping、trace報告顯示路徑正常，只能代表這次ping、trace測試分組恰巧經(jīng)過了正常路徑，但如果用戶業(yè)務(wù)數(shù)據(jù)分組經(jīng)過的是等價鏈路中的劣化路徑，則測試結(jié)果與用戶感知不一致。此外，每一trace返回數(shù)據(jù)分組因源地址被修改為響應(yīng)設(shè)備地址，五元組散列結(jié)果差異會造成回程路徑的不同，因此測試結(jié)果無法真實反映實際情況。

4.2 散列算法實現(xiàn)全路徑覆蓋監(jiān)控方案

數(shù)據(jù)分組在等價路由轉(zhuǎn)發(fā)時，網(wǎng)絡(luò)設(shè)備會將每個連接的所有數(shù)據(jù)分組都發(fā)往多個鏈路中的其中一條，數(shù)據(jù)分組建立連接和轉(zhuǎn)發(fā)鏈路是通過網(wǎng)絡(luò)設(shè)備散列算法來完成的，散列算法是根據(jù)散列因子來計算路徑的[6]，比如，包含源IP地址、源端口、目的IP地址、目的端口和傳輸層協(xié)議的五元組。

發(fā)起監(jiān)控ICMP分組時的散列因子和用戶業(yè)務(wù)數(shù)據(jù)流建立連接時的散列因子不同，用戶數(shù)據(jù)流恰好走故障鏈路而影響業(yè)務(wù)，而監(jiān)控流經(jīng)過的鏈路則有可能是正常路徑。日常運維中用戶業(yè)務(wù)有時延、分組丟失等現(xiàn)象，而ICMP監(jiān)控報告則顯示正常，此時就有可能是在等價鏈路中監(jiān)控數(shù)據(jù)分組是通過鏈路A傳輸，而用戶業(yè)務(wù)數(shù)據(jù)分組是從鏈路B轉(zhuǎn)發(fā)。這就要求網(wǎng)絡(luò)質(zhì)量監(jiān)控系統(tǒng)首先要滿足監(jiān)控路徑覆蓋全鏈路，實現(xiàn)遍歷性。

4.2.1 單向監(jiān)測

部署在數(shù)據(jù)中心的探針發(fā)起對外部公網(wǎng)互聯(lián)網(wǎng)網(wǎng)站的ICMP監(jiān)控。探針支持多IP地址配置，選取多個互聯(lián)網(wǎng)網(wǎng)站作為目的IP地址進行監(jiān)測。探針發(fā)起對不同目的互聯(lián)網(wǎng)網(wǎng)站的trace，探針切換不同源地址繼續(xù)對不同互聯(lián)網(wǎng)IP地址發(fā)起測試，部署在不同網(wǎng)段的其他探針也持續(xù)重復以上監(jiān)控。經(jīng)過上述監(jiān)控步驟可以得到數(shù)據(jù)中心到互聯(lián)網(wǎng)的不同訪問路徑，畫出全路徑網(wǎng)絡(luò)監(jiān)測拓撲結(jié)構(gòu)，如圖1所示，可以看出左邊探針發(fā)起對互聯(lián)網(wǎng)網(wǎng)站地址的ICMP監(jiān)控，當探針用不同源地址或者多個探針發(fā)起監(jiān)控時，會經(jīng)過多個不同中間節(jié)點，滿足監(jiān)控鏈路的遍歷性要求。逐漸提高目的互聯(lián)網(wǎng)網(wǎng)站地址的數(shù)量，查看中間路徑層數(shù)和節(jié)點數(shù)是否會明顯增加，如果調(diào)整到無明顯增加時，可以得到覆蓋整個中間路徑的網(wǎng)絡(luò)監(jiān)控拓撲。

單向監(jiān)測的特點是每個探針進行一對多監(jiān)測，目的IP地址可以在探針最大性能范圍內(nèi)找海量公網(wǎng)存活I(lǐng)P地址，根據(jù)散列算法，足夠多的源?目的IP地址因子組合可以實現(xiàn)監(jiān)測覆蓋全路徑的效果，用少量探針實現(xiàn)監(jiān)測遍歷性，可以減少部署在異地數(shù)據(jù)中心的探針數(shù)量，控制成本。而缺點是單向監(jiān)測只能從全局宏觀上發(fā)現(xiàn)某一方向的網(wǎng)絡(luò)質(zhì)量異常情況，定性給出網(wǎng)絡(luò)變化情況，無法精確定位故障點。

4.2.2 雙向監(jiān)測

用戶網(wǎng)絡(luò)服務(wù)是用戶發(fā)送請求到數(shù)據(jù)中心，再從數(shù)據(jù)中心反饋內(nèi)容，是雙向的，因此，網(wǎng)絡(luò)設(shè)備在兩個方向分開進行散列算法。如果說用戶到數(shù)據(jù)中心的方向是路徑A，那么數(shù)據(jù)中心分組返回時走的路徑可能是B，而ping和trace報告都是單向監(jiān)控，如果需要監(jiān)控雙向路徑，就要在正反方向分別相互做ping和trace監(jiān)控。單向監(jiān)控的局限性決定，單向監(jiān)控只能用來做告警發(fā)現(xiàn)和繪制全路徑網(wǎng)絡(luò)監(jiān)控拓撲圖，要實現(xiàn)故障點定位功能，需要結(jié)合探針雙向監(jiān)控。

在日常網(wǎng)絡(luò)運維中會碰到以下情況，見表1。

如表1所示，正向trace報告中第10跳已到用戶側(cè)網(wǎng)絡(luò)且顯示分組丟失出現(xiàn)在最后一跳。第10跳分組丟失率為0，依據(jù)排障經(jīng)驗可以判斷之前顯示的分組丟失率為中間節(jié)點設(shè)備對ICMP分組做的保護機制，對正常業(yè)務(wù)數(shù)據(jù)轉(zhuǎn)發(fā)無影響，故障點在最后一跳用戶設(shè)備。

但是從表2反向trace報告可看出，分組丟失出現(xiàn)在第8跳節(jié)點，之后分組丟失率一直延續(xù)，故障點在第8跳省際鏈路中間節(jié)點。最后的排查結(jié)果是上海到北京的一根鏈路故障導致的擁塞引起分組丟失。業(yè)務(wù)請求和數(shù)據(jù)反饋走的雙向路徑會不同，且故障往往發(fā)生在其中一條鏈路上，在實際日常運維中會經(jīng)常碰到結(jié)合單向和反向監(jiān)測報告判斷出故障點的情況。

在需要監(jiān)控路徑的多個數(shù)據(jù)中心部署多個探針，探針支持多IP地址配置，數(shù)據(jù)中心中的多個探針與另外數(shù)據(jù)中心探針進行相互ICMP監(jiān)控。不同數(shù)據(jù)中心探針間形成full-mesh監(jiān)控，如圖2所示。

表1 正向trace

表2 反向trace

探針源地址數(shù)和探針部署量，可以根據(jù)單向監(jiān)控方式繪制的全路徑網(wǎng)絡(luò)監(jiān)控拓撲圖作調(diào)整。探針間full-mesh監(jiān)控結(jié)果可得出數(shù)據(jù)中心間全路徑覆蓋監(jiān)控，且可以準確定位路徑中的故障節(jié)點，如圖3所示。

4.3 端到端網(wǎng)絡(luò)質(zhì)量監(jiān)控方案的實現(xiàn)

系統(tǒng)由網(wǎng)絡(luò)探針和數(shù)據(jù)處理服務(wù)器組成，網(wǎng)絡(luò)探針用于發(fā)起監(jiān)控，收集監(jiān)控數(shù)據(jù)，數(shù)據(jù)處理服務(wù)器負責對探針進行配置下發(fā)和管理，然后對收集到的監(jiān)控數(shù)據(jù)進行處理。方案中單向監(jiān)測和雙向監(jiān)測互為補充。

圖2 數(shù)據(jù)中心間形成full-mesh監(jiān)控

單向監(jiān)測選取海量互聯(lián)網(wǎng)網(wǎng)站地址作為目的IP地址，可以用少量探針達到監(jiān)測遍歷性的效果，用單向trace可以畫出某方向的全路徑監(jiān)測拓撲，并且根據(jù)周期性監(jiān)測數(shù)據(jù)動態(tài)調(diào)整拓撲圖，同時，用單向ping方式得到某一方向的宏觀網(wǎng)絡(luò)質(zhì)量。雙向監(jiān)測在滿足遍歷性的情況下實現(xiàn)故障點精確定位，通過兩端數(shù)據(jù)中心部署的探針相互ping/trace，可以做到快速發(fā)現(xiàn)故障并準確定位故障點。

從單向和雙向監(jiān)測的歷史數(shù)據(jù)中可以看出網(wǎng)絡(luò)周期性變化情況，分析計算出各方向、各時間段的網(wǎng)絡(luò)質(zhì)量基線，再將網(wǎng)絡(luò)質(zhì)量基線應(yīng)用在日常實時監(jiān)測中，當實時監(jiān)測數(shù)據(jù)偏離質(zhì)量基線時觸發(fā)告警。為了減少探針和網(wǎng)絡(luò)負荷，在日常監(jiān)測中單向和雙向監(jiān)測頻率可以適當降低，且只進行ping測定性網(wǎng)絡(luò)質(zhì)量情況。當定性發(fā)現(xiàn)異動時再觸發(fā)高頻率的監(jiān)測，用雙向trace方式定位故障點。

探針采用虛擬化方式部署在云資源池。虛擬化部署成本低、部署簡便，其次在后續(xù)維護中無需到達現(xiàn)場，在遠端即可登錄查看，方便管理。因為探針部署在省外，要確保探針不會失聯(lián)。虛擬化探針支持配置多個IP地址，當數(shù)據(jù)上傳或者管理通道走在故障路徑時，只要探針本身狀態(tài)正常沒有僵死，或者鏈路全斷的情況外，數(shù)據(jù)處理服務(wù)器可以通過輪詢配置好的多個IP地址正常工作。

通過端到端的應(yīng)用監(jiān)控，可以很快掌握網(wǎng)絡(luò)中間的故障點和用戶體驗，進一步迅速排查網(wǎng)絡(luò)出現(xiàn)的問題、定位故障點，為減少故障和提高用戶體驗，起到了非常重要的作用。

4.3.1 了解網(wǎng)絡(luò)拓撲變化

通過網(wǎng)絡(luò)探針持續(xù)監(jiān)控各個方向的網(wǎng)絡(luò)質(zhì)量和監(jiān)控路徑，可以掌握整個網(wǎng)絡(luò)拓撲信息。根據(jù)歷史監(jiān)控數(shù)據(jù)，周期性調(diào)整拓撲圖，比如一周更新一次拓撲圖。根據(jù)拓撲信息，了解網(wǎng)絡(luò)變化的趨勢，還可以為以后的網(wǎng)絡(luò)變更及帶寬擴容等長期規(guī)劃提供參考依據(jù)，對某些經(jīng)常發(fā)生網(wǎng)絡(luò)故障的鏈路和節(jié)點及時做優(yōu)化和整改方案。

4.3.2 制定網(wǎng)絡(luò)性能基線

長期監(jiān)控鏈路質(zhì)量，根據(jù)節(jié)點性能，將忙時和閑時、工作日和節(jié)假日等不同維度的網(wǎng)絡(luò)質(zhì)量監(jiān)控數(shù)據(jù)形成動態(tài)調(diào)整的基線。監(jiān)控系統(tǒng)把實時收集的監(jiān)控數(shù)據(jù)和告警基線相比較分析，之后彈出故障點、故障等級等告警信息，提醒運維人員確認，后續(xù)跟進處理。

4.3.3 收斂鏈路告警數(shù)據(jù)

數(shù)據(jù)處理服務(wù)器根據(jù)鏈路方向、網(wǎng)絡(luò)拓撲數(shù)據(jù)等信息來確定網(wǎng)絡(luò)探針收集到的監(jiān)控數(shù)據(jù)。例如，同一路徑方向上的告警數(shù)據(jù)歸為一條告警，網(wǎng)絡(luò)拓撲數(shù)據(jù)中屬于相同網(wǎng)絡(luò)層級或同一網(wǎng)絡(luò)設(shè)備的IP地址告警歸為相同告警，避免運維人員在海量告警數(shù)據(jù)中浪費故障處理時間。根據(jù)不同監(jiān)控場景，制定多種收斂算法。

4.3.4 多維度報表

可以根據(jù)網(wǎng)絡(luò)質(zhì)量監(jiān)控數(shù)據(jù)多維度提供網(wǎng)絡(luò)性能報表，根據(jù)不同區(qū)域、不同數(shù)據(jù)中心、不同訪問方向、多個監(jiān)控路徑等維度來掌握網(wǎng)絡(luò)質(zhì)量信息。還可以根據(jù)新的監(jiān)控場景和業(yè)務(wù)場景，自定義質(zhì)量監(jiān)控數(shù)據(jù)，以圖表和報表方式呈現(xiàn)網(wǎng)絡(luò)健康狀態(tài)。

4.4 網(wǎng)絡(luò)監(jiān)控拓撲

根據(jù)需求該系統(tǒng)可以實現(xiàn)的監(jiān)控網(wǎng)絡(luò)拓撲如圖4所示。

圖4 監(jiān)控網(wǎng)絡(luò)拓撲

具體如下：

·? 在主要城市數(shù)據(jù)中心部署網(wǎng)絡(luò)探針；

·? 中間數(shù)據(jù)處理服務(wù)器為部署在各省市數(shù)據(jù)中心的網(wǎng)絡(luò)探針下發(fā)配置、任務(wù)，集中管理管理部署；

·? 部署在各省市數(shù)據(jù)中心的網(wǎng)絡(luò)探針相互形成full-mesh監(jiān)控數(shù)據(jù)流，進行雙向監(jiān)控；

·? 部署在各省市數(shù)據(jù)中心的網(wǎng)絡(luò)探針也發(fā)起對互聯(lián)網(wǎng)網(wǎng)站IP地址的監(jiān)控數(shù)據(jù)流，進行單向監(jiān)控。

4.5 與傳統(tǒng)網(wǎng)絡(luò)質(zhì)量監(jiān)測方式對比

數(shù)據(jù)分組在網(wǎng)絡(luò)中傳遞時會經(jīng)過多個節(jié)點，現(xiàn)在網(wǎng)絡(luò)為了冗余性，節(jié)點和節(jié)點間用多個等價鏈路做負載均衡，通常會用散列算法來實現(xiàn)。使用五元組（源地址、目的地址、源端口、目的端口、協(xié)議類型）為散列因子，經(jīng)過散列算法得出的散列值作為區(qū)分不同數(shù)據(jù)流的標志，映射到不同等價鏈路。在ICMP測試中，每次ping測試或者trace都計算為一次ICMP連接，所以每次ICMP測試都只會監(jiān)控多條鏈路中的一條，在此次ICMP測試中其他等價鏈路不會被監(jiān)控到。發(fā)起監(jiān)控ICMP分組時的散列因子和用戶業(yè)務(wù)數(shù)據(jù)流建立連接時的散列因子不同，用戶數(shù)據(jù)流恰好走故障鏈路而影響業(yè)務(wù)，而監(jiān)控流經(jīng)過的鏈路則有可能是正常路徑。

端到端網(wǎng)絡(luò)質(zhì)量監(jiān)控方案通過改變監(jiān)控探針I(yè)P地址和監(jiān)控目的IP地址，即改變散列算法中散列因子的方式，使監(jiān)控數(shù)據(jù)流遍歷鏈路，及時掌握網(wǎng)絡(luò)拓撲變化，快速定位網(wǎng)絡(luò)故障，并且通過分析監(jiān)控數(shù)據(jù)，動態(tài)調(diào)整網(wǎng)絡(luò)性能基線，收斂告警。此方案解決了傳統(tǒng)網(wǎng)絡(luò)質(zhì)量監(jiān)控系統(tǒng)遇到的故障發(fā)現(xiàn)不及時、故障定位不準確、無法掌握網(wǎng)絡(luò)拓撲、性能基線設(shè)置單一等問題，可使日常運維工作變得更簡單、高效。與傳統(tǒng)網(wǎng)絡(luò)質(zhì)量監(jiān)測方式比較見表3。

表3 與傳統(tǒng)網(wǎng)絡(luò)質(zhì)量監(jiān)測方式對比

5 結(jié)束語

根據(jù)散列算法用足夠多的源目IP地址組合實現(xiàn)監(jiān)控路徑遍歷性，通過單向監(jiān)測方式繪制監(jiān)測拓撲發(fā)現(xiàn)問題，用雙向監(jiān)測進一步定位故障，使用監(jiān)控數(shù)據(jù)制定網(wǎng)絡(luò)性能基線，收斂告警數(shù)據(jù)，建立跨域端到端網(wǎng)絡(luò)質(zhì)量監(jiān)測系統(tǒng)可彌補傳統(tǒng)網(wǎng)絡(luò)質(zhì)量監(jiān)控手段的不足。后續(xù)可以考慮結(jié)合多種不同協(xié)議配合ICMP做路徑監(jiān)控，如使用HTTP（hypertext transfer protocol，超文本傳輸協(xié)議）、UDP（user datagram protocol，用戶數(shù)據(jù)報協(xié)議）。網(wǎng)絡(luò)路徑中間節(jié)點設(shè)備會對HTTP和UDP做轉(zhuǎn)發(fā)策略，而針對ICMP分組，一些路由器、交換機等設(shè)備會為了不影響轉(zhuǎn)發(fā)業(yè)務(wù)數(shù)據(jù)性能，對ping和trace協(xié)議分組做限制。根據(jù)ICMP、HTTP、UDP 3種協(xié)議各自優(yōu)點，在不同場景結(jié)合使用的話可能會得到更加準確可靠的監(jiān)測結(jié)果。

[1] 樊自甫, 伍春玲, 王金紅. 基于SDN架構(gòu)的數(shù)據(jù)中心網(wǎng)絡(luò)路由算法需求分析[J]. 電信科學, 2015, 31(2): 42-51.

FAN Z F, WU C L, WANG J H. Requirements analysis of data center network routing algorithm based on SDN architecture [J]. Telecommunications Science, 2015, 31(2): 42-51.

[2] 謝海華. 有線IP城域網(wǎng)絡(luò)可視化質(zhì)量監(jiān)控系統(tǒng)的建設(shè)與運用研究[J]. 無線互聯(lián)科技, 2017(23).

XIE H H. Study on construction and application of visual quality monitoring system for CATV’s IP metropolitan area network[J]. Wuxian Hulian Keji, 2017(23).

[3] 夏剛. 互聯(lián)網(wǎng)環(huán)境的網(wǎng)絡(luò)質(zhì)量監(jiān)測體系研究與實踐[J]. 中國金融電腦, 2016(7): 48-51.

XIA G. Research and practice of network quality monitoring system in internet environment[J]. China Financial Computer, 2016(7): 48-51.

[4] 覃佐曼. 基于SDN的數(shù)據(jù)中心網(wǎng)絡(luò)多路徑負載均衡的研究[D]. 大連: 大連海事大學, 2017.

QIN Z M. Research on multipath load balancing in data center network based on SDN[D]. Dalian: Dalian Maritime University, 2017.

[5] 安祿. 基于等價多路徑的數(shù)據(jù)中心網(wǎng)絡(luò)流量優(yōu)化問題研究[D]. 重慶: 重慶大學, 2014.

AN L. The optimization research of traffic engineering for data center networks based on ECMP[D]. Chongqing: Chongqing University, 2014.

[6] 程光, 龔儉, 丁偉, 等. 面向IP流測量的散列算法研究[J]. 軟件學報, 2005, 16(5): 652-658.

CHENG G, GONG J, DING W,et al. A hash algorithm for IP flow measurement[J]. Journal of Software, 2005, 16(5): 652-658.

Internet cross-domain end-to-end quality monitoring and trouble location scheme

YAN Yongming1, CHEN Bing2, XU Wenjie1

1. Shanghai Branch of China Telecom Co., Ltd., Shanghai 200085, China 2. Shanghai Information Network Co., Ltd., Shanghai 200081, China

With the rapid development of internet, the internet content providers need much better quality of internet. They usually need to deploy their applications in the internet data centers all over the country due to their business requirements. Users usually cross domain to access in their data centers. So internet content providers have high level of requirements for cross-domain internet quality. It is very important for internet service providers to establish a monitoring system which could monitor end-to-end cross-domain internet quality and locate the troubles of network out of autonomous systems rapidly. The commonly used network monitoring technology and the hash algorithm in equal-cost multipath routing were analyzed. A solution of using Hash algorithm to realize full traversal of network paths and monitor end-to-end cross-domain internet quality, was presented. Some suggestions were also given for trouble location scheme.

cross domain, end-to-end quality, Hash, full traversal of network paths

TN915.41

A

10.11959/j.issn.1000?0801.2018239

顏永明（1978?），男，中國電信股份有限公司上海分公司信息網(wǎng)絡(luò)部綜合運營監(jiān)控中心副經(jīng)理、高級工程師，主要研究方向為數(shù)據(jù)網(wǎng)絡(luò)、云組網(wǎng)等。

陳兵（1970?），男，上海市信息網(wǎng)絡(luò)有限公司總經(jīng)理助理、高級工程師，主要研究方向為數(shù)據(jù)通信、大數(shù)據(jù)挖掘等。

許文杰（1986?），男，中國電信股份有限公司上海分公司信息網(wǎng)絡(luò)部綜合運營監(jiān)控中心技術(shù)工程師、助理工程師，主要研究方向為數(shù)據(jù)網(wǎng)絡(luò)。

2018?06?21；

2018?08?06