摘要：?國際知名開源社區Linux基金會主辦的開源大會LinuxCon + ContainerCon + CloudOpen China 2018(LC3)于6月25日在北京開幕。今年阿里云作為白金合作伙伴亮相本次中國開源盛會，這篇文章是網絡團隊分享系列第三篇。

國際知名開源社區Linux基金會主辦的開源大會LinuxCon + ContainerCon + CloudOpen China 2018(LC3)于6月25日在北京開幕。今年阿里云作為白金合作伙伴亮相本次中國開源盛會，這篇文章是網絡團隊分享系列第三篇。

摘要：這篇文章介紹了阿里云網絡團隊在做網絡分析方向上的一些實踐，包括了如何基于實時計算搭建整個平臺以及其中重點解決的幾個場景。

主講人：呂彪 阿里云高級技術專家

主題：JStorm based Network Analysis Platform

分論壇：Network & Orchestration

項目背景

隨著阿里云的快速發展，目前其業務已經覆蓋全球18個region，服務了超過100多萬的客戶。不僅如此，阿里云還支撐了像雙11這樣的活動，對它的彈性，調度，以及穩定性都有很大的挑戰。而在網絡業務發展的背后是越來越復雜網絡技術體系，比如SDN，現在整個阿里云網絡全部SDN化了，所有的云網絡設備都完全通過我們從業務到北向以及南向的API進行管理和配置，而網絡本身也劃分為Overlay和Underlay，Underlay這塊主要是物理的交換機，路由器，Overlay這塊為用戶提供了彈性，靈活的各種虛擬網絡功能；然后我們還有NFV, RDMA, SD-WAN等等。 整個網絡變得越來越復雜 。

讓網絡更加簡單

雖然我們有這么復雜的技術體系，有這么大規模的挑戰，我們還是希望我們的網絡能更穩定，更簡單，更好用的。我們希望每一次網絡的升級都是用戶無感的，當任何設備出現問題時我們能提前用戶發現問題，并且能非常精確得定位到出問題的節點，最后，我們希望我們對網絡有非常豐富，多維度的了解，這對我們自己以及用戶在運維和運營這張網絡時非常有幫助。Network as a Service，我們希望我們的網絡能像簡單靈活的服務一樣，需要的時候就能連接上。

如何做到網絡的規模在這樣持續增長的情況下仍然能夠保持簡單，高效。自動化肯定是需要做的，但是在自動化的基礎上我們希望能讓系統承擔更多的事情，把更多決策閉環掉，并且在整個網絡生命周期中減少人的干預，讓另一套系統而不是我們用戶和網絡運維人員去和控制器打交道。我們的用戶和網絡運維人員是如何做決策的呢，他們依賴的是數據。基于這些數據以及他們的判斷來形成決策，所以數據是組成這個閉環的最后一個環節。右圖里就是我們目前的設想，基于各種網絡運行過程中生成的數據系統自動化的生成策略，這些策略提交給控制器形成對網絡的配置管理，網絡在過程中又會產生新的數據。在這個系統上我們完成從網絡更新，網絡監控，網絡畫像，網絡診斷，以及異常恢復等多個場景的閉環。

齊天-基于JStorm的網絡分析平臺

按照這個思路，我們設計并實現了一套網絡分析平臺，我們給這套平臺取了一個很好聽的名字，叫齊天，希望能從天空的角度去看我們整張網絡。

整個平臺大致可以分為三層，最底下這一層是數據源，包括了來自網絡設備和業務服務采集出來的各種數據。往上是我們的實時數據分析層，從左往右看，第一個是我們的基礎數據分析，包括將DB數據清洗，ETL，通用的數學計算，基礎數據分析是右邊所有數據分析的前提，它將原始 的數據轉換為格式標準的數據 。第二個是我們的網絡監控分析，用于發現網絡當中的可疑異常。它分為三個部分，監控策略，網絡事件，和異常通知。分別消費基礎數據，初級網絡異常，以及融合網絡事件，最終產生可疑事件記錄和告警。第三個是我們的網絡診斷，用于發現問題時定位具體問題原因的。它能對每個數據報文進行處理和分析，并且計算出來報文的流量路徑，并找到這條路徑上出問題的網絡設備以及具體問題的原因。第四個是我們的網絡調度，這一部分目前最重要一個用途還是在出現故障時流量調度策略來恢復故障 。最后一個是我們的網絡畫像，它用于我們網絡資源的規劃和調度，也用于我們產品成本和營收的核算 。整個實時分析層是基于JStorm引擎開發的，它并不是一個獨立的應用，而是眾多JStorm任務的集合。

最上面是我們數據分析的輸出，這里我們有流式的數據輸出，也支持API的數據提取。這兩者主要是對接其他的系統，比如我們的SDN控制器會消費齊天產生的策略數據，用于管理和配置網絡設備，但對于我們的研發，售后來說他們需要更直觀的數據呈現 。最后是我們開發的一個釘釘機器人，你可以問他最近某個集群的告警情況，也可以問某個用戶實例的運行情況。這個機器人也有一個好聽的名字，叫大圣，所以和我們平臺的名字連在一起就是齊天大圣。接下來我會自下而上的分別從數據來源，分析性能，實時監控，網絡診斷，智能調度以及多維度網絡畫像為大家深入介紹整個平臺。

實時網絡監控

齊天的整個監控體系是基于JStorm的流計算引擎開發的。還是從數據流的角度來看一下整個系統怎么處理的。最左邊仍然是網絡設備，它采集到的原始數據經過一些基本的ETL以及聚合之后變成了包含多維度信息以及網絡流量信息流數據，這份數據會被我們的一個被稱為監控策略任務的JStorm Topology消費，監控策略任務會包含各種監控策略，每一種策略會從不同維度去識別異常。目前我們支持三種策略，指標波動，區間預測，以及事件統計。?說完了策略，那么后面緊跟著的就是一個被稱為事件合并的JStorm任務。這個任務的作用是把策略任務產生的各種事件按用戶以及網絡拓撲的維度合并。?實時監控的最后一個環節是通知中心，這里主要是根據不同類型，不同嚴重程度的網絡事件進行不同方式的通知，目前支持郵件，短信，應用消息等。每一個通知會非常清晰的描述出來問題的時間和影響范圍，幫助研發做判斷。

?

基于流計算的網絡診斷

接下來我們來看看齊天是如何基于流計算來做網絡診斷的。當用戶的流量出現異常的時候，曾經是通過抓包或者traceroute等工具去定位，但是這種方式一方面效率低，另一方面在Overlay網絡下很難達到效果。為此，我們的網絡設備利用報文染色的方法，將染色后的報文采集到SLS日志中，再由JStorm任務來分析這些報文，最終可以定位出來導致問題的設備節點。

智能網絡調度

如何恢復出現問題的網絡就是我們下一個系統需要去解決的事情。目前的網絡問題主要以服務器上虛擬機出現的網絡異常和我們的分布式虛擬網關異常為主，當前者出現問題時我們需要快速的定位出來可以遷移的目標服務器，然后快速將虛擬機遷移過去，后者出現問題時我們需要快速定位出來可以引流的新的虛擬網關組，并把流量引導過去。虛擬機的遷移是一個綜合評估體系，作為網絡我們會提供可選的交換機及服務器給虛擬機調度系統做決策。而虛擬網關的流量遷移是網絡內部閉環的邏輯 。

多維度網絡畫像

最后一塊是我們的多維度網絡畫像，它其實有兩部分組層，一部分是實時計算，這里在JStorm上完成的，另一塊是離線計算，我們基于Max-Compute開發的一些離線分析任務進行最后的多維度網絡畫像。網絡畫像是我們進行網絡產品運營的重要手段。在這個平臺里，我們結合了產品的售賣，資源的消耗，實際的成本以及用戶畫像來幫助我們每個產品做運營上的決策。比如分析用戶的資源部署情況，了解我們和運營商直接的網絡成本使用情況等。

總結

以上是目前齊天平臺所提供的服務，而接下來我們會在智能分析上進一步演進，讓我們更快的了解狀況，更精確得定位原因，更智能的調度流量。 這會讓阿里云網絡的變得更聰明，更高效，幫助我們實現讓我們網絡更簡單的使命。