摘要：?上一期我們談到了阿里巴巴早期是通過(guò)通過(guò)在 Nginx 上實(shí)現(xiàn)的擴(kuò)展組件TMD（taobao missile defense淘寶導(dǎo)彈防御系統(tǒng)）實(shí)現(xiàn)了接入層限流的主要工作，TMD系統(tǒng)可通過(guò)域名類(lèi)限流、cookie限流、黑名單以及一些安全策略等很好的實(shí)現(xiàn)了在接入層的限流措施。

上一期我們談到了阿里巴巴早期是通過(guò)通過(guò)在 Nginx 上實(shí)現(xiàn)的擴(kuò)展組件TMD（taobao missile defense淘寶導(dǎo)彈防御系統(tǒng)）實(shí)現(xiàn)了接入層限流的主要工作，TMD系統(tǒng)可通過(guò)域名類(lèi)限流、cookie限流、黑名單以及一些安全策略等很好的實(shí)現(xiàn)了在接入層的限流措施。

但對(duì)于服務(wù)層，TMD就無(wú)能為力了。對(duì)于實(shí)現(xiàn)服務(wù)的限流控制，傳統(tǒng)的實(shí)現(xiàn)方式通常用spring的AOP機(jī)制，對(duì)需要限流的接口定義一個(gè)advice攔截器，但這套方案在實(shí)際應(yīng)用場(chǎng)景中還是會(huì)發(fā)現(xiàn)不少問(wèn)題。詳細(xì)問(wèn)題可通過(guò)以下的傳送門(mén)，進(jìn)行了解。

第一期回顧：限流和降級(jí) - 傳送門(mén)

一、Sentinel 簡(jiǎn)介

第二期我們將分享到阿里巴巴是如何解決服務(wù)層限流時(shí)遇到的問(wèn)題的。在今年7月底的Aliware Open Sourec深圳站的活動(dòng)上，阿里巴巴宣布開(kāi)源面向分布式服務(wù)架構(gòu)的輕量級(jí)限流降級(jí)框架 Sentinel。Sentinel正如它英文的意思“哨兵”一樣，為整個(gè)服務(wù)化體系的穩(wěn)定運(yùn)行行使著警戒任務(wù)，是對(duì)資源調(diào)用的控制平臺(tái)，主要涵蓋了授權(quán)、限流、降級(jí)、調(diào)用統(tǒng)計(jì)監(jiān)控四大功能。

• 授權(quán)：通過(guò)配置白名單和黑名單的方式分布式系統(tǒng)的接口和方法進(jìn)行調(diào)用權(quán)限的控制；

• 限流：對(duì)特定資源進(jìn)行調(diào)用的保護(hù)，防止資源的過(guò)度使用；

• 降級(jí)：判斷依賴的資源的響應(yīng)情況，但依賴的資源響應(yīng)時(shí)間過(guò)長(zhǎng)時(shí)進(jìn)行自動(dòng)降級(jí)，并且在指定的時(shí)間后自動(dòng)恢復(fù)調(diào)用；

• 監(jiān)控：提供了全面的運(yùn)行狀態(tài)監(jiān)控，實(shí)時(shí)監(jiān)控資源的調(diào)用情況，如QPS、響應(yīng)時(shí)間、限流降級(jí)等信息；

Sentinel 平臺(tái)有兩個(gè)基礎(chǔ)概念，資源和策略，對(duì)特定的資源采取不同的控制策略，起到保障應(yīng)用穩(wěn)定性的作用。Sentinel 提供了多個(gè)默認(rèn)切入點(diǎn)，比如服務(wù)調(diào)用時(shí)，數(shù)據(jù)庫(kù)、緩存等資源訪問(wèn)時(shí)，覆蓋了大部分應(yīng)用場(chǎng)景，保證對(duì)應(yīng)用的低侵入性，同時(shí)也支持硬編碼或者自定義AOP的方式來(lái)支持特定的使用需求。

二、Sentinel 限流的實(shí)現(xiàn)原理

Sentinel 平臺(tái)架構(gòu)圖如下，需要通過(guò)Sentinel 實(shí)現(xiàn)限流功能的應(yīng)用中都嵌入Sentinel 客戶端，通過(guò)Sentinel 客戶端中提供對(duì)服務(wù)調(diào)用和各資源訪問(wèn)缺省實(shí)現(xiàn)的切入點(diǎn)，使得應(yīng)用完全不需要對(duì)實(shí)現(xiàn)限流的服務(wù)或資源進(jìn)行單獨(dú)的AOP配置和實(shí)現(xiàn)，同時(shí)不僅可以限制自己的應(yīng)用調(diào)用別的應(yīng)用，也可以限制別的應(yīng)用調(diào)用我的應(yīng)用。通過(guò)這些資源埋點(diǎn)實(shí)時(shí)計(jì)算當(dāng)前服務(wù)的QPS，也可通過(guò)現(xiàn)有的監(jiān)控系統(tǒng)獲取到應(yīng)用所在服務(wù)器的相關(guān)系統(tǒng)監(jiān)控指標(biāo)，用于限流規(guī)則配置中的閥值比對(duì)。

?Sentinel 平臺(tái)架構(gòu)示意圖

Sentinel控制臺(tái)會(huì)從客戶端拉取資源實(shí)時(shí)的運(yùn)行監(jiān)控?cái)?shù)據(jù)如QPS、響應(yīng)時(shí)間等，并展示在控制臺(tái)的監(jiān)控面板上。控制臺(tái)給運(yùn)維人員提供了針對(duì)服務(wù)、緩存、數(shù)據(jù)庫(kù)等資源訪問(wèn)設(shè)置各種限流規(guī)則，并將設(shè)置好的規(guī)則發(fā)送到規(guī)則配置中心后，再有服務(wù)器將規(guī)則推送到相關(guān)的Sentinel客戶端，讓設(shè)置的規(guī)則最終在應(yīng)用運(yùn)行狀態(tài)是時(shí)快速生效。

三、Sentinel 降級(jí)的實(shí)現(xiàn)原理

Sentinel平臺(tái)除了限流的核心功能外，還提供了降級(jí)的功能。我們知道，在服務(wù)調(diào)用鏈上，存在服務(wù)間的強(qiáng)弱依賴，即有些業(yè)務(wù)請(qǐng)求處理過(guò)程中，有些服務(wù)是否正常被調(diào)研或成功處理了服務(wù)請(qǐng)求，對(duì)于整個(gè)業(yè)務(wù)請(qǐng)求不會(huì)產(chǎn)生決定性的影響，比如交易鏈路中快遞優(yōu)惠這個(gè)服務(wù)，這類(lèi)服務(wù)調(diào)用鏈中就會(huì)標(biāo)記為弱依賴的服務(wù)。

設(shè)想一下，如果在雙11活動(dòng)啟動(dòng)后，大量的用戶訂單請(qǐng)求涌入平臺(tái)，此時(shí)發(fā)現(xiàn)平臺(tái)的整體水位已經(jīng)像平臺(tái)最大處理能力的水位逼近時(shí)，除了限流可以起到第一層的保護(hù)作用外，我們還可以將那些之前標(biāo)記為弱依賴的服務(wù)平滑下線，也就是讓訂單創(chuàng)建的處理流程中去掉那些弱依賴的服務(wù)調(diào)用，達(dá)到將節(jié)省出的系統(tǒng)資源更好地服務(wù)于核心服務(wù)的運(yùn)行；又或者在大促時(shí)，某核心服務(wù)依賴某一個(gè)非核心的服務(wù)，但發(fā)現(xiàn)因?yàn)檫@個(gè)非核心服務(wù)的處理性能和服務(wù)響應(yīng)時(shí)間較長(zhǎng)，導(dǎo)致了當(dāng)前核心服務(wù)的處理出現(xiàn)了瓶頸，這時(shí)為了保證核心服務(wù)的正常處理，就需要在核心服務(wù)業(yè)務(wù)邏輯中對(duì)于那個(gè)非核心服務(wù)的調(diào)用暫時(shí)停止。這樣類(lèi)似的場(chǎng)景就稱為服務(wù)降級(jí)，即從服務(wù)調(diào)用者的角度，對(duì)所依賴的下游服務(wù)采取停止調(diào)用的措施，以保證當(dāng)前服務(wù)的處理效率。

要實(shí)現(xiàn)服務(wù)降級(jí)，需要在應(yīng)用或服務(wù)實(shí)現(xiàn)中，首先留下可供服務(wù)降級(jí)進(jìn)行服務(wù)是否調(diào)用切換的邏輯。一般在代碼中采用static值的方式，作為業(yè)務(wù)邏輯分支的判斷條件，通過(guò)對(duì)這些static值的修改，實(shí)現(xiàn)服務(wù)調(diào)用邏輯的變化。同樣可以通過(guò)Sentinel控制臺(tái)提供的降級(jí)規(guī)則的配置功能，當(dāng)對(duì)某個(gè)服務(wù)的方法響應(yīng)時(shí)間一旦超過(guò)閥值后，就意味著調(diào)用的這個(gè)服務(wù)已經(jīng)出現(xiàn)了處理性能的問(wèn)題，則會(huì)自動(dòng)切換到降級(jí)模式，降級(jí)持續(xù)的時(shí)間可自定義設(shè)置。

四、Sentinel 限流的實(shí)現(xiàn)原理

總結(jié)來(lái)說(shuō)，Sentinel平臺(tái)所提供的限流和降級(jí)功能，是今天阿里巴巴集團(tuán)如此龐大、復(fù)雜的服務(wù)化平臺(tái)穩(wěn)定運(yùn)行的關(guān)鍵，不管是在雙11這樣的大促活動(dòng)中，還是幾乎每天都有基于服務(wù)化體系構(gòu)建起來(lái)的新興業(yè)務(wù)上線，整個(gè)服務(wù)化平臺(tái)能夠穩(wěn)定運(yùn)行直觀重要。從技術(shù)角度來(lái)說(shuō)，企業(yè)如果要構(gòu)建自身的服務(wù)化平臺(tái)，如何保障平臺(tái)穩(wěn)定性運(yùn)行的重要能力是服務(wù)化平臺(tái)建設(shè)中一定要考慮的問(wèn)題。

限流和降級(jí)是從服務(wù)自身做好保護(hù)的角度來(lái)避免平臺(tái)級(jí)的故障。在分布式服務(wù)環(huán)境下， 我們不可忽略的一個(gè)問(wèn)題是最大程度的增加機(jī)器的利用率，通常會(huì)采用超配的方式，但這個(gè)過(guò)程中往往會(huì)出現(xiàn)超配服務(wù)器上的應(yīng)用對(duì)資源進(jìn)行爭(zhēng)搶?zhuān)沟脗€(gè)別或局部應(yīng)用出現(xiàn)服務(wù)響應(yīng)慢甚至掛起，從而給整個(gè)業(yè)務(wù)鏈路帶來(lái)更大的風(fēng)險(xiǎn)的情況。此時(shí)，流量調(diào)度的角色是至關(guān)重要的。下一期我們將從流量調(diào)度的角度看看如何提升平臺(tái)的穩(wěn)定性。

原文鏈接

本文為云棲社區(qū)原創(chuàng)內(nèi)容，未經(jīng)允許不得轉(zhuǎn)載。