在分布式系統(tǒng)架構中，如果一個應用不能對來自依賴的故障進行隔離，那該應用本身就處在被拖垮的風險中。 因此，為了構建穩(wěn)定、可靠的分布式系統(tǒng)，我們的服務應當具有自我保護能力，當依賴服務不可用時，當前服務啟動自我保護功能，從而避免發(fā)生雪崩效應。在分布式微服務系統(tǒng)設計時，要使用一定的降級策略，來保證當服務提供方不可用時，服務調用方可以切換到降級后的策略進行處理。Hystrix 作為熔斷器組件，其使用范圍還是很廣泛的。本文簡單介紹下 Hystrix 的原理。

一、Hystrix 是什么？

Hystrix 是 Netflix 的一款開源的容錯框架，通過服務隔離來避免由于依賴延遲、異常，引起資源耗盡導致系統(tǒng)不可用的解決方案。

二、Hystrix 可以做什么？

Hystrix 被設計用來做了下面幾件事：

1. 保護系統(tǒng)間的調用延時以及錯誤，特別是通過第三方工具的網(wǎng)絡調用
2. 阻止錯誤在分布式系統(tǒng)之前的傳播
3. 快速失敗和迅速恢復
4. 錯誤回退和優(yōu)雅的服務降級

三、Hystrix 解決了什么問題？

1. 限制調用分布式服務的資源使用，某一個調用的服務出現(xiàn)問題不會影響其他服務調用，通過線程池隔離和信號量隔離實現(xiàn)。
2. Hystrix 提供了優(yōu)雅降級機制：超時降級、資源不足時（線程或信號量）降級，降級后可以配合降級接口返回兜底數(shù)據(jù)。
3. Hystrix 提供了熔斷器實現(xiàn)，當失敗率達到閥值自動觸發(fā)降級（如因網(wǎng)絡故障/超時造成的失敗率高），熔斷器觸發(fā)的快速失敗會進行快速恢復等。

四、Hystrix遵循的設計原則

1. 防止任何單獨的依賴耗盡資源（線程）
2. 過載立即切斷并快速失敗，防止排隊
3. 盡可能提供回退以保護用戶免受故障
4. 使用隔離技術（例如隔板，泳道和斷路器模式）來限制任何一個依賴的影響
5. 通過近實時的指標，監(jiān)控和告警，確保故障被及時發(fā)現(xiàn)
6. 通過動態(tài)修改配置屬性，確保故障及時恢復
7. 防止整個依賴客戶端執(zhí)行失敗，而不僅僅是網(wǎng)絡通信

五、Hystrix 的工作流程

下圖描述了使用 Hystrix 的一次請求調用服務層的流程。【圖片來源于：Hystrix 官方文檔，點擊看大圖】

Hystrix 整個工作流如下：

1. 構造一個 HystrixCommand 或 HystrixObservableCommand 對象，用于封裝請求，并在構造方法配置請求被執(zhí)行需要的參數(shù)；
2. 執(zhí)行命令，Hystrix提供了多種執(zhí)行命令的方法（詳見本文第六章）；
3. 判斷是否使用緩存響應請求，若啟用了緩存，且緩存可用，直接使用緩存響應請求。Hystrix 支持請求緩存，但需要用戶自定義啟動；
4. 判斷熔斷器是否打開（熔斷器有3種狀態(tài)，詳見第七章），如果打開，跳到第8步；
5. 判斷線程池/隊列/信號量是否已滿，已滿則跳到第8步；
6. 執(zhí)行 HystrixObservableCommand.construct() 或 HystrixCommand.run()，如果執(zhí)行失敗或者超時，跳到第8步；否則，跳到第9步；
7. 統(tǒng)計熔斷器監(jiān)控指標；
8. 走Fallback備用邏輯；
9. 返回請求響應。從流程圖上可知道，第5步線程池/隊列/信號量已滿時，還會執(zhí)行第7步邏輯，更新熔斷器統(tǒng)計信息，而第6步無論成功與否，都會更新熔斷器統(tǒng)計信息。

六、Hystrix 執(zhí)行命令的幾種方法

Hystrix 提供了4種執(zhí)行命令的方法，execute() 和 queue() 適用于 HystrixCommand 對象，而 observe() 和toObservable() 適用于 HystrixObservableCommand 對象。

execute() 以同步堵塞方式執(zhí)行 run()，只支持接收一個值對象。Hystrix 會從線程池中取一個線程來執(zhí)行 run()，并等待返回值。

queue() 以異步非阻塞方式執(zhí)行 run()，只支持接收一個值對象。調用 queue() 就直接返回一個 Future 對象。可通過 Future.get() 拿到 run() 的返回結果，但 Future.get() 是阻塞執(zhí)行的。若執(zhí)行成功，F(xiàn)uture.get() 返回單個值。當執(zhí)行失敗時，如果沒有重寫 fallback，F(xiàn)uture.get() 拋出異常。

observe() 事件注冊前執(zhí)行 run() / construct()，支持接收多個值對象，取決于發(fā)射源。調用 observe() 會返回一個 hot Observable，也就是說，調用 observe() 自動觸發(fā)執(zhí)行 run() / construct()，無論是否存在訂閱者。

如果繼承的是 HystrixCommand，Hystrix 會從線程池中取一個線程以非阻塞方式執(zhí)行 run()；如果繼承的是HystrixObservableCommand，將以調用線程阻塞執(zhí)行 construct()。

observe() 使用方法：

1. 調用 observe() 會返回一個 Observable 對象；
2. 調用這個 Observable 對象的 subscribe() 方法完成事件注冊，從而獲取結果。

toObservable() 事件注冊后執(zhí)行 run() / construct()，支持接收多個值對象，取決于發(fā)射源。調用 toObservable() 會返回一個 cold Observable，也就是說，調用 toObservable() 不會立即觸發(fā)執(zhí)行 run() / construct()，必須有訂閱者訂閱 Observable 時才會執(zhí)行。

如果繼承的是 HystrixCommand，Hystrix 會從線程池中取一個線程以非阻塞方式執(zhí)行 run()，調用線程不必等待run()；如果繼承的是 HystrixObservableCommand，將以調用線程堵塞執(zhí)行 construct()，調用線程需等待construct() 執(zhí)行完才能繼續(xù)往下走。

toObservable() 使用方法：

1. 調用 observe() 會返回一個Observable對象；
2. 調用這個 Observable 對象的 subscribe() 方法完成事件注冊，從而獲取結果。

需注意的是，HystrixCommand 也支持 toObservable() 和 observe()，但是即使將 HystrixCommand 轉換成Observable，它也只能發(fā)射一個值對象。只有 HystrixObservableCommand 才支持發(fā)射多個值對象。

七、熔斷器的三種狀態(tài)

Hystrix 提供的熔斷器具有自我反饋，自我恢復的功能，Hystrix會根據(jù)調用接口的情況，讓熔斷器在closed，open，half-open 三種狀態(tài)之間自動切換。

• open 狀態(tài)：說明打開熔斷，也就是服務調用方執(zhí)行本地降級策略，不進行遠程調用。
• closed 狀態(tài)：說明關閉了熔斷，這時候服務調用方直接發(fā)起遠程調用。
• half-open 狀態(tài)：是一個中間狀態(tài)，當熔斷器處于這種狀態(tài)時，直接發(fā)起遠程調用。

三種狀態(tài)的轉換：

closed → open：正常情況下熔斷器為 closed 狀態(tài)，當訪問同一個接口次數(shù)超過設定閾值并且錯誤比例超過設置錯誤閾值的時候，就會打開熔斷機制，這時候熔斷器狀態(tài)從 closed → open。

open → half-open：當服務接口對應的熔斷器狀態(tài)為 open 狀態(tài)時候，所有服務調用方調用該服務方法時候都是執(zhí)行本地降級方法，那么什么時候才會恢復到遠程調用呢？Hystrix 提供了一種測試策略，也就是設置了一個時間窗口，從熔斷器狀態(tài)變?yōu)?open 狀態(tài)開始的一個時間窗口內，調用該服務接口時候都委托服務降級方法進行執(zhí)行。如果時間超過了時間窗口，則把熔斷狀態(tài)從 open → half-open，這時候服務調用方調用服務接口時，就可以發(fā)起遠程調用而不再使用本地降級接口，如果發(fā)起遠程調用還是失敗，則重新設置熔斷器狀態(tài)為open狀態(tài)，從新記錄時間窗口開始時間。

half-open → closed：當熔斷器狀態(tài)為 half-open，這時候服務調用方調用服務接口時候，就可以發(fā)起遠程調用而不再使用本地降級接口，如果發(fā)起遠程調用成功，則重新設置熔斷器狀態(tài)為 closed 狀態(tài)。

用來判斷熔斷器從 closed → open 轉換的數(shù)據(jù)是 HystrixCommandMetrics 對象來做的，該對象用來存HystrixCommand 的一些指標數(shù)據(jù)，比如接口調用次數(shù)，調用接口失敗的次數(shù)等等。

八、Hystrix 幾種容錯方案

• 隔離模式（線程池隔離、信號量隔離）
  對不同類型的請求使用線程池來資源隔離，每種類型的請求互不影響，如果一種類型的請求線程資源耗盡，則對后續(xù)的該類型請求直接返回，不再調用后續(xù)資源。
• 熔斷模式
  如果某個目標服務調用慢或者有大量超時，此時，熔斷該服務的調用，對于后續(xù)調用請求，不再繼續(xù)調用目標服務，而是調用降級服務返回數(shù)據(jù)，快速釋放資源。如果目標服務情況好轉則恢復調用。
• 限流模式
  上述的熔斷模式和隔離模式都屬于出錯后的容錯處理機制，而限流模式則可以稱為預防模式。限流模式主要是提前對各個類型的請求設置最高的QPS閾值，若高于設置的閾值則對該請求直接返回，不再調用后續(xù)資源。這種模式不能解決服務依賴的問題，只能解決系統(tǒng)整體資源分配問題，因為沒有被限流的請求依然有可能造成雪崩效應。

隔離模式一般使用兩種：

• 線程池隔離模式
  使用一個線程池來存儲當前的請求，線程池對請求作處理，設置任務返回處理超時時間，堆積的請求堆積入線程池隊列。這種方式需要為每個依賴的服務申請線程池，有一定的資源消耗，好處是可以應對突發(fā)流量（流量洪峰來臨時，處理不完可將數(shù)據(jù)存儲到線程池隊列慢慢處理）。
• 信號量隔離模式
  使用一個原子計數(shù)器（或信號量）來記錄當前有多少個線程在運行，請求來了的話，先判斷計數(shù)器的數(shù)值，若超過設置的最大數(shù)值則丟棄該類型的新請求，若不超過則執(zhí)行計數(shù)操作請求，使計數(shù)器 +1，請求返回則計數(shù)器 -1。這種方式是嚴格的控制線程且立即返回模式，無法應對突發(fā)流量（流量洪峰來臨時，處理的線程超過數(shù)量，其他的請求會直接返回，不繼續(xù)去請求依賴的服務）。

到此這篇關于淺談一下SpringCloud中Hystrix服務熔斷和降級原理的文章就介紹到這了,更多相關Hystrix服務熔斷和降級原理內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家！