Java RPC框架熔斷降級機(jī)制原理解析
熔斷與降級
為什么在RPC環(huán)節(jié)中有熔斷以及降級的需求,詳細(xì)的原因這里不多解釋,從網(wǎng)上搜索一張圖做示意。

熔斷
我理解熔段主要解決如下幾個問題:
當(dāng)所依賴的對象不穩(wěn)定時,能夠起到快速失敗的目的快速失敗后,能夠根據(jù)一定的算法動態(tài)試探所依賴對象是否恢復(fù)
比如產(chǎn)品詳細(xì)頁獲取產(chǎn)品的好評總數(shù)時,由于后端服務(wù)異常導(dǎo)致客戶端每次都需要等到超時。如果短時間內(nèi)服務(wù)不能恢復(fù),那么這段時間內(nèi)的所有請求時間都將是最大的超時時間,這類消費時間又得不到正確結(jié)果的現(xiàn)象是不能容忍的。所以遇到這類情況,就需要根據(jù)一定的算法判定服務(wù)短時間不可用,將后面的請求進(jìn)行快速失敗處理,這樣可以節(jié)省服務(wù)等待時間。
同時,后端服務(wù)是有可能自主或者人為在一定時間內(nèi)恢復(fù)的,所以之前被判定為快速失敗的服務(wù),需要有能力去試探服務(wù)是否已經(jīng)恢復(fù)。
上面提到的快速失敗以及自主恢復(fù)現(xiàn)象就是熔斷
降級
降級是指自己的待遇下降了,從RPC調(diào)用環(huán)節(jié)來講,就是去訪問一個本地的偽裝者而不是真實的服務(wù),但這對調(diào)用端來說是沒有區(qū)別的。拿電商展示某個產(chǎn)品的詳細(xì)頁來說:
當(dāng)加載評論時,由于評論服務(wù)不可用,此時可以返回一些默認(rèn)的評論當(dāng)加載產(chǎn)品庫存,由于庫存服務(wù)不可用,此時可以固定顯示一個庫存數(shù)
上面提供返回默認(rèn)評論,固定庫存的服務(wù)就是偽裝服務(wù),這類服務(wù)一般不依賴其它服務(wù),穩(wěn)定性最高。由偽裝者提供服務(wù)給客戶端的現(xiàn)象就是服務(wù)降級。
RPC如何支持熔斷與降級
一種最簡單的辦法就是借用hystrix來實現(xiàn)。
引入包依賴
由于示例未采用注解式方案,所以只需要引用下面兩個包即可。
<dependency>
<groupId>com.netflix.hystrix</groupId>
<artifactId>hystrix-core</artifactId>
<version>${hystrix-version}</version>
</dependency>
<dependency>
<groupId>com.netflix.hystrix</groupId>
<artifactId>hystrix-metrics-event-stream</artifactId>
<version>${hystrix-version}</version>
</dependency>
實現(xiàn)命令模式
hystrix遵循命令模式,這里可以往這個標(biāo)準(zhǔn)的UML圖上去套。

創(chuàng)建一個新的類,RpcHystrixCommand,繼承自HystrixCommand即可。
我這里采用線程隔離方式。
構(gòu)造函數(shù)參數(shù)
由于需要遠(yuǎn)程調(diào)用,所以構(gòu)造函數(shù)需要接收遠(yuǎn)程調(diào)用所需求必要參數(shù)
/** * 遠(yuǎn)程目標(biāo)方法 */ private Method method; /** * 遠(yuǎn)程目標(biāo)接口 */ private Object obj; /** * 遠(yuǎn)程方法所需要的參數(shù) */ private Object[] params; /** * 遠(yuǎn)程接口客戶端引用注解 */ private RpcReference rpcReference; /** * RPC客戶端配置 */ private ReferenceConfig referenceConfig;
構(gòu)造函數(shù)方法簽名:
public RpcHystrixCommand(Object obj, Method method, Object[] params, RpcReference rpcReference, ReferenceConfig referenceConfig)
初始化hystrix
這里只是一個示例,所以參數(shù)設(shè)置比較隨意,詳細(xì)的可參考文檔。
super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey("CircuitBreakerRpcHystrixCommandGroup"))
.andCommandKey(HystrixCommandKey.Factory.asKey("CircuitBreakerRpcHystrixCommandKey"))
.andCommandPropertiesDefaults(
HystrixCommandProperties.Setter()
.withCircuitBreakerEnabled(true)
.withCircuitBreakerRequestVolumeThreshold(1)
.withCircuitBreakerErrorThresholdPercentage(50)
.withCircuitBreakerSleepWindowInMilliseconds(5*1000)
.withMetricsRollingStatisticalWindowInMilliseconds(10*1000)
)
.andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey("CircuitBreakerRpcHystrixCommandPool"))
.andThreadPoolPropertiesDefaults(
HystrixThreadPoolProperties.Setter().withCoreSize(100)
)
);
run()函數(shù)
run()函數(shù)就是正常調(diào)用時所需要執(zhí)行的方法,將調(diào)用遠(yuǎn)程通信的邏輯遷移到此,由于此處不涉及今天講的熔斷降級,所以不用關(guān)心里面的代碼。
@Override
protected Object run() {
// 執(zhí)行遠(yuǎn)程調(diào)用
}
擴(kuò)展rpcReference注解以支持降級
在之前的注解中增加一個屬性,用來配置服務(wù)偽裝者所屬的類對象
public @interface RpcReference {
/**
* 服務(wù)降級的偽裝者類對象
* @return
*/
Class<?> fallbackServiceClazz() default Object.class;
}
getFallback()函數(shù)
當(dāng)快速失敗時,我們希望返回一些預(yù)先準(zhǔn)備好的值給到客戶端,實現(xiàn)這個需求就需要實現(xiàn)這個fallback函數(shù)。
偽裝者的邏輯由于是客戶端控制,所以我們通過參數(shù)來動態(tài)支持。 通過rpcReference注解可以獲取配置的偽裝者
protected Object getFallback() {
Method[] methods = this.rpcReference.fallbackServiceClazz().getMethods();
for (Method methodFallback : methods) {
if(this.method.getName().equals(methodFallback.getName())){
try {
Object fallbackServiceMock= ApplicationContextUtils.getApplicationContext().getBean(this.rpcReference.fallbackServiceClazz());
return methodFallback.invoke(fallbackServiceMock,this.params);
} catch (IllegalAccessException e) {
logger.error("RpcHystrixCommand.getFallback error",e);
} catch (InvocationTargetException e) {
logger.error("RpcHystrixCommand.getFallback error",e);
}
}
}
throw new RpcException("service fallback unimplement");
}
RpcProxy嵌入熔斷降級機(jī)制
代理的invoke方法,將改調(diào)用命令模式的execute方法來代替。
@Override
public Object invoke(Object proxy, Method method, Object[] args) throws Throwable {
RpcHystrixCommand rpcHystrixCommand=new RpcHystrixCommand(proxy,method,args,this.reference,this.referenceConfig);
return rpcHystrixCommand.execute();
}
客戶端使用
dubbo有一個mock機(jī)制,功能有些弱,有興趣可以自行研究。我這里更加傾向于根據(jù)邏輯來判斷是否使用熔斷降級,降級的邏輯需要有更多的支持。
Spring Cloud的熔斷降級的做法與我的類似,它是通過注解在接口上
@FeignClient(value = "JIM-CLOUD-PROVIDER-SERVER",fallback = ProductServiceHystrix.class)
public interface ProductService {
@RequestMapping(value = "/product/{productId}",method = RequestMethod.GET)
String getById(@PathVariable("productId") final long productId);
}
創(chuàng)建偽裝者接口
定義偽裝者接口,約定成員方法的簽名與真身相同。
public interface ProductCommentMockService {
Product getById(Long productId);
}
實現(xiàn)偽裝者接口
實現(xiàn)偽裝者接口,這里不光是簡單的固定數(shù)據(jù),可心任意編寫偽裝者業(yè)務(wù)邏輯,與普通的service bean 沒有區(qū)別。
@Service
public class ProductCommentMockServiceImpl implements ProductCommentMockService {
@Override
public Product getById(Long productId) {
Product mockProduct=new Product();
mockProduct.setId(0L);
mockProduct.setName("mock product name");
return mockProduct;
}
}
服務(wù)引用使用熔斷降級機(jī)制
在引用遠(yuǎn)程服務(wù)接口的注解上,配置偽裝者接口的類即可。
@RpcReference(
maxExecutesCount = 1,
fallbackServiceClazz = ProductCommentMockService.class
)
private ProductService productService;
測試
故意不啟動服務(wù)端,請求接口,此時出現(xiàn)mock數(shù)據(jù)說明組件功能正常。
{"id":0,"name":"mock product name"}
待解決問題
由于熔斷器采用的是新線程執(zhí)行,所以會影響Rpc上下文傳遞的參數(shù)傳遞。
本文源碼
https://github.com/jiangmin168168/jim-framework
文中代碼是依賴上述項目的,如果有不明白的可下載源碼
以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
Java?GenericObjectPool?對象池化技術(shù)之SpringBoot?sftp?連接池工具類詳解
這篇文章主要介紹了Java?GenericObjectPool?對象池化技術(shù)之SpringBoot?sftp?連接池工具類詳解,本文通過實例代碼給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2023-04-04
SpringBoot接口數(shù)據(jù)加解密實戰(zhàn)記錄
現(xiàn)今對于大多數(shù)公司來說,信息安全工作尤為重要,下面這篇文章主要給大家介紹了關(guān)于SpringBoot接口數(shù)據(jù)加解密的相關(guān)資料,文中通過實例代碼介紹的非常詳細(xì),需要的朋友可以參考下2022-07-07
SpringBoot使用AOP實現(xiàn)防重復(fù)提交功能
這篇文章主要為大家詳細(xì)介紹了SpringBoot如何使用AOP實現(xiàn)防重復(fù)提交功能,文中的示例代碼講解詳細(xì),感興趣的小伙伴可以跟隨小編一起學(xué)習(xí)一下2024-03-03
java.lang.IllegalStateException異常原因和解決辦法
這篇文章主要給大家介紹了關(guān)于java.lang.IllegalStateException異常原因和解決辦法,IllegalStateException是Java標(biāo)準(zhǔn)庫中的一個異常類,通常表示在不合適或無效的情況下執(zhí)行了某個方法或操作,需要的朋友可以參考下2023-07-07
Java BeanPostProcessor與BeanFactoryPostProcessor基礎(chǔ)使用講解
這篇文章主要介紹了Java BeanPostProcessor與BeanFactoryPostProcessor基礎(chǔ)使用,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)吧2022-11-11
springmvc后臺基于@ModelAttribute獲取表單提交的數(shù)據(jù)
這篇文章主要介紹了springmvc后臺基于@ModelAttribute獲取表單提交的數(shù)據(jù),文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2019-10-10

