场景
SpringCloudAlibaba中使用Sentinel实现流量控制以及流控规则详解:
SpringCloudAlibaba中使用Sentinel实现流量控制以及流控规则详解_霸道流氓气质的博客
在上面使用Sentinel实现流量控制的基础上,怎样进行熔断降级。
官网文档说明
除了流量控制以外,对调用链路中不稳定的资源进行熔断降级也是保障高可用的重要措施之一。一个服务常常会调用别的模块,可能是另外的一个远程服务、数据库,或者第三方 API 等。例如,支付的时候,可能需要远程调用银联提供的 API;查询某个商品的价格,可能需要进行数据库查询。然而,这个被依赖服务的稳定性是不能保证的。如果依赖的服务出现了不稳定的情况,请求的响应时间变长,那么调用服务的方法的响应时间也会变长,线程会产生堆积,最终可能耗尽业务自身的线程池,服务本身也变得不可用。
现代微服务架构都是分布式的,由非常多的服务组成。不同服务之间相互调用,组成复杂的调用链路。以上的问题在链路调用中会产生放大的效果。复杂链路上的某一环不稳定,就可能会层层级联,最终导致整个链路都不可用。因此我们需要对不稳定的弱依赖服务调用进行熔断降级,暂时切断不稳定调用,避免局部不稳定因素导致整体的雪崩。熔断降级作为保护自身的手段,通常在客户端(调用端)进行配置。
注意
注意官方版本说明,此时的版本为1.8.4
降级策略
1、慢调用比例 (SLOW_REQUEST_RATIO):
选择以慢调用比例作为阈值,需要设置允许的慢调用 RT(即最大的响应时间),请求的响应时间大于该值则统计为慢调用。当单位统计时长(statIntervalMs)内请求数目大于设置的最小请求数目,并且慢调用的比例大于阈值,则接下来的熔断时长内请求会自动被熔断。经过熔断时长后熔断器会进入探测恢复状态(HALF-OPEN 状态),若接下来的一个请求响应时间小于设置的慢调用 RT 则结束熔断,若大于设置的慢调用 RT 则会再次被熔断。
2、异常比例 (ERROR_RATIO):
当单位统计时长(statIntervalMs)内请求数目大于设置的最小请求数目,并且异常的比例大于阈值,则接下来的熔断时长内请求会自动被熔断。经过熔断时长后熔断器会进入探测恢复状态(HALF-OPEN 状态),若接下来的一个请求成功完成(没有错误)则结束熔断,否则会再次被熔断。异常比率的阈值范围是 [0.0, 1.0],代表 0% – 100%。
3、异常数 (ERROR_COUNT):
当单位统计时长内的异常数目超过阈值之后会自动进行熔断。经过熔断时长后熔断器会进入探测恢复状态(HALF-OPEN 状态),若接下来的一个请求成功完成(没有错误)则结束熔断,否则会再次被熔断。
参考Hystrix实现熔断降级
SpringCloud中集成Hystrix实现服务降级(从实例入手):
SpringCloud中集成Hystrix实现服务降级(从实例入手)_霸道流氓气质的博客-
SpringCloud中集成Hystrix实现熔断(从实例入手):
SpringCloud中集成Hystrix实现熔断(从实例入手)_霸道流氓气质的博客-
注:
博客:霸道流氓气质的博客_-C#,架构之路,SpringBoot领域博主 关注公众号
霸道的程序猿
获取编程相关电子书、教程推送与免费下载。
实现
1、熔断策略-慢调用比例
参考上面集成Sentinel实现流量控制的基础上,添加测试接口
@GetMapping("/testD")
public String testD()
{
try { TimeUnit.SECONDS.sleep(1); } catch (InterruptedException e) { e.printStackTrace(); }
log.info("testD 测试RT");
return "------testD";
}
使接口等待一秒之后返回。
然后新建熔断规则,配置参数如下
熔断降级规则说明
熔断降级规则(DegradeRule)包含下面几个重要的属性:
Field 说明 默认值
resource 资源名,即规则的作用对象
grade 熔断策略,支持慢调用比例/异常比例/异常数策略 慢调用比例
count 慢调用比例模式下为慢调用临界 RT(超出该值计为慢调用);异常比例/异常数模式下为对应的阈值
timeWindow 熔断时长,单位为 s
minRequestAmount 熔断触发的最小请求数,请求数小于该值时即使异常比率超出阈值也不会熔断(1.7.0 引入) 5
statIntervalMs 统计时长(单位为 ms),如 60*1000 代表分钟级(1.8.0 引入) 1000 ms
slowRatioThreshold 慢调用比例阈值,仅慢调用比例模式有效(1.8.0 引入)
熔断器事件监听
具体可以参考其官网
所以这里配置的规则的含义是:
如果一秒内持续进入大于等于5个请求,并且请求响应的时间大于200毫秒的请求即为慢调用,当慢调用的比例大于0.2时就会触发降级,直到3秒后新的请求响应时间小于200毫秒才结束熔断。
使用jmeter进行压力模拟测试可以参考如下
Jmeter进行http接口压力测试:
Jmeter进行http接口压力测试_霸道流氓气质的博客-
这里模拟10个线程一秒一次的发起请求并持续进行。
启动jmeter压力测试之后再访问testD接口
2、熔断策略-异常比例
修改上面的testD接口,让其出现异常
@GetMapping("/testD")
public String testD()
{
log.info("testD 异常比例");
int age = 10/0;
return "------testD";
}
此时直接访问该接口,没有触发熔断降级之前会直接报错
修改上面的熔断策略如下
此规则的含义为:
如果1秒内持续进入大于等于5个请求,并且请求中异常的比例大于0.2,则触发降级,降级时间持续3秒,3秒后,如果不再异常,才结束熔断。
效果
3、熔断降级策略-异常数
修改上面的规则如下
上面配置的含义是:
如果1秒内持续进入大于等于5个请求,并且请求发生异常数超过4时,会触发熔断降级持续2秒。
效果
服务器托管,北京服务器托管,服务器租用 http://www.fwqtg.net
机房租用,北京机房租用,IDC机房托管, http://www.fwqtg.net
相关推荐: 【论文分享|SIGMOD’22】WeTune 自动发现和验证重写规则
作者:谢其骏 北京航空航天大学在读硕士, Databend 研发工程师实习生 https://github.com/jun0315 论文原文: Zhaoguo Wang, Zhou Zhou, Yicun Yang, Haoran Ding, Gansen H…