概念阐述
降级策略是当服务请求异常时,微服务所采用的异常处理策略。
降级策略有三个相关的技术概念:“隔离”、“熔断”、“容错”:
“隔离”是一种异常检测机制,常用的检测方法是请求超时、流量过大等。一般的设置参数包括超时时间、同时并发请求个数等。
“熔断”是一种异常反应机制,“熔断”依赖于“隔离”。熔断通常基于错误率来实现。一般的设置参数包括统计请求的个数、错误率等。
“容错”是一种异常处理机制,“容错”依赖于“熔断”。熔断以后,会调用“容错”的方法。一般的设置参数包括调用容错方法的次数等。
把这些概念联系起来:当"隔离"措施检测到N次请求中共有M次错误的时候,"熔断"不再发送后续请求,调用"容错"处理函数。这个技术上的定义,是和Netflix Hystrix一致的,通过这个定义,非常容易理解它提供的配置项,参考:https://github.com/Netflix/Hystrix/wiki/Configuration。当前ServiceComb提供两种容错方式,分别为返回null值和抛出异常。
场景描述
用户通过配置降级策略,可以设置微服务的异常处理策略。
配置说明
配置项支持对所有接口生效,或者对某个微服务的某个具体方法生效。
配置项生效范围按照类型(type):配置项能够针对Provider, Consumer进行配置
按照范围(scope):配置项能够针对MicroService进行配置, 也可以针对【x-schema-id + operationId】进行配置
本章节如果没有特殊说明,所有的配置项都支持按照下面的格式进行配置:
servicecomb.[namespace].[type].[MicroServiceName].[接口名称].[propertyname]
type指Provider或者Consumser, 针对特定的微服务的配置,需要增加MicroServiceName, 针对接口配置的,需要指定接口名称,接口名称由【x-schema-id + operationId】组成。
隔离配置可选配置项格式示例如下:
servicecomb.isolation.Consumer.timeout.enabled
servicecomb.isolation.Consumer.DemoService.timeout.enabled
servicecomb.isolation.Consumer.DemoService.hello.sayHello.timeout.enabled
servicecomb.isolation.Provider.timeout.enabled
servicecomb.isolation.Provider.DemoService.timeout.enabled
servicecomb.isolation.Provider.DemoService.hello.sayHello.timeout.enabled
配置项列表
注意:在下面的表格里面,全部省略type和MicroServiceName。未特殊说明,配置项都支持Provider和Consumer。
例如:对于服务消费者,需要配置为:servicecomb.isolation.Consumer.timeout.enabled
例如:对于服务提供者,需要配置为:servicecomb.isolation.Provider.timeout.enabled
表1-1降级策略相关配置项说明
配置项默认值取值范围是否必选含义注意servicecomb.isolation.timeout.enabledFALSE-否是否启用超时检测
servicecomb.isolation.timeoutInMilliseconds30000-否超时时间阈值
servicecomb.isolation.maxConcurrentRequests10-否最大并发数阈值
servicecomb.circuitBreaker.enabledTRUE-否是否启用熔断措施
servicecomb.circuitBreaker.forceOpenFALSE-否不管失败次数,都进行熔断
servicecomb.circuitBreaker.forceClosedFALSE-否任何时候都不熔断当与forceOpen同时配置时,forceOpen优先。
servicecomb.circuitBreaker.sleepWindowInMilliseconds15000-否熔断后,多长时间恢复恢复后,会重新计算失败情况。注意:如果恢复后的调用立即失败,那么会立即重新进入熔断。
servicecomb.circuitBreaker.requestVolumeThreshold20-否10s内统计错误发生次数阈值,超过阈值则触发熔断由于10秒还会被划分为10个1秒的统计周期,经过1s中后才会开始计算错误率,因此从调用开始至少经过1s,才会发生熔断。
servicecomb.circuitBreaker.errorThresholdPercentage50-否错误率阈值,达到阈值则触发熔断
servicecomb.fallback.enabledTRUE-否是否启用出错后的故障处理措施
servicecomb.fallback.maxConcurrentRequests10-否并发调用容错处理措施(servicecomb.fallbackpolicy.policy)的请求数,超过这个值则不再调用处理措施,直接返回异常
servicecomb.fallbackpolicy.policythrowexceptionreturnull \throwexception否出错后的处理策略
小心:谨慎使用servicecomb.isolation.timeout.enabled=true。因为系统处理链都是异步执行,中间处理链的返回,会导致后面处理链的逻辑处理效果丢失。尽可能将servicecomb.isolation.timeout.enabled保持默认值false,并且正确设置网络层超时时间servicecomb.request.timeout=30000。
示例代码servicecomb:
handler:
chain:
Consumer:
default:bizkeeper-consumer
isolation:
Consumer:
timeout:
enabled:true
timeoutInMilliseconds:30000
circuitBreaker:
Consumer:
enabled:true
sleepWindowInMilliseconds:15000
requestVolumeThreshold:20
fallback:
Consumer:
enabled:true
fallbackpolicy:
Consumer:
policy:throwexception
说明:降级策略需要启用服务治理能力,对应的服务提供者的handler是bizkeeper-provider,服务消费者的handler是bizkeeper-consumer。