HYSTRIX熔断器理解

文章初衷

为了应对将来在线(特别是无线端)业务量的成倍增长,后端服务的分布式化程度需要不断提高,对于服务的延迟和容错管理将面临更大挑战,公司框架和开源团队选择内部推广Netflix的Hystrix,一是为了推进各部门的服务使用覆盖率,二是为了增加C Sharp语言版本的参与度(目前公司至少三成服务由.NET编写)。该博文属于个人对Hystrix研究和实践经验。

什么是Hystrix?

Hystrix是世界最大在线影片租赁服务商Netflix开源,针对分布式系统的延迟和容错库。该库由Java写成,项目源于Netflix API团队在2011年启动的弹性工程项目。项目在github上发布至今,已经有接近三千颗星,只有少数优秀的开源项目才能享受到千星级别的待遇,Hystrix成功可见一斑。

 

 

 为什么使用Hystrix?

在大中型分布式系统中,通常系统很多依赖(HTTP,hession,Netty,Dubbo等),如下图:

在高并发访问下,这些依赖的稳定性与否对系统的影响非常大,但是依赖有很多不可控问题:如网络连接缓慢,资源繁忙,暂时不可用,服务脱机等.

如下图:QPS为50的依赖 I 出现不可用,但是其他依赖仍然可用.

当依赖I 阻塞时,大多数服务器的线程池就出现阻塞(BLOCK),影响整个线上服务的稳定性.如下图:

在复杂的分布式架构的应用程序有很多的依赖,都会不可避免地在某些时候失败。高并发的依赖失败时如果没有隔离措施,当前应用服务就有被拖垮的风险。

例如:一个依赖30个SOA服务的系统,每个服务99.99%可用。
99.99%的30次方 ≈ 99.7%
0.3% 意味着一亿次请求 会有 3,000,00次失败
换算成时间大约每月有2个小时服务不稳定.
随着服务依赖数量的变多,服务不稳定的概率会成指数性提高.
解决问题方案:对依赖做隔离,Hystrix就是处理依赖隔离的框架,同时也是可以帮我们做依赖服务的治理和监控.

到底能做什么呢?

1)Hystrix使用命令模式HystrixCommand(Command)包装依赖调用逻辑,每个命令在单独线程中/信号授权下执行

2)提供熔断器组件,可以自动运行或手动调用,停止当前依赖一段时间(10秒),熔断器默认错误率阈值为50%,超过将自动运行。

3)可配置依赖调用超时时间,超时时间一般设为比99.5%平均时间略高即可.当调用超时时,直接返回或执行fallback逻辑。

4)为每个依赖提供一个小的线程池(或信号),如果线程池已满调用将被立即拒绝,默认不采用排队.加速失败判定时间。

5)依赖调用结果分:成功,失败(抛出异常),超时,线程拒绝,短路。 请求失败(异常,拒绝,超时,短路)时执行fallback(降级)逻辑。

  

 

6)提供近实时依赖的统计和监控

7)支持异步执行。支持并发请求缓存。自动批处理失败请求。

Hystrix设计理念

想要知道如何使用,必须先明白其核心设计理念,Hystrix基于命令模式,通过UML图先直观的认识一下这一设计模式

可见,Command是在Receiver和Invoker之间添加的中间层,Command实现了对Receiver的封装。那么Hystrix的应用场景如何与上图对应呢?

API既可以是Invoker又可以是reciever,通过继承Hystrix核心类HystrixCommand来封装这些API(例如,远程接口调用,数据库查询之类可能会产生延时的操作)。就可以为API提供弹性保护了。

Hello World

Hello World的例子旨在展示,如何在项目中低侵入式的改造,使API置于Hystrix保护之下!

引入maven依赖

复制代码
<!-- 依赖版本 -->
<hystrix.version>1.3.16</hystrix.version>
<hystrix-metrics-event-stream.version>1.1.2</hystrix-metrics-event-stream.version> 
 
<dependency>
     <groupId>com.netflix.hystrix</groupId>
     <artifactId>hystrix-core</artifactId>
     <version>${hystrix.version}</version>
 </dependency>
     <dependency>
     <groupId>com.netflix.hystrix</groupId>
     <artifactId>hystrix-metrics-event-stream</artifactId>
     <version>${hystrix-metrics-event-stream.version}</version>
 </dependency>
<!-- 仓库地址 -->
<repository>
     <id>nexus</id>
     <name>local private nexus</name>
     <url>http://maven.oschina.net/content/groups/public/</url>
     <releases>
          <enabled>true</enabled>
     </releases>
     <snapshots>
          <enabled>false</enabled>
     </snapshots>
</repository>
复制代码

下面是一个没有使用Hystrix保护的sayHello的服务以及它的调用

复制代码
//API调用,可能会产生延时
public class HelloService {
     public static String sayHello(final String name)
     {
         return String.format("Hello %s!", name);
     }
 }
//客户端直接调用API
public class Client{
      public static void main(String[] args)
      {
           System.out.println(HelloService.sayHello("World"));     
      }  
}    
复制代码

假设字符串生成过程是一个需要保护的操作,下面我们用Hystrix进行封装。

需要注意的是,虽然使用命令模式,但是我们这里不建议覆盖execute方法,而是实现run的模版方法,多数框架的实现会采用template设计模式,并且将模版方法设置为protected签名,这样做的好处是,既可以将具体的业务交给业务实现者,又可以为之添加其他功能,而业务实现者只需要关注自己的业务就好了。比如这里HystrixCommand.execute方法实际上是调用了HystrixCommand.queue().get(),而queue方法除了最终调用run之外,还需要为run方法提供超时和异常等保护功能,外部也不能直接调用非安全的run方法,这一实践非常值得我们学习。

OK,现在我们通过实现run方法来包装sayHello功能,我们通过一个私有域_name,通过构造函数来传递消息,获取构造参数的拷贝来保持不变性。

复制代码
public class SayHelloCommand extends HystrixCommand<String> {
    private final String _name;
    public SayHelloCommand(String name)
    {
        super(HystrixCommandGroupKey.Factory.asKey("HelloService"));
        _name = new String(name);//unmutable
        
    }
    @Override
    protected String run() {

        return String.format("Hello %s!", _name);
    }
}
复制代码

API改造如下,作为门面方法最好不要改动函数的签名(除非参数和返回类型有变动,这是因为客户端代码的改动代价往往是巨大的),同时提供版本sayHelloAsync,该方法提供了异步功能

复制代码
public class HelloService {
//    public static String sayHello(final String name)
//    {
//        return "Hello " + name + "!";
//    }
    
    /**
     * sayHello under protection of Hystrix
     * @param name
     * @return <code>"Hello " + name + "!"</code> 
     */
    public static String sayHello(final String name)
    {
        return new SayHelloCommand(name).execute();
    }
    
    /**
     * call async
     * @param name
     * @return
     */
    public static Future<String> sayHelloAsync(final String name)
    {
        return new SayHelloCommand(name).queue();
    }
}
复制代码

 接下来我们来看看,如何在超时熔断情况下使用FallBack策略,这点在项目中是相当有用的,比如超时后访问数据备库,或者直接返回重试响应

首先SayHelloCommand构造函数使用Hystrix的Setter来设置超时时间,这里解释下Setter这个类涉及到的几个最佳实践

1.Setter使用builder模式,想想构造函数有很多参数要设置,作为构造参数传递会大大降低可阅读性,用静态工厂方法一个个设置又可能造成多线程并发下的不一致性,而且这种bug往往非常难以定位,所以builder模式是非常好的实践。将Setter作为构造器传给HystrixCommand的构造函数,Setter中又很多静态方法,可以通过方法名明确的知道元素的意义。

2.Setter是HystrixCommand内部静态类,Hystrix代码大量的使用了内部静态类,来作为该类的工厂方法,或者构造器,我觉得这样划分使代码职责更加清晰,比单独的工厂类更易于维护。

3.Setter使用函数式串联,每个静态工厂方法返回Setter实例,这样我们可以把构造过程串联起来,使代码更加易于阅读。

4.Setter是不可变类,每个静态工厂方法返回一个新的Setter拷贝,所以Setter是线程安全的。

OK,Setter介绍到这里,这里我们继续设置超时时间为500

复制代码
public SayHelloCommand(final String name)
    {
        //builder for HystrixCommand
        super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey("HelloServiceGroup"))
                .andCommandPropertiesDefaults(HystrixCommandProperties.Setter().withTimeoutInMilliseconds(500)));
        _name = new String(name);
    }
复制代码

run方法我们使用Thread.sleep(600)来特意达到超时的效果,同时实现getFallback方法,程序超时后会立即运行FallBack

复制代码
    @Override
    protected String getFallback() {
        return String.format("[FallBack]Hello %s!", _name);
    }

    @Override
    protected String run() throws Exception {
        //TimeOut
        Thread.sleep(600);
        return String.format("Hello %s!", _name);
    }
复制代码

最终输出:

[FallBack]Hello World!

================================================================熔断器实例==============================================================

Hystrix(https://github.com/Netflix/Hystrix)是Netflix(https://www.netflix.com/global)的一个开源项目,主要作用是通过控制那些访问远程系统、服务和第三方库的节点,从而对延迟和故障提供更强大的容错能力。 其可以看做是Netflix团队对分布式系统运维的各种理念和实践的总结。值得一提的是在ThoughtWorks最新的Tech Radar 2014(http://www.thoughtworks.com/radar/#/tools)中,Hystrix的评级已从评估(Assess)上升到试用(Trial),即其已经完善到可以在产品环境中试用了,相信会有越来越多的公司采用该类库来提升自己系统的容错能力,我所在的部门刚刚把Hystrix加入了工具箱,并已在某几个项目中实践了Hystrix。

在项目中使用Hystrix
Hystrix本质上是一个基于JVM的类库,Netflix团队已经把其发布到Maven中央库中,因此只要你的项目是基于JVM的,那么在项目中使用Hystrix就非常容易了。本文中将以Gradle为构建脚本的Spring MVC Web项目为例(代码已托管到github:https://github.com/xianlinbox/HystrixDemo),在该示例项目中,构建了一个Customer Service,该customer service会依赖另外的2个web service(Contact Service和Address Service, 示例中我使用moco(https://github.com/dreamhead/moco)模拟了这2个服务)。如下图:

在Customer Service模块中使用Hystrix把对Contact Service和Address Service的依赖隔离开,可以防止一个服务的故障影响到另外一个服务。

首先,为项目添加Hystrix依赖:

Gradle代码   收藏代码
  1. 'com.netflix.hystrix:hystrix-core:1.3.8',  

然后,把所有需要访问远程系统,服务和第三方库的调用都封装到HystrixCommand中,
Java代码   收藏代码
  1. public class AddressHystrixCommand extends HystrixCommand<Address> {  
  2.     private Logger logger = LoggerFactory.getLogger(AddressHystrixCommand.class);  
  3.     private String customerId;  
  4.   
  5.     public AddressHystrixCommand(String customerId) {  
  6.         super(HystrixCommandGroupKey.Factory.asKey("Address"));  
  7.         this.customerId = customerId;  
  8.     }  
  9.   
  10.     @Override  
  11.     public Address run() throws Exception {  
  12.         logger.info("Get address for customer {}", customerId);  
  13.         String response = Request.Get("http://localhost:9090/customer/" + customerId + "/address")  
  14.                 .connectTimeout(1000)  
  15.                 .socketTimeout(1000)  
  16.                 .execute()  
  17.                 .returnContent()  
  18.                 .asString();  
  19.   
  20.         return new ObjectMapper().readValue(response, Address.class);  
  21.     }  
  22. }  
  23.   
  24. public class ContactHystrixCommand extends HystrixCommand<Contact> {  
  25.     private Logger logger = LoggerFactory.getLogger(ContactHystrixCommand.class);  
  26.     private String customerId;  
  27.   
  28.     public ContactHystrixCommand(String customerId) {  
  29.         super(HystrixCommandGroupKey.Factory.asKey("Contact"));  
  30.         this.customerId = customerId;  
  31.     }  
  32.   
  33.     @Override  
  34.     public Contact run() throws Exception {  
  35.         logger.info("Get contact for customer {}", customerId);  
  36.         String response = Request.Get("http://localhost:9090/customer/" + customerId + "/contact")  
  37.                 .connectTimeout(1000)  
  38.                 .socketTimeout(1000)  
  39.                 .execute()  
  40.                 .returnContent()  
  41.                 .asString();  
  42.   
  43.         return new ObjectMapper().readValue(response, Contact.class);  
  44.     }  
  45. }  

最后,在需要调用远程服务时候,使用HystrixCommand的方法即可
Java代码   收藏代码
  1. customer.setContact(new ContactHystrixCommand(customerId).execute());  
  2. customer.setAddress(new AddressHystrixCommand(customerId).execute());  

运行效果如下:
21:01:11.117 [373380609@qtp-1421210709-0] INFO  c.x.h.s.CustomerService - Get Customer 1234
21:01:11.163 [373380609@qtp-1421210709-0] WARN  c.n.c.s.URLConfigurationSource - No URLs will be polled as dynamic configuration sources.
21:01:11.207 [hystrix-Contact-1] INFO  c.x.h.d.ContactHystrixCommand - Get contact for customer 1234
21:01:11.378 [hystrix-Address-1] INFO  c.x.h.d.AddressHystrixCommand - Get address for customer 1234

从日志中,我们可以看到HystrixCommand封装的服务分别运行在单独的线程中。上面只是最简单的Hystrix用法,Netflix在Hystrix中加入了非常细致的配置和灵活的使用方法,以帮助用户灵活的得到自己想要的控制效果。下面就来看一看具体有哪些配置和用法。

配置HystrixCommand
HystxixCommand支持如下的配置:
GroupKey:该命令属于哪一个组,可以帮助我们更好的组织命令。
CommandKey:该命令的名称
ThreadPoolKey:该命令所属线程池的名称,同样配置的命令会共享同一线程池,若不配置,会默认使用GroupKey作为线程池名称。
CommandProperties:该命令的一些设置,包括断路器的配置,隔离策略,降级设置,以及一些监控指标等。
ThreadPoolProerties:关于线程池的配置,包括线程池大小,排队队列的大小等。

为了方便大家的配置,Hystrix非常贴心的提供了很多工厂方法。下面就是一个涉及到上面所有配置的例子:
Java代码   收藏代码
  1. public class EchoCommand extends HystrixCommand<String> {  
  2.     private String input;  
  3.   
  4.     protected EchoCommand(String input) {  
  5.         super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey("EchoGroup"))  
  6.                 .andCommandKey(HystrixCommandKey.Factory.asKey("Echo"))  
  7.                 .andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey("EchoThreadPool"))  
  8.                 .andCommandPropertiesDefaults(HystrixCommandProperties.Setter()  
  9.                         .withExecutionIsolationStrategy(HystrixCommandProperties.ExecutionIsolationStrategy.THREAD))  
  10.                 .andThreadPoolPropertiesDefaults(HystrixThreadPoolProperties.Setter()  
  11.                         .withCoreSize(10))  
  12.         );  
  13.         this.input = input;  
  14.     }  
  15.   
  16.     @Override  
  17.     protected String run() throws Exception {  
  18.         return "Echo: " + input;  
  19.     }     


回顾重点

1.Hystrix可以为分布式服务提供弹性保护

2.Hystrix通过命令模式封装调用,来实现弹性保护,继承HystrixCommand并且实现run方法,就完成了最简单的封装。

3. 实现getFallBack方法可以为熔断或者异常提供后备处理方法。

4.HystrixCommand中Setter类的最佳实践。

5.模版方法在框架中的实践。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值