Hystricx之服务雪崩服务降级

最新推荐文章于 2024-04-02 09:14:54 发布
最新推荐文章于 2024-04-02 09:14:54 发布
阅读量676 收藏 2
点赞数 4
分类专栏： Hystricx 文章标签： Hystricx 服务降级 熔断降级 服务雪崩
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Dear_UU/article/details/94752394
版权

Hystricx之服务雪崩服务降级：

写在前面：
  • 以下观点均为本仙鱼学习过程中的笔记感悟，若有不足之处请在留言中给出。
  • 本篇博客内容为微服务服务雪崩和服务降级

什么是服务雪崩？

话不多说先上图：

在这里插入图片描述

  • 上图是一条服务器调用链，正常就是A->B->C->D，假设服务D突然被雷劈中了，服务C通过3发送请求调用D时发现服务D崩了，但不知道具体原因也没有处理手段，请求一直堆积在服务C造成阻塞，消耗服务C的线程资源，慢慢的服务B也会阻塞，A也是，总而言之，当服务中的一个服务崩溃导致整条服务链崩溃的状况，我们就称之为服务雪崩
  • 你可能会说在分布式微服务架构中，服务D保障是集群就可避免上面的问题，但不能保障是服务C在请求服务D时是没有问题的，在过程中突然崩掉了…

如何解决：

  • 当我们的consumer服务(如上面的服务C)去调用provider服务(如上面的服务D)，provider服务出现问题或者访问provider服务的流量过高时，我们为了保障一个良好的用户体验，不能将异常数据直接返回给客户，我们要返回一些符合规范的数据，即为服务降级。

  • 我们这里说的服务降级只是解决服务雪崩的手段之一。

  • 服务降级分为两类：

    • 限流降级：举个例子，就像早高峰坐地铁，是不是要排队走通道，当你赶到地铁站远远地看见人海排队很长时(人流量超多),那你有两个选择，一是排队慢慢向前移动，二是放弃地铁选择打滴去上班。即：不允许一次通过很大流量必须去排队为限流降级。
    • 熔断降级：再举个生动的例子，假设你是你们公司前台小姐姐，有人来你们公司找你们老板，第一次你先打电话问一下老板在不在，然后告诉你老板不在，第二次再确认一下老板在不在…当第十次时你可能就烦了，心态爆炸，不去问老板在不在，直接回复”老板不在！“，后面还有人来找老板，根据心情，有时你会打电话看一下老板在不在，有时候直接回复：老板不在！那么：多次请求同一个出问题地服务，一开始(在默认次数内)还请求一下确定服务是不是可以调用，后面就直接认定是出问题了，不再调用服务，直接回复，再往后当再有请求隔一段时间确定一下是否可调用地方式我们称之为熔断降级。

Hystrix应用：

  • 下面就开始码代码看代码实现来理解熔断了：
  • 还有一个词语：Circuit Breaker：断路器了解一下，就像家中的电闸，当使用的电器过多 负载过大时会跳闸，这里我们就可以将Circuit Breaker理解为一个保护的something。

1 在Ribbon-Hystrix中的使用

1.1 consumer-ribbon-hystrix
代码示例：

  • 导入依赖：groupId：org.springframework.cloud，artifactId：spring-cloud-starter-netflix-hystrix

  • SpringBoot启动文件上加上开启断路器的注解：@EnableCircuitBreaker

    这时：当我们的调用出现问题或者是流量过高的时候就会触发降级

    @SpringBootApplication
@EnableCircuitBreaker
public class Application {
    public static void main(String[] args) {
        new SpringApplicationBuilder(Application.class).web(true).run(args);
    }
}

  • 在要调用的方法上加上注解：@HystrixCommand(fallbackMethod = "newMethod")

    fallbackMethod表示当要调用的oldMethod()方法出现问题时去调用newMethod()方法；

    newMethod()与oldMethod()除了方法名和方法内的处理方式不一样，参数和返回值都是一样的，即我们上面所说的符合规范的数据;

    @Component
public class Test {
    @HystrixCommand(fallbackMethod = "newMethod")
    public Object oldMethod(Map<String, Object> parameters) {
        //do stuff that might fail
    }
    public Object newMethod(Map<String, Object> parameters) {
        return /* something useful */;
    }
}
那代码示例的实现原理是什么呢？

  • 上面的oldMethod()方法中，我们加上了@HystrixCommand注解，实际上在扫描到这个注解的时候会通过AOP对oldMethod()方法进行包裹， 当这个方法发生异常时，会在catch中执行newMethod()方法，返回符合规范的数据；

  • 官方文档给出的是继承HystrixCommand<R>抽象类，其中上面的oldMethod()被包装在@Override重写的run()方法中，R为泛型，与oldMethod()方法的返回值类型一致；

  • 还有一点，这个默认是走Thread的，后面会补充，还有一种方式是走Semaphone

    代码如下：

    public class CommandHelloWorld extends HystrixCommand<Object> {
    protected CommandHelloWorld(HystrixCommandGroupKey group) {
        super(group);
    }

    protected CommandHelloWorld(HystrixCommandGroupKey group, HystrixThreadPoolKey threadPool) {
        super(group, threadPool);
    }

    protected CommandHelloWorld(HystrixCommandGroupKey group, int executionIsolationThreadTimeoutInMilliseconds) {
        super(group, executionIsolationThreadTimeoutInMilliseconds);
    }

    protected CommandHelloWorld(HystrixCommandGroupKey group, HystrixThreadPoolKey threadPool, int executionIsolationThreadTimeoutInMilliseconds) {
        super(group, threadPool, executionIsolationThreadTimeoutInMilliseconds);
    }

    protected CommandHelloWorld(Setter setter) {
        super(setter);
    }

    /**
     * 用于包装被@HystrixCommand注解修饰的方法
     * @return
     * @throws Exception
     */
    @Override
    protected Object run() throws Exception {
        return null;
    }
}

  • 测试调用方式如下：

    //execute()相当于我们线程中的start()，调用时会触发run()方法
Object s = new CommandHelloWorld("Bob").execute();
//queue()方法是阻塞的
Future<Object> s = new CommandHelloWorld("Bob").queue();
//observe()相当于又开了一个线程进入阻塞状态，而主线程是不阻塞的
Observable<Object> s = new CommandHelloWorld("Bob").observe();

2 Hystrix提供的两种降级的机制:

  • Thread：在单独的线程(即自己新开的线程)上在执行，并发请求受线程池中线程数的限制，Thread降级是默认的降级机制
  • Semaphone：在调用的线程(即用户请求的线程)上执行，并发请求受信号量计数的限制
  • 原理图如下(下图包含了官方给出的默认数量)：

在这里插入图片描述

2.1 Thread应用:

  • 代码演示同1.1(默认就是Thread)

  • 由上图可知官方文档给出的默认的Threadpool Size:10即线程数为10个，那么不禁疑问，才10个线程，够用的吗？

  • 答：在大多数情况下，10个线程的默认值是很好的（通常可以减小）。

  • 请看下图：一个线程在没有异常的情况下30ms可以发送一个请求，那1s就可以处理300个请求，10个线程1s就是3000个请求；当有问题的时候一个线程300ms发送一个请求，1s就是3个，10个线程1s就是30个。这仅仅是1s而已，所以官方给的10个线程是绝对够用的。

  • 而且从下图可以看出Thread是可以设置超时时间的(默认是1000ms)，Semaphone只能被动等，等到所请求的provider超时，可以在@HystrixCommand注解中添加属性commandProperties = {@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds",value = "1")}来设置（这里设置的是1ms，哈哈，你的请求能成功才怪~）

  • 默认是连续请求同一个请求失败20次(这20次走的是Thread新开的线程)后，开启熔断降级，即：走的是用户请求的线程，当再次请求多次时，Thread新开的线程偶尔会去发起一次请求看看请求是否可用

在这里插入图片描述

2.2 Semaphone应用：

  • 与前面的1.1的代码相比，只需要在@HystrixCommand注解中加上属性commandProperties = {@HystrixProperty(name = "execution.isolation.strategy",value = "SEMAPHONE")}即可，其他的没有变化，代码如下：

    @Component
public class Test {
    @HystrixCommand(fallbackMethod = "newMethod"，commandProperties = {@HystrixProperty(name = "execution.isolation.strategy",value = "SEMAPHONE")})
    public Object oldMethod(Map<String, Object> parameters) {
        //do stuff that might fail
    }
    public Object newMethod(Map<String, Object> parameters) {
        return /* something useful */;
    }
}

3 Eureka-Feign-Hystrix应用

  • 与在Ribbon中不同的是，在Feign中我们提供的都是服务的接口，我们总不能在接口上打注解吧，所以，有另外一种思路，当服务接口中的方法出现异常时，我们只要调用这个方法默认的实现方法就可以了，所以我们需要一个类去实现被调用的服务接口，假设我们有一个名为UserFeign的服务接口，代码如下：

    @FeignClient(value = "USERSERVICE")
public interface UserFeign {
    @RequestMapping("/users/{id}")
    User getUserInfo(@PathVariable("id") int id);

    @GetMapping("/save")
    String save(User User);
}

    要对这个服务接口实现熔断降级，有下面的两种方式：

3.1 方式一：直接实现UserFeign接口

  • application.yml文件中配置开启断路器：

    feign:
  hystrix:
    enabled: true #必须开启这个,否无断路器无效

  • 导入依赖：groupId：org.springframework.cloud，artifactId：spring-cloud-starter-netflix-hystrix

  • SpringBoot的启动文件加上@EnableCircuitBreaker注解

    @SpringBootApplication
@EnableCircuitBreaker
@EnableFeignClients
public class Application {
    public static void main(String[] args) {
        new SpringApplicationBuilder(Application.class).web(true).run(args);
    }
}

  • 定义UserFeignFallBack类实现UserFeign接口

    (1)UserFeign接口上指定实现它的类(哪个类实现它就写哪个类)：即@FeignClient注解中加上：fallback=UserFeignFallBack.class属性

    //失败后执行UserFeignFallBack.java中对应的实现方法
@FeignClient(value = "USERSERVICE",fallback = UserFeignFallback.class)
public interface UserFeign {
    @RequestMapping("/users/{id}")
    User getUserInfo(@PathVariable("id") int id);

    @GetMapping("/save")
    String save(User User);
}

    (2)定义UserFeignFallBack类实现UserFeign接口

    @Component
public class UserFeignFallback implements UserFeign {
    @Override
    public User getUserInfo(int id) {
        /***/
        return ....;
    }
    @Override
    public String save(User user) {
        return ".....";
    }
}
3.2 方式二：实现FallbackFactory<R>接口

  • application.yml文件中配置开启断路器：

    feign:
  hystrix:
    enabled: true #必须开启这个,否无断路器无效

  • 导入依赖：groupId：org.springframework.cloud，artifactId：spring-cloud-starter-netflix-hystrix

  • SpringBoot的启动文件加上@EnableCircuitBreaker注解

    @SpringBootApplication
@EnableCircuitBreaker
@EnableFeignClients
public class Application {
    public static void main(String[] args) {
        new SpringApplicationBuilder(Application.class).web(true).run(args);
    }
}

  • 定义UserFeignFallbackFactory类实现FallbackFactory<R>接口

    (1)UserFeign接口上指定实现它的类(哪个类实现它就写哪个类)：即@FeignClient注解中加上：fallbackFactory=UserFeignFallbackFactory.class属性

    //失败后执行UserFeignFallBack.java中对应的实现方法
@FeignClient(value = "USERSERVICE",fallbackFactory = UserFeignFallbackFactory.class)
public interface UserFeign {
    @RequestMapping("/users/{id}")
    User getUserInfo(@PathVariable("id") int id);

    @GetMapping("/save")
    String save(User User);
}

    (2)R为泛型，要实现哪个服务就口，就写哪个类，这里问哦们实现的是UserFeign，如下：

    @Component
public class UserFeignFallbackFactory implements FallbackFactory<UserFeign> {
    @Override
    public UserFeign create(Throwable throwable) {
        return new UserFeign() {
            @Override
            public User getUserInfo(int id) {
                /***/
                return ....;
            }
            @Override
            public String save(User user) {
                return ".....";
            }
        };
    }
}

    如果需要访问导致回退触发器的原因，那么使用第二种方式。

4 Gateway-Zuul:

  • 在网关中，当我们给定的路由(Service)的电路跳闸时，我们可以通过创建FallbackProvider 类型的类(实现FallbackProvider接口)来提供回退的响应，我们需要指定回退的路由ID(即指定的Service)，并提供一个ClientHttpResponse对象作为回退响应：

在这里插入图片描述

  • 示例代码如下：

    @Component
class MyFallbackProvider implements FallbackProvider {

    /**
     * 设置当前是给哪个服务开启fallback,返回值就是服务的名字,如果是给所有的,返回*
     * @return
     */
    @Override
    public String getRoute() {
        return "*";
    }

    /**
     * 当出现问题的时候返回给调用者具体的返回内容
     * @param route 返回给哪个service
     * @param cause 出现的异常
     * @return
     */
    @Override
    public ClientHttpResponse fallbackResponse(String route, final Throwable cause) {
        if (cause instanceof HystrixTimeoutException) {
            return response(HttpStatus.GATEWAY_TIMEOUT);
        } else {
            return response(HttpStatus.INTERNAL_SERVER_ERROR);
        }
    }

    private ClientHttpResponse response(final HttpStatus status) {
        return new ClientHttpResponse() {
            @Override
            public HttpStatus getStatusCode() throws IOException {
                return status;
            }

            @Override
            public int getRawStatusCode() throws IOException {
                return status.value();
            }

            @Override
            public String getStatusText() throws IOException {
                return status.getReasonPhrase();
            }

            @Override
            public void close() {
            }

            /**
             * 响应正文
             * @return
             * @throws IOException
             */
            @Override
            public InputStream getBody() throws IOException {
                return new ByteArrayInputStream("恭喜你,你电脑中毒了,搬出去拆开晒晒太阳杀杀毒".getBytes());
            }

            /**
             * 响应头
             * @return
             * @throws IOException
             */
            @Override
            public HttpHeaders getHeaders() {
                HttpHeaders headers = new HttpHeaders();
                headers.setContentType(MediaType.APPLICATION_JSON);
                return headers;
            }
        };
    }
}
             * 响应头
             * @return
             * @throws IOException
             */
            @Override
            public HttpHeaders getHeaders() {
                HttpHeaders headers = new HttpHeaders();
                headers.setContentType(MediaType.APPLICATION_JSON);
                return headers;
            }
        };
    }
}
MingCode
关注
  • 4
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
专栏目录
Hystrix （一）降级
weixin_55883492的博客
05-09 1184
Hystrix的介绍以及降级的配置
服务容错模式
02-25
如：1）系统依赖的某个服务发生延迟或者故障，数秒内导致所有应用资源（线程，队列等）被耗尽，造成所谓的雪崩效应(CascadingFailure)，导致整个系统拒绝对外提供服务。2）系统遭受恶意爬虫袭击，在放大效应下没有对...
SpringCloud实战3-Hystrix请求熔断与服务降级
weixin_34413802的博客
05-12 321
我们知道大量请求会阻塞在Tomcat服务器上,影响其它整个服务.在复杂的分布式架构的应用程序有很多的依赖,都会不可避免地在某些时候失败.高并发的依赖失败时如果没有隔离措施,当前应用服务就有被拖垮的风险.Spring Cloud Netflix Hystrix就是隔离措施的一种实现,可以设置在某种超时或者失败情形下断开依赖调用或者返回指定逻辑,从而提高分布...
Go微服务实战——服务治理（负载均衡，请求重试，服务熔断，服务降级）
最新发布
个人学习笔记库，一篇一篇记录成长的足迹
04-02 950
微服务之负载均衡，请求重试，服务熔断，服务降级
服务降级的一点认识
jxausea的专栏
06-28 249
什么是服务降级 服务降级：主要是针对非正常情况下的应急服务措施;比如电商平台，在针对618、双11等高峰情形下采用部分服务不出现或者延时出现的情形。 举个例子 大家都见过女生旅行吧，大号的旅行箱是必备物，平常走走近处绰绰有余，但一旦出个远门，再大的箱子都白搭了，怎么办呢？常见的情景就是把物品拿出来分分堆，比了又比，最后一些非必需品的就忍痛放下了，等到下次箱子够用了，再带上用一用。而服务...
08 Hystrix服务降级和容错
wyaoyao93的博客
12-21 125
文章目录1 概述1.1 分布式面临的问题1.2 Hystric是什么1.3 Hystric能干啥1.4 Hystrix重要概念2 服务降级2.1 服务提供者侧服务降级项目搭建服务降级2.2 消费者侧服务降级服务提供者注册到Eureka注册中心搭建服务消费者服务消费者侧服务降级2.3 Feign和Hystrix结合2.4 全局服务降级处理 1 概述 1.1 分布式面临的问题 复杂的分布式中，应用程序有数十个依赖关系，每个依赖关系在某些时候不可避免的会出现失败。 服务血崩 多个微服务调用的时候，假设A服务
Hystrix降级技术解析-Fallback
whs_321的博客
08-23 6305
所谓降级，就是指在在Hystrix执行非核心链路功能失败的情况下，我们如何处理，比如我们返回默认值等。如果我们要回退或者降级处理，代码上需要实现HystrixCommand.getFallback()方法或者是HystrixObservableCommand. HystrixObservableCommand()。
服务治理包含哪些方面.pptx
09-23
服务容错手段有超时丢弃、重试、过载保护、服务熔断、服务降级等。 服务治理的扩展包括： * 基于版本号的服务管理，可以用于灰度发布。 * 请求的复制回放，用于模拟真实的流量进行压测。 * 给请求打标签用于实时的...
AviForecastWS:雪崩预报网络服务
05-26
AviForecastWS 雪崩预报网络服务
雪崩：Minecraft服务器压力测试工具
02-04
雪崩：Minecraft服务器压力测试工具
缓存雪崩服务器雪崩的场景与解决方案.docx
10-26
缓存雪崩服务器雪崩的场景与解决方案 缓存雪崩是指缓存服务器重启或者大量缓存集中在某一个时间段失效，导致后端系统（如数据库）承受很大压力，造成数据库后端故障，从而引起应用服务器雪崩。缓存雪崩可能会引发...
SpringCloud（四）Hystrix服务保护框架
11-26
Spring Cloud是一系列框架的有序集合。它利用Spring Boot的开发便利性巧妙地简化了分布式系统基础设施的开发，如服务发现注册、配置中心、消息总线、负载均衡、断路器、数据监控等，都可以用Spring Boot的开发风格做到一键启动和部署。Spring Cloud并没有重复制造轮子，它只是将目前各家公司开发的比较成熟、经得起实际考验的服务框架组合起来，通过Spring Boot风格进行再封装屏蔽掉了复杂的配置和实现原理，最终给开发者留出了一套简单易懂、易部署和易维护的分布式系统开发工具包。
降级MySQL（参考MySQL官方文档）
数据库生态圈（RDB & NoSQL & Bigdata）——专注于关系库优化（Oracle&Mysql&PG&SQL Server ）
05-18 410
本文源自：https://www.rongsoft.com/article/2020/03/121010382935/ 介绍降级MySQL安装的步骤。 降级比升级更不常见。降级通常是由于生产系统上发生兼容性或性能问题而执行，并且在测试系统的初始升级验证期间没有发现。 与升级过程一样，在生产系统上使用降级过程之前，请先在某些测试系统上执行并验证它。 注意 在下面的讨论中，必须使用具有管理权限的MySQL帐户运行的MySQL命令，在命令行中包含-u root以指定MySQL root用户。需要r.
Ribbon+Hystrix断路器实现微服务的降级和熔断
weixin_50666791的博客
09-19 179
微服务宕机时,Ribbon无法实现转发请求,因此引入Hystrix. Hystrix短路器的核心功能: 降级: 当后台微服务不可用或访问超时时,则转向执行降级代码,或返回错误信息,或返回缓存数据; 熔断: 默认配置下,后台微服务10秒内收到的请求达到20个,并且有一半的请求(50%)出现请求失败降级的情况,则Hystrix打开断路器(断路器默认关闭closed),表示后台微服务不可用,让所有请求执行降级代码;当断路器打开5秒后转为半开闭状态,该状态表示当有请求到达时,会尝试向后台微服务转发。如果请求成
springcloud 熔断_SpringCloud--熔断器：Hystricx
weixin_39853155的博客
11-28 203
1.1 Hystrix介绍Hystrix的设计原则是什么？l 资源隔离(线程池隔离和信号量隔离)机制：限制调用分布式服务的资源使用，某一个调用的服务出现问题不会影响其它服务调用。l 限流机制：限流机制主要是提前对各个类型的请求设置最高的QPS阈值，若高于设置的阈值则对该请求直接返回，不再调用后续资源。l 熔断机制：当失败率达到阀值自动触发降级(如因网络故障、超时造成的失败率真高)，熔断器触发的快速...
SpringCloud之Hystrix断路器
lixinkuan的博客
11-12 720
Hystrics是什么 Hystrix是一个用于处理分布式系统的 延迟 和 容错 的开源库，在分布式系统里，许多依赖不可避免的会调用失败，比如超时、异常等，Hystrix能够保证在一个依赖出问题的情况下， 不会导致整体服务失败，避免级联故障，以提高分布式系统的弹性。 “断路器”本身是一种开关装置，当某个服务单元发生故障之后，通过断路器的故障监控（类似熔断保险丝）， 向调用方返回一个符合预期的...
hystrix详解
热门推荐
lyh1023812的博客
04-01 2万+
笔记，博客来源： ———————————————— 版权声明：本文为CSDN博主「韩金群」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。 原文链接： https://blog.csdn.net/hjq_ku/article/details/89520168 https://blog.csdn.net/hjq_ku/article/details/89516530 一.什么是hystrix？ hystrix是Netlifx开源的一款容错框架，防雪崩利器，具备服务降级，服务熔
GO微服务实战第二十一节 如何实现接口限流和降级？
fegus的博客
08-22 1353
在前面的第 23 课时中，我们已经介绍了限流和降级的相关概念以及在服务高可用架构中的重要性。那本课时我们就继续往下剖析，来详细讲解限流和降级的使用场景以及二者的区别，接着我还会给你一些具体的案例，让你更好地掌握如何去进行限流和降级。
服务降级框架 - Hystrix介绍
04-01
Hystrix是Netflix开源的一款服务降级框架，它可以通过控制服务的调用来实现服务的降级，从而保证整个系统的可用性和稳定性。Hystrix的核心思想是通过隔离服务之间的依赖关系，防止因某个服务的不可用导致整个系统的...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值