k8s部署微服务组件hystrix

1、Hystrix断路器概述

Hystrix是一个用于处理分布式系统的延迟和容错的开源库,在分布式系统里,许多依赖不可避免的会调用失败,比如超时、异常等,Hystrix能够保证在一个依赖出问题的情况下,不会导致整体服务失败,避免级联故障,以提高分布式系统的弹性。
“断路器”本身是一种开关装置,当Hystrix监控到某个服务发生故障之后熔断器会开启,将此服务链路断开,不过hystrix不会将该服务的消费者阻塞,或向消费者抛出异常而是向调用方返回一个符合预期的、可处理的备选响应(FallBack),这样就保证了服务调用方的线程不会被长时间、不必要地占用,从而避免了故障在分布式系统中的蔓延,乃至雪崩,故Hystrix是系统的一种防御机制。

1.1 hystrix能做什么

服务降级
服务熔断
服务限流
接近实时的监控

1.2 hystrix官网

https://github.com/Netflix/Hystrix/wiki/How-To-Use

1.3 hystrix 服务熔断

服务熔断
熔断机制是应对雪崩效应的一种微服务链路保护机制。
当扇出链路的某个微服务不可用或者响应时间太长时,会进行服务的降级,进而熔断该节点微服务的调用,快速返回"错误"的响应信息。当检测到该节点微服务调用响应正常后恢复调用链路。在SpringCloud框架里熔断机制通过Hystrix实现。Hystrix会监控微服务间调用的状况,当失败的调用到一定阈值,缺省是5秒内20次调用失败就会启动熔断机制。熔断机制的注解是@HystrixCommand。

2 服务降级

服务降级是请求发生问题后的一种增强用户体验的方式。
发生服务熔断,一定会发生服务降级。但发生服务降级,并不意味着一定是发生了服务熔断。

Hystrix 对于服务降级的实现方式有两种:

  • 方法级别的服务降级(fallbackMethod) ,
  • 类级别的服务降级(fallbackFactory)

2.1 hystrix方法级服务降级

创建消费者工程 msc-consumer-fallbackmethod-8080

(1) 创建工程

复制 msc-consumer-8080 工程,并重命名为 msc-consumer-fallbackmethod-8080

(2) 添加 hystrix 依赖

<!--hystrix 依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>

(3) 修改处理器类SomeController.java的代码添加@HystrixCommond注解

//指定该方法要使用服务降级,即当前处理器方法在运行过程中若发生异常
//无法给客户端正常响应时,就会调用fallbackmethod指定的方法
@GetMapping("/get/{id}")
@HystrixCommand(fallbackMethod = "getHystrixHandle")
public Depart getByIdHandler(@PathVariable("id") int id){
String url = SERVICE_PROVIDER + "/provider/depart/get/" + id;
return restTemplate.getForObject(url, Depart.class);
}

//服务降级方法,响应给客户端的备选方案
public Depart getHystrixHandler(@PathVariable("id") int id){
Depart depart = new Depart();
depart.setId(id);
depart.setName("no this depart");
return depart;
}

(4) 在启动类添加注解@EnableCircuitBreaker

package com.jd;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.client.circuitbreaker.EnableCircuitBreaker;

@EnableCircuitBreaker //开启熔断器
@SpringBootApplication
public class MscConsumerfallbackApplication {

    public static void main(String[] args) {
    SpringApplication.run(MscConsumerfallbackApplication.class, args);
    }
}

这一个类上添加的注解太多了,为了避免这种情况的发生,Spring Cloud 专门定义了一 个组合注解@SpringCloudApplication,就包含了三个注解。所以可以用它直接替换掉上面的注解。

验证
启动eureka服务端工程,然后启动消费者工程

上面直接返回了降级结果

2.2 fallbackFactory 服务降级

当一个服务同时存在类级别与方法级别的降级时,方法级别的降级优先级高。

2.2.1 总步骤
  • 添加Hystrix依赖
  • 定义服务降级类
  • 在Feign接口中指定服务降级类
  • 修改配置文件,开启Feign对Hystrix的支持
  • 在启动类上添加@EnableCircuitBreaker注解(或@SpringBootApplication注解替换为@SpringCloudApplication 注解)
2.2.2 创建消费者工程 msc-consumer-fallbackfactory7070

(1) 创建工程

复制 msc-consumer-feign7070 工程,并重命名为 msc-consumer-fallbackfactory7070。

(2) 添加 hystrix 依赖

<!--hystrix 依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>

(3) 定义降级处理类

@Component
public class DepartFallbackFactory implements FallbackFactory<DepartService>
{
    @Override
    public DepartService create(Throwable throwable) {
        return new DepartService() {
            @Override
            public boolean saveDepart(Depart depart) {
                System.out.println("执行saveDepart()服务降级处理方法");
                return false;
            }

            @Override
            public boolean removeDepartById(Integer id) {
                System.out.println("执行removeDepartById()服务降级处理方法");
                return false;
            }

            @Override
            public boolean modifyDepart(Depart depart) {
                System.out.println("执行modifyDepart()服务降级处理方法");
                return false;
            }

            @Override
            public Depart getDepartById(int id) {
                Depart depart = new Depart();
                depart.setId(id);
                depart.setName("no this depart -- class级别");
                return depart;
            }

            @Override
            public List<Depart> listAllDeparts() {
                System.out.println("执行listAllDeparts()服务降级处理方法");
                return null;
            }
        };
    }
}

(4) 修改 Feign 接口,指定服务降级类

package com.jd.service;

import com.jd.bean.Depart;
import org.springframework.cloud.openfeign.FeignClient;
import org.springframework.web.bind.annotation.*;
import java.util.List;

//fallbackFactory 用于指定当前Feign接口的服务降级类
@FeignClient(value = "msc-provider", fallbackFactory = DepartFallbackFactory.class)
@RequestMapping("/provider/depart")
public interface DepartService {

@PostMapping("/save")
boolean saveDepart(@RequestBody Depart depart);

@DeleteMapping("/del/{id}")
boolean removeDepartById(@PathVariable("id") Integer id);

@PutMapping("/update")
boolean modifyDepart(@RequestBody Depart depart);

@GetMapping("/get/{id}")
Depart getDepartById(@PathVariable("id") int id);

@GetMapping("/list")
List<Depart> listAllDeparts();
}

(5) 修改配置文件,开启Feign对Hystrix的支持

#开启feign对hystrix的支持
hystrix:
enabled: true

(6) 在启动类上添加@EnableCircuitBreaker注解

package com.jd;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.client.SpringCloudApplication;
import org.springframework.cloud.openfeign.EnableFeignClients;

@EnableFeignClients //开启feign客户端
@SpringCloudApplication
public class MscConsumerfallbackfactoryApplication {

public static void main(String[] args) {
    SpringApplication.run(MscConsumerfallbackfactoryApplication.class, args);
    }
}

验证

注意:如果工程里既有类级别的服务降级又有方法级别的服务降级,类级别优先级高

2.3 Hystrix 高级属性配置

2.3.1 执行隔离策略

执行隔离策略有两大作用:防止服务熔断,防止服务雪崩。
对某种依赖的请求数量进行限制的方式,称为执行隔离。

(1) 类型

隔离请求的方式有两种类型:

  • 线程隔离:Hystrix的默认隔离策略。系统会创建一个依赖线程池,为每个依赖请求分配
    一个独立的线程,而每个依赖所拥有的线程数量是有上限的。当对该依赖的调用请求数 量达到上限后再有请求,则直接拒绝该请求,并对该请求做降级处理。所以对某依赖的 并发量取决于为该依赖线程池所分配的线程数量。

  • 信号量隔离:对依赖的调用所使用的线程仍为请求线程,即不会为依赖请求再新创建新 的线程。但系统会为每种依赖分配一定数量的信号量,而每个依赖请求分配一个信号。 当对该依赖的调用请求数量达到上限后再有请求,则直接拒绝该请求,并直接对该请求 做降级处理。所以对某依赖的并发量取决于为该依赖所分配的信号量数量。

2.3.2 执行隔离其它属性

(1) 线程执行超时时限

启动msc-consumer-fallbackmethod8080工程和msc-provider8081工程

msc-provider8081工程的getDepartById方法设置了延迟

当msc-consumer-fallbackmethod8080工程访问该方法时发生了方法级别的服务降级

在默认的线程执行隔离策略中,关于线程的执行时间,可以为其设置超时时限。当然, 首先通过下面的属性开启该超时时限,该属性默认是开启的,即默认值为 true。若要关闭, 则可以配置文件中设置该属性的值为 false。hystrix.command.default.execution.timeout.enabled

在开启了执行线程超时时限后,可以通过以下属性设置时限长度。
hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds
其默认值为 1000 毫秒。这就是前面引入时为什么 sleep(3)是报超时异常的原因,只要超过了 1 秒就会超时。

打开hystrix官网
https://github.com/Netflix/Hystrix/wiki/Configuration

我们通过在consumer的application.yml文件中设置超时时限为4 秒

发现可以正常访问该方法了

或者在方法上直接改

//指定该方法要使用服务降级,即当前处理器方法在运行过程中若发生异常
//无法给客户端正常响应时,就会调用fallbackmethod指定的方法
@GetMapping("/get/{id}")
@HystrixCommand(fallbackMethod = "getHystrixHandler",commandProperties = @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds",value="4000"))
public Depart getByIdHandler(@PathVariable("id") int id){
String url = SERVICE_PROVIDER + "/provider/depart/get/" + id;
return restTemplate.getForObject(url, Depart.class);
}

(2) 超时中断

当线程执行超时时是否中断线程的执行。默认为 true,即超时即中断。通过以下属性进 行设置。
hystrix.command.default.execution.isolation.thread.interruptOnTimeout
(3) 取消中断

在线程执行过程中,若请求取消了,当前执行线程是否结束呢?由该值设置。默认为 false, 即取消后不中断。通过以下属性进行设置。
hystrix.command.default.execution.isolation.thread.interruptOnCancel
(4) 信号量数量

若采用信号量执行隔离策略,则可通过以下属性修改信号量的数量,即对某一依赖所允 许的请求的最高并发量。 hystrix.command.default.execution.isolation.semaphore.maxConcurrentRequests

2.3.3 服务降级属性

(1) 降级请求最大数量

该属性仅限于信号量隔离。当信号量已用完后再有请求到达,并不是所有请求都会进行 降级处理,而是在该属性设置值范围内的请求才会发生降级,其它请求将直接拒绝。 hystrix.command.default.fallback.isolation.semaphore.maxConcurrentRequests
(2) 服务降级开关

无论是线程隔离还是信号量隔离,当请求数量到达其设置的上限后再有请求到达是否会 对请求进行降级处理,取决于该属性值的设置。若该属性值设置为 false,则不进行降级, 而是直接拒绝请求。
hystrix.command.default.fallback.enabled

2.4 服务熔断属性

(1) 熔断功能开关

设置当前应用是否开启熔断器功能,默认值为 true。
hystrix.command.default.circuitBreaker.enabled
(2) 熔断器开启阈值

当在时间窗内(10 秒)收到的请求数量超过该设置的数量后,将开启熔断器。默认值为 20。
注意,开启熔断器是指将拒绝所有请求;关闭熔断器是指将使所有请求通过。
hystrix.command.default.circuitBreaker.requestVolumeThreshold

(3) 熔断时间窗

当熔断器开启该属性设置的时长后,会尝试关闭熔断器,以恢复被熔断的服务。默认值 为 5000 毫秒。
hystrix.command.default.circuitBreaker.sleepWindowInMilliseconds

(4) 熔断开启错误率

当请求的错误率高于该百分比时,开启熔断器。默认值为 50,即 50%。
hystrix.command.default.circuitBreaker.errorThresholdPercentage

(5) 强制开启熔断器

设置熔断器无需条件开启,拒绝所有请求。默认值为 false。
hystrix.command.default.circuitBreaker.forceOpen

(6) 强制关闭熔断器

设置熔断器无需条件的关闭,通过所有请求。默认值为 false。
hystrix.command.default.circuitBreaker.forceClosed

3 k8s部署 hystrix

参考k8s部署服务消费者

代码下载地址:
https://github.com/coderTomato/microservicecloud.git

微服务是什么?微服务是用于构建应用程序的架构风格,一个大的系统可由一个或者多个微服务组成,微服务架构可将应用拆分成多个核心功能,每个功能都被称为一项服务,可以单独构建和部署,这意味着各项服务在工作和出现故障的时候不会相互影响。为什么要用微服务?单体架构下的所有代码模块都耦合在一起,代码量大,维护困难,想要更新一个模块的代码,也可能会影响其他模块,不能很好的定制化代码。微服务中可以有java编写、有Python编写的,他们都是靠restful架构风格统一成一个系统的,所以微服务本身与具体技术无关、扩展性强。大型电商平台微服务功能图为什么要将SpringCloud项目部署k8s平台?SpringCloud只能用在SpringBoot的java环境中,而kubernetes可以适用于任何开发语言,只要能被放进docker的应用,都可以在kubernetes上运行,而且更轻量,更简单。SpringCloud很多功能都跟kubernetes重合,比如服务发现,负载均衡,配置管理,所以如果把SpringCloud部署k8s,那么很多功能可以直接使用k8s原生的,减少复杂度。Kubernetes作为成熟的容器编排工具,在国内外很多公司、世界500强等企业已经落地使用,很多中小型公司也开始把业务迁移到kubernetes中。kubernetes已经成为互联网行业急需的人才,很多企业都开始引进kubernetes技术人员,实现其内部的自动化容器云平台的建设。对于开发、测试、运维、架构师等技术人员来说k8s已经成为的一项重要的技能,下面列举了国内外在生产环境使用kubernetes的公司: 国内在用k8s的公司:阿里巴巴、百度、腾讯、京东、360、新浪、头条、知乎、华为、小米、富士康、移动、银行、电网、阿里云、青云、时速云、腾讯、优酷、抖音、快手、美团等国外在用k8s的公司:谷歌、IBM、丰田、iphone、微软、redhat等整个K8S体系涉及到的技术众多,包括存储、网络、安全、监控、日志、DevOps、微服务等,很多刚接触K8S的初学者,都会感到无从下手,为了能让大家系统地学习,克服这些技术难点,推出了这套K8S架构师课程。Kubernetes的发展前景 kubernetes作为炙手可热的技术,已经成为云计算领域获取高薪要掌握的重要技能,在招聘网站搜索k8s,薪资水平也非常可观,为了让大家能够了解k8s目前的薪资分布情况,下面列举一些K8S的招聘截图: 讲师介绍:  先超容器云架构师、IT技术架构师、DevOps工程师,曾就职于世界500强上市公司,拥有多年一线运维经验,主导过上亿流量的pv项目的架构设计和运维工作;具有丰富的在线教育经验,对课程一直在改进和提高、不断的更新和完善、开发更多的企业实战项目。所教学员遍布京东、阿里、百度、电网等大型企业和上市公司。课程学习计划 学习方式:视频录播+视频回放+全套源码笔记 教学服务:模拟面试、就业指导、岗位内推、一对一答疑、远程指导 VIP终身服务:一次购买,终身学习课程亮点:1. 学习方式灵活,不占用工作时间:可在电脑、手机观看,随时可以学习,不占用上班时间2.老师答疑及时:老师24小时在线答疑3. 知识点覆盖全、课程质量高4. 精益求精、不断改进根据学员要求、随时更新课程内容5. 适合范围广,不管你是0基础,还是拥有工作经验均可学习:0基础1-3年工作经验3-5年工作经验5年以上工作经验运维、开发、测试、产品、前端、架构师其他行业转行做技术人员均可学习课程部分项目截图   课程大纲 k8s+SpringCloud全栈技术:基于世界500强的企业实战课程-大纲第一章 开班仪式老师自我介绍、课程大纲介绍、行业背景、发展趋势、市场行情、课程优势、薪资水平、给大家的职业规划、课程学习计划、岗位内推第二章 kubernetes介绍Kubernetes简介kubernetes起源和发展kubernetes优点kubernetes功能kubernetes应用领域:在大数据、5G、区块链、DevOps、AI等领域的应用第三章  kubernetes中的资源对象最小调度单元Pod标签Label和标签选择器控制器Replicaset、Deployment、Statefulset、Daemonset等四层负载均衡器Service第四章 kubernetes架构和组件熟悉谷歌的Borg架构kubernetes单master节点架构kubernetes多master节点高可用架构kubernetes多层架构设计原理kubernetes API介绍master(控制)节点组件:apiserver、scheduler、controller-manager、etcdnode(工作)节点组件:kube-proxy、coredns、calico附加组件:prometheus、dashboard、metrics-server、efk、HPA、VPA、Descheduler、Flannel、cAdvisor、Ingress     Controller。第五章 部署多master节点的K8S高可用集群(kubeadm)第六章 带你体验kubernetes可视化界面dashboard在kubernetes中部署dashboard通过token令牌登陆dashboard通过kubeconfig登陆dashboard限制dashboard的用户权限在dashboard界面部署Web服务在dashboard界面部署redis服务第七章 资源清单YAML文件编写技巧编写YAML文件常用字段,YAML文件编写技巧,kubectl explain查看帮助命令,手把手教你创建一个Pod的YAML文件第八章 通过资源清单YAML文件部署tomcat站点编写tomcat的资源清单YAML文件、创建service发布应用、通过HTTP、HTTPS访问tomcat第九章  kubernetes Ingress发布服务Ingress和Ingress Controller概述Ingress和Servcie关系安装Nginx Ingress Controller安装Traefik Ingress Controller使用Ingress发布k8s服务Ingress代理HTTP/HTTPS服务Ingress实现应用的灰度发布-可按百分比、按流量分发第十章 私有镜像仓库Harbor安装和配置Harbor简介安装HarborHarbor UI界面使用上传镜像到Harbor仓库从Harbor仓库下载镜像第十一章 微服务概述什么是微服务?为什么要用微服务微服务的特性什么样的项目适合微服务?使用微服务需要考虑的问题常见的微服务框架常见的微服务框架对比分析第十二章 SpringCloud概述SpringCloud是什么?SpringCloud和SpringBoot什么关系?SpringCloud微服务框架的优缺点SpringCloud项目部署k8s的流程第十三章 SpringCloud组件介绍服务注册与发现组件Eureka客户端负载均衡组件Ribbon服务网关Zuul熔断器HystrixAPI网关SpringCloud Gateway配置中心SpringCloud Config第十四章 将SpringCloud项目部署k8s平台的注意事项如何进行服务发现?如何进行配置管理?如何进行负载均衡?如何对外发布服务?k8s部署SpringCloud项目的整体流程第十五章 部署MySQL数据库MySQL简介MySQL特点安装部署MySQL在MySQL数据库导入数据对MySQL数据库授权第十六章 将SpringCLoud项目部署k8s平台SpringCloud的微服务电商框架安装openjdk和maven修改源代码、更改数据库连接地址通过Maven编译、构建、打包源代码在k8s部署Eureka组件k8s部署Gateway组件k8s部署前端服务在k8s部署订单服务在k8s部署产品服务在k8s部署库存服务第十七章 微服务的扩容和缩容第十八章 微服务的全链路监控什么是全链路监控?为什么要进行全链路监控?全链路监控能解决哪些问题?常见的全链路监控工具:zipkin、skywalking、pinpoint全链路监控工具对比分析第十九章 部署pinpoint服务部署pinpoint部署pinpoint agent在k8s中重新部署带pinpoint agent的产品服务在k8s中重新部署带pinpoint agent的订单服务在k8s中重新部署带pinpoint agent的库存服务在k8s中重新部署带pinpoint agent的前端服务在k8s中重新部署带pinpoint agent的网关和eureka服务Pinpoint UI界面使用第二十章 基于Jenkins+k8s+harbor等构建企业级DevOps平台第二十一章 基于Promethues+Alert+Grafana搭建企业级监控系统第二十二章 部署智能化日志收集系统EFK 
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值