服务雪崩解决方法

最新推荐文章于 2024-08-12 00:30:36 发布
最新推荐文章于 2024-08-12 00:30:36 发布
阅读量1.7k 收藏 1
点赞数 1
分类专栏： springcloud 文章标签： 服务雪崩 hystrix 请求缓存 降级 合并熔断
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42332821/article/details/103101033
版权

造成服务雪崩的主要原因：

1.服务提供者不可用（硬件故障，程序bug，缓存击穿，用户大量请求）
2.重试加大流量（用户重试，代码逻辑重试）
3.服务调用者不可用（同步等待造成的资源耗尽）

服务降级

超时降级、资源不足时降级，降级后可以配合降级接口返回托底数据。实现一个fallback方法，当请求后端 服务出现异常的时候，可以使用fallback方法返回的值。

pom中加入：

<dependency>
			<groupId>org.springframework.cloud</groupId>
			<artifactId>spring-cloud-starter-hystrix</artifactId>
</dependency>

配置文件不需要添加什么
目录结构：
在这里插入图片描述
ProductController中的代码：

@RestController
public class ProductController {
	@Autowired
	private ProductService productService;
	@RequestMapping(value="list",method=RequestMethod.GET)
	public List<Product> listProduct(){
		List<Product> list= this.productService.listProduct();
		return list;
	}
}

ProductService中的代码：

@Service
public class ProductService {
	@Autowired
	private LoadBalancerClient loadBalancerClient;	//ribbon	负载均衡客户端
	@HystrixCommand(fallbackMethod = "fallback",
			commandProperties = {
		      //默认10秒;如果并发数达到该设置值，请求会被拒绝和抛出异常并且fallback不会被调用。    @HystrixProperty(name=HystrixPropertiesManager.FALLBACK_ISOLATION_SEMAPHORE_MAX_CONCURRENT_REQUESTS, value="15")
		    })
	public List<Product> listProduct(){
		//获取eurekaone-provider客户端
		ServiceInstance	si=loadBalancerClient.choose("e-book-product");
		StringBuffer sb = new StringBuffer("");
		sb.append("http://");
		//获取ip地址
		sb.append(si.getHost());
		sb.append(":");
		//获取端口号
		sb.append(si.getPort());
		sb.append("/product/list");
		System.out.println(sb.toString());  
		RestTemplate rt = new RestTemplate();
		//对象为Product集合
		ParameterizedTypeReference<List<Product>> typeRef =new ParameterizedTypeReference<List<Product>>(){};
		//参数是浏览器地址，请求方法，和转化为的对象
		ResponseEntity<List<Product>> resp= rt.exchange(sb.toString(),HttpMethod.GET, null, typeRef);
		List<Product> plist = resp.getBody();
		return plist;
	}
	public List<Product> fallback() {
		List<Product> list = new ArrayList<Product>();
		list.add(new Product(-1,"fallback"));
		return list;
	}
}

使用降级，我们只是多添加了一个注解，然后创建fallback的方法，如果并发达到15的时候或则product没有，就会自动降级。当我们关闭product的时候：
在这里插入图片描述
它就会自动降级，执行fallback方法。

请求缓存

pom文件中加入：

<dependency>
			<groupId>org.springframework.cloud</groupId>
			<artifactId>spring-cloud-starter-hystrix</artifactId>
</dependency>
<dependency>
			<groupId>org.springframework.boot</groupId>
			<artifactId>spring-boot-starter-data-redis</artifactId>
</dependency>

这回的pom文件多加入了redis的依赖。
配置文件中加入：

#程序启动时创建的缓存名称
#spring.cache.cache-names=com.agan.book
# Redis数据索引（默认为0）
spring.redis.database=1
#Redis服务器地址
spring.redis.host=192.168.23.129
#Redis服务器连接端口
spring.redis.port=6379
#Redis服务器连接密码（默认为空）
spring.redis.password=
#连接池最大连接数（负值表示没有限制）
spring.redis.pool.max-active=100
#连接池最大阻塞等待时间（负值表示没有限制）
spring.redis.pool.max-wait=3000
#连接池最大空闭连接数
spring.redis.pool.max-idle=200
#连接汉最小空闲连接数
spring.redis.pool.min-idle=50
#连接超时时间（毫秒）
spring.redis.pool.timeout=600

注意你的电脑虚拟机Linux中必须要安装了redis并且注意服务器的地址。
目录文件：
在这里插入图片描述
ProductController代码：

@RestController
public class ProductController {
	@Autowired
	private ProductService productService;
	@RequestMapping(value="list",method=RequestMethod.GET)
	public List<Product> listProduct(){
		List<Product> list= this.productService.listProduct();
		return list;
	}
	@RequestMapping(value="get",method=RequestMethod.GET)
	public Product get(Integer id) {
		return this.productService.get(id);
	}
	@RequestMapping(value="del",method=RequestMethod.GET)
	public void del(Integer id) {
		 this.productService.del(id);
	}
}

这里的代码主要是加入了get和del。
ProductService加入代码：

	@Cacheable(key="'product' + #id")
	public Product get(Integer id) {
		System.out.println("=========get============"+id);
		return new Product(id,"test6");
	}
	@CacheEvict(key="'product' + #id")
	public void del(Integer id) {
		System.out.println("=========del============"+id);
	}

在上面降级的基础上，加入了以上代码。
测试结果：
在这里插入图片描述
我开始将id为2的删除掉，然后get?id=2两次，发现只有第一次打印，第二次没有打印，说明第二次是缓存。
服务器中，注意要选择数据库
在这里插入图片描述

请求合并

在一定时间内将多个请求合并为一个请求。
在pom中加入：

<dependency>
			<groupId>org.springframework.cloud</groupId>
			<artifactId>spring-cloud-starter-hystrix</artifactId>
</dependency>
<dependency>
			<groupId>com.netflix.hystrix</groupId>
			<artifactId>hystrix-javanica</artifactId>
			<version>RELEASE</version>
</dependency>

配置文件不需要添加。
目录结构：
在这里插入图片描述
ProductController代码

@RestController
public class ProductController {
	@Autowired
	private ProductService productService;
	@RequestMapping(value="getproduct",method=RequestMethod.GET)
	public void getproduct() throws InterruptedException, ExecutionException{
		Future<Product> p1= this.productService.getProduct(1);
		Future<Product> p2= this.productService.getProduct(2);
		Future<Product> p3= this.productService.getProduct(3);
		System.out.println(p1.get().toString());
		System.out.println(p2.get().toString());
		System.out.println(p3.get().toString());
	} 
}

ProductService代码：

@Service
public class ProductService {
	//利用hystrix合并请求  
    @HystrixCollapser(batchMethod = "batchProduct", scope = com.netflix.hystrix.HystrixCollapser.Scope.GLOBAL,  
    		collapserProperties = {  
    		//请求时间间隔在50ms之内的请求会被合并为一个请求
            @HystrixProperty(name = "timerDelayInMilliseconds", value = "20"),
            //设置触发批处理执行之前，在批处理中允许的最大请求数。
            @HystrixProperty(name = "maxRequestsInBatch", value = "200"),  
    })
	public Future<Product> getProduct(Integer id) {
		System.out.println("---------"+ id + "---------");
		return null;
	}
	@HystrixCommand
	public List<Product> batchProduct(List<Integer> ids) {
		for (Integer id:ids) {
			System.out.println(id);
		}
		List<Product> list= new  ArrayList<Product>();
		list.add(new Product(1,"test1无的放矢付撒发付付撒奥过过过过过过过过"));
		list.add(new Product(2,"test2无的放矢付撒发付付撒奥过过过过过过过过"));
		list.add(new Product(3,"test3无的放矢付撒发付付撒奥过过过过过过过过"));
		list.add(new Product(4,"44444444444444444444444444444444444444444"));
		return list;
	}
}

测试结果：
在这里插入图片描述
并没有打印---------"+ id + "---------说明请求合并了。

服务熔断

当失败率达到阙值自动触发降级，熔断器触发的快速失败会进行快速恢复。
在pom中加入：

<dependency>
			<groupId>org.springframework.cloud</groupId>
			<artifactId>spring-cloud-starter-hystrix</artifactId>
</dependency>

目录结构：
在这里插入图片描述
ProductController代码：

@RestController
public class ProductController {
	@Autowired
	private ProductService productService;
	@RequestMapping(value="list",method=RequestMethod.GET)
	public List<Product> listProduct(@RequestParam("n") Integer n){
		List<Product> list= this.productService.listProduct(n);
		return list;
	}
}

ProductService代码：

@Service
public class ProductService {
	@Autowired
	private LoadBalancerClient loadBalancerClient;	//ribbon	负载均衡客户端
	@HystrixCommand(fallbackMethod = "fallback",
			commandProperties = {
			  //默认20个;10s内请求数大于20个时就启动熔断器，当请求符合熔断条件时将触发getFallback()。
		      @HystrixProperty(name=HystrixPropertiesManager.CIRCUIT_BREAKER_REQUEST_VOLUME_THRESHOLD, value="10"),
		      //请求错误率大于50%时就熔断，然后for循环发起请求，当请求符合熔断条件时将触发getFallback()。      @HystrixProperty(name=HystrixPropertiesManager.CIRCUIT_BREAKER_ERROR_THRESHOLD_PERCENTAGE, value="50"),
		      //默认5秒;熔断多少秒后去尝试请求      @HystrixProperty(name=HystrixPropertiesManager.CIRCUIT_BREAKER_SLEEP_WINDOW_IN_MILLISECONDS, value="5000"),
		    })
	public List<Product> listProduct(int n){
		System.out.println(n);
		if (n==1) {
			throw new RuntimeException();
		}
		//获取eurekaone-provider客户端
		ServiceInstance	si=loadBalancerClient.choose("e-book-product");
		StringBuffer sb = new StringBuffer("");
		sb.append("http://");
		//获取ip地址
		sb.append(si.getHost());
		sb.append(":");
		//获取端口号
		sb.append(si.getPort());
		sb.append("/product/list");
		System.out.println(sb.toString());  
		RestTemplate rt = new RestTemplate();
		//对象为Product集合
		ParameterizedTypeReference<List<Product>> typeRef =new ParameterizedTypeReference<List<Product>>(){};
		//参数是浏览器地址，请求方法，和转化为的对象
		ResponseEntity<List<Product>> resp= rt.exchange(sb.toString(),HttpMethod.GET, null, typeRef);
		List<Product> plist = resp.getBody();
		return plist;
	}
	public List<Product> fallback(int n) {
		List<Product> list = new ArrayList<Product>();
		list.add(new Product(-1,"fallback"));
		return list;
	}
}

主要就是改变了注解。
测试：
在这里插入图片描述
在这里插入图片描述
当n为1的时候为关闭的状态，n不为1的时候就是开启的状态。

盛难晨
关注
专栏目录
Redis 缓存雪崩如何处理?
Web3 & Basketball
07-31 966
在实际应用中，需要根据具体的业务场景和数据更新频率来选择合适的缓存过期时间和容量，以避免缓存雪崩的发生。例如，对于一个高频访问的页面，可以将缓存过期时间设置为较短的时间，如 30 秒或 1 分钟，而对于一个低频访问的页面，可以将缓存过期时间设置为较长的时间，如 1 小时或 1 天。在这个示例中，我们假设商品库存为商品 ID 的两倍。这样，当用户连续购买商品时，缓存中的商品库存会不断更新，并且过期时间会重新设置。在函数中，我们首先从缓存中读取商品库存，如果缓存中没有商品库存，则更新库存并设置缓存过期时间。
什么是缓存雪崩？服务器雪崩的场景与解决方案
mikechen的互联网架构
10-10 232
什么是缓存雪崩？服务器雪崩的场景与解决方案
服务雪崩产生原因及解决办法
BraveHeart
12-18 5724
定义： 服务雪崩效应产生与服务堆积在同一个线程池中，因为所有的请求都是同一个线程池进行处理，这时候如果在高并发情况下，所有的请求全部访问同一个接口， 这时候可能会导致其他服务没有线程进行接受请求，这就是服务雪崩效应效应。 tomcat有个线程池，每个线程去处理客户端发送的每次请求。 解决雪崩效应@HystrixCommand 2、服务降级 3、服务熔断 4、服务隔离机制 2、服务降级 在...
服务雪崩与解决
wasp_ma的博客
08-24 275
1.什么是服务的灾难性的雪崩效应？ 在微服务架构中，一个请求需要调用多个服务是非常常见的。如客户端访问 A 服务， 而 A 服务需要调用 B 服务，B 服务需要调用 C 服务，由于网络原因或者自身的原因，如果 B 服务或者 C 服务不能及时响应，A 服务将处于阻塞状态，直到 B 服务 C 服务响应。此时若有大量的请求涌入，容器的线程资源会被消耗完毕，导致服务瘫痪。服务与服务之间的依赖性，故障会传播，造成连锁反应，会对整个微服务系统造成灾难性的严重后果， 这就是服务故障的“雪崩”效应。 2. 如何解决灾难性雪
服务雪崩及其解决方案
最新发布
m0_46496775的博客
08-12 583
服务雪崩及其解决方案。
服务雪崩的解决方案
qq_43299088的博客
09-19 386
1、花钱升级装备 2、流量控制（RabbitMq消息对列） （1）网关限流：防止大量请求进入系统，Mq实现流量消峰 （2）用户交流限流：提交按钮限制点击频率限制等 3、改进缓存机制： 缓存预加载：对集中添加并且过期时间一直的缓存，适当的随机分配一些过期时长，避免集中过期 4、服务扩容 通过对服务的监听，达到上限就自动扩容 5、服务降级 6、请求合并 7、线程池隔离 8、服务熔断 9、feign的服...
服务的雪崩以及解决方案
weixin_50369190的博客
01-03 2413
服务发送雪崩的原因以及解决方案。
spring-cloud学习笔记基于spring-boot2.0.3--Hystrix集成（一）Feign Hystrix实现
zhuwei_clark的博客
09-01 1036
分布式系统中经常会出现某个基础服务不可用造成整个系统不可用的情况，这种现象被称为服务雪崩效应。为了应对服务雪崩，一种常见的做法是手动服务降级。而 Hystrix 的出现，给我们提供了另一种选择。 针对造成服务雪崩的不同原因，可以使用不同的应对策略: 流量控制 改进缓存模式 服务自动扩容 服务调用者降级服务 流量控制 的具体措施包括: 网关限流 用户交互限流 关闭重试 因为 Ngin...
缓存之穿透、击穿、雪崩及其解决方法
06-15
也就是缓存穿透、缓存击穿、缓存雪崩的知识以及其相对应的解决方案！ 本章共讲解了缓存的三种异常情况，上述的三种错误，都是因为原本就应该访问缓存中数据的，但却在缓存中不存在，亦或者是服务出现故障，导致程序...
什么是redis缓存穿透 雪崩 ,如何应对解决 redis缓存穿透 雪崩 的解决办法
01-07
解决缓存穿透的方法有以下几点： 1. **布隆过滤器**：使用布隆过滤器来存储可能存在的数据键，通过这个过滤器预先判断一个键是否存在，减少无效的数据库查询。 2. **设置空值缓存**：即使数据库中没有对应数据，也...
服务雪崩+缓存雪崩+解决方案
wuhuagu_wuhuaguo的博客
02-09 3813
一、服务雪崩 1、定义： 服务堆积在同一个线程池中，因为所有的请求都是同一个线程池进行处理，这时候如果在高并发情况下，所有的请求全部访问同一个接口， 这时候可能会导致其他服务没有线程进行接受请求，这就是服务雪崩效应效应。 2、原因： a.某几个机器故障：例如机器的硬驱动引起的错误，或者一些特定的机器上出现一些的bug（如，内存中断或者死锁）。 b.服务器负载发生变化：某些时候服务会因为用户行为...
服务雪崩
小泽
11-23 168
假设存在如下调用链 而此时，Service A的流量波动很大，流量经常会突然性增加！那么在这种情况下，就算Service A能扛得住请求，Service B和Service C未必能扛得住这突发的请求。 此时，如果Service C因为抗不住请求，变得不可用。那么Service B的请求也会阻塞，慢慢耗尽Service B的线程资源，Service B就会变得不可用。紧接着，Service A也会不可用，这一过程如下图所示 如上图所示，一个服务失败，导致整条链路的服务都失败的情形，我们称之为服务雪崩
后端服务的雪崩效应及解决思路
pengjianglilive的专栏
01-22 237
1.RPC与本地调用的区别 RPC远程调用，一般是跨平台、采用http协议，因为http协议底层使用socket技术，只要你的语言支持socket技术，就可以相互进行通讯。 比如：java语言开发的接口，使用http协议，如此以来C#语言可以调用。 本地调用：只支持java语言与java语言开发，使用虚拟机和虚拟机之间的通讯，RMI。 2.雪崩效应产生的原因 默认情况下只有一个线程池维护所有的服务接口，如果大量的请求访问同一个接口，达到tomcat线程池默认极限，可能会导致其他服务无法访问。 3.雪
微服务保护--Sentinel
LiGuanLink的博客
11-19 546
微服务保护 目录微服务保护1.初识Sentinel1.1.雪崩问题及解决方案1.1.1.雪崩问题1.1.2.超时处理1.1.3.仓壁模式1.1.4.断路器1.1.5.限流1.1.6.总结1.2.服务保护技术对比1.3.Sentinel介绍和安装1.3.1.初识Sentinel1.3.2.安装Sentinel1.4.微服务整合Sentinel2.流量控制2.1.簇点链路2.1.快速入门2.1.1.示例2.1.2.练习：2.2.流控模式2.2.1.关联模式2.2.2.链路模式1）添加查询商品方法2）查询订单时，
服务器雪崩的应对策略之----缓存（纯干货）
Warren++的博客
06-20 1111
服务器雪崩的应对策略之----缓存（纯干货）
缓存击穿和缓存雪崩区别跟解决方法
05-24
缓存击穿和缓存雪崩都是缓存领域的问题，但是它们的原因和解决方法不同。 缓存击穿是指在高并发访问下，某个缓存的 key 在缓存中不存在，导致请求直接打到数据库上，引起数据库压力过大。这种情况一般发生在热点...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值