架构与思维:熔断限流的一些使用场景

本文探讨了服务在面对突发流量时如何应对,包括服务雪崩和流量洪峰两种场景。提出了云原生弹性伸缩和限流、熔断作为解决方案。在应用层面,介绍了常见的限流算法如计数、固定窗口、滑动窗口、漏桶和令牌桶,并提到了Spring Cloud Hystrix、Sentinel等实现框架。在达到限流条件时,采取 fallback 策略提供用户体验友好的反馈。此外,还讨论了存储层面的解决方案,如分布式锁、请求队列、缓存预热和本地缓存等策略,以应对高并发请求。
摘要由CSDN通过智能技术生成

1 前言

在《微服务系列》中,我们讲过很多限流,熔断相关的知识。
老生长谈的一个话题,服务的能力终归是有限的,无论是内存、CPU、线程数都是,如果遇到突如其来的峰量请求,我们怎么友好的使用限流来进行落地,避免整个服务集群的雪崩。

峰量请求主要有两种场景:

1.1 突发高峰照成的服务雪崩

如果你的服务突然遇到持续性的、高频率的、不符合预期的突发流量。你需要检查一下服务是否有被错误调用、恶意攻击,或者下游程序逻辑问题。
这种超出预期的调用经常会造成你的服务响应延迟,请求堆积,甚至服务雪崩。而雪崩会随着调用链向上传递,导致整个服务链的崩溃,对我们的系统造成很大的隐患。

1.2 超出预期值的流量洪峰

如果你的商城或者平台搞活动(类似双11、618),但你又无法有效评估出这个峰值的具象值和持续时间,那么你的服务依然有被打垮的风险。
除非你能做到服务集群弹性伸缩(动态扩缩容)的能力,这个我在后面的云原生系列中会详细说。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值