高可用的微服务架构设计-资源隔离、限流、熔断、降级、监控

断路器模式

舱壁隔离模式

容错理念

  • 凡是依赖都可能会失败
  • 凡是资源都有限制
  • CPU/Memory/Threads/Queue
  • 网络并不可靠,延迟是应用稳定性杀手

1 资源隔离

让你的系统里,某一块东西,在故障的情况下,不会耗尽系统所有的资源,比如线程资源

项目中的一个case,有一块东西,是要用多线程做一些事情,小伙伴做项目的时候,没有太留神,资源隔离,那块代码,在遇到一些故障的情况下,每个线程在跑的时候,因为那个bug,直接就死循环了,导致那块东西启动了大量的线程,每个线程都死循环

最终导致系统资源耗尽,崩溃,不工作,不可用,废掉了

资源隔离,那一块代码,最多最多就是用掉10个线程,不能再多了,就废掉了,限定好的一些资源

2 限流

对打入服务的请求流量进行控制,使服务能够承担不超过自己能力的流量压力。
高并发的流量涌入进来,比如说突然间一秒钟100万QPS,废掉了,10万QPS进入系统,其他90万QPS被拒绝了

3 熔断

A服务调用B服务的某个功能,由于网络不稳定问题,或者B服务卡机,导致功能时
间超长。如果这样的次数太多。我们就可以直接将B断路(A不再请求B接口),凡是
调用B的直接返回降级数据,不必等待B的超长执行。这样B的故障问题,就不会级联影
响到A。

依赖服务,出了一些故障,每次请求都报错,熔断它,后续的请求过来直接不接收了,拒绝访问,10分钟之后再尝试去看看接口是否恢复。

4 降级

整个网站处于流量高峰期,服务器压力剧增,根据当前业务情况及流量,对一些服务和页面进行有策略的降级[停止服务,所有的调用直接返回降级数据]。以此缓解服务器资源的的压力,以保证核心业务的正常运行,同时也保持了客户和大部分客户的得到正确的响应。

MySQL挂了,系统发现了,自动降级,从内存里存的少量数据中,去提取一些数据出来。

和熔断的异同

相同点

  • 为了保证集群大部分服务的可用性和可靠性,防止崩溃,牺牲小我
  • 用户最终都是体验到某个功能不可用

不同点

  • 熔断是被调用方故障,触发的系统主动规则
  • 降级是基于全局考虑,停止一些正常服务,释放资源

5 运维监控

监控+报警+优化,各种异常的情况,有问题就及时报警,优化一些系统的配置和参数,或者代码

如果你的各种依赖的服务有了故障,那么很可能会导致你的系统不可用

hystrix对系统进行各种高可用性的系统加固,来应对各种不可用的情况

最佳实践

  • 网关集中埋点,覆盖大部分场景
  • 尽量框架集中埋点,客户端为主
  • 配置对接Apollo ,根据实际使用调整阀值
  • 信号量vs线程池场景
    • 信号量:网关,缓存
    • 线程池场景:服务间调用客户端,数据库访问,第三方访问
  • 线程池大小经验值
    • 30rps x0.2sec= 6 + breathing room = 10 threads
    • Thread-pool Queue size:5 ~ 10
  • 部署
    • Hystrix Dashboard大盘(无线/H5/第3三方网关)
    • 共享Hystrix Dashboard/Turbine服务器
    • 熔断告警
  • Spring Cloud Hystrix标注
  • 2
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
流量精灵1.8 更新说明: 1.新增智能控制访问页面深度; 2.解决来源网址设置无效问题; 3.解决页面停留时间过短问题; 4.解决恶意弹出窗口问题; 5.解决Vista下自动退出问题; 6.解决程序运行过程中偶尔崩溃问题; 7.优化程序结构,方便后续提访问速度; 流量精灵: 一款针对网站站长、博客主、网络写手、SEO工作者、QQ空间爱好者等各类网络用户用于提每日PV(访问量),UV(独立访客),IP(独立IP),搜索引擎关键字排名,热门关键字,相关搜索等。 软件采用基于IE内核自主研发的嵌入式浏览器,能有效提网站的PV,UV,IP访问量,确保流量真实有效;软件对网站内部链接进行智能随机访问,用户无需输入多个网址;软件能有效拦截各类网页挂马程序,对恶意网址进行智能隔离;软件支持用户自定义流量控制,同时用户可自已设置流量来源;软件运行期间占用资源低,不影响您的正常工作和娱乐! 软件特点: 1.软件采用基于IE内核自主研发的嵌入式浏览器,能有效提网站的PV,UV,IP访问量,确保流量真实有效; 2.软件对网站内部链接进行智能随机访问,用户无需输入多个网址; 3.软件支持流量来源设功能,用户可根据自己需要自行网站流量来源网址; 4.软件支持用户自定义流量控制,开机运行,自动升级,老板键,隐藏运行,定时关机等功能; 5.软件能有效拦截各类网页挂马程序,对恶意网址进行智能隔离; 6.禁止任何弹出窗口,禁止播放任何网页背景音乐,禁止网页打开完成时提示声音,真正做“无声无息”为您服务; 7.客户端软件相互访问随机性,充分保证访问的时间间隔,页面停留时间,地区差异,独立IP段分配的真实有效; 8.软件基于P2P原理,利用网络节点地域差异性,用户随机性,使访问效果真实有效,并随着用户量增多带动流量增大; 9.使用简单,无须注册用户名,直接填入自己的网址,点击“开始分享”按钮即可; 10.软件永久免费,纯绿色软件,软件仅一个文件,全面支持Windows 2000,XP,2003,Vista操作系统;

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值