掌握重试机制与退避策略，提升云服务稳定性

最新推荐文章于 2024-06-02 19:52:28 发布
最新推荐文章于 2024-06-02 19:52:28 发布
阅读量458 收藏 4
点赞数 16
分类专栏： 微服务 文章标签： golang 开发语言 后端 微服务
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u013911096/article/details/139079113
版权
前言

​ 在不稳定的网络环境中，如遭遇网络波动或丢包等偶发性网络问题时，重试机制是解决这类问题的有效手段。

架构

​ 我们的系统架构通常如下所示：

​在这里插入图片描述

​ 请求在从Nginx到API Gateway、再到后端服务（Backend For Frontend, BFF）层，以及最终到达服务层（Service）的过程中，都可能触发重试。

重试次数

​ 在业务实践中，我们通常设定重试三次作为标准操作。

幂等

​ 由于重试可能导致同一请求被多次处理，因此下游服务必须保证幂等性，以避免产生重复或不一致的结果。

重试场景

​ 我们只在面对暂时性错误时采用重试策略，例如网络问题或服务限流等。对于如服务库存不足或用户权限不足等永久性错误，则应迅速失败（fast fail）。

重试传播

​ 重试操作应由最初触发错误的层级执行，避免重试请求向上层传播，从而引发所谓的重试风暴。首次触发重试的层应向上层返回特定的错误码，上层根据这些错误码决定是否继续重试。

退避重试
频繁的重试可能会加剧网络带宽的负担，导致资源争用。指数退避是一种通过延长每次重试间隔时间来减少重试频率的技术。

​ 使用场景

​ 引入退避重试可能会延长服务请求的处理时间，这可能会触发上游服务的超时问题。因此，是否采用退避重试应根据具体业务场景来决定。例如，当触发下游服务的限流时，可以采用退避算法来控制发起端的流量。

Reference
  1. AWS 规范性指导 - 使用退避模式重试
rain1309
关注
  • 16
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
BackOff:用于重试操作的退避策略界面
04-16
EventSauce后退 该库提供了封装后退策略的接口。 composer require eventsuace/backoff 利用后退策略 在重试特定任务的一段代码中应用了退避策略。 <?php use EventSauce \ BackOff \ BackOffStrategy ; class BusinessLogic { public function __construct ( private ExternalDependency $ dependency , private BackOffStrategy $ backOff , ) {} public function performAction (): void { $ tries = 0 ; start: try {
IEEE802.11 DCF退避机制公平性分析与改进
10-24
详细分析了DCF使用的二进制指数退避算法的原理，通过研究竞争周期内冲突概率增加和造成竞争不公平性的原因，优化了DCF方式下的退避机制，经OPNET仿真验证，系统的吞吐量得到提高，延迟减小。
通信与网络中的简述IEEE802.11 DCF退避机制公平性分析与改进
10-22
802.11为IEEE（美国电气和电子工程师协会，The Institute of Electrical and Electronics Engineers）于1997年公告的无线区域网路标准，适用于有线站台与无线用户或无线用户之间的沟通连结。IEEE 802.11 MAC的基本存取方式称为 CSMA/CA （Carrier Sense Multiple Access with Collision Avoidance），与以太网络所用的CSMA/CD （Collision Detection）变成了碰撞防止（Collision Avoidance），这一字之差是很大的。因为在无线传输中感测载波
dotnet-retry:.NET重试机制
05-19
点网重试 .NET的简单，轻量级重试机制。 目录 描述 重试政策 顺序的 指数的 班级 例子 测验 执照 描述 用C＃编写的重试库，它尝试使用给定的重试策略执行给定的操作。 操作可以是无效的，也可以返回值。 如果某个操作由于任何原因失败，则将抛出一个展平的AggregateException ，其中包含方法调用发生的所有异常。 重试政策 顺序的 顺序或线性重试策略基本上是一种技术，它尝试在重试之间指定的固定延迟内执行X次特定操作。 该策略将尝试执行指定次数的多次操作，并且两次尝试之间始终具有相同的延迟。 达到最大重试限制后，它将平坦的AggregateException返回给调用者，并列出所有异常。 操作支持Forever重试机制，该机制可以无限期地重试直到成功。 指数的 指数重试策略或指数退避技术会以指数方式增加每次失败后重试之间的等待时间。 例如，当操作第一次失败时，重试将在1秒后进
简述IEEE802.11 DCF退避机制公平性分析与改进
01-19
802.11为IEEE（美国电气和电子工程师协会，The Institute of Electrical and ElectrONics Engineers）于1997年公告的无线区域网路标准，适用于有线站台与无线用户或无线用户之间的沟通连结。IEEE 802.11 MAC的基本存取方式称为 CSMA/CA （Carrier Sense Multiple Access with Collision Avoidance），与以太网络所用的CSMA/CD （Collision Detection）变成了碰撞防止（Collision Avoidance），这一字之差是很大的。因为在无线传输中感测载波
异步任务处理系统，如何解决业务长耗时、高并发难题？
阿里云开发者
05-07 1323
简介：本文介绍了异步任务处理系统是如何解决业务长耗时、高并发难题的。作者：不瞋 （阿里云 Serverless 技术负责人）当我们构建一个应用，总是希望它是响应迅速，成本低廉的。而在实际中，我们的系统却面临各种各样的挑战，例如不可预测的流量高峰，依赖的下游服务变得缓慢，少量请求却消耗大量 CPU/内存资源。这些因素常常导致整个系统被拖慢，甚至不能响应请求。为了让应用服务总是响应迅速，很多时候不得不预留更多的计算资源，但大部分时候，这些计算资源都是闲置的。一种更好的做法是将耗时缓慢，或者需要消耗大量资源的处理
原创 | 混沌工程（Chaos Engineering）初识
朱小厮的博客
01-15 5042
点击上方“朱小厮的博客”，选择“设为星标”后台回复”1024“获取公众号专属1024GB资料Chaos Engineering is the discipline of experime...
分布式锁相关问题及答案（2024)
qq_43012298的博客
01-06 1075
设计测试场景，包括锁的请求频率、持有锁的时间、竞争锁的并发线程/进程数、网络延迟模拟等。确保场景覆盖了预期的生产环境使用模式。
细说websocket快速重连机制
netease_im的博客
07-22 501
引言 在一个完善的即时通讯应用中，websocket是极其关键的一环，它为web应用的客户端和服务端提供了一种全双工的通信机制，但由于它本身以及其底层依赖的TCP连接的不稳定性，开发者不得不为其设计一套完整的保活、验活、重连方案，才能在实际应用中保证应用的即时性和高可用性。就重连而言，其速度严重影响了上层应用的“即时性”和用户体验，试想打开网络一分钟后，微信还不能收发消息的话，是不是要抓狂？ 因此，如何在网络变更时快速恢复websocket的可用，就变得尤为重要。 快速了解websocet..
Java高手的终极秘籍：分布式锁的实战宝典，让你的系统坚如磐石！
赵KK的博客
03-11 1042
分布式锁是分布式系统中不可或缺的一部分，它能够帮助我们解决并发问题，保证数据一致性。通过本文的介绍，希望你能对分布式锁有一个更深入的理解，并在你的项目中得到应用。有任何问题或者想要探讨的话题，也欢迎在评论区留言，让我们一起进步！以上是博客文章的第一部分，由于篇幅限制，实战案例和结语部分将在下一次输出中继续。如果你对某个部分有疑问，或者想要了解更多细节，请告诉我，我会尽快为你解答。🔥🔥🔥。
6.2 Go 切片（Slice）
stormsha
05-29 1119
Go 语言以其简洁、高效和并发友好的特性，赢得了开发者的青睐。在 Go 中，切片（Slice）是一种动态数组，它不仅提供了数组的便利性，还具有灵活性和强大的功能。对于中高级开发者来说，掌握 Go 切片的使用技巧，可以大幅提升编程效率和程序性能。本文将深入探讨 Go 切片的高级使用技巧，帮助开发者更深入地理解和运用这一强大的数据结构。
深度解析Go语言中的Slice切片
最新发布
lonely__snow的博客
06-02 209
从七大方面，带你深入了解go语言中的slice切片
深入了解 Golang 多架构编译：交叉编译最佳实践
xcbeyond|疯狂源自梦想，技术成就辉煌
05-26 828
通过这篇文章，读者可以全面了解 Golang 的多架构编译功能，掌握如何使用这一功能来实现跨平台部署。同时，通过最佳实践示例，读者可以更加直观地理解 Golang 多架构编译的实际应用场景，为日后的开发工作提供参考和指导。
Android USB调试模式下自动上下滑动（Go实现）
听我一言的博客
05-28 587
Golang实现通过ADB控制手机自动上下滑动
Go 超时退出
qq_39335595的博客
05-28 267
通过函数创建一个超时通道，当超时发生时，通道会发送一个信号。结合select语句，可以在超时时退出程序。
go语言的使用方法
2201_76041915的博客
05-29 1166
【1】搭建Go开发环境-安装和配置SDK1).SDK的全称(Software Development Kit软件开发工具包）2).SDK是提供给开发人员使用的，其中包含了对应的开发语言的工具包。【2】.SDK下载1).Go语言的官网为:golang.org无法访问，需要翻墙请注意:安装路径不要有中文或者特殊符号如空格等SDK安装目录建议:一般我安装在d:golang安装时，基本上是傻瓜式安装，解压可以使用一定要注意看版本号哦，不然会下错的哦。
Linux C/C++ 系统错误
qq_40135848的博客
06-02 242
Linux C/C++ 系统错误
golang中的6大类环境变量使用说明和总结
05-27 999
在go语言中，环境变量可是很重要的，go命令及其调用的工具会参考环境变量进行配置。如果环境变量未设置或为空，go命令将使用合理的默认设置。在go语言中一共有6大类的环境变量，他们分别是通用环境变量， cgo专用的环境变量，特定的系统架构中的环境变量，用于代码覆盖率的环境变量，特殊用途环境变量，其他可从“go env”获得，但不能从环境中读取的变量。
go语言方法之通过嵌入结构体来扩展类型
wyx的博客
05-29 770
但这 是错误的理解。当编译器解析一个选择器到方法时，比如p.ScaleBy，它会首先去找直接定义在这个类 型里的ScaleBy方法，然后找被ColoredPoint的内嵌字段们引入的方法，然后去找Point和 RGBA的内嵌字段引入的方法，然后一直递归向下找。下面这个ColoredPoint的声明内嵌了一 个*Point的指针。当Point.Distance被第一个包装方法调用时，它的接收器值是p.Point，而不是p，当然了，在 Point类的方法里，你是访问不到ColoredPoint的任何字段的。
阿里关于重试机制的框架
05-30
阿里巴巴提供的重试机制框架是 Spring Retry，它是 Spring 框架的一部分，提供了一种简单的方式来实现重试机制。Spring Retry 的主要特点包括： 1. 基于注解：Spring Retry 提供了 @Retryable 和 @Recover 两个注解，可以轻松地实现重试机制。 2. 灵活配置：Spring Retry 提供了多种配置选项，包括重试次数、重试间隔、异常类型等，可以根据需要进行灵活配置。 3. 多种重试策略：Spring Retry 提供了多种重试策略，包括简单重试、指数退避重试、随机重试等，可以根据不同的场景选择不同的策略。 4. 多种触发器：Spring Retry 提供了多种触发器，包括定时触发器、异常触发器、自定义触发器等，可以根据需要选择不同的触发器。 Spring Retry 的使用非常简单，只需要在方法上添加 @Retryable 注解并配置相关参数，即可实现重试机制。例如： ``` @Retryable(value = {RemoteAccessException.class}, maxAttempts = 3, backoff = @Backoff(delay = 1000)) public void remoteCall() { // 远程调用代码 } @Recover public void recover(RemoteAccessException e) { // 异常处理代码 } ``` 上面的代码表示在发生 RemoteAccessException 异常时最多重试 3 次，每次重试间隔为 1 秒，如果重试 3 次还是失败，则调用 recover 方法进行异常处理。 总之，Spring Retry 是一个简单而强大的重试机制框架，能够帮助开发者轻松实现重试机制，提高应用程序的可靠性和稳定性。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值