退避延迟重试队列

最近线上es在更新数据时,经常在gc时压力很大,大量报错429,请求被reject。

为了解决这一问题,我们分了两步走,第一步是引入重试队列,将报错的数据延时重试。保证最起码的数据不会丢。

第二步是引入限流,在es gc时,减少最大并发更新的协程数量,es恢复后,再恢复,也是类似于熔断检测的原理。

在选取延迟队列技术方案时,有如下方案可供选择:

方案1

使用redis zset实现的延时队列。

优点:

  1. 实现简单,现有逻辑。

缺点:

  1. 如果es有大量的失败时,可能导致队列特别长。
  2. 可调试性不友好
  3. 数据在内存中未落地,容易出问题。

方案2

使用db来实现延时队列。

优点:

  1. 数据存储可靠
  2. 可调试性友好

缺点:

  1. 需新实现一套
  2. 需要保证每条消息只被消费一次。
    1. 分布式锁解决
    2. 利用行锁,锁定后改为handling,每个消费者取消息时limit 10.

做了技术评审后,最终决定采用db的方式来实现。

表结构设计:

retry_delay_queue:

字段 类型 含义 备注
id
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值