延迟请求组件设计

最近有一个需求,调用某个服务不需要返回结果,收敛窗口时间的请求, 最后进行一次调用,来避免并发出现的问题。网上搜了一下这样的需求还是挺多的,但每个解决方案解决的问题又不太相同。所以就来整理一下。

思路

从需求出发,我们可以从功能上进行分析,如何进行实现。假设我们的组件叫A。那么A要做到单位T时间内合并请求,超过T后将请求发给服务端进行真正调用。

实现的大概思路就是: 我们存储一个任务(T)时间内有效,当T时间内的请求后过来时,将请求过滤掉,在时间达到T后,将任务T发送出去进行执行。

这个简单来看是一个自动失效的key和延迟队列。自动失效的key基本选型就是缓存,那么队列该如何选择呢?

如何选择队列
  1. Java原生队列

    api是最符合需求的,每个delayObject可以设置单独的延迟,保证拉取和移除的原子操作。

    缺点是非分布式,并且没有持久化,显然不符合本次的要求。

  2. 构建任务池(表),实现代码消费功能

    基于池的API灵活支持,一致性比较好。

    缺点是比较重,需要管理状态,大数据量情况下会出现性能问题,并且需要归档历史。

  3. Redis队列

    • 队列 api支持的比较简单,易于使用。但是不支持pop多个元素,在异常处理和重试起来比较麻烦。
  4. MQ队列

    一致性很好,可以支持延迟消费。缺点是不支持未消费任务内容查看和优先级,延迟只能一个topic统一设置。

从上面的比较可以知道,我们希望有java原生每个对象自定义delay,又想保持很好的一致性,那么该如何实现呢?

实现方案

扩展点 如果只是想对冲突的并发请求做收敛应该如何做呢? 欢迎留言

  1. 请求过来时,发送给延迟服务,来判断是否是重复请求
  2. 如果是重复请求就直接结束了
  3. 否则就生成一个DelayObject的任务实体,放入Redis的zset集合中,同时设置自动失效的请求id
  4. 使用worker来进行拉取到期的任务,放入JMQ队列,通过JMQ消息来进行真正调用

延迟请求组件

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值