多数据源定时采集任务问题,分布式定时任务管理问题。

1. 背景

在开发过程中,可能会涉及到多数据源采集任务任务。例如:定时从多台 FTP 服务器上扫描下载文件 ,或定时从多个库/表中扫描数据,进行业务处理。

通常情况下,我们会结合quartz、xxl-job等定时任务去执行。如果只编写定时任务,获得定时执行的效果,直接引入定时任务框架,并编写定时任务即可。对于失败场景如何处理呢?或者说,如果对这些定时任务做统一管理呢?

2. 实现思路

定时任务表

将所有要执行的定时任务提前写到数据表里,编写定时任务对数据表进行扫描,查询未执行和执行失败的任务进行执行。

由于定时任务是规律的周期性,所以可以编写定时任务,持续向数据表中预写数据,例如,提前24小时。另起定时任务对改表进行扫描(扫描当前时间之前的未执行或执行失败的数据)并执行。

优点:
  • 统一管理:对定时任务做统一管理,通过数据表维护定时任务。
  • 断点续传:此处的断点,可以理解成服务中断,当服务器升级或者短暂宕机的情况,重启服务器后,定时任务也不会丢失,扫描到该任务后依旧可以执行。也可以理解成某个服务执行失败,依然可以进行二次扫描再次执行。
缺点:
  • 增加业务复杂性:需要在数据库维护定时任务表,
  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值