分布式定时任务-学习笔记

1 发展历程

1.1 Linux命令-CronJob

         只能控制单台机器

1.2 任务调度-Quartz

         单任务极致控制

1.3 分布式定时任务

1.3.1 定时任务

        系统为了自动完成特定任务，实时、延时、周期性完成任务调度的过程

1.3.2 分布式定时任务

        把分散的、可靠性差的定时任务纳入统一的平台，并实现集群管理调度和分布式部署的一种定时任务的管理方式

1.3.3 触发时机分类

• 定时任务：特定时间触发
• 延时任务：延时触发，比如10s后执行
• 周期任务：固定周期时间或固定频率周期调度触发

1.3.4 分布式定时任务优点

• 平台化管理
• 分布式部署
• 支持海量数据

1.4 执行方式

• 单机任务：随机触发一台机器执行任务
• 广播任务：广播到所有机器上执行同一个任务
• Map任务：一个任务可以分出多个子任务，每个子任务负责一部分的计算
• MapReduce任务：在Map任务的基础上，可以对任务汇总

2 实现原理

2.1 核心架构

• 触发器：解析任务，生成触发事件
• 调度器：分配任务，管理任务生命周期
• 执行器：获取执行任务单元，执行任务逻辑
• 控制台：提供任务管理和干预的功能

 2.1.1 数据流

 2.1.2 功能架构

 

2.2 控制台

2.2.1 基本概念

• 任务：任务元数据
• 任务实例：任务运行的实例
• 任务结果：任务实例运行的结果
• 任务历史：用户可以修改任务信息，任务实例对应的任务元数据可以不同，因而使用任务历史存储

        每次执行任务都会产生一个任务实例，任务实例执行的结果可能会失败，所以会有n个任务结果。

2.2.2 任务元数据

        用户对任务属性定义，包括任务类型调度时机、执行行为等。

2.2.3 任务实例

        是一个确定的Job的一次运行实例

 

2.3 触发器

2.3.1 核心职责

        给定一系列任务，解析它们的触发规则，在规定的时间点触发任务的调度。

        需支持大量任务、需支持秒级调度

2.3.2 方案1

        定期扫描+延时消息

 2.3.3 方案2-时间轮

        时间轮是一种高效利用线程资源进行批量化调度的一种调度模型。时间轮是一个存储环形队列，底层采用数组实现，数组中的每个元素可以存放一个定时任务列表。

 

2.3.4 高可用

        存储上做资源隔离，运行时分开执行，部署时采用多机房。

        多触发器可以用分布式锁（Redis锁、zookeeper锁）保障业务不会混乱。

2.4 调度器

2.4.1 节点选择

• 随机节点执行：选择集群中一个可用的执行节点执行调度任务
• 广播执行：在集群中所有的执行节点分发调度任务并执行。
• 分片执行：按照用户自定义分片逻辑进行拆分，分发到集群中不同结点并行执行，提升资源利用效率

2.4.2 任务分片

        通过任务分片来提高任务执行的效率和资源的利用率

2.4.3 任务编排

        使用有向无环图DAG进行可视化任务编排

2.4.4 故障转移

        确保部分执行单元任务失败时，任务最终成功

2.4.5 高可用

        调度器可以集群部署，做到完全的无状态，靠消息队列的重试机制保障任务一定会被调度。

 

2.5 执行器

        基于注册中心，可以做到执行器的弹性扩缩容

         状态上报≈心跳检测