XXL-JOB:分布式任务调度平台,轻松实现任务调度与执行

嗨,大家好,我是小华同学,关注我们获得“最新、最全、最优质”开源项目和高效工作学习方法

在分布式系统中,任务调度是一个非常重要的环节。为了解决分布式任务调度问题,XXL-JOB应运而生。XXL-JOB是一个分布式任务调度平台,具有开发迅速、学习简单、轻量级、易扩展等特点。本文将详细介绍XXL-JOB的功能、特点及应用场景,帮助您更好地了解和使用这款任务调度神器。

XXL-JOB简介

        XXL-JOB是一个开源的分布式任务调度平台,主要基于Java语言开发。它致力于提供一种简单、高效、稳定的任务调度解决方案,帮助开发人员快速实现任务的调度与执行。

XXL-JOB 的特性

  • 简单易用:通过 Web 页面对任务进行 CRUD 操作,操作简单,一分钟上手。

  • 动态灵活:支持动态修改任务状态、启动/停止任务,以及终止运行中任务,即时生效。

  • 高可用性:调度中心支持集群部署,保证调度中心 HA;任务分布式执行,执行器支持集群部署,保证任务执行 HA。

  • 自动注册和发现:执行器会周期性自动注册任务,调度中心将会自动发现注册的任务并触发执行。

  • 弹性扩容缩容:一旦有新执行器机器上线或者下线,下次调度时将会重新分配任务。

  • 丰富的触发策略:提供 Cron 触发、固定间隔触发、固定延时触发、API 触发、人工触发、父子任务触发等多种触发策略。

  • 调度过期策略:调度中心错过调度时间的补偿处理策略,包括忽略、立即补偿触发一次等。

  • 阻塞处理策略:调度过于密集执行器来不及处理时的处理策略,包括单机串行、丢弃后续调度、覆盖之前调度等。

  • 任务超时控制:支持自定义任务超时时间,任务运行超时将会主动中断任务。

  • 任务失败重试:支持自定义任务失败重试次数,当任务失败时将会按照预设的失败重试次数主动进行重试。

  • 任务失败告警:默认提供邮件方式失败告警,同时预留扩展接口,可方便的扩展短信、钉钉等告警方式。

  • 路由策略:执行器集群部署时提供丰富的路由策略,包括第一个、最后一个、轮询、随机、一致性 HASH、最不经常使用、最近最久未使用、故障转移、忙碌转移等。

  • 分片广播任务:执行器集群部署时,任务路由策略选择”分片广播”情况下,一次任务调度将会广播触发集群中所有执行器执行一次任务,可根据分片参数开发分片任务。

  • 动态分片:分片广播任务以执行器为维度进行分片,支持动态扩容执行器集群从而动态增加分片数量,协同进行业务处理;在进行大数据量业务操作时可显著提升任务处理能力和速度。

  • 故障转移:任务路由策略选择”故障转移”情况下,如果执行器集群中某一台机器故障,将会自动 Failover 切换到一台正常的执行器发送调度请求。

  • 任务进度监控:支持实时监控任务进度。

  • Rolling 实时日志:支持在线查看调度结果,并且支持以 Rolling 方式实时查看执行器输出的完整的执行日志。

  • GLUE:提供 Web IDE,支持在线开发任务逻辑代码,动态发布,实时编译生效,省略部署上线的过程。支持 30 个版本的历史版本回溯。

  • 脚本任务:支持 Shell、Python、NodeJS、PHP、PowerShell 等类型脚本任务。

  • 命令行任务:原生提供通用命令行任务 Handler(Bean 任务,”CommandJobHandler”);业务方只需要提供命令行即可。

  • 任务依赖:支持配置子任务依赖,当父任务执行结束且执行成功后将会主动触发一次子任务的执行。

  • 一致性:调度中心通过 DB 锁保证集群分布式调度的一致性,一次任务调度只会触发一次执行。

  • 自定义任务参数:支持在线配置调度任务入参,即时生效。

  • 调度线程池:调度系统多线程触发调度运行,确保调度精确执行,不被堵塞。

  • 数据加密:调度中心和执行器之间的通讯进行数据加密,提升调度信息安全性。

  • 邮件报警:任务失败时支持邮件报警,支持配置多邮件地址群发报警邮件。

  • 运行报表:支持实时查看运行数据,如任务数量、调度次数、执行器数量等;以及调度报表,如调度日期分布图,调度成功分布图等。

  • 全异步:任务调度流程全异步化设计实现,如异步调度、异步运行、异步回调等,有效对密集调度进行流量削峰,理论上支持任意时长任务的运行。

  • 跨语言:调度中心与执行器提供语言无关的 RESTful API 服务,第三方任意语言可据此对接调度中心或者实现执行器。

  • 国际化:调度中心支持国际化设置,提供中文、英文两种可选语言,默认为中文。

  • 容器化:提供官方 Docker 镜像,并实时更新推送 Dockerhub,进一步实现产品开箱即用。

  • 线程池隔离:调度线程池进行隔离拆分,慢任务自动降级进入”Slow”线程池,避免耗尽调度线程,提高系统稳定性。

  • 用户管理:支持在线管理系统用户,存在管理员、普通用户两种角色。

  • 权限控制 :执行器维度进行权限控制,管理员拥有全量权限,普通用户需要分配执行器权限后才允许相关操作。

XXL-JOB 的应用场景

  • 定时任务:例如,每天凌晨 1 点执行数据统计任务,每周五执行数据备份任务等。

  • 异步任务:例如,用户注册后发送邮件验证码,订单支付后发送支付成功通知等。

  • 分布式任务:例如,海量数据清洗、计算、分析等任务。

  • 大数据任务:例如,Hadoop、Spark 任务的调度和管理。

如何使用XXL-JOB

1、搭建环境 首先,需要搭建Java开发环境,并确保Maven、Git等工具已安装。

2、下载源码

从GitHub或Gitee下载XXL-JOB源码:

GitHub:https://github.com/xuxueli/xxl-job/ Gitee:http://gitee.com/xuxueli0323/xxl-job

3、编译部署 解压源码,使用Maven进行编译:

mvn clean package

编译完成后,将生成的xxl-job-admin和xxl-job-executor项目部署到服务器。

4、配置参数 修改xxl-job-admin和xxl-job-executor项目的配置文件,如数据库连接信息、调度中心地址等。

5、启动项目 分别启动xxl-job-admin和xxl-job-executor项目。

6、创建任务 登录调度中心,创建任务,并配置任务参数。

7、运行任务 启动任务后,调度中心会自动执行任务,并返回执行结果。

项目效果

同类项目对比

1.Quartz Quartz是一个开源的作业调度库,可以用于Java应用程序中。与XXL-JOB相比,Quartz功能较为单一,不支持分布式调度。

2.Elastic Job Elastic Job是一个分布式作业调度解决方案,基于Quartz二次开发。与XXL-JOB相比,Elastic Job在分布式任务调度方面具有优势,但在易用性、实时监控等方面稍逊一筹。

3.XXL-JOB XXL-JOB在功能、易用性、实时监控等方面具有明显优势,特别是在分布式任务调度方面,表现优异。

总结

XXL-JOB作为一款分布式任务调度平台,凭借其简单易用、高效稳定、轻量级、易扩展等特点,在开源社区受到了广泛关注。无论是定时任务、异步任务还是分布式任务,XXL-JOB都能轻松应对。如果您正在寻找一款任务调度解决方案,不妨试试XXL-JOB。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值