java - 分布式任务调度(Elastic - job ,xxl - job)

传统的任务调度

  • 常用的工具

    -简介优点缺点
    Timerjava.utilTimer 工具类简单易用单线程来调度,任务间相互挤占影响
    Spring-Taskspring3.0以后引入的定时任务工具,相当于轻量级的Quartz用法简单,只需要引入Spring的包任务执行默认单线程(可配置为多线程)
    任务调度为同步模式,上一调度对下一调度 有影响
    Quartzjava事实上的定时任务标准采用多线程异步调度
    满足更多更复杂的调度需要
    配置使用稍复杂
  • cron表达式

    字段允许值允许的特殊符号
    0~59 整数, - * /
    0~59 整数, - * /
    小时0~23 整数, - * /
    日期0~31 整数, - * / ? L W C
    月份0~12 整数, - * /
    星期1~7 整数, - * / ? L C #
    年(可选,留空)1970 ~, - * /

    *:表示匹配该域的任意值
    ?: 只能在日期和星期两个域使用,表示匹配域的任意值
    -:表示范围
    /:表示起始时间开始触发,然后每隔固定时间触发一次
    ,:表示列出枚举值
    L : 表示最后的时间,只能在日期和星期两个域使用
    w : 表示有效工作日(周一到周五),只能在日期域中使用
    LW : LW两个字符可以连用,表示某个月最后一个工作日,即最后一个星期五
    #: 用于确定每个月第几个星期几,只能出现在星期域中。例如 4#2,表示某月的第二个星期三

  • Timer的简单使用

    package com.example.taskschedule.timer;
    
    import java.util.Timer;
    import java.util.TimerTask;
    
    public class TimerTest {
    
        static int i = 1;
    
        public static void main(String[] args) {
            Timer timer = new Timer();
            //延迟3秒后,执行一次
            timer.schedule(add(), 3000);
            
            //延迟1秒后,每隔3秒执行一次
            timer.schedule(add(), 1000, 3000);
        }
    
    
        public static TimerTask add() {
            return new TimerTask() {
                @Override
                public void run() {
                    System.out.println(i++);
                }
            };
        }
    
    }
    
    
  • spring-task的简单使用

    package com.example.taskschedule.config;
    
    import org.springframework.context.annotation.Bean;
    import org.springframework.context.annotation.Configuration;
    import org.springframework.scheduling.annotation.EnableScheduling;
    import org.springframework.scheduling.concurrent.ThreadPoolTaskScheduler;
    
    /**
     * 配置Spring-Task的线程池
     *   如果不配置线程池Spring-Task的任务调度将默认以单线程的方式运行
     *   @EnableScheduling  启用Scheduling
     *
     */
    @Configuration
    @EnableScheduling
    public class SpringTaskConfig {
    
        @Bean
        public ThreadPoolTaskScheduler SpringTask() {
            ThreadPoolTaskScheduler taskScheduler = new ThreadPoolTaskScheduler();
            taskScheduler.setPoolSize(10);
            taskScheduler.setThreadNamePrefix("Spring-Task-Thread");
            return taskScheduler;
        }
    
    
    }
    
    package com.example.taskschedule.springtask;
    
    import org.springframework.scheduling.annotation.Scheduled;
    import org.springframework.stereotype.Component;
    
    @Component
    public class SpringTaskTest {
    
    
        //上一个任务结束到下一个任务开始的时间间隔为固定的1秒,任务的执行总是要先等到上一个任务的执行结束
        @Scheduled(fixedDelay = 1000)
        public void add() {
            System.out.println("当前线程A:" + Thread.currentThread().getId());
        }
    
    
        //每间隔1秒钟就会执行任务(如果任务执行的时间超过1秒,则下一个任务在上一个任务结束之后立即执行)
        @Scheduled(fixedRate = 1000)
        public void add1() {
            System.out.println("当前线程B:" + Thread.currentThread().getId());
        }
    
        //第一次执行的任务将会延迟3秒钟后才会启动
        @Scheduled(fixedDelay = 1000, initialDelay = 3000)
        public void add2() {
            System.out.println("当前线程C:" + Thread.currentThread().getId());
        }
    
    
        //Cron表达式,每个月的15号上午10点15开始执行任务
        @Scheduled(cron = "0 15 10 15 * ?")
        public void add3() {
            System.out.println("当前线程D:" + Thread.currentThread().getId());
        }
    
    }
    
  • Quartz的简单使用

       敬请期待
    

传统定时任务存在的问题

  • 业务耦合
    如果需要修改定时任务时间,就需要重新部署整个应用将会导致整个应用停止一段时间

  • 单点风险
    所有调度任务都在单台服务器上执行,当任务执行节点出现问题时,整个定时任务全部终止

  • 资源分配不均衡
    随着业务越来越多,相应的定时任务也会增多,单台服务器执行任务的压力会越来越大

分布式任务调度

  • 常用方案

    -简介优点缺点
    Elastic - job当当提供的开源分布式调度工具,封装Quartz,使用Zookeeper 协调任务通过zookeeper来动态扩容,分片和弹性扩容性能好,业务量大的时候也能非常好的调度使用和配置复杂,任务控制不灵活
    xxl - job"调度中心"基于集群Quartz实现并支持集群部署.
    任务分布式执行,任务‘’执行器‘’支持集群部署
    原理简单、实现简洁、对任务控制更灵活调度中心通过DB锁保证一致性,执行器的扩展,会增大DB压力
  • Elastic - job的使用

     #引入jar
     <dependency>
           <groupId>com.github.yinjihuan</groupId>
           <artifactId>elastic-job-spring-boot-starter</artifactId>
           <version>1.0.2</version>
      </dependency>
    
    #添加配置mave库地址-(elastic-job-spring-boot-starter 在中央maven库不存在)
    <repositories>
        <repository>
            <id>jitpack.io</id>
            <url>https://jitpack.io</url>
        </repository>
    </repositories>
    
    # 添加elastic-job的zk注册中心配置
    elastic.job.zk.serverLists=127.0.0.1:2181
    elastic.job.zk.namespace=enjoy_elastic
    
    #Job类
    
    #name 任务名称,cron 定时规则
    #shardingItemParameters 分片参数,shardingTotalCount 分片数
    #listener 自定义-ElasticJob作业监听器. 默认 "" (不监听)
    #jobExceptionHandler 自定义-ElasticJob异常处理器. 默认DefaultJobExceptionHandler
    #overwrite 是否允许客户端规则参数覆盖注册中心.  默认 false 不允许
    	
    @ElasticJobConf(name = "ElasticJob", cron = "0/5 * * * * ?"
            , shardingItemParameters = "0=beijing,1=shanghai", shardingTotalCount = 2
            , listener = "com.example.taskschedule.elasticjob.ElasticJobMsgListener"
            , jobExceptionHandler = "com.example.taskschedule.elasticjob.ElasticJobExceptionHandler"
            , overwrite = true)
    public class ElasticJob implements SimpleJob {
    
        @Override
        public void execute(ShardingContext shardingContext) {
            System.out.println(Thread.currentThread().getName() + " ,当前分片参数=" + shardingContext.getShardingParameter());
            int i = 1 / 0;
        }
    
    }
    
    /**
     * 自定义 - ElasticJob作业监听器
     */
    public class ElasticJobMsgListener implements ElasticJobListener {
    
        @Override
        public void beforeJobExecuted(ShardingContexts shardingContexts) {
            String date = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss").format(new Date());
            String msg = date + " 【任务开始执行-" + shardingContexts.getJobName() + "】";
            System.out.println("before: " + msg);
        }
    
        @Override
        public void afterJobExecuted(ShardingContexts shardingContexts) {
            String date = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss").format(new Date());
            String msg = date + " 【任务执行结束-" + shardingContexts.getJobName() + "】";
            System.out.println("after: " + msg);
        }
    }
    
    /**
     * 自定义-ElasticJob异常处理器
     */
    @Slf4j
    public class ElasticJobExceptionHandler implements JobExceptionHandler {
    
        @Override
        public void handleException(String jobName, Throwable throwable) {
            log.error(String.format("Job '%s' exception occur in job processing", jobName), throwable);
            System.out.println("exception:【" + jobName + "】任务异常。" + throwable.getMessage());
        }
    
    }
    
  • xxl - job的使用

     敬请期待
    
基于xxl-job改造,支持1.6jdk。改分布式任务调度特性如下: 1、简单:支持通过Web页面对任务进行CRUD操作,操作简单,一分钟上手; 2、动态:支持动态修改任务状态、暂停/恢复任务,以及终止运行中任务,即时生效; 3、调度中心HA(中心式):调度采用中心式设计,“调度中心”基于集群Quartz实现,可保证调度中心HA; 4、执行器HA(分布式):任务分布式执行,任务"执行器"支持集群部署,可保证任务执行HA; 5、任务Failover:执行器集群部署时,任务路由策略选择"故障转移"情况下调度失败时将会平滑切换执行器进行Failover; 6、一致性:“调度中心”通过DB锁保证集群分布式调度的一致性, 一次任务调度只会触发一次执行; 7、自定义任务参数:支持在线配置调度任务入参,即时生效; 8、调度线程池:调度系统多线程触发调度运行,确保调度精确执行,不被堵塞; 9、弹性扩容缩容:一旦有新执行器机器上线或者下线,下次调度时将会重新分配任务; 10、邮件报警:任务失败时支持邮件报警,支持配置多邮件地址群发报警邮件; 11、状态监控:支持实时监控任务进度; 12、Rolling执行日志:支持在线查看调度结果,并且支持以Rolling方式实时查看执行器输出的完整的执行日志; 13、GLUE:提供Web IDE,支持在线开发任务逻辑代码,动态发布,实时编译生效,省略部署上线的过程。支持30个版本的历史版本回溯。 14、数据加密:调度中心和执行器之间的通讯进行数据加密,提升调度信息安全性; 15、任务依赖:支持配置子任务依赖,当父任务执行结束且执行成功后将会主动触发一次子任务的执行, 多个子任务用逗号分隔;
分布式任务调度平台XXL-JOB》 一、简介 1.1 概述 XXL-JOB是一个轻量级分布式任务调度框架,其核心设计目标是开发迅速、学习简单、轻量级、易扩展。现已开放源代码并接入多家公司线上产品线,开箱即用。 1.2 特性 1、简单:支持通过Web页面对任务进行CRUD操作,操作简单,一分钟上手; 2、动态:支持动态修改任务状态、暂停/恢复任务,以及终止运行中任务,即时生效; 3、调度HA:“调度中心”基于集群Quartz实现,可保证调度中心HA; 4、任务HA:任务支持多地址配置,可保证任务执行HA; 5、任务Failover:多地址配置时,调度失败时将会平滑切换执行器进行Failover; 6、一致性:“调度中心”通过DB锁保证集群分布式调度的一致性; 7、自定义任务参数:支持在线配置调度任务入参,即时生效; 8、调度线程池:调度系统多线程触发调度运行,确保调度精确执行,不被堵塞; 9、执行日志:支持在线查看调度结果,并且查看完整的执行日志; 10、邮件报警:任务失败时支持邮件报警,支持配置多邮件地址群发报警邮件; 11、支持登录验证; 12、GLUE:提供Web IDE,支持在线开发任务逻辑代码,动态发布,实时编译生效,省略部署上线的过程。支持30个版本的历史版本回溯。 12、数据加密:调度中心和执行器之间的通讯进行数据加密,提升调度信息安全性; 14、任务依赖:支持配置子任务依赖,当父任务执行结束且执行成功后将会主动触发一次子任务的执行, 多个子任务用逗号分隔; 15、推送maven中央仓库: 将会把最新稳定版推送到maven中央仓库, 方便用户接入和使用; 1.3 发展 于2015年中,我在github上创建XXL-JOB项目仓库并提交第一个commit,随之进行系统结构设计,UI选型,交互设计…… 于2015-11月,XXL-JOB终于REALEASE了第一个大版本V1.0, 随后我将之发布到OSCHINA,XXL-JOB在OSCHINA上获得了@红薯的热门推荐,同期分别达到了OSCHINA的“热门动弹”排行第一和git.oschina的开源软件月热度排行第一,在此特别感谢红薯,感谢大家的关注和支持。 于2015-12月,我将XXL-JOB发表到我司内部知识库,并且得到内部同事认可。 于2016-01月我司展开XXL-JOB的内部接入和定制工作,在此感谢袁某和尹某两位同事的贡献,同时也感谢内部其他给与关注与支持的同事。我司大众点评目前已接入XXL-JOB,内部别名《Ferrari》(Ferrari基于XXL-JOB的V1.1版本定制而成,新接入应用推荐升级最新版本)。据最新统计, 自2016-01-21接入至2016-07-20期间,该系统已调度72000余次,表现优异。新接入应用推荐使用最新版本,因为经过数个大版本的更新,系统的任务模型、UI交互模型以及底层调度通讯模型都有了较大的优化和提升,核心功能更加稳定高效。 至今,XXL-JOB已接入多家公司的线上产品线,接入场景如电商业务,O2O业务和大数据作业等,截止2016-07-19为止,XXL-JOB已接入的公司包括不限于:- 1、大众点评; - 2、山东学而网络科技有限公司; - 3、安徽慧通互联科技有限公司; - 4、人人聚财金服; - 5、上海棠棣信息科技股份有限公司 - 6、运满满 - 7、米其林(中国区) - 8、妈妈联盟 - 9、九樱天下(北京)信息技术有限公司 - 10、万普拉斯科技有限公司(一加手机) - ……欢迎大家的关注和使用,XXL-JOB也将拥抱变化,持续发展。 1.4 下载 源码地址 (将会在两个git仓库同步发布最新代码)github地址git.osc地址 中央仓库地址 (将会把上个版本的公共依赖,推送到中央仓库)<!-- http://repo1.maven.org/maven2/com/xuxueli/xxl-job-core/ -->     com.xuxueli     xxl-job-core     1.4.1 博客地址oschina地址cnblogs地址csdn地址 技术交流群(仅作技术交流):367260654 标签:任务调度  job  作业调度
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值