20191114 分布式job调度中心

分布式job调度中心 开源项目很多,不需要自己开发。

把当前服务注册到调度中心。 定时器,接口名称,接口参数; 定时任务:定时调用接口,http请求。

调度中心也要进行分布式部署,否则调度中心挂了怎么办?

分布式锁 不可能四台机器全部挂掉。

定时任务

 

分布式服务时间同步

如果一个分布式系统中,一个服务要调用多个服务,那么那个地方消耗的时间大,必须要服务时钟同步才可,时间同步非常重要。

 

秒(Seconds) 0~59的整数 , - * /    四个字符

分(Minutes) 0~59的整数 , - * /    四个字符

小时(Hours) 0~23的整数 , - * /    四个字符

日期(DayofMonth) 1~31的整数(但是你需要考虑你月的天数) ,- * ? / L W C 八个字符

月份(Month) 1~12的整数或者 JAN-DEC , - * / 四个字符

星期(DayofWeek) 1~7的整数或者 SUN-SAT (1=SUN) , - * ? / L C # 八个字符

年(可选,留空)(Year) 1970~2099

 

 @Scheduled(cron = "0 0 3 * * ? ")

通配符含义:

*:表示匹配该域的任意值。假如在Minutes域使用*, 即表示每分钟都会触发事件(每月每天都会触发这个事件)。

?:只能用在DayofMonth和DayofWeek两个域。它也匹配域的任意值,但实际不会。因为DayofMonth和DayofWeek会相互影响。例如想在每月的20日触发调度,不管20日到底是星期几,则只能使用如下写法: 13 13 15 20 * ?, 其中最后一位只能用?,而不能使用*,如果使用*表示不管星期几都会触发,实际上并不是这样。

 

分布式锁 只想一台修改 set成功的机器去跑定时任务,set失败的机器不在执行定时任务。

 

分布式job调度中心

相当于注册中心,每个需要跑定时任务的微服务都需要自动或者手动注册到上面。

管理后台

执行器管理,任务管理,调度日志,可以查看某个job的执行状况。

 

多个任务Handler,配置一个端口。一个执行器中可以包含多个Handler,把当前项目注册到分布式job管理中心,成为一个执行器。

1)一个项目中包含多个Handler任务;

一个执行器中可能会配置多个任务。每一个handler都是任务;每个项目都是一个执行器。

 

分布式调度中心xxl-job——The timestamp difference between admin and executor exceeds the limit.

这是一个时钟同步问题;调度中心和任务执行器需要时间同步,同步时间误差需要在3分钟内,否则抛出异常。

时区问题

任务由调度中心触发,按照在调度中心设置任务的cron表达式触发时,需要注意部署调度中心的机器所在的时区,按照该时区定制化cron表达式。

 

cron表达式

//整点开始执行,每小时执行一次;

@Scheduled(cron = "0 0 0/1 * * ?")

//零点开始执行,只执行一次;

@Scheduled(cron = "0 0 0 * * ?")

 

必须使用分布式job框架配置定时任务,便于对定时任务进行管理

1、不能使用setNX处理,要不然每次停止定时job都要重新发布服务,发布的成本太高。

2、医生表的定时任务,一般是慢sql,现在要停掉,只能重新启动。

 

 

1、定时job如何进行测试?

2、每个配置都是什么意思?

3、启动运行下,看看代码会不会执行,job中有执行日志的?

4、把执行器自动注册到任务管理上;

安装:

分布式job整体使用一个数据库,直接把所有的sql语句执行即可。

管理后台:直接编译admin项目,然后把jar包运行在指定的机器上就即可。

写一下xxl-job接入文档即可,但是要防止端口重复。

 

Cron表达式理解:时间域

1、*:表示匹配该域的任意值。假如在Minutes域使用*, 即表示每分钟都会触发事件。

如果想要每分钟,每天都触发,就使用*。

2、其七位时间域,如果只有六位,说明没有年,倒数第二位是周;

3、/:表示起始时间开始触发,然后每隔固定时间触发一次。例如在Minutes域使用5/20,则意味第5分钟开始触发一次,然后每隔20分钟触发一次。. 

 

依赖包

        <dependency>
            <groupId>com.corundumstudio.socketio</groupId>
            <artifactId>netty-socketio</artifactId>
            <version>1.7.17</version>
        </dependency>
        <dependency>
            <groupId>com.xuxueli</groupId>
            <artifactId>xxl-job-core</artifactId>
            <version>2.1.0</version>
        </dependency>

Job 开发与调度器配置文档

JobHandler开发:请基于SpringBoot来开发新的JobHandler实例(定时任务处理器)。

修改配置:

修改application-xxx.properties 或 bootstrap-xxx.properties文件(注意:直接配置在项目中,不要在gitlab中配置):

下面是一个配置模板,有变动的配置项只有一项,其他配置项各个环境都一样直接copy就好:

xxl.job.admin.addresses=http://192.168.110.124:7899/job (注意:不同环境的管理后台地址不同)

# 控制器地址:服务启动时,自动把当前服务自动注册到控制器中

xxl.job.admin.addresses=http://192.168.110.124:7899/job

#执行器命名规则job-exec-<申请Port> 需要向管理员申请,防止端口重复。

xxl.job.executor.appname=job-exec-<申请Port>

xxl.job.executor.ip=

xxl.job.executor.port=<申请Port>



### xxl-job, access token 可以不用配置

xxl.job.accessToken=



### 确保改目录可写/opt/xxl-job-logs/jobhandler

xxl.job.executor.logpath=/opt/xxl-job-logs/jobhandler

### xxl-job log retention days

xxl.job.executor.logretentiondays=-1

生产环境,因为要保持分布式调度中心高可用,所以配置了两台机器。

 

声明配置Bean

在项目中添加一个Configuration (JobExecutorConfiguration.java) ,读取配置文件中的配置。

@Configuration

public class JobExecutorConfiguration {

    private Logger logger = LoggerFactory.getLogger(JobExecutorConfiguration.class);

    @Value("${xxl.job.admin.addresses}")

    private String adminAddresses;


    @Value("${xxl.job.executor.appname}")

    private String appName;


    @Value("${xxl.job.executor.ip}")

    private String ip;


    @Value("${xxl.job.executor.port}")

    private int port;


    @Value("${xxl.job.accessToken}")

    private String accessToken;


    @Value("${xxl.job.executor.logpath}")

    private String logPath;


    @Value("${xxl.job.executor.logretentiondays}")

    private int logRetentionDays;


    @Bean(initMethod = "start", destroyMethod = "destroy")

    public XxlJobSpringExecutor xxlJobExecutor() {

        logger.info("pica-job config init.");

        XxlJobSpringExecutor xxlJobSpringExecutor = new XxlJobSpringExecutor();

        xxlJobSpringExecutor.setAdminAddresses(adminAddresses);

        xxlJobSpringExecutor.setAppName(appName);

        xxlJobSpringExecutor.setIp(ip);

        xxlJobSpringExecutor.setPort(port);

        xxlJobSpringExecutor.setAccessToken(accessToken);

        xxlJobSpringExecutor.setLogPath(logPath);

        xxlJobSpringExecutor.setLogRetentionDays(logRetentionDays);

        return xxlJobSpringExecutor;

    }

}

JobHandler

开发JobHandler Bean,execute方法中执行业务逻辑

JobHandler必须在项目中唯一,使用Full Class name (Namespace + className)

JobHandler命名规则:

* 开发步骤:
* 1、继承"IJobHandler",全类名“com.xxl.job.core.handler.IJobHandler”;
* 2、注册到Spring容器:添加“@Component”注解,被Spring容器扫描为Bean实例;
* 3、注册到执行器工厂:添加“@JobHandler(value="自定义jobhandler名称")”注解,注解value值对应的是调度中心新建任务的JobHandler属性的值。
* 4、执行日志:需要通过 "XxlJobLogger.log" 打印执行日志;
@JobHandler(value="PingHandler")
@Component
public class PingHandler extends IJobHandler {
    @Override
    public ReturnT<String> execute(String param) throws Exception {
        XxlJobLogger.log("XXL-JOB, Hello World.");
 
        for (int i = 0; i < 5; i++) {
            XxlJobLogger.log("test14JobHandler beat at:" + i);
            TimeUnit.SECONDS.sleep(2);
        }
        return SUCCESS;
    }
}

需要注意以下几点:

1、@JobHandler(value="PingHandler") value 与类名保持一致

2、一个类只能有一个JobHandler

通过以上三步JobHandler开发完毕。 接下来配置调度器。

 

Job 调度器管理地址

username/password: guest / 123456

dev: http://192.168.110.124:7899/job/

test1: http://192.168.110.133:7899/job/

uat: http://192.168.110.141:7899/job/

 

管理后台配置

STEP 01:新增执行器

相同名称的执行器被认为是同一个执行器,执行器与JobHandler是一对多的关系,控制中心通过一个执行器调度多个JobHandler。

AppName:job-executor-${server.port} ,必须与 bootstrap-xxx.properties 配置文件中的 xxl.job.executor.appname 配置项一致。

名称:${server.port}-exec

JobHandler 所在的服务启动后,执行器会自动注册到控制中心。

STEP 02:11904-exec执行器下添加JobHandler

Cron 表达式生成地址:http://cron.qqe2.com/

JobHandler来自:@JobHandler(value="PingHandler")

 

STEP 03: 任务执行与启动

注意:STEP 02 中添加JobHandler 默认状态为STOP,这意味着这个Job没有启动,永远也不会被执行。这里我们需要手动启动它,启动后的Job状态为RUNNING,Job会按照Cron周期执行。

STEP04:查看Log

当前job是否成功执行。

 

 

 

什么是任务调度?

任务调度:在单位时间内,去调用某个方法或者执行某段代码。

实现方式:

1、使用springboot自带的定时任务。

2、使用quartz;

以上都是可以解决任务调度的方法,但在实际项目中,一般都是使用第三方quartz实现任务调度功能,既然已经有了quartz为什么还需要使用xxl-job呢?

 

分布式任务调度系统xxl-job搭建

为解决分布式环境下定时任务的可靠性,稳定性,只执行一次的特性,找到了个大众点评开源的分布式调度任务解决完整系统。

下载:https://github.com/xuxueli/xxl-job ,该项目目前更新仍然活跃,我使用的是1.9.1版本。

要新建一个定时任务,新建一个任务处理器。

只需要继承IJobHandler,实现其方法,添加两个注解Component和JobHandler,value=testJobHandler表示在调度中心需要配置的任务JobHandler。

 

分布式job管理中心地址和端口

appname名字调度中心会配置,写相同即可

# 表示此执行器地址,也就是本项目部署地址 xxl.job.executor.ip=172.16.100.141 # 提供jetty连接的端口,不要冲突即可,在调度中心会配置此项 xxl.job.executor.port=9999

 

运行报表:任务数量,调度次数(调度中心出发的调度次数),执行器数量。

执行器。在任务管理选项中添加任务。(执行器管理,任务管理)

任务执行的日志,会打印在log面板上。

分布式调度任务。

特征:

动态:支持动态修改任务状态、暂停/恢复任务,以及终止运行中任务,即时生效;

调度中心HA(中心式):调度采用中心式设计,“调度中心”基于集群Quartz实现并支持集群部署,可保证调度中心HA;

执行器HA(分布式):任务分布式执行,任务"执行器"支持集群部署,可保证任务执行HA;

注册中心: 执行器会周期性自动注册任务, 调度中心将会自动发现注册的任务并触发执行。同时,也支持手动录入执行器地址。

弹性扩容缩容:一旦有新执行器机器上线或者下线,下次调度时将会重新分配任务。

路由策略:执行器集群部署时提供丰富的路由策略,包括:第一个、最后一个、轮询、随机、一致性HASH、最不经常使用、最近最久未使用、故障转移、忙碌转移等;

故障转移:任务路由策略选择"故障转移"情况下,如果执行器集群中某一台机器故障,将会自动Failover切换到一台正常的执行器发送调度请求。

阻塞处理策略:调度过于密集,执行器来不及处理时的处理策略,策略包括:单机串行(默认)、丢弃后续调度、覆盖之前调度;

任务超时控制:支持自定义任务超时时间,任务运行超时将会主动中断任务;

任务失败重试:支持自定义任务失败重试次数,当任务失败时将会按照预设的失败重试次数主动进行重试;

失败处理策略:调度失败时的处理策略,默认提供失败告警、失败重试等策略;

任务进度监控:支持实时监控任务进度;

Rolling实时日志:支持在线查看调度结果,并且支持以Rolling方式实时查看执行器输出的完整的执行日志;

一致性:“调度中心”通过DB锁保证集群分布式调度的一致性, 一次任务调度只会触发一次执行;

数据加密:调度中心和执行器之间的通讯进行数据加密,提升调度信息安全性;

邮件报警:任务失败时支持邮件报警,支持配置多邮件地址群发报警邮件;

推送maven中央仓库: 将会把最新稳定版推送到maven中央仓库, 方便用户接入和使用;

运行报表:支持实时查看运行数据,如任务数量、调度次数、执行器数量等;以及调度报表,如调度日期分布图,调度成功分布图等;

 

项目开发中,常常以下场景需要分布式任务调度:

1、同一服务多个实例的任务存在互斥时,需要统一协调;

2、定时任务的执行需要支持高可用、监控运维、故障告警;

3、需要统一管理和追踪各个服务节点定时任务的运行情况,以及任务属性信息,例如任务所属服务、所属责任人

因此,XXL-JOB应运而生: XXL-JOB是一个开源的轻量级分布式任务调度平台,其核心设计目标是开发迅速、学习简单、轻量级、易扩展、开箱即用,其中“XXL”是主要作者,大众点评许雪里名字的缩写。

 

执行原理

1、任务执行器根据配置的调度中心的地址,自动注册到调度中心

2、达到任务触发条件,调度中心下发任务

3、执行器基于线程池执行任务,并把执行结果放入内存队列中、把执行日志写入日志文件中

4、执行器的回调线程消费内存队列中的执行结果,主动上报给调度中心

5、当用户在调度中心查看任务日志,调度中心请求任务执行器,任务执行器读取任务日志文件并返回日志详情。

 

https://www.liangzl.com/get-article-detail-148205.html

 

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值