SpringBoot 做分布式任务调度

      随着互联网应用的规模和复杂度不断增加,单节点任务调度系统已经难以满足高并发、大数据量的处理需求。分布式任务调度成为了解决这一问题的重要手段

一、分布式任务调度的基本原理

分布式任务调度的核心是将任务分配到多个节点上执行,从而提高系统的并发处理能力和可靠性。主要包括以下几个部分:

  • 任务分配: 将任务按照一定规则分配到不同的节点上执行。

  • 任务执行: 各个节点独立执行分配到的任务。

  • 任务协调: 协调各个节点的任务执行情况,处理任务失败、重试等问题。

  • 结果汇总: 收集各个节点的执行结果,进行汇总和处理。

二、Spring Boot与分布式任务调度

Spring Boot是一款简化Spring应用开发的框架,它提供了很多便捷的功能来构建微服务。在Spring Boot中实现分布式任务调度,我们可以借助一些开源框架,如QuartzElastic-Jobxxl-job

  • 1. 使用Quartz实现分布式任务调度

Quartz是一个功能强大的任务调度框架,支持分布式调度。以下是使用Quartz实现分布式任务调度的步骤:

1)引入依赖

pom.xml中引入Quartz的依赖

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-quartz</artifactId>
</dependency>
<dependency>
    <groupId>org.quartz-scheduler</groupId>
    <artifactId>quartz</artifactId>
</dependency>

2)配置Quartz

application.properties中进行配置

spring.quartz.job-store-type=jdbc
spring.quartz.jdbc.initialize-schema=never
spring.quartz.properties.org.quartz.scheduler.instanceName=MyClusteredScheduler
spring.quartz.properties.org.quartz.scheduler.instanceId=AUTO
spring.quartz.properties.org.quartz.jobStore.isClustered=true
spring.quartz.properties.org.quartz.jobStore.clusterCheckinInterval=20000
spring.quartz.properties.org.quartz.jobStore.maxMisfiresToHandleAtATime=1
spring.quartz.properties.org.quartz.jobStore.misfireThreshold=60000
spring.quartz.properties.org.quartz.jobStore.tablePrefix=QRTZ_
spring.quartz.properties.org.quartz.jobStore.driverDelegateClass=org.quartz.impl.jdbcjobstore.StdJDBCDelegate

3)定义任务

创建一个任务类,实现Job接口

import org.quartz.Job;
import org.quartz.JobExecutionContext;
import org.quartz.JobExecutionException;
import org.springframework.stereotype.Component;

@Component
public class SampleJob implements Job {
    @Override
    public void execute(JobExecutionContext context) throws JobExecutionException {
        System.out.println("Executing Sample Job at " + System.currentTimeMillis());
    }
}

4)配置任务调度

通过@Configuration类来配置任务调度

import org.quartz.JobBuilder;
import org.quartz.JobDetail;
import org.quartz.Trigger;
import org.quartz.TriggerBuilder;
import org.quartz.SimpleScheduleBuilder;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
public class QuartzConfig {

    @Bean
    public JobDetail sampleJobDetail() {
        return JobBuilder.newJob(SampleJob.class)
                .withIdentity("sampleJob")
                .storeDurably()
                .build();
    }

    @Bean
    public Trigger sampleJobTrigger() {
        SimpleScheduleBuilder scheduleBuilder = SimpleScheduleBuilder.simpleSchedule()
                .withIntervalInSeconds(10)
                .repeatForever();

        return TriggerBuilder.newTrigger()
                .forJob(sampleJobDetail())
                .withIdentity("sampleTrigger")
                .withSchedule(scheduleBuilder)
                .build();
    }
}
  • 使用Elastic-Job实现分布式任务调度

Elastic-Job是当当网开源的一个分布式调度解决方案,具有灵活的分片策略和强大的任务管理能力。

1)引入依赖

pom.xml中引入Elastic-Job的依赖:

<dependency>
    <groupId>org.apache.shardingsphere.elasticjob</groupId>
    <artifactId>elasticjob-lite-spring-boot-starter</artifactId>
    <version>3.0.0</version>
</dependency>

2)配置Elastic-Job

application.properties中进行配置

elasticjob.regCenter.serverList=localhost:2181
elasticjob.regCenter.namespace=elasticjob-lite-spring-boot

3)定义任务

创建一个任务类,实现SimpleJob接口

import org.apache.shardingsphere.elasticjob.api.simple.SimpleJob;
import org.apache.shardingsphere.elasticjob.infra.env.ServerContext;
import org.apache.shardingsphere.elasticjob.infra.schedule.JobConfiguration;
import org.springframework.stereotype.Component;

@Component
public class MyElasticJob implements SimpleJob {
    @Override
    public void execute(ServerContext context) {
        System.out.println("Executing Elastic Job at " + System.currentTimeMillis());
    }
}

4)配置任务调度

通过@Configuration类来配置任务调度

import org.apache.shardingsphere.elasticjob.infra.schedule.JobConfiguration;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
public class ElasticJobConfig {

    @Bean
    public JobConfiguration jobConfiguration() {
        return JobConfiguration.newBuilder("myElasticJob", 3)
                .cron("0/5 * * * * ?")
                .shardingItemParameters("0=A,1=B,2=C")
                .build();
    }
}

在实现分布式任务调度的过程中,可能会遇到一些常见问题,下面是一些解决方案:

任务重复执行: 在分布式环境中,由于网络延迟或其他原因,可能会导致任务重复执行。可以通过设置任务的唯一标识和状态来避免重复执行。

任务失败重试: 在任务执行过程中,可能会遇到一些临时性错误,需要进行任务失败重试。可以使用任务调度框架提供的重试机制,或者自定义重试逻辑。

任务状态管理: 在分布式环境中,需要对任务的状态进行有效管理,确保任务的执行顺序和状态一致性。可以使用分布式锁或分布式事务来保证任务状态的一致性。

任务调度的监控与报警: 在分布式环境中,需要对任务的执行情况进行监控,并在出现异常时进行报警。可以使用任务调度框架提供的监控功能,或者集成第三方监控工具

基于xxl-job改造,支持1.6jdk。改分布式任务调度特性如下: 1、简单:支持通过Web页面对任务进行CRUD操作,操作简单,一分钟上手; 2、动态:支持动态修改任务状态、暂停/恢复任务,以及终止运行中任务,即时生效; 3、调度中心HA(中心式):调度采用中心式设计,“调度中心”基于集群Quartz实现,可保证调度中心HA; 4、执行器HA(分布式):任务分布式执行,任务"执行器"支持集群部署,可保证任务执行HA; 5、任务Failover:执行器集群部署时,任务路由策略选择"故障转移"情况下调度失败时将会平滑切换执行器进行Failover; 6、一致性:“调度中心”通过DB锁保证集群分布式调度的一致性, 一次任务调度只会触发一次执行; 7、自定义任务参数:支持在线配置调度任务入参,即时生效; 8、调度线程池:调度系统多线程触发调度运行,确保调度精确执行,不被堵塞; 9、弹性扩容缩容:一旦有新执行器机器上线或者下线,下次调度时将会重新分配任务; 10、邮件报警:任务失败时支持邮件报警,支持配置多邮件地址群发报警邮件; 11、状态监控:支持实时监控任务进度; 12、Rolling执行日志:支持在线查看调度结果,并且支持以Rolling方式实时查看执行器输出的完整的执行日志; 13、GLUE:提供Web IDE,支持在线开发任务逻辑代码,动态发布,实时编译生效,省略部署上线的过程。支持30个版本的历史版本回溯。 14、数据加密:调度中心和执行器之间的通讯进行数据加密,提升调度信息安全性; 15、任务依赖:支持配置子任务依赖,当父任务执行结束且执行成功后将会主动触发一次子任务的执行, 多个子任务用逗号分隔;
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值