Java批处理调度_java调度器(重试机制)实现

本文介绍了一个基于Java的批处理调度系统,它实现了正常调度和带有重试机制的异常调度。系统利用ScheduledExecutorService进行定时调度,根据队列大小和数据处理速度设置调度间隔。正常调度使用一个固定大小的线程池处理任务,而异常调度则设有不同的重试队列(30秒、5分钟、30分钟),根据重试模式选择合适的队列进行不同时间间隔的重试。此外,系统提供了添加数据到队列和处理数据的抽象方法,供具体业务实现。
摘要由CSDN通过智能技术生成

调度器分为正常调度,异常调度,异常调度根据不同的队列进行时间间隔的区分,采用ScheduledExecutorService进行时间间隔调度,调度时根据当前队列中addData进队列里的数据分配线程进行处理。先看正常调度,这个类在构造函数时就会被调度,可以添加set方法,配置好单独再进行scheduler:

package test;

import java.util.ArrayList;

import java.util.List;

import java.util.concurrent.BlockingQueue;

import java.util.concurrent.Callable;

import java.util.concurrent.ExecutionException;

import java.util.concurrent.ExecutorService;

import java.util.concurrent.Executors;

import java.util.concurrent.Future;

import java.util.concurrent.LinkedBlockingQueue;

import java.util.concurrent.ScheduledExecutorService;

import java.util.concurrent.TimeUnit;

/**

* 异步任务定时执行管理

*/

public abstract class AbstractScheduleTask implements ScheduleTask {

/** 任务队列 */

protected final BlockingQueue dataQueue;

/** 线程池 */

protected final ExecutorService executorService;

/** 调度任务 */

protected final ScheduledExecutorService scheduledExecutorService;

/** 定时任务数 */

private int scheduleSize = 1;

/** 定时任务开始执行时间 */

private int scheduleInitialDelay = 0;

/** 定时任务间隔时间,正常单条数据的插入时间<3ms,队列的长度为1000,1000m秒的时间足够,避免队列的数据堆积 */

private int scheduleDelay = 1000;

/** 线程池大小 */

private int threadPoolSize = 8;

/** 队列大小 */

private int queueSize = 2000;

/** 线程批处理大小; */

private int dataSize = 100;

/** 默认构造方法,加载定时任务 */

public AbstractScheduleTask() {

dataQueue = new LinkedBlockingQueue(queueSize);

executorService = Executors.newFixedThreadPool(threadPoolSize);

scheduledExecutorService = Executors.newScheduledThreadPool(scheduleSize);

schedule();

}

/**

* 具体业务数据处理

*

* @param data

* @return

*/

protected abstract Integer doData(final List data);

/**

* 添加数据到队列

*/

@Override

public void addData(T parameterObject) {

if (parameterObject != null) {

if (dataQueue.size() >= this.getQueueSize()) {

// 消费队列数据过大

}

try {

dataQueue.put(parameterObject);

} catch (InterruptedException e) {

// 添加队列数据异常

}

}

}

/**

* 设置定时任务 设定执行线程计划,初始10s延迟,每次任务完成后延迟10s再执行一次任务

*/

private void schedule() {

for (int i = 0; i < scheduleSize; i++) {

scheduledExecutorService.scheduleWithFixedDelay(new ScheduleHandler(), scheduleInitialDelay, scheduleDelay,

TimeUnit.MILLISECONDS);

}

}

/**

* 创

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值