多线程跑数据 | Java代码:用定时任务执行任务,现在有20000条数据,我想每500条数据交给一个线程处理,要注意异常处理。请用ThreadPoolExecutor实现

Java代码:用定时任务执行任务,现在有20000条数据,我想每500条数据交给一个线程处理,要注意异常处理。请用ThreadPoolExecutor实现

碰到的问题

  • 有些bean比如mapper不知道怎么传入task:可以从构造器传入
  • 任务处理写得有问题,发到线上中断不了
  • 异常处理:对于风险语句要try住,比如用了catchDownLatch之后减一操作一定要咋finally里执行。不要阻塞住
public class Main {

    public static void main(String[] args) {

        List<String> dataList = createDataList();

        int batchSize = 500; // 划分的每个小任务包含的数据条数
        int nThreads = (dataList.size() + batchSize - 1) / batchSize;

        TaskExecutor taskExecutor = new TaskExecutor(nThreads);
        List<Runnable> tasks = new ArrayList<>();

        for (int i = 0; i < nThreads; i++) {

            int start = i * batchSize;
            int end = Math.min((i + 1) * batchSize, dataList.size());
            List<String> subList = dataList.subList(start, end);

            Runnable task = new DataProcessTask(subList);
            tasks.add(task);
        }

        taskExecutor.executeTasks(tasks);
        taskExecutor.shutdown();
    }

    private static List<String> createDataList() {
        List<String> dataList = new ArrayList<>();
        for (int i = 0; i < 20000; i++) {
            dataList.add("data-" + i);
        }
        return dataList;
    }

}

class DataProcessTask implements Runnable {

    private final List<String> data;

    public DataProcessTask(List<String> data) {
        this.data = data;
    }

    @Override
    public void run() {
        for (String d : data) {
            try {
                // 处理数据
                Thread.sleep(10);
                System.out.println(Thread.currentThread().getName() + " process data: " + d);
            } catch (InterruptedException e) {
                Thread.currentThread().interrupt();
            } catch (Exception e) {
                // 处理任务执行异常
            }
        }
    }
}

class TaskExecutor {

    private final ExecutorService executorService;

    public TaskExecutor(int nThreads) {
        this.executorService = Executors.newFixedThreadPool(nThreads);
    }

    public void executeTasks(List<Runnable> tasks) {

        List<Future<?>> futures = new ArrayList<>();
        for (Runnable task : tasks) {
            Future<?> future = executorService.submit(task);
            futures.add(future);
        }

        for (Future<?> future : futures) {
            try {
                future.get();
            } catch (InterruptedException e) {
                Thread.currentThread().interrupt();
            } catch (ExecutionException e) {
                // 处理任务执行异常
            }
        }
    }

    public void shutdown() {
        executorService.shutdown();
    }
}

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值