使用多线程实现批处理过程

使用多线程实现批处理过程,将一下数组,按10个一组,每组一个打印数据,并在19个线程都处理完成后输出打印次数 int[]data = new int [100]; for(int i=0;i <100;i++){data[i] =i;}

import java.util.concurrent.CountDownLatch;

public class BatchProcessing {
    public static void main(String[] args) {
        int[] data = new int[100];
        for (int i = 0; i < 100; i++) {
            data[i] = i;
        }

        int batchSize = 10;
        int numThreads = data.length / batchSize;

        CountDownLatch latch = new CountDownLatch(numThreads);

        for (int i = 0; i < numThreads; i++) {
            int startIndex = i * batchSize;
            int endIndex = Math.min((i + 1) * batchSize, data.length);

            Runnable task = new BatchProcessor(data, startIndex, endIndex, latch);
            Thread thread = new Thread(task);
            thread.start();
        }

        try {
            latch.await(); // 等待所有线程完成
        } catch (InterruptedException e) {
            e.printStackTrace();
        }

        System.out.println("All threads have completed.");
    }
}

class BatchProcessor implements Runnable {
    private int[] data;
    private int startIndex;
    private int endIndex;
    private CountDownLatch latch;

    public BatchProcessor(int[] data, int startIndex, int endIndex, CountDownLatch latch) {
        this.data = data;
        this.startIndex = startIndex;
        this.endIndex = endIndex;
        this.latch = latch;
    }

    @Override
    public void run() {
        for (int i = startIndex; i < endIndex; i++) {
            System.out.println("Data: " + data[i]);
        }
        latch.countDown(); // 通知主线程任务已完成
    }
}

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
好的,这个问题我可以帮你回答。以下是 Java 实现使用线程池多线程分页插入数据的代码示例: ```java import java.sql.Connection; import java.sql.PreparedStatement; import java.sql.SQLException; import java.util.List; import java.util.concurrent.ExecutorService; import java.util.concurrent.Executors; public class MultiThreadInsert { private static final int BATCH_SIZE = 500; private static final int THREAD_POOL_SIZE = 10; public void insert(List<Data> dataList) { ExecutorService executorService = Executors.newFixedThreadPool(THREAD_POOL_SIZE); int totalSize = dataList.size(); int totalPages = (int) Math.ceil((double) totalSize / BATCH_SIZE); for (int i = 0; i < totalPages; i++) { int startIndex = i * BATCH_SIZE; int endIndex = Math.min((i + 1) * BATCH_SIZE, totalSize); List<Data> subList = dataList.subList(startIndex, endIndex); executorService.execute(new InsertTask(subList)); } executorService.shutdown(); } private static class InsertTask implements Runnable { private List<Data> dataList; public InsertTask(List<Data> dataList) { this.dataList = dataList; } @Override public void run() { Connection connection = null; PreparedStatement preparedStatement = null; try { connection = getConnection(); // 获取数据库连接 connection.setAutoCommit(false); // 关闭自动提交 String sql = "INSERT INTO table_name (column1, column2, ...) VALUES (?, ?, ...)"; preparedStatement = connection.prepareStatement(sql); for (Data data : dataList) { preparedStatement.setString(1, data.getColumn1()); preparedStatement.setInt(2, data.getColumn2()); // 继续设置 preparedStatement 的参数 preparedStatement.addBatch(); } preparedStatement.executeBatch(); connection.commit(); // 提交事务 } catch (SQLException e) { // 处理异常 } finally { close(preparedStatement); close(connection); } } private Connection getConnection() throws SQLException { // 获取数据库连接 } private void close(Connection connection) { // 关闭数据库连接 } private void close(PreparedStatement preparedStatement) { // 关闭 PreparedStatement } } private static class Data { private String column1; private int column2; // 其他属性及 setter、getter 方法 } } ``` 其中,`MultiThreadInsert` 类中的 `insert` 方法接收一个 `List<Data>` 参数,表示需要插入的数据列表。该方法将数据按照 BATCH_SIZE(每批次插入的数据量) 进行分页,然后使用固定大小的线程池(大小为 THREAD_POOL_SIZE)执行插入操作。 `InsertTask` 类表示每个插入任务,其中的 `run` 方法会在新的线程中执行。在 `run` 方法中,首先获取数据库连接并关闭自动提交,然后根据每个数据对象设置 `PreparedStatement` 的参数,并将插入语句添加到批处理中,最后执行批处理并提交事务。如果执行过程中发生异常,需要进行异常处理并关闭数据库连接和 `PreparedStatement`。 需要注意的是,在插入操作中应该尽量避免使用锁,因为锁会降低多线程并发执行的效率。另外,数据的插入顺序可能会被打乱,所以如果需要保证数据的顺序,需要在查询时进行排序。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值