多线程处理大批量数据操作

 @Autowired
private DataSourceTransactionManager dataSourceTransactionManager;

@Autowired
private TransactionDefinition transactionDefinition;

@Autowired
private StudentService studentService;

/**
 * 对用户而言,27s 任是一个较长的时间,我们尝试用多线程的方式来经行修改操作看能否加快处理速度
 * 预计创建10个线程,每个线程进行5000条数据修改操作
 * 耗时统计
 * 1 线程数:1      耗时:25s
 * 2 线程数:2      耗时:14s
 * 3 线程数:5      耗时:15s
 * 4 线程数:10     耗时:15s
 * 5 线程数:100    耗时:15s
 * 6 线程数:200    耗时:15s
 * 7 线程数:500    耗时:17s
 * 8 线程数:1000    耗时:19s
 * 8 线程数:2000    耗时:23s
 * 8 线程数:5000    耗时:29s
 */
@Test
void updateStudentWithThreads() {
    //查询总数据
    List<Student> allStudents = studentMapper.getAll();
    // 线程数量
    final Integer threadCount = 100;

    //每个线程处理的数据量
    final Integer dataPartionLength = (allStudents.size() + threadCount - 1) / threadCount;

    // 创建多线程处理任务
    ExecutorService studentThreadPool = Executors.newFixedThreadPool(threadCount);
    CountDownLatch threadLatchs = new CountDownLatch(threadCount);

    for (int i = 0; i < threadCount; i++) {
        // 每个线程处理的数据
        List<Student> threadDatas = allStudents.stream()
                .skip(i * dataPartionLength).limit(dataPartionLength).collect(Collectors.toList());
        studentThreadPool.execute(() -> {
            studentService.updateStudents(threadDatas, threadLatchs);
        });
    }
    try {
        // 倒计时锁设置超时时间 30s
        threadLatchs.await(30, TimeUnit.SECONDS);
    } catch (Throwable e) {
        e.printStackTrace();
    }

    System.out.println("主线程完成");
}

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
在Qt中,多线程处理大量数据可以通过使用过滤器、映射器和简化器的概念来实现。这种方法通过依次处理数据并创建少量的辅助线程来提高处理效率,从而减少系统开销。另外,Qt还提供了多种方式来分配并执行处理数据的线程。 一种方式是利用QtConcurrent::run()函数,在Qt全局线程池的辅助线程中运行函数来处理数据。这种方法可以将处理函数放入一个线程中执行,让Qt自动管理线程的创建和销毁。 另一种方式是创建QRunnable对象并在Qt全局线程池辅助线程中处理数据。通过创建QRunnable对象,可以将要处理数据分配给不同的线程,并由Qt管理线程的执行。 还有一种方式是创建QThread对象并将其作为辅助线程来处理数据。这种方式需要手动管理线程的创建和销毁,但可以更灵活地控制线程的执行。 无论是哪种方式,多线程处理大量数据都需要注意死锁的风险,并且编写拥有多线程处理功能的程序相对于单线程来说更加困难,需要谨慎对待。 综上所述,Qt提供了多种方法和类来实现多线程处理大量数据,包括过滤器、映射器和简化器的概念,以及QtConcurrent::run()、QRunnable和QThread等类的使用。根据具体的需求,可以选择合适的方式来实现多线程处理大量数据的功能。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* *3* [Qt高级编程之多线程处理](https://blog.csdn.net/weixin_38880029/article/details/129482609)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 100%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值