Future特性应用-多线程查询大批量数据

前言

公司最近项目需要将整个系统进行大批量数据导出,接下来简单说一下实现思路。
多个线程之间是同时执行的,不能保证哪个线程先执行完,但是却要保证数据的一致性,在这里我们可以实现callable接口获取返回值,我们获取到所有子线程的查询结果然后合并到一个结果集中。
保证合并的顺序我们可以这么做:

  • 创建一个FutureTask类型的List,该FutureTask的类型就是返回的结果集
  • 每启动一个线程,就将该线程的FutureTask添加到tasks列表中
  • 顺序赋值,按照顺序从tasks中取出FutureTask,执行FutureTask的get方法,该方法会阻塞调用的线程直到拿到处理结果

话不多说直接贴代码

private List<TtlProductInfoPo> multiThreadListProduct() {
        List<FutureTask<List<TtlProductInfoPo>>> tasks = new ArrayList<>();
        List<TtlProductInfoPo> productInfoPos = new ArrayList<>();

        int totalNum = 500000;
        int loopNum = new Double(Math.ceil((double) totalNum / THREAD_MAX_ROW)).intValue();
        log.info("多线程查询,总数:{},开启线程数:{}", totalNum, loopNum);
        long start = System.currentTimeMillis();

        executeTask(tasks, loopNum, totalNum);

        for (FutureTask<List<TtlProductInfoPo>> task : tasks) {
            try {
                productInfoPos.addAll(task.get());
            } catch (Exception e) {
                e.printStackTrace();
            }
        }

        log.info("查询结束,耗时:{}", System.currentTimeMillis() - start);
        return productInfoPos;
    }
    private void executeTask(List<FutureTask<List<TtlProductInfoPo>>> tasks, int loopNum, int total) {
        for (int i = 0; i < loopNum; i++) {
            Map<String, Object> map = new HashMap<>();
            map.put("offset", i * THREAD_MAX_ROW);
            if (i == loopNum - 1) {
                map.put("limit", total - THREAD_MAX_ROW * i);
            } else {
                map.put("limit", THREAD_MAX_ROW);
            }
            FutureTask<List<TtlProductInfoPo>> task = new FutureTask<>(new listThread(map));
            log.info("开始查询第{}条开始的{}条记录", i * THREAD_MAX_ROW, THREAD_MAX_ROW);
            new Thread(task).start();
            // 将任务添加到tasks列表中
            tasks.add(task);
        }
    }
    private class listThread implements Callable<List<TtlProductInfoPo>> {

        private Map<String, Object> map;

        private listThread(Map<String, Object> map) {
            this.map = map;
        }

        @Override
        public List<TtlProductInfoPo> call() {
            return listProduct(map);
        }
    }

总结

分享一下思路和实现方法,欢迎各位批评指正哦。

  • 4
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
继“Java开发微信朋友圈PC版系统-架构1.0”之后,debug这段时间日撸夜撸,终于赶在春节放假前给诸位带来了这一系统的架构2.0版本,特此分享给诸位进行学习,以掌握、巩固更多的技术栈以及项目和产品开发经验,同时也为即将到来的金三银四跳槽季做准备! 言归正传,下面仍然以问答的方式介绍下本门课程的相关内容! (1)问题一:这是一门什么样的课程? 很明显,本门课程是建立在架构1.0,即 第1门课程 的基础上发布的,包含了架构1.0的内容,即它仍然是一门项目、产品实战课,基于Spring Boot2.X + 分布式中间件开发的一款类似“新浪微博”、“QQ空间”、“微信朋友圈”PC版的互联网社交软件,包含完整的门户网前端 以及 后台系统管理端,可以说是一套相当完整的系统! (2)问题二:架构2.0融入了哪些新技术以及各自有什么作用? 本课程对应着系统架构2.0,即第2阶段,主要目标:基于架构1.0,优化系统的整体性能,实现一个真正的互联网社交产品;其中,可以学习到的技术干货非常多,包括:系统架构设计、Spring Boot2.X、缓存Redis、多线程并发编程、消息中间件RabbitMQ、全文搜索引擎Elastic Search、前后端消息实时通知WebSocket、分布式任务调度中间件Elastic Job、Http Restful编程、Http通信OKHttp3、分布式全局唯一ID、雪花算法SnowFlake、注册中心ZooKeeper、Shiro+Redis 集群Session共享、敏感词自动过滤、Java8 等等; A.  基于Elastic Search实现首页列表数据的初始化加载、首页全文检索;B.  基于缓存Redis缓存首页朋友圈“是否已点赞、收藏、关注、评论、转发”等统计数据;整合Shiro实现集群部署模式下Session共享;C.  多线程并发编程并发处理系统产生的废弃图片、文件数据;D.  基于Elastic Job切片作业调度分布式多线程清理系统产生的废弃图片;E.  基于RabbitMQ解耦同步调用的服务模块,实现服务模块之间异步通信;F.  基于WebSocket实现系统后端 与 首页前端 当前登录用户实时消息通知;G.  基于OKHttp3、Restful风格的Rest API实现ES文档、分词数据存储与检索;H.  分布式全局唯一ID 雪花算法SnowFlake实现朋友圈图片的唯一命名;I.  ZooKeeper充当Elastic Job创建的系统作业的注册中心;J.  为塑造一个健康的网络环境,对用户发的朋友圈、评论、回复内容进行敏感词过滤;K.  大量优雅的Java8  Lambda编程、Stream编程;  (3)问题三:系统运行起来有效果图看吗?
Java多线程查询大量MySQL数据并保存的步骤如下: 1. 创建一个线程池,用于管理多个线程。 ```java ExecutorService executorService = Executors.newFixedThreadPool(threadCount); ``` 2. 将大量数据拆分为多个小批次,每个小批次包含一定数量的数据。 ```java List<List<String>> batchList = new ArrayList<>(); List<String> dataList = new ArrayList<>(); // 将大量数据添加到dataList中 int batchSize = 1000; // 每个小批次包含1000条数据 for (int i = 0; i < dataList.size(); i += batchSize) { int endIndex = Math.min(i + batchSize, dataList.size()); List<String> batch = dataList.subList(i, endIndex); batchList.add(batch); } ``` 3. 创建多个查询任务,每个任务查询一个小批次的数据,并将查询结果保存到文件或其他存储介质中。 ```java List<Callable<Void>> taskList = new ArrayList<>(); for (List<String> batch : batchList) { taskList.add(() -> { // 使用JDBC连接MySQL数据库,并查询数据 Connection connection = DriverManager.getConnection(url, username, password); Statement statement = connection.createStatement(); ResultSet resultSet = statement.executeQuery("SELECT * FROM table WHERE ..."); // 将查询结果保存到文件或其他存储介质中 // ... resultSet.close(); statement.close(); connection.close(); return null; }); } ``` 4. 提交任务到线程池中执行。 ```java List<Future<Void>> futureList = executorService.invokeAll(taskList); ``` 5. 等待所有任务执行完毕。 ```java for (Future<Void> future : futureList) { future.get(); // 等待任务执行完毕 } ``` 6. 关闭线程池。 ```java executorService.shutdown(); ``` 完整示例代码如下: ```java ExecutorService executorService = Executors.newFixedThreadPool(threadCount); List<List<String>> batchList = new ArrayList<>(); List<String> dataList = new ArrayList<>(); // 将大量数据添加到dataList中 int batchSize = 1000; // 每个小批次包含1000条数据 for (int i = 0; i < dataList.size(); i += batchSize) { int endIndex = Math.min(i + batchSize, dataList.size()); List<String> batch = dataList.subList(i, endIndex); batchList.add(batch); } List<Callable<Void>> taskList = new ArrayList<>(); for (List<String> batch : batchList) { taskList.add(() -> { // 使用JDBC连接MySQL数据库,并查询数据 Connection connection = DriverManager.getConnection(url, username, password); Statement statement = connection.createStatement(); ResultSet resultSet = statement.executeQuery("SELECT * FROM table WHERE ..."); // 将查询结果保存到文件或其他存储介质中 // ... resultSet.close(); statement.close(); connection.close(); return null; }); } List<Future<Void>> futureList = executorService.invokeAll(taskList); for (Future<Void> future : futureList) { future.get(); // 等待任务执行完毕 } executorService.shutdown(); ```

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

拉霍拉卡

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值