并发执行查询汇总返回结果集

68 篇文章 0 订阅
25 篇文章 0 订阅

需求: 做数据统计,但是有的sql执行太慢。然后优化添加索引,再用线程池去执行各自sql。汇总结果集

需要注意下:每次异步执行需要创建一个新对象,不要复用对象。get()得方法就有阻塞等待线程处理完成得效果。做到最后数据都能拿到。


import com.google.common.util.concurrent.ThreadFactoryBuilder;

import java.util.concurrent.*;

/**
 * @author xyd
 * @description:
 * @date 2020/3/23
 */
public class demo {

    /**
     * 获取基本信息
     *
     * @return
     */
    public static String getProductBaseInfo(String productId) {
        return productId + "商品基础信息";
    }

    /**
     * 获取详情信息
     *
     * @return
     */
    public static String getProductDetailInfo(String productId) throws InterruptedException {
        Thread.sleep(20000L);
        return productId + "商品详情信息";
    }

    /**
     * 获取sku信息
     *
     * @return
     */
    public static String getProductSkuInfo(String productId) throws InterruptedException {
        Thread.sleep(10000L);
        return productId + "商品sku信息";
    }


    /**
     * 取得一个商品的所有信息(基础、详情、sku)
     *
     * @param productId
     * @return
     */
    public static String getAllInfoByProductId(String productId) {
        ExecutorService executor = Executors.newFixedThreadPool(10);
        CompletableFuture<String> f1 = CompletableFuture.supplyAsync(() -> getProductBaseInfo(productId), executor);
        CompletableFuture<String> f2 = CompletableFuture.supplyAsync(() -> {
            try {
                return getProductDetailInfo(productId);
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
            return null;
        }, executor);
        CompletableFuture<String> f3 = CompletableFuture.supplyAsync(() -> {
            try {
                return getProductSkuInfo(productId);
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
            return null;
        }, executor);

        try {
            String baseInfo = f1.get();
            String detailInfo = f2.get();
            String skuInfo = f3.get();
            return baseInfo + "" + detailInfo + skuInfo;
        } catch (Exception e) {
            e.printStackTrace();
        }
        return null;
    }

    public static void main(String[] args) {
        System.out.println(getAllInfoByProductId("xyd"));
    }
}
runAsync 没有返回值

supplyAsync  需要返回值

多线程异步求同一个接口时。 

 private static void batchGenTableRecord(JudgeComponentFetchLogicBO logic, Map<String, Object> baseInfo,
            Map<String, Object> extraInfo, Map<String, Object> dataSourceValue, List<Integer> indexList,
            Map<Integer, List<ComponentViewRecordBO>> vMap, Map<String, List<Map>> sourceMap) {
        CompletableFuture<Void> all = CompletableFuture.allOf(
                indexList.stream().map(index -> CompletableFuture.supplyAsync(() -> {
                    genTableRecord(logic, baseInfo, extraInfo, dataSourceValue, index, vMap, sourceMap);
                    return vMap;
                }, ThreadPoolUtil.COMPONENT_POOL).exceptionally(e -> {
                    log.error("asyncGenTableComponentData error: {}", e.getMessage());
                    return vMap;
                })).toArray(CompletableFuture[]::new));
        //阻塞,直到所有任务结束。
        all.join();
    }
public QueueGatherResultBO queryJudgeQueueGatherListByStaff(String staff) {
        if (StringUtils.isBlank(staff)) {
            throw JudgeException.of(ErrorCode.PARAM_INVALID);
        }
        QueueGatherResultBO result = new QueueGatherResultBO();
        //1.获取用户绑定的队列集
        List<Long> gatherIds = orgStructureService.queryGatherListByStaff(staff);
        log.info("queryJudgeQueueGatherListByStaff.queryGatherListByStaff.result:{}",
                JsonMapperUtils.toJson(gatherIds));
        if (CollectionUtils.isEmpty(gatherIds)) {
            return result;
        }

        //2。查询每个队列集详情信息
        //队列集信息获取(队列id对应队列的名称,kconf维护的)
        List<QueueGatherConf> resList = ThemisJudgeJsonListConfigKey.queueGatherList.getList();
        Map<Long, String> queueGatherMap =
                resList.stream().collect(Collectors.toMap(QueueGatherConf::getId, QueueGatherConf::getName));

        CopyOnWriteArrayList<QueueGatherBO> queueGatherList = new CopyOnWriteArrayList<>();
        CopyOnWriteArrayList<GatherQueueListBO> queueGatherAllList = new CopyOnWriteArrayList<>();
        //多线程查询每个队列集下,队列列表信息(队列集绑定队列)
        CompletableFuture<Void> all = CompletableFuture.allOf(
                gatherIds.stream().map(n -> CompletableFuture.runAsync(() -> {
                    List<GatherQueueListBO> queueList = this.queryJudgeQueueListByGatherId(staff, n);
                    log.info("queryJudgeQueueGatherListByStaff.queryJudgeQueueListByGatherId.result:{}",
                            JsonMapperUtils.toJson(queueList));
                    if (!CollectionUtils.isEmpty(queueList)) {
                        //聚合待审核数量
                        int waitNumber = queueList.stream().mapToInt(GatherQueueListBO::getWaitNumber).sum();
                        //聚合已进审数量
                        int reviceeNumber = queueList.stream().mapToInt(GatherQueueListBO::getReviewedNumber).sum();
                        QueueGatherBO build =
                                QueueGatherBO.builder().gatherId(Math.toIntExact(n)).gatherName(queueGatherMap.get(n))
                                        .reviewedNumber(reviceeNumber)
                                        .waitNumber(waitNumber).build();
                        queueGatherList.add(build);
                        queueGatherAllList.addAll(queueList);
                    }
                }, ThreadPoolUtil.COMPONENT_POOL).exceptionally(e -> {
                    log.error("asyncGenTableComponentData error: {}", e.getMessage());
                    throw JudgeException.of(ErrorCode.SYSTEM_ERROR.getCode(), "获取队列集数据失败");
                    //不用异常  就return null;
                })).toArray(CompletableFuture[]::new));
        //阻塞,直到所有任务结束。
        all.join();

        //3。封装结果
        List<GatherQueueListBO> collect = queueGatherAllList.stream().distinct().collect(Collectors.toList());
        int reviewedSum = collect.stream().mapToInt(GatherQueueListBO::getReviewedNumber).sum();
        int waitSum = collect.stream().mapToInt(GatherQueueListBO::getWaitNumber).sum();
        QueueGatherBO allData =
                QueueGatherBO.builder().reviewedNumber(reviewedSum).waitNumber(waitSum).gatherId(0).gatherName("全部")
                        .build();
        result.setQueueGatherList(queueGatherList);
        result.setQueueGatherAll(allData);
        return result;
    }

并行执行调用做数据聚合

 

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: RestTemplate是Spring提供的用于访问HTTP服务的客户端工具,它封装了发送HTTP请求、处理响应等操作。但在处理多个请求时,使用RestTemplate可能会面临性能瓶颈和资源耗尽的问题。这时可以结合线程池来批量处理返回结果,提升性能。 线程池是一种用于管理多个线程的机制,它通过维护一定数量的线程,并对任务进行分配和执行,解决了频繁创建和销毁线程的开销问题。RestTemplate结合线程池的思路是将多个请求分配给线程池中的线程去处理,然后等待所有请求返回结果后再进行下一步处理。 具体实现可以按照以下步骤进行: 1. 创建一个线程池,指定线程池的大小,可以根据实际情况设置。 2. 将需要处理的每个请求封装成一个Callable对象,实现call()方法,在其中使用RestTemplate发送请求并处理响应。将这些Callable对象添加到一个Callable集合中。 3. 调用线程池的invokeAll()方法,传入Callable集合,等待所有请求返回结果。该方法会返回一个Future集合,可以通过它来获取每个请求的返回结果。 4. 遍历Future集合,分别获取每个请求的返回结果,并进行后续处理。 通过使用线程池和批量处理返回结果,可以有效地提升处理多个请求的性能。使用线程池可以复用线程资源,减少线程创建和销毁的开销;而批量处理返回结果可以减少等待时间,提高整体处理效率。同时,结合线程池和批量处理也可以更好地控制并发度,避免资源的过度消耗和请求的过载。 综上所述,RestTemplate结合线程池批量处理返回结果可以提升性能,适用于需要处理大量HTTP请求的场景。 ### 回答2: RestTemplate 是 Spring 框架提供的一个用于访问 RESTful 服务的 HTTP 客户端工具。当我们需要批量处理返回结果时,可以结合线程池来进行处理。 首先,我们需要创建一个线程池,可以使用 Java 提供的 ExecutorService 接口实现,比如使用 ThreadPoolExecutor 类。然后,我们将任务分成多个小任务,每个小任务使用一个线程来执行。 在每个小任务中,我们可以使用 RestTemplate 发送 HTTP 请求并获得返回结果。可以使用 RestTemplate 的 getForObject() 方法来发送 GET 请求,并将返回结果转换为指定的类型。对于 POST 请求,可以使用 postForObject() 方法来发送,并指定请求参数和返回的对象类型。 接下来,我们可以将每个小任务的结果存储在一个集合中,比如使用 ArrayList 来存储。在每个小任务的线程执行结束后,可以将结果添加到集合中。 最后,我们可以等待所有小任务的线程执行完成,并对所有结果进行汇总处理或后续操作。可以使用 ExecutorService 的 shutdown() 方法来关闭线程池。 通过使用 RestTemplate 结合线程池批量处理返回结果,可以提高程序的并发处理能力和效率。我们可以同时发起多个请求,并行处理返回结果,进而提升系统的吞吐量和性能。同时,使用线程池可以合理管理线程的创建和销毁,避免频繁的线程创建和销毁操作对系统性能的影响。 总结起来,通过结合 RestTemplate 和线程池,我们可以实现批量处理返回结果的功能,提高程序的并发处理能力和效率,从而满足大规模请求处理的需求。 ### 回答3: RestTemplate是Spring框架提供的用于进行HTTP请求的客户端工具。它可以方便地发送HTTP请求并处理返回结果。而线程池是一种线程管理机制,它可以提高程序的多线程处理能力。 如果我们需要使用RestTemplate来批量发送HTTP请求,并且希望将请求的返回结果进行批量处理,可以考虑结合线程池来完成。 首先,我们可以创建一个线程池,用于管理多个线程的执行。可以使用Java提供的ExecutorService来实现。我们可以根据具体的需求来配置线程池的大小。 然后,我们可以使用RestTemplate发送多个HTTP请求。可以通过循环遍历的方式来发送多个请求。在发送请求时,将请求任务提交到线程池中执行,这样可以实现并发处理多个请求。 在执行请求的过程中,我们可以通过使用Callable接口来定义请求任务,这样可以方便地返回请求的结果。可以将每个请求任务封装成一个Callable对象,并且通过线程池的invokeAll方法来批量执行这些任务。 执行完所有的请求任务后,可以通过获取执行结果的方式来对返回结果进行处理。可以通过Future对象来获取每个请求任务的返回结果,并将结果保存在一个集合中。 最后,我们可以根据具体的业务需求来处理返回的结果集合。可以将返回的结果进行逻辑处理、持久化存储等操作。 综上所述,我们可以通过将RestTemplate和线程池相结合,实现批量处理多个HTTP请求的返回结果。这样可以提高程序的并发处理能力,并且方便地对返回结果进行批量处理。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值