批处理 :从ElasticSearch看批处理的性能优势

文章探讨了批量保存在ES优化中的重要性,通过性能对比展示批量保存与单条写入的显著差异,指出批量处理能有效降低网络消耗、IO和CPU损耗。BulkAPI和BulkProcessor作为两种批量保存方式,各有特点,BulkProcessor提供了更高级的管理和监控功能。文章强调批处理在高性能系统设计中的重要思维。
摘要由CSDN通过智能技术生成

一. 前言

ES 优化方案网上能找到很多,生产中也会直接按照方案进行配置。但是,还是有必要搞清楚这样优化的原理的。

最常见的优化方案包括 : 批量保存修改 refresh 刷新间隔。这一篇先来全方面看看批量保存。

二. 性能直观对比

基本代码

java复制代码public void addSingle() {
    logger.info("测试创建");
    for (int i = 0; i < 3000; i++) {
        AOrder order = createOrderA(i);
        aorderRepository.save(order);
        logger.info("------> 保存 :{} <-------", order);
    }
}

public void addBatch() {
    logger.info("测试创建");
    List<AOrder> orderList = new ArrayList<>();
    for (int i = 0; i < 3000; i++) {
        AOrder order = createOrderA(i);
        orderList.add(order);
    }
    List<List<AOrder>> splitList = CollectionUtil.split(orderList, 10);
    splitList.forEach(itemList -> {
        aorderRepository.saveAll(itemList);
        logger.info("------> 保存 :{} <-------", itemList.size());
    });

}

两次执行的时间差 :

java复制代码c.g.s.e.demo.service.TestService         : ------> 结束 :171276 <-------
c.g.s.e.demo.service.TestService         : ------> 结束 :23253 <-------

// BulkProcessor 的会更快,但是考虑到这是一个异步操作,不作为参考
// PS :这里我执行完就去刷新了数量,多也不会多多少
c.g.s.e.demo.service.TestService         : ------> 结束 :1149 <-------

同样是3000条数据,相同的环境相同的服务器,这完全不是一个量级的性能

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值