ElasticSearch--------->批量索引------->推荐方法、注意事项、性能优化

ES批量索引:

  • 概述:建议使用bulk API来创建索引它比你一次给一条日志创建一次索引快多了。
    • 使用bulk API主要要考虑两个事情: 
      • 1)最佳的批量大小。它取决于很多你的设定。如果要说起始值的话,可以参考一下pyes里的默认值,即400。
      • 2)给批量操作设定时器。如果你添加日志到缓冲,然后等待它的大小触发限制以启动批量插入,千万确定还要有一个超时限制作为大小限制的补充。否则,如果你的日志量不大的话,你可能看到从日志发布到出现在elasticsearch里有一个巨大的延时。  
  • 使用bulk API进行批量索引的编程思路:
    • 概述:ES提供了两种bulk API,你可以使用BulkRequestBuilder编写批量索引程序,也可以通过BulkProcessor来编写批量文档的索引程序。
    • 方法一,使用BulkRequestBuilder编写批量索引程序
      • 参考资料:官方例程
      • 我编写的示例程序:  
    • 方法二,使用BulkProcessor来编写批量文档的索引程序
      • 参考资料:官方例程  
      • 我编写的示例程序:
          

转载于:https://www.cnblogs.com/lxrm/p/7278092.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值