Elasticsearch获取ES查询的所有结果,并批量导出Excel

最新推荐文章于 2024-08-25 17:11:33 发布

PeterGss

最新推荐文章于 2024-08-25 17:11:33 发布

阅读量2.5w

点赞数 1

分类专栏： elk 文章标签： elasticsearch elk excel

本文链接：https://blog.csdn.net/qq_32674727/article/details/77751450

版权

本文介绍了在内网环境下，如何利用ELK（Elasticsearch, Logstash, Kibana）环境，针对3500万个数据进行查询。通过Kibana进行数据筛选和可视化，展示如何用SQL插件查询status=500且响应时间超时的数据。重点讲解了如何分页查询，使用scroll API，并在Java中实现批量导出到Excel的步骤，涉及Elasticsearch的Java客户端操作。" 133038251,20036642,Visual Studio与Git集成：.NET个人开发指南,"['Visual Studio', 'Git', '.NET开发', '版本控制', '集成开发环境']

摘要由CSDN通过智能技术生成

工作环境是内网所以不能截图。

搭建了ELK环境。
3500W个dic中查询数据，并要求导出excel。

从es中查询 status=500，返回为空，查询时间超过2000ms的数据
head插件查询出索引的数据
sql更方便查询支持标准sql
select param from logstash-sql—3p where numfounds=0
一、kibana画图
1.首先是用kibana画条状图，create index 之后在discover中可以设置查询条件。右上角是时间设置，默认是15min。
2.discover中点击param，点击下面的add，然后返回的结果中就只剩param
3.visualize画图，filter作为x，count作为y轴
二、获取所有es的查询数据，并导出excel
1、es的size默认是10000
2、sql插件默认的size是200
所以用到了分页查询
之后又用了scroll
和mapreduce，有个es对应的api很方便没有条数的限制

首先呢，需要在java中引入elasticsearch-jar，比如使用maven：

org.elasticsearch
elasticsearch
1.4.4

然后初始化一个client对象：

private static TransportClient client;
private static String INDEX = “index_name”;
private static String TYPE = “type_name”;