【大数据】ELK实时日志分析平台(最简入门案例,带你进入ELK世界)


本文通过最简单纯正的案例带你入门ELK世界。

1. 前言

ELK是Elasticsearch、Logstash、Kibana的缩写,如果对Elasticsearch、Logstash、Kibana不是很了解,可以参考官网的入门案例。作者也写了官方入门案例介绍的文章。

以Elasticsearch6.6.2为例:

  • 官方入门

https://www.elastic.co/guide/en/elasticsearch/reference/6.6/getting-started.html

https://www.elastic.co/guide/en/kibana/6.6/getting-started.html

https://www.elastic.co/guide/en/logstash/6.6/getting-started-with-logstash.html

  • 作者翻译

待完成编写

待完成编写

待完成编写

2. 安装

踩坑指南:

  • 作者在Mac用Docker或Docker-compose安装ELK环境各个各样的问题,一会是宿主主机权限不够、宿主主机磁盘剩余空间不足等等。
  • 最后还是没处理好,作者放弃了Docker。于是去Linux上用Docker试试,成功算成功了,但是很烦要开启一台Linux虚拟机。
  • 用Docker的目的是要带来方便,既然没有带来方便,我选择使在Mac上用安装包或压缩包的方式。

ELK的下载网址是:https://www.elastic.co/cn/downloads/past-releases

以Elasticsearch6.6.2为例:

  • 下载

如果您是Windows用户请使用其它下载链接。

wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-5.6.2.tar.gz
wget https://artifacts.elastic.co/downloads/kibana/kibana-6.6.2-darwin-x86_64.tar.gz
wget https://artifacts.elastic.co/downloads/logstash/logstash-6.6.2.tar.gz

3. 启动ELK

启动Elasticsearch

  • 启动Elasticsearch
curl -L -O https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.6.2.tar.gz
tar -xvf elasticsearch-6.6.2.tar.gz
cd elasticsearch-6.6.2/bin
./elasticsearch
  • 测试ES启动情况
curl http://localhost:9200

启动Kibana

  • 启动Kibana
curl -O https://artifacts.elastic.co/downloads/kibana/kibana-6.6.2-darwin-x86_64.tar.gz
# 校验shasum
shasum -a 512 kibana-6.6.2-darwin-x86_64.tar.gz
tar -xzf kibana-6.6.2-darwin-x86_64.tar.gz
cd kibana-6.6.2-darwin-x86_64/
./bin/kibana
  • 访问下http://localhost:5601看看是否启动成功

启动Logstash

  • 新建配置first-pipeline.conf
input {
    tcp {
        mode => "server"
        host => "0.0.0.0"
        port => 4560
    	codec => json_lines
    }
}
output {
    elasticsearch {
        hosts => ["http://localhost:9200"]
        index => "springboot-logstash-%{+YYYY.MM.dd}"
    }
}

接受任何来源的输入数据,不做任何处理,发送到本地的ES中

  • 启动
bin/logstash -f first-pipeline.conf --config.reload.automatic

配置了--config.reload.automatic在修改first-pipeline.conf文件后不用重启

4. 测试ELK环境

  • 用tcp发送一串json数据给logstash
echo '{"logstash": "hello world"}' | nc localhost 4560shell
  • 在kibana中查看刚发送的日志信息hello world

看到了刚放发送的hello world的json消息啦。

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
ELK是指Elasticsearch、Logstash和Kibana这三个开源工具的组合,用于处理和可视化大数据。其中,Kibana是ELK中的可视化平台,可以用来搜索Elasticsearch中的数据,构建漂亮的可视化图形,以及制作仪表盘。\[1\] 在Kibana中,可以使用不同类型的可视化对象来展示数据,如线形图、面积图、条形图、饼图、数据表、指标、云/文字云等。此外,Kibana还支持使用控件来控制图表的展示,如选项列表和范围选择滑块,以便用户可以根据自己的需求筛选和查看关注的数据。\[1\]\[2\] Kibana不仅可以用于数据可视化,还可以用于管理Elastic Stack组件,进行安全设置、用户角色设置以及对Elasticsearch进行快照等操作。它提供了统一的访问入口,方便用户进行日志分析、文档查找等操作。\[3\] 总之,Kibana是一个功能强大的开源数据分析和可视化平台,通过它可以实现对大数据的搜索、分析和可视化展示。 #### 引用[.reference_title] - *1* *2* [大数据ELK(二十七):数据可视化(Visualize)](https://blog.csdn.net/xiaoweite1/article/details/121895789)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down1,239^v3^insert_chatgpt"}} ] [.reference_item] - *3* [大数据ELK(二十三):Kibana简介](https://blog.csdn.net/xiaoweite1/article/details/121865241)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down1,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Fire Fish

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值