kafka+logstash+elasticsearch+kibana实现数据发送和监控

本文介绍了如何使用Kafka、Logstash、Elasticsearch和Kibana构建数据流系统,实现数据的发送和监控。通过Logstash将Kafka接收到的数据转换并发送到另一个服务器的Kafka,同时Elasticsearch用于存储数据,Kibana提供可视化界面。在实施过程中遇到了Logstash双层JSON封装的问题,通过配置Logstash解决,最终成功搭建可视化监控系统。
摘要由CSDN通过智能技术生成

背景

需要kafka将数据发送到logstash再发送给另外一个服务器的kafka,elasticsearch和kibana起到监控的作用,实现可视化。具体架构图如下:
在这里插入图片描述
这里分析logstash以后部分。

kafka

kafka的安装在上一篇博客中已经讲过了:https://blog.csdn.net/ali_lili/article/details/107338987

logstash

logstash相当于一个数据流,将kafka收到的数据进行封装,然后发送到其他地方,这里是发送到kafka,可以根据自己的实际情况来决定。
安装
上传压缩包,然后解压,参考命令

rz
tar -zxvf  压缩包名字

测试

bin/logstash -e 'input { stdin { } } output { stdout {} }'

然后在页面输入hello world ,同样可以在控制台看到自己发送的数据
遇到的难题
当我们发送数据的时候,logstash会将我们的数据封装成一个json格式,我们的数据会放到message字段里面。那么问题来了,我发送的是一个json数据,她这样子就会把我的数据封装成两层json,

  • 0
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值