Logstash一个开源收集引擎,具有近实时的管道功能

Logstash的介绍

Logstash是一个开源的数据收集引擎,具有近实时的管道能力,Logstash能够从不同的数据源中动态统一出标准化数据,并将格式化的数据输入到你所指定的目标。为形形色色的且不断增加的下游数据分析和可视化等使用案例,提供数据清理和普适。

虽然Logstash最初推动了日志收集方面的创新,但其功能远远超出了该用例。 任何类型的事件都可以通过各种各样的输入,过滤器和输出插件来丰富和转换,使许多本机编解码器进一步简化了提取过程。 Logstash通过利用利用更大容量和更多样化的数据,来加快您的对其的深入了解。

Logstash的能力

Logstash 有可插拔的管道架构,具有可扩展的社区,并且具有友好的开发者插件生态,超过200种可食用的插件,为你的使用灵活创建和分配
在这里插入图片描述

日志和指标

  • 处理所有类型的日志
  • 拥有接受Filebeat安全日志转发的能力
  • 收集基础设施和应用平台的指标

web方面

  • 将HTTP请求转化为事件进行处理,例如消费类似Twitter的网络服务,进行社会情感分析
  • 根据需求轮询 HTTP endpoint 创建时间,例如获取健康状态/指标/web应用接口其他数据

数据和数据流

  • 利用JDBC从关系型数据和NoSQL更好的理解你数据的价值
  • 统一多种从队列中消费的数据流,这类的队列有很多,例如 Apache Kafka, RabbitMQ, Amazon SQS

传感器和物联网

  • 在这个技术进步的时代,庞大的物联网世界通过捕获和利用来自连接的传感器的数据释放出无穷的用例。
  • Logstash是常见事件收集主干,用于提取从移动设备传送到智能家居,联网汽车,医疗保健传感器以及许多其他特定于行业的应用程序的数据。

数据存储

你可以根据你的需求将数据路由到不同的地方,用于给下游进行数据分析、存储和操作

  1. 数据分析
  • Elasticsearch
  • Data stores such as MongoDB and Riak
  1. 数据归档
  • HDF
  • SS3
  1. 监控数据
  • Nagios
  • Ganglia
  • Zabbix
  • Graphite
  • Datadog
  • CloudWatch
  1. 实时告警
  • Watcher with Elasticsearch
  • Email
  • Pagerduty
  • IRC
  • SNS

Logstash初窥门径

检查Java版本

Logstash需要的版本入下:

  • Java 8
  • Java 11
  • Java 14
    首先可以使用 java -version 检查你的jdk版本,并且Logstash在使用时需要设置JAVA_HOME来指定Java版本,也就是说 必须设置JAVA_HOME环境变量,Logstash才能正常运行。(其实修改启动脚本,然后再启动时set JAVA_HOME=/jdk_path貌似也是可以的)

安装Logstash

开始使用Logstash

整合多个I/O插件

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

喜马拉雅以南

奶茶,干杯?!

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值