logstash收集日志到elasticsearch

Logstash是一个开源数据收集引擎,用于从各种数据源统一并规范化数据。本文介绍如何配置Logstash,从Nginx访问日志中收集数据并将其发送到Elasticsearch,通过配置文件实现日志结构化处理,并提供配置语法参考链接。
摘要由CSDN通过智能技术生成

Logstash是一个具有实时管道功能的开源数据收集引擎。Logstash可以动态地统一来自不同数据源的数据,并将数据规范化为您选择的目标。为各种高级下游分析和可视化用例净化和民主化所有数据。
虽然Logstash最初推动了日志收集方面的创新,但它的功能远远超出了用例。任何类型的事件都可以通过大量的输入、过滤器和输出插件进行丰富和转换,许多本机编解码器进一步简化了摄入过程。Logstash通过利用更大的容量和各种数据来加速您的洞察力。

logstash.png

logstash可以将文档、数据库等非结构化数据进行结构化处理。

管道

basic_logstash_pipeline.png

logstash管道可以由一个或多个input filter output组成。其中filter是非必须的。

# The # character at the beginning of a line indicates a comment. Use
# comments to describe your configuration.
input {
   
}
# The filter part of this file is commented out to indicate that it is
# optional.
# filter {
   
#
# }
output {
   
}

input filter output区域可以包含子区域,如

input {
   
    file {
   
        path => "/path/to/logstash-tutorial.log"
        start_position => beginning 
        ignore_older =
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值