logstash配置文件的写法解析

本文详细解析了Logstash的配置文件写法,涵盖了从手动输入log到从文件读取log,通过过滤器filter进行格式化,再到将数据输入Elasticsearch并在Kibana中展示。还介绍了日期格式化问题以及如何处理log文件的读取问题。
摘要由CSDN通过智能技术生成

手动输入log,终端打印出消息

/opt/logstash/bin/logstash -e 'input{stdin{}}output{stdout{codec=>rubydebug}}'

然后你会发现终端在等待你的输入。没问题,敲入  test_str,回车,返回下面的结果就是OK的!

 

 

从test.conf文件中写入

一、最基础终端输入输出

input {
    stdin {
        add_field => {"key" => "value"}   #加上新的字段
        codec => "plain"
        tags => ["add"]     
        type => "std"
    }
}
output {
	stdout {
		codec => rubydebug
	}
}

然后运行:

/opt/logstash/bin/logstash -f /opt/conf/test.conf --config.reload.automatic

显示结果:

二、加上过滤filter,可以移除或者格式化成想要的格式的消息

input {
   stdin{
        add_field => {"key" => "value"}
        codec => "plain"
        tags => ["add"]
        type => "std"
   }
}
filter{
    date{
        match => ["datetime", "yyyy-MM-dd HH:mm:ss,SSS"]
        target => "@timestamp"
    }
    mutate {
      # 移除不需要看到的消息
      remove_field => ["host", "tags", "@version", "type"]
    }
}
output {
    stdout {
        codec => rubydebug
    }
}

 TIPS:

  1. host 标记事件发生在哪里。
  2. type 标记事件的唯一类型。
  3. tags 标记事件的某方面属性。这是一个数组,一个事件可以有多个标签。

三、输入到elasticsearch中,并且在kabana中展示数据。

input {
    stdin {
        type => "test"
        tags => ["wq"]
    }
}
filter{
    date{
        match => ["datetime", "yyyy-MM-dd HH:mm:ss,SSS"]
        target => "@timestamp"
     }
}
output {
    if "wq" in [tags] {
        elasticsearch {
            index => "log-2019-12-20_wang"
            hosts => ["127.0.0.1:9200"]
        }
        stdout {
            codec => rubydebug
        }
    }
}

终端正常打印

  • 1
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值