Logstash 配置文件

备份一个配置文件
(实际上我是为了一个1024的徽章)

1. 全部

logstash-test.conf

input {
    kafka {
        bootstrap_servers  => "127.0.0.1:9092"
        topics => ["test-log"]
    }
}
filter {
    json{
        source => "message"
    }
    date{
        match => ["time", "yyyy-MM-dd HH:mm:ss.SSS"]
        target => "@timestamp"
    }
	mutate {
        convert => [
		            "status", "integer"
		            ,"delay", "integer"
					]
    }
}
output {
    elasticsearch {
        hosts  => "127.0.0.1:9200"
        action => "index"
        index  => "test-log-%{+YYYY.MM.dd}"
        codec => "json"
    }
    stdout { 
        codec => rubydebug
    }
}

2. 拆分

input {
    kafka {
        bootstrap_servers  => "127.0.0.1:9092"
        topics => ["test-log"]
    }
}
# 配置数据源
filter {
    json{
        source => "message"
    }
    # 解析message字段 实际上传递的值被赋给了message,且是json格式
    # 为了将传递的json字符串转为对应不同的字段使用json组件
    date{
        match => ["time", "yyyy-MM-dd HH:mm:ss.SSS"]
        target => "@timestamp"
    }
    # time字段被解析出来,(赋值的时候format用的yyyy-MM-dd HH:mm:ss.SSS)
    # 将time字段的时间赋值给@timestamp字段(不赋值默认为信息上传时间)
	mutate {
        convert => [
		            "status", "integer"
		            ,"delay", "integer"
					]
    }
    # 将status、delay转为int类型
}
output {
    elasticsearch {
        hosts  => "127.0.0.1:9200"
        action => "index"
        index  => "test-log-%{+YYYY.MM.dd}"
        codec => "json"
    }
    # 数据发送到elasticsearch
    stdout { 
        codec => rubydebug
    }
    # logstash控制台输出
}
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值