Logstash解析Json后并处理Json数组

1、目的:

项目用的是filebeat日志采集那一套,因业务问题或技术层面更方便,需将json中的数组拆分成多条入到es当中。


2、消息体:

(1)测试消息体

{
    "ecProvince": "北京",
    "ecId": 1,
    "ecName": "测试企业名称",
    "mobiles": [{
        "bizCode": "1",
        "mobile": "10000000000"
    }, {
        "bizCode": "2",
        "mobile": "20000000000"
    }],
    "type": 1
}

(2)目标消息体 


{
	"ecProvince": "北京",
	"ecId": 1,
	"ecName": "测试企业名称",
	"bizCode": "1",
	"mobile": "10000000000",
	"type": 1
} 

{
	"ecProvince": "北京",
	"ecId": 1,
	"ecName": "测试企业名称",
	"bizCode": "2",
	"mobile": "20000000000",
	"type": 1
}

3、Logstash运行环境:

环境:windows

logstash.conf读取本地txt文件

input {
    file {
        #type => "type_a"
		start_position => "beginning"
        path => ["D:/1.txt"]
		codec => json
    }
}

 4、Logstash实现:

如需转为json添加

    json {
        source => "message"
    }

filter{
	split {
		field => "mobiles"
	}
	mutate {
		add_field => {"field1" => "%{mobiles}"}
	}
	json {
		source => "field1"
	}
	mutate {
        remove_field => ["field1","mobiles"]
    }
}

5、运行效果:

根据业务场景,又对文章补充了采集消息体过大进行压缩解析 

Logstash解析程序压缩后的消息体

  • 10
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值