Logstash安装

该博客介绍了如何在Docker环境下拉取Logstash镜像,并配置Logstash从Kafka消费数据,通过filter进行处理,然后将结果输出到Elasticsearch。配置文件涉及kafka输入插件、elasticsearch输出插件,并提供了启动Logstash的Docker命令。
摘要由CSDN通过智能技术生成
  • 拉取镜像
docker pull docker.elastic.co/logstash/logstash:7.9.3 
  • pipeline管道配置文件创建

logstash.conf

#aracter at the beginning of a line indicates a comment. Use
# comments to describe your configuration.
input {
##此处如果是ELK配置,可以配置kafka数据源,若是filebeat,也可以配置beat数据源
  kafka {   
        bootstrap_servers => "192.168.47.131:9092"  ##Kafka的配置
        consumer_threads => 5
        topics_pattern => "topic_log_.*"
        decorate_events => true
        codec =>"json"
        auto_offset_reset => "earliest"
        group_id => "logstash1"
   }

}
# The filter part of this file is commented out to indicate that it is
# optional.
filter {     ##
     #  json{
    #    source =>"message"
   #     target =>"doc"
  #  }
 }
output {
  elasticsearch {   ##如果有x-pack安全模块,还需要加上x-pack安全模块的配置
    action => "index"
    hosts => ["192.168.47.128:9200","192.168.47.129:9201"]
    index => "%{[appname]}"
    }

  stdout{
   codec =>rubydebug
}
}
  • 启动脚本
 docker run -d --name logstash \
 -p 5045:5045  \
 -v /root/logstash/config/logstash.conf:/usr/share/logstash/pipeline/logstash.conf  \ 挂载配置文件
 docker.elastic.co/logstash/logstash:7.9.3

官方文档:https://www.elastic.co/guide/en/logstash/7.x/index.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值