Filebeat采集日志讲解(一)

本文详细介绍了Filebeat在ELKF中采集日志的配置,包括基础配置、自定义输出内容和格式、多路径采集、日志分类、自定义字段和合并多行日志。内容涵盖Filebeat的基础配置选项,如指定日志路径、自定义输出内容和格式、多路径配置、通过tags或自定义字段进行日志分类,以及如何处理多行日志。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

课前三分钟

在ELKF中,Filebeat作为日志采集端,采集日志并发送到kafka。input就是以文件形式存储的log文件,output就是kafka集群。

在采集日志中一般情况有以下几点需要注意的:

  1. 输出内容确定,一般包括时间戳,主机名,日志类型,日志内容,其他的根据业务的实际需求,无用信息可以直接过滤掉;
  2. 输出格式,一般使用json,需要自己拼成json格式;
  3. 多路径采集日志配置,同时采集多个服务的日志;
  4. 对不同种类的日志分类,后续在Logstash解析的时候可以实现不同的逻辑;
  5. 针对报错的日志进行多行合并;
  6. 日志偏移记录以及断点续传等细节上的配置

本节课我们将介绍filebeat的一些基本配置使用,课程中介绍的Filebeat基于6.3.0版本,配置上与早期版本会有些出入。

配置采集日志

本节提到的各个功能的配置,为了避免过多的冗余,只展示相关配置,如果对配置文件中格式有疑问,Filebeat模块最后会给出一个完整的配置样例参考。

基础配置

编辑/etc/filebeat/filebeat.yml(贴心小助手:配置文件注释比较长,我们可以在vi或vim进入编辑后使用“:25”,敲回车,光标会直接跳到25行)

filebeat.inputs:
  - type: log
    enabled: true
    encoding: utf-8
  paths:
     - /var/log/test.log

说明:

  • type,表示输入的数据类型,可选类型有(Log,Stdin,Redis,UDP,Docker,TCP,Syslog)。日志的就是Log;
  • enabled,表示此模块是否启用,如果为flase,则此模块不会被采集;
  • encoding,编码格式;
  • paths,配置日志的路径ÿ
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值