FileBeat与LogStash简单测试对比

测试环境CPU内存系统版本硬盘大小网卡
192.168.145.1014个 每个4核24GLinux version 2.6.32-642.el6.x86_64--Red Hat Enterprise Linux Server release 6.8256G万兆网卡
1.5分钟的持续输入日志,Log4J2打印日志,beat扫描文件将日志传输给LogStash,LogStash使用logstash-input-beats插件,接收日志输送给ElasticSearch,最后展示到Kibana
2.5分钟的持续输入日志,Log4J2打印日志,LogStash使用logstash-input-file插件扫描文件将日志输送给ElasticSearch,最后展示到Kibana
以上测试全部采用单节点
 
 LogStashFileBeat备注  
内存400左右  20左右(目前所有日志文件夹扫描255左右)   
CPU8.5左右(0.2 内存占用不超过1)   
最后一行处理   
安全传输filebeat实现ssl加密验证  
背压敏感协议当接收端繁忙时,会通知收集端降低传输速率,并在正常后恢复速度  
插件   
适用场景   
功能从多种输入端采集并实时解析和转换数据并输出到多种输出端传输   
应急记忆上次读取节点记忆上次读取节点   
文档   
轻重轻量级框架(相对较重)轻量级二进制文件   
过滤能力强大的过滤能力有过滤能力但是弱   
进程一台服务器只允许一个logstash进程,挂掉之后需要手动拉起十分稳定都可以通过X-Pack的monitoring进行监控,5.1版本适配 
原理Logstash使用管道的方式进行日志的搜集和输出,分为输入input --> 处理filter(不是必须的) --> 输出output,每个阶段都有不同的替代方式开启进程后会启动一个或多个探测器(prospectors)去检测指定的日志目录或文件,对于探测器找出的每一个日志文件,filebeat启动收割进程(harvester),每一个收割进程读取一个日志文件的新内容,并发送这些新的日志数据到处理程序(spooler),处理程序会集合这些事件,最后filebeat会发送集合的数据到你指定的地点。   
编写语言Jrubygo语言   
集群单节点单节点   
输出到多个接收方支持6.0之前支持为保持管道的简单性,明确beat的输出范围  
二次开发或者扩展开发   
支持异步发送支持支持   
      
      
      
      
      
      
      
      
      
      
  • 1
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 6
    评论
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值