ELK——ELK日志架构学习

本文详细介绍了ELK(Elasticsearch, Logstash, Kibana, Filebeat)日志架构,包括其组件的工作原理和常见日志建构方案。重点讲述了Filebeat的Harvester和Prospector如何协同工作收集日志,以及Logstash的inputs、filters和outputs处理流程。此外,还讨论了ELK在日志收集、传输、存储和分析中的角色。" 101052793,6886905,CentOS7安装与使用Postgres11指南,"['postgresql11', '数据库管理系统', 'CentOS', 'Docker']
摘要由CSDN通过智能技术生成

一.ELK简介

  • ELK是目前微服务技术下,专门为日志收集、分析的一套架构。ELK是三个开源软件的缩写,分别表示:Elasticsearch,Logstash和Kibana。目前又新增了一个FileBeat,它是一个轻量级的日志收集处理工具(Agent),Filebeat占用资源少,适合于各个服务器上搜集日志后传输给Logstash。

ELK架构图如下:
在这里插入图片描述

  • Elasticsearch是个开源分布式搜索引擎,提供搜集、分析、存储数据三大功能。它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载。

  • Logstash 主要是用来日志的搜集、分析、过滤日志的工具,支持大量的数据获取方式。一般工作方式为c/s架构,client端安宁庄在需要收集日志的主机上,server端负责将收到的个节点日志进行过滤、修改等操作在一并发往elasticsearch上去。

  • Kibana也是一个开源的分析和可视化的工具,Kibana可以为Logstash和Elasticsearch提供的日志分析友好的web界面,可以帮助汇总、分析和搜索重要的数据日志。

Filebeat隶属于Beats。目前Beats包含四种工具:

1.Packetbeat(搜集网络流量数据)
2.Topbeat(搜集系统、进程和文件系统级别的CPU和内存使用情况等数据)
3.Filebeat(搜集文件数据)
4.Winlogbeat(搜集Windows事件日志数据)

  • 一个完整的日志采集系统,需要包括以下几个特点:
    收集 - 能够采集多种来源的日志数据
    传输 - 能够稳定的把日志数据传输到中央系统
    存储 - 高效的存储日志数据
    分析 - 可以支持UI分析
    警告 - 能够提供错误报告,监控机制<
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值