一.ELK简介
- ELK是目前微服务技术下,专门为日志收集、分析的一套架构。ELK是三个开源软件的缩写,分别表示:Elasticsearch,Logstash和Kibana。目前又新增了一个FileBeat,它是一个轻量级的日志收集处理工具(Agent),Filebeat占用资源少,适合于各个服务器上搜集日志后传输给Logstash。
ELK架构图如下:
-
Elasticsearch是个开源分布式搜索引擎,提供搜集、分析、存储数据三大功能。它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载。
-
Logstash 主要是用来日志的搜集、分析、过滤日志的工具,支持大量的数据获取方式。一般工作方式为c/s架构,client端安宁庄在需要收集日志的主机上,server端负责将收到的个节点日志进行过滤、修改等操作在一并发往elasticsearch上去。
-
Kibana也是一个开源的分析和可视化的工具,Kibana可以为Logstash和Elasticsearch提供的日志分析友好的web界面,可以帮助汇总、分析和搜索重要的数据日志。
Filebeat隶属于Beats。目前Beats包含四种工具:
1.Packetbeat(搜集网络流量数据)
2.Topbeat(搜集系统、进程和文件系统级别的CPU和内存使用情况等数据)
3.Filebeat(搜集文件数据)
4.Winlogbeat(搜集Windows事件日志数据)
- 一个完整的日志采集系统,需要包括以下几个特点:
收集 - 能够采集多种来源的日志数据
传输 - 能够稳定的把日志数据传输到中央系统
存储 - 高效的存储日志数据
分析 - 可以支持UI分析
警告 - 能够提供错误报告,监控机制<