利用Docker部署ELK来监控日志

最新推荐文章于 2024-03-19 14:59:33 发布
最新推荐文章于 2024-03-19 14:59:33 发布
阅读量518 收藏 2
点赞数 2
分类专栏： Docker 文章标签： docker 容器 运维
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_59855996/article/details/131697795
版权

目录

🍎Docker日志

🍉Dokcer logs

🍉ELK

🍉万能数据收集器fluentd

Docker日志

高效的监控和日志的管理对保持成产系统持续稳定地运行以及排查问题至关重要。在微服务架构中，由于容器的数量众多以及快速变化的特性使得记录日志和监控变得越来越重要，考虑到容器短暂和不固定的生命周期，当我们要debug问题时有些容器可能已经不存在了，因此，一套中式的日志管理系统是生产环境中不可或缺的组成部分。

这篇文章我们将讨论监控容器的各种技术个方案，首先会介绍Docker自带的logs子命令，然后讨论Docker的logging driver，接下来通过实践来学习几个已经广泛应用的日志管理方案：ELK、Fluentd和Graylog

Dokcer logs

我们首先来看一下默认配置下Docker的日志功能，对于一个正在运行的容器，Docker会将日志发送到容器的标准输出设备（STDOUT）和标准错误设备（STDERR），STDOUT和STDERR实际上就是容器的控制台终端。接下来举个例子，用先下面的命令运行httpd容器

[root@localhost ~]# docker run -p 80:80 httpd
0954cc1af252d824860b2c5dc0a10720af2b7a3d3435581ca788dff8480c7b32
Status: Downloaded newer image for httpd:latest
AH00558: httpd: Could not reliably determine the server's fully qualified domain name, using 172.17.0.2. Set the 'ServerName' directive globally to suppress this message
AH00558: httpd: Could not reliably determine the server's fully qualified domain name, using 172.17.0.2. Set the 'ServerName' directive globally to suppress this message
[Sat May 20 05:27:36.178829 2023] [mpm_event:notice] [pid 1:tid 140277663821120] AH00489: Apache/2.4.52 (Unix) configured -- resuming normal operations
[Sat May 20 05:27:36.180417 2023] [core:notice] [pid 1:tid 140277663821120] AH00094: Command line: 'httpd -D FOREGROUND'

因为我们在启动日志的时候没有用-d的参数，httpd容器就以前台的方式启动了，日志会直接打印在当前的终端窗口。如果加上-d参数是以后台的方式运行容器，我们就看不到数据的日志了

[root@localhost ~]# docker run -p 80:80 -d httpd
735706cc9b3148a4d0a7aa3a6a854733d809a5c6f444aa9e851640761002d39b

如果我们在运行容器的时候加上-d的参数了，如果我们要查看日志有两种方法：我们可以用attach方式到该容器

[root@localhost ~]# docker attach 735706cc9b3148a4d

当我们执行docker attach命令之后不会显示之前的日志信息，他只会显示执行这条命令之后的标准输出个标准错误输出

当我们把这个容器放到后台时想要查看之前的日志信息可以使用 docker logs命令

 [root@localhost ~]# docker logs -f 735706cc9b3148a4d

ELK

在开源的日志管理方案中，最出名的莫过于ELK了。

ELK是三个软件的合称：Elasticsearch、Logstash、Kibana。

  • Elasticsearch：一个近乎实时查询的全文搜索引擎。Elasticsearch的设计目标就是要能够处理个搜索巨量的日志数据。

  • Logstash：是读取原始日志，并对其进行分析和过滤，然后将其转发给其他组件（比如Elasticsearch）进行索引或存储。Logstash支持丰富的lnput和Output类型，能够处理各种应用的日志。

  • Kibana：一个基于javaScript的web图形界面程序，专门用于可视化Elasticsearch的数据。Kibana能够查询Elasticsearch并通过丰富的图标展示结果。用户可以创建Dashboard来监控系统的日志

接下来将讨论如何用ElK这组黄金搭档来监控Docker容器的日志

首先我们来看一下Docker部署环境下典型的ELK日志处理流程：

 

Logstash负责从各个Docker容器中提取日志，然后Logstash将日志转发到Elasticsearch进行索引和保存，Kibana分析和可视化数据。

ElK的部署方案可以是非常灵活的，在规模比较大的成产系统中，ELK有自己的群集，实现了高可用和负载均衡

现在来部署ELK，然后还有安装的前提条件：

  • Docker至少需要分配3GB的内存

  • Elasticsearch至少需要单独2G的内存

  • 需要防火墙开放相关的端口，或者关闭防火墙

  • vm.max_map_count至少需要262144

我们可以查看一下

[root@localhost ~]# sysctl vm.max_map_count

如果不是然后在修改/etc/sysctl.conf文件

[root@localhost ~]# cat /etc/sysctl.conf 
# sysctl settings are defined through files in
# /usr/lib/sysctl.d/, /run/sysctl.d/, and /etc/sysctl.d/.
#
# Vendors settings live in /usr/lib/sysctl.d/.
# To override a whole file, create a new file with the same in
# /etc/sysctl.d/ and put new settings there. To override
# only specific settings, add a file with a lexically later
# name in /etc/sysctl.d/ and put new settings there.
#
# For more information, see sysctl.conf(5) and sysctl.d(5).
vm.max_map_count = 262144

修改完成之后不需要重启，然后在下载elk镜像

[root@localhost ~]# docker pull sebp/elk

然后运行elk镜像

[root@localhost ~]# docker run -p 5601:5601 -p 9200:9200 -p 5044:5044 -itd -e ES_HTAP_SIZE='2g' -e LS_HEAP_SIZE='1g' --name elk sebp/elk

启动之后可以访问的端口，我们在网页上访问的时候等待的时间有点长

5601（Kibana web界面）

9200（Elasticsearch json接口）

5044 （Logstash Beats界面，从Beats接收日志，如Filebeat）

前面我们已经部署了容器化的ELK，下面讨论如何将日志导入ElK并进行图形化展示，几乎所有的软件和应用都有自己的日志文件，容器也不例外。前面我们已经知道Docker会将容器日志记录到/var/lib/docker/containers//-json.log，那么只要我们能够将此文件发送给ELK就可以实验日志管理，要是先这一步并不难，因为ELK提供了一个配套小工具Filebeat，它能将指定路径下的日志文件转发给ELK。同时Filbeat很聪明，他会监控日志文件，当日志更新时，Filebeat会将新的内容发送给ELK。

下面安装Filebeat来收集docker 容器中的日志

curl -L -O https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-7.16.2-x86_64.rpm
sudo rpm -vi filebeat-7.16.2-x86_64.rpm

Filebeat的配置文件为/etc/filebeat/filebeat.yml，我么只需要告诉Filebeat：监控哪些日志和将日志发送到哪里

修改/etc/filebeat/filebeat.yml文件 添加dodcker容器的日志文件位置

 paths:
    # - /data/*.log
   - /var/lib/docker/containers/*/*.log
    #- /var/log/messages
    #- /var/log/*.log
    #- c:\programdata\elasticsearch\logs\*

接下来告诉Filebeat将这些日志发送给ELK。Filebeat可以将日志发送给Elasticsearch进行索引和保存；也可以先发送给Logstash进行分析和过滤，然后由Logstash转发给Elasticsearch。为了不引入过多的复发性，我们这里将日志直接发送给Elasticsearch

修改Kibana模块的ip地址

#============================== Kibana =====================================
​
# Starting with Beats version 6.0.0, the dashboards are loaded via the Kibana API.
# This requires a Kibana endpoint configuration.
setup.kibana:
  host: "192.168.8.6:5601"

在修改Elasticsearch模块的ip地址

#-------------------------- Elasticsearch output ------------------------------
output.elasticsearch:
  # Array of hosts to connect to.
  hosts: ["192.168.8.10:9200"]
​
  # Optional protocol and basic auth credentials.
  #protocol: "https"
  #username: "elastic"
  #password: "changeme"

然后保存退出

启用和配置弹性搜索模块

sudo filebeat modules enable elasticsearch

启动文件节拍

sudo filebeat setup
sudo service filebeat start

下面我们启动一个新的容器，该容器将向控制台打印信息，模拟日志输出

[root@localhost filebeat]# docker run busybox sh -c 'while true; do echo "this a log message form container busybox!";sleep 1; done'

然后在访问网页192.168.8.6:5601就可以发现日志信息

万能数据收集器fluentd

上面的ELK中我们是用Filebeat收集Docker容器日志，利用的是Docker默认的logging driver json-file，接下来我们将使用fluentd来收集容器的日志。

fluentd是一个开源的数据收集器，它目前有超过500种的plugin，可以连接各种数据源的数据输出组件，在接下来的实践中，Fluentd负责收集容器日志，然后发送给Elasticsearch。

同样的，最高效的实践方法是运行一个fluentd容器

[root@localhost filebeat]# docker run -d -p 24224:24224 -p 24224:24224/udp -v /data:/fluentd/log fluent/fluentd
af8841b12da1a0eca8c737bc5cdab4be29e4914a49c5436883a94cd196dfefdf

fluentd会在24224端口上接收日志数据，日志将保存在Host的/data目录中，然后重新配置Filebeat编辑Filebeat的配置文件/etc/filebeat/filebeat.yml，将/data添加到监控路径中

 paths:
     - /data/*.log
    #- /var/lib/docker/containers/*/*.log
    #- /var/log/messages
    #- /var/log/*.log
    #- c:\programdata\elasticsearch\logs\*

重启filebeat

[root@localhost filebeat]# systemctl restart filebeat.service

我们监控容器日志，启动测试容器

[root@localhost filebeat]# docker run -d --log-driver=fluentd --log-opt fluentd-address=192.168.8.6:24224 --log-opt tag="log-test-container-A" busybox sh -c 'while true; do echo "this is a log message form container A";sleep 1; done'
a6416675062aebf5e007aa2c413fde4f0d4afb25a825f3d2cafa89be95eaa86d
[root@localhost filebeat]# docker run -d --log-driver=fluentd --log-opt fluentd-address=192.168.8.6:24224 --log-opt tag="log-test-container-B" busybox sh -c 'while true; do echo "this is a log message form container B";sleep 1; done'

--log-driver=fluentd告诉Docker使用Fluentd的logging driver

--log-opt fluentd-address=localhost:24224将容器日志发送到Fluentd的数据接收端口

--log-opt tag='log-test-container-A'和'log-test-container-B'在日志中添加一个可选的tag，用于区分不同的容器

在访问192.168.8.10:5601就可以发现测试的日志信息

闪丘
关注
  • 2
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
专栏目录
利用docker来部署fastdfs集群.zip
01-09
利用docker来部署fastdfs集群.zip
Docker构建ELK Docker集群日志收集系统
09-30
为了在Docker集群中更好的管理查看日志 我们使用Docker 来搭建集群的ELK日志收集系统，这篇文章介绍了Docker构建ELK Docker集群日志收集系统的相关资料,需要的朋友可以参考下
docker搭建ELK日志采集并查询日志
最新发布
weixin_41961922的博客
03-19 696
docker安装ELK日志采集并数据的查询，集成到springboot中进行数据获取
基于Docker搭建ELK分布式日志系统
Y_eatMeat的博客
08-31 809
基于Docker搭建ELK分布式日志系统详细教程
docker 安装 elasticsearch
axibazZ的博客
09-01 611
elastic stack相关软件使用docker 安装
docker搭建elk日志系统
dxtljly的博客
10-08 847
ELK即Elasticsearch、Logstash、Kibana,组合起来可以搭建线上日志系统。搭建了ELK日志收集系统之后，我们如果要查看SpringBoot应用的日志信息，就不需要查看日志文件了，直接在Kibana中查看即可。摘自：https://www.macrozheng.com/mall/reference/mall_tiny_elk.html#%E5%BC%80%E5%A7%8B%E6%90%AD%E5%BB%BA。
python脚本通过监控docker容器日志监控hyperledger fabric区块高度、共识时延信息
10-29
python脚本通过监控docker容器日志监控hyperledger fabric区块高度、共识时延信息 注意修改文件中数据库信息
docker日志监控
chicaoxia5444的博客
07-22 540
日志处理机制 我们先来了解一下docker日志处理的机制，当启动一个容器的时候，它其实是docker daemon的一个子进程，docker daemon可以拿到你容器里面进程的标准输出，拿到标准输出后，它会通过自身的一个LogDriver模块来处理，LogDriver支持的方式很多，...
Docker-搭建日志监控系统
weixin_43933078的博客
04-06 185
项目中常用集中日志收集工具 Logstash Logstash是一个开源数据收集引擎，具有实时管道功能。Logstash可以动态地将来自不同数据源的数据统一起来，并将数据标准化到你所选择的目的地。 优点 Logstash 主要的有点就是它的灵活性，主要因为它有很多插件，详细的文档以及直白的配置格式让它可以在多种场景下应用。我们基本上可以在网上找到很多资源，几乎可以处理任何问题。 缺点 Logstash 致命的问题是它的性能以及资源消耗(默认的堆大小是 1GB)。尽管它的性能在近几年已经有很大提升，与
「初级篇」跟我一起学docker(15)--监控日志和日志管理
IT架构圈博客
05-27 463
>>原创文章，欢迎转载。转载请注明：转载自IT人故事会，谢谢！ >>原文链接地址：跟我一起学docker(15)–监控日志和日志管理 为什么要进行日志收集？ 应用程序跑在集群中，产生很多的日志，日志中包含着程序运行的情况的纪录，查看单个机器的日志过程繁琐，所以需要统一的日志管理平台对日志进行统一处理，将所有应用程序的日志收集起来，可以对日志进行存储、归档、查询、状态判...
ELK前端日志分析、监控系统
热门推荐
eclipse_xu
11-28 1万+
前端日志与后端日志不同，具有很强的自定义特性，不像后端的接口日志、服务器日志格式比较固定，大部分成熟的后端框架都有非常完善的日志系统，借助一些分析框架，就可以实现日志的监控与分析，这也是运维工作的一部分。什么是ELKELK在服务器运维界应该是运用的非常成熟了，很多成熟的大型项目都使用ELK来作为前端日志监控、分析的工具。那么首先，我们来了解下什么是ELK，ELK实际上是三个工具的集合： E：Elas
使用Docker搭建ELK日志系统的方法示例
09-30
主要介绍了使用Docker搭建ELK日志系统的方法示例，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧
docker安装ELK日志平台
02-06
ELK是三个开源软件的缩写，分别表示：Elasticsearch , Logstash, Kibana , 它们都是开源软件。新增了一个FileBeat，它是一个轻量级的日志收集处理工具(Agent)，Filebeat占用资源少，适合于在各个服务器上搜集日志后...
docker搭建简单elk日志系统1（elasticsearch）
weixin_44835704的博客
02-24 489
4.创建elk/elasticsearch、elk/logstash、elk/kibana文件夹用于挂载配置文件。7.给挂载目录设置权限，使容器内外权限一致，elasticsearch内部用户gid:1000,uid:1000。2.修改/etc/security/limits.conf 文件,追加或修改配置。11.删除之前创建的elasticsearch容器并运行启动脚本。访问https://192.168.81.129:9200/6.另开一个窗口登录服务器。查看状态sestatus。
elk(elasticsearch+logstash+kibana)搭建日志监控平台
who_I_am__的博客
11-05 3669
基于 ELK（Elasticsearch、Logstash、Kibana）技术栈搭建了一个日志监控平台。
ELK日志平台分析（Elasticsearch安装配置+logstash数据采集+Kibana数据可视化+xpack安全验证）
Aimee_c的博客
06-12 3786
文章目录1.Elasticsearch1.1 Elasticsearch介绍1.2 Elasticsearch的安装与配置1.安装软件并修改配置文件2.修改系统限制3.修改systemd启动文件4.elasticsearch插件安装5.更换npm的yum源（要求虚拟机可上网）6.修改es主机ip和端口7.启动head插件8.修改ES跨域主持9.创建索引1.3 配置Elasticsearch集群1.4 Elasticsearch中的节点角色与优化1.Elasticsearch中的节点角色2.Elasticse
ELK日志监控系统搭建详细步骤(针对docker容器启动的镜像、微服务版)
weixin_53551326的博客
12-20 2996
ELK日志监控系统搭建详细步骤(针对docker容器启动的镜像、微服务版)
Docker搭建ELK Stack企业日志平台
小白圈养的小星的博客
11-29 364
ELK Stack企业日志平台介绍 ELK是由 Elasticsearch（搜索引擎）、Logstash（日志收集）和Kibana（可视化平台） 三部分组件组成。 本文中还引入了filebeat工具，相对于logstash，filebeat的资源占用率更低。 ELK Stack企业日志平台安装部署 本文采用的ELk镜像为 https://hub.docker.com/ 提供的官方镜像，也有很多非官...
068. Docker 日志监控
山海散客
09-16 104
1. Docker 日志 当启动一个容器的时候，它其实是 docker daemon 的一个子进程，docker daemon 可以拿到你容器里面进程的...
ELK+kafka+reyslog+filebeat企业级部署
05-20
ELK（Elasticsearch、Logstash、Kibana）是一个开源的日志管理和分析平台，能够帮助企业收集、存储、搜索、分析和可视化各种类型的日志数据。而Kafka是一个高吞吐量的分布式消息队列系统，可以用来收集和传输大规模的日志数据。Reyslog是一个开源的日志收集器，可以帮助企业从各种不同的数据源中收集日志数据。Filebeat是一个轻量级的日志收集工具，可以帮助企业从各种不同的文件中收集日志数据。 以下是ELK+kafka+reyslog+filebeat企业级部署的步骤： 1. 安装和配置Elasticsearch、Logstash和Kibana，并确保它们能够正常运行。可以使用docker-compose等工具来简化部署过程。 2. 安装和配置Kafka，并创建一个主题(topic)用于存储日志数据。 3. 安装和配置Reyslog，并将其配置为从各种不同的数据源中收集日志数据，并将其发送到Kafka主题(topic)中。 4. 安装和配置Filebeat，并将其配置为从各种不同的文件中收集日志数据，并将其发送到Kafka主题(topic)中。 5. 在Kibana中创建一个索引(index)，并定义一个包含所有必需字段的映射(mapping)。然后，使用Logstash来将从Kafka主题(topic)中接收到的日志数据转换为适合索引(index)的格式，并将其存储在Elasticsearch中。 6. 在Kibana中创建一个仪表板(dashboard)，并使用其可视化功能来呈现和分析日志数据。可以使用各种不同的可视化插件来创建自定义可视化效果。 7. 部署整个系统，并定期监控其性能和可用性，以确保其正常运行。 总之，ELK+kafka+reyslog+filebeat企业级部署需要进行一系列复杂的配置和设置，需要具备一定的技术知识和实践经验。建议企业可以考虑使用专业的日志管理和分析平台，如Splunk等，以简化部署和管理过程。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值