rancher配置日志集中管理

rancher中配置pod日志集中管理
不管在什么环境下，日志的收集及集中化管理是开发及日常运维排错必不可少的。
关于日志集中化收集架构有很多种，最常见的如ELK、EFK等。
本文采用rancher2.4.5中集成的容器日志收集工具为fluentd。这里的fluent不是efk当中的F，EFK当中的F为filebeat。
实验环境为：rancher（fluentd+es+kibana），其中es和kibana搭建在redhat7.4中。
一、rancher日志架构图

二、elasticsearch及kibana服务端搭建（es为单节点）
es官方下载：https://www.elastic.co/cn/downloads/elasticsearch
目前官网最新版为7.10.1，本文实验版本为elasticsearch-7.9.3-linux-x86_64.tar.gz
kibana版本为：kibana-7.0.1-linux-x86_64.tar.gz
rancher集成fluent版本为：fluentd:v0.1.19
jdk安装这里不做介绍
第一部分： es搭建
创建es系统账户：useradd -u 801 -m es -g es -d /app/es
解压：tar -xzf elasticsearch-7.9.3-linux-x86_64.tar.gz -C …/install
修改es配置文件
vim …/install/elasticsearch-7.9.3/config/elasticsearch.yml
node.name: rhel7-log
network.host: 0.0.0.0
http.port: 9200
cluster.initial_master_nodes: [“rhel7-log”]
http.cors.enabled: true
http.cors.allow-origin: ""
http.cors.allow-headers: Authorization
xpack.security.enabled: true
xpack.license.self_generated.type: basic
xpack.security.transport.ssl.enabled: true*
根据需要调整jvm启动参数
jvm.options
配置es用户认证
./bin/elasticsearch-keystore create
./bin/elasticsearch-setup-passwords interactive
上面步骤可以给ES中许多内置的用户创建密码
elastic 账号：拥有 superuser 角色，是内置的超级用户。
kibana 账号：拥有 kibana_system 角色，用户 kibana 用来连接 elasticsearch 并与之通信。
Kibana 服务器以该用户身份提交请求以访问集群监视 API 和 .kibana 索引。不能访问 index。
logstash_system 账号：拥有 logstash_system 角色。用户 Logstash 在 Elasticsearch 中存储监控信息时使用。
beats_system账号：拥有 beats_system 角色。用户 Beats 在 Elasticsearch 中存储监控信息时使用。
elastic是超级用户，它可以做任何事情
启动es服务后台运行
/app/es/install/elasticsearch-7.9.3/bin/elasticsearch -d
如果启动有错，可以查看日志文件：logs/elasticsearch.log

第二部分：kibana安装
这里kibana的用户依然采用es用户。
tar -xzf kibana-7.0.1-linux-x86_64.tar.gz -C …/install/
[es@rhel7-log config]$ grep -v “#” kibana.yml
server.port: 5601
server.host: “0.0.0.0”
server.name: “rhel7-log”
elasticsearch.hosts: [“http://192.168.54.129:9200”]
elasticsearch.username: “kibana”
elasticsearch.password: “123456”
启动kibana服务：./bin/kibana -d
至此es和kibana搭建完成
浏览器访问：192.168.54.129:5601 会弹出界面用户认证。输入kibana 123456
三、rancher当中配置日志服务收集
第一步、打开用户集群system查看fluentd工作负载是否正常运行，这里fluentd是rancher已经集成好的。如果查看不正常，请检查错误原因
第二步、配置项目日志收集
这里不光可以配置项目日志收集，也可以配置集群全局。根据自己需要配置
选择项目、工具、日志，如下图，
在这里配置es服务端地址。也可以以文件形式进行编辑。这里选择图形化界面配置

这里可以添加自定义log字段，在左边添加可以看到自动会在json中生成相对应的代码。默认刷新时间间隔为60s，至此rancher日志对接es服务端已配置完成。
第三步、配置工作负载日志收集
编辑相对应的工作负载，数据卷、添加卷选择从目录读取日志
这里记住是配置容器中日志路径，日志格式根据需要选择相应的配置。这里也可以选择使用自定义fluentd正则表达式。
不知道正则规则怎么写点击测试正则表达式.输入之后会在最下方自动生成相对应的配置文件

配置完成之后，点击升级，pod会自动重新创建。至此容器日志收集已配置完成。

四、验证，打开kibana进行配置
点击管理、index Management 可以看到在rancher中配置日志索引格式
在kibana中点击index patterns创建。选择自己的索引名称。点击create。这里已经添加了三个相关数据。（具体kibana中配置说明可以参考官网配置）
下面可以查看容器中日志输出。这里选择自己需要查看的日志名称
至此rancher中pod日志收集配置已完成。