Kubernetes实录-第一篇-集群部署配置(25) Kubernetes日志方案-使用EFK实现日志管理(2)-配置外部ELK服务

已于 2023-04-17 16:25:39 修改
阅读量300 收藏 1
点赞数
分类专栏： Kubernetes 文章标签： elasticsearch
于 2020-07-30 18:04:51 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/oyym_mv/article/details/107696120
版权

Kubernetes实录系列记录文档完整目录参考: Kubernetes实录-目录

相关记录链接地址 ：

一、资源准备与约定

1.1 服务器资源

主机名称ip地址操作系统角色软件版本备注
ejucselasticsearch-shylf-110.116.71.64CentOS 7.6logstash+Elasticsearch7.8.1
ejucselasticsearch-shylf-210.116.71.65CentOS 7.6logstash+Elasticsearch7.8.1
ejucselasticsearch-shylf-310.116.71.66CentOS 7.6logstash+Elasticsearch7.8.1

1.2 系统初始化

这里系统采用最小化安装，根据需要进行初始化，这里初始化省略。
禁用selinux，关闭firewalld[所有节点]

# 禁用selinux
sed -i 's/SELINUX=enforcing/SELINUX=disabled/g' /etc/selinux/config
setenforce 0

# 关闭防火墙
yum install -y firewalld
systemctl stop firewalld.service
systemctl disable firewalld.service

主机名称解析[所有节点]

cat /etc/hosts
# 其他省略
10.116.71.64  ejucselasticsearch-shylf-1
10.116.71.65  ejucselasticsearch-shylf-2
10.116.71.66  ejucselasticsearch-shylf-3

调优

cat /proc/sys/fs/file-max 
1610023

cat /etc/security/limits.d/90-nproc.conf 
*          soft    nproc     10240
*          hard    nproc     10240
*          soft    nofile    102400
*          hard    nofile    102400
root       soft    nproc     unlimited


echo 'vm.max_map_count = 409600' >>  /etc/sysctl.conf
sysctl -p

1.3 软件版本与下载地址

	# tree
	├── elasticsearch-7.8.1-linux-x86_64.tar.gz
	└── logstash-7.8.1.tar.gz
  • elasticsearch
    版本：elasticsearch采用当前最新版本7.8.1
    地址：地址：https://www.elastic.co/cn/downloads/elasticsearch 选择下载elasticsearch-7.8.1-linux-x86_64.tar.gz
  • logstash
    版本：logstash采用当前最新版本7.8.1
    地址：https://www.elastic.co/cn/downloads/logstash 选择下载logstash-7.8.1.tar.gz

1.4 安装路径约定

二进制分发的软件统一安装在/opt/app/install目录下，并且带版本号。然后软连接到/opt/app/目录下，不携带版本号。例如jdk

# ll /opt/app/install/
drwxr-xr-x 8 root  root  115 Aug  3 15:27 logstash-7.8.1

# ll /opt/app/
lrwxrwxrwx 1 root root 27 Aug  3 15:30 logstash -> /opt/app/install/logstash-7.8.1

二、Elasticsearch集群部署配置

创建账户与相关路径

# 可以创建启动es的账户和组，我所在的环境业务应用统一使用运维组:账户admin:admin启动
# groupadd -g 800 elasticsearch
# useradd -s /sbin/nologin -g 800 -u 800 -M elasticsearch

mkdir -p /var/lib/elasticsearch/data
mkdir -p /var/log/elasticsearch/logs
chown -R admin:admin /var/lib/elasticsearch
chown -R admin:admin /var/log/elasticsearch

将下载的Elasticsearch二进制软件包解压并放置到安装目录[所有节点]

tar zxvf elasticsearch-7.8.1-linux-x86_64.tar.gz -C /opt/app/install/
ln -s /opt/app/install/elasticsearch-7.8.1 /opt/app/elasticsearch

ls -l /opt/app/elasticsearch
/opt/app/elasticsearch -> /opt/app/install/elasticsearch-7.8.1
chown -R admin:admin /opt/app/install/elasticsearch-7.8.1 
chown -R admin:admin /opt/app/elasticsearch

配置Elasticsearch，各节点配置有所不同[所有节点]

vi /opt/app/elasticsearch/config/elasticsearch.yml
#其他参数保存不变，如有需要可以修改调优
cluster.name: ejucs-cluster
node.name: ejucselasticsearch-shylf-1    # 配置各节点的主机名称
path.data: /var/lib/elasticsearch/data
path.logs: /var/log/elasticsearch/logs
network.host: 10.116.71.64             # 配置各节点的主机IP地址
http.port: 9200
discovery.seed_hosts: ["10.116.71.64", "10.116.71.65", "10.116.71.66"]
cluster.initial_master_nodes: ["10.116.71.64", "10.116.71.65", "10.116.71.66"]

调整JVM参数，修改Elasticsearch使用的内存[所有节点]

vi /opt/app/install/elasticsearch-7.8.1/config/jvm.options
-Xms8g
-Xmx8g
8-13:-XX:+UseConcMarkSweepGC
8-13:-XX:CMSInitiatingOccupancyFraction=75
8-13:-XX:+UseCMSInitiatingOccupancyOnly
14-:-XX:+UseG1GC
#-XX:+HeapDumpOnOutOfMemoryError
#-XX:HeapDumpPath=/data/logs/elasticsearch_29200h
#-XX:ErrorFile=/data/logs/elasticsearch_29200/hs_err_pid%p.log
8:-XX:+PrintGCDetails
8:-XX:+PrintGCDateStamps
8:-XX:+PrintTenuringDistribution
8:-XX:+PrintGCApplicationStoppedTime
8:-Xloggc:/data/logs/elasticsearch_29200/gc.log
8:-XX:+UseGCLogFileRotation
8:-XX:NumberOfGCLogFiles=32
8:-XX:GCLogFileSize=64m
#9-:-Xlog:gc*,gc+age=trace,safepoint:file=/data/logs/elasticsearch_29200/gc.log:utctime,pid,tags:filecount=32,filesize=64m

备注：服务器内存为16GB，设置es内存使用不超过一半

启动Elasticsearch[所有节点]

/opt/app/elasticsearch/bin/elasticsearch -d

netstat -pltn
#这里第一个节点为例：各个节点监听的IP地址是不同的。
tcp        0      0 10.116.71.64:9200       0.0.0.0:*               LISTEN      4338/java           
tcp        0      0 10.116.71.64:9300       0.0.0.0:*               LISTEN      4338/java

#node1为例，各个节点监听的IP地址是不同的
curl 10.116.71.64:9200
{
  "name" : "ejucselasticsearch-shylf-1",
  "cluster_name" : "ejucs-cluster",
  "cluster_uuid" : "l7bwgu6EQ2i8ml73mgLwlg",
  "version" : {
    "number" : "7.8.1",
    "build_flavor" : "default",
    "build_type" : "tar",
    "build_hash" : "b5ca9c58fb664ca8bf9e4057fc229b3396bf3a89",
    "build_date" : "2020-07-21T16:40:44.668009Z",
    "build_snapshot" : false,
    "lucene_version" : "8.5.1",
    "minimum_wire_compatibility_version" : "6.8.0",
    "minimum_index_compatibility_version" : "6.0.0-beta1"
  },
  "tagline" : "You Know, for Search"
}

systemd自启动脚本[待进一步优化处理]

[Unit]
Description=Elasticsearch
Documentation=http://www.elastic.co
Wants=network-online.target
After=network-online.target

[Service]
Type=forking
Group=admin
User=admin
LimitNOFILE=65536
LimitNPROC=4096
Environment=ES_HOME=/opt/app/elasticsearch
Environment=ES_PATH_CONF=/opt/app/elasticsearch/config
Environment=PID_DIR=/opt/app/elasticsearch
EnvironmentFile=-/opt/app/elasticsearch/config/elasticsearch
WorkingDirectory=/opt/app/elasticsearch
ExecStart=/opt/app/elasticsearch/bin/elasticsearch -d

[Install]
WantedBy=multi-user.target


systemctl daemon-reload
systemctl start elasticsearch.service
systemctl status elasticsearch.service

三、logstash部署配置

准备java环境

tar zxvf jdk-11.0.8_linux-x64_bin.tar.gz -C /opt/app/install/
ln -s /opt/app/install/jdk-11.0.8 /opt/app/jdk

vi /etc/profile.d/java.sh
export JAVA_HOME=/opt/app/jdk
export PATH=$PATH:$JAVA_HOME/bin

chmod +x /etc/profile.d/java.sh
source /etc/profile.d/java.sh

# java -version
java version "11.0.8" 2020-07-14 LTS
Java(TM) SE Runtime Environment 18.9 (build 11.0.8+10-LTS)
Java HotSpot(TM) 64-Bit Server VM 18.9 (build 11.0.8+10-LTS, mixed mode)

将下载的logstash二进制软件包加压并放置到安装目录[所有节点]

tar zxvf logstash-7.8.1.tar.gz  -C /opt/app/install/
ln -s /opt/app/install/logstash-7.8.1 /opt/app/logstash
chown -R admin:admin /opt/app/install/logstash-7.8.1
chown -R admin:admin  /opt/app/logstash

备注：logstash只用来从kafka获取数据处理后输出到ES，不用来收集例如syslog等日志，不用部署在root账户下，这里部署跟es一致部署在admin运维账户下，也可以建立单独的账户允许。

配置logstash[所有节点]

/opt/app/logstash/config/

调整JVM参数，修改logstash使用的内存[所有节点]

/opt/app/logstash/config/jvm.options
#其他参数保存不变，如有需要可以修改调优

启动logstash[所有节点]

-Xms2g
-Xmx2g

四、Kibana部署配置

将下载的Kibana二进制软件包加压并放置到安装目录

tar zxvf kibana-7.8.1-linux-x86_64.tar.gz -C /opt/app/install/
ln -s /opt/app/install/kibana-7.8.1-linux-x86_64 /opt/app/kibana
chown -R admin:admin /opt/app/install/kibana-7.8.1-linux-x86_64
chown -R admin:admin  /opt/app/kibana

配置Kibana

vi /opt/app/kibana/config/kibana.yml
server.port: 5601
server.host: "10.116.71.69"
elasticsearch.hosts: ["http://10.116.71.64:9200", "http://10.116.71.65:9200", "http://10.116.71.66:9200"]

启动Kibana[所有节点]

nohup /opt/app/kibana/bin/kibana &

在这里插入图片描述

五、简单验证Elasticsearch集群与logstash

5.1 验证Elasticsearch集群

集群状态查询

curl -X GET "10.116.71.64:9200/_cat/health?v"
epoch      timestamp cluster       status node.total node.data shards pri relo init unassign pending_tasks max_task_wait_time active_shards_percent
1596558879 16:34:39  ejucs-cluster green           3         3      0   0    0    0        0             0                  -                100.0%

集群节点查询

curl -X GET "10.116.71.64:9200/_cat/nodes?v"
ip           heap.percent ram.percent cpu load_1m load_5m load_15m node.role master name
10.116.71.65           10          68   0    0.00    0.02     0.05 dilmrt    -      ejucselasticsearch-shylf-2
10.116.71.64           10          69   0    0.00    0.01     0.05 dilmrt    *      ejucselasticsearch-shylf-1
10.116.71.66            9          68   0    0.00    0.01     0.05 dilmrt    -      ejucselasticsearch-shylf-3

//heap.percent 堆内存的百分比

列出集群index，当前没有创建index，返回为空值

curl -X GET "10.116.71.64:9200/_cat/indices?v"
health status index uuid pri rep docs.count docs.deleted store.size pri.store.size
5.2 验证logstash
毛小威
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
elk-kubernetes：此仓库显示了如何在Kubernetes上配置完整的EFK堆栈
02-03
elk-kubernetes：此仓库显示了如何在Kubernetes上配置完整的EFK堆栈
follow-me-install-kubernetes-cluster：和我一步步部署kubernetes
02-02
follow-me-install-kubernetes-cluster：和我一步步部署kubernetes
kubernetes部署日志
MengMengDeXiaoJi的博客
04-27 304
禁用swap分区，使用以下命令，亦可以手动注释/etc/fstab下的swap分区。
【云原生】【k8s】Kubernetes+EFK构建日志分析安装部署
最新发布
2302_77582029的博客
08-16 3308
【云原生】【k8s】Kubernetes+EFK构建日志分析安装部署
kubernetes集群部署EFK收集集群日志
weixin_56790951的博客
11-08 1146
kubernetes部署efk收集集群日志
Kubernetes部署(七)：k8s项目交付----（4）日志收集
Jerry00713的博客
04-14 6892
• 日志，对于任何系统来说都是及其重要的组成部分。在计算机系统里面，更是如此。但是由于现在的计算机系统大多比较复杂，很多系统都不是在一个地方，甚至都是跨国界的;即使是在一个地方的系统，也有不同的来源，比如，操作系统，应用服务，业务逻辑等等。他们都在不停产生各种各样的日志数据。根据不完全统计，我们全球每天大约要产生2EB的数据。 • K8S系统里的业务应用是高度“动态化”的，随着容器编排的进行，业务容器在不断的被创建、被摧毁、被迁移（漂)、被扩缩容... • 面对如此海量的数据，又是分布在各个不同......
Kubernetes-基于EFK进行统一的日志管理
菲宇运维
08-23 7282
1、统一日志管理的整体方案 通过应用和系统日志可以了解Kubernetes集群内所发生的事情，对于调试问题和监视集群活动来说日志非常有用。对于大部分的应用来说，都会具有某种日志机制。因此，大多数容器引擎同样被设计成支持某种日志机制。对于容器化应用程序来说，最简单和最易接受的日志记录方法是将日志内容写入到标准输出和标准错误流。 但是，容器引擎或运行时提供的本地功能通常不足以支撑完整的日志记录解决方...
Linux运维-04-日志分析-日志监控ELK-day02-ELK日志系统
11-02
Linux运维-04-日志分析-日志监控ELK-day02-ELK日志系统生产案例-05-EFK实现.mp4
kubernetes-kargo-logging-monitoring：使用kargo部署kubernetes集群
02-03
通过具有日志记录（EFK）和监视（Prometheus）支持的kargo部署kubernetes 您会得到什么： Kargo ：一种强大，灵活的方式来构建，热升级/迁移和扩展kubernetes（k8s） 正在运行的主节点的X数量：k8（用于容器编排）...
efk7.13搜集java日志-filebeat配置详解
06-29
efk7.13搜集java日志—filebeat配置详解笔记总结
elk或efk日志报警elastalert-docker安装-仅邮件
06-29
elk或efk日志报警elastalert-docker安装-仅邮件
云计算-日志中心集群部署
05-10
ELK+filebeat集群：elasticsearch+kibana+logstash+kafka+filebeat EFK集群：elasticsearch+kibana+kafka+filebeat 1、Elasticsearch： 主要用来日志存储 2、Logstash: 主要用来日志的搜集（filebeat）json xml ....
kube-ansible：通过Ansible剧本构建Kubernetes集群
01-31
一套用于在机器上部署/管理/升级Kubernetes集群的手册，它们是完全自动化的命令，可以在裸机或VM上启动Kubernetes集群。 功能列表： 支持Kubernetes v1.10.0 + 高可用的Kubernetes集群 完整的二进制文件安装。 ...
kubernetes-handbook
10-11
- **使用kubectl**：`kubectl`是Kubernetes的主要命令行工具，用于与集群交互，如部署应用、查看状态、调试问题等。 #### 四、最佳实践 - **在CentOS上部署kubernetes1.6集群** - **创建TLS证书和秘钥**：确保...
elk或efk日志报警elastalert-docker安装-邮件或钉钉
06-29
ELK（Elasticsearch、Logstash、Kibana）或 EFK（Elasticsearch、Fluentd、Kibana）日志报警系统是目前非常流行的日志管理解决方案之一。Elastalert 是一个基于规则的报警系统，可以与 ELK 或 EFK集成，以提供实时的...
kubernetes集群问题排查
胡伟煌的博客
05-07 2万+
本文个人博客地址为：http://www.huweihuang.com/article/kubernetes/kubernetes-troubleshooting/本文个人博客地址为：https://huweihuang.net/article/kubernetes/kubernetes-troubleshooting/1. 查看系统Event事件kubectl describe pod <...
kubernetes日志架构
山不转的博客
07-09 4656
日志主要分成两种，一种是应用日志，另外一种是系统日。日志对于理解集群内部的工作原理非常有帮助，另外日志对于调试、排错、监控集群活动特别有用。大部分的现在应用都支持某种类型的日志机制，相似的，大部分的容器引擎也被设计成支持此种类型的日志机制。标准输出及标准错误输出是最简单的也是大部容器内嵌的日志机制。然而，容器引擎支持的原生日志系统往往不是有关日志的完全解决方案。例如，容器销毁、pod驱除、节点死亡...
在Kubernetes上部署Elasticsearch集群
热门推荐
迷途的攻城狮
03-06 3万+
在Kubernetes上部署Elasticsearch集群 尝试在上一篇文章中搭建的K8S集群上部署ES集群，去年年中的时候，未来搭建ELK，学习过一段时间的ES，在虚拟机里搭建过简单的集群环境。现在K8S里再次搭建的时候，发现当时学过的很多概念都生疏了，又找到之前的学习记录复习了一遍——好记忆不如烂笔头。言归正传 1、环境清单 1.1、系统清单 IP Hos...
kubernetes部署Elasticsearch eck
IT
05-06 4968
eck简介 Elastic Cloud on Kubernetes (ECK)可以基于K8s operator在Kubernetes集群来自动化部署、管理、编排Elasticsearch、Kibana、APM Server服务。 ECK 使用 Kubernetes Operator 模式构建而成，需要安装在您的 Kubernetes 集群内，其功能绝不仅限于简化 Kubernetes 上 Elas...
EFK日志系统详细安装与配置指南
"该文档是关于EFK日志系统的安装配置指南，涵盖了ELK栈的主要组件，包括Elasticsearch、Logstash、Kibana以及Kafka，并涉及到了Elasticsearch-head和Filebeat的安装与配置。文档适用于需要构建日志收集、分析和展示...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值