搜集日志。

部署案例

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

logstash

在这里插入图片描述
9600-9700 表示 Logstash API 服务将尝试在 9600 到 9700 这个范围内的端口上监听 HTTP 请求。
在这里插入图片描述

在这里插入图片描述

开机自动运行logstash

在这里插入图片描述

收集节点日志

work节点是以daemonSet 的方式运行 filebeat。 这里使用的是containerd
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
kibana界面,进入stack manager — 索引管理 —
在这里插入图片描述
索引模式创建索引,创建k8s-* 选择时间戳 @timestamp 。 然后Discover 找k8s相关的日志

收集节点应用程序日志

在这里插入图片描述
同一台机器可以有多个logstash,端口不同,用于收集不同的日志

6.2

在这里插入图片描述
在这里插入图片描述
k8s-worker1是 nginx所在的节点
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在kibana中的索引管理里也有了
在这里插入图片描述
在这里插入图片描述

收集pod 日志

一个pod中能运行多个容器,filebeat 以 sidecar的容器实现
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
接下来到 kibana就都一样了。
在这里插入图片描述

EFK

在这里插入图片描述
EFK由于其轻量级,所以可以直接部署在 k8s 集群之内的。ELK就部署在物理机上。
Fluentd 不需要logstash,自己就能完成数据格式化,方便后面处理

部署EFK

获取 EFK 部署清单文件

在master节点操作,切换git 分支是因为要和 kubectl version 同版本
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
例子es的statfulset用的存储用的emptydir,映射到宿主机的/data。生产环境不能这样用
在 Kubernetes 中,Endpoint 是一种 API 资源,它用于表示一个或多个 IP 地址和端口组合,这些组合是某个 Service 的实际后端。Endpoint 资源会动态更新,以反映集群中服务的可用 Pods。
在这里插入图片描述
因为是nodePort类型,所以host 可以是集群中任意节点 ip
在这里插入图片描述
在这里插入图片描述
service名称或者nodePort, 还有就是endpoint 来访问 es.
上面采取的是service名称的方式,svc + namespace + svc.cluster.local.
在这里插入图片描述
at的是dns。如果返回中有下面的,就证明成功
在这里插入图片描述
划线的ip就是 kubectl get svc -n kube-system里的 ip

在这里插入图片描述
在这里插入图片描述

笔记

在这里插入图片描述
logstash 负责: 接收数据 input — 解析过滤并转换数据 filter(此插件可选) — 输出数据 output
input — decode — filter — encode — output
elasticsearch 查询和保存数据
在这里插入图片描述

Elasticsearch 去中心化集群

在这里插入图片描述
Data node 消耗大量 CPU、内存和 I/O 资源
在这里插入图片描述

分担一部分压力是指在data node上汇聚,然后在client node 再一次汇聚,然后将搜索结果返回给用户

client node类似路由起,将集群请求发送的主节点,将数据请求发送到数据节点。配置文件中如果 node.master 和 node.data都为false,那么它就是client node

es 必须在普通用户下运行,为的是安全

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

Kafka

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
zookeeper管理Kafka。选举leader,还有consumer group变化时,进行再平衡
写消息允许多个Producer 写到一个Partition。 消费时,只能一个 消费组中的consumer 所消费。一个consumer 可以消费多个 Partition
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

大于是因为 这样消息数据就可以均匀地分布在各个broker中
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

Kafka 集群部署规划

先部署zookeeper,再Kafka
在这里插入图片描述
在这里插入图片描述
比如可以显示 topic 列表, 创建topic ,查看topic 状态, 删除topic
生产消息,消费消息

案例

在这里插入图片描述
在这里插入图片描述在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
Kafka MirrorMaker 是跨数据中心的流数据同步方案
配置MirrorMaker的 生产者和消费者,启动它就行了。MirrorMaker单独在一台机器上
在这里插入图片描述
每个kafka节点的带宽20M,每个服务器16c, 32g内存
在这里插入图片描述
在这里插入图片描述

Filebeat + Kafka + logstash + Elasticsearch

典型ELK 架构

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

部署

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值