Prometheus 监控K8S集群

于 2024-06-07 10:08:00 发布
阅读量332 收藏 7
点赞数 4
文章标签： prometheus kubernetes 容器
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_64982331/article/details/139518259
版权

一、Prometheus 监控K8S集群

1.安装kube-state-metrics

kube-state-metrics 是一个用于从 Kubernetes API进行交互来收集数据，并将这些状态信息存储在本地存储中，导出各种对象的状态指标的工具。它暴露的指标包括各种 Kubernetes 对象的状态信息，如 Pod、Node、Namespace、Deployment、ReplicaSet 等。

（默认kube-state-metrics服务不在Kubernetes集群中）

 

因此 Prometheus 想要监控谁，谁就需要暴露一个api端口号，才能监控得到数据。

目前使用的 K8s 版本为：v1.27.8，因此所使用Kube-state-metrics版本为 v2.10.1 GitHub - kubernetes/kube-state-metrics: Add-on agent to generate and expose cluster-level metrics. 下载相应的源码以及部署脚本， 在 /kube-state-metrics/examples/standard

2.Kube-state-metrics官方部署YAML文件

Kube-state-metrics.yaml 部署文件  

注意：镜像需要翻墙，建议制定国内的K8S镜像站

apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:
  labels:
    app.kubernetes.io/component: exporter
    app.kubernetes.io/name: kube-state-metrics
    app.kubernetes.io/version: 2.10.1
  name: kube-state-metrics
rules:
- apiGroups:
  - ""
  resources:
  - configmaps
  - secrets
  - nodes
  - pods
  - services
  - serviceaccounts
  - resourcequotas
  - replicationcontrollers
  - limitranges
  - persistentvolumeclaims
  - persistentvolumes
  - namespaces
  - endpoints
  verbs:
  - list
  - watch
- apiGroups:
  - apps
  resources:
  - statefulsets
  - daemonsets
  - deployments
  - replicasets
  verbs:
  - list
  - watch
- apiGroups:
  - batch
  resources:
  - cronjobs
  - jobs
  verbs:
  - list
  - watch
- apiGroups:
  - autoscaling
  resources:
  - horizontalpodautoscalers
  verbs:
  - list
  - watch
- apiGroups:
  - authentication.k8s.io
  resources:
  - tokenreviews
  verbs:
  - create
- apiGroups:
  - authorization.k8s.io
  resources:
  - subjectaccessreviews
  verbs:
  - create
- apiGroups:
  - policy
  resources:
  - poddisruptionbudgets
  verbs:
  - list
  - watch
- apiGroups:
  - certificates.k8s.io
  resources:
  - certificatesigningrequests
  verbs:
  - list
  - watch
- apiGroups:
  - discovery.k8s.io
  resources:
  - endpointslices
  verbs:
  - list
  - watch
- apiGroups:
  - storage.k8s.io
  resources:
  - storageclasses
  - volumeattachments
  verbs:
  - list
  - watch
- apiGroups:
  - admissionregistration.k8s.io
  resources:
  - mutatingwebhookconfigurations
  - validatingwebhookconfigurations
  verbs:
  - list
  - watch
- apiGroups:
  - networking.k8s.io
  resources:
  - networkpolicies
  - ingressclasses
  - ingresses
  verbs:
  - list
  - watch
- apiGroups:
  - coordination.k8s.io
  resources:
  - leases
  verbs:
  - list
  - watch
- apiGroups:
  - rbac.authorization.k8s.io
  resources:
  - clusterrolebindings
  - clusterroles
  - rolebindings
  - roles
  verbs:
  - list
  - watch
---
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:
  labels:
    app.kubernetes.io/component: exporter
    app.kubernetes.io/name: kube-state-metrics
    app.kubernetes.io/version: 2.10.1
  name: kube-state-metrics
roleRef:
  apiGroup: rbac.authorization.k8s.io
  kind: ClusterRole
  name: kube-state-metrics
subjects:
- kind: ServiceAccount
  name: kube-state-metrics
  namespace: kube-system
---
apiVersion: apps/v1
kind: Deployment
metadata:
  labels:
    app.kubernetes.io/component: exporter
    app.kubernetes.io/name: kube-state-metrics
    app.kubernetes.io/version: 2.10.1
  name: kube-state-metrics
  namespace: kube-system
spec:
  replicas: 1
  selector:
    matchLabels:
      app.kubernetes.io/name: kube-state-metrics
  template:
    metadata:
      labels:
        app.kubernetes.io/component: exporter
        app.kubernetes.io/name: kube-state-metrics
        app.kubernetes.io/version: 2.10.1
    spec:
      automountServiceAccountToken: true
      containers:
      - image: registry.k8s.io/kube-state-metrics/kube-state-metrics:v2.10.1  #需要翻墙，建议指定国内k8s镜像站
        livenessProbe:
          httpGet:
            path: /healthz
            port: 9090
          initialDelaySeconds: 5
          timeoutSeconds: 5
        name: kube-state-metrics
        ports:
        - containerPort: 9090
          name: http-metrics
        - containerPort: 9091
          name: telemetry
        readinessProbe:
          httpGet:
            path: /
            port: 9091
          initialDelaySeconds: 5
          timeoutSeconds: 5
        securityContext:
          allowPrivilegeEscalation: false
          capabilities:
            drop:
            - ALL
          readOnlyRootFilesystem: true
          runAsNonRoot: true
          runAsUser: 65534
          seccompProfile:
            type: RuntimeDefault
      nodeSelector:
        kubernetes.io/os: linux
      serviceAccountName: kube-state-metrics
---
apiVersion: v1
automountServiceAccountToken: false
kind: ServiceAccount
metadata:
  labels:
    app.kubernetes.io/component: exporter
    app.kubernetes.io/name: kube-state-metrics
    app.kubernetes.io/version: 2.10.1
  name: kube-state-metrics
  namespace: kube-system
---
apiVersion: v1
kind: Service
metadata:
  labels:
    app.kubernetes.io/component: exporter
    app.kubernetes.io/name: kube-state-metrics
    app.kubernetes.io/version: 2.10.1
  name: kube-state-metrics
  namespace: kube-system
spec:
  clusterIP: None
  ports:
  - name: http-metrics
    port: 9090
    targetPort: http-metrics
  - name: telemetry
    port: 9091
    targetPort: telemetry
  selector:
    app.kubernetes.io/name: kube-state-metrics

3.Prometheus在Kubernetes集群外监控

如果 Prometheus 监控搭建在 Kubernetes 集群外，则需要修改 Services类型为 NodePort

修改后的文件 

apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:
  labels:
    app.kubernetes.io/component: exporter
    app.kubernetes.io/name: kube-state-metrics
    app.kubernetes.io/version: 2.10.1
  name: kube-state-metrics
rules:
- apiGroups:
  - ""
  resources:
  - configmaps
  - secrets
  - nodes
  - pods
  - services
  - serviceaccounts
  - resourcequotas
  - replicationcontrollers
  - limitranges
  - persistentvolumeclaims
  - persistentvolumes
  - namespaces
  - endpoints
  verbs:
  - list
  - watch
- apiGroups:
  - apps
  resources:
  - statefulsets
  - daemonsets
  - deployments
  - replicasets
  verbs:
  - list
  - watch
- apiGroups:
  - batch
  resources:
  - cronjobs
  - jobs
  verbs:
  - list
  - watch
- apiGroups:
  - autoscaling
  resources:
  - horizontalpodautoscalers
  verbs:
  - list
  - watch
- apiGroups:
  - authentication.k8s.io
  resources:
  - tokenreviews
  verbs:
  - create
- apiGroups:
  - authorization.k8s.io
  resources:
  - subjectaccessreviews
  verbs:
  - create
- apiGroups:
  - policy
  resources:
  - poddisruptionbudgets
  verbs:
  - list
  - watch
- apiGroups:
  - certificates.k8s.io
  resources:
  - certificatesigningrequests
  verbs:
  - list
  - watch
- apiGroups:
  - discovery.k8s.io
  resources:
  - endpointslices
  verbs:
  - list
  - watch
- apiGroups:
  - storage.k8s.io
  resources:
  - storageclasses
  - volumeattachments
  verbs:
  - list
  - watch
- apiGroups:
  - admissionregistration.k8s.io
  resources:
  - mutatingwebhookconfigurations
  - validatingwebhookconfigurations
  verbs:
  - list
  - watch
- apiGroups:
  - networking.k8s.io
  resources:
  - networkpolicies
  - ingressclasses
  - ingresses
  verbs:
  - list
  - watch
- apiGroups:
  - coordination.k8s.io
  resources:
  - leases
  verbs:
  - list
  - watch
- apiGroups:
  - rbac.authorization.k8s.io
  resources:
  - clusterrolebindings
  - clusterroles
  - rolebindings
  - roles
  verbs:
  - list
  - watch
---
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:
  labels:
    app.kubernetes.io/component: exporter
    app.kubernetes.io/name: kube-state-metrics
    app.kubernetes.io/version: 2.10.1
  name: kube-state-metrics
roleRef:
  apiGroup: rbac.authorization.k8s.io
  kind: ClusterRole
  name: kube-state-metrics
subjects:
- kind: ServiceAccount
  name: kube-state-metrics
  namespace: kube-system
---
apiVersion: apps/v1
kind: Deployment
metadata:
  labels:
    app.kubernetes.io/component: exporter
    app.kubernetes.io/name: kube-state-metrics
    app.kubernetes.io/version: 2.10.1
  name: kube-state-metrics
  namespace: kube-system
spec:
  replicas: 1
  selector:
    matchLabels:
      app.kubernetes.io/name: kube-state-metrics
  template:
    metadata:
      labels:
        app.kubernetes.io/component: exporter
        app.kubernetes.io/name: kube-state-metrics
        app.kubernetes.io/version: 2.10.1
    spec:
      automountServiceAccountToken: true
      containers:
      - image: registry.k8s.io/kube-state-metrics/kube-state-metrics:v2.10.1
        livenessProbe:
          httpGet:
            path: /healthz
            port: 8080
          initialDelaySeconds: 5
          timeoutSeconds: 5
        name: kube-state-metrics
        ports:
        - containerPort: 8080
          name: http-metrics
        - containerPort: 8081
          name: telemetry
        readinessProbe:
          httpGet:
            path: /
            port: 8081
          initialDelaySeconds: 5
          timeoutSeconds: 5
        securityContext:
          allowPrivilegeEscalation: false
          capabilities:
            drop:
            - ALL
          readOnlyRootFilesystem: true
          runAsNonRoot: true
          runAsUser: 65534
          seccompProfile:
            type: RuntimeDefault
      nodeSelector:
        kubernetes.io/os: linux
      serviceAccountName: kube-state-metrics
---
apiVersion: v1
automountServiceAccountToken: false
kind: ServiceAccount
metadata:
  labels:
    app.kubernetes.io/component: exporter
    app.kubernetes.io/name: kube-state-metrics
    app.kubernetes.io/version: 2.10.1
  name: kube-state-metrics
  namespace: kube-system
---
apiVersion: v1
kind: Service
metadata:
  labels:
    app.kubernetes.io/component: exporter
    app.kubernetes.io/name: kube-state-metrics
    app.kubernetes.io/version: 2.10.1
  name: kube-state-metrics
  namespace: kube-system
spec:
  type: NodePort
  ports:
  - name: http-metrics
    port: 9090
    protocol: TCP
    targetPort: http-metrics
    nodePort: 29090
  - name: telemetry
    port: 9091
    protocol: TCP
    targetPort: telemetry
    nodePort: 29091
  selector:
    app.kubernetes.io/name: kube-state-metrics
kubectl get deployments.apps -n kube-system | grep kube-state-metrics # 查看 deployments是否创建

成功建立连接并创建端口暴露

Prometheus 通过 Kube-state-metrics 来获取数据

4.Kube-state-metrics 指标信息

Prometheus的一些相关指标

kube_pod_info: 提供关于 Pod 的基本信息。
kube_pod_start_time: Pod 的启动时间。
kube_pod_completion_time: Pod 的完成时间（如果有）。
kube_pod_status_phase: Pod 当前所处的生命周期阶段（Pending, Running, Succeeded, Failed 等）。
kube_pod_status_ready: 表示 Pod 是否准备就绪。
kube_pod_status_scheduled: Pod 调度状态。
kube_pod_container_info: Pod 中容器的基本信息。
kube_pod_container_status_waiting: 描述容器是否处于等待状态及其原因。

今天的分享到此，谢谢大家观看！！

山风m
关注
  • 4
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
9-3 Prometheus监控服务Kube-state-metrics
分享云原生，容器，运维等干货知识
10-24 2224
在前面章节8-5 在Prometheus实现Kubernetes-apiserver及Coredns服务发现介绍过使用kubernetes_sd_config对K8s集群进行监控。监控内容有master，node，schedule，controlle-manager，pod等。但是由于这些都是K8s内置的指标数据，数据并不全面。其他资源对象也需要监控的，例如Deployment，Daemonset，ConfigMap等资源对象。
使用Prometheus全方位监控K8s集群
02-07
使用Prometheus监控K8s集群的优点： * 可以对K8s集群中的Pod、Node、资源对象进行监控 * 可以对K8s集群中的监控数据进行可视化展示 * 可以对K8s集群中的告警规则进行配置和管理 Prometheus与Zabbix的对比： * ...
Prometheus监控案例-kube-state-metrics
梵修
02-17 1404
kube-stste-metrics是一个简单的组件，通过监听API Server生成有关资源对象的状态指标（例如Deployment、Pod、Node等）。pod的状态，running或者terminating等Pod重启了多少次Deployment调度了多少副本？现在可用的有多少？目前有多少job在运行 等等kuber-state-metrics并不存储这些指标数据，所以需要使用Prometheus抓取然后存储。
基于Grafana+Prometheus实现k8s上的SpringBoot工程JVM监控
富强说
08-19 3611
一文教你部署在k8s上面的springboot应用如何实时监控硬件状态、JVM状态。
如何使用Prometheus监控Kubernetes集群_prometheus 监控 kubernetes
2401_84247341的博客
04-19 699
带有所有 Prometheus 刮削配置和警报规则的配置映射被挂载到 /etc/prometheus 位置中的Prometheus 容器中，作为 prometheus.yaml 和 prometheus.rules 文件。在此配置中，我们将Prometheus配置映射作为文件挂载到 /etc/prometheus 中，如前一节所述。通过将 Prometheus 配置外部化到 Kubernetes 配置映射，你不必在需要添加或删除配置时构建Prometheus 映像。Prometheus 的所有配置在。
Prometheus+Grafana搭建全方位的监控告警系统
03-18
一、prometheus简介 Prometheus是一个开源的系统监控和告警系统，现在已经加入到CNCF基金会，成为继k8s之后第二个在CNCF维护管理的项目，在kubernetes容器管理系统中，通常会搭配prometheus进行监控，prometheus支持多种exporter采集数据，还支持通过pushgateway进行数据上报，Prometheus再性能上可支撑上万台规模的集群。 二、prometheus架构图 三、prometheus组件介绍 1.Prometheus Server: 用于收集和存储时间序列数据。 2.Client Library: 客户端库，检测应用程序代码，当Prometheus抓取实例的HTTP端点时，客户端库会将所有跟踪的metrics指标的当前状态发送到prometheus server端。 3.Exporters: prometheus支持多种exporter，通过exporter可以采集metrics数据，然后发送到prometheus server端 4.Alertmanager: 从 Prometheus server 端接收到 alerts 后，会进行去重，分组，并路由到相应的接收方，发出报警，常见的接收方式有：电子邮件，微信，钉钉, slack等。 5.Grafana：监控仪表盘 6.pushgateway: 各个目标主机可上报数据到pushgatewy，然后prometheus server统一从pushgateway拉取数据。 四、课程亮点 五、效果图展示 六、讲师简介 先超（lucky）：高级运维工程师、资深DevOps工程师，在互联网上市公司拥有多年一线运维经验，主导过亿级pv项目的架构设计和运维工作 主要研究方向： 1.云计算方向：容器 （kubernetes、docker），虚拟化（kvm、Vmware vSphere），微服务（istio），PaaS（openshift），IaaS（openstack）等2.系统/运维方向：linux系统下的常用组件（nginx，tomcat，elasticsearch，zookeeper，kafka等），DevOps（Jenkins+gitlab+sonarqube+nexus+k8s），CI/CD，监控（zabbix、prometheus、falcon）等 七、课程大纲
Kubernetes 集群监控 kube-prometheus 部署
Mo小泽的技术博客
11-30 3170
文章目录一、简介1、Prometheus 介绍2、Kubernetes Operator 介绍3、Prometheus Operator 介绍二、架构1、Prometheus Operator2、Prometheus三、安装1、拉取 Prometheus Operator2、进行文件分类3、修改 Service 端口设置3.1、修改 Prometheus Service3.2、修改 Grafana Service4、修改数据持久化存储4.1、创建 StorageClass4.2、修改 Prometheus
Linux企业运维——Kubernetes（二十）Prometheus监控
weixin_44310047的博客
08-23 1521
Linux企业运维——Kubernetes（二十）Prometheus监控 文章目录Linux企业运维——Kubernetes（二十）Prometheus监控1、Prometheus简介2、k8s部署Prometheus 1、Prometheus简介 除了资源指标（如CPU、内存）以外，用户或管理员需要了解更多的指标数据，比如Kubernetes指标、容器指标、节点资源指标以及应用程序指标等等。自定义指标API允许请求任意的指标，其指标API的实现要指定相应的后端监视系统。 Prometheus是第一个开发
K8S主机Prometheus监控ssl证书资源清单及镜像文件
01-14
本文将深入探讨如何利用Prometheus监控K8S主机上的SSL证书资源，并介绍一个名为`prometheus-ssl-exporter`的镜像文件，它有助于提取和暴露SSL证书的相关信息。 首先，理解SSL证书对于K8S的重要性至关重要。SSL...
轻松搭建Prometheus监控k8s服务之grafana模板2023年最新
03-26
易于伸缩：通过使用功能分区（sharing）+联邦集群（federation）可以对Prometheus进行扩展，形成一个逻辑集群；Prometheus提供多种语言的客户端SDK，这些SDK可以快速让应用程序纳入到Prometheus的监控当中。 良好的...
使用prometheus监控k8s的grafana模板
03-22
在这个“使用prometheus监控k8s的grafana模板”主题中，我们将深入探讨如何利用Grafana的模板功能来有效监控Kubernetes（k8s）集群。 一、Prometheus与Kubernetes的集成 Prometheus可以通过Service Discovery机制...
K8S主机Prometheus监控kube-state-metrics资源清单及镜像文件
12-30
原文链接：https://blog.csdn.net/m0_37814112/article/details/122170537 说明：上述资源包括部署清单文件、镜像文件、告警规则文件
轻松搭建Prometheus监控k8s服务之镜像2023年最新
03-26
为了在k8s集群上部署Prometheus监控，你需要遵循以下步骤： 1. **部署Node Exporter**：在每个k8s节点上运行Node Exporter，以便Prometheus可以收集节点级别的指标。 2. **配置Prometheus Operator**：使用`...
《Kubernetes监控篇：Prometheus监控K8S资源状态对象》
东城绝神
12-23 1673
系列文章目录 提示：这里可以添加系列文章的所有文章的目录，目录需要自己手动添加 例如：第一章 Python 机器学习入门之pandas的使用 提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录系列文章目录前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结 前言 提示：这里可以添加本文要记录的大概内容： 例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。 提示：以下是本篇文章正文内容，下面案例
Kubernetes Kube-state-metrics
小楼一夜听春雨，深巷明朝卖杏花
02-07 5125
有很多种方法可以监控Kubernetes本身，其中包括开源Kubernetes生态系统中的工具，如Heapster和Kube-state-metrics，以及其他商业化和基于SaaS的工具。我们将重点关注如何使用Kube-state-metrics来进行监控。 [1] https://github.com/kubernetes-retired/heapster。 [2] https://github.com/kubernetes/kube-state-metrics。 今天向大家介绍一下kube
K8S篇之实现利用Prometheus监控pod的实时数据指标
热门推荐
xu710263124的博客
11-16 1万+
Prometheus实时监控k8s集群中pod信息指标
实现prometheus对k8的监控
Richardlygo的博客
09-19 1551
Kubenetes是一款由Google开发的开源容器编排工具，其作为容器领域事实的标准，可以极大的简化应用的管理和部署的复杂度。如何对Kubernetes自身的各种组件还有运行在Kubernetes集群上的各种容器做到更好的监控，prometheus的出现提供了一个很好的解决方案。 Prometheus是一个开源监控系统，它会根据配置的任务周期性的采集指定目标上的指标，并将数据存储为时间序列数据...
容器监控实践—kube-state-metrics
weixin_33712987的博客
01-13 1154
概述 已经有了cadvisor、heapster、metric-server，几乎容器运行的所有指标都能拿到，但是下面这种情况却无能为力： 我调度了多少个replicas？现在可用的有几个？ 多少个Pod是running/stopped/terminated状态？ Pod重启了多少次？ 我有多少job在运行中 而这些则是kube-st...
如何使用Prometheus监控Kubernetes集群
一览无遗
12-08 855
Prometheus 是一个高可伸缩的开源监控框架。它为Kubernetes容器编排平台提供了开箱即用的监控功能。此外，在可观察性领域，因其能很好的实现指标收集和告警，也被越来越多的公司和企业使用。详细介绍 Prometheus 超出了本文的范围。如果你想了解更多关于 Prometheus 的知识，你可以访问其官网（在此，我想列出几个要点供您参考。指标收集: Prometheus 使用拉取模型通过 HTTP 协议检索度量。
如何使用prometheus监控mysql监控 如何使用prometheus监控redis 如何使用prometheus监控监控docker 如何使用prometheus监控k8s集群的过程 如何使用prometheus自动发现功能
最新发布
05-15
使用prometheus监控k8s集群需要安装一个名为kube-state-metrics的exporter，该exporter可以在k8s集群中运行并公开metrics。你可以在Prometheus配置文件中添加此exporter的配置，并使用PromQL查询语言查询k8s集群指标...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值