prometheus监控_使用 prometheus 监控clickhouse 集群

本文详细介绍了如何使用clickhouse-exporter、prometheus和grafana搭建clickhouse单节点和集群的监控系统。包括在mac上编译clickhouse_exporter,配置prometheus监控多个clickhouse节点,以及在grafana中导入模板展示监控数据。
摘要由CSDN通过智能技术生成

一 前言

本文介绍 采用clickhouse-exporter + grafana + prometheus 搭建监控clickhouse 单节点和集群的监控体系。

什么是 prometheus ,可以从这里了解 。

二 部署exporter

获取代码并编译
mkdir -p $GO_PATH/src/github.com/Percona-Lab
cd $GO_PATH/src/github.com/Percona-Lab
git clone https://github.com/Percona-Lab/clickhouse_exporter

因为生产环境的系统是基于Linux不能直接访问外网,故在自己的 mac 系统先编译成二进制。然后拷贝到生产环境。

在mac上编译 clickhouse_exporter,

在下载到源代码目录。

cd $GO_PATH/src/github.com/Percona-Lab
GO111MODULE=off `CGO_ENABLED`=0 GOOS=linux GOARCH=amd64 go build clickhouse_exporter.go
编译成功会看到 二进制文件
$ ./clickhouse_exporter  -h
Usage of ./clickhouse_exporter:
-insecure
Ignore server certificate if using https (default true)
-log.level value
Only log messages with the given severity or above. Valid levels: [debug, info, warn, error, fatal, panic].
-scrape_uri string
URI to clickhouse http endpoint (default "http://localhost:8123/")
-telemetry.address string
Address on which to expose metrics. (default ":9116")
-telemetry.endpoint string
Path under which to expose metrics. (default "/metrics")

配置比较简单 就是指定 scrape_uri=clickhouse_server_ip:port, 

启动exporter
./clickhouse_exporter -scrape_uri=http://clickhouse_server_ip:8123/ -log.level=info

在exporter机器上查看是否能获取到clickhouse的数据

8ae3c5ab59eb919cc376de4329673a61.png

成功。。

三 配置prometheus

修改prometheus.yml文件,targets 指定 clickhouse_exporter的ip地址和端口号 

  - job_name: 'clickhouse_exporter'
scrape_interval: 10s
static_configs:
- targets:
- "clickhouse_exporter_ip:9116"

修改完配置文件 重新加载 

curl 'http://localhost:9090/-/reload' -X POST

监控多个clickhouse节点

当然如果监控多个clickhouse集群节点要怎么处理?目前测试的 clickhouse_exporter 还不支持 ,要重写接受参数的处理逻辑。

或者有知道的朋友怎么操作 可以留言交流。

四 配置grafna图形

从 https://grafana.com/grafana/dashboards/882 获取clickhouse 的监控采集数据模板 ,导入模板 选择prometheus数据源,监控展示

5198138cb509cfe2e2d2b6f591cbcce4.png

五 小结

本文算是浅显的介绍了利用clickhouse-exporter + grafana + prometheus部署clickhouse的监控。看了clickhouse的性能展示模板还是比较粗糙,如果有需要更细粒度的展示 clickhouse 的集群状态,可以基于监控的metrics 去配置更丰富的指标。

have fun with ClickHouse  ^_^

-The End-


本公众号长期关注于数据库技术以及性能优化,故障案例分析,数据库运维技术知识分享,个人成长和自我管理等主题,欢迎扫码关注。

f9276731282f877e02b629d24a0aae2e.gif

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
数据分析职业是一个多金的职业,数据分析职位是一个金饭碗的职位,前景美好,但是要全面掌握大数据分析技术,非常困难,大部分学员的痛点是不能快速找到入门要点,精准快速上手。本课程采用项目驱动的方式,以Spark3和Clickhouse技术为突破口,带领学员快速入门Spark3+Clickhouse数据分析,促使学员成为一名高效且优秀的大数据分析人才。学员通过本课程的学习,不仅可以掌握使用Python3进行Spark3数据分析,还会掌握利用Scala/java进行Spark数据分析,多语言并进,力求全面掌握;另外通过项目驱动,掌握Spark框架的精髓,教导Spark源码查看的技巧;会学到Spark性能优化的核心要点,成为企业急缺的数据分析人才;更会通过Clickhouse和Spark搭建OLAP引擎,使学员对大数据生态圈有一个更加全面的认识和能力的综合提升。真实的数据分析项目,学完即可拿来作为自己的项目经验,增加面试谈薪筹码。课程涉及内容:Ø  Spark内核原理(RDD、DataFrame、Dataset、Structed Stream、SparkML、SparkSQL)Ø  Spark离线数据分析(千万简历数据分析、雪花模型离线数仓构建)Ø  Spark特征处理及模型预测Ø  Spark实时数据分析(Structed Stream)原理及实战Ø  Spark+Hive构建离线数据仓库(数仓概念ODS/DWD/DWS/ADS)Ø  Clickhouse核心原理及实战Ø  Clickhouse engine详解Ø  Spark向Clickhouse导入简历数据,进行数据聚合分析Ø  catboost训练房价预测机器学习模型Ø  基于Clickhouse构建机器学习模型利用SQL进行房价预测Ø  Clickhouse集群监控,Nginx反向代理Grafana+Prometheus+Clickhouse+node_exporterØ  Spark性能优化Ø  Spark工程师面试宝典       课程组件:集群监控:福利:本课程凡是消费满359的学员,一律送出价值109元的实体书籍.
Prometheus是一种开源的监控系统,用于记录系统中各种指标的时间序列数据。GlusterFS是一个开源的分布式文件系统,可扩展性非常好。在这里,我将介绍如何使用Prometheus监控GlusterFS。 步骤1:安装和配置Prometheus 首先,你需要安装和配置Prometheus。你可以从官方网站下载Prometheus并且按照官方文档进行安装和配置。 在安装和配置完成后,你需要修改Prometheus的配置文件,以便它可以监控GlusterFS。在Prometheus的配置文件中添加以下内容: ``` - job_name: 'glusterfs' scrape_interval: 10s static_configs: - targets: ['localhost:9189'] ``` 这将告诉Prometheus在每10秒钟从本地主机的9189端口收集GlusterFS的指标数据。 步骤2:安装和配置GlusterFS Exporter 要监控GlusterFS,你需要使用GlusterFS Exporter。你可以从GitHub上下载GlusterFS Exporter并且按照官方文档进行安装和配置。 在安装和配置完成后,你需要修改GlusterFS Exporter的配置文件,以便它可以将指标数据提供给Prometheus。在GlusterFS Exporter的配置文件中添加以下内容: ``` glusterserver: - name: 'localhost' port: '24007' ``` 这将告诉GlusterFS Exporter在本地主机的24007端口上监听GlusterFS的指标数据,并将其提供给Prometheus。 步骤3:启动Prometheus和GlusterFS Exporter 启动Prometheus和GlusterFS Exporter,并确保它们正在运行。 步骤4:查看GlusterFS指标数据 现在你可以通过Prometheus的Web界面查看GlusterFS的指标数据。在Web浏览器中输入Prometheus的URL(默认为http://localhost:9090),然后进入Graph页面。在Metrics下拉列表中,搜索glusterfs,就可以看到所有GlusterFS指标数据的名称。 通过选择指标名称,你可以查看指标数据的详细信息,例如当前值、最大值、最小值等。 总结 现在你已经知道了如何使用Prometheus监控GlusterFS。这样,你就可以随时了解GlusterFS的性能和健康状况,并且可以在必要时采取相应的措施来解决问题。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值