Clickhouse监控方案

最新推荐文章于 2024-05-27 18:08:56 发布
最新推荐文章于 2024-05-27 18:08:56 发布
阅读量313 收藏 6
点赞数 4
文章标签： clickhouse
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2301_79096508/article/details/138604415
版权

Grafana+prometheus 监控

1. 解压prometheus压缩包

# 解压
tar -zxvf prometheus-2.45.4.linux-amd64.tar.gz 

# 改名
 mv prometheus-2.45.4.linux-amd64 prometheus
 mv prometheus /opt/module


 cd /opt/module

2. 修改配置文件

# my global config
global:
  scrape_interval: 15s # Set the scrape interval to every 15 seconds. Default is every 1 minute.
  evaluation_interval: 15s # Evaluate rules every 15 seconds. The default is every 1 minute.
  # scrape_timeout is set to the global default (10s).

# Alertmanager configuration
alerting:
  alertmanagers:
    - static_configs:
        - targets:
          # - alertmanager:9093

# Load rules once and periodically evaluate them according to the global 'evaluation_interval'.
rule_files:
  # - "first_rules.yml"
  # - "second_rules.yml"

# A scrape configuration containing exactly one endpoint to scrape:
# Here it's Prometheus itself.
scrape_configs:
  # The job name is added as a label `job=<job_name>` to any timeseries scraped from this config.
  - job_name: "prometheus"
     # 监控作业的名称 

    # metrics_path defaults to '/metrics'
    # scheme defaults to 'http'.
    # 表示静态目标配置，就是固定从某个 target 拉取数据
    # 默认方案为 HTTP
    static_configs:
      - targets: ["localhost:9019"]



# 添加如下 clickhouse 监控
  - job_name: 'clickhouse'
    static_configs:
    - targets: ['10.10.204.16:9363']

1、global 配置块：控制 Prometheus 服务器的全局配置

➢ scrape_interval：配置拉取数据的时间间隔，默认为 1 分钟。

➢ evaluation_interval：规则验证（生成 alert）的时间间隔，默认为 1 分钟。

2、rule_files 配置块：规则配置文件

3、scrape_configs 配置块：配置采集目标相关， prometheus 监视的目标。Prometheus 自身的运行信息可以通过 HTTP 访问，所以 Prometheus 可以监控自己的运行数据

➢ job_name：监控作业的名称

➢ static_configs：表示静态目标配置，就是固定从某个 target 拉取数据

➢ targets ：指定监控的目标 ，其实就是从哪儿拉取数据 。

3. 启动prometheus

nohup ./prometheus --config.file=prometheus.yml --web.listen-address="0.0.0.0:9019" > ./prometheus.log 2>&1 &

--web.listen-address="0.0.0.0:9019"这个可以让任何IP都可以访问9019端口

打开web端：http://10.10.204.16:9363/metrics

可以看到以下供Prometheus采集用的数据：

nohup ./prometheus --config.file=prometheus.yml --web.listen-address="0.0.0.0:9019" > ./prometheus.log 2>&1 &

访问 webUI 页面

http://10.10.204.16:9019

在Status-Targets中可以看到配置的采集目标：

4. 安装Grafana

Grafana:https://grafana.com/grafana/download

yum install -y https://dl.grafana.com/enterprise/release/grafana-enterprise-10.4.2-1.x86_64.rpm

可执行文件在cd /usr/sbin/目录下，配置文件在/etc/grafana下

  1. To start the service, run the following commands:
systemctl daemon-reload
systemctl start grafana-server
systemctl status grafana-server


http://10.10.204.16:3000
#打不开网页，换个浏览器就打开了。。kao

5. 添加数据源

PMM监控安装

监控 ClickHouse 集群环境通常包括以下几个步骤：

  1. 安装 PMM Server
  2. 安装 PMM Client
  3. 配置 ClickHouse 以支持监控
  4. 连接 ClickHouse 到 PMM Server
  5. 查看和分析监控数据

1. 安装 PMM Server

Server端

docker pull percona/pmm-server

docker create --volume /docker --name pmm-data percona/pmm-server:latest bash

docker run --detach --restart always --publish 443:443 --volumes-from pmm-data --name pmm-server percona/pmm-server:latest

a. 第一步：创建数据容器

docker create --volume /docker --name pmm-data percona/pmm-server:latest bash

这个命令执行了以下操作：

  • docker create: 创建一个新的 Docker 容器，但不启动它。create 用于设置容器，但需要另外使用 start 命令来运行。
  • --volume /docker: 在容器内创建一个名为 /docker 的卷。这是一个数据卷，用于存储 PMM 服务器的数据，使得数据可以持久化存储，即使容器被删除，数据仍然可以保留。
  • --name pmm-data: 为这个容器设置一个名称 pmm-data，这样你可以轻松地引用它。
  • percona/pmm-server:latest: 指定使用的 Docker 镜像，这里使用的是 Percona 的 PMM 服务器镜像的最新版本。
  • bash: 这是容器启动时要运行的主命令。在这个情况下，命令实际上并不重要，因为这个容器的目的是仅仅用来持久化数据存储，而不是用来运行 PMM 服务。

b. 第二步：运行 PMM 服务器容器

docker run --detach --restart always --publish 443:443 --volumes-from pmm-data --name pmm-server percona/pmm-server:latest

这个命令执行了以下操作：

  • docker run: 创建并启动一个 Docker 容器。
  • --detach: 以分离模式运行容器，这意味着 Docker 会在后台运行这个容器。
  • --restart always: 设置容器的重启策略为总是重启。这确保了即使 Docker 守护进程重启或容器退出，容器会自动重启。
  • --publish 443:443: 将容器的 443 端口映射到宿主机的 443 端口。PMM 服务器使用 HTTPS，这通常使用 443 端口，这个映射允许从宿主机外部访问 PMM 服务器。
  • --volumes-from pmm-data: 这个选项告诉 Docker 从先前创建的 pmm-data 容器中挂载卷。这样，PMM 服务器的所有数据都将存储在 pmm-data 容器指定的卷中，确保数据的持久化。
  • --name pmm-server: 为这个容器设置一个名称 pmm-server。
  • percona/pmm-server:latest: 使用 Percona 的 PMM 服务器镜像的最新版本

被监控节点

wget https://downloads.percona.com/downloads/pmm2/2.41.0/binary/tarball/pmm2-client-2.41.0.tar.gz

2. 安装 PMM Client

a. 二进制安装

tar -xvf pmm2-client-2.41.0.tar.gz -C /usr/local/

cd /usr/local/pmm2-client-2.41.0

编译安装

export PMM_DIR=/usr/local/percona/pmm2

echo $PMM_DIR

./install_tarball

过程：

[root@localhost pmm2-client-2.41.0]# export PMM_DIR=/usr/local/percona/pmm2
[root@localhost pmm2-client-2.41.0]# echo $PMM_DIR
/usr/local/percona/pmm2
[root@localhost pmm2-client-2.41.0]# ./install_tarball 
Installing into /usr/local/percona/pmm2...
[root@localhost pmm2-client-2.41.0]#

PMM Client的安装路径在/usr/local/percona/pmm2，目录结构如下：

[root@localhost pmm2-client-2.41.0]# cd /usr/local/percona/pmm2/
[root@localhost pmm2]# ll
total 0
drwxr-xr-x 2 root root 68 Apr 24 10:39 bin
drwxr-xr-x 4 root root 54 Apr 24 10:39 collectors
drwxr-xr-x 2 root root 28 Apr 24 10:39 config
drwxr-xr-x 2 root root 208 Apr 24 10:39 exporters
drwxr-xr-x 2 root root 95 Apr 24 10:39 tools
[root@localhost pmm2]# 

#添加环境变量
[root@localhost pmm2]# vi /etc/profile
export PMM_DIR=/usr/local/percona/pmm2
export PATH=$PATH:$PMM_DIR/bin
[root@localhost pmm2]# source /etc/profile
[root@localhost pmm2]# 

[Unit]
Description=pmm-agent
After=time-sync.target network.target

[Service]
Type=simple
ExecStart=/usr/local/percona/pmm2/bin/pmm-agent --config-file=/usr/local/percona/pmm2/config/pmm-agent.yaml
Restart=always
RestartSec=2s
StandardError=file:/var/log/pmm-agent.log

[Install]
WantedBy=multi-user.target



##
[root@localhost ~]# cd /usr/lib/systemd/system
[root@localhost system]# vi pmm-agent.service
[root@localhost system]# cat pmm-agent.service 
[Unit]
Description=pmm-agent
After=time-sync.target network.target

[Service]
Type=simple
ExecStart=/usr/local/percona/pmm2/bin/pmm-agent --config-file=/usr/local/percona/pmm2/config/pmm-agent.yaml
Restart=always
RestartSec=2s
StandardError=file:/var/log/pmm-agent.log

[Install]
WantedBy=multi-user.target
[root@localhost system]# 
[root@localhost system]# 
[root@localhost system]# 
[root@localhost system]# 
[root@localhost system]#  systemctl daemon-reload
[root@localhost system]# 
[root@localhost system]# 
[root@localhost system]# 
[root@localhost system]# systemctl start pmm-agent
[root@localhost system]# systemctl status pmm-agent
● pmm-agent.service - pmm-agent
   Loaded: loaded (/usr/lib/systemd/system/pmm-agent.service; disabled; vendor preset: disabled)
   Active: active (running) since Wed 2024-04-24 13:47:50 CST; 6s ago
 Main PID: 2606302 (pmm-agent)
    Tasks: 8 (limit: 75239)
   Memory: 39.1M
   CGroup: /system.slice/pmm-agent.service
           └─2606302 /usr/local/percona/pmm2/bin/pmm-agent --config-file=/usr/local/percona/pmm2/config/pmm-agent.yaml

Apr 24 13:47:50 localhost.localdomain systemd[1]: Started pmm-agent.
[root@localhost system]# 
[root@localhost system]#

至此，PMM Client安装完毕。

b. rpm包安装

[root@ceelake01 soft]# rpm -ivh pmm2-client-2.41.0-6.el8.x86_64.rpm
warning: pmm2-client-2.41.0-6.el8.x86_64.rpm: Header V4 RSA/SHA256 Signature, key ID 8507efa5: NOKEY
Preparing...                          ################################# [100%]
Updating / installing...
   1:pmm2-client-2.41.0-6.el8         ################################# [100%]
[root@ceelake01 soft]# systemctl status pmm-agent
● pmm-agent.service - pmm-agent
   Loaded: loaded (/usr/lib/systemd/system/pmm-agent.service; enabled; vendor preset: disabled)
   Active: active (running) since Fri 2024-04-26 09:30:42 EET; 1min 15s ago
 Main PID: 184845 (pmm-agent)
   CGroup: /system.slice/pmm-agent.service
           └─184845 /usr/sbin/pmm-agent --config-file=/usr/local/percona/pmm2/config/pmm-agent.yaml

Apr 26 09:30:42 ceelake01 pmm-agent[184845]: time="2024-04-26T09:30:42.657+02:00" level=info msg="Using /usr/local/percona/p...t=main
Apr 26 09:30:42 ceelake01 pmm-agent[184845]: time="2024-04-26T09:30:42.657+02:00" level=info msg="Using /usr/local/percona/p...t=main
Apr 26 09:30:42 ceelake01 pmm-agent[184845]: time="2024-04-26T09:30:42.657+02:00" level=info msg="Using /usr/local/percona/p...t=main
Apr 26 09:30:42 ceelake01 pmm-agent[184845]: time="2024-04-26T09:30:42.657+02:00" level=info msg="Using /usr/local/percona/p...t=main
Apr 26 09:30:42 ceelake01 pmm-agent[184845]: time="2024-04-26T09:30:42.657+02:00" level=info msg="Runner capacity set to 32....runner
Apr 26 09:30:42 ceelake01 pmm-agent[184845]: time="2024-04-26T09:30:42.657+02:00" level=info msg="Window check connection ti...ur(s)"
Apr 26 09:30:42 ceelake01 pmm-agent[184845]: time="2024-04-26T09:30:42.657+02:00" level=info msg=Starting... component=client
Apr 26 09:30:42 ceelake01 pmm-agent[184845]: time="2024-04-26T09:30:42.657+02:00" level=error msg="PMM Server address is not...client
Apr 26 09:30:42 ceelake01 pmm-agent[184845]: time="2024-04-26T09:30:42.658+02:00" level=info msg="Starting local API server ...r/JSON
Apr 26 09:30:42 ceelake01 pmm-agent[184845]: time="2024-04-26T09:30:42.659+02:00" level=info msg=Started. component=local-server/JSON
Hint: Some lines were ellipsized, use -l to show in full.
[root@ceelake01 soft]#
[root@ceelake01 soft]#

完成PMM Client安装后，需要做的事情有：

  1. 向PMM服务器注册节点;
  2. 根据类型配置和添加业务。

3. 配置 ClickHouse 以支持监控

9363端口开启

4. 连接 ClickHouse 到 PMM Server

a. 数据源1:ClickHouse-metrics对接PMM

ⅰ. 配置 PMM 客户端以连接到 PMM 服务器

pmm-admin config --server-insecure-tls --server-url=https://admin:admin@172.16.171.31:443

被监控机执行，此处URL是PMM服务端

###结果##
[root@localhost system]# pmm-admin config --server-insecure-tls --server-url=https://admin:admin@172.16.171.31:443
Checking local pmm-agent status...
pmm-agent is running.
Registering pmm-agent on PMM Server...
Registered.
Configuration file /usr/local/percona/pmm2/config/pmm-agent.yaml updated.
Reloading pmm-agent configuration...
Configuration reloaded.
Checking local pmm-agent status...
pmm-agent is running.
[root@localhost system]# 
[root@localhost system]# pmm-admin status
Agent ID : /agent_id/da142ba5-31df-4c30-a753-7e5abae7709d
Node ID  : /node_id/d6c3e869-991d-4770-9e3a-c341b5ba21b8
Node name: localhost.localdomain

PMM Server:
        URL    : https://172.16.171.31:443/
        Version: 2.41.2

PMM Client:
        Connected        : true
        Time drift       : 140.753µs
        Latency          : 341.281µs
        Connection uptime: 100
        pmm-admin version: 2.41.0
        pmm-agent version: 2.41.0
Agents:
        /agent_id/ca0923f9-7b82-4387-9ab1-404f9abf2d96 vmagent Running 42000
        /agent_id/db011717-dbd7-436e-9559-df0a49a60ebd node_exporter Running 42001

ⅱ. 添加外部无服务器监控

一个是数据库的，一个是代理chproxy的

节点1: 

pmm-admin add external-serverless --external-name=clickhouse-172-16-171-35 --host=172.16.171.35 --listen-port=9363 --metrics-path=/metrics --scheme=http

pmm-admin add external-serverless --external-name=chproxy-172-16-171-35 --host=172.16.171.35 --listen-port=9090 --metrics-path=/metrics --scheme=http

（删除 pmm-admin remove external choproxy-172-16-171-36）

节点2: 

pmm-admin add external-serverless --external-name=clickhouse-172-16-171-35 --host=172.16.171.35 --listen-port=9363 --metrics-path=/metrics --scheme=http

pmm-admin add external-serverless --external-name=chproxy-172-16-171-36 --host=172.16.171.36 --listen-port=9090 --metrics-path=/metrics --scheme=http


[root@ceelake01 soft]# pmm-admin add external-serverless --external-name=chproxy-172-16-171-35 --host=172.16.171.35 --listen-port=9090 --metrics-path=/metrics  --scheme=http
External Service added.
Service ID  : /service_id/b79973f3-78f6-42d4-9495-49423ab2eb79
Service name: chproxy-172-16-171-35
Group       : external

https://172.16.171.31/prometheus/targets? （服务端IP） 就可以看到上面接入的数据源

b. ClickHouse作为数据源对接PMM

PMM界面操作：PMM 可以直接通过配置(native|http)接口直接访问ClickHouse作为数据源

界面元素 Data sources→Add data source→ClickHouse配置数据源名称访问地址和用户名密码

端口9000

设置好数据源之后可以看到自带的三个关于clickhouse的dashboard ，直接import就行了。

鱼鱼不愚与
关注
  • 4
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
【clickhouse】docker 下 搭建 clickhouse 监控
九师兄
02-21 509
1.概述 转载：搭建clickhouse监控
clickhouse可视化监控工具windows离线安装包1.23
09-22
clickhouse可视化监控工具windows离线安装包1.23
clickhouse 部署&集群监控实施方案
青衫键客
04-02 1766
1、本地搭建CK单机服务 服务架构：win10 + VM16 + CentOS7 + CK2 2、centOS 网络配置：安装好 VMware 和 CentOS 7。 使用静态固定IP设置方便测试； 配置VMware 使用Net 网络模式。 Step1: 关闭需要配置网络的虚拟机。 Step2: 更改虚拟机网络设置：菜单栏 → 虚拟机 → 设置 → 网络适配器 网络连接选择：自定义-VMnet8（NAT模式） Step3: 菜单栏→编辑 →虚拟网络编辑器 ...
clickhouse-监控配置
line_on_database的博客
08-16 861
监控是运维的一大利器，要想运维好clickhouse,首先就要对其进行监控，clickhouse有几种监控数据的方式，一种是系统本身监控，一种是通过exporter来监控，下面分别描述一下。
ClickHouse监控系统Prometheus+Grafana
赵广陆
04-22 1456
目录 1 Prometheus+Grafana概述 2 安装Prometheus + Grafana 3 配置ClickHouse 4 配置Grafana 1 Prometheus+Grafana概述 ClickHouse 运行时会将一些个自身的运行状态记录到众多系统表中( system.*)。所以我们对于 CH 自身的一些运行指标的监控数据，也主要来自这些系统表。
使用Docker快速安装ClickHouse监控工具Grafana
冰川的博客
02-20 685
Grafana Grafana 是一种非常流行的工具，可用于根据时间序列数据创建交互式的仪表盘，也是每个数据库的分析和监控的解决方案。Grafana 允许用户查询、可视化、警报和了解指标。 Grafana 提供的很多很棒的特性： 可视化 从热图到直方图，常见图形到地理地图。Grafana 提供了大量的可视化选择，可帮助用户精美地理解数据。 2. 监控报警 在接入数据时，根据业务需求定义阈值，无缝定义警报。 3. 整合度 Grafana 与众多项目进行整合，比如我们熟悉且常用的 Graphite、Elas
【ClickHouse监控】clickhouse-exporter+prometheus+grafana实现clickhouse监控
qq_42455809的博客
11-20 5970
下面介绍一下clickhouse-exportor+prometheus+grafana实现clickhouse监控（目前为CH单节点，CH集群之后用到更新）。 编排docker-compose.yml 由于这三个组件在docker都有镜像，选择直接编排docker-compose.yml的方式进行安装，省时省力。文件如下： dockerconpose.yml version: '3' ser...
解密 Grupo MasMovil 使用 ClickHouse 监控无线网络
ClickHouseDB的博客
04-24 626
例如，对于15分钟的数据，我们只有15天的数据，对于每小时的数据，我们有30天的数据，对于15分钟的数据，我们有一年的数据。我们只提到了对节点的监控，但在这些节点内部有单元，而在它们上面，还有关于城市、地区的拓扑信息，以及全国某些KPI的值，这些对我们的工程团队至关重要。但是使用SQL和ClickHouse带来的附加功能，我们可以复制所有不同的KPI，自己或与ClickHouse支持团队的帮助下创建它们是很有趣的，后者对于特殊和奇怪的KPI帮助了我们很多。然而，我们需要一个在磁盘使用方面最佳的数据库。
Grafana制作clickhouse监控仪表盘（一）-节点状态的监控
普普通通程序猿的博客
11-21 1531
由于项目需要监控clickhouse集群的状态，首先想到的便是需要监控各个分片的状态，有多少active的，有多少失联的，但是苦苦搜寻发现clickhouse本身并没有提供这样的监控指标，只能寄希望于一些外部程序，其实自己写一个脚本去实现也是可以的，但是意外发现了Prometheus官方开源的blackbox-exporter程序，一番验证之后决定采用该方法，这样可以与我们其他监控指标使用的Prometheus + Grafana的方案保持一致。 1. blackbox-exporter简介 如同常用的no
ClickHouse的监控与报警
禅与计算机程序设计艺术
01-25 753
1.背景介绍 在大数据时代，ClickHouse作为一种高性能的时间序列数据库，已经成为了许多企业和组织的首选。为了确保ClickHouse的正常运行和高效管理，监控和报警功能至关重要。本文将深入探讨ClickHouse的监控与报警，涵盖背景介绍、核心概念与联系、核心算法原理和具体操作步骤、数学模型公式详细讲解、具体最佳实践、实际应用场景、工具和资源推荐以及总结与未来发展趋势与挑战。 1. 背...
clickhouse之zabbix监控模板（支持账号密码，配置文件可传）
09-24
clickhouse之zabbix监控模板（支持账号密码，配置文件可传）
03_尚硅谷大数据技术之ClickHouse监控及备份V1.01
08-04
第 2 章 Prometheus&Grafana 的安装Prometheus 下载地址：https://prometheus.io/download/Grafa
Clickhouse 时间日期函数
03-19
ClickHouse是一个开源的列式数据库管理系统，它提供了丰富的时间日期函数来处理和操作时间和日期数据。以下是ClickHouse中常用的时间日期函数的简介： 1. toDate(date_expression)：将日期表达式转换为日期类型。...
clickhouse
11-19
clickhouse使用文档，包含了所有的操作，学习clickhouse必备
Clickhouse 字符串函数使用总结—— Clickhouse基础篇（七）
奔跑的蜗牛的博客
05-23 293
将字符串 10 用字符串 s 补齐至7位，
Clickhouse Bitmap 类型操作总结—— Clickhouse 基础篇（四）
奔跑的蜗牛的博客
05-22 977
本文是对Clickhouse 中的高级数据类型 Bitmap 的操作总结。
Clickhouse 算术函数操作总结—— Clickhouse 基础篇（五）
奔跑的蜗牛的博客
05-22 353
【代码】Clickhouse 算术函数操作总结—— Clickhouse 基础篇（五）
clickhouse——ck目录介绍
最新发布
zyjzyjjyzjyz的博客
05-27 270
服务端的配置文件目录，包括全局配置config.xml和用户配置users.xml等。默认的数据存储目录（通常会修改默认路径配置，将数据保存到大容量磁盘挂载的路径）默认保存日志的目录（通常会修改路径配置，将日志保存到大容量磁盘挂载的路径）4、/usr/binclickhouse 主程序的可执行文件clickhouse-client 一个指向clickhouse可执行文件的软链接，供客户端连接使用clickhouse-server 一个指向clickhouse可执行文件的软连接，供服务端启动使用。
clickhouse 监控
04-13
ClickHouse是一个开源的列式数据库管理系统，专门用于处理大规模数据分析和实时查询。它具有高性能、可扩展性和可靠性的特点，被广泛应用于大数据领域。 对于ClickHouse的监控，可以通过以下几种方式进行： 1. ClickHouse内置监控：ClickHouse提供了一些内置的监控功能，可以通过查询系统表来获取各种指标信息。例如，可以使用`system.metrics`表获取ClickHouse的性能指标，使用`system.events`表获取系统事件信息等。 2. Grafana监控：Grafana是一个流行的开源监控和可视化工具，可以与ClickHouse集成，通过配置数据源和仪表盘，实现对ClickHouse的监控和可视化。可以使用Grafana的ClickHouse插件或者Prometheus数据源来连接ClickHouse，并创建自定义的监控仪表盘。 3. ClickHouse自定义监控：除了内置的监控功能和Grafana外，还可以通过自定义监控脚本或工具来监控ClickHouse。可以使用各种编程语言（如Python、Go等）编写脚本，通过ClickHouse提供的HTTP接口或者TCP接口获取指标信息，并进行监控和报警。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值