使用 TiUP 扩容缩容 TiDB 集群

最新推荐文章于 2024-08-30 09:52:10 发布
最新推荐文章于 2024-08-30 09:52:10 发布
阅读量1.3k 收藏 3
点赞数 1
分类专栏： tidb
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hxiaowang/article/details/111300831
版权

TiDB 集群可以在不中断线上服务的情况下进行扩容和缩容。

本文介绍如何使用 TiUP 扩容缩容集群中的 TiDB、TiKV、PD、TiCDC 或者 TiFlash 节点。如未安装 TiUP，可参考升级文档中的步骤，将集群 Import 到 TiUP 环境中，再使用 TiUP 进行扩容缩容。

你可以通过 tiup cluster list 查看当前的集群名称列表。

例如，集群原拓扑结构如下所示：

主机 IP服务
10.0.1.3TiDB + TiFlash 
10.0.1.4TiDB + PD
10.0.1.5TiKV + Monitor
10.0.1.1TiKV
10.0.1.2TiKV 

扩容 TiDB/PD/TiKV 节点

如果要添加一个 TiDB 节点，IP 地址为 10.0.1.5，可以按照如下步骤进行操作。

注意：

添加 PD 节点和添加 TiDB 节点的步骤类似。添加 TiKV 节点前，建议预先根据集群的负载情况调整 PD 调度参数。

1. 编写扩容拓扑配置

注意：

  • 默认情况下，可以不填写端口以及目录信息。但在单机多实例场景下，则需要分配不同的端口以及目录，如果有端口或目录冲突，会在部署或扩容时提醒。

  • 从 TiUP v1.0.0 开始，扩容配置会继承原集群配置的 global 部分。

在 scale-out.yaml 文件添加扩容拓扑配置：

Copy

vi scale-out.yaml

Copy

tidb_servers:
  - host: 10.0.1.5
    ssh_port: 22
    port: 4000
    status_port: 10080
    deploy_dir: /data/deploy/install/deploy/tidb-4000
    log_dir: /data/deploy/install/log/tidb-4000

TiKV 配置文件参考：

Copy

tikv_servers:
  - host: 10.0.1.5
    ssh_port: 22
    port: 20160
    status_port: 20180
    deploy_dir: /data/deploy/install/deploy/tikv-20160
    data_dir: /data/deploy/install/data/tikv-20160
    log_dir: /data/deploy/install/log/tikv-20160

PD 配置文件参考：

Copy

pd_servers:
  - host: 10.0.1.5
    ssh_port: 22
    name: pd-1
    client_port: 2379
    peer_port: 2380
    deploy_dir: /data/deploy/install/deploy/pd-2379
    data_dir: /data/deploy/install/data/pd-2379
    log_dir: /data/deploy/install/log/pd-2379

可以使用 tiup cluster edit-config <cluster-name> 查看当前集群的配置信息，因为其中的 global 和 server_configs 参数配置默认会被 scale-out.yaml 继承，因此也会在 scale-out.yaml 中生效。

2. 执行扩容命令

Copy

tiup cluster scale-out <cluster-name> scale-out.yaml

注意：

此处假设当前执行命令的用户和新增的机器打通了互信，如果不满足已打通互信的条件，需要通过 -p 来输入新机器的密码，或通过 -i 指定私钥文件。

预期输出 Scaled cluster <cluster-name> out successfully 信息，表示扩容操作成功。

3. 检查集群状态

Copy

tiup cluster display <cluster-name>

打开浏览器访问监控平台 http://10.0.1.5:3000，监控整个集群和新增节点的状态。

扩容后，集群拓扑结构如下所示：

主机 IP服务
10.0.1.3TiDB + TiFlash 
10.0.1.4TiDB + PD
10.0.1.5TiDB + TiKV + Monitor
10.0.1.1TiKV 
10.0.1.2TiKV 

扩容 TiFlash 节点

注意：

在原有 TiDB 集群上新增 TiFlash 组件需要注意：

  1. 首先确认当前 TiDB 的版本支持 TiFlash，否则需要先升级 TiDB 集群至 4.0 rc 以上版本。
  2. 下载 pd-ctl，执行 config set enable-placement-rules true 命令，以开启 PD 的 Placement Rules 功能。

如果要添加一个 TiFlash 节点，IP 地址为 10.0.1.4，可以按照如下步骤进行操作。

1. 添加节点信息到 scale-out.yaml 文件

编写 scale-out.yaml 文件，添加该 TiFlash 节点信息（目前只支持 ip，不支持域名）：

Copy

tiflash_servers:
  - host: 10.0.1.4

2. 运行扩容命令

Copy

tiup cluster scale-out <cluster-name> scale-out.yaml

注意：

此处假设当前执行命令的用户和新增的机器打通了互信，如果不满足已打通互信的条件，需要通过 -p 来输入新机器的密码，或通过 -i 指定私钥文件。

3. 查看集群状态

Copy

tiup cluster display <cluster-name>

打开浏览器访问监控平台 http://10.0.1.5:3000，监控整个集群和新增节点的状态。

扩容后，集群拓扑结构如下所示：

主机 IP服务
10.0.1.3TiDB + TiFlash 
10.0.1.4TiDB + PD + TiFlash
10.0.1.5TiDB+ TiKV + Monitor
10.0.1.1TiKV 
10.0.1.2TiKV 

扩容 TiCDC 节点

如果要添加 TiCDC 节点，IP 地址为 10.0.1.3、10.0.1.4，可以按照如下步骤进行操作。

1. 添加节点信息到 scale-out.yaml 文件

编写 scale-out.yaml 文件：

Copy

cdc_servers:
  - host: 10.0.1.3
  - host: 10.0.1.4

2. 运行扩容命令

Copy

tiup cluster scale-out <cluster-name> scale-out.yaml

注意：

此处假设当前执行命令的用户和新增的机器打通了互信，如果不满足已打通互信的条件，需要通过 -p 来输入新机器的密码，或通过 -i 指定私钥文件。

3. 查看集群状态

Copy

tiup cluster display <cluster-name>

打开浏览器访问监控平台 http://10.0.1.5:3000，监控整个集群和新增节点的状态。

扩容后，集群拓扑结构如下所示：

主机 IP服务
10.0.1.3TiDB + TiFlash + TiCDC
10.0.1.4TiDB + PD + TiFlash + TiCDC
10.0.1.5TiDB+ TiKV + Monitor
10.0.1.1TiKV 
10.0.1.2TiKV 

缩容 TiDB/PD/TiKV 节点

如果要移除 IP 地址为 10.0.1.5 的一个 TiKV 节点，可以按照如下步骤进行操作。

注意：

移除 TiDB、PD 节点和移除 TiKV 节点的步骤类似。

1. 查看节点 ID 信息

Copy

tiup cluster display <cluster-name>
Starting /root/.tiup/components/cluster/v0.4.6/cluster display <cluster-name> 

TiDB Cluster: <cluster-name>

TiDB Version: v4.0.0-rc

ID              Role         Host        Ports                            Status  Data Dir                Deploy Dir

--              ----         ----        -----                            ------  --------                ----------

10.0.1.3:8300   cdc         10.0.1.3     8300                                Up      -                       deploy/cdc-8300
10.0.1.4:8300   cdc         10.0.1.4     8300                                Up      -                       deploy/cdc-8300
10.0.1.4:2379   pd           10.0.1.4    2379/2380                        Healthy data/pd-2379            deploy/pd-2379

10.0.1.1:20160  tikv         10.0.1.1    20160/20180                      Up      data/tikv-20160         deploy/tikv-20160

10.0.1.2:20160  tikv         10.0.1.2    20160/20180                      Up      data/tikv-20160         deploy/tikv-20160

10.0.1.5:20160  tikv         10.0.1.5    20160/20180                      Up      data/tikv-20160         deploy/tikv-20160

10.0.1.3:4000   tidb         10.0.1.3    4000/10080                       Up      -                       deploy/tidb-4000

10.0.1.4:4000   tidb         10.0.1.4    4000/10080                       Up      -                       deploy/tidb-4000

10.0.1.5:4000   tidb         10.0.1.5    4000/10080                       Up      -                       deploy/tidb-4000

10.0.1.3:9000   tiflash      10.0.1.3    9000/8123/3930/20170/20292/8234  Up      data/tiflash-9000       deploy/tiflash-9000

10.0.1.4:9000   tiflash      10.0.1.4    9000/8123/3930/20170/20292/8234  Up      data/tiflash-9000       deploy/tiflash-9000

10.0.1.5:9090   prometheus   10.0.1.5    9090                             Up      data/prometheus-9090    deploy/prometheus-9090

10.0.1.5:3000   grafana      10.0.1.5    3000                             Up      -                       deploy/grafana-3000

10.0.1.5:9093   alertmanager 10.0.1.5    9093/9094                        Up      data/alertmanager-9093  deploy/alertmanager-9093

2. 执行缩容操作

Copy

tiup cluster scale-in <cluster-name> --node 10.0.1.5:20160

其中 --node 参数为需要下线节点的 ID。

预期输出 Scaled cluster <cluster-name> in successfully 信息，表示缩容操作成功。

3. 检查集群状态

下线需要一定时间，下线节点的状态变为 Tombstone 就说明下线成功。

执行如下命令检查节点是否下线成功：

Copy

tiup cluster display <cluster-name>

打开浏览器访问监控平台 http://10.0.1.5:3000，监控整个集群的状态。

调整后，拓扑结构如下：

Host IPService
10.0.1.3TiDB + TiFlash + TiCDC
10.0.1.4TiDB + PD + TiFlash + TiCDC
10.0.1.5TiDB + Monitor（TiKV 已删除）
10.0.1.1TiKV 
10.0.1.2TiKV 

缩容 TiFlash 节点

如果要缩容 IP 地址为 10.0.1.4 的一个 TiFlash 节点，可以按照如下步骤进行操作。

1. 根据 TiFlash 剩余节点数调整数据表的副本数

在下线节点之前，确保 TiFlash 集群剩余节点数大于等于所有数据表的最大副本数，否则需要修改相关表的 TiFlash 副本数。

  1. 在 TiDB 客户端中针对所有副本数大于集群剩余 TiFlash 节点数的表执行：

    Copy 
    alter table <db-name>.<table-name> set tiflash replica 0;

  2. 等待相关表的 TiFlash 副本被删除（按照查看表同步进度一节操作，查不到相关表的同步信息时即为副本被删除）。

2. 执行缩容操作

接下来，请任选下列方案其一进行缩容。

方案一：通过 TiUP 缩容 TiFlash 节点

  1. 通过以下命令确定需要下线的节点名称：

    Copy 
    tiup cluster display <cluster-name>

  2. 执行 scale-in 命令来下线节点，假设步骤 1 中获得该节点名为 10.0.1.4:9000

    Copy 
    tiup cluster scale-in <cluster-name> --node 10.0.1.4:9000

方案二：手动缩容 TiFlash 节点

在特殊情况下（比如需要强制下线节点），或者 TiUP 操作失败的情况下，可以使用以下方法手动下线 TiFlash 节点。

  1. 使用 pd-ctl 的 store 命令在 PD 中查看该 TiFlash 节点对应的 store id。

    • 在 pd-ctl (tidb-ansible 目录下的 resources/bin 包含对应的二进制文件) 中输入 store 命令。

    • 若使用 TiUP 部署，可以调用以下命令代替 pd-ctl：

      Copy 
      tiup ctl pd -u <pd-address> store

  2. 在 pd-ctl 中下线该 TiFlash 节点。

    • 在 pd-ctl 中输入 store delete <store_id>，其中 <store_id> 为上一步查到的该 TiFlash 节点对应的 store id。

    • 若通过 TiUP 部署，可以调用以下命令代替 pd-ctl：

      Copy 
      tiup ctl pd -u <pd-address> store delete <store_id>

  3. 等待该 TiFlash 节点对应的 store 消失或者 state_name 变成 Tombstone 再关闭 TiFlash 进程。

    如果等待较长时间后，该节点仍然无法正常消失或者状态变成 Tombstone，可以考虑以下命令，把节点强制踢出集群：

    注意以下命令会直接丢弃该 TiFlash 节点上的副本，有可能导致查询失败

    Copy 
    curl -X POST 'http://<pd-address>/pd/api/v1/store/<store_id>/state?state=Tombstone'

  4. 手动删除 TiFlash 的数据文件，具体位置可查看在集群拓扑配置文件中 TiFlash 配置部分下的 data_dir 目录。

  5. 手动更新 TiUP 的集群配置文件，在编辑模式中手动删除我们已经下线的 TiFlash 节点信息：

    Copy 
    tiup cluster edit-config <cluster-name>

注意：

如果在集群中所有的 TiFlash 节点停止运行之前，没有取消所有同步到 TiFlash 的表，则需要手动在 PD 中清除同步规则，否则无法成功完成 TiFlash 节点的下线。

手动在 PD 中清除同步规则的步骤如下：

  1. 查询当前 PD 实例中所有与 TiFlash 相关的的数据同步规则。

    Copy 
    curl http://<pd_ip>:<pd_port>/pd/api/v1/config/rules/group/tiflash
    [
  {
    "group_id": "tiflash",
    "id": "table-45-r",
    "override": true,
    "start_key": "7480000000000000FF2D5F720000000000FA",
    "end_key": "7480000000000000FF2E00000000000000F8",
    "role": "learner",
    "count": 1,
    "label_constraints": [
      {
        "key": "engine",
        "op": "in",
        "values": [
          "tiflash"
        ]
      }
    ]
  }
]

  2. 删除所有与 TiFlash 相关的数据同步规则。以 id 为 table-45-r 的规则为例，通过以下命令可以删除该规则。

    Copy 
    curl -v -X DELETE http://<pd_ip>:<pd_port>/pd/api/v1/config/rule/tiflash/table-45-r

3. 查看集群状态

Copy

tiup cluster display <cluster-name>

打开浏览器访问监控平台 http://10.0.1.5:3000，监控整个集群的状态。

调整后，拓扑结构如下：

Host IPService
10.0.1.3TiDB + TiFlash + TiCDC
10.0.1.4TiDB + PD + TiCDC （TiFlash 已删除）
10.0.1.5TiDB + Monitor
10.0.1.1TiKV 
10.0.1.2TiKV 

缩容 TiCDC 节点

如果要缩容 IP 地址为 10.0.1.4 的一个 TiCDC 节点，可以按照如下步骤进行操作。

1. 下线该 TiCDC 节点

Copy

tiup cluster scale-in <cluster-name> --node 10.0.1.4:8300

2. 查看集群状态

Copy

tiup cluster display <cluster-name>

打开浏览器访问监控平台 http://10.0.1.5:3000，监控整个集群的状态。

调整后，拓扑结构如下：

Host IPService
10.0.1.3TiDB + TiFlash + TiCDC
10.0.1.4TiDB + PD + (TiCDC 已删除）
10.0.1.5TiDB + Monitor
10.0.1.1TiKV 
10.0.1.2TiKV 
轻风细雨
关注
专栏目录
TiDB系列之：认识TiDB数据库，使用TiUP部署TiDB集群，同时部署TiCDC的详细步骤
zhengzaifeidelushang的博客
04-25 391
TiUP 的直接功能是作为 TiDB 生态中的包管理器，但这并不是它的最终使命。TiUP 的愿景是将 TiDB 生态中所有工具的使用门槛降到极致，这个仅仅靠包管理功能是做不到的，还需要引入一些额外的包来丰富这个系统，它们一起加入到 TiUP 生态中，让 TiDB 的世界变得更简单。TiUP 系列文档的主要内容就是介绍 TiUP 及这些包的功能和使用方式。Usage:Examples:Flags:可用的命令install：用于安装特定版本的组件list：查看可用组件列表或组件可用版本列表。
使用 TiUP 安装部署 TiDB 集群实验流程
TiDB 社区干货传送门
12-20 571
作者： G7尹裕皓 原文来源： https://tidb.net/blog/c45d8413 ...
如何对TiDB进行在线扩容
weixin_45694422的博客
07-06 800
1、 检查集群状态 [root@tidb ~]# tiup cluster display sandata 我们发现集群里只有1个TIDB节点，根据官方手册要求生产环境最少需要两个TIDB节点所以我们进行在线扩容添加一个TIDB节点。 2、 创建扩容文件scale-out-tidb.yaml 这里我们复制topology.yaml文件的tidb部分内容进行修改，如果找不到topology.yaml文件也可以去官方文档查找对应的参数，将注释去掉不需要的部分也删掉，注意格式，有可能格式不对会报错，目录端口根
TiDB入门篇-集群的扩容缩容
S1124654的博客
03-27 1150
TiDB入门篇-集群的扩容缩容
Tidb 节点缩容
最新发布
qq_29321057的博客
08-30 345
生产环境上有一个TIdb 集群，由多台服务器组成，但是由于使用Tidb 的业务进行了缩减，Tidb 也需要减配，腾出一部分资源给其他业务使用。随进行缩容的操作。
TiDB扩缩容
Hello World
11-06 601
需要扩容一个TiKV节点。
TiDB3.0 /4.0.0 扩容缩容
jiangbenchu的博客
11-16 790
TiDB 扩容缩容 TiDB 集群可以在不影响线上服务的情况下进行扩容和缩容。以下缩容示例中，被移除的节点没有混合部署其他服务；如果混合部署了其他服务，不能按如下操作。 扩容 TiKV 节点 编辑 inventory.ini 文件 [tidb@dev10 tidb-ansible]$ vim inventory.ini ## TiDB Cluster Part [tidb_servers] 192...
TiDB-Data Migration（DM）扩容、缩容、销毁
汪灵骅的博客
04-09 257
tiup dm display dm-testtiup dm scale-in dm-test -N 172.31.0.175:8262编辑扩容配置文件，加入一个worker节点vi dm-scale.yamlworker_servers: - host: 172.31.0.175使用扩容配置文件进行扩容tiup dm scale-out dm-test dm-scale.yaml -uroot -p再次查看状态tiup dm display dm-test 成功停止tiup dmctl --master
TiDB监控节点扩缩容操作（是否保留历史数据）
TiDB 社区干货传送门
09-06 811
作者： Liuhaoao 原文来源： https://tidb.net/blog/adb8242d ...
Tidb集群加mysql_TiDB集群部署及维护
weixin_39913472的博客
01-19 223
一、准备服务器1.准备三台服务器，配置如下2.三块固态硬盘分别做raid03.最小化安装centos7.7系统，配置ip地址和DNS二、服务器初始化：包括安装常用命令工具，修改系统时区，校对系统时间，关闭selinux，关闭firewalld，修改主机名，修改系统文件描述符，优化内核参数，优化数据盘挂载参数1、安装常用命令工具yum install vim net-tools bash-compl...
TiDB 集群跨平台在线迁移方案（离线环境下从 x86 节点迁移到 arm64 节点）
TiDB 社区干货传送门
11-16 212
作者：pepezzzz 原文来源： https://tidb.net/blog/65522d06 ...
银行交易系统 TiDB 在线缩容迁移
weixin_33893473的博客
05-16 163
作者：Dan 本文转载自公众号「白噪声OG」。 经历了上礼拜漫长的上线周期，终于有时间总结一下期间发生的故事。TiDB 是一款非常优秀的国产分布式 NewSQL 数据库，因其支持水平扩展性、强一致性、高可用性，从 18 年 3 月起已在国内银行的账务、支付类核心系统得到应用。 临近年中，银行重要系统的建设进入投产冲刺阶段，本次上线又有多个系统对接 TiDB，为了优化集群资源分配，引发了这次分享...
Tidb进行缩减扩容tikv节点
weixin_34122604的博客
01-04 652
这两天接到任务说是要进行测试缩减机器给集群带来的负面效果有哪些。 然后我就按照官方的教程将机器进行了缩减，主要是缩减tikv节点 我们先来看看官方的文章是怎么写的： 步骤都没有什么问题，就是进行到第二步的时候，一定要等到节点的状态变成“Tombstone”才可以正常下线。但在刚开始的时候，他的状态一直是“offline”，此时的状态说明节点正在迁移leader节点和数据，官方说是等待几分...
tidb扩容之tiup报错
u012565458的博客
12-01 500
使用tiup部署tidb节点时，使用tidb用户和root用户部署效果是一样的，都是会先copy 公钥和私钥到目录～.tiup/storage/cluster/clusters/集群/ssh下面，然后使用配置文件里的配置用户tidb去登陆到目标节点，最后部署节点。所以不管是使用tidb用户部署，还是用root 用户部署，都是最后会是以tidb用户来登陆到各个tidb节点来实现部署。然后再利用生成的公钥和私钥来ssh免密登陆到各个节点上，使用tidb用户(假设配置文件里是tidb用户)来部署节点；
tidb-在线扩容（tidb、pd、tikv、tiflash）
汪灵骅的博客
03-26 525
scale-out-tidb.yaml 配置文件名。tiup cluster scale-out 固定。tidb-haha 集群名。主机加入到集群网络中即可。
TIDB扩容--binlog
qq_43297415的博客
06-01 324
【代码】TIDB扩容--binlog。
TIDB - TIDB集群的扩容和缩容及TIUP指令说明
小毕超博客
11-21 6820
一、TIUP工具 前面介绍了使用TIUP搭建TIDB集群，本篇文章详细介绍下TIUP的功能。 TiUP 是 TiDB 4.0 版本引入的集群运维工具，TiUP cluster 是 TiUP 提供的使用 Golang 编写的集群管理组件，通过 TiUP cluster 组件就可以进行日常的运维工作，包括部署、启动、关闭、销毁、弹性扩缩容、升级 TiDB 集群，以及管理 TiDB 集群参数。 目前 TiUP 可以支持部署 TiDB、TiFlash、TiDB Binlog、TiCDC，以及监控系统。本文将介绍不同
TiDB 4.0 生产环境扩容 TiKV 节点详细步骤
TiDB 社区干货传送门
11-19 418
作者：dba_gc 原文来源： https://tidb.net/blog/a63909d7 ...
TiDB集群环境部署
08-23
TiDB集群环境的部署可以通过使用TiUP来完成。TiUP是TiDB 4.0版本引入的集群运维工具，它提供了集群管理组件TiUP cluster，可以用于管理TiDB集群的部署、启动、关闭、销毁、弹性扩缩容、升级等工作。通过执行TiUP命令，可以输出当前通过TiUP cluster管理的所有集群信息，包括集群名称、部署用户、版本、密钥信息等。 具体的部署步骤如下： 1. 安装TiUP组件：执行TiUP命令进行组件安装。 2. 创建集群配置文件：使用TiUP cluster命令创建一个新的集群配置文件。 3. 配置集群参数：根据需求修改集群配置文件中的参数，例如副本数、节点数量等。 4. 部署TiDB集群：执行TiUP cluster命令进行集群的部署。 5. 检查部署情况：执行TiUP cluster命令检查部署的TiDB集群情况。 通过以上步骤，可以完成TiDB集群环境的部署和配置。使用TiUP作为集群管理工具，可以方便地进行TiDB生态下各个组件的管理和运维工作，极大地降低了管理难度。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [使用 TiUP 部署 TiDB 集群](https://blog.csdn.net/weixin_42241611/article/details/125518329)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *3* [TIDB集群部署](https://blog.csdn.net/qq_21040559/article/details/127716535)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值