KingbaseES R3集群在线删除数据节点案例

最新推荐文章于 2024-01-31 11:51:49 发布
最新推荐文章于 2024-01-31 11:51:49 发布
阅读量830 收藏 1
点赞数
文章标签： 数据库 linux 大数据 java zookeeper
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lyu1026/article/details/124464945
版权

案例说明：
kingbaseES R3集群一主多从的架构，一般有两个节点是集群的管理节点，所有的节点都可以为数据节点；对于非管理节点的数据节点可以在线删除；但是对于管理节点，无法在线删除，如果删除管理节点，需要重新部署集群。本案例是在一主二备的架构下，删除数据节点(非管理节点)的测试案例。

系统主机环境：

[kingbase@node3 bin]$ cat /etc/hosts
127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
::1         localhost localhost.localdomain localhost6 localhost6.localdomain6

192.168.7.248   node1    # 集群管理节点&数据节点
192.168.7.249   node2    # 数据节点 
192.168.7.243   node3    # 集群管理节点&数据节点

集群架构：

数据库版本：

TEST=# select version();
                                                         VERSION                                                         
-------------------------------------------------------------------------------------------------------------------------
 Kingbase V008R003C002B0270 on x86_64-unknown-linux-gnu, compiled by gcc (GCC) 4.1.2 20080704 (Red Hat 4.1.2-46), 64-bit
(1 row)

一、查看集群状态信息

=注意：在删除数据节点前，保证集群状态是正常的，包括集群节点状态和主备流复制状态=

# 集群节点状态
[kingbase@node3 bin]$ ./ksql -U SYSTEM -W 123456 TEST -p 9999
ksql (V008R003C002B0270)
Type "help" for help.

TEST=# show pool_nodes;
 node_id |   hostname    | port  | status | lb_weight |  role   | select_cnt | load_balance_node | replication_delay 
---------+---------------+-------+--------+-----------+---------+------------+-------------------+-------------------
 0       | 192.168.7.243 | 54321 | up     | 0.333333  | primary | 0          | false             | 0
 1       | 192.168.7.248 | 54321 | up     | 0.333333  | standby | 0          | true              | 0
 2       | 192.168.7.249 | 54321 | up     | 0.333333  | standby | 0          | false             | 0
(3 rows)

# 主备流复制状态
TEST=# select * from sys_stat_replication;
  PID  | USESYSID | USENAME | APPLICATION_NAME |  CLIENT_ADDR  | CLIENT_HOSTNAME | CLIENT_PORT |         BACKEND_START         | BACKEND_XMIN |  
 STATE   | SENT_LOCATION | WRITE_LOCATION | FLUSH_LOCATION | REPLAY_LOCATION | SYNC_PRIORITY | SYNC_STATE 
-------+----------+---------+------------------+---------------+-----------------+-------------+-------------------------------+--------------+--

 12316 |       10 | SYSTEM  | node249          | 192.168.7.249 |                 |       39337 | 2021-03-01 12:59:29.003870+08 |              | s
treaming | 0/50001E8     | 0/50001E8      | 0/50001E8      | 0/50001E8       |             3 | potential
 15429 |       10 | SYSTEM  | node248          | 192.168.7.248 |                 |       35885 | 2021-03-01 12:59:38.317605+08 |              | s
treaming | 0/50001E8     | 0/50001E8      | 0/50001E8      | 0/50001E8       |             2 | sync
(2 rows)

二、删除集群数据节点

1、停止数据节点上cron服务(netwrok_rewind.sh计划任务)

[kingbase@node2 bin]$ cat /etc/cron.d/KINGBASECRON 
#*/1 * * * * kingbase . /etc/profile;/home/kingbase/cluster/R6HA/KHA/kingbase/bin/kbha -A daemon -f /home/kingbase/cluster/R6HA/KHA/kingbase/bin/../etc/repmgr.conf >> /home/kingbase/cluster/R6HA/KHA/kingbase/bin/../kbha.log 2>&1
#*/1 * * * * kingbase  /home/kingbase/cluster/kha/db/bin/network_rewind.sh

2、停止数据节点数据库服务

[kingbase@node2 bin]$ ./sys_ctl stop -D ../data
waiting for server to shut down.... done
server stopped

3、在主节点删除复制槽

TEST=# select * from sys_replication_slots;
  SLOT_NAME   | PLUGIN | SLOT_TYPE | DATOID | DATABASE | ACTIVE | ACTIVE_PID | XMIN | CATALOG_XMIN | RESTART_LSN | CONFIRMED_FLUSH_LSN 
--------------+--------+-----------+--------+----------+--------+------------+------+--------------+-------------+---------------------
 slot_node243 |        | physical  |        |          | f      |            |      |              |             | 
 slot_node248 |        | physical  |        |          | t      |      29330 | 2076 |              | 0/70000D0   | 
 slot_node249 |        | physical  |        |          | f      |            | 2076 |              | 0/60001B0   | 
(3 rows)


TEST=# select SYS_DROP_REPLICATION_SLOT('slot_node249');
 SYS_DROP_REPLICATION_SLOT 
---------------------------
 
(1 row)

TEST=# select * from sys_replication_slots;
  SLOT_NAME   | PLUGIN | SLOT_TYPE | DATOID | DATABASE | ACTIVE | ACTIVE_PID | XMIN | CATALOG_XMIN | RESTART_LSN | CONFIRMED_FLUSH_LSN 
--------------+--------+-----------+--------+----------+--------+------------+------+--------------+-------------+---------------------
 slot_node243 |        | physical  |        |          | f      |            |      |              |             | 
 slot_node248 |        | physical  |        |          | t      |      29330 | 2076 |              | 0/70000D0   | 
(2 rows)

4、编辑配置文件(所有管理节点)

1) HAmodule.conf配置文件(db/etc和kingbasecluster/etc下)

=如下所示，集群所有节点的主机名和ip配置信息，需将删除节点的配置信息清除=

[kingbase@node3 etc]$ cat HAmodule.conf |grep -i all
#IP of all nodes in the cluster.example:KB_ALL_IP="(192.168.28.128 192.168.28.129 )"
KB_ALL_IP=(192.168.7.243 192.168.7.248 192.168.7.249 )
#recoord the names of all nodes.example:ALL_NODE_NAME=1 (node1 node2 node3)
ALL_NODE_NAME=(node243 node248 node249)

=如下图所示，已经将要删除节点的主机名和ip信息从配置中清除=

2)编辑kingbasecluster配置文件

=如下所示，从配置文件注释删除节点的配置信息=

[kingbase@node1 etc]$ tail kingbasecluster.conf
backend_hostname1='192.168.7.248'
backend_port1=54321
backend_weight1=1
backend_data_directory1='/home/kingbase/cluster/kha/db/data'

# 注释node249配置信息
#backend_hostname2='192.168.7.249'
#backend_port2=54321
#backend_weight2=1
#backend_data_directory2='/home/kingbase/cluster/kha/db/data'

三、重启集群测试

=== 注意：在生产环境下，不需要立刻重启集群，在适当时候重启集群即可===

[kingbase@node3 bin]$ ./kingbase_monitor.sh restart
-----------------------------------------------------------------------
2021-03-01 13:26:44 KingbaseES automation beging...
2021-03-01 13:26:44 stop kingbasecluster [192.168.7.243] ...
remove status file  /home/kingbase/cluster/kha/run/kingbasecluster/kingbasecluster_status
DEL VIP NOW AT 2021-03-01 13:26:49 ON enp0s3
No VIP on my dev, nothing to do.
2021-03-01 13:26:50 Done...
2021-03-01 13:26:50 stop kingbasecluster [192.168.7.248] ...
remove status file  /home/kingbase/cluster/kha/run/kingbasecluster/kingbasecluster_status
DEL VIP NOW AT 2021-03-01 13:09:36 ON enp0s3
No VIP on my dev, nothing to do.
2021-03-01 13:26:55 Done...
2021-03-01 13:26:55 stop kingbase [192.168.7.243] ...
set /home/kingbase/cluster/kha/db/data down now...
2021-03-01 13:27:01 Done...
2021-03-01 13:27:02 Del kingbase VIP [192.168.7.245/24] ...
DEL VIP NOW AT 2021-03-01 13:27:03 ON enp0s3
execute: [/sbin/ip addr del 192.168.7.245/24 dev enp0s3]
Oprate del ip cmd end.
2021-03-01 13:27:03 Done...
2021-03-01 13:27:03 stop kingbase [192.168.7.248] ...
set /home/kingbase/cluster/kha/db/data down now...
2021-03-01 13:27:06 Done...
2021-03-01 13:27:07 Del kingbase VIP [192.168.7.245/24] ...
DEL VIP NOW AT 2021-03-01 13:09:47 ON enp0s3
No VIP on my dev, nothing to do.
2021-03-01 13:27:07 Done...
......................
all stop..
ping trust ip 192.168.7.1 success ping times :[3], success times:[2]
ping trust ip 192.168.7.1 success ping times :[3], success times:[2]
start crontab kingbase position : [3]
Redirecting to /bin/systemctl restart  crond.service
ADD VIP NOW AT 2021-03-01 13:27:17 ON enp0s3
execute: [/sbin/ip addr add 192.168.7.245/24 dev enp0s3 label enp0s3:2]
execute: /home/kingbase/cluster/kha/db/bin/arping -U 192.168.7.245 -I enp0s3 -w 1
ARPING 192.168.7.245 from 192.168.7.245 enp0s3
Sent 1 probes (1 broadcast(s))
Received 0 response(s)
start crontab kingbase position : [2]
Redirecting to /bin/systemctl restart  crond.service
ping vip 192.168.7.245 success ping times :[3], success times:[3]
ping vip 192.168.7.245 success ping times :[3], success times:[2]
now,there is a synchronous standby.
wait kingbase recovery 5 sec...
start crontab kingbasecluster line number: [6]
Redirecting to /bin/systemctl restart  crond.service
start crontab kingbasecluster line number: [3]
Redirecting to /bin/systemctl restart  crond.service
......................
all started..
...
now we check again
=======================================================================
|             ip |                       program|              [status] 
[  192.168.7.243]|             [kingbasecluster]|              [active]
[  192.168.7.248]|             [kingbasecluster]|              [active]
[  192.168.7.243]|                    [kingbase]|              [active]
[  192.168.7.248]|                    [kingbase]|              [active]
=======================================================================

四、验证集群状态

1、查看流复制状态信息

# 主备流复制状态信息
[kingbase@node3 bin]$ ./ksql -U SYSTEM -W 123456 TEST
ksql (V008R003C002B0270)
Type "help" for help.

TEST=# select * from sys_stat_replication;
  PID  | USESYSID | USENAME | APPLICATION_NAME |  CLIENT_ADDR  | CLIENT_HOSTNAME | CLIENT_PORT |         BACKEND_START         | BACKEND_XMIN |  
 STATE   | SENT_LOCATION | WRITE_LOCATION | FLUSH_LOCATION | REPLAY_LOCATION | SYNC_PRIORITY | SYNC_STATE 
-------+----------+---------+------------------+---------------+-----------------+-------------+-------------------------------+--------------+--
 29330 |       10 | SYSTEM  | node248          | 192.168.7.248 |                 |       39484 | 2021-03-01 13:27:19.649897+08 |              | s
treaming | 0/70000D0     | 0/70000D0      | 0/70000D0      | 0/70000D0       |             2 | sync
(1 row)


# 复制槽信息
TEST=# select * from sys_replication_slots;
  SLOT_NAME   | PLUGIN | SLOT_TYPE | DATOID | DATABASE | ACTIVE | ACTIVE_PID | XMIN | CATALOG_XMIN | RESTART_LSN | CONFIRMED_FLUSH_LSN 
--------------+--------+-----------+--------+----------+--------+------------+------+--------------+-------------+---------------------
 slot_node243 |        | physical  |        |          | f      |            |      |              |             | 
 slot_node248 |    
    | physical  |        |          | t      |      29330 | 2076 |              | 0/70000D0   | 
(2 rows)

2、查看集群节点状态

[kingbase@node3 bin]$ ./ksql -U SYSTEM -W 123456 TEST -p 9999
ksql (V008R003C002B0270)
Type "help" for help.

TEST=# show pool_nodes;
 node_id |   hostname    | port  | status | lb_weight |  role   | select_cnt | load_balance_node | replication_delay 
---------+---------------+-------+--------+-----------+---------+------------+-------------------+-------------------
 0       | 192.168.7.243 | 54321 | up     | 0.500000  | primary | 0          | false             | 0
 1       | 192.168.7.248 | 54321 | up     | 0.500000  | standby | 0          | true              | 0
(2 rows)

TEST=#  select * from sys_stat_replication;
  PID  | USESYSID | USENAME | APPLICATION_NAME |  CLIENT_ADDR  | CLIENT_HOSTNAME | CLIENT_PORT |         BACKEND_START         | BACKEND_XMIN |  
 STATE   | SENT_LOCATION | WRITE_LOCATION | FLUSH_LOCATION | REPLAY_LOCATION | SYNC_PRIORITY | SYNC_STATE 
-------+----------+---------+------------------+---------------+-----------------+-------------+-------------------------------+--------------+--
---------+---------------+----------------+----------------+-----------------+---------------+------------
 29330 |       10 | SYSTEM  | node248          | 192.168.7.248 |                 |       39484 | 2021-03-01 13:27:19.649897+08 |              | s
treaming | 0/70001B0     | 0/70001B0      | 0/70001B0      | 0/70001B0       |             2 | sync
(1 row)

五、删除数据节点安装目录

[kingbase@node2 cluster]$ rm -rf kha/

六、总结

1、在删除集群数据节点前，需保证整个集群的状态(集群节点和流复制)正常。
  2、注释掉数据节点的cron计划任务。
  3、停止数据节点数据库服务。
  4、在主节点删除数据节点的slot。
  5、编辑所有管理节点的配置文件(HAmoudle.conf和kingbasecluster.conf)。
  6、重启集群(非必须)。
  7、测试集群状态。
  8、删除数据节点的安装目录。
Kingbase 研究院
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
KingbaseES R3 开发手册.pdf
01-28
KingbaseES R3开发手册，适用于各种开发
在es集群中添加和删除节点
QTM_Gitee的博客
09-21 3887
当启动 Elasticsearch 实例时，正在启动一个节点。 Elasticsearch 集群是一组具有相同 cluster.name 属性的节点。 当节点加入或离开集群时，集群会自动重新组织自身以在可用节点之间均匀分布数据。 如果正在运行 Elasticsearch 的单个实例，则拥有一个包含一个节点的集群。 所有主分片都驻留在单个节点上。 无法分配副本分片，因此集群状态保持为黄色。 集群功能齐全，但在发生故障时有数据丢失的风险。 可以向集群添加节点以提高其容量和可靠性。 默认情况下，一个节点既是数据
Elasticsearch 删除节点操作
qq_34982426的博客
07-31 2202
确认Es集群是否打开了分片自动分配。（博主就是因为之前关闭自动分配，导致节点分片一直不移动。。） PUT _cluster/settings { "persistent": { "cluster.routing.allocation.enable": "all" } } 使用api 将要删除节点的分片分配到其他节点中 PUT_cluster/settings { "transient": { "cluster.routing.allocation.exclude._i...
elasticsearch常用操作命令 —— 筑梦之路
筑梦之路
01-16 552
这里主要是使用命令对elasticsearch进行管理，不需要借助其他客户端工具。
【ES实战】节点数据的清空
coding and writing
11-23 4613
节点数据清空处理 文章目录节点数据清空处理1、查询集群原来的配置2、清空节点数据3、检查是否排空数据4、数据清空失败场景5、加快分片迁移 1、查询集群原来的配置 curl -X GET "http://{ip}:{port}/_cluster/settings?pretty" 出于某种原因，集群中原来就已经排除了某些数据节点，这些配置在未确定的情况下保持不动，数据还是排除。 { "persistent": { "cluster": { "routing":
Kingbase V8R3流复制切换恢复重做备机
qq_44906157的博客
10-10 270
若watchdog无法正常加入集群可以通过以下命令尝试。在主库上查询流复制连接是否正常，ksql连接主库查询。注：主库、备库查询到的复制槽数量、复制槽名称应该一样。查看每一个节点数据库进程是否正常。● 恢复原主机为备机，跟随新主机。A 主库 — node1。如果A主库故障，需要手动切换。● 确认数据库进程已启动。● 在新主机上加载VIP。● 使其他备机跟随新主机。在故障主库上执行以下命令。● 确认主备流复制正常。● 在主库上卸载VIP。● 选择一个备库升主。在备机上执行以下命令。● 流复制设置为同步。
KingbaseES V8R2 集群部署手册
11-29
5. **负载均衡**：在多节点集群中，读请求可以分散到所有可用节点，实现负载均衡，提高系统整体处理能力。写请求则通常由主节点处理，确保数据的一致性。 6. **安全与权限管理**：集群部署需要考虑安全性，包括用户...
KingbaseES-SQL语言参考手册.pdf
02-28
该手册旨在帮助用户理解和掌握如何使用SQL在KingbaseES中执行数据操作。 SQL（Structured Query Language，结构化查询语言）是一种用于管理关系数据库的标准语言，具有悠久的历史。SQL的发展经历了多个阶段，从最初...
Kingbase V8R3证书 标准版
08-31
Kingbase V8R3证书标准版提供的证书服务确保了数据传输过程中的机密性、完整性和不可否认性，有助于防止数据被篡改或非法访问。 "license_V8R3-标准版.dat" 文件很可能是Kingbase V8R3标准版的授权文件，它包含了...
Kingbase V8R3 重做备节点
chengkj123的博客
01-02 396
-然后去/home/kingbase/cluster/ceshi/db/etc下面，把recover.done，kingbase.conf拷贝到新传输过来的data下面。--注意检查备节点kingbase.conf里面的synchronous_standby_names这个参数注释掉。--启动集群前检查参数文件，主节点数据库的data下面是recover.done，备节点是recover.conf。8.在主节点和备节点检查复制槽。4.在主节点启动数据库服务。--ip填写主节点的ip。
人大金仓数据库KingbaseES 高可用集群相关的sql命令介绍
arthemis_14的博客
12-08 896
-pg_walfile_name_offset(pg_current_wal_lsn())：返回转换后的wal日志文件名和偏移量。sync_state：async（异步）、sync（同步）、potential（表示备库为异步同步方式，如果当前的同步备机宕机，--pg_walfile_name(pg_current_wal_lsn())：转换wal位置为文件名。--pg_current_wal_lsn()：获得当前wal日志写入位置。pg_current_wal_lsn():当前预写式日志刷写日志。
KingbaseES V8R6集群管理运维案例之---repmgr standby switchover故障
lyu1026的博客
08-13 1110
案例说明： 在KingbaseES V8R6集群备库执行“repmgr standby switchover”时，切换失败，并且在执行过程中，伴随着“repmr standby follow”操作，本案例详细记录了解决此问题的过程。 适用版本： KingbaseES V8R6 集群节点信息： 一、备库执行switchover操作 1、执行switchover切换 [kingbase@nod...
KingbaseES V8R6集群维护案例之--单实例数据迁移到集群案例
lyu1026的博客
06-25 747
案例说明： 生产环境是单实例，测试环境是集群，现需要将生产环境的数据迁移到集群中运行，本文档详细介绍了从单实例环境恢复数据到集群环境的操作步骤，可以作为生产环境迁移数据的参考。 适用版本： KingbaseES V8R6 本案例数据库版本(单实例和集群使用相同的版本)： test=# select version(); ...
人大金仓 金仓数据库KingbaseES 读写分离集群-状态管理
arthemis_14的博客
08-16 656
1、集群状态信息是监控中重要的监控项，可通过不同维度的集群状态信息查看确认集群的运行情况2、集群可一键启停及一键切换更多信息，参见。
Elasticsearch：如何从 Elasticsearch 集群中删除数据节点
Elastic 中国社区官方博客
10-04 1980
Elasticsearch 集群通常包含多个节点，并且可能存在需要从集群中删除节点的情况。应谨慎执行此过程，以确保数据的完整性和可用性。在本文中，我们将引导你完成从 Elasticsearch 集群安全删除节点的步骤。
Elasticsearch集群管理——如何添加、删除节点 ?测试 单节点下线
weixin_45028540的博客
06-29 906
Elasticsearch集群管理——如何添加、删除节点由于涉及系统升级 测试 单节点下线。
【Elasticsearch】暂时移除一个节点（排除和加入单个节点）
ihero的博客
03-17 962
在维护 ElasticSearch 集群的过程中，我们会经常遇到将某个 ElasticSearch 节点临时下线，比如机器换硬盘，系统参数调整，调整完毕后，再将 ElasticSearch 实例重新上线。ElasticSearch 提供了非常便利的API来支持这一点。集群一共 270 个节点，发现一个节点报错率很高，把这个节点下线，集群就恢复正常；
永久删除 Elasticsearch 中的主节点
最新发布
Elastic 中国社区官方博客
01-31 1245
Elasticsearch 是一个开源分布式搜索和分析引擎，用于各种任务，例如全文搜索、日志分析和实时数据分析。Elasticsearch 集群由一个或多个节点组成，每个节点可以具有多种角色，包括主节点（master node）、数据节点 (data node)、摄取节点 (ingest node) 和机器学习节点 (machine learning node)。在本文档中，我们将重点讨论从 Elasticsearch 集群中永久删除一个主节点。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值