平滑扩容方案

最新推荐文章于 2024-05-22 19:55:14 发布

字节跳动

最新推荐文章于 2024-05-22 19:55:14 发布

阅读量620

点赞数

本文链接：https://blog.csdn.net/wangmourena/article/details/110038533

版权

数据处理篇专栏收录该内容

7 篇文章 0 订阅

订阅专栏

双写方案

在这里插入图片描述
双写方案可通过canal或mq做实现。

增加新库
数据迁移：避免增量影响，先断开主从，再导入（耗时较长），同步完成并做校验
增量同步：监听Canal，并开启主从同步
切换新库
修复切换异常数据（canal未同步但已切换至新库的请求），通过定制程序读取异常日志做处理

2N方案（大数据量）

扩容前架构
在这里插入图片描述

MariaDB服务安装

切换阿里云镜像服务（YUM安装过慢可以切换）

yum -y install wget 
mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.bak 
wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo 
wget -P /etc/yum.repos.d/ http://mirrors.aliyun.com/repo/epel-7.repo 
yum clean all 
yum makecache

配置YUM源

vi /etc/yum.repos.d/mariadb-10.2.repo

增加以下内容：

[mariadb] 
name = MariaDB 
baseurl = https://mirrors.ustc.edu.cn/mariadb/yum/10.2/centos7-amd64 
gpgkey=https://yum.mariadb.org/RPM-GPG-KEY-MariaDB 
gpgcheck=1

执行安装

yum -y install mariadb mariadb-server MariaDB-client MariaDB-common

如果之前已经安装，需要先删除（如果之前没有安装，可以忽略此步骤）
初始化配置

systemctl start mariadb
mysql_secure_installation

开启用户远程连接权限

将连接用户root开启远程连接权限；

mysql -uroot -p654321

进入MySQL服务，执行以下操作：

use mysql;
delete from user;
GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY '654321' WITH GRANT OPTION;
FLUSH PRIVILEGES;

MariaDB双主同步

在Server1增加配置：

在/etc/my.cnf中添加以下配置：

[mysqld]
server-id = 1
log-bin=mysql-bin
relay-log = mysql-relay-bin
replicate-wild-ignore-table=mysql.%
replicate-wild-ignore-table=information_schema.%
log-slave-updates=on
slave-skip-errors=all
auto-increment-offset=1
auto-increment-increment=2
binlog_format=mixed
expire_logs_days=10

注意， Server1自增为奇数位：

auto-increment-offset=1 主键自增基数, 从1开始。
auto-increment-increment=2 主键自增偏移量，每次为2

在Server2增加配置：
修改/etc/my.cnf:

[mysqld]
server-id = 2
log-bin=mysql-bin
relay-log = mysql-relay-bin
replicate-wild-ignore-table=mysql.%
replicate-wild-ignore-table=information_schema.%
log-slave-updates=on
slave-skip-errors=all
auto-increment-offset=2
auto-increment-increment=2
binlog_format=mixed
expire_logs_days=10

Server2自增为偶数位：

auto-increment-offset=2 主键自增基数, 从2开始。
auto-increment-increment=2 主键自增偏移量，每次为2。

配置修改完成后，重启数据库。

同步授权配置
在Server1创建replica用于主从同步的用户：

MariaDB [(none)]> grant replication slave, replication client on *.* to 'replica'@'%' identified by 'replica';
mysql> flush privileges;

查询日志文件与偏移量，开启同步时需使用：

MariaDB [(none)]> show master status;
+------------------+----------+--------------+------------------+
| File | Position | Binlog_Do_DB | Binlog_Ignore_DB |
+------------------+----------+--------------+------------------+
| mysql-bin.000001 | 663 | | |
+------------------+----------+--------------+------------------+

同样，在Server2创建replica用于主从同步的用户：

MariaDB [(none)]> grant replication slave, replication client on *.* to 'replica'@'%' identified by 'replica';
mysql> flush privileges;

查询日志文件与偏移量，开启同步时需使用：

MariaDB [(none)]> show master status;
+------------------+----------+--------------+------------------+
| File | Position | Binlog_Do_DB | Binlog_Ignore_DB |
+------------------+----------+--------------+------------------+
| mysql-bin.000001 | 663 | | |
+------------------+----------+--------------+------------------+

配置主从同步信息
在Server1中执行：

MariaDB [(none)]> change master to
master_host='10.10.20.126',master_user='replica', master_password='replica',
master_port=3306, master_log_file='mysql-bin.000001', master_log_pos=663,
master_connect_retry=30;

在Server2中执行：

MariaDB [(none)]> change master to
master_host='10.10.20.125',master_user='replica', master_password='replica',
master_port=3306, master_log_file='mysql-bin.000001', master_log_pos=663,
master_connect_retry=30;

开启双主同步
在Server1和Server2中分别执行：

MariaDB [(none)]> start slave;
Query OK, 0 rows affected (0.00 sec)

执行show slave status\G;
Slave_IO_Running和Slave_SQL_Running 都是Yes，说明双主同步配置成功。

KeepAlived安装与高可用配置

在Server1与Server2两台节点安装keepalived：

yum -y install keepalived

关闭防火墙

systemctl stop firewalld
systemctl disable firewalld

设置主机名称：
Server1节点：

hostnamectl set-hostname vip1

Server2节点：

hostnamectl set-hostname vip2

Server1节点配置
/etc/keepalived/keepalived.conf：

global_defs {
	router_id vip1 # 机器标识，和主机名保持一致
} 
vrrp_instance VI_1 { 			#vrrp实例定义
	state BACKUP 				#lvs的状态模式，MASTER代表主， BACKUP代表备份节点
	interface ens33 			#绑定对外访问的网卡
	virtual_router_id 111 		#虚拟路由标示，同一个vrrp实例采用唯一标示
	priority 100 				#优先级，100代表最大优先级， 数字越大优先级越高
	advert_int 1 				#master与backup节点同步检查的时间间隔，单位是秒
	authentication { 			#设置验证信息
		auth_type PASS 			#有PASS和AH两种
		auth_pass 6666 			#验证密码，BACKUP密码须相同
	} 
	virtual_ipaddress { 		#KeepAlived虚拟的IP地址
		10.10.20.130
	}
}
 virtual_server 10.10.20.130 3306 { 		#配置虚拟服务器IP与访问端口
	delay_loop 6 					#健康检查时间
	lb_algo rr 						#负载均衡调度算法， rr代表轮询
	lb_kind DR						#负载均衡转发规则
	persistence_timeout 0			#会话保持时间，这里要做测试， 所以设为0， 实际可根据session有效时间配置
	protocol TCP 					#转发协议类型，支持TCP和UDP
	real_server 10.10.20.125 3306 { 	#配置服务器节点VIP1
		notify_down /usr/local/shell/mariadb.sh 		#当服务挂掉时， 会执行此脚本，结束keepalived进程
		weight 1 					#设置权重，越大权重越高
		TCP_CHECK { 				#r状态监测设置
			connect_timeout 10 		#超时配置， 单位秒
			retry 3 				#重试次数
			delay_before_retry 3 	#重试间隔
			connect_port 3306 		#连接端口， 和上面保持一致
		}
	}
}

创建关闭脚本mariadb.sh
/usr/local/shell/mariadb.sh：

pkill keepalived

加入执行权限：

chmod a+x mariadb.sh

Server2节点配置：

global_defs {
	router_id vip2 # 机器标识，和主机名保持一致
} 
vrrp_instance VI_1 { 			#vrrp实例定义
	state BACKUP 				#lvs的状态模式，MASTER代表主， BACKUP代表备份节点
	interface ens33 			#绑定对外访问的网卡
	virtual_router_id 111 		#虚拟路由标示，同一个vrrp实例采用唯一标示
	priority 98 				#优先级，100代表最大优先级， 数字越大优先级越高
	advert_int 1 				#master与backup节点同步检查的时间间隔，单位是秒
	authentication { 			#设置验证信息
		auth_type PASS 			#有PASS和AH两种
		auth_pass 6666 			#验证密码，BACKUP密码须相同
	} 
	virtual_ipaddress { 		#KeepAlived虚拟的IP地址
		10.10.20.130
	}
}
 virtual_server 10.10.20.130 3306 { 		#配置虚拟服务器IP与访问端口
	delay_loop 6 					#健康检查时间
	lb_algo rr 						#负载均衡调度算法， rr代表轮询
	lb_kind DR						#负载均衡转发规则
	persistence_timeout 0			#会话保持时间，这里要做测试， 所以设为0， 实际可根据session有效时间配置
	protocol TCP 					#转发协议类型，支持TCP和UDP
	real_server 10.10.20.126 3306 { 	#配置服务器节点VIP1
		notify_down /usr/local/shell/mariadb.sh 		#当服务挂掉时， 会执行此脚本，结束keepalived进程
		weight 1 					#设置权重，越大权重越高
		TCP_CHECK { 				#r状态监测设置
			connect_timeout 10 		#超时配置， 单位秒
			retry 3 				#重试次数
			delay_before_retry 3 	#重试间隔
			connect_port 3306 		#连接端口， 和上面保持一致
		}
	}
}

验证高可用
停止主节点MariaDB服务，验证是否自动切换

搭建应用服务工程

ShardingJDBC的集成配置
ShardingJDBC数据源的动态切换实现
验证应用服务动态扩容
1)配置两个数据源，分别指向Server1和Server2
2)分片只配置一个数据源
3)动态增加另一个数据源
4)动态扩容的验证
5)动态扩容的复原验证（模拟节点异常，实现复原单节点数据源）
6)采用动态数据源配置实现扩容（扩容实践中改造）
注意事项
Sharding JDBC, Mycat, Drds 等产品都是分布式数据库中间件, 相比直接的数据源操作, 会存在一些限制, Sharding JDBC在使用时, 要注意以下问题:

有限支持子查询
不支持HAVING
不支持OR，UNION 和 UNION ALL
不支持特殊INSERT
每条INSERT语句只能插入一条数据，不支持VALUES后有多行数据的语句
不支持DISTINCT聚合
不支持dual虚拟表查询
不支持SELECT LAST_INSERT_ID(), 不支持自增序列
不支持CASE WHEN

新增数据库VIP

扩容架构
在这里插入图片描述

在Server2节点，增加VIP
修改/etc/keepalived/keepalived.conf，追加：

.
..
vrrp_instance VI_2 { 					#vrrp实例定义
	state BACKUP 						#lvs的状态模式，MASTER代表主， BACKUP代表备份节点
	interface ens33 					#绑定对外访问的网卡
	virtual_router_id 112 				#虚拟路由标示，同一个vrrp实例采用唯一标示
	priority 100 						#优先级，100代表最大优先级， 数字越大优先级越高
	advert_int 1 						#master与backup节点同步检查的时间间隔，单位是秒
	authentication { 					#设置验证信息
		auth_type PASS 					#有PASS和AH两种
		auth_pass 6666 					#验证密码，BACKUP密码须相同
	} 
	virtual_ipaddress { 				#KeepAlived虚拟的IP地址
		10.10.20.131
	}
} 
virtual_server 10.10.20.131 3306 { 		#配置虚拟服务器IP与访问端口
	delay_loop 6 						#健康检查时间
	persistence_timeout 0 				#会话保持时间，这里要做测试， 所以设为0， 实际可根据session有效时间配置
	protocol TCP 						#转发协议类型，支持TCP和UDP
	real_server 10.10.20.126 3306{		#配置服务器节点VIP1
		notify_down /usr/local/shell/mariadb.sh
		weight 1 						#设置权重，越大权重越高
		TCP_CHECK { 					#r状态监测设置
			connect_timeout 10 			#超时配置， 单位秒
			retry 3 					#重试次数
			delay_before_retry 3 		#重试间隔
			connect_port 3306 			#连接端口， 和上面保持一致
		}
	}
}

应用服务增加动态数据源

修改应用服务配置，增加新的数据源，指向新设置的VIP： 10.10.20.131
此时如果数据正在插入会自动按模分片到server1和server2数据库上，保证在有数据入库时的数据一致性
通过应用服务接口，动态扩容调整

解除原双主同步

进入Server1:

MariaDB [(none)]> stop slave;

进入Server2:

MariaDB [(none)]> stop slave;

通过应用服务接口验证数据是否解除同步

安装MariaDB扩容服务器

新建两台虚拟机，分别为Server3和Server4。
在Server3和Server4两台节点上安装MariaDB服务
参考上文MariaDB服务安装
配置Server3与Server1，实现新的双主同步（参照上文双主同步）
1)Server3节点，修改/etc/my.cnf:
2)重启Server3数据库
3)创建replica用于主从同步的用户：
4)在Server1节点，进行数据全量备份：

mysqldump -uroot -p654321 --routines --single_transaction --master-data=2 --databases smooth > server1.sql

5)查看并记录master status信息
6)将备份的server1.sql通过scp命令拷贝至Server3节点。

scp server1.sql root@10.10.20.127:/usr/local/

7)将数据还原至Server3节点：

mysql -uroot -p654321 < /usr/local/server1.sql

8)配置主从同步信息
9)开启主从同步：
10)检查同步状态信息：
11)配置Server1与Server3节点的同步
注意server1之前配置过主从，先还原执行reset slave;

配置Server4与Server2的双主同步
1)Server4节点，修改/etc/my.cnf:
2)重启Server4数据库
3)创建replica用于主从同步的用户：
4)在Server2节点，进行数据全量备份：
5)查看并记录master status信息：
6)将备份的server2.sql通过scp命令拷贝至Server4节点。
7)将数据还原至Server4节点：
8)配置主从同步信息
9)开启主从同步：
10)检查同步状态信息：
11)配置Server2与Server4节点的同步

增加KeepAlived服务实现高可用

确保新增的Server3和Server4节点安装Keepalived服务。
修改Server3节点配置
与上文一致，不同为：
1）机器标识修改为vip3，
2）配置服务器节点改为自己的服务器ip
修改Server4节点配置
修改Server2节点的keepAlived配置:
删除之前与server1共用的虚拟服务器IP即可

修改完后重启Keepalived服务。

清理数据并验证

通过应用服务动态扩容接口做调整和验证
在Server1节点清理数据
根据取模规则字段，保留accountNo为偶数的数据

delete from t_trade_order where accountNo % 2 != 0

在Server2节点清理数据
根据取模规则，保留accountNo为奇数的数据

delete from t_trade_order where accountNo % 2 != 1

字节跳动

关注

0
点赞
踩
1

收藏

觉得还不错? 一键收藏
2
评论
平滑扩容方案

双写方案可通过canal或mq做实现。增加新库数据迁移：避免增量影响，先断开主从，再导入（耗时较长），同步完成并做校验增量同步：监听Canal，并开启主从同步切换新库修复切换异常数据（canal未同步但已切换至新库的请求），通过定制程序读取异常日志做处理...
复制链接

扫一扫

专栏目录