mysql集群搭建与总结

最新推荐文章于 2024-07-06 17:20:49 发布
最新推荐文章于 2024-07-06 17:20:49 发布
阅读量3.3k 收藏 50
点赞数 8
分类专栏： mysql 文章标签： mysql 分布式 数据库 docker 集群
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_45453266/article/details/113871739
版权

文章目录

好久没写博客了，最近做了分布式的项目，调查和搭建了mysql集群，踩坑无数，特此记录。

1. 主从复制集群

主从复制是选取一个mysql数据库作为主库，然后一个或者多个mysql数据库作为从库。将主库的数据单向异步的复制到从库中，使得主库和从库的数据一致.

1.1 搭建主从复制

这里使用docker，通过映射不同的mysql端口来模拟搭建mysql主从复制（一主一从）

  • 下载mysql镜像，并且启动两个mysql

    Master:3000 Slave:3001

docker pull mysql:5.7
docker run -itd -p 3000:3306  --name mysql-master -e MYSQL_ROOT_PASSWORD=123456  mysql:5.7
docker run -itd -p 3001:3306  --name mysql-slave -e MYSQL_ROOT_PASSWORD=123456  mysql:5.7
  • 配置Master(3000)
  1. 进入容器,安装vim
apt-get update 
apt-get install vim
  1. 修改my.cnf配置文件，开启binlog,重启容器使得配置生效
#vim /etc/mysql/my.cnf
!includedir /etc/mysql/conf.d/
!includedir /etc/mysql/mysql.conf.d/
[mysqld]
server-id=100 #局域网内唯一
log-bin=master-bin #开启binlog
binlog-format=ROW
  1. 重新进入进入容器，创建slave用户(Slave容器用此用户访问binlog，进行数据同步),并授权
mysql -uroot -p123456
CREATE USER 'slave'@'%' IDENTIFIED BY '123456';
GRANT REPLICATION SLAVE,REPLICATION CLIENT ON *.* TO 'slave'@'%';

  1. 查看并记录Master状态，用于Slave进行同步

    记录下Position后就不要对Master进行操作了，不然Position可能会发生变化

show master status

在这里插入图片描述

  • 配置Slave(3001)
  1. 进入容器,安装vim
apt-get update 
apt-get install vim
  1. 修改my.cnf配置文件，开启binlog,relay log,重启容器使得配置生效
#vim /etc/mysql/my.cnf
!includedir /etc/mysql/conf.d/
!includedir /etc/mysql/mysql.conf.d/
[mysqld]
server-id=101 #局域网内唯一
log-bin=slave-bin #开启binlog，以备Slave作为Master
relay_log=mysql-relay-bin #开启relay log
#read_only=1  #设置Slave只读，不设置则可读写
  1. 进行主从复制

首先查看Master和Slave容器ip

docker inspect --format='{{.NetworkSettings.IPAddress}}' mysql-master
docker inspect --format='{{.NetworkSettings.IPAddress}}' mysql-slave

在这里插入图片描述
进入容器，Slave连接Master，进行主从复制

mysql -uroot -p123456
#Slave连接Master
change master to master_host='172.17.0.2', master_user='slave', master_password='123456', master_port=3306, master_log_file='master-bin.000001', master_log_pos=617, master_connect_retry=30;
#开始主从复制
start slave;

查看主从复制状态

show slave status \G;

Slave_IO_Running和Slave_SQL_Running都为Yes，代表主从复制搭建成功
在这里插入图片描述
如果不都为Yes，则看Last_IO_Error与Last_SQL_Error的报错。

报错:
Got fatal error 1236 from master when reading data from binary log: 'Could not find first log file name in binary log index file

解决办法：
重置主从复制，在Slave的mysql内执行

stop slave;
reset slave;
start slave

报错:
Error ‘Operation CREATE USER failed for ‘slave’@’%’’ on query. Default database: ‘’. Query: ‘CREATE USER ‘slave’@’%’ IDENTIFIED WITH ‘mysql_native_password’ AS ‘*6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9’’

解决办法：
删除此用户，刷新权限后重新开启主从复制

stop slave;
drop user 'slave'@'%';
flush privileges;
start slave;
1.2 主从复制验证

进入Master容器的mysql，建库建表并插入一条数据。

create database test;
use test;
create table user(id int primary key,name varchar(255));
insert into user values(1,'selenium');
select * from user;

然后进入Slave容器的mysql查看，发现也能看到Master容器的mysql中刚刚新建的表和数据，证明主从复制有效。
在这里插入图片描述

1.3 主从数据不一致的解决方案（pt-table-sync）

虽然理想的情况下，Master与Slave上的数据都是一致的，但是由于Slave网络等原因，可能会出现Master与Slave上的数据不一致。

最简单的方法，是删掉从库数据，重新建立主从复制，但是这样从库需要进行全量复制，性能很差，并且只能将Master上的数据同步到Slave上，无法将Slave上的数据同步到Master上。

而比较好的方法是利用pt-table-sync工具进行数据同步，它可以将Master与Slave上的数据互相进行同步。

pt-table-sync官方文档

以Master同步Slave数据为例:

insert into user values(2,'sakura');

在slave上插入一条数据，由于主从复制是单向复制的，Master无法查看到Slave上刚刚插入的数据.
在这里插入图片描述

  1. 下载并解压pt-table-sync
apt-get install libdbd-mysql-perl
wget https://downloads.percona.com/downloads/percona-toolkit/3.2.1/source/debian/percona-toolkit_3.2.1-1.tar.gz
tar -xvf percona-toolkit_3.2.1-1.tar.gz
  1. 进入解压后目录的bin目录，执行下面命令进行同步
 ./pt-table-sync --execute h=192.168.56.103,P=3001,u=root,p=123456 --databases test  h=192.168.56.103,P=3000 --print

再次查看，发现Master与Slave数据已经一致😄
在这里插入图片描述
pt-table-sync不仅能够将Master同步为Slave的数据，也能将Slave同步为Master数据哦~

1.4 主从复制的原理

在这里插入图片描述

  1. Master 数据库数据发生改变，将改变的数据写入到binlog日志中
  2. Master的Dump Thread与Slave的IO Thread建立连接，从库根据change to master时的binlog文件名和position信息向Dump Thread请求，IO Thread接收到binlog event后写入到Relay log
  3. Slave的Sql Thread从Relay log中读取后，往Slave数据库中写入数据

2. 主主复制集群

之前说过主从复制只能Master往Slave单向异步复制数据，而主主复制则是Master与Slave互相进行数据复制。

主主复制是基于主从复制的，实际上就是在之前的Slave与Master角色互换，在原Master上执行Slave的操作，在原Slave上执行Master的操作。

在这里插入图片描述

3.pxc集群

pxc集群官方文档

之前我们提过很多次mysql主从复制是异步提交的，一个事务提交到了Master，可能还没有同步到Slave，事务就已经返回了，可能导致Master与Slave数据不一致，数据被丢失.
在这里插入图片描述

由于主从复制的弱一致性，所以主从复制不适用于数据可靠性要求比较高的系统，如订单系统。

这类系统适合采用基于同步复制，数据强一致性的pxc集群。

pxc集群主要特点:

  • 同步复制
  • 任何节点都可以读写
  • 数据同步的强一致性

pxc集群使用的端口:

  • 3306： mysql服务端口
  • 4444： 请求全量同步(SST)端口
  • 4567： 数据库节点之间通信端口
  • 4568 ：请求增量同步(IST)端口
3.1 搭建pxc集群

PXC1: 3002 PXC2:3003 PXC3: 3004

#下载pxc集群镜像
docker pull percona/percona-xtradb-cluster:5.7.31
# 创建容器网络
docker network create pxc
#创建数据卷，持久化mysql数据
docker volume create --name v1
docker volume create --name v2
docker volume create --name v3
docker run -itd --net=pxc --name=pxc1 -p 3002:3306 -e MYSQL_ROOT_PASSWORD=123456 -e CLUSTER_NAME=pxc -e XTRABACKUP_PASSWORD=123456 -v v1:/var/lib/mysql percona/percona-xtradb-cluster:5.7.31
docker run -itd --net=pxc --name=pxc2 -p 3003:3306 -e MYSQL_ROOT_PASSWORD=123456 -e CLUSTER_NAME=pxc -e XTRABACKUP_PASSWORD=123456 -e CLUSTER_JOIN=pxc1 -v v2:/var/lib/mysql percona/percona-xtradb-cluster:5.7.31
docker run -itd --net=pxc --name=pxc3 -p 3004:3306 -e MYSQL_ROOT_PASSWORD=123456 -e CLUSTER_NAME=pxc -e XTRABACKUP_PASSWORD=123456 -e CLUSTER_JOIN=pxc1 -v v3:/var/lib/mysql percona/percona-xtradb-cluster:5.7.31

注意: 不要启动的太快，pxc1完全启动后再启动pxc2和pxc3

3.2 pxc集群验证
# 1.确保容器都是up状态
docker ps

在这里插入图片描述

# 2.进入任意一个容器查看集群状态
docker exec -it pxc1 /bin/bash
mysql -uroot -p123456
show status like '%wsrep%';

在这里插入图片描述
主要参数说明:

变量名值说明
wsrep_cluster_size3集群中有三个节点
wsrep_cluster_statusPrimaryPrimary 集群状态正常
Non-Primary 集群出现异常，如脑裂
Disconnected 集群无法连接

全部详细参数可见: https://www.percona.com/doc/percona-xtradb-cluster/5.7/wsrep-status-index.html

因为pxc集群中的每一个节点都是可读写的，所以在任何一个节点进行修改，都会同步到其他节点.

3.3 pxc集群实战总结

因为pxc集群搭建起来很简单，所以公司的项目mysql集群最终选择的方案是搭建pxc集群。但是由于第一次使用，很多pxc集群的特性与自己预计的不符合，也算是踩了很多的坑。

1.pxc集群停掉一个Slave节点(pxc2)后，集群仍然可用

docker stop pxc2后可以看到集群节点数变为2，但仍然是Primary状态，代表节点可用
在这里插入图片描述

2.pxc集群Slave节点(pxc2)恢复后,自动加入集群，集群可用

docker start pxc2后可以看到集群节点数变为3，仍然是Primary状态.
在这里插入图片描述
3.pxc集群停掉Master节点(pxc1)后，集群仍然可用

docker stop pxc1后可以看到集群节点数变为2，但仍然是Primary状态，代表节点可用
在这里插入图片描述
4.pxc集群Master节点(pxc1)恢复后,无法自动加入集群

docker start pxc1后,发现pxc容器启动后很快自动退出。

docker logs pxc1查看启动日志，发现报错:

2021-02-27T14:13:55.876477Z 0 [ERROR] WSREP: It may not be safe to bootstrap the cluster from this node. It was not the last one to leave the cluster and may not contain all the updates. To force cluster bootstrap with this node, edit the grastate.dat file manually and set safe_to_bootstrap to 1 .
2021-02-27T14:13:55.876582Z 0 [ERROR] WSREP: Provider/Node (gcomm://) failed to establish connection with cluster (reason: 7)
2021-02-27T14:13:55.876677Z 0 [ERROR] Aborting

原因:

pxc通过grastate.dat文件中的safe_to_bootstrap的值区分该节点是Master节点还是Slave节点。
safe_to_bootstrap为1代表为Master节点，safe_to_bootstrap为0代表为Slave节点。

pxc集群Master节点Down掉后，safe_to_bootstrap会变为0，集群会从剩下的结点中推选出来新的Master.但是原节点的配置信息仍然是作为Master的，所以无法启动。只是简单的将safe_to_bootstrap强制修改为1，那么将会脑裂，也是毫无意义的。

解决方案:

方案一(推荐😄):

将原Master(px1)作为Slave重新加入集群.

# 找到v1数据卷在宿主机上的位置
docker inspect v1
cd /var/lib/docker/volumes/v1/_data
# 删除grastate.dat文件
rm -rf grastate.dat
# 删掉pxc1重启，复用数据卷，选择剩下的结点作为Master，重新加入集群
docker rm pxc1
docker run -itd --net=pxc --name=pxc1 -p 3002:3306 -e MYSQL_ROOT_PASSWORD=123456 -e CLUSTER_NAME=pxc -e XTRABACKUP_PASSWORD=123456 -e CLUSTER_JOIN=pxc2 -v v1:/var/lib/mysql percona/percona-xtradb-cluster:5.7.31

在这里插入图片描述
方案二:

新建节点px4作为Slave加入集群.

docker volume create --name=v4
docker run -itd --net=pxc --name=pxc4 -p 3005:3306 -e MYSQL_ROOT_PASSWORD=123456 -e CLUSTER_NAME=pxc -e XTRABACKUP_PASSWORD=123456 -e CLUSTER_JOIN=pxc2 -v v4:/var/lib/mysql percona/percona-xtradb-cluster:5.7.31

方案一和方案二都是将剩下的节点中的pxc2节点作为新Master，唯一的区别就是，方案一的数据卷还在，所以集群恢复后，只用做增量同步，而方案二要做全量同步。

方案三(不推荐😢):

将原Master仍然作为Master，恢复集群

# 找到v1数据卷在宿主机上的位置
docker inspect v1
cd /var/lib/docker/volumes/v1/_data
# 删除grastate.dat文件
rm -rf grastate.dat
# 停止和删除pxc2和pxc3容器
docker stop pxc2 && docker rm pxc2 && docker stop pxc3 && docker rm pxc3
# 删除v2和v3数据卷
docker volume rm v2 && docker volume rm v3
# 重启pxc1容器和创建pxc2和pxc3容器
docker start pxc1
docker volume create --name=v2
docker volume create --name=v3
docker run -itd --net=pxc --name=pxc2 -p 3003:3306 -e MYSQL_ROOT_PASSWORD=123456 -e CLUSTER_NAME=pxc -e XTRABACKUP_PASSWORD=123456 -e CLUSTER_JOIN=pxc1 -v v2:/var/lib/mysql percona/percona-xtradb-cluster:5.7.31
docker run -itd --net=pxc --name=pxc3 -p 3004:3306 -e MYSQL_ROOT_PASSWORD=123456 -e CLUSTER_NAME=pxc -e XTRABACKUP_PASSWORD=123456 -e CLUSTER_JOIN=pxc1 -v v3:/var/lib/mysql percona/percona-xtradb-cluster:5.7.31

很明显，这个方案会丢失一部分数据(Master节点停掉后，插入到剩下节点的数据),而且两个剩下的节点都要做全量同步…唯一的优点就是，机器间的关系比较清楚，哪个机器是Master，它就一直是Master，不会发生变化

5.pxc集群节点超过半数退出后，集群不可用

在此次单机通过端口模拟pxc集群中，停掉pxc2和pxc3，pxc1仍然能够可用，没有出现集群节点超过半数退出后，集群不可用的现象。(不理解为什么)

但是在实际三台主机的开发环境中，停掉了两台Slave，Master仍然不可用，查看集群状态为Non-Primary,即出现了脑裂的现象。并且此时访问Master，会发现报错log:WSREP has not yet prepared node for application use,这时只要恢复节点到半数以上就好了.

其实pxc这样子设计，也是为了避免异地机房部署PXC集群,因为网络故障,导致一个PXC集群分裂成两个集群。

6.pxc集群的启动顺序与停止顺序相反

pxc集群每次肯定最先启动Master，再启动Slave，这样才能够选择Master，加入集群。

但是为了避免各种奇奇怪怪的错误，在停止集群的时候，一定要停掉Slave再停掉Master。

因为最后停掉的一定是存储数据最多的结点，只有下次首先启动，别的节点才方便去做增量同步.

4. InnoDB Cluster集群

虽然我们项目最终选用了pxc集群的方案，但是和我们对接的项目组却选用了InnoDB Cluster集群方案，暂时还未了解，等以后了解了，再来补上这块内容…

Selenium399
关注
  • 8
    点赞
  • 踩
  • 50
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 2
    评论
专栏目录
mysql集群搭建
11-28
mysql集群搭建！mysql负载均衡完美解决方案V1.0，mdb vip用于DB的写，sdb vip用于DB读，实现读写分离和负载均衡，带故障检测自动切换
分布式mysql集群搭建步骤
06-11
### 分布式MySQL集群搭建详解 #### 一、概述 分布式MySQL集群是在多个服务器上部署MySQL实例，通过网络实现数据的共享与复制，提高数据库系统的可用性、扩展性和容错能力。本文将详细介绍如何在CentOS 7环境中搭建...
MySQL集群搭建
weixin_30407613的博客
12-16 88
MySQL集群概述和安装环境 MySQL Cluster是MySQL适合于分布式计算环境的高实用、高冗余版本。Cluster的汉语是“集群”的意思。它采用了NDB Cluster 存储引擎，允许在1个 Cluster 中运行多个MySQL服务器。 MySQL Cluster 是一种技术，该技术允许在无共享的系统中部署“内存中”数据库的 Cluster 。通过无共享体系结构，系统能...
MySQL 集群
最新发布
一个写了10年bug的程序员日常笔记。
07-06 700
MySQL 集群有多种类型，每种类型都有其特定的用途和优势。
MYSQL集群的性能总结
weixin_34403693的博客
01-16 102
1、现在用的100M的网卡做的集群，节点的内存都是1G。刚才测试一下，插入100万的数据花的时间.mysql> call sp_insert_batch(1000000);Query OK, 0 rows affected (16 min 21.46 sec)mysql> select count(1) from song;+----------+| count(1) |+------...
mysql集群的搭建
热门推荐
boy_chen93的博客
04-25 1万+
数据库是用来存储数据的，那么数据的重要性不言而喻，那么只用一台数据库存储数据是非常危险的，比如，如果这台数据库或者部署这台数据库的服务器崩溃了，那么这段时间的系统崩溃可能会造成不良的用户体验，进而导致经济效益的下滑。 于是，我们就这样设想，如果有多台数据库提供服务支持，即使有一台崩溃了，还有其他的数据库顶上去干活那不就完事了，确实，这些若干个数据库共同组成了一个集群，...
mysql集群搭建 PDF 下载
12-02
总结，MySQL集群的搭建是Java开发中提高数据库服务稳定性和效率的重要手段。理解其原理，掌握配置和管理技巧，对于Java开发者来说，不仅可以提升项目质量，也是职业能力的体现。通过上述步骤和注意事项，你应能成功...
MySQL集群环境搭建.docx
11-16
### MySQL集群环境搭建知识点 #### 一、MySQL集群概述 **1.1 什么是MySQL集群** MySQL集群是一种采用无共享(shared-nothing)架构的分布式存储解决方案。它的设计目标是在提供高性能的同时确保系统的高可用性和...
mysql 集群搭建_MySql集群搭建
weixin_28921115的博客
02-07 321
1.Mysql集群介绍Mysql集群架构中主要包括管理节点和数据节点，管理节点负责整个集群结构的管理，数据的存储则由各个数据节点负责。当然，像非集群环境一样，需要提供一个mysql的节点供外部程序访问数据库。Mysql集群的具体组织方式图-01图-01接下来便对其中涉及的各个节点和模块进行一一介绍Management Node(管理节点)：mysql集群全局的管理者，整个集群只有一个managem...
MySQL 集群搭建
@码农充电站的专栏
01-04 1442
MySQL 主从架构，MySQL 主从复制原理，一主多从架构
MYSQL集群搭建
12-19
讲述了如何搭建MySQL数据库服务器的同步集群环境搭建。如有疑问可留言（反正也不回复）
mysql的集群搭建
调皮的写代码
07-21 674
一、mysql集群搭建的思路
mysql 集群搭建
cqgmau820668的博客
11-06 132
参考：http://blog.csdn.net/zklth/article/details/7522677 一、环境准备： 注：所有节点需要将其防墙关闭 /etc/init.d/ipta...
CentOS-6.3安装Mysql集群
01-09 101
安装要求 安装环境：CentOS-6.3 安装方式：源码编译安装  软件名称：mysql-cluster-gpl-7.2.6-linux2.6-x86_64.tar.gz 下载地址：http://mysql.mirror.kangaroot.net/Downloads/ 软件安装位置：/usr/local/mysql 数据存放位置：/var/mysql/data 日志存放位置：/
MySQL集群环境搭建与配置详解
总结来说，MySQL集群环境的搭建涉及多台服务器，包括管理节点、数据节点和负载均衡节点，通过集群技术和主从复制实现高可用性和高性能。安装过程中需要注意各组件的正确配置和相互间的通信，以确保集群的稳定运行。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Selenium399

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值