什么是主从复制?
主从复制是指数据可以从一个MySQL数据库服务器主节点复制到一个或多个从节点。MySQL 默认采用异步复制方式,这样从节点不用一直访问主服务器来更新自己的数据,数据的更新可以在远程连接上进行,从节点可以复制主数据库中的所有数据库或者特定的数据库
MySQL主从复制涉及到三个线程,一个运行在主节点(log dump thread),其余两个(I/O thread, SQL thread)运行在从节点,如下图所示:
主节点 binary log dump 线程
当从节点连接主节点时,主节点会创建一个log dump 线程,用于发送bin-log的内容。在读取bin-log中的操作时,此线程会对主节点上的bin-log加锁,当读取完成,甚至在发动给从节点之前,锁会被释放。
下面我们要做两种主从复制方法都是异步复制,异步复制的有点就是速度快,但当网络卡顿时,有可能导致数据不能完全同步。
从节点I/O线程
当从节点上执行start slave
命令之后,从节点会创建一个I/O线程用来连接主节点,请求主库中更新的bin-log。I/O线程接收到主节点binlog dump 进程发来的更新之后,保存在本地relay-log中。
从节点SQL线程
SQL线程负责读取relay log中的内容,解析成具体的操作并执行,最终保证主从数据的一致性。
对于每一个主从连接,都需要三个进程来完成。当主节点有多个从节点时,主节点会为每一个当前连接的从节点建一个binary log dump 进程,而每个从节点都有自己的I/O进程,SQL进程。从节点用两个线程将从主库拉取更新和执行分成独立的任务,这样在执行同步数据任务的时候,不会降低读操作的性能。比如,如果从节点没有运行,此时I/O进程可以很快从主节点获取更新,尽管SQL进程还没有执行。如果在SQL进程执行之前从节点服务停止,至少I/O进程已经从主节点拉取到了最新的变更并且保存在本地relay日志中,当服务再次起来之后,就可以完成数据的同步。
要实施复制,首先必须打开Master 端的binary log(bin-log)功能,否则无法实现。
因为整个复制过程实际上就是Slave 从Master 端获取该日志然后再在自己身上完全顺序的执行日志中所记录的各种操作。如下图所示:
复制的基本过程如下:
-
从节点上的I/O 进程连接主节点,并请求从指定日志文件的指定位置(或者从最开始的日志)之后的日志内容;
-
主节点接收到来自从节点的I/O请求后,通过负责复制的I/O进程根据请求信息读取指定日志指定位置之后的日志信息,返回给从节点。返回信息中除了日志所包含的信息之外,还包括本次返回的信息的bin-log file 的以及bin-log position;从节点的I/O进程接收到内容后,将接收到的日志内容更新到本机的relay log中,并将读取到的binary log文件名和位置保存到master-info 文件中,以便在下一次读取的时候能够清楚的告诉Master“我需要从某个bin-log 的哪个位置开始往后的日志内容,请发给我”;
-
Slave 的 SQL线程检测到relay-log 中新增加了内容后,会将relay-log的内容解析成在祝节点上实际执行过的操作,并在本数据库中执行。
MySQL 主从复制模式
异步模式(mysql async-mode)
异步模式如下图所示,这种模式下,主节点不会主动push bin log到从节点,这样有可能导致failover的情况下,也许从节点没有即时地将最新的bin log同步到本地
GTID复制模式
-
在传统的复制里面,当发生故障,需要主从切换,需要找到binlog和pos点,然后将主节点指向新的主节点,相对来说比较麻烦,也容易出错。在MySQL 5.6里面,不用再找binlog和pos点,我们只需要知道主节点的ip,端口,以及账号密码就行,因为复制是自动的,MySQL会通过内部机制GTID自动找点同步。
-
多线程复制(基于库),在MySQL 5.6以前的版本,slave的复制是单线程的。一个事件一个事件的读取应用。而master是并发写入的,所以延时是避免不了的。唯一有效的方法是把多个库放在多台slave,这样又有点浪费服务器。在MySQL 5.6里面,我们可以把多个表放在多个库,这样就可以使用多线程复制。
基于GTID复制实现的工作原理
-
主节点更新数据时,会在事务前产生GTID,一起记录到binlog日志中。
-
从节点的I/O线程将变更的bin log,写入到本地的relay log中。
-
SQL线程从relay log中获取GTID,然后对比本地binlog是否有记录(所以MySQL从节点必须要开启binary log)。
-
如果有记录,说明该GTID的事务已经执行,从节点会忽略,如果没有记录,从节点就会从relay log中执行该GTID的事务,并记录到bin log。
-
在解析过程中会判断是否有主键,如果没有就用二级索引,如果有就用全部扫描。
搭建前提:两台虚拟机
server1 ip:172.25.62.1(主)
server2 ip:172.25.62.2(从)
安装mysql
1,获取安装包,解压安装
[root@server1 ~]# tar xf mysql-5.7.24-1.el7.x86_64.rpm-bundle.tar
[root@server1 ~]# yum install -y mysql-community-client-5.7.24-1.el7.x86_64.rpm \
mysql-community-common-5.7.24-1.el7.x86_64.rpm \
mysql-community-libs-5.7.24-1.el7.x86_64.rpm \
mysql-community-libs-compat-5.7.24-1.el7.x86_64.rpm \
mysql-community-server-5.7.24-1.el7.x86_64.rpm
安装需要在两台虚拟机进行。
开启log-bin日志
[root@server1 ~]# vim /etc/my.cnf
因为因为主从复制主要就是通过日志同步复制的,所以要打开,在从主机修改这个文件时,server-id不能重复。
初始化mysql,登陆
[root@server1 ~]# systemctl start mysqld
[root@server1 ~]# cat /var/log/mysqld.log | grep password
开启mysql,查看初始密码
[root@server1 ~]# mysql_secure_installation
用初始化密码进行初始化认证。
[root@server1 ~]# mysql -p
登陆,查看数据库是否可以正常使用。
设置基于二进制日志的主从复制(默认)
在server1(主)
创建用户
mysql> grant replication slave on *.* to repl@'172.25.62.%' identified by 'Hang+123';
查看信息
mysql> SHOW MASTER STATUS;
查看master信息。
在server2(从)
change master to master_host='172.25.62.1', master_user='repl', master_password='Hang+123', master_log_file='mysql-bin.000002', master_log_pos=691; #授权
mysql> start slave; ##打开slave节点
mysql> show slave status\G ##查看信息
当IO线程和SQL线程都为yes时,说明server1和server2成功连接,正常进行主从复制。
测试:
在server1创建表
在server2查看:
server1的数据成功同步到server2。
基于GTID的主从复制
在server1(主)
登陆mysql后创建用户
mysql> grant replication slave on *.* to repl@'172.25.62.%' identified by 'Hang+123';
identified后面表示的是设置的msyql密码。
mysql> show master status;
查看主服务器的状态。
这样,在主服务器的配置就完成了。
在server2(从)
进行授权
change master to master_host='172.25.62.1',master_user='repl',master_password='Hang+123',master_auto_position=1;
指定从主机的master。
mysql> start slave;
开启本机作为slave节点
mysql> show slave status\G
查看slave节点的状态,同样,SQL线程和IO线程打开则说明测试成功。
测试
同样在主节点server1的表中插入数据
之后在从节点server2查看
数据同步成功。
mysql> show slave status\G
之后再查看从节点的状态,可以发现此次同步的方式是基于gtid的同步方式。