Mysql主从复制搭建
mysql传统主从、双主复制+keepalived配置步骤
mysql主从、主主复制(双主复制)配置步骤
一:MySQL复制:
MySQL复制简介:
将master服务器中主数据库的ddl和dml操作通过二进制日志传到slaves服务器上,然后在master服务器上将这些日志文件重新执行,从而使得slave服务器和master服务器上的数据信息保持同步。
Mysql复制的原理:
将数据分布到多个系统上去,是通过将Mysql的某一台master主机的数据复制到其它(slave)主机上,并重新执行一遍来实现的;
复制过程中一个服务器充当master服务器,而一台或多台其它服务器充当slave服务器。master服务器将更新写入二进制日志文件,并维护文件的一个索引以跟踪日志循环。
这些日志可以记录发送到slave服务器的更新。当一个slaves服务器连接master服务器时,它通知master服务器从服务器在日志中读取的最后一次成功更新的位置。slave服务器接收从那时起发生的任何更新,然后封锁并等待master服务器通知新的更新。
mysql复制的优点:
在slave服务器上执行查询操作,降低master服务器的访问压力
当master服务器上出现了问题可以切换到slave服务器上,不会造成访问中断等问题
在slave服务器上进行备份,以避免备份期间影响master服务器的服务使用及日常访问
Mysql自身的复制功能:是构建大型、高性能应用程序的基础。
mysql支持的复制类型:
基于语句的复制:在主服务器上执行的SQL语句,在从服务器上执行同样的语句。MySQL默认采用基于语句的复制,效率比较高。一旦发现没法精确复制时,会自动选着基于行的复制。
基于行的复制:把改变的内容复制过去,而不是把命令在从服务器上执行一遍. 从mysql5.0开始支持
混合类型的复制::默认采用基于语句的复制,一旦发现基于语句的无法精确的复制时,就会采用基于行的复制。
MySQL复制技术的特点:
数据分布 (Data distribution )
备份(Backups)
负载平衡(load balancing)
高可用性和容错性 High availability and failover
复制的工作过程:
master将改变记录到二进制日志(binary log)中(这些记录叫做二进制日志事件,binary log events);
slave将master的binary log events拷贝到它的中继日志(relay log);
slave重做中继日志中的事件,将改变反映它自己的数据。
第一步:master记录二进制日志。在每个事务更新数据完成之前,master在二日志记录这些改变。MySQL将事务串行的写入二进制日志,即使事务中的语句都是交叉执行的。在事件写入二进制日志完成后,master通知存储引擎提交事务;
第二步:slave将master的binary log拷贝到自己的中继日志。首先,slave开始一个工作线程——I/O线程。I/O线程在master上打开一个普通的连接,然后开始binlog dump process。Binlog dump process从master的二进制日志中读取事件,如果已经跟上master,它会睡眠并等待master产生新的事件。I/O线程将这些事件写入中继日志;
第三步:SQL slave thread(SQL从线程)处理该过程的最后一步。SQL线程从中继日志读取事件,并重放其中的事件而更新slave的数据,使其与master中的数据一致。只要该线程与I/O线程保持一致,中继日志通常会位于OS的缓存中,所以中继日志的开销很小。
下面使用一次实验配置主从、主主架构
环境:三台虚拟机
192.168.0.29 master1
192.168.0.30 master2
192.168.0.32 slave1
192.168.0.34 VIP
其中:master1和slave1是主从关系,master1和master2互为主从
一、先修改配置文件
服务器master1(192.168.0.29)配置如下
server-id = 1
log_slave_updates = 1
auto-increment-increment = 2
auto-increment-offset = 1
服务器master2(192.168.0.30)配置
server-id = 2
log_slave_updates = 1
auto-increment-increment = 2
auto-increment-offset = 2
服务器slave1(192.168.0.32) 配置:
server-id = 3
log_slave_updates = 1
三台服务器mysql都重启
shell > service mysqld restart
注:双主之间只有server-id不同和 auto-increment- offset不同
auto-increment-offset是用来设定数据库中自动增长的起点的,回为这两能服务器都设定了一次自动增长值2,所以它们的起点必须得不同,这样才能避免两台服务器数据同步时出现主键冲突
另:auto-increment-increment的值应设为整个结构中主库服务器的总数,本案例用到两台主库服务器,所以值设为2
二、同步数据
在master1上:
#先授权,这样导出的sql文件中就包含用户名和密码,如果你不需要同步系统库,那么,需要在从库change master之前,主从mysql实例都进行授权
mysql> GRANT REPLICATION SLAVE ON . TO ‘repl’@‘192.168.0.%’ IDENTIFIED BY ‘123456’;
mysql > grant replication slave on . to repl@‘127.0.0.1’ identified by ‘123456’;
mysql> flush privileges;
使用mysqldump导出所有数据库的数据备份,备份数据前先锁表,保证数据一致性
mysql> FLUSH TABLES WITH READ LOCK;
开启另外一个会话终端执行数据备份:
shell > /usr/local/services/mysql/bin/mysqldump -uroot -p’xx’ --opt --default-character-set=utf8 --triggers -R --hex-blob --single-transaction --no-autocommit --all-databases > all.sql
查看binlog位置,并记下这些信息,后边会用到:
mysql> show master status\G;
*************************** 1. row ***************************
File: mysql-bin.000004
Position: 107
Binlog_Do_DB:
Binlog_Ignore_DB:
1 row in set (0.00 sec)
解表锁:
mysql> UNLOCK TABLES;
把备份文件传送到master2和slave1上:
shell > scp all.sql 192.168.0.30:/tmp
shell > scp all.sql 192.168.0.32:/tmp
导出数据时也可以不手动加锁解锁,mysqldump加一个参数:–master-data=2,该参数会把change master 语句加到all.sql文件中,以注释的形式写入,包含master_log_file和master_log_pos,复制出来带上主库IP、用户名和密码(master_host,master_user,master_password)待从库导入数据后,即可在从库上执行change master语句。
grep ‘-- CHANGE MASTER’ all.sql
三、互告bin-log信息
在master2中导入all.sql文件,并执行change master语句:
shell > /usr/local/services/mysql/bin/mysql -uroot -p’xx’ < /tmp/all.sql
mysql> change master to master_host=‘192.168.0.29’,master_user=‘repl’,master_password=‘123456’,master_log_file=‘mysql-bin.000004’,master_log_pos=107;
在slave1上执行下面的操作:
导入all.sql文件,并执行change master语句:
shell > /usr/local/services/mysql/bin/mysql -uroot -p’xx’ < /tmp/all.sql
mysql> change master to master_host=‘192.168.0.29’,master_user=‘repl’,master_password=‘123456’,master_log_file=‘mysql-bin.000004’,master_log_pos=107;
在master2上面查看binlog位置:
show master status\G;
*************************** 1. row ***************************
File: mysql-bin.000003
Position: 509270
Binlog_Do_DB:
Binlog_Ignore_DB:
1 row in set (0.00 sec)
在master1上执行change master
mysql> change master to master_host=‘192.168.0.30’,master_user=‘repl’,master_password=‘123456’,master_log_file=‘mysql-bin.000003’,master_log_pos=509270;
这里要注意:搭建双主的时候,只需要一边使用mysqldump导出数据就可以了,如上所示,master2配置为master1的主库时,只需要查看一下master2的binlog位置,然后在master1上change master一下就可以了,不需要再次把数据用mysqldump倒回去。因为此时master2所有数据本身就是来自master1,sql_thread线程在执行中继日志时会忽略自身server-id的记录,所以随便指定一个master_log_file对应的master_log_pos位置,直接change过去即可。
大概过程:
在A上导出的SQL,导入了B,搭建好了AàB的主从,再要搭建B–》A的主从就不能把B的数据导出sql到A了,只需要在B上show master status一下,随便找一个position,在A上change master一下即可(因为B上的数据本来就是从A同步过去的,B的二进制日志中的server id全是A的,也就是说B要作为主库同步数据到A,B的二进制日志全部带有A自己的server id,不需要把自己同步给B的数据再同步回来,所以在B上随便找一个二进制日志的position就可以了)
四、在三服务器都执行以下命令
mysql> start slave;
五、查看状态
mysql> show slave status\G
master1状态如下:
show slave status\G;
*************************** 1. row ***************************
Slave_IO_State: Waiting for master to send event
Master_Host: 192.168.0.30
Master_User: repl
Master_Port: 3306
Connect_Retry: 60
Master_Log_File: mysql-bin.000003
Read_Master_Log_Pos: 509270
Relay_Log_File: localhost-relay-bin.000002
Relay_Log_Pos: 253
Relay_Master_Log_File: mysql-bin.000003
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
Replicate_Do_DB:
Replicate_Ignore_DB:
Replicate_Do_Table:
Replicate_Ignore_Table:
Replicate_Wild_Do_Table:
Replicate_Wild_Ignore_Table:
Last_Errno: 0
Last_Error:
Skip_Counter: 0
Exec_Master_Log_Pos: 509270
Relay_Log_Space: 413
Until_Condition: None
Until_Log_File:
Until_Log_Pos: 0
Master_SSL_Allowed: No
Master_SSL_CA_File:
Master_SSL_CA_Path:
Master_SSL_Cert:
Master_SSL_Cipher:
Master_SSL_Key:
Seconds_Behind_Master: 0
Master_SSL_Verify_Server_Cert: No
Last_IO_Errno: 0
Last_IO_Error:
Last_SQL_Errno: 0
Last_SQL_Error:
Replicate_Ignore_Server_Ids:
Master_Server_Id: 2
1 row in set (0.00 sec)
master2状态如下:
show slave status\G;
*************************** 1. row ***************************
Slave_IO_State: Waiting for master to send event
Master_Host: 192.168.0.29
Master_User: repl
Master_Port: 3306
Connect_Retry: 60
Master_Log_File: mysql-bin.000004
Read_Master_Log_Pos: 107
Relay_Log_File: localhost-relay-bin.000002
Relay_Log_Pos: 253
Relay_Master_Log_File: mysql-bin.000004
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
Replicate_Do_DB:
Replicate_Ignore_DB:
Replicate_Do_Table:
Replicate_Ignore_Table:
Replicate_Wild_Do_Table:
Replicate_Wild_Ignore_Table:
Last_Errno: 0
Last_Error:
Skip_Counter: 0
Exec_Master_Log_Pos: 107
Relay_Log_Space: 413
Until_Condition: None
Until_Log_File:
Until_Log_Pos: 0
Master_SSL_Allowed: No
Master_SSL_CA_File:
Master_SSL_CA_Path:
Master_SSL_Cert:
Master_SSL_Cipher:
Master_SSL_Key:
Seconds_Behind_Master: 0
Master_SSL_Verify_Server_Cert: No
Last_IO_Errno: 0
Last_IO_Error:
Last_SQL_Errno: 0
Last_SQL_Error:
Replicate_Ignore_Server_Ids:
Master_Server_Id: 1
slave1状态如下:
show slave status\G;
*************************** 1. row ***************************
Slave_IO_State: Waiting for master to send event
Master_Host: 192.168.0.29
Master_User: repl
Master_Port: 3306
Connect_Retry: 60
Master_Log_File: mysql-bin.000004
Read_Master_Log_Pos: 107
Relay_Log_File: localhost-relay-bin.000002
Relay_Log_Pos: 253
Relay_Master_Log_File: mysql-bin.000004
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
Replicate_Do_DB:
Replicate_Ignore_DB:
Replicate_Do_Table:
Replicate_Ignore_Table:
Replicate_Wild_Do_Table:
Replicate_Wild_Ignore_Table:
Last_Errno: 0
Last_Error:
Skip_Counter: 0
Exec_Master_Log_Pos: 107
Relay_Log_Space: 413
Until_Condition: None
Until_Log_File:
Until_Log_Pos: 0
Master_SSL_Allowed: No
Master_SSL_CA_File:
Master_SSL_CA_Path:
Master_SSL_Cert:
Master_SSL_Cipher:
Master_SSL_Key:
Seconds_Behind_Master: 0
Master_SSL_Verify_Server_Cert: No
Last_IO_Errno: 0
Last_IO_Error:
Last_SQL_Errno: 0
Last_SQL_Error:
Replicate_Ignore_Server_Ids:
Master_Server_Id: 1
当看到了两个yes,即:
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
说明已经配置成功了
接下来看可以做一下实验,测试一下是否同步
在master1上面创建库xiaoboluo,创建表t1,并插入测试数据:
mysql > create database xiaoboluo;
mysql > create table t1 (id int unsigned not null primary key auto_increment, aa varchar(100));
mysql > insert into t1 values(’’,‘test1’);
mysql > insert into t1 values(’’,‘test2’);
查询t1表:
mysql> select * from t1;
±—±------+
| id | aa |
±—±------+
| 1 | test1 |
| 3 | test2 |
±—±------+
在master1上查询t1表:
mysql> select * from t1;
±—±------+
| id | aa |
±—±------+
| 1 | test1 |
| 3 | test2 |
±—±------+
在slave1上查询t1表:
mysql> select * from t1;
±—±------+
| id | aa |
±—±------+
| 1 | test1 |
| 3 | test2 |
±—±------+
可以发现master1上创建的库,表,插入的测试数据,在master2和slave1中都已经同步了
现在到master2上插入几行测试数据:
mysql> insert into t1 values(’’,‘test3’);
Query OK, 1 row affected, 1 warning (0.00 sec)
mysql> insert into t1 values(’’,‘test4’);
Query OK, 1 row affected, 1 warning (0.00 sec)
mysql> select * from t1;
±—±------+
| id | aa |
±—±------+
| 1 | test1 |
| 3 | test2 |
| 4 | test3 |
| 6 | test4 |
±—±------+
4 rows in set (0.00 sec)
到master1中查询t1表:
mysql> select * from t1;
±—±------+
| id | aa |
±—±------+
| 1 | test1 |
| 3 | test2 |
| 4 | test3 |
| 6 | test4 |
±—±------+
4 rows in set (0.00 sec)
到slave1中查询t1表:
mysql> select * from t1;
±—±------+
| id | aa |
±—±------+
| 1 | test1 |
| 3 | test2 |
| 4 | test3 |
| 6 | test4 |
±—±------+
4 rows in set (0.00 sec)
可以发现在master2中插入的数据,在master1中和slave1中都已经同步
注意:如果你只需要双主,那么把slave1的过程去掉,如果你只需要主从,那么把master2的步骤去掉。
六、现在把keepalived给添加上去:
1.安装keepalived,在两台master上安装
shell > yum install keepalived -y
2.配置keepalived:
A:master1:
shell > cat /etc/keepalived/keepalived.conf
vrrp_script vs_mysql_82 {
script “/etc/keepalived/checkMySQL.sh”
interval 60
}
vrrp_instance VI_82 {
state BACKUP
nopreempt
interface eth0
virtual_router_id 82
priority 100
advert_int 5
authentication {
auth_type PASS
auth_pass 1111
}
track_script {
vs_mysql_82
}
virtual_ipaddress {
192.168.0.34
}
}
shell > cat /etc/keepalived/checkMySQL.sh 脚本:
#!/bin/bash
MYSQL=/usr/local/mysql/bin/mysql
MYSQL_HOST=127.0.0.1
MYSQL_USER=repluser
MYSQL_PASSWORD=replpass
MYSQL_PORT=3306
日志文件
LOG_FILE=/etc/keepalived/check_mysql.log
检查次数
CHECK_TIME=3
#mysql is working MYSQL_OK is 1 , mysql down MYSQL_OK is 0
MYSQL_OK=1
function check_mysql_helth (){
$MYSQL -h $MYSQL_HOST -u
M
Y
S
Q
L
U
S
E
R
−
p
MYSQL_USER -p
MYSQLUSER−p{MYSQL_PASSWORD} -P${MYSQL_PORT} -e “show status;” >/dev/null 2>&1
if [ $? = 0 ] ;then
MYSQL_OK=1
else
MYSQL_OK=0
fi
return $MYSQL_OK
}
while [ $CHECK_TIME -ne 0 ]
do
let “CHECK_TIME -= 1”
check_mysql_helth
if [ KaTeX parse error: Expected 'EOF', got '#' at position 44: …ECK_TIME=0 #̲echo `date --da…MYSQL_OK] >> $LOG_FILE
exit 0
fi
if [ $MYSQL_OK -eq 0 ] && [ $CHECK_TIME -eq 0 ]
then
/etc/init.d/keepalived stop
echo date --date=today +"%Y-%M-%d %H:%m:%S"
- [INFO] - mysql invaild. keepalived stop. >> $LOG_FILE
exit 1
fi
sleep 1
done
添加执行权限:
shell > chmod +x /etc/keepalived/checkMySQL.sh
手动执行下这个脚本,看看返回是否是0,如果是1,请检查mysql连不上的原因:
shell > /etc/keepalived/checkMySQL.sh
shell > echo $?
0
B:master2:
shell > cat /etc/keepalived/keepalived.conf
vrrp_script vs_mysql_82 {
script “/etc/keepalived/checkMySQL.sh”
interval 60
}
vrrp_instance VI_82 {
state BACKUP
nopreempt
interface eth0
virtual_router_id 82
priority 90
advert_int 5
authentication {
auth_type PASS
auth_pass 1111
}
track_script {
vs_mysql_82
}
virtual_ipaddress {
192.168.0.34
}
}
checkMySQL.sh脚本内容与master1一样,并添加执行权限,手动测试执行
3.master1和master2都启动keepalived:
shell > service keepalived start
shell > chkconfig keepalived on
4.测试
在master1上查看下VIP:
shell > ip addr
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN
link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
inet 127.0.0.1/8 scope host lo
inet6 ::1/128 scope host
valid_lft forever preferred_lft forever
2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
link/ether 00:0c:29:e0:62:11 brd ff:ff:ff:ff:ff:ff
inet 192.168.0.30/24 brd 192.168.0.255 scope global eth0
inet 192.168.0.34/32 scope global eth0
inet6 fe80::20c:29ff:fee0:6211/64 scope link
valid_lft forever preferred_lft forever
在master2上查看下VIP,正常情况master2是没有VIP的:
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN
link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
inet 127.0.0.1/8 scope host lo
inet6 ::1/128 scope host
valid_lft forever preferred_lft forever
2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
link/ether 00:0c:29:53:cb:0a brd ff:ff:ff:ff:ff:ff
inet 192.168.0.32/24 brd 192.168.0.255 scope global eth0
inet6 fe80::20c:29ff:fe53:cb0a/64 scope link
valid_lft forever preferred_lft forever
在192.168.0.%网段的任意主机连接192.168.0.34,看看能否成功访问,这里如果想要看到VIP连到了哪个服务器,可以使用show slave status\G或者show processlist;来判断,查看到的是主库信息,即就说明VIP连接的是这个主库的从库:
shell > mysql -urepl -p’123456’ -h 192.168.0.34 -P3306
mysql > \s --查看下相关信息
mysql Ver 14.14 Distrib 5.6.25, for linux-glibc2.5 (x86_64) using EditLine wrapper
Connection id: 821790
Current database:
Current user: repl@192.168.0.37 #登录用户
SSL: Not in use
Current pager: stdout
Using outfile: ‘/data/mysql/query.log’
Using delimiter: ;
Server version: 5.5.24-log Source distribution
Protocol version: 10
Connection: 192.168.0.34 via TCP/IP #连接IP
Server characterset: utf8
Db characterset: utf8
Client characterset: utf8
Conn. characterset: utf8
TCP port: 3306
Uptime: 31 days 17 hours 21 min 59 sec
Threads: 2 Questions: 3560094 Slow queries: 1 Opens: 91 Flush tables: 1 Open tables: 25 Queries per second avg: 1.298
现在把master1的mysqld停掉(大概等待一分半钟再次看看两个master的vip信息,因为keepalived.conf里配置的检测间隔是60s,如果发现mysql连不上会重试3次):
master1,发现VIP没了:
shell > ip addr
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN
link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
inet 127.0.0.1/8 scope host lo
inet6 ::1/128 scope host
valid_lft forever preferred_lft forever
2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
link/ether 00:0c:29:e0:62:11 brd ff:ff:ff:ff:ff:ff
inet 192.168.0.30/24 brd 192.168.0.255 scope global eth0
inet6 fe80::20c:29ff:fee0:6211/64 scope link
valid_lft forever preferred_lft forever
master2,发现VIP有了:
shell > ip addr
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN
link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
inet 127.0.0.1/8 scope host lo
inet6 ::1/128 scope host
valid_lft forever preferred_lft forever
2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
link/ether 00:0c:29:53:cb:0a brd ff:ff:ff:ff:ff:ff
inet 192.168.0.32/24 brd 192.168.0.255 scope global eth0
inet 192.168.0.34/32 scope global eth0
inet6 fe80::20c:29ff:fe53:cb0a/64 scope link
valid_lft forever preferred_lft forever
再次远程连接VIP:
shell > mysql -urepl -p’123456’ -h 192.168.0.34 -P3306
把master1的mysqld启动起来,然后把master2的关掉,看看VIP能否切换到master1上,过程跟上面的类似,只需要按照上面的过程再次验证下能否正常访问即可。这里要注意,要先启动mysqld,并检测主从数据是否一致,如果发现数据不一致,那么就先修复好数据,然后再启动keepalived,否则贸然启动keepalived可能发生VIP切换到问题主库上导致悲催的事情发生(注:在mysqld实例停止或无法访问时,keepalived中的checkMySQL.sh脚本检测到问题时候,会自动把keepalived关掉)。