文章目录
一、MHA概述
1.1 传统的MySQL主从架构存在的问题
- MySQL主服务器出故障后就无法写入数据了,即单点故障
1.2 MHA组成
- MHA Manager(管理节点)和 MHA Node(数据节点)
- MHA Manager 可以单独部署在一台独立的机器上,管理多个 master-slave 集群(Manger是单独一台监控master服务器健康状态的服务器。);也可以部署在一台 slave 节点上。MHA Node 运行在每台 MySQL 服务器上,MHA Manager 会定时探测集群中的 master 节点。当 master 出现故障时,它可以自动将最新数据的 slave 提升为新的 master,然后将所有其他的 slave 重新指向新的 master。整个故障转移过程对应用程序完 全透明。
1.3 MHA特点(优势)
- 在 MHA 自动故障切换过程中,MHA 试图从宕机的主服务器上保存二进制日志,最大程度的保证数据的不丢失,但这并不总是可行的。例如,如果主服务器硬件故障或无法通过 SSH 访问,MHA 没法保存二进制日志,就会出现只进行故障转移但丢失了最新的数据的情况。
- 使用 MySQL 5.5 的半同步复制,可以大大降低数据丢失的风险。MHA 可以与半同步复 制结合起来。如果只有一个 slave 已经收到了最新的二进制日志,MHA 可以将最新的二进 制日志应用于其他所有的 slave 服务器上,因此可以保证所有节点的数据一致性。
1.4 MHA架构
目前MHA支持一主多从架构,最少三台服务,即一主两从
主机名 | IP地址 | 角色 | 软件包 |
---|---|---|---|
Master | 192.168.10.11 | 主服务器 | node数据节点软件包 |
slave1 | 192.168.10.12 | 主备/从服务器 | node数据节点软件包 |
slave2 | 192.168.10.13 | 从服务器 | node数据节点软件包 |
Manger | 192.168.10.14 | MHA服务器 | node数据节点软件包和Manager管理节点软件包 |
二、实验
2.1 MySQL数据库的安装
在三台 MySQL 节点上分别安装数据库,MySQL 版本请使用 5.6.36,cmake 版本请使用 2.8.6。这样可以是系统与软件兼容性最好。
-
安装编译依赖的环境
[root@Master ~]# yum -y install ncurses-devel gcc-c++ perl-Module-Install
-
安装gmake编译软件
[root@Master ~]# tar zxvf cmake-2.8.6.tar.gz [root@Master ~]# cd cmake-2.8.6 [root@Master cmake-2.8.6]# ./configure [root@Master cmake-2.8.6]# gmake && gmake install
-
安装MySQL数据库
[root@Master ~]# tar zxvf mysql-5.6.36.tar.gz [root@Master ~]# cd mysql-5.6.36 [root@Master mysql-5.6.36]# cmake -DCMAKE_INSTALL_PREFIX=/usr/local/mysql -DDEFAULT_CHARSET=utf8 -DDEFAULT_COLLATION=utf8_general_ci -DWITH_EXTRA_CHARSETS=all -DSYSCONFDIR=/etc [root@Master mysql-5.6.36]# make && make install [root@Master mysql-5.6.36]# cp support- files/my-default.cnf /etc/my.cnf [root@Master mysql-5.6.36]# cp support-files/mysql.server /etc/rc.d/init.d/mysqld [root@Master ~]# chmod +x /etc/rc.d/init.d/mysqld [root@Master ~]# chkconfig --add mysqld [root@Master ~]# echo "PATH=$PATH:/usr/local/mysql/bin" >> /etc/profile [root@Master ~]# source /etc/profile [root@Master ~]# groupadd mysql [root@Master ~]# useradd -M -s /sbin/nologin mysql -g mysql [root@Master ~]# chown -R mysql.mysql /usr/local/mysql [root@Master ~]# mkdir -p /data/mysql [root@Master ~]# /usr/local/mysql/scripts/mysql_install_db --basedir=/usr/local/mysql --datadir=/usr/local/mysql/data --user=mysql
-
修改MySQL的主配置文件
-
主服务器上面:
[root@Master ~]# vi /etc/my.cnf [mysqld] server-id = 1 log_bin = master-bin log-slave-updates = true
-
slave1服务器上:
[root@Slave1 ~]# vi /etc/my.cnf [mysqld] server-id = 2 log_bin = master-bin relay_log = relay-log-bin relay_log_index = slave-relay-bin.index
-
slave2服务器上:
[root@Slave2 ~]# vi /etc/my.cnf [mysqld] server-id = 3 relay_log = relay-log-bin relay_log_index = slave-relay-bin.index
-
每个MySQL做两个软链接,为HMA服务
ln -s /usr/local/mysql/bin/mysql /usr/sbin ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin
-
启动MySQL,并在数据库中配置权限
systemctl start mysqld mysql
-
主服务器需配置的命令:
mysql> grant replication slave on *myslave'@'192.168.10.%' identified by '123456'; mysql> grant all privileges on *.* to 'mha'@'192.168.10.%' identified by 'manager'; mysql> show grants for 'mha'@'192.168.10.%'; mysql> show master status;
-
从服务器上面需配置(两台从服务器配置相同):
mysql> change master to master_host='192.168.10.11',master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=537; mysql> start slave; show slave status\G
-
为防止后续的mha健康检查会报错,加上以下三条命令:
grant all privileges on *.* to 'mha'@'Mysql1' identified by 'manager'; grant all privileges on *.* to 'mha'@'Mysql2' identified by 'manager'; grant all privileges on *.* to 'mha'@'Mysql3' identified by 'manager';
-
设置两个从数据库为只读模式:
mysql> set global read_only=1;
2.2 安装MHA软件
2.2.1 mhamysql-node软件包的安装
-
首先所有的服务器都需要安装mhamysql-node软件包,但是yum安装需要163的软件在线源,需要提前设置。
-
所有服务器上都安装MHA依赖的环境,首先安装epel源。
yum -y install epel-release --nogpgcheck yum -y install perl-DBD-MySQL \ perl-Config-Tiny \ perl-Log-Dispatch \ perl-Parallel-ForkManager \ perl-ExtUtils-CBuilder \ perl-ExtUtils-MakeMaker \ perl-CPAN
-
MHA软件包对于每个操作系统版本不一样,这里Centos7.6必须选择0.57版本,
注意:所有服务器上必须安装node组件,最后在MHA-manager节点上安装manager组件[root@localhost ~]# tar zxf mha4mysql- node-0.57.tar.gz [root@localhost ~]# cd mha4mysql-node-0.57/ [root@localhost mha4mysql-node-0.57]# perl Makefile.PL [root@localhost mha4mysql-node-0.57]# make [root@localhost mha4mysql-node-0.57]# make install
-
在MHA-manager上安装manager组件(注意:一定要先安装node组件才能安装manager组件)
[root@localhost ~]# tar zxf mha4mysql-manager-0.57.tar.gz [root@localhost ~]# cd mha4mysql-manager-0.57/ [root@localhost mha4mysql-manager-0.57]# perl Makefile.PL [root@localhost mha4mysql-manager-0.57]# make [root@localhost mha4mysql-manager-0.57]# make install
-
manager安装后在/usr/local/bin下面会生成几个工具,主要包括以下几个
工具 | 作用 |
---|---|
masterha_conf_host | 添加或删除配置的server信息 |
masterha_manager | 启动manager的脚本 |
masterha_check_repl | 检查MySQL复制状况 |
masterha_master_monitor | 检测master是否宕机 |
masterha_check_ssh | 检查MHA的SSH配置情况 |
masterha_master_switch | 控制故障转移(自动或者手动) |
masterha_check_status | 检查当前MHA运行状态 |
masterha_stop | 关闭manager |
- Manager的脚本触发,无需人为操作)主要如下:
脚本 | 功能 |
---|---|
apply_diff_relay_logs | 识别差异的中继日志事件并将其差异的事件应用于其他的slave |
filter_mysqlbinlog | 去除不必要的rollback事件(MHA已不再使用这个工具) |
purge_relay_logs | 清除中继日志(不会阻塞SQL线程) |
save_binary_logs | 保存和复制master的二进制日志 |
2.2.2 配置无密码认证
(1)在manager上配置到所有数据节点的无密码认证
[root@localhost ~]# ssh-keygen -t rsa ##一直按回车
[root@localhost ~]# ssh-copy-id 192.168.10.11
[root@localhost ~]# ssh-copy-id 192.168.10.12
[root@localhost ~]# ssh-copy-id 192.168.10.13
(2)在Mysql1上配置到Mysql2和Mysql3的无密码认证
[root@localhost ~]# ssh-keygen -t rsa ##一直按回车
[root@localhost ~]# ssh-copy-id 192.168.10.12
[root@localhost ~]# ssh-copy-id 192.168.10.13
(3)在Mysql2上配置到Mysql1和Mysql3的无密码认证
[root@localhost ~]# ssh-keygen -t rsa ##一直按回车
[root@localhost ~]# ssh-copy-id 192.168.10.11
[root@localhost ~]# ssh-copy-id 192.168.10.13
(4)在Mysql3上配置到Mysql1和Mysql2的无密码认证
[root@localhost ~]# ssh-keygen -t rsa ##一直按回车
[root@localhost ~]# ssh-copy-id 192.168.10.11
[root@localhost ~]# ssh-copy-id 192.168.10.12
2.2.3 配置MHA服务器
(1)在manager节点上复制相关脚本到/usr/local/bin目录。
[root@localhost ~]# cp -ra /root/mha4mysql-manager-0.57/samples/scripts/ /usr/local/bin/
拷贝后会有四个执行文件
[root@localhost ~]# ll /usr/local/bin/scripts/
总用量 32
-rwxr-xr-x. 1 1001 1001 3648 5月 31 2015 master_ip_failover
-rwxr-xr-x. 1 1001 1001 9870 5月 31 2015 master_ip_online_change
-rwxr-xr-x. 1 1001 1001 11867 5月 31 2015 power_manager
-rwxr-xr-x. 1 1001 1001 1360 5月 31 2015 send_report
(2)复制上述的自动切换时vip管理的脚本到/usr/local/bin目录,这里使用脚本管理vip,
[root@localhost ~]# cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin
-
删除/usr/local/bin/master_ip_failover原有内容,修改内容如下
#!/usr/bin/env perl use strict; use warnings FATAL => 'all'; use Getopt::Long; my ( $command, $ssh_user, $orig_master_host, $orig_master_ip, $orig_master_port, $new_master_host, $new_master_ip, $new_master_port ); #############################添加内容部分######################################### my $vip = '192.168.10.100'; #这里改成同网段的一个未使用的ip作为虚拟ip my $brdc = '192.168.10.255'; #虚拟ip的广播地址 my $ifdev = 'ens33'; my $key = '1'; my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip"; my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down"; my $exit_code = 0; #my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr /sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;"; #my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key"; ################################################################################## GetOptions( 'command=s' => \$command, 'ssh_user=s' => \$ssh_user, 'orig_master_host=s' => \$orig_master_host, 'orig_master_ip=s' => \$orig_master_ip, 'orig_master_port=i' => \$orig_master_port, 'new_master_host=s' => \$new_master_host, 'new_master_ip=s' => \$new_master_ip, 'new_master_port=i' => \$new_master_port, ); exit &main(); sub main { print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n"; if ( $command eq "stop" || $command eq "stopssh" ) { my $exit_code = 1; eval { print "Disabling the VIP on old master: $orig_master_host \n"; &stop_vip(); $exit_code = 0; }; if ($@) { warn "Got Error: $@\n"; exit $exit_code; } exit $exit_code; } elsif ( $command eq "start" ) { my $exit_code = 10; eval { print "Enabling the VIP - $vip on the new master - $new_master_host \n"; &start_vip(); $exit_code = 0; }; if ($@) { warn $@; exit $exit_code; } exit $exit_code; } elsif ( $command eq "status" ) { print "Checking the Status of the script.. OK \n"; exit 0; } else { &usage(); exit 1; } } sub start_vip() { `ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`; } # A simple system call that disable the VIP on the old_master sub stop_vip() { `ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`; } sub usage { print "Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n"; }
-
创建MHA软件目录并拷贝配置文件
[root@localhost ~]# mkdir /etc/masterha [root@localhost ~]# cp /root/mha4mysql- manager-0.57/samples/conf/app1.cnf /etc/masterha/ [root@localhost ~]# vim /etc/masterha/app1.cnf ##注意指定的目录下文件是否存在 [server default] manager_log=/var/log/masterha /app1/manager.log manager_workdir=/var/log/masterha/app1 master_binlog_dir=/usr/local/mysql/data master_ip_failover_script=/usr/local/bin/master_ip_failover master_ip_online_change_script=/usr/local/bin/master_ip_online_change password=manager ping_interval=1 remote_workdir=/tmp repl_password=123456 repl_user=myslave report_script=/usr/local/send_report secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.10.11 -s 192.168.10.12 -s 192.168.10.13 shutdown_script="" ssh_user=root user=mha [server1] hostname=192.168.10.11 port=3306 [server2] hostname=192.168.10.12 port=3306 candidate_master=1 #设置为候选master,如果设置该参数以后,发生主从切换以后 会将此从库提升为主库,即使这个主库不是集群中最新的slave。 check_repl_delay=0 #默认情况下如果一个slave落后master 100M的relay logs的话,MHA将不会选择该slave作为一个新的slave,但check_repl_delay=0的话,即使落后很多日志,也强制选择其为备选主库。 [server3] hostname=192.168.10.13 port=3306 [root@localhost bin]# cd /usr/local/bin/scripts/ [root@localhost scripts]# ls master_ip_failover master_ip_online_change power_manager send_report [root@localhost scripts]# cp master_ip_online_change ../ [root@localhost scripts]# cp send_report /usr/local/
-
配置文件解析
文件配置 | 描述 |
---|---|
manager_log=/var/log/masterha/app1/manager.log | manager日志 |
manager_workdir=/var/log/masterha/app1 | manager工作目录 |
master_binlog_dir=/usr/local/mysql/data | master保存binlog的位置 |
master_ip_failover_script=/usr/local/bin/master_ip_failover | 设置自动failover时候的切换脚本 |
master_ip_online_change_script=/usr/local/bin/master_ip_online_change | 设置手动切换时的切换脚本 |
password=manager | 设置mysql中root用户的密码,这个密码是前面创建监控用户的密码 |
ping_interval=1 | 设置监控主库,发送ping包的时间间隔,默认是3秒,尝试三次没有回应的时候自动进行failover |
remote_workdir=/tmp | 设置远端mysql在发生切换时binlog的保存位置 |
repl_password=123456 | 设置复制用户的密码 |
repl_user=myslave | 设置复制用户的账户 |
report_script=/usr/local/send_report | 设置发生切换后发送的报警的脚本 |
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.10.11 -s 192.168.10.12 -s 192.168.10.13 | 设置服务器地址 |
shutdown_script="" | 设置故障发生后关闭故障主机脚本(该脚本的主要作用是关闭主机防止发生脑裂) |
ssh_user=root | 设置ssh的登录用户名 |
user=mha | 设置监控用户 |
2.3 测试
2.3.1 测试ssh无密码认证
测试ssh无密码认证,如果正常最后会输出successfully,如下所示
masterha_check_ssh -conf=/etc/masterha/app1.cnf
2.3.2 测试mha健康状态
测试mha健康状态,如果正常最后会输出OK,如下所示
[root@localhost scripts]# masterha_check_repl -conf=/etc/masterha/app1.cnf
2.3.3 手动开启虚拟地址
注意:第一次配置需要去master上手动开启虚拟IP
[root@cilent ~]# /sbin/ifconfig ens33:1 192.168.10.100/24
2.3.4 启动MHA
nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
2.3.5 查看MHA状态
masterha_check_status --conf=/etc/masterha/app1.cnf
2.3.6 查看MHA日志
cat /var/log/masterha/app1/manager.log
2.4 实验验证
关闭主服务器的mysql服务,模拟宕机场景
pkill mysql
然后我们在MHA服务器和主备服务器上通过查看日志与地址可以看到虚拟地址产生了漂移
三、故障修复
3.1 故障修复
我们对原master服务器启动mysql服务
/usr/local/mysql/bin/mysqld_safe --user=mysql& # 启动mysql服务
进入mysql数据库查看此时的主服务器(原slave1)的主状态
3.2 mysql配置新的主从结构
然后将修复好的原主服务器以及从服务器主指向新的主:
mysql> stop slave;
mysql> change master to master_host='192.168.10.12',master_user='myslave',master_password='123456',master_log_file='master-bin.000002',master_log_pos=925;
mysql> start slave;
mysql> show slave status\G
……
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
mysql> grant all privileges on *.* to 'mha'@'server1' identified by 'manager';
mysql> grant all privileges on *.* to 'mha'@'server2' identified by 'manager';
mysql> grant all privileges on *.* to 'mha'@'server3' identified by 'manager';
set global read_only=1; # 因为主从发生改变,需要在原主上面设置仅可读,不然后面健康检查会报错
在主服务器上面我们重新赋予权限:
mysql> grant all privileges on *.* to 'mha'@'192.168.10.%' identified by 'manager';
3.3 MHA服务器上的修改
在MHA服务器上面,我们需要在配置文件中修改以下配置:
[root@cilent ~]# vi /etc/masterha/app1.cnf
[server default]
secondary_check_script= /usr/local/bin/masterha_secondary_check -s 192.168.10.11 -s 192.168.10.12 -s 192.168.10.13
[server1]
hostname=192.168.10.11 # 可能会消失,如果消失需要重新配置
port=3306
[server2]
hostname=192.168.10.12
port=3306
candidate_master=1 #此时为主,所以需要删除
check_repl_delay=0 #删除
[server3]
hostname=192.168.10.13
port=3306
3.4 重新健康检查及验证
masterha_check_status --conf=/etc/masterha/app1.cnf # 免密登录健康检查
masterha_check_repl -conf=/etc/masterha/app1.cnf # 主从健康检查
nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 & # 开启manager服务
masterha_check_status --conf=/etc/masterha/app1.cnf # 查看MHA状态