高可用MHA

1. MHA简介

MHA是一位日本MySQL大牛用Perl写一套MySQL故障切换方案，来保证数据库系统的高可用，在宕机的事件内（通常10-30秒），完成故障转意，部署MHA，可避免主从一致性问题，节约购买新服务器的费用，不影响服务器性能，易安装，不改变现有部署

1.1 MHA原理

1、等待SQL线程执行完毕

2、解析最新的Slave上的中继日志（relay log）的日志头（log Header），为其他各个服务器确定出差异位置

3、将i1–>i2–>X 全部组成一个二进制日志

1.2 MHA的主要特性

从master的监控到故障转移全部都能自动完成，故障转移也可手动执行

可在秒级单位内实现故障转移

可将任意Slave提升至master

具备在多个点上调用外部脚本（扩展）的技能，可以用在电源OFF或者IP地址的故障转移上。

安装和卸载不用停止当前的mysql进程

MHA 自身不会增加服务器负担，不会降低性能，不用追加服务器

不依赖Storage Engine

不依赖二进制文件的格式（不论是statement模式还是Row模式）

1.3 实验思路

1.MHA架构
数据库安装
一主两从
MHA搭建

1.4 案例环境

服务器 CentOS7.4(64 位) MHA-manager/20.0.0.17
管理节点，安装 manager 组件
服务器 CentOS7.4(64 位) Mysql1/20.0.0.12 Master 节点，安装 node 组件
服务器 CentOS7.4(64 位) Mysql2/20.0.0.28 Slave 节点，安装 node 组件
服务器 CentOS7.4(64 位) Mysql3/20.0.0.20 Slave 节点，安装 node 组件

1.5 案例实现思路

1. 安装 MySQL 数据库
2. 配置 MySQL 一主两从
3. 安装 MHA 软件
4. 配置无密码认证
5. 配置 MySQL MHA 高可用
6. 模拟 master 故障切换

2. 实验过程

2.1 准备工作

[root@localhost ~]# iptables -F  ##清空防火墙规则
[root@localhost ~]# setenforce 0  

[root@mysql1 ~]# vi /etc/hosts  ###映射一下，mysql1、mysql2、mysql3都要这么做
20.0.0.12 mysql1
20.0.0.28 mysql2
20.0.0.20 mysql3

然后依次给三个服务器对应上面的要求改一下主机名

2.2 安装数据库

在三台 MySQL 节点上分别安装数据库，MySQL 版本请使用 5.6.36，cmake 版本请使
用 2.8.6。这边只演示一台

1. 安装编译依赖的环境

[root@Mysql1 ~]# yum -y install ncurses-devel gcc-c++ perl-Module-Insta`ll

2. 安装 gmake 编译软件

[root@Mysql1 ~]# tar zxvf cmake-2.8.6.tar.gz
[root@Mysql1 ~]# cd cmake-2.8.6
[root@Mysql1 cmake-2.8.6]# ./configure
[root@Mysql1 cmake-2.8.6]# gmake && gmake install

3. 安装 MySQL 数据库

[root@Mysql1 ~]# tar -zxvf mysql-5.6.36.tar.gz
[root@Mysql1 ~]# cd mysql-5.6.36
cmake -DCMAKE_INSTALL_PREFIX=/usr/local/mysql \
-DDEFAULT_CHARSET=utf8 \
-DDEFAULT_COLLATION=utf8_general_ci \
-DWITH_EXTRA_CHARSETS=all \
-DSYSCONFDIR=/etc
[root@Mysql1 mysql-5.6.36]# make && make install
[root@Mysql1 mysql-5.6.36]# cp support-files/my-default.cnf /etc/my.cnf
[root@Mysql1 mysql-5.6.36]# cp support-files/mysql.server /etc/rc.d/init.d/mysqld
[root@Mysql1 ~]# chmod +x /etc/rc.d/init.d/mysqld
[root@Mysql1 ~]# chkconfig --add mysqld
[root@Mysql1 ~]# echo "PATH=$PATH:/usr/local/mysql/bin" >> /etc/profile
[root@Mysql1 ~]# source /etc/profile
[root@Mysql1 ~]# groupadd mysql
[root@Mysql1 ~]# useradd -M -s /sbin/nologin mysql -g mysql
[root@Mysql1 ~]# chown -R mysql.mysql /usr/local/mysql
[root@Mysql1 ~]# mkdir -p /data/mysql
/usr/local/mysql/scripts/mysql_install_db \
--basedir=/usr/local/mysql \
--datadir=/usr/local/mysql/data \
--user=mysql

2.3 主从复制

1. 修改 Master 的主配置文件/etc/my.cnf 文件

[root@Mysql1 ~]# vi /etc/my.cnf
[mysqld]
server-id = 11
log_bin = master-bin
log-slave-updates = true

2. 配置从服务器

[root@Mysql2 ~]# vim /etc/my.cnf
server-id = 22 
log_bin = master-bin
relay-log = relay-log-bin 
relay-log-index = slave-relay-bin.index

3. Mysql1、Mysql2、Mysql3 分别做两个软链接

ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/

4. 三台启动mysql

[root@Mysql1 ~]# /usr/local/mysql/bin/mysqld_safe --user=mysql &

5. 配置 MySQL 一主两从
   主服务器
   在所有数据库节点上授权两个用户，一个是从库同步使用，另外一个是 manager 使用。

mysql -u root -p  ##输入密码进入数据库

grant replication slave on *.* to 'myslave'@'20.0.0.%' identified by '123';
grant all privileges on *.* to 'mha'@'20.0.0.%' identified by 'manager';
flush privileges;

在 Mysql1 主机上查看二进制文件和同步点
mysql> show master status;
+-------------------+----------+--------------+------------------+-------------------+
| File              | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+-------------------+----------+--------------+------------------+-------------------+
| master-bin.000001 |     599 |              |                  |                   |
+-------------------+----------+--------------+------------------+-------------------+

Mysql2 和 Mysql3 分别执行同步。

 mysql> change master to master_host='20.0.0.12',master_user='myslave',master_password='123',master_log_file='master-bin.000001',master_log_pos=599;  ##同步主服务器
mysql> start slave;   ##开启同步
mysql> show slave status\G;  ##查看是否同步
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
mysql> set global read_only=1;  ##必须设置两个从库为只读模式：

注意点：这里要把三台服务主配置文件中客户端default-character-set=utf8 注释掉，否则后面的实验会报错

设置后之后可以验证一下主从同步

2.4 安装 MHA 软件

1. 所有服务器上都安装 MHA 依赖的环境，首先安装 epel 源。

[root@MHA-manager ~]# yum install epel-release --nogpgcheck -y

yum install -y perl-DBD-MySQL \
perl-Config-Tiny \
perl-Log-Dispatch \
perl-Parallel-ForkManager \
perl-ExtUtils-CBuilder \
perl-ExtUtils-MakeMaker \
perl-CPAN

2. 所有服务器安装 node 组件
   必须先安装 node 组件，最后在 MHA-manager 节点上安装 manager 组件，因为 manager 依赖 node 组件，下面都是在 Mysql1 上操作演示安装 node 组件。

[root@Mysql1 ~]# tar zxvf mha4mysql-node-0.57.tar.gz
[root@Mysql1 ~]# cd mha4mysql-node-0.57
[root@Mysql1 mha4mysql-node-0.57]# perl Makefile.PL  
[root@Mysql1 mha4mysql-node-0.57]# make
[root@Mysql1 mha4mysql-node-0.57]# make install

注意点：node 安装后也会在/usr/local/bin 下面会生成几个脚本
save_binary_logs 保存和复制 master 的二进制日志

apply_diff_relay_logs 识别差异的中继日志事件并将其差异的事件应用于其他的 slave

filter_mysqlbinlog 去除不必要的 ROLLBACK 事件（MHA 已不再使用这个工具）

purge_relay_logs 清除中继日志（不会阻塞 SQL 线程）

3. 在 MHA-manager 上安装 manager 组件

[root@MHA-manager ~]# tar zxvf mha4mysql-manager-0.57.tar.gz 
[root@MHA-manager ~]# cd mha4mysql-manager-0.57/
[root@MHA-manager mha4MHA-manager-0.57]# perl Makefile.PL
[root@MHA-manager mha4MHA-manager-0.57]# make
[root@MHA-manager mha4MHA-manager-0.57]# make install

注意点：manager 安装后在/usr/local/bin 下面会生成几个工具，主要包括以下几个：

masterha_check_ssh 检查 MHA 的 SSH 配置状况

masterha_check_repl 检查 MySQL 复制状况

masterha_manger 启动 manager的脚本

masterha_check_status 检测当前 MHA 运行状态

masterha_master_monitor 检测 master 是否宕机

masterha_master_switch 控制故障转移（自动或者手动）

masterha_conf_host 添加或删除配置的 server 信息

masterha_stop 关闭manager

4. 配置无密码认证

在 manager 上配置到所有数据库节点的无密码认证

[root@MHA-manager ~]# ssh-keygen -t rsa //一路按回车键
[root@MHA-manager ~]# ssh-copy-id 20.0.0.12    ###yes  然后输入密码，密码是root登录密码
[root@MHA-manager ~]# ssh-copy-id 20.0.0.28   
[root@MHA-manager ~]# ssh-copy-id 20.0.0.20
 

在 Mysql1 上配置到数据库节点Mysql2和Mysql3的无密码认证

[root@Mysql1 ~]# ssh-keygen -t rsa
[root@Mysql1 ~]# ssh-copy-id 20.0.0.28    
[root@Mysql1 ~]# ssh-copy-id 20.0.0.20

在 Mysql2 上配置到数据库节点Mysql1和Mysql3的无密码认证

[root@Mysql2 ~]# ssh-keygen -t rsa
[root@Mysql2 ~]# ssh-copy-id 20.0.0.12    
[root@Mysql2 ~]# ssh-copy-id 20.0.0.20

在 Mysql3 上配置到数据库节点Mysql1和Mysql2的无密码认证
[root@Mysql3 ~]# ssh-keygen -t rsa
[root@Mysql3 ~]# ssh-copy-id 20.0.0.12
[root@Mysql3 ~]# ssh-copy-id 20.0.0.28

5. 配置 MHA

在 manager 节点上复制相关脚本到/usr/local/bin 目录。
[root@MHA-manager ~]# cp -ra /root/mha4mysql-manager-0.57/samples/scripts /usr/local/bin
//拷贝后会有四个执行文件
[root@atlas ~]# ll /usr/local/bin/scripts/
总用量 32
-rwxr-xr-x 1 mysql mysql 3648 5 月 31 2015 master_ip_failover  #自动切换时 VIP 管理的脚本
-rwxr-xr-x 1 mysql mysql 9872 5 月 25 09:07 master_ip_online_change #在线切换时 vip 的管理
-rwxr-xr-x 1 mysql mysql 11867 5 月 31 2015 power_manager #故障发生后关闭主机的脚本
-rwxr-xr-x 1 mysql mysql 1360 5 月 31 2015 send_report #因故障切换后发送报警的脚本

复制上述的自动切换时 VIP 管理的脚本到/usr/local/bin 目录，这里使用脚本管理 VIP，
[root@MHA-manager ~]# cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin

修改内容如下：（删除原有内容，直接复制）

[root@MHA-manager ~]#vim /usr/local/bin/master_ip_failover

#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';

use Getopt::Long;

my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);

#############################添加内容部分#########################################
my $vip = '20.0.0.200';
my $brdc = '20.0.0.255';
my $ifdev = 'ens33';
my $key = '1';
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";
my $exit_code = 0;
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
##################################################################################
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);

exit &main();

sub main {

print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";

if ( $command eq "stop" || $command eq "stopssh" ) {

my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {

my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
#A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}
sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

创建 MHA 软件目录并拷贝配置文件

[root@MHA-manager ~]# mkdir /etc/masterha
[root@MHA-manager ~]# cp /root/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha/
[root@MHA-manager ~]# vim /etc/masterha/app1.cnf

[server default]
manager_workdir=/var/log/masterha/app1.log　　　　　　　　　　　　　　 ##manager工作目录
manager_log=/var/log/masterha/app1/manager.log　　　　　　　　　　　　#manager日志
master_binlog_dir=/usr/local/mysql/data/　　　　　　　　　　　　　　　　#master保存binlog的位置，这里的路径要与master里配置的binlog的路径一致，以便mha能找到
#master_ip_failover_script= /usr/local/bin/master_ip_failover　　　　#设置自动failover时候的切换脚本，也就是上边的哪个脚本
master_ip_online_change_script= /usr/local/bin/master_ip_online_change　　#设置手动切换时候的切换脚本
password=manager　　　　　　#设置mysql中root用户的密码，这个密码是前文中创建监控用户的那个密码
user=mha　　　　　　　　#设置监控用户root
ping_interval=1　　　　　　#设置监控主库，发送ping包的时间间隔，默认是3秒，尝试三次没有回应的时候自动进行railover
remote_workdir=/tmp　　　　#设置远端mysql在发生切换时binlog的保存位置
repl_password=123　　　　　　　　#设置复制用户的密码
repl_user=myslave　　　　　　 　　　　#设置复制用户的用户
report_script=/usr/local/send_report　　　　　　//设置发生切换后发送的报警的脚本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.195.130 -s 192.168.195.131
shutdown_script=""　　#设置故障发生后关闭故障主机脚本（该脚本的主要作用是关闭主机放在发生脑裂,这里没有使用）
ssh_user=root　　　　　　#设置ssh的登录用户名
user=mha

[server1]
hostname=20.0.0.12
port=3306

[server2]
candidate_master=1 #//设置为候选master，如果设置该参数以后，发生主从切换以后将会将此从库提升为主库，即使这个主库不是集群中事件最新的slave
check_repl_delay=0  　#默认情况下如果一个slave落后master 100M的relay logs的话，MHA将不会选择该slave作为一个新的master，因为对于这个slave的恢复需要花费很长时间，通过设置check_repl_delay=0,MHA触发切换在选择一个新的master的时候将会忽略复制延时，这个参数对于设置了candidate_master=1的主机非常有用，因为这个候选主在切换的过程中一定是新的master
hostname=20.0.0.28
port=3306

[server3]
hostname=20.0.0.20
port=3306

6. 测试 ssh 无密码认证，如果正常最后会输出 successfully

[root@MHA-manager ~]# masterha_check_ssh -conf=/etc/masterha/app1.cnf
。。。。。。。。。。。。
Tue Nov 26 23:09:47 2019 - [info] All SSH connection tests passed successfully.

注意点：（mysql5.7注意）请注释/etc/my.cnf 中 【client】下 #default-character-set=utf8
在所有数据库中建立以下指令软连接
ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin
因为上面我们已经做过了，所以无需重复

7. 测试

[root@MHA-manager ~]# masterha_check_repl -conf=/etc/masterha/app1.cnf  
。。。。。。。。。。。
MySQL Replication Health is OK.  ##代表成功

注意点：第一次配置需要去master上手动开启虚拟IP

[root@Mysql1 ~]# /sbin/ifconfig ens33:1 20.0.0.200/24
[root@Mysql1 ~]# ifconfig  ##可以看到漂移地址
ens33:1: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet 20.0.0.200  netmask 255.255.255.0  broadcast 20.0.0..255

启动 MHA

[root@MHA-manager ~]# nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
[1] 16548

查看 MHA 日志
[root@MHA-manager ~]# cat /var/log/masterha/app1/manager.log

这时候我们把主服务器关闭，看下是否能实现地址漂移
查看 Mysql1 的 VIP 地址 20.0.0.200 是否存在？
然后在查看Mysql2是否存 VIP 地址 20.0.0.200 
ens33:1: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet 20.0.0.200  netmask 255.255.255.0  broadcast 20.0.0..255
地址实现漂移

还有一种验证方式就是
[root@MHA-manager ~]#tailf /var/log/masterha/app1/manager.log     //启用监控观察日志记录
看是否有变化，地址是否变成slave2的地址

6. 故障模拟

在主库上：
pkill mysqld
可以看到从库的状态，其中之一肯定有切换到主库的
切换备选主库的算法：
1.一般判断从库的是从（position/GTID）判断优劣，数据有差异，最接近于master的slave，成为备选主。
2.数据一致的情况下，按照配置文件顺序，选择备选主库。
3.设定有权重（candidate_master=1），按照权重强制指定备选主。
1）默认情况下如果一个slave落后master 100M的relay logs的话，即使有权重，也会失效。
2）如果check_repl_delay=0的话，即使落后很多日志，也强制选择其为备选主。
故障修复步骤：
1.修复db
/etc/init.d/mysqld start
2.修复主从
>change master to master_host='192.168.195.130',master_user='myslave',master_password='123',master_log_file='master-bin.000002',master_log_pos=154;
>start slave;
3.修改配置文件(再把这个记录添加进去，因为它检测掉失效时候会自动消失)
vi /etc/masterha/app1.cnf
[server1]
hostname=192.168.195.129
port=3306
4.启动manager（在manager那台机器上）
nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

dos2unix /usr/local/bin/master_ip_failover 解决中英字不兼容报错的问题

2.5 问题

问题一：
Thu Aug 23 04:39:01 2018 - [warning]  log-bin is not set on slave 192.168.0.189(192.168.0.189:3306). This host cannot be a master.
Thu Aug 23 04:39:01 2018 - [warning]  log-bin is not set on slave 192.168.0.190(192.168.0.190:3306). This host cannot be a master.

解决办法：
从库的各客户端应开启binlog，即log_bin=on，两个从上都开启
[root@centos7-02 ~]# vi /etc/my.cnf
basedir = /usr/local/mysql
datadir = /data/mysql
socket = /tmp/mysql.sock
server-id=189
log_bin=on

问题二：
Can't exec "mysqlbinlog": 没有那个文件或目录 at /usr/local/share/perl5/MHA/BinlogManager.pm line 106.
mysqlbinlog version command failed with rc 1:0, please verify PATH, LD_LIBRARY_PATH, and client options
at /usr/local/bin/apply_diff_relay_logs line 493.

解决办法：
在所有节点上执行如下命令
[root@centos7-01 ~]# ln -s /usr/local/mysql/bin/mysqlbinlog /usr/local/bin/mysqlbinlog
[root@centos7-01 ~]# ln -s /usr/local/mysql/bin/mysql /usr/local/bin/mysql
[root@centos7-02 ~]# ln -s /usr/local/mysql/bin/mysqlbinlog /usr/local/bin/mysqlbinlog
[root@centos7-02 ~]# ln -s /usr/local/mysql/bin/mysql /usr/local/bin/mysql
[root@centos7-03 ~]# ln -s /usr/local/mysql/bin/mysqlbinlog /usr/local/bin/mysqlbinlog
[root@centos7-03 ~]# ln -s /usr/local/mysql/bin/mysql /usr/local/bin/mysql

问题三：
Thu Aug 23 05:41:59 2018 - [error][/usr/local/share/perl5/MHA/MasterMonitor.pm, ln226]  Failed to get master_ip_failover_script status with return code 1:0.
Thu Aug 23 05:41:59 2018 - [error][/usr/local/share/perl5/MHA/MasterMonitor.pm, ln424] Error happened on checking configurations.  at /usr/local/bin/masterha_check_repl line 48
Thu Aug 23 05:41:59 2018 - [error][/usr/local/share/perl5/MHA/MasterMonitor.pm, ln523] Error happened on monitoring servers.
解决办法：
[root@centos7-04 ~]# vi /etc/masterha/app1.cnf
#master_ip_failover_script= /usr/local/bin/master_ip_failover            //先暂时注释这条选项，后面引入keepalived后和修改该脚本以后再开启该选项