MySQL MHA

一、MHA概述

1.1 MHA简介

MHA（Master High Availability）目前在MySQL高可用方面是一个相对成熟的解决方案，MHA是由日本人开发，是一套优秀的MySQL故障切换和主从复制的高可用软件
在MySQL故障切换的过程中，MHA能做到0~30秒之内自动完成数据库的故障切换操作，并且在进行故障切换的过程中，MHA能够最大程度上保证数据库的一致性，以达到真正意义上的高可用
MHA由perl语言编写，该工具仅仅使用于MySQLReplication环境，目的在于维持Master主库的高可用性
MHA是基于标准的MySQL主从复制（异步/半同步）
MHA由两部分组成管理节点（MHA manager）和数据节点（MHA Node）两部分组成
MHA manager 可以单独部署在一台服务器上，可以部署在一台slave上面

1.2 MHA特点

自动故障切换过程中，MHA总会试图从宕机的主服务器上保存二进制日志，最大程度的保证数据不丢失，但这并不总是可行，例如如果主服务器硬件故障或者无法通过ssh访问，MHA则无法保存二进制日志，只能进行故障转移而丢失了最新的数据
使用MySQL5.5的半同步复制，可以大大降低数据丢失的风险。MHA可以与半同步复制结合起来，如果只有一个slave已经收到了最新的二进制日志，MHA可以将最新的二进制日志应用于其他所有的slave服务器上，因此可以保证所有节点的数据一致性，有时候可故意设置从节点慢于主节点，当发生意外删除数据库导致数据丢失时可从从节点二进制日志中恢复。

二、MHA实验

2.1 实验环境

MHA-manager：192.168.177.120 —— 管理节点，安装 manager 组件与node组件，主要用来调控与调度master、slave1、slave2
master：192.168.177.114 —— 安装 node 组件
slave1：192.168.177.115 —— 安装 node 组件
slave2：192.168.177.116 —— 安装 node 组件

2.2 实验步骤

同步阿里云时间服务器

yum -y install ntp
ntpdate ntp.aliyun.com

安装编译依赖环境(master、slave1、slave2）

yum -y install ncurses-devel gcc-c++ perl-Module-Install

安装cmake编译工具（提前准备好cmake-2.8.6.tar.gz压缩包）

tar zxvf cmake-2.8.6.tar.gz -C /opt
cd /opt/cmake-2.8.6/
./configure
gmake && gmake install

master、slave1、slave2分别做两个软链接 ⭐⭐⭐

ln -s /usr/local/mysql/bin/mysql /usr/sbin  //第一个是mysql命令
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin //第二个mysqlbinlog是节点恢复

在后台启动mysql服务（mysql_safe 安全启动,相当于多了一个守护进程,mysqld挂了会自动把mysqld进程拉起来）

/usr/local/mysql/bin/mysqld_safe --user=mysql & //mysqld_safe 5.7版本的MySQL没有该命令

配置MySQL （一主两从）
在所有数据库节点上授权两个用户，一个是从库同步使用，另一个是manager使用⭐⭐

grant replication slave on *.* to 'myslave'@'192.168.177.%' identified by '123456'; 
grant all privileges on *.* to 'mha'@'192.168.177.%' identified by 'manager';

下面三条授权理论上不用添加，但是实验环境通过MHA检查MySQL主从报错
报两个从库通过主机名连接不上主库，所以所有数据库都需要添加以下授权
通过mha检查的时候，是通过主机名的形式进行监控，这种情况会容易报错⭐⭐

grant all privileges on *.* to 'mha'@'master' identified by 'manager';
grant all privileges on *.* to 'mha'@'slave1' identified by 'manager';
grant all privileges on *.* to 'mha'@'slave2' identified by 'manager';

所有从库开启只读功能（不会对超级管理员[root]生效，只对普通用户生效）

set global read_only=1;

千万不要忘记刷新权限表！！！

flush privileges;

在master上查看二进制文件和同步点

show master status;  //查看二进制日志文件名称和position的值，用于从服务器同步使用

在两台节点服务器进行同步

change master to master_host='192.168.177.114',master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=154;
start slave;
show slave status\G; //查看I/O、SQL的状态是否都是Yes

只读功能验证

mysql -umyslave -p123456 -h 192.168.177.115 -P 3306
......//省略部分信息输出内容
mysql> create database shool;
ERROR 1290 (HY000): The MySQL server is running with the --read-only option so it cannot execute this statement

正式进入MHA配置
在所有服务器上安装MHA依赖环境，首先安装epel源，只有安装了epel源 perl才会有

yum install epel-release --nogpgcheck -y //安装epel源，并且不进行gph检查

perl-DBD-MySQL——针对于mysql数据库
perl-Config-Tiny——从配置文件中提拿其中的值
perl-Log-Dispatch——log-日志
perl-Parallel-ForkManager——多线程管理
perl-ExtUtils-CBuilder——扩展工具 CBuilder
perl-ExtUtils-MakeMaker——扩展工具 MakeMaker
perl-CPAN——cpan perl中的数据库

yum install -y perl-DBD-MySQL \
perl-Config-Tiny \
perl-Log-Dispatch \
perl-Parallel-ForkManager \
perl-ExtUtils-CBuilder \
perl-ExtUtils-MakeMaker \
perl-CPAN

MHA 软件包对于每个操作系统版本不一样，这里Centos7.4必须选择0.57版本
在所有服务器上必须先安装node组件，最后在MHA-manager节点上安装manager组件，因为manager依赖node组件，

安装node组件（提前准备好mha4mysql-node-0.57.tar.gz压缩包）

tar zxvf /mnt/mha/mha4mysql-node-0.57.tar.gz -C /root
cd mha4mysql-node-0.57
perl Makefile.PL
make && make install

node 安装后会在/usr/local/bin目录下生成几个脚本，需要进行检查，主要包括以下：
save_binary_logs——保存和复制master的二进制日志
apply_diff_relay_logs——识别差异的中继日志时间，并将其差异的事件应用于其他的slave
filter_mysqlbinlog——去除不必要的ROLLBACK回滚事件（MHA 已不适用这个工具）
purge_relay_logs——清除中继日志（不会阻塞 SQL线程）

在MHA节点上安装manager组件（必须先安装node才能安装manager组件，提前准备好mha4mysql-manager-0.57.tar.gz压缩包）

tar zxvf mha4mysql-manager-0.57.tar.gz -C /root
cd mha4mysql-manager-0.57
perl Makefile.PL
make && make install

manager 安装后在/usr/local/bin目录下会生成几个工具，主要包括以下：
masterha-check_ssh——检查MHA的SSH配置状况（免交互）
masterha_check_repl——检查MySQL复制状况
masterha_manager——启动manager的脚本
masterha_check_status——检查当前MHA运行状态
masterha_master_monitor——检查master是否宕机
masterha_master_switch——控制故障转移(自动或者手动）
masterha_conf_host——添加或删除配置的server信息
masterha_stop——关闭manager

所有节点配置ssh免密登录
1、master配置

ssh-keygen -t rsa
ssh-copy-id 192.168.177.115
ssh-copy-id 192.168.177.116
ssh-copy-id 192.168.177.120

2、slave1配置

ssh-keygen -t rsa
ssh-copy-id 192.168.177.114
ssh-copy-id 192.168.177.116
ssh-copy-id 192.168.177.120

3、slave2配置

ssh-keygen -t rsa
ssh-copy-id 192.168.177.114
ssh-copy-id 192.168.177.115
ssh-copy-id 192.168.177.120

4、manager配置

ssh-keygen -t rsa
ssh-copy-id 192.168.177.114
ssh-copy-id 192.168.177.115
ssh-copy-id 192.168.177.116

在MHA节点上复制相关脚本到/usr/local/bin目录

cp -ra /root/mha4mysql-manager-0.57/samples/scripts/ /usr/local/bin

拷贝后会有四个执行文件

ll /usr/local/bin/scripts/
master_ip_failover			//自动切换时 VIP管理的脚本⭐⭐⭐
master_ip_online_change		//在线切换时 VIP的管理
power_manager				//故障发生后关闭主机的脚本
send_report					//因故障切换后发送报警的脚本

复制上述的master_ip_failover 到/usr/local/bin目录 这里使用脚本管理VIP

cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin

修改master_ip_failover内容（删除原有内容，直接复制）
去除#开头的部分，PS:第一行添加“#”
% s/^#//

#!/usr/bin/env perl 
use strict;
use warnings FATAL => 'all';

use Getopt::Long;

my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
my $vip = '192.168.177.250';	#浮动IP（自定义的虚拟ip）
my $brdc = '192.168.177.255';	#广播地址
my $ifdev = 'ens33';		    #使用的网卡为ens33
my $key = '1';			        #国际序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";	#使用ifoconfig命令将其启动，同时设置浮动地址
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";	#可以使用ifconfig命令将其down掉（关闭）
my $exit_code = 0;			#正常退出（返回状态码）
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);

exit &main();

sub main {

print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";

if ( $command eq "stop" || $command eq "stopssh" ) {

my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {

my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
# A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}

sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

创建MHA软件目录并拷贝配置文件

mkdir /etc/masterha
cp /root/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha/
vim /etc/masterha/app1.cnf

[server default]
manager_log=/var/log/masterha/app1/manager.log
manager_workdir=/var/log/masterha/app1
master_binlog_dir=/usr/local/mysql/data
master_ip_failover_script=/usr/local/bin/master_ip_failover
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
user=mha
password=manager
ping_interval=1
remote_workdir=/tmp
repl_password=123456
repl_user=myslave
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.177.115 -s 192.168.177.116
shutdown_script=""
ssh_user=root

[server1]
hostname=192.168.177.114
port=3306

[server2]
candidate_master=1
hostname=192.168.177.115
check_repl_delay=0
port=3306

[server3]
hostname=192.168.177.116
port=3306

配置文件解析

//manager工作目录
manager_log=/var/log/masterha/app1/manager.log
//manager日志
manager_workdir=/var/log/masterha/app1
//master保存binlog的位置，这里的路径要于master里配置的binlog
master_binlog_dir=/home/mysql
//设置自动failover时候切换脚本，也就是上一个配置的脚本
master_ip_failover_script=/usr/local/bin/master_ip_failover
//设置手动切换时候的切换脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
//此处密码为之前创建监控用户的密码
password=manager
//设置监控用户
user=mha
//设置监控主库，发送ping包的事件间隔，默认为3秒，尝试三次没有回应的时候自动进性failover
ping_interval=1
//设置远端的MySQL在发生切换时binlog的保存位置
remote_workdir=/tmp
//设置复制用户的密码
repl_password=123456
//设置复制用户的账户
repl_user=myslave
//设置发生切换后发送的报警的脚本
report_script=/usr/local/send_report
//设置检查从服务器的脚本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.177.115 -s 192.168.177.116
//设置故障发生后关闭故障主机脚本
shutdown_script=""
//设置ssh的登录用户名
ssh_user=root
[server2]
//设置候选master，如果设置了此参数，发送主从切换后，会将此库提升为主库
candidate_master=1
//关闭复制的检查，默认情况下如果一个slave落后master 100M的relay logs（中继日志）的话，MHA将不会选择该slave作为新的master，设置为0的话会忽略此规则
check_repl_delay=0
hostname=192.168.226.131
port=3306

测试MHA
第一次配置需要在master节点上手动开启虚拟IP

ifconfig ens33:1 192.168.177.250 netmask 255.255.255.0

测试无密码认证，如果正常会输出successfully

masterha_check_ssh -conf=/etc/masterha/app1.cnf

测试主从复制

masterha_check_repl -conf=/etc/masterha/app1.cnf

启动MHA,启动时会进行日志记录（在后台开启）

nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

解释：
nohup //选项
masterha_manager //开启
–conf=/etc/masterha/app1.cnf //指定配置文件
–remove_dead_master_conf //当master服务器失效时，发生主从切换后，会把旧的master的ip从主配置文件删
–ignore_last_failover //忽略故障转移，忽略掉总是宕机不够可靠的服务器
在缺省情况下，如果MHA检测到连续发生宕机，且两次宕机间隔不足8小时的话，则不会进行Failove之所以这样限制是为了避免ping-pong效应。该参数代表忽略上次MHA出发切换产生的文件，默认情况 MHA发生切换后会在日志记录下，也就是上面设置的日志app1.failover.complete文件，下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换，除非在第一次切换后收到删除该文件:为了方便，这里设为为–ianore_last_failover
< /dev/null> //生成的所有信息会导到null下或者/var/log/masterha/app1/manager.log日志文件中
2>&1 & //把2错误性的输山从定向为标准性输山，"&"开启后台运行

新开一个manager服务器窗口，启用监控观察日志

tail -f /var/log/masterha/app1/manager.log 

在原来的manager服务器上查看到当前的master节点IP

masterha_check_status --conf=/etc/masterha/app1.cnf
app1 (pid:123068) is running(0:PING_OK), master:192.168.177.114

模拟故障
在主库pkill -9 mysql 如果杀不掉，就关闭数据库 systemctl stop mysqld
可以看到从库的状态，其中之一肯定有切换为主库的
切换备选主库的算法
1一般判断从库是从（position/GTID)判断优劣，数据有差异，最接近于master的slave，称为备选主
2、数据一致的情况下，按照配置文件顺序选择备选主库
3、设定有权重（candidate_master=1)，按照权重强制指定备选主
1）默认情况下，如果一个slave落后master 100M的relay logs(中继日志）的话，即使有权重，也会失效
2）如果check_repl_delay=0的话，即使落后很多日志，也强制选择其为备选主

在manager上再次开启MHA,并查看当前的master节点IP

nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
[root@mha-manager ~]# masterha_check_status --conf=/etc/masterha/app1.cnf
app1 (pid:123373) is running(0:PING_OK), master:192.168.177.115

在当前主库（slave1）新建一个库，在新建的库中建一张表，在表中插入一行记录

mysql> create database test2;
Query OK, 1 row affected (0.00 sec)

mysql> use test2;
Database changed
mysql> create table testinfo(id int(4));
Query OK, 0 rows affected (0.01 sec)

mysql> insert into testinfo value(1);
Query OK, 1 row affected (0.00 sec)

mysql>

在slave2 上查看是否同步

mysql> select * from test2.testinfo;
+------+
| id   |
+------+           //说明了主切换成功，并且同步数据没有问题
|    1 |
+------+
1 row in set (0.00 sec)
mysql>

故障修复
步骤一：在原来的master(192.168.177.114)上添加中继日志，并注释掉允许同步

vim /etc/my.cnf
log_bin=master-bin
#log_slave=updates=true
server_id=11
relay-log=relay-log-bin
relay-log-index=slave-relay-bin.index

systemctl start mysqld

步骤二：修复主从（在数据库中输入）
主备服务器：show master status；
原来的master：（master_log_pos，master_log_file 按照刚刚查出来填写）

change master to master_host='192.168.177.115',master_user='myslave',master_password='123456',master_log_file='master-bin.00000x',master_log_pos=xxxx;
start slave;
set global read_only=1;
flush privileges;

步骤三：修改app1.cnf配置文件（再把这个记录添加进去，因为它检测到失效时候会自动消失）

[server1]
candidate_master=1 //让修复的master称为主备
check_repl_delay=0
hostname=192.168.177.114
port=3306

步骤四：启动MHA（在manager那台机器上）

nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
//查看当前master的IP
[root@mha-manager ~]# masterha_check_status --conf=/etc/masterha/app1.cnf
app1 (pid:123373) is running(0:PING_OK), master:192.168.177.115