MHA高可用配置及故障切换

MHA Node（数据节点）
- MHA Node 运行在每台 MySQL 服务器上。
MHA Manager（管理节点）
- MHA Manager 可以单独部署在一台独立的机器上，管理多个 master-slave 集群；也可以部署在一台 slave 节点上。
- MHA Manager 会定时探测集群中的 master 节点。当 master 出现故障时，它可以自动将最新数据的 slave 提升为新的 master，然后将所有其他的 slave 重新指向新的 master。整个故障转移过程对应用程序完全透明。

Mysql数据库集群架构，如何保障高可用?

一主两/三从，高可用方案用的MHA、MMM
MHA架构会在所以的mysql服务器上安装mha node组件，还会在一台独立的服务器上/某台slaves节点上安装mha manger组件
manger组件会定时探测集群中的master节点是否存活，如果master故障，manger就会自动提升一台具有最新数据的slave成为集群中新的master，然后会将其他的slave节点重新指向这个新的Master，完成新的主从同步，从而达到Mysql集群中的master的高可用和数据的一致性

2、MHA 的特点

自动故障切换过程中，MHA试图从宕机的主服务器上保存二进制日志，最大程度的保证数据不丢失
使用半同步复制，可以大大降低数据丢失的风险，如果只有一个slave已经收到了最新的二进制日志，MHA可以将最新的二进制日志应用于其他所有的slave服务器上，因此可以保证所有节点的数据一致性
目前MHA支持一主多从架构，最少三台服务，即一主两从

3、MHA工作原理

MHA Manger管理多组主从复制。

MHA工作原理总结如下:

从宕机崩溃的master保存二进制日志事件（binlog events) ;
识别含有最新的更新slave日志
应用差异的中继旦志(relay log到其他的slave
应用从master保存的二进制日志事件
提升一个salve为新的master
使其他的slave连接行的master进行复制。

二、搭建 MySQL MHA

实验思路

MHA架构

数据库安装
一主两从
MHA搭建

故障模拟

主库失效
备选主库成为主库
原故障主库恢复重新加入到MHA成为从库

1、实验准备

主机	操作系统	IP地址	实验所需组件
MHAmanager	CentOS7	192.168.187.48	MHAnode组件、MHAmanager组件
Master	CentOS7	192.168.187.98	mysql-boost-5.7.20.tar.gz、MHAnode组件
Slave1	CentOS7	192.168.187.68	mysql-boost-5.7.20.tar.gz、MHAnode组件
Slave2	CentOS7	192.168.187.78	mysql-boost-5.7.20.tar.gz、MHAnode组件

首先关闭每一台机器的防火墙和安全机制

systemctl stop firewalld
systemctl disable firewalld
setenforce 0

2、Master、Slave1、Slave2 节点上安装 mysql并开启

netstat -natp | grep 3306

3、部署主从复制

3.1 修改 Master、Slave1、Slave2 节点的 Mysql主配置文件/etc/my.cnf

#Master 节点

vim /etc/my.cnf

[mysqld]
server-id = 1  
log-bin = master-bin          #添加，主服务器开启二进制文件
log-slave-updates = true      #添加，允许从服务器更新二进制文件

systemctl restart mysqld      #服务重启

#Slave1 节点

vim /etc/my.cnf

[mysqld]
server-id = 2                              #三台服务器的 server-id 不能一样
log_bin = master-bin                       #以防单点故障的时候切换
relay-log = relay-log-bin                  #开启中继日志
relay-log-index = slave-relay-bin.index    #当服务器故障，从主服务器获得二进制文件 

systemctl restart mysqld

#Slave2 节点
vim /etc/my.cnf

[mysqld]
server-id = 3                             #三台服务器的 server-id 不能一样
log_bin = master-bin                      #以防单点故障的时候切换
relay-log = relay-log-bin                 #开启中继日志
relay-log-index = slave-relay-bin.index   #当服务器故障，从主服务器获得二进制文件

systemctl restart mysqld

4、在 Master、Slave1、Slave2 节点上都创建两个软链接 ⭐

将mysql命令和日志软链接到/usr/sbin,便于系统识别

#第一个是mysql命令
#第二个mysqlbinlog是节点恢复
ln -s /usr/local/mysql/bin/mysql /usr/sbin
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin

ll /usr/sbin

Master

Slave1

Slave2

5、配置MySQL一主两从

5.1 所有数据库节点进行 mysql 授权

mysql -uroot -p123456

#授权 ##允许myslave用户在192.168.187.0网段使用密码123456登录到本机
grant replication slave on *.* to 'myslave'@'192.168.187.%' identified by '123456';        

#授权mha用户在192.168.187.0网段使用密码manager登录到本机
grant all privileges on *.* to 'mha'@'192.168.187.%' identified by 'manager';      

#防止从库通过主机名连接不上主库再次进行授权
grant all privileges on *.* to 'mha'@'master' identified by 'manager';                
grant all privileges on *.* to 'mha'@'slave1' identified by 'manager';
grant all privileges on *.* to 'mha'@'slave2' identified by 'manager';
flush privileges;  #刷新权限

注意（报错）：如果给从服务器授权时，可能会出现密码不符合当前策略要求

ERROR 1819 (HY000): Your password does not satisfy the current policy requirements
您的密码不符合当前策略要求

解决方法：
在数据库配置文件中添加一行，关闭密码策略

vim /etc/my.cnf 末行加入

validate_password=off

5.2 在 Master 节点查看二进制文件和同步点

主服务中查看二进制文件及偏移量

show master status;

5.3 在 Slave1、Slave2 节点执行同步操作

reset slave; 删除之前的主从复制

change master to master_host='192.168.187.98' ,master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=1747;

start slave; 开启主从复制

show slave status\G #查看 Slave 状态
//确保 IO 和 SQL 线程都是 Yes，代表同步正常。
Slave_IO_Running: Yes #负责与主机的io通信
Slave_SQL_Running: Yes #负责自己的slave mysql进程

slave1

slave2

5.4 Slave1、Slave2 节点设置为只读模式

set global read_only=1;

5.5 验证主从同步

在 Master 主库插入条数据，测试是否同步

create database test;

use test

create table cba(id int(8),name varchar(15));
insert into cba values(1,'lisi');
show databases;

从服务器验证

6、配置MHA

6.1 所有服务器上都安装 MHA 依赖的环境

#在所有服务器上安装MHA依赖环境，首先安装epel源，只有安装了源 perl才会有
#安装epel源，并且不进行gph检查

yum -y install epel-release --nogpgcheck

#perl针对于mysql数据库
#从配置文件中提拿其中的值
#log-日志
#多线程管理
#扩展工具CBuilder MakeMaker
#cpan perl中的数据库
yum install -y perl-DBD-MySQL \
perl-Config-Tiny \
perl-Log-Dispatch \
perl-Parallel-ForkManager \
perl-ExtUtils-CBuilder \
perl-ExtUtils-MakeMaker \
perl-CPAN

6.2 node数据节点安装

cd /opt

上传mha4mysql-node-0.57.tar.gz包

解tar包 tar zxf mha4mysql-node-0.57.tar.gz

cd mha4mysql-node-0.57
perl Makefile.PL 编译
make && make install 安装

解压

编译

注：若报错 Can't locate CPAN.pm in @INC (@INC contains: inc /usr/local/lib64/perl5 /usr/local/share/perl5 /usr/lib64/perl5/vendor_perl /usr/share/perl5/vendor_perl /usr/lib64/perl5 /usr/share/perl5 .) at inc/Module/AutoInstall.pm line 304.

这个问题就是说，没有安装perl-CPAN,直接安装一个就好

yum install perl-ExtUtils-Embed -y

安装

扩展：node组件安装后也会在/usr/local/bin 下面会生成几个脚本

这些工具通常由 MHAManager 的脚本触发，无需人为操作，主要如下：

save_binary_logs	保存和复制 master 的二进制日志
apply_diff_relay_logs	识别差异的中继日志事件并将其差异的事件应用于其他的 slave
filter_mysqlbinlog	去除不必要的 ROLLBACK 事件

6.3 在manager服务器上安装 manager管理节点

cd /opt

上传mha4mysql-manager-0.57.tar.gz

tar zxf mha4mysql-manager-0.57.tar.gz

cd mha4mysql-manager-0.57
perl Makefile.PL
make && make install

扩展：manager组件安装后在/usr/local/bin下面会生成几个工具

主要包括以下几个：

masterha_check_ssh	检查 MHA 的 SSH 配置状况
masterha_check_repl	检查 MySQL 复制状况
masterha_manger	启动 manager的脚本
masterha_check_status	检测当前 MHA 运行状态
masterha_master_monitor	检测 master 是否宕机
masterha_master_switch	控制故障转移（自动或者手动）
masterha_conf_host	添加或删除配置的 server 信息
masterha_stop	关闭manage

7、在所有服务器上配置无密码认证

7.1 在 manager 节点上配置到所有数据库节点的无密码认证

ssh-keygen -t rsa #一路按回车键
ssh-copy-id 192.168.187.98 #master
ssh-copy-id 192.168.187.68 #slave1
ssh-copy-id 192.168.187.78 #slave2

7.2 在 master 上配置到数据库节点 slave1 和 slave2 的无密码认证

ssh-keygen -t rsa #一路按回车键

ssh-copy-id 192.168.187.68 #slave1
ssh-copy-id 192.168.187.78 #slave2

7.3 在 slave1 上配置到数据库节点 master 和 slave2 的无密码认证

ssh-keygen -t rsa #一路按回车键

ssh-copy-id 192.168.187.98 #master
ssh-copy-id 192.168.187.78 #slave2

7.4 在 slave2 上配置到数据库节点 master 和 slave1 的无密码认证

ssh-keygen -t rsa #一路按回车键

ssh-copy-id 192.168.187.98 #master
ssh-copy-id 192.168.187.68 #slave1

8、在 manager 节点上配置 MHA

8.1在 manager 节点上复制相关脚本到/usr/local/bin 目录

cp -rp /opt/mha4mysql-manager-0.57/samples/scripts /usr/local/bin

#复制后会有四个执行文件
ll /usr/local/bin/scripts/

master_ip_failover	自动切换时 VIP 管理的脚本
master_ip_online_change	在线切换时 vip 的管理
power_manager	故障发生后关闭主机的脚本
send_report	因故障切换后发送报警的脚本

8.2 复制自动切换时 VIP 管理的脚本到 /usr/local/bin 目录

这里使用master_ip_failover脚本来管理 VIP 和故障切换

cp -rp /usr/local/bin/scripts/master_ip_failover /usr/local/bin

8.3 修改master_ip_failover脚本

#删除原有内容，直接复制并修改vip相关参数

vim /usr/local/bin/master_ip_failover

#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';

use Getopt::Long;

my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
my $vip = '192.168.187.100';       #浮动IP
my $brdc = '192.168.187.255';   #广播地址
my $ifdev = 'ens33';       #使用的网卡为ens33
my $key = '1';           #国际序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip"; #使用ifoconfig命令将其启动，同时设置浮动地址
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down"; #可以使用ifconfig命令将其down掉（关闭）
my $exit_code = 0;           #正常退出（返回状态码）
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);

exit &main();

sub main {

print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";

if ( $command eq "stop" || $command eq "stopssh" ) {

my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {

my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
# A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}

sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

8.4 创建 MHA 软件目录并复制配置文件

使用app1.cnf配置文件来管理 mysql 节点服务器，配置文件一般放在/etc/目录下

mkdir /etc/masterha
cp /opt/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha

vim /etc/masterha/app1.cnf #删除原有内容，直接复制并修改节点服务器的IP地址
[server default]
manager_log=/var/log/masterha/app1/manager.log
manager_workdir=/var/log/masterha/app1
master_binlog_dir=/usr/local/mysql/data
master_ip_failover_script=/usr/local/bin/master_ip_failover
master_ip_online_change_script=/usr/local/bin/master_ip_online_change

password=manager
ping_interval=1
remote_workdir=/tmp
repl_password=123456
repl_user=myslave
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.187.68 -s 192.168.187.78
ssh_user=root
user=mha

[server1]
hostname=192.168.187.98
port=3306

[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.187.68
port=3306

[server3]
hostname=192.168.187.78
port=3306

vim /etc/masterha/app1.cnf                  #删除原有内容，直接复制并修改节点服务器的IP地址

[server default]
manager_log=/var/log/masterha/app1/manager.log　　　　　  #manager日志
manager_workdir=/var/log/masterha/app1.log　　　　        #manager工作目录
master_binlog_dir=/usr/local/mysql/data/　　　　　　　　 　 #master保存binlog的位置，这里的路径要与master里配置的binlog的路径一致，以便MHA能找到
master_ip_failover_script=/usr/local/bin/master_ip_failover　          　#设置自动failover时候的切换脚本，也就是上面的那个脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change　　#设置手动切换时候的切换脚本
password=manager               #设置mysql中root用户的密码，这个密码是前文中创建监控用户的那个密码
ping_interval=1                #设置监控主库，发送ping包的时间间隔1秒，默认是3秒，尝试三次没有回应的时候自动进行failover
remote_workdir=/tmp            #设置远端mysql在发生切换时binlog的保存位置
repl_password=123456           #设置复制用户的密码
repl_user=myslave              #设置复制用户的用户
report_script=/usr/local/send_report　　　　　#设置发生切换后发送的报警的脚本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.187.68 -s 192.168.187.78    #指定检查的从服务器IP地址
shutdown_script=""             #设置故障发生后关闭故障主机脚本（该脚本的主要作用是关闭主机防止发生脑裂,这里没有使用）
ssh_user=root                  #设置ssh的登录用户名
user=mha                       #设置监控用户root

[server1]
hostname=192.168.187.98
port=3306

[server2]
hostname=192.168.187.68
port=3306
candidate_master=1
#设置为候选master，设置该参数以后，发生主从切换以后将会将此从库提升为主库，即使这个主库不是集群中最新的slave

check_repl_delay=0
#默认情况下如果一个slave落后master 超过100M的relay logs的话，MHA将不会选择该slave作为一个新的master， 因为对于这个slave的恢复需要花费很长时间；通过设置check_repl_delay=0，MHA触发切换在选择一个新的master的时候将会忽略复制延时，这个参数对于设置了candidate_master=1的主机非常有用，因为这个候选主在切换的过程中一定是新的master

[server3]
hostname=192.168.187.78
port=3306

9、在Master服务器上手动开启vip

ifconfig ens33:1 192.168.187.100/24
ifconfig ens33:1

10、在 manager 节点上测试 ssh 无密码认证

如果正常最后会输出 successfully，如下所示.

#测试无密码认证，如果正常会输出successfully 
masterha_check_ssh -conf=/etc/masterha/app1.cnf

11、在 manager 节点上测试 mysql 主从连接情况

最后出现 MySQL Replication Health is OK 字样说明正常。

#测试主从复制

masterha_check_repl -conf=/etc/masterha/app1.cnf

12、在 manager 节点上启动 MHA

nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

--remove_dead_master_conf：该参数代表当发生主从切换后，老的主库的 ip 将会从配置文件中移除。
--manger_log：日志存放位置。
--ignore_last_failover：在缺省情况下，如果 MHA 检测到连续发生宕机，且两次宕机间隔不足 8 小时的话，则不会进行 Failover，之所以这样限制是为了避免 ping-pong 效应。该参数代表忽略上次 MHA 触发切换产生的文件，默认情况下，MHA 发生切换后会在日志记录，也就是上面设置的日志app1.failover.complete文件，下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换，除非在第一次切换后收到删除该文件，为了方便，这里设置为--ignore_last_failover。