注:
MHA目前在MySQL高可用方面是一个相对成熟的解决方案
但是在搭建的过程中容易报错,且MHA的构建综合了主从复制,所以MHA安装时需要严格执行每一个部署
一、MHA概述
1、MHA简介
MHA(Master High Availability)目前在MySQL高可用方面是一个相对成熟的解决方案,MHA是由日本人开发,是一套优秀的MySQL故障切换和主从复制的高可用软件
在MySQL故障切换的过程中,MHA能做到0~30秒之内自动完成数据库的故障切换操作,并且在进行故障切换的过程中,MHA能够最大程度上保证数据库的一致性,以达到真正意义上的高可用
MHA由perl语言编写,该工具仅仅使用于MySQLReplication环境,目的在于维持Master主库的高可用性
MHA是基于标准的MySQL主从复制(异步/半同步)
MHA由两部分组成管理节点(MHA manager)和数据节点(MHA Node)两部分组成
MHA manager 可以单独部署在一台服务器上,可以部署在一台slave上面
了解:主从复制架构:主从复制(一主多从);MHA架构(多主多从);MMM架构(3主多从)
2、MHA特点
自动故障切换过程中,MHA总会试图从宕机的主服务器上保存二进制日志,最大程度的保证数据不丢失
但这并不总是可行,例如如果主服务器硬件故障或者无法通过ssh访问,MHA则无法保存二进制日志,只能进行故障转移而丢失了最新的数据
使用MySQL5.5的半同步复制,可以大大降低数据丢失的风险。MHA可以与半同步复制结合起来,如果只有一个slave已经收到了最新的二进制日志,MHA可以将最新的二进制日志应用于其他所有的slave服务器上,因此可以保证所有节点的数据一致性,有时候可故意设置从节点慢于主节点,当发生意外删除数据库倒是数据丢失时可从从节点二进制日志中恢复。
MHA :为了解决的了是故障切换、数据尽可能的保存,以及所有节点日志的一致性
二、MHA实验
1、 实验环境
服务器 CentOS7.4(64 位)
MHA-manager :192.168.226.128 管理节点,安装 manager 组件与node组件主要用来调控与调度
已经安装好MySQL服务器
master 192.168.10.20安装 node 组件 ----->hostnamectl set-hostname master
su
slave1 192.168.10.21 安装 node 组件 ------->hostnamectl set-hostname slav1
su
slave2 192.168.10.30 安装 node 组件-------->hostnamectl set-hostname slave2
su
192.168.1031------->hostnamectl set-hostname hma
su
#############我的是已经安装好了的MySQL,下面MySQL安装编译依赖环境(三台MySQL服务器)##################
yum -y install ncurses-devel gcc-c++ perl-Module-Install
#安装cmake编译工具
mount.cifs //192.168.226.1/LAMP-C7 /mnt
cd /mnt
tar zxvf cmake-2.8.6.tar.gz -C /opt
cd /opt/cmake-2.8.6/
./configure
gmake && gmake install
#安装mysql5.6
cd /mnt
tar zxvf mysql-5.6.26.tar.gz -C /opt
cd /opt/mysql-5.6.26/
cmake -DCMAKE_INSTALL_PREFIX=/usr/local/mysql
-DDEFAULT_CHARSET=utf8
-DDEFAULT_COLLATION=utf8_general_ci
-DWITH_EXTRA_CHARSETS=all
-DSYSCONFDIR=/etc
make && make install
#复制启动脚本与配置文件
#/etc/init.d/ :各种服务器和程序的二进制文件存放目录。
#/etc/rc.d/: 各个启动级别的执行程序连接目录。里头的文件很多都是指向init.d/的一些软连接
cp support-files/my-default.cnf /etc/my.cnf
cp:是否覆盖"/etc/my.cnf"? y
cp support-files/mysql.server /etc/rc.d/init.d/mysqld
chmod +x /etc/rc.d/init.d/mysqld
chkconfig --add mysqld
echo ‘PATH=$PATH:/usr/local/mysal/bin’ >> /etc/profile
source /etc/profile
useradd -M -s /sbin/nologin mysql
chown -R mysql.mysql /usr/local/mysql
##mysql_install_db 初始化,目录文件basedir和数据文件datadir都必须要有
/usr/local/mysql/scripts/mysql_install_db
–basedir=/usr/local/mysql
–datadir=/usr/local/mysql/data
–user=mysql
##################################################################################################
修改master的主配置文件
#开启二进制日志log_bin,允许从服务器同步log-slave-updates 22行之后
cat /etc/my.cnf
[mysqld]
server-id = 1
log_bin = master-bin
log-slave-updates = true
#配置从服务器
#在/etc/my.cnf 中修改或者增加下面内容
#开启中继日志,创建索引,同步主服务器
#slave 1
vim /etc/my.cnf
server-id = 2
log_bin = master-bin
relay-log = relay-log-bin
relay-log-index = slave-realy-bin.index
#slave 2
vim /etc/my.cnf
server-id = 2
log_bin = master-bin
relay-log = relay-log-bin
relay-log-index = slave-realy-bin.index
##################master、slave1、slave2分别做两个软链接 第一个是mysql命令########################
#第二个mysqlbinlog是节点恢复
ln -s /usr/local/mysql/bin/mysql /usr/sbin
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin
##############################在后台启动mysql服务######################################
(mysql_safe 安全启动,相当于多了一个守护进程,mysqld挂了会自动把mysqld进程拉起来)
/usr/local/mysql/bin/mysqld_safe --user=mysql &
systemctl stop firewalld.service
setenforce 0
#配置MySQL 一主两从
#在所有数据库节点上授权两个用户,一个是从库同步使用,另一个是manager使用
grant replication slave on . to ‘myslave’@‘192.168.10.%’ identified by ‘123456’;
grant all privileges on . to ‘mha’@‘192.168.10.%’ identified by ‘manager’;
#下面三条授权理论上不用添加,但是实验环境通过MHA检查MySQL主从报错,报两个从库通过主机名连接不上主库,所以所有数据库都需要添加以下授权,通过mha检查的时候,是通过主机名的形式进行监控,这种情况会容易报错。
grant all privileges on . to ‘mha’@‘master’ identified by ‘manager’;
grant all privileges on . to ‘mha’@‘slave1’ identified by ‘manager’;
grant all privileges on . to ‘mha’@‘slave2’ identified by ‘manager’;
#所有从库开启只读功能(不会对超级管理员super生效,普通用户)
set global read_only=1;
flush privileges;
#在master上查看二进制文件和同步点
show master status;
################################在两台节点服务器进行同步##########################################
change master to master_host=‘192.168.226.129’,master_user=‘myslave’,master_password=‘123456’,master_log_file=‘master-bin.000001’,master_log_pos=2049;
start slave;
show slave status\G;
PS:只读功能验证
在slave1服务器上,mysql -umyslave -p12345678 -h 192.168.10.20 -P 3306
mysql> create database info;
ERROR 1290 (HY000): The MySQL server is running with the --read-only option so it cannot execute this statement
#############################配置MHA#######################################
#在所有服务器上安装MHA依赖环境,首先安装epel源,只有安装了源 perl才会有
#安装epel源,并且不进行gph检查
yum install epel-release --nogpgcheck -y
#从配置文件中提拿其中的值
#log-日志
#多线程管理
#扩展工具CBuilder MakeMaker
#cpan perl中的数据库
yum install -y perl-DBD-MySQL
perl-Config-Tiny
perl-Log-Dispatch
perl-Parallel-ForkManager
perl-ExtUtils-CBuilder
perl-ExtUtils-MakeMaker
perl-CPAN
#####################MHA 软件包对于每个操作系统版本不一样,这里Centos7.4必须选择0.57版本###############
#在所有服务器上必须先安装node组件,最后在MHA-manager节点上安装manager组件
因为manager依赖node组件,
#同步阿里云时间服务器
ntpdate ntp.aliyun.com
#node组件
mount.cifs //192.168.226.1/LAMP-C7 /mnt
tar zxvf /mnt/mha/mha4mysql-node-0.57.tar.gz -C /root
cd mha4mysql-node-0.57
perl Makefile.PL
make && make install
#在MHA节点上安装manager组件(必须先安装node才能安装manager组件)
tar zxvf /mnt/mha/mha4mysql-manager-0.57.tar.gz -C /root
cd mha4mysql-manager-0.57
perl Makefile.PL
make && make install
####################manager 安装后在/usr/local/bin目录下会生成几个工具,主要包括以下##################
masterha-check_ssh 检查MHA的SSH配置状况(免交互)
masterha_check_repl 检查MySQL复制状况
masterha_manager 启动manager的脚本
masterha_check_status 检查当前MHA运行状态
masterha_master_monitor 检查master是否宕机
masterha_master_switch 控制故障转移(自动或者手动)
masterha_conf_host 添加或删除配置的server信息
masterha_stop 关闭manager
######node 安装后也会在/usr/local/bin目录下生成几个脚本,需要进行检查,主要包括以下#####
save_binary_logs #保存和复制master的二进制日志
apply_diff_relay_logs #识别差异的中继日志时间,并将其差异的事件应用于其他的slave
filter_mysqlbinlog #去除不必要的ROLLBACK回滚事件(MHA 已不适用这个工具)
purge_relay_logs #清除中继日志(不会阻塞 SQL线程)
###############################配置无密码认证#############################################
#一、在mannager上配置到所有数据库节点的无密码认证
#一路回车
ssh-keygen -t rsa
ssh-copy-id 192.168.226.128
ssh-copy-id 192.168.226.129
ssh-copy-id 192.168.226.131
ssh-copy-id 192.168.226.132
#二、在master上配置到slave1和salve2的无密码认证
ssh-keygen -t rsa
ssh-copy-id 192.168.10.20
ssh-copy-id 192.168.10.21
ssh-copy-id 192.168.10.30
ssh-copy-id 192.168.10.31
#三、在slave1上配置到master和salve2的无密码认证
ssh-keygen -t rsa
ssh-copy-id 192.168.10.20
ssh-copy-id 192.168.10.21
ssh-copy-id 192.168.10.30
ssh-copy-id 192.168.10.31
#四、在slave2上配置到master和salve1的无密码认证
ssh-keygen -t rsa
ssh-copy-id 192.168.10.20
ssh-copy-id 192.168.10.21
ssh-copy-id 192.168.10.30
ssh-copy-id 192.168.10.31
##########################################配置MHA###############################################
1、在MHA节点上复制相关脚本到/usr/local/bin目录
cp -ra /root/mha4mysql-manager-0.57/samples/scripts/ /usr/local/bin
#-a:此选项通常在复制目录时使用,它保留链接、文件属性,并复制目录下的所有内容
#-r: 递归
#拷贝后会有四个执行文件
ll /usr/local/bin/scripts/
master_ip_failover #自动切换时 VIP管理的脚本
master_ip_online_change #在线切换时 VIP的管理
power_manager #故障发生后关闭主机的脚本
send_report #因故障切换后发送报警的脚本
#复制上述的master_ip_failover 到/usr/local/bin目录 这里使用脚本管理VIP
cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin
#修改master_ip_failover内容(删除原有内容,直接复制)
#!/usr/bin/env perl
use strict;
use warnings FATAL => ‘all’;
use Getopt::Long;
my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
my $vip = ‘192.168.226.100’; #浮动IP
my $brdc = ‘192.168.226.255’; #广播地址
my $ifdev = ‘ens33’; #使用的网卡为ens33
my $key = ‘1’; #国际序列号
my
s
s
h
s
t
a
r
t
v
i
p
=
"
/
s
b
i
n
/
i
f
c
o
n
f
i
g
e
n
s
33
:
ssh_start_vip = "/sbin/ifconfig ens33:
sshstartvip="/sbin/ifconfigens33:key $vip"; #使用ifoconfig命令将其启动,同时设置浮动地址
my
s
s
h
s
t
o
p
v
i
p
=
"
/
s
b
i
n
/
i
f
c
o
n
f
i
g
e
n
s
33
:
ssh_stop_vip = "/sbin/ifconfig ens33:
sshstopvip="/sbin/ifconfigens33:key down"; #可以使用ifconfig命令将其down掉(关闭)
my $exit_code = 0; #正常退出(返回状态码)
#my $ssh_start_vip = “/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label
i
f
d
e
v
:
ifdev:
ifdev:key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;”;
#my $ssh_stop_vip = “/usr/sbin/ip addr del $vip/24 dev $ifdev label
i
f
d
e
v
:
ifdev:
ifdev:key”;
GetOptions(
‘command=s’ => $command,
‘ssh_user=s’ => $ssh_user,
‘orig_master_host=s’ => $orig_master_host,
‘orig_master_ip=s’ => $orig_master_ip,
‘orig_master_port=i’ => $orig_master_port,
‘new_master_host=s’ => $new_master_host,
‘new_master_ip=s’ => $new_master_ip,
‘new_master_port=i’ => $new_master_port,
);
exit &main();
sub main {
print “\n\nIN SCRIPT TEST==== s s h s t o p v i p = = ssh_stop_vip== sshstopvip==ssh_start_vip===\n\n”;
if ( $command eq “stop” || $command eq “stopssh” ) {
my $exit_code = 1;
eval {
print “Disabling the VIP on old master: $orig_master_host \n”;
&stop_vip();
KaTeX parse error: Expected 'EOF', got '}' at position 16: exit_code = 0; }̲; if (@) {
warn “Got Error: $@\n”;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq “start” ) {
my $exit_code = 10;
eval {
print “Enabling the VIP - $vip on the new master - $new_master_host \n”;
&start_vip();
KaTeX parse error: Expected 'EOF', got '}' at position 16: exit_code = 0; }̲; if (@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq “status” ) {
print “Checking the Status of the script… OK \n”;
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"
;
}
#A simple system call that disable the VIP on the old_master
sub stop_vip() {
ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"
;
}
sub usage {
print
“Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n”;
}
#去除#开头的部分,PS:第一行添加#
% s/^#//
创建MHA软件目录并拷贝配置文件
mkdir /etc/masterha
cp /root/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha/
vim /etc/masterha/app1.cnf
[server default]
#日志文件
manager_log=/var/log/masterha/app1/manager.log
#工作目录
manager_workdir=/var/log/masterha/app1
#二进制文件
master_binlog_dir=/home/mysql
#故障转移切换的工具
master_ip_failover_script=/usr/local/bin/master_ip_failover
#在线切换VIP工具管理
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
#以下是密码账号的管理配置
password=manager
ping_interval=1
remote_workdir=/tmp
repl_password=123456
repl_user=myslave
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.226.131 -s 192.168.226.132
shutdown_script=""
ssh_user=root
user=mha
[server1]
hostname=192.168.226.129
port=3306
[server2]
candidate_master=1
hostname=192.168.226.131
check_repl_delay=0
port=3306
[server3]
hostname=192.168.226.132
port=3306
############################配置文件解析#######################################
#manager工作目录
manager_log=/var/log/masterha/app1/manager.log
#manager日志
manager_workdir=/var/log/masterha/app1
#master保存binlog的位置,这里的路径要于master里配置的binlog
master_binlog_dir=/home/mysql
#设置自动failover时候切换脚本,也就是上一个配置的脚本
master_ip_failover_script=/usr/local/bin/master_ip_failover
#设置手动切换时候的切换脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
#此处密码为之前创建监控用户的密码
password=manager
#设置监控用户
user=mha
#设置监控主库,发送ping包的事件间隔,默认为3秒,尝试三次没有回应的时候自动进性failover
ping_interval=1
#设置远端的MySQL在发生切换时binlog的保存位置
remote_workdir=/tmp
#设置复制用户的密码
repl_password=123456
#设置复制用户的账户
repl_user=myslave
#设置发生切换后发送的报警的脚本
report_script=/usr/local/send_report
#设置检查从服务器的脚本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.226.131 -s 192.168.226.132
#设置故障发生后关闭故障主机脚本
shutdown_script=""
#设置ssh的登录用户名
ssh_user=root
[server2]
#设置候选master,如果设置了此参数,发送主从切换后,会将此库提升为主库
candidate_master=1
#关闭复制的检查,默认情况下如果一个slave落后master 100M的relay logs(中继日志)的话,MHA将不会选择该slave作为新的master,设置为0的话会忽略此规则
check_repl_delay=0
hostname=192.168.226.131
port=3306
##################################################################################################
#测试无密码认证,如果正常会输出successfully
masterha_check_ssh -conf=/etc/masterha/app1.cnf
#测试主从复制
masterha_check_repl -conf=/etc/masterha/app1.cnf
#需注意:第一次配置需要在master节点上手动开启虚拟IP
/sbin/ifconfig ens33:1 192.168.10.100
#启动MHA
#启动时会进行日志记录(在后台开启)
nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
解释:
ohup //选项
masterha_manager //开启
–conf=/etc/masterha/app1.cnf //指定配置文件
–remove_dead_master_conf //当master服务器失效时,发生主从切换后,会把旧的master的ip从主配置文件删
–ignore_last_failover//忽略故障转移,忽略掉总是宕机不够可靠的服务器
在缺省情况下,如果MHA检测到连续发生宕机,且两次宕机间隔不足8小时的话,则不会进行Failove之所以这样限制是为了避免ping-pong效应。该参数代表忽略桑次MHA出发切换产生的文件,默认情况 MHA发生切换后会在日志记录下,也就是上面设置的日志app1.failover.complete文件,
下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换,除非在第一次切换后收到删除该文件:为了方便,这里设为为–ianore_last_failover
< /dev/null> //生成的所有信息会导到nul1下或者/var/log/masterha/app1/manager.log日志文件中
2>&1& //把2错误性的输山从定向为标准性输山,"&"开启后台运行
#查看到当前的master节点是谁
masterha_check_status --conf=/etc/masterha/app1.cnf
#查看当前日志信息
cat /var/log/masterha/app1/manager.log
#查看MySQL的VIP地址 192.168.226.100是否存在,这个VIP地址不会因为manager节点停止MHA服务而消失
ifconfig
############验证##################
#manager服务器上启用监控观察日志
tail -f /var/log/masterha/app1/manager.log
模拟故障查看master变化
pkill -9 mysql或者systemctl stop mysqld
#模拟故障:
#在主库pkill mysql
#可以看到从库的状态,其中之一肯定由切换为主库的
#切换备选主库的算法
#1一般判断从库是从(position/GTID)判断优劣,数据有差异,最接近于master的slave,称为备选主
#2、数据一致的情况下,按照配置文件顺序选择备选主库
#3、设定有权重(candidate_master=1),按照权重强制指定备选主
#1)默认情况下,如果一个slave落后master 100M的relay logs(中继日志)的话,即使有权重,也会失效
#2)如果check_repl_delay=0的话,即使落后很多日志,也强制选择其为备选主
#############以上差不多hma实验呢就是结束了######################################
检测:
① 到slave 2
show slave status\G
② 在slave1中插入数据
mysql> create database info;
Query OK, 1 row affected (0.00 sec)
mysql> use info;
Database changed
mysql> create table info (id int);
Query OK, 0 rows affected (0.03 sec)
mysql> insert into info value(1);
Query OK, 1 row affected (0.00 sec)
总结
作用:mysgl的高可用+故障切换
核心的都分:
MHA组件: manager :主要的功能:做mha启动、关闭管理和检测mysql各种健康状态
node :再发生故障时,尽可能的保存二进制日志,并实现故障切换(VIP地址飘逸)
MHA 需要修改的配置文件(2个) :
master_ip_failover :命令工具,定义的是基于VIP的检测和故障转移(VIP从master–>new master)app1.cnf : mha的主配置文件,主要定义了
mha的工作目录、日志
mysql二进制日志位置
使用mha登陆mysql的用户、密码
使用从服务器身份同步master的账号、密码
故障切换时mha会做哪些动作:
1) mha会多次尝试检测master的存活状态
2 ) mha会多次尝试、尽可能的保存master的二进制日志
3 ) mha会根据app1.cnf中的配置部分,进行从服务器-》主服务器的筛选和切换
4 ) mha最后,会将原master的VIP地址切换到从服务器的位置
5 ) mha再选择完新的master之后,会在其余的slave之上执行change master操作,指向新的master,来保证Mysql集群的健康性
2、mha 注意问题
1、软连接必须得做
2、mysql 配置文件,建议将中文字符集(3))注释掉
3、ssh免密交互必须得做
4、mha的内存,建议4G+(否则可能导致VIP地址无法飘逸)
5、app1.cnf 配置文件中。mysql的二进制文件位置,一定要指对