mysql 数据库的MHA高可用

最新推荐文章于 2024-06-27 20:22:41 发布

小蜜蜂~嗡嗡嗡~

最新推荐文章于 2024-06-27 20:22:41 发布

阅读量1.4k

点赞数 62

分类专栏：运维文章标签：数据库 mysql

本文链接：https://blog.csdn.net/qq_57093716/article/details/137142878

版权

运维专栏收录该内容

73 篇文章 0 订阅

订阅专栏

一. MHA 的相关知识

1. 什么是 MHA

MHA（MasterHigh Availability）是一套优秀的MySQL高可用环境下故障切换和主从复制的软件。
MHA 的出现就是解决MySQL 单点的问题。
MySQL故障切换过程中，MHA能做到0-30秒内自动完成故障切换操作。
MHA能在故障切换的过程中最大程度上保证数据的一致性，以达到真正意义上的高可用。

2. MHA 的组成

MHA Node（数据节点）
- MHA Node 运行在每台 MySQL 服务器上。
MHA Manager（管理节点）
- MHA Manager 可以单独部署在一台独立的机器上，管理多个 master-slave 集群；也可以部署在一台 slave 节点上。
- MHA Manager 会定时探测集群中的 master 节点。当 master 出现故障时，它可以自动将最新数据的 slave 提升为新的 master ,然后将所有其他的 slave 重新指向新的 master。整个故障转移过程对应用程序完全透明

3. MHA 的特点

自动故障切换过程中，MHA试图从宕机的主服务器上保存二进制日志，最大程度的保证数据不丢失
使用半同步复制，可以大大降低数据丢失的风险，如果只有一个slave已经收到了最新的二进制日志，MHA可以将最新的二进制日志应用于其他所有的slave服务器上，因此可以保证所有节点的数据一致性
目前MHA支持一主多从架构，最少三台服务，即一主两从
MHA Manger 管理多组主从复制

4. MHA 工作原理

1、从宕机崩溃的 master 保存二进制日志事件（binlog events）；
2、识别含有最新的更新 slave 日志
3、应用差异的中继日志（relay log）到其他的 slave
4、应用从 master 保存的二进制日志事件
5、提升一个 salve 为新的 master
6、使其他的 slave 连接行的 master 进行复制。

5. 数据同步方式

异步复制
- 只要master 完成客户端的提交事务,就会返回给客户端信息，并不关心从是否同步到数据
同步复制
- 客户端提交事务时候 master 要等所有从服务器同步完才返回给客户端
半同步复制
- 客户端提交事务的时候 master 会等其中一个 slave 同步完数据之后才会返中给客户端

6. mysql 高可用

MySQL高可用场景是指在数据库系统设计和运维过程中，为了确保MySQL数据库服务的连续性和稳定性，针对可能出现的单点故障、服务器宕机、数据丢失、网络中断等各种可能导致服务中断的情况，采取一系列技术措施和架构设计，使得MySQL数据库能够在出现故障时快速恢复服务，最大限度地减少服务不可用时间和数据损失。

具体场景包括但不限于：

主从复制（Master-Slave Replication）：通过主从结构，主数据库的每次写操作都会被复制到从数据库，当主数据库出现故障时，可以快速切换到从数据库继续提供服务。
多主复制（Multi-Master Replication）：在某些场景下，多个数据库节点之间可以互相作为对方的主库，实现多点写入和数据同步。
半同步复制（Semi-Synchronous Replication）：确保主库的事务在至少一个从库上提交后才返回成功，增强了数据安全性。
集群技术（如MySQL Cluster、Galera Cluster）：通过集群化部署，实现数据在多个节点间的实时同步和分布式处理，提供高可用性和容错能力。
读写分离（Read/Write Splitting）：将读操作分发到多个从库，减轻主库压力，同时也增加了读服务的可用性。
故障切换（Failover）：通过监控系统自动检测主数据库的健康状况，一旦主库出现故障，能自动或手动地将服务切换到备用节点。
数据库代理（如Amoeba、MaxScale）：通过数据库代理层来实现复杂的路由策略、负载均衡和高可用性。
备份与恢复：定期备份数据库，并确保在灾难发生时能快速恢复数据。

通过上述场景和手段，MySQL数据库系统能够在各种可能的故障条件下，继续保持对外提供数据服务，这就是所谓的MySQL高可用场景。

二. MySQL MHA 的搭建

思路：

数据库安装
搭建一主两从
MHA搭建
模拟故障，测试

实验机器准备：

7-6 master 192.168.44.60 安装 MHA node组件
7-5 slave1 192.168.44.50 安装 MHA node组件
7-4 slave2 192.168.44.40 安装 MHA node组件
7-3 manager 192.168.44.30 安装MHA node和manager组件

1.搭建主从同步

1 修改主机名，方便区分

2 修改MySQL配置文件

2.1 修改 master 节点的主配置文件

[root@master ~]#vim /etc/my.cnf


server-id = 1
log_bin=master-bin
log-slave-updates=true

2.2 修改slave节点的配置文件

slave1:

[root@slave1 ~]#vim /etc/my.cnf

server-id = 2
log_bin=master-bin
relay-log=relay-log-bin
relay-log-index=slave-relay-bin.index

slave2:同理，只要id不一样

[root@slave2 ~]#vim /etc/my.cnf

server-id = 3
relay-log=relay-log-bin
relay-log-index=slave-relay-bin.index

3. 在 Master、Slave1、Slave2 节点上都创建两个软链接

[root@master ~]#ln -s /usr/local/mysql/bin/mysql /usr/sbin/
[root@master ~]#ln -s /usr/local/mysql/bin/mysqlbinlog  /usr/sbin/

4. 配置mysql 一主两从

4.1 所有数据库节点进行授权

[root@master ~]#mysql -uroot -p123


mysql> grant replication slave on *.* to 'myslave'@'192.168.44.%' identified by '123'；
  
Query OK, 0 rows affected, 1 warning (0.01 sec)

mysql> grant all privileges on *.* to 'mha'@'192.168.44.%' identified by 'manager';
Query OK, 0 rows affected, 1 warning (0.00 sec)

mysql> grant all privileges on *.* to 'mha'@'master' identified by 'manager';
Query OK, 0 rows affected, 2 warnings (0.00 sec)

mysql> grant all privileges on *.* to 'mha'@'slave1' identified by 'manager';
Query OK, 0 rows affected, 2 warnings (0.00 sec)

mysql> grant all privileges on *.* to 'mha'@'slave2' identified by 'manager';
Query OK, 0 rows affected, 2 warnings (0.00 sec)

mysql> flush privileges;
Query OK, 0 rows affected (0.00 sec)

4.2 在 master 节点查看二进制文件和同步点

mysql> show master status;

4.3 在 slave1 和 slave2 节点执行同步操作，并查看

mysql> change master to master_host='192.168.44.60',master_user='myslave',master_password='123',master_log_file='master-bin.000001',master_log_pos=1745;

#解释
master_host='192.168.44.60'：设置主服务器的IP地址为192.168.44.60。

master_user='myslave'：设置用于复制的用户为'myslave'，这个用户在主服务器上必须拥有REPLICATION SLAVE权限。

master_password='123'：设置复制用户的密码为'123'。在实际生产环境中，务必使用强密码。

master_log_file='master-bin.000001'：指定从哪个二进制日志文件开始复制，这里是从'master-bin.000001'文件开始。

master_log_pos=1745：指定在上述二进制日志文件中的起始位置为1745。

执行这个命令之后，从服务器将开始尝试连接主服务器，并从指定的日志文件和位置开始接收并执行主服务器上的数据变更事件，以实现主从复制的功能。在执行此命令前，请确保主服务器的二进制日志配置正确，且从服务器有权访问主服务器。此外，执行完该命令后通常还需要执行START SLAVE命令来启动复制进程。


mysql> start slave;


mysql> show slave status\G

4.4 两个从库必须设置为只读模式

mysql> set global read_only=1;

5. 测试一下主从同步

在 master 主库插入数据，测试从库是否同步

从库看看

2. 安装 MHA 所有组件

1. 安装 MHA 软件

1.1 所有服务器上都安装 MHA 依赖环境

先安装epel源

[root@manager ~]#yum install epel-release.noarch -y

安装依赖

yum install -y perl-DBD-MySQL \
perl-Config-Tiny \
perl-Log-Dispatch \
perl-Parallel-ForkManager \
perl-ExtUtils-CBuilder \
perl-ExtUtils-MakeMaker \
perl-CPAN

1.2 先在所有服务器上必须先安装 node 组件

对于每个操作系统版本不一样，这里 CentOS7.6选择 0.57 版本。
在所有服务器上必须先安装 node 组件，最后在 MHA-manager 节点上安装 manager 组件，因为 manager 依赖 node 组件。

cd /opt
tar zxvf mha4mysql-node-0.57.tar.gz
cd mha4mysql-node-0.57
perl Makefile.PL
make && make install

1.3 在 MHA manager 节点上安装 manager 组件

cd /opt
tar zxvf mha4mysql-manager-0.57.tar.gz
cd mha4mysql-manager-0.57
perl Makefile.PL
make && make install

1.4 理解语句含义

manager 组件安装后在/usr/local/bin 下面会生成几个工具，主要包括以下几个

#manager 组件安装后在/usr/local/bin 下面会生成几个工具，主要包括以下几个

masterha_check_ssh 检查 MHA 的 SSH 配置状况
masterha_check_repl 检查 MySQL 复制状况
masterha_manger 启动 manager的脚本
masterha_check_status 检测当前 MHA 运行状态
masterha_master_monitor 检测 master 是否宕机
masterha_master_switch 控制故障转移（自动或者 手动）
masterha_conf_host 添加或删除配置的 server 信息
masterha_stop  关闭manager

node 组件安装后也会在/usr/local/bin 下面会生成几个脚本（这些工具通常由 MHAManager 的脚本触发，无需人为操作）主要如下：

save_binary_logs 保存和复制 master 的二进制日志
apply_diff_relay_logs 识别差异的中继日志事件并将其差异的事件应用于其他的 slave
filter_mysqlbinlog 去除不必要的 ROLLBACK 事件（MHA 已不再使用这个工具）
purge_relay_logs 清除中继日志（不会阻塞 SQL 线程）

2. 在所有服务器上配置无密码认证

① 在 manager 节点上配置到所有数据库节点的无密码认证

[root@manager opt]#ssh-keygen -t rsa

[root@manager opt]#ssh-copy-id 192.168.44.60
回车到底，输入密码
[root@manager opt]#ssh-copy-id 192.168.44.50
[root@manager opt]#ssh-copy-id 192.168.44.40

② 在 master 上配置到数据库节点 slave1 和 slave2 的无密码认证

[root@master mha4mysql-node-0.57]#ssh-keygen -t rsa

[root@master mha4mysql-node-0.57]#ssh-copy-id 192.168.44.50

[root@master mha4mysql-node-0.57]#ssh-copy-id 192.168.44.40

③ 在 slave1 上配置到数据库节点 master 和 slave2 的无密码认证

[root@slave1 mha4mysql-node-0.57]#ssh-keygen -t rsa

[root@slave1 mha4mysql-node-0.57]#ssh-copy-id 192.168.44.40

[root@slave1 mha4mysql-node-0.57]#ssh-copy-id 192.168.44.60

④ 在 slave2 上配置到数据库节点 master 和 slave1 的无密码认证

[root@slave2 mha4mysql-node-0.57]#ssh-keygen -t rsa

[root@slave2 mha4mysql-node-0.57]#ssh-copy-id 192.168.44.50

[root@slave2 mha4mysql-node-0.57]#ssh-copy-id 192.168.44.60

3. 在 manager 节点上配置 MHA

3.1 在 manager 节点上复制相关脚本到/usr/local/bin 目录

[root@manager opt]#cp -a /opt/mha4mysql-manager-0.57/samples/scripts/  /usr/local/bin/
[root@manager opt]#ls /usr/local/bin/scripts/


master_ip_failover  		#自动切换时 VIP 管理的脚本
master_ip_online_change 	#在线切换时 vip 的管理
power_manager 				#故障发生后关闭主机的脚本
send_report 				#因故障切换后发送报警的脚本

3.2 复制上述的自动切换时 VIP 管理的脚本到 /usr/local/bin 目录，这里使用master_ip_failover脚本来管理 VIP 和故障切换

cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin

3.3 修改内容如下：（删除原有内容，直接复制并修改vip相关参数）

#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';

use Getopt::Long;

my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
#############################添加内容部分#########################################
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
##################################################################################
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);

exit &main();

sub main {

print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";

if ( $command eq "stop" || $command eq "stopssh" ) {

my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {

my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
## A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}

sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

3.4 创建 MHA 软件目录并拷贝配置文件，这里使用app1.cnf配置文件来管理 mysql 节点服务器

[root@manager opt]#mkdir /etc/masterha
[root@manager opt]#cp /opt/mha4mysql-manager-0.57/samples/conf/app1.cnf  /etc/masterha/

[server default]
manager_log=/var/log/masterha/app1/manager.log
manager_workdir=/var/log/masterha/app1
master_binlog_dir=/usr/local/mysql/data
master_ip_failover_script=/usr/local/bin/master_ip_failover
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
password=manager
ping_interval=1
remote_workdir=/tmp
repl_password=123
repl_user=myslave
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.44.50 -s 192.168.44.40
shutdown_script=""
ssh_user=root
user=mha

[server1]
hostname=192.168.44.60
port=3306

[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.44.50
port=3306

[server3]
hostname=192.168.44.40
port=3306

解释：

[server default]
manager_log=/var/log/masterha/app1/manager.log
#manager日志
manager_workdir=/var/log/masterha/app1
#manager工作目录
master_binlog_dir=/usr/local/mysql/data
#master保存binlog的位置，这里的路径要与master里配置的binlog的路径一致，以便MHA能找到
master_ip_failover_script=/usr/local/bin/master_ip_failover
#设置自动failover时候的切换脚本，也就是上面的那个脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
#设置手动切换时候的切换脚本
password=manager
#设置mysql中root用户的密码，这个密码是前文中创建监控用户的那个密码
ping_interval=1
#设置监控主库，发送ping包的时间间隔，默认是3秒，尝试三次没有回应的时候自动进行failover
remote_workdir=/tmp
#设置远端mysql在发生切换时binlog的保存位置
repl_password=123
#设置复制用户的密码
repl_user=myslave
#设置复制用户的用户
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.44.50 -s 192.168.44.40
#指定检查的从服务器IP地址
shutdown_script=""
#设置故障发生后关闭故障主机脚本（该脚本的主要作用是关闭主机防止发生脑裂,这里没有使用）
ssh_user=root
#设置ssh的登录用户名
user=mha
#设置监控用户root

[server1]
hostname=192.168.44.60
port=3306

[server2]
candidate_master=1
#设置为候选master，设置该参数以后，发生主从切换以后将会将此从库提升为主库，即使这个从库不是集群中最新的slave
check_repl_delay=0
#默认情况下如果一个slave落后master 超过100M的relay logs的话，MHA将不会选择该slave作为一个新的master， 因为对于这个slave的恢复需要花费很长时间；通过设置check_repl_delay=0，MHA触发切换在选择一个新的master的时候将会忽略复制延时，这个参数对于设置了candidate_master=1的主机非常有用，因为这个候选主在切换的过程中一定是新的master
hostname=192.168.44.50
port=3306

[server3]
hostname=192.168.44.40
port=3306

4. 第一次配置需要在 Master 节点上手动开启虚拟IP

[root@master mha4mysql-node-0.57]#/sbin/ifconfig ens33:1 192.168.44.200/24

5. 在 manager 节点上测试 ssh 无密码认证如果正常最后会输出 successfully

[root@manager opt]#masterha_check_ssh -conf=/etc/masterha/app1.cnf

6. 在 manager 节点上测试 mysql 主从连接情况，最后出现 MySQL Replication Health is OK 字样说明正常。

[root@manager opt]#masterha_check_repl -conf=/etc/masterha/app1.cnf

解决问题：

成功解决问题

7. 在 manager 节点上启动 MHA

[root@manager opt]#nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

#解释
remove_dead_master_conf：该参数代表当发生主从切换后，老的主库的 ip 将会从配置文件中移除。
manger_log：日志存放位置。

ignore_last_failover：在缺省情况下，如果 MHA 检测到连续发生宕机，且两次宕机间隔不足 8 小时的话，则不会进行 Failover， 之所以这样限制是为了避免 ping-pong 效应。该参数代表忽略上次 MHA 触发切换产生的文件，默认情况下，MHA 发生切换后会在日志记录，也就是上面设置的日志app1.failover.complete文件，下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换，除非在第一次切换后收到删除该文件，为了方便，这里设置为--ignore_last_failover。

8. 查看 MHA 状态

[root@manager opt]#masterha_check_status --conf=/etc/masterha/app1.cnf

三. 模拟故障

我们人为将主数据库停掉，看效果

关掉master数据库

看日志

再看 slave1虚拟ip地址，也过来了

manager 转移之后

原来的主变成从之后

做主从同步

在原来的主上面做同步

change master to master_host='192.168.44.50',master_user='myslave',master_password='123',master_log_file='master-bin.000001',master_log_pos=1901;

manager上面添加

再启动

nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

#解释
这条命令是在Linux环境下启动MHA（MySQL Master High Availability）管理器并执行特定操作的一个示例。让我们逐部分解析这个命令：

nohup： nohup 是一个Unix/Linux命令，用于运行另一个命令并在后台运行，即使用户注销系统，命令也将继续运行。通过nohup启动程序可以使其在终端断开连接后仍然运行。

masterha_manager： 这是MHA工具的一部分，用于管理和监控MySQL主从复制集群，以及在主库出现问题时进行故障切换。

--conf=/etc/masterha/app1.cnf： 这个参数指定MHA使用的配置文件路径，里面包含了MHA管理的MySQL集群的各项信息，如主库、从库列表、复制用户、SSH连接信息等。

--remove_dead_master_conf： 这个参数指示MHA在检测到主库失效后，从配置文件中移除失效主库的相关配置。

--ignore_last_failover： 该参数意味着MHA在进行这次操作时，忽略上一次故障切换的结果，即使上次故障切换未成功，也尝试执行当前操作。

< /dev/null： 这表示输入来源是空设备文件/dev/null，也就是说不从标准输入读取任何数据。

> /var/log/masterha/app1/manager.log： 这是输出重定向，MHA管理器的所有标准输出（stdout）将被写入到指定的这个日志文件中，方便查看MHA的操作记录和状态信息。

2>&1： 这是错误输出重定向，将标准错误输出（stderr）也重定向到标准输出，所以这里的stderr同样会被写入到上面提到的日志文件中。

&： 最后的符号表明整个命令将在后台运行，不影响当前终端的交互。

总的来说，这条命令的作用是启动MHA管理器，在后台运行，根据给定的配置文件对MySQL集群进行监控，并在检测到主库失效时移除失效主库的配置，同时忽略上一次的故障切换结果，所有输出（包括标准输出和错误输出）都将被记录到指定的日志文件中。