第九章 MySQL 高可用架构-MHA

最新推荐文章于 2023-04-12 19:06:08 发布
最新推荐文章于 2023-04-12 19:06:08 发布
阅读量283 收藏 1
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45367149/article/details/103213190
版权
1. 企业高可用标准评估

全年无故障率指标:
3个9 99.9% 0.1%36524*60 = 525.6min(非计划停机时间)
4个9 99.99% 0.01% = 52.56min 互联网级别
5个9 99.999% 0.001% = 5.256min 金融级别

2. MySQL数据库高可用架构产品
  • 主备系统:
    (1) KA+双主结构+自主开发的脚本(节点监控,数据校验,数据补偿) 3个9
    (2) Google MMM 3-4个
    (3) Facebook MHA 4个9 , Taobao TMHA , TDSQL MHA
  • 多活系统:
    (5) PXC(percona), MGC(mariadb) , MySQL Cluster 5个9
    (6) InnoDB Cluster , PolarDB ,TiDB 分布式高可用

在这里插入图片描述

3. MHA 软件结构
Manager ：
masterha_manger             启动MHA 
masterha_check_ssh      	检查MHA的SSH配置状况 
masterha_check_repl         检查MySQL复制状况 
masterha_master_monitor     检测master是否宕机 
masterha_check_status       检测当前MHA运行状态 
masterha_master_switch  	控制故障转移（自动或者手动）
masterha_conf_host      	添加或删除配置的server信息
Node ：
这些工具通常由MHA Manager的脚本触发，无需人为操作
save_binary_logs            保存和复制master的二进制日志 
apply_diff_relay_logs       识别差异的中继日志事件并将其差异的事件应用于其他的
purge_relay_logs            清除中继日志（不会阻塞SQL线程）
4. MHA的工作原理(Failover 过程)

(1) 通过masterha_manger将MHA的manager进行启动
(2) 监控:通过masterha_master_monitor 监控主从复制的主库
每ping_interval(参数)秒探测一次主库的状态,一共探测4次,无心跳认为主库宕机
(3)选主:
1. 权重:candidate_master=1
2. 日志量
3. 配置文件顺序
建议: 设置权重,选主最快
开启GTID
(4) 数据补偿
1. ssh能连: node端通过save_binary_logs自动保存主库的binlog,保存至/var/tmp临时文件,并且应用.
2. ssh不能连: node端,通过apply_diff_relay_logs自动对比差异,互相补偿.
(5) 切换
manager端,masterha_master_switch脚本进行切换
将所有node节点: stop slave; reset slave all;从库身份解除
剩余node节点,重构主从关系.change master to
(6) 故障主库信息会从配置文件清除,manager程序自杀.
(7) 额外数据补偿的功能(binlog server功能)
(8) 应用透明: vip
vip只适用于局域网,
跨机房使用:keepalive或者DNS
(9) 故障通知
(10) 自愈:待开发. 建议配合云环境.

5. MHA基础架构搭建

  • 5.1 准备环境（略。1主2从GTID）

    #### 10.0.0.51主,10.0.0.52从,10.0.0.53从
[root@db02 ~]# mysql -e "show slave status\G"|grep Running:
[root@db03 ~]# mysql -e "show slave status\G"|grep Running:
说明: MHA 要求至少1主2从结构,独立节点,不能是多实例.GTID复制更好一些.

  • 5.2 配置关键程序软连接

    ln -s /usr/local/mysql/bin/mysqlbinlog    /usr/bin/mysqlbinlog
ln -s /usr/local/mysql/bin/mysql          /usr/bin/mysql
说明:  MHA工作过程中需要调用命令.

  • 5.3 配置各节点互信

    db01：
rm -rf /root/.ssh 
ssh-keygen
cd /root/.ssh 
mv id_rsa.pub authorized_keys
scp  -r  /root/.ssh  10.0.0.52:/root 
scp  -r  /root/.ssh  10.0.0.53:/root 
测试:   将yes手工输入
ssh 10.0.0.51 hostname
ssh 10.0.0.52 hostname
ssh 10.0.0.53 hostname
说明: 截取日志恢复免交互.

  • 5.4 安装软件

    (1) 下载mha软件
mha官网：https://code.google.com/archive/p/mysql-master-ha/
github下载地址：https://github.com/yoshinorim/mha4mysql-manager/wiki/Downloads
(2) 所有节点安装Node软件依赖包
yum install perl-DBD-MySQL -y
rpm -ivh mha4mysql-node-0.56-0.el6.noarch.rpm
(3) 在db01主库中创建mha需要的用户
grant all privileges on *.* to mha@'10.0.0.%' identified by 'mha';
(5) Manager软件安装（db03）
yum install -y perl-Config-Tiny epel-release perl-Log-Dispatch perl-Parallel-ForkManager perl-Time-HiRes
yum install -y  mha4mysql-manager-0.56-0.el6.noarch.rpm

  • 5.5 配置文件准备(db03)

    (1) 创建配置文件目录
 mkdir -p /etc/mha
(2) 创建日志目录
mkdir -p /var/log/mha/app1
(3) 编辑mha配置文件
cat > /etc/mha/app1.cnf<<EOF
[server default]
# manager 工作日志
manager_log=/var/log/mha/app1/manager      
# 工作目录
manager_workdir=/var/log/mha/app1   
# 主库的binlog位置         
master_binlog_dir=/data/binlog    
# MHA专用管理用户 
user=mha                                   
password=mha   
# 心跳检测的时间间隔,自动检测4次                  
ping_interval=2
# 复制用户
repl_password=123
repl_user=repl
# ssh的互信用户
ssh_user=root   
[server1]                                   
hostname=10.0.0.51
port=3306                                 
[server2]            
hostname=10.0.0.52
candidate_master=1     # 设定选主权重
port=3306
[server3]
hostname=10.0.0.53
port=3306
EOF

  • 5.6 状态检查(db03)

    masterha_check_ssh  --conf=/etc/mha/app1.cnf 
masterha_check_repl  --conf=/etc/mha/app1.cnf

  • 5.7 开启MHA(db03)：

    nohup masterha_manager --conf=/etc/mha/app1.cnf --remove_dead_master_conf --ignore_last_failover  < /dev/null> /var/log/mha/app1/manager.log 2>&1 &

--conf=/etc/mha/app1.cnf  :   业务配置文件,可以管理多套MHA架构
--remove_dead_master_conf :   自动剔除故障主节点
--ignore_last_failover    :   忽略最后一次failover.

  • 5.8 查看MHA状态

    [root@db03 ~]# masterha_check_status --conf=/etc/mha/app1.cnf
[root@db03 ~]# masterha_stop  --conf=/etc/mha/app1.cnf
6. MHA 的vip功能(db03)

  • 6.1 准备vip脚本

    [root@db03 ~]# cp master_ip_failover.txt  /usr/local/bin/master_ip_failover
vi  /usr/local/bin/master_ip_failover
my $vip = '10.0.0.55/24';
my $key = '1';
my $ssh_start_vip = "/sbin/ifconfig eth0:$key $vip";
my $ssh_stop_vip = "/sbin/ifconfig eth0:$key down";
注意：
[root@db03 ~]# dos2unix /usr/local/bin/master_ip_failover 
[root@db03 ~]# chmod +x /usr/local/bin/master_ip_failover

  • 6.2 更改manager配置文件：

    vim /etc/mha/app1.cnf
添加：
master_ip_failover_script=/usr/local/bin/master_ip_failover

  • 6.3 主库上，手工生成第一个vip地址

    手工在主库上绑定vip，注意一定要和配置文件中的ethN一致，我的是eth0:1(1是key指定的值)
ifconfig eth0:1 10.0.0.55/24

  • 6.5 重启mha

    masterha_stop --conf=/etc/mha/app1.cnf
nohup masterha_manager --conf=/etc/mha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/mha/app1/manager.log 2>&1 &
7. binlog server（db03）

  • 7.1 配置参数：

    vim /etc/mha/app1.cnf 
[binlog1]
no_master=1
hostname=10.0.0.53
master_binlog_dir=/data/mysql/binlog

  • 7.2 创建必要目录

    mkdir -p /data/mysql/binlog
chown -R mysql.mysql /data/*

  • 7.3 拉取主库binlog日志

    cd /data/mysql/binlog   
mysqlbinlog  -R --host=10.0.0.51 --user=mha --password=mha --raw  --stop-never mysql-bin.000001 &
*****注意: 生产中, 拉取起点从正在使用的binlog开启

  • 7.5 重启MHA

    masterha_stop --conf=/etc/mha/app1.cnf
nohup masterha_manager --conf=/etc/mha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/mha/app1/manager.log 2>&1 &
8. 邮件提醒(db03)

  • 8.1 准备脚本

    [root@db03 ~]# unzip email_2019-最新.zip 
[root@db03 ~]# cd email/
[root@db03 ~/email]# cp -a * /usr/local/bin/
[root@db03 ~/email]# cd /usr/local/bin/
[root@db03 /usr/local/bin]# chmod +x ./*

  • 8.2 修改参数：

    vim /etc/mha/app1.cnf 
report_script=/usr/local/bin/send

  • 8.3 重启MHA

    masterha_stop --conf=/etc/mha/app1.cnf
nohup masterha_manager --conf=/etc/mha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/mha/app1/manager.log 2>&1 &
9. 测试MHA高可用能力,并恢复.

  • 9.1 停主库

    pkill mysqld

  • 9.2 观察切换结果

    (1) vip 地址
(2) 主从身份 
(3) 配置文件
(4) binlogserver 
(5) manager进程
(6) 看日志

  • 9.3 修复全新的高可用环境

    (1) 修复主从 db01: 
change master to 
master_host='10.0.0.52',
master_user='repl',
master_password='123' ,
MASTER_AUTO_POSITION=1;
start slave;
(2) 修复配置文件 db03 : 
vim /etc/mha/app1.cnf 
[server1]
hostname=10.0.0.51
port=3306
(3) 修复binlogserver (实时同步)
[root@db03 ~]# cd /data/mysql/binlog/
[root@db03 /data/mysql/binlog]# rm -rf *
mysqlbinlog  -R --host=10.0.0.52 --user=mha --password=mha --raw  --stop-never mysql-bin.000001 &
(5) 检查VIP
略.
(6) 互信检查,主从检查
masterha_check_ssh  --conf=/etc/mha/app1.cnf 
masterha_check_repl  --conf=/etc/mha/app1.cnf 
(7) 启动manager 并检查
nohup masterha_manager --conf=/etc/mha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/mha/app1/manager.log 2>&1 &
[root@db03 /data/mysql/binlog]# masterha_check_status --conf=/etc/mha/app1.cnf
飞鸡起飞
关注
105.第十九章 MySQL数据库 -- MySQL高可用 MHA（十七）
Raymond的博客
04-07 547
MySQL官方和社区里推出了很多高可用的解决方案，大体如下，仅供参考（数据引用自Percona） MMM: Multi-Master Replication Manager for MySQL，Mysql主主复制管理器是一套灵活的脚本程序，基于perl实现，用来对mysql replication进行监控和故障迁移，并能管理mysql Master-Master复制的配置(同一时间只有一个节点是可写的)官网： http://www.mysql-mmm.org​ https://code.google.c
MySQL数据库实现高可用架构之MHA
BeliefWish的博客
11-08 218
目录 一、MySQL MHA介绍 1.1 什么是 MHA? 1.2 MHA 的组成 二、MySQL MHA搭建 2.1 MySQL MHA搭建的步骤（理论） 2.1.1 搭建步骤 2.1.2 故障模拟 2.1.3 故障修复步骤 2.2 MySQL MHA搭建具体操作步骤（实操） 2.2.1 搭建步骤 2.2.2 故障模拟 2.2.3 故障修复步骤 一、MySQL MHA介绍 MHA（MasterHigh Availability）是一款开源的 MySQL 的高可用程序，它为 My
MySQL MHA+Atlas高可用架构设计
Kason_iWiki
01-03 535
1. 主从复制架构演变介绍 1.1 基本结构 （1）一主一从 （2）一主多从 （3）多级主从 （4）双主 （5）循环复制 1.2 高级应用架构演变 1.2.1 高性能架构 读写分离架构(读性能较高) 代码级别 MySQL proxy (Atlas,mysql router,proxySQL(percona),maxscale)、 amoeba(taobao) xx-dbproxy等。 分布式架构(...
MySQL-主从复制基础
Jsben的博客
04-23 317
0.企业高可用性标准 *** 0.1 全年无故障率(非计划内故障停机) 99.9% ----> 0.0013652460=525.6 min 99.99% ----> 0.00013652460=52.56 min 99.999% ----> 0.000136524*60=5.256 mi...
MHA搭建
weixin_43046446的博客
04-04 183
环境准备 三台虚拟机(mysql gtid主从复制环境) hostname IP db01 10.0.0.51 db02 10.0.0.52 db03 10.0.0.53 1.1.1 配置关键程序软连接 ln -s /data/app/mysql5.7/bin/mysqlbinlog /usr/bin/mysqlbinlog ln -s /data/app/mys...
分布式存储系统可靠性如何估算？
weixin_34146805的博客
05-22 240
常规情况下，我们一般使用多副本技术来提高存储系统的可靠性，无论是结构化数据库存储 (如典型的 mysql)、文档型 Nosql 数据库存储 (mongodb ) 或者是常规的 blob 存储系统 (GFS、Hadoop) 等，无不如此。 因为数据几乎可以称得上是企业生命力的核心，保障数据存储系统的可靠性对于任何企业来说都不是一件小事。 那...
自动群发邮件脚本（可以实现不同人不同附件）.zip
03-15
user email tel mobile subject emailaccount emailpassword emailserver company company_en address address_en website name user@ievision.com tel mobile email subject user@ievision.com Password mail server address company name company English name company address company English address web site url
MYSQL高可用集群架构-MHA架构
最新发布
运维@枫叶的博客
04-12 192
MYSQL高可用集群架构-MHA架构 详细介绍MHA逻辑原理及实现方式
mysql-高可用架构MHA
huasan994520的博客
06-13 443
MHA(Master High Availability)是由日本人yoshinorim开发的一款成熟且开源的MySQL高可用程序，它实现了MySQL主从环境下MASTER宕机后能够自动进行单次故障转移的功能，其本身由perl语言编写，安装方便使用简单。该软件由两部分组成：MHA Manager(管理节点)和 MHA Node(数据节点)。MHA Manager 可以单独部署在一台独立的机器上管理多个 master-slave 集群，也可以部署在一台 slave 节点上。MHA Node 运行在每台 MyS
MHA+Atlas资源包.zip
08-06
里面有搭建MHA+Atlas架构的包，还有sendEmail工具， 还有实现vip应用透明脚本。 ，脚本测试了没问题。
sendemail.zip
07-31
使用smtplib库实现邮件发送功能：从ｃｓｖ文件读取目标邮箱，然后使用自己的邮箱作为代理发送数据，可以镶嵌在代码里作为自动化的一部分，某中种情况下发送邮件传输信息。
validate_email, Validate_email验证电子邮件地址是否有效并且确实存在.zip
09-18
validate_email, Validate_email验证电子邮件地址是否有效并且确实存在 Validate_emailValidate_email是 python的包，它检查电子邮件是否有效，格式正确，确实存在。安装首先，你必须：pip install validate_email要检查
email1.1.0.zip
07-15
无需配置,直接简单调用发送Email 支持群发,可以自动读取文件并群发 包含发送检测等功能 简洁,无需配置
MHA实施文档.zip
06-24
MHA（Master High Availability）目前在MySQL高可用方面是一个相对成熟的解决方案，它由日本DeNA公司youshimaton（现就职于Facebook公司）开发，是一套优秀的作为MySQL高可用性环境下故障切换和主从提升的高可用软件。在MySQL故障切换过程中，MHA能做到在10~30秒之内自动完成数据库的故障切换操作，并且在进行故障切换的过程中，MHA能在最大程度上保证数据的一致性，以达到真正意义上的高可用。 　　MHA还提供在线主库切换的功能，能够安全地切换当前运行的主库到一个新的主库中 (通过将从库提升为主库)，大概0.5-2秒内即可完成。 　　该软件由两部分组成：MHA Manager（管理节点）和MHA Node（数据节点）。MHA Manager可以单独部署在一台独立的机器上管理多个master-slave集群，也可以部署在一台slave节点上。MHA Node运行在每台MySQL服务器上，MHA Manager会定时探测集群中的master节点，当master出现故障时，它可以自动将最新数据的slave提升为新的master，然后将所有其他的slave重新指向新的master。整个故障转移过程对应用程序完全透明。
mysql-MHA高可用及读写分离
weixin_44695383的博客
08-21 590
1. 主从复制架构演变介绍 1.1 基本结构 （1）一主一从 （2）一主多从 （3）多级主从 （4）双主 （5）循环复制 1.2 高级应用架构演变 1.2.1 高性能架构 (1) 读写分离架构(读性能较高) 代码级别 MySQL proxy (Atlas,mysql router,proxySQL(percona),maxscale)、amoeba(taobao) xx-dbp...
mysql双主 故障恢复_十五、MySQL高可用二：故障恢复、切换机制、主库断电，binlog如何保存...
weixin_42498989的博客
01-19 642
一、恢复MHA故障1.手动修复1)修复挂掉的数据库[root@db01 ~]# systemctl start mysqld2)找到主从语句[root@db03 ~]# grep 'CHANGE MASTER TO' /service/mha/managerMon Nov 9 20:14:17 2020 - [info] All other slaves should start replic...
mysql高可用架构 -> MHA配置binlog-server-06
weixin_30278311的博客
10-30 245
前期准备 1、准备一台新的mysql实例(db03),GTID必须开启。 2、将来binlog接收目录，不能和主库binlog目录一样 停止mha masterha_stop --conf=/etc/mha/app1.cnf 开启binlogserver功能 vim /etc/mha/app1.cnf //添加如下模块 [binlog1] ...
高频面试题：怎么设计一个4个9，5个9的高可用服务
consbank的博客
12-22 472
后端面试题，专家面试题，架构师面试题 正常情况下，我们是在对我们的服务做监控，才会知道服务的可用性是几个9，但如果你是架构师， 老板让你出一个5个9的高可用方案，你应该怎么出？ 欢迎参加我们的面试训练营，在这里，你将会真正成长。 即使不为了面试，为了能力提升，也大有益处，你将会提升你的level。 网上的帖子大多数不是最优方案，甚至直接是错误的方案，和我们一起成长吧 ...
MHA高可用技术
weixin_46217160的博客
03-10 230
1. 主从复制架构演变介绍 1.1 基本结构 （1）一主一从 （2）一主多从 （3）多级主从 （4）双主 （5）循环复制 1.2 高级应用架构演变 1.2.1 高性能架构 读写分离架构(读性能较高) 代码级别 MySQL proxy (Atlas,mysql router,proxySQL(percona),maxscale)、 amoeba(taobao) xx-dbproxy等。 分布式架构(读写性能都提高): 分库分表——cobar--->TDDL(头都大了),DRDS
MySQL高可用架构MHA部署与配置详解
"MySQL高可用架构MHA通过使用MHA Manager实现主从切换，确保数据库服务的高可用性。" 在MySQL环境中，为了保障数据服务的持续性和稳定性，高可用架构(High Availability, HA)是非常重要的。MHA(MySQL High ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值