技术分享 | MySQL 主从复制 binlog 传输压缩

作者:王向

爱可生 DBA 团队成员,负责公司 DMP 产品的运维和客户 MySQL 问题的处理。擅长数据库故障处理。对数据库技术和 python 有着浓厚的兴趣。

本文来源:原创投稿

*爱可生开源社区出品,原创内容未经授权不得随意使用,转载请联系小编并注明来源。


前言

现在使用 MySQL 时 binlog 格式都是基于 ROW ,binlog 文件大小一直是一个比较大的问题。在传输到从库时会耗费一定量的网络资源,假如有大事务把一个 binlog 搞到10个G复制到从库,几乎让主库网络累的嗷嗷叫。下面我们介绍一个开启 binlog 压缩参数来缓解这个问题!

如何开启binlog压缩

slave_compressed_protocol 参数用于控制 MySQL 主从复制是否使用压缩协议,开启 binlog 复制压缩对于缓解 binlog 数据量大导致的网络带宽问题有一定的帮助。

# 主库 & 从库
set global slave_compressed_protocol = ON ;

stop slave io_thread;start slave io_thread;
# 开启or关闭 slave_compressed_protocol参数,需重启复制,让该参数生效。

binlog压缩的压缩效果

压缩到底有没有效果呢?不废话直接压测看结果。

创建压缩表灌入数据

socket='/data/mysql/data/7777/mysqld.sock'
user='root'
password='123'
db='lubao7hao'
table_num='10'
table_size='500000'
thread_num='128'

sysbench /usr/share/sysbench/tests/include/oltp_legacy/oltp.lua --mysql-
socket=${socket} --mysql-user=${user} --mysql-password=${password} --mysql-
db=${db} --oltp-tables-count=${table_num} --oltp-table-size=${table_size} --
report-interval=10 --rand-init=on --max-requests=0 --oltp-test-mode=nontrx --
oltp-nontrx-mode=select --oltp-read-only=off --max-time=360000 --num-
threads=${thread_num} prepare

关闭状态

主库监控

从库监控

开启状态

主库监控

从库监控

结论

主库 cpu从库 cpu主库 send主库 recv从库 send从库 recv
未压缩4.24%2.7%14.50MB/s7.31MB35KB/s14.60MB/s
压缩8.50%3.18%6.68MB/s7.27MB/s35KB/s6.610MB/s

1、开启 slave_compressed_protocol 参数,压缩效果明显,网络数据传输量约为未开启一半,压缩率 50%。

2、开启 slave_compressed_protocol 参数,在一定程度上是会消耗 CPU 资源;如果 CPU 负载已经很高就不太建议再开压缩了。

注意事项

在MySQL 在 5.7.21 以下,或者 8.0.4 以下的版本在 slave_compressed_protocol=ON 与半同步复制一起使用时,会触发 Bug 导致主库写入卡住。这里就不多说了,以免偏离主题太多,见地址:https://bugs.mysql.com/bug.php?id=86230

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值