mysql异步原理_mysql主从同步异步场景的分析

日志传送细节

主从复制的结构中,主库上的dump线程跟从库上的io线程各自有一个,所以不存在多线程地并发发送跟接收的情况,只需要了解binlog dump线程的工作机制,就能了解所有的细节。

通过解析binlog文件,我们可以知道,一个事务可以包含多个event, 下面是一个最简单的事物的在binlog中所记录的信息:

# at 33580

#170531 17:22:53 server id 153443358  end_log_pos 33645 CRC32 0x4ea17869        GTID    last_committed=125      sequence_number=126

SET @@SESSION.GTID_NEXT= ‘e1028e43-4123-11e7-a3c2-005056aa17e6:198’/*!*/;

# at 33645

#170531 17:22:53 server id 153443358  end_log_pos 33717 CRC32 0x66820e00        Query   thread_id=4     exec_time=0     error_code=0

SET TIMESTAMP=1496222573/*!*/;

BEGIN

/*!*/;

# at 33717

#170531 17:22:53 server id 153443358  end_log_pos 33770 CRC32 0x22ddf25e        Table_map: `test`.`xcytest` mapped to number 222

# at 33770

#170531 17:22:53 server id 153443358  end_log_pos 33817 CRC32 0x61051ea ,www.linuxprobe.com/mysql-master-analysis.html,Write_rows: table id 222 flags: STMT_END_F

BINLOG ‘

bYsuWRMeXCUJNQAAAOqDAAAAAN4AAAAAAAEABHRlc3QAB3hjeXRlc3QAAgMPAlgCAl7y3SI=

bYsuWR4eXCUJLwAAABmEAAAAAN4AAAAAAAEAAgAC//x9AAAABQBzZGZhc6AeBWE=

‘/*!*/;

### INSERT INTO `test`.`xcytest`

### SET

###   @1=125 /* INT meta=0 nullable=0 is_null=0 */

###   @2=’sdfas’ /* VARSTRING(600) meta=600 nullable=1 is_null=0 */

# at 33817

#170531 17:22:53 server id 153443358  end_log_pos 33848 CRC32 0x630805b4        Xid = 303

COMMIT/*!*/;

每一个at xxxxx段,是一个event .

函数Binlog_sender::send_events 就是发送binlog中的event事件的函数:

函数入参:

end_pos,当前读到的binlog文件的最末尾位置。

log_cache,记录是当前传送的日志的信息,包含已经传送的binlog日志的位置,以及binlog日志文件。

函数逻辑分析:

如果当前已发送的位置log_pos小于已获取到的文件的末尾位置end_pos.则表明还有binlog日志未发送,进入循环。

循环体内:

a. 首先调用函数read_event,获取一个事件event.

b. Log_event_type event_type= (Log_event_type)event_ptr[EVENT_TYPE_OFFSET];

该语句用来获取事件event的类型,然后进行类型检查

check_event_type(event_type, log_file, log_pos),如果没有通过检查,直接返回1给上层函数。

c. log_pos= my_b_tell(log_cache); 更新log_pos位置,也就是将读binlog位置的游标前移到当前位置。

d. 然后调用send_packet() 函数进行binlog的发送。

原来, 不管当前还有多少binlog没有同步到从库,主库发送binlog的粒度依然是一个一个event的发送,发送之前,还需要检查event的类型。因为是小包发送,所以网络的流量并不大。

但需要说明一下出现这个现象的前提条件:我们测试环境中,当时数据库的写qps达到了50000以上,所以需要发送的event特别多,即使是异步,也导致单线程的dump线程来不及发送当前产生的日志。

当写的qps巨大的时候,确实存在来不及发送日志的情景。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值