延时从库联动贴:http://blog.itpub.net/29510932/viewspace-1677278/ (渣排版,以后改改_(:з」∠)_)
-------------------------------------------------------------------------------------正文------------------------------------------------------------------------------------
背景：折腾 MySQL-5.7.9的副产品； 所有的演练和操作都是基于5.7.9，和5.6.2x应该不会有什么区别
问题的现象：Last_IO_Error: Got fatal error 1236 from master when reading data from binary log: 'Slave has more GTIDs than the master has, using the master's SERVER_UUID. This may indicate that the end of the binary log was truncated or that the last binary log file was lost, e.g., after a power or disk failure when sync_binlog != 1. The master may or may not have rolled back transactions that were already replica'
问题发生的原因：在从库start slave时出现错误；
问题分析：
主从同步还是依靠日志来完成的，出现这种问题的原因就是 从库的slave_master_info中的信息与主库的状态不一致， slave_IO_thread依靠从库的 slave_master_info信息，去主库上“继续”dump binlog的时候，找不到数据了；
问题解决的方法：
1 .change master的时候， 指明一个确定的log_file和log_pos，不要图方便用auto_position；
2.确定主从当前的数据是完全一致的情况下（主库处于只读状态or完全停库状态），在slave和master上reset master， 清理掉所有的日志， 然后用 auto_position开启新的同步；
方法1更加常用一些，毕竟停库的机会基本不会有；
PS：在多源复制中，如果提示ERROR 3079 (HY000): Multiple channels exist on the slave. Please provide channel name as an argument. 需要 用reset slave all去清空多个channel的信息；
-----------------------------------------------------------------------------------问题的延伸------------------------------------------------------------------------------------
提到从库，之前取巧， 用单独的延时从库来实现闪回，出现问题后，如果涉及的数据比较少的时候，可以直接解析binlog去恢复（ROW），
如果涉及到的数据比较多（比如说没有where的update http://blog.itpub.net/29510932/viewspace-1962834/）的时候，利用备份重新生成备库，也会消耗相当多的时间；
延伸：如果存在延时从库，该如何进行“闪回”/数据恢复？
分析&捕捉：
大前提， 延时从库还没有执行那条错误的语句，那么在延时从库上就存在着正确的数据，因此可以第一时间停掉 slave_SQL_thread，然后控制slave_SQL_thread执行到特定的pos，再进行恢复；
演练：
构造测试用的表
数据：
通过 关闭一个从库的SQL_thread来模拟延时从库，（从主库拉取binlog，但是这些binlog的内容没有在从库复现，类似于 保持X分钟前的状态 ）
延时从库的 测试数据：
在主库上进行操作， 正确的语句执行完以后的效果：
错误的语句--没有where的 update
假设及时的发现了问题，且从库并没有复现这些语句，那么及时停掉从库的SQL_thread，
就可以变成类似于测试环境的情况，查看从库的状态， 可以看到接收到了新的binlog，但是从库并没有复现这些操作
回到主库上， 用mysqlbinlog来解析日志
可以看到 535的事务是这个有问题的事务， 那么可以在从库指定这个事务作为终止事务，
在命令行下输入 START SLAVE SQL_THREAD UNTIL SQL_BEFORE_GTIDS = 'dfe44b6e-940a-11e5-89a6-005056a94f05:535';
指定 SQL_THREAD执行到535之前的事务，然后SQL_THREAD会自动停止，看一下slave的status
可以看到slave执行完了533和534之后，没有执行535，然后停下来了， 看看从库的表数据，可以发现数据正好在错误的语句之前，
接下来就比较简单了， 把表数据导出来，然后在主库上恢复；
-----------------------------------------------------------------------------------额外的唠叨------------------------------------------------------------------------------------
现实中的情况永远要复杂很多，如果业务繁忙， 在这个错误语句之后如果还有其他的业务在对这张表做操作的话，只做上文的步骤 ，就会有丢事务/业务操作的情形出现，这种情况下，就要准备折腾这个延时从库了；
新的问题&需求：虽然执行了错误的语句，但是后续还是有业务相关的SQL产生，而且都很重要， 不能丢
解决的办法：
直到上一步为止，刚好是让延时从库停在了错误的事务之前，为了能让后续的操作不丢失， 需要在延时从库上生成一个空事务，跳过有问题的这个535事务，然后去掉延时从库的延时，
等追上主库的时候，这个表的数据就是完整的数据。
PS：GTID跳过错误事务的方法参考http://blog.itpub.net/29510932/viewspace-1736132/
-----------------------------------------------------------------------------------唠叨的最后------------------------------------------------------------------------------------
对于额外的唠叨这一部分，只是实际情况中的一种，好的处理方案一定是和实际的业务特点结合在一起的，谨慎的对待 已有的“解决方案 ”；
任何操作都尽可能 要在测试环境验证过再去生产环境上面操作；
平时的演练很重要，不要等 出问题了再去测试环境验证.......(少偷点懒，养兵千日，用兵一时_(:з」∠)_... )
折腾完了记得把延时从库恢复了......
新年第一篇博客，over~
-------------------------------------------------------------------------------------正文------------------------------------------------------------------------------------
背景：折腾 MySQL-5.7.9的副产品； 所有的演练和操作都是基于5.7.9，和5.6.2x应该不会有什么区别
问题的现象：Last_IO_Error: Got fatal error 1236 from master when reading data from binary log: 'Slave has more GTIDs than the master has, using the master's SERVER_UUID. This may indicate that the end of the binary log was truncated or that the last binary log file was lost, e.g., after a power or disk failure when sync_binlog != 1. The master may or may not have rolled back transactions that were already replica'
问题发生的原因：在从库start slave时出现错误；
问题分析：
主从同步还是依靠日志来完成的，出现这种问题的原因就是 从库的slave_master_info中的信息与主库的状态不一致， slave_IO_thread依靠从库的 slave_master_info信息，去主库上“继续”dump binlog的时候，找不到数据了；
问题解决的方法：
1 .change master的时候， 指明一个确定的log_file和log_pos，不要图方便用auto_position；
2.确定主从当前的数据是完全一致的情况下（主库处于只读状态or完全停库状态），在slave和master上reset master， 清理掉所有的日志， 然后用 auto_position开启新的同步；
方法1更加常用一些，毕竟停库的机会基本不会有；
PS：在多源复制中，如果提示ERROR 3079 (HY000): Multiple channels exist on the slave. Please provide channel name as an argument. 需要 用reset slave all去清空多个channel的信息；
-----------------------------------------------------------------------------------问题的延伸------------------------------------------------------------------------------------
提到从库，之前取巧， 用单独的延时从库来实现闪回，出现问题后，如果涉及的数据比较少的时候，可以直接解析binlog去恢复（ROW），
如果涉及到的数据比较多（比如说没有where的update http://blog.itpub.net/29510932/viewspace-1962834/）的时候，利用备份重新生成备库，也会消耗相当多的时间；
延伸：如果存在延时从库，该如何进行“闪回”/数据恢复？
分析&捕捉：
大前提， 延时从库还没有执行那条错误的语句，那么在延时从库上就存在着正确的数据，因此可以第一时间停掉 slave_SQL_thread，然后控制slave_SQL_thread执行到特定的pos，再进行恢复；
演练：
构造测试用的表
点击(此处)折叠或打开
- CREATE TABLE `student` (
- `sid` bigint(20) NOT NULL,
- `sname` varchar(10) DEFAULT NULL,
- `col1` int(11) DEFAULT NULL,
- `col2` bigint(20) NOT NULL,
- `time` datetime NOT NULL DEFAULT '2015-11-11 00:00:00',
- PRIMARY KEY (`sid`),
- KEY `idx_c1_c2` (`col1`,`col2`),
- KEY `idx_c1_c2_si` (`col1`,`col2`,`sid`),
- KEY `idx_time` (`time`),
- KEY `idx_sname` (`sname`),
- KEY `idx_col2` (`col2`)
- ) ENGINE=InnoDB DEFAULT CHARSET=utf8
数据：
点击(此处)折叠或打开
- INSERT INTO `student` VALUES (10000,'lily',9,10,'2015-11-11 00:00:01'),(10001,'lucy',11,1,'2015-11-01 00:00:01'),(10002,'tom',3,3,'2015-11-10 00:00:01'),(10003,'tommy',4,6,'2015-11-09 00:00:01'),(10004,'jhon',8,15,'2015-11-12 00:00:01'),(10005,'dave',14,27,'2015-11-02 00:00:01'),(10006,'charly',19,36,'2015-11-07 00:00:01'),(10007,'sam',23,21,'2015-11-08 00:00:01'),(10008,'titan',31,7,'2015-11-11 00:00:01'),(10009,'anny',27,12,'2015-11-10 00:00:01');
通过 关闭一个从库的SQL_thread来模拟延时从库，（从主库拉取binlog，但是这些binlog的内容没有在从库复现，类似于 保持X分钟前的状态 ）
延时从库的 测试数据：
在主库上进行操作， 正确的语句执行完以后的效果：
错误的语句--没有where的 update
假设及时的发现了问题，且从库并没有复现这些语句，那么及时停掉从库的SQL_thread，
就可以变成类似于测试环境的情况，查看从库的状态， 可以看到接收到了新的binlog，但是从库并没有复现这些操作
回到主库上， 用mysqlbinlog来解析日志
可以看到 535的事务是这个有问题的事务， 那么可以在从库指定这个事务作为终止事务，
在命令行下输入 START SLAVE SQL_THREAD UNTIL SQL_BEFORE_GTIDS = 'dfe44b6e-940a-11e5-89a6-005056a94f05:535';
指定 SQL_THREAD执行到535之前的事务，然后SQL_THREAD会自动停止，看一下slave的status
可以看到slave执行完了533和534之后，没有执行535，然后停下来了， 看看从库的表数据，可以发现数据正好在错误的语句之前，
接下来就比较简单了， 把表数据导出来，然后在主库上恢复；
-----------------------------------------------------------------------------------额外的唠叨------------------------------------------------------------------------------------
现实中的情况永远要复杂很多，如果业务繁忙， 在这个错误语句之后如果还有其他的业务在对这张表做操作的话，只做上文的步骤 ，就会有丢事务/业务操作的情形出现，这种情况下，就要准备折腾这个延时从库了；
新的问题&需求：虽然执行了错误的语句，但是后续还是有业务相关的SQL产生，而且都很重要， 不能丢
解决的办法：
直到上一步为止，刚好是让延时从库停在了错误的事务之前，为了能让后续的操作不丢失， 需要在延时从库上生成一个空事务，跳过有问题的这个535事务，然后去掉延时从库的延时，
等追上主库的时候，这个表的数据就是完整的数据。
PS：GTID跳过错误事务的方法参考http://blog.itpub.net/29510932/viewspace-1736132/
-----------------------------------------------------------------------------------唠叨的最后------------------------------------------------------------------------------------
对于额外的唠叨这一部分，只是实际情况中的一种，好的处理方案一定是和实际的业务特点结合在一起的，谨慎的对待 已有的“解决方案 ”；
任何操作都尽可能 要在测试环境验证过再去生产环境上面操作；
平时的演练很重要，不要等 出问题了再去测试环境验证.......(少偷点懒，养兵千日，用兵一时_(:з」∠)_... )
折腾完了记得把延时从库恢复了......
新年第一篇博客，over~
来自 “ ITPUB博客 ” ，链接：http://blog.itpub.net/29510932/viewspace-1972796/，如需转载，请注明出处，否则将追究法律责任。
转载于:http://blog.itpub.net/29510932/viewspace-1972796/
1894
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
