从MySQL binlog得到你要的SQL。根据不同设置,你可以得到原始SQL、回滚SQL、去除主键的INSERT SQL等。
用途
数据回滚
主从切换后数据不一致的修复
从binlog生成标准SQL,带来的衍生功能
安装
$ git clone https://github.com/danfengcao/binlog2sql.git$ pip install -r requirements.txt
使用
MySQL server必须设置以下参数:
[mysqld]server-id=1log_bin=/var/log/mysql/mysql-bin.log
max_binlog_size=1000Mbinlog-format=row
基本用法
解析出标准SQL
$ python binlog2sql.py -h127.0.0.1-P3306 -uadmin -p'admin'-d dbname -t table1 table2 --start-file='mysql-bin.000002'--start-pos=1240输出:INSERTINTOd(`did`,`updateTime`,`uid`)VALUES(18,'2016-12-07 14:01:14',4);INSERTINTOc(`id`,`name`)VALUES(0,'b');UPDATEd SET`did`=17,`updateTime`='2016-12-07 14:01:14',`uid`=4WHERE`did`=18AND`updateTime`='2016-12-07 14:01:14'AND`uid`=4LIMIT1;DELETEFROMc WHERE`id`=0AND`name`='b'LIMIT1;
解析出回滚SQL
$ python binlog2sql.py --flashback -h127.0.0.1-P3306 -uadmin -p'admin'-d dbname -t table1 table2 --start-file='mysql-bin.000002'--start-pos=1240输出:INSERTINTOc(`id`,`name`)VALUES(0,'b');UPDATEd SET`did`=18,`updateTime`='2016-12-07 14:01:14',`uid`=4WHERE`did`=17AND`updateTime`='2016-12-07 14:01:14'AND`uid`=4LIMIT1;DELETEFROMc WHERE`id`=0AND`name`='b'LIMIT1;DELETEFROMd WHERE`did`=18AND`updateTime`='2016-12-07 14:01:14'AND`uid`=4LIMIT1;
选项
mysql连接配置
-h host; -P port; -u user; -p password
解析模式
--realtime 持续同步binlog。可选。不加则同步至执行命令时最新的binlog位置。
--popPk 对INSERT语句去除主键。可选。
-B, --flashback 生成回滚语句。可选。与realtime或popPk不能同时添加。
解析范围控制
--start-file 起始解析文件。必须。
--start-pos start-file的起始解析位置。可选。默认为start-file的起始位置;
--end-file 末尾解析文件。可选。默认为start-file同一个文件。若解析模式为realtime,此选项失效。
--end-pos end-file的末尾解析位置。可选。默认为end-file的最末位置;若解析模式为realtime,此选项失效。
对象过滤
-d, --databases 只输出目标db的sql。可选。默认为空。
-t, --tables 只输出目标tables的sql。可选。默认为空。
应用案例
主从切换后数据不一致的修复,详细描述可参见 example/FixOldMasterExtraData.md
1. 提取old master未同步的数据,并对其中的insert语句去除主键(为了防止步骤3中出现主键冲突)
$ pythonbinlog2sql.py--popPk -h10.1.1.1-P3306 -uadmin -p'admin'--start-file='mysql-bin.000040'--start-pos=125466--end-file='mysql-bin.000041'>oldMaster.sql
2. 将old master回滚,开启同步。同步正常;
$ pythonbinlog2sql.py--flashback -h10.1.1.1-P3306 -uadmin -p'admin'--start-file='mysql-bin.mysql-bin.000040'--start-pos=125466--end-file='mysql-bin.000041'|mysql -h10.1.1.1-P3306 -uadmin -p'admin'
3. 在new master重新导入改造后的sql;
$ mysql -h10.1.1.2 -P3306 -uadmin -p'admin' < oldMaster.sql