系统重构时,需要对数据库进行数据迁移到新表,需要保证迁移过程是在线的,迁移前后数据是一致的,迁移过程是可回滚的。整体步骤:同步、双写、校验、切读、切写。方案说明
1.第一步,存量同步可通过Binlog增量日志进行同步,也可手工同步。
2.第二步,双写新库需要考虑在同一个事务,如果为了性能考虑,可以异步写入新库,但要注意失败数据的补偿写入。注意:如果第一步是通过Binlog同步,同步程序同时在进行数据增量写入,可以通过开关控制第二步双写启动后,关闭Binlog同步程序。
3.第三步,校验新老库数据是否一致,校验方式:
①离线回流全量校验,每天增量回流校验
②在线数据量校验,比对在线表数据总量是否一致
③在线抽取部分数据校验,随机抽取当天的部分数据,比对两边是否一致
4.第四步,切读,灰度切换,有问题随时回滚
5.第五步,切写,灰度切换,有问题随时回滚,全量切换完成后可下线旧库
双写加上第三步的校验,保证新旧库数据完全一致,所以在切换的过程中出现任何的问题,都可以将读写流量随时切换
数据校验工作是最复杂且最重要的部分,因此在未开始迁移数据之前先写好数据校验的工具或者脚本,在测试环境上测试充分之后,再开始正式的数据迁移。