新老系统改造——亿级数据迁移方案
前言
在开发之后,相信很多同学都遇到过老系统改造成新系统的场景,本文讨论的是在这种场景下大数据量的数据迁移的解决方案,我们都知道系统的改造升级不仅是技术上的升级,更加是业务上的优化,但是同时也涉及到数据的迁移。
一、数据迁移场景是什么?
至于改造的场景我就单独举一个例子吧:
场景:A系统要升级成A1系统,A系统需要下线。假设A系统有两个接口(用户注册和用户数据查询)迁移到A1系统,但是现在遇到很多问题:
1.A系统下线之后,A1系统的查询接口如何能及时获取到A系统的历史数据?
2.A系统数据用户数据过亿,如何在不锁表的情况下迁移到A1系统的数据库?
3.过亿用户数据迁移时间如何把控和测算?
4.用户的查询量如此大,如何能保证查询的时候还能插入的数据库性能?
5.数据迁移过程中如何保证数据不会遗漏?
6.如何完美的串联整个流程?
二、解决方案
我们不说废话,直接上方案,由于流程较长,所以我准备用图+文字的方法进行说明:
1.准备工作——相当重要
硬件准备:
与生产相同的数据库服务器和脚本执行服务器(我的是8C16G)作为