GBASE南大通用数据库分享:
摘要:
当前,以Oracle、DB2等为代表的国际主流数据库软件产品,已经长期、广泛应用于国内各行业的核心业务系统中。当用户业务系统面临替换改造时,需要解决异构数据库在整个切换过程中数据迁移、应用兼容、新系统稳定性等各种问题,以降低用户进行数据库管理系统架构迁移的风险。GBASE南大通用研发的基于共享存储的数据库集群GBase 8s,已在国内金融、电信、政务、能源、轨道交通等众多行业的代表用户大规模部署应用,能为用户的系统改造数据迁移提供稳定支撑和保障。
数据及业务的迁移
GBase 8s提供平滑迁移整体解决方案,可使替换过程中GBase 8s数据库应用上线过程风险总体可控、系统运行平滑。整个过程分为三个阶段:在第一阶段,需要在完成全量备份恢复的基础上,通过数据同步工具实现当前主源数据库向备用GBase 8s数据库的实时数据同步;第一阶段平稳运行一段时间后,数据库侧进行主、备份角色互换后进入第二阶段:由GBase 8s集群数据库支撑业务系统运行,业务数据实时向源数据库同步;最后阶段,原数据库系统割接下线,完成平滑迁移过程。
接下来需要通过对全量、增量数据的迁移、迁移前后数据的比对方式等技术难点进行提前规划。
全量数据迁移方案评估及要点
迁移全量数据,其迁移的时间窗口很大程度的决定全量迁移是一次性还是分批迁移。主要有以下几个方面的因素影响,需要重点考虑:
-
源数据库迁移数据量【需要实测以评估源库内数据的压缩比】;
-
业务允许的停机时间窗口【此过程中源库需要处于只读状态,且负载要轻,往往是硬约束条件】;
-
源数据库数据导出性能【需要实测已确定能力】;
-
迁移工具服务器台数、IO性能、与8s集群网络带宽【迁移环境制约因素】;
-
8s集群节点的加载性能【IO性能和网络带宽综合考虑】。
对于迁移时间窗口的预估,需按照如下的公式进行估算:
迁移整体时间 = 源库导出时间 + GBase 8s加载时间 + 数据校验时间
数据迁移需要还需要注意:
-
源库数据导出的性能需要实测;
-
评估万兆带宽的使用率时要给出一定的冗余度,一般计算需要乘以1/2系数;
-
整体时间窗口按照导出和加载串行方式评估,保证一定冗余度应对突发情况,而实际执行时可以按照多并发方式设计迁移的实际执行方式。
数据校对
数据校对采用的方法是通过比对原系统和迁移系统对相同数据的加工结果,通过结果是否一致来推断过程是否迁移的正确。
数据校对常用方法:
总量校对:count值、sum值、avg值对比;
分量校对:对表内各维度进行group by后对这个维度的一个指标值进行count、sum、avg核对;
错误对比:在发现不一致的表时,将对比的表拉到一个环境上进行详细分析,如进行minus运算,找出差数据再进一步分析;
校对报告:校对报告是校对工作输出物,对数据一致性问题进行记录和分析,对之前解决的问题进行追溯,形成数据校对工作常见问题的知识体系。