1 DataX概述
1.1 DataX是什么?
DataX 是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括 MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS)、DRDS 等各种异构数据源之间高效的数据同步功能。
2 DataX核心架构设计
2.1 架构设计
为了解决异构数据源同步问题,DataX将复杂的网状同步链路变成星型数据链路,DataX作为中间传输载体负责连接各种数据源。当需要接入一个新的数据源的时候,只需要将此数据源对接到DataX,便能跟已有的数据源做到无缝数据同步。
图2-1:架构演变图
数据交换通过DataX进行中转,任何数据源只要和DataX连接上即可以和已实现的任意数据源同步。
2.2 框架结构
图2-2:Datax框架结构图