简介
DataX 是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括 MySQL、SQL Server、Oracle、PostgreSQL、HDFS、Hive、HBase、OTS、ODPS 等各种异构数据源之间高效的数据同步功能。
- Reader:将不同数据源的同步抽象为从源头数据源读取数据的Reader插件
- Writer:向目标端写入数据的Writer插件
理论上DataX框架可以支持任意数据源类型的数据同步工作。同时DataX插件体系作为一套生态系统, 每接入一套新数据源该新加入的数据源即可实现和现有的数据源互通。DataX目前已经有了比较全面的插件体系,主流的RDBMS数据库、NOSQL、大数据计算系统都已经接入,目前支持数据如下图:
类型 |
数据源 |
Reader(读) |
Writer(写) |
文档 |
RDBMS 关系型数据库 |
MySQL |
√ |
√ |
|
Oracle |
√ |
√ |
||
OceanBase |
√ |
√ |
||
SQLServer |
√ |
√ |
||
PostgreSQL |
√ |
√ |
||
DRDS |
√ |
√ |
||
通用RDBMS(支持所有关系型数据库) |
√ |
√ |
||
阿里云数仓数据存储 |
ODPS |
√ |
√ |
|
ADS |
√ |
|||
OSS |
√ |
√ |
||
OCS |
√ |