Datax安装及使用文档

Datax安装及使用文档

1.Datax介绍

DataX是一个在异构的数据库/文件系统之间高速交换数据的工具,实现了在任意的数据处理系统(RDBMS/Hdfs/Local filesystem)之间的数据交换,由淘宝数据平台部门完成。  

 DataX插件分为Reader和Writer两类。Reader负责从数据源端读取数据到Storage(交换空间),Writer负责将Storage中的数据写入到数据目的端。Storage可以适配不同种类的Reader和Writer,从而实现数据同步.

 

 目前DataX版本已经提供的Reader插件如下:  

 1、 hdfsreader : 支持从hdfs文件系统获取数据。  

 2、mysqlreader: 支持从mysql数据库获取数据。  

 3、 sqlserverreader: 支持从sqlserver数据库获取数据。 

 4、 oraclereader : 支持从oracle数据库获取数据。   

 5、 streamreader: 支持从stream流获取数据(常用于测试)  

 6、httpreader : 支持从http URL获取数据。     

 提供的Writer插件如下:   

 1、 hdfswriter :支持向hdbf写入数据。  

 2、 mysqlwriter :支持向mysql写入数据。  

 3、 sqlserverwriter:支持向sqlserver写入数据。  

 4、 oraclewriter :支持向oracle写入数据。  

 5、 streamwriter :支持向stream流写入数据。(常用于测试)

 

 

 

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
DataX是阿里巴巴集团开源的一款大数据同步工具,用于数据传输和数据交换。它支持超过20种不同类型的数据源和数据目标的连接,包括但不限于关系型数据库、HDFS、Hive、HBase等。 DataX通过配置任务的方式实现数据传输和同步。用户可以通过一个JSON格式的配置文件来定义任务的源数据源和目标数据源,配置数据源的连接信息、字段映射和数据过滤等。配置完成后,任务可以通过命令行或调度系统来执行。 DataX具有以下几个主要功能: 1. 强大的数据源支持:DataX支持多种数据源的连接,包括MySQL、Oracle、SQL Server等主流关系型数据库,以及HDFS、Hive、HBase等大数据组件。用户可以根据需要选择合适的数据源进行同步。 2. 灵活的数据转换能力:DataX提供丰富的数据转换函数,可以对数据进行各种操作,如字段映射、数据过滤、数据转换等。用户可以根据需要编写自定义的转换函数,实现复杂的数据处理逻辑。 3. 高效的数据传输性能:DataX采用多线程并行传输的方式,可以同时处理多个任务,并且在任务执行过程中可以动态增加或减少并发线程,以适应不同的数据传输场景。 4. 可扩展的插件机制:DataX提供了灵活的插件机制,用户可以根据需要开发自定义插件来支持更多的数据源和数据目标。同时,DataX还支持第三方插件,可以方便地进行扩展和集成。 总之,DataX是一个功能强大,易于使用的大数据同步工具,通过配置任务实现数据源和目标的连接和传输,可以满足各种复杂的数据同步需求。它的开源特性和丰富的插件机制,也使得它具备了良好的可扩展性和灵活性。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值