datax环境搭建安装和如何使用概述

先保证如下软件已经成功安装,系统 为 linux

  • JDK(1.8以上,推荐1.8) ,查看版本 java -version
  • Python(推荐Python2.7.X),不要装2.7以上的版本否则到时命令执行会报错,查看当前版本 python -V
  • Apache Maven 3.x (Compile DataX) ,查看版本 mvn -v

开始安装

wget http://datax-opensource.oss-cn-hangzhou.aliyuncs.com/datax.tar.gz

tar -zxvf datax.tar.gz

进入dataX的目录,
测试脚本及环境运行情况:python bin/datax.py job/job.json

能够打印出如下的结果,说明已经成功安装

任务启动时刻                    : 2018-08-31 11:24:00
任务结束时刻                    : 2018-08-31 11:24:10
任务总计耗时                    :                 10s
任务平均流量                    :          253.91KB/s
记录写入速度                    :          10000rec/s
读出记录总数                    :              100000
读写失败总数                    :                   0

如何使用dataX

dataX开发,就是写json配置文件,官网上有很多各种数据源的配置说明
官网
https://github.com/alibaba/DataX
写好后,进入dataX的目录,执行 python bin/datax.py 自己的json文件地址,就可以了

查看json文件的编写模板和说明,这里以mysql和hdfs为说明,要查询其它的,将-r 和 -w的名称换下
不过还有很多的参数没有显示出来  ,只是个大概参考
python bin/datax.py -r mysqlreader -w hdfswriter 

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值