datax mysql to hdfs_2.使用datax从hdfs导出数据到mysql

sudo tar -zxf datax.tar.gz

sudo chown -R hadoop:hadoop datax

#测试安装是否成功

python datax.py ../job/job.json

#从HDFS中读数据,写到mysql 中,先用下面的语句生成配置模板

# -r -w 可在plugin 中找到

python datax.py -r hdfsreader -w mysqlwriter

配置后的模板如下:

{

"job": {

"content": [

{

"reader": {

"name": "hdfsreader",

"parameter": {

"column": ["*"],

"defaultFS": "hdfs://server01:9000",

"encoding": "UTF-8",

"fieldDelimiter": "|",

"fileType": "text",

"path": "/user/hive/warehouse/employee_contract"

}

},

"writer": {

"name": "mysqlwriter",

"parameter": {

"column": ["*"],

"connection": [

{

"jdbcUrl": "jdbc:mysql://localhost:3306/test",

"table": ["employee_contract"]

}

],

"password": "1234567",

"preSql": [],

"session": [],

"username": "root",

"writeMode": "replace"

}

}

}

],

"setting": {

"speed": {

"channel": "1"

}

}

}

}

运行数据同步

python datax.py ../job/hdfs2mysql.json

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值