DATAX的安装和使用上遇到的问题和解决方案

DATAX的安装和使用上遇到的问题和解决方案

1.DATAX-Web的安装和遇到的问题

1.datax-web安装流程:

https://github.com/WeiYe-Jing/datax-web/blob/master/doc/datax-web/datax-web-deploy.md

2.安装和使用遇到的问题

1.在运行json数据的时候有如下报错

/usr/bin/python: can’t find ‘main’ module in ‘’
请添加图片描述
原因:datax-web找不到datax启动文件(datax.py)
解决方案:
1.在安装datax-web的时候需要先安装好datax,datax安装教程https://github.com/WeiYe-Jing/datax-web/blob/master/userGuid.md,选择安装方法1。
2.在安装datax配置完成之后启动。遇到如下问题
请添加图片描述
根据报错找到datax/plugin/reader下浏览了下面的文件,._hdfsreader文件存在,但是里面没有`plugin.json。
image-20220224160601686
解决方案:

删除datax/plugin/reader下所有._xxxx隐藏文件和datax/plugin/writer/下所有._xxxx隐藏文件

find /home/tools/datax/plugin/reader/ -type f -name "._*er" | xargs rm -rf
find /home/tools/datax/plugin/writer/ -type f -name "._*er" | xargs rm -rf

2.在部署运行datax-web的时候需要配置datax-web的配置文件env.properties(/modules/datax-execute/bin/env.properties)中的python-path属性为datax中配置文件的datax.py(路径是datax/bin/datax.py)。

3.解决完以上问题,进入datax-web的bin/目录,重启动web。浏览器输入部署的datax-web的地址

./stop-all.sh

./start-all.sh

2.datax的一般使用流程

1.配置所需数据源

请添加图片描述
请添加图片描述

2.任务构建
1.读取数据源的配置

请添加图片描述

2 .写入数据源配置

请添加图片描述

3.字段映射

请添加图片描述

4.构建执行json,配置要执行的corn表达式,执行方式等

请添加图片描述
请添加图片描述

3.结果

请添加图片描述
请添加图片描述
请添加图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值