- 博客(1)
- 资源 (2)
- 收藏
- 关注
原创 使用maven打jar包的pom配置
使用maven打jar包的pom配置 在pom.xml文件中添加如下配置,就可以在用maven打jar包的时候可以将相对应的jar可以直接打进去 <build> <plugins> <plugin> <artifactId>maven-assembly-plugin</ar...
2019-07-24 20:48:38 779
DataX数据的迁移(MySQL、HDFS,Hive)
1.将Mysql中的数据迁移到Hdfs文件系统中,然后通过Hive加载HDFS文件系统中的数据值
2.将Hive中的数据迁移到指定Mysql数据库中
注意点:
1.数据迁移的过程中,由于hive的Null值存储为"\N",Mysql存储为NULL值,二者转换时需要注意,再数据迁移json模板中,"nullFormat": "\\N", 该配置信息就是解决了数据迁移是存在的Null值。
2.如果hive中没有数值DataX迁移时会出现异常
执行语句:python /opt/module/datax/bin/datax.py /opt/module/datax/job/xxx.json
2022-04-12
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人