Sqoop导入数据到hdfs

从Postgre导入数据到hdfs需要是用Sqoop。Sqoop是一个开源的工具,能将数据表从关系数据库导入HDFS或Hive上。

安装Sqoop配置好环境,执行命令:

sqoop import --connect jdbc:postgresql://1.1.1.1:5432/lrs --username user --password psswd --table table_statement --map-column-java result=String,context=String --target-dir /psql -m 1
其中需要注意的是,如果导入的表中有uuid以及json格式的列,需要是用--map-column-java参数使其变为string格式的。 尤其是uuid,我导入的时候因为uuid的问题一直提示失败,纠结了很久才发现这个问题。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值