Sqoop 日期字段导出报错

想用sqoop 把导入到hive的基础表导出到另一个数据库。
Sqoop 导出数据时报如下错误:

java.lang.RuntimeException: Can't parse input data: '2018-07-18' at  
....
....
org.apache.sqoop.mapreduce.TextExportMapper.map(TextExportMapper.java:89) ... 10 more Caused by: java.lang.IllegalArgumentException: Timestamp format must be yyyy-mm-dd hh:mm:ss[.fffffffff] at java.sql.Timestamp.valueOf(Timestamp.java:204)
java.lang.RuntimeException: Can't parse input data: '2018-07-18 14:14:59.0' at 

字段在mysql中是datetime 类型
解决办法:
在import 时使用 –map-column-java 和 –map-column-hive 两个参数, 多个字段用逗号隔开

 --map-column-java  create_time=java.sql.Date, update_time=java.sql.Date 
 --map-column-hive  create_time=TIMESTAMP, update_time=TIMESTAMP 

在export 时 使用

--map-column-java create_time=java.sql.Date,update_time=java.sql.Date 

这样日期导出后会只有年月日,目前可以接受,后续再研究一下。

参考:http://www.cnblogs.com/wrencai/p/3935877.html

  • 1
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
Sqoop是一个用于在Hadoop和关系型数据库之间进行数据传输的工具。Sqoop可以将关系型数据库中的表数据导出到Hadoop分布式文件系统(HDFS)或Hive表中,也可以将Hadoop中的数据导出到关系型数据库中。 以下是使用Sqoop实现数据导出的步骤: 1. 确认安装和配置:确保已经安装并配置了Sqoop和目标关系型数据库的驱动程序。 2. 编写导出命令:编写Sqoop导出命令,指定导出的数据源、目标文件系统或Hive表、目标表名以及其他选项。 3. 运行导出命令:在命令行中运行Sqoop导出命令,等待数据导出完成。 以下是一个使用Sqoop将MySQL表数据导出到Hive表中的例子: ``` sqoop export \ --connect jdbc:mysql://localhost/mydatabase \ --username myusername \ --password mypassword \ --table mytable \ --export-dir /user/hive/warehouse/myhive.db/myhive_table \ --input-fields-terminated-by '\t' \ --input-lines-terminated-by '\n' \ --input-null-string '\\N' \ --input-null-non-string '\\N' ``` 其中,`--connect`指定了MySQL数据库的连接信息,`--username`和`--password`指定了数据库的用户名和密码,`--table`指定了要导出的表名,`--export-dir`指定了Hive表的存储路径,`--input-fields-terminated-by`指定了输入文件中字段的分隔符,`--input-lines-terminated-by`指定了输入文件中行的分隔符,`--input-null-string`和`--input-null-non-string`指定了输入文件中的空值表示形式。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值