sqoop
没有合适的昵称
个人工作学习笔记
展开
-
Sqoop数据导出一致性问题
场景如Sqoop在导出到Mysql时,使用4个Map任务,过程中有2个任务失败,那此时MySQL中存储了另外两个Map任务导入的数据,此时老板正好看到了这个报表数据。而开发工程师发现任务失败后,会调试问题并最终将全部数据正确的导入MySQL,那后面老板再次看报表数据,发现本次看到的数据与之前的不一致,这在生产环境是不允许的。解决官网描述及参数介绍:Since Sqoop breaks do...原创 2020-02-02 19:35:01 · 2441 阅读 · 0 评论 -
sqoop导Oracle数据在hive中显示null
如图解决:--null-string '\\N' \--null-non-string '\\N' \原因:在hive里面,NULL是用\N来表示的,null就是一个字符串原创 2019-12-30 19:26:59 · 1874 阅读 · 0 评论 -
running beyond virtual memory limits. Current usage: 313.6 MB of 512 MB physical memory used; 2.3 GB
sqoop import -D mapreduce.map.memory.mb=3000 -D mapreduce.map.java.opts=-Xmx1024m调节上面两个参数原创 2019-11-21 09:01:44 · 558 阅读 · 0 评论 -
sqoop采坑
19/10/16 14:19:04 INFO sqoop.Sqoop: Running Sqoop version: 1.4.719/10/16 14:19:04 ERROR tool.BaseSqoopTool: Error parsing arguments for job:19/10/16 14:19:04 ERROR tool.BaseSqoopTool: Unrecognized a...原创 2019-10-16 19:18:19 · 1446 阅读 · 4 评论 -
Sqoop1安装
1、下载: http://mirrors.hust.edu.cn/apache/sqoop/1.4.7/sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz2、将sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz上传至master机器的~/bigdata目录下,且解压3、配置Sqoop环境变量:vi ~/.bash_profileexport SQ...原创 2019-09-03 00:18:02 · 1468 阅读 · 0 评论 -
sqoop做ETL的一些案例
说在前面:注意,这些数据和例子是我之前在学习的时候的例子,因此,请举一反三简单的sqoop例子将mysql中的movie表数据导入到HDFS中sqoop import --connect jdbc:mysql://master:3306/movie --username root --password 1234 --table movie --split-by id -m 2说明:sq...原创 2019-09-03 00:42:37 · 2101 阅读 · 0 评论
分享