sqoop mysql 安装_sqoop安装和使用

jdbc驱动:mysql-connector-java-5.1.46.jar

把jdbc驱动包放到sqoop的lib目录下。

cd sqoop-1.4.7.bin__hadoop-2.6.0/bin/ 进行ls

be68ecfe8e27abe53e28a4540b04291d.png

执行  ./sqoop-help或者./sqoop help

4a4690ad76a0927593c15df73dd16108.png

看到有红色框里的东西代表安装成功了。

从HDFS导出数据到mysql:

首先在mysql创建与HDFS数据的字段相对应的表

./sqoop export  \

--connect jdbc:mysql://master:3306/hive_sqoop \

--username root \

--password 123456 \

--table t_extract_web_log \

--export-dir /t_extract_web_log/000000_0 \

--input-fields-terminated-by '\001'

//hive_data数据库名   \换行

备注:数据虽然在hive里面是\t分隔符,但是经过hive导出到HDFS:

hive> from t_extract_web_log

> insert overwrite directory '/t_web_log'

> select *;

分隔符变成了 \001

从mysql导入数据到HDFS:

./sqoop import \

--connect jdbc:mysql://master:3306/hive_sqoop \

--username root \

--password 123456 \

--table t_extract_web_log \

--target-dir /t_extract_web_log \

--m 1

备注:注意:/t_extract_web_log必须不存在,否则报错

--m 1表示只有一个mapTask,默认4个

每次执行的时候会检测文件是否存在

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值