八、sqoop安装

本文详细介绍了如何配置和使用Sqoop进行MySQL与HDFS之间的数据导入导出。首先,文章讲解了配置Hadoop、HBase、Hive的环境变量,然后设置Sqoop的环境变量。接着,通过MySQL的连接、创建数据库和表、插入数据等步骤,展示了如何使用Sqoop将MySQL数据上传到HDFS。最后,文章还演示了如何将HDFS的数据回传到MySQL,并验证了数据迁移的成功。
摘要由CSDN通过智能技术生成

1.解压

 2.改名

3.修改配置文件

export HADOOP_COMMON_HOME=/usr/local/hadoop
export HADOOP_MAPRED_HOME=/usr/local/hadoop

export HBASE_HOME=/usr/local/hbase

export HIVE_HOME=/usr/local/hive

4.修改环境变量

 export SQOOP_HOME=/usr/local/sqoop
export PATH=$PATH:$SQOOP_HOME/bin 

5.配置MySQL连接

 6.启动MySQL

7.连接MySQL

sqoop list-databases --connect jdbc:mysql://master:3306 --username root --password 123456

8.使用sqoop完成MySQL和hdfs的数据互导

1.进入MySQL

 2.创建test数据库

3.进入test数据库

4.创建test1表

create table test1(
    -> ip varchar(100) not null,
    -> time varchar(100) not null,
    -> url varchar(100) not null);

5.插入数据

insert into test1 value('127.100.0.1','18:20','www.baidu.com');

 6.上传数据到hdfs

sqoop import --connect jdbc:mysql://localhost:3306/test --username root -P --table test1 -m 1

7.说明上传成功

8.可以在浏览器上访问HDFS网页查看是否上传成功(网址:localhost:50070)

9.在hdfs查看数据

hdfs dfs -text /user/root/test1/part-m-00000

10.回到MySQL,创建text2

11.可以看到test2是空的

12.用sqoop 将hdfs上的数据传入MySQL

sqoop export --connect jdbc:mysql://localhost:3306/test --username root -P --table test2 --export-dir /user/root/test1/part-m-00000  -m 1

13.上传成功

14.回到MySQL查询

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

清风--明月

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值