Sqoop的安装和使用__hdfs和关系型数据库之间数据的导入和导出

Sqoop
1.用于hdfs和关系型数据库之间数据的导入和导出的一个开源工具
2.可以从hdfs导出数据到关系型数据库,也可以从关系型数据库导入数据到hdfs
Sqoop的安装
1.官网网站http://sqoop.apache.org下载对应的安装包
2.安装包解压后配置环境变量
在这里插入图片描述
3.上传mysql数据库连接包到sqoop/lib目录
在这里插入图片描述
4.安装成功
在这里插入图片描述
Sqoop的使用
1.帮助指令
sqoop import -help

2.查看mysql所有数据库
sh sqoop list-databases --connect jdbc:mysql://yangjjhost:3306/ -username root -password xxxxxx
在这里插入图片描述
3.查看指定数据库下的所有表
sh sqoop list-tables --connect jdbc:mysql://yangjjhost:3306/hive -username root -password xxxxx
在这里插入图片描述
4.关系型数据库 ->hdfs
先在mysql数据库的test数据下建立一张tabx表,并插入测试数据 在这里插入图片描述
建表:create table tabx (id int,name varchar(20));在这里插入图片描述插入: insert into tabx (id,name) values (1,‘aaa’),(2,‘bbb’),(3,‘ccc’),(1,‘ddd’),(2,‘eee’),(3,‘fff’);
在这里插入图片描述
执行导入语句:
sqoop import --connect jdbc:mysql://yangjjhost:3306/hive --username root --password xxxxx --table tabx --target-dir ‘/sqoop/tabx’ --fields-terminated-by ‘|’ -m 1;
在这里插入图片描述
文件在HDFS上已经生成
在这里插入图片描述
5.hdfs ->关系型数据库

注:sqoop只能导出数据,不能自动建表。所以在导出之前,要现在mysql数据库里建好对应的表
在这里插入图片描述
执行导出语句:
sqoop export --connect jdbc:mysql://yangjjhost:3306/hive --username root --password xxxxx --export-dir ‘/sqoop/tabx/part-m-00000’ --table tabxy -m 1 --fields-terminated-by ‘|’;
在这里插入图片描述
数据已经导出
在这里插入图片描述

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Sqoop 是 Apache Hadoop 生态系统中的一个工具,用于在 Hadoop 和结构化数据存储之间进行数据传输Sqoop 可以将结构化数据(如关系型数据库中的数据导入到 Hadoop 中的 HDFSHive 中,也可以将数据从 Hadoop 导出到结构化数据存储中。使用 Sqoop 进行数据导入导出的步骤如下: 1. 安装 Sqoop:下载 Sqoop安装包并解压,配置环境变量。 2. 连接到数据源:Sqoop 支持连接到多种数据源,如 MySQL、Oracle、PostgreSQL 等。 3. 导入数据使用 Sqoop 的 import 命令将数据数据导入到 Hadoop 的 HDFSHive 中。 4. 导出数据使用 Sqoop 的 export 命令将数据从 Hadoop 导出数据源中。 Hive 是基于 Hadoop 的数据仓库工具,它提供了类 SQL 的查询语言 HQL,可以将结构化的数据文件映射成一张数据库表,并提供了丰富的数据分析功能。使用 Hive 进行数据处理和分析的步骤如下: 1. 安装 Hive:下载 Hive安装包并解压,配置环境变量。 2. 创建数据库:使用 Hive 的 create database 命令创建数据库。 3. 创建表:使用 Hive 的 create table 命令创建表,可以指定表的列名、数据类型等属性。 4. 加载数据使用 Hive 的 load data 命令将数据加载到表中。 5. 执行查询:使用 Hive 的 select 命令执行查询操作,可以对表进行聚合、排序、过滤等操作。 6. 保存查询结果:使用 Hive 的 insert 命令将查询结果保存到表中或导出到文件中。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值