Sqoop安装及基本使用

本文详细介绍了Sqoop的安装步骤、基本命令,并通过实例展示了如何从MySQL导入数据到HDFS以及从HDFS导出数据到MySQL,涵盖了数据迁移的全过程。
摘要由CSDN通过智能技术生成

前置准备

这里我们演示 MySQL 和 HDFS 之间的数据导入导出,需要预先安装 Hadoop集群。Hadoop 集群的安装教程如下:

Hadoop单机伪分布式-视频教程

Hadoop完全分布式集群环境搭建-视频教程

HA(高可用)-Hadoop集群环境搭建视频+图文教程

Linux下Hive的安装

HBase单机伪分布式集群环境搭建-视频教程

HA-HBase集群环境搭建-视频教程

一、Sqoop 简介

Apache Sqoop 是一个常用的数据迁移工具,主要用于在不同存储系统之间实现数据的导入与导出:

  • 导入数据:从 MySQL、Oracle 等关系型数据库中导入数据到 HDFS、Hive、HBase 等分布式文件存储系统中;
  • 导出数据:从分布式文件系统中导出数据到关系数据库中。

Sqoop名字的由来:SQL—Hadoop=Sq+oop=Sqoop

其原理是将执行命令转化成 MapReduce 作业来实现数据的迁移,如下图:

二、安装

2.1 下载并解压

下载所需版本的 Sqoop ,这里我下载的是最新版本的 Sqoop-1.4.7 。下载地址为:https://mirror.bit.edu.cn/apache/sqoop/1.4.7/

# 下载后进行解压
[xiaokang@hadoop ~]$ tar -zxvf sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz -C /opt/software/

2.2 配置环境变量

[xiaokang@hadoop ~]$ sudo vim /etc/profile

添加环境变量:

export SQOOP_HOME=/opt/software/
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值