mysql hadoop sqoop_Hadoop Sqoop

一、概述：

Sqoop是一款开源的工具，主要用于在Hadoop(如Hive、HDFS)与传统的数据库(mysql、Oracle...)间进行数据的传递，可以将一个关系型数据库(如 MySQL ,Oracle...)中的数据导进到Hadoop的HDFS中，也可以将HDFS的数据导进到关系型数据库中。其实质就是将导入导出命令转换成MapReduce程序来实现。

二、安装和配置

1、修改配置文件sqoop-env.sh：

#Set path to where bin/hadoop is available

export HADOOP_COMMON_HOME=/home/hadoop/app/hadoop-2.4.1

#Set path to where hadoop-*-core.jar is available

export HADOOP_MAPRED_HOME=/home/hadoop/app/hadoop-2.4.1

#set the path to where bin/hbase is available

export HBASE_HOME=/home/hadoop/app/hbase-0.96.2-hadoop2

#Set the path to where bin/hive is available

export HIVE_HOME=/home/hadoop/app/hive-0.12.0-bin

#Set the path for where zookeper config dir is

export ZOOCFGDIR=/home/hadoop/app/zookeeper-3.4.5/conf

2、将sqoop添加到环境变量。

3、将数据库连接驱动拷贝到$SQOOP_HOME/lib里。

三、导入