CentOS下sqoop1.4.4的安装

原创 2013年12月03日 22:21:22

1. 我的hadoop的版本是1.1.2,对应的sqoop是sqoop-1.4.4.bin__hadoop-1.0.0,sqoop-1.4.4.bin__hadoop-1.0.0的下载地址:

    http://www.apache.org/dyn/closer.cgi/sqoop/

    我选的是其中的ttp://mirrors.hust.edu.cn/apache/sqoop/,选择1.4.4版本下的sqoop-1.4.4.bin__hadoop-1.0.0.tar.gz

2. 解压sqoop安装文件,修改conf/sqoop-env.sh

#Set path to where bin/hadoop is available
export HADOOP_COMMON_HOME=/usr/hadoop-1.1.2/

#Set path to where hadoop-*-core.jar is available
export HADOOP_MAPRED_HOME=/usr/hadoop-1.1.2

#set the path to where bin/hbase is available
export HBASE_HOME=/usr/hbase-0.94.13

3. 复制sqoop-site-template.xml,命名为sqoop-site.xml,内容不变

4. 下载myql-connector-java-5.0.8.jar,放到@SQOOP_HOME/lib中

5. 下载并安装Mysql,在命令行中输入

    > yum install mysql

   mysql默认用户名是root,密码为空

  我安装完mysql后,在命令行中输入mysql -u root,报错了,后来网上查资料,输入如下命令:

     >service mysql start

     >mysql -u root 

   显示mysql启动成功

6. 从MySQL导入数据到HDFS

  在mysql中创建数据库,名为sqoop,旗下有个表叫student,表结构为id int,name text

  测试sqoop与mysql的连接:>bin/sqoop list-database --connect jdbc:mysql://localhost:3306/ --username root

  从mysql导入数据到HDFS:>sqoop import --connect jdbc:mysql://localhost:3306/ sqoop --usernaem root --table student -m 1

7. 在HDFS上查看数据是否导入

   >hadoop dfs -ls student

相关文章推荐

Sqoop 1.4.4 配置安装

这次因为需要将Oracle的数据迁移到HDFS中进行分析,所以在项目中用到了Sqoop,本文中所说明的配置方法是以此为目的的。 Sqoop 1.4.4 的安装非常简单,在配置好了Hadoop集群了之后...

【心血之作】linux虚拟机下安装配置Hadoop(完全分布式)生态环境(hadoop2.2.0,HBase0.98,Hive0.13(连接oracle),sqoop1.4.4(连接oracle)

最近因为实验室需要搭建Hadoop集群,上面需要运行hbase,hive,sqoop等工具。因为我之前也在网上看过很多帖子,这里我将我这一次搭建hadoop整个生态环境的过程记录下来, 同时也记录下了...

CentOS6.5 Ambari1.4.4安装配置实战

系统:三台Centos6.5虚拟机;需下载软件:ambari-1.4.4.23-centos6.tar.gz、HDP-2.0.6.1-centos6-rpm.tar.gz、HDP-UTILS-1.1....

解决sqoop1.4.4无法导入oracle的blob字段到hbase的问题

最近在做oracle到hbase的数据迁移,有一张表有blob字段,在导入时发现没有导入成功,在网上找了好久,都没有搞定,最后没办法只能研究一下sqoop的源码,自己解决了。 在研究源码后,发现sq...

Sqoop1.4.4使用增量导入模式将MySQL数据库中数据导入到HDFS中

问题导读:        1、什么是增量导入?        2、--check-column、--incremental和--last-value三个参数的作用?        3、使用增量导入,需...
  • NIITYZU
  • NIITYZU
  • 2015年01月18日 15:26
  • 1214

Sqoop-1.4.4工具import和export使用详解

Sqoop可以在HDFS/Hive和关系型数据库之间进行数据的导入导出,其中主要使用了import和export这两个工具。这两个工具非常强大,提供了很多选项帮助我们完成数据的迁移和同步。比如,下面两...

Sqoop1.4.4将MySQL中数据导入到Hive表中

问题导读:          1、--hive-import、--hive-overwrite的作用?          2、如何处理关系型数据库字段中字符串含有分隔符问题?          3、使...
  • NIITYZU
  • NIITYZU
  • 2015年01月19日 10:58
  • 5578

Sqoop1.4.4将MySQL数据库表中数据导入到HBase表中

一、简介及部分重要参数介绍         Sqoop除了能够将数据从关系型数据库导入到HDFS和Hive中,还能够导入到HBase表中。        --hbase-table:通过指定--hba...
  • NIITYZU
  • NIITYZU
  • 2015年01月20日 10:17
  • 1364

sqoop-1.4.4-cdh5.0.6.tar

  • 2016年05月18日 11:24
  • 8.72MB
  • 下载

CentOS下sqoop的配置安装(整理篇)

需要用到Sqoop将原来mysql中的数据导入到HBase,以下是安装配置Sqoop的步骤和问题记录: 1. 项目用到的hadoop的版本是1.1.2,所以对应的sqoop是sqoop-1.4.4....
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:CentOS下sqoop1.4.4的安装
举报原因:
原因补充:

(最多只允许输入30个字)