sqoop mysql 安装_Sqoop安装及验证_MySQL

在Red Hat Linux 6.4环境下,成功安装了Hadoop 1.2.1和Sqoop 1.4.4,并配置了MySQL 5.6.15的connector。通过修改`configure-sqoop`文件,禁用了对HBase和Zookeeper的检查。设置了相应的环境变量后,使用Sqoop进行了MySQL数据库的连接测试和数据导入HDFS的演示。创建了一个名为`sqoop_test`的测试表,通过`sqoop import`命令将其导入到HDFS。
摘要由CSDN通过智能技术生成

Sqoop安装及验证环境:系统Red Hatlinux 6.4

Hadoop版本1.2.1

Sqoop版本1.4.4

Mysql数据库版本5.6.15

通过Sqoop实现Mysql /Oracle与HDFS / Hbase互导数据http://www.linuxidc.com/Linux/2013-06/85817.htm

[Hadoop] Sqoop安装过程详解http://www.linuxidc.com/Linux/2013-05/84082.htm

用Sqoop进行MySQL和HDFS系统间的数据互导http://www.linuxidc.com/Linux/2013-04/83447.htm

Hadoop Oozie学习笔记 Oozie不支持Sqoop问题解决http://www.linuxidc.com/Linux/2012-08/67027.htm

Hadoop生态系统搭建(hadoop hive hbase zookeeper oozie Sqoop)http://www.linuxidc.com/Linux/2012-03/55721.htm

Hadoop学习全程记录——使用Sqoop将MySQL中数据导入到Hive中http://www.linuxidc.com/Linux/2012-01/51993.htm

获取sqoop:http://sqoop.apache.org/

Step1. 下载sqoop及mysqlconnector并解压

140704103552571.png

Step2. 将解压后的connector中的jar包拷贝到sqoop的lib目录下

140704103552572.png

修改bin目录下 configure-sqoop 文件:

注释掉hbase和 zookeeper检查,因为目前还没有启用hbase/zookeeper等hadoop上的组件

140704103552573.png

Step3. 设置环境变量

注意重新连接使环境变量生效!

Sqoop:

140704103552574.png

Hadoop_home:

140704103552575.png

测试运行下sqoop:

140704103552576.png

可以使用help命令查看帮助:

140704103552577.png

Step4. 测试mysql导入HDFS:

创建一张测试表并插入数据:

140704103552578.png

利用sqoop将测试表导入到hdfs:

注意:可以用sqoop help import 查看帮助信息

登陆mysql创建用户,授予从任何ip登陆mysql权限

这里创建用户sqoopuser

GRANT ALL PRIVILEGES ON *.* TO 'sqoopuser'@'%' IDENTIFIED BY 'sqoopuser' WITH GRANT OPTION;

140704103552579.png

查看数据库列表:

sqoop list-databases --connect jdbc:mysql://10.55.15.89:3306/ --username sqoopuser --P

1407041035525710.png

执行导入命令将sqoop_test表导入到hdfs:

sqoop import --connect jdbc:mysql://10.55.15.89:3306/sqoop_db --username sqoopuser --P --table sqoop_test -m 1

f68f2add0b68e4f9810432fce46917b7.png

相关标签:

本文原创发布php中文网,转载请注明出处,感谢您的尊重!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值