sqoop介绍与安装

Apache Sqoop

Apache Sqoop是在Hadoop生态体系和RDBMS体系之间传送数据的一种工具。来自于Apache软件基金会提供。
Sqoop工作机制是将导入或导出命令翻译成mapreduce程序来实现。在翻译出的mapreduce中主要是对inputformat和outputformat进行定制。
Hadoop生态系统包括:HDFS、Hive、Hbase等
RDBMS体系包括:Mysql、Oracle、DB2等
Sqoop可以理解为:“SQL 到 Hadoop 和 Hadoop 到SQL”。

在这里插入图片描述
站在Apache立场看待数据流转问题,可以分为数据的导入导出:
Import:数据导入。RDBMS----->Hadoop
Export:数据导出。Hadoop---->RDBMS

2. sqoop安装

安装sqoop的前提是已经具备java和hadoop的环境。
最新稳定版: 1.4.6
配置文件修改:

cd $SQOOP_HOME/conf
拷贝sqoop-env-template.sh临时配置文件,更名为sqoop-env.sh 	
mv sqoop-env-template.sh sqoop-env.sh 	
编辑:sqoop-env.sh 配置文件
vi sqoop-env.sh
export HADOOP_COMMON_HOME= ${HADOOP_HOME}
``````bash
export HADOOP_MAPRED_HOME= ${ HADOOP_HOME}
``````bash
export HIVE_HOME= ${HIVE_HOME}

加入mysql的jdbc驱动包
``````bash
cp /hive-1.1.0-cdh5.14.0/lib/mysql-connector-java-5.1.32.jar $SQOOP_HOME/lib/

验证启动
bin/sqoop list-databases \
						安装mysql的的节点名称
 --connect jdbc:mysql://node01:3306/ \
  			账号			密码
 --username root --password 123456

本命令会列出所有mysql的数据库。
到这里,整个Sqoop安装工作完成。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值