sqoop配置与简单应用

本文介绍了如何配置和使用Sqoop进行数据导入导出。首先,详细讲述了安装Sqoop、设置环境变量、修改配置文件以及添加JDBC驱动的步骤。然后,通过一系列小实例展示了从Mysql到Hive、Hive到Mysql以及Mysql到Hbase的数据迁移过程,并对相关参数进行了说明。
摘要由CSDN通过智能技术生成

Sqoop = SQL- to-Hadoop,是易用、并行的导入导出工具。

一. 安装

1.1 安装并设置环境变量
解压缩,重命名为sqoop

sudo gedit /etc/profile

文末添加安装路径,别忘了source一下

export SQOOP_HOME=/home/hduser/sqoop
export PATH=$SQOOP_HOME/bin:$PATH

1.2 修改配置文件sqoop-env.sh

mv  sqoop-env-template.sh  sqoop-env.sh

配置文件内容

export HADOOP_COMMON_HOME=/home/hduser/hadoop-2.2.0
export HADOOP_MAPRED_HOME=/home/hduser/hadoop-2.2.0
export HBASE_HOME=/usr/local/hbase
export HIVE_HOME=/home/hduser/hive
export ZOOCFGDIR=/usr/local/zk

1.3 将JDBC驱动复制到sqoop的lib目录
mysql的jdbc驱动mysql-connector-java-5.1.10.jar复制到sqoop项目的lib目录下

1.4 启动Hadoop集群

start-all.sh

二 . sqoop 小实例

2.1 Sqoop入门-使用方法
用法: sqoop COMMAND [ARGS]
支持的指令(command):

        codegen             生成关系数据库表映射的Java文件
        create-hive-table   生成与关系数据库对应的 Hive表
        export              导出hdfs目录到关系数据库中
        import              导入关系数据库表到HDFS
        import-all-tables   导入关系数据库所有表到HDFS
        list-databases      显示关系数据库所有的数据库
        list-tables         显示关系数据库所有的表  
        eval                执行SQL并显示结果
        version             显示版本信息

2.2 Mysql到Hive–初始化mysql数据库

mysql -uroot -p

create database study;
use study;
create table table1 (id int,name varchar(
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值