02sqoop导入数据

一、准备

1.概念
	在Sqoop中,“导入”概念指:从非大数据集群(RDBMS)向大数据集群(HDFS,HIVE,HBASE)中传输数据,
	叫做:导入,即使用import关键字。
	
	
2.创建表并插入数据
	mysql -uroot -p000000
	create database company;
	create table company.staff(id int(4) primary key not null auto_increment, name varchar(255), sex varchar(255));
	insert into company.staff(name, sex) values('Thomas', 'Male');
	insert into company.staff(name, sex) values('Catalina', 'FeMale');

二、RDBMS到HDFS

1.全部导入
	bin/sqoop import \
	--connect jdbc:mysql://node01:3306/company \
	--username root \
	--password 000000 \
	--table staff \					
	--target-dir /user/company \
	--delete-target-dir \				(别人的机器就别删啦)
	--num-mappers 1 \
	--fields-terminated-by "\t"

2.查询导入
	bin/sqoop import \
	--connect jdbc:mysql://node01:3306/company  \
	--username root \
	--password 000000 \
	--target-dir /user/company \
	--delete-target-dir \
	--num-mappers 1 \
	--fields-terminated-by "\t" \
	--query 'select name,sex from staff where id <=1 and $CONDITIONS;'
			提示:must contain '$CONDITIONS' in WHERE clause.
				如果query后使用的是双引号,则$CONDITIONS前必须加
				转译符(即是\),防止shell识别为自己的变量。
	
3.导入指定列
	bin/sqoop import \
	--connect jdbc:mysql://node01:3306/company \
	--username root \
	--password 000000 \
	--target-dir /user/company \
	--delete-target-dir \
	--num-mappers 1 \
	--fields-terminated-by "\t" \
	--columns id,sex \
	--table staff
			提示:columns中如果涉及到多列,用逗号分隔,
				分隔时不要添加空格

4.使用sqoop关键字筛选查询导入数据
	bin/sqoop import \
	--connect jdbc:mysql://node01:3306/company \
	--username root \
	--password 000000 \
	--target-dir /user/company \
	--delete-target-dir \
	--num-mappers 1 \
	--fields-terminated-by "\t" \
	--table staff \
	--where "id=1"

三、RDBMS到Hive

bin/sqoop import \
--connect jdbc:mysql://node01:3306/company \
--username root \
--password 000000 \
--table staff \
--num-mappers 1 \
--hive-import \
--fields-terminated-by "\t" \
--hive-overwrite \
--hive-table staff_hive
	
	提示:该过程分为两步,第一步将数据导入到HDFS,
		第二步将导入到HDFS的数据迁移到Hive仓库,
		第一步默认的临时目录是"/user/用户名/表名"

四、RDBMS到Hbase

bin/sqoop import \
--connect jdbc:mysql://node01:3306/company \
--username root \
--password 000000 \
--table company \
--columns "id,name,sex" \
--column-family "info" \
--hbase-create-table \
--hbase-row-key "id" \
--hbase-table "hbase_company" \
--num-mappers 1 \
--split-by id
	提示:sqoop1.4.6只支持HBase1.0.1之前的版本的自动创建HBase表的功能

解决方案:手动创建HBase表  create 'hbase_company,'info'

在Hbase中scan这张表:scan 'hbase_company'
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

hao难懂

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值