Sqoop

一、简介
Sqoop主要是作用于Hadoop上与传统关系型数据库间数据传递,可以将关系型数据库(Oracle、DB2、SQL Server、PG、MySQL)数据导到Hadoop的HDFS上,也可以将HDFS上的数据导到关系型数据库中。

二、常用命令

序号命令功能
1import将数据导入集群
2export将数据从集群导出
3create–hive–table创建hive表
4codegen获取数据库中某张表数据生成
5job用来生产一个job
6list-databases列出所有数据库名
7list-tables列出某个数据库下所有表名
8version查看版本信息
9help查看帮助
10merge将HDFS中不同目录数据合在一起,放在指定目录中

三、示例脚本:

batch_date=$1

sqoop import \
--connect jdbc:mysql://host:3306/database \
--username username\
--password 12345678 \
--target-dir /user/hainiu/goods_table/${batch_date}/ \
--delete-target-dir \
--fields-terminated-by "\t" \
--split-by Id \
--query 'select col1,col2,col3 from table_name where $CONDITIONS'```


评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值