sqoop 数据集成

############ mysql 数据集成 到 hdfs 中
创建一个 .conf 文件 将参数 放进去 直接 sqoop --options-file 文件名.conf 就可以执行了

import
–connect
jdbc:mysql://master:3306/user //mysql 地址
–username // 用户
root
–password //密码
123456
–table //表名
student
–m
2
–split-by //以什么进行切分
age
–target-dir // hdfs 上的地址 目录 没有会自动创建
/sqoop/data/student
–fields-terminated-by //以什么切分
‘,’

############## hdfsToMysql
export
–connect
jdbc:mysql://master:3306/student?useUnicode=true&characterEncoding=UTF-8
–username
root
–password
123456
-m
1
–columns
id,name,age,gender,clazz
–export-dir
/sqoop/data/student/
–fields-terminated-by
‘,’
–table
student

#############################mysqlToHive

import
–connect
jdbc:mysql://master:3306/student
–username
root
–password
123456
–table
score
–fields-terminated-by //字段分割方式
“\t”
–lines-terminated-by //行分割方式
“\n”
–m
2
–split-by
student_id //以什么切分
–hive-import
–target-dir
/data/score //存入的 hive路径
–hive-table
score //指定 hive 中的表

#################################### mysqlToHbase
import
–connect
jdbc:mysql://master:3306/student
–username
root
–password
123456
–table
student
–hbase-table
student
–hbase-create-table
–hbase-row-key
id
–m
1
–column-family
info

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值