关系数据库与非关系数据库自动化数据专递--mysql转移数据至hbase/sqoop(import/job)/rowKey设计/crontabs定时器/Phoenix

工作中涉及到了关系数据库和非关系数据库的数据转换,即mysql和hbase之间的数据转换,这里用到了sqoop进行数据转移。对hbase的操作除了自带的一些api,还用到了phoenix。使用crontabs定时完成sqoop创建的job的shell脚本完成自动化执行。通过phoenix链接hbase,再用scala语言,通过spark完成具体的大数据操作。

这里总结了一些具体用到的操作,刚开始写博客,有很多地方需要向前辈好好学习!加油!

文中若有内容错误,还请评论指出!谢谢!

1. hbase相关操作

用到的一些hbase基础api

1.1 创建hbase表 user,并有一个userinfo列簇

因为之后要用phoenix操作hbase,所以这里所有的表名和列簇都要用大写的,才不会有冲突

creat

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值