【带带大数据】

一 技术栈

1 hbase 数据库。不能用sql操作,只提供了get put等方法

nosql类型(每行可随意增减列),偏向高并发高速读取,弱一致性(可能有延迟),可用于电商、账单、车机平台、日志、分析等(mysql等关系数据库强一致性,用于传统领域,门户、论坛等)

逻辑结构:table(表)-row(行)- columnFamily(列族)-column(列)

有缓存,一定时间/达到指定大小/手动操作可flush到HFile储存

2 zookepper 注册中心,支持hbase分布式

3 hive ,可使用hql处理数据。hive安装到hbase的master即可,hive添加hbase依赖,添加mysql(处理完后转到hbase,或处理同时推hbase)或hbase为外部表(直接操作hbase的数据)

4 phoenix,hbase的插件,可以用sql指令通过jdbc方式操作hbase库,代替hbase原有的get put等方式

5 spark 分析工具,hbase导出数据到spark操作处理

6 scala语言,开发spark的,scala最后会编译成java字节码。好像也可以用python

  • 2
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值