hive&impala查询准备工作

前言:

之前在公司写一套hive大数据查询接口,对大数据环境与查询有了一定了解,这里写个入门文章总结一下。一开始我们的方案是java直接连hive去查,数据是存hbase的,大数据工程师在hive和hbase之间做了映射,所以在hive中能查到。但是经过我的实际测试,直接连hive查速度很慢,即使只有几条数据查出来也要等待n秒钟,关于这个问题的分析我在网上看到的最好懂的说法是hive是数据仓库,原理和数据库不同,没有为数据建立索引,所以性能达不到数据库级别。所以最终的方案是在大数据环境引入了impala工具,通过把hive的元数据刷到内存,java查数据时去内存查,这样子性能有了明显提高,但这种方式的话数据就不能只存hbase了,要存到hive中,顺便说一下,我们对应的项目是在云上的微服务,所以大数据环境也在云上。

正文:

接下来我对查询过程做一个demo级的描述:

1、先用远程工具登录上远程的云主机节点,在linux环境输入"hive"命令进入hive的客户端(这里假设公司的大数据工程师已经布好并启动了大数据环境)。

2、建表:

hiveQL的语法规范跟SQL差不多,比如说:


                
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

IT张小哥

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值