使用Hive 分析数据

当我们的数据量特别大的时候,我们可以用Hive统计数据。
Hive的好处是特别方便,编写程序的难度比较低。
输出文件作聚合的方法:
[url]http://www.chinacloud.cn/show.aspx?id=3277&cid=12[/url]
Map 端部分聚合:
并不是所有的聚合操作都需要在 Reduce 端完成,很多聚合操作都可以先在 Map 端进行部分聚合,最后在 Reduce 端得出最终结果。
基于 Hash
参数包括:
[list]
[*]hive.map.aggr = true 是否在 Map 端进行聚合,默认为 True
[*]hive.groupby.mapaggr.checkinterval = 100000 在 Map 端进行聚合操作的条目数目
[/list]
有数据倾斜的时候进行负载均衡
hive.groupby.skewindata = false
当选项设定为 true,生成的查询计划会有两个 MR Job。第一个 MR Job 中,Map 的输出结果集合会随机分布到 Reduce 中,每个 Reduce 做部分聚合操作,并输出结果,这样处理的结果是相同的 Group By Key 有可能被分发到不同的 Reduce 中,从而达到负载均衡的目的;第二个 MR Job 再根据预处理的数据结果按照 Group By Key 分布到 Reduce 中(这个过程可以保证相同的 Group By Key 被分布到同一个 Reduce 中),最后完成最终的聚合操作。
合并小文件

文件数目过多,会给 HDFS 带来压力,并且会影响处理效率,可以通过合并 Map 和 Reduce 的结果文件来消除这样的影响:

[list]
[*]hive.merge.mapfiles = true 是否和并 Map 输出文件,默认为 True
[*]hive.merge.mapredfiles = false 是否合并 Reduce 输出文件,默认为 False
[*]hive.merge.size.per.task = 256*1000*1000 合并文件的大小
[*]
[/list]
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值