数据统计分析时常用sql语句 (split , row_number , group by, max 等 )

本文介绍了在数据统计分析中,如何使用Hive SQL处理以逗号分隔的标签计数、分组排序URL取TopN以及处理重复URL记录的问题。分享了两种方法,强调了row_number函数在提高效率上的优势,同时指出掌握SQL对于数据分析、数据验证和产品优化的重要性。
摘要由CSDN通过智能技术生成

统计分析及建表过程中通常会遇到这样的需求,比如:

1. 统计以逗号分隔的标签数,哪个最受欢迎,以及作为内容推荐的数据来源

2. 分组排序url的pv, 取topN的列表

3. 经常会有名字重复的url记录,取pv最大的那条, 剩下的剔除

 

下面逐一对以上场景进行总结, 用的是 hivesql,希望有同样需求的同学可以快速应用,如果有不对的地方还请指正:) 

 

1. 统计以逗号分隔的标签数,哪个最受欢迎

hive表中tag列经常是这样的

--统计以逗号分隔的tags的分布

--其中tags是你打算展开的原先以逗号分隔的那一列,
--tags_split 是展成多行后的每个tag组成的列, 
--alias是别名,可以自己任意定
--然后group by, 统计个数分布 

select tags_split,count(*) as
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值