hive:Group by 问题:Expression Not In Group By Key

在从MySQL迁移到Hive时,遇到Group by问题,原SQL期望按DATEBUF和CITYID分组并获取每组CHANNELID的第一个值。在Hive中直接使用GROUP BY报错。尝试使用Hive的内置UDAF函数collect_set()虽避免了错误,但结果返回的是HDFS存储顺序的第一个值,而非预期的每个分组的第一个值。
摘要由CSDN通过智能技术生成

hive又遇到了问题:

原来的mysql中sql语句为

SELECT 	DATEBUF, CITYID, CHANNELID FROM STAT_CVCHNEW WHERE DATEBUF>=20110517 AND DATEBUF<=20110519 GROUP BY DATEBUF, CITYID;

得到的结果应该是是按DATEBUF和CITYID分组,然后每组对应CHANNELID的第一个值

但在hive中报错

FAILED: SemanticException [Error 10025]: Line 1:20 Expression not in GROUP BY key 'uc'

然后google到http://stackoverflow.com/questions/5746687/hive-expression-not-in-group-by-key中这样解决

用hive的udaf函数:collect_set()

改为

SELECT DATEBUF, CITYID, collect_set(CHANNELID) FROM PWD_STAT_CVCHNEW WHERE DATEBUF=20130810 and cityid<3 GROUP BY DATEBUF, CITYID;
返回的是每一组datebuf和cityid相应的channelid的所有的一个集合

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值