Scala reduceByKey()函数详解

该函数的作用是对两个RDD结构数据进行压缩合并,将有相同key的数据合并在一起,只保留一个key对应一条数据,从而起到压缩数据的效果,对同一key下的value进行合并的方式可以指定一个计算逻辑C。

函数可以表示为: 原RDD数据.((x,y)=>表达式c),表达式c可以为x+y,x|y,x等。

接下来据两个例子:

语句:
     val c = sc.parallelize(1 to 10)
     c.reduce((x, y) => x + y)
输出:55
解析:元组c展开为(1,2,3,4,5,6,7,8,9),转换成(key:value)结构的话,可以看作((null,1),(null,2),(null,3),(null,4)...)。
     将有相同key值的数据进行+操作,结果为1+2+3+4+5+6+7+8+9=55。 //实际加时是先 1+2=3   3+2=5  5+3=8... 不断两两相加的过程
语句:
     val a = sc.parallelize(List((1,2),(1,3),(3,4),(3,6)))
     a.reduceByKey((x,y) => x + y)
输出:Array((1,5), (3,10))
解析:很明显的,List中存在两个key分别是1和3,对key为1下的value相加计算 2+3=5
                                       对key为3下的value相加计算 4+6=10
     合在一起表示为((1,5), (3,10))
  • 3
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值