13_spark_core_累加器_累加器原理

13_spark_core_累加器_累加器原理

累加器原理解析

在这里插入图片描述
一:两条线:要么自定义累加器,然后使用累加器,要么使用系统自带累加器
二:图解----自定义累加器原理
(1)自定义累加器
(2)使用累加器
(3)累加器怎么求和的
Driver端有两个Executor,定义一个acc,其实就是一个空map,利用定义copy方法,往每个Executor传了一个空map,例如图中两个map进行累加,怎么累加的,使用add方法,单个executor分区内的聚合逻辑,看有没有,有,遇见一个加一个1,然后两个Executor把聚合后的结果返回driver端,driver端两个map进行聚合,按照merge方法走聚合。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值