spark 累加器

1. 累加器是什么

累加器用来对信息进行聚合,通常在向 Spark传递函数时,比如使用 map() 函数或者用 filter() 传条件时,可以使用driver端中定义的变量,但是集群中运行的每个任务都会得到这些变量的一份新的副本,
更新这些副本的值也不会影响驱动器(driver)中的对应变量。如果我们想实现所有分片处理时更新共享变量的功能,那么累加器可以实现我们想要的效果。
累加器可以理解为共享只写变量
2. 为什么使用累加器

先看这个例子,计算俩个分区内数据,这里使用了foreach算子
完sum=0;

/**
* 对RDD内数据做累加,原始RDD有俩个分区
*/
object Test {

  def main(args: Array[String]): Unit = {

    val conf: SparkConf = new SparkConf().setMaster("local[*]").setAppName("test1")
    val sc: SparkContext = new SparkContext(conf)
    val rdd1: RDD[Int] = sc.makeRDD(List(1, 2, 3, 4),2)


    //普通reduce计算
    val res: Int = rdd1.reduce(_ + _)
    //结果10
    println(res)

    //利用foreach算子计算
    var sum:Int=0

    rdd1.foreach(
      i=>sum=sum+i
    )
    //结果0
    println(sum)

    
  }
}

下面是分析原因: 为什么结果是0 不是正確的15呢???

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值