Spark入门(六):共享变量(累加器和广播变量)

1.共享变量

1.1累加器

对信息进行聚合,常见用途是在调试时对作业执行过程中的时间进行计数

使用过程
  1. 通过在驱动器中调用 SparkContext.accumulator(initialValue) 方法,创建出存有初
    始值的累加器。返回值为 org.apache.spark.Accumulator[T] 对象,其中 T 是初始值
    initialValue 的类型。
  2. park闭包里的执行器代码可以使用累加器的 += 方法(在Java中是 add )增加累加器的值。
  3. 驱动器程序可以调用累加器的 value 属性(在 Java 中使用 value() 或 setValue() )来访
    问累加器的值。
    • [x] 注意,工作节点上的任务不能访问累加器的值
val sc = new SparkContext(...)
val file = sc.textFile("file.txt")
val blankLines = sc.accumulator(0) // 创建Accumulator[Int]并初始化为0
val callSigns = file.flatMap(
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值