DStream.foreachRDD的简单理解

foreachRDD(func)的官方解释为

The most generic output operator that applies a function, func, to each RDD generated from the stream. This function should push the data in each RDD to an external system, such as saving the RDD to files, or writing it over the network to a database. Note that the function func is executed in the driver process running the streaming application, and will usually have RDD actions in it that will force the computation of the streaming RDDs.

将函数func应用于从流生成的每个RDD的最通用的输出运算符。此函数应该将每个RDD中的数据推送到外部系统,例如将RDD保存到文件中,或者通过网络将其写入数据库。请注意,函数func是在运行流应用程序的驱动程序进程中执行的,并且通常在函数func中包含RDD操作,这将强制计算流RDD。

对于这个定义会产生一个疑问:在一个batch interval里面会产生几个RDD?
结论:有且只有一个。
那么定义里面所说的“each RDD”应该如何理解呢?
DStream可以理解为是基于时间的,即每个interval产生一个RDD,所以如果以时间为轴,每隔一段时间就会产生一个RDD,那么定义中的“each RDD”应该理解为每个interval的RDD,而不是一个interval中的每个RDD。
从spark的源码分析
DStream中的foreachRDD方法最终会调用如下的代码

private def foreachRDD(
    foreachFunc: (RDD[T], Time) => Unit,
    displayInnerRDDOps: Boolean): Unit = {
  new ForEachDStream(this,
    context.sparkContext.clean(foreachFunc, false), displayInnerRDDOps).register()
}

可以看到这个方法里面并没有任何的Iterator,可以对比一下RDD中的foreachPartition和foreach方法,这两个方法是会遍历RDD,所以才会有Iterator类型的引用

def foreach(f: T => Unit): Unit = withScope {
  val cleanF = sc.clean(f)
  sc.runJob(this, (iter: Iterator[T]) => iter.foreach(cleanF))
}

def foreachPartition(f: Iterator[T] => Unit): Unit = withScope {
  val cleanF = sc.clean(f)
  sc.runJob(this, (iter: Iterator[T]) => cleanF(iter))
}

而如果每个interval中有多个RDD,那么DStream中的foreachRDD也一定会有Iterator类型的引用,但是从上述的代码中并没有。

  • 3
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
改进代码:import org.apache.spark.{SparkConf, SparkContext} import org.apache.spark.streaming.{Seconds, StreamingContext} import org.apache.spark.streaming.dstream.{DStream, ReceiverInputDStream} object UpdateStateByKeyTest { //newValues表示当前批次汇总成的(K,V)中相同K的所有V //runningCount表示历史的所有相同key的value总和 def updateFunction(newValues: Seq[Int], runningCount: Option[Int]): Option[Int] = { val newCount = runningCount.getOrElse(0) + newValues.sum Some(newCount) } def main(args: Array[String]): Unit = { //1.创建SparkConf对象 val sparkConf: SparkConf = new SparkConf().setAppName("UpdateStateByKeyTest").setMaster("local[2]") //2.创建SparkContext对象 val sc: SparkContext = new SparkContext(sparkConf) //3.设置日志级别 sc.setLogLevel("WARN") //4.创建StreamingContext,两个参数:1.SparkContext对象 2.批处理时间间隔 val ssc: StreamingContext = new StreamingContext(sc, Seconds(5)) //5.配置检查点目录,使用updateStateByKey()方法必须配置检查点目录 ssc.checkpoint("./") //6.连接socket服务,需要socket的地址,端口号,存储级别 val dstream: ReceiverInputDStream[String] = ssc.socketTextStream("192.168.92.131", 9999) //7.按空格切分每一行,并且将切分出来的单词出现的次数记录为1 val wordAndOne: DStream[(String, Int)] = dstream.flatMap(_.split(" ")).map(word => (word, 1)) //8.调用UpdateStateByKey操作,统计每个单词在全局中出现的次数 val result: DStream[(String,Int)] = wordAndOne.updateStateByKey(updateFunction) //9.打印输出结果 result.print() //10.开启流式计算 ssc.start() //11.用于保持程序一直运行,除非人为干预停止 ssc.awaitTermination() } }
最新发布
05-28
改进代码如下: ```scala import org.apache.spark.{SparkConf, SparkContext} import org.apache.spark.streaming.{Seconds, StreamingContext} import org.apache.spark.streaming.dstream.{DStream, ReceiverInputDStream} object UpdateStateByKeyTest { //newValues表示当前批次汇总成的(K,V)中相同K的所有V //runningCount表示历史的所有相同key的value总和 def updateFunction(newValues: Seq[Int], runningCount: Option[Int]): Option[Int] = { val newCount = runningCount.getOrElse(0) + newValues.sum Some(newCount) } def main(args: Array[String]): Unit = { //1.创建StreamingContext,两个参数:1.SparkConf对象 2.批处理时间间隔 val ssc: StreamingContext = new StreamingContext(new SparkConf().setAppName("UpdateStateByKeyTest").setMaster("local[2]"), Seconds(5)) //2.设置日志级别 ssc.sparkContext.setLogLevel("WARN") //3.配置检查点目录,使用updateStateByKey()方法必须配置检查点目录 ssc.checkpoint("./") //4.连接socket服务,需要socket的地址,端口号,存储级别 val dstream: ReceiverInputDStream[String] = ssc.socketTextStream("192.168.92.131", 9999) //5.按空格切分每一行,并且将切分出来的单词出现的次数记录为1 val wordAndOne: DStream[(String, Int)] = dstream.flatMap(_.split(" ")).map(word => (word, 1)) //6.调用UpdateStateByKey操作,统计每个单词在全局中出现的次数 val result: DStream[(String,Int)] = wordAndOne.updateStateByKey(updateFunction) //7.打印输出结果 result.print() //8.开启流式计算 ssc.start() //9.用于保持程序一直运行,除非人为干预停止 ssc.awaitTermination() } } ``` 改进的地方如下: 1. 将SparkConf和SparkContext合并为一个语句,简化代码。 2. 将StreamingContext作为主要的上下文对象,避免在更新状态操作(updateStateByKey)时出现问题。 3. 调整了代码结构,将一些常规设置(如日志级别和检查点目录)放在主要逻辑之前。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值