SparkStreaming之StreamingContext应用

Spark Streaming程序的起点是创建StreamingContext对象。本文介绍了如何通过SparkConf或SparkContext创建它,强调每个JVM只能有一个,并详细阐述了启动、停止StreamingContext的注意事项,以及其在实时计算中的作用。
摘要由CSDN通过智能技术生成

要初始化一个 Spark Streaming 程序,必须创建一个 StreamingContext 对象,该对象是 SparkStreaming 流处理的编程入口点。2.2版本SparkSession未整合StreamingContext,所以仍需单独创建。

创建 StreamingContext 对象

Spark Streaming 初始化的主要工作是创建 Streaming Context 对象,通过创建函数的参数指明 Master Server,设定应用名称,指定 Spark Streaming 处理数据的时间间隔等。
一个JVM只能有一个StreamingContext启动。
StreamingContext停止后不能再启动。

Spark Streaming 程序开发流程

一个StreamingContext定义之后,必须执行以下程序进行实时计算的执行

  1. 定义 StreamingContext
  2. 通过 StreamingContext API 创建输入 DStream(Input DStream)来创建输入不同的数据源
  3. 对DStream定义transformation和output等各种算子操作,来定义我们需要的各种实时计算逻辑。
  4. 调用StreamingContext的start()方法,进行启动我们的实时处理数据。
  5. 调用StreamingContext的awaitTermination()方法,来等待应用程序的终止。可以使用CTRL+C手动停止,或者就是让它持续不断的运行进行计算。
  6. 也可以通过调用StreamingContext的stop()方法,来停止应用程序。

创建 StreamingContext两种方法

方法一:通过 SparkConf 创建
val conf = new SparkConf().setAppName(appName).setMaster
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值