SparkStreaming之Transform操作RDD到RDD的转换、结合Kafka0.10.x的使用

1、Transform操作RDD到RDD的转换

这里的Transform可不是前面的Transformations算子。
transform 操作允许在DStream上应用任意的RDD-to-RDD函数。它可以用于应用DStream API中没有公开的任何RDD操作。例如,DStream API中没有直接公开将数据流中的每个批处理与另一个数据集连接起来的功能。但是,您可以很容易地使用transform来实现这一点。这带来了非常强大的可能性。例如,可以通过将输入数据流与预先计算的垃圾邮件信息(也可以使用Spark生成)连接起来,然后根据这些信息进行过滤,从而进行实时数据清理。

package com.ruozedata.spark
import java.sql.DriverManager
import org.apache.spark.SparkConf
import org.apache.spark.streaming.{
   Seconds, StreamingContext}

object TransformApp {
   
  def main(args: Array[String]): Unit = {
   
    val sparkConf=new SparkConf().setMaster("local[2]").setAppName("SocketWCApp")
    val ssc=new StreamingContext(sparkConf,Seconds(10))

    val lines=ssc.socketTextStream("vm01",8888)
    
    //(17,ture)
    val blacks=List("17")
    val blacksRDD=ssc.sparkContext.parallelize(blacks).map(x=>(x,true))

    //laoer,3,1 名字,年龄,性别
    //(laoer,<laoer,3,1>)
    val result=lines.map(x=
  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值