Structed Streaming 将数据封装成Json数据

val ResultStreamDF = InputStreamDF
      .selectExpr("CAST(value AS STRING)")
      .as[String]
      .filter(
        line => null != line &&
          line.trim.split(",").length == 6
          && "success".equals(line.trim.split(",")(3))
      )
      .map(msg =>{
       val Array(  stationId, callOut, callIn, callStatus, callTime, duration) =msg.trim.split(",")
        ( stationId, callOut, callIn, callStatus, callTime, duration)
      })
      .toDF( "stationId", "callOut", "callIn", "callStatus", "callTime", "duration")
      .select(
        to_json(struct($"*")).as("value")
      )
       val query: StreamingQuery = ResultStreamDF
      .writeStream
      .queryName("query-state-etl")
      .outputMode(OutputMode.Append())
      // TODO: 设置连续处理Continuous Processing

      .format("kafka")
      .option("kafka.bootstrap.servers", "node1.itcast.cn:9092")
      .option("topic", "etlTopic")
      .option("checkpointLocation", "data/structured/station-etl-1003")
      .start()
    query.awaitTermination()
    query.stop()
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

她與風皆過客

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值