sink 写入本地文件(八)

2.4. Sink

Flink 没有类似于spark中 foreach 方法,让用户进行迭代的操作。虽有对外的输出操作都要利用Sink完成。最后通过类似如下方式完成整个任务最终输出操作。

stream. addsink(new MySink (xxxx) )

2.4.1 将数据写入文件(File Sink)

package com.flink.sink.study

import com.flink.streamapi.study.SensorReading
import org.apache.flink.streaming.api.scala._

object SinkStudy01 {
  def main(args: Array[String]): Unit = {
    val env = StreamExecutionEnvironment.getExecutionEnvironment
    // 需设置并行度为 1 否则会写入多个文件
    env.setParallelism(1)

    val inputPath = "/home/ied/myFlinkStudy/resources/sensor.txt"
    val StreamData = env.readTextFile(inputPath)

    val resStream = StreamData
      .map(x => {
        val arr = x.split(", ")
        SensorReading(arr(0), arr(1).toLong, arr(2).toDouble)
      })

    resStream.print()
	// 写入文件操作
    resStream.writeAsCsv("/home/ied/myFlinkStudy/resources/out.txt")
    // 现在推荐的方法
    resStream.addSink(StreamingFileSink.forRowFormat(
        new Path("/home/ied/myFlinkStudy/resources/out2.txt"),
        new SimpleStringEncoder[SensorReading]()
      ).build()
    )
    env.execute("file sink test")
  }
}
 resStream.writeAsCsv("/home/ied/myFlinkStudy/resources/out.txt")

在这里插入图片描述

   resStream.addSink(StreamingFileSink.forRowFormat(
        new Path("/home/ied/myFlinkStudy/resources/out2.txt"),
        new SimpleStringEncoder[SensorReading]()
      ).build()
    )

在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

她似晚风般温柔789

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值