六、Structured Streaming Sink到mysql

本文介绍了Spark 2.4中Structured Streaming的sink选项,重点讲解如何使用ForeachSink自定义MySQL数据接收器。ForeachWriter需要实现open、process和close方法,每个batch处理时这些方法会被调用一次。文章提供了具体的sink到MySQL的示例代码。
摘要由CSDN通过智能技术生成

1、Spark2.4中,StructuredStreaming目前支持的sink只有FileSink、KafkaSink、ConsoleSink、MemorySink和ForeachSink

2、要使用ForeachSink自定义sink,必须实现ForeachWriter[T](),包括open(),process(),close()三个方法:

3、在每个batch中,这三个方法各调用一次,相当每批数据调用一次。

 class redisSink extends ForeachWriter[Row](){
      override def open(partitionId: Long, version: Long): Boolean ={
         //这个方法进行一些初始化,如redis,获取连接
      }
      override def process(value: Row): Unit ={
        //具体的处理逻辑,写数据到数据库中
      }
      override def close(errorOrNull: Throwable): Unit = {
       //关闭连接
      }

4、sink到mysql实例

​

object ForeachSinkApp {
  def main(args: Array[String]): Unit = {
    val window_size = 10//args(0)    //窗口长度
    //窗口滑动距离应当小于或等于窗口长度
    val slide_size = 5//if (args.length ==
  • 0
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值