自定义Flink-JDBCSink(RichSinkFunction)从Flink->MySQL

本文主要介绍怎么自定义JDBC-Sink让数据从Flink到MySQL,该代码中的addSource()方法中的SourceFuntion实例是我自定义的Source实例
1.引入相关的依赖

        <!--MySQL-java连接驱动-->
        <dependency>
            <groupId>mysql</groupId>
            <artifactId>mysql-connector-java</artifactId>
            <version>5.1.47</version>
        </dependency>

2.编写代码


package com.shufang.flink.connectors

import java.sql.{Connection, DriverManager, PreparedStatement}

import com.shufang.flink.bean.People
import com.shufang.flink.examples.MyPeopleSource
import org.apache.flink.configuration.Configuration
import org.apache.flink.streaming.api.functions.sink.{RichSinkFunction, SinkFunction}
import org.apache.flink.streaming.api.scala._

/**
 * 这个类主要是用来测试Flink通过JDBC-Connector的方式将数据写到MySQL中
 * 由于官方是没有jdbc-connector的,所以我们需要自定义一个Sink
 */
object TestJDBCSink {

  def main(args: Array[String]): Unit = {


    //获取连接环境
    val envi: StreamExecutionEnvironment = StreamExecutionEnvironment.getExecutionEnvironment


    //获取数据源
    val peoples: DataStream[People] = envi.addSource(new MyPeopleSource())


    peoples.addSink(new MyJDBCSink())

    envi.execute("jdbc-connector")

    //指定Sink的范型People
    class MyJDBCSink() extends RichSinkFunction[People] {
      //定义SQL的连接、预编译器,给定初始值占位符
      var conn: Connection = _
      var insertStatment: PreparedStatement = _
      var updateStatment: PreparedStatement = _

      /**
       * open()在是类MyJDBCSink初始化的时候就调用的方法,我们直接在初始化的时候创建连接与预编译
       *
       * @param parameters
       */
      override def open(parameters: Configuration): Unit = {
        super.open(parameters)
        conn = DriverManager.getConnection("jdbc:mysql://localhost:3306/flink_jdbc", "root", "888888")

        insertStatment = conn.prepareStatement("insert into people(name,score) values (?,?)")
        updateStatment = conn.prepareStatement("update people set name = ? where id = ?")
      }

      /**
       * 调用方法,调用逻辑都是在里面,数据类型、格式组合都是在里面进行
       * 编写
       * @param value
       * @param context
       */
      override def invoke(value: People, context: SinkFunction.Context[_]): Unit = {
        //执行update SQL
        updateStatment.setString(1, value.name)
        updateStatment.setDouble(2, value.id)
        updateStatment.execute()

        //如果update没有查到数据,我们就执行insert SQL
        if (updateStatment.getUpdateCount == 0) {
          insertStatment.setNString(1, value.name)
          insertStatment.setDouble(2, value.score)
          insertStatment.execute()
        }
      }

      /**
       * close方法用来关闭资源,清理工作,类似于Finally
       */
      override def close(): Unit = {
        insertStatment.close()
        updateStatment.close()
        conn.close()
      }
    }


  }
}

Flink-connector-jdbc是Apache Flink的一个官方连接器,用于将Flink与关系型数据库(如MySQL、PostgreSQL等)进行集成。 要下载Flink-connector-jdbc,可以按照以下步骤进行操作: 1. 打开Apache Flink的官方网站(https://flink.apache.org/)。 2. 导航到"Downloads"(下载)页面,这里提供了Flink的各种版本。 3. 选择所需的Flink版本并下载对应的二进制文件。通常,您可以选择最新的稳定版本。 4. 在下载的Flink二进制文件中,找到一个名为"flink-connector-jdbc"的目录。该目录中包含了Flink与关系型数据库进行连接所需的所有库和文件。 5. 将"flink-connector-jdbc"目录复制到您的工作环境中,以便您可以在Flink应用程序中使用它。 6. 现在,您可以将"flink-connector-jdbc"添加到您的Flink应用程序的依赖中,并开始使用它。 如果您需要使用Maven进行构建,可以在您的Maven配置文件(pom.xml)中添加以下依赖: ``` <dependency> <groupId>org.apache.flink</groupId> <artifactId>flink-connector-jdbc_${scala.binary.version}</artifactId> <version>${flink.version}</version> </dependency> ``` 请注意替换`${scala.binary.version}`和`${flink.version}`为您要使用的具体版本。 下载Flink-connector-jdbc后,您就可以使用它来将Flink与关系型数据库进行集成,实现从数据库中读取数据或将数据写入到数据库中。您可以使用FlinkJDBC连接器来定义数据库表的结构,并使用SQL或DataStream API操作和处理数据库中的数据。通过Flink-connector-jdbc,您可以轻松地利用Flink强大的数据处理能力与关系型数据库进行交互。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值