Flink CDC 实时同步mysql

76 篇文章 725 订阅 ¥19.90 ¥99.00
本文介绍了Flink CDC在实时同步MySQL数据方面的应用,包括DataStream和FlinkSQL两种实现方式。通过监控MySQL binlog,文章详细展示了如何配置和使用Flink CDC进行数据同步,以及如何自定义反序列化器以优化日志解析和数据传输的便利性。
摘要由CSDN通过智能技术生成

前言

在实际开发中,需要做数据同步的场景是非常多的,比如不同的应用之间不想直接通过RPC的方式进行数据交互,或者说下游应用需要检测来自上游应用的某些业务指标数据的变化时,这些都可以考虑使用数据同步的方式完成;

数据同步通常分为离线同步,和准实时同步,以同步mysql数据为例,当下游应用需要通过监控上游的mysql某个表的数据变化来完成自身的业务时,数据同步的实现方式可以有很多种,比如通过canal的方式在应用层做监控,这也是比较常用的一种方式;

在大数据场景下,我们可以考虑另一种方式,即Flink CDC,这也是一种比较通用的数据同步解决方案;

不管是使用哪种方式,其底层的核心原理都是通过监控mysql的binlog的日志变化,从而进行日志解析,得到变化的数据;

下面通过Flink CDC提供的2种常用的数据同步方式,演示下如何使用Flink CDC同步mysql的数据,github配置参考地址:https://github.com/ververica/flink-cdc-connectors

在这里插入图片描述

前置准备

1、安装并启动mysql服务,并开启binlog;

注意,这里的: binlog_format一定要选择为 row的模式

  • 4
    点赞
  • 17
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 27
    评论
评论 27
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小码农叔叔

谢谢鼓励

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值