6、数据断点续传

本文探讨了数据库写入原理、Flink CDC的检查点机制,并详细阐述了如何利用Flink CDC实现数据断点续传。通过设置不同的StartupOptions,如initial、latest、timestamp和specificOffset,实现全量同步、增量同步和断点续传。重点讲解了使用specificOffset进行断点续传的代码实现,以mysql到kafka再到mysql为例。
摘要由CSDN通过智能技术生成

       前面的文章实现了直接跨库同步表,以及通过消息中间件kafka或pulsar进行异步读写库实现数据同步的方法,但都没有解决一个问题,就是程序中断后怎么从当时中断的那个时间点同步的问题。

        再看一下前面的数据同步解决方案。以前的业务系统(假设为S系统)已经上线,新的业务系统或数据平台(假设为P平台)需要把数据集中抽取上来,如果用接口的方式,那么势必在S,P中新增很多接口,双方进行实时交互。这样做的缺点就是侵入式的,对于双方的业务都有强行插入,虽然能用诸如AOP来实现,但终究不完美,且不可扩展,新的业务要持续增加接口。那么我们的解决方案是使用Flink CDC与Pulsar,组建SpringBoot项目(假设为C项目),将C打包后部署到S系统所在的机器或网络侧,C与P均通过Pulsar进行交互,真正做到对业务系统S无感的非侵入式设计。

        那么,回到问题,如果C一旦崩溃,数小时或数天才得以恢复,C恢复后虽然继续运行,但数小时或数天前S发生的业务,C如何才能读取呢

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

vandh

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值