Debezium系列之:基于数据库信号表和Kafka信号Topic两种技术方案实现增量快照incremental技术的详细步骤
一、需求背景
- 采集数据库表全部历史数据和后续的流数据,并且对数据库不产生影响
- 使用debezium的增量快照技术能够实现同时采集历史数据和流数据
二、增量快照技术实现的两种方案
方案一:
- 基于数据库信号表实现增量快照技术,
- 详细实现步骤可以参考博主这篇博客:Debezium系列之:实现增量快照incremental技术的详细步骤
- 增量快照技术依赖往数据库信号表写入快照水印,如下所示:

方案二:
- 基于Kafka信号Topic实现只读增量快照incremental技术
- 只读快照增量技术是基于GTID实现的,需要创建信号topic
"signal.kafka.topic": "dw-dbz-signals",多个debezium connector可以共用信号topic <
本文详细介绍了如何利用数据库信号表和Kafka信号Topic两种技术实现增量快照incremental。两种方案分别讨论了其实现原理和详细步骤,包括信号表的创建、增量快照参数配置、Kafka信号Topic的创建及配置等,旨在实现在不影响数据库的情况下,捕获历史数据和流数据。
订阅专栏 解锁全文
1244

被折叠的 条评论
为什么被折叠?



