Debezium系列之：同一张表的数据始终进入Kafka Topic的相同分区，同时表结构变化的DDL事件也发送到相同分区

最新推荐文章于 2024-08-14 22:32:32 发布
最新推荐文章于 2024-08-14 22:32:32 发布
阅读量786 收藏 1
点赞数 1
分类专栏： debezium 文章标签： Debezium系列 同一张表的数据 始终进入Topic的相同分区 DDL事件也发送到相同分区
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhengzaifeidelushang/article/details/131104068
版权
debezium 专栏收录该内容
334 篇文章 311 订阅 ¥99.90 ¥299.90
订阅专栏
本文档详细介绍了如何配置和使用Debezium，以确保来自同一张表的数据始终进入Kafka Topic的相同分区，并且表结构变化的DDL事件也发送到对应的分区。通过设置特定的SMT和参数，实现数据路由和分区路由，从而达到需求。实验证明，此方法有效且可靠。
摘要由CSDN通过智能技术生成

Debezium系列之：同一张表的数据始终进入Kafka Topic的相同分区，同时表结构变化的DDL事件也发送到相同分区

一、需求背景

  • 多张表的数据分发到同一个Kafka Topic
  • 需要相同表的数据始终进入Kafka Topic的相同分区，当表的表结构发生变化时，需要把ddl事件也发送到数据对应的Kafka Topic分区中。

可以参考博主以下技术博客，了解到使用的相关技术：

了解本专栏 订阅专栏 解锁全文
快乐骑行^_^
关注
专栏目录
订阅专栏
Debezium系列之：支持数据库ddl和dml数据发往同一个Kafka Topic
zhengzaifeidelushang的博客
12-07 1330
Debezium系列之：支持数据库ddl和dml数据发往同一个Kafka Topic
Debezium系列之：实现表中指定字段相同的数据始终发往Kafka Topic相同的分区
zhengzaifeidelushang的博客
11-29 556
Debezium系列之：实现表中指定字段相同的数据始终发往Kafka Topic相同的分区
Debezium系列之：把多张表的数据分发到同一个Kafka Topic，同一张表的数据始终进入Topic相同分区
zhengzaifeidelushang的博客
06-08 1332
Debezium系列之：把多张表的数据分发到同一个Kafka Topic，同一张表的数据始终进入Topic相同分区
Debezium系列之：使用Debezium采集PostgreSQL数据库14版本数据到Kafka Topic的详细步骤，支持PostgreSQL数据库分区表的数据采集
最新发布
zhengzaifeidelushang的博客
08-14 96
Debezium系列之：使用Debezium采集PostgreSQL数据库14版本数据到Kafka Topic的详细步骤，支持PostgreSQL数据库分区表的数据采集
Flink系列之：Debezium采集Mysql数据库表数据到Kafka Topic，同步kafka topic数据到StarRocks数据库
zhengzaifeidelushang的博客
01-29 1134
Flink系列之：Debezium采集Mysql数据库表数据到Kafka Topic，同步kafka topic数据到StarRocks数据库
Debezium系列之：基于数据库信号表和Kafka信号Topic两种技术方案实现增量快照incremental技术的详细步骤
zhengzaifeidelushang的博客
02-22 932
Debezium系列之：基于数据库信号表和Kafka信号Topic两种技术方案实现增量快照incremental技术的详细步骤
Debezium系列之：使用分区路由指定表的字段，把指定字段具有相同值的增删改数据始终分发到Kafka Topic的相同分区
zhengzaifeidelushang的博客
06-03 296
Debezium系列之：使用分区路由指定表的字段，把指定字段具有相同值的增删改数据始终分发到Kafka Topic的相同分区
Debezium系列之：多张表按照指定的字段分发数据到Kafka Topic，并保证多张表指定字段相同的值始终出现在相同分区
zhengzaifeidelushang的博客
06-13 1827
Debezium系列之：多张表按照指定的字段分发数据到Kafka Topic，并保证多张表指定字段相同的值始终出现在相同分区
Debezium报错处理系列三：Access denied； you need (at least one of) the SUPER, REPLICATION CLIENT privilege(s)
zhengzaifeidelushang的博客
12-29 5774
Debezium报错处理系列三：Access denied; you need (at least one of) the SUPER, REPLICATION CLIENT privilege(s) 一、debezium报错 Access denied; you need (at least one of) the SUPER, REPLICATION CLIENT privilege(s)) 二、报错产生原因 数据库账号没有复制binlog权限 三、解决方法 数据库账号添加权限 给账号opt
debezium系列之：理解database.server.name和database.history.kafka.topic
zhengzaifeidelushang的博客
01-25 5303
debezium系列之：理解database.server.name和database.history.kafka.topic debezium捕获数据库表结构更改事件，并把这些事件写入到kafka名称为database.server.name的topic中。 topic消息包括： ddl：提供导致架构更改的 SQL CREATE、ALTER 或 DROP 语句。 databaseName：应用 DDL 语句的数据库的名称。 databaseName 的值用作消息键。 pos：语句出现在 binlog 中
Debezium系列之：安装部署debezium详细步骤，并把debezium服务托管到systemctl
zhengzaifeidelushang的博客
04-25 4206
Debezium系列之：安装部署debezium详细步骤，并把debezium服务托管到systemctl一、安装部署Kafka集群二、安装debezium三、修改kafka connect-distributed.properties四、手动启动kafka connect五、把debezium服务托管到systemctl 一、安装部署Kafka集群 CentOS7搭建Kafka2.7分布式集群 二、安装debezium Debezium下载地址：https://debezium.io/releases/
Debezium报错处理系列一：The db history topic is missing.
zhengzaifeidelushang的博客
12-21 3839
Debezium报错处理系列一：The db history topic is missing. You may attempt to recover it by reconfiguring the connector to SCHEMA_ONLY_RECOVERY debezium报错： The db history topic is missing. You may attempt to recover it by reconfiguring the connector to SCHEMA_ONLY_
Debezium系列之：把数据库中多张表的数据发送到一个Kafka topic中
zhengzaifeidelushang的博客
05-11 3690
Debezium系列之：把多个数据库中多张表的数据发送到一个Kafka topic中一、Debezium专栏博客每周更新计划二、需求描述三、参数设置四、提交debezium connector参数示例 一、Debezium专栏博客每周更新计划 后续每周在日常更新Debezium技术文章的同时，会以一定频率同步更新Debezium源码阅读系列文章，欢迎与博主交流Debezium相关技术，一起加油。 二、需求描述 需求1: 需要把一个数据库中的多张表的数据，全部导入同一个kafka topic中 需求2:
debezium报错：Caused by: io.debezium.DebeziumException:whose schema isn‘t known to this connector
zhengzaifeidelushang的博客
07-27 3454
debezium报错：Caused by: io.debezium.DebeziumException:whose schema isn’t known to this connector “trace”:"org.apache.kafka.connect.errors.ConnectException: An exception occurred in the change event producer. This connector will be stopped. Caused by: io.deb
Debezium报错处理系列十一：Data row is smaller than a column index, internal schema representation is probabl
zhengzaifeidelushang的博客
03-28 3451
Data row is smaller than a column index, internal schema representation is probably out of sync with real database schema
Debezium系列之：记录一次快速处理生产环境debezium connector故障，并使用debezium补缺失的数据
zhengzaifeidelushang的博客
05-19 3404
Debezium系列之：记录一次快速处理生产环境debezium connector故障一、背景二、快速恢复connector三、使用debezium补缺失的数据 一、背景 debezium生产环境connector故障了，需要快速处理才能不影响后续数据开发任务，同时需要确保数据不会有遗漏。出现数据遗漏需要把遗漏的数据补充完整。 二、快速恢复connector 删除debezium故障的connector 使用一个新的history topic，创建新的history topic，使用新的connecto
数据库安装部署系列之：部署Mongodb5.0.6高可用集群详细步骤
zhengzaifeidelushang的博客
02-21 3360
解压mongodb压缩包 tar -zxvf mongodb-linux-x86_64-rhel70-5.0.6.tgz -C /data/src 重命名 mv /data/src/mongodb-linux-x86_64-rhel70-5.0.6/ /data/src/mongodb mkdir -p /data/src/mongodb/conf mkdir -p /data/src/mongodb/mongos/log mkdir -p /data/src/mongodb/config/data
debezium报错：no longer available on the server. Reconfigure the connector to use a snapshot when neede
zhengzaifeidelushang的博客
07-27 3224
debezium报错：no longer available on the server. Reconfigure the connector to use a snapshot when neede 完整报错如下： -“trace”:"io.debezium.DebeziumException: The connector is trying to read binlog starting at SourceInfo [currentGtid=null, currentBinlogFilename=mys
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

快乐骑行^_^

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值