FlinkCDC系列：通过skipped.operations参数选择性处理新增、更新、删除数据

ITZHIHONH

已于 2023-10-31 15:59:36 修改

阅读量1.6k

点赞数

分类专栏： flink 文章标签： mysql flink flinkCDC 数据同步

于 2023-10-31 15:57:05 首次发布

本文链接：https://blog.csdn.net/wzh8108/article/details/134142136

版权

flink 专栏收录该内容

3 篇文章 0 订阅

订阅专栏

本文介绍了如何在FlinkCDC中通过Debezium的`debezium.skipped.operations`参数来配置MySQLCDC源数据，允许用户过滤插入（c）和删除（d）操作，默认全量捕获，支持多操作以逗号分隔。

摘要由CSDN通过智能技术生成

在flinkCDC源数据配置，通过debezium.skipped.operations参数控制，配置需要过滤的 oplog 操作。操作包括 c 表示插入，u 表示更新，d 表示删除。默认情况下，不跳过任何操作，以逗号分隔。配置多个操作，需要英文逗号分隔。

官网说明地址：Debezium connector for MySQL :: Debezium Documentation

使用实例如下：

REATE TABLE IF NOT EXISTS `test_source` (

`testid` varchar ( 32 ),

`name` int,

`addre` varchar ( 100 ),

`stat` int,

`updateTime` TIMESTAMP,

PRIMARY KEY ( `testid` ) NOT ENFORCED

) WITH (

'connector' = 'mysql-cdc',

'hostname' = '*******',

'port' = '**',

'username' = '***',

'password'='********',

'database-name' = 'dbname',

'scan.startup.mode' = 'initial',

'debezium.skipped.operations'='d,c',

'table-name' = 'tablename'

);