FlinkCdc从Mysql指定的binlog日志offsetPos位置开始读取数据

 flinkCdc1.4.0版本有specificOffset方式指定binlog日志的位置开始读数据, 新版本测试还未支持该功能。

import com.alibaba.ververica.cdc.connectors.mysql.MySQLSource;
import com.alibaba.ververica.cdc.connectors.mysql.table.StartupOptions;
import com.alibaba.ververica.cdc.debezium.StringDebeziumDeserializationSchema;
import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;
import org.apache.flink.streaming.api.functions.source.SourceFunction;
import java.util.Properties;

public class MySqlSourceExample {

    public static void main(String[] args) throws Exception {
        //show binary logs;
        //show master status;
        String offsetFile = "mysql-bin.000008";
        //show binlog events  IN 'mysql-bin.000008' FROM 154 ;
        int offsetPos = 219;  //154 219 504
        Properties prop = new Properties();
        prop.setProperty("snapshot.locking.mode", "none");
        SourceFunction<String> sourceFunction = MySQLSource.<String>builder()
                .hostname("127.0.0.1")
                .port(3307)
                .databaseList("cdc_test") // monitor all tables under inventory database
                .tableList("cdc_test.test1") // set captured table
                .username("root")
                .password("mysql")
                .serverTimeZone("UTC")  //时区

                //设置读取位置 initial全量, latest增量,  specificOffset(binlog指定位置开始读,该功能新版本暂未支持)
                .startupOptions(StartupOptions.specificOffset(offsetFile, Integer.valueOf(offsetPos)))
//                .startupOptions(StartupOptions.initial())
//                .startupOptions(StartupOptions.latest())
                .debeziumProperties(prop)
                .deserializer(new StringDebeziumDeserializationSchema())
                .build();

        StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();

        env.addSource(sourceFunction)
                .print("====>")
                .setParallelism(1);

        env.execute();
    }
}

不指定位置默认全量读,可以读取全部5条数据,

向cdc_test表插入两条数据后,

 查看binlog日志的开始位置分别为219, 504

测试设置binlog日志位置为504,只能读取到一条记录(id=7的那条)

参考:

Flink CDC2.0快速上手demo示例(Jar对接,非SQL)_北鹤M的代码手账-CSDN博客重要! Flink CDC 这个名字带着Flink,但是注意!!!我们本地搭建简易demo的时候不需要下载flink环境就可以本地跑起来。 FlinkCDC本质就是一个jar包,引入后写个main方法即可展现它的简单功能。(因为需要Canal切FlinkCDC,小白的我把FlinkCDC当成了类似于ik分词的插件,居然先去下载了Flink...)准备工作您需要会使用maven≤FlinkCDC 1.4.0版本可以用MySQL5.6+,FlinkCDC必须5.7+ F...https://blog.csdn.net/qq_20051535/article/details/121071915Flink CDC 如何从指定位置拉取消息_北鹤M的代码手账-CSDN博客场景已知binlog的文件名和pow编号,希望从指定的位置拉消息代码在连接的时候加上这句.startupOptions(StartupOptions.specificOffset("mysql-bin.000013", 1260))https://blog.csdn.net/qq_20051535/article/details/121072733

  • 0
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 7
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值