1.8 Maxwell

文章比较了Maxwell、FlinkCDC和Canal在实时数据同步场景中的特性,Maxwell支持断点续传和全量同步,但全量同步速度较慢。在数据重复问题上,由于bootstrap和binlog监听可能导致重复,解决方案是通过type过滤。
摘要由CSDN通过智能技术生成

1.8 Maxwell

1.8.1 Maxwell与Canal、FlinkCDC的对比

1)FlinkCDC、Maxwell、Canal都是主要用于实时系统中实时数据同步处理场景。

FlinkCDC

Maxwell

Canal

SQL与数据条数关系

SQL影响几条出现几条

SQL影响几条出现几条

只有一整条(后续可能需要炸开)

数据初始化功能(同步全量数据)

有(支持多库多表同时做)

有(单表)

断点续传功能

有(放在CK)

有(存在MySQL)

有(本地)

1.8.2 Maxwell好处

支持断点续传。

全量初始化同步。

自动根据库名和表名把数据发往Kafka的对应主题。

1.8.3 Maxwell底层原理

MySQL主从复制。

1.8.4 全量同步速度如何

同步速度慢,全量同步建议采用Sqoop或者DataX。

1.8.5 Maxwell数据重复问题

同步历史数据时,bootstrap引导服务需要依赖Maxwell进程。

同时binlog也在监听。

如果同步历史数据过程中,源表的数据发生改变:

        =》 bootstrap会同步到

        =》 Maxwell监听binlog也会同步到

数据产生重复,只能保证至少一次。

解决:根据type过滤,

      bootstrap同步的type为 bootstrap-insert

      binlog同步的为 insert

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

一鸣888

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值