基于Debezium 实时同步Mongodb 数据

本文介绍了如何使用Debezium作为中间平台,实现实时同步MongoDB数据到Kafka。首先,文章阐述了Debezium的作用和架构,包括Source Connector和Sink Connector的功能。接着,详细讲解了配置和部署MongoDB Source Connector和Sink Connector的步骤,涉及Zookeeper、Kafka的部署,以及创建同步账户。最后,通过测试验证了数据同步的可行性,指出在特定条件下,单表最大实时ops速度为2k/s。
摘要由CSDN通过智能技术生成

1.1 Debezium 介绍

Debezium 是一个分布式的平台 ,注册source connector 用于源集群和kafka进行连接, 捕获原集群数据库中的更改记录,并将更改记录进行解析成相应的格式,以消息的形式保存到kafka中,

也可以注册sink connector 用于kafka 与 目的集群进行连接,消费kafka中的数据记录,并解析成数据库中能插入的sql语句。

下图为Debezium的整个架构,Debezium以插件的形式,部署在 Kafka Connect 上,Kafka Connect 有两个核心的概念:Source 和 Sink,Source 负责导入数据到 Kafka,Sink 负责从 Kafka 导出数据,它们都被称为是 Connector。

1.2 Source Connector for MongoDB 介绍

1.MongoDB Source  Connector(源集群连接器),当第一次连接到源端集群时,它会先查看并记录当前oplog,然后执行对数据库执行一次快照,当所有数据都被复制后,连接器从它之前oplog记录的位置开始以数据流的方式记录数据库相应的更改,保存到kafka中,

2.MongoDB Source  Connector会记录插入,更新,删除操作,同时也会保持oplog中相同操作是幂等的,不会重复记录。

3.当MongoDB Source

  • 3
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值