MongoDB系列10:Change Streams构建实时同步数据流

邓开表同学实战MongoDB系列文章,非常不错,赞!大力推荐!

本文是第10篇,主要讲述Change Streams构建实时同步数据流的实战经验,非常值得一看。


前面系列文章:

MongoDB安全实战之Kerberos认证

MongoDB Compass--MongoDB DBA必备的管理工具

MongoDB安全实战之审计

MongoDB安全实战之SSL协议加密

MongoDB安全实战之网络安全加固

MongoDB索引的介绍

MongoDB存储引擎

MongoDB集合的增量更新

MongoDB系列9:MongoDB数据迁移到MySQL



 

1、ChangeStreams概述

MongoDBChangeStreams允许应用程序实时访问数据的变化。应用程序可以使用Change Streams订阅集合上的所有数据的更改,并立即对它们作出响应。利用Change Streams这一功能可以构建实时数据同步的应用。


2、ChangeStreams的特性

Change Streams只能在副本集或分片集群中打开。在分片集群中,必须为mongos路由打开Change Streams操作。存储引擎要求是WiredTiger存储引擎。


3ChangeStreams的变化事件类型

·insert事件

·update事件

·delete事件

·replace事件

·invalidate事件


4、打开ChangeStreams

Python中可以采用以下方式打开一个ChangeStreams

cursor =db.collection_name.watch()

其中,可以采用以下管道控制ChangeStreams的输出:

·$match

·$project

·$addFields

·$replaceRoot

·$redact


5、构建实时同步数据流案例

本例子,是利用Python构建从MongoDBstream_table集合到mysqlstream_table表的实时同步。其中分别监听ChangeStreamsinsertupdatedelete三个变化事件。

 

640?wx_fmt=png

 

1) 执行代码

640?wx_fmt=png


2) stream_table集合插入一个文档

在初始情况下,stream_table集合和stream_table都是没有数据的。所以首先演示insert变化事件的监听。

640?wx_fmt=png

同时查询mysqlstream_table表是否有记录:

640?wx_fmt=png

数据已实时同步。


3) update集合stream_table数据

640?wx_fmt=png

同样,查询mysqlstream_table表的记录是否有变化:

640?wx_fmt=png

数据实时更新!


4) 最后delete集合stream_table数据

640?wx_fmt=png

最后,查询mysqlstream_table表的记录是否有变化:

640?wx_fmt=png

数据被删除!


小结:

    MongoDB到关系型数据库的数据迁移中,对于一些对数据时效要求高场景,特别是追求数据实时变化,利用MongoDB Change Streams可以有效地解决这类场景。


猜你喜欢




#大数据和云计算机技术社区#博客精选(2017)

NoSQL 还是 SQL ?这一篇讲清楚

阿里的OceanBase解密

#大数据和云计算技术#: "四有"社区介绍

大数据和云计算技术周报(第38期)

新数仓系列:Hbase周边生态梳理(1)

《大数据架构详解》第2次修订说明

云观察系列:漫谈运营商公有云发展史

云观察系列:百度云的一波三折

云观察系列:阿里云战略观察

超融合方案分析系列(7)思科超融合方案分析

加入技术讨论群




《大数据和云计算技术》社区群人数已经3000+,欢迎大家加下面助手微信,拉大家进群,自由交流。

640?wx_fmt=jpeg

喜欢QQ群的,可以扫描下面二维码:

640?wx_fmt=jpeg

欢迎大家通过二维码打赏支持技术社区(英雄请留名,社区感谢您,打赏次数超过108+):

640?wx_fmt=jpeg



阅读更多
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/zNZQhb07Nr/article/details/79971499
想对作者说点什么? 我来说一句

没有更多推荐了,返回首页

关闭
关闭
关闭