星标1.4k,一款国产开源数据同步中间件,支持多种数据源和预警功能!

点击上方“芋道源码”,选择“设为星标

管她前浪,还是后浪?

能浪的浪,才是好浪!

每天 10:33 更新文章,每天掉亿点点头发...

源码精品专栏

 

来源:gitee.com/ghi/dbsyncer


DBSyncer是一款开源的数据同步中间件,提供MySQLOracleSqlServerPostgreSQLElasticsearch(ES)KafkaFileSQL等同步场景。

支持上传插件自定义同步转换业务,提供监控全量和增量数据统计图、应用性能预警等。

特点
  • 组合驱动 ,自定义库同步到库组合,关系型数据库与非关系型之间组合,任意搭配表同步映射关系

  • 实时监控 ,驱动全量或增量实时同步运行状态、结果、同步日志和系统日志

  • 开发插件 ,自定义转化同步逻辑

设计

架构图

06d2aee2154acf7ce3827ed41daf88dc.png

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/ruoyi-vue-pro

  • 视频教程:https://doc.iocoder.cn/video/

应用场景

连接器数据源目标源支持版本(包含以下)
MySQL5.7.19以上
Oracle10gR2 -11g
SqlServer2008以上
PostgreSQL9.5.25以上
ES6.0以上
Kafka开发中2.10-0.9.0.0以上
File*.txt, *.unl
SQL
支持以上关系型数据库
后期计划Redis

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/yudao-cloud

  • 视频教程:https://doc.iocoder.cn/video/

使用教程

1.启动 代理 和 数据库 服务

71be930c1f2711de8e2913a479f57cc5.png

2.准备测试账号,test

4a62969e753b57d8b8f4b8005603fb08.png

3.分配sysadmin角色

9fc357962b07c3531a549e598b050b96.png

4.分配指定数据库权限

da6aa7af6ac516423c8dfc9ab11d6b0f.png
PostgreSQL

通过复制流技术监听增量事件,基于内置插件pgoutputtest_decoding实现解析wal日志

1、修改postgresql.conf文件,重启服务

wal_level=logical

2、授予账号权限LOGINREPLICATION

File

监听文件修改时间得到变化文件,通过文件偏移量读取最新数据

  • https://gitee.com/ghi/dbsyncer/issues/I55EP5

ES
  • 定时获取增量数据。

  • 账号具有访问权限。

日志

建议MySQL、SqlServer、PostgreSQL都使用日志

4ff455132e687afcceb2c2d69a2b32c0.png
定时

假设源表数据格式

b9b6b0c9b32c7d57bf4bdaaf8371b67c.png e25ecb804949cecf01f91ad947eb97fc.png

预览

驱动管理

81818a730044cd34c937c99a342dd38f.png

驱动详情

4a0fb9369e8f270ab9d52a66ffc542ec.png

驱动表字段关系配置

88890f513c0ab9bce8eb107a42039a7f.png

监控

2f976e9d7c5f12fbc2949e59d51894be.png

上传插件

05ce6c96d2f19ea82a3cd3d42d8da7e5.png
开源地址
  • https://gitee.com/ghi/dbsyncer



欢迎加入我的知识星球,一起探讨架构,交流源码。加入方式,长按下方二维码噢

eaf7d836b6479f79be3390b41fd8c258.png

已在知识星球更新源码解析如下:

f8ef541ab0f2ea89cbaa4b2155c456fe.jpeg

716ce07a55eeb582e9b5355e04e0f168.jpeg

27f025187e64c45ded537791c356e71e.jpeg

f58723e5b67ce64005dd95f10f92c2ff.jpeg

最近更新《芋道 SpringBoot 2.X 入门》系列,已经 101 余篇,覆盖了 MyBatis、Redis、MongoDB、ES、分库分表、读写分离、SpringMVC、Webflux、权限、WebSocket、Dubbo、RabbitMQ、RocketMQ、Kafka、性能测试等等内容。

提供近 3W 行代码的 SpringBoot 示例,以及超 4W 行代码的电商微服务项目。

获取方式:点“在看”,关注公众号并回复 666 领取,更多内容陆续奉上。

文章有帮助的话,在看,转发吧。
谢谢支持哟 (*^__^*)
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值