并行实时数据同步工具Flish2.0.1发布

CDC(Change Data Capture) 用于满足大数据应用过程中,跟踪数据库中数据变化、实时抽取增量数据供下游系统消费的场景。采用的技术一般有时间戳、触发器、日志跟踪等。其中,利用数据库自身日志进行实时数据复制的产品,因其时效性好、准确度高、对源系统无侵入等特点,在市场上极为受欢迎,Flish即为此类产品,市场上同类产品还包括Canal、Debezium等。Flish具有如下特点:
1,功能全 复制类型上,支持数据增量实时复制、指定起点进行历史数据复制。(注:后续版本将支持snapshot复制能力)。数据库类型上,2.0版支持MySQL及Oracle。输出方式上,支持TCP、UDP、KAFKA方式输出,输出报文格式为通用性较强的JSON报文。每种输出方式均支持长连接、短连接两种连接方式。长连接预建连接并保持,性能更好;短连接一次一连,稳定性更好。支持断点续传。
2,性能强 延迟短MySQL采用binlog日志解读方式,Oracle采用Logminer方式,时效性高。分析模块与分发模块通过IPC 共享内存通信,异步轻耦合,通信效率高。高并发除传统的单线程复制分发外,支持按库(DB)或按GROUP多线程并发进行数据复制及分发,处理能力好。一次复制,多方分发对于同一数据记录,支持同时对多个订阅者发布输出,一次复制,满足多种数据消费场景需求,可有效减少对数据库资源的消耗。
3,高可用 支持集群部署或Master-Slave部署,以zookeeper为控制器,支持单点故障情况下的自动重续处理。
4,轻量级 独立部署,开箱即用,除去各类数据库产品提供的API库之外,无第三方框架依赖。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值