阿里canal
文章平均质量分 92
从零开始学习阿里巴巴开源项目canal
撸码小丑
BUG制造商
展开
-
阿里开源Canal--⑤投递到Kerberos认证的Kafka
在前一章节中,Billow介绍了如何通过1.1.1以上的canal配置将binlog数据投递到kafka。在实际的生产环境中,我们的kafka很多都会集成Kerberos作为安全认证。那么在本节,Billow将介绍如何通过修改源码使Canal可配置为投递数据到Kerberos认证的Kafka集群。##1.导入Canal源码canal已开源到github。下载地址为:https://github...原创 2019-02-18 09:55:33 · 1570 阅读 · 4 评论 -
阿里开源Canal--④投递数据到Kafka
基本说明canal 1.1.1版本之后, 默认支持将canal server接收到的binlog数据直接投递到MQ, 目前默认支持的MQ系统有:kafka: (https://github.com/apache/kafka)RocketMQ原创 2019-02-18 09:55:05 · 6629 阅读 · 0 评论 -
阿里开源Canal--③Client入门
在上一章节中,我们配置启动了canal server,本节我们使用Java语言编写启动client端消费server端同步过来的binlog数据。#1.添加依赖<dependency> <groupId>com.alibaba.otter</groupId> <artifactId>canal.client</artifac...原创 2019-02-18 09:54:35 · 5497 阅读 · 1 评论 -
阿里开源Canal--②快速入门
#1、mysql初始化a.canal的原理是基于mysql binlog技术,所以这里一定需要开启mysql的binlog写入功能,建议配置binlog模式为row.[mysqld]log-bin=mysql-bin #添加这一行就okbinlog-format=ROW #选择row模式server_id=1 #配置mysql replaction需要定义,不能和canal的slaveI...原创 2019-02-18 09:53:54 · 900 阅读 · 1 评论 -
阿里开源Canal--①简介
canal是阿里巴巴旗下的一款开源项目,纯Java开发。基于数据库增量日志解析,提供增量数据订阅&消费,目前主要支持了MySQL(也支持mariaDB)。背景早期,阿里巴巴B2B公司因为存在杭州和美国双机房部署,存在跨机房同步的业务需求。不过早期的数据库同步业务,主要是基于trigger的方式获取增量变更,不过从2010年开始,阿里系公司开始逐步的尝试基于数据库的日志解析,获取增量变更...原创 2019-02-18 09:51:57 · 1027 阅读 · 0 评论