提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档
文章目录
前言
如何实现及时性、增量同步mysql数据
一、canal是什么?
canal是阿里巴巴旗下的一款开源项目,纯Java开发。基于数据库增量日志解析,提供增量数据订阅&消费,目前主要支持了MySQL(也支持mariaDB)。
二、下载地址
下载地址:https://github.com/alibaba/canal/releases
下载的类型是:canal.deployer-1.1.4.tar.gz
(下载不下来就多下载几次,总有一次会成功)
三、修改canal.properties重要配置
#canal默认的端口
canal.port = 11111
#修改zookeeper的地址
canal.zkServers = 127.0.0.1:2181
#修改canal推送消息的地方
canal.serverMode = kafka
#监听mysql二进制文件的类型
canal.instance.binlog.format = ROW,STATEMENT,MIXED
#监听mysql二进制镜像类型
canal.instance.binlog.image = FULL,MINIMAL,NOBLOB
##################################################
######### MQ #############
##################################################
canal.mq.servers = 127.0.0.1:9092
canal.mq.retries = 10
canal.mq.batchSize = 16384
canal.mq.maxRequestSize = 1048576
canal.mq.lingerMs = 100
canal.mq.bufferMemory = 33554432
canal.mq.canalBatchSize = 50
canal.mq.canalGetTimeout = 100
canal.mq.flatMessage = true
canal.mq.compressionType = none
canal.mq.acks = all
#canal.mq.properties. =
canal.mq.producerGroup = test
# Set this value to "cloud", if you want open message trace feature in aliyun.
canal.mq.accessChannel = local
四、修改example目录下的instance.properties连接mysql实例
#设置推送监听到消息的主题
canal.mq.topic=topic
canal.mq.partitionsNum=3
#mysql 连接地址
canal.instance.master.address=127.0.0.1:3306
canal.instance.dbUsername=root
canal.instance.dbPassword=longjin123!
五、启动canal
./bin/startup.sh
后面还有如何开启mysql二进制文件案例
总结
人生物语:一个人总要走陌生的路,看陌生的风景,听陌生的歌,然后在某个不经意的瞬间,你会发现,原本费尽心机想要忘记的事情真的就这么忘记了。