SpringBoot 集成 Canal 实现监听MySQL表数据

50 篇文章 1 订阅
42 篇文章 2 订阅

在这里插入图片描述

准备工作

什么是 Canal

  • Canal 是阿里巴巴开源的基于数据库增量日志解析的数据同步和订阅组件,支持 MySQL、Oracle 等主流数据库。
  • 它通过解析数据库的增量日志,将数据库的变更事件转发给下游消费者。

Canal 在 Spring Boot 中的作用和优势

  • Spring Boot 是一种用于简化 Spring 应用开发的框架,提供了快速、方便的构建 Spring 应用的方式。
  • Canal 在 Spring Boot 中可以作为一个可靠的、高性能的监听工具,实时捕获数据库的变更事件。
  • 通过集成 Canal,可以在 Spring Boot 中方便地实现对 MySQL 表数据的监听,实现细粒度的数据同步、订阅等功能。

准备工作

安装和配置 MySQL 数据库

  1. 安装 MySQL 数据库,并确保数据库的正常运行。
  2. 开启binlog日志、配置需要监听的数据库;编辑 MySQL 的配置文件 my.cnfmy.ini,在 [mysqld]段中添加如下配置:
# 日志文件名
log-bin=mysql-bin
# 配置日志记录模式为“行级模式”
binlog_format=ROW
# 需要监听的数据库1
binlog-do-db=ddz
# 需要监听的数据库2 
binlog-do-db=ddz1
  1. 重启数据库,验证是否开启成功。
# 查看是否开启日志
show variables like '%log_bin%';

在这里插入图片描述

# 查看日志记录模式
show variables like '%binlog_format%';

在这里插入图片描述

安装Canal

  1. Canal官网 下载服务项目。
    在这里插入图片描述

以下是对 Canal 的几个组件的详细说明:

canal.adapter 是 Canal 的一个子项目,主要用于数据同步和转换的适配器。
canal.admin 是 Canal 的后台管理系统。
canal.deployer 提供了一键部署和管理的功能,可以简化 Canal 的部署和运维工作。
canal.example 是 Canal 的示例项目。

  1. 解压文件,修改\canal.deployer-1.1.7-SNAPSHOT\conf\canal.properties文件;选择服务模式,我们这里需要在项目中使用则选择tcp
# tcp, kafka, rocketMQ, rabbitMQ, pulsarMQ
canal.serverMode = tcp
  1. 修改\canal.deployer-1.1.7-SNAPSHOT\conf\example\instance.properties文件。
# 需要监听的数据库连接地址
canal.instance.master.address=127.0.0.1:3306
# 用户名
canal.instance.dbUsername=数据库用户名
# 密码
canal.instance.dbPassword=数据库密码
# 需要监听的数据库正则,当前是监听所有的数据库
canal.instance.filter.regex=.*\\..*
# 不监听的数据库正则
canal.instance.filter.black.regex=mysql\\.slave_.*
  1. 启动Canal项目,进入\canal.deployer-1.1.7-SNAPSHOT\bin,启动 startup.batstartup.sh
    在这里插入图片描述
    弹出下面页面说明启动成功:
    在这里插入图片描述

项目集成

导入依赖

我们这里导入的是大佬封装好的依赖,我们直接使用就行。

<dependency>
    <groupId>top.javatool</groupId>
    <artifactId>canal-spring-boot-starter</artifactId>
    <version>1.2.1-RELEASE</version>
</dependency>

添加配置信息

canal:
  server: 127.0.0.1:11111 # 本地启动的canal服务,默认启动的监听端口是11111
  destination: example # 配置好的监听模块

监听模块的名字和目录名一致,在canal配置文件中也配置的相同。
在这里插入图片描述

创建监听类

注解的使用:@CanalTable(value = “数据库表名”)

import org.springframework.stereotype.Component;
import top.javatool.canal.client.annotation.CanalTable;
import top.javatool.canal.client.handler.EntryHandler;
@Slf4j
@Component
@CanalTable(value = "user")
public class UserHandler implements EntryHandler<User> {
    @Override
    public void insert(User user) {
        log.info("User_insert:{}", user.toString());
    }

    @Override
    public void update(User before, User after) {
        log.info("User_update_before:{}", before.toString());
        log.info("User_update_after:{}", after.toString());
    }

    @Override
    public void delete(User user) {
        log.info("User_delete:{}", user.toString());
    }
}

测试

我们现在去操作数据库对表进行新增、修改、删除都会被监听到了。
在这里插入图片描述

为什么要使用canal监听mysql? canal是阿里巴巴开源的用于增量数据同步的工具,可以将mysql的binlog解析成类似于数据库操作的数据,可以实现实时的数据同步、数据备份、数据分析等功能。在日常开发中,我们经常需要将mysql中的数据同步到其他系统或者进行数据分析,使用canal可以方便地实现这些功能。 如何使用springboot监听mysql? 1.引入依赖 在pom.xml文件中添加canal客户端的依赖。 ``` <dependency> <groupId>com.alibaba.otter</groupId> <artifactId>canal.client</artifactId> <version>1.1.4</version> </dependency> ``` 2.配置canal客户端 在application.yml中添加canal客户端的配置信息。 ``` canal: instance: master-address: ${canal.master.address} username: ${canal.username} password: ${canal.password} destination: ${canal.destination} filter: - .*\\..* mq: enabled: false ``` 其中,master-address为canal服务器的地址,username和password为canal服务器的用户名和密码,destination为canal服务器的实例名称。 3.编写监听器 在springboot中使用canal监听mysql需要实现CanalEventListener接口,重写onEvent方法,处理监听到的数据。 ``` @Component public class CanalListener implements CanalEventListener { @Override public void onEvent(CanalEntry.Entry entry) { // 处理监听到的数据 } } ``` 4.启动监听器 在启动类中添加@EnableCanalClient注解,开启canal客户端的监听功能。 ``` @SpringBootApplication @EnableCanalClient public class DemoApplication { public static void main(String[] args) { SpringApplication.run(DemoApplication.class, args); } } ``` 通过以上步骤,我们就可以使用springboot监听mysql了。在CanalListener的onEvent方法中,可以处理监听到的数据实现数据同步、数据备份、数据分析等功能。
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

LOVE_DDZ

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值