windows下部署canal,服务端+客户端

(一)开启MySQL的binlog功能

1.修改mysql的my.ini文件

添加如下配置:

  1. log-bin=mysql-bin #添加这一行就ok

  2. binlog-format=ROW #选择row模式

  3. server_id=1 #配置mysql replaction需要定义,不能和canal的slaveId重

2.mysql中 配置canal数据库管理用户,配置相应权限(repication权限)

  CREATE USER canal IDENTIFIED BY 'canal';  
  GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO 'canal'@'%';
  FLUSH PRIVILEGES;

3.重启MySQL

(二)配置本地canal服务端

1.下载canal并解压

 下载地址:https://github.com/alibaba/canal/releases

2.修改数据库链接配置文件instance.properties

至此,服务端 就安装好了!

(三)客户端配置(maven管理的java项目)

1.添加pom依赖,并执行mavenupdate

<!-- cenal(阿里巴巴实现binlog订阅的框架,用于redis和DB数据同步) -->
      <dependency>
          <groupId>com.alibaba.otter</groupId>
          <artifactId>canal.client</artifactId>
          <version>1.0.12</version>
      </dependency>

2.新建测试类

package com.test;

import java.net.InetSocketAddress;
import java.util.List;

import javax.validation.constraints.NotNull;

import com.alibaba.otter.canal.client.CanalConnector;
import com.alibaba.otter.canal.client.CanalConnectors;
import com.alibaba.otter.canal.common.utils.AddressUtils;
import com.alibaba.otter.canal.protocol.CanalEntry.Column;
import com.alibaba.otter.canal.protocol.CanalEntry.Entry;
import com.alibaba.otter.canal.protocol.CanalEntry.EntryType;
import com.alibaba.otter.canal.protocol.CanalEntry.EventType;
import com.alibaba.otter.canal.protocol.CanalEntry.RowChange;
import com.alibaba.otter.canal.protocol.CanalEntry.RowData;
import com.alibaba.otter.canal.protocol.Message;
 
public class ClientSample {
 
    public static void main(String args[]) {
        // 创建链接
        CanalConnector connector = CanalConnectors.newSingleConnector(new InetSocketAddress(AddressUtils.getHostIp(),
                11111), "example", "", "");
        int batchSize = 1000;
        int emptyCount = 0;
        try {
            connector.connect();
            connector.subscribe(".*\\..*");
            connector.rollback();
            int totalEmtryCount = 1200;
            while (emptyCount < totalEmtryCount) {
                Message message = connector.getWithoutAck(batchSize); // 获取指定数量的数据
                long batchId = message.getId();
                int size = message.getEntries().size();
                if (batchId == -1 || size == 0) {
                    emptyCount++;
                    System.out.println("empty count : " + emptyCount);
                    try {
                        Thread.sleep(1000);
                    } catch (InterruptedException e) {
                        e.printStackTrace();
                    }
                } else {
                    emptyCount = 0;
                    // System.out.printf("message[batchId=%s,size=%s] \n", batchId, size);
                    printEntry(message.getEntries());
                }
 
                connector.ack(batchId); // 提交确认
                // connector.rollback(batchId); // 处理失败, 回滚数据
            }
 
            System.out.println("empty too many times, exit");
        } finally {
            connector.disconnect();
        }
    }
 
    private static void printEntry(@NotNull List<Entry> entrys) {
        for (Entry entry : entrys) {
            if (entry.getEntryType() == EntryType.TRANSACTIONBEGIN || entry.getEntryType() == EntryType.TRANSACTIONEND) {
                continue;
            }
 
            RowChange rowChage = null;
            try {
                rowChage = RowChange.parseFrom(entry.getStoreValue());
            } catch (Exception e) {
                throw new RuntimeException("ERROR ## parser of eromanga-event has an error , data:" + entry.toString(),
                        e);
            }
 
            EventType eventType = rowChage.getEventType();
            System.out.println(String.format("================> binlog[%s:%s] , name[%s,%s] , eventType : %s",
                    entry.getHeader().getLogfileName(), entry.getHeader().getLogfileOffset(),
                    entry.getHeader().getSchemaName(), entry.getHeader().getTableName(),
                    eventType));
 
            for (RowData rowData : rowChage.getRowDatasList()) {
                if (eventType == EventType.DELETE) {
                    printColumn(rowData.getBeforeColumnsList());
                } else if (eventType == EventType.INSERT) {
                    printColumn(rowData.getAfterColumnsList());
                } else {
                    System.out.println("-------> before");
                    printColumn(rowData.getBeforeColumnsList());
                    System.out.println("-------> after");
                    printColumn(rowData.getAfterColumnsList());
                }
            }
        }
    }
 
    private static void printColumn(@NotNull List<Column> columns) {
        for (Column column : columns) {
            System.out.println(column.getName() + " : " + column.getValue() + "    update=" + column.getUpdated());
        }
    }
}
 

 (四)测试

1.开启服务端canal

双击运行

2.运行客户端测试类main函数

运行成功:

3修改数据库数据,测试

update t_student set oid2=1 where id=2;

运行sql后,控制台显示:

 

部署成功!

  • 13
    点赞
  • 42
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
好的,我来回答你的问题。 首先,我们需要了解一下什么是 Canal。Canal 是阿里巴巴开源的一款基于 MySQL 数据库增量日志解析与同步的组件,可以将 MySQL 数据库的增量日志解析出来,再进行消费和传输。它可以支持多种消费者,其中包括 Java 客户端。 接下来,我们来讲一下如何在 Docker 中部署 Canal。 1. 首先,我们需要拉取 Canal 的 Docker 镜像。可以使用以下命令: ``` docker pull canal/canal-server ``` 2. 接着,我们需要创建一个配置文件,用于指定 Canal 的配置信息。例如,我们可以创建一个名为 `canal.properties` 的文件,内容如下: ``` canal.instance.master.address=mysql服务器ip:3306 canal.instance.dbUsername=数据库用户名 canal.instance.dbPassword=数据库密码 canal.instance.defaultDatabaseName=需要同步的数据库名称 canal.instance.connectionCharset=UTF-8 canal.instance.tsdb.enable=true canal.instance.gtidon=false canal.instance.enableDruid=false ``` 需要注意的是,`canal.instance.master.address` 需要填写你的 MySQL 服务器的 IP 地址和端口号,`canal.instance.dbUsername` 和 `canal.instance.dbPassword` 需要填写你的 MySQL 数据库的用户名和密码,`canal.instance.defaultDatabaseName` 需要填写你需要同步的数据库名称。 3. 然后,我们需要创建一个名为 `instance.yml` 的文件,内容如下: ``` canal.instance: # 主节点信息 master: address: mysql服务器ip:3306 jmx: false # mq配置,不需要可以不配置 mq: enabled: false # 配置同步的数据库实例信息 dbUsername: 数据库用户名 dbPassword: 数据库密码 connectionCharset: UTF-8 # 配置需要同步的数据库信息 positionInfo: name: example position: entries: filter: # 不需要同步的表 - example.ignore ``` 需要注意的是,`canal.instance.master.address`、`canal.instance.dbUsername` 和 `canal.instance.dbPassword` 的值需要和上面的 `canal.properties` 文件中的值保持一致。 4. 最后,我们可以使用以下命令启动 Canal 服务: ``` docker run --name canal-server -v /path/to/instance.yml:/home/admin/canal-server/conf/instance.yml -v /path/to/canal.properties:/home/admin/canal-server/conf/canal.properties -d -p 11111:11111 canal/canal-server ``` 需要注意的是,`/path/to/instance.yml` 和 `/path/to/canal.properties` 需要替换成你自己的文件路径。 至此,我们已经成功在 Docker 中部署了 Canal。 接下来,我们来讲一下如何在 Java 客户端消费 Canal。 1. 首先,我们需要在 pom.xml 文件中添加 Canal 客户端的依赖: ``` <dependency> <groupId>com.alibaba.otter</groupId> <artifactId>canal.client</artifactId> <version>1.1.4</version> </dependency> ``` 2. 然后,我们可以使用以下代码来消费 Canal: ``` // 创建 Canal 连接器 CanalConnector connector = CanalConnectors.newSingleConnector(new InetSocketAddress("localhost", 11111), "example", "", ""); // 连接 Canal connector.connect(); // 订阅需要同步的表 connector.subscribe("example.*"); // 循环消费数据 while (true) { // 获取数据 Message message = connector.getWithoutAck(100); // 获取批次 ID long batchId = message.getId(); // 获取当前批次的数据条数 int size = message.getEntries().size(); // 处理数据 for (CanalEntry.Entry entry : message.getEntries()) { // 判断数据类型 if (entry.getEntryType() == CanalEntry.EntryType.ROWDATA) { // 获取表名 String tableName = entry.getHeader().getTableName(); // 获取操作类型 CanalEntry.EventType eventType = entry.getHeader().getEventType(); // 获取行数据 RowChange rowChange = null; try { rowChange = RowChange.parseFrom(entry.getStoreValue()); } catch (Exception e) { throw new RuntimeException("ERROR ## parser of eromanga-event has an error , data:" + entry.toString(), e); } // 处理行数据 for (CanalEntry.RowData rowData : rowChange.getRowDatasList()) { // 处理插入操作 if (eventType == CanalEntry.EventType.INSERT) { // 获取列数据 List<CanalEntry.Column> columns = rowData.getAfterColumnsList(); // 处理列数据 for (CanalEntry.Column column : columns) { String name = column.getName(); String value = column.getValue(); System.out.println("INSERT: " + tableName + "." + name + " = " + value); } } // 处理更新操作 if (eventType == CanalEntry.EventType.UPDATE) { // 获取列数据 List<CanalEntry.Column> beforeColumns = rowData.getBeforeColumnsList(); List<CanalEntry.Column> afterColumns = rowData.getAfterColumnsList(); // 处理列数据 for (int i = 0; i < beforeColumns.size(); i++) { String name = beforeColumns.get(i).getName(); String beforeValue = beforeColumns.get(i).getValue(); String afterValue = afterColumns.get(i).getValue(); System.out.println("UPDATE: " + tableName + "." + name + " = " + beforeValue + " -> " + afterValue); } } // 处理删除操作 if (eventType == CanalEntry.EventType.DELETE) { // 获取列数据 List<CanalEntry.Column> columns = rowData.getBeforeColumnsList(); // 处理列数据 for (CanalEntry.Column column : columns) { String name = column.getName(); String value = column.getValue(); System.out.println("DELETE: " + tableName + "." + name + " = " + value); } } } } } // 提交批次 connector.ack(batchId); } ``` 至此,我们已经成功在 Java 客户端消费了 Canal
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值