网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
image: yagagagaga/doris-standalone
ports:
- "8030:8030"
- "8040:8040"
- "9030:9030"
mysql:
image: debezium/example-mysql:1.1
ports:
- “3306:3306”
environment:
- MYSQL_ROOT_PASSWORD=123456
- MYSQL_USER=mysqluser
- MYSQL_PASSWORD=mysqlpw
该 Docker Compose 中包含的容器有:
MySQL: 包含商品信息的数据库 `app_db`
Doris: 存储从 MySQL 中根据规则映射过来的结果表
在 `docker-compose.yml` 所在目录下执行下面的命令来启动本教程需要的组件:
docker-compose up -d
该命令将以 detached 模式自动启动 Docker Compose 配置中定义的所有容器。你可以通过 docker ps 来观察上述的容器是否正常启动了,也可以通过访问 <http://localhost:8030/> 来查看 Doris 是否运行正常。
### 数据准备
进入 MySQL 容器, 或者通过客户端工具连接到mysql
docker-compose exec mysql mysql -uroot -p123456
创建数据库 app\_db 和表 `orders,products` 并插入数据
– 创建数据库
CREATE DATABASE app_db;
USE app_db;
– 创建 orders 表
CREATE TABLE orders
(
id
INT NOT NULL,
price
DECIMAL(10,2) NOT NULL,
PRIMARY KEY (id
)
);
– 插入数据
INSERT INTO orders
(id
, price
) VALUES (1, 4.00);
INSERT INTO orders
(id
, price
) VALUES (2, 100.00);
– 创建 shipments 表
CREATE TABLE shipments
(
id
INT NOT NULL,
city
VARCHAR(255) NOT NULL,
PRIMARY KEY (id
)
);
– 插入数据
INSERT INTO shipments
(id
, city
) VALUES (1, ‘beijing’);
INSERT INTO shipments
(id
, city
) VALUES (2, ‘xian’);
– 创建 products 表
CREATE TABLE products
(
id
INT NOT NULL,
product
VARCHAR(255) NOT NULL,
PRIMARY KEY (id
)
);
Doris 暂时不支持自动创建数据库,需要先创建写入表对应的数据库。
进入 Doris Web UI。<http://localhost:8030/>,默认的用户名为 root,默认密码为空。
通过 Web UI 创建 app\_db 数据库
create database if not exists app_db;
![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/2bf42f54cc48442686fd8736c9b942ef.png)
## 通过 FlinkCDC cli 提交任务
下载下面列出的二进制压缩包,并解压得到目录 `flink-cdc-3.0.0`:
[flink-cdc-3.0.0-bin.tar.gz flink-cdc-3.0.0]( ) 下会包含 bin、lib、log、conf 四个目录。
下载下面列出的 connector 包,并且移动到 lib 目录下
* [MySQL pipeline connector 3.0.0]( )
* [Apache Doris pipeline connector 3.0.0]( )
![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/6b0139eca9f94379a52f7d5bf74a4803.png)
### 整库同步
编写任务配置 yaml 文件,下面给出了一个整库同步的示例文件 mysql-to-doris.yaml:
################################################################################
Description: Sync MySQL all tables to Doris
################################################################################
source:
type: mysql
hostname: localhost
port: 3306
username: root
password: 123456
tables: app_db..*
server-id: 5400-5404
server-time-zone: UTC
sink:
type: doris
fenodes: 127.0.0.1:8030
username: root
password: “”
table.create.properties.light_schema_change: true
table.create.properties.replication_num: 1
pipeline:
name: Sync MySQL Database to Doris
parallelism: 2
其中:
source 中的 `tables: app_db.\.*` 通过正则匹配同步 `app_db` 下的所有表。
sink 添加 `table.create.properties.replication_num` 参数是由于 Docker 镜像中只有一个 Doris BE 节点。
最后,通过命令行提交任务到 Flink Standalone cluster
bash bin/flink-cdc.sh conf/mysql-to-doris.yaml
提交成功后,返回信息如:
![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/fedcead7cca446478ff256b3c043ea21.png)
在 Flink Web UI,可以看到一个名为 `Sync MySQL Database to Doris` 的任务正在运行。job id对应上面的cb049fe4a2112510a77ee46e197054a6
![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/b1b96121f4d741e3a31102741604b298.png)
打开 Doris 的 Web UI,可以看到数据表已经被创建出来,数据能成功写入。
![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/db298d355fcc4c699a9841d38987f136.png)
### 同步变更
接下来,修改 MySQL 数据库中表的数据,Doris 中显示的订单数据也将实时更新:
INSERT INTO app_db.orders (id, price) VALUES (3, 100.00);
ALTER TABLE app_db.orders ADD amount varchar(100) NULL;
UPDATE app_db.orders SET price=100.00, amount=100.00 WHERE id=1;
DELETE FROM app_db.orders WHERE id=2;
– 区别于官方再新增一条数据
INSERT INTO app_db.orders VALUES (4, 200, 200.00);
也可以拆开每执行一步,刷新一次 Doris Web UI,可以看到 Doris 中显示的 orders 数据将实时更新,如下所示:
![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/1f53d3e82e414bcfb93bda31d9416970.png)
同样的,去修改 shipments, products 表,也能在 Doris 中实时看到同步变更的结果。
### 路由变更
Flink CDC 提供了将源表的表结构/数据路由到其他表名的配置,借助这种能力,我们能够实现表名库名替换,整库同步等功能。
下面提供一个配置文件`conf/mysql-to-doris-route.yaml`说明:
################################################################################
Description: Sync MySQL all tables to Doris
################################################################################
source:
type: mysql
hostname: localhost
port: 3306
username: root
password: 123456
tables: app_db1..*
server-id: 5400-5404
server-time-zone: UTC
sink:
type: doris
fenodes: 127.0.0.1:8030
benodes: 127.0.0.1:8040
username: root
password: “”
table.create.properties.light_schema_change: true
table.create.properties.replication_num: 1
route:
- source-table: app_db1.orders.*
sink-table: app_db1.ods_orders
pipeline:
name: Sync MySQL Database to Doris
parallelism: 2
通过上面的 route 配置,使用正则表达式,可以将诸如 app\_db1.order\_01、app\_db1.order\_02 的表汇总到 app\_db1.ods\_orders 中。从而实现分库分表同步的功能。注意,目前还不支持多表中存在相同主键数据的场景,将在后续版本支持。
另外官方文档里的写法存在一个问题。
![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/2f6f229571184ee994d72ab068c72865.png)
正则表达式前面加上’\‘转义,`app_db1.orders\.*`,否则会抛出异常:java.util.regex.PatternSyntaxException: Dangling meta character ‘\*’ near index 0 \*
![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/59f4ddf9ab8f4a7b97a26e21a7e32eb8.png)
![img](https://img-blog.csdnimg.cn/img_convert/4d502909cb4f54bc975c4508c56ad817.png)
![img](https://img-blog.csdnimg.cn/img_convert/25d1ebabc8a26735e35d56f450b9abd5.png)
![img](https://img-blog.csdnimg.cn/img_convert/1397219f50af860a988797de1a44d306.png)
**既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!**
**由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新**
**[需要这份系统化资料的朋友,可以戳这里获取](https://bbs.csdn.net/topics/618545628)**
630205779)]
[外链图片转存中...(img-X3uhdiBx-1715630205779)]
**既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!**
**由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新**
**[需要这份系统化资料的朋友,可以戳这里获取](https://bbs.csdn.net/topics/618545628)**