既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!
由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新
github地址:https://github.com/rockets0421/FlinkCDC-PG.git
一、前置准备工作
1、更改配置文件postgresql.conf
更改wal日志方式为logical
wal_level = logical # minimal, replica, or logical
更改solts最大数量(默认值为10),flink-cdc默认一张表占用一个slots
max_replication_slots = 20 # max number of replication slots
更改wal发送最大进程数(默认值为10),这个值和上面的solts设置一样
max_wal_senders = 20 # max number of walsender processes
中断那些停止活动超过指定毫秒数的复制连接,可以适当设置大一点(默认60s)
wal_sender_timeout = 180s # in milliseconds; 0 disable
wal_level是必须更改的,其它参数选着性更改,如果同步表数量超过10张建议修改为合适的值
更改配置文件postgresql.conf完成,需要重启pg服务生效
2、新建用户并且给用户复制流权限
– pg新建用户
CREATE USER user WITH PASSWORD ‘pwd’;
– 给用户复制流权限
ALTER ROLE user replication;– 给用户登录