SunTecTec
码龄3年
关注
提问 私信
  • 博客:91,943
    社区:1
    动态:61
    92,005
    总访问量
  • 91
    原创
  • 62,463
    排名
  • 299
    粉丝
  • 0
    铁粉

个人简介:SunTecTec

IP属地以运营商信息为准,境内显示到省(区、市),境外显示到国家(地区)
IP 属地:广东省
  • 加入CSDN时间: 2021-10-29
博客简介:

SunTecTec

查看详细资料
  • 原力等级
    当前等级
    4
    当前总分
    707
    当月
    5
个人成就
  • 获得309次点赞
  • 内容获得15次评论
  • 获得257次收藏
  • 代码片获得423次分享
创作历程
  • 77篇
    2024年
  • 11篇
    2023年
  • 3篇
    2022年
成就勋章
TA的专栏
  • Flink
    付费
  • Paimon
    付费
创作活动更多

超级创作者激励计划

万元现金补贴,高额收益分成,专属VIP内容创作者流量扶持,等你加入!

去参加
  • 最近
  • 文章
  • 代码仓
  • 资源
  • 问答
  • 帖子
  • 视频
  • 课程
  • 关注/订阅/互动
  • 收藏
搜TA的内容
搜索 取消

FlinkCDC 3.2.0 新增优点 Pattern Replacement in routing rules

新增优点:Pattern Replacement in routing rulesflinkcdc 3.2.0版本相较于3.1.0版本,避免了多表多sink多次写 route 路由的麻烦,类似于统一前后缀的形式多表多sink官网:Route | Apache Flink CDC If you’d like to route source tables and rename them to sink tables with specific patterns, could be used to resem
原创
发布博客 2024.09.11 ·
991 阅读 ·
8 点赞 ·
0 评论 ·
4 收藏

ResultSet resultSet = preparedStatement.executeQuery();

【代码】ResultSet resultSet = preparedStatement.executeQuery();
原创
发布博客 2024.08.15 ·
170 阅读 ·
1 点赞 ·
0 评论 ·
0 收藏

FlinkCDC StartupOptions.initial op:r 出现 MysqlSource 自定义时间戳时区东八区格式化未顺利执行,mysql 时间返回null的问题

原因:自定义 debeziumProperties 中使用的自定义 utils 类 MySqlDateTimeConverter 中,convert 时间方法 默认 返回 return 为 null。问题:FlinkCDC StartupOptions.initial op:r 出现 MysqlSource 自定义时间格式化未顺利执行,mysql 时间返回null的问题。解决:默认 return 更改为。
原创
发布博客 2024.08.07 ·
262 阅读 ·
3 点赞 ·
0 评论 ·
0 收藏

Flink Doirs Connector 常见问题:Doris目前不支持流读

问题:对于 Flink Doris DataStream,Flink 想要在 流式读取 Doirs / 实时读 Doris,目前读取完全表后 Flink 程序会结束运行。原因:Doris 目前无法像 Mysql 那样提供 binlog 日志,无法实时监控读 Doris。目前 Doris Source 是有界流,不支持 CDC 方式读取。
原创
发布博客 2024.07.27 ·
493 阅读 ·
3 点赞 ·
0 评论 ·
0 收藏

Flink 任务启动常用命令

flink cancel -s/--withSavepoint <path> <job_id> : 取消正在运行的job,并保存到相应的保存点。# -s,--fromSavepoint <savepointPath> : 基于savepoint保存下来的路径,进行恢复。flink modify <job_id> -p/--parallelism p : 修改job的并行度。flink list -r/--runing :列出正在运行的job。# -d,--detached : 在后台运行。
原创
发布博客 2024.07.08 ·
1444 阅读 ·
3 点赞 ·
0 评论 ·
6 收藏

Flink 提交作业的方式

参考:Flink运行方式及对比-腾讯云开发者社区-腾讯云
原创
发布博客 2024.07.08 ·
586 阅读 ·
1 点赞 ·
0 评论 ·
0 收藏

Flink Checkpoints 与 Savepoints

从概念上讲,Flink 的savepoints与的不同之处类似于传统数据库系统中的备份与恢复日志之间的差异。Checkpoints 的主要目的是为意外失败的作业提供恢复机制。Checkpoint 的生命周期由 Flink 管理, 即 Flink 创建,管理和删除 checkpoint - 无需用户交互。由于 checkpoint 被经常触发,且被用于作业恢复,所以 Checkpoint 的实现有两个设计目标:i)轻量级创建和 ii)尽可能快地恢复。
原创
发布博客 2024.07.05 ·
1093 阅读 ·
26 点赞 ·
0 评论 ·
29 收藏

FlinkCDC-3.1.1 DataStream Source

scala版本根据下载flink.tgz安装包时指定的版本号。在poml文件中,导入的flink-table依赖把。
原创
发布博客 2024.07.04 ·
451 阅读 ·
1 点赞 ·
0 评论 ·
0 收藏

MAVEN 重新配置参考

windows 系统环境变量 MAVEN_HOME 也可以改一下。
原创
发布博客 2024.07.03 ·
262 阅读 ·
1 点赞 ·
0 评论 ·
0 收藏

Python 连接 Doris pymysql游标cursor.excute(sql) 并且添加事务和自动重连操作

为了避免出现连接超时中断错误。
原创
发布博客 2024.06.28 ·
521 阅读 ·
2 点赞 ·
0 评论 ·
0 收藏

Jackson序列化时实现任意类型自定义转换

自定义Jackson2序列化反序列化,参考:Jackson序列化时实现任意类型自定义转换_jackson 自定义转换-CSDN博客
原创
发布博客 2024.06.27 ·
308 阅读 ·
3 点赞 ·
0 评论 ·
0 收藏

Java 自定义jackson2序列化器遇到的问题

问题2:ClassNotFoundException: com.fasterxml.jackson.annotation.JsonMerge。缺少 jar 包:jackson-annotations。问题1:java: 错误: 不支持发行版本 5。修改idea java环境。
原创
发布博客 2024.06.27 ·
288 阅读 ·
2 点赞 ·
0 评论 ·
0 收藏

IDEA设置自动删除无效import

原创
发布博客 2024.06.26 ·
192 阅读 ·
3 点赞 ·
0 评论 ·
0 收藏

Flink Connector Format JSON 提供的几个Pojo

可以使用这两个Pojo示例:
原创
发布博客 2024.06.24 ·
322 阅读 ·
3 点赞 ·
0 评论 ·
0 收藏

FlinkCDC pipeline模式 mysql-to-paimon.yaml

flinkcdc 需要引入:source端:sink端:
原创
发布博客 2024.06.23 ·
610 阅读 ·
3 点赞 ·
0 评论 ·
0 收藏

FlinkCDC sink paimon 暂不支持exactly-once写入,而通过 幂等写

需要注意的是,依赖于幂等性sink来达到exactly-once语义的应用程序,必须保证在从检查点恢复以后,它将会覆盖之前已经写入的结果。同时,从Flink程序sink到的key-value存储中读取数据的应用,在Flink从检查点恢复的过程中,可能会看到不想看到的结果。例如,重复的向hashmap中插入同样的key-value对就是幂等操作,因为头一次插入操作之后所有的插入操作都不会改变这个hashmap,因为hashmap已经包含这个key-value对了。
原创
发布博客 2024.06.23 ·
472 阅读 ·
1 点赞 ·
0 评论 ·
5 收藏

Paimon Trino Presto的关系 分布式查询引擎

Trino 是 Presto 同项目的不同版本,是原Presto核心开发和维护人员分离出来后开发和维护的分支,Trino基于Presto,目前 Trino 和 Presto 都仍在继续开发和维护。
原创
发布博客 2024.06.23 ·
420 阅读 ·
2 点赞 ·
0 评论 ·
1 收藏

Paimon 首次启动 ClassNotFoundException: org.apache.paimon.flink.sink.FlinkStreamPartitioner

解决:部分分布式节点缺少 paimon-flink.jar,导致 taskexecutor 无法执行sink。
原创
发布博客 2024.06.23 ·
256 阅读 ·
3 点赞 ·
0 评论 ·
0 收藏

Mysql 官方提供的公共测试数据集 Example Databases

数据集:下载 test_db:Linux 导入 mysql:
原创
发布博客 2024.06.22 ·
381 阅读 ·
1 点赞 ·
0 评论 ·
1 收藏

Centos7 Mysql8.3.0 安装地址

MySQL :: Download MySQL Community Server (Archived Versions)
原创
发布博客 2024.06.22 ·
304 阅读 ·
3 点赞 ·
0 评论 ·
0 收藏
加载更多