Flink
文章平均质量分 94
工作多年遇到的问题,与一些总结,注意事项等
菜鸟蜀黍
日常工作记录心得分享,力求浅显易懂,图文并茂,欢迎点赞关注,交流指正!!!
展开
-
【Flink】Flink SQL之路
看了那么多的技术文,你能明白作者想让你在读完文章后学到什么吗?博主会阐明博主期望本文能给小伙伴们带来什么帮助,让小伙伴萌能直观明白博主的心思博主会以实际的应用场景和案例入手,不只是知识点的简单堆砌博主会把重要的知识点的原理进行剖析,让小伙伴萌做到深入浅出呕心沥血,Flink SQL 成神之路出品。小伙伴萌可以先体验一下下图大纲。由于微信公众号限制上传图片像素,所以博主分隔成了 5 张图片。。。NB源码公众号后台回复1.13.2 最全 flink sql获取。Apache Flink 提供了两种关系型 API转载 2022-06-17 14:40:22 · 1664 阅读 · 0 评论 -
【Flink】基于Flink构建全场景实时数仓
虽然实时计算在最近几年才火起来,但是在早期也有部分公司有实时计算的需求,但是数据量比较少,所以在实时方面形成不了完整的体系,基本所有的开发都是具体问题具体分析,来一个需求做一个,基本不考虑它们之间的关系,开发形式如下:早期实时计算如上图所示,拿到数据源后,会经过数据清洗,扩维,通过Flink进行业务逻辑处理,最后直接进行业务输出。把这个环节拆开来看,数据源端会重复引用相同的数据源,后面进行清洗、过滤、扩维等操作,都要重复做一遍,唯一不同的是业务的代码逻辑是不一样的。随着产品和业务人员对实时数据需求的不断增多原创 2022-06-12 11:42:53 · 3799 阅读 · 1 评论 -
基于 Flink SQL 构建流批一体的 ETL 数据集成
Flink 对各个系统的数据接入能力、维度打宽能力、入仓/入湖能力都已经非常完善了。在 CDC 流式读取上,Flink 已经支持了主流的数据库和 Kafka 消息队列。在数据湖方向,Flink 对 Iceberg 的流式读取和 CDC 写入的功能也即将在接下来的 Iceberg 版本中发布。从这个能力矩阵可以看出,Flink 的数据集成能力是非常全面的原创 2022-04-02 17:26:08 · 854 阅读 · 0 评论