Flink实战
文章平均质量分 82
flink企业级实时开发
axin1995
世上唯一不能复制的是时间
唯一不能重演的是人生
该怎么走,过什么样的生活全凭自己的选择和努力。人生很贵,请别浪费。
展开
-
Flink实战 - 周窗口-week window实现
遇到的问题:原创 2021-05-27 03:14:06 · 985 阅读 · 0 评论 -
Flink实战 - 使用异步方式读取mysql数据
Flink 是流计算引擎在Flink任务开发过程中经常会遇到从外部存储获取数据的场景,比如处理日志数据时,需要获取到用户的信息原创 2021-02-28 04:34:43 · 2668 阅读 · 6 评论 -
Flink - flinksql使用TIMESTAMPDIFF遇到的问题
先说需求:计算今日复访用户数,要求该用户前3天内有访问该直播间的记录需求分析:如何确定前3天内有访问,这份数据我是通过离线同学帮忙每天凌晨更新的,存在的误差也在接受范围之内。 今天的访客需要从之前的记录中判断是否有近3天的。 统计uv数据处理:同步用户最近一次访问直播间的时间,userLastVisitRoomTime,记录用户最近一次访问直播间的时间,这个表是T+1(离线数据,只有今日00:00:00的数据)的。 使用flinksql进行join该表,该表中userId + roomI原创 2021-02-23 02:32:16 · 3870 阅读 · 2 评论 -
Flink实战 - 统计每个店铺每日GMV
Flink实战-统计每个店铺每日GMV接到一个实时指标的需求,计算每个店铺每日的实时GMV。这个实时指标不难,对每个店铺、每日分组累计销售额就OK。就是想的这么简单,结果在上面踩了坑。问题计算这个任务是用 Stream API 实现的,对每个shopId和时间天进行keyby,具体代码:// payTime 转时间格式 <这个后续有优化的方案>SimpleDateFormat fm = new SimpleDateFormat("yyyy-MM-dd");shopOrd原创 2020-11-15 17:25:35 · 4576 阅读 · 2 评论 -
Flink实战 - 利用SessionWindow处理心跳数据
Flink实战 - 利用SessionWindow处理直播间用户心跳数据Flink利用SessionWindow处理心跳数据1.SessionWindow 介绍先看看Flink提供的多种计算窗口countWindow:基于数据,根据数据的条数来划定一次聚合计算范围。timeWindow:根据时间划分聚合计算的范围。timeWindow又分为三种:Tumbling window 滚动窗口Sliding Window 滑动窗口Session Window 会话窗口其他窗口不再叙述,主原创 2020-09-14 03:25:53 · 1167 阅读 · 5 评论
分享