Flink
文章平均质量分 89
justsomebody126
这个作者很懒,什么都没留下…
展开
-
Flink 原理与实现: 内存管理
来源:http://wuchong.me/blog/2016/04/29/flink-internals-memory-manage/如今,大数据领域的开源框架(Hadoop,Spark,Storm)都使用的 JVM,当然也包括 Flink。基于 JVM 的数据分析引擎都需要面对将大量数据存到内存中,这就不得不面对 JVM 存在的几个问题:Java 对象存储密度低。一个只包含 boolean 属性的对象占用了16个字节内存:对象头占了8个,boolean 属性占了1个,对齐填充占了7个。而实际上只需.转载 2021-03-24 14:57:01 · 150 阅读 · 0 评论 -
Flink Checkpoint机制原理剖析与参数配置
来源:https://zhuanlan.zhihu.com/p/104601440在Flink状态管理详解这篇文章中,我们介绍了Flink的状态都是基于本地的,而Flink又是一个部署在多节点的分布式引擎,分布式系统经常出现进程被杀、节点宕机或网络中断等问题,那么本地的状态在遇到故障时如何保证不丢呢?Flink定期保存状态数据到存储上,故障发生后从之前的备份中恢复,整个被称为Checkpoint机制,它为Flink提供了Exactly-Once的投递保障。本文将介绍Flink的Checkpoint机制的原转载 2021-03-23 20:54:45 · 147 阅读 · 0 评论