Flink原理解析，面试官6个灵魂拷问

最新推荐文章于 2024-09-22 21:55:37 发布

m0_60607371

最新推荐文章于 2024-09-22 21:55:37 发布

阅读量891

点赞数 30

分类专栏： 2024年程序员学习文章标签： flink 大数据

本文链接：https://blog.csdn.net/m0_60607371/article/details/137162044

版权

2024年程序员学习专栏收录该内容

236 篇文章 1 订阅

订阅专栏

=========================================================================

Flink是新一代分布式流式计算引擎，用于对海量数据进行实时处理和计算，具备快速容错（支持每条消息恰好处理一次）、流批一体、低延时、支持数据乱序的特点。

Flink的主要应用场景如下：

数据分析场景：流式计算平台相对于传统的基于批的计算平台具备最大优点就是实时性，典型的应用场景就是淘宝的双十一大屏和一些实时性要求比较高的数据看班
事件驱动场景：相比于MetaQ或其他消息队列，Flink可以基于Flink Sql或者其他API进行一些复杂的计算或者过滤操作，比如基于用户行为触发风控报警等
ETL场景：这个比较容易理解，相对于传统的ETL工具，blink更为灵活

2.设计原理

=====================================================================

容错机制

分布式环境下的流式处理平台相对于批处理平台而言，一个非常重要的问题是如何保证分布式计算节点在发生故障并恢复后最终的计算结果是正确的。在批处理的模式下，数据有界，在任务开始前我们就可以得到需要计算的所有数据，如果节点出错，最坏的情况下只需要对数据集进行重新计算，但在流式处理模式下，数据是源源不断产生并且无界的，节点故障恢复后无法从头开始重新计算。

分布式快照

在网络服务中，快照是比较常用的一个容错机制，比如Redis中就有基于RDB进行数据恢复的策略，flink的快速容错机制也是基于快照的方式实现的。在单机环境下，保存快照比较简单，只需要在某个时间点暂停任务处理并将当前状态持久化即可，但在分布式系统中，由于没有一个全局时钟，想要同时对所有计算节点的状态进行保存是很难做到的(要详细了解可以参考附录：分布式系统中的时钟）。最简单的实现方式是通过类似2PC的方式将所有节点任务都停止并进行状态保存，最后统一上报，但这这种stop the world的方式会极大的增加计算延时和降低吞吐量。flink最终的解决方案是基于Chandy-Lamport算法改进而来的Asynchronous Barrier Snapshotting（异步屏障快照）算法

Chandy-Lamport

chandy-lamport算法的核心思想是将分布式系统抽象为一个有向图，每个分布式节点作为顶点，节点与节点之间的通信信道被抽象为图的有向边（input channel，output channel），在发起快照时，每个节点会记录自身状态和input channel的状态，最终可以得到一个全局一致的快照，下面用一个例子详细解释。

如下图所示，一个分布式系统中有两个节点P1和P2，两个节点分别有X,Y,Z三个状态，通过C12和C21两个信道可以互相发送消息

首先P1发起了一个快照操作（同时可以上报到一个全局的快照协调系统），他会先保存自身状态[X1:0,Y1:0,Z1:0],并向下游发送一个特殊消息marker，用于通知下游节点也进行快照操作，与此同时，P2通过C21向P1发送了一条业务消息

此时由于P1已经完成了快照，在P2节点未完成快照之前不可以进行消息处理，否则最后生成的全局快照会不一致，此时需要将它的输入信道C21中的所有消息（目前只有M1）也追加到快照中，与此同时P2接收到了P1过来的marker信息，同样进行了快照操作

最后P1接收到来自P2的marker信息，此时两个节点快照都保存完毕（同样可以上报到一个全局的快照协调系统，告知快照操作结束），可以认为全局快照生成成功

可以看到整体的算法还是比较简单易懂的，但要注意的是，此算法要求网络的传输是有序的，可靠的（很容易就会想到TCP协议），需要严格保证消息和marker是按发送顺序到达其他节点。

Asynchronous Barrier Snapshotting

Chandy-Lamport虽然理解起来不复杂，但存在两个比较大的问题。1是在进行快照时节点不仅需要保存自身状态，还要保存所有input channer中的消息，这会导致快照体积比较大，并且基于快照进行恢复时效率低，2是整个系统的运行效率取决于最慢的计算节点。flink基于Chandy-Lamport算法进行了改进，它的核心思想如下

每当需要生成全局快照时，流的source在产生的消息是插入一个带ID的特殊信息，称之为barrier（屏障），同时source会向快照协调者上报快照生成操作已启动，并记录自身offset（用于故障回复之后流的重放），这些屏障会将整个数据流切分为不同的数据集，当下游的处理节点处理到屏障时会在本地保存一份快照，并向更下游广播带有相同ID的屏障，最终当sink（流的输出端）也处理到屏障时，向协调者上报快照生成成功，还是以一个例子进行说明

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Python工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Python开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。