精选Flink面试题

最新推荐文章于 2024-05-20 21:59:51 发布

大数据供成屎

最新推荐文章于 2024-05-20 21:59:51 发布

阅读量718

点赞数

文章标签： flink elasticsearch java

本文链接：https://blog.csdn.net/lbg20211023/article/details/126490438

版权

1、应用架构
问题：公司怎么提交的实时任务，有多少 Job Manager？

解答：

1. 我们使用 yarn Per-job or Application Mode 模式提交任务。每次提交都会创建一个新的 Flink 集群，任务之间互相独立，互不影响，方便管理。任务执行完成之后创建的集群也会消失。线上命令脚本如下：

2. 集群默认只有一个 Job Manager。但为了防止单点故障，我们配置了高可用。我们公司一般配置一个主 Job Manager，两个备用 Job Manager，然后结合 ZooKeeper 的使用，来达到高可用。

2、压测和监控
问题：怎么做压力测试和监控？

解答：我们一般碰到的压力来自以下几个方面：

一，产生数据流的速度如果过快，而下游的算子消费不过来的话，会产生背压。背压的监控可以使用 Flink Web UI(localhost:8081) 来可视化监控，一旦报警就能知道。一般情况下背压问题的产生可能是由于 sink 这个操作符没有优化好，做一下优化就可以了。比如如果是写入 ElasticSearch，那么可以改成批量写入，可以调大 ElasticSearch 队列的大小等等策略。