Flink消费kafka消息实战,字节跳动+阿里+华为+小米等10家大厂面试真题

本文介绍了使用Flink消费Kafka消息的实战经验,涉及字节跳动、阿里、华为、小米等公司面试常见问题。通过在Docker中部署Kafka和消息生产者,利用Apache Bench进行压力测试,展示Flink应用处理大规模消息的能力。同时,提供了源码下载和相关版本信息。
摘要由CSDN通过智能技术生成

注意:

  1. 本文的重点是Flink,所以在192.168.1.101这台机器上通过Docker快速搭建了kafka server和消息生产者,只要向这台机器的消息生产者容器发起http请求,就能生产一条消息到kafka;

  2. 192.168.1.104这台机器安装了Apache Bench,可以通过简单的命令,向192.168.1.101发起大量http请求,这样就能产生大量kafka消息;

整体架构如下图:

在这里插入图片描述

[](

)操作步骤

  1. 在机器192.168.1.101上部署三个容器(消息生产者、zookeeper、kafka);

  2. 在机器192.168.1.104上安装Apache Bench;

  3. 在机器192.168.1.102上配置kafak相关的host;

  4. 开发Flink应用,部署到机器192.168.1.102;

  5. 在机器192.168.1.104上发起压力测试,请求地址是消息生产者的http接口地址,产生大量消息;

  6. 观察Flink应用的处理情况;

[](

)版本信息

  1. 操作系统:Centos7

  2. docker:17.03.2-ce

  3. docker-compose:1.23.2

  4. kafka:0.11.0.3

  5. zookeeper:3.4.9

  6. JDK:1.8.0_191

  7. spring boot:1.5.9.RELEASE

  8. spring-kafka:1.3.8.RELEASE

  9. Flink:1.7

[](

)在机器192.168.1.101上部署三个容器(消息生产者、zookeeper、kafka)

构建kafka相关的环境不是本文重点,因此这里利用docker快速实现,步骤如下ÿ

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值