Azure云搭建kafka集群环境

本文档详细介绍了如何在Azure云环境中搭建Kafka集群,包括安装Java、配置Kafka、启动服务以及测试集群。内容涵盖Java环境的安装、Kafka版本选择、配置文件修改以及创建和验证topic的过程。
摘要由CSDN通过智能技术生成

1. 环境概述

kafka集群环境搭建需要zookeeper集群支持,目前kafka压缩包自带zookeeper,本次集群实施我们采用kafka自带的zookeeper对环境部署。
Zookeeper集群搭建至少需要三台vm,如果需要增加集群,zookeeper集群数量为(2n+1)增加。
下图为kafka体系结构:
在这里插入图片描述

Topic:
主题可理解为一个队列。Kafka的消息通过topic进行分类,topic就像是数据库中的"表"。topic可以被分成若干个分区(类似HBase中建表时预分区),一个分区对应一个提交日志。消息以追加的方式写入分区,然后以FIFO进行顺序读取,每个分区内的顺序是确定的
Producer:
消息生产者,向 broker 推送消息的客户端。一个消息会被发布到一个特定的topic上,producer默认会将消息均衡地分布到主题的所有分区上(Hash分区器)
Consumer:
消息消费者,向 broker 抓取消息的可独断。Consumer可以抓取同一个topic中的不同分区,并按照消息生成的顺序读取
Consumer通过检查消息的offset来区分已经读取过的消息。
Brocker:
一台 kafka 服务器就是一个 broker。一个集群由多个 broker 组成。一个 broker 可以容纳多个 topic。

2. 软件环境

测试环境如下:
Azure vm(red hat 7.
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值