kafka集群搭建

本文介绍了Kafka作为分布式消息系统的功能,如缓冲、解耦和扩展性,并详细阐述了Kafka集群的搭建步骤,包括Zookeeper的安装和配置。接着讨论了Kafka消息重复消费和丢失的原因,提出了通过手动维护offset来解决这些问题的方法,还提及了副本机制和选举过程。
摘要由CSDN通过智能技术生成

kafka是分布式发布-订阅消息系统,主要功能有:

1、缓冲和削峰:上游数据时有突发流量,导致下游服务器可能扛不住,kafka在中间可以起到一个缓冲的作用,把消息暂存在kafka中,下游服务就可以按照自己的节奏进行,慢慢处理业务。

2、解耦和扩展性:项目开始的时候,并不能确定具体的需求,消息队列可以作为一个接口层,解耦重要的业务流程,只需要遵守约定,针对数据编程即可获取扩展能力

3、冗余:可以采用一对多的方式,一个生产者生产消息,可以被多个订阅topic的服务消费到,供多个毫无关联的业务使用

4、健壮性:消息队列可以堆积请求,所以消费端业务即使短时间死掉,也不会影响主要业务的正常进行

5、异步通信:很多时候,用户不想也不需要立即处理消息,消息队列提供了异步处理机制,允许用户把一个消息放入队列,但并不立即处理它。在有需要的时候再去处理它。

kafka版本号:kafka_2.11-2.0.0

zookeeper版本号:apache-zookeeper-3.5.5

kafka集群搭建步骤:

kafka安装之前,需要先安装zooKeeper,详细安装步骤:https://blog.csdn.net/weixin_42558742/article/details/89052702

目前在我虚拟机上192.168.131.166, 192.168.131.167,192.168.131.168三台服务器上搭建kafka集群,相关配置步骤如下图所示:

1、官网上下载kafka版本,解压。 tar -zxvf 包名

2、启动zookeeper,进入到bin目录:执行 sh zkServer.sh start

3、配置kafka配置文件server.properties

broker.id=0

listeners=PLAINTEXT://192.168.131.166:9092

zookeeper.connect=192.168.131.167:2181

三台服务器上述三个配置都需要改,broker.id必须是唯一的

4、三台服务器分别后台启动kafka

命令:sh kafka-server-start.sh -daemon ../config/server.properties

5、 三个节点已经成功注册到zookeeper

以上,kafka集群搭建完成

kafka相关代码demo

生产者 

package 
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值