分布式消息队列Kafka（三）- 服务节点Broker

最新推荐文章于 2024-01-16 16:44:56 发布
最新推荐文章于 2024-01-16 16:44:56 发布
阅读量712 收藏
点赞数
分类专栏： 大数据 文章标签： kafka 分布式 java
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_42232931/article/details/130365011
版权

1.Kafka Broker 工作流程

（1）zookeeper中存储的kafka信息

​ 1）启动 Zookeeper 客户端。

[zrclass@hadoop102 zookeeper-3.5.7]$ bin/zkCli.sh

​ 2）通过 ls 命令可以查看 kafka 相关信息。

[zk: localhost:2181(CONNECTED) 2] ls /kafka

在这里插入图片描述

（2）Kafka中两种Leader的概念

kafka集群中有2个种leader，一种是broker的leader即controller leader，还有一种就是partition中的副本的leader

1）Controller leader

当broker启动的时候，都会创建KafkaController对象，但是集群中只能有一个leader对外提供服务，这些每个节点上的KafkaController会在指定的zookeeper路径下创建临时节点，只有第一个成功创建的节点KafkaController才可以成为leader，其余的都是follower。当leader故障后，所有的follower会收到通知，再次竞争在该路径下创建节点从而选举新的leader

2） Replication leader

为了实现高可用，保证集群中的某个节点发生故障时，且节点上的partition 数据不丢失且kafka能正常提供服务，kafka提供副本机制，topic内的每个分区可以设置若干个副本（包含leader和follower）； 消息的读写只会发生在leader副本上。

（3）Kafka Broker 总体工作流程

在这里插入图片描述

（4）模拟 Kafka 上下线，Zookeeper中数据变化

1）查看/kafka/brokers/ids 路径上的节点。

[zk: localhost:2181(CONNECTED) 2] ls /kafka/brokers/ids 

[0, 1, 2]

2）查看/kafka/controller 路径上的数据。

[zk: localhost:2181(CONNECTED) 15] get /kafka/controller 

{"version":1,"brokerid":0,"timestamp":"1637292471777"}

3）查看/kafka/brokers/topics/first/partitions/0/state 路径上的数据。

[zk: localhost:2181(CONNECTED) 16] get /kafka/brokers/topics/first/partitions/0/state 

{"controller_epoch":24,"leader":0,"version":1,"leader_epoch":18," isr":[0,1,2]}

4）停止 hadoop104 上的 kafka。

[atguigu@hadoop104 kafka]$ bin/kafka-server-stop.sh

5）再次查看/kafka/brokers/ids 路径上的节点。

[zk: localhost:2181(CONNECTED) 3] ls /kafka/brokers/ids 

[0, 1]

6）再次查看/kafka/controller 路径上的数据。

[zk: localhost:2181(CONNECTED) 15] get /kafka/controller 

{"version":1,"brokerid":0,"timestamp":"1637292471777"}

7）再次查看/kafka/brokers/topics/first/partitions/0/state 路径上的数据。

[zk: localhost:2181(CONNECTED) 16] get /kafka/brokers/topics/first/partitions/0/state 

{"controller_epoch":24,"leader":0,"version":1,"leader_epoch":18," isr":[0,1]}
（5）Broker重要参数

在这里插入图片描述

在这里插入图片描述

2.kafka副本

（1）Kafka 副本作用：提高数据可靠性。

（2）Kafka 默认副本 1 个，生产环境一般配置为 2 个，保证数据可靠性；太多副本会 增加磁盘存储空间，增加网络上数据传输，降低效率。

（3）Kafka 中副本分为：Leader 和 Follower。Kafka 生产者只会把数据发往 Leader， 然后 Follower 找 Leader 进行同步数据。

（4）Kafka 分区中的所有副本统称为 AR（Assigned Repllicas）。

AR = ISR + OSR

ISR， In-Sync Replicas （同步副本集 )，表示和 Leader 保持同步的 Follower 集合。如果 Follower 长时间未向 Leader 发送通信请求或同步数据，则该 Follower 将被踢出 ISR。该时间阈值由 replica.lag.time.max.ms 参数设定，默认 30s。Leader 发生故障之后，就会从 ISR 中选举新的 Leader。

OSR， （ Out-Sync Relipcas ），表示 Follower 与 Leader 副本同步时，延迟过多的副本。

3.kafka分区副本的选举流程

（1）Kafka选举流程

Kafka 集群中有一个 broker 的 Controller 会被选举为 Controller Leader，负责管理集群 broker 的上下线，所有 topic 的分区副本分配和副本 Leader 选举等工作。 Controller 的信息同步工作是依赖于 Zookeeper 的。

在这里插入图片描述

（2）模拟kafka的Follewer和Leader故障

1）创建一个新的 topic，4 个分区，4 个副本

[zrclass@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server 
hadoop102:9092 --create --topic test --partitions 4 --replication-factor 4
Created topic test.

2）查看 Leader 分布情况

[zrclass@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --describe --topic test
Topic: test TopicId: awpgX_7WR-OX3Vl6HE8sVg PartitionCount: 4 ReplicationFactor: 4
Configs: segment.bytes=1073741824
Topic: test Partition: 0 Leader: 3 Replicas: 3,0,2,1 Isr: 3,0,2,1
Topic: test Partition: 1 Leader: 1 Replicas: 1,2,3,0 Isr: 1,2,3,0
Topic: test Partition: 2 Leader: 0 Replicas: 0,3,1,2 Isr: 0,3,1,2
Topic: test Partition: 3 Leader: 2 Replicas: 2,1,0,3 Isr: 2,1,0,3

3）停止掉 hadoop105 的 kafka 进程，并查看 Leader 分区情况

如果 Follower 长时间未向 Leader 发送通信请求或同步数据，则该 Follower 将被踢出 ISR

[zrclass@hadoop105 kafka]$ bin/kafka-server-stop.sh
[zrclass@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --describe --topic test
Topic: test TopicId: awpgX_7WR-OX3Vl6HE8sVg PartitionCount: 4 ReplicationFactor: 4
Configs: segment.bytes=1073741824
Topic: test Partition: 0 Leader: 0 Replicas: 3,0,2,1 Isr: 0,2,1
Topic: test Partition: 1 Leader: 1 Replicas: 1,2,3,0 Isr: 1,2,0
Topic: test Partition: 2 Leader: 0 Replicas: 0,3,1,2 Isr: 0,1,2
Topic: test Partition: 3 Leader: 2 Replicas: 2,1,0,3 Isr: 2,1,0

4）停止掉 hadoop104 的 kafka 进程，并查看 Leader 分区情况

如果 Follower 长时间未向 Leader 发送通信请求或同步数据，则该 Follower 将被踢出 ISR

[zrclass@hadoop104 kafka]$ bin/kafka-server-stop.sh
[zrclass@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --describe --topic test
Topic: test TopicId: awpgX_7WR-OX3Vl6HE8sVg PartitionCount: 4 ReplicationFactor: 4
Configs: segment.bytes=1073741824
Topic: test Partition: 0 Leader: 0 Replicas: 3,0,2,1 Isr: 0,1
Topic: test Partition: 1 Leader: 1 Replicas: 1,2,3,0 Isr: 1,0
Topic: test Partition: 2 Leader: 0 Replicas: 0,3,1,2 Isr: 0,1
Topic: test Partition: 3 Leader: 1 Replicas: 2,1,0,3 Isr: 1,0

5）启动 hadoop105 的 kafka 进程，并查看 Leader 分区情况

Follower重新向leader发送通信请求或同步数据，Follower重新加入到ISR

[zrclass@hadoop105 kafka]$ bin/kafka-server-start.sh -daemon config/server.properties
[zrclass@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --describe --topic test
Topic: test TopicId: awpgX_7WR-OX3Vl6HE8sVg PartitionCount: 4 ReplicationFactor: 4
Configs: segment.bytes=1073741824
Topic: test Partition: 0 Leader: 0 Replicas: 3,0,2,1 Isr: 0,1,3
Topic: test Partition: 1 Leader: 1 Replicas: 1,2,3,0 Isr: 1,0,3
Topic: test Partition: 2 Leader: 0 Replicas: 0,3,1,2 Isr: 0,1,3
Topic: test Partition: 3 Leader: 1 Replicas: 2,1,0,3 Isr: 1,0,3

6）启动 hadoop104 的 kafka 进程，并查看 Leader 分区情况

Follower重新向leader发送通信请求或同步数据，Follower重新加入到ISR

[zrclass@hadoop104 kafka]$ bin/kafka-server-start.sh -daemon config/server.properties
[zrclass@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --describe --topic test
Topic: test TopicId: awpgX_7WR-OX3Vl6HE8sVg PartitionCount: 4 ReplicationFactor: 4
Configs: segment.bytes=1073741824
Topic: test Partition: 0 Leader: 0 Replicas: 3,0,2,1 Isr: 0,1,3,2
Topic: test Partition: 1 Leader: 1 Replicas: 1,2,3,0 Isr: 1,0,3,2
Topic: test Partition: 2 Leader: 0 Replicas: 0,3,1,2 Isr: 0,1,3,2
Topic: test Partition: 3 Leader: 1 Replicas: 2,1,0,3 Isr: 1,0,3,2

7）停止掉 hadoop103 的 kafka 进程，并查看 Leader 分区情况

Leader 发生故障之后，就会从 ISR 中选举新的 Leader，按照AR(分区中所有副本)的排列顺序轮询，即控制台中Replicas所展示的顺序轮询

[zrclass@hadoop103 kafka]$ bin/kafka-server-stop.sh
[zrclass@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --describe --topic test
Topic: test TopicId: awpgX_7WR-OX3Vl6HE8sVg PartitionCount: 4 ReplicationFactor: 4
Configs: segment.bytes=1073741824
Topic: test Partition: 0 Leader: 0 Replicas: 3,0,2,1 Isr: 0,3,2
Topic: test Partition: 1 Leader: 2 Replicas: 1,2,3,0 Isr: 0,3,2
Topic: test Partition: 2 Leader: 0 Replicas: 0,3,1,2 Isr: 0,3,2
Topic: test Partition: 3 Leader: 2 Replicas: 2,1,0,3 Isr: 0,3,2
（3）Leader 和 Follower 故障处理细节

1）Follower故障处理细节

在这里插入图片描述

2）Leader故障处理细节

在这里插入图片描述

（4）kafka分区副本的分配

如果 kafka 服务器只有 4 个节点，那么设置 kafka 的分区数大于服务器台数，在 kafka
底层如何分配存储副本呢？
1）创建 16 分区，3 个副本
创建一个新的 topic，名称为 second。

[zrclass@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server 
hadoop102:9092 --create --partitions 16 --replication-factor 3 --topic second

查看分区和副本情况。

[zrclass@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server 
hadoop102:9092 --describe --topic second
Topic: second4 Partition: 0 Leader: 0 Replicas: 0,1,2 Isr: 0,1,2
Topic: second4 Partition: 1 Leader: 1 Replicas: 1,2,3 Isr: 1,2,3
Topic: second4 Partition: 2 Leader: 2 Replicas: 2,3,0 Isr: 2,3,0
Topic: second4 Partition: 3 Leader: 3 Replicas: 3,0,1 Isr: 3,0,1
Topic: second4 Partition: 4 Leader: 0 Replicas: 0,2,3 Isr: 0,2,3
Topic: second4 Partition: 5 Leader: 1 Replicas: 1,3,0 Isr: 1,3,0
Topic: second4 Partition: 6 Leader: 2 Replicas: 2,0,1 Isr: 2,0,1
Topic: second4 Partition: 7 Leader: 3 Replicas: 3,1,2 Isr: 3,1,2
Topic: second4 Partition: 8 Leader: 0 Replicas: 0,3,1 Isr: 0,3,1
Topic: second4 Partition: 9 Leader: 1 Replicas: 1,0,2 Isr: 1,0,2
Topic: second4 Partition: 10 Leader: 2 Replicas: 2,1,3 Isr: 2,1,3
Topic: second4 Partition: 11 Leader: 3 Replicas: 3,2,0 Isr: 3,2,0
Topic: second4 Partition: 12 Leader: 0 Replicas: 0,1,2 Isr: 0,1,2
Topic: second4 Partition: 13 Leader: 1 Replicas: 1,2,3 Isr: 1,2,3
Topic: second4 Partition: 14 Leader: 2 Replicas: 2,3,0 Isr: 2,3,0
Topic: second4 Partition: 15 Leader: 3 Replicas: 3,0,1 Isr: 3,0,1

总结

1.kafka的副本数量不能大于broker节点数量。kafka的副本数量和HDFS的副本数量是有区别的。
  （1）HDFS的副本数量表示为最大副本数量，当DataNode节点数量小于设置的副本数量时没有任何问题，当新增DataNode时候如果副本数量没达到要求会自动复制副本。
  （2）而kafka的副本数量表示为该topic的副本数量，当副本数量大于broker节点数量时会报错，这是因为分区是以目录存储在各个broker节点的data目录下，命名为：topicName-分区编号。当副本数量大于broker节点时就表示在同一个Broker节点的data目录下有两个一样的文件夹，这是不允许的。
2.kafka的分区数量可以大于broker节点数量，当分区数量大于broker节点数量时，在broker节点的data目录下会有同一个topic的两个分区的数据，如：topicName-0，topicName-1。
（5）手动调整分区副本存储

在生产环境中，每台服务器的配置和性能不一致，但是Kafka只会根据自己的代码规则创建对应的分区副本，就会导致个别服务器存储压力较大。所有需要手动调整分区副本的存储。

需求：创建一个新的topic，4个分区，两个副本，名称为three。将 该topic的所有副本都存储到broker0和broker1两台服务器上。

在这里插入图片描述

手动调整分区副本存储的步骤如下：
1）创建一个新的 topic，名称为 three。

[zrclass@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --create --partitions 4 --replication-factor 2 --topic three

2）查看分区副本存储情况。

[zrclass@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --describe --topic three

3）创建副本存储计划（所有副本都指定存储在 broker0、broker1 中）。

[zrclass@hadoop102 kafka]$ vim increase-replication-factor.json

输入如下内容：

{
"version":1,
"partitions":[
{"topic":"three","partition":0,"replicas":[0,1]},
{"topic":"three","partition":1,"replicas":[0,1]},
{"topic":"three","partition":2,"replicas":[1,0]},
{"topic":"three","partition":3,"replicas":[1,0]}
]
}

4）执行副本存储计划。

[zrclass@hadoop102 kafka]$ bin/kafka-reassign-partitions.sh --bootstrap-server hadoop102:9092 --reassignment-json-file increase-replication-factor.json --execute

5）验证副本存储计划。

[zrclass@hadoop102 kafka]$ bin/kafka-reassign-partitions.sh --bootstrap-server hadoop102:9092 --reassignment-json-file increase-replication-factor.json --verify

6）查看分区副本存储情况。

[zrclass@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --describe --topic three

4.kafka文件存储

（1）topic数据存储机制

​ Topic是逻辑上的概念，而partition是物理上的概念，每个partition对应于一个log文件，该log文件中存储的就是Producer生产的数 据。Producer生产的数据会被不断追加到该log文件末端，为防止log文件过大导致数据定位效率低下，Kafka采取了分片和索引机制， 将每个partition分为多个segment。每个segment包括：“.index”文件、“.log”文件和.timeindex等文件。这些文件位于一个文件夹下，该 文件夹的命名规则为：topic名称+分区序号，例如：first-0。

在这里插入图片描述

（2）topic数据存储位置

1）启动生产者，并发送消息。

[zrclass@hadoop102 kafka]$ bin/kafka-console-producer.sh --bootstrap-server hadoop102:9092 --topic first

\>hello world

2）查看 hadoop102（或者 hadoop103、hadoop104）的/opt/module/kafka/datas/first-1 （first-0、first-2）路径上的文件。

[zrclass@hadoop104 first-1]$ ls
00000000000000000092.index
00000000000000000092.log
00000000000000000092.snapshot
00000000000000000092.timeindex
leader-epoch-checkpoint
partition.metadata

3）直接查看 log 日志，发现是乱码。

[zrclass@hadoop104 first-1]$ cat 00000000000000000092.log 

CYnF|©|©ÿÿÿÿÿÿÿÿÿÿÿÿÿÿ"hello world

4）通过工具查看 index 和 log 信息。

[zrclass@hadoop104 first-1]$ kafka-run-class.sh kafka.tools.DumpLogSegments --files ./00000000000000000000.index 

Dumping ./00000000000000000000.index
offset: 3 position: 152

[zrclass@hadoop104 first-1]$ kafka-run-class.sh kafka.tools.DumpLogSegments --files ./00000000000000000000.log

Dumping datas/first-0/00000000000000000000.log
Starting offset: 0

baseOffset: 0 lastOffset: 1 count: 2 baseSequence: -1 lastSequence: -1 producerId: -1 
producerEpoch: -1 partitionLeaderEpoch: 0 isTransactional: false isControl: false position: 0 CreateTime: 1636338440962 size: 75 magic: 2 compresscodec: none crc: 2745337109 isvalid: true

baseOffset: 2 lastOffset: 2 count: 1 baseSequence: -1 lastSequence: -1 producerId: -1 
producerEpoch: -1 partitionLeaderEpoch: 0 isTransactional: false isControl: false position: 75 CreateTime: 1636351749089 size: 77 magic: 2 compresscodec: none crc: 273943004 isvalid: true

baseOffset: 3 lastOffset: 3 count: 1 baseSequence: -1 lastSequence: -1 producerId: -1 
producerEpoch: -1 partitionLeaderEpoch: 0 isTransactional: false isControl: false position: 152 CreateTime: 1636351749119 size: 77 magic: 2 compresscodec: none crc: 106207379 isvalid: true

baseOffset: 4 lastOffset: 8 count: 5 baseSequence: -1 lastSequence: -1 producerId: -1 
producerEpoch: -1 partitionLeaderEpoch: 0 isTransactional: false isControl: false position: 229 CreateTime: 1636353061435 size: 141 magic: 2 compresscodec: none crc: 157376877 isvalid: true

baseOffset: 9 lastOffset: 13 count: 5 baseSequence: -1 lastSequence: -1 producerId: -1 
producerEpoch: -1 partitionLeaderEpoch: 0 isTransactional: false isControl: false position: 370 CreateTime: 1636353204051 size: 146 magic: 2 compresscodec: none crc: 4058582827 isvalid: true
（3）index文件和log文件详解

在这里插入图片描述

weixin_42232931
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Kafka系列之：Broker配置
zhengzaifeidelushang的博客
08-26 1369
Kafka系列之：Broker配置
Kafka知识总结之Broker原理总结
热门推荐
学习和工作总结，共勉！
03-18 1万+
这篇文章介绍Kafka的Broker工作流程，包括其中控制器的选举过程；kafka副本的leader选举以及leader和follower故障流程；简单讲述了生产环境中如何调整分区副本；kafka的文件存储机制以及日志文件的删除策略；最后了解下kafka中使用的页缓冲和零拷贝的原理。
kafka入门，Kafka Broker工作流程、Broker重要参数（十一）
weixin_43205308的博客
06-29 1029
在zookeeper的服务端存储的Kafka相关信息1）/kafka/brokers/ids [0,1,2] 记录有哪些服务器2）/kafka/brokers/topics/first/partitions/0/state 记录谁是leader,有哪些服务器可用3）/kafka/controller 辅助选举leader。
kafka基础入门（3）：kafka Broker
WHY的博客
02-02 869
本文介绍了kafka broker的工作流程，相关参数配置，副本机制，故障处理细节，文件存储机制以及一些生产经验
「Kafka」Broker篇
最新发布
How many ten years in the life time?
01-16 1718
Kafka存储数据、Zookeeper 在 Kafka 中的作用、Broker 总体工作流程、节点服役和退役、Kafka 副本 Leader 选举、Leader 和 Follower 故障处理细节、文件存储、高效读写等。
分布式消息系统Kafka项目-生产者消费者代码实现(基于5台虚拟机完全分布式)
08-04
1. **完全分布式部署**：在5台虚拟机上设置Kafka集群，我们需要配置每台机器上的`server.properties`文件，确保正确的broker ID（节点标识）和zookeeper连接字符串。同时，为了实现高可用性，需要配置副本因子和分区...
分布式消息队列kafka详解.rar
06-11
分布式消息队列Kafka是一种高吞吐、低延迟、可扩展的消息系统，广泛应用于大数据处理、实时流处理和数据集成场景。以下是对Kafka的详细解释： 1. **概念理解**： Kafka是由LinkedIn开发并贡献给Apache软件基金会的...
浅谈分布式消息技术：Kafka.docx
08-20
Kafka中的几个关键术语值得深入理解：Broker是消息处理节点，一个Kafka集群由多个broker组成；Topic是消息类别，集群可以同时处理多个topic；Partition是topic的物理划分，每个topic可被分为多个分区，每个分区是一...
Kafka分布式消息队列的高性能研究.pdf
08-08
Kafka是一种高吞吐量的分布式消息队列系统，它最初由LinkedIn开发，后来成为了Apache软件基金会的顶级项目。Kafka的主要设计目标是提供低延迟、高可扩展性和容错性的消息传递服务。在大数据处理场景中，Kafka常用于...
浅谈分布式消息技术Kafka
01-27
1. **Broker**：Kafka集群中的每个节点称为Broker，它们共同负责消息的存储和分发。Brokers之间通过复制机制确保数据冗余和容错性。 2. **Topic**：Topic是消息的分类，用户可以根据需求创建多个Topic来区分不同...
kafka broker详解
qq_38016945的博客
02-09 578
Topic是逻辑上的概念，而partition是物理上的概念，每个partition对应于一个log文件，该log文件中存储的就是Producer生产的数据。Producer生产的数据会被不断追加到该log文件末尾，为防止log文件过大导致数据定位效率低下，Kafka采取了分片和索引机制，将每个partition分为多个segment。2）为保证多个副本之间的数据一致性，其余的Follower会先将各自的log文件高于HW的 部分截掉，然后从新的Leader同步数据。
【kafka】——Broker
qq_42000631的博客
09-28 4081
kafka broker
kafka 常用命令
晓玲
07-06 96
1 启动 kafka-server-start.sh -daemon /opt/kafka_2.11-2.3.0/config/server.properties       要手动启动集群中的所有机器 2 查看topics列表 kafka-topics.sh --list --zookeeper hdp-01:2181,hdp-02...
Kafka系列（二）、架构原理及存储机制
王义凯 的博客
09-16 2719
本篇是kafka系列的第二篇，介绍kafka的架构原理，工作流程以及存储机制，然后讲解了kafka为什么这么高性能高吞吐的原因及优化的点。
Kafka集群搭建(四节点)
qq_40662424的博客
06-20 1042
Zookeeper及Kafka系列(1)―ZooKeeper集群搭建(四节点)Zookeeper及Kafka系列(2)―Kafka集群搭建(四节点)xxxxx系列(3)―这是前言参考链接：1.xxx： 　　内容关键字，内容。2.xxx： 　内容关键字，关键字onApplicationEvent，内容。 　　第三段关键字   第四段................................................
Kafka原理综合
林甲城QAQ的博客
05-09 514
kafka2.4之后,kafka提供了有限的读写分离,也就是说follower副本能够提供读服务 之前没有,因为读写分离适用于读负载很大,而写操作相对不频繁的场景.可kafka不属于这样的场景 同步机制:kafka采用pull 方式实现follwer的同步,因此Follwer与leader存在不一致性窗口,如果允许读follwer副本,就势必要处理消息滞后的问题 Kafka数据存储流程 Partition 一个有序的队列,以文件夹的形式存储在具体broker本机上 leo 表示每个partit
Kafka 二
m0_37929246的博客
06-21 293
系列文章目录 提示：这里可以添加系列文章的所有文章的目录，目录需要自己手动添加 例如：第一章 Python 机器学习入门之pandas的使用 提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录系列文章目录前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结 前言 提示：这里可以添加本文要记录的大概内容： 例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。 提示：以下是本篇文章正文内容，下面案例
kafka集群部署，三节点模式
weixin_43556990的博客
09-14 469
前提安装好jdk环境 #!/bin/bash echo "本地yum源是否配置完毕，是请忽略，否请按CTRL+C退出！" sleep 3 echo "自动化安装zookeeper-3.6.2+kafka_2.13-2.6.0三台服务器集群(前提安装好jdk环境)：" read -p "请根据实际数据挂载盘输入zookeeper和kafka安装的主目录(建议安装/data)：" maindir echo "---3台机均需执行该脚本，下面进行zookeeper集群创建---" if [ -f /root/
kafka集群下线broker节点实践方法
大叶子不小的博客
11-03 764
在zookeeper的客户端使用get /kafka/brokers/ids/[0,1,2](一个数字代表你的brokerid),如果返回信息中的jmx_port 值为-1就说明启动时没有指定JMX_PORT，这样不需要进行下面步骤，请直接重启集群加上配置,并且server.properties需要设置auto.create.topics.enable=false。版权声明：本文为CSDN博主「TURING.DT」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值