docker创建kafka,以及总结的kafka学习

本文详细介绍了如何使用Docker部署Kafka集群,包括配置server.properties,启动、停止Kafka,创建Topic,以及管理Kafka的Partition和Replication Factor。讨论了Partition数量对吞吐量和性能的影响,并提供了分区和副本数目的调整准则。同时,涵盖了列出、描述、增加和删除Topic,以及生产与消费消息,消费者组的操作。
摘要由CSDN通过智能技术生成

#Docker 部署kafka集群

基于 zookeeper 集群,需要先部署zookeeper
https://yhyr.github.io/2018/12/15/Kafka%E7%90%86%E8%AE%BA%E4%B9%8BPartition-Replication/

server.properties 配置文件

# broker.id=1   #broker的全局唯一编号,不能重复. 给集群中的每个broker配置一个不同的id
# delete.topic.enable=true      # 允许删除topic
# num.network.threads=3  #处理网络请求的线程数量
# num.io.threads=8      #用来处理磁盘IO的现成数量
# socket.send.buffer.bytes=102400       #发送套接字的缓冲区大小
# socket.receive.buffer.bytes=102400    #接收套接字的缓冲区大小
# socket.request.max.bytes=104857600    #请求套接字的缓冲区大小
# log.dirs=/opt/module/kafka/logs       #kafka运行日志存放的路径
# num.partitions=1      #topic在当前broker上的分区个数
# num.recovery.threads.per.data.dir=1    #用来恢复和清理data下数据的线程数量
# log.retention.hours=168        #segment文件保留的最长时间,超时将被删除
# zookeeper.connect=hadoop201:2181,hadoop202:2181,hadoop203:2181         #配置连接Zookeeper集群地址

 

节点1:

docker run -d --net host --restart unless-stopped -p 9092:9092 \
 -e CLUSTER_NAME=KAFKA  \
 -e KAFKA_ADVERTISED_HOST_NAME=10.180.50.4 \
 -e KAFKA_ADVERTISED_PORT=9092 \
 -e KAFKA_ZOOKEEPER_CONNECT=10.180.50.4:2181,10.180.50.220:2181,10.180.50.171:2181 \
 -e KAFKA_HOST_NAME=10.180.50.4 \
 -e KAFKA_BROKER_ID=1 \
 -e KAFKA_LISTENERS=PLAINTEXT://10.180.50.4:9092 \
 -e KAFKA_ADVERTISED_LISTENERS=PLAINTEXT://10.180.50.4:9092 \
 -e KAFKA_DELETE_TOPIC_ENABLE=true \
 -v /docker/kafka/logs:/kafka \
 --name kafka1 wurstmeister/kafka


节点2:

docker run -d --net host --restart unless-stopped -p 9092:9092 \
 -e CLUSTER_NAME=KAFKA  \
 -e KAFKA_ADVERTISED_HOST_NAME=10.180.50.220 \
 -e KAFKA_ADVERTISED_PORT=9092 \
 -e KAFKA_ZOOKEEPER_CONNECT=10.180.50.4:2181,10.180.50.220:2181,10.180.50.171:2181 \
 -e KAFKA_HOST_NAME=10.180.50.220 \
 -e KAFKA_BROKER_ID=2 \
 -e KAFKA_LISTENERS=PLAINTEXT://10.180.50.220:9092 \
 -e KAFKA_ADVERTISED_LISTENERS=PLAINTEXT://10.180.50.220:9092 \
 -e KAFKA_DELETE_TOPIC_ENABLE=true \
 -v /docker/kafka/l
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值