win10安装kafka kafka_2.13-2.8.1

本文档详细介绍了在Windows 10系统中安装Kafka 2.13-2.8.1的步骤,包括下载安装包、修改配置文件以支持大字符串推送,以及解决启动Zookeeper和Kafka时可能遇到的问题。
摘要由CSDN通过智能技术生成

上期回顾

特别篇:java实现将视频分片上传到minio(二):视频文件写入到minio:
视频分片

实现想法

公司有个需求,将收到的数据写到阿里oss,然后将阿里oss图片地址和缩略图地址写到kafka中。
这一期我们先安装kafka

kafka安装

下载kafka

kafka_2.13-2.8.1.rar 安装包。 支持大字符串生产和消费(已修改过配置)

支持大字符串推送到kafka(已修改请忽略)

config/producer.properties
修改max.request.size大小

#10M
max.request.size=10485760

config/server.properties增加配置

#设置zookeeper地址
listeners=PLAINTEXT://你的ip:9092
# 设置了socket server接收的最大请求大小
socket.request.max.bytes=10485760  
# kafka数据文件的大小,确保这个数值大于一个消息的长度。一般说来使用默认值即可(一般一个消息很难大于1G,因为这是一个消息系统,而不是文件系统)。
log.segment.bytes=10485760  
# 设置了kafka server接收的最大消息大小,应小于等于socket.request.max.bytes            
message.max.bytes=10485760             
#每个分区试图获取的消息字节数。要大于等于message.max.bytes,否则broker会接收此消息,但无法将此消息复制出去,从而造成数据丢失。
replica.fetch.max.bytes=10485760      
 #每个提取请求中为每个主题分区提取的消息字节数。要大于等于message.max.bytes,否则broker就会因为消费端无法使用这个消息而挂起。   
fetch.message.max.bytes=10485760  

更改config/zookeeper.properties文件夹路径

dataDir=E:\kafka_2.13-2.8.1\logs

启动zookeeper和kafka

启动遇到的问题

在这里插入图片描述
原因:文件夹套的太多了。

解决方案:将kafka_2.13-2.8.1放到D盘或E盘文件夹就可以了。不要套太多文件夹

w10启动zookeeper

在kafka_2.13-2.8.1文件夹下进入dos命令行

.\bin\windows\zookeeper-server-start.bat .\config\zookeeper.properties

在这里插入图片描述

w10启动kafka

在kafka_2.13-2.8.1文件夹下进入dos命令行

.\bin\windows\kafka-server-start.bat .\config\server.properties

在这里插入图片描述

java交流群(限订阅了的加):868794080

源码地址

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

一枚开发小咸鱼

原创不宜,请作者喝杯咖啡吧。

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值