背景:在开发的过程中,当有大批量的数据进行同时处理的业务场景。为了保证系统的稳定性和防止数据丢失。我们需要使用消息队列,进行存储消息。这里kafka不失为一种最佳的选择。
这里特别提醒一句话,kafka的版本不对一切都是白费,会出现各种问题。
但是在使用kafka的过程中,我遇到了如下问题:
1、第一次消费数据是巨慢。大概需要40秒的时间才可以消费到。
2、当我清理了kafka中的topic和zookeeper中的数据后,突然又开始报如下异常
org.apache.kafka.common.errors.TimeoutException: Failed to update metadata after 60000 ms.
我是用的springboot集成的kafka。我的版本分别如下:
springboot | 1.5.9 |
spring-kafka(kafka客户端)jar包 | 1.1.7 |
kafka软件版本 | kafka-2.11-2.1.1 |
查阅了大量的资料后,定位到是kafka的版本不对的问题。于是我调整版本如下:
springboot | 1.5.10(这个其实可以不用调整) |
spring-kafka(kafka客户端)jar包 | 1.1.7 |
kafka软件版本 | kafka-2.11-0.11.0.0 |
然后,重新安装了kafka后,测试成功。问题解决!!!
顺便分享篇好文章:https://blog.csdn.net/u010454030/article/details/78714205
附kafka的下载路径https://download.csdn.net/download/qq_29281307/12055349