Flume和Kafka集成错误:Error reading field 'throttle_time_ms'

最新推荐文章于 2023-07-10 01:19:37 发布

RayBreslin

最新推荐文章于 2023-07-10 01:19:37 发布

阅读量773

点赞数

本文链接：https://blog.csdn.net/u010886217/article/details/82710294

版权

大数据开发同时被 3 个专栏收录

204 篇文章 8 订阅

订阅专栏

kafka

38 篇文章 2 订阅

订阅专栏

flume

25 篇文章 2 订阅

订阅专栏

Flume和Kafka集成错误

1.问题描述：

flume向kafka写入数据的时候报错：

2018-09-15 00:10:08,502 (kafka-producer-network-thread | producer-1) [ERROR - org.apache.kafka.clients.producer.internals.Sender.run(Sender.java:130)] Uncaught error in kafka producer I/O thread: 
org.apache.kafka.common.protocol.types.SchemaException: Error reading field 'throttle_time_ms': java.nio.BufferUnderflowException
        at org.apache.kafka.common.protocol.types.Schema.read(Schema.java:71)
        at org.apache.kafka.clients.NetworkClient.handleCompletedReceives(NetworkClient.java:439)
        at org.apache.kafka.clients.NetworkClient.poll(NetworkClient.java:265)
        at org.apache.kafka.clients.producer.internals.Sender.run(Sender.java:216)
        at org.apache.kafka.clients.producer.internals.Sender.run(Sender.java:128)
        at java.lang.Thread.run(Thread.java:748)

2.原因：版本不兼容，使用flume1.7.0而kafka时0.8.2.1，flume的conf配置文件适合0.9+的版本的kafka，所以报错。

3.解决：

(1)flume1.7.0和kafka_2.11-0.10.2.1是可以合成的。

(2)flume1.6.0和kafka_2.10-0.8.2.1是可以合成的。