使用librdkafka 报错：“Local: Queue full” 解决

最新推荐文章于 2025-09-16 17:11:21 发布

原创

最新推荐文章于 2025-09-16 17:11:21 发布 · 6.8k 阅读

4 ·

CC 4.0 BY-SA版权

文章标签：

#kafka #java #分布式

当使用librdkafka时遇到'Local:Queuefull'异常，通常是由于生产者速度过快，导致消息队列满。解决方法是在出现ERR__QUEUE_FULL异常时，调用producer->poll()函数，让内部队列有时间处理消息。例如，设置1000毫秒的阻塞时间，等待消息被消费后再重试。

使用librdkafka 报错：“Local: Queue full” 问题解决

分析：该问题发生主要原因是由于生产者的生产能力大于了kafka server的接收落盘能力，导致生产者本地队列写满，默认情况下，如果生产者本地缓冲队列写满会抛出“Local: Queue full”异常。

如何解决这个异常呢？
上面将了，根因是生产者的活干的有点快。所以需要让本地队列里面的数据消化一会儿poll()。
直接上代码吧：

  retry:
    RdKafka::ErrorCode err = producer->produce(
        /* Topic name */
        topic,
        /* Any Partition: the builtin partitioner will be
         * used to assign the message to a topic based
         * on the message key, or random partition if
         * the key is not set. */
        RdKafka::