Kafka性能调优实战：同等资源配置性能提升20几倍的秘诀

Java进阶之梯，成长路线与学习资料，助力突破中间件领域

---

1、抛出问题

---

笔者最近在折腾数据异构体系，在实现MySQL增量数据同步到MQ(Kafka、RocketMQ),本文的故事就从这里开始。

众所周知，为了提高写入端的并发性能，通常会采用多线程并发机制，提高写入端的性能，接下来基于MySQL增量同步到Kafka为例，阐述一下第一版的架构方案。

真实的数据同步架构设计复杂性远比上面复杂，上图旨在阐述Kafka的使用特点：

为了提高性能，通常会引入多线程，故组内同事直接采用多线程，通过创建多个线程，每一个线程单独创建一个KafkaProducer对象，然后binlog解析器后，按照分区键进行负载均衡。

但发现，性能非常低下，为什么呢？该如何处理呢？

2、多线程在Kafka这里为啥不好使了

---

当发现性能比较慢，然后又按照 Kafka性能优化指南进行调优，对linger.ms,batch.size等参数进行调优，但发现毫无用处，这是为啥呢？

Kafka的高吞吐率设计的核心要点之一是批处理，即kafka在消息发送端引入了一个双端队列，应用程序通过KafkaProducer的send方法时，会将消息先放入到双端队列，然后kafka使用一个异步线程从队列中成批发送消息。

为了确保sender线程能一次发送较多数据，kafka在客户端引入了一个参数linger.ms，默认为200ms,即小心进入到缓存区后不会立即被send线程发送，而是等待一定时间，这样能提高send线程的发送效率，提高吞吐率。

再回到上述到场景，将视角切换到单个线程，在单个线程内，应用方调用KafkaProducer后，消息会在缓存区中等待200ms,但由于是数据同步场景,消息发送使用的是同步发送,这样就会导致不管send线程等多久，永远只会有一条消息被发送，每条消息发送还要无缘无故的增加200ms的延迟，tps怎能上去？

第一个优化点：还是基于多线程发送，当多线程共同持有一个KafkaProducer对象，这样在同一时间会有更多数据到达KafkaProducer的缓存区，Sender线程就可以实现一次发送多条消息，实现批量发送到效果，从而提升Kafka的吞吐率，实现高TPS，其效果如下图所示：

关键点：对于单个线程，由于要保证消息都顺序性，使用的是同步发送模式。

3、“大杀器”异步发送也能保证顺序

---

众所周知，在数据异构的架构体系中，通常需要将分库分表的mysql数据库中的数据同步到es，从而实现跨库join等复杂查询功能。

数据同步为了确保数据的最终一致性，通常必须保证顺序。但其维度可以为表级别、数据行级别，通常只需要保证同一行数据的不同事件(新增、更新、删除)等事件必须顺序执行，所以在上述的架构中采用的是同步发送。

有没有可能使用异步发送，但同时满足顺序语义呢？

答案当然是可以的，**其设计思路为：将消息分批处理，该批次内部消息并发执行，各个批次顺序执行。**示意图如下：

最后

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Java工程师，想要提升技能，往往是自己摸索成长，自己不成体系的自学效果低效漫长且无助。

因此收集整理了一份《2024年Java开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Java开发知识点，不论你是刚入门Java开发的新手，还是希望在技术上不断提升的资深开发者，这些资料都将为你打开新的学习之门！

如果你觉得这些内容对你有帮助，需要这份全套学习资料的朋友可以戳我获取！！

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且会持续更新！
/bbs.csdn.net/topics/618164986)

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且会持续更新！