kafka高吞吐

最新推荐文章于 2024-09-13 11:18:04 发布

觉悟不晚的程序员

最新推荐文章于 2024-09-13 11:18:04 发布

阅读量248

点赞数

分类专栏： kafka 文章标签： kafka

原文链接：https://blog.csdn.net/guangxia_0430/article/details/105979565?utm_medium=distribute.pc_relevant.none-task-blog-OPENSEARCH-5.channel_param&depth_1-utm_source=distribute.pc_relevant.none-task-blog-OPENSEARCH-5.channel_param

版权

kafka 专栏收录该内容

1 篇文章 0 订阅

订阅专栏

kafka高吞吐的原因？

kafka是分布式消息系统，需要处理海量的消息，
Kafka的设计是把所有的消息都写入速度低容量大的硬盘，
以此来换取更强大的存储能力，
但实际上，使用硬盘并没有带来过多的性能损失。
kafka主要使用了以下几种方式实现了超高的吞吐率。

1.顺序读写磁盘

kafka的消息(msg)是不断追加到文件中的，这个特性使Kafka可以充分利用磁盘顺序读写性能，顺序读写不需要磁盘磁头的寻道时间，只需要很少的扇区旋转时间，所以速度远快于随机读写
在这里插入图片描述 kafka官方给出了测试数据 (Raid-5,7200rpm):
顺序 I/O：600MB/S
随机 I/O: 100KB/S

2.零拷贝

	涉及到零拷贝之前，先简单了解下文件系统的操作流程，
	例如一个程序要把文件内容发送到网络。
	这个程序是工作在用户空间，
	文件和网络socket属于硬件资源，
	两者之间有一个内核空间。
	在操作系统内部，整个过程为：

在这里插入图片描述在Linux kernel2.2之后出现了一种叫做“零拷贝(zero-coy)”系统调用机制，数据并不再复制到“用户态缓冲区”。
系统上下文切换减少为两次，可以提升一倍的性能，具体如下图：

3.文件分段

	在kafka中tpoic是逻辑的概念，
	真实存在的是组成topic的各个partition，
	而partition又被分为多个segement，
	所以kafka队列中的消息实际上是保存在N多个segement中。

在这里插入图片描述
通过文件分段的方式，每次文件操作都是对一个小文件的操作，非常轻便，同时也增加了并行处理能力。

4.批量发送

kafka允许进行批量发送消息，先将消息缓存在内存中，
然后一次请求批量发送出去，
将数据flush到磁盘(partition的segement)文件，
**比如可以指定缓存的消息达到某一个量的时候就发出去，
或者缓存了固定的时间后就发送出去，
如100条消息就发送，或者每5秒发送一次，
这种策略将大大减少服务端的I/O次数

(Message)消息flush到磁盘上，flush策略，以下两个参数在server.properties文件中
log.flush.interval.messages=
log.flush.interval.ms=

5.数据压缩

Kafka 还支持对消息集合进行压缩，Producer 可以通过 GZIP 或 Snappy 格式对消息集合进行压缩，压缩的好处就是减少传输的数据量，减轻对网络传输的压力，Producer 压缩之后，在 Consumer 需进行解压，虽然增加了 CPU 的工作，但在对大数据处理上，瓶颈在网络上而不是 CPU，所以这个成本很值得。