kafka是存储到本地磁盘么_Kafka存储(为什么Kafka使用磁盘作为存储介质?)

一、存储结构概述

f7e4eb22cdd8

image

每一个partion(文件夹)相当于一个巨型文件被平均分配到多个大小相等segment(段)数据文件里。但每一个段segment file消息数量不一定相等,这样的特性方便old segment file高速被删除。(默认情况下每一个文件大小为1G)

每一个partiton仅仅须要支持顺序读写即可了。segment文件生命周期由服务端配置參数决定。

1.partiton中segment文件存储结构

segment file组成:由2大部分组成。分别为index file和data file,此2个文件一一相应,成对出现,后缀”.index”和“.log”分别表示为segment索引文件、数据文件.

segment文件命名规则:partion全局的第一个segment从0开始,兴许每一个segment文件名称为上一个segment文件最后一条消息的offset值。

数值最大为64位long大小。19位数字字符长度,没有数字用0填充。

itcast@Server-node:/mnt/d/kafka_2.12-2.2.1$ ll /tmp/kafka/log/heima-0/

total 20480

drwxr-xr-x 1 itcast sudo 512 Aug 29 09:38 ./

drwxrwxrwx 1 dayuan dayuan 512 Aug 29 09:41 ../

-rw-r--r-- 1 itcast sudo 10485760 Aug 29 09:38 00000000000000000000.index

-rw-r

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
对于选择使用Kafka还是RabbitMQ,需要考以下几个因素: 1. 性能和可扩展性:Kafka是一个高吞吐量、低延迟的分布式消息系统,适用于处理大量实时数据流。RabbitMQ则更适合处理较小规模的消息通信。如果你需要处理大量的数据流,并具备较高的性能和可扩展性需求,那么选择Kafka是更好的选择。 2. 消息持久化:Kafka将所有消息持久化到磁盘上,确保数据不会丢失。这对于需要进行数据分析、存储和回溯的场景非常重要。而RabbitMQ默认情况下只会将消息存储在内存中,一旦RabbitMQ服务器宕机,消息可能会丢失。因此,如果你有持久化消息的需求,Kafka是更适合的选择。 3. 可靠性:Kafka采用分布式、多副本的机制,可以提供较高的可靠性,确保消息不会丢失。而RabbitMQ使用AMQP协议,通过确认机制来确保消息的可靠性。这使得RabbitMQ在网络状况不稳定或需要确保消息不会丢失的场景下更合适。 4. 简单性和易用性:RabbitMQ相对于Kafka来说更加简单易用,它提供了更多的功能,如消息队列、消息路由、消息确认等,适合快速开发和部署。而Kafka更适合复杂的数据处理和分析场景,但相对于RabbitMQ,它的配置和使用可能会更复杂一些。 综上所述,选择Kafka还是RabbitMQ取决于你的具体需求。如果你需要处理大规模的实时数据流,需要较高的性能和可靠性,并且有持久化消息的需求,那么选择Kafka是更好的选择。如果你对可靠性要求不高,希望能够快速部署并且使用较简单的消息通信方式,那么选择RabbitMQ是更合适的。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值