kafka与rocketMq的存储对比

Mq    结构存储   优缺点
kafka

topic对应多个partition

同一个服务器(broke)会有多个

不同topic-partition对,patition为单主多从结构

主挂了会重新选主

消息直接存储在partition中,

对单topic为顺序写

缺点:如果服务器承载的topic过多,相应的patition也会变多,因此会造成随机写,导致io效率降低

优点:直接从partition顺序读取数据,效率高

rocketmq

topic对应多个consumequeue,

同一个服务器会有不现的

topic-consumerqueue对,consumerqueue为多主多从结构

主由配置指定,主挂了其它主提供服务。

同一个服务器的所有消息

都统一写到commitlog中

consumequeue只存储在

CommiLog中的起始offset,log大小和MessageTag的

hashCode,数据量较少

优点:因为consumequeue数据量小,绝大部分的访问还是Page Cache的访问,而不是磁盘访问。正式部署也可以将CommitLog和consumerQueue放在不同的物理SSD,避免多类文件进行IO竞争。

Commit Log中存储了所有的元信息,包含消息体,类似于Mysql、Oracle的redolog,所以只要有Commit Log在,Consume Queue即使数据丢失,仍然可以恢复出来

缺点:读取消息时,由于不同的topic消息都写在同一个文件,导致读取顺序不连续,造成随机读,降低了读IO,为了优化这个问题rocketmq会预读取更多的数据到pagecache所以消耗系统内存比较大

 

转载于:https://my.oschina.net/laigous/blog/3079368

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值