消息队列Kafka、RocketMQ、RabbitMQ的优劣势、技术应用及选择

92 篇文章 0 订阅

在高并发业务场景下,典型的阿里双11、12306春运火车票、秒杀等业务系统的正常运行,消息队列中间件在流量削峰、解耦上有着不可替代的作用。
搞懂以下几个问题,相信你会对消息队列有更加全面的认识与了解:

  • 全量消息队列都有哪些
  • Kafka、RocketMQ、RabbitMQ的优劣势比较
  • 消息队列的选型

最全MQ消息队列有哪些
那么目前在业界有哪些比较知名的消息引擎呢?如下图所示


这里面几乎完全列举了当下比较知名的消息引擎,包括:

  • ZeroMQ
  • 推特的Distributedlog
  • ActiveMQ:
  • Apache旗下的老牌消息引擎
  • RabbitMQ、Kafka:AMQP的默认实现
  • RocketMQ
  • Artemis:Apache的ActiveMQ下的子项目
  • Apollo:同样为Apache的ActiveMQ的子项目的号称下一代消息引擎
  • 商业化的消息引擎IronMQ
  • 实现了JMS(Java Message Service)标准的OpenMQ

MQ消息队列的技术应用


1.解耦
解耦是消息队列要解决的最本质问题。
2.最终一致性
最终一致性指的是两个系统的状态保持一致,要么都成功,要么都失败。
最终一致性不是消息队列的必备特性,但确实可以依靠消息队列来做最终一致性的事情。
3.广播
消息队列的基本功能之一是进行广播。
有了消息队列,我们只需要关心消息是否送达了队列,至于谁希望订阅,是下游的事情,无疑极大地减少了开发和联调的工作量。
4.错峰与流控
典型的使用场景就是秒杀业务用于流量削峰场景。
由于篇幅的关系,本文重点介绍消息队列比较,详细应用场景请参考我的往期分享:什么是流量削峰?如何解决秒杀业务的削峰场景


Kafka、RocketMQ、RabbitMQ比较


1.ActiveMQ
优点:

  • 单机吞吐量:万级topic数量都吞吐量的影响;
  • 时效性高;
  • ms级可用性高;
  • 基于主从架构实现高可用性消息可靠性;
  • 有较低的概率丢失数据功能支持;
  • MQ领域的功能极其完备。

缺点:

  • 官方社区现在对ActiveMQ 5.x维护越来越少,较少在大规模吞吐的场景中使用。

2.Kafka
号称大数据的杀手锏,谈到大数据领域内的消息传输,则绕不开Kafka,这款为大数据而生的消息中间件,以其百万级TPS的吞吐量名声大噪,迅速成为大数据领域的宠儿,在数据采集、传输、存储的过程中发挥着举足轻重的作用。
Apache Kafka它最初由LinkedIn公司基于独特的设计实现为一个分布式的提交日志系统( a distributed commit log),之后成为Apache项目的一部分。
目前已经被LinkedIn,Uber, Twitter, Netflix等大公司所采纳。
优点:

  • 性能卓越:单机写入TPS约在百万条/秒,最大的优点,就是吞吐量高。
  • 时效性:ms级可用性非常高,kafka是分布式的,一个数据多个副本,少数机器宕机,不会丢失数据,不会导致不可用消费者采用Pull方式获取消息,消息有序,通过控制能够保证所有消息被消费且仅被消费一次。
  • 有优秀的第三方Kafka Web管理界面Kafka-Manager;在日志领域比较成熟,被多家公司和多个开源项目使用;
  • 功能支持:功能较为简单,主要支持简单的MQ功能,在大数据领域的实时计算以及日志采集被大规模使用。

缺点:

  • Kafka单机超过64个队列/分区,Load会发生明显的飙高现象,队列越多,load越高,发送消息响应时间变长使用短轮询方式,实时性取决于轮询间隔时间;
  • 消费失败不支持重试;支持消息顺序,但是一台代理宕机后,就会产生消息乱序;
  • 社区更新较慢;

3.RabbitMQ
RabbitMQ 2007年发布,是一个在AMQP(高级消息队列协议)基础上完成的,可复用的企业消息系统,是当前最主流的消息中间件之一。
优点:

  • 由于erlang语言的特性,mq 性能较好,高并发;吞吐量到万级,MQ功能比较完备。
  • 健壮、稳定、易用、跨平台、支持多种语言、文档齐全;开源提供的管理界面非常棒,用起来很好用社区活跃度高。

缺点:

  • erlang开发,很难去看懂源码,基本职能依赖于开源社区的快速维护和修复bug,不利于做二次开发和维护。
  • RabbitMQ确实吞吐量会低一些,这是因为他做的实现机制比较重。
  • 需要学习比较复杂的接口和协议,学习和维护成本较高。

4.RocketMQ

  • RocketMQ出自 阿里公司的开源产品,用 Java 语言实现,在设计时参考了 Kafka,并做出了自己的一些改进。
  • RocketMQ在阿里集团被广泛应用在订单,交易,充值,流计算,消息推送,日志流式处理,binglog分发等场景。

优点:

  • 单机吞吐量:十万级可用性,非常高。
  • 分布式架构消息可靠性:经过参数优化配置,消息可以做到0丢失功能支持。
  • MQ功能较为完善,还是分布式的,扩展性好支持10亿级别的消息堆积,不会因为堆积导致性能下降源码是java,我们可以自己阅读源码,定制自己公司的MQ,可以掌控。

缺点:

  • 支持的客户端语言不多,目前是java及c++,其中c++不成熟。
  • 社区活跃度一般没有在 mq 核心中去实现JMS等接口,有些系统要迁移需要修改大量代码。

消息队列选择建议
1.Kafka
Kafka主要特点是基于Pull的模式来处理消息消费,追求高吞吐量,一开始的目的就是用于日志收集和传输,适合产生大量数据的互联网服务的数据收集业务。
大型公司建议可以选用,如果有日志采集功能,肯定是首选kafka了。
2.RocketMQ
天生为金融互联网领域而生,对于可靠性要求很高的场景,尤其是电商里面的订单扣款,以及业务削峰,在大量交易涌入时,后端可能无法及时处理的情况。
RoketMQ在稳定性上可能更值得信赖,这些业务场景在阿里双11已经经历了多次考验,如果你的业务有上述并发场景,建议可以选择RocketMQ。
3.RabbitMQ
RabbitMQ :结合erlang语言本身的并发优势,性能较好,社区活跃度也比较高,但是不利于做二次开发和维护。不过,RabbitMQ的社区十分活跃,可以解决开发过程中遇到的bug。
如果你的数据量没有那么大,小公司优先选择功能比较完备的RabbitMQ。
以上,如果有不同见解或补充,请留言探讨。本篇为消息队列的连载篇,持续更新。
如果觉得不错,请点赞支持下,谢谢。

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
消息队列kafkarabbitmq是两种常见的消息中间件。它们在功能和特点上有一些区别。 Kafka是一个高性能的分布式消息队列系统,它使用了发布-订阅模式。Kafka的优点包括支持消息的持久化、负载均衡和集群,集群易于扩展,可以透明地增加新的服务器进集群。Kafka还具有高性能和灵活的消息分发机制。它的缺点是需要依赖Zookeeper,并且Topic一般需要人工创建,部署和维护成本较高。\[1\] RabbitMQ是一个功能丰富的消息队列系统,它使用了AMQP协议。RabbitMQ支持多种协议,如AMQP、XMPP、SMTP和STOMP。它具有消息的持久化、负载均衡和集群的能力。RabbitMQ还支持消息确认机制和容错性。它的缺点是相对于Kafka和ZeroMQ,在大吞吐量性能方面稍逊一筹,因为它牺牲了部分性能来换取稳定性,比如消息的持久化功能。\[2\] 总的来说,Kafka适合处理大规模数据流,具有高性能和可扩展性,但需要依赖Zookeeper和人工创建Topic。而RabbitMQ适合企业级开发复杂性,具有丰富的功能和协议支持,但在大吞吐量性能方面稍逊一些。选择使用哪种消息队列取决于具体的需求和场景。\[1\]\[2\] #### 引用[.reference_title] - *1* *2* *3* [技术选型-消息队列kafkarabbitmq的比较](https://blog.csdn.net/duanmj112/article/details/119335397)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^koosearch_v1,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值