- 为什么使用消息队列?
- 消息队列的优缺点?
- ActiveMQ、Kafka、RabbitMQ、RocketMQ 都有什么区别,以及适合哪些场景?
为什么使用消息队列?
答案:解耦、异步、削峰。
1)解耦
背景:A系统触发一个动作需要将数据发送到BCD系统中,如果E系统也要接入,或者C系统不想介入。A系统就需要修改相应的代码,贼烦!!!还要考虑各个系统的调用是否成功,失败超时等情况
应用:客服系统会维护工单信息,许多其他系统需要根据工单的信息进行相应的业务处理,这个时候就可以通过监听工单变化产生的MQ消息进行业务逻辑处理。
方案:利用 MQ的发布订阅模型,A 系统就跟其它系统彻底解耦了。
2)异步
背景:A系统收到一个保存请求,除了自己的内部处理逻辑还需要调用BC系统。假设ABC处理时长都是200ms,一个请求就是600ms,太长了
方案:A系统将消息发送到MQ队列中,可能只需要5ms,那么整体处理逻辑舒畅就是200+5=205ms。贼快~。BC系统在进行消息消费慢慢处理
3)削峰
背景:1)很多系统的情况都是白天请求很多,晚上没有请求,浪费资源
2)一个mysql通常可以抗住2k个请求,如果线上有3k个请求过来会直接压垮数据库。
方案:将3k个请求放入消息队列中,系统每秒从MQ中获取2k个请求进行处理,等请求高峰过去就OK啦。这个时候系统就不会因为mysql性能崩溃,无压力~
消息队列优缺点
优点:
解耦、异步、削峰。
缺点:
-
系统高可用降低
引入的组件,外部系统越多,可用性就越低。需要考虑其他系统性不好,挂掉,升级等情况。 -
系统复杂度提高
1)考虑消息丢失
2)考虑消息重复消费
3)考虑消息顺序消费
4)考虑消息堆积 -
数据一致性
分布式系统一致性等问题。A系统发送完消息,BCD进行消费。如果BC消费成功,D消费失败了怎么搞???
MQ技术选型
特性 | ActiveMQ | RabbitMQ | RocketMQ | Kafka |
---|---|---|---|---|
单机吞吐量 | 万级,比 RocketMQ、Kafka 低一个数量级 | 同 ActiveMQ | 10 万级,支撑高吞吐 | 10 万级,高吞吐,一般配合大数据类的系统来进行实时数据计算、日志采集等场景 |
topic 数量对吞吐量的影响 | topic 可以达到几百/几千的级别,吞吐量会有较小幅度的下降,这是 RocketMQ 的一大优势,在同等机器下,可以支撑大量的 topic | topic 从几十到几百个时候,吞吐量会大幅度下降,在同等机器下,Kafka 尽量保证 topic 数量不要过多,如果要支撑大规模的 topic,需要增加更多的机器资源 | ||
时效性 | ms 级 | 微秒级,这是 RabbitMQ 的一大特点,延迟最低 | ms 级 | 延迟在 ms 级以内 |
可用性 | 高,基于主从架构实现高可用 | 同 ActiveMQ | 非常高,分布式架构 | 非常高,分布式,一个数据多个副本,少数机器宕机,不会丢失数据,不会导致不可用 |
消息可靠性 | 有较低的概率丢失数据 | 基本不丢 | 经过参数优化配置,可以做到 0 丢失 | 同 RocketMQ |
功能支持 | MQ 领域的功能极其完备 | 基于 erlang 开发,并发能力很强,性能极好,延时很低 | MQ 功能较为完善,还是分布式的,扩展性好 | 功能较为简单,主要支持简单的 MQ 功能,在大数据领域的实时计算以及日志采集被大规模使用 |
总结
1)ActiveMQ大家接触的最早,也使用的最久。不过已经过时,社区不活跃,也没有互联网公司在大规模吞吐场景中使用过。建议放弃!!
2)RabbitMQ社区活跃,应用范围广,功能健全,还不错。但是erlang语言导致别人很难去研究它,对于公司来说如果出问题不可控。适合中小型公司,创业团队
3)阿里开源的RabbitMQ社区活用,应用范围越来越广,建议多用用,看看源码。未来之星~
4)在大数据领域的实时计算,日志采集是行业标准!社区活跃度极高,且scala语言对java开发还算友好