如何进行消息队列技术选型？

一、问题导读

为什么使用消息队列啊？消息队列有什么优点和缺点啊？kafka、activemq、rabbitmq、rocketmq都有什么区别以及适合哪些场景？

二、面试官心理分析

第一，你知道不知道你们系统里为什么要用消息队列这个东西？

第二，你既然用了消息队列这个东西，你知道不知道用了有什么好处？

第三，既然你用了MQ，可能是某一种MQ，那么你当时做没做过调研啊？

三、面试题剖析

1. 为什么使用消息队列啊？

• 其实就是问问你消息队列都有哪些使用场景，然后你项目里具体是什么场景，说说你在这个场景里用消息队列是什么
• 期望的一个回答是说，你们公司有个什么业务场景，这个业务场景有个什么技术挑战，如果不用MQ可能会很麻烦，但是你现在用了MQ之后带给了你很多的好处

消息队列的常见使用场景

• 比较核心的有3个：解耦、异步、削峰

• 解耦

  • A系统发送个数据到BCD三个系统，接口调用发送，如果新加入或删除一个系统，就需要更改源码；如果某一个系统宕机或者访问超时，就还需要考虑是否需要重发，是否需要存储消息；如果发送另外一种类型的消息，也依然需要更改源码。这就是A系统跟其他系统严重耦合的地方。

  • 如果加入了消息队列，现在A系统只需要将数据发送到MQ中即可，其他系统可以自己决定是否需要相关数据，如果需要，从MQ中消费数据即可。系统A不需要考虑谁需要消费消息，也不需要考虑消息的重试机制

    

• 异步

  • A系统接收一个请求，需要在自己本地写库，还需要在BCD三个系统写库，自己本地写库要3ms，BCD三个系统分别写库要上百毫秒，最终请求总延时接近1s。一般要求在200ms以内，十分影响用户体验。

  • 加入消息队列后，一个请求的总延时等于A系统写库的时间+向消息队列发送消息的时间，其他系统可以从消息队列中消费消息完成写库，可以极大的优化系统体验。

    

• 削峰

  • 如果一个系统在一个时刻，比如说秒杀活动时，系统需要突然处理大量的请求，可能就会造成系统的宕机，如果增加很多服务器，又会在其他时候浪费系统资源。
  • 加入MQ时，将所有的请求发送到MQ中，如果系统A最多每秒处理2000个请求，就从MQ中每秒拉取2000个请求，这样可以保证系统在高峰时肯定不会宕机。

面试技巧：

• 你需要去考虑一下你负责的系统中是否有类似的场景，就是一个系统或者一个模块，调用了多个系统或者模块，互相之间的调用很复杂，维护起来很麻烦。但是其实这个调用是不需要直接同步调用接口的，如果用MQ给他异步化解耦，也是可以的，你就需要去考虑在你的项目里，是不是可以运用这个MQ去进行系统的解耦。在简历中体现出来这块东西，用MQ作解耦。

2. MQ的优缺点

优点就是上面的解耦、异步、削峰，主要讲缺点

系统可用性降低：系统引入的外部依赖越多，整个系统越容易挂掉，如果MQ出现问题，可能会导致整个系统崩溃。

系统复杂性提高：加入MQ候，需要考虑很多问题，比如怎么保证消息没有重复消费？怎么处理消息丢失的情况？怎么保证消息传递的顺序性？

一致性问题：在异步处理消息时，A系统处理完了直接返回成功了，但是如果BCD三个系统那里，BD两个系统写库成功了，结果C系统写库失败了，就会出现一致性问题。

3. kafka、activemq、rabbitmq、rocketmq都有什么优点和缺点

特性	ActiveMQ	RabbitMQ	RocketMQ	Kafka
单机吞吐量	万级，吞吐量比RocketMQ和Kafka要低了一个数量级	万级，吞吐量比RocketMQ和Kafka要低了一个数量级	10万级，RocketMQ也是可以支撑高吞吐的一种MQ	10万级别，这是kafka最大的优点，就是吞吐量高。 一般配合大数据类的系统来进行实时数据计算、日志采集等场景
topic数量对吞吐量的影响			topic可以达到几百，几千个的级别，吞吐量会有较小幅度的下降 这是RocketMQ的一大优势，在同等机器下，可以支撑大量的topic	topic从几十个到几百个的时候，吞吐量会大幅度下降 所以在同等机器下，kafka尽量保证topic数量不要过多。如果要支撑大规模topic，需要增加更多的机器资源
时效性	ms级	微秒级，这是rabbitmq的一大特点，延迟是最低的	ms级	延迟在ms级以内
可用性	高，基于主从架构实现高可用性	高，基于主从架构实现高可用性	非常高，分布式架构	非常高，kafka是分布式的，一个数据多个副本，少数机器宕机，不会丢失数据，不会导致不可用
消息可靠性	有较低的概率丢失数据		经过参数优化配置，可以做到0丢失	经过参数优化配置，消息可以做到0丢失
功能支持	MQ领域的功能极其完备	基于erlang开发，所以并发能力很强，性能极其好，延时很低	MQ功能较为完善，还是分布式的，扩展性好	功能较为简单，主要支持简单的MQ功能，在大数据领域的实时计算以及日志采集被大规模使用，是事实上的标准

总结：

• ActiveMQ

  • 非常成熟，功能强大，在业内大量的公司以及项目中都有应用
  • 偶尔会有较低概率丢失消息
  • 而且现在社区以及国内应用都越来越少，官方社区现在对ActiveMQ 5.x维护越来越少，几个月才发布一个版本
  • 而且确实主要是基于解耦和异步来用的，较少在大规模吞吐的场景中使用

• RabbitMQ

  • erlang语言开发，性能极其好，延时很低
  • 吞吐量到万级，MQ功能比较完备
  • 社区相对比较活跃，几乎每个月都发布几个版本分
  • 开源提供的后台管理页面功能十分齐全，适合中小型项目使用
  • 但是问题也是显而易见的，RabbitMQ确实吞吐量会低一些，这是因为他做的实现机制比较重。
  • 而且erlang开发，国内有几个公司有实力做erlang源码级别的研究和定制？如果说你没这个实力的话，确实偶尔会有一些问题，你很难去看懂源码，你公司对这个东西的掌控很弱，基本职能依赖于开源社区的快速维护和修复bug。
  • rabbitmq集群动态扩展会很麻烦，不过这个我觉得还好。其实主要是erlang语言本身带来的问题。很难读源码，很难定制和掌控。

• RocketMQ

  • 接口简单易用，而且毕竟在阿里大规模应用过，有阿里品牌保障

  • 日处理消息上百亿之多，可以做到大规模吞吐，性能也非常好，分布式扩展也很方便，社区维护还可以，可靠性和可用性都是ok的，还可以支撑大规模的topic数量，支持复杂MQ业务场景

  • 而且一个很大的优势在于，阿里出品都是java系的，我们可以自己阅读源码，定制自己公司的MQ，可以掌控

• Kafka

  • kafka的特点其实很明显，就是仅仅提供较少的核心功能，但是提供超高的吞吐量，ms级的延迟，极高的可用性以及可靠性，而且分布式可以任意扩展
  • 同时kafka最好是支撑较少的topic数量即可，保证其超高吞吐量
  • 而且kafka唯一的一点劣势是有可能消息重复消费，那么对数据准确性会造成极其轻微的影响，在大数据领域中以及日志采集中，这点轻微影响可以忽略
  • 这个特性天然适合大数据实时计算以及日志收集

个人建议

• 一般的业务系统要引入MQ，最早大家都用ActiveMQ，但是现在确实大家用的不多了，没经过大规模吞吐量场景的验证，社区也不是很活跃
• 如果是中小型公司，基础架构研发能力较弱，采用RabbitMQ是不错的选择，虽然erlang语言阻止了大量的java工程师去深入研究和掌控他，但是社区十分活跃
• 如果系统有较大吞吐量需求，同时可能会有大量的topic，基础架构研发实力较强的大公司，完全可以采用RocketMQ，即使社区不再更新，也可以自己去维护
• 如果是大数据领域的实时计算、日志采集等场景，用Kafka是业内标准的，绝对没问题，社区活跃度很高，绝对不会黄，何况几乎是全世界这个领域的事实性规范