从“消息队列”到“服务总线”和“流处理平台”

作者简介

Gavin，程序员、软件架构师、企业架构师，关注智能制造。

本文是专栏《智能制造系统架构》中的文章，其它文章请参阅入坑智能制造系统架构。

消息队列是分布式系统中重要的组件，也是企业不同应用系统集成的关键中间件。目前常用的Kafka、RabbitMQ、ActiveMQ、ZeroMQ、RocketMQ等都是属于消息队列。而在企业IT架构中，还会使用到服务总线、流处理平台等技术概念或组件。
本文为你梳理一下消息队列是做什么的？何时使用消息队列？企业服务总线和流处理平台和它又是什么关系？希望对你有所帮助。

目录

什么是队列

什么是消息队列

消息队列的优势

消息模型——如何发布和获取消息

Point-to-Point(PTP)模型

Publisher/Subscriber (Pub/Sub) 模型

何时使用消息队列

服务总线

流处理平台——Kafka

参考资料

---

什么是队列

队列是一种先进先出的数据结构，特殊之处在于它只允许在队列的前端（front）进行删除操作，而在队列的后端（rear）进行插入操作。

什么是消息队列

消息队列就是一个队列结构的中间件，也就是说消息放入这个中间件之后就可以直接返回，并不需要系统立即处理，而另外会有一个程序读取这些数据，并按顺序进行逐次处理。

消息队列的优势

消息队列的核心功能就是消息传递。但由于其异步性和消息存储的特定，使消息队列具备如下优势：

1. 解耦

消息队列在处理过程中间插入了一个隐含的、基于数据的接口层，两边的处理过程都要实现这一接口。这允许你独立的扩展或修改两边的处理过程，只要确保它们遵守同样的接口约束。

2. 冗余

有时在处理数据的时候处理过程会失败。除非数据被持久化，否则将永远丢失。消息队列把数据进行持久化直到它们已经被完全处理，通过这一方式规避了数据丢失风险。在被许多消息队列所采用的"插入-获取-删除"范式中，在把一个消息从队列中删除之前，需要你的处理过程明确的指出该消息已经被处理完毕，确保你的数据被安全的保存直到你使用完毕。

3. 扩展性

因为消息队列解耦了你的处理过程，所以增大消息入队和处理的频率是很容易的；只要另外增加处理过程即可。不需要改变代码、不需要调节参数。扩展就像调大电力按钮一样简单。

4. 灵活性 & 峰值处理能力

在访问量剧增的情况下，你的应用仍然需要继续发挥作用，但是这样的突发流量并不常见；如果为以能处理这类峰值访问为标准来投入资源随时待命无疑是巨大的浪费。使用消息队列能够使关键组件顶住增长的访问压力，而不是因为超出负荷的请求而完全崩溃。

5. 可恢复性

当体系的一部分组件失效，不会影响到整个系统。消息队列降低了进程间的耦合度，所以即使一个处理消息的进程挂掉，加入队列中的消息仍然可以在系统恢复后被处理。而这种允许重试或者延后处理请求的能力通常是造就一个略感不便的用户和一个沮丧透顶的用户之间的区别。

6. 送达保证

消息队列提供的冗余机制保证了消息能被实际的处理，只要一个进程读取了该队列即可。

7.排序保证

在许多情况下，数据处理的顺序都很重要。消息队列本来就是排序的，并且能保证数据会按照特定的顺序来处理。

8.缓冲

在任何重要的系统中，都会有需要不同的处理时间的元素。例如,加载