分布式之消息队列复习精讲_consumer与提供topic服务的master与slave建立长连接既可以从master订阅消息(1)

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上C C++开发知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以戳这里获取

2.3 消息队列如何选型？

先说一下，博主只会 ActiveMQ、RabbitMQ、RocketMQ、Kafka，对什么 ZeroMQ 等其他 MQ 没啥理解，因此只能基于这四种 MQ 给出回答。

**分析：**既然在项目中用了 MQ，肯定事先要对业界流行的 MQ 进行调研，如果连每种 MQ 的优缺点都没了解清楚，就拍脑袋依据喜好，用了某种 MQ，还是给项目挖坑。如果面试官问：“你为什么用这种 MQ？”，你直接回答“领导决定的。”，这种回答就很 LOW 了。还是那句话，不要给公司挖坑。

**回答：**首先，咱先上 ActiveMQ 的社区，看看 ActiveMQ 的更新频率：

Apache ActiveMQ 5.15.3 Release
Christopher L. Shannon posted on Feb 12, 2018
Apache ActiveMQ 5.15.2 Released
Christopher L. Shannon posted on Oct 23, 2017
Apache ActiveMQ 5.15.0 Released
Christopher L. Shannon posted on Jul 06, 2017
省略以下记录
...

从上述内容我们可以看出，ActiveMQ 几个月才发一次版本，据说研究重心在他们的下一代产品 Apollo。接下来，我们再去 RabbitMQ 的社区去看一下，RabbitMQ 的更新频率：

RabbitMQ 3.7.3 release  30 January 2018
RabbitMQ 3.6.15 release  17 January 2018
RabbitMQ 3.7.2 release23 December 2017
RabbitMQ 3.7.1 release21 December 2017
省略以下记录
...

我们可以看出，RabbitMQ 版本发布比 ActiveMQ 频繁很多，至于 RocketMQ 和 kafka 就不带大家看了，总之也比 ActiveMQ 活跃的多，具体详情，可自行查阅。

再来一个性能对比表：

特性	ActiveMQ	RabbitMQ	RocketMQ	kafka
开发语言	java	erlang	java	scala
单机吞吐量	万级	万级	10万级	10万级
时效性	ms 级	us 级	ms 级	ms 级以内
可用性	高（主从架构）	高（主从架构）	非常高（分布式架构）	非常高（分布式架构）
功能特性	成熟的产品，在很多公司得到应用；有较多的文档；各种协议支持较好	基于 erlang 开发，所以并发能力很强，性能极其好，延时很低；管理界面较丰富	MQ 功能比较完备，扩展性佳	只支持主要的 MQ 功能，像一些消息查询，消息回溯等功能没有提供，毕竟是为大数据准备的，在大数据领域应用广。

综合上面的材料得出以下两点：

1. 中小型软件公司，建议选 RabbitMQ。一方面，erlang 语言天生具备高并发的特性，而且它的管理界面用起来十分方便。正所谓，成也萧何，败也萧何！它的弊端也在这里，虽然 RabbitMQ 是开源的，然而国内有几个能定制化开发 erlang 的程序员呢？所幸，RabbitMQ 的社区十分活跃，可以解决开发过程中遇到的 bug，这点对于中小型公司来说十分重要。不考虑 kafka 的原因是，一方面中小型软件公司不如互联网公司，数据量没那么大，选消息中间件，应首选功能比较完备的，所以 kafka 排除。不考虑 RocketMQ 的原因是，RocketMQ 是阿里出品，如果阿里放弃维护 RocketMQ，中小型公司一般抽不出人来进行 RocketMQ 的定制化开发，因此不推荐；
2. 大型软件公司，根据具体使用在 RocketMQ 和 kafka 之间二选一。一方面，大型软件公司，具备足够的资金搭建分布式环境，也具备足够大的数据量。针对 RocketMQ，大型软件公司也可以抽出人手对 RocketMQ 进行定制化开发，毕竟国内有能力改 JAVA 源码的人还是相当多的。至于 kafka，根据业务场景选择，如果有日志采集功能，肯定是首选 kafka 了。具体该选哪个，看使用场景。

通过本节的介绍，我们知道了选择哪种 MQ，需要从社区活跃度和性能两个方面，结合公司的具体使用场景，最终做出选择。

2.4 如何保证消息队列是高可用的？

**分析：**在前面引入消息队列的缺点时说过，引入消息队列后，系统的可用性下降。在生产中，没人使用单机模式的消息队列。因此，作为一个合格的程序员，应该对消息队列的高可用有很深刻的了解。如果面试的时候，面试官问，你们的消息中间件如何保证高可用的？你的回答只是表明自己只会订阅和发布消息，面试官就会怀疑你是不是只是自己搭着玩，压根没在生产用过。请做一个爱思考，会思考，懂思考的程序员。

**回答：**此问题其实要对每种消息队列的集群模式要有深刻了解，才好回答。

以 RcoketMQ 为例，它的集群就有多 master 模式、多 master 多 slave 异步复制模式、多 master 多 slave 同步双写模式。多 master 多 slave 模式部署架构图（网上找的,偷个懒，懒得画）：

其实博主第一眼看到这个图，就觉得和 kafka 好像，只是 NameServer 集群，在 kafka 中是用 zookeeper 代替，都是用来保存和发现 master 和 slave 用的。

上图的通信过程如下：

1. Producer 与 NameServer 集群中的其中一个节点（随机选择）建立长连接，定期从 NameServer 获取 Topic 路由信息；
2. Producer 与提供 Topic 服务的 Broker Master 建立长连接，且定时向 Broker 发送心跳，Producer 只能将消息发送到 Broker master；
3. 与 Producer 不同，Consumer 同时和提供 Topic 服务的 Master 和 Slave 建立长连接，既可以从 Broker Master 订阅消息，也可以从 Broker Slave 订阅消息。

那么 kafka 呢，为了对比说明直接上 kafka 的拓补架构图（也是找的，懒得画），如下图所示：

如上图所示，一个典型的 Kafka 集群中包含若干 Producer（可以是 web 前端产生的 Page View，或者是服务器日志，系统 CPU、Memory 等），若干 broker（Kafka 支持水平扩展，一般 broker 数量越多，集群吞吐率越高），若干 Consumer Group，以及一个 Zookeeper 集群。Kafka 通过 Zookeeper 管理集群配置，选举 leader，以及在 Consumer Group 发生变化时进行 rebalance。Producer 使用 push 模式将消息发布到 broker，Consumer 使用 pull 模式从 broker 订阅并消费消息。

至于 RabbitMQ，也有普通集群和镜像集群模式，自行去了解，比较简单，两小时即懂。

要求，在回答高可用的问题时，应该能逻辑清晰的画出自己的 MQ 集群架构或清晰的叙述出来。

2.5 如何保证消息不被重复消费？

**分析：**这个问题其实换一种问法就是，如何保证消息队列的幂等性？这个问题可以认为是消息队列领域的基本问题。换句话说，就是在考察你的设计能力，这个问题的回答可以根据具体的业务场景来答，并没有固定的答案。

回答：先来说一下为什么会造成重复消费？其实无论是那种消息队列，造成重复消费原因其实都是类似的。正常情况下，消费者在消费消息的过程中，消费完毕后，会发送一个确认信息给消息队列，消息队列就知道该消息被消费了，就会将该消息从消息队列中删除。只是不同的消息队列发送的确认信息形式不同，例如 RabbitMQ 是发送一个 ACK 确认消息，RocketMQ 是返回一个 CONSUME_SUCCESS 成功标志，kafka 实际上有个 offset 的概念，简单说一下（如果还不懂，出门找一个 kafka 入门到精通教程），就是每一个消息都有一个 offset，kafka 消费过消息后，需要提交 offset，让消息队列知道自己已经消费过了。那造成重复消费的原因呢？就是因为网络传输等故障，消费者的确认信息没有传送到消息队列，导致消息队列不知道消费者已经消费过该消息了，就再次将该消息分发给消费者。

那么该如何解决此问题呢？这个问题针对业务场景，分以下几点来回答：

• 比如，你拿到这个消息做数据库的 insert 操作，那就容易了，给这个消息做一个唯一主键，那么就算出现重复消费的情况，就会导致主键冲突，避免数据库出现脏数据；
• 再比如，你拿到这个消息做 redis 的 set 的操作，那就容易了，不用解决，因为你无论 set 几次结果都是一样的，set 操作本来就算幂等操作；
• 如果上面两种情况还不行，上大招。准备一个第三方介质，来做消费记录。以 redis 为例，给消息分配一个全局 id，只要消费过该消息，将 <id,message> 以 K-V 形式写入 redis，那消费者开始消费前，先去 redis 中查询有没消费记录即可。

2.6 如何保证消费的可靠性传输？

**分析：**我们在使用消息队列的过程中，应该做到消息不能多消费，也不能少消费。如果无法做到可靠性传输，可能给公司带来千万级别的财产损失。同样的，如果可靠性传输在使用过程中，没有考虑到，这不是给公司挖坑么，你可以拍拍屁股走了，公司损失的钱，谁承担。还是那句话，认真对待每一个项目，不要给公司挖坑。

**回答：**其实这个可靠性传输，每种 MQ 都要从三个角度来分析：生产者弄丢数据、消息队列弄丢数据、消费者弄丢数据。

下面分别针对每种 MQ 进行分析。

2.6.1 RabbitMQ

1. 生产者丢数据

从生产者弄丢数据这个角度来看，RabbitMQ 提供 transaction 和 confirm 模式来确保生产者不丢消息。

transaction 机制就是说，发送消息前，开启事物（channel.txSelect()），然后发送消息，如果发送过程中出现什么异常，事物就会回滚 （channel.txRollback()），如果发送成功则提交事物（channel.txCommit()）。

然而上述模式的缺点就是吞吐量下降了。因此，按照博主的经验，生产上用 confirm 模式的居多。一旦 channel 进入 confirm 模式，所有在该信道上面发布的消息都将会被指派一个唯一的 ID（从1开始），一旦消息被投递到所有匹配的队列之后，RabbitMQ 就会发送一个 Ack 给生产者（包含消息的唯一 ID），这就使得生产者知道消息已经正确到达目的队列了。如果 RabiitMQ 没能处理该消息，则会发送一个 Nack 消息给生产者，生产者可以进行重试操作。处理 Ack 和 Nack 的代码如下所示（说好不上代码的，偷偷上了）：

channel.addConfirmListener(new ConfirmListener() {
    @Override  
    public void handleNack(long deliveryTag, boolean multiple) throws IOException {  
        System.out.println("nack: deliveryTag = "+deliveryTag+" multiple: "+multiple);  
    }  
    @Override  
    public void handleAck(long deliveryTag, boolean multiple) throws IOException {  
        System.out.println("ack: deliveryTag = "+deliveryTag+" multiple: "+multiple);  
    }  
}); 

2. 消息队列丢数据

处理消息队列丢数据的情况，一般是开启持久化磁盘的配置。这个持久化配置可以和 confirm 机制配合使用，你可以在消息持久化磁盘后，再给生产者发送一个 Ack 信号。这样，如果消息持久化磁盘之前，RabbitMQ 阵亡了，那么生产者收不到 Ack 信号，生产者就会自动重发。

那么如何持久化呢，这里顺便说一下吧，其实也很容易，就下面两步：

1. 将 queue 的持久化标识 durable 设置为 true，则代表是一个会进行持久化操作的队列；
2. 发送消息的时候设置 deliveryMode=2

这样设置以后，就算 RabbitMQ 挂了，重启后也能恢复数据。

3. 消费者丢数据

消费者丢数据一般是因为采用了自动确认消息模式。这种模式下，消费者会自动确认收到信息。此时 RabbitMQ 会立即将消息删除，这种情况下，如果消费者出现异常而没能处理该消息，就会丢失该消息。至于解决方案，采用手动确认消息即可。

2.6.2 kafka

这里先引一张 kafka Replication 的数据流向图：

Producer 在发布消息到某个 Partition 时，先通过 ZooKeeper 找到该 Partition 的 Leader，然后无论该 Topic 的 Replication Factor 为多少（也即该 Partition 有多少个 Replica），Producer 只将该消息发送到该 Partition 的 Leader。Leader 会将该消息写入其本地 Log，每个 Follower 都从 Leader 中 pull 数据。

针对上述情况，得出如下分析：

1. 生产者丢数据

在 kafka 生产中，基本都有一个 leader 和多个 follwer。follwer 会去同步 leader 的信息。因此，为了避免生产者丢数据，做如下两点配置：

• 第一个配置要在 producer 端设置 acks=all。这个配置保证了 follwer 同步完成后，才认为消息发送成功；
• 在 producer 端设置 retries=MAX，一旦写入失败，就无限重试

2. 消息队列丢数据

针对消息队列丢数据的情况，无外乎就是，数据还没同步，leader 就挂了，这时 zookpeer 会将其他的 follwer 切换为 leader，那数据就丢失了。针对这种情况，应该做两个配置：

• replication.factor 参数，这个值必须大于1，即要求每个 partition 必须有至少2个副本；
• min.insync.replicas 参数，这个值必须大于1，这个是要求一个 leader 感知到至少有一个 follower 还跟自己保持联系

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上C C++开发知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以戳这里获取

g-88U1r4so-1715799246532)]

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上C C++开发知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以戳这里获取