消息队列的详细介绍

1.MQ引言

1.1什么是MQ

MQ(Message Queue): 翻译为:消息队列,通过典型的生产者消费者模型,生产者不断向消息队列中生产消息,消费者不断向消息队列中获取消息。因为消息的生产和消费是异步的,而且只关心消息的发送和接收,没有业务逻辑的侵入,轻松的实现系统间解耦。别名为消息中间件,通过利用高效可靠的消息传递机制进行平台无关的数据交流,并基于数据通信来进行分布式系统的集成。

1.2MQ有那些

当前使用较多的 消息队列RabbitMQRocketMQActiveMQKafkaZeroMQMetaMQ 等,而部分 数据库RedisMySQL 以及 phxsql 也可实现消息队列的功能。

1.3不同MQ之间的特点

  • ActiveMQ

    • ActiveMQ 是Apache出名,最流行的,能力强劲的消息总线。它是一个完全支持JMS规范的消息中间件,丰富的API,多种集群架构模式让ActiveMQ在业界成为老牌的消息中间件,在中小型企业颇受欢迎!

      img

  • 主要特性

  1. 服从JMS规范JMS 规范提供了良好的标准和保证,包括:同步异步 的消息分发,一次和仅一次的消息分发,消息接收订阅 等等。遵从 JMS 规范的好处在于,不论使用什么 JMS 实现提供者,这些基础特性都是可用的;

  2. 连接灵活性ActiveMQ 提供了广泛的 连接协议,支持的协议有:HTTP/SIP 多播SSLTCPUDP 等等。对众多协议的支持让 ActiveMQ 拥有了很好的灵活性;

  3. 支持的协议种类多OpenWireSTOMPRESTXMPPAMQP

  4. 持久化插件和安全插件ActiveMQ 提供了 多种持久化 选择。而且,ActiveMQ 的安全性也可以完全依据用户需求进行 自定义鉴权授权

  5. 支持的客户端语言种类多:除了 Java 之外,还有:C/C++.NETPerlPHPPythonRuby

  6. 代理集群:多个 ActiveMQ 代理 可以组成一个 集群 来提供服务;

  7. 异常简单的管理ActiveMQ 是以开发者思维被设计的。所以,它并不需要专门的管理员,因为它提供了简单又使用的管理特性。有很多中方法可以 监控 ActiveMQ 不同层面的数据,包括使用在 JConsole 或者在 ActiveMQWeb Console 中使用 JMX。通过处理 JMX 的告警消息,通过使用 命令行脚本,甚至可以通过监控各种类型的 日志

    • 优点

      1. 跨平台 (JAVA 编写与平台无关,ActiveMQ 几乎可以运行在任何的 JVM 上);
      2. 可以用 JDBC:可以将 数据持久化 到数据库。虽然使用 JDBC 会降低 ActiveMQ 的性能,但是数据库一直都是开发人员最熟悉的存储介质;
      3. 支持 JMS 规范:支持 JMS 规范提供的 统一接口;
      4. 支持 自动重连错误重试机制
      5. 有安全机制:支持基于 shirojaas 等多种 安全配置机制,可以对 Queue/Topic 进行 认证和授权
      6. 监控完善:拥有完善的 监控,包括 Web ConsoleJMXShell 命令行,JolokiaRESTful API
      7. 界面友善:提供的 Web Console 可以满足大部分情况,还有很多 第三方的组件 可以使用,比如 hawtio
    • 缺点

      1. 社区活跃度不及 RabbitMQ 高;
      2. 根据其他用户反馈,会出莫名其妙的问题,会 丢失消息
      3. 目前重心放到 activemq 6.0 产品 Apollo,对 5.x 的维护较少;
      4. 不适合用于 上千个队列 的应用场景;

  • Kafka

  • Kafka是LinkedIn开源的分布式发布-订阅消息系统,目前归属于Apache顶级项目,Kafka主要特带你就是基于pull的模式来处理消息消费,追求高吞吐量,一开始是的目的就是用于日志收集和传输,0.8版本开始支持复制,不支持事务,对消息的重复、丢失、错误没有严格的要求,适合长产生大量数据的互联网服务的数据收集业务;

    img

    • 主要特性

      1. 快速持久化:可以在 O(1) 的系统开销下进行 消息持久化
      2. 高吞吐:在一台普通的服务器上既可以达到 10W/s吞吐速率
      3. 完全的分布式系统BrokerProducerConsumer 都原生自动支持 分布式,自动实现 负载均衡
      4. 支持 同步异步 复制两种 高可用机制
      5. 支持 数据批量发送拉取
      6. 零拷贝技术(zero-copy):减少 IO 操作步骤,提高 系统吞吐量
      7. 数据迁移扩容 对用户透明;
      8. 无需停机 即可扩展机器;
      9. 其他特性:丰富的 消息拉取模型、高效 订阅者水平扩展、实时的 消息订阅、亿级的 消息堆积能力、定期删除机制;
    • 优点

      1. 客户端语言丰富:支持 Java.NetPHPRubyPythonGo 等多种语言;
      2. 高性能:单机写入 TPS 约在 100 万条/秒,消息大小 10 个字节;
      3. 提供 完全分布式架构,并有 replica 机制,拥有较高的 可用性可靠性,理论上支持 消息无限堆积
      4. 支持批量操作;
      5. 消费者 采用 Pull 方式获取消息。消息有序通过控制 能够保证所有消息被消费且仅被消费 一次
      6. 有优秀的第三方 Kafka Web 管理界面 Kafka-Manager
      7. 日志领域 比较成熟,被多家公司和多个开源项目使用。
    • 缺点

      1. Kafka 单机超过 64队列/分区 时,Load 时会发生明显的飙高现象。队列 越多,负载 越高,发送消息 响应时间变长
      2. 使用 短轮询方式实时性 取决于 轮询间隔时间
      3. 消费失败 不支持重试
      4. 支持 消息顺序,但是 一台代理宕机 后,就会产生 消息乱序
      5. 社区更新较慢。
  • RocketMQ

    • ​ RocketMQ是阿里开源的消息中间件,它是蠢Java开发的,具有高吞吐量、高可用性、适合大规模分布式系统应用的特点,RocketMQ思路去起源于Kafka,当并不是Kafka的Copy,他对消息的可靠传输及事务性做了优化,目前在阿里集团被广泛应用于交易、充值、流计算、消息推送、日志流式处理、binglog分发等场景;

      img

    • 主要特性

      1. 基于 队列模型:具有 高性能高可靠高实时分布式 等特点;
      2. ProducerConsumer队列 都支持 分布式Producer 向一些队列轮流发送消息,队列集合 称为 TopicConsumer 如果做 广播消费,则一个 Consumer 实例消费这个 Topic 对应的 所有队列;如果做 集群消费,则 多个 Consumer 实例 平均消费 这个 Topic 对应的队列集合;
      3. 能够保证 严格的消息顺序
      4. 提供丰富的 消息拉取模式
      5. 高效的订阅者 水平扩展能力;
      6. 实时消息订阅机制
      7. 亿级 消息堆积 能力;
      8. 较少的外部依赖。
    • 优点

      1. 单机 支持 1 万以上 持久化队列
      2. RocketMQ 的所有消息都是 持久化的,先写入系统 PAGECACHE,然后 刷盘,可以保证 内存磁盘 都有一份数据,而 访问 时,直接 从内存读取
      3. 模型简单,接口易用(JMS 的接口很多场合并不太实用);
      4. 性能非常好,可以允许 大量堆积消息Broker 中;
      5. 支持 多种消费模式,包括 集群消费广播消费等;
      6. 各个环节 分布式扩展设计,支持 主从高可用
      7. 开发度较活跃,版本更新很快。
    • 缺点

      1. 支持的 客户端语言 不多,目前是 JavaC++,其中 C++ 还不成熟;
      2. RocketMQ 社区关注度及成熟度也不及前两者;
      3. 没有 Web 管理界面,提供了一个 CLI (命令行界面) 管理工具带来 查询管理诊断各种问题
      4. 没有在 MQ 核心里实现 JMS 等接口;
  • RabbitMQ

    • RabbitMQ是使用Erlang语言开发的开源消息队列系统,基于AMQP协议来实现,AMQP主要特征就是面向消息、队列、路由(包括点对点和发布/订阅)、可靠性、安全;AMQP协议是更多用在企业内对数据一致性、稳定性和可靠性要求很高的场景,对性能和吞吐量的要求还在其次;

      img

    • 主要特性

      1. 可靠性:提供了多种技术可以让你在 性能可靠性 之间进行 权衡。这些技术包括 持久性机制投递确认发布者证实高可用性机制
      2. 灵活的路由:消息在到达队列前是通过 交换机 进行 路由 的。RabbitMQ 为典型的路由逻辑提供了 多种内置交换机 类型。如果你有更复杂的路由需求,可以将这些交换机组合起来使用,你甚至可以实现自己的交换机类型,并且当做 RabbitMQ插件 来使用;
      3. 消息集群:在相同局域网中的多个 RabbitMQ 服务器可以 聚合 在一起,作为一个独立的逻辑代理来使用;
      4. 队列高可用:队列可以在集群中的机器上 进行镜像,以确保在硬件问题下还保证 消息安全
      5. 支持多种协议:支持 多种消息队列协议
      6. 支持多种语言:用 Erlang 语言编写,支持只要是你能想到的 所有编程语言
      7. 管理界面RabbitMQ 有一个易用的 用户界面,使得用户可以 监控管理 消息 Broker 的许多方面;
      8. 跟踪机制:如果 消息异常RabbitMQ 提供消息跟踪机制,使用者可以找出发生了什么;
      9. 插件机制:提供了许多 插件,来从多方面进行扩展,也可以编写自己的插件。
    • 优点

      1. 由于 Erlang 语言的特性,消息队列性能较好,支持 高并发
      2. 健壮、稳定、易用、跨平台、支持 多种语言、文档齐全;
      3. 有消息 确认机制持久化机制,可靠性高;
      4. 高度可定制的 路由
      5. 管理界面 较丰富,在互联网公司也有较大规模的应用,社区活跃度高。
    • 缺点

      1. 尽管结合 Erlang 语言本身的并发优势,性能较好,但是不利于做 二次开发和维护
      2. 实现了 代理架构,意味着消息在发送到客户端之前可以在 中央节点 上排队。此特性使得 RabbitMQ 易于使用和部署,但是使得其 运行速度较慢,因为中央节点 增加了延迟消息封装后 也比较大;
      3. 需要学习 比较复杂接口和协议,学习和维护成本较高。

    区别图解

    img

RabbitMQ比Kafka可靠,Kafka更适合IO高吞吐的处理,一般应用在大数据日志处理或对实时性(少量延时),可靠性(少量丢数据)要求稍低的场景使用,比如ELK日志收集]

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值