Linux RocketMQ 集群部署概念介绍

相关概念

  • NameServer

    这里我们可以理解成类似于zk的一个注册中心,而且rocketmq最初也是基于zk作为注册中心的,现在相当于为rocketmq自定义了一个注册中心,代码不超过1000行。RocketMQ 有多种配置方式可以令客户端找到 Name Server, 然后通过 Name Server 再找到 Broker,分别如下,优先级由高到低,高优先级会覆盖低优先级。客户端提供http和ip:端口号的两种方式,推荐使用http的方式可以实现nameserver的热部署。

  • Push Consumer

    Consumer 的一种,应用通常通过 Consumer 对象注册一个 Listener 接口,一旦收到消息,Consumer 对象立刻回调 Listener 接口方法,类似于activemq的方式

  • Pull Consume

    Consumer 的一种,应用通常主动调用 Consumer 的拉消息方法从 Broker 拉消息,主动权由应用控制

  • Producer Group

    一类producer的集合名称,这类producer通常发送一类消息,且发送逻辑一致

  • Consumer Group

    同上,consumer的集合名称

  • Broker

    消息中转的角色,负责存储消息(实际的存储是调用的store组件完成的),转发消息,一般也成为server,同jms中的provider

  • Message Filter

    可以实现高级的自定义的消息过滤

  • Master/Slave

    集群的主从关系,broker的name相同,brokerid=0的为主master,大于0的为从slave,可以一主多从,但一从只能有一主

RocketMQ角色介绍

RocketMQ由四部分构成:Producer、Consumer、Broker和NameServer

启动顺序:NameServer->Broker

为了消除单点故障,增加可靠性或增大吞吐量,可以在多台机器上部署多个nameserver和broker,并且为每个broker部署1个或多个slave,rocketmq架构图如图所示。
Rcoketmq各角色之间关系

集群模式

  1. 单Master模式:分险较大,一旦Broker重启或宕机,会导致整个服务不可用,不建议生产使用
  2. 多Master模式:一个集群无Slave,多个Master
    优点:配置简单,单个Master宕机或重启维护对应用无影响,在磁盘配置为RAD10时,即使机器宕机不可恢复情况下,由于RAD10
    磁盘非常可靠,消息也不会丢(异步刷盘会丢失少量数据,同步刷盘则不会丢失),性能最高
    缺点:单台机器宕机期间,这台机器未被消费的消息在机器恢复之前不可订阅,消息实时性会受到影响
  3. 多Master多Slave模式(异步):每个Master配置一份Slave.有多对Master-Slave,HA采用异步复制方式,主备有短暂消息延迟
    优点:及时磁盘损坏,消息丢失的非常少,消息实时性不会受影响,同步Master宕机后,消费者仍然可以从Slave消费,而且此过程对应用透明,不需要人工干预,性能同多Master模式几乎一样
    缺点:Master宕机,磁盘损坏情况会丢失少量消息
  4. 多Master多Slave模式(同步):每个Master配置一份Slave.有多对Master-Slave,HA采用同步双写方式,即只有主备都写成功,才向应用返回成功
    优点:数据和服务都无单点故障,Master宕机情况下,消息无延迟,服务可用性和数据可用性都非常高
    缺点:性能比异步复制模式略低,发送单个消息的RT会略高,且目前版本在主节点宕机后,备机不能自动切换为主机

集群工作流程

在这里插入图片描述

  1. 启动NameServer,NameServer起来后监听端口,等待Broker,Producer,Consumer连上来,相当于一个路由控制中心
  2. Broker启动,跟所有的NameServer保持长连接,定时发送心跳包,心跳包中包含当前Broker信息以及存储所有Topic信息,注册成功后,NameServer集群中就有Topic跟Broker的映射关系
  3. 收发消息前,先创建Topic,创建Topic需要指定该Topic要存储在哪些Broker上,也可以在发送消息时自动创建Topic
  4. Producer发送消息,启动时先跟NameServer集群中的其中一台建立长连接,并从NameServer中获取当前发送的Topic存在哪些Broker上,轮询从队列列表中选择一个队列,然后跟队列所在的Broker建立长连接从而想Broker发消息
  5. Consumer跟Producer类似,跟其中一台NameServer建立长连接,获取当前订阅Topic存在哪些Broker上,然后直接跟Broker家里连接通道,开始消费消息

参考:https://www.jianshu.com/p/23e04d8178b8

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值