04.RocketMQ集群搭建原理

请添加图片描述

一、数据复制与刷盘策略请添加图片描述

  1. 复制策略:Broker的Master与Slave间的数据同步方式,分为同步复制与异步复制。
    同步复制:消息写入Master后,等待Slave同步数据成功后才返回ACK。
    异步复制:消息写入Master后,master立即向producer返回成功ACK,无需等待slave同步数据成功。降低系统写入延迟,RT变小,提高吞吐量。
  2. 刷盘策略:消息发送到broker内存后消息持久化到磁盘的方式,分为同步刷盘与异步刷盘
    同步刷盘:消息持久化到broker到磁盘后才算消息写入成功。
    异步刷盘:消息写入broker到内存后即表示消息写入成功,无需等待消息持久化到磁盘。降低系统写入延迟, RT变小,一般写入broker的PageCache中,会立即写入,不会立即落盘,当PageCache到达一定量时会自动落盘。

二、集群模式

  1. 单Master:只有一个broker,只能在测试环境使用,生产环境不能使用,会存在单点问题。
  2. 多Master:仅有多个Master没有Slave。同一个Topic的Queue会平均分布在不同的Master节点上。
    优点:配置简单,单个Master宕机或重启对应用无影响。在磁盘配置为RAID10(磁盘阵列)时,即使机器宕机不可恢复情况下,由于RAID10磁盘非常可靠,消息也不会丢失(异步刷盘会丢失少量消息)
    缺点:单台机器宕机期间,这台机器上未被消费的消息在机器恢复之前不可以订阅(不可消费),消息实时性会受影响。
  3. 多Master多Slave模式-异步复制
    Broker集群由多个master构成,每个master又配置多个slave(在配置了RAID磁盘阵列的情况下,一个master配置一个slave即可)。master与slave的关系是主备关系,即master负责处理消息的读写请求,slave仅负责消息的备份与master宕机后的角色切换。
    异步复制即复制策略中的异步复制策略。
    该模式最大特点,master宕机后,slave自动切换为master,由于短暂延迟,会出现少量消息丢失问题。
  4. 多Master多Slave模式-同步双写
    master收到消息后等待slave同步数据成功后才向producer返回成功ACK,即master与slave都要写入成功后才会返回成功ACK。
    优点:安全性高,不会丢失数据
    缺点:性能低,目前版本,master宕机后,slave无法自动切换成master。
  5. 生产实践:一般会为Master配置RAID10磁盘阵列,然后再配置一个Slave。即利用了RAID10磁盘阵列的高效性、安全性,又解决了可能会影响订阅的问题。
    1)磁盘阵列效率高于Master- Slave,硬件支持,因此搭建成本也高。
    2)多Master+RAID阵列,与多Master多Slave区别在于磁盘阵列保证数据不丢失,不影响消息写入,但可能会影响消息的订阅。
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
RocketMQ 是阿里巴巴在2012年开源的分布式消息中间件,目前已经捐赠给 Apache 软件基金会,并于2017年9月25日成为Apache 的顶级项目。作为经历过多次阿里巴巴双十一这种“超级工程”的洗礼并有稳定出色表现的国产中间件,以其高性能、低延时和高可靠等特性近年来已经也被越来越多的国内企业使用。其主要功能有1.灵活可扩展性、2.海量消息堆积能力、3.支持顺序消息、4.多种消息过滤方式、5.支持事务消息、6.回溯消费等常用功能。RocketMQ 核心的四大组件:Name Server、Broker、Producer、Consumer ,每个组件都可以部署成集群进行水平扩展。2、适应人群有一定的Java基础,并且有分布式项目开发经验。3、课程价值可以让初学者对分布式系统解耦有一定认识,并且能够通过快速使用RocketMQ实现分布式服务的异步通信,同时本课程还会通过项目案例实战让学员对RocketMQ的应用场景有所体会,最后再通过源码角度让学员对RocketMQ原理有所理解,不仅做到“知其然”,亦“知其所以然”。4、课程收获1. 理解消息中间件MQ的优势和应用场景2. 掌握RocketMQ的核心功能,以及各种消息发送案例3. 通过电商项目深刻理解RocketMQ在使用项目中的落地应用4. 通过RocketMQ高级功能和源码学习,对RocketMQ的技术细节和原理有更加透彻的理解5、课程亮点l  核心功能n  MQ介绍n  环境准备n  RocketMQ高可用集群搭建n  各种消息发送样例l  综合练习n  项目背景介绍n  功能分析n  项目环境搭建n  下单功能,保证各服务的数据一致性n  确认订单功能,通过消息进行数据分发n  整体联调l  高级功能n  消息的存储和发送n  消息存储结构n  刷盘机制n  消息的同步复制和异步复制n  负载均衡l  源码分析n  路由中心NameServern  消息生产者Producern  消息存储n  消息消费Consumer6、主讲内容章节一:核心功能1.     快速入门a)     MQ介绍b)     作用c)      注意事项d)     各MQ产品比较2.     RocketMQ环境搭建a)     环境准备b)     安装RocketMQc)      启动RocketMQd)     测试RocketMQe)     关闭RocketMQ3.     RocketMQ高可用集群搭建a)     集群各角色介绍b)     集群搭建方式c)      双主双从集群搭建d)     集群监控平台4.     各种消息发送样例a)     同步消息b)     异步消息c)      单向消息d)     顺序消息e)     批量消息f)      过滤消息g)     事务消息章节二:项目实战1.    项目背景介绍(1)    电商高可用MQ实战2.    功能分析(1)    下单功能(2)    支付功能3.    项目环境搭建(1)    SpringBoot(2)    Dubbo(3)    Zookeeper(4)    RocketMQ(5)    Mysql4.下单功能,保证各服务的数据一致性5.确认订单功能,通过消息进行数据分发章节三:高级功能1. 消息的存储和发送2. 消息存储结构3. 刷盘机制(1)    同步刷盘(2)    异步刷盘4. 消息的同步复制和异步复制5. 负载均衡(1)    Producer负载均衡(2)    Consumer负载均衡章节四:源码分析1.     路由中心NameServera)     NameServer架构设计b)     NameServer启动流程c)      NameServer路由注册和故障剔除2.     消息生产者Producera)     生产者启动流程b)     生产者发送消息流程c)      批量发送3.     消息存储a)     消息存储流程b)     存储文件与内存映射c)      存储文件d)     实时更新消息消费队列和存储文件e)     消息队列与索引文件恢复f)      刷盘机制4.     过期文件删除机制a)     消息消费Consumerb)     消费者启动流程c)      消息拉取d)     消息队列负载均衡和重新分布机制e)     消息消费过程f)      定时消息机制g)     顺序消息
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值