奈学教育rocketmq学习笔记1

   本文属于奈学教育rocketmq学习笔记。主讲老师陈东。

推荐在线观看,效果更好。因为不但讲理论,更从实践触发,踩过哪些坑。

1.目录

应用场景分析: 

使用topic管理。概念理解。

例子:运营活动灵活,修改频繁。硬编码频繁修改不适用业务场景。

改进:使用mq统一订阅,抽取出专门的businesslogic 专门调用核心业务。提升系统的稳定性。

当然,老师额外讲了一个优化点:从这个点来看,的确是干货。

   怎么实现一个连续5天登录送奖励的优化。

  如果默认:每次登录都记录。那么记录很多,而且判断复杂。

优化1:想办法每天记录为一条。

优化2: 使用bimmap:每天1位,累计使用:位运算《1+1. 推荐16进制。

 

使用mq:解耦。各个业务订阅自己业务关注的topic。进而处理

 

三大场景: 业务解耦、异步调用、流量削峰 

提升稳定性,但不是替代rpc,因为mq有全局性问题。

对于下单业务场景:

对于必须同步的场景:风控拦截、扣减库存是必须的rpc. 后面的非必要的同步,可以走异步mq。

秒杀的业务场景:

综合考虑:

该同步同步,该异步就异步,不能完全替代RPC。

影响点: 系统复杂度、可用性。排查问题难度:(根据mq能追踪到消费者)推荐调用链

这块是评估问题的点,就是权衡的维度。对于扩展思路很有用。

所谓成熟就是大厂发展了几年,坑都踩过了,渠去 哪里查资料。

老师额外提了下:顺序性如何实现,就是放到一个队列。单线程消费。是个取巧的实现。

上面的图:有主从master\slave, 有分布式:master1,master2   ,体现了灾备;

           注册信息在nameserver。

  这个图的nameserver独立的,所以没法选主。

刷盘指flush操作,真正落盘。

同步刷盘+同步双写。 最可靠。

topic-->broker->matser

commitlog 顺序追加写

怎么消费呢?有 dispatch线程读取后按照topic放到 consumerQueue,

队列里面存储的不是消息的内容,而是commitlog的offset,跟大小,这样就能找到对应的内容。

maxoffset用于写入新的。

consomeoffset 指消费的位置。

顺序写,随机读,如何保证消费性能?

kafka 顺序写,顺序读,所以性能很高。

切分,就是缩小随机读的范围。mmap 使用虚拟内存。ssd提升硬件性能。

生产方式:

同步、异步、单向

根据也无需求提供多种方式去选择。

push:实时性高,但是可能积压。

pull:实时性不好,可能有大量无效请求。

group内竞争,group间广播

前提:每个队列自能一个消费者,不能多个消费者都消费同一个队列。

 

这个图体现了上次分配结果对比,红色是没有的去掉,绿色是已经有的,白色是新分配的,最后生成新的队列。

新的问题:新加入的consumer如何实现?

老师的讲解还是不错的,快速入门,从总体上熟悉mq的架构,有个整体印象更容易串起来。

 

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
RocketMQ 是阿里巴巴在2012年开源的分布式消息中间件,目前已经捐赠给 Apache 软件基金会,并于2017年9月25日成为Apache 的顶级项目。作为经历过多次阿里巴巴双十一这种“超级工程”的洗礼并有稳定出色表现的国产中间件,以其高性能、低延时和高可靠等特性近年来已经也被越来越多的国内企业使用。其主要功能有1.灵活可扩展性、2.海量消息堆积能力、3.支持顺序消息、4.多种消息过滤方式、5.支持事务消息、6.回溯消费等常用功能。RocketMQ 核心的四大组件:Name Server、Broker、Producer、Consumer ,每个组件都可以部署成集群进行水平扩展。2、适应人群有一定的Java基础,并且有分布式项目开发经验。3、课程价值可以让初学者对分布式系统解耦有一定认识,并且能够通过快速使用RocketMQ实现分布式服务的异步通信,同时本课程还会通过项目案例实战让学员对RocketMQ的应用场景有所体会,最后再通过源码角度让学员对RocketMQ的原理有所理解,不仅做到“知其然”,亦“知其所以然”。4、课程收获1. 理解消息中间件MQ的优势和应用场景2. 掌握RocketMQ的核心功能,以及各种消息发送案例3. 通过电商项目深刻理解RocketMQ在使用项目中的落地应用4. 通过RocketMQ高级功能和源码学习,对RocketMQ的技术细节和原理有更加透彻的理解5、课程亮点l  核心功能n  MQ介绍n  环境准备n  RocketMQ高可用集群搭建n  各种消息发送样例l  综合练习n  项目背景介绍n  功能分析n  项目环境搭建n  下单功能,保证各服务的数据一致性n  确认订单功能,通过消息进行数据分发n  整体联调l  高级功能n  消息的存储和发送n  消息存储结构n  刷盘机制n  消息的同步复制和异步复制n  负载均衡l  源码分析n  路由中心NameServern  消息生产者Producern  消息存储n  消息消费Consumer6、主讲内容章节一:核心功能1.     快速入门a)     MQ介绍b)     作用c)      注意事项d)     各MQ产品比较2.     RocketMQ环境搭建a)     环境准备b)     安装RocketMQc)      启动RocketMQd)     测试RocketMQe)     关闭RocketMQ3.     RocketMQ高可用集群搭建a)     集群各角色介绍b)     集群搭建方式c)      双主双从集群搭建d)     集群监控平台4.     各种消息发送样例a)     同步消息b)     异步消息c)      单向消息d)     顺序消息e)     批量消息f)      过滤消息g)     事务消息章节二:项目实战1.    项目背景介绍(1)    电商高可用MQ实战2.    功能分析(1)    下单功能(2)    支付功能3.    项目环境搭建(1)    SpringBoot(2)    Dubbo(3)    Zookeeper(4)    RocketMQ(5)    Mysql4.下单功能,保证各服务的数据一致性5.确认订单功能,通过消息进行数据分发章节三:高级功能1. 消息的存储和发送2. 消息存储结构3. 刷盘机制(1)    同步刷盘(2)    异步刷盘4. 消息的同步复制和异步复制5. 负载均衡(1)    Producer负载均衡(2)    Consumer负载均衡章节四:源码分析1.     路由中心NameServera)     NameServer架构设计b)     NameServer启动流程c)      NameServer路由注册和故障剔除2.     消息生产者Producera)     生产者启动流程b)     生产者发送消息流程c)      批量发送3.     消息存储a)     消息存储流程b)     存储文件与内存映射c)      存储文件d)     实时更新消息消费队列和存储文件e)     消息队列与索引文件恢复f)      刷盘机制4.     过期文件删除机制a)     消息消费Consumerb)     消费者启动流程c)      消息拉取d)     消息队列负载均衡和重新分布机制e)     消息消费过程f)      定时消息机制g)     顺序消息

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值