RocketMQ
文章平均质量分 91
RocketMQ
蜜獾互联网
聚焦国内外前沿技术文献、行业典型应用案例、互联网安全管理。
开源项目:https://gitee.com/ratel-admin
展开
-
RocketMQ教程-(6-2)-运维部署-Admin Tool
集群相关。原创 2023-08-25 13:34:03 · 275 阅读 · 0 评论 -
RocketMQ-(8-1)-EventBridge-EventBridge 核心概念
事件格式用来描述事件的具体内容。这相当于市场经济的一个买卖契约。生产者发送的事件格式是什么,得确定下来,不能总是变;消费者以什么格式接收事件也得确定下来,不然整个市场就乱套了。原创 2023-08-31 14:29:44 · 308 阅读 · 0 评论 -
RocketMQ-(7-1)-可观测-Metrics
RocketMQ 以 Prometheus 格式公开以下指标。您可以使用这些指标监视您的集群。版本支持:以下指标 Metrics 是从 5.1.0 版本开始支持。原创 2023-08-25 13:35:18 · 294 阅读 · 0 评论 -
RocketMQ教程-(6-5)-运维部署-Promethus Exporter
是用于监控 RocketMQ broker 端和客户端所有相关指标的系统,通过mqAdmin从 broker 端获取指标值后封装成 87 个 cache。警告过去版本曾是 87 个 concurrentHashMap,由于 Map 不会删除过期指标,所以一旦有 label 变动就会生成一个新的指标,旧的无用指标无法自动删除,久而久之造成内存溢出。而使用 Cache 结构可可以实现过期删除,且过期时间可配置。原创 2023-08-25 13:34:48 · 432 阅读 · 0 评论 -
RocketMQ教程-(6-4)-运维部署-RocketMQ Dashboard
。转载 2023-08-25 13:35:01 · 561 阅读 · 0 评论 -
RocketMQ教程-(6-3)-运维部署-主备自动切换模式部署
转存失败重新上传取消该文档主要介绍如何部署支持自动主从切换的 RocketMQ 集群,其架构如上图所示,主要增加支持自动主从切换的 Controller 组件,其可以独立部署也可以内嵌在 NameServer 中。转载 2023-08-25 13:34:21 · 325 阅读 · 0 评论 -
RocketMQ教程-(5-11)-功能特性-消息存储和清理机制
本文为您介绍 Apache RocketMQ 中消息的存储机制,包括消息的存储粒度、判断依据及后续处理策略等。转载 2023-08-25 13:33:23 · 218 阅读 · 0 评论 -
RocketMQ教程-(5-10)-功能特性-消费重试
消费重试指的是,消费者在消费某条消息失败后,Apache RocketMQ 服务端会根据重试策略重新消费该消息,超过一次定数后若还未消费成功,则该消息将不再继续重试,直接被发送到死信队列中。消息重试的触发条件消费失败,包括消费者返回消息失败状态标识或抛出非预期异常。消息处理超时,包括在PushConsumer中排队超时。消息重试策略主要行为重试过程状态机:控制消息在重试流程中的状态和变化逻辑。重试间隔:上一次消费失败或超时后,下次重新尝试消费的间隔时间。最大重试次数:消息可被重试消费的最大次数。转载 2023-08-25 13:33:00 · 133 阅读 · 0 评论 -
RocketMQ教程-(5)-功能特性-消费进度管理
Apache RocketMQ 通过消费位点管理消费进度,本文为您介绍 Apache RocketMQ 的消费进度管理机制。转载 2023-07-24 13:44:34 · 319 阅读 · 1 评论 -
RocketMQ教程-(5)-功能特性-消费者负载均衡
如上文所述,消费组间广播消费场景下,每个消费者分组内只有一个消费者,因此不涉及消费者的负载均衡。消费组内共享消费场景下,消费者分组内多个消费者共同分担消息,消息按照哪种逻辑分配给哪个消费者,就是由消费者负载均衡策略所决定的。消息粒度负载均衡:PushConsumer和SimpleConsumer默认负载策略队列粒度负载均衡:PullConsumer默认负载策略。转载 2023-07-24 13:47:39 · 134 阅读 · 0 评论 -
RocketMQ教程-(5)-功能特性-消息过滤
消息过滤定义过滤的含义指的是将符合条件的消息投递给消费者,而不是将匹配到的消息过滤掉。Apache RocketMQ 的消息过滤功能通过生产者和消费者对消息的属性、标签进行定义,并在 Apache RocketMQ 服务端根据过滤条件进行筛选匹配,将符合条件的消息投递给消费者进行消费。消息过滤原理消息过滤主要通过以下几个关键流程实现:生产者:生产者在初始化消息时预先为消息设置一些属性和标签,用于后续消费时指定过滤目标。转载 2023-07-24 13:48:03 · 301 阅读 · 0 评论 -
RocketMQ教程-(5)-功能特性-消费者分类
如上图所示, Apache RocketMQ 的消费者处理消息时主要经过以下阶段:消息获取--->消息处理--->消费状态提交。针对以上几个阶段,Apache RocketMQ 提供了不同的消费者类型: PushConsumer 、SimpleConsumer 和 PullConsumer。这几种类型的消费者通过不同的实现方式和接口可满足您在不同业务场景下的消费需求。原创 2023-07-24 13:50:37 · 925 阅读 · 0 评论 -
RocketMQ教程-(5)-功能特性-消息发送重试和流控机制
本文为您介绍 Apache RocketMQ 的消息发送重试机制和消息流控机制。原创 2023-07-24 13:50:21 · 625 阅读 · 0 评论 -
RocketMQ教程-(5)-功能特性-事务消息
事务消息是 Apache RocketMQ 提供的一种高级消息类型,支持在分布式场景下保障消息生产和本地事务的最终一致性。原创 2023-07-24 13:50:07 · 784 阅读 · 0 评论 -
RocketMQ教程-(5)-功能特性-顺序消息
顺序消息是 Apache RocketMQ 提供的一种高级消息类型,支持消费者按照发送消息的先后顺序获取消息,从而实现业务场景中的顺序处理。相比其他类型消息,顺序消息在发送、存储和投递的处理过程中,更多强调多条消息间的先后顺序关系。Apache RocketMQ 顺序消息的顺序关系通过消息组(MessageGroup)判定和识别,发送顺序消息时需要为每条消息设置归属的消息组,相同消息组的多条消息之间遵循先进先出的顺序关系,不同消息组、无消息组的消息之间不涉及顺序性。原创 2023-07-24 13:49:45 · 1333 阅读 · 0 评论 -
RocketMQ教程-(5)-功能特性-定时/延时消息
定时消息是 Apache RocketMQ 提供的一种高级消息类型,消息被发送至服务端后,在指定时间后才能被消费者消费。通过设置一定的定时时间可以实现分布式场景的延时调度触发效果。转载 2023-07-24 13:49:03 · 473 阅读 · 0 评论 -
RocketMQ教程-(5)-功能特性-普通消息
定义:普通消息是Apache RocketMQ基本消息功能,支持生产者和消费者的异步解耦通信。转载 2023-07-24 13:48:30 · 117 阅读 · 0 评论 -
RocketMQ教程-(4)-领域模型-订阅关系(Subscription)
订阅关系是 Apache RocketMQ 系统中消费者获取消息、处理消息的规则和状态配置。订阅关系由消费者分组动态注册到服务端系统,并在后续的消息传输中按照订阅关系定义的过滤规则进行消息匹配和消费进度维护。通过配置订阅关系,可控制如下传输行为:消息过滤规则:用于控制消费者在消费消息时,选择主题内的哪些消息进行消费,设置消费过滤规则可以高效地过滤消费者需要的消息集合,灵活根据不同的业务场景设置不同的消息接收范围。具体信息,请参见消息过滤。转载 2023-07-24 13:46:09 · 162 阅读 · 0 评论 -
RocketMQ教程-(4)-领域模型-消费者(Consumer)
消费者是 Apache RocketMQ 中用来接收并处理消息的运行实体。消费者通常被集成在业务系统中,从 Apache RocketMQ 服务端获取消息,并将消息转化成业务可理解的信息,供业务逻辑处理。在消息消费端,可以定义如下传输行为:消费者身份:消费者必须关联一个指定的消费者分组,以获取分组内统一定义的行为配置和消费状态。原创 2023-07-21 16:03:50 · 578 阅读 · 0 评论 -
RocketMQ教程-(4)-领域模型-消费者分组ConsumerGroup
消费者分组是 Apache RocketMQ 系统中承载多个消费行为一致的消费者的负载均衡分组。和消费者不同,消费者分组并不是运行实体,而是一个逻辑资源。在 Apache RocketMQ 中,通过消费者分组内初始化多个消费者实现消费性能的水平扩展以及高可用容灾。在消费者分组中,统一定义以下消费行为,同一分组下的多个消费者将按照分组内统一的消费行为和负载均衡策略消费消息。订阅关系:Apache RocketMQ 以消费者分组的粒度管理订阅关系,实现订阅关系的管理和追溯。具体信息,请参见。原创 2023-07-21 16:00:12 · 427 阅读 · 0 评论 -
RocketMQ教程-(4)-领域模型-生产者(Producer)
生产者是 Apache RocketMQ 系统中用来构建并传输消息到服务端的运行实体。生产者通常被集成在业务系统中,将业务消息按照要求封装成 Apache RocketMQ 的消息(Message)并发送至服务端。在消息生产者中,可以定义如下传输行为:发送方式:生产者可通过API接口设置消息发送的方式。Apache RocketMQ 支持同步传输和异步传输。批量发送:生产者可通过API接口设置消息批量传输的方式。例如,批量发送的消息条数或消息大小。转载 2023-07-21 15:53:52 · 117 阅读 · 0 评论 -
RocketMQ教程-(4)-消息(Message)
消息是 Apache RocketMQ 中的最小数据传输单元。生产者将业务数据的负载和拓展属性包装成消息发送到 Apache RocketMQ 服务端,服务端按照相关语义将消息投递到消费端进行消费。消息不可变性消息本质上是已经产生并确定的事件,一旦产生后,消息的内容不会发生改变。即使经过传输链路的控制也不会发生变化,消费端获取的消息都是只读消息视图。消息持久化。转载 2023-07-21 15:49:07 · 289 阅读 · 0 评论 -
RocketMQ教程-(4)-队列(MessageQueue)
队列是 Apache RocketMQ 中消息存储和传输的实际容器,也是 Apache RocketMQ 消息的最小存储单元。Apache RocketMQ 的所有主题都是由多个队列组成,以此实现队列数量的水平拆分和队列内部的流式存储。队列的主要作用如下:存储顺序性队列天然具备顺序性,即消息按照进入队列的顺序写入存储,同一队列间的消息天然存在顺序关系,队列头部为最早写入的消息,队列尾部为最新写入的消息。消息在队列中的位置和消息之间的顺序通过位点(Offset)进行标记管理。流式操作语义。转载 2023-07-21 15:23:22 · 694 阅读 · 0 评论 -
RocketMQ教程-(4)-主题(Topic)
主题是 Apache RocketMQ 中消息传输和存储的顶层容器,用于标识同一类业务逻辑的消息。在 Apache RocketMQ 的方案设计中,建议将不同业务类型的数据拆分到不同的主题中管理,通过主题实现存储的隔离性和订阅隔离性。Apache RocketMQ 的消息本身是匿名无身份的,同一分类的消息使用相同的主题来做身份识别和权限管理。原创 2023-07-21 15:19:17 · 925 阅读 · 0 评论 -
RocketMQ教程-(4)-领域模型概述
分布式系统架构思想下,将复杂系统拆分为多个独立的子模块,例如微服务模块。此时就需要考虑子模块间的远程通信,典型的通信模式分为以下两种,一种是同步的RPC远程调用;一种是基于中间件代理的异步通信方式。同步RPC调用模型同步RPC调用模型下,不同系统之间直接进行调用通信,每个请求直接从调用方发送到被调用方,然后要求被调用方立即返回响应结果给调用方,以确定本次调用结果是否成功。注意 此处的同步并不代表RPC的编程接口方式,RPC也可以有异步非阻塞调用的编程方式,原创 2023-07-21 15:09:40 · 448 阅读 · 0 评论 -
消息队列RocketMQ教程-RocketMQ基本概念
通过消息轨迹,您能清晰定位消息从生产者发出,经由Apache RocketMQ 服务端,投递给消费者的完整链路,方便定位排查问题。以时间轴为坐标,在消息持久化存储的时间范围内,重新设置消费者分组对已订阅主题的消费进度,设置完成后消费者将接收设定时间点之后,由生产者发送到Apache RocketMQ 服务端的消息。生产者已经将消息发送到Apache RocketMQ 的服务端,但由于消费者的消费能力有限,未能在短时间内将所有消息正确消费掉,此时在服务端保存着未被消费的消息,该状态即消息堆积。转载 2023-07-21 11:25:45 · 258 阅读 · 0 评论 -
消息队列RocketMQ教程-社区MQ产品对比
我们尽力通过节流、断路器或降级来解决这个问题,但效果并不理想。不幸的是,Kafka不能满足我们的要求,其尤其表现在低延迟和高可靠性方面,详见下文。在这种情况下,我们决定发明一个新的消息传递引擎来处理更广泛的消息用例,覆盖从传统的pub/sub场景到高容量的实时零误差的交易系统。历经十余年的大规模场景打磨,RocketMQ 已经成为业内共识的金融级可靠业务消息首选方案,被广泛应用于互联网、大数据、移动互联网、物联网等领域的业务场景。随着我们的贸易业务吞吐量的上升,源自我们的消息传递集群的压力也变得紧迫。转载 2023-07-21 09:22:26 · 100 阅读 · 0 评论 -
RocketMQ教程-简介
云消息队列 RocketMQ 版是阿里云基于Apache RocketMQ构建的低延迟、高并发、高可用、高可靠的分布式“消息、事件、流”统一处理平台,面向互联网分布式应用场景提供微服务异步解耦、流式数据处理、事件驱动处理等核心能力。转载 2023-07-20 18:02:29 · 375 阅读 · 0 评论