消息队列
文章平均质量分 91
分享工作上用到MQ经验和记录行业上成熟的MQ使用知识经验
Impl_Sunny
这个作者很懒,什么都没留下…
展开
-
消息队列-消息事务管理对比
事务是一个程序执行单元,里面的所有操作要么全部执行成功,要么全部执行失败。也就是我们常说的(ACID)。分布式事务是指事务的参与者、支持事务的服务器、资源服务器以及事务管理器分别位于不同的分布式系统的不同节点之上。分布式事务通常用于在分布式系统中保证不同节点之间的数据一致性。分布式事务的解决方案一般有以下几种:XA(2PC/3PC)、TCC最具有代表性的是由Oracle Tuxedo系统提出的XA分布式事务协议。XA中大致分为两部分:事务管理器和本地资源管理器。其中本地资源管理器往往由数据库实现,比如Ora原创 2022-06-08 15:24:34 · 700 阅读 · 0 评论 -
消息队列-功能、性能、运维对比
消息延迟投递,当消息产生送达消息队列时,有些业务场景并不希望消费者立刻收到消息,而是等待特定时间后,消费者才能拿到这个消息进行消费。延迟队列一般分为两种,基于消息的延迟和基于队列的延迟:基于消息的延迟:为每条消息设置不同的延迟时间,当队列有新消息进入的时候根据延迟时间排序,当然这样会对性能造成较大影响。基于队列的延迟:设置不同延迟级别的队列,队列中每个消息的延迟时间都是相同的,这样免去了基于延迟时间排序对性能带来的损耗,通过一定的扫描策略即可投递超时的消息。延迟消息的使用场景比如异常检测重试,订单超时取原创 2022-06-08 14:11:17 · 846 阅读 · 0 评论 -
消息队列-全方位对比
消息队列是在消息的传输过程中保存消息的容器,用于接收消息并以文件的方式存储,一个消息队列可以被一个也可以被多个消费者消费,包含以下 3 元素:Producer:消息生产者,负责产生和发送消息到 Broker;Broker:消息处理中心,负责消息存储、确认、重试等,一般其中会包含多个 Queue;Consumer:消息消费者,负责从 Broker 中获取消息,并进行相应处理。点对点模式:多个生产者可以向同一个消息队列发送消息,一个具体的消息只能由一个消费者消费。发布/订阅模式:单个消息可以被多个订阅者并发的获原创 2022-06-08 10:50:32 · 1674 阅读 · 0 评论 -
Kafka生产级容量评估
一、需求场景分析1.1集群如何每天hold住10亿+请求拿电商平台为例,kafka 集群每天需要承载10亿+请求流量数据,一天24小时,对于平台来说,晚上12点到凌晨8点这8个小时几乎没多少数据涌入的。这里我们使用「二八法则」来进行预估,也就是80%的数据(8亿)会在剩余的16个小时涌入,且8亿中的80%的数据(约6.4亿)会在这16个小时的20%时间 (约3小时)涌入。通过上面的场景分析,可以得出如下:QPS计算公式 = 640000000 ÷ (3 * 60 * 60) = 6万,也就.原创 2022-05-18 10:37:44 · 1957 阅读 · 0 评论 -
Kafka的监控指标
0、前言Kafka的度量指标主要有以下三类:1.Kafka服务器(Kafka)指标2.生产者指标3.消费者指标另外,由于Kafka的状态靠Zookeeper来维护,对于Zookeeper性能的监控也成为了整个Kafka监控计划中一个必不可少的组成部分。一、Broker度量指标Kafka的服务端度量指标是为了监控broker,也是整个消息系统的核心。因为所有消息都通过kafka broker传递,然后被消费,所以对于broker集群上出现的问题的监控和告警就尤为重要。broker性原创 2022-04-24 14:51:37 · 5186 阅读 · 0 评论 -
Kafka常用监控
0、前言Kafka搭建好投入使用后,为了运维更便捷,借助一些管理工具很有必要。Kafka社区似乎一直没有在监控框架方面投入太多的精力,目前Kafka监控方案看似很多,然而并没有一个"大而全"的通用解决方案,各家框架也是各有千秋。很多公司和个人都自行着手开发 Kafka 监控框架,其中并不乏佼佼者。今天我们就来全面地梳理一下主流的监控框架。一、JMXJMX的全称为Java Management Extensions. 顾名思义,是管理Java的一种扩展。这种机制可以方便的管理、监控正在运行中的Ja原创 2021-11-17 09:10:00 · 5821 阅读 · 1 评论