支付宝系统架构概况
典型处理默认
财务会计
核算中心
柔性事务
Metamorphosis ( MetaQ ) 是一个高性能、高可用、可扩展的分布式消息中间件,类似于 LinkedIn 的 Kafka,具有消息存储顺序写、吞吐量大和支持本地和 XA 事务等特性,适用 于大吞吐量、顺序消息、广播和日志数据传输等场景,在淘宝和支付宝有着广泛的应用,现已开源。
Metamorphosis 是淘宝开源的一个 Java 消息中间件。关于消息中间件,你应该听说过 JMS 规范,以及一些开源实现,如 ActiveMQ 和 HornetQ 等。Metamorphosis 也是其中之一。
Metamorphosis 的起源是我从对 linkedin 的开源 MQ –现在转移到 apache 的 kafka 的学习开始的,这是一个设计很独特的 MQ 系统,它采用 pull 机制,而 不是一般 MQ 的 push 模型,它大量利用了 zookeeper 做服务发现和 offset 存储,它的设计理念我非常欣赏并赞同,强烈建议你阅读一下它的设计 文档,总体上说 metamorphosis 的设计跟它是完全一致的。但是为什么还需要 meta 呢?
简单概括下我重新写出 meta 的原因:
1.Kafka 是 scala 写,我对 scala 不熟悉,并且 kafka 整个社区的发展太缓慢了。
2. 有一些功能是 kakfa 没有实现,但是我们却需要:事务、多种 offset 存储、高可用方案 ( HA ) 等
3.Meta 相对于 kafka 特有的一些功能:
一系列配套项目:python 客户端、twitter storm 的 spout、tail4j 等。
因此 meta 相比于 kafka 的提升是巨大的。meta 在淘宝和支付宝都得到了广泛应用,现在每天支付宝每天经由 meta 路由的消息达到 120 亿,淘宝也有每天也有上亿的消息量。
Meta 适合的应用
典型处理默认
资金处理平台
财务会计
支付清算
核算中心
交易
柔性事务
支付宝的开源分布式消息中间件– Metamorphosis ( MetaQ )
Metamorphosis ( MetaQ ) 是一个高性能、高可用、可扩展的分布式消息中间件,类似于 LinkedIn 的 Kafka,具有消息存储顺序写、吞吐量大和支持本地和 XA 事务等特性,适用 于大吞吐量、顺序消息、广播和日志数据传输等场景,在淘宝和支付宝有着广泛的应用,现已开源。
Metamorphosis 是淘宝开源的一个 Java 消息中间件。关于消息中间件,你应该听说过 JMS 规范,以及一些开源实现,如 ActiveMQ 和 HornetQ 等。Metamorphosis 也是其中之一。
Metamorphosis 的起源是我从对 linkedin 的开源 MQ –现在转移到 apache 的 kafka 的学习开始的,这是一个设计很独特的 MQ 系统,它采用 pull 机制,而 不是一般 MQ 的 push 模型,它大量利用了 zookeeper 做服务发现和 offset 存储,它的设计理念我非常欣赏并赞同,强烈建议你阅读一下它的设计 文档,总体上说 metamorphosis 的设计跟它是完全一致的。但是为什么还需要 meta 呢?
简单概括下我重新写出 meta 的原因:
1.Kafka 是 scala 写,我对 scala 不熟悉,并且 kafka 整个社区的发展太缓慢了。
2. 有一些功能是 kakfa 没有实现,但是我们却需要:事务、多种 offset 存储、高可用方案 ( HA ) 等
3.Meta 相对于 kafka 特有的一些功能:
- 文本协议设计,非常透明,支持类似 memcached stats 的协议来监控 broker
- 纯 Java 实现,从通讯到存储,从 client 到 server 都是重新实现。
- 提供事务支持,包括本地事务和 XA 分布式事务
- 支持 HA 复制,包括异步复制和同步复制,保证消息的可靠性
- 支持异步发送消息
- 消费消息失败,支持本地恢复
- 多种 offset 存储支持,数据库、磁盘、zookeeper,可自定义实现支持 group commit,提升数据可靠性和吞吐量。
- 支持消息广播模式
一系列配套项目:python 客户端、twitter storm 的 spout、tail4j 等。
因此 meta 相比于 kafka 的提升是巨大的。meta 在淘宝和支付宝都得到了广泛应用,现在每天支付宝每天经由 meta 路由的消息达到 120 亿,淘宝也有每天也有上亿的消息量。
Meta 适合的应用
- 日志传输,高吞吐量的日志传输本来就是 kafka 的强项;
- 消息广播功能,如广播缓存配置失效;
- 数据的顺序同步功能,如 mysql binlog 复制;
- 分布式环境下(broker,producer,consumer 都为集群)的消息路由,对顺序和可靠性有极高要求的场景;
- 作为一般 MQ 来使用的其他功能。