亚马逊新添FIFO消息队列服务:先进先出,消息只处理一次

0?wx_fmt=jpeg
作者|Steffen Opel

译者|王纯超

亚马逊的简单队列服务(SQS)最近添加了FIFO(先入先出)队列,“确保消息是按照它们发送的顺序处理的,每个消息只被处理一次,而且不会出现重复消息”。AWS在美国东部(俄亥俄州)和美国西部(俄勒冈州)地区推出了这种新的队列类型,并“计划在2017年初在其他地方推广”。

亚马逊的SQS被描述为一个“快速、可靠、可扩展、完全托管的消息队列服务,旨在解耦云应用程序的组件,并能传输任意大小的数据,而不会丢失消息或要求其他的依赖服务始终可用”。

SQS服务的一个显著的特点是它去掉了“标准”队列在伸缩性方面的限制,因此用户可以创建一个无限数量的队列,每个队列默认提供“近乎无限的吞吐量”。然而,这种简便的伸缩模式所要求的消息处理架构只能保证消息的尽力排序(best-effort ordering)和至少一次传递。

根据AWS的观察结果,“客户告诉我们FIFO应用的吞吐量通常较低,每秒10条消息甚至更低”,新型的FIFO队列现在弥补了标准SQS队列在这方面存在的不足,它用无限制的扩展换取更健壮的消息排序和处理保障。FIFO队列的特点有:

先进先出:严格维持消息发送和接收的顺序。只处理一次:消息只发送一次并一直保持可用直到消费者处理和删除该消息。在5分钟的去重间隔中,队列不会引入重复消息。有限的吞吐量:每秒300条事务(TPS)。一篇关于亚马逊SQS FIFO API的工作原理的技术博文更加详细地描述了底层架构取舍和相应的约束。该文作者强调,尽管“许多应用使用SQS的传统的超级可扩展、至少一次的消息处理方式表现良好”,但是有一些应用场景需要排序或者只处理一次消息,例如“价格更新事件流”或者“交互式shell会话中的命令”。

“如果网络连接掉线的时间不会超过几分钟,并且消息都有唯一的标识符”,那么FIFO队列的默认设置应该就足够实现严格的排序和只处理一次的目标。至于其它粒度方面的需求,可以使用消息组(属于同一组的消息按顺序处理)和专门的去重ID(否则默认为消息内容的SHA256哈希值)。

微软Azure的服务总线队列也可以保证FIFO消息排序和只发送一次。相比之下,谷歌云平台(Google Cloud Platform)的云Pub/Sub服务既不支持FIFO消息排序,也不支持只发送一次,因为谷歌认为“实际要求严格排序的应用场景少之又少”。

亚马逊SQS文档包含一份开发人员指南和API参考。开发人员指南里有一个章节是关于FIFO队列的,它提供了一个从标准队列迁移到新型队列需要注意的事项列表。还有一份单独的FAQ。SQS是按API的请求数来定价的(而不是消息,一个请求可以包含多达10条消息),新的FIFO队列的定价方式和标准队列之前的定价方式类似。标准队列的定价已经降低了百分之二十。亚马逊SQS论坛为该服务提供支持。

今日荐文

点击下方图片即可阅读

 一个云管理平台的架构与功能设计经验谈

推荐一个技术会议

QCon北京2017将于4月16日~18日在北京·国家会议中心举行,精心设计了支撑海量业务的互联网架构、大规模网关系统、微服务实践、快速进化的容器生态、智能化运维、互联网广告系统实践、大数据实时计算与流处理和金融科技转型与未来等30来个专题,涵盖架构、大数据、云计算、移动、前端、人工智能等热点领域,将邀请来自Google、Facebook、阿里巴巴、腾讯、百度、美团点评、爱奇艺等典型互联网公司的技术专家,分享技术领域最新成果。敬请期待。

0?wx_fmt=jpeg

细说云计算

ID:CloudNote

640?wx_fmt=jpeg▲长按二维码识别关注

探讨云计算的一切,

有干货,也有闲聊。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值