re:Invent 2023 | 无服务器弹性缓存,自动扩缩容,轻松实现Redis和Memcached缓存

关键字: [Amazon Web Services re:Invent 2023, Elasticache Service, Elasticache Service, Scaling, Proxy, Latency, Workload]

本文字数: 1000, 阅读完需: 5 分钟

视频

如视频不能正常播放，请前往bilibili观看本视频。>> https://www.bilibili.com/video/BV1bw411V7H1

导读

来了解亚马逊最近推出的Amazon ElastiCache 无服务器产品。使用Amazon ElastiCache 无服务器,您不再需要规划、预估或管理缓存集群的容量。ElastiCache 无服务器可以在一分钟内帮助您启动一个分布式内存缓存,并可即时按需扩展以支持最不可预测的应用流量模式。在本次课程中,您将了解Amazon ElastiCache 无服务器的工作原理,以及它如何帮助您加速应用性能。

演讲精华

以下是小编为您整理的本次演讲的精华，共700字，阅读时间大约是4分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。

亚马逊云科技的Elasticache服务在re:Invent上首次亮相，旨在通过消除容量规划需求来简化用户的缓存操作。据Elelasticache服务团队的产品经理Abhay表示，缓存通常用于通过在内存中存储频繁访问的数据以实现低延迟读取，从而加速应用程序性能。作为亚马逊云科技的顶级缓存服务，Elasticache与Redis和Memcached开源引擎兼容。许多客户目前已将其应用于优化应用程序性能并扩展规模，据Abhay透露，几乎一半的Elasticachere:Invent演讲者都已开始使用Elasticache。

客户通常在数据库或其他从延迟、吞吐量或成本角度来看访问成本较高的服务之前使用缓存。其目标是将最频繁访问的数据缓存以提高高性能。除了简单的缓存外，客户还将Redis用作领导者排行榜、发布/订阅等用例的强大的内存中数据存储。

Elasticache内置的复制和分片功能允许客户根据需要轻松地扩展集群。然而，对于用户来说，为缓存进行容量规划仍然具有挑战性。他们必须根据过去的峰值预测流量模式并在时间之前设置容量。这可能导致在交通量低时未使用的过度供应容量，或在交通量超过估计时影响性能。

手动调整容量也很有挑战性，需要密切监控以了解何时进行调整——决定触发扩大的精确CPU或内存阈值是困难的。例如,执行大量排序操作的Redis工作负载不会显示随着吞吐量增加而线性增长的CPU使用时间。

Abhay分享了一个使用Redis运行排行榜的客户示例，使用排序集对物品进行排名。所需的CPU时间将根据排序集的大小和操作而有所不同，这使得定义扩展阈值变得困难。

Elasticache服务旨在消除这些容量规划挑战。新服务最初与Redis 7.1和Memcached 1.6兼容，提供类似于现有Elasticache的微秒级性能。每个缓存可以扩展到5TB的大小。最大的好处是无需进行容量规划——Elasticache服务自动垂直和水平地扩大以满足交通需求。它使用预测算法监视资源使用情况并适当扩展，提前预期的高峰期新增节点和节点。

这是一种结合基于存储和使用弹性缓存处理单元（ECPU）按使用付费定价的自动扩展功能，其中ECPU用于衡量计算和网络使用情况。因此，用户只需为实际使用情况付费，而不是未使用的容量。据Abhay解释，ECPU是根据传输的数据量和命令的CPU时间计算的。例如，一个简单的get/set操作小于1KB就是1个ECPU，而更大的或更复杂的命令可能是多个ECPU——对于一个占用5倍CPU时间的命令，可能是5个ECPU。在幕后，Elasticache服务在Caspian上运行，这是Amazon Web Services的一种新的实例类型，可以动态调整CPU、内存和网络带宽等资源。系统会在需求变化时负载均衡并在Caspian实例之间迁移缓存，以保持性能和可用性。代理层为客户端连接提供了一个单一端点，掩盖了先前影响客户的集群拓扑更改。这提供了通过传统缓存破坏的事件实现的平滑体验。内置的高可用性，默认情况下数据在AZ之间复制。传输中以及静态的加密始终启用。还支持符合PCI、SOC和HIPAA等标准的合规性。对于较低的读取延迟，可以使用透明的读取副本——代理将在可能的情况下将读取路由到本地AZ副本，以实现最佳的亚毫秒级性能。希望为缓存工作负载实现低延迟的客户可以启用读取副本以实现最佳速度。总之，Elasticache服务的目标是通过消除用户的容量规划和管理开销来简化缓存操作。客户可以在没有预先配置的情况下在几分钟内创建针对其工作负载优化的自动扩展缓存。Abhay鼓励用户尝试新的服务并亲自了解其好处。他强调了开始的容易性——只需要提供一个名称，就可以在不到一分钟的时间内创建缓存，而无需其他容量配置。

下面是一些演讲现场的精彩瞬间：

在亚马逊云科技re:Invent期间，一位领导者宣布了他们即将推出的Elasticache服务。

这位领导者详细阐述了一个复杂的问题，即当资源使用超过物理容量时，如何有效地将租户迁移到一个全新的平台。

为了解决这个问题，领导者提出了一个独特的解决方案，即在驱逐第一个可能正承受沉重负载和扩展的热节点之前，优先选择第二个热节点进行替换。

这一策略的实施，使得代理能够在处理客户端请求的同时，支持后台的众多连接，从而让客户能够更加高效地管理资源。

为了提高性能并减轻负担，领导者还介绍了一种新的多路复用解决方案，该方案能够显著提高命令处理速度，减少打开的连接数量，从而使代理变得更加快速、轻盈且可靠。

为了让更多人了解这项创新技术，领导者还提供了相关功能的详细信息，方便观众查阅。

总结

创建缓存过程简单，仅需一个名称，无需其他配置。

• 保持与现有ElastiCache相同的性能表现，初始支持Redis和Memcached引擎，可扩展至每秒数百万次请求。
• 仅按实际使用付费，包括数据存储和计算使用量，无需提前规划容量。
• 内置高可用性，数据在区域间进行备份。默认保证99.99%的服务水平协议(SLA)。
• 借助新的代理层，实现更平滑的扩展体验。后台会自动吸收集群拓扑变化。
• 利用新的Caspian EC2实例，可在运行时调整计算和内存大小，帮助顺畅应对峰值需求。
• 通过单一端点进行连接。代理将处理所有节点发现的复杂性。

总之，ElastiCache服务的目标是为用户提供一款简单易用且能自动扩展的缓存方案，从而让您能更专注于自己的应用程序。轻松起步，只需支付实际使用的费用。

演讲原文

https://blog.csdn.net/just2gooo/article/details/135132768

想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！

2023亚马逊云科技re:Invent全球大会 - 官方网站

点击此处，一键查看 re:Invent 2023 所有热门发布

即刻注册亚马逊云科技账户，开启云端之旅！

【免费】亚马逊云科技“100 余种核心云服务产品免费试用”

【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”

亚马逊云科技是谁？

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者，自 2006 年以来一直以不断创新、技术领先、服务丰富、应用广泛而享誉业界。亚马逊云科技可以支持几乎云上任意工作负载。亚马逊云科技目前提供超过 200 项全功能的服务，涵盖计算、存储、网络、数据库、数据分析、机器人、机器学习与人工智能、物联网、移动、安全、混合云、虚拟现实与增强现实、媒体，以及应用开发、部署与管理等方面；基础设施遍及 31 个地理区域的 99 个可用区，并计划新建 4 个区域和 12 个可用区。全球数百万客户，从初创公司、中小企业，到大型企业和政府机构都信赖亚马逊云科技，通过亚马逊云科技的服务强化其基础设施，提高敏捷性，降低成本，加快创新，提升竞争力，实现业务成长和成功。