re:Invent 2023 | 构建成本优化的多租户 SaaS 架构

关键字: [Amazon Web Services re:Invent 2023, Cost Optimization Strategies, Multi-Tenant Architecture, Operational Efficiency, Tenant Personas And Tiers, Measuring Tenant Consumption]

本文字数: 1700, 阅读完需: 8 分钟

视频

如视频不能正常播放，请前往bilibili观看本视频。>> https://www.bilibili.com/video/BV1PC4y1w7Ff

导读

成本在推动 SaaS 公司增长战略方面发挥着关键作用。多租户要求团队超越自动扩展的基本思维，采用创造性的策略，使其架构能够支持无数复杂的成本扩展挑战。在本环节中，我们将探讨可应用于架构的常见设计模式，以支持环境不断变化的扩展需求，同时最大限度地提高利润率并限制基础设施成本的峰值。这将为企业提供各种选择，并创建可满足多租户产品增长需求的架构足迹。

演讲精华

以下是小编为您整理的本次演讲的精华，共1400字，阅读时间大约是7分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。

陶德·戈丁（Todd Golding）是亚马逊云科技（Amazon Web Services）SaaS领域的资深解决方案架构师，拥有8年的丰富经验。他在演讲中阐述了优化多租户SaaS架构中成本的目标。他强调，在考虑SaaS成本优化时，仅靠共享基础设施来降低成本并非易事，还需考虑许多其他重要因素。

陶德指出，支持有效增长是SaaS成本优化的关键。采用SaaS交付模式的目的是进入新市场和细分市场，以更快速、高效的方式拓展业务。作为SaaS架构师，确保架构能在不影响成本的情况下支持业务增长至关重要。运营效率是成本优化过程中的另一个常被忽视的关键领域。成功的大型SaaS公司通常以高效扩张运营团队为荣，并大量投资自动化和工具以最大化运营效率。

此外，需要在单个租户的工作负载和资源消耗与其产生的SaaS业务收入之间建立良好协调。例如，有些租户支付的费用较少，但在基础设施上产生了巨大的工作负载，导致成本上升。同时，其他租户可能会支付较高的费用，但消耗的资源相对较少。了解这些动态并将其与基础设施消耗和收入联系起来对成本优化至关重要。

总之，陶德强调，成本优化不仅仅是降低基础设施基本成本的问题。还需要确保成本能够随着业务的增长高效地扩展。他展示了一幅收入呈指数增长，但成本呈线性增长的图表，展示了理想的效率增长。

在基础设施优化方面，托德提出了一系列策略，例如采用水平扩展、利用亚马逊云科技的Lambda无服务器计算以及运用Amazon EKS的容器技术。通过Lambda，可以针对单个函数而非整个单体应用程序进行扩展，从而实现高度精细且高效的可扩展性。EKS具备快速水平扩展功能，能有效避免资源过度分配。此外，Fargate将无服务器理念融入EKS容器环境。按照托德的观点，若要将需要隔离的部分系统（而非整个技术栈）进行隔离，可以进一步优化成本。

托德强调了运营效率的重要性。提高透明度至关重要，这需要借助具有租户背景的指标和日志。运营团队需能查看多租户视角的资源消耗情况并接受警报。关键运营指标包括租户上线速度、部署频率和质量以及整体租户生命周期追踪。

深入了解不同租户角色及其工作负载同样关键，据托德介绍。他以一个电子商务软件即服务平台为例，该平台的基础层租户拥有庞大的产品目录，导致较高的基础设施成本，但收入较少。而高级层租户则拥有较小的、有针对性的目录，虽然收入较高，但对基础设施负载的影响较小。分层限流、预留并发限制和命名空间等都是使租户活动与适当资源消耗更好地保持一致的方法。

衡量共享资源租户级别的成本相当困难，但可通过收集消费指标并进行比例分配来进行近似估算。托德强调，成本效益需不断测量以确保成本随业务基础设施、运营和收入流的增长而适当增加。

总的来说，托德解释道，有效的成本优化需要关注有效的基础设施消耗、工作负载与角色的一致性、运营效率、理解不断变化的租户行为以及跨所有业务方面的持续测量。这并不是一个简单的短期基础设施开支最小化问题。对于规模化的软件即服务业务而言，真正的成本优化和效率需要一个全面的方法。

特德继续探讨了优化SaaS环境中的基础设施成本的一些具体策略和架构。他首先从一些简单的水平扩展技巧入手，如根据负载在多个EC2实例中扩展订单处理微服务。尽管这些方法简单，但他强调，扩展的单位应该是整个微服务而非个别组件。此外，启动EC2容量的速度可能相对较慢以应对需求峰值。

作为替代方案，特德建议使用亚马逊云科技的Lambda的服务器无服务器方法。使用Lambda，扩展的单位变为微服务内的各个函数而非整个应用程序。这使得扩展更加精细且与实际使用情况相符，从而实现更高效扩展。计费是基于消耗的，因此无需担心空闲容量或过度分配资源。特德认为，Lambda是一个完美的例子，展示了如何满足SaaS成本优化的需求。

针对基于容器的环境，特德推荐使用Amazon EKS作为受欢迎的选择。容器提供快速扩展能力，同时避免过度分配资源。类似kubecost的工具提供了成本可见性和优化建议。Fargate可用于在EKS环境中引入服务器无服务器功能，抽象底层基础设施管理。特德还表示，在EKS中，可通过将特定实例类型与个别微服务的需求相匹配，以进一步优化成本。例如，媒体处理微服务的GPU实例。

特德倡导有选择地隔离需要隔离或专用资源的特定组件，而非完全隔离租户在专用环境中。例如，某些存储或数据库实例。这样可以在完全隔离或完全共享的模型之间进行权衡，从而优化整体成本分布。特德强调，理解这些权衡并在部署架构中进行思考是成本优化的关键要素。

切换话题后，托德再次强调了运营效率在整个成本优化过程中的重要性。许多组织认识到他们需要更好地衡量、分析和了解其环境，但在实施新功能之前，他们在优先投资方面面临困难。然而，通过指标、日志和工具来构建这种可见性对于允许操作团队高效扩展至关重要。包含租户和上下文信息的日志对于理解资源消耗和快速排查问题至关重要。多租户仪表板、警报和监控也是必不可少的。

托德提供了一些关键运营指标的例子，这些指标可以表明效率，例如租户上线速度、部署的频率和质量以及整体租户生命周期跟踪。更快的上线、频繁而平滑的部署以及对租户生命周期的可见性表明了一个高效且精心制作的操作环境。托德指出，强调运营的代价意义在于确保在这一领域获得投资，否则这可能不会被优先考虑。

为了深入理解租户行为，托德通过一个电子商务软件即服务平台为例进行了阐述。通过分析基础层和高级层租户的基础设施消耗、收入产生和目录大小，他们发现了一些显著的不匹配。基本层具有庞大目录的租户正在产生巨大的基础设施成本，但收入却非常少。而高级层的租户虽然产生了大量的收入，但消耗的基础设施资源却非常少。

这种动态意味着由于个人用户之间的基础设施负载和收入不匹配，平台的成本正在上升，而收入却没有跟上。通过实施分层限流、预留并发限制和命名空间，他们能够更好地将租户基础设施消耗与产生的收入相匹配。托德指出，真正了解你的租户群体和工作负载是优化这种匹配的关键。

Todd也强调了对成本效益进行时间权衡的重要性。尽管基础设施费用在任何时候都可能看似合理，但租户行为的转变可能会悄无声息地破坏成本优化目标。通过收集消费指标并根据租户级别分配成本，公司可以发现无效的成本模式并相应地调整结构。这种程度的透明度使能不断优化关键平衡，即在不同类型的租户之间实现基础设施负载与收入产生的平衡。

总之，Todd总结道，有效的SaaS成本优化需要超越仅关注基础设施费用的狭隘视野。建筑师应思考如何支持有效增长、扩展运营规模、理解不断变化的租户工作负载以及实施持续的度量实践。将这些能力结合在一起，可以使总体业务成本得到优化，而不仅仅是孤立的基础设施支出。Todd再次强调，成本优化是一个持续的过程，这取决于他在演讲期间所概述的正确架构基础在各个关键维度上的支持。

下面是一些演讲现场的精彩瞬间：

托德·戈尔丁，一位拥有八年经验的亚马逊云科技解决方案架构师，分享了他对于客户迁移到SaaS的看法。

在大型SaaS公司中，运营效率往往是他们降低成本过程中的关键环节，这一点往往被人们忽视。

为了确保工作负载、用户角色和成本之间的匹配，从而实现高效的多租户共享，我们需要关注以下几个方面：资源的合理利用、优化的部署模式以及稳定的扩展策略。

通过这些策略来实现消费与成本的匹配。

为了实现高效的运营，我们需要通过指标和数据分析来监控整个环境，以便了解租户的使用情况，这对于提高效率和解决问题至关重要。

领导者们强调了对关键指标的监控，例如部署的有效性、平均故障间隔时间以及客户层的迁移，这些指标对于确保高效的运营非常重要。

总结

演讲者强调，针对SaaS的成本优化不仅限于基础设施成本，还涉及实现高效增长、优化运营扩展以及使租户工作负载与成本相匹配。主要策略包括运用无服务器架构、实施基于Pod的优化以及分层次调整资源使用。演讲者强调了通过租户感知监控、日志记录和分析提高运营效率的重要性。分层次调整可以使租户活动与资源消耗保持一致。经过精心策划的分层可以在不增加成本的前提下拓展市场份额。演讲者建议通过对租户人物角色和预测增长进行建模来确定合适的分层边界。评估租户级别的资源消耗具有很大挑战性，但对于共享资源的优化至关重要。演讲者总结道，成本优化需要结合基础设施、运营、分层和测量等多种策略的综合应用。没有单一解决方案，但建筑师应努力追求高效的增长和运营，以打造成功的SaaS业务。

演讲原文

https://blog.csdn.net/just2gooo/article/details/134794639

想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！

2023亚马逊云科技re:Invent全球大会 - 官方网站

点击此处，一键获取亚马逊云科技全球最新产品/服务资讯！

点击此处，一键获取亚马逊云科技中国区最新产品/服务资讯！

即刻注册亚马逊云科技账户，开启云端之旅！

【免费】亚马逊云科技“100 余种核心云服务产品免费试用”

【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”

亚马逊云科技是谁？

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者，自 2006 年以来一直以不断创新、技术领先、服务丰富、应用广泛而享誉业界。亚马逊云科技可以支持几乎云上任意工作负载。亚马逊云科技目前提供超过 200 项全功能的服务，涵盖计算、存储、网络、数据库、数据分析、机器人、机器学习与人工智能、物联网、移动、安全、混合云、虚拟现实与增强现实、媒体，以及应用开发、部署与管理等方面；基础设施遍及 31 个地理区域的 99 个可用区，并计划新建 4 个区域和 12 个可用区。全球数百万客户，从初创公司、中小企业，到大型企业和政府机构都信赖亚马逊云科技，通过亚马逊云科技的服务强化其基础设施，提高敏捷性，降低成本，加快创新，提升竞争力，实现业务成长和成功。