亚马逊云科技-预测管理无服务器应用程序成本GenAI讲座

亚马逊云科技-预测管理无服务器应用程序成本GenAI讲座

关键字: [yt, Amazon Lambda, Cloud Native Technologies, Business Agility, Serverless Technologies, Amazon Lambda, Cost Prediction, Modern Digital Business, Customer Obsession, Technology Enabler, Data Management, Modular Components, Managed Services, Serverless Operational Model, Pay For Value, Total Cost Of Ownership, Infrastructure Costs, Maintenance Costs, Development Costs, Serverless Cost Savings, Compute Optimization, Provisioned Concurrency, Savings Plans]

本文字数: 500, 阅读完需: 2 分钟

导读

演讲者Brian Landerman和Chaia Pandi探讨了亚马逊云科技Lambda和无服务器技术如何为现代数字企业实现成本节省、敏捷性和更快的上市时间。他们阐释了无服务器架构如何通过利用托管服务和按使用付费定价模式,减少基础设施、维护和开发成本。值得一提的是,他们强调了亚马逊云科技Lambda的Provisioned Concurrency和Savings Plans功能,这些功能使客户能够为延迟敏感和高流量应用程序优化成本,同时从承诺使用量的折扣中获益。该演示重点介绍了亚马逊云科技无服务器产品如何通过降低运营开销、加快部署周期和提高开发人员生产力,从而推动业务敏捷性和创新。

演讲精华

以下是小编为您整理的本次演讲的精华，共200字，阅读时间大约是1分钟。

感谢您参与今天的讲座。Brian Landerman是亚马逊云科技的企业战略师,也是曾经领导公司基础设施向亚马逊云科技大规模迁移的前高管小组成员之一。在客户高管进行转型之旅时,他们会与客户分享自身领导人员、流程和技术转型的经验和观点。

今天,我们很高兴请到了Chaia Pandi,她是亚马逊云科技Lambda的主要产品经理。在加入亚马逊云科技之前,她曾是Cox Automotive的CTO,该公司构建并运营了诸如AutoTrader.com、KVB.com等解决方案,后者是美国60%汽车经销商网站的托管平台。每个解决方案每月都有超过2000万的访问量。该公司还构建了CRM、ERP、车辆服务管理解决方案和信贷申请门户,让消费者通过经销商与贷款机构连接,以及其他解决方案。这些解决方案旨在改善消费者的购车体验,并为经销商运营创造效率。

随着公司拥有多种解决方案,以及分布在美国15个地点的2500多名工程师,构建高性价比的解决方案成为团队的重中之重和一项新技能。他们希望利用现代云原生技术来创造业务敏捷性,加快价值交付的速度。对于该公司而言,实现这一目标的最佳方式是利用托管服务和无服务器技术,如Amazon Lambda。但由于Lambda是按使用付费的服务,预测成本是一个挑战。

2019年年底和2020年初,亚马逊云科技Lambda推出了两项影响Lambda定价的重大功能。接下来,我们将探讨这些变化如何影响正在使用或计划使用Amazon Lambda的客户。我们将从概述现代数字业务以及如何考虑技术成本和总体拥有成本(TCO)开始。

现代化是企业的当务之急。IDC预测,在未来几年内,50%以上的信息通信技术支出将用于数字化转型。90%的公司都在进行某种形式的数字化,而67%的业务领导者认为,他们需要拥有更多的数字化能力才能保持竞争力,这是根据麦肯锡和Gartner的数据。

因此,当组织考虑现代化时,通常会关注五个领域:

1. 通过从客户问题出发,创造无缝和身临其境的体验,成为以客户为中心,并通过领导、资金、激励和组织结构的协调来组织价值交付。
2. 通过创建和测试假设来培养学习文化,并基于这种学习来推动投资和优先级。
3. 将技术视为核心业务推动力。技术精通的领导者利用技术来解决业务和客户问题,而不仅仅是为了实现成本效益。
4. 战略性地利用数据,可以改善决策,并加强产品和服务,通过共享数据并使其在整个组织中易于访问。

但今天我们将重点关注现代数字业务的价值和技术特征。当我们思考现代应用程序时,它们在五个熟悉的技术架构模式中采用了不同的方法:运营模型、软件交付、管理和治理以及数据管理。

现代应用程序由模块化组件组成,利用托管服务来减少运营负载。现在,这些组件由拥有产品或服务各个方面的团队所有,使安全性、合规性和治理实践成为每个人的责任,而不仅仅是安全团队的责任。它们利用特定用途的数据库来简化解决方案和数据管理。

也许最重要的是,这些组件是以标准和自动化的方式构建、部署和测试的,以创造一致性并增加部署的频率和安全性。以这种方式构建的应用程序可以让您获得为客户创新所需的敏捷性。无服务器技术是最大化敏捷性的最佳方式,因为使用无服务器技术,亚马逊云科技会承担更多的运营负载。

在继续阐明我们所指的无服务器之前,无服务器技术是消除了管理服务器、修补程序或扩展服务器的需求的构建块。这些构建块是高度可用的,会根据实时需求自动扩展,并基于按使用付费的定价,因为您明确地为业务功能的执行付费,而不是为服务器闲置等待需求付费。

这种通常被称为无服务器运营模型的策略可以大幅减少花费在非核心业务上的时间,让您专注于推动业务并解决客户问题的产品和服务。许多客户已经决定通过一种称为”无服务器优先”的无服务器策略来实现这种价值,或者做出决定优先使用无服务器服务,除非用例或工作负载要求他们另做选择。iRobot、Alma Media和Fender等客户已转向无服务器优先,通过这种低成本的按使用付费定价,实验和探索变得非常容易和经济高效。但是,随着您在更密集的工作负载中采用无服务器,您需要重新调整成本规划和架构决策。

因此,当我们考虑总体拥有成本(TCO)时,我们必须审视全貌。通过云计算,我们对成本有了更大的可见性,并且可以更容易地将这些成本与特定产品或应用程序联系起来。所以,当我们查看TCO时,我们必须考虑基础设施成本、维护成本和开发成本。我们不仅需要考虑硬件、带宽、电力和许可证,还需要考虑构建和维护的时间投资。获取、供应、修补和运营服务器也是有成本的。而部署变更并获取价值所需的时间或许是您解决方案的最大成本。

为了更深入地探讨这些概念,我将把时间交给Amazon Lambda团队的Chaia Pandi,她将更详细地讨论Lambda和无服务器应用程序的TCO。

非常感谢,Brian。大家好,我是Chaia Pandi,亚马逊云科技Lambda团队的产品经理。正如Brian所说,基础设施成本、开发成本和维护成本是任何企业评估无服务器总体运营成本时的三大支柱。

就基础设施成本而言,无服务器可以更高效地利用计算和存储容量,优化许可证成本并降低运营成本。这使客户能够减少部署和运行IT基础设施的相关成本。重写应用程序以使用无服务器架构范式所需的工作量带来了构建、交付和修改应用程序的敏捷性提升。完全托管的基础设施和函数即服务的效率几乎消除了计算浪费,这吸引了初创公司专门使用无服务器模型构建应用程序。

以下是我们的一位客户从另一家云解决方案迁移到亚马逊云科技无服务器后,对他们的基础设施成本节省的评论:“根据客户调查的粗略估计,每个企业的成本节省为224万美元,每个应用程序的成本节省为8万美元。

他们在多个区域进行部署。如果每月平均在6个区域发布两次新的映像版本,将需要12个开发人员小时的工作量。以每个开发人员70美元/小时计算,每月的主机维护成本为840美元。他们拥有数百个类似的流程。使用LAMBDA应该能够至少为这一部署每月节省840美元的运营负担。

无服务器技术的第三个也是最重要的优势是开发成本节省。客户表示,他们的开发团队因为需要更少的时间来交付更多的新应用程序和功能而获得了显著的生产力提升,这也促进了创新。

客户的成本节省数据显示,他们的开发团队现在可以开发和发布更多新的应用程序和功能,与业务对手相比,即使他们加快了新应用程序和功能的开发生命周期(分别加快了76%和66%)。例如,一家从本地迁移的客户将其新应用程序的开发生命周期从6个月缩短到1个月,而一家从混合环境迁移的组织则将每年交付给业务的新功能数量增加了一倍。这意味着开发团队为他们的业务创造并交付了更多价值。开发团队的平均生产力提高了33%。

开发团队因为需要更少的时间来交付更多的新应用程序和功能而获得了显著的生产力提升。此外,负责IT基础设施和应用程序管理的团队在日常监控、部署和支持方面也需要更少的时间。IDC估计,每个组织每年的效率和生产力提升价值平均为464万美元,或每个应用程序16.5万美元。组织可以更快地抓住业务机会,从而获得更高的收入。此外,最终用户也可以更快获得新应用程序和功能。收入和生产力提升的价值被量化为每个企业平均321万美元,或每个应用程序11.4万美元。

现在,我们已经掌握了思考无服务器TCO的三大支柱,接下来让我们深入探讨LAMBDA定价。LAMBDA推出已有五年多的时间,最初我们有两个定价维度:请求和持续时间。您需要根据函数的请求数量和执行时间(您的代码执行所需的时间)付费。LAMBDA在响应事件通知或调用时每次开始执行都会计为一个请求,包括从控制台进行的测试调用。持续时间是从您的代码开始执行到返回或终止为止的时间,向上舍入到最近的100毫秒。

价格取决于您为函数分配的内存量。在Amazon LAMBDA资源模型中,您选择为函数分配的内存量,并分配相应的CPU功率和其他资源。增加内存大小会触发为函数分配相应增加的CPU。

去年,我们推出了LAMBDA的Provisioned Concurrency。当客户喜欢上LAMBDA带来的易用性时,他们希望在LAMBDA上运行更广泛的应用程序,包括那些对延迟要求严格并需要支持高速率流量突发的应用程序。Provisioned Concurrency主要解决了Amazon LAMBDA客户的两个问题。首先,它通过允许客户一次性扩展到整个预配置的并发量,绕过了LAMBDA默认的3000并发突发限制,从而实现了快速扩展。其次,它通过预初始化沙箱来消除冷启动,支持对延迟要求严格的应用程序。

使用按需LAMBDA实例来处理超出预配置并发量的流量是可选的。您也可以配置LAMBDA在超出预配置并发量时进行限流。在这个例子中,流量峰值超过了预配置的并发量,LAMBDA使用其默认行为启动了额外的沙箱。这导致了新实例冷启动时的100%流量峰值。这张图表显示了我们如何通过与Application Auto Scaling的集成来管理预配置的并发量,只在正确的时间点进行预配置。Provisioned Concurrency是以5分钟为增量配置的。如果流量超过了预配置的并发量,它将由按需LAMBDA处理,并遵守LAMBDA的默认限制和行为。

现在让我们来讨论Provisioned Concurrency的定价。Provisioned Concurrency在两个维度上收费:预配置并发量的持续时间(以5分钟为增量)和函数执行时间,就像常规LAMBDA一样,但价格较低。

今年晚些时候,我们推出了LAMBDA的Savings Plan,这是一种简单易用的灵活折扣机制,可以为EC2、Fargate和LAMBDA的承诺使用量获得折扣。Savings Plan是一种新的定价模式,为EC2、Fargate和LAMBDA使用量提供了深度折扣。您可以通过承诺一个一致的使用量(如每小时10美元)并选择一年或三年期限,即可注册Savings Plan。Savings Plan提供与预留实例(RIs)完全相同的折扣,但灵活性更高。即使您的计算需求发生变化,这些折扣也将应用于您的EC2、Fargate和LAMBDA使用量。因此,您可以选择从EC2开始,然后决定将应用程序切换到LAMBDA,但您对亚马逊云科技计算的承诺仍将应用于您的LAMBDA使用量,您将获得相应折扣。

当客户注册Savings Plan时,一旦使用量达到每小时承诺量,他们便可获得折扣价格。任何超出每小时承诺量的使用量将按照常规按需价格收费。亚马逊云科技提供两种类型的Savings Plan:EC2实例Savings Plan和计算Savings Plan。EC2实例Savings Plan提供最大的折扣,但作为交换条件,客户需要承诺在一个区域内使用特定实例系列的一致使用量,例如,承诺在弗吉尼亚北部地区保持m5实例的一致使用水平。计算Savings Plan提供了最大的灵活性,可将使用成本降低高达66%。这些计划会自动应用于EC2实例使用量,而不考虑实例系列、大小、区域、操作系统或租赁模式,也适用于Fargate和Lambda使用量。例如,使用计算Savings Plan,客户可随时从c4切换到m5实例,将工作负载从IAD转移到欧盟,或将工作负载从EC2迁移到Lambda,并继续自动获得折扣。

亚马逊云科技提供了广泛和深入的计算实例和计算服务选择,包括22个地区的200多种实例,以及Fargate和Lambda等服务。虽然客户喜欢预留实例(RIs)提供的深度折扣,但他们要求提供一种更简单的方式来节省成本。客户要求一种灵活的定价模式,可应用于亚马逊云科技提供的广泛的计算选择,并且即使他们的计算需求随着不断变化的动态环境而发生变化,也能继续提供折扣,而无需承担任何额外的管理开销。

在这一不断改进并提供创新定价选择的过程中,亚马逊云科技推出了Savings Plan,这是一种从头开始设计的新型灵活定价模式,旨在解决客户的反馈。Savings Plan是节省计算成本的最简单方式。客户可通过几个简单的步骤在亚马逊云科技成本浏览器中注册Savings Plan。如果客户想在EC2上预留容量,可使用按需容量预留。如果客户有活跃的Savings Plan,其容量预留将按Savings Plan价格收费。

让我们花点时间回顾一下Savings Plan。Savings Plan是一种新的定价模式,将为一年或三年的承诺提供与EC2预留实例完全相同的折扣。亚马逊云科技提供两种类型的Savings Plan。第一种是适用于EC2、Fargate和Lambda的计算Savings Plan。计算Savings Plan无论区域、实例系列、大小、租赁模式和操作系统如何,都提供折扣。第二种Savings Plan是EC2实例Savings Plan,适用于单一EC2实例系列。

通过对Savings Plan的概述,让我们深入了解它将如何应用于典型客户的账单。在这个例子中,该客户在这个小时内有EC2、Fargate和Lambda的使用量,他们的承诺为每小时101美元。因此,当按服务汇总他们的使用量时,我们看到他们所有的EC2、Fargate和Lambda计算使用量都在承诺水平之内,因此将获得折扣。

现在让我们看看另一个客户的情况。他们也有EC2、Fargate和Lambda的使用量,但有些请求使用量不符合Savings Plan的条件。所以按每百万次请求0.2美元计算,这个客户在这个小时内有2500万次请求,其中价值1美元的500万次请求将在Savings Plan范围内,而剩余的2000万次请求将按照常规价格收费。因此,任何超出客户承诺水平的使用量都将适用按需价格。

这些都是客户可以利用的优化Lambda定价的杠杆,具体取决于其使用场景。客户可以从按需Lambda、与计算Savings Plan相结合的Provisioned Concurrency中进行选择,来优化其Lambda账单,然后使用我们之前讨论过的三大支柱(基础设施成本、开发成本和维护成本)的TCO框架进行评估。

在此,我想请Brian回来总结我们讨论过的TCO基础设施框架。

非常感谢,Chaya。这是对Lambda定价和Savings Plan的深入探讨。现在记住,正如我们所讨论的,在查看TCO时,我们必须考虑所有资本支出和运营支出,包括基础设施、维护和开发人员成本。当我们这样做时,实际上相当简单。通过结合基础设施和维护成本节省,假设对于一个仅在工作日运行的典型应用程序,如果每月节省10分钟的运营开销,无服务器架构在TCO方面就会优于有服务器架构。我们已经看到,实际的维护成本节省在88%到96%之间,这显然远远超过10分钟的节省。当IDC采访了11家亚马逊云科技客户时,他们估计与使用本地或基于服务器的架构相比,组织在亚马逊云科技无服务器上每个业务应用程序将平均获益38.26万美元,每个组织将获益1071万美元。我们鼓励客户使用这个框架来评估亚马逊云科技无服务器如何积极影响其TCO。感谢大家今天的到场。如果对我们讨论过的任何主题有任何疑问,我们很乐意现在回答。

总结

这场演讲深入探讨了如何在亚马逊云科技上预测和管理无服务器应用程序的成本,尤其关注亚马逊云科技 Lambda。演讲首先强调了数字化转型的重要性,以及保持竞争力所需现代、敏捷应用程序的必要性。演讲者强调了无服务器技术(如亚马逊云科技 Lambda)在实现业务敏捷性和降低运营开销方面的价值。

演讲的第一个重点讨论了总拥有成本(TCO)框架,该框架考虑了基础设施、维护和开发成本。演讲者强调评估完整情况的重要性,包括硬件、带宽、电力、许可证以及构建和维护服务器所需的时间投入。

第二个重点探讨了亚马逊云科技 Lambda 的定价模式,该模式基于请求数量和代码执行时长。演讲者介绍了 Provisioned Concurrency 功能,该功能可实现快速扩展并消除冷启动,并解释了其定价结构。

第三个重点强调了亚马逊云科技 Savings Plans,这是一种灵活的定价模式,可为 EC2、Fargate 和 Lambda 的承诺使用量提供折扣。演讲者详细阐述了两种 Savings Plans:EC2 Instance Savings Plans 和 Compute Savings Plans,以及它们各自的优势。

最后,演讲者强调在评估 TCO 时考虑所有资本支出和运营支出的重要性,并鼓励观众利用 TCO 框架来评估亚马逊云科技无服务器技术对其组织的潜在影响。

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI的首选，通过生成式AI技术栈，提供用于模型训练和推理的基础设施服务、构建生成式AI应用的大模型等工具、以及开箱即用的生成式AI应用。深耕本地、链接全球 – 在中国，亚马逊云科技通过安全、稳定、可信赖的云服务，助力中国企业加速数字化转型和创新，并深度参与全球化市场。