re:Invent 2023 | 使用 Amazon App Runner 优化成本和性能

关键字: [Amazon Web Services re:Invent 2023, AppRunner, Apprunner Service, Machine Learning Models, Cost Optimization, Auto Scaling, Faster Deployment]

本文字数: 1400, 阅读完需: 7 分钟

视频

如视频不能正常播放，请前往bilibili观看本视频。>> https://www.bilibili.com/video/BV1Ej411H7ZM

导读

当组织评估在何处以及如何部署其工作负载时，计算成本是一个常见的考虑因素。本论坛展示了如何使用亚马逊云科技 App Runner 的完全管理功能降低总体拥有成本并提高应用程序的灵活性。本论坛涵盖自动扩展、连续部署和托管运行时版本。获取 App Runner 如何从代码部署、管理基础架构和减少基础架构开销的具体示例。此外，使用 App Runner 接收有关性能调整的专家指导，帮助应用程序高效运行。

演讲精华

以下是小编为您整理的本次演讲的精华，共1100字，阅读时间大约是6分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。

演讲者首先生动了我们对Amazon AppRunner的理解，这是一款由Amazon Web Services（亚马逊云科技）推出的全托管式服务，帮助企业在其云端运行Web应用程序和API，而不需要管理底层的基础设施组件，如服务器、集群、负载均衡器等。这个服务负责部署和运行容器化应用程序的所有繁琐工作，让开发人员能够专注于构建应用程序而非管理基础设施。

他指出，推动AppRunner诞生的主要原因是解决亚马逊云科技客户在云端运行容器化工作负载时常遇到的问题。过去，客户需要在亚马逊云科技上部署容器化应用程序时，自行构建和管理持续的交付管道，包括处理从源代码构建容器、将图像推送到注册表、在服务器群落中部署应用程序以及在旧版本和新版本之间切换流量等工作。此外，他们还需要配置和管理自己的计算资源（如EC2实例或Fargate集群），选择和配置容器编排系统（如ECS或EKS），设置负载均衡器和自动扩展，以及对应用程序实施所有的网络和安全控制。

尽管这种高度控制和自定义为基础设施团队带来了便利，但同时也给客户带来了大量重复性的繁琐工作，让他们无法快速高效地运行应用程序。许多开发人员表示，他们希望能够摆脱基础设施管理的复杂性，从而更快速地进行产品迭代。

基于此，亚马逊云科技推出了AppRunner，将其所有核心功能打包成一个全托管式的服务。通过使用AppRunner，客户不再需要配置和管理服务器、集群、负载均衡器及其他组件。而在处理所有这些底层工作的同时，亚马逊云科技仍为客户提供灵活的部署选项、自动扩展的最佳成本与性能、内置的安全性以及应用程序的可观察性。

接下来，演讲者深入探讨了AppRunner的一些关键功能：

部署：AppRunner将持续交付管道无缝集成到服务中。用户仅需将代码更改推送至如GitHub等的源代码仓库，即可自动部署应用程序的新版本。接着，AppRunner将负责构建容器、跨实例部署更新后的应用程序并将流量切换至新版本，且无需停机。若部署失败或新版本故障，自动回滚功能将立即启动。详尽日志记录可提供整个部署过程的透明度。

为了提供一个实际的例子来说明AppRunner如何创造价值，一位演讲者分享了考克斯汽车公司（Cox Automotive）如何通过采用AppRunner来运营为其各种汽车网站和服务提供动力的机器学习模型的过程。

Cox Automotive的数据科学团队已经在一个基于亚马逊ECS的中央平台上构建了大量数据科学家编写的机器学习模型，这些模型可以通过生产API进行大规模运行。然而，他们在应对多个版本和环境的高效成本管理、针对高峰流量的过度配置以及网络复杂性方面遇到了挑战。这使得他们的数据科学家也受到了限制，依然依赖中央平台团队的帮助。

为了解决这些问题，他们开始尝试使用AppRunner来优化一个在ECS下难以优化成本和扩展的尖峰流量机器学习模型。在使用AppRunner之后，他们成功地应对了巨大的流量波动，并在非活动期间扩展到零，从而大幅降低了成本。此外，他们还实现了从测试环境到生产环境的模拟，并为数据科学家提供了自动化的模板，从而提高了他们的生产力。

总的来说，AppRunner使得Cox Automotive能够以高性能且低成本的方式大规模运行作为API的机器学习模型，同时也让他们的数据科学家能够在没有基础设施瓶颈的情况下快速构建、部署和迭代模型。

在总结演讲内容时，演讲者回顾了一些AppRunner的关键优势和价值主张：

• 通过消除对服务器、集群和其他组件的管理需求，提高了开发者的生产力
• 从源代码或容器开始的灵活部署，具备自动回滚和可观察性
• 针对成本和性能优化的自动扩展，具有独特的定价模型
• 利用隔离、加密和IAM集成的高级安全性
• 开箱即用的日志、指标和事件观测功能
• 客户案例：Cox Automotive在成本效益和开发者生产力方面取得了更好的成果

总体而言，AppRunner通过在亚马逊云科技的全托管环境中提供所有核心功能，简化了运行Web应用程序和API的过程。通过消除基础设施管理的负担，它使得开发者能够专注于创造应用程序和业务价值。自动扩展的独特定价模式有助于客户在优化性能的同时降低费用。该服务与其他亚马逊云科技的服务无缝集成，实现了安全性、监控等功能。任何希望在亚马逊云科技中高效运营Web和API工作负载的公司都能从AppRunner的功能中受益。

下面是一些演讲现场的精彩瞬间：

演讲者简要介绍了即将举行的会议议程，其中包括讨论AppRunner的主要目标、核心功能和一项客户成功案例。

在深入了解AppRunner的具体细节之前，演讲者向观众们询问了他们对于容器技术、无服务器计算以及AppRunner的了解程度。

AppRunner使得开发者能够在不产生停机的情况下实现代码的自动部署。

通过自动回滚失败的部署并实时提供部署事件的观测数据，AppRunner以一种优雅的方式来应对部署挑战。

App Runner能够通过将日志和指标发送到CloudWatch来实现可观测性，而不需要直接访问底层基础设施。

一张截图展示了如何根据流量阈值来自动调整容器数量，从而维持系统性能。

总结

亚马逊云科技的App Runner服务使得开发者能够快速部署和运行容器化的Web应用程序和API，而无需管理服务器或基础设施。该服务具有自动扩展、负载均衡、零停机部署以及按秒计量的细粒度计费功能。

App Runner的目标是简化容器操作，最大化开发者生产力，并优化成本和性能。它抽象了基础设施的复杂性，使开发者能够专注于应用程序本身。该服务处理供应、网络、扩展、安全和可观察性等任务，让开发者不再受这些问题的困扰。

App Runner还提供了独特的自动扩展功能，以优化成本。它在请求到达时仅激活应用实例，按活跃CPU秒计费，并在空闲时扩展到零。这种设计有助于节省尖峰工作负载的费用。

例如，该服务已经帮助Cox Automotive高效地运行机器学习模型作为API。它解决了流量峰值问题，镜像开发/测试环境，并使他们的数据科学家能够快速构建和迭代模型。通过使用App Runner，操作过程得到简化，并为模型托管提供了敏捷且成本优化的方案。

演讲原文

https://blog.csdn.net/just2gooo/article/details/135112485

想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！

2023亚马逊云科技re:Invent全球大会 - 官方网站

点击此处，一键查看 re:Invent 2023 所有热门发布

即刻注册亚马逊云科技账户，开启云端之旅！

【免费】亚马逊云科技“100 余种核心云服务产品免费试用”

【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”

亚马逊云科技是谁？

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者，自 2006 年以来一直以不断创新、技术领先、服务丰富、应用广泛而享誉业界。亚马逊云科技可以支持几乎云上任意工作负载。亚马逊云科技目前提供超过 200 项全功能的服务，涵盖计算、存储、网络、数据库、数据分析、机器人、机器学习与人工智能、物联网、移动、安全、混合云、虚拟现实与增强现实、媒体，以及应用开发、部署与管理等方面；基础设施遍及 31 个地理区域的 99 个可用区，并计划新建 4 个区域和 12 个可用区。全球数百万客户，从初创公司、中小企业，到大型企业和政府机构都信赖亚马逊云科技，通过亚马逊云科技的服务强化其基础设施，提高敏捷性，降低成本，加快创新，提升竞争力，实现业务成长和成功。