关键字: [Amazon Web Services re:Invent 2023, Kubernetes, Eks, Amazon, 亚马逊云科技, Machine Learning]
本文字数: 1500, 阅读完需: 8 分钟
视频
如视频不能正常播放,请前往bilibili观看本视频。>> https://www.bilibili.com/video/BV1je411f7cG
导读
Kubernetes 已经成为组织创新和现代化其应用程序组合的标准方法。亚马逊云科技开发了 Amazon EKS,使 Kubernetes 更容易被各种规模的组织访问,帮助他们专注于业务中最重要的事情。在本论坛中,与 Kubernetes 产品主管 Nathan Taber 一起了解一位使用 EKS 培训大语言模型的客户和另一位在 EKS 上标准化其内部开发平台的客户。了解组织如何使用 EKS 在云端、本地和边缘运行其最苛刻的应用程序。本论坛还将讨论 EKS 路线图的未来发展。
演讲精华
以下是小编为您整理的本次演讲的精华,共1200字,阅读时间大约是6分钟。如果您想进一步了解演讲内容或者观看演讲全文,请观看演讲完整视频或者下面的演讲原文。
库伯勒斯已被业界公认为是容器编排的事实标准,各种规模的组织都在广泛采用。根据云原生计算基金会(CNCF)的广泛调查,该基金会是库伯勒斯的开源管理机构,令人惊讶的是,64%的组织已经在生产中运行库伯勒斯,而另外25%的组织目前正在试点或评估库伯勒斯以供将来采用。
推动这种大规模迁移到库伯勒斯的驱动因素很简单。团队希望标准化操作以加速交付并更快部署更改。他们旨在将基础设施支出从预配的静态资源转变为可以按需扩大的动态资源。组织需要通过像库伯勒斯这样的便携式平台实现数百个不同团队的一致性。他们希望通过最小化技术风险和技术债务来为未来做好准备。
自2017年通用可用性推出以来,亚马逊EKS已经取得了巨大的发展。它提供了亚马逊云科技著名的性能、规模、可靠性和可用性的理想组合。如今,在亚马逊云科技上运行的生产库伯勒斯工作负载已经超过任何其他平台。这些采用数字展示了惊人的增长——EKS集群每周处理数十亿EC2实例小时,支持任务关键型应用程序。
EKS今天支持各种各样的工作负载——从迁移到云的遗留单体应用程序到现代微服务架构,再到最先进的机器学习作业,移动和Web后端,IoT管道,实时数据流,以及所有其他东西。
一些尖端使用案例包括:
- 大规模自动驾驶汽车训练,具有模拟环境和场景
- 创建图像文本的生成性AI如DALL-E的大型语言模型
- 在数千个节点上分布的机器学习方法训练管道
- 使用Spark, Flink和其他大数据工具在数千个节点上实时数据处理
- 支撑消费者应用的可扩展移动和Web后端
- 为无数企业服务的商业软件
EKS解决了组织今天面临的四个关键挑战:
EKS、EKS Anywhere和EKS Distro等发行版的构建工作正在进行中。这些发行版旨在提供全面的管理控制面以及节点基础设施。它们与Kubernetes和亚马逊云科技服务实现了深度集成。此外,EKS还为上游Kubernetes做出了重大贡献,并参与了Kubernetes安全计划的制定。同时,EKS还协助进行了发布验证和互操作性测试。随着EKS在全球范围内的迅速扩张,如今已可在亚马逊云科技的所有102个区域、可用区、本地区域、波长区域和Outposts上使用。仅在2022年,EKS就在4个新推出的亚马逊云科技区域和数十个新的可用区中扩展了服务。未来还有5个区域即将推出。
对于简化的内部Kubernetes,EKS Anywhere现已支持在亚马逊云科技Snow设备上进行边缘计算用例的部署。Tinkerbell已被集成用于设置裸金属集群。通过亚马逊云科技控制台,推出了自助服务订阅模式。
上游Kubernetes每四个月发布一个新版本。在2022年,EKS大力投资以自动化内部流程并加速认证。将上游发布延迟从243天减少到仅42天,提高了5倍!这使客户能够更快地获取最新的Kubernetes创新。
根据用户反馈,EKS宣布延长Kubernetes版本的支持周期。从v1.23开始,集群现在可以运行26个月并获得完整的亚马逊云科技支持,比标准的14个月上游窗口多12个月。这为客户按自己的时间表升级提供了更多灵活性。
亚马逊云科技提供针对EKS客户在Kubernetes版本升级方面的专家SRE支持,帮助他们应对升级难题。其专业团队负责全程处理升级过程。通过使用集群内端点,亚马逊云科技的Pod Identity简化了IAM角色映射到Kubernetes服务帐户的过程。借助Cluster Access Management,可以通过API管理IAM权限,无需复杂的kube-config文件。此外,VPC-CNI网络策略引擎发布以实现无额外代理的流量隔离和新功能。eBPF数据平面为网络控制带来了新功能。亚马逊云科技的Controllers for Kubernetes将亚马逊云科技服务本机集成到EKS集群中。目前共有21个通用可用产品,其中11个处于预览阶段,近期新增功能包括EventBridge、SQS和SNS。ECS附加组件扩展了在创建集群期间可用的托管附加组件目录。新添加的项目包括EFS CSI驱动程序、GuardDuty代理、Weave GitOps企业版以及更多来自亚马逊云科技市场的产品。为了提高可观察性,增强型CloudWatch提供了40多个现成的仪表板和日志记录,而无代理Prometheus使得指标收集无需任何代理或抓取配置。Carpenter在今年得到了众多客户的青睐,例如Slack。亚马逊云科技将其稳定性改进、漂移和解合以及CNCF纳入Kubernetes SIG-Autoscaling。Azure也推出了一个Carpenter提供者。在机器学习领域,EKS支持最新的Nvidia/Neuron驱动程序、P5d实例、弹性纤维适配器、容量预留、S3挂载点CSI驱动程序等。Amazon Linux 2023也将很快获得支持。亚马逊云科技的未来发展路线图聚焦于五个关键主题:1.管理更多的运营组件,如升级、CI/CD、配置管理等,以简化第二天操作。发展到处理供应、扩展、监控等的“集群自动售货机”。2.加深Kubernetes和亚马逊云科技之间的集成,特别是在安全、混合部署和可观察性方面。通过紧密的双向集成解锁更多功能。3.扩大托管Kubernetes的边缘位置、数据中心和混合环境。简化所有环境的Kubernetes。4.通过ML驱动的见解提高效率并解决故障问题,跨越群集和集中式仪表板。实现“操作员的Slack”。
通过采用高级调度、专用硬件支持和针对机器学习的自动扩展算法,增强了机器学习方面的支持。EKS鼓励客户通过GitHub上的公开路线图直接获取反馈,短短四年内已根据用户建议实施了超过400个项目。提供了全面的学习资源,包括指南、研讨会、蓝图和在线培训课程。总的来说,Kubernetes和EKS正引领着现代应用开发、部署和管理的革命性变革。亚马逊云科技致力于与EKS携手创新,以简化、保护和拓展Kubernetes,以满足日益复杂的生产需求。随着各个团队、地区和环境的组织逐渐采用Kubernetes标准化,前景充满期待。EKS致力于让大规模、可靠的Kubernetes运行尽可能无缝。
下面是一些演讲现场的精彩瞬间:
亚马逊云科技(Amazon Web Services)提供了一种简化的界面,允许用户在YAML文件中定义图像、Docker文件、集群和网络配置,从而实现易于部署和大规模安全性。
其背后隐藏的秘密是一个仅17行的简单YAML文件,通过Jenkins管道驱动容器构建和部署,实现了快速便捷的部署过程。
在领导者的讨论中,他们探讨了亚马逊云科技如何利用Chef和Poptart等配置管理工具动态分配资源,并定期更换集群中的EC2节点。
此外,亚马逊云科技还集成了GuardDuty等服务,以便在全球范围内客户的集群中检测威胁并发出攻击警报。
领导者们讨论了亚马逊云科技如何通过许多客户的经验教训来帮助他们提高效率并优化他们的Kubernetes集群。
在一个关于扩展数据处理规模的Pinterest演讲中,有一个令人难忘的re:Invent的时刻被提及。
总结
The video discusses the rapid adoption of Kubernetes and how EKS, as an Amazon Web Services service, provides the best support for Kubernetes users. EKS is now available in all Amazon Web Services regions and has introduced more than 200 features in the past five years. Companies like Slack use EKS to scale applications through automated infrastructure expansion. Anthropic leverages EKS and S3 efficiently to train large language models.
Looking forward, EKS aims to simplify Kubernetes management, deeply integrate with Amazon Web Services services, and expand support for on-premises and edge deployments. Priorities include automatic upgrades through expanded version support, managed add-on components like monitoring, and hybrid management. Machine learning is another focus area, including supporting dedicated instances, optimizing Carpenter for ML workloads, and integrating ML services.
On the roadmap, EKS includes direct customer feedback. Over 400 roadmap projects have been launched. Resources such as EKS best practice guides, workshops, and blueprints provide guidance for users at various levels. Overall, EKS focuses on helping customers by listening to their needs and shifting their attention from undifferentiated heavy lifting to application development.
演讲原文
https://blog.csdn.net/just2gooo/article/details/134787459
想了解更多精彩完整内容吗?立即访问re:Invent 官网中文网站!
2023亚马逊云科技re:Invent全球大会 - 官方网站
点击此处,一键获取亚马逊云科技全球最新产品/服务资讯!
点击此处,一键获取亚马逊云科技中国区最新产品/服务资讯!
即刻注册亚马逊云科技账户,开启云端之旅!
【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”
亚马逊云科技是谁?
亚马逊云科技(Amazon Web Services)是全球云计算的开创者和引领者,自 2006 年以来一直以不断创新、技术领先、服务丰富、应用广泛而享誉业界。亚马逊云科技可以支持几乎云上任意工作负载。亚马逊云科技目前提供超过 200 项全功能的服务,涵盖计算、存储、网络、数据库、数据分析、机器人、机器学习与人工智能、物联网、移动、安全、混合云、虚拟现实与增强现实、媒体,以及应用开发、部署与管理等方面;基础设施遍及 31 个地理区域的 99 个可用区,并计划新建 4 个区域和 12 个可用区。全球数百万客户,从初创公司、中小企业,到大型企业和政府机构都信赖亚马逊云科技,通过亚马逊云科技的服务强化其基础设施,提高敏捷性,降低成本,加快创新,提升竞争力,实现业务成长和成功。