Serverless助力AI计算：阿里云ACK Serverless/ECI发布GPU容器实例

最新推荐文章于 2024-06-01 02:46:52 发布

阿里云技术

最新推荐文章于 2024-06-01 02:46:52 发布

阅读量448

点赞数

文章标签：云栖社区 serverless 深度学习

本文链接：https://blog.csdn.net/weixin_43970890/article/details/90670363

版权

ACK Serverless推出了基于ECI的GPU容器实例，简化AI计算任务部署，降低运维复杂度。用户无需购买和配置GPU集群，只需指定GPU类型和数量即可快速运行深度学习任务，如tensorflow图片识别。计费按需，提高效率并减少资源浪费。示例展示了在ACK Serverless中创建GPU pod进行模型识别的过程。

摘要由CSDN通过智能技术生成

ACK Serverless（Serverless Kubernetes）近期基于ECI（弹性容器实例）正式推出GPU容器实例支持，让用户以serverless的方式快速运行AI计算任务，极大降低AI平台运维的负担，显著提升整体计算效率。

AI计算离不开GPU已经是行业共识，然而从零开始搭建GPU集群环境是件相对复杂的任务，包括GPU规格购买、机器准备、驱动安装、容器环境安装等。GPU资源的serverless交付方式，充分的展现了serverless的核心优势，其向用户提供标准化而且“开箱即用”的资源供给能力，用户无需购买机器也无需登录到节点安装GPU驱动，极大降低了AI平台的部署复杂度，让客户关注在AI模型和应用本身而非基础设施的搭建和维护，让使用GPU/CPU资源就如同打开水龙头一样简单方便，同时按需计费的方式让客户按照计算任务进行消费，避免包年包月带来的高成本和资源浪费。

在ACK Serverless中创建挂载GPU的pod也非常简单，通过annotation指定所需GPU的类型，同时在resource.limits中指定GPU的个数即可（也可指定instance-type）。每个pod独占GPU，暂不支持vGPU，GPU实例的收费与ECS GPU类型收费一致，不产生额外费用，目前阿里云ECI提供如下几种规格的GPU类型：