无服务器构建人工智能,无服务器的人工智能系统（21页）-原创力文档

AI System On Serverless

UCloud LabU 叶理灯

Agenda

• Cloud Computing

• Serverless

• AI System On Serverless

IaaS

• 托管硬件

• 解放基础运维

PaaS

• 托管应用

• 解放应用运维

BaaS

• 基础应用服务化

• 部分解放应用研发

Serverless 1/2

Serverless 1/2

Serverless 3/3

AI System 1/2

算法 + 数据 + 算力

AI System 2/2

BUILD + TRAIN + DEPLOY

Infrence

• 无状态

• Auto Scaling

• 海量计算资源

• 高并发

• 高可用

底层计算平台 1/3

• 计算服务化

• 算法容器化

• HTTP API:输入+算法+输出

• 按需付费

底层计算平台 2/3

底层计算平台 3/3

架构要求

• 跨可用区容灾

• 按Set部署

• 灰度发布

• 所有模块可以平行扩展

App Engine

UAI Inference 1/2

UAI Inference 2/2

• 兼容多种机器学习框架

• Tensorflow , Mxnet,Caffe etc.

• 免维护

• 低成本

• 高可用

云计算为人工智能赋能

• 海量算力

• 软件架构托管

• 低成本

• 免运维

Thanks