火山引擎-机器学习平台VeCleaver

一、历史

火山引擎-智能激发增长

• 助力客户数字化转型
• 推动组织智能化升级
• 激发企业持续性增长

https://caicloud.io/
字节跳动全资收购才云科技，以火山引擎为新品牌，持续打造云原生企业服务智能技术引擎。

1. 杭州才云科技有限公司

杭州才云科技有限公司成立于2015年，创始人张鑫。

1.1产品

1. 智能容器云平台Caicloud Compass
2. AI中台Caicloud Clever
3. AI端到端解决方案Caicloud Cabernet

二、AI平台介绍

AI 中台包括模型服务：

1. 文字识别
2. 图像识别
3. 音视频字幕生成
4. 语音合成
5. 文本分析
6. 机器翻译
7. 视频翻译
8. 智能同传
9. 分割抠图
10. 图像质量优化
11. 智能图像编辑
12. 视觉搜索
13. 视频封面摘要
14. 人像特效
    15. 机器学习平台veClever
15. 车辆图像分析
16. 语音识别
17. 智能图像派生

1.机器学习平台veClever

基于多种深度学习和机器学习框架的机器学习平台，专注于为用户提供强大的硬件资源管理能力及高效的模型开发能力，赋能企业自主可控地定制智能模型。

1.1产品架构

1.2 功能

• AI-DevOps
  数据、模型、代码，开发、训练、服务，提供一站式多维度AI-DevOps落地支持
• 数据仓库
  支持版本化数据集管理，联动平台开发、训练、流水线等多个功能，即点即用
• 模型仓库
  支持版本化模型集管理，支持多种模型框架，平台内一键部署服务
• 代码管理
  预置GitLab代码托管服务，支持代码Git管理及训练代码溯源
• 开发空间
  实现Jupyter的管理，支持一键为Jupyter添加代码、数据集、模型集
• 模型训练
  支持Keras、PyTorch、Caffe、MXNet等多种框架，支持GPU训练加速及多机多卡分布式训练
• Spark 大数据
  支持对接大数据生态，可与模型训练、模型服务过程平滑衔接
• 解决方案
  支持复制成熟的算法解决方案，一键使用
• AI 流水线
  支持AI自定义流水线，支持数据清洗、模型训练、模型评估、模型服务等流程任务
• 模型服务
  支持一键部署模型服务，支持GPU共享，支持流量分担模式及A/B测试，支持自定义容器镜像
• GPU 共享服务
  支持多服务共享GPU，充分利用GPU资源
• 模型评估
  支持预置规则及自定义规则的模型评估，支持多模型对比
• 多租户管理
  贴合企业多租户场景，支持租户间资源隔离
• 权限管理
  支持各类资源的细粒度权限分配
• 持续更新
  全新功能即将上线

1.3 优势

• 一站式
  覆盖数据导入、数据处理、模型开发、模型训练、模型评估、服务上线，提供一站式全方位的深度学习建模流程
• 高效性
  提供硬件计算资源的高效管理与分配，支持模型训练和模型服务的统一调度，为用户定制智能应用带来极速体验
• 易用性
  功能灵活，操作简单，快速上手，支持软硬件配置自动化运维与管理，帮助用户聚焦核心业务开发；
• 支持多框架
  全方位支持TensorFlow、PyTorch、Caffe、MXNet等多种深度学习和机器学习框架，满足企业各类需求

1.4 应用场景

1.4.1 金融行业

火山引擎机器学习平台veClever可服务于金融机构搭建人工智能研究环境的目标，支持多框架分布式训练及分布式训练过程中的资源调度和管理，实现智能应用开发基础资源、开发环境、运行环境的有机整合，保障各类研究的顺利开展，继而提升金融机构创新能力。

1.4.2 零售行业

火山引擎机器学习平台veClever可赋能零售企业自主可控地定制机器学习、深度学习模型，基于各门店供销历史、库存仓储、配送信息等数据，简单高效地开发并上线覆盖货品陈设、营销渠道、运营管理、供应链管理等多场景智能服务，帮助企业提高配销效率，提升消费交互体验。

1.4.3 教育行业

火山引擎机器学习平台veClever可支持高校等教育机构人工智能学科建设，针对数据导入、数据处理、模型开发、模型训练、服务上线、模型管理提供全流程工程化管理能力，支持深度学习分布式训练，助力各机构有效简化项目流程管理，加速各类科研课题顺利开展。

1.5 客户案例

• 某国际餐饮集团
  与某国际餐饮集团合作，打造了一个集数据管理、模型算法和运维支持等功能模块于一体的机器学习开发平台，助其更好地控制运营成本
  业务预测精度：+30%
  开发周期用时：-60%

• 某国内金融机构
  与某国内金融机构合作，通过私有云搭建智能、高效的深度学习平台进行模型开发、训练，助其实现企业创新能力提升
  模型上线效率：+1000%
  GPU使用率：+50%

1.6 对接流程

• 数据管理
  支持结构化与非结构化数据的存储、版本化管理和协同标注，原始数据预处理一键导入平台存储
• 模型管理
  提供模型开发、超参数搜索、模型评估、多模型对比能力，支持GPU加速训练、分布式训练和可视化部署
• 流程管理
  模型仓库结合便捷的模型DevOps系统，支持对模型资产进行版本化管理，一处训练，多处可用
• 服务落地
  在线模型版本管理，持续集成模型流水线，提供模型服务A/B测试、滚动升级、灰度发布，弹性伸缩