从模型到应用，打通AI落地最后一公里

目录

落地的真实流程

云端部署和边缘端部署

端侧部署全流程

BML全功能开发平台

公有云部署全流程

自定义配额

自动启停

成本，泛华，迭代

自动评测

自动切分A/B test

持续迭代

闭环

数据回流配置

数据回流相关配置，难例分析

端侧部署难点

硬件，适配


云端部署和端侧部署相结合，不上传视频，端侧检测人脸，提取人脸区域，然后再上传到服务器，进行批量预测，模型分工。
传统云端检测，上传视频流，宽带和服务器要求都高。设备端检测然后上传文本，但是边缘端的精度不够，所以打配合。

端侧部署流程

框架模型适配


硬件适配

精度和性能

模型压缩

模型量化，需要硬件支持定点计算单元

剪枝，蒸馏

调度技术

压缩预期的性能

SDK加速

加速

硬件适配广泛

一体化方案