- 博客(2)
- 收藏
- 关注
RSS订阅原创 盘一盘从Hub加载模型的实践步骤
众所周知，Hub加载模型向应用开发者提供了简单易用的模型加载和微调APIs，开发者们可以基于预训练模型进行推理或者微调，并部署到自己的应用中，也可以将自己训练好的模型按照指定的步骤发布到MindSpore Hub中。 对于我个人来说，确实在使用前期MindSpore Hub有点难，但是真正使用之后就会发现越来越顺手，开发过程中十分方便。 Mindspore_hub.loadAPI用于加载预训练模型，该模型可以使用代码行完成模型的加载。主要的模型加载流程是这样的： 首先，使用GoogleNet对CIF.
2021-12-23 19:34:50
896
原创 基于MindSpore Serving部署分布式的理论推理
本篇文章意在为大家介绍部署分布式推理服务的完整流程复现操作。有很多实验由于缺少实验环境都无法实践，但是我们对于理论的探究是不能停止的。本文就是基于MindSpore Serving部署分布式的理论推理。 首先，我们一起看看分布式推理服务的架构，如图所示： Main进程提供客户端访问的接口，管理DistributedWorker并进行任务管理与分发；DistributedWorker进程根据模型配置自动调度Agent完成分布式推理；每一个Agent进程包含一个分布式模型的切片，占用一个devi..
2021-12-23 19:33:45
322
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人