面向推理训练一体化的 MNN 工作台

作者:修玉同(音弦)

MNN 工作台是阿里淘系端智能团队构建并对外免费开放的一站式端侧 AI 研发平台,它基于已开源的 MNN 深度学习端侧推理引擎(开源地址:https://github.com/alibaba/MNN ),内嵌模型工具、单机预训练模版、开箱即用算法集、端侧真机断点调试以及独创的三端一体部署方案等一系列能力。自对外开放以来,MNN 工作台始终致力于解决 降低对 AI 感兴趣的开发者们的参与门槛提升算法与工程之间协作效率 两个端侧 AI 发展的核心问题,深受广大端侧开发者的好评。

但在好评之余,MNN 工作台团队仍在持续思考:在让迭代变得更加高效、部署验证更加连贯、模型生产更加简单这几点上,我们真的做到极致了吗?在面向不同分层的开发者时,我们真的解决了他们所有的核心诉求吗?

因此在和不同团队与开发者沟通交流后,我们将目光聚焦在了两大方面:

  1. MNN 工作台的部署调试体验非常流畅,但是缺乏杀手锏级别的训练能力,这会导致训练 - 部署的整体流程产生割裂;
  2. 算法逐渐产生复杂、多任务、多模型协作的趋势,如何针对这一问题提供更有效的解决方案,也是一个亟需攻克的难点。

构建强大专业的训练能力

MNN 工作台提供了开箱即用的算法模型市场以及内置的多项预训练模版,面向开发者提供极致简单的模型生产方式,这从一定程度上为端侧 AI 场景的普及打下了基

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
要在Mac上进行MNN推理,首先你需要配置MNN环境。你可以通过以下两种方法之一来配置你的MNN环境。 第一种方法是通过官方网站提供的预编译库来配置MNN环境。你可以在MNN的GitHub页面上找到适用于Mac的预编译库。根据官方文档的说明,下载并安装相应的运行库即可。 第二种方法是下载MNN的源代码,并根据官方文档的指引进行编译。在官方文档中,你可以找到详细的编译指南,包括各种版本的编译说明。根据你的需要选择合适的编译版本,并按照文档中的说明进行编译。 完成配置后,你可以使用MNN进行推理。首先,你需要编译训练部分,可以通过以下命令进行编译: ``` cd MNN/build cmake .. -DMNN_BUILD_TRAIN=ON make -j8 ``` 编译完成后,你会在本地出现MNN的动态库。 接下来,你可以使用MNNConvert工具将模型文件转换为MNN模型文件。使用以下命令进行转换: ``` ./MNNConvert -f TF --modelFile model.pb --MNNModel pose.mnn --bizCode biz ``` 这将把TensorFlow格式的模型文件model.pb转换为MNN格式的模型文件pose.mnn,并使用biz作为业务代码。 这样,你就可以在Mac上使用MNN进行推理了。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [mnn推理示例](https://blog.csdn.net/lyj223061/article/details/122164932)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *2* *3* [阿里MNN上深度神经网络推理引擎的实践记录](https://blog.csdn.net/u010008647/article/details/122404373)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值