初试MindSpore Lite

最新推荐文章于 2023-12-14 16:40:13 发布
最新推荐文章于 2023-12-14 16:40:13 发布
阅读量2.8w 收藏 2
点赞数 2
分类专栏： mindspore 文章标签： 其他
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_53904578/article/details/120283791
版权

初试MindSpore Lite

MindSpore Lite是MindSpore2020年八月发布的针对手机以及IoT场景，端到端的解决方案。简单地说，就是可以在手机以及IoT设备上部署MindSpore框架训练的AI模型。是一个极速、极智、极简的端侧AI引擎，使能全场景智能应用，为用户提供端到端的解决方案，帮助用户使能AI能力。

img

使用MindSpore Lite的优势

极致性能

高效的内核算法和汇编级优化，支持CPU、GPU、NPU异构调度，最大化发挥硬件算力，最小化推理时延和功耗。

轻量化

提供超轻量的解决方案，支持模型量化压缩，模型更小跑得更快，使能AI模型极限环境下的部署执行。

全场景支持

支持iOS、Android等手机操作系统以及LiteOS嵌入式操作系统，支持手机、大屏、平板、IoT等各种智能设备上的AI应用。

高效部署

支持MindSpore/TensorFlow Lite/Caffe/Onnx模型，提供模型压缩、数据处理等能力，统一训练和推理IR，方便用户快速部署。

使用MindSpore Lite的工作流程

[

MindSpore官网资源（选择模型）配图

选择模型选择新模型或者重新训练现有模型]

MindSpore团队提供了一系列预置终端模型，你可以在应用程序中使用这些预置的终端模型。 可下载MindSpore Model Zoo中图像分类模型。 同时，你也可以使用预置模型做迁移学习，以实现自己的图像分类任务。

[

MindSpore官网资源（转换模型）配图

转换模型使用工具将模型转换为方便部署的端侧模型]

如果你需要对MindSpore提供的模型进行重训，重训完成后，需要将模型导出为.mindir格式。然后使用MindSpore Lite模型转换工具将.mindir格式转换成.ms格式。

以mobilenetv2模型为例，如下脚本将其转换为MindSpore Lite模型用于端侧推理。

​
call converter_lite --fmk=MINDIR --modelFile=mobilenetv2.mindir --outputFile=mobilenetv2
​

[

MindSpore官网资源（部署应用）配图

部署应用将模型引入到应用中，并加载到移动或者嵌入式设备中]

使用MindSpore Lite的用户

[HMS ML Kit可以使用华为提供的机器学习套件，帮助快速开发端侧的机器学习应用]

[华为HiAIHUAWEI HiAI是面向智能终端的AI能力开放平台，让开发者能够快速地利用华为强大的AI处理能力，为用户提供更好的智慧应用体验。

[华为SiteAISiteAI构筑领先的轻量高效、安全易用、三层协同的嵌入式AI平台，使能网元智能化与自动驾驶网络。]

常见的场景

MindSpore官网资源（图像分类）配图

图像分类

可以使用预制图像分类模型，识别摄像头输入帧中的物体。

在Android设备上试试在loT设备上试试

MindSpore官网资源（目标检测）配图

目标检测

可以使用预置目标检测模型，检测标识摄像头输入帧中的对象并添加标签，并用边框标识出来。

在Android设备上试试

MindSpore官网资源（图像分割）配图

图像分割

图像分割可用于检测目标在图片中的位置或者图片中某一像素是输入何种对象的。

在Android设备上试试

下载MindSpore Lite

下载MindSpore Lite — MindSpore Lite master documentation提供了支持多种操作系统和硬件平台的模型转换、模型推理、图像处理等功能，可以下载适用于本地环境的版本包直接使用。

编译MindSpore Lite

介绍如何快速编译出MindSpore Lite。

MindSpore Lite包含模块：

模块支持平台说明
converterLinux, Windows模型转换工具
runtime(cpp、java)Linux, Windows, Android, iOS模型推理框架（Windows平台不支持java版runtime）
benchmarkLinux, Windows, Android基准测试工具
benchmark_trainLinux, Android性能测试和精度校验工具
cropperLinuxlibmindspore-lite.a静态库裁剪工具
minddataLinux, Android图像处理库
codegenLinux模型推理代码生成工具
obfuscatorLinux模型混淆工具

接下来我将以windows系统来简单的介绍如何编译出MindSpore Lite。

Windows环境编译

环境要求

  • 系统环境：Windows 7，Windows 10；64位。

  • 编译依赖

  • 编译脚本中会执行git clone获取第三方依赖库的代码。

  • 如果要编译32位Mindspore Lite，请使用32位MinGW编译。

编译选项

MindSpore根目录下的build.bat脚本可用于MindSpore Lite的编译。

build.bat的编译参数

参数参数说明是否必选
lite设置该参数，则对MindSpore Lite工程进行编译是
[n]设定编译时所用的线程数，否则默认设定为6线程否

mindspore/lite/CMakeLists.txt的选项

选项参数说明取值范围默认值
MSLITE_ENABLE_SSE是否启用SSE指令集on、offoff
MSLITE_ENABLE_AVX是否启用AVX指令集on、offoff
MSLITE_ENABLE_CONVERTER是否编译模型转换工具on、offon
MSLITE_ENABLE_TOOLS是否编译配套工具on、offon
MSLITE_ENABLE_TESTCASES是否编译测试用例on、offoff

  • 以上选项可通过设置同名环境变量或者mindspore/lite/CMakeLists.txt文件修改。

编译示例

首先，使用git工具，从MindSpore代码仓下载源码。

git clone https://gitee.com/mindspore/mindspore.git -b r1.3

然后，使用cmd工具在源码根目录下，执行如下命令即可编译MindSpore Lite。

  • 以默认线程数（6线程）编译Windows版本。

call build.bat lite

  • 以指定线程数8编译Windows版本。

call build.bat lite 8

最后，会在output/目录中生成如下文件：

  • mindspore-lite-{version}-win-x64.zip：包含模型推理框架runtime和配套工具。

version：输出件版本号，与所编译的分支代码对应的版本一致。

目录结构

mindspore-lite-{version}-win-x64
├── runtime
│   ├── include
│   └── lib
│       ├── libgcc_s_seh-1.dll      # MinGW动态库
│       ├── libmindspore-lite.a     # MindSpore Lite推理框架的静态库
│       ├── libmindspore-lite.dll   # MindSpore Lite推理框架的动态库
│       ├── libmindspore-lite.dll.a # MindSpore Lite推理框架的动态库的链接文件
│       ├── libssp-0.dll            # MinGW动态库
│       ├── libstdc++-6.dll         # MinGW动态库
│       └── libwinpthread-1.dll     # MinGW动态库
└── tools
    ├── benchmark # 基准测试工具
    └── converter # 模型转换工具

暂不支持在Windows进行端侧训练。

上手体验

下载官方代码样例—图片分类（使用的是mobilenet.v2）。安装AndroidStudio，按照说明，需要各个依赖如下：

Android Studio >= 3.2 (推荐4.0以上版本) NDK 21.3 CMake 3.10 Android SDK >= 26 OpenCV >= 4.0.0（示例代码中已经有了，所以可以不用安装） 根据说明，配置一下工程，我使用的Android SDK=30，也就是Android10版本

img

导入项目之后，还需要下载gradle里面的相关依赖，等一会儿就行~

简单的源码说明 这个实例程序主要分为两个部分，一个是Java，一个是C++。Java代码调用系统API开启相机，并封装了一个类RecognitionObjectBean保存分类的结果。C++编写底层的推理代码，Jni调用C++API进行推理。C++API需要相关的库文件支持，可以通过Mindspore lite源码编译得到。也可以像这个例子，通过配置gradle下载

 

要用C++代码实现推理过程，大致流程如下：

加载模型文件，创建会话，构建推理的计算图
转换输入图片为Tensor，要和训练时输入数据格式保持一致
输入数据进行推理，获取输出数据，也是一个Tensor，得进行一些处理，拿到分类的结果。

详细的代码可以点这model_zoo/official/lite/image_classification/app/src/main/cpp/MindSporeNetnative.cpp · MindSpore/mindspore - Gitee.com

[山青花欲燃]
关注
  • 2
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
专栏目录
初试weka数据挖掘
03-02
数据挖掘、机器学习这些字眼，在一些人看来，是门槛很高的东西。诚然，如果做算法实现甚至算法优化，确实需要很多背景知识。但事实是，绝大多数数据挖掘工程师不需要去做算法层面的东西。他们的精力，集中在特征提取、算法选择和参数调优上。那么，一个可以方便地提供这些功能的工具，便是十分必要的了。而weka，便是数据挖掘工具中的佼佼者。Weka的全名是怀卡托智能分析环境（WaikatoEnvironmentforKnowledgeAnalysis），是一款免费的，非商业化的，基于Java环境下开源的机器学习以及数据挖掘软件，它和它的源代码可在其官方网站下载。有趣的是，该软件的缩写weka也是NewZealan
几个小实践带你快速上手MindSpore
华为云官方博客
02-24 6225
摘要：本文将带大家通过几个小实践快速上手MindSpore，其中包括MindSpore端边云统一格式及华为智慧终端背后的黑科技。 MindSpore介绍 MindSpore是一种适用于端边云场景的新型开源深度学习训练/推理框架。 MindSpore提供了友好的设计和高效的执行，旨在提升数据科学家和算法工程师的开发体验，并为Ascend AI处理器提供原生支持，以及软硬件协同优化。 同时，MindSpore作为全球AI开源社区，致力于进一步开发和丰富AI软硬件应用生态。 接下来我将带大家通过几个小
HarmonyOS：使用 MindSpore Lite 引擎进行模型推理
最新发布
HarmonyOSDev的博客
12-14 1262
MindSpore Lite 是一款 AI 引擎，它提供了面向不同硬件设备 AI 模型推理的功能，目前已经在图像分类、目标识别、人脸识别、文字识别等应用中广泛使用。本文介绍使用 MindSpore Lite 推理引擎进行模型推理的通用开发流程。
从0到1在win10上学习MindSpore
Wandering的博客
01-29 383
记录从0入门学习 MindSpore的过程 相关链接 MindSpore官网 MindSpore论坛 MindSpore视频 一.MindSpore简述 MindSpore是一个全场景深度学习框架，旨在实现易开发、高效执行、全场景覆盖三大目标，其中易开发表现为API友好、调试难度低，高效执行包括计算效率、数据预处理效率和分布式训练效率，全场景则指框架同时支持云、边缘以及端侧场景。 MindSpore总体架构分为前端表示层（Mind Expression，ME）、计算图引擎（Graph Engine，GE）和
如何处理使用MindSpore Lite的converter_lite工具转换模型失败的问题
Kenji_Shinji的博客
09-29 617
使用MindSpore进行模型部署时需要首先使用MindSpore Lite的converter_lite工具进行模型转换，将*.mindir模型转换为*.ms模型。模型转换失败，日志包含错误。1.converter_lite工具包括linux和windows两个版本，使用完全一致，问题案例分析中不做区分。2.因不同版本中日志行号可能存在差异，下述示例日志报错信息中的行号信息均用”*”表示；3.示例日志中只列出了通用信息，其他涉及具体场景的信息均用“***”表示。
在MindSpore1.1.1下训练模型，利用converter进行mindir转换时出现错误的解决方案
Kenji_Shinji的博客
07-29 359
转载地址：https://bbs.huaweicloud.com/forum/thread-106101-1-1.html 作者：李响 一 运行环境 MindSpore 版本号：1.1.1 硬件平台：CPU； Python版本号：3.7.5； 操作系统：Windows10 二 问题现象&报错信息： [ERROR] LITE(16100, ?)2021-2-5 14:15:32 [mindspore\lite\tools\common\proto...
开发者分享｜MindSpore Lite 体验，一键实现图像分割
Kenji_Shinji的博客
07-20 1026
MindSporeLite1.0.0已经在去年9月份开源，开源之后，其接口易用性、算子性能与完备度、第三方模型的广泛支持等方面，得到了众多手机应用开发者的广泛认可。目前，1.0.0版本发布已经过去3个月，最新的MindSporeLite1.1.0在算子性能优化、模型小型化、加速库自动裁剪工具、端侧模型训练、语音类模型支持、Java接口开放、模型可视化等方面进行了全面升级，a.通过此次端到端的实践，初步了解了Mindsporelite工程在手机应用上如何进行构建和部署，还是比较方便、快捷的；...
使用Mindspore Lite端到端部署LSTM
weixin_45666880的博客
04-19 1965
本文档介绍如何把pytorch训练的LSTM网络转换成mindspore Lite支持的ms模型，并实现手机端的推理。 1.pytorch搭建网络 从mindspore Lite官网中的算子支持列表中发现，如果模型中用到了LSTM算子，只能从onnx转ms，目前主流的网络都是用pytorch框架训练，因此我们先用pytorch搭建LSTM模型，再调用torch.onnx把模型转换成onnx。 我们用LSTM搭建一个简单的分类网络模型，第一层是LSTM层，后续是两个全连接层，其网络结构用pytorc
微信小游戏初试
03-29
微信小游戏初试（本文） 如果，你有开发 h5 游戏的经验，那么相信你能够直接上手微信小游戏。即使，你和我一样之前没有游戏开发经验也没关系，看了本文之后，相信你也可以试着开发一个简单的小游戏玩一玩了。 文件...
应聘人员初试测评表.doc
06-17
应聘人员初试测评表 评价人姓名： 职务： 面试时间： 应聘人姓名: 性别: 年龄: 编号: 应聘职位： 原单位： 评价方向 评价要素 评价等级 1（差） 2（较差） 3（一般） 4（较好） 5（好） 个人基本素质 评价 1、...
研究生初试录取问题
06-22
研究生初试录取 问题描述： 研究生考试课程为4门，其中数学、外语、政治为统一命题，而专业基础课则根据不同的专业由招生学校自行命题。国家对初试录取分数有总分要求（如某一年要求4门课总分应达到310分），另外...
技术干货｜极速、极智、极简的昇思MindSpore Lite：助力华为Watch更加智能
Kenji_Shinji的博客
06-25 715
昇思MindSpore Lite是MindSpore全场景AI框架的端侧引擎，目前MindSpore Lite作为华为HMS Core、鸿蒙、运营商、能源领域嵌入式设备机器学习服务的推理引擎底座，已为全球4000+应用提供推理引擎服务，日均调用量超过7亿，同时在各类手机、穿戴感知、智慧屏、智能手表和其他IoT设备的AI特性上得到了广泛应用。本文介绍MindSpore Lite在华为智能手表WATCH上的应用，也欢迎您发布基于MindSpore Lite的应用。使用MindSpore Lite的优势极致性能高
鸿蒙应用开发配置Mindspore Lite依赖
weixin_45666880的博客
08-26 350
按照Mindspore官网上在安卓上配置Mindspore Lite的教程在鸿蒙上进行配置。目前鸿蒙暂不支持aar包。如果需要做鸿蒙应用开发，建议直接使用c或者c++推理接口。在安卓上可以正常部署，但在DevEco Studio上配置后显示如下。错误: 程序包com.mindspore.lite不存在。Mindspore Lite可以直接部署在鸿蒙上。...
MindSpore21天实战营手记（一）：基于MindSpore Lite开发端侧AI图像分类应用
xi_xiyu的博客
07-26 562
完于2020年10月26日 刚刚听完华为MindSpore实战营第一课“基于MindSpore Lite开发端侧AI图像分类应用”，学会了编译方法就迫不及待按照课程指南生成应用，安装到手机上对着街上物件一顿乱扫，感觉特别有趣。 话说能得到即时反馈的学习才是好的学习，短短两天把一个小白变成一个能编译项目的小白，我为华为的老师们手动点赞。 以前总感觉模型训练好，在云上开个访问API了，最多听说过某些行业出于保护隐私的目的，采用公有云训练，私有云推理的应用模式，而且私有云资源也往往是不受限制的。但是
超轻量AI引擎MindSpore Lite
吴建明wujianming_110117
02-07 449
超轻量AI引擎MindSpore Lite 揭秘一下端上的AI引擎：MindSpore Lite。 MindSpore Lite是MindSpore全场景AI框架的端侧引擎，目前MindSpore Lite作为华为HMS Core机器学习服务的推理引擎底座，已为全球1000+应用提供推理引擎服务，日均调用量超过3亿，同时在各类手机、穿戴感知、智慧屏等设备的AI特性上得到了广泛应用。 MindSpore Lite 1.0.0 已经开源，开源之后，其接口易用性、算子性能与完备度、第三方模型的广泛支持等方面，得到
如何处理MindSpore Lite推理失败的问题
Kenji_Shinji的博客
09-29 638
使用MindSpore Lite进行模型部署时，转换出的*.ms模型推理失败。
mindspore-lite运行模型转换功能时报错
weixin_45666880的博客
10-31 205
【功能模块】我的操作是想用mindspore-lite中的converter_lite.exe将训练过程当中生成的mobilenet_v2_1.0_224.mindir文件，转换为MindSpore Lite端侧推理框架可识别的文件格式mobilenet_v2_1.0_224.ms文件。我下载了mindspore-lite的windows版本，操作系统是windows10，试验了1.7.0版本和1.6.1版本，错误信息是一样的。【操作步骤&问题现象】1、在命令行里输入“set PACKAGE_ROOT_PA
mindspore自动微分
热门推荐
GAN、Transformer、Vue、Django知识学习&&分享者 ZhuBa的博客 zhuba-Ahhh.github.io
09-21 3万+
详情请点击mindspore自动微分
androidstudio小白初试代码
04-27
AndroidStudio是一款专门用于开发和设计安卓操作系统应用程序的开发工具。如果你是一名安卓开发的小白，那么初试代码可能会让你觉得很吃力。不过，这并不是什么难事，只需要一些必要的步骤和一些基本知识。 第一步，下载并安装AndroidStudio，打开并创建新项目。现在，你可以选择创建一个新的应用程序，或者直接使用一个初始项目，这里，我们将选择一个初始项目。 第二步，学习并理解基本的安卓开发语言Java。安卓是使用Java作为开发语言的，你需要理解Java的基本语法和结构，才能进行安卓代码的编写。 第三步，熟悉安卓代码开发的基本结构。在AndroidStudio中，代码的基本结构代表了你应用程序的基本骨架，例如，布局和UI元素。 第四步，创建和运用布局文件和UI元素。可以使用布局文件来决定应用程序UI元素在屏幕上的排布和展示方式，例如按钮、文本框、编辑框等UI元素。 第五步，调试和测试。在编写代码时，你需要时刻保持对代码的检查和调试，以确保程序能运行，并且能够达到设计目标。 初试安卓代码可能会让你觉得有些挑战性，但是只要你一边学习一边实践，并且时刻保持高度关注和认真学习，你就一定能够成为一名优秀的安卓开发者，并且能够成功地完成你自己的安卓应用程序。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

[山青花欲燃]

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值