【K210】 NNCase编译MobileNet_v1_1.0即tflite量化为kmodel v3

最新推荐文章于 2024-05-21 20:03:20 发布
最新推荐文章于 2024-05-21 20:03:20 发布
阅读量4.8k 收藏 9
点赞数
分类专栏： 嵌入式开发实战
本文链接：https://blog.csdn.net/jn10010537/article/details/104785144
版权
本文介绍了如何利用K210厂商的NNCase工具，将MobileNet_v1_1.0的tflite模型量化并转换为适用于K210芯片的kmodel v3格式。通过提供编译命令和转换示例，展示了转换过程，并提到了转换过程中遇到的不支持Reshape操作的问题。此外，还讨论了NNCase早期版本(c#编写)和后续kmodel v4版本的研究选择。
摘要由CSDN通过智能技术生成

主控芯片K210厂商的NNCase工具，主要将其他模型转化为适应K210的芯片。目前主要是tftitle、caffe。

下载转换工具：NNCase Converter v0.1.0 RC1
https://github.com/kendryte/nncase/releases
sunnycase released this on 8 Mar 2019 · 292 commits to master since this release
Breaking changes
  Generate kmodel v3
  Drop k210code output, please use k210model instead
Major changes
  Support Add, Concat (resnet, inception-v2)
  Support L2Normalization, Softmax
  Support multiple outputs
  Simplify inference procedure
  Add profiling function

比如下载ncc-win7-x86_64.zip,解压后通过cmd终端运行ncc.exe如下：</

了解本专栏 订阅专栏 解锁全文 超级会员免费看
jn10010537
关注
专栏目录
订阅专栏
nncase模型转换工具的使用
always115的博客
09-21 4582
nncase模型转换，tflite-kmodel
B20_08_NNCase编译MobileNet_v1_1.0即tflite量化为kmodel v3.zip
03-10
B20_08_NNCase编译MobileNet_v1_1.0即tflite量化为kmodel v3.zip包含以下文件： ncc-win7-x86_64.zip即NNCase Converter v0.1.0 RC1对应的c#源码 nncase-0.1.0-rc1.zip即NNCase Converter v0.1.0 RC1对应的c#源码 mobilenet文件夹，其中mobilenet文件夹包含以下权重： MobileNet_v1_1.0.pb使用tf slim训练的mobilenet_v1_1.0； mobilenet_v1.tflite将MobileNet_v1_1.0.pb转成mobilenet_v1.tflite未量化； mobilenet_v1_kmodel_v4.kmodel 即通过NNCase v0.2.0 Beta2工具编译mobilenet_v1.tflite，未量化； MobileNet_v1_1.0_uint8_kmodel_v4.kmodel 即通过NNCase v0.2.0 Beta2工具编译mobilenet_v1.tflite，量化未uint8，k210 kpu可以加速；
h5模型转为.kmodel/.tflite/.pb文件
08-03
针对k210或者其他AI嵌入式设备提供转化代码，支持训练、优化、转化相关内容，提供端到端的模型训练和转换。
妥协下的联姻——为rt-thread适配最新k210 kendryte-standalone-sdk的nncase
果菌药的博客
05-05 4749
在上一篇文章中，我们已经成功在maix go上跑起来了rt-thread。可是，基于rtt官方的bsp只是对kendryte-standalone-sdk v0.5.6及之前的个别版本有支持。而在kendryte最新开发的sdk中，对老sdk中的部分内容做出了较大的改动，并且引入了最新的模型处理程序nncase，以取代之前的kmodel。对于之前的kmodel将不再提供更新支持，全面使用最新的nncase。本文将给大家介绍最新sdk移植的方法以及一些注意事项。
探索NNCASE：一款高效的嵌入式AI模型优化工具
gitblog_00024的博客
04-13 769
探索NNCASE：一款高效的嵌入式AI模型优化工具 项目地址:https://gitcode.com/kendryte/nncase NNCASE是一个开源项目，致力于为嵌入式设备提供轻量级、高性能的神经网络编译器和工具链。它由 Kendryte 团队开发，旨在简化在资源受限的硬件上部署深度学习模型的过程。 项目简介 NNCASE的核心是其编译器，能够将标准的深度学习模型（如TensorFlow ...
【东山派Vision K510开发板试用笔记】nncase的安装
最新发布
bit_mike的博客
05-21 723
最近试用了百问网提供的，DongshanPI-Vision开发板是百问网针对AI应用开发设计出来的一个RSIC-V架构的AI开发板，主要用于学习使用嘉楠的K510芯片进行Linux项目开发和嵌入式AI应用开发等用途。DongshanPI-Vision开发板采用嘉楠公司出品的勘智K510芯片，该芯片是一款全开源的高精度AI推理芯片，双核RSIC-V 64位CPU，最高800MHz，完整支持Linux和RSIC-V扩展。拥有2.5TFLOPS算力，支持INT8和BF16双数据类型，高精度推理计算。。
K210烧录软件kflash_gui
07-22
K210烧录软件kflash_gui
K210_V1 网友开源板 带一键下载电路1
08-03
根据提供的文件信息，我们可以深入探讨K210_V1网友开源板的相关技术细节与特性，尤其是其中提到的一键下载电路。 ### K210_V1 开源板简介 K210_V1 开源板是一种基于Kendryte K210芯片设计的开发平台，该芯片集成了...
嘉楠勘智k230开发板上手记录(五)--nncase部署yolov5s
qq_42001765的博客
08-10 2400
虽然没有找到hhb的官方示例，但是我找到了nncase的，在src/big/nncase/examples中。
嘉楠k210方案模型移植的简单梳理
ltshan139的专栏
04-11 5880
前言 k210是一个面向AIOT应用的低功耗，低成本芯片方案。 它目前支持的深度学习模型类型有tensorflow tflite, caffe1.0以及onnx。 值得注意的是，这3个模型类型所支持的算子有限，这会导致复杂些模型不能在k210上运行。k210另外一个缺点是，它内置了SRAM， 给ai模型的内存大小只有2MB，也就是说它只能支持2MB以内的模型。 移植流程 由于我们项目的模型是yolov3 tiny，而且做了裁剪只有4MB左右大小。再去做8bit量化后只有1MB大小，所以是可以在k210
神经网络：训练模型+转化为k210上跑的kmodel
weixin_55504804的博客
07-10 8455
深度学习（1）：训练模型+转化为k210上跑的kmodel
tensorflow的.tflite转k210的.kmodel模型的转换(最新的k210的kmodel的生成方法)
ghost_him的博客
01-31 8684
最近在研究k210,发现网上关于kmodel模型的转换教程基本上都是过时的,没用,后来我看着官方的文档自己搞出来了. 使用的平台: windows10 使用的工具: NNCase v0.2.0 Beta4 1.首先要下载NNCase工具箱. 2.创建一个文件夹,将下载好的ncc.exe,.tflite文件,训练模型时的图片(5张即可)放入文件夹内. 3.打开cmd,并打开当前文件夹 4.输入 ncc compile <.tflite的文件名称> <.kmodel的文件名称> -i
【K210踩坑】pytorch模型转kmodel，Dock上使用。（最终未实现）
xifan的博客
06-29 3132
pytorch转kmodel
MAIXPY平台训练mnist数据集并转换推理模型
dby_bright的博客
08-20 6541
参考：http://blog.sipeed.com/p/518.html Ubuntu 1804 64bit 以上， python 3.6 Sipeed MAIX系列开发板 一、安装tensorflow 1.13 我是在py3.6下通过pip install tensorflow直接安装，一开始用的py3.7…各种报错到怀疑人生 二、准备mnist数据并训练 在网络状况好的情况下……直接运行mni...
K210系列第一个示例程序
爱做菜的炼丹师
08-17 3334
引言关于K210的受众群体也算不少，在网上许多爱好者写了各种学习教程。本系列文章的目的是帮大家从众多信息中梳理一些关键步骤。第一篇文章让大家了解K210芯片的性能如何，能做哪些事。第二篇文章带大家配置好软硬件的开发环境。本篇从官方示例教程出发，教大家如何在开发板上做图像算法和深度学习的部署。下面是一些小编推荐的学习链接：https://canaan-creative.com/developer：官...
yolov2训练_[人工智能]Mxyolov3 0.1版本发布，轻松训练K210模型
weixin_39680380的博客
12-07 6912
Mx-yolov3在过去的一段时间里，收到了许多反馈和BUG，但由于各种原因，很久没有去更新Mx-yolov3；经过几天的修改和改进，新的版本诞生了，我们将它定为1.0版本(你可以在软件界面右下角看到版本号，为了今后能更好的识别软件版本，新版本的软件您可以在“Import 创客”公众号中发送"Mx3"以此来获得下载链接)；下面我们就来看看1.0版本做了哪些改进和修复。01改进和修复#增加...
.tflite转k210的.kmodel模型代码
06-10
将.tflite模型转换为.kmodel模型的代码如下： ```python import tensorflow as tf import numpy as np from tensorflow.keras import Model from tensorflow.keras.layers import Input # 加载tflite模型 interpreter = tf.lite.Interpreter(model_path="model.tflite") interpreter.allocate_tensors() # 获取输入输出张量的索引 input_details = interpreter.get_input_details() output_details = interpreter.get_output_details() # 创建Keras模型 inputs = Input(shape=input_details[0]['shape'][1:]) x = tf.keras.layers.Lambda(lambda x: x / 255.)(inputs) # 对输入进行归一化 for i, layer in enumerate(interpreter.get_tensor_details()): if i < 2: continue op = layer['op'] name = layer['name'] shape = layer['shape'] weights = interpreter.get_tensor(layer['index']) if op == 'CONV_2D': x = tf.keras.layers.Conv2D( filters=shape[-1], kernel_size=shape[1:3], strides=layer['stride'][1:3], padding='same', use_bias=layer['quantization_parameters']['quantized_dimension'] == 3, kernel_initializer=tf.keras.initializers.Constant(weights[0]), bias_initializer=tf.keras.initializers.Constant(weights[1]) )(x) elif op == 'DEPTHWISE_CONV_2D': x = tf.keras.layers.DepthwiseConv2D( kernel_size=shape[1:3], strides=layer['stride'][1:3], padding='same', use_bias=layer['quantization_parameters']['quantized_dimension'] == 3, depthwise_initializer=tf.keras.initializers.Constant(weights[0]), bias_initializer=tf.keras.initializers.Constant(weights[1]) )(x) elif op == 'AVERAGE_POOL_2D': x = tf.keras.layers.AveragePooling2D( pool_size=shape[1:3], strides=layer['stride'][1:3], padding='same' )(x) elif op == 'MAX_POOL_2D': x = tf.keras.layers.MaxPooling2D( pool_size=shape[1:3], strides=layer['stride'][1:3], padding='same' )(x) elif op == 'ADD': x = tf.keras.layers.Add()([x, tf.keras.layers.Lambda(lambda y: y[..., 0])(x)]) elif op == 'RELU': x = tf.keras.layers.ReLU()(x) elif op == 'RESHAPE': x = tf.keras.layers.Reshape(target_shape=shape[1:])(x) elif op == 'FULLY_CONNECTED': x = tf.keras.layers.Dense( units=shape[-1], use_bias=True, kernel_initializer=tf.keras.initializers.Constant(weights[0]), bias_initializer=tf.keras.initializers.Constant(weights[1]) )(x) elif op == 'SOFTMAX': x = tf.keras.layers.Softmax()(x) outputs = x keras_model = Model(inputs, outputs) # 将Keras模型转换为K210的.kmodel模型 import tensorflow.keras.backend as K from tensorflow.keras.models import model_from_json # 保存Keras模型的权重 keras_model.save_weights('weights.h5') # 保存Keras模型的结构 keras_model_json = keras_model.to_json() with open('model.json', 'w') as f: f.write(keras_model_json) # 读取Keras模型的结构 with open('model.json', 'r') as f: keras_model_json = f.read() # 将Keras模型的结构转换为K210的.kmodel模型 k210_model = model_from_json(keras_model_json) k210_model.load_weights('weights.h5') # 保存K210的.kmodel模型 k210_model.save('model.kmodel') ``` 注意：此代码只适用于具有以下操作的.tflite模型：CONV_2D，DEPTHWISE_CONV_2D，AVERAGE_POOL_2D，MAX_POOL_2D，ADD，RELU，RESHAPE，FULLY_CONNECTED和SOFTMAX。如果您的模型包含其他操作，则需要对代码进行修改。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

jn10010537

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值