获取tensorflow lite模型指定中间层的输出

已于 2024-02-25 14:14:57 修改
阅读量591 收藏 6
点赞数 10
分类专栏： 记录篇 文章标签： tensorflow 人工智能 python
于 2024-02-25 14:13:46 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45977690/article/details/136281884
版权

以mobilenet v2为例子，我已经训练好了模型，有tflite格式和onnx格式两种模型的权重文件，我想获取tflite模型在推理阶段neck部分的输出。

  1. 查看onnx模型得到neck最后一层位置

使用netron查看onnx模型结构

在这里插入图片描述
在这里插入图片描述

从name中能知道Reshape是neck的最后一层

  1. 得到neck最后一层的output在tflite模型中的编号

使用netron查看tflite模型结构找到Reshape的输出的编号

在这里插入图片描述

  1. 在推理脚本中增加保存中间层输出

在这里插入图片描述

其他说明：

偶尔同样的操作就会报错ValueError: Tensor data is null. Run allocate_tensors() first，原因有说是tf的版本的原因，但我不更改版本的情况下有时也出现这个问题，以后再细究吧，保存下当前的tf版本：

在这里插入图片描述

咚咚锵咚咚锵
关注
  • 10
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
如何在tensorflow中打印出中间层的特征输出1
qq_38939498的博客
05-15 2826
如何在tensorflow中打印出中间层的特征输出1 首先想打印出中间层的输出，需要看清出自己使用什么方式搭建的网络模型。搭建网络模型的有通过class搭建和model.add()搭建方式，每种的搭建方式有不同的结构，对应的有不同的方式输出特征层。 1、先说一下通过model.add()搭建的网络模型的中间层的特征输出方式。 首先需要在网络模型中进行定义命名。下面是一些代码，但是训练集就不放在这了。 下面展示一些 内联代码片。 // A code block import tensorflow as tf
如何在tensorflow中打印出中间层的特征输出2
qq_38939498的博客
11-11 1983
关于使用Tensorflow的call定义神经网络的结构的可视化说明 大家可以去找下tensorflow2.x,或者tensorflow1.x的指南，哪里有详细的说明，可以跟着例子跑一下程序，然后调一下，就知道怎么使特征可视化了 ...
tflite模型调试 - 中间层output输出
abc20002929的专栏
01-12 3214
背景 由于tflite模型设计时考虑到了内存占用等问题，其forward的过程会反复利用中间内存空间，而导致中间层的output数据没有保存下来，模型debug难点较大。 经过查阅相关材料，发现一个最简洁的方式，记录于此。 思路：解析flatbuffer格式的tflite模型， 直接修改tflite模型内容，调整模型output到指定层。 实现 1. 修改tflite模型output的函数。 from tensorflow.lite.python import schema_py_genera
TensorFlow,keras打印中间某一层结果
甜度超标的博客
07-24 1834
TensorFlow,keras打印中间某一层结果
tensorflow获取中间变量参数值
sinat_30618203的博客
04-21 1914
1、获取中间变量值 1）网络相应位置加入 tf.add_to_collection('name', var) 2）var, ... = sess.run([tf.get_collection('name'), ...], feed_dict={...}) 2、获取参数值 weight = tf.get_default_graph().get_t...
keras、TensorFlow输出中间层结果的4种方法
selectopti的博客
04-21 8168
深度学习本质上是表示学习，它通过多层非线性神经网络模型从底层特征中学习出对具体任务而言更有效的高级抽象特征。针对一个具体的任务，我们往往会遇到这种情况：需要用一个针对特定任务已经被训练好的模型学习出特征表示，然后将学习出的特征表示作为另一个模型的输入。这就要求我们会获取模型中间层的输出，下面以具体代码形式介绍两种具体方法。深度学习具有强大的特征表达能力。有时候我们训练好分类模型，并不想用来进行分类，而是用来提取特征用于其他任务，比如相似图片计算。接下来讲下如何使用TensorFlow提取特征。 1.必须在模
Pytorch转tflite方式
09-16
5. **转换为tflite**：最后，使用`tf.contrib.lite.TocoConverter`将Keras模型转换为tflite模型。这一步会优化模型，使其适应低功耗设备。 下面是转换代码的概要： ```python # 加载PyTorch模型 pytorch_model = ...
tensorflow-基于Tensorflow实现的SqueezeNet算法.zip
03-09
2. **搭建网络架构**：SqueezeNet的基本架构包括多个火烈鸟模块，中间穿插池化层以降低空间维度，以及全局平均池化层和全连接层作为输出层。网络的最后一层通常是softmax层，用于进行多分类任务。 3. **权重初始化...
python tensorflow-GPU 2.6.0 版本学习笔记
03-05
- 变量是存储在TensorFlow中的可变状态，用于保存模型参数或中间结果。 4. **模型构建**： - 使用`tf.keras` API构建神经网络模型，包括Sequential模型和Functional API。 - 定义层（Layers）、激活函数（如ReLU...
tensorflow帮助文档
09-17
16. **TensorFlow Lite**：针对移动和嵌入式设备的轻量级解决方案，用于部署模型到资源有限的平台。 17. **TensorFlow.js**：使TensorFlow模型能在Web浏览器中运行，支持JavaScript的机器学习。 18. **TensorFlow ...
谷歌TensorFlow机器学习框架及应用
10-16
1. **定义模型**：首先，开发者需要定义计算图，这包括输入、输出以及中间计算过程。模型的结构可以用TensorFlow API来创建，如`tf.keras.layers`库用于构建神经网络层。 2. **准备数据**：数据预处理是关键，...
移动端深度学习部署：TFlite
AIGC Studio：分享AIGC前沿知识和好玩应用，公众号同名。
07-15 4229
tflite是谷歌自己的一个轻量级推理库。主要用于移动端。使用的思路主要是从预训练的模型转换为tflite模型文件，拿到移动端部署。源模型可以来自tensorflow的saved model或者frozen model,也可以来自keras。
tensorflow 保存模型和取出中间权重
binqiang2wang
04-07 7161
下面代码的功能是先训练一个简单的模型，然后保存模型，同时保存到一个pb文件当中，后续可以从pd文件里读取权重值。 import tensorflow as tf import numpy as np import os import h5py import pickle from tensorflow.python.framework import graph_util from tenso...
Tensorflow保存模型，恢复模型，使用训练好的模型进行预测和提取中间输出（特征）
热门推荐
人生虚空
05-25 3万+
前言： tensorflow中有operation和tensor，前者表示 操作 ，后者表示 容器 ，每个operation都是有一个tensor来存放值的，比如y=f(x), operation是f(x), tensor存放的就是y，如果要获取y，就必须输入x tensor的名字一般是 : 可以通过 print(out.name) 来看看 假如之前的训练定义了如下图（模型），并保
python解析tflite模型文件
abc20002929的专栏
03-30 4702
目的 解析flatbuffer格式的tflite文件，转成可读的python dict格式 方法 #/tensorflow/lite/tools/visualize.py import re from tensorflow.lite.python import schema_py_generated as schema_fb def BuiltinCodeToName(code): """Converts a builtin op code enum to a rea...
TensorFlow2.0如何轻松地输出中间层结果
qq_43309133的博客
08-25 3986
检查模型——各层权重、中间层输出 也许你也遇到过训练好的模型输出了一些奇怪的结果，比如总是输出不变的常数。排错到怀疑人生，可能都发现不了问题究竟出在哪。 这就需要你逐层分析输出结果，看下有没有诡异的地方。方法如下： layer1 = tf.keras.layers.Dense(30) layer2 = tf.keras.layers.Dense(50) ... layer5 = tf.keras.layers.Dense(30) model = tf.keras.models.Sequenti
TFLite: 模型文件的结构和解析器
u011279649的专栏
10-19 7748
TFLite Model file Model table Model { // Version of the schema. version:uint; // A list of all operator codes used in this model. This is // kept in order because operators carry an index...
TFLite: 输出模型结构，tensors, node 输入数据、预测、得到结果
u011279649的专栏
05-28 5855
1. keras 训练时得到的模型结构 ...: model.summary() ...: Model: "mnist_model" _________________________________________________________________ Layer (type) Output Shape Para...
Tensorflow入门实战 T08-Vgg16网络进行猫狗识别
最新发布
柠檬不萌只是酸i
07-12 399
本周学习内容为，采用自己设置的vgg-16网络进行猫狗识别，并非官网提供的vgg16接口。本周的代码运行，设置了新的运行展示进度条，更换不同风格；其他的模块和之前的很类似，没有很大的改动。主要是学会使用tensorflow完成先关实现。
怎么将 tensorflow模型转换为 TensorFlow Lite模型
05-17
将 TensorFlow 模型转换为 TensorFlow Lite 模型，可以在移动设备上运行深度学习模型，以便进行实时推理。下面是一些步骤： 1. 安装 TensorFlow 和 TensorFlow Lite 确保已经安装了 TensorFlow 和 TensorFlow Lite，你可以通过以下命令来安装： ``` pip install tensorflow pip install tensorflow-lite ``` 2. 加载 TensorFlow 模型 首先，使用 TensorFlow 加载已经训练好的模型，例如： ```python import tensorflow as tf model = tf.keras.models.load_model('my_model.h5') ``` 3. 转换模型 对于 TensorFlow 2.x，可以使用 `tf.lite.TFLiteConverter.from_keras_model()` 方法将模型转换为 TensorFlow Lite 格式： ```python converter = tf.lite.TFLiteConverter.from_keras_model(model) tflite_model = converter.convert() ``` 对于较老的 TensorFlow 1.x，可以使用 `tf.compat.v1.lite.TFLiteConverter.from_session()` 方法： ```python converter = tf.compat.v1.lite.TFLiteConverter.from_session(sess, input_tensors, output_tensors) tflite_model = converter.convert() ``` 4. 保存 TensorFlow Lite 模型 最后，将 TensorFlow Lite 模型保存到文件中，例如： ```python open("converted_model.tflite", "wb").write(tflite_model) ``` 现在，你已经将 TensorFlow 模型转换为 TensorFlow Lite 模型，可以将其部署到移动设备上进行推理了。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值