将Keras保存的HDF5或TensorFlow保存的PB模型文件转化为Inter Openvino使用的IR(.xml & .bin)文件

最新推荐文章于 2024-07-29 23:14:40 发布

Corazón

最新推荐文章于 2024-07-29 23:14:40 发布

阅读量4.5k

点赞数

文章标签： OpenVINO Intel NCS IR Keras TensorFlow

本文链接：https://blog.csdn.net/weixin_43741611/article/details/87895400

版权

本博客详细介绍了如何根据Intel官方的《Model Optimizer Developer Guide》将Keras的HDF5和TensorFlow的PB模型转换为OpenVINO使用的Intermediate Representation(IR)文件，包括配置Model Optimizer的步骤以及针对不同框架的特定安装命令。

摘要由CSDN通过智能技术生成

本blog依据英特尔官方手册《Model Optimizer Developer Guide》翻译编写，经博主测试可用

intel NCS & OpenVINO 交流QQ群：608483784

英特尔官方的NCS开发环境“OpenVINO”使用了名为Intermediate Representation(IR)的网络模型，其中.xml文件保存了网络的拓扑结构，而.bin文件以二进制方式保存了模型的权重w与偏差b。

首先我们需要配置Model Optimizer

如果是安装适用于所有框架的Model Optimizer：

在安装完OpenVINO后，我们找到以下位置：

<INSTALL_DIR>/deployment_tools/model_optimizer/install_prerequisites

运行以下命令：

对于Linux系统：

install_prerequisites.sh
对于Windows系统：

install_prerequisites.bat

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Corazón

关注关注

0
点赞
踩
3

收藏

觉得还不错? 一键收藏
1
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

Tensorflow 2.x(keras)源码详解之第十章：keras中的模型保存与加载(详解Checkpoint&md5&模型序列化)

weixin_43178406的博客

05-18

4万+

1. 模型保存与加载：综述 2. 前提总结 3. 仅保存模型权重 3.1 在内存中将权重进行迁移 3.2 将权重保存到磁盘上 3.2.1 Checkpoint(检查点) 3.2.2 使用tf.train.checkpoint()保存多个检查点 3.2.3 使用tf.train.checkpoint加载多个检查点 3.2.4 tf.train.checkpoint保存和加载单一检查点 3.2.5 save_weights保存检查点 3.2.6 save_weights保存成HDF5格式 4. 仅保存模型架构

【OpenVINO】将TensorFlow模型转成IR文件，并部署到NCS2上运行

Pyrohjewel

05-06

6644

TensorFlow模型自己写一个AlexNet模型，参见模型转换将模型专为pb文件: inputs = tf.placeholder(tf.float32, [1, 227, 227, 3]) model = AlexNetModel() score = model.inference(inputs) softmax = tf.nn.softmax(score, name='prob')...

1 条评论您还未登录，请先登录后发表或查看评论

openvino object_detection_demo_yolov3_async .pb转.xml/.bin 目标检测

On the road

09-29

520

openvino object_detection_demo_yolov3_async .pb转.xml/.bin 目标检测 yolov3.xml yolov3.bin 查看模型转换支持的模型文件列表models.lst cd C:\Program Files (x86)\IntelSWTools\openvino_2020.4.287\deployment_tools\inference_engine\demos\python_demos\object_detection_demo_yolov3_as

PyTorch 的 .pt 文件是什么？以及都能存储什么样的数据格式和复合数据格式？加载 train.pt 文件的一个代码示例

最新发布

叶庭云成为自己的光

07-29

1195

PyTorch 的 .pt 文件是什么？以及都能存储什么样的数据格式和复合数据格式？加载 train.pt 文件的一个代码示例

YOLOv3 TensorFlow模型转换Openvino的IR文件

shuangren2的博客

07-21

728

YOLOv3 TensorFlow模型转换Openvino的IR文件中碰到的问题。按照官方文档的说明，在目录C:\Program Files (x86)\IntelSWTools\openvino\deployment_tools\model_optimizer下（默认安装路径，如自定义安装路径则进入响应路径），键入如下命令： YOLOv3 TensorFlow模型： python3 mo_tf.py --input_model /path/to/yolo_v3.pb --tensorflow_use_c

openvino使用过程中 IR 文件转换遇到 Error

valar___morghulis的博客

11-22

886

在使用 mo_tf.py 文件对 Tensorflow 模型进行转换时： python mo_tf.py --input_model E:\WORK\vino\tensorflow\ssd_mobilenet_v1_coco_2018_01_28\frozen_inference_graph.pb --tensorflow_use_custom_operations_config C:\...

使用onnx中部署.hdf5遇到这个问题：AttributeError: ‘KerasTensor‘ object has no attribute ‘

weixin_43843402的博客

03-01

使用onnx中部署.hdf5遇到这个问题：AttributeError: ‘KerasTensor‘ object has no attribute ‘

将keras的h5模型转换为tensorflow的pb模型操作

09-16

通过以上步骤，我们可以成功地将Keras的h5模型转换为TensorFlow的pb模型，并能在客户端环境中加载和使用。这使得模型能够在不支持Keras的环境中运行，增加了模型部署的灵活性。值得注意的是，虽然这个转换过程简化...

Keras模型转成tensorflow的.pb操作

12-17

Keras的.h5模型转成tensorflow的.pb格式模型，方便后期的前端部署。直接上代码 from keras.models import Model from keras.layers import Dense, Dropout from keras.applications.mobilenet import MobileNet ...

openvino(一) Windows10安装和tensorflow模型转换

weixin_41386168的博客

06-08

365

https://docs.openvinotoolkit.org/latest/openvino_docs_install_guides_installing_openvino_windows.html

tfcheckpoint2pytorch:将TensorFlow检查点（带有索引，元和数据文件）转换为PyTorch，HDF5和JSON

05-08

tfcheckpoint2pytorch功能将模型权重从TensorFlow检查点（包含*.index ， *.meta和*.data-*-of-*文件的目录和压缩文件）转储至： PyTorch二进制*.pt格式 HDF5 *.h5 NumPy *.npy和*.npz JSON *.json 使用将TensorFlow模型从检查点导出为ONNX格式将模型图导出到TensorBoard 相关性：不幸的是，此转换器需要安装TensorFlow（已通过v1.13.1进行了测试； v2.0可能无法正常工作）。但是，即使通过pip安装也可以： pip3 install tensorflow 。 PyTorch，h5py，tf2onnx是可选依赖项。示例：openseq2seq的wav2letter speech2text模型我们将尝试将导出到ONNX。不幸的是，tf2onnx正

tensorflow2.x中的h5转换为onnx以及onnx的x86端测评

BIT_Legend的博客

01-01

6882

在日常使用中经常需要做模型转换，那tensorflow2.x的h5模型转onnx是必要的知识，如下代码实现了该转换，可以设置输入张量的形状，也可以选择opset。 # 读取h5模型转换为onnx模型，教程来自于https://github.com/onnx/tensorflow-onnx/blob/master/tutorials/keras-resnet50.ipynb import tensorflow as tf import numpy as np import cv2 import tf2on

将keras的h5模型转化为onnx

热门推荐

weixin_43826596的博客

09-20

1万+

将keras的h5模型转化为onnx import keras import keras2onnx import onnx from keras.models import load_model model = load_model('/root/notebook/model/river_model5.h5') onnx_model = keras2onnx.convert_keras(mod...

带你了解TensorFlow pb模型常用处理方法

华为云官方博客

08-12

1401

TensorFlow 模型训练完成后，通常会通过frozen过程保存一个最终的pb模型。

TensorFlow和Keras实现Mask RCNN（2）

yx868yx的博客

04-23

1001

环境：ubantu16.04 +cudnn7.0+cuda_9.0.176 git代码： https://github.com/matterport/Mask_RCNN 检查安装需要 numpy scipy Pillow cython matplotlib scikit-image tensorflow>=1.3.0 keras>=2.0.8...

其他模型转化为onnx模型

The_Lonely_Wind的博客

03-09

419

torch转onnx。keras转onnx。

keras将h5模型转onnx

重剑无锋博客

06-21

1039

这里注意安装了onnxmltool后会改变。protobuf的版本需要重新安装。最近在转deepface的代码。

【代码】openvino api 推理代码及将onnx转.bin和.xml

kk的博客

08-22

1128

openvino推理及转格式

如何实现将训练好的模型保存为一个文件，如TensorFlow的.pb文件或PyTorch的.pt文件

06-04

在TensorFlow中，可以使用 `tf.saved_model.save()` 方法将训练好的模型保存为.pb文件，示例代码如下： ```python import tensorflow as tf # 假设模型已经训练好了，保存为saved_model格式 model = tf.keras.models.Sequential([ tf.keras.layers.Dense(10, input_shape=(784,), activation=tf.nn.softmax) ]) model.compile(optimizer='adam', loss='sparse_categorical_crossentropy', metrics=['accuracy']) model.fit(x_train, y_train, epochs=5) model.save("saved_model") # 保存模型 # 将saved_model格式的模型转为pb文件 converter = tf.lite.TFLiteConverter.from_saved_model("saved_model") tflite_model = converter.convert() open("converted_model.tflite", "wb").write(tflite_model) # 保存pb文件 ``` 在PyTorch中，可以使用 `torch.save()` 方法将训练好的模型保存为.pt文件，示例代码如下： ```python import torch # 假设模型已经训练好了，保存为pt格式 model = torch.nn.Sequential( torch.nn.Linear(784, 10), torch.nn.Sigmoid() ) torch.save(model.state_dict(), "saved_model.pt") # 保存模型 # 读取保存的模型 model = torch.nn.Sequential( torch.nn.Linear(784, 10), torch.nn.Sigmoid() ) model.load_state_dict(torch.load("saved_model.pt")) # 加载模型 ``` 需要注意的是，保存模型时需要将模型参数保存下来，这样才能够在之后的使用中重新加载模型。同时，不同的框架所使用的保存模型的方法可能会有所不同，需要根据实际情况进行调整。