.pb文件转换为tflite文件遇到问题汇总

最新推荐文章于 2023-02-14 11:47:06 发布
最新推荐文章于 2023-02-14 11:47:06 发布
阅读量2.8k 收藏 16
点赞数 3
分类专栏： 常见问题解决 文章标签： tensorflow cnn pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40214464/article/details/122330933
版权

1、AttributeError: type object 'TFLiteConverterV2' has no attribute 'from_frozen_graph'    或者 convertr = tf.lite.TFLiteConverter.from_frozen_graph(in_path, input_arrays=input_tensor_name   AttributeError: module 'tensorflow' has no attribute 'lite'

对于tenorflow版本不对，利用aconda新建一个环境，安装：tensorflow 1.13.1(亲测，有效)

conda install tensorflow=1.13.1
或则：
pip install tensorflow==1.13.1

2、tensorflow.lite.python.convert.ConverterError: TOCO failed. See console for info.

以及后面还跟了一长串：

2022-01-05 19:57:38.516029: I tensorflow/lite/toco/import_tensorflow.cc:1373] Unable to determine output type for op: ListDiff
2022-01-05 19:57:38.516305: I tensorflow/lite/toco/import_tensorflow.cc:1324] Converting unsupported operation: ListDiff
2022-01-05 19:57:38.516487: I tensorflow/lite/toco/import_tensorflow.cc:1373] Unable to determine output type for op: ListDiff
2022-01-05 19:57:38.516752: I tensorflow/lite/toco/import_tensorflow.cc:1324] Converting unsupported operation: ListDiff
2022-01-05 19:57:38.516918: I tensorflow/lite/toco/import_tensorflow.cc:1373] Unable to determine output type for op: ListDiff
2022-01-05 19:57:38.517146: I tensorflow/lite/toco/import_tensorflow.cc:1324] Converting unsupported operation: ListDiff
2022-01-05 19:57:38.517302: I tensorflow/lite/toco/import_tensorflow.cc:1373] Unable to determine output type for op: ListDiff
2022-01-05 19:57:38.517586: I tensorflow/lite/toco/import_tensorflow.cc:1324] Converting unsupported operation: ListDiff
2022-01-05 19:57:38.517748: I tensorflow/lite/toco/import_tensorflow.cc:1373] Unable to determine output type for op: ListDiff
2022-01-05 19:57:38.517955: I tensorflow/lite/toco/import_tensorflow.cc:1324] Converting unsupported operation: ListDiff
2022-01-05 19:57:38.518097: I tensorflow/lite/toco/import_tensorflow.cc:1373] Unable to determine output type for op: ListDiff
2022-01-05 19:57:38.518394: I tensorflow/lite/toco/import_tensorflow.cc:1324] Converting unsupported operation: ListDiff
2022-01-05 19:57:38.518559: I tensorflow/lite/toco/import_tensorflow.cc:1373] Unable to determine output type for op: ListDiff
2022-01-05 19:57:38.518778: I tensorflow/lite/toco/import_tensorflow.cc:1324] Converting unsupported operation: ListDiff
2022-01-05 19:57:38.518974: I tensorflow/lite/toco/import_tensorflow.cc:1373] Unable to determine output type for op: ListDiff
2022-01-05 19:57:38.519626: I tensorflow/lite/toco/import_tensorflow.cc:1324] Converting unsupported operation: ListDiff
2022-01-05 19:57:38.519798: I tensorflow/lite/toco/import_tensorflow.cc:1373] Unable to determine output type for op: ListDiff
2022-01-05 19:57:38.520088: I tensorflow/lite/toco/import_tensorflow.cc:1324] Converting unsupported operation: ListDiff
2022-01-05 19:57:38.520229: I tensorflow/lite/toco/import_tensorflow.cc:1373] Unable to determine output type for op: ListDiff
2022-01-05 19:57:38.520475: I tensorflow/lite/toco/import_tensorflow.cc:1324] Converting unsupported operation: ListDiff
2022-01-05 19:57:38.520631: I tensorflow/lite/toco/import_tensorflow.cc:1373] Unable to determine output type for op: ListDiff
2022-01-05 19:57:38.520882: I tensorflow/lite/toco/import_tensorflow.cc:1324] Converting unsupported operation: ListDiff
2022-01-05 19:57:38.521045: I tensorflow/lite/toco/import_tensorflow.cc:1373] Unable to determine output type for op: ListDiff
2022-01-05 19:57:38.521346: I tensorflow/lite/toco/import_tensorflow.cc:1324] Converting unsupported operation: ListDiff
2022-01-05 19:57:38.521524: I tensorflow/lite/toco/import_tensorflow.cc:1373] Unable to determine output type for op: ListDiff
2022-01-05 19:57:38.521781: I tensorflow/lite/toco/import_tensorflow.cc:1324] Converting unsupported operation: ListDiff

这个问题困扰了我很久，换了很多版本，我都不能跑通，最后在代码里面加了：

converter.post_training_quantize = True

问题解决！

最后自己转换成功代码为：

import tensorflow as tf

# 把pb文件路径改成自己的pb文件路径即可
path="E:/LX/tensorflow/yolov3_coco_v3.pb"        #pb文件位置和文件名

# 如果是不知道自己的模型的输入输出节点，建议用tensorboard做可视化查看计算图，计算图里有输入输出的节点名称
inputs=["input/input_data"]
#模型文件的输入节点名称
outputs=["pred_sbbox/concat_2", "pred_mbbox/concat_2", "pred_lbbox/concat_2",
                         "pred_multi_scale/concat"]            #模型文件的输出节点名称

input_tensor = {inputs[0]:[1,416,416,3]}
# 转换pb模型到tflite模型
converter = tf.lite.TFLiteConverter.from_frozen_graph(path, inputs, outputs,input_tensor)
converter.post_training_quantize = True
converter.allow_custom_ops=True
tflite_model = converter.convert()
# model_tflite.tflite这里改成自己想要保存tflite模型的地址即可
open("E:/LX/tensorflow/model_tflite.tflite", "wb").write(tflite_model)

3 出现一下提示，不是错误，但是让人看着烦：

Using TensorFlow backend.
D:\tools\_virtualenv_dir\myproject_2_quchumasaike\env2_py36_quchumasaike\lib\site-packages\tensorflow\python\framework\dtypes.py:516: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
  _np_qint8 = np.dtype([("qint8", np.int8, 1)])
D:\tools\_virtualenv_dir\myproject_2_quchumasaike\env2_py36_quchumasaike\lib\site-packages\tensorflow\python\framework\dtypes.py:517: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
  _np_quint8 = np.dtype([("quint8", np.uint8, 1)])
D:\tools\_virtualenv_dir\myproject_2_quchumasaike\env2_py36_quchumasaike\lib\site-packages\tensorflow\python\framework\dtypes.py:518: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
  _np_qint16 = np.dtype([("qint16", np.int16, 1)])
D:\tools\_virtualenv_dir\myproject_2_quchumasaike\env2_py36_quchumasaike\lib\site-packages\tensorflow\python\framework\dtypes.py:519: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
  _np_quint16 = np.dtype([("quint16", np.uint16, 1)])
D:\tools\_virtualenv_dir\myproject_2_quchumasaike\env2_py36_quchumasaike\lib\site-packages\tensorflow\python\framework\dtypes.py:520: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
  _np_qint32 = np.dtype([("qint32", np.int32, 1)])
D:\tools\_virtualenv_dir\myproject_2_quchumasaike\env2_py36_quchumasaike\lib\site-packages\tensorflow\python\framework\dtypes.py:525: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
  np_resource = np.dtype([("resource", np.ubyte, 1)])
D:\tools\_virtualenv_dir\myproject_2_quchumasaike\env2_py36_quchumasaike\lib\site-packages\tensorboard\compat\tensorflow_stub\dtypes.py:541: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
  _np_qint8 = np.dtype([("qint8", np.int8, 1)])
D:\tools\_virtualenv_dir\myproject_2_quchumasaike\env2_py36_quchumasaike\lib\site-packages\tensorboard\compat\tensorflow_stub\dtypes.py:542: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
  _np_quint8 = np.dtype([("quint8", np.uint8, 1)])

numpy版本不对，重装numpy版本！

pip uninstall numpy
pip install numpy==1.16.4

最后稍微提一下，网络上：pb文件转tflite文件代码汇总：

1

import tensorflow as tf

# 把pb文件路径改成自己的pb文件路径即可
path="E:/LX/tensorflow/yolov3_coco_v3.pb"        #pb文件位置和文件名

# 如果是不知道自己的模型的输入输出节点，建议用tensorboard做可视化查看计算图，计算图里有输入输出的节点名称
inputs=["input/input_data"]
#模型文件的输入节点名称
outputs=["pred_sbbox/concat_2", "pred_mbbox/concat_2", "pred_lbbox/concat_2",
                         "pred_multi_scale/concat"]            #模型文件的输出节点名称

input_tensor = {inputs[0]:[1,416,416,3]}
# 转换pb模型到tflite模型
converter = tf.lite.TFLiteConverter.from_frozen_graph(path, inputs, outputs,input_tensor)
converter.post_training_quantize = True
converter.allow_custom_ops=True
tflite_model = converter.convert()
# model_tflite.tflite这里改成自己想要保存tflite模型的地址即可
open("E:/LX/tensorflow/model_tflite.tflite", "wb").write(tflite_model)

2、

import tensorflow as tf
import os
os.environ["CUDA_VISIBLE_DEVICES"] = "0"
config = tf.ConfigProto()
config.gpu_options.allow_growth = True

graph_def_file = "E:/LX/tensorflow/yolov3_coco_v3.pb"

input_names = ["input/input_data"]
output_names = ["pred_sbbox/concat_2", "pred_mbbox/concat_2", "pred_lbbox/concat_2",
                         "pred_multi_scale/concat"]
input_tensor = {input_names[0]:[1,416,416,3]}


#uint8 quant
converter = tf.lite.TFLiteConverter.from_frozen_graph(graph_def_file, input_names, output_names, input_tensor)
converter.target_ops = [tf.lite.OpsSet.TFLITE_BUILTINS,tf.lite.OpsSet.SELECT_TF_OPS]
converter.allow_custom_ops=True

converter.inference_type = tf.uint8    #tf.lite.constants.QUANTIZED_UINT8
input_arrays = converter.get_input_arrays()
converter.quantized_input_stats = {input_arrays[0]: (127.5, 127.5)} # mean, std_dev
converter.default_ranges_stats = (0, 255)

tflite_uint8_model = converter.convert()
open("uint8.tflite", "wb").write(tflite_uint8_model)

3、

import tensorflow as tf

in_path = r'E:/LX/tensorflow/yolov3_coco_v3.pb'
out_path = r'E:/LX/tensorflow\output_graph.tflite'

input_tensor_name = ['input/input_data']
input_tensor_shape = {'input/input_data': [1, 416, 416, 3]}

class_tensor_name = ["pred_sbbox/concat_2", "pred_mbbox/concat_2", "pred_lbbox/concat_2",
                          "pred_multi_scale/concat"]

convertr = tf.lite.TFLiteConverter.from_frozen_graph(in_path, input_arrays=input_tensor_name
                                                     , output_arrays=class_tensor_name
                                                     , input_shapes=input_tensor_shape)

# convertr=tf.lite.TFLiteConverter.from_saved_model(saved_model_dir=in_path,input_arrays=[input_tensor_name],output_arrays=[class_tensor_name])
tflite_model = convertr.convert()

with open(out_path, 'wb') as f:
    f.write(tflite_model)

.h转换为tflite:

import tensorflow as tf
tf.compat.v1.disable_eager_execution()
converter =  tf.compat.v1.lite.TFLiteConverter.from_keras_model_file('F:\yolo\yolo.h5')
tflite_model = converter.convert()
open("yolov3.tflite", "wb").write(tflite_model)

h5模型转为.kmodel/.tflite/.pb文件
08-03
要将H5模型转换为.tflite，可以使用TensorFlow的`tf.lite.TFLiteConverter` API。这个过程包括模型的优化，例如通过量化将浮点运算转换为整数运算，以减少内存占用和计算速度。量化通常不会显著牺牲精度，对于资源...
TensorFlow报错AttributeError: type object ‘TFLiteConverterV2‘ has no attribute ‘from_keras_model_file‘
XerCis的博客
07-14 1286
1. 加载 Keras 模型 tf.keras.models.load_model()。2. 将from_keras_model_file()改成from_keras_model()
tensorflow.lite.python.convert.ConverterError:
weixin_42577243的博客
02-14 277
ConverterError 是 TensorFlow Lite 转换器的一种错误。它表明在使用 TensorFlow Lite 转换器时发生了错误，可能是由于输入的模型不正确或其他原因导致的。如果遇到这种错误，您可以尝试检查模型的输入和设置，并寻找可能的解决方案。 ...
AttributeError:type object ‘TFLiteConverterV2 ‘has no attribute ‘form_keras_model_file ‘
17岁boy的博客
09-27 585
在Tensor Flow2.0以上加载keras模型文件使用load_model keras_model = tf_keras_models.load_model("xx.h5") 然后在调用from_keras_model转换成lite converter = tf.lite.TFLiteConverter.from_keras_model(keras_model)
TF1.x和TF2.x版本训练的PB模型转Tflite
xu.hyj
09-13 2054
0.前言 pb转tflite分为tf1.x和tf2.x 1. TF2.x版本得PB转tflite 2.0及以上版本得转换移步TensorFlow Lite 转换器，注意：这是假定您已安装 TensorFlow 2.x 并在 TensorFlow 2.x 中训练了模型。 1. TF1.x版本得PB转tflite 环境tensorflow-gpu=1.15（训练和转换环境都是），所以使用tflite_convert命令行工具。该工具嵌入在tensorflow1.x>中，可以尝试在命令行中使用“tflite
tflite2onnx:将TensorFlow Lite模型（* .tflite）转换为ONNX
05-03
tflite2onnx将TensorFlow Lite（TFLite）模型（ *.tflite ）转换为ONNX模型（ *.onnx ），并正确处理了数据布局和量化语义（有关详细信息，请*.onnx）。 强调 如果您想将TensorFlow模型（冻结图*.pb ， SavedModel...
yolov4-tflite将 YOLO v4、YOLOv3、YOLO tiny .weights 转换为 .pb、.tflite
08-16
将 YOLO v4、YOLOv3、YOLO tiny .weights 转换为 .pb、.tflite 和 trt 格式，以用于tensorflow、tensorflow lite、tensorRT。 演示代码： # Convert darknet weights to tensorflow ## yolov4 python save_model.py ...
yolov8系列--yolov8 to tflite.zip
最新发布
02-24
4. **转换为TFLite**：利用TensorFlow的`tf.lite.TFLiteConverter` API，我们可以将优化后的`.pb`模型转换为TFLite的`.tflite`文件。这通常包括指定输入和输出节点名、选择合适的转换选项，如是否保留浮点运算等。 ...
Tensorflow 模型转换 .pb convert to .lite实例
09-17
### Tensorflow 模型转换 .pb 转换至 .lite 实例详解 #### 引言 随着深度学习技术的发展，轻量化模型逐渐成为研究热点之一。为了满足移动设备和边缘计算的需求，TensorFlow推出了Lite版本，使得模型可以在资源受限...
Tensorflow2.0(Keras)转换TFlite
AI吃大瓜的博客
07-11 8527
Tensorflow 2.0(Keras)转换TFlite 以下脚本实现将Tensorflow2.0(Keras)保存的模型(建议保存为*.h5的格式),转换TFlite模型 (1)TensorFlow Lite 转换器 https://tensorflow.google.cn/lite/guide/ops_select 为了能够转换包含 TensorFlow 运算符的 TensorFlow Lite 模型，可使用位于TensorFlow Lite 转换器中的target_spec.suppo...
tensorflow2.x 使用过程中的常见错误(2021.1.17)
风清扬
01-15 1567
tensorflow2.x 使用过程中常见错误（持续更新） 安装配置，使用tensorflow训练模型，转换为tflite模型，并部署与移动端过程中，虽然不难，但是也常出现一些莫名其妙的问题，下面简单记录下解决方法。 一、安装中问题 1. ImportError: Could not find ‘cudart64_110.dll’ 安装配置完tensorflow2.4.0发现引入包时，发生这样的错误，还有类似缺少cudart64_100.dll等问题。 产生这样的问题，多半是版本不对应，可以看一下自己显卡驱
keras .h5转移动端的.tflite文件
babytiger的专栏
06-19 4290
以前tensorflow有bug在winodws下无法转，但现在好像没有问题了,代码如下 将keras下的mobilenet_v2转成了tflite from keras.backend import clear_session import numpy as np import tensorflow as tf clear_session() np.set_printoptions(s...
tflite模型转换和量化
LuchangLi 的专栏
06-12 3597
tflite模型转换和量化
【Tensorflow】利用TFLiteConverter将pb模型文件转化为tflite模型文件
limtyty的博客
07-18 7745
import tensorflow as tf #把pb文件路径改成自己的pb文件路径即可 path = "/home/dev/Desktop/model_convert_tools/tensorflow-yolo-v3/yolov3-tiny_160000.pb" #如果是不知道自己的模型的输入输出节点，建议用tensorboard做可视化查看计算图，计算图里有输入输出的节点名称 input...
tf.lite
weixin_36670529的博客
09-04 1164
一、概述 1、模块 constants 模块 experimental 模块 2、类 class Interpreter: TensorFlow Lite模型的解释器接口。 class OpHint: 一个帮助构建tflite函数调用的类。 class OpsSet: 类定义可用于生成TFLite模型的操作系统集。 class Optimize: Enum定义在生成tflite图时要...
Tensorflow 1.14 训练模型 .pb 文件转换成 Tensorflowlite的 .tflite 文件
bibo1984的博客
07-22 3231
Tensorflow 1.14 训练模型 .pb 文件转换成 Tensorflowlite的 .tflite 文件 1 tensorflow ssd_mobilenet 模型训练 tensorflow ssd_mobilenet 模型训练参考：https://blog.csdn.net/bibo1984/article/details/107397009 2 生成 .pb 文件 python3 /home/pi/xxxxxx/models/research/object_detection/export_t
从pb模型到tflite？
NLP与推荐算法
09-17 1311
今天实现了波形输入到输出，模型直接就是对波形处理，其实中间我用tf做了stft，感觉写的挺费劲的差不多比librosa库每帧多200ms，的确tf库挺慢的。但现在我不想顾这么多，能否试试是否能否加速或者再压缩为tflite？所以这篇的任务就是加速和转tflite。 经过我搜索发现，有的说引入ARM指令集加速，地址在此：百度百科指令集，但寡人也没看出来个什么鬼啊？ 有的说算法加速，这个在我这里只...
save model.pb怎么转化为tflite
05-25
将 `model.pb` 转换为 `tflite` 的过程可以分为两步： 1. 将 `model.pb` 转换为 `SavedModel` 格式 ```python import tensorflow as tf # 加载模型 model = tf.keras.models.load_model('model.pb') # 将模型转换为 SavedModel 格式 tf.saved_model.save(model, './saved_model/') ``` 2. 将 `SavedModel` 转换为 `tflite` 格式 ```python import tensorflow as tf # 加载 SavedModel saved_model_dir = './saved_model/' converter = tf.lite.TFLiteConverter.from_saved_model(saved_model_dir) # 转换成 tflite 格式 tflite_model = converter.convert() # 将 tflite 模型保存到文件 with open('model.tflite', 'wb') as f: f.write(tflite_model) ``` 这样就可以将 `model.pb` 转换为 `tflite` 格式了。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值