利用TensorRT转换ResNet50

最新推荐文章于 2024-04-01 09:44:21 发布

VIP文章 January_Cao

最新推荐文章于 2024-04-01 09:44:21 发布

阅读量1k

点赞数

文章标签：深度学习人工智能

本文链接：https://blog.csdn.net/January_Cao/article/details/126356378

版权

2022.08.16

本文使用Tensorflow中集成的TensorRT进行模型转换。

不需要安装TensorRT的Python库，但是TensorRT还需要安装，需要用到的包是libnvinfer，如若不安装TensorRT，需要使用apt-get install libnvinfer进行安装。

关于TensorRT的安装，请参考：

为Tensorflow安装TensorRT（tar）_January_Cao的博客-CSDN博客

0. 文件夹构成

├── compare_models.py
├── convert.py
├── data

│   ├── download_images.sh
│   ├── img0.jpg
│   ├── img1.jpg
│   ├── img2.jpg
│   └── img3.jpg

├── model_check.py
└── save_model.py

1. 准备数据

也可以随意从网上下载图片。

或者执行【sh download_images.sh】下载图片至data文件夹

wget -O img0.jpg https://res.cloudinary.com/roundglass/image/upload/q_auto/ar_16:9,c_fill,w_1250/f_auto,g_auto/v1639561104/rg/collective/media/vyy8zc9ww3gqsjkqy9gk.jpg

wget -O img1.jpg https://www.fundacion-affinity.org/sites/default/files/los-10-sonidos-principales-del-gato-fa.jpg

wget -O img2.jpg https://hips.hearstapps.com/hmg-prod.s3.amazonaws.com/images/dog-puppy-on-garden-royalty-free-image-1586966191.jpg?crop=1.00xw:0.669xh;0,0.190xh&resize=1200:*

wget -O img3.jpg https://upload.wikimedia.org/wikipedia/commons/thumb/0/05/Parrot.jpg/1280px-Parrot.jpg

2. 模型数据下载和推理，保存模型为saved_model

执行以下代码，可以看到对图片的推理结果，并把模型以saved_model的形式保存到‘resnet50_saved_model’路径下。

# save_model.py
import numpy as np

from tensorflow.keras.applications.resnet50 import ResNet50
from tensorflow.keras.preprocessing import image
from tensorflow.k