torch的pth模型转jit模型，用于c++的libtorch部署

吴天德少侠

已于 2024-03-22 17:41:20 修改

阅读量340

点赞数

分类专栏：发现有人拿我的博客文章去卖钱文章标签： c++ 开发语言

于 2023-04-25 17:09:54 首次发布

本文链接：https://blog.csdn.net/sdhdsf132452/article/details/130369480

版权

发现有人拿我的博客文章去卖钱专栏收录该内容

29 篇文章 8 订阅 ¥19.90 ¥99.00

订阅专栏

超级会员免费看

import torch
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")

from nets.models import Unet3D

import os

if __name__ == '__main__':

了解本专栏

订阅专栏解锁全文

超级会员免费看

优惠劵

吴天德少侠

关注关注

0
点赞
踩
1

收藏

觉得还不错? 一键收藏
0
评论
torch的pth模型转jit模型，用于c++的libtorch部署

【代码】torch的pth模型转jit模型，用于c++的libtorch部署。
复制链接

扫一扫

专栏目录

订阅专栏

在C++中加载TorchScript模型的方法

08-25

主要介绍了在C++中加载TorchScript模型的方法，本文通过实例代码给大家介绍的非常详细，具有一定的参考借鉴价值,需要的朋友可以参考下

PyTorch导出JIT模型并用C++ API libtorch调用

weixin_44966641的博客

12-21

4316

PyTorch导出JIT模型并用C++ API libtorch调用本文将介绍如何将一个 PyTorch 模型导出为 JIT 模型并用 PyTorch 的 C++API libtorch运行这个模型。 Step1：导出模型首先我们进行第一步，用 Python API 来导出模型，由于本文的重点是在后面的部署阶段，因此，模型的训练就不进行了，直接对 torchvision 中自带的 ResNet50 进行导出。在实际应用中，大家可以对自己训练好的模型进行导出。 # export_jit_model.py

参与评论您还未登录，请先登录后发表或查看评论

网络模型转为jit模型保存

wangshuhuan1的博客

09-19

683

使用torch.save保存的pth模型能否直接转换成torch.jit.save的模型。

AI中大模型的文件格式有哪些？

玩人工智能的辣条哥的博客

03-08

1132

大模型。

pytorch训练的.pth模型格式转换

计算机视觉算法开发与落地

03-30

7666

深度网络模型再工程化调用时存在模型不识别的问题，主要时推理的程序有不同的语言编写的，本文介绍使用pytorch训练的模型格式.pth转化为.pt格式的代码。 pytorch网络代码地址：https://github.com/yassouali/pytorch_segmentation，安装请参考《pytorch框架下语义分割训练实践（一）》。 1 .pth模型转换为.pt模型我是用fcn训练得到一个语言分割模型，checkpoint-epoch100.pth，使用inference.py文件可以正.

record-----torch(.pth)转libtorch(.pt)的方法

ZXF_1991的博客

04-13

2018

torch转libtorchcode code """ 进行模型转换，torch->onnx->tvm 环境要求:tvm转torch模型必须在pytorch1.4的环境下进行，1.4下可以进行torch->onnx->tvm, 同时也可以进行torch->libtorch转换，但是c++中源码编译的libtorch库要和torch->libtorch转换时使用的pytorch版本一致由于c++工程中使用的libtorch库是1.0,因此torch->libtorc

pytorch实现从本地加载 .pth 格式模型

12-20

可以从官网加载预训练好的模型： import torchvision.models as models model = models.vgg16(pretrained = True) print(model) 但是经常会出现因为下载速度太慢而出现requests.exceptions.ConnectionError: (...

pytorch 加载(.pth)格式的模型实例

12-31

有一些非常流行的网络如 resnet...按官网加载预训练好的模型： import torchvision.models as models # pretrained=True就可以使用预训练的模型 resnet18 = models.resnet18(pretrained=True) print(resnet18) 报错如

Pytorch模型转onnx模型实例

01-20

如下所示： import io import torch import torch.onnx from models.C3AEModel import PlainC3AENetCBAM ... pthfile = r'/home/joy/Projects/models/emotion/PlainC3AENet.pth' loaded_model = torch.load

PyTorch从模型训练到C++部署调用示例—MNIST分类（3）模型转换为pt

累了就要打游戏

06-25

561

方法 # coding=utf-8 import torch import torchvision import warnings warnings.filterwarnings("ignore") from Net import Net # 1 模型 modelPath=r'E:/py/testMNIST/testModel/model150.pth' device=torch.device('cuda' if torch.cuda.is_available() else 'cpu') mode

c++ const 的多种用途

05-17

142

常成员函数，不能修改对象的成员变量，也不能调用类中任何非 const 成员函数。该对象为常量对象，其中的任何成员都不能被修改，不能调用其他非const成员函数。const 在 * 左边。指针指向的值不可变，即 *p 不可修改。const 在 * 右边。指针本身不可变，即 p 不可修改。参数在函数内部不可改变。

C语言之函数指针（持续更新）

最新发布

qq_47607743的博客

05-20

275

C语言指针

c【语言】了解指针，爱上指针（1）

yzqy_的博客

05-16

914

在计算机中，数据是存储在内存中的，cpu从内存中读取数据，为了方便读取数据，内存又被划分为了一个个的内存单元，一个内存单元的大小就是一字节，一字节等于8bit位，我们给内存进行编号，这个编号就是地址，在c语言中给这个地址起了个名字。是的，亲爱的读者你肯定发现了，&a、p和pc输出的地址是一样的,但&a+1与p+1输出的地址是一样的00EFF940，一次都跳过了4字节，而pc+1输出的却是00EFF93D，一次只跳过一个字节。但是硬件与硬件之间是相互独立的，这该如何实现数据传输呢？”答案当然是否定的。

clang frontEnd插件常见Traverse函数、Visit函数例子

05-17

clang插件

C语言如何在链表中的指定位置插⼊结点？

PAP

05-15

263

C语言如何在链表中的指定位置插⼊结点？

【CCF-CSP】202312-4 宝藏

whaoe_m的博客

05-14

405

对于所有类型为 2的事件，输出一行四个非负整数 C1,1,C1,2,C2,1,C2,2，表示该时刻的密码 C。西西艾弗岛上埋藏着一份宝藏，小 C 根据藏宝图找到了宝藏的位置。由于小 C 并不会这个问题，他向你发起了求助。你需要帮助小 C 求出所有类型为 22 的事件所对应的密码。小 C 将所有的时刻发生的事件均记录了下来。输入的第一行包含两个正整数n,m。从标准输入读入数据。

C++ 11

qq_65112813的博客

05-17

654

对于类类型，如果定义了接受。

C++ STL标准库解析｜实现string类的迭代器string::iterator

糖炒栗子

05-17

938

的迭代器标识这样我们也可以遍历到底层的最后一个元素。循环过程中做了++it，说明我们当前迭代器要跳到下一个迭代器来完成遍历，至于它底层到底是数组、链表还是哈希表无论是什么我们都不用管，我们作为使用者只需要对迭代器进行++即可。底层数据结构如何到下一个元素的具体操作都封装在了我们迭代器的++操作中，用户作为使用者是无感的（这就是所谓的透明地访问容器内部元素的值）。最后打印使用迭代器进行解引用。

C++文件操作

weixin_45690131的博客

05-16

476

c++文件操作

基于c++ libtorch部署yolov5

05-20

要在 C++ 中使用 YOLOv5，您需要进行以下步骤： 1. 安装 LibTorch 您需要从 PyTorch 官网下载适合您操作系统和 CUDA 版本的 LibTorch。 2. 下载 YOLOv5 模型您可以从 YOLOv5 的官方 GitHub 仓库下载预训练模型。 3. 加载模型您可以使用 `torch::jit::load()` 函数加载模型。例如： ```c++ torch::jit::script::Module module = torch::jit::load("path/to/model.pt"); ``` 4. 推理首先，您需要将输入图像转换为 Tensor。您可以使用 OpenCV 或其他图像处理库来完成此操作。例如： ```c++ cv::Mat img = cv::imread("path/to/image.jpg"); cv::Mat img_float; img.convertTo(img_float, CV_32F, 1.0 / 255.0); torch::Tensor tensor_image = torch::from_blob( img_float.data, {1, img_float.rows, img_float.cols, 3}).permute({0, 3, 1, 2}); ``` 然后，您可以将 Tensor 传递到模型中进行推理。例如： ```c++ at::Tensor result = module.forward({tensor_image}).toTensor(); ``` 5. 解析输出 YOLOv5 模型的输出是一个包含所有检测结果的 Tensor。您需要解析此 Tensor 来提取检测结果。例如： ```c++ float* result_data = result.data_ptr<float>(); for (int i = 0; i < result.size(1); i++) { float* class_data = result_data + i * result.size(2); for (int j = 0; j < result.size(2); j++) { float* box_data = class_data + j * result.size(3); // 解析检测结果并进行后续处理 } } ``` 这是一个基本的 YOLOv5 部署流程。但是，由于 YOLOv5 的实现比较复杂，还有一些细节需要注意。建议您在实现时参考 YOLOv5 官方的 PyTorch 实现和其他开源项目，如 yolov5_cpp。

“相关推荐”对你有帮助么？

非常没帮助
没帮助
一般
有帮助
非常有帮助

提交