Pytorch部署方案（二）：利用LibTorch（C++库）来调用训好的模型【trace跟踪PyTorch训练好的模型--＞用Libtorc调用PyTorch训练好的模型】

已于 2024-02-17 00:11:41 修改
阅读量532 收藏 2
点赞数
分类专栏： # LLM/部署 文章标签： pytorch 深度学习 c++ LibTorch
于 2022-05-08 23:03:34 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u013250861/article/details/124656549
版权
本文详细介绍了如何使用C++的LibTorch库调用PyTorch训练好的ResNet50模型。首先，讲解了LibTorch的下载与安装，接着展示了PyTorch模型的训练过程，特别是使用jit.trace方法保存模型。最后，通过CMakeLists配置和C++代码展示了如何读取图像，转换为Tensor，然后利用torch::jit::load加载模型并进行前向传播预测，得到与Python相同的结果。
摘要由CSDN通过智能技术生成

利用C++来调用PyTorch训练好的模型，其实也是利用官方强大的LibTorch库。

一、LibTorch的安装

虽然说安装，其实就是下载官方的LibTorch包而已，从官方网站中选择PyTorch(1.1)，libtorch，以及cuda的版本，其中会出现下载链接，这里为cuda9.0的链接：https://download.pytorch.org/libtorch/cu90/libtorch-shared-with-deps-latest.zip。下载好找个路径解压。解压完放在那不动！！

二、PyTorch模型训练

这里我使用了最为简单ResNet50的预训练模型，其中保存跟踪模型的代码如下：

import torch
import torchvision.models as models
from PIL import
了解本专栏 订阅专栏 解锁全文 超级会员免费看
u013250861
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
订阅专栏
利用LibTorch调用PyTorch训练好的模型
TangCode的专栏
07-08 6361
PyTorch如今发布到1.1稳定版本，新增的功能让模型部署变得更为地简单，本文记录如何利用C++来调用PyTorch训练好的模型，其实也是利用官方强大的LibTorch库。 LibTorch的安装 虽然说安装，其实就是下载官方的LibTorch包而已，从官方网站中选择PyTorch(1.1)，libtorch，以及cuda的版本，其中会出现下载链接，这里为cuda9.0的链接 https://d...
怎样c++调用pytorch训练的模型
m0_37635769的博客
05-16 1796
怎样c++调用pytorch训练的模型
PyTorch模型_trace实战：深入理解与应用
最新发布
lazycatlove的博客
06-24 324
【代码】PyTorch模型_trace实战：深入理解与应用。
windows 10 c++(libtorch)调用pytorch训练好的分割模型
weixin_42329982的博客
08-10 4033
c++调用训练好的分割模型主要步骤如下： 1、将训练好的.pth 模型转换为.pt模型 2、opencv读取要推理的图像 3、model前向传播，获得推理结果 4、将推理结果转为opencv，查看推理结果。 开发环境 windows10 vs 2015 pytorch 1.2.0 cpu opencv 4.3.0 libtorch 1.3.0 cpu 配置开发环境时遇到的坑： 1、vs2015不支持最新的libtorch 2、ptorch与liborch 使用的cpu或者gpu版本要统一，否则出现如下错误
使用C++调用pytorch模型(Linux)
weixin_39450742的博客
04-25 2233
模型转换思路通常为: Pytorch -> ONNX -> TensorRT Pytorch -> ONNX -> TVM Pytorch ->转换工具-> caffe Pytorch -> torchscript(C++版本Torch) 我的模型是使用Pytorch1.0训练的,第三种方法应该是还不支持,没有对应层名字, 放弃. (以下是用方法3生成的网络结构图, 其中部分层名字和工具对应不上). 因此本文使用第4中方法,详细步骤分两步, 具体如..
C++调用已训练好的pytorch模型
qq_42944230的博客
06-19 1175
首先需要下载并配置好torch script环境，网上已有相关教程。然后在python中将模型转换为torch script，我使用了annotation的方式。使用C++调用pytorch模型，即将模型部署到生产环境中，这里先提供一个pytorch的。随后在C++中加载保存好的模型，并使用相同的样例测试模型输出。
Ubuntu下C++调用pytorch训练好模型--利用libtorch
qq_36481821的博客
07-22 3554
最近因项目需要，需C++调用pytorch模型，以下是一些学习心得，把过程记录下来。 搭建有以下几个流程： 官网下载库libtorch pytorch模型转化 编写C++调用程序 一、官网下载库libtorch 下载libtorch地址(https://pytorch.org/get-started/locally/），选择对应版本（根据自身电脑配置），比如我是Ubuntu+CUDA 10.2 下载好之后，选择路径进行解压（注意自己下载的包），命令如下： unzi
算法部署-使用Libtorch部署Pytorch训练出来的CRNN不定长文本序列识别模型-附项目源码-优质项目实战.zip
05-24
在本项目中，我们将深入探讨如何使用LibTorch部署一个基于PyTorch训练的CRNN（卷积循环神经网络）模型，用于不定长文本序列识别。这个实战项目提供了详细的步骤和源代码，使得开发者能够更好地理解和应用这项技术。 ...
pytorch模型从训练到LibTorch部署(标贝科技)
DataBaker的博客
12-28 3116
pytorch和libtorch安装 PyTorch 是Torch7 团队开发的，从它的名字就可以看出，其与Torch 的不同之处在于PyTorch 使用了Python 作为开发语言。所谓“Python first”，同样说明它是一个以Python 优先的深度学习框架，不仅能够实现强大的GPU 加速，同时还支持动态神经网络，这是现在很多主流框架比如Tensorflow 等都不支持的。 　　PyTorch 既可以看做加入了GPU 支持的numpy，同时也可以看成一个拥有自动求导功能的强大的深度神经网络，除了F
c++调用pytorch训练出来的模型
YHbackkon
07-24 2081
方法一：利用pytorch的c++版本的API：libtorch 方法二：利用opencv的readNetFromTorch()，导入的模型必须是 torch.save() 方法保存的文件。且opencv此函数只能读取序列化 nn.Module 对象，例如： nn.Sequential nn.Parallel nn.Concat nn.Linear nn.SpatialConvolution nn.spatialMaxPooling, nn.SpatialAveragePooling nn.ReLU, nn
如何使用LibTorch进行C++调用pytorch模型
sq_damowang的博客
10-11 2067
LibTorch学习笔记（一） 前天由于某些原因需要利用C++调用PyTorch，于是接触到了LibTorch，配了两天最终有了一定的效果，于是记录一下。 配置环境 PyTorch1.6.0 cuda10.2 opencv4.4.0 VS2017 具体过程 下载LibTorch 去PyTorch官网下载LibTorch包，选择对应的版本，这里我选择Stable(1.6.0)，Windows，LibTorch，C++/JAVA，10.2，然后我选择release版本下载，如下图 下载完后先不用管它，之后再用
在C++环境下利用Libtorch调用pytorch模型
Fredzj的博客
06-13 1480
利用Libtorch在C++环境下调用Pytorch模型
C++调用PyTorch模型教程
xyqqwer的博客
03-02 3184
在人工智能的世界中，PyTorch已经成为了研究人员和工程师们广泛使用的深度学习框架之一。它以其灵活性和动态计算图而闻名，非常适合快速原型设计和实验。然而，当我们想要将训练好的模型部署到生产环境中时，我们可能会倾向于使用C++这样的更高性能语言，因为它提供了更好的速度和资源管理。幸运的是，PyTorch提供了LibTorch库，使得我们可以在C++环境中加载和使用PyTorch模型。本教程将详细介绍如何在C++中调用PyTorch模型，包括环境配置、模型的导出、C++中的加载和使用等步骤。
搭建C++开发图像算法的环境——利用C++调用Pytorch训练后模型
weixin_44450018的博客
06-03 781
C++开发图像算法的环境搭建——利用C++调用Pytorch训练后模型 本文主要介绍如何搭建C++开发图像算法的环境，使用到CMake + libtorch + OpenCV + ITK等。旨在构建一个可融合深度学习框架，可开发图像处理算法且易于跨平台编译的环境。 准备条件：C++编译器visual studio 安装教程可参照：工具类之C++开发环境VS2019下载与安装 一、Cmake 1 介绍 CMake是一个跨平台的安装(编译)工具，可以用简单的语句来描述所有平台的安装(编译过程)。他能够输出
C++调用pytorch模型
weixin_42745647的博客
06-14 525
记一次C++调用pytorch模型踩坑记录，跨语言是AI中急需解决的问题，本文采用执行python代码。
Pytorch使用c++调用模型
whaosoft143ai的博客
12-05 2017
之前说过一个c++上调用pytorch现在又反过来了~~ 其实还是仅用c代码哈 生产环境还是用这个C++推理框架ncnn为例，介绍一下部署的大致流程PyTorch模型 --> ONNX格式 --> C++推理框架其它C++推理框架的思路类似，唯一的学习成本是推理框架本身的API。简单来说，可以把ONNX当做一个中间格式。绝大多数的机器学习/深度学习框架都可以将自身的模型转换成ONNX，同样也能把ONNX转换成自身框架的格式，如下图所示。图1 不同框架的模型利用ONNX进行相互转换 ONNX官网地址：http
C++调用PyTorch模型：LibTorch
己亥谷雨
02-25 3623
转载的文章，挺不错，学习一下！ LibTorch学习笔记（一） 前天由于某些原因需要利用C++调用PyTorch，于是接触到了LibTorch，配了两天最终有了一定的效果，于是记录一下。 环境 PyTorch1.6.0 cuda10.2 opencv4.4.0 VS2017 具体过程 下载LibTorch 去PyTorch官网下载LibTorch包，选择对应的版本，这里我选择Stable(1.6.0)，Windows，LibTorch，C++/JAVA，10.2，然后我选择release版.
Libtorch加载训练好的U-Net网络模型获得预测结果
摸鱼研究院
05-17 1293
本人使用的环境是Qt5.14.1+VS2017+libtorch1.11.0-cuda+OpenCV3.4.16，以下介绍各环境用途 Qt用于编程的IDE，个人觉得在Qt中编码，比在VS中要舒服一点。 VS2017 Qt的编译工具。 libtorch pytorch的C++版本，用来项目落地，即使用pytorch进行模型训练，导出的模型使用libtorch进行调用。 配置踩坑看这里： Windows下PyTorch(LibTorch)配置cuda加速_Terod的博客-CSDN博客_libtorc
可以利用PyTorch等库来集成和调用训练好的yolo模型吗，如何利用
04-24
PyTorch来集成和调用训练好的yolo模型？ 可以利用PyTorch等库来集成和调用训练好的yolo模型。具体的步骤如下： 1. 下载yolo的预训练模型和相关配置文件。 2. 安装PyTorch和其他必要的库。 3. 加载yolo的配置文件，创建模型，并加载预训练的权重。 4. 将要进行检测的图像转换为张量，然后传递给yolo模型进行推理。 5. 获取yolo输出的框和类别，并进行后处理处理。 以上就是利用PyTorch集成和调用训练好的yolo模型的大致流程。详细的实现过程可以参考相关的PyTorch和yolo的文档和代码示例。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值