c++调用pytorch libtorch(基础篇)

已于 2023-12-04 09:07:50 修改
阅读量3.6k 收藏 28
点赞数 4
分类专栏： AI实战 文章标签： pytorch libtorch c++ 1024程序员节
于 2021-06-21 10:33:01 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/WANGWUSHAN/article/details/118020188
版权
本文介绍了如何将PyTorch模型转换为Torch Script并使用C++的libtorch进行调用。从创建cpp文件、CMake构建，到解决库依赖和运行时结果不一致的问题，详细探讨了c++中libtorch的运用，包括可能出现的错误及解决办法。
摘要由CSDN通过智能技术生成

c`++调用pytorch libtorch`

以GitHub [见参考文献1]为例，学习了c++调用pytorch API libtorch的实现过程。

1.将pytorch模型转换成Torch Script

官方tutorial https://pytorch.org/tutorials/advanced/cpp_export.html中给出了当前将pytorch模型转成Torch Script的两种方式（官方源码如下）：

  • 1.Converting to Torch Script via Tracing
import torch
import torchvision

# An instance of your model.
model = torchvision
了解本专栏 订阅专栏 解锁全文 超级会员免费看
外卖猿
关注
专栏目录
订阅专栏
c++调用pytorch libtorch(YoloV3实战篇)
驽马十驾，功在不舍；锲而不舍，金石可镂。
07-21 1449
c++调用pytorch libtorch （YoloV3实战篇）1.前言2.直接使用仓库源码c++ libtorch输出结果与pytorch结果差别大3.关于nms参考文献 1.前言 此blog主要介绍本人在使用yolov3模型进行c++ libtorch 调试过程中遇到的一些问题。 Yolo-v3模型的介绍可参考深入拆解YOLO_V3，这里仍旧使用的是GitHub eriklindernoren/PyTorch-YOLOv3。 c++调用pytorch libtorch基础介绍可参考https://
使用C++调用PyTorch模型的弯弯绕绕，推荐LibTorch加载，C++处理
稳健的我的博客
08-19 1185
本人莎莎的以为要重写PyTorch模型网络架构，于是使用C++的LibTorch和gpt重写了一下，结果一致卡在load不上，非常奇怪，于是检查两个网络的架构，其实非常类似，忘记截图载下来了，就下面一张图。.pth保存的是模型参数，通过字符字典进行保存，在加载该类文件时应该先实例化一个具体的模型，然后对新建立的空模型，进行参数赋予。cv 2，numpy，pillow等包都是如此，统一conda，或者统一使用pip，推荐使用pip。需要重写图像处理的一些代码，保持和Python一致，输入模型进行预测。
使用c++调用pytorch模型
薛晓伟
04-01 6370
常用的深度学习框架有pytorch、tensorflow和caffe。caffe配置太麻烦，开发维护不方便。tensorflow、pytorch都不错，开发维护都很方便。 目前深度学习大多用python进行开发维护，但某些场景需要用c++。以pytorch为例，使用c++进行开发，可以大幅提高运行速度。 首先要把模型导出： #coding=utf-8 import tor...
C++部署pytorch模型
weixin_39450742的博客
04-25 1541
转自https://www.jianshu.com/p/02f16439892d，侵删 （一）————将pytorch模型转化为torchscript模型 Pytorch官方提供的C++API名为libtorch，在Pytorch1.0版本之后开始支持windows，以后就可以直接用libtorch来部署Pytorch模型了。 在Windows平台上用C++部署深度学习应用一直很麻烦，caffe使用自定义层还需要自己写backward()，而TensorFlow对Windows平台的支持也不是很好，在W
使用C++调用pytorch模型(Linux)
dc90000的博客
05-07 1115
前言 模型转换思路通常为: Pytorch -> ONNX -> TensorRT Pytorch -> ONNX -> TVM Pytorch -> 转换工具 -> caffe Pytorch -> torchscript(C++版本Torch) 我的模型是使用Pytorch1.0训练的,第三种方法应该是还不支持,没有对应层名字, 放弃....
在 C++ 中使用 PyTorch
程序猿视角
05-22 2612
PyTorch 提供了 C++ 前端 API 接口，可以直接在 C++ 中使用 PyTorch 的相关功能。您可以使用 C++ API 在 C++ 代码中构建、训练和部署深度学习模型。6.使用 C++ API 加载和运行 Torch Script 模型或使用 ONNX Runtime 加载和运行 ONNX 模型。上述代码实现了一个使用 C++ API 训练 MNIST 数字识别模型并在每 100 批次后输出损失值的示例。4.在训练周期中使用 C++ API 优化模型。
C++调用PyTorch模型教程
xyqqwer的博客
03-02 3801
在人工智能的世界中，PyTorch已经成为了研究人员和工程师们广泛使用的深度学习框架之一。它以其灵活性和动态计算图而闻名，非常适合快速原型设计和实验。然而，当我们想要将训练好的模型部署到生产环境中时，我们可能会倾向于使用C++这样的更高性能语言，因为它提供了更好的速度和资源管理。幸运的是，PyTorch提供了LibTorch库，使得我们可以在C++环境中加载和使用PyTorch模型。本教程将详细介绍如何在C++中调用PyTorch模型，包括环境配置、模型的导出、C++中的加载和使用等步骤。
面向Windows在C++中调用Pytorch模型（MNIST手写体数字识别）
11-01
使用pytorch从模型训练到模型调用，再通过libtorch转成C++调用，全流程实现MNIST手写体数字识别
PyTorch C++ API笔记
阿丹的彩蛋
08-06 1858
学习PyTorch C++ API的笔记
pytorch_cpp：在C ++中使用PyTorch的深度学习示例程序
01-30
PyTorch C ++示例 这些是用C ++编写的PyTorch深度学习示例程序。 描述 PyTorch作为一种深度学习框架而闻名。 其中，Python源代码在网络上泛滥，因此我们可以轻松地用Python编写深度学习的源代码。 但是，很少有用C ++编译器语言编写的源代码。 因此，我希望该存储库通过提供用C ++编写的PyTorch示例程序来帮助许多程序员。 另外，我可能会使程序适应最新版本。 实作 多类别分类 模型 纸 会议/期刊 码 发行版本 亚历克斯网 NeurIPS 2012 v1.7.0 虚拟网 ICLR 2015 v1.7.0 ResNet CVPR 2016 v1.7.0 降维 模型 纸 会议/期刊 码 发行版本 自动编码器 科学2006 v1.5.0 去噪自动编码器 ICML 2008 v1.7.0 生成建模 模型 纸 会议/期刊 码 发行版本 可变自动编码器 ICLR 2014 v1.5.1 DCGAN ICLR 2016 v1.5.1 瓦瑟斯坦自动编码器 ICLR 2018 v1.7.0 图像到图像翻译 模型 纸 会议/期刊
【 01 PyTorch基础篇】--关于张量如何定义
gongdiwudu的专栏
10-10 4787
深度学习是机器学习的一个分支，其中编写的算法模仿人脑的功能。深度学习中最常用的库是 Tensorflow 和 PyTorch。由于有各种可用的深度学习框架，人们可能想知道何时使用 PyTorch。以下是人们更喜欢使用 Pytorch 来完成特定任务的原因。
Pytorch入门教程
热门推荐
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
03-08 3万+
Pytorch学习总结:1.张量Tensor 张量是一种特殊的数据结构，与数组和矩阵非常相似。在PyTorch中，我们使用张量对模型的输入和输出以及模型的参数进行编码。 张量类似于NumPy的ndarray，除了张量可以在 GPU 或其他硬件加速器上运行。事实上，张量和NumPy数组通常可以共享相同的底层内存，从而无需复制数据。...
C++中调用Pytorch模型
Afison的博客
07-16 647
在C++中加载以使用 LibTorch（PyTorch 的 C++ API）时，需要进行一些设置，包括安装 LibTorch 库、配置编译器和链接器以找到库文件和头文件。
【AI】PyTorch实战（四）：使用C++调用PyTorch模型
郭老二
10-24 3805
PyTorch是由python语言实现，想要使用C++调用PyTorch模型，需要先将PyTorch模型的结构和参数保存成一种和具体编程语言无关的格式，然后使用C++来解析这种格式即可。TorchScript程序就是使用python语言，将PyTorch模型的结构和参数保存下来，这一操作称为序列化。PyTorch提供C++接口库——libTorch，该库用于加载已经序列化的PyTorch模型，这一操作称为反序列化。
利用C++调用PyTorch的模型
MLer
01-19 1万+
背景 PyTorch的主要接口是Python语言。虽然Python是许多需要动态和易于迭代的场景的首选语言，但同样有很多情况下，Python的这些属性恰好是不利的。在生产环境中，需要保证低延迟和其它严格的要求，而对于生产场景，C ++通常是首选语言，通常C++会被绑定到Java或Go当中； 第一种方法是在PyTorch中直接使用C++编写PyTorch的前端，而不是通常情况下使用Python来编...
C++调用pytorch模型（vs2015+libtorch+pytorch）
m0_37729957的博客
08-02 6739
C++调用pytorch模型（vs2015+libtorch+pytorch） 参考网站 另一个网站：知乎平台 1.开发环境 vs2015+windows10 2.转换模型 pytorch的C++版本用的是Torch Script，官方给了两种将pytorch模型转成Torch Script的方法。这里主要介绍第一种Tracing。 3.准备工作 （1）在Pytorch官网下载所需要的Libtor...
C++调用PyTorch模型：LibTorch
己亥谷雨
02-25 3844
转载的文章，挺不错，学习一下！ LibTorch学习笔记（一） 前天由于某些原因需要利用C++调用PyTorch，于是接触到了LibTorch，配了两天最终有了一定的效果，于是记录一下。 环境 PyTorch1.6.0 cuda10.2 opencv4.4.0 VS2017 具体过程 下载LibTorch 去PyTorch官网下载LibTorch包，选择对应的版本，这里我选择Stable(1.6.0)，Windows，LibTorch，C++/JAVA，10.2，然后我选择release版.
c++用ros2调用pytorch训练的模型
最新发布
10-16
在ROS 2 (Robot Operating System) 中，要使用 C++ 调用 PyTorch 训练的模型，你需要做以下几个步骤： 1. **安装依赖**： - 安装 ROS 2：按照官方文档《安装指南》（https://docs.ros.org/en/foxy/Installation/index.html）完成基础设置。 - 安装 PyTorch：如果还没有，使用 `pip` 或者 ROS 内置的包管理工具如 `colcon` 来安装 PyTorch及其相关的Python库。 - 对于 C++ 接口，你可以考虑使用 PyTorch 的 C++ API (`torch::jit::script`) 或者通过 Python C API 间接调用。 2. **将模型转换**： - 为了能在 C++ 中直接使用，需要将 PyTorch 模型导出为 TorchScript（`.pt` 或 `.pb` 文件）。可以使用 `torch.jit.save(model, 'model.pt')` 导出模型到 TorchScript。 3. **编写 C++ 代码**： - 使用 C++ 面向对象编程（如 C++11 或更高版本）或现代 C++（例如 C++17）编写代码。 - 使用 PyTorch C++ API (`torch/script.h`) 加载模型并执行推理。示例代码可能类似这样： ```cpp #include <torch/script.h> // 加载模型 torch::jit::script::Module module; try { std::ifstream model_file("model.pt", std::ios::binary); module = torch::jit::load(model_file); } catch (const c10::Error& e) { std::cerr << "Error loading the model: " << e.what() << std::endl; } // 创建输入数据 auto input_data = ...; // 根据模型需求创建适当的数据 // 运行模型 at::Tensor output = module.forward(input_data); ``` 4. **整合到ROS节点**： - 将上述 C++ 代码封装成一个 ROS Nodelet 或者直接作为服务/动作服务器的一部分。 - 调整数据格式，确保输入输出能够适应ROS的消息传递系统。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

外卖猿

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值