pytorch c++ gpu部署

于 2023-08-08 14:47:37 发布
阅读量139 收藏
点赞数
文章标签： pytorch 人工智能 python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43663255/article/details/132166679
版权
本文详细列出了不同版本的Libtorch（包括CPU和cu100/CU101/CU102/CU113/CU116/CU117/CU118）及其对应CUDA版本的Windows下载链接。还介绍了如何测试环境是否兼容并提供必要的设置步骤。
摘要由CSDN通过智能技术生成

Libtorch 各历史版本的收集，方便直接下载

​
Windows下：
Libtorch 1.0.0
cpu-release: https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-1.0.0.zip
 
cu100-release: https://download.pytorch.org/libtorch/cu100/libtorch-win-shared-with-deps-1.0.0.zip
 
1.0没有debug的版本，从1.1开始有
 
Libtorch 1.1.0
cpu-debug: https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-debug-1.1.0.zip
 
cpu-release: https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-1.1.0.zip
 
cu100-debug: https://download.pytorch.org/libtorch/cu100/libtorch-win-shared-with-deps-debug-1.1.0.zip
 
cu100-release: https://download.pytorch.org/libtorch/cu100/libtorch-win-shared-with-deps-1.1.0.zip
 
Libtorch 1.1.0 —— 1.5.0：  
按照1.1.0的格式来，只需要修改最后的几个数字或对应的CUDA的版本
 
Libtorch 1.6.0
cpu-debug：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-debug-1.6.0%2Bcpu.zip
 
cpu-release：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-1.6.0%2Bcpu.zip
 
cu101-debug: https://download.pytorch.org/libtorch/cu101/libtorch-win-shared-with-deps-debug-1.6.0%2Bcu101.zip
 
cu101-release: https://download.pytorch.org/libtorch/cu101/libtorch-win-shared-with-deps-1.6.0%2Bcu101.zip
 
cu102-debug: https://download.pytorch.org/libtorch/cu102/libtorch-win-shared-with-deps-debug-1.6.0.zip
 
cu102-release: https://download.pytorch.org/libtorch/cu102/libtorch-win-shared-with-deps-1.6.0.zip
 
Libtorch 1.7.0
cpu-debug：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-debug-1.7.0%2Bcpu.zip
 
cpu-release：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-1.7.0%2Bcpu.zip
 
cu101-debug: https://download.pytorch.org/libtorch/cu101/libtorch-win-shared-with-deps-debug-1.7.0%2Bcu101.zip
 
cu101-release: https://download.pytorch.org/libtorch/cu101/libtorch-win-shared-with-deps-1.7.0%2Bcu101.zip
 
cu102-debug:https://download.pytorch.org/libtorch/cu102/libtorch-win-shared-with-deps-debug-1.7.0.zip
 
cu102-debug:https://download.pytorch.org/libtorch/cu102/libtorch-win-shared-with-deps-1.7.0.zip
 
Libtorch 1.8.0
cpu-debug：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-debug-1.8.0%2Bcpu.zip
 
cpu-release：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-1.8.0%2Bcpu.zip
 
cu102-debug: https://download.pytorch.org/libtorch/cu102/libtorch-win-shared-with-deps-debug-1.8.0.zip
 
cu102-release: https://download.pytorch.org/libtorch/cu102/libtorch-win-shared-with-deps-1.8.0.zip
 
Libtorch 1.9.0
cpu-debug：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-debug-1.9.0%2Bcpu.zip
 
cpu-release：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-1.9.0%2Bcpu.zip
 
cu102-debug:https://download.pytorch.org/libtorch/cu102/libtorch-win-shared-with-deps-debug-1.9.0%2Bcu102.zip
 
cu102-release:https://download.pytorch.org/libtorch/cu102/libtorch-win-shared-with-deps-1.9.0%2Bcu102.zip
 
libtorch 1.10.0
cpu-debug：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-debug-1.10.0%2Bcpu.zip
 
cpu-release：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-1.10.0%2Bcpu.zip
 
cu102-debug: https://download.pytorch.org/libtorch/cu102/libtorch-win-shared-with-deps-debug-1.10.0%2Bcu102.zip
 
cu102-release: https://download.pytorch.org/libtorch/cu102/libtorch-win-shared-with-deps-1.10.0%2Bcu102.zip
 
libtorch 1.11.0
cpu-debug：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-debug-1.11.0%2Bcpu.zip
 
cpu-release：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-1.11.0%2Bcpu.zip
 
cu113-debug: https://download.pytorch.org/libtorch/cu113/libtorch-win-shared-with-deps-debug-1.11.0%2Bcu113.zip
 
cu113-release: https://download.pytorch.org/libtorch/cu113/libtorch-win-shared-with-deps-1.11.0%2Bcu113.zip
 
libtorch 1.12.0
cpu-release：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-1.12.0%2Bcpu.zip
 
cpu-debug：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-debug-1.12.0%2Bcpu.zip
 
cu113-debug: https://download.pytorch.org/libtorch/cu113/libtorch-win-shared-with-deps-debug-1.12.0%2Bcu113.zip
 
cu113-release: https://download.pytorch.org/libtorch/cu113/libtorch-win-shared-with-deps-1.12.0%2Bcu113.zip
 
cu116-debug: https://download.pytorch.org/libtorch/cu116/libtorch-win-shared-with-deps-debug-1.12.0%2Bcu116.zip
 
cu116-release: https://download.pytorch.org/libtorch/cu116/libtorch-win-shared-with-deps-1.12.0%2Bcu116.zip
 
libtorch 1.13.0
cpu-release：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-1.13.0%2Bcpu.zip
 
cpu-debug：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-debug-1.13.0%2Bcpu.zip
 
cu116-debug: https://download.pytorch.org/libtorch/cu116/libtorch-win-shared-with-deps-debug-1.13.0%2Bcu116.zip
 
cu116-release: https://download.pytorch.org/libtorch/cu116/libtorch-win-shared-with-deps-1.13.0%2Bcu116.zip
 
cu117-debug: https://download.pytorch.org/libtorch/cu117/libtorch-win-shared-with-deps-debug-1.13.0%2Bcu117.zip
 
cu117-release: https://download.pytorch.org/libtorch/cu117/libtorch-win-shared-with-deps-1.13.0%2Bcu117.zip
 
libtorch 2.0.0 与 2.0.1 与 cu117-118  [改对应版本号]
cpu-release：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-2.0.1%2Bcpu.zip
 
cpu-debug：https://download.pytorch.org/libtorch/cpu/libtorch-win-shared-with-deps-debug-2.0.1%2Bcpu.zip
 
cu117-118-release: https://download.pytorch.org/libtorch/cu117/libtorch-win-shared-with-deps-2.0.1%2Bcu117.zip
 
cu117-118-debug: https://download.pytorch.org/libtorch/cu117/libtorch-win-shared-with-deps-debug-2.0.1%2Bcu117.zip

下载显卡驱动

CUDA Toolkit 10.2 Download

CUDA Toolkit 10.2 Download | NVIDIA Developer
 
 或者

CUDA Toolkit Archive | NVIDIA Developer
 cuDNN下载链接
 cuDNN Archive | NVIDIA Developer
 

测试

头文件包含问题
 #include <torch/script.h>

#include <torch/torch.h>
 

void test_libtorch_version() {
    std::cout << "cuDNN : " << torch::cuda::cudnn_is_available() << std::endl;
    std::cout << "CUDA : " << torch::cuda::is_available() << std::endl;
    std::cout << "Device count : " << torch::cuda::device_count() << std::endl;
}

如果程序返回结果都为非0，那证明CUDA以及CUDNN都是可用的，自此环境已经搭建完成，但是也有可能返回结果为0证明CUDA以及CUDNN都不可用。需要进行如下设置，找到Linker->Command Line选项，在其中填入如下命令

/INCLUDE:"?ignore_this_library_placeholder@@YAHXZ" 

 
 
 
 
 
 
 
 
​

weixin_43663255
关注
新手用Windows配pytorch，关于GPU的问题，以及其他
Peace__mind的博客
05-08 551
文章目录新手入门深度学习用Windows配pytorch配置虚拟环境测试 新手入门深度学习 作为新手菜鸟，其实大家都有过很多很困惑但不知道从何问起的问题。当然了，当你知道应该问这些问题的时候，你也就相当于知道了，因此也不再深究，但是往往这些问题才是阻碍我们入门的重要因素。 如今深度学习虽然已有退潮迹象，但是总的来讲，还算是很火热的，很多人想要来试一试，或者是在自学，很多东西摸不到头脑。 扯远了，我...
pytorch的c++/cuda扩展，CUDA编程
xx_xjm的博客
04-25 2595
我们知道C++，C这类的编程语言是为了让计算机执行我们的指令，确切一点是让计算机的cpu执行我们的执行，现在cuda编程则是要让显卡中的计算核心执行我们的指令；所以，cuda编程其实就是编写显卡中计算核心执行指令。为了区别于.cpp，.c这样的文件，我们取.cu后缀来指明当前的代码文件是给显卡用的；我们上面说了，.cu本质上还是写给CPU的，所以核函数其实也是C++函数的一种，只不过有一个特殊的限定词"__global__"，用以指明“这个C++函数，是用来调用显卡的！
c++调用pytorch模型并使用GPU进行预测
u010397980的博客
04-21 2万+
pytorch很好用，但是真实部署还是使用c++较多，因此需要用c++调用训练好的pytorch模型。参考官方示例https://github.com/apachecn/pytorch-doc-zh/blob/master/docs/1.0/cpp_export.md安装libtorch。但是官方示例中并没有使用真实的例子，且使用的是cpu版本的。 下面用一个真实的例子并用gpu，本示例的所有程...
VS2019使用C++调用并部署pytorch VGG模型全过程(libtorch+opencv)(cpu+gpu)
W9XM96的博客
10-13 5839
环境配置vs2019+libtorch1.9.0+opencv3.4.2+cuda11.0+cudnn8.0（实测可用，不踩坑） 须知 Libtorch版本需与pytorch版本兼容（最好一致），系统下载与pytorch版本相同的CUDA和Cudnn,否则导入模型将出错。 若想使程序在GPU上运行，需下载GPU版libtorch,其也支持cpu运行。 文中给出图片或许版本与标题不一致，不影响实际操作，作者已亲测可行 libtorch 用C++调用pytorch模型，其目的在于：使用C++及多线程可以加快模
PytorchC++
Gussss的博客
04-23 1577
import torch class Net(torch.nn.Module): def __init__(self, N, M): super(Net, self).__init__() self.W = torch.nn.Parameter(torch.randn(N, M)) self.b = torch.nn.Parameter(torch.randn(M)...
部署Pytorch模型到C++环境
likesomething1的博客
06-30 6315
由于工作原因需要部署Pytorch模型到c++环境下，目前大概有三种方式。 1、pytorch转成onnx文件后，通过opencv读取。 2、pytroch转成onnx文件后，通过onnxruntime读取。 3、利用libtorch库，也就是pytorch的c++版。首先的将pytorch训练好的模型导出onnx文件。...............
pytorch c++版本资源
03-15
本资源是PyTorch的C++版本，特别强调的是1.8.2版本，该版本支持C++接口，并且是基于cxx11 abi（C++11应用程序二进制接口）构建的。C++ API允许开发人员在不使用Python的情况下进行模型训练和部署，这对于那些需要在...
Pytorch C++ Library.zip
最新发布
01-05
《PyTorch C++库深度解析》 PyTorch，作为一个强大的深度学习框架，以其易用性和灵活性在科研和工业界赢得了广泛的认可。其核心特性包括动态计算图、高效的GPU加速以及丰富的模块化设计。而PyTorch C++库则是...
在C++平台部署pytorch模型的两种方法
m0_46278347的博客
05-22 3087
1、准备工作 1、模型转换代码： import torch from model.FCN_Aux import FCN_AUX model = FCN_AUX(2) model_weight_path = './model/better.pth'#训练完模型位置 model.load_state_dict(torch.load(model_weight_path)) model.cuda() model.eval() example = torch.rand(1, 3, 224, 224).cuda() t
C++部署Pytorch模型方法1
08-08
在C++环境中部署PyTorch模型，主要是为了利用已训练好的深度学习模型进行推理或集成到现有的C++应用中。PyTorch提供了Libtorch库，它是一个C++接口，允许我们在C++环境中加载和执行PyTorch模型。下面将详细阐述如何...
pyTorch 使用多GPU训练
未到初级图像处理工程师
04-16 8607
1.在pyTorch中模型使用GPU训练很方便，直接使用model.gpu()。 2.使用多GPU训练，model = nn.DataParallel(model) 3.注意训练/测试过程中 inputs和labels均需加载到GPU中 inputs, labels = Variable(inputs.cuda()), Variable(labels.cuda()) 具体使用参考 pyto...
Pytorch的GPU计算（cuda）
Never-Giveup的博客
12-02 2万+
pytorch允许把在GPU上训练的模型加载到CPU上，也允许把在CPU上训练的模型加载到GPU上。 在Pytorch中，只要在输入，输出，模型等后加.cuda()即可将模型由cpu上的运算调到gpu上运算。 首先需要确定自己的pytorch版本能否进行gpu计算。 print(torch.cuda.is_available()) 如果结果是True，则可以进行gpu计算，如果是False,就需...
Pytorch的C++端(libtorch)在Windows中的使用
老潘的博客
01-23 1万+
关于本文章的最新更新请查看:oldpan博客 前言 填一个之前的坑啊，本篇的姊妹篇——利用Pytorch的C++前端(libtorch)读取预训练权重并进行预测 这篇文章中已经说明了如何在Ubuntu系统中使用libtorch做预测，当初也有朋友问我如何在Windows之下尝试使用libtorch，当时因为时间关系没有去看，后来就给忘了…现在有时间了当然要尝试一下~ 当然先说结论哈，其实在Wind...
Pytorch-如何使用GPU进行训练
wvdon
02-13 9319
默认你已经安装了cuda，并且支持GPU。 # is_available 函数判断是否有cuda可以使用 # ``torch.device``将张量移动到指定的设备中 if torch.cuda.is_available(): device = torch.device("cuda") # a CUDA 设备对象 y = torch.ones_like(x, de...
Pytorch 1.0 多gpu训练尝试
Learn2Learn的博客
11-30 4643
单GPU 开始用过全局指定os.environ["CUDA_VISIBLE_DEVICES"] = "0"的方法，但是运行会爆奇怪的cudnn错误，后面改成下面写法运行通过 my_device="cuda:0" #这里的0可以根据需要改为指定的gpu id #对于模型 model=model.to(device=my_device) #对于数据 input_data=Variable(input_...
Win10+VS2017+PyTorch(libtorch) C++ 基本应用
gulingfengze的博客
06-15 2万+
0.下载准备 下载安装VS2017或VS2015 下载安装opencv 可以参考博客：VS2017配置opencv教程 ，该博客中写的很详细 安装cmake 记得把bin目录添加到环境变量path中，例如我的：E:\SoftEnv\CMake\bin 下载libtorch 下载地址：PyTorch libtorch ，这个根据自己情况选择下载，因为我自己的是cuda10，并且我选择...
pytorch中查看gpu信息
热门推荐
lsh呵呵
10-11 10万+
torch.cuda.is_available() cuda是否可用； torch.cuda.device_count() 返回gpu数量； torch.cuda.get_device_name(0) 返回gpu名字，设备索引默认从0开始； torch.cuda.current_device() 返回当前设备索引； 更多信息：https://pytorch.org/docs/...
机器视觉系列4：C++部署pytorch模型Libtorch
axe的博客
06-30 3588
​系列文章目录 第一章：Visual Studio 2019 动态链接库DLL建立 第二章：VS动态链接库DLL调试 第三章：VS2019OpenCV环境配置 第四章：C++部署pytorch模型
Windows环境下PyTorch C++ API部署CNN模型
TorchScript是PyTorch的一种静态图表示，它允许模型在不同的设备上运行，包括CPU和GPU，以及跨语言的部署，比如在C++环境中。它是通过将PyTorch的动态计算图转换为静态计算图来实现的，这使得模型能够脱离Python环境...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值