Tensorrt模型和pytorch模型加载时的冲突解决

最新推荐文章于 2023-05-06 10:30:59 发布
最新推荐文章于 2023-05-06 10:30:59 发布
阅读量906 收藏
点赞数 1
分类专栏： 模型框架学习 文章标签： pytorch 深度学习 nvidia
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_36276587/article/details/111154730
版权

记录一下，笔者在python接口的Tensorrt模型和pytorch模型混合使用时，会报错cuda之类的错误，

解决方案是换了一下两个模型的加载顺序就神奇的好了。

但是现在这个错误竟然没有复现出来，等有时间了，详细研究一下~

CaiDou_
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
专栏目录
关于pip、pycuda、tensorrt等问题的解决措施
Charles的博客
02-29 749
通过pip安装东西，发现一直报错。接着输入pip -V得到： 但是实际在该目录下并找不到pip，估计原因是pip关联的是python2，而非python3. 在该博客中找到解决方法，重新安装了pip3，并指向了python3，问题解决。 ...
PyTorch使用cpu加载模型运算方式
09-18
在PyTorch中，当你没有GPU或者CUDA支持时，仍可以使用CPU进行模型的加载和运算。本篇文章将详细介绍如何在PyTorch中利用CPU来加载和执行模型运算。 首先，当你从磁盘加载一个已经训练好的模型时，通常会使用`torch....
pytorch C++ API 与TensorRT的冲突
The space of Shining
03-26 1102
2019.3.26 TensorRT的例子中，用到的公共头文件common.h， // 如果使用CHECK，会跟pytorch中的源码冲突 #define CHECK(status) \ do \ { ...
win10下torch和trt无法一起加载
hjxu2016的博客
03-08 1555
self._handle = _dlopen(self._name, mode) OSError: [WinError 127] 找不到指定的程序。 import torch import tensorrt as trt 就这两行代码然后就报错了 OSError: [WinError 127] 找不到指定的程序。 这里推测 我有两个cuda版本，trt依赖的是cuda11.5，torch依赖是cuda11.3 先加载torch导致trt找不到依赖的库。 解决方案，先加载trt，再加载torch。 imp
TensorRT同时加载多个模型很容易崩溃
柳鲲鹏
01-16 4442
　　比如说，有两个模型同时加载，很容易崩溃。 　　跟踪的时候会发现，在deserialize()的地方出错。 　　如果用gdb看，错误有时是这样的： [Thread debugging using libthread_db enabled] Using host libthread_db library "/lib/x86_64-linux-gnu/libthread_db.so.1". ...
tensorrt遇到torch.bmm的解决
贱贱的剑
09-28 930
一、问题说明 使用tensorrt进行加速的时候，遇到 需要自已定义torch.bmm进行替换。 二、 打到安装torch2trt所在目录，例如我的在opt/conda/lib/python3.7/site-packages/torch2trt-0.3.0-py3.7-linux-x86_64.egg/
Pytorch加载部分预训练模型的参数实例
09-18
PyTorch作为一个灵活且强大的深度学习框架，提供了加载预训练模型参数的功能，这对于研究和实践非常有用。本文将详细探讨如何在PyTorch中加载部分预训练模型的参数，并通过实例进行说明。 首先，当我们使用的模型与...
基于pytorch的保存和加载模型参数的方法
09-18
在PyTorch中，保存和加载模型参数是训练过程中至关重要的步骤，这使得我们能够持久化模型，并在后续使用时避免重复训练。本篇文章将详细解释两种不同的方法，以帮助你理解和实施这些操作。 ### 方式一：保存与加载...
PyTorch加载预训练模型实例(pretrained)
09-18
在深度学习领域，预训练模型是一种非常重要的工具，它们是在大规模数据集上预先训练好的模型，...通过理解加载和微调预训练模型的过程，我们可以更有效地解决各种计算机视觉任务，如图像分类、目标检测、语义分割等。
pytorch 将onnx模型转换为trt TensorRT模型
03-20
适用于TensorRT8.0版本及以上 使用步骤 1、chmod 添加文件执行权限 2、将onnx路径修改为自己的onnx模型路径 3、运行py问价
问题解决办法：pip tensorrt成功，PyCharm import出错
柳鲲鹏
10-25 5014
　　使用命令安装tensorrt sudo pip3 install tensorrt 　　成功。 　　python3，import tensorrt也成功。可是在PyCharm中，总是出错。怎么办？ 解决办法 File->Settings->Project (工程名）->Project Interpreter 在右侧的Project Interpreter，应该是Py...
tensorRT的完整安装以及常见错误 export failure: [WinError 127] 找不到指定的程序。
zhuguiqin1的专栏
05-06 3325
我们需要把D:\tensorrt\TensorRT-8.6.1.6\lib对应的目录放到window环境变量即可。版本，安装完成tensorrt以后再pip install python对应的whl文件。在python中执行import tensorrt as trt代码会出现如下错误。
OSError: [WinError 127] 找不到指定的模块。anaconda\lib\site-packages\torch\lib\caffe2_detectron_ops.dll“ or o
weixin_45982219的博客
10-22 2168
是不是在换gpu的pytorch后显示的错误？ 原因（个人理解）： cup的pytorch和gpu的pytorch文件里面的caffe2_detectron_ops.dll文件名重复了，然后你更换为gpu版本的时候由于这个文件存在了，就没有下载，保留了原本cpu版本的。 解决方法： 把这个文件删除，然后重装gpu版本的pytorch 转载自：https://github.com/pytorch/pytorch/issues/35803#issuecomment-725285085 ...
OSError: [WinError 127] 找不到指定的程序 问题解决 无需修改文件路径配置 简单操作(与torch安装有较大关系)
热门推荐
weixin_42358688的博客
06-01 2万+
遇到这类问题往往跟torch安装的工具包（如torch-scatter torch-sparse torch-cluster 1.4.5）版本没对应上有关，以我安装的torch为1.8.0+CPU为例，
OSError: [WinError 127] 找不到指定的程序。 Error loading “C:\Anaconda3\envs\Machine_Learning\lib\site-package
湖心亭看雪
04-18 1万+
OSError: [WinError 127] 找不到指定的程序。 Error loading "C:\Anaconda3\envs\Machine_Learning\lib\site-package 解决办法来源： https://github.com/pytorch/pytorch/issues/35803#ref-pullrequest-688459681 Thank you@skyline75489, Deleting caffe2_detectron_ops.dll worked f...
导入pytorch后，报错[WinError 127] 找不到指定的程序。
THIS_GIRL的博客
01-05 3787
导入pytorch，报错[WinError 127] 找不到指定的程序
搞毕设遇到的bug
m0_45682738的博客
03-10 6399
RuntimeError: [enforce fail at …\c10\core\CPUAllocator.cpp:72] data.DefaultCPUAllocator: not enough memory: you tried to allocate xxx bytes. 原因：设置的张量过大，导致内存分配不足，在train.py中把batchsize改小了
安装好pytorch和cuda后运行程序报错：OSError: [WinError 127] 找不到指定的程序
qq_44420246的博客
09-19 1万+
1 安装报错 从装好pytorch和cuda后运行程序报错： OSError: [WinError 127] 找不到指定的程序。 Error loading "D:\soft\anaconda\envs\pytorch\Lib\site-packages\torch\libcaffe2_detectron_ops.dll’ ,or one of its dependencies 这是因为安装的pytorch版本和cuda版本不匹配。卸载后在官网重新下载相匹配的对应的版本，安装就可以了。 官网：pytorch
libtorch与tensorRT安装指南
boyhoodme的博客
01-05 1645
libtorch tensorRT
tensorrt安装windows pytorch
最新发布
07-25
在 Windows 上安装 TensorRT 和 PyTorch 是一个多步骤的过程。下面是一个简单的指南： 1. 首先，确保您的系统满足以下要求： - 支持 CUDA 的 NVIDIA GPU - 安装了 NVIDIA CUDA Toolkit 和 cuDNN - 安装了 ...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值