CUDA/TensorRT
关注
分享
扫一扫
柳鲲鹏
建立了编程学（编程基本功、平台化编程）、六石管理学等几个流派。
每涉及一个领域，都是顶级砖家。在这些领域中，如果遇到问题，最后肯定是搜索到本博客。
展开
-
nvinfer1::cudnn::Engine::deserialize()出错的原因
根据工作要求，特征提取更改了模型。同事传了一个TensorRT engine文件。一加载，出错如下：python3.5: cudnnEngine.cpp:710: bool nvinfer1::cudnn::Engine::deserialize(const void*, std::size_t, nvinfer1::IGpuAllocator&, nvinfer1::IPlugi...原创 2020-12-31 15:34:04 · 5226 阅读 · 21 评论 -
NVIDIA下载老版本驱动/CUDA/Video Codec SDK的链接
有时不好找，所以专门发出来：https://developer.nvidia.com/cuda-toolkit-archive原创 2020-11-01 16:08:55 · 1709 阅读 · 0 评论 -
CentOS安装NVidia驱动提示kernel source path问题
之前是安装好了，也记录下来了。结果这次就死活安装不上。怎么办？参考：https://quantum6.blog.csdn.net/article/details/106931358 有两点说明：安装依赖库。 查看一下/usr/src/kernels，有一个目录，这个完整路径就是所谓的kernel source。类似：--kernel-source-path=/usr/src/kernels/3.10.0-1127.19.1.el7.x86_64...原创 2020-10-31 06:31:51 · 7477 阅读 · 0 评论 -
一定不要安装CUDA附带的显卡驱动
有人向吾报怨显卡硬解有问题。吾听着就奇怪了，吾这边好好的，他那边显卡还比吾高档，怎么反而不能用呢？吾仔细一看其输出： 注意图中8bit，竟然都是0。正确的图应该是： 一看其显卡版本比吾高，吾就问，是不是使用了CUDA附带的驱动？对方回答是。让其安装标准驱动，果然正确。...原创 2020-07-08 20:15:52 · 3244 阅读 · 0 评论 -
全网首发：FFMpeg使用NVIDIA DECODER，解码后的数据转换为YUV420P
我们日常所用格式虽然是RGB，视频喜欢提YUV。如上文所述，解码后的数据是RGB，如何转换为YUV？自己写代码进行转换。这个方法显然是不可取的。 调用已有函数。 这个已有的函数在哪里？这可没有人说啊。怎么办？想起之前使用过ffplay，看看这个代码如何处理的。先找到解码函数，即得到的AVFrame。输出一看，确实是RGB。 找到刷屏的地方，使用的确实是YUV。 跟踪整个中间过程，确实看到某个地方，转变为YUV。具体处理代码是：//1280,1280,0 ret = av原创 2020-07-05 07:44:53 · 2950 阅读 · 17 评论 -
FFMPEG编译ffplay
安装SDLyum install -y SDL-devel编译参数# export is must useexport PKG_CONFIG_PATH=/usr/local/lib/pkgconfig:${PKG_CONFIG_PATH}pkg-config --modversion ffnvcodecCUDA_PATH=nvcc=/usr/local/cuda-11.0make cleanexport ECFLAG="-fPIC"./configure \ -原创 2020-07-01 06:59:13 · 795 阅读 · 0 评论 -
ffmpeg把YUV转换为H264
ffmpeg -pix_fmts原创 2020-06-28 21:59:35 · 3279 阅读 · 0 评论 -
FFMpeg编译支持NVidia CODEC（成功）
下载头文件git clone https://git.videolan.org/git/ffmpeg/nv-codec-headers.gitcd nv-codec-headerssudo makesudo make install下载ffmpeg最新的。重新编译export PKG_CONFIG_PATH=/usr/local/lib/pkgconfig:${PKG_CONFIG_PATH} pkg-config --modversion ffnvcodec X264.原创 2020-06-26 13:31:03 · 7700 阅读 · 33 评论 -
ERROR: cuvid requested, but not all dependencies are satisfied: ffnvcodec
PKG_CONFIG_PATH shoud has ffnvcodec.pc原创 2020-06-26 13:22:21 · 1786 阅读 · 0 评论 -
编译NVIDIA之Video_Codec_SDK_9.1.23之Sample
download and installhttps://blog.csdn.net/quantum7/article/details/106932663libhttps://blog.csdn.net/quantum7/article/details/106954214https://blog.csdn.net/quantum7/article/details/106954225modifyhttps://blog.csdn.net/quantum7/article/details/原创 2020-06-25 06:58:08 · 2279 阅读 · 0 评论 -
编译错误：GL/glew.h, GL/glut.h, EGL/egl.h没有那个文件或目录
In file included from AppDecGL.cpp:26:0:FramePresenterGL.h:21:21: 致命错误：GL/glew.h：没有那个文件或目录#include <GL/glew.h>sudo yum install glew-develIn file included from AppDecGL.cpp:26:0:FramePresenterGL.h:22:21: 致命错误：GL/glut.h：没有那个文件或目录#include <..原创 2020-06-25 06:52:46 · 7173 阅读 · 3 评论 -
AV_PIX_FMT_YUV420P12LE’在此作用域中尚未声明
In file included from AppDec.cpp:26:0:../../NvCodec/../Utils/FFmpegDemuxer.h: 在构造函数‘FFmpegDemuxer::FFmpegDemuxer(AVFormatContext*)’中:../../NvCodec/../Utils/FFmpegDemuxer.h:93:14: 错误：‘AV_PIX_FMT_YUV420P12LE’在此作用域中尚未声明 case AV_PIX_FMT_YUV420P12LE.原创 2020-06-25 06:33:40 · 1311 阅读 · 0 评论 -
NVIDIA官方指南：libav编译支持Nvidia Codec（结果失败）
https://developer.nvidia.com/ffmpeggit clone https://git.videolan.org/git/ffmpeg/nv-codec-headers.gitcd nv-codec-headers && sudo make installmake clean./configure \ --prefix=/usr/local \ --enable-shared \ --enable-libx264 \原创 2020-06-23 22:33:07 · 719 阅读 · 0 评论 -
CentOS安装NVIDIA Video Codec SDK
https://developer.nvidia.com/nvidia-video-codec-sdk/download原创 2020-06-23 22:19:07 · 2778 阅读 · 0 评论 -
CentOS安装Nvidia显卡驱动和CUDA
checklsmod | grep nouveau修改/etc/modprobe.d/blacklist.conf 文件，加入一行并保存 #nvidia driver blacklist nouveau# 备份原来的镜像文件mv /boot/initramfs-$(uname -r).img /boot/initramfs-$(uname -r).img.bak# 重建新镜像文件dracut /boot/initramfs-$(uname -r).im...原创 2020-06-23 21:05:04 · 5798 阅读 · 0 评论 -
LINUX下载安装CUDA
网页https://developer.nvidia.com/cuda-downloads?target_os=Linux&target_arch=x86_64&target_distro=Ubuntu&target_version=1804&target_type=runfilelocal下载http://developer.download.nvidia.com/compute/cuda/11.0.1/local_installers/cuda_11.0.1_4原创 2020-06-14 19:48:37 · 3581 阅读 · 0 评论 -
OpenCV尽量不要打开CUDA参数编译，否则太慢了
每次编译OpenCV，都有点发愁。为什么呢？耗时非常之多。 有同事建议，WITH_CUDA=OFF，可以大大加快编译速度。吾试之，果然。速度快了多少？感觉怎么也有个１０倍的差异。 那么这个参数会带来多少好处呢？没有测试过。...原创 2019-04-20 17:02:46 · 3447 阅读 · 4 评论 -
NVIDIA H264解码是硬件电路还是CUDA
因为近来发现，接入多路视频流时，CUDA性能大幅下降。同事表示，这个跟解码相关。于是在网上搜索了一番，发现一个有意思的观点：NVIDIA H264是软解。 一般而言，我们说的软解，是指使用CPU进行整个解码流程。如果是使用硬件（芯片电路）进行解码，那么就是硬解。而NVIDIA解码，有人表示是使用CUDA进行处理，也就是没有专用的硬件电路。 如果是这样，那么NVIDIA进行H264解...原创 2019-04-19 13:37:23 · 4122 阅读 · 8 评论 -
TensorRT:AttributeError: 'module' object has no attribute 'Logger'
TensorRT版本与代码写法不对．具体写法： # using trt 4.0 G_LOGGER = trt.infer.ConsoleLogger(trt.infer.LogSeverity.INFO) trt_engine = trt.utils.load_engine(G_LOGGER, engine_path) ""...原创 2019-04-16 16:14:14 · 4188 阅读 · 2 评论 -
NVIDIA显卡超过一定路数，性能急剧下跌
昨天发现，推理性能很差。同事远程连接过来检查。首先肯定是认为吾计时有问题，自己加了点计时。结果还真是差。 反复检查代码，并无问题。于是怀疑到主机内存与显存的交换，也没问题。 于是吾想到，支持的路数，导致性能下跌。于是减为４路，情况良好；６路马上就差了。这是为什么呢？解码器占用了？吾将解码器转移到另外的显卡，问题依旧。 原来估算一个显卡够用，明显是……...原创 2019-04-13 12:19:24 · 880 阅读 · 0 评论 -
LINUX上，2080/1080卡不要混插
LINUX上，2080/1080卡不要混插。这样可能引起莫名其妙的问题，还没法解决。 如果非要混插，注意驱动用最新的，CUDA、CUDNN、TensorRT等等，都要用最新的，以支持2080。不过，这时1080可能没法正常运行。 遇到问题，首先想到的就是只用一个卡，试试有没有问题。没有，再加卡。这样可以避免忙活几天，结果发现是显卡冲突。...原创 2019-04-09 20:36:55 · 972 阅读 · 0 评论 -
错误：customWinogradConvActLayer.cpp
customWinogradConvActLayer.cpp:159: std::unique_ptr<dit::Convolution> nvinfer1::cudnn::WinogradConvActLayer::createConvolution(const nvinfer1::cudnn::CommonContext&, bool, const int8_t*) co...原创 2019-04-06 11:59:00 · 1000 阅读 · 0 评论 -
DeepStream3必须安装Video_Codec_SDK9
否则必错。在编译其他软件时，如果遇到cuvid这一类的文件错误，也是版本问题。原创 2019-04-01 21:25:59 · 2282 阅读 · 2 评论 -
UBUNTU正确安装NVIDIA驱动的方法
经过高人指点，正确办法如下：# remove old driverssudo apt-get purge NVIDIA*sudo apt-get remove nvidia-*# disable nouveau driverDEST_FILE=/etc/modprobe.d/blacklist.confsudo echo ...原创 2019-03-31 19:30:11 · 2132 阅读 · 0 评论 -
docker: Error response from daemon: Unknown runtime specified nvidia.
事情是这样的：安装NVIDIA的UBUNTU，突然驱动没有吧。重新安装驱动，莫名其妙的出现了这样的问题。解决办法：sudo mkdir -p /etc/systemd/system/docker.service.dsudo tee /etc/systemd/system/docker.service.d/override.conf <<EOF[Service]...原创 2019-03-28 08:23:09 · 1829 阅读 · 0 评论 -
ImportError: libcudart.so.10.0: cannot open shared object file
解决办法：sudo ldconfig /usr/local/cuda-10.0/lib64原创 2019-03-27 19:49:44 · 12327 阅读 · 0 评论 -
matplotlib 2.2.4 has requirement python-dateutil>=2.1, but you'll have python-dateutil 1.5
sudo pip install --upgrade python-dateutil转载 2019-03-26 09:15:34 · 5115 阅读 · 0 评论 -
ImportError: No module named tensorrt
对于安装TensorRT的朋友，可能觉得莫名其妙。如下安装：sudo pip2 install ../TensorRT-4.0.1.6/python/tensorrt-4.0.1.6-cp27-cp27mu-linux_x86_64.whl原创 2019-03-26 09:05:30 · 12335 阅读 · 9 评论 -
解决办法：nvidia-settings:ERROR: Unable to load info from any available system
遇到这个错误，也让人很无奈，还好，吾终于找到了解决办法：sudo apt-get install nvidia-settings 之后又出现下面的错误，不知何意：** (nvidia-settings:3684): WARNING **: PRIME: 执行子进程“/usr/bin/prime-supported”失败(没有那个文件或目录)** Message: PRIM...原创 2019-03-25 14:03:50 · 24580 阅读 · 10 评论 -
onnx-tensorrt:builtin_op_importers.cpp:628:5: error: ‘IIdentityLayer’ is not a member of ‘nvinfer1’
如果在TensorRT 4.0上编译，就有这个错误；5.0就没有（集成了）。 怎么办？注释掉这个代码，重新编译即可。原创 2019-03-24 20:46:38 · 1685 阅读 · 2 评论 -
编译onnx-tensorrt产生libnvonnxparser.so
TensorRT 4.0没有这个，只能自己产生。5.0就有了。git clone --recursive https://github.com/onnx/onnx-tensorrt.gitrm -rf buildmkdir buildcd buildcmake .. -DTENSORRT_ROOT=/home/quantum6/TensorRT-4.0.1.6make -j8s...原创 2019-03-24 20:31:13 · 2090 阅读 · 0 评论 -
编译OpenCV：nvcc fatal : Unsupported gpu architecture 'compute_75'
编译时提示如下错误：nvcc fatal : Unsupported gpu architecture 'compute_75' 应该是GPU太新，使用的CUDA9.2版本不支持。 吾去掉CUDA_GENERATION=Auto，编译通过。...原创 2019-03-24 19:12:41 · 6354 阅读 · 9 评论 -
编译OpenCV：precomp.hpp:60:37: fatal error: dynlink_nvcuvid.h
原因：CUDA有一些接口过期了。解决办法：cmake增加选项：-D CUDA_NVCC_FLAGS="-D_FORCE_INLINES" -D BUILD_opencv_cudacodec=ONcmake -D CMAKE_BUILD_TYPE=RELEASE \-D CMAKE_INSTALL_PREFIX=/usr/local -D WITH_CUDA=on \-D ENAB...原创 2019-03-24 13:53:46 · 4573 阅读 · 9 评论 -
解决方法：Linux装完显卡驱动后分辨率显示不正常
昨天装完Dell T630，登录界面分辨率太低。以为驱动安装的有问题，重装了几次，又核查了命令，都正确。于是就网上找了个办法：# 19201080是你想要的分辨率 60是刷新率cvt 1920 1080 60# 输出一般是1920x1080 59.96 Hz （CVT 2.07M9） hsync： 67.16kHz; pclk： 173.00 MHz Modeline “19...原创 2019-03-24 08:06:49 · 3834 阅读 · 0 评论 -
解压 .solitairetheme8 文件
今天下载cudnn，突然发现后缀变了。心里这个奇怪啊，没事变什么后缀？LINUX一直是有能用的，这不是故意给别人增加难度嘛。 怎么办？倒也简单：mv cudnn-10.0-linux-x64-v7.5.0.56.solitairetheme8 cudnn-7.tgztar -xvf cudnn-7.tgz 然后按照正常的办法安装。...原创 2019-03-23 20:38:34 · 2269 阅读 · 7 评论 -
解决办法：RuntimeError: module compiled against API version 0xc but this version of numpy is 0xa
运行遇到错误如下：RuntimeError: module compiled against API version 0xc but this version of numpy is 0xa 刚刚做了什么？python2.7下，numpy降级了．可是吾已经编译过了啊．这是怎么回事？ 网上都说升级numpy．可是咱明明是降级啊．为什么要降级？肯定迫不得已．怎么办？ 首先排...原创 2019-03-21 11:20:05 · 8727 阅读 · 0 评论 -
初步猜测，当map所在线程跟显存有关时，容易崩溃
以前调试时，发现map在find的时候崩溃．当时认定是线程问题． 现在改为独立线程，在某个的线程直接操作map，还是会崩溃． 于是看了一下这个线程，因为使用显卡功能，所以初步怀疑跟显存有关．目前没有进一步的分析．...原创 2019-03-09 12:39:57 · 374 阅读 · 0 评论 -
Eclipse/NSight解决办法：unsolved inclusion stdio.h/map/string/queue/list
使用NSight(基于Eclipse)，修改代码时提示unsolved inclusion map/string/queue/list这一类的警告。虽然不影响编译（命令行），总是感觉很别扭，而且动不动提示错误。于是上网找到启示，然后自己反复实验，最终找到了正确有效的解决办法。列出来给正在为此苦恼的朋友。有效解决办法 选中项目，依次操作： 右键单击 -> properties...原创 2019-03-04 09:38:29 · 691 阅读 · 0 评论 -
解决办法：NVIDIA驱动，Ubuntu16.04 用户登录界面死循环
一台机器，之前正常，今天试图登录，屏幕一闪又是登录界面。这…… 网上搜索了一下，找了个办法，解决。具体步骤如下：CTRL+ALT+F2 输入账号、用户名。 sudo apt-get remove nvidia-* sudo apt-get autoremove sudo nvidia-uninstall 这时，可以切换到界面登录了CTRL+ALT+F7 重新安装驱动。这个...原创 2019-02-16 14:22:03 · 8539 阅读 · 5 评论 -
提供了一个UBUNTU安装NVIDIA驱动的脚本的下载
下载要分数，具体内容参考：https://blog.csdn.net/quantum7/article/details/86665916 下载链接：UBUNTU安装NVIDIA显卡驱动的脚本 有朋友问，怎么下载分数这么高？这个我也没办法，忘记选择了，又没法改。使用方法：1、sudo passwd2、ctrl + Alt + F23、su# cd /lib;# ...原创 2019-01-27 17:49:48 · 734 阅读 · 0 评论