NVENC Video Encoder API Programming Guide
需外网
入口
NVDEC Video Decoder API Programming Guid
需外网
入口
或者可以到我网盘下载:
链接: https://pan.baidu.com/s/1SHVZ1egbn3181Le14iFZbA 密码: gawa
链接: https://pan.baidu.com/s/1hvRFDJCK7QZNyzMjB11UMw 密码: 2wu1
Optimizing Video Memory Usage with the NVDECODE API and NVIDIA Video Codec SDK
入口
一般来说显卡打开推理数,以及编解码的个数受到GPU内存限制。
GPU利用率上不去:
1)查看GPU内存是不是被占用满了,一般来说,打开推理会话或者编解码都要占用GPU内存,如果打开的会话过多,就会将GPU内存占满,导致程序崩溃。
2)PCIE总线是不是带宽不够,可以看下图,不同版本PCI-E总线宽度
电脑上可以用nvidia-smi -a来查看自己电脑的PCI-E版本号和通道数量
3)还有一种比较奇怪就是T4显卡推理的时候尽量不要做其它的事情,比如颜色空间转换等操作,如果做的多了,会导致推理延迟,GPU性能无法利用的现象,比如,GPU利用率只有50%,但是推理时间却延长到原来的10倍以上。