[h264_nvenc @ 0x55c801c17980] OpenEncodeSessionEx failed: out of memory (10): (no details)

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档

---

前言

最近在使用NVIDIA的硬件编解码的时候遇到问题，说是打开会话失败，经过多方面找资料终于搞懂了问题的所在。我使用的是RTX2080TI，这个显卡同时支持打开的会话数量是3，而Tesla P40和Tesla T4都没有遇到这种问题，后来去官网查资料才知道这两款无限制。我大致浏览了下，发现大多数数据中心级的显卡哪怕性能再拉也是无限制的，除了NVIDIA A100这款，session数居然是0，可能这个是专用推理显卡，不需要这个东西。由于手上没有这款卡，没法去测试。

这里的方法我知道的有两个，一是自己反编译，找到限制的那句话直接nop就行了，然后重新打包。这种方法有一定的难度，你需要反编译工具和打包工具，自身还要懂一定的汇编，纯新手不推荐。二是直接用大神提供的脚本处理，简单高效。

---

一、先去官网查看参数

这个网站有点慢，需要等待一段时间