使用 pynvml 这个库,可以得到显卡的使用环境,如显卡类型,显卡数目,显卡全部显存,已经使用的显存,以及没有使用的显存。
1. API 网站
2. 例子
目前,我们的Lily在 Linux 下,设置的默认值为 150 M,基本满足;
下面就是一个获得显卡类型的例子:
import pynvml
pynvml.nvmlInit()
handler = pynvml.nvmlDeviceGetHandleByIndex(0)
name = pynvml.nvmlDeviceGetName(handler)
3. 各显卡初始化 Cuda 的显存
- 对于 RTX 4000 来说, CudaContext 大约为 100 M;
- 对于 TITAN XP 来说,大约150 M;
- 对于 RTX 2080Ti 来说, Cuda Context 大约为 161 MB
这几个值在显存估计时,需要考虑到。