因为现在做的一个项目需要同时加载多个模型,而给的显卡又太渣了,加载不了几个就OOM了,查资料发现可以使用cpu来预测,使用cpu时是使用内存而不是使用显存,正好给的服务器的内存很大,所以这里记录一下
- tensorflow版本:2.4.2
- 显卡:NVIDIA Quadro P620
- 显存:2G
- 内存:128G
- 解决:执行
os.environ["CUDA_VISIBLE_DEVICES"] = "-1"`
之后预测会使用cpu计算而不是gpu,会使用内存而不是使用显存。
因为现在做的一个项目需要同时加载多个模型,而给的显卡又太渣了,加载不了几个就OOM了,查资料发现可以使用cpu来预测,使用cpu时是使用内存而不是使用显存,正好给的服务器的内存很大,所以这里记录一下
os.environ["CUDA_VISIBLE_DEVICES"] = "-1"`
之后预测会使用cpu计算而不是gpu,会使用内存而不是使用显存。