1.调低batch-size
2.清除缓存
torch.cuda.empty_cache()
3.杀死进程
nvidia-smi
taskkill -PID 进程号 -F
4.低速模式
python xx.py --always-batch-cond-uncond --opt-split-attention
5.限制一次分配的最大单位
export/set PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:512
os.environ["PYTORCH_CUDA_ALLOC_CONF"] = "max_split_size_mb:128"
6.改输入图片分辨率
imgsz=640
7.换卡加卡