在尝试部署stablediffusion2.0模型并处理计算模块数据时，遇到了CUDA内存溢出错误，系统试图分配256.00GiB内存，但GPU0只有23.69GiB总容量。目前已有8.37GiB被占用，剩余11.78GiB，而9.91GiB已被PyTorch预留。建议检查内存碎片并考虑调整max_split_size_mb参数。
RuntimeError: CUDA out of memory. Tried to allocate 256.00 GiB (GPU 0; 23.69 GiB total capacity; 8.37 GiB already allocated; 11.78 GiB free; 9.91 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to avoid fragmentation. See documentation for Memory Management and PYTORCH_CUDA_ALLOC_CONF
部署stable diffusion 2.0 的时候计算注意模块的数据时，突然爆显存了，还那么大，应该不正常吧。
这是怎么回事
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
