RuntimeError: CUDA out of memory. Tried to allocate 48.00 MiB (GPU 0； 6.00 GiB total capacity； 1.99

报错信息 "CUDA out of memory" 表明你的 PyTorch 代码尝试在 GPU 上分配的内存超过了可用量。这可能是因为 GPU 没有足够的内存来处理当前的操作或模型。

要解决这个问题，你可以尝试以下方法：

1. 减小批处理大小： 减小训练或推理过程中使用的批处理大小。较小的批处理大小将需要更少的内存。

2. 优化模型： 考虑使用参数较少或规模较小的模型架构。另外，尝试优化模型，去除不必要的层或参数。

3. 释放 GPU 内存： 确保正确释放 GPU 内存。在 PyTorch 中，你可以使用 del 明确删除张量，并使用 torch.cuda.empty_cache() 释放内存。

4. 检查内存泄漏： 确保代码中没有内存泄漏导致消耗过多的 GPU 内存。

以下是释放 PyTorch GPU 内存的示例代码：

import torch

# Release individual tensors
del your_tensor_variable_name

# Empty the cache
torch.cuda.empty_cache()

记得在适当的地方运行此代码段，特别是在你使用完特定张量或批次后，将内存释放回 GPU。

如果你的模型或处理过程需要的内存超过当前 GPU 容量，可能需要考虑使用具有更多内存的 GPU 或使用提供更好资源的云服务。