RuntimeError: CUDA error: CUBLAS_STATUS_ALLOC_FAILED when calling `cublasCreate(handle)`
这个错误实际上可能是batch_size过大而导致的,因为有些人可能是用的A100-80G显存,而有些人可能只有24G-4090或者3090。此时只需要将batch_size改小或者换到大显存的卡上运行就可以了解决。
RuntimeError: CUDA error: CUBLAS_STATUS_ALLOC_FAILED when calling `cublasCreate(handle)`
这个错误实际上可能是batch_size过大而导致的,因为有些人可能是用的A100-80G显存,而有些人可能只有24G-4090或者3090。此时只需要将batch_size改小或者换到大显存的卡上运行就可以了解决。