【PyTorch报错已解决】CUDA error: CUBLAS_STATUS_EXECUTION_FAILED when calling `cublasSgemm( handle, opa, opb

小小码农在线码字

已于 2024-05-05 17:38:23 修改

阅读量879

点赞数 11

分类专栏： python基础语法文章标签： pytorch

于 2024-05-05 17:22:08 首次发布

本文链接：https://blog.csdn.net/weixin_46234454/article/details/138469717

版权

2 篇文章 0 订阅

订阅专栏

报错

报错信息为：发生异常: RuntimeError CUDA error: CUBLAS_STATUS_EXECUTION_FAILED when calling cublasSgemm( handle, opa, opb, m, n, k, &alpha, a, lda, b, ldb, &beta, c, ldc)。
尝试了但都无效的方法：
- 在main函数中添加CUDA_LAUNCH_BLOCKING=1；
- 重启环境；
- 尝试更小的矩阵乘法（排除了显存不够或者内存不够的问题）；
- 替换 @ 、 torch.mm、torch.matmul、torch.einsum等不同的矩阵乘法函数。

	device = torch.device('cuda:1' if not(args.cpu) and torch.cuda.is_available() else 'cpu')
	# 将device换为cpu
    device = torch.device('cpu')

在cpu环境下，重新调试代码，找到真实的报错为发生异常: IndexError index 75880 is out of bounds for dimension 0 with size 75879/。是访问出界问题。
解决问题即可。
总结：RuntimeError: CUDA error: CUBLAS_STATUS_EXECUTION_FAILED 这个错误通常表示在调用NVIDIA的CUDA Basic Linear Algebra Subprograms (CUBLAS)库中的函数时出现了问题。具体来说，这里的问题发生在cublasSgemm这个矩阵乘法函数上。但是CUDA的报错信息并没有定位到具体的问题，所以转移到cpu上有助于我们定位问题。

关注