解决RuntimeError: CUDA error: an illegal memory access was encountered问题

最新推荐文章于 2024-07-01 11:45:00 发布

今儿学习了没

最新推荐文章于 2024-07-01 11:45:00 发布

阅读量1w

点赞数 2

分类专栏：小bug 文章标签： pytorch 深度学习 python 人工智能 nlp

本文链接：https://blog.csdn.net/chenf1995/article/details/122888318

版权

在使用PyTorch进行深度学习，特别是多GPU训练transformers模型时，遇到RuntimeError: CUDA error: an illegal memory access was encountered。经过排查，发现不是tensor未分配到GPU导致，而是由于batchsize过大，内存占用过多引起的。减小batchsize可以避免该错误。

摘要由CSDN通过智能技术生成

用pytorch在多卡训练transformers的时候出现了以下问题：

RuntimeError: CUDA error: an illegal memory access was encountered
terminate called after throwing an instance of 'c10::Error'
  what():  CUDA error: an illegal memory access was encountered
Exception raised from create_event_internal at /pytorch/c10/cuda/CUDACachingAllocator.cpp:687 (most recent cal

最低0.47元/天解锁文章

今儿学习了没

关注

2
点赞
踩
3

收藏

觉得还不错? 一键收藏
打赏
2
评论
解决RuntimeError: CUDA error: an illegal memory access was encountered问题

用pytorch在多卡训练transformers的时候出现了以下问题：RuntimeError: CUDA error: an illegal memory access was encounteredterminate called after throwing an instance of 'c10::Error' what(): CUDA error: an illegal memory access was encounteredException raised from create
复制链接

扫一扫