python设置了随机种子seed后，结果仍然会变动

myccver

已于 2023-09-18 22:14:23 修改

阅读量1.5k

点赞数 2

文章标签： python 开发语言

于 2023-09-18 22:13:59 首次发布

本文链接：https://blog.csdn.net/qq_45270993/article/details/132999184

版权

文章讲述了在深度学习训练中，尽管设置了随机种子，仍可能因DataLoaderworker_num导致结果不一致。解决方法包括将worker_num设为0、禁用CUDNN加速，或者升级PyTorch版本以平衡可复现性和性能。

摘要由CSDN通过智能技术生成

问题
深度学习训练时，可以通过seed种子设置保持结果的可复现性，如下所示

def set_seed(my_seed):

os.environ['PYTHONHASHSEED'] = str(my_seed)
random.seed(my_seed)
np.random.seed(my_seed)
torch.manual_seed(my_seed)
torch.cuda.manual_seed(my_seed)
torch.cuda.manual_seed_all(my_seed)
torch.backends.cudnn.benchmark = False  # This can slow down training
torch.backends.cudnn.deterministic = True

然而，我设置了上述的随机种子，仍然会无法保证每次的效果都是一致的。

解决
在中文网站搜索了一堆，都只是给出了设置随机种子。后面去谷歌，英文输入“ pytorch set seed fail to reproduce result ”，进入github的讨论
发现是由于DataLoader中的worker_num的问题。通过将其设置为0并且再结合如下的一行代码