pytorch如何确保每次实验可重复性(每次训练测试结果相同)(模型每次结果也不一样的问题解决方法)（固定随机种子等操作）

路边风景也很美！

已于 2024-03-19 19:18:35 修改

阅读量3.3k

点赞数 12

分类专栏： python 文章标签： pytorch 深度学习人工智能

于 2024-03-18 13:33:38 首次发布

本文链接：https://blog.csdn.net/huiyayaya/article/details/136806379

版权

本文介绍了影响深度学习模型训练可复现性的四个关键因素：设置随机种子、使用确定性算法、DataLoader设置和数据集排序。通过详细的操作步骤，帮助开发者提高实验的可重复性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

影响可复现的因素主要有这几个：
1、随机种子
2、训练使用不确定的算法
CUDA卷积优化——CUDA convolution benchmarking
Pytorch使用不确定算法——Avoiding nondeterministic algorithms
3、数据加载DataLoader
4、自己代码是否使用随机排列数据集

1跟2，直接复制下面的代码，全网最全（自认为）

# 固定随机种子等操作
            seed_n = 42
            print('seed is ' + str(seed_n))
            g = torch.Generator()
            g.manual_seed(seed_n)
            random.seed(seed_n)
            np.random.seed(seed_n)
            torch.manual_seed(seed_n)
            torch.cuda.manual_seed(seed_n)
            torch.cuda.manual_seed_all(seed_n)
            torch.backends.cudnn.deterministic=True
            torch.backends.cudnn.benchmark = False
            torch.backends.cudnn.enabled = False
            torch.use_deterministic_algorithms(True)
            os.environ['CUBLAS_WORKSPACE_CONFIG'] = ':16:8'
            os.environ['PYTHONHASHSEED'] =