模型可复现性实现，随机种子设置(Pytorch1.7.1)

最新推荐文章于 2024-07-29 00:03:11 发布

阿輝輝輝

最新推荐文章于 2024-07-29 00:03:11 发布

阅读量39

点赞数 3

文章标签：深度学习 pytorch 人工智能

本文链接：https://blog.csdn.net/weixin_45697711/article/details/138382344

版权

本文介绍了如何在Python的深度学习库如TensorFlow和PyTorch中使用`seed`函数确保实验的可复现性，包括全局和工作进程级别的随机数初始化，以及cudnn设置。

摘要由CSDN通过智能技术生成

def seed_everything(seed=11):
    random.seed(seed)
    np.random.seed(seed)
    torch.manual_seed(seed)
    torch.cuda.manual_seed(seed)
    torch.cuda.manual_seed_all(seed)
    torch.backends.cudnn.deterministic = True
    torch.backends.cudnn.benchmark = False
    torch.backends.cudnn.enabled = False

def worker_init_fn(worker_id, rank, seed):
    worker_seed = rank + seed
    random.seed(worker_seed)
    np.random.seed(worker_seed)
    torch.manual_seed(worker_seed)