随机数种子seed

之前的方案

只在train.py文件里添加了这两句代码，但是还不够

import random
random.seed(42)  # 保证随机结果可复现

现在的方案

在utils.py包里添加

def seed_torch(seed=42):
    random.seed(seed) # Python的随机性
    os.environ["PYTHONHASHSEED"] = str(seed) # 设置python哈希种子，为了禁止hash随机化，使得实验可复现
    np.random.seed(seed) # numpy的随机性
    torch.manual_seed(seed) # torch的CPu随机性，为CPU设置随机种子
    torch.cuda.manual_seed(seed) # torch的GPU随机性，为当前GPU设置随机种子
    torch.cuda.manual_seed_all(seed) # if you are using multi-GPu.torch的GPu随机性，为所有GPU设置随机种子
    torch.backends.cudnn.benchmark = False # if benchmark=True, deterministic will be Falsetorch.backends.cudnn.deterministic = True # 选择确定性算法
    torch.backends.cudnn.deterministic = True # 选择确定性算法

或者

import random
import numpy as np
import torch
def setup_seed(seed):
    torch.manual_seed(seed)
    torch.cuda.manual_seed(seed)
    torch.cuda.manual_seed_all(seed)
    np.random.seed(seed)
    random.seed(seed)
    torch.backends.cudnn.deterministic = True
    torch.backends.cudnn.benchmark = False  # cuDNN's auto-tuner    
seed=42
setup_seed(seed)
# 设置随机种子的代码加在最外层，保证任何随机过程发生之前设置好随机种子。可放在main.py或train.py等训练文件的第一行。

或者

import random
import numpy as np
import torch
import os
def seed_torch(seed=42):
    random.seed(seed) # Python的随机性
    os.environ["PYTHONHASHSEED"] = str(seed) # 设置python哈希种子，为了禁止hash随机化，使得实验可复现
    np.random.seed(seed) # numpy的随机性
    torch.manual_seed(seed) # torch的CPu随机性，为CPU设置随机种子
    torch.cuda.manual_seed(seed) # torch的GPU随机性，为当前GPU设置随机种子
    torch.cuda.manual_seed_all(seed) # if you are using multi-GPu.torch的GPu随机性，为所有GPU设置随机种子
    torch.backends.cudnn.benchmark = False # if benchmark=True, deterministic will be Falsetorch.backends.cudnn.deterministic = True # 选择确定性算法
    torch.backends.cudnn.deterministic = True # 选择确定性算法
seed=42
seed_torch(seed)

添加的位置

由于导包的时候添加载一些模型的时候也会使用随机数，所以设置随机数的的时候尽可能靠前。

参考：

基于pytorch的深度学习网络训练结果复现——重复训练结果一致（随机种子设置） - 知乎