python中seed的相关代码

主要记录的是神经网络使用python中常用的seed的代码。

import random
import numpy as np
import torch

#a只是表示一个超参数而已

#seed()中没有参数时，每次生成的随机数不同；有参数时，每次生成的随机数是一样的
random.seed(a)

#每次生成的随机数相同，对后面的结果一直有影响
np.random.seed(a)

#为CPU设置种子用于生成随机数
torch.manual_seed(a)

#为当前GPU设置随机种子
torch.cuda.manual_seed(a)

#为所有的GPU设置随机种子
torch.cuda.manual_seed_all(a)

#解决模型的可重复问题。
#模型在GPU上训练，数据/超参一致的情况下，每次训练还会产生不同的结果。这关键是cudnn卷积行为的不确定性，因此要在主函数加上这一句。
torch.backends.cudnn.deterministic = True

#为整个网络的每个卷积层搜索最适合的卷积来实现算法。
#如果网络模型一直变的话，是不能设置为True。
torch.backends.cudnn.benchmark = False