前言
在神经网络中,参数默认是进行随机初始化的。如果不设置的话每次训练时的初始化都是随机的,导致结果不确定。如果设置初始化,则每次初始化都是固定的。
实际上,计算机并不能产生真正的随机数,而是已经编写好的一些无规则排列的数字存储在电脑里,把这些数字划分为若干相等的N份,并为每份加上一个编号,编号固定的时候,获得的随机数也是固定的。
使用原因:在需要生成随机数据的实验中,每次实验都需要生成数据。设置随机种子是为了确保每次生成固定的随机数,这就使得每次实验结果显示一致了,有利于实验的比较和改进。
解析
- 为CPU中设置种子,生成随机数
torch.mamual_seed(seed)
- 为特定GPU设置种子,生成随机数
torch.cuda.manual_seed(seed)
- 为所有GPU设置种子,生成随机数
torch.cuda.manual_seed_all(seed)
4.在Numpy内部也有随机种子,当你使用numpy中的随机数的时候,可以通过如下方式固定:
np.random.seed(seed)(另外还有python的内置模块random.seed(seed))