如果网络权重不初始化,pytorch有一套默认初始化机制,本人没有研究具体怎么初始化的,和tensorflow标准正态分布初始化效果一样,下面是指定初始化代码:
conv = nn.Conv2d(*args, **kwargs)
conv.weight.data.normal_() #w以标准正态分布初始化
conv.bias.data.zero_() #偏置以0初始化
如果网络权重不初始化,pytorch有一套默认初始化机制,本人没有研究具体怎么初始化的,和tensorflow标准正态分布初始化效果一样,下面是指定初始化代码:
conv = nn.Conv2d(*args, **kwargs)
conv.weight.data.normal_() #w以标准正态分布初始化
conv.bias.data.zero_() #偏置以0初始化