以下内容来源于Pytorch官方文档与博主余霆嵩提供资料
文章目录
1. 常用的初始化方法
1.1 均匀分布初始化(uniform_)
使值服从均匀分布 U(a,b)
torch.nn.init.uniform_(tensor, a=0.0, b=1.0)
- tensor——一个n维的torch.Tensor
- a – 均匀分布的下界
- b – 均匀分布的上限
1.2 正态分布初始化(normal_)
使值服从正态分布 N(mean, std),默认值为 0,1
以下内容来源于Pytorch官方文档与博主余霆嵩提供资料
使值服从均匀分布 U(a,b)
torch.nn.init.uniform_(tensor, a=0.0, b=1.0)
使值服从正态分布 N(mean, std),默认值为 0,1