函数 | 描述 |
---|---|
torch.nn.init.calculate_gain(nonlinearity,param=None) | 对于给定的非线性函数,返回推荐的增益值 |
torch.nn.init.normal(tensor, mean=0, std=1) | 从给定均值和标准差的正态分布N(mean, std)中生成值,填充输入的张量或变量 |
torch.nn.init.constant(tensor, val) | 用val的值填充输入的张量或变量 |
torch.nn.init.eye(tensor) | 用单位矩阵来填充2维输入张量或变量 |
torch.nn.init.dirac(tensor) | 用Dirac $\delta$ 函数来填充{3, 4, 5}维输入张量或变量 |
torch.nn.init.xavier_normal(tensor, gain=1) | 用一个正态分布生成值,填充输入的张量或变量 |
torch.nn.init.xavier_uniform(tensor, gain=1) | 用一个均匀分布生成值,填充输入的张量或变量 |
torch.nn.init.kaiming_uniform(tensor, a=0, mode='fan_in') | 用一个均匀分布生成值,填充输入的张量或变量 |
torch.nn.init.kaiming_normal(tensor, a=0, mode='fan_in') | 用一个正态分布生成值,填充输入的张量或变量 |
torch.nn.init.orthogonal(tensor, gain=1) | 用(半)正交矩阵填充输入的张量或变量 |
torch.nn.init.sparse(tensor, sparsity, std=0.01) | 将2维的输入张量或变量当做稀疏矩阵填充,其中非零元素根据一个均值为0,标准差为std的正态分布生成。 |
原始文档:https://pytorch-cn.readthedocs.io/zh/latest/package_references/torch-nn/#torchnn