PyTorch 1.0 中文文档：torch.nn.init

译者：GeneZC

torch.nn.init.calculate_gain(nonlinearity, param=None)

返回给定非线性函数的推荐的增益值。对应关系如下表：

非线性函数	增益
Linear / Identity
Conv{1,2,3}D
Sigmoid
Tanh
ReLU
Leaky Relu

参数：

• nonlinearity – 非线性函数 (nn.functional 中的名字)
• param – 对应非线性函数的可选参数

例子

>>> gain = nn.init.calculate_gain('leaky_relu')

torch.nn.init.uniform_(tensor, a=0, b=1)

用均匀分布 初始化输入 Tensor。

阅读全文／改进本文

转载于:https://www.cnblogs.com/wizardforcel/p/10392208.html