这个不是什么新的神奇的东西,很简单,如下:
说白了就是利用正态分布生成一个点,如果这个点在[a,b]
区间之外,那么就重新生成,直到在区间为止。
在pytorch中,默认的参数,例如a,b
如下:
nn.init.trunc_normal_(
tensor: torch.Tensor,
mean: float = 0.0,
std: float = 1.0,
a: float = -2.0,
b: float = 2.0,
) -> torch.Tensor
with values outside [a, b], redraw until they are within the bounds.