pytorch参数默认初始化方式

结论： 因版本而定。 早期的版本用Xavier， 后期的版本用kaiming_normal

            目前我所知1.1版本之后是用 kaiming_normal

            自己版本对应可以去torch库中查看。

 

过程：

       从博客 https://blog.csdn.net/qq_36338754/article/details/97756378  贴的代码来看。

       reset_parameter 函数下面是Xavier初始化。

       但从 https://www.jianshu.com/p/f97791393439  贴的代码来看，

       reset_parameter 函数下面是kaiming_normal 初始化。

       不过有一点她说自己torch1.2是默认kaiming_normal。 那应该是版本区别吧。

       所以我去我的torch1.1库里扒拉了看conv.py， 也是kaiming_normal 

 

疑惑：

        我不确定这种不同是版本问题还是时间问题。希望有错指正。