可以通过改变随机初始化,避免过多特征为0;可以减小学习率,避免训练过程中数据分布的巨大变化,产生许多特征为0的情况被送入Relu函数中。
视频讲解
激活函数的类型及使用
最新推荐文章于 2024-07-28 15:37:27 发布
可以通过改变随机初始化,避免过多特征为0;可以减小学习率,避免训练过程中数据分布的巨大变化,产生许多特征为0的情况被送入Relu函数中。
视频讲解