- 博客(2)
- 收藏
- 关注
RSS订阅原创 今天不学习明天当咸鱼之深度学习梯度问题
咸鱼自默自整理。 梯度消失： 根据链式法则，上一层输出的偏导和权重的乘积小于1，多层传播之后乘积会非常小，靠近输入层的调整会非常微弱。 梯度爆炸： 上一层输出的偏导和权重的乘积大于1，多层传播后乘积太大。 解决办法： 1.梯度裁剪，正则化：裁剪是大于阈值就置阈值，正则化限制权重大小。 2.batchnorm：对每一层的输出都做标准化，限制均值和方差； 3.预训练微调：逐层预训练，全局微调，即先找局...
2019-05-22 10:00:42
166
转载 python使用lxml读写xml
python使用lxml读写xml 网上比较详细的一篇，感谢大佬。 Python读写XML文档(lxml方式) from lxml import etree tree=etree.parse('D://2018//99-Info.xml') root = tree.getroot() for node in root.xpath('//beginframe'): print (node.t...
2019-05-22 09:44:57
573
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人