- 博客(3)
- 资源 (4)
- 收藏
- 关注
原创 BN——Batch Norm原理Batch Normalization,Accelerating Deep Network Training
参考论文“Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift“1,深度网络训练在实际中是复杂的,在训练期间,随着前面层参数的变化,每一层输入分布也会随之发生变化(不是真实的输入分布)。——>内部协方差偏移这使得训练会变得更慢,所以需要...
2019-04-30 11:33:52 616
原创 深度学习问题检查——训练出现nan, loss不降
一、训练出现nan的原因https://blog.csdn.net/ch07013224/article/details/803243731,检查数据。数据的label有无错误。 制作lst修改过标签2,检查参数。保存的网络层和损失层所有的参数3,检查是否有分母为0,或者log里为负数或者0,softmax里的exp是否太大,根号是否有负数1.如果在迭代的100轮以内...
2019-04-30 11:20:12 3397
原创 Jupyter入门
由于之前使用deepdive和snorkel,用到了jupyter,所以这里笔记记录下。https://www.cnblogs.com/nxld/p/6566380.htmlJupyter Notebook(此前被称为 IPython notebook)是一个交互式笔记本,支持运行 40 多种编程语言。1,在命令行执行jupyter notebook,打开下面蓝色的链接...
2019-04-30 09:09:56 271
SDAE - 副本.zip
2019-06-18
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人