神经网络
文章平均质量分 75
WXX_DLUT
这个作者很懒,什么都没留下…
展开
-
优化方法
http://www.cnblogs.com/maybe2030/p/4751804.html 1、梯度下降(批量梯度下降BGD) 思想:用当前位置负梯度方向作为搜索方向,因为该方向为当前位置的最快下降方向,所以也被称为是”最速下降法“。最速下降法越接近目标值,步长越小,前进越慢。 缺:靠近极小值时收敛速度减慢、迭代次数多训练时间长、直线搜索时可能会产生一些问题、可能会“之字形”地下降。 ...原创 2018-11-10 21:39:20 · 335 阅读 · 0 评论 -
ResNet and DenseNet
ResNet是15年被提出,在ImageNet比赛的分类任务中获得第一名。检测、分割、识别任务中都有用到。 https://blog.csdn.net/lanran2/article/details/79057994 意义: 随着网络加深,训练集准确率会发生下降,但不是由于过拟合造成的。故提出深度残差网络,允许网络尽可能加深。 Shortcut结构: 残差网络提出了两种mapping...转载 2018-12-05 17:12:18 · 278 阅读 · 0 评论