- 博客(8)
- 收藏
- 关注
RSS订阅原创 鱼书-第七章
在全连接层中，相邻层的神经元全部连接在一起，输出的数量可以任意决定，但是会忽略数据的形状（图像通常是高、长、通道方向上的3维形状，全连接层需要使用一维数据）而可以保持形状不变。CNN 中，有时将卷积层的输入输出数据称为特征图（feature map）。其中，卷积层的输入数据称为输入特征图（input feature map），输出数据称为输出特征图（output feature map）。滤波器要奇数个大小valid不填充：输出（N-F=1）（N-F=1）
2023-11-01 19:57:51
82
原创 鱼书-第六章
SGD的缺点是，如果函数的形状非均向（anisotropic），比如呈延伸状，搜索的路径就会非常低效。其根本原因是，梯度的方向并没有指向最小值的方向。虽然x轴方向上受到的力非常小，但是一直在同一方向上受力，所以朝同一个方向会有一定的加速。反过来，虽然y轴方向上受到的力很大，但是因为交互地受到正方向和反方向的力，它们会互相抵消，所以y轴方向上的速度不稳定。学习率衰减（learning rate decay）,随着学习的进行，使学习率逐渐减小。
2023-10-30 21:17:43
78
1
原创 鱼书-第五章
神经网络的正向传播中进行的矩阵的乘积运算在几何学领域被称为“仿射变换”。因此，这里将进行仿射变换的处理实现为“Affine层”。
2023-10-27 21:28:08
100
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人