花书(《深度学习》)笔记
coder_nolan
这个作者很懒,什么都没留下…
展开
-
花书笔记 卷积网络(9.1卷积;9.2动机;9.3池化)
卷积许多机器学习的库实现的是下面的互相关函数(cross-correlation)(以二维图像为例),但是称之为卷积。输入(input):卷积的第一个参数,上例中为 核函数(kernel function):第二个参数,上例 特征映射(feature map):输出,上例二维图像上 的卷积运算在机器学习中,学习算法会在核合适的位置学的恰当的值,所以...原创 2019-07-21 14:06:26 · 317 阅读 · 0 评论 -
花书笔记 卷积网络(9.4卷积与池化作为一种无限强的先验)
卷积操作可以看成全连接网络,但对这个全连接网络有一个无限强的先验,指1.一个隐藏单元的权重必须和它邻居的权重相同。2.除了处在隐藏单元的小的空间连续的接受域内的权重之外,其余的权重都为0.对第一条解释一下:这里说的权重不针对同一个输出单元。如上图,x_2和x_3共享 a,b,c 这三个权重值,但输出单元不同,比如 x_2*b --> s_2, 而 x_3*b --> s...原创 2019-09-01 10:50:44 · 565 阅读 · 0 评论 -
花书笔记 卷积网络(9.5 基本卷积函数的变体)
步幅(stride)步幅为s的卷积运算数学表达式步幅大于一个像素的卷积在数学上等价于单位步幅的卷积随后降采样(down-sampling)上图表示两种步幅(stride)为2的卷积运算方法,后者计算了许多被舍弃的值,在计算上是浪费的。零填充(padding)如果不加入零填充操作(即在输入 V 的外围用 0 填充),每层的输出的宽度会随着卷积层的深入而减小。缩减的幅...原创 2019-09-01 11:46:38 · 457 阅读 · 0 评论