吴恩达深度学习课程第四课1.1-1.5学习笔记

卷积运算

目的： 没有足够的数据来防止神经网络过拟合和竞争需求

边缘检测

垂直边缘
水平边缘
6X6的灰色图像，为了获取垂直边缘构造3x3的矩阵（过滤器）
6x6的矩阵和3x3的矩阵进行卷积运算得到4x4的矩阵

6x6矩阵表示一张图片，3x3矩阵表示过滤器，4x4矩阵表示另外一张图片
卷积运算函数
python：conv_forward
tenserflow: tf.nn.conv2d
keras： Conv2D

正边、负边
由明变暗、由暗变明

sobel过滤器增加了中间一行元素的权重，使得结果的鲁棒性更高

Scharr过滤器

Padding

nxn的矩阵 fxf的过滤器 能得到
（n-f+1）x（n-f+1）的矩阵
卷积操作的两个缺点：
1.输出缩小。
2.丢掉了图像边缘位置很多信息。
p=padding=1（填充）
输出矩阵为（n+2p-f+1）x（n+2p-f+1）

至于填充多少像素一般有两种：Valid卷积和Same卷积
Valid：不填充
Same：填充后输入大小和输出大小一致（p=（f-1）/2）
f通常是奇数。

卷积步长

s为步幅
输出的矩阵为(（n+2p-f）/s +1) x(（n+2p-f）/s+1)
如果商不是一个整数，向下取整。

互相关与卷积

现在大部分的深度学习教程中都把卷积定义为图像矩阵和卷积核的按位点乘。实际上，这种操作亦应该是互相关（cross-correlation），而卷积需要把卷积核顺时针旋转180度然后再做点乘。但对于深度神经网络，真的不重要。