卷积神经网络总述
一、激活函数
二、损失函数
神经网络的目标就是找到某套参数,使得计算出来的结果y与已知标准答案y_无限接近。即差距loss值最小。
三、优化器
写代码
Sequential
在Sequential中搭建网络结构,逐层描述每层网络 相当于走了一遍前向传播
Sequential可以认为是一个容易,这个容器中封装了一个神经网络结构,在Sequential中要描述从输入层到输出层每一层的结构
1、拉直层:这一层不含计算,只是形状转换,把输入特征拉直变成一维数组。
metrics:告知网络评测指标
四、卷积计算过程
单通道:
对应位置参数相乘,相加,再加上偏置项b
三通道
动图
见视频【北京大学】TensorFlow2.0
1)感受野
感受野是指输出特征图中的每个像素点,在原始输入图片上映射区域大小。
2)全零填充
采用全零填充可以不改变输出特征图的大小。
3) 批标准化(Batch Normalization ,BN)
神经网络对0附近的数据更敏感。但是随着网络层数的增加,特征数据会出现偏离零均值的情况。
标准化:使数据符合0均值,1为标准差的分布。把偏移的数据重新拉回到0附近
批标准化:对一小批数据(batch),做标准化处理。使数据回归标准正太分布
常用在卷积操作和激活操作之间。
4)池化
用于减少卷积神经网络中特征数据量。
最大池化可以提取图片纹理,均值池化可保留背景特征。
5)舍弃 Dropout
在神经网络训练时,将一部分神经元按照一定概率从神经网络中暂时舍弃。神经网络使用时,被舍弃的神经元恢复链接。