深度学习理论向应用的过渡课程【北京大学_TensorFlow2.0笔记】学习笔记(九)——TensorFlow描述CNN:感受野、全零填充、卷积计算层、BN、池化、舍弃

本文介绍了从深度学习理论到应用的过渡,重点讲解了TensorFlow2.0中CNN的相关概念,包括感受野、全零填充、卷积计算层、批标准化(BN)、池化和舍弃(Dropout)。卷积通过参数共享实现特征提取,BN提升网络性能,池化和Dropout则有助于减少过拟合。文章还提及Cifar10数据集的应用。
摘要由CSDN通过智能技术生成

watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBAbTBfNTg1ODYyMzU=,size_20,color_FFFFFF,t_70,g_se,x_16

若某层模型的特征提取能力不足,可在这一层多用几个卷积核以提高这层的特征提取能力。

watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBAbTBfNTg1ODYyMzU=,size_20,color_FFFFFF,t_70,g_se,x_16

每个小颗粒存储着一个待训练参数。在执行卷积计算时,卷积核里的参数固定。反向传播时,小颗粒中的待训练参数会被梯度下降法更新。卷积就是使用了立体卷积核,实现了参数的空间共享。

卷积过程如下:

单通道卷积

watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBAbTBfNTg1ODYyMzU=,size_20,color_FFFFFF,t_70,g_se,x_16

三通道卷积

watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBAbTBfNTg1ODYyMzU=,size_20,color_FFFFFF,t_70,g_se,x_16

几个概念

1、感受野

下图上方5*5的卷积核和两个3*3卷积核最后得到的1*1特征向量所对应的原始输入图片的感受野均为5*5。那究竟如何选择卷积核?见下图下方。

watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBAbTBfNTg1ODYyMzU=,size_20,color_FFFFFF,t_70,g_se,x_16

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值