读书笔记——《解析卷积神经网络 ——深度学习实践手册(魏秀参)》

本文深入探讨了卷积神经网络(CNN)的发展历程、基本结构、关键部件,包括卷积层、池化层、激活函数的作用。介绍了经典网络模型如Alex-Net、VGG-Nets、Residual Network,并讨论了数据扩充、预处理、参数初始化、激活函数的选择及目标函数。此外,还提到了防止过拟合的正则化方法,以及超参数设定和网络训练的策略。
摘要由CSDN通过智能技术生成

#卷积神经网络(CNN)基本概念#

##发展历程##

  • 1959 加拿大神经科学家提出感受野概念
  • 1980日本科学家福岛邦彦提出神经认知模型,S-cells抽取局部特征—>卷积convolution层,C-cells抽象和容错—>池化pooling层
  • 1998 Yann LeCun 基于梯度学习的卷积神经网络LeNet 手写字体识别
  • 2012 Hinton AlexNet在ImageNet夺冠
  • 2015 改进激活函数,预测能力超过人类

##基本结构

  • 原始数据raw data representation—>卷积、池化、非线性激活函数(不同操作层的“堆叠”)—>映射为高级语义表示—>向任务目标映射==>“端到端”学习或“表示学习”
  • 前馈运算:对样本进行推理和预测
  • 反馈运算:将预测误差反向传播逐层更新参数
  • 两种运算交替以训练网络模型

##基本部件

  • “端到端”学习,替代特征表示+分类器
  • 网络某一层的输入通常是一个四维张量(高度,宽度,维度,mini-batch)

卷积层

  • 卷积核f可视为学习到的权重w,对不同位置的所有输入都是相同的,即卷积层的“权值共享”特性。可加入偏置项b。
  • 超参数:卷积核大小filter size、卷积步长stride
  • 作用:获取图像的局部信息,如边缘、颜色、形状、纹理等。
    汇合层(池化层)
  • 超参数&#x
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值