十五天掌握CNN——卷积神经网络简介 & 数据输入层

魏老师学生——Cecil:学习卷积神经网络CNN之旅

神经网络的结构

神经网络分为输入层、中间层、输出层。如图:
1

卷积神经网络

  1. Convolutional Neural Networks CNN:可以有效降低反馈(传统)神经网络的复杂性。
  2. 常见CNN结构:LeNet-5、AlexNet、ZFNet、VGGNet、GoogleNet、ResNet、DenseNet、SENet、Residual Attention Networks、MobileNet、ShuffleNet。
  3. CNN发展的重要方向:层次的增加,从而利用增加的非线性神经元得出目标函数的近似结构,同时得出更好的特征表达。但是也导致了网络整体复杂度增加,使网络更加难优化。很容易产生模型过拟合 \ 模型退化情况。
  4. 应用:图像分类、目标检测以及图像分割。
  5. 层次结构:保持了层级网络结构;不同层次使用不同形式(运算)和功能。2
  6. 主要层次:数据输入层(Input Layer)、卷积计算层(CONV Layer)、ReLU激励层(ReLU Incentive Layer)、池化层(Pooling Layer)、全连接层(FC Layer)、可能有批归一化层(Batch Normalization Layer)

数据输入层(Input Layer)

类似神经网络 / 机器学习,输入数据需要进行预处理操作,原因:

  1. 防止输入数据单位不一样,导致神经网络收敛速度慢、训练时间长。
  2. 数据范围大的输入在模式分类中作用偏大,反之偏小。
  3. 神经网络中存在的激活函数有值域限制,必须将网络训练的目标数据映射到激活函数值域。
  4. S形激活函数在(-4,4)区间外很平缓,区分度太低。

常见三种数据预处理方式:
去均值(将输入数据的各个维度中心化到0)
标准化(将输入数据的各个维度的幅度标准化到同样范围)
PCA \ 白化(用PCA降维,即去掉特征与特征之间的相关性;在PCA基础上对转换后的数据每个特征轴上的幅度标准化为白化)

去均值 & 标准化
3
PCA & 白化
4
数据特征预处理方法: 去均值、归一化、标准化、区间缩放法。常用去均值和归一化。
5

  • 2
    点赞
  • 19
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值