AlexNet学习

AlexNet是深度学习领域的里程碑之作,它首次采用GPU加速网络训练,使用ReLU激活函数,并结合LRN和Dropout技术减少过拟合。该网络包含多个卷积层和maxpooling层,通过全连接层输出类别。卷积运算中,滤波器与图像进行内积,生成特征映射,通过调整滤波器大小、步距和填充,控制输出尺寸。这些创新为后续深度学习模型奠定了基础。
摘要由CSDN通过智能技术生成

AlexNet的主要特点有以下三点:

  • 首次利用了GPU进行网络的加速训练。
  • 激活函数使用的是ReLU,而不是sigmoid或tanh。
  • 使用了LRN局部网络归一化(效果不大)。
  • 使用了Dropout方法随机失活神经元减少过拟合。

AlexNet整个网络结构如图所示:

 有很多卷积层和maxpooling层,最后通过一个全连接层输出类别,在这里,需要回顾一下卷积神经网络的一些概念。

卷积

假设要识别的图像的尺寸是 6*6,现在有多个Filter(卷积核),里面的参数是需要网络学习的,卷积操作即是:

  1. 将Filter放到图像的左上角,做矩阵的内积运算(对应数相乘,结果相加),结果保存。
  2. 向右移动stride(步距),继续内积运算,重复此步,直到到达右边界后向下移动一个stride。
  3. 重复步骤2。

这里假设Filter是3*3的,步距是1,那么最后就会生成一个4*4的矩阵,称为feature-ma

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值