Deeplearning Toolbox中CNN代码的修改--增加下采样层偏置

本文介绍了如何在Deeplearning Toolbox的卷积神经网络(CNN)中增加下采样层的偏置和激活函数,包括在cnnsetup.m中初始化参数,在cnnff.m中添加前向传播计算,在cnnbp.m中处理delta计算和梯度计算,并在cnnapplaygrads.m中实现参数更新。
摘要由CSDN通过智能技术生成
    前几天学习了Deeplearning Toolbox中关于CNN的那部分代码,发现这个Toolbox的关于CNN的实现与经典的LeNet-5的实现有下面几点不同: 
  1. 在下采样层,在计算前一层的神经元之和后没有使用到偏置;
  2. 在下采样层,在计算前一层的神经元之和后没有使用到系数;
  3. 在下采样层,没有使用Sigmoid函数进行激活
    因此,在学习了CNN的代码后,就要进行修改了。
    在Toolbox中,CNN主要有四个部分组成,cnnsetup.m用于设置CNN的结构和初始化参数,cnnff用于计算前向过程,cnnbp用于计算各层的delta和每一个参数的梯度,cnnapplaygrads使用梯度下降算法计算更新每一个参数。
    因此,每添加一个参数或者添加激活函数,都需要在相应的修改者四个文件中的部分。主要步骤如下:
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值