深度学习参数、超参数及参数的传播

1、参数:就是模型可以根据数据可以自动学习出的变量,应该就是参数。比如,深度学习的权重,偏差等。

2、超参数:就是用来确定模型的一些参数,超参数不同,模型是不同的(比如说:假设都是CNN模型,如果层数不同,模型不一样,虽然都是CNN模型。),超参数一般就是根据经验确定的变量。**在深度学习中,超参数有:学习速率,迭代次数,层数,每层神经元的个数等等。**需要提前手动设置,不会因反向传播更新。
3、参数传播一种常见的方法:
梯度下降算法,步骤为:
1、初始化随机权重和偏差。
2、把输入传入网络,得到输出值。
3、计算预测值和真实值之间的误差。
4、对每一个产生误差的神经元,改变相应的(权重)值以减小误差。
5、迭代跟新,直到找到最佳权重。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值