李宏毅机器学习笔记:深度学习入门简介 反向传播

源视频链接:https://www.bilibili.com/video/BV1Ht411g7Ef?p=13

学习笔记总结

  1. 深度学习和传统机器学习 处理特征的差异;做传统机器学习必须要做特征工程来选择合适的输入特征,但深度学习是可以不用事先做特征工程,而是在隐藏层中完成特征选择抽取
  2. 深度学习本质就是神经网络的进一步延伸,每一层神经元运算都是矩阵运算
  3. 神经网络架构非常重要,决定了潜在可能的函数集合,越复杂的架构越有可能包含正确的函数模型,其次通过梯度下降法 来更新网络参数
  4. relu sigmod tanlu softmax 是四种常用的激活函数
  5. 反向传播法 先做一次前向传播再做一次反向传播从而计算出损失函数对网络权重的偏微分 (有效率的计算梯度(Gradient) 的向量(Vector)来更新参数进行梯度下降法在这里插入图片描述
  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值