源视频链接:https://www.bilibili.com/video/BV1Ht411g7Ef?p=13
学习笔记总结
- 深度学习和传统机器学习 处理特征的差异;做传统机器学习必须要做特征工程来选择合适的输入特征,但深度学习是可以不用事先做特征工程,而是在隐藏层中完成特征选择抽取
- 深度学习本质就是神经网络的进一步延伸,每一层神经元运算都是矩阵运算
- 神经网络架构非常重要,决定了潜在可能的函数集合,越复杂的架构越有可能包含正确的函数模型,其次通过梯度下降法 来更新网络参数
- relu sigmod tanlu softmax 是四种常用的激活函数
- 反向传播法 先做一次前向传播再做一次反向传播从而计算出损失函数对网络权重的偏微分 (有效率的计算梯度(Gradient) 的向量(Vector)来更新参数进行梯度下降法
)