Datawhale李宏毅深度学习笔记Task04

参考链接https://datawhalechina.github.io/leeml-notes/#/chapter13/chapter13

P13

深度学习的三个步骤

Step1：神经网络（Neural network）
Step2：模型评估（Goodness of function）
Step3：选择最优函数（Pick best function）

神经网络

• 全连接
  因为layer之间两两都有链接，所以叫做Fully connect
• 前馈
  传递的方向是由后往前传，所以叫feed foward
• 深度神经网络
  deep=many hidden layer
  
  
  层数越多，运算量越大，需要计算的超参数越多。

神经网络的本质：通过隐藏层进行特征转换

相当于黑箱操作。把隐藏层通过特征提取来替代原来的特征工

模型评估

损失函数。神经网络一般用交叉熵对损失进行计算，一般来说越小越好。

选择最优函数

梯度下降法跟新超参数。神经网络中计算损失最好的方法就是反向传播，我们可以用很多框架来进行计算损失。

P14梯度下降