深度学习基本大纲

引言：机器学习
【人】先判断函数的集合（建立模型）——>【人】评价的好坏（损失函数）——>【机器】（参数学习）

深度学习（无监督学习）

通过基本的神经元（基本函数+激活函数）来组成一个更为复杂的函数，我的理解是：复合函数

建立模型

神经元
由于某些函数组合后，仍然为基本函数，因此在这个过程中引入激活函数（连续性，非线性）。

前馈神经网络
用来确定函数的基本形态
输出层常用softmax函数作为激活函数：从而达到容易理解，便于计算的目的。

损失函数

将所有的损失相加得到总损失，寻找一个模型（参数）使得总损失尽可能的小

常用的损失函数
平方误差 L=(实际值-理想值)^2
交叉熵

参数学习

梯度下降算法


其中n为学习速率，也就是更新间隔

反向传播算法

树的关系
对于反向传播算法，不用过多的深究，有已经存在好的框架。