深度学习：神经元、神经网络、激活函数、损失函数、前向传播、后向传播

1. 神经元就是处理单元，处理逻辑称激活函数。
2. 多个神经元构成神经网络。
3. 输入层经过神经网络，得到输出层。
4. 神经元构成的层，称隐藏层，可以有多层，共享输入集和输出集。

1. 神经网络训练时，选择一个样本，确定输入层和输出层，根据经验预设激活函数集，然后前向传播，也就是从输入层到输出层方向调整激活函数集的参数。
2. 换一个样本，根据新的输入层和当前的神经网络，得到实际输出层。根据损失函数（根据输出的预期值和实际值的差距容忍度的评估方式建立，比如：不同的样本，差距1有的认为大，有的认为小）计算拟合度，然后后向传播，也就是从预期输出层方向到输入层方向调整激活函数集的参数。
3. 再次根据损失函数（根据输出的预期值和实际值的差距容忍度建立）计算拟合度。换一个样本，正向传播方式调整激活函数集的参数。
4. 反复迭代激活函数参数，甚至调整激活函数类型，让新样本的输出拟合度越来越高，最终得到一个适用于大多数甚至所有样本的激活函数集，