神经网络的学习

简单概括一下一些神经网络的概念，对神经网络有一个形象化的认识：
神经网络 —> 层(输入层、隐藏层、输出层) —> 神经元 —> 激活值

一些概念或认识的总结：

1、深度学习的本质：通过组合简单的概念来表达复杂的事物

2、神经网络处理信息的核心机制：每一层的激活值将通过某种方式计算出下一层的激活值

3、权重与偏置的实际意义:

1. 宏观来看，权重在告诉你当前神经元应该更关注来自上一层的哪些单元；或者说权重指示了连接的强弱
2. 偏置则告诉你加权和应该多大才能使神经元的激发变得有意义；或者说当前神经元是否更容易被激活

4、机器“学习”的实质
当我们在讨论机器如何“学习”时，实际上指的是机器如何正确设置这些参数

5、神经网络本质上是一个函数
每个神经元可以看作是一个函数，其输入是上一层所有单元的输出，然后输出一个激活值
宏观来看，神经网络也是一个函数

参考：https://github.com/imhuay/Algorithm_Interview_Notes-Chinese/blob/master/C-数学/B-深度学习的核心.md