简单概括一下一些神经网络的概念,对神经网络有一个形象化的认识:
神经网络 —> 层(输入层、隐藏层、输出层) —> 神经元 —> 激活值
一些概念或认识的总结:
1、深度学习的本质:通过组合简单的概念来表达复杂的事物
2、神经网络处理信息的核心机制:每一层的激活值将通过某种方式计算出下一层的激活值
3、权重与偏置的实际意义:
- 宏观来看,权重在告诉你当前神经元应该更关注来自上一层的哪些单元;或者说权重指示了连接的强弱
- 偏置则告诉你加权和应该多大才能使神经元的激发变得有意义;或者说当前神经元是否更容易被激活
4、机器“学习”的实质
当我们在讨论机器如何“学习”时,实际上指的是机器如何正确设置这些参数
5、神经网络本质上是一个函数
每个神经元可以看作是一个函数,其输入是上一层所有单元的输出,然后输出一个激活值
宏观来看,神经网络也是一个函数
参考:https://github.com/imhuay/Algorithm_Interview_Notes-Chinese/blob/master/C-数学/B-深度学习的核心.md