【书籍阅读】深度学习学习记录1——深度神经网络

用于记录深度学习的学习过程中了解到的一些基础知识

深度神经网络原理

1.深度神经网络介绍

人工智能、机器学习、深度学习之间的关系如下图所示。
机器学习按其实现的目标不同，可以分为监督学习、无监督学习、强化学习。

2.人工神经元模型

是收到了生物神经元的启发，诞生了人工神经元模型（Artificial Neuron，AN），也成为M-P模型。主要包括两个阶段：
（1）预激活阶段
接受其他神经元传来的输入信号，加权计算后得到结果。

（2）激活阶段
将加权得到的结果传递给激活函数，从而压缩在一定范围内，数值的大小决定了活跃/抑制的状态，最终产生输出。

3.深度概念

（1）从底层到高层的特征抽象
大脑的工作过程本身就是一个不断迭代、不断抽象概念化的过程。
（2）更深的网络结构
浅层的表征结构随层数为线性增长，而深度表征结构是指数增长。
（3）自动特征提取
浅层模型都需要人工来抽取样本的特征，特征提取的好坏成为左右整个模型系统性能的重要因素。
深度学习框架将特征提取和分类器结合到一个框架中。
“深度模型”是手段，“特征学习”是目的。

4.深度学习的拓展

深度学习在一开始的目标是复制人类的能力，如今会有新的拓展——计算机视觉领域的深度学习从视频中可视物体的振动中识别相应的声波。