读书笔记1-《神经网络与深度学习》

《 神经网络与深度学习 》 Neural Networks and Deep Learning

 从根源来讲，深度学习是机器学习的 一个分支，是指一类问题以及解决这类问题的方法。深度学习指从有限样例中通过算法总结出一般性的规律，并可以应用到新的未知数据上。

贡献度分配问题：深度学习采用的模型一般比较复杂，指样本的原始输入到输出目标之间的数据流经过多个线性或非线性的组件（component）．因为每个组件都会 对信息进行加工，并进而影响后续的组件，所以当我们最后得到输出结果时，我 们并不清楚其中每个组件的贡献是多少？目前，一种可以比较好解决贡献度分配问题的模型是人工神经网络。

1.1人工智能

人工智能的研究范畴：机器感知（计算机视觉、语音信息处理）、学习（模式识别、机器学习、强化学习）、语言（自然语言处理）、记忆（知识表示）、决策（规划、数据挖掘）等。

目前 ， 人工智能的主要领域大体上可以分为以下几个方面 ：

（ 1 ） 感知 ： 模拟人的感知能力 ， 对外部刺激信息 （ 视觉和语音等 ） 进行感知和加工． 主要研究领域包括语音信息处理和计算机视觉等 ．

（ 2 ） 学习 ： 模拟人的学习能力 ， 主要研究如何从样例或从与环境的交互中进行学习． 主要研究领域包括监督学习 、 无监督学习和强化学习等 ．

（ 3 ） 认知 ： 模拟人的认知能力 ， 主要研究领域包括知识表示 、 自然语言理解、 推理 、 规划 、 决策等 ．

1.2机器学习

机器学习 （ Machine Learning ， ML ） 是指从有限的观测数据中学习 （ 或 “ 猜测”） 出具有一般性的规律 ， 并利用这些规律对未知数据进行预测的方法 ．

在实际任务中使用机器学习模型一般会包含以下几个步骤:数据预处理--特征提取--特征转化--预测.

1.3表示学习

表示学习： 自动地学习出有效的特征，并提高最终机器学习模型的性能。 表示学习的关键是解决 语义鸿沟 （ Semantic Gap ） 问题。

1.4深度学习

深度学习是机器学习的一个子问题 ， 其主要目的是从数据中自动学习到有效的特征表示．

目前 ， 深度学习采用的模型主要是神经网络模型 ， 其主要原因是神经网络模型可以使用误差反向传播算法， 从而可以比较好地解决贡献度分配问题 ． 只要是超过一层的神经网络都会存在贡献度分配问题， 因此可以将超过一层的神经网络都看作深度学习模型．