深度学习笔记（1）

从今天起，归纳整理深度学习读书笔记，《深度学习：基于Matlab的设计实例》~

深度学习是机器学习的分支，要学深度学习，首先要知道机器学习。

1、模型是机器学习的最终输出结果。

2、机器学习是依赖模型自身获得参数而非依赖人，通过训练数据去找模型解决问题。

3、针对某类问题，如果人能够很容易地解决，那我们直接使用大脑中解决办法所遵循的规则无非是极好的，难的是如何把这些规则抽象为计算机能够理解的模型。

4、机器学习建立模型的核心思想是在不容易建立公式和规则的情况下，使用训练的数据“通过合适的算法构建出一个模型”。

5、获得足够的反映行业特性的无偏训练数据对于机器学习算法至关重要。

6、确保模型在训练集和预测集上效果一致的过程被称为“泛化”。一个机器学习模型的成功很大程度上依赖于泛化是否成功。

7、数据包含噪声，一些离群的点会扰乱分类边界，而机器学习考虑所有的数据，如果认为训练数据中的每一个元素都是正确的，并且用它们去精确拟合模型，那么将得到一个低泛化的模型，也就是过拟合。

8、正则化和验证是两种处理过拟合的典型方法。其中验证是指保留一部分训练数据（该部分数据未用于训练）用于观察模型的性能。根据经验，训练集和验证集的比例为8:2。

9、通过交叉验证训练出不同的模型，按照各模型权重得到最终模型。

10、依据训练方法的不同，可以将它们分成三种类型：监督学习（训练数据有输入和对应的正确输出）、无监督学习（训练数据有输入无输出，通常应用于对数据分类预处理，比如聚类）以及强化学习（训练数据有输入、输出以及输出的等级）。

11、分类和回归是监督学习中最常见的俩种，其中回归是预测数据的趋势，是估计一个值，比如根据某个年龄来估计收入的模型。