深度学习（花书）读书笔记-第一章前言

表示（representation）

• 简单的机器学习算法的性能在很大程度上依赖于给定数据的表示。例如，当逻辑回归被用于判断产妇是否适合剖腹产时，AI 系统不会直接检查患者。相反，医生需要告诉系统几条相关的信息，诸如是否存在子宫疤痕。表示患者的每条信息被称为一个特征。
• 在整个计算机科学乃至日常生活中，对表示的依赖都是一个普遍现象。表示的选择会对机器学习的算法性能产生巨大的影响。
• 许多人工智能任务都可以通过以下方式解决：先提取一个合适的特征集，然后将这些特征提供给简单的机器学习算法。例如，对于通过声音鉴别说话者的任务来说，一个有用的特征是对其声道大小的估计。这个特征为判断说话者是男性、女性还是儿童提供了有力线索。然而，对于许多任务来说，我们很难知道应该提取哪些特征。

表示学习（representation learning）

• 解决上述问题的途径之一是使用机器学习来发掘表示本身，而不仅仅把表示映射到输出，这种方法我们称之为表示学习（representation learning）。
• 学习到的表示往往比手动设计的表示表现得更好。并且它们只需最少的人工干预，就能让AI系统迅速适应新的任务。
• 从原始数据中提取高层次、抽象的特征是非常困难的。许多诸如说话
  口音这样的变差因素（可以理解为影响问题分析的某些因素,比如当分析汽车的图像时，变差因素包括汽车的位置、它的颜色、太阳的角度和亮度），只能通过对数据进行复杂的、接近人类水平的理解来辨识。这几乎与获得原问题的表示一样困难，因此，乍一看，表示学习似乎并不能帮助我们。

深度学习（Deep learing）

• 深度学习通过其他较简单的表示来表达复杂表示，解决了表示学习中的核心问题。
  

• 如上图所示，将一组像素映射到对象标识的函数非常复杂。如果直接处理，学习或评估此映射似乎是不可能的。深度学习将所需的复杂映射分解为一系列嵌套的简单映射（每个由模型的不同层描述）来解决这一难题。