机器学习基础--各种学习方式（22）--表征学习

表征学习/表示学习（representation learning）

　　在欧几里德空间（例如，ℝnRn 中的向量空间）中是否存在一种符号属性，可以表示出（任意构建的）原始对象？这被称为表征学习（representation learning）。
　　例如我们希望找到城市的向量表示，从而可以进行这样的向量运算：罗马 - 意大利 + 法国 = 巴黎。
　　机器学习旨在自动地学到从数据的表示（representation）到数据的标记（label）的映射。随着机器学习算法的日趋成熟，人们发现，在某些领域（如图像、语音、文本等），如何从数据中提取合适的表示成为整个任务的瓶颈所在，而数据表示的好坏直接影响后续学习任务（所谓garbage in，garbage out）。与其依赖人类专家设计手工特征（难设计还不见得好用），表示学习希望能从数据中自动地学到从数据的原始形式到数据的表示之间的映射。

　　而DL就是不用手工选取，深度学习就是学习表征。
　　2013 年，Yann LeCun 和 Yosha Bengio 发起这个会议，是因为存在这种需求—— 在一个新的、小的、高质量的场所，集中讨论深度方法。为什么这个会议被称为「学习表征（Learning Representations）」呢？因为以端到端的方式训练的典型深度神经网络，事实上学习的是这样的中间表征（intermediate representations）。传统的浅层方法是以可训练分类器之上、人工处理过的特征为基础；但是，深度方法学习的是一个层级网络，它不仅学习那些高度渴望的特征，也学习分类器。所以，当模糊特征和分类器之间的界限时，你能得到什么？你得到了表征学习（representation learning）。而深度学习也就是这么一回事。