对于许多机器学习任务来说,很难知道应该提取哪些特征,比如——想要写代码检测图片中的某一个器官,然而,这个器官会随着场景的变化有各种形态
因此提出了表示学习任务
表示学习:不仅要把表示映射到输出,还要使用机器学习来发掘表示本身。其学习到的表示往往比手动设计的表示表现更优,而且只需要最少的人工干预,就能让AI模型更好适应新的任务。通常需要较短时间就能为任务发现较好的数据集。手动设计特征需要耗费大量成本。
自编码器是表示学习的代表。
自编码器是由一个编码器函数和一个解码器函数组合而成。编码器函数将输入数据转换为一种不同的表示,而解码器函数则将这个新的表示转换为原来输入的形式。
设计自编码器的目的在于:使输入数据在经过编码器和解码器之后尽可能多地保留信息,同时希望新的表示有各种好的特性。
这种好的特性又可以被称为变差因素。这些因素通常不是能够被直接观察到的量,但是却是影响可观测的量。可以被看做是数据的概念或抽象。