李宏毅机器学习（22）

More about Auto-encoder

经过之前的学习，我们已经对Auto-encoder有基本的了解。这一课将进一步学习近年来的Auto-encoder的技术。

What is good embedding?

我们回归最开始的问题：我们希望embedding能干什么？
答案很显然：我们希望embedding能代表原来的图片。比如：耳机代表三玖。

换言之，如何知道 Encoder 的输出，能否很好地表征出输入的特性呢？
因此，我们需要有一个 Discriminator ，用于判断图片与embedding是否匹配。当符合情况时，Discriminator 输出Yes，否则输出No。可见，这个Discriminator 是一个二元分类器。
将这个Discriminator设为$\Phi$，我们需要先拿一堆data去train这个$\Phi$，使得 L D L_D L