机器学习——Transfer learning

机器学习——Transfer learning

当我们的data集与任务不直接相关时：

用不相关的data来训练task

生活中的例子：

One-shot learning：

Model Fine-tuning

用source data训练，用target data优化（fine-tuning）

可以设置限制将一些层与参数别相差太大

可以把一些层直接transfer

Multitask Learning

希望能够去除domain的特征，使得黑白图与彩色图一样
利用一个domain classifier，类似于GAN中的discriminator
网络需要同时骗过domain，也要满足label predictor

如何骗过domain classifier？当它需要梯度下降时，令其上升

Zero-shot Learning

Loss Function：