李宏毅视频:https://www.youtube.com/watch?v=qD6iD4TFsdQ
从已知领域到目标领域的模型迁移
无监督学习是要尽可能的保留原始数据的信息,而有监督学习是过滤与任务无关的信息
深度学习半监督:https://zhuanlan.zhihu.com/p/33196506
- 无标签数据预训练,有标签数据微调
- 利用从网络得到的深度特征来做半监督算法先用有标签数据训练网络(此时网络一般过拟合...),从该网络中提取所有数据的特征,以这些特征来用某种分类算法对无标签数据进行分类,挑选你认为分类正确的无标签数据加入到训练集,再训练网络;如此循环。
- 阶梯网络(Ladder Networks),有监督和无监督损失函数结合:https://blog.csdn.net/hjimce/article/details/50877704
- https://zhuanlan.zhihu.com/p/34516078