迁移学习在深度学习中扮演关键角色，解决数据不足的问题。通过模型Fine-tune，利用预训练模型如Imagenet调整到特定任务，应对小样本数据的过拟合挑战。保守训练关注层的选择，语音识别常复用后层，图像识别则复用前层。多任务学习使不同任务的网络共享，渐进式神经网络逐步学习新任务，域对抗确保特征提取同时保持预测精度。此外，零样本学习和自我学习策略进一步优化模型表现。
文章目录
为什么需要迁移学习
使用深度学习技术解决问题的过程中，最常见的障碍在于，因为模型有大量
的参数需要训练，因此需要海量训练数据作支撑。
Ø 在面对某一领域的具体问题时，通常可能无法得到构建模型所需规模的数据。
Ø 借助迁移学习，在一个模型训练任务中针对某种类型数据获得的关系也可以
轻松地应用于同一领域的不同问题。
模型Fine-‐tune
• 例子: (有监督学习) 电商小品类商品识别
• 源数据: Imagenet多种物体图片
• 目标数据: 电商小品类商品图片
• 基本思想:
• 由原始的imagenet图像训练一个模型(其实大家可以
去下载GoogLeNet/ResNet等)，在自己数据集上调优
• 可能的问题: 在小量调优数据上可能过拟合
保守训练
最低0.47元/天 解锁文章
扫一扫
4068
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
