"深度学习的迁移模型"主题报告速记与评述(四)

本文评述了一场关于迁移学习的报告,重点探讨了深度学习与迁移学习结合的优势和解决方案。报告指出,迁移学习能提升模型在小数据、可靠性和个性化方面的表现,尤其是适应性。提出了深度学习+迁移学习的解决方案,强调参数迁移在神经网络中的作用。报告还介绍了基于差异、对抗和共享的三种迁移学习范式,并通过实例展示了它们在实际问题中的应用。
摘要由CSDN通过智能技术生成

笔者按 :机器学习正在走向基于“语义”的可解释模型的新时代。迁移学习很有可能接过监督学习今天的辉煌,显著提升模型的可解释性和适应性:不仅在有着大数据的领域性能优异,还能迁移到只有小数据的新领域中表现出色。

概要

CCAI主办方提供了Slides的下载链接。报告分四个主要部分,而本文主要总结和评述前三部分。
 1. 迁移学习的优势
 2. 深度迁移学习解决方案
 3. 三种迁移学习的范式
 4. 迁移学习应用案例

1. 迁移学习的优势

报告归纳了三个关键词:小数据、可靠性和个性化,我所归纳的优势就一个词——“适应性”
 1. 适应小数据:迁移学习能够将大数据所训练的学习器迁移到只有小数据的领域。将“大数据帮助小数据”落地。
是不是很熟悉?其实Dr.Fei Sha的报告也同样关注了“小数据学习”的问题,而采用的具体实现手段不同,后者采用的是多任务学习、领域适应和零样本学习。
 2. 提升可靠性:迁移学习所训练的模型具有适应性,可以迁移到多个领域而不产生显著的性能下降。
 3. 满足个性化:其实也是适应性的体现。例如,每个人的个性化样本可能是小数据,但是在大数据训练出的迁移学习模型基础上,就能很好满足个性化的需求。

既然迁移学习这么好,最有可能接过“监督学习”的接力棒,带动下一轮的机器学习热潮。当然,监督学习还会继续发掘新的领域,而非监督学习和强化学习当然也不甘示弱。
DTL-1

那么,在给出解决方案之前,首先得明确问题:迁移学习的难点是什么?
报告给出的回答是:找出不变量。
什么是不变量呢?
 1. 首先,在下面第一张图中给出了个在不同条件下驾驶汽车的例子,无论是驾驶员还是自动驾驶仪,都需要寻找出在不同条件下“驾驶汽车”的共性知识(即不变量),从而快速适应新的条件。
 2. 如果推广到一般情况,下面第二张图描述了迁移学习中不变量或者共性知识(Knowledge)

  • 3
    点赞
  • 16
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值