【深度学习基础】多任务学习（Multi-Task Learning）

置顶 已于 2025-02-04 10:13:08 修改
阅读量1.4w 收藏 149
点赞数 98
分类专栏： 《AI认知筑基三十讲》 文章标签： 多任务学习 深度学习 人工智能 机器学习
于 2024-09-26 13:36:58 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_67656158/article/details/142497490
版权

🌈 个人主页：十二月的猫-CSDN博客
🔥 系列专栏： 🏀深度学习_十二月的猫的博客-CSDN博客

💪🏻 十二月的寒冬阻挡不了春天的脚步，十二点的黑夜遮蔽不住黎明的曙光

目录

1. 前言

2. 多任务和单任务学习的对比

2.1 简单定义

2.2 多任务学习必要性 

 2.3 图解多任务学习

2.4 一个例子

3. 多任务学习

3.1 定义

3.2 典型方法

3.3 深度学习中两种多任务学习模式

3.4 多任务学习有效的原因（数学角度）

3.5 多任务学习提出的动机（直觉角度）

4. 总结

1. 前言

多任务学习&#

了解本专栏 订阅专栏 解锁全文 超级会员免费看
多任务学习(Multi-Task Learning)
AI天才研究院
07-12 706
多任务学习(Multi-Task Learning) Multi Task Learning. 本文目录： 多任务学习的定义及特点 多任务学习的网络结构 多任务学习的损失函数
多任务学习优化总结 Multi-task learning（附代码）
Treasure Ashes
07-29 1万+
Multi-task Learning(Review)多任务学习概述 多任务学习优化（Optimization in Multi-task learning） Multi-Task Learning as Multi-Objective Optimization 阅读笔记 Multi-Task Learning Using Uncertainty to Weigh Losses GradNorm：Gradient Normalization for Adaptive Loss Balancing
《多任务学习》最新综述论文
04-06
多任务学习(Multi-Task Learning, MTL)是机器学习中的一种学习范式，其目的是利用多个相关任务中包含的有用信息来帮助提高所有任务的泛化性能。本文从算法建模、应用和理论分析三个方面对MTL进行了综述。在算法建模方面，给出了MTL的定义，并将不同的MTL算法分为特征学习、低秩、任务聚类、任务关系学习和分解五类，并讨论了每种方法的特点。
Multi-task learning（多任务学习）简介
热门推荐
MultimediaComputingGroup_blogs
08-07 2万+
1. 什么是Multi-task learning？ Multi-tasklearning （多任务学习）是和single-task learning （单任务学习）相对的一种机器学习方法。拿大家经常使用的school data做个简单的对比，school data是用来预测学生成绩的回归问题的数据集，总共有139个中学的15362个学生，其中每一个中学都可以看作是一个预测任务。单任务学习就是忽
多任务分支深度学习：人工智能的高效协同模型
最新发布
weixin_42518334的博客
03-12 900
本文还有配套的精品资源，点击获取 简介：多任务分支深度学习结合了深度学习和多任务学习的优势，通过共享特征提取和任务特定优化，提高解决多任务问题的效率和准确性。在计算机视觉和自然语言处理等多个领域中，这种模型能够同时处理多个相关任务，提升性能并减少冗余计算。尽管面临挑战，例如任务冲突和资源需求增加，但通过优化策略，可以有效应对并推动AI技术的发展。 1. 多任务分支...
【论文笔记】多任务学习（Multi-Task Learning）
weixin_34406086的博客
01-08 7567
1. 前言 　　多任务学习（Multi-task learning）是和单任务学习（single-task learning）相对的一种机器学习方法。在机器学习领域，标准的算法理论是一次学习一个任务，也就是系统的输出为实数的情况。复杂的学习问题先被分解成理论上独立的子问题，然后分别对每个子问题进行学习，最后通过对子问题学习结果的组合建立复杂问题的数学模型。多任务学习是一种联合学习，多个任务并行学...
多任务学习模型-AdaTT
xw555666的博客
05-27 2683
AdaTT在多任务学习领域展现出了强大的性能和广泛的应用潜力。与PLE和MMoE等模型相比，AdaTT通过其自适应融合机制和多层次融合策略，有效地处理了不同任务之间的关系，并促进了知识的共享和特定任务的学习。特别是在任务相关性多样化的情况下，AdaTT能够更好地适应和学习，展现出其独特的优势。
多任务学习模型MTL: MMoE、PLE
sgyuanshi的博客
10-25 1万+
常见的监督学习包括： 回归：预测值为连续值，如销售额； 二分类：预测值为离散值，且只有两种取值，如性别，要么是男，要么是女； 多分类：预测值为离散值，且多于两种取值，如动物分类，可能有猫、狗、狮子等等； 还有另外一种，也是本文的主角：多任务学习（Multi Task Learning）。 MTL介绍 首先，介绍什么是多任务学习，例如之前文章提到的微信视频场景，同时包含多个学习目标（task）：是否转发、是否点赞、是否关注等。 微信大数据挑战赛 以往的做法可能会对不同的task分别建立对应的模型，但这样会
多任务学习
xw555666的博客
05-22 2919
多任务学习（Multi-task Learning, MTL）是一种机器学习范式，它旨在同时学习多个相关任务，以提高模型在各个任务上的性能。数学上，多任务学习可以表示为一个联合优化问题，其中模型需要在多个任务上同时优化。
多任务学习Multi-task Learning(MTL)概述
05-20 7810
本文学习资料主要来自An Overview of Multi-Task Learning in Deep Neural Networks 背景：只专注于单个模型可能会忽略一些相关任务中可能提升目标任务的潜在信息，通过进行一定程度的共享不同任务之间的参数，可能会使原任务泛化更好。广义的讲，只要l...
Multi-task Learning
十一城
11-13 417
单任务学习：一次只学习一个任务（task），大部分的机器学习任务都属于单任务学习 多任务学习：把多个相关（related）的任务放在一起学习，同时学习多个任务。 多任务学习产生的原因？ 现在大多数机器学习任务都是单任务学习。对于复杂的问题，也可以分解为简单且相互独立的子问题来单独解决，然后再合并结果，得到最初复杂问题的结果。这样做看似合理，其实是不正确的，因为现实世界中很多问题不能分解为一个一个独立的子问题，即使可以分解，各个子问题之间也是相互关联的，通过一些共享因素或共享表示（share repres.
【多任务学习】Multi-task Learning 手把手编码带数据集, 一文吃透多任务学习
weixin_40293999的博客
05-08 5225
我们之前讲过的模型通常聚焦单个任务,比如预测图片的类别等,在训练的时候,我们会关注某一个特定指标的优化.但是有时候,我们需要知道一个图片,从它身上知道新闻的类型(政治/体育/娱乐)和是男性的新闻还是女性的.我们关注某一个特定指标的优化,可能忽略了对有关注的指标的有用信息.具体来说就是训练相关任务所带来的额外信息,通过在多个相关任务中共享表示,我们可以使得模型在我们原本任务上获得更好的泛化能力.这种方法就叫做多任务学习.
Multitask-Learning:很棒的多任务学习资源
04-30
Multitask-Learning 多任务学习相关资料，主要包括代表性学者主页、论文、综述、幻灯片、论文集和开源代码。欢迎分享~ This repository collects Multitask-Learning related materials, mainly including the homepage of representative scholars, papers, surveys, slides, proceedings, and open-source projects. Welcome to share these materials! Something New!!! Homepage ML^2 @ UCF Elisa Ricci Gjorgji Strezoski Machine Learning with Interdependent and Non-ide
An Interactive Multi-Task Learning Framework for Next POI_code.zip
04-16
该框架利用了多任务学习（Multi-Task Learning）方法，通过互动的方式提升预测准确性。在本文中，我们将深入理解这个框架的核心概念、算法实现以及其在实际应用中的价值。 首先，我们需要了解POI预测的重要性。在...
【多任务模型】腾讯MFH《Multi-Faceted Hierarchical Multi-Task Learning for a Large Number of Tasks
chadlee
08-01 1179
特别是task非常多的时候又有新的问题一般一个MTL模型只能处理2～6个任务，对于10～20个任务一般需要2～3个MTL模型，所以当任务数量多起来的时候1、task之间会有复杂的关系；以往的MTL都是在微观级别上创新Switcher的结构，以提高合作学习的效率，这一定程度上是因为他们的场景task少，negativetransfer没这么严重。类似FM的思想，将多棵H-MTL交叉，每棵树是一个强语义表示，像FM一样对每棵树进行“特征交叉”，自动的构造多个任务的组合，从而提高了学习的效率和质量。......
Multi-Task Learning Using Uncertainty to Weigh Losses
h__ang的博客
08-04 4130
论文题目：Multi-Task Learning Using Uncertainty to Weigh Losses for Scene Geometry and Semantics 中文翻译：使用不确定性来衡量权重损失的多任务学习——用于几何和语义场景 ...
机器学习算法详解：多任务学习
DeepViewInsight的博客
09-20 1410
机器学习的目标是让机器能够从数据中学习并执行各种任务。多任务学习（Multi-Task Learning，MTL）是一种机器学习方法，它旨在使一个模型能够同时学习并执行多个相关任务。这篇博客将深入介绍多任务学习的概念、应用场景以及如何实现它。无论你是初学者还是有一定机器学习经验的人，本文都将为你提供有关多任务学习的深入了解。
评论 47
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

十二月的猫

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值