主动学习研究（2）：论文解读

最新推荐文章于 2024-06-07 09:55:12 发布
最新推荐文章于 2024-06-07 09:55:12 发布
阅读量388 收藏 3
点赞数
文章标签： nlp 机器学习 人工智能 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44487404/article/details/118669074
版权
本文详细解读了四篇关于主动学习的研究论文，包括《Learning loss for active learning》提出的损失预测方法，Variational Adversarial Active Learning在ICCV 2019的成果，Bayesian Generative Active Deep Learning的贝叶斯生成模型，以及ALICE如何使用对比学习和自然语言解释进行主动学习。这些研究展示了主动学习在深度网络中如何提升学习效率和准确性。
摘要由CSDN通过智能技术生成

主动学习研究（2）：论文解读

1. 《Learning loss for active learning》（CVPR 2019，oral）

本文贡献包括：
1）提出了一种简单而有效的主动学习方法，该方法具有损失预测模块，可直接应用于深度网络的任何任务。
2）利用现有的网络体系结构，通过分类、回归和混合三个学习任务来评估所提出的方法。
在这里插入图片描述

损失预测模块的输入为目标模块的中间层提取的多层特征映射，这些多重连接的特征值使得损失预测模块能够有效利用层间的有用信息进行损失预测。
首先，通过一个全局平均池（global average pooling, GAP）层和一个全连接层（full connected layer，FC），将每个输入特征映射简化为一个固定维度的特征向量。然后，连接所有特征并输入另一个全连接层，产生一个标量值作为预测损失。损失预测模块与目标模块的多个层次相连接，将多级特征融合并映射到一个标量值作为损失预测。
损失函数计算方法：
在这里插入图片描述

损失函数计算公式由目标预测模块和损失预测模块

最低0.47元/天 解锁文章
曾阿牛nlper
关注
NL2SQL进阶系列(5)：论文解读业界前沿方案（DIN-SQL、C3-SQL、DAIL-SQL、SQL-PaLM）、新一代数据集BIRD-SQL解读
丨汀、的博客
04-15 1703
NL2SQL进阶系列(5)：论文解读业界前沿方案（DIN-SQL、C3-SQL、DAIL-SQL）、新一代数据集BIRD-SQL解读
科研学习|论文解读——信息行为和社会控制：了解家庭慢性病管理中的冲突信息行为
也许有一天我们再相逢 睁开眼睛看清楚 我才是英雄！
01-03 994
这项为期2年的纵向研究包括患有糖尿病或艾滋病的家庭，所选病症代表了慢性病经历的差异例如：传染性，治疗类型，污名化程度。数据收集时间为2010年冬至2013年冬。密歇根大学机构审查委员会批准了该项研究。
2019年关于主动学习的三篇论文
qq_42671132的博客
12-25 895
https://zhuanlan.zhihu.com/p/78350546 目前推广应用的机器学习方法或模型主要解决分类问题，即给定一组数据（文本、图像、视频等），判断数据类别或将同类数据归类等，训练过程依赖于已标注类别的训练数据集。在实验条件下，这些方法或模型可以通过大规模的训练集获得较好的处理效果。然而在应用场景下，能够得到的数据实际上都没有进行人工标注处理，对这些数据进行类别标注所耗...
主动学习-必读论文-AMiner
AI_Conf的博客
11-12 398
AMiner平台由清华大学计算机系研发，拥有我国完全自主知识产权。平台包含了超过2.3亿学术论文/专利和1.36亿学者的科技图谱，提供学者评价、专家发现、智能指派、学术地图等科技情报专业化服务。系统2006年上线，吸引了全球220个国家/地区1000多万独立IP访问，数据下载量230万次，年度访问量超过1100万，成为学术搜索和社会网络挖掘研究的重要数据和实验平台。 AMiner平台：https://www.aminer.cn 主动学习（Active learning or query learning.
CVPR2019 主动学习方面论文
追随梦想，实现梦想
06-20 535
1 Learning Loss for Active Learning 论文下载 直接预测样本的Loss CVPR2019 论文接受列表
主动学习论文报告
weixin_30261095的博客
03-12 128
最近读论文，老师叫写的报告。。。 1.1. Title： Localized Generalization Error Model and Its Application to Architecture selection for Radial Basis Function Neural Network 1.2. Problem authors wanted to solve...
主动学习方面的文章
追随梦想，实现梦想
03-28 1041
主动学习年度进展|VALSE2018 加速机器学习：从主动学习到BERT和流体标注 UT Austin博士生沈彦尧：基于深度主动学习的命名实体识别 【Active Learning - 01】深入学习“主动学习”：如何显著地减少标注代价 ...
论文解读：《基于主从博弈的主动配电网阻塞管理》
资源摘要信息:"该资源是一篇关于《基于主从博弈的主动配电网阻塞管理》的论文解读，该论文可以在知网下载，同时在博主的博客上有详细的解读。本论文主要研究的是随着需求侧灵活性资源在配电网中的渗透率不断提高，其...
探索主动学习的代表性和信息性
05-12
在《探索主动学习的代表性和信息性》这篇研究论文中，作者们提出了一个通用的主动学习框架，该框架旨在有效地融合样本的代表性和信息性两个关键属性。这一方法对于在文本分析、图像识别和社会网络建模等多个应用领域...
【主动学习 07】Fine-tuning Convolutional Neural Networks for Biomedical Image Analysis...(CVPR 2017 oral)
chadlee
08-26 350
Fine-tuning Convolutional Neural Networks for Biomedical Image Analysis: Actively and Incrementally CVPR’2017 上篇ADMA中实验对比的二分类Baseline AIFT（Active incremental fine-tuning method）就来自这篇，这里的AIFT算法并不是着重于主动学习查询策略，而是在“预训练模型上持续的主动学习fine-tuning”这个概念，并且是零样本启动。这篇工作里的
【主动学习 08】Learning loss for active learning (CVPR 2019 oral)
chadlee
08-26 654
Learning loss for active learning 这篇文章idea虽然很fancy，还是CVPR oral，但是在社区讨论中评价并不是很好，效果难以复现。 Motivation 主动学习的query方法大多都是为了特定的目标任务精心设计，泛化性差；要么就是计算效率差，主动学习作为一个框架应该是任务无偏的。 方法 模型是任何任务的模型都可以，如图(a)只需要附加一个Loss prediction module，这个Loss prediction module的输入是“主模型”内部的每一层的
CVPR2022-boostMIS：SSL+AL
qq_43288368的博客
04-26 455
CVPR 2022 主动学习与半监督学习结合 论文链接：https://arxiv.org/abs/2203.02533 1. Motivation 2. Method 网络结构： 整个方法包括ssl和al两个部分。SSL在主任务上使用有标签数据进行监督学习，在无标签数据集上使用一致性的自适应标签传播。主任务和半监督学习共享网络参数。在无标签数据集上分别对数据进行弱增强和强增强，两类扰动数据输入不同的网络（都是共享的在标签数据上训练的网络），在弱增强上使用自适应阈值，并在强/弱的预测输出上做一致性正则化
Learning Loss for Active Learning 阅读笔记
weixin_44460701的博客
11-10 3377
背景
【论文阅读】Learning Loss for Active Learning
w.here的CSDN
07-29 536
Yoo D, Kweon I S. Learning loss for active learning[C]//Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2019: 93-102. 摘要 本文提出了一种简单但是与任务无关新型主动学习方法，并且能有效的应用到深度网络。 本文在目标网络中附加了一个损失预测模块，并且通过学习来预测未标记输入的目标损失，然后损失预测模块能够找出目标模块最
[论文阅读] Learning Loss for Active Learning
xiongxyowo的博客
10-26 616
论文地址：https://arxiv.org/abs/1905.03677 发表于：CVPR’19 Abstract 深度神经网络的性能随着更多的标注数据而提高。问题是用于标注的预算是有限的。解决这个问题的方法之一是主动学习，即模型要求人工对其认为不确定的数据进行标注。最近提出了多种方法来将主动学习应用于深度网络，但其中大多数方法要么是针对其目标任务设计的，要么是对大型网络来说计算效率低下。在本文中，我们提出了一种新的主动学习方法，这种方法简单并且与任务无关，还能有效地与深度网络一起工作。我们在目标网络上附
探索学习损失：主动学习的新篇章
最新发布
gitblog_00080的博客
06-07 322
探索学习损失：主动学习的新篇章 去发现同类优质开源项目:https://gitcode.com/ 项目介绍 Learning Loss for Active Learning 是一个开放源代码的项目，致力于复现 [Yoo et al. 2019 CVPR] 中提出的LL4AL（Learning Loss for Active Learning）实验结果。这个工具包为研究者和开发者提供了一个平台，让...
论文阅读之Learning loss for active learning 个人见解
qq_38644840的博客
08-19 5773
最近在关注数据相关的工作！主动学习是数据领域中一个方向，它的目的是用最少的标注样本实现最好的模型预测效果，能够减少人工标注的成本。本文将介绍《Learning loss for active learning 》一些基本的思想，不到之处还请指正！ 这篇文章提出根据损失来选取前K个最有价值的数据（即损失最大的K个数据），将这K个数据由专家标注，放入有标签的训练集中，依次迭代多次直到模型...
主动学习(Active Learning)
aiwei0888的博客
03-07 721
主动学习简介 在某些情况下，没有类标签的数据相当丰富而有类标签的数据相当稀少，并且人工对数据进行标记的成本又相当高昂。在这种情况下，我们可以让学习算法主动地提出要对哪些数据进行标注，之后我们要将这些数据送到专家那里让他们进行标注，再将这些数据加入到训练样本集中对算法进行训练。这一过程叫做主动学习。 主动学习方法一般可以分为两部分： 学习引擎和选择引擎。学习引擎维护一个基准分类器，...
【Active Learning - 00】主动学习重要资源总结、分享（提供源码的论文、一些AL相关的研究者）
热门推荐
Houchaoqun_XMU的博客
12-29 1万+
主动学习系列博文： 【Active Learning - 00】主动学习重要资源总结、分享（提供源码的论文、一些AL相关的研究者）：https://blog.csdn.net/Houchaoqun_XMU/article/details/85245714 【Active Learning - 01】深入学习“主动学习”：如何显著地减少标注代价：https://blog.csdn.net/Hou...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值
>