【论文分享】Active Learning with Partial Feedback

最新推荐文章于 2024-07-10 16:47:58 发布
最新推荐文章于 2024-07-10 16:47:58 发布
阅读量324 收藏 1
点赞数 2
分类专栏： 主动学习（Active learning） 论文分享 文章标签： 算法 深度学习 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_39856931/article/details/110429969
版权

文章目录

文章题目

Active Learning with Partial Feedback

发表出处

ICLR 2019

一作单位

卡耐基梅隆大学（Carnegie Mellon University）

主要思想

利用主动学习的思想，学习器learner每次问一个“yes or no”的问题，标注者（annotator）每次回答这一二分类问题，学习器再考虑是否继续提问。

如果一直提问的话就可以得到示例instance的真实标记（ground truth value）；

如果不再提问的话就相当于为该样本构建一个partial labels，一般翻译为偏标记。

本文提出的方法使得标注代价比较小的情况下就达到了不错的性能效果。

基本方法

1.从偏标记中学习 Leanring from Partial Labels

利用了深度学习中的方法，根据标记的softmax输出进行判断，具体loss如下：
在这里插入图片描述
2. 查询策略 Sampling Strategy

本文利用了三种方法：
（1）Expected Information Gain (EIG)：计算熵值

在这里插入图片描述

（2）Expected Remaining Classes (ERC)：查询剩下的类别数量最少的样本

在这里插入图片描述
（3）Expected Decrease in Classes (EDC):
在这里插入图片描述

算法伪代码：
在这里插入图片描述

实验部分

在这里插入图片描述
用最少的提问次数得到：
（1）准确的top1 accuracy
（2）准确的标注样本
（3）最少的还未提问的类别

在这里插入图片描述

相同标注代价下准确率比其他方法高。

杨小浩浩hh
关注
  • 2
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
专栏目录
Reinforcement Learning with Competitive Ensembles of Information-Constrained Primitives
weixin_41697507的博客
06-27 1598
利用信息约束基元的竞争集合强化学习 Anirudh Goyal1, Shagun Sodhani1, Jonathan Binas1, Xue Bin Peng2 Sergey Levine2, Yoshua Bengio1y 1Mila, Université de Montréal 2University of California, Berkeley yCIFAR Senior Fello...
LEARNING COMPACT PARTIAL DIFFERENTIAL EQUATIONS FOR COLOR IMAGES WITH EFFICIENCY
02-08
LEARNING COMPACT PARTIAL DIFFERENTIAL EQUATIONS FOR COLOR IMAGES WITH EFFICIENCY
详解优酷视频质量评价体系
weixin_44966641的博客
02-01 1251
万字长文 | 详解优酷视频质量评价体系 分享嘉宾｜李静博士，阿里巴巴文娱集团资深算法专家，阿里巴巴大文娱摩酷实验室视频体验与质量团队负责人 整理出品｜AICUG人工智能社区 本文地址：https://www.6aiq.com/article/1617926511225 本文版权归作者和AIQ共有，欢迎转载，但未经作者同意必须保留此段声明，且在文章页面明显位置给出 导读：随着近年来用户在社交媒体/短视频分享平台的重度参与，视频多媒体内容的消费主导从原来的OGC向UPGC转变。因此UPGC图像/视频的质量评
【Active Learning - 00】主动学习重要资源总结、分享（提供源码的论文、一些AL相关的研究者）
Houchaoqun_XMU的博客
12-29 9854
主动学习系列博文： 【Active Learning - 00】主动学习重要资源总结、分享（提供源码的论文、一些AL相关的研究者）：https://blog.csdn.net/Houchaoqun_XMU/article/details/85245714 【Active Learning - 01】深入学习“主动学习”：如何显著地减少标注代价：https://blog.csdn.net/Hou...
【论文阅读】Deep Learning Workload Scheduling in GPU Datacenters:Taxonomy, Challenges and Vision
weixin_46091520的博客
11-11 435
论文阅读笔记Gao W, Hu Q, Ye Z, et al. Deep Learning Workload Scheduling in GPU Datacenters: Taxonomy, Challenges and Vision[J]. 讨论了数据中心负载作业的特征以及相关工作
Reinforcement Learning[论文合集]
gdtop的个人笔记
04-07 4927
https://handong1587.github.io/deep_learning/2015/10/09/rl.html Jump to... 1.Tutorials 1.Simple Reinforcement Learning with Tensorflow 2. Courses 3. Papers 1.Surveys ...
【AAAI 2021】全部接受论文列表（六）
yinizhilianlove的博客
01-14 5625
来源：AINLPer微信公众号（点击了解一下吧） 编辑: ShuYini 校稿: ShuYini 时间: 2021-01-14 马上春节了，疫情又卷土而来，希望大家注意防护，爱护自己的身体 AAAI 2021论文接收情况   人工智能顶级会议AAAI 2021 已经给出接收论文列表，共有1692篇论文被接收，录取率21%，比去年的20.6%稍微有些上升。单从数量上看，也比去年多了101篇。本届 AAAI 2021已经是第35 届会议了。据 AAAI 2021官方网站，这个 2021年首个人工智能顶会将全.
计算机视觉论文-2021-06-16
中科院AI算法工程师的博客
06-21 1507
本专栏是计算机视觉方向论文收集积累，时间：2021年6月16日，来源：paper digest 欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！ 直达笔记地址：机器学习手推笔记（GitHub地址） 1, TITLE:A Value-Function-based Interior-point Method for Non-convex Bi-level Optimization AUTHORS: Risheng Liu ; Xuan Liu ; ...
【AAAI 2021】全部接受论文列表（二）
yinizhilianlove的博客
01-14 5670
来源：AINLPer微信公众号（点击了解一下吧） 编辑: ShuYini 校稿: ShuYini 时间: 2021-01-14 马上春节了，疫情又卷土而来，希望大家注意防护，爱护自己的身体 AAAI 2021论文接收情况   人工智能顶级会议AAAI 2021 已经给出接收论文列表，共有1692篇论文被接收，录取率21%，比去年的20.6%稍微有些上升。单从数量上看，也比去年多了101篇。本届 AAAI 2021已经是第35 届会议了。据 AAAI 2021官方网站，这个 2021年首个人工智能顶会将全.
Partial-discharge-signals-of.zip_svm active learning_主动学习SVM_局部放
07-15
标题提及的"Partial-discharge-signals-of.zip_svm active learning_主动学习SVM_局部放"，表明研究的重点在于应用主动学习算法优化SVM模型，以更好地识别局部放电的模式。主动学习是一种机器学习策略，它允许模型在...
multi-label 和 partial label learning，以及partial multi-label论文笔记.zip
06-01
多标签学习（Multi-Label Learning）与偏标记学习（Partial Label Learning）是机器学习领域中的两个重要分支，它们主要用于处理具有多个潜在正确答案的问题。在实际应用中，如图像分类、文本分类、推荐系统等，一个...
Mining Textual Stream with Partial Labeled Instances Using Ensemble Framework
02-11
Mining Textual Stream with Partial Labeled Instances Using Ensemble Framework
Active contour extraction method using partial shape constraint contour model
06-29
Active contour extraction method using partial shape constraint contour model Active Contour Extraction Method Using Partial Shape Constraint Contour Model Masahide Nishiura, Mayumi Yuasa, and ...
主动学习（Active Learning）系列介绍（二）不确定度采样（Uncertainty Sampling）
杨小浩浩的博客
06-02 7307
本文介绍主动学习Active Learning中的第一种query selection framework—— 不确定度采样Uncertainty Sampling。
主动学习（Active Learning）系列介绍（一）基本概念及应用场景
杨小浩浩的博客
05-29 6339
研究背景 传统的机器学习（Machine Leaning）任务，特别是有监督学习任务为取得良好的性能，通常需要在成百上千的**有标记数据（labeled data）**上训练。 然而，在现实生活中的很多应用，为得到有标记数据，是一个困难的（difficult）、耗时的（time-consuming）、昂贵（expensive）的过程。 幸运的是，在当今这个数据井喷的时代，有大量的未标记的数据（unlabeled data），而这些数据往往更容易获得。 在此背景下，为了更好地利用大量的无标记数据，我们提出主动
主动学习（Active Learning）系列介绍（三）搜索假设空间（Searching Through the Hypothesis Space）
杨小浩浩的博客
06-05 1930
本文介绍主动学习Active Learning中的第二种query selection framework —— 通过假设空间搜索Searching Through the Hypothesis Space，其主要思想是利用缩小版本空间找到需要的query instance。 文章目录版本空间 The Version Space通过搜索版本空间进行不确定度采样 Uncertainty Sampling as Version Space Search通过分歧查询 Query by Disagreement通过
主动学习（Active Learning）系列介绍（零）
杨小浩浩的博客
03-17 951
写在最前面： 由于笔者实验室的要求，最近开始看了和主动学习(Active Learning)相关的知识，遂在这里与各位分享，希望可以在一定程度上帮助到大家。 由于初次接触Markdown格式的文本输入，可能有些地方显示不够清晰明了，请多见谅。 笔者主要参考资料是系列丛书《SYNTHESIS LECTURES ON ARTIFICIAL INTELLIGENCE AND MACHINE LEARNI...
36. Adam 算法详解
最新发布
qq_41238579的博客
07-10 634
Adam（Adaptive Moment Estimation）是一种结合动量法和自适应学习率的优化算法，自2014年提出以来，迅速成为深度学习中最流行和常用的优化算法之一。Adam算法的核心思想是利用梯度的一阶动量和二阶动量来动态调整学习率，既保持了动量法的优点，又结合了RMSProp的自适应学习率特性。
Learning a Deep ConvNet for Multi-label Classification with Partial Labels代码浮现
06-01
好的，以下是使用PyTorch实现 "Learning a Deep ConvNet for Multi-label Classification with Partial Labels" 论文的示例代码。 ```python import torch import torch.nn as nn import torch.optim as optim from...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值