主动学习文章_active learning by querying informative and representative examples

最新推荐文章于 2021-12-07 14:29:55 发布
最新推荐文章于 2021-12-07 14:29:55 发布
阅读量2.4k 收藏 1
点赞数 2
分类专栏： ML
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/haimengao/article/details/37592131
版权

介绍下抽样偏差：


大部分的主动学习模型只考虑其中的一种，例如只考虑信息量大的，并没有考虑未标注数据的结构，例子的选择取决少量的已标注数据，所以会导致严重的抽样偏差，得到错误的结果。

1、通过委员会查询【17,6,10】

2、不确定性的抽样【13,12,18,2】

3、最优实验设计【9,20】


例如只考虑有代表性的，只考虑了未标注数据的聚类结构，实验结果很大程度上依赖于聚类的结果。那么在找到最优边界面的时候可能会要求查询相对大量的例子。

文献【14,7】


试着结合二者的例子：

【19】，考虑了聚类信息和未标注数据的分类边界，但是局限在于聚类效果表现很好的是在分类边界里面的数据，而在分类边界外面的数据则表现不佳。

【8】，在【14】的基础上，平衡了查询例子的不确定性和密度，但只是局部最优的效果。


在【11】中，信息量大的是基于标注数据的不确定性预测，而有代表性的是基于未标注数据的不确定性预测，把二者都考虑进去了。

【19,8,11】都只能得到局部最优的效果。

【11】衡量一个例子的代表性是通过它与剩下未标注数据的详细性

本文则是考虑了未标注数据的聚类结果和标注数据的分类结果。


例子：




elisa_gao
关注
  • 2
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
Active learning 总结
Yingying
09-02 4829
Active learning by querying informative andrepresentative examples PAMI 2014 本文主旨：将优化问题转换为在每一轮中选择的样本使得所有的样本损失最小，包括已标记样本和未标记样本。 Informative and representative : Informative: 位于分类面边缘上的数据，比如说DNN pape
论文复现：Active Learning by QueryingInformative and Representative Examples（QUIRE）
DeniuHe的博客
08-28 261
Active learning by querying informative and representative examples
Yingying
08-30 778
主题：QUIRE，基于active-learning的最小－最大原则，实现信息量大而具有代表性的数据筛选。 Informativeness： measures the ability of an instance in reducing the uncertainty of  a statistical model.忽视了数据间的潜在结构分布。 Representativeness: meas
Active learning(主动学习)
haimengao的专栏
07-08 2509
主动学习假设： 1、AL implicitly assumes that a large pool of unlabeled documents is available and that querying this pool is cheap compared to labeling since the latter tak es a human expert’s time
主动学习(Active Learning)领域部分经典论文汇总
xiongxyowo的博客
11-03 2681
只简单找了一小部分 [link] Cost-Effective Active Learning for Deep Image Classification TCSVT 16 classification cost effective [link] Suggestive Annotation: A Deep Active Learning Framework for Biomedical Image Segmentation MICCAI 17 segmentation [link] Atte.
active_rails_examples
02-13
标题“active_rails_examples”和描述“active_rails_examples”暗示了这可能是一个关于使用ActiveRecord（Ruby on Rails框架的一部分）的实际示例集合。在这个压缩包中，我们看到一个名为“active_rails_examples-...
TSQL_Querying_20061113
01-13
本资源包“TSQL_Querying_20061113”提供了深入学习TSQL查询的宝贵材料，涵盖了多个关键领域，旨在帮助用户提升在SQL Server中的数据处理能力。 首先，我们关注到“instnwnd.sql”和“instpubs.sql”这两个脚本文件...
Querying_With_Transact_SQL
04-14
3. GROUP BY与HAVING子句：GROUP BY用于对数据进行分组，而HAVING则用于过滤分组后的结果。例如，`SELECT column1, COUNT(*) FROM table1 GROUP BY column1 HAVING COUNT(*) > 10` 将返回column1值出现次数超过10次...
Learning GraphQL and Relay(PACKT,2016)
09-30
There’s a new choice for implementing APIs – the open source and Facebook-created GraphQL specification. Designed to solve many of the issues of working with REST, GraphQL comes alongside RelayJS, a...
no_querying_views：在Rails应用程序中不再查询视图
02-06
gem install no_querying_views 在您的gemspec中： gem 'no_querying_views', '~> 6.0.0' （没有版本3到版本6，我决定将此gem的版本与Rails的主要版本对齐。） 语境 Rails是一个MVC框架。 应将关注点分离，以防止...
多标准优化的主动学习算法（Active learning through multi-standard optimization）——MSAL
wangmin80616的博客
08-31 1721
多标准优化的主动学习算法（Active learning through multi-standard optimization）——MSAL 多标准优化的主动学习算法（Active learning through multi-standard optimization）——MSAL 在这里记录下第一篇文章~下文附有该算法详细的中文介绍，步骤，实验，matlab R2016a / python 3.7代码，以及使用到的所有数据集。欢迎大家引用~ 主动学习的样本选择策略 主动学习在训练集中已标注数据上学习得
【Active Learning - 01】深入学习“主动学习”：如何显著地减少标注代价
Houchaoqun_XMU的博客
07-08 2万+
主动学习系列博文： 【Active Learning - 00】主动学习重要资源总结、分享（提供源码的论文、一些AL相关的研究者）：https://blog.csdn.net/Houchaoqun_XMU/article/details/85245714 【Active Learning - 01】深入学习“主动学习”：如何显著地减少标注代价：https://blog.csdn.net/Hou...
主动学习(Active Learning)
热门推荐
猪逻辑公园
12-26 6万+
1. 写在前面 　　在机器学习(Machine learning)领域，监督学习(Supervised learning)、非监督学习(Unsupervised learning)以及半监督学习(Semi-supervised learning)是三类研究比较多，应用比较广的学习技术，wiki上对这三种学习的简单描述如下： 监督学习：通过已有的一部分输入数据与输出数据之间的对应关系，生成一个函...
主动学习-综述
u013328485的专栏
07-16 5214
主动学习是机器学习（更普遍的说是人工智能）的一个子领域，在统计学领域也叫查询学习、最优实验设计”(Active learning (sometimes called “query learning” or “optimal experimental design” in the statistics literature) is a subfield of machine learning and...
Active learning 主动学习的来世今生
Jinpeijie217的博客
06-15 5503
Active learning Survey主动学习的来世今生核心思想：主动学习可以基于较少的已标注的数据量得到同样好的模型准确率。在几乎所有的机器学习问题中，虽然未标注数据很丰富且易于获得，但是标注数据却很少或者需要大量的人工标注（成本问题）。所以主动学习是解决问题的核心方法之一。这篇文章提供了一个主动学习详细的介绍和相关文献的总结。主要包括解决方案，查询策略框架，主动学习的分析，设置变量的问题...
A brief introduction to weakly supervised learning（简要介绍弱监督学习）
weixin_30474613的博客
03-14 1085
by 南大周志华 摘要 监督学习技术通过学习大量训练数据来构建预测模型，其中每个训练样本都有其对应的真值输出。尽管现有的技术已经取得了巨大的成功，但值得注意的是，由于数据标注过程的高成本，很多任务很难获得如全部真值标签这样的强监督信息。因此，能够使用弱监督的机器学习技术是可取的。本文综述了弱监督学习的一些研究进展，主要关注三种弱监督类型：不完全监督，即只有一部分样本有标签；不确切监督...
主动学习汇总
随笔
08-06 751
原文：https://blog.csdn.net/houchaoqun_xmu/article/details/80146710 主动学习系列博文： 【Active Learning - 00】主动学习重要资源总结、分享（提供源码的论文、一些AL相关的研究者）：https://blog.csdn.net/Houchaoqun_XMU/article/details/85245714 【Active Learning - 01】深入学习“主动学习”：如何显著地减少标注代价：https://blog.cs
Active Learning 主动学习
xiaopihaierletian的博客
11-08 1711
最近读了一篇paper，题目是An MRF Model-Based Active Learning Framework for the Spectral-Spatial Classification of Hyperspectral Imagery。（题目这么长我也不想的......）这篇文章主要说了马尔科夫随机场还有active learning (AL)结合的问题。刚开始让给我学习AL的时候我
主动学习(Active Learning)相关论文阅读记录
FelicityXu的博客
12-07 2930
等方向定下来后再详细更新，先记录一下找的相关论文的摘要…
Querying Transformer
最新发布
05-11
Querying Transformer是一种基于Transformer模型的语言模型，它在自然语言处理领域中具有重要的应用价值。与传统的Transformer模型不同，Querying Transformer利用了类似于信息检索中的查询机制来指导模型的生成过程，从而更好地满足用户的需求。具体来说，Querying Transformer通过将查询向量与输入序列中的每个词向量进行点积运算，得到一个与输入序列相关性较高的向量表示，并将其作为新的输入序列进行下一层计算。这样，Querying Transformer可以更加精准地把握文本中的关键信息，同时也提高了模型的可解释性。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值