Positive & Unlabeled Data Learning——第二弹 (Self-PU)

最新推荐文章于 2024-05-28 09:45:20 发布
最新推荐文章于 2024-05-28 09:45:20 发布
阅读量667 收藏
点赞数 1
分类专栏： 机器不学习 文章标签： 数据挖掘 机器学习 深度学习 神经网络 PU-Learning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/HowardEmily/article/details/110293184
版权
机器不学习 专栏收录该内容
24 篇文章 82 订阅 ¥59.90 ¥99.00
订阅专栏
本文介绍了ICML'20的论文《Self-PU: Self Boosted and Calibrated Positive-Unlabeled Training》，该文提出了自步学习self-paced learning、自我校准损失重加权和自监督一致性等方法，用于PU学习，解决正负未标记数据中的监督信息利用问题。通过动态采样、信任集管理和软标签等策略，提高模型的准确性和稳定性。
摘要由CSDN通过智能技术生成

写在前面

拖更了好久的PU-Learning的第二弹终于来了，最近事情炒鸡多，再加上尝试了自己的几个idea发现目前都不太work啊，都快要崩溃了= =. 利用这段时间更新点水文，调整下自己。。。。接下来，自己要介绍的文章和之前的文章不同的是，本文更多的是关注"How to do PU Learning？", 怎样做就会存在各式各样的有趣的方法了！而之前的文章更多的是采用简单的PU Learning学习方法，并且argue 使用全样本会带来更多的监督信息，但是要解决学习速度的问题。希望大家还是要了解在解决问题时的出发点就是不同的来进行思考！

  • 第一弹 PU Learning简介以及关于论文《Learning Embeddings From Positive Unlabeled Data with BGD》的分享
  • 第二弹 关于论文《Self-PU: Self Boosted and Calibrated Positive-Unlabeled Training》的分享，文章主要用到了自步学习，meta-learningÿ
了解本专栏 订阅专栏 解锁全文
Marcus-Bao
关注
专栏目录
订阅专栏
Positive&Unlabeled Data Learning——第三弹 (Positive-Unlabeled Learning with Non-Negative Risk Estimator)
Marcus-Bao的个人主页
12-02 1127
PU Learning系列目录 目录 第一弹 PU Learning简介以及关于论文《Learning Embeddings From Positive Unlabeled Data with BGD》的分享 第二弹 关于论文《Self-PU: Self Boosted and Calibrated Positive-Unlabeled Training》的分享，文章主要用到了自步学习，meta-learning，以及知识蒸馏。 本文是第三弹，关于文章《Positive-Unlabeled Learni
Positive&Unlabeled Data Learning——第四弹(Semi-Supervised Classification/AUC Optimization)
Marcus-Bao的个人主页
12-18 363
PU Learning系列目录 目录 第一弹 PU Learning简介以及关于论文《Learning Embeddings From Positive Unlabeled Data with BGD》的分享 第二弹 关于论文《Self-PU: Self Boosted and Calibrated Positive-Unlabeled Training》的分享，文章主要用到了自步学习，meta-learning，以及知识蒸馏。 第三弹 关于论文《Positive-Unlabeled Learning w
positive-unlabeled (PU) learning
weixin_30922589的博客
08-17 1767
PULearning的应用场景是，我们可以清晰地确定正样本，但是不能确定负样本，因为它有可能是正样本，只是我们还没有证明。 这时我们可以把这部分不确定的样本称为无标签样本U，加上正样本P来建立模型。 问题可以转化为一个有约束条件的最优化问题： 在保证正例中错误率低于1-r的条件下，最小化无标签样本中U的正例数目。 建立PU分类器有两种方法： 两步方法two- step appr...
探索未知：Positive and Unlabeled Learning（pu-learning）框架
最新发布
gitblog_00057的博客
05-28 381
探索未知：Positive and Unlabeled Learning（pu-learning）框架 pu-learningPositive and unlabeled learning wrappers for scikit-learn项目地址:https://gitcode.com/gh_mirrors/pu/pu-learning 项目介绍 在大数据时代，我们常常面临这样的挑战：拥有大量...
Analysis of Learning from Positive and Unlabeled Data
crazy_scott的博客
04-03 918
PU learning论文阅读。 本文从基本的分类损失出发，推导了PU的分类问题其实就是Cost-sensitive classification的形式，同时，通过实验证明了如果使用凸函数作为loss function，例如hinge loss会导致错误的分类边界（有bias），因此需要使用例如ramp loss之类的凹函数。同时，论文还对先验π\piπ存在偏差的情况进行了讨论，说明了如果样本中...
【每周一文】Building Text Classifiers Using Positive and Unlabeled Examples(2003)
fangqingan_java的专栏
04-12 2061
概述 PULearning是一类机器学习算法，主要解决的问题是给定训练样本只有正样本和一批未标记的样本，学习一个分类器进行分类。这是一类比较难解决的问题，由于没有负样本其评估的方法不好确定；但是有很多的应用场景，例如蛋白质序列查找、噪声发现等。 常用的解决思路主要分为两步： 1. 识别出一批可靠的负样本集合。 2. 根据正负样本训练多个分类器从中选择一个最优的作为最终的分类器。 该文介绍
Positive & Unlabeled Data Learning——第一弹
Marcus-Bao的个人主页
10-15 756
Positive & Unlabeled Data Learning(第一弹) 最近做的东西遇到了瓶颈，最近想从PU Learning这寻找一点灵感，所以接下来打算开个专题，陆续记录下自己最近看到的PU learning的文章。水平有限，非常欢迎大家可以多交流，讨论，一起进步！ 所谓PU learning就是说我们收集得到的数据一般只有positive-only data，也就是说只有正样本，和一些没有标注的unlabeled data，对于这部分未标注的数据我们不清楚它到底是negative 还是
论文笔记|Distantly Supervised Named Entity Recognition using Positive-Unlabeled Learning
u011150266的博客
05-22 1347
作者：任 单位：燕山大学 文章目录论文简介问题的引出预备风险最小化无偏性一致性使用PU方法，基于字典的NER定义符号标记分配机制使用字典进行数据标记构建PU学习分类器词表示损失函数标签推理扩充词典实验比较方法数据集构建命名实体字典估计πpπ_pπp​实验结果总结 论文简介 论文来源：ACL2019 论文地址 源码地址 在该论文中，研究了仅使用无标记的数据和命名实体字典，来进行命名实体识别(NER)的方法。为此，该文将任务定义为一个正无标记(positive-unlabeled, PU)学习问题，并据此提
PU --- > 无偏PU learning简介
chencas的博客
07-05 7438
PU learning 背景 PU learning(positive-unlabeled learning)，即我们只有正样本和未标注的样本，以此进行分类学习。 其可在以下几个领域内应用： 检索 从大量无标注的样本中选取特定的样本，比如人脸标注 异常检测 包括inlier-based outlier 检测 序列数据检测 负样本的分布随着时间改变，这样传统的分类将不再适合，PU 只需要更新未标注...
【论文阅读笔记】Self-training with Noisy Student improves ImageNet classification
翻山越岭的那一边
10-21 671
Motivation 利用较少的标记数据来进一步利用大规模的无标记数据进行半监督/自监督学习 用teacher模型生成伪标签训练studen模型，并通过加入噪声使student模型由于teacher模型，迭代此过程以得到更优的模型 原理 基于self-training的teacher-student框架 用标记数据训练teacher模型 用teacher模型对大规模的无标记数据生成伪标签 用labelled data和具有伪标签的unlabelled data共同训练student模型 新的stu
Selfpublog:自发布博客工具
04-02
自我发布 自发布博客工具 博客文章自动发布工具一个博客文章自动发布工具 该工具可以监视指定文件夹中的文件更改，并将新添加（修改）的降价文件转换为html文件，以便可以直接访问网页这个工具能监控指定文件夹下的文件变化，将您添加（修改）的markdown文件转为html文件，使网页可以直接访问 您只需要将书面的markdown文章放到服务器上（或git更新文件是相同的），其他事情就会自动完成您只需编写好的标记下来的文章放到服务器即可（或者git更新文件同理），其他事情自动完成 使用方法如何使用 前提|最早 Linux服务器，可以运行shell脚本| linux服务器，能运行shell脚本 安装以下工具|安装以下工具 inotify-tool：文件监视工具markdown2html-converter：markdown到html工具jq：读写json文件 inotify-tool：文件监控工具m
PU learning简介（附python代码）
热门推荐
anshuai_aw1的博客
04-23 1万+
一、引言 在现实生活中，有许多只有正样本和大量未标记样本的例子。这是因为负类样本的一些特点使得获取负样本较为困难。比如： 负类数据不易获取。 负类数据太过多样化。 负类数据动态变化。 举一个形象点的例子：比如在推荐系统里，只有用户点击的正样本，却没有显性负样本，我们不能因为用户没有点击这个样本就认为它是负样本，因为有可能这个样本的位置很偏，导致用户没有点。 因此，有研究人员开始关注PU Lea...
【每周一文】Learning Classifiers from Only Positive and Unlabeled Data（2008）
fangqingan_java的专栏
04-12 3820
概述 本文也是用于求解PULearning问题，并且提出在样本满足一定分布情况下，根据正样本和未标记样本作为负样本训练出来的分类模型，预测出来的结果和该样本属于正样本的概率存在一个固定常数系数。 根据该假设提出两种模型训练思路，能够得到最好的效果。 问题求解 对于给定的样本数据引入第三个随机变量S表示该样本是否被标记过，则p(x,y,s)满足一定的概率分布。 变量含义x为样本特征数据
机器学习—— PU-Learning算法
weixin_39753819的博客
03-31 2394
在本篇博客中，简单介绍了PU-Learning算法的基本概念、基本流程和基本方法，并简单讨论了Two-step PU Learning算法和无偏PU Learning算法的具体流程。通过示例代码，展示了如何用Python实现一个简单的PU-Learning分类器。PU-Learning是解决类别不平衡问题的有效方法，在实际应用中具有广泛的应用前景。
PU learning半监督学习
zmm0628的博客
07-25 1810
半监督学习 Positive-unlabeled learning 什么是半监督学习 让学习器不依赖外界交互、自动地利用未标记样本来提升学习性能，就是半监督学习（semi-supervised learning）。 要利用未标记样本，必然要做一些将未标记样本所揭示的数据分布信息与类别标记相联系的假设。假设的本质是“相似的样本拥有相似的输出”。 半监督学习可进一步划分为纯（pure）半监督学习和直推学习（transductive learning），前者假定训练数据中的未标记样本并非待测的数据， 而后者则假定
PU learning 算法
南宫轩翰的博客
05-04 3483
一.背景介绍 原本是02年提出的一个算法，但是到去年8月份，关于PU learning 的博客介绍都很少（可参考性很差），前几天做毕设，忽然欣喜地发现这半年里陆续出现了几篇关于该算法的文章，挺不错，和大家分享一下。 1.去年我只找到了一篇ACM期刊的论文解析，有个博客介绍得很不错，文章思路通俗易懂，是很好的入门样例 https://www.cnblogs.com/DjangoBlog/p/9...
PU learning 算法笔记1-- 论文《Learning Classifiers from Only Positive and Unlabeled Data》中的方法
beingstrong的博客
06-22 468
PU learning 算法笔记 -- 论文《Learning Classifiers from Only Positive and Unlabeled Data》中的方法。
PU learning
bbbeoy的专栏
08-10 1104
一、背景介绍 现实生活许多例子只有正样本和大量未标记样本，这是因为获取负类样本较为困难、负类数据太过多样化且动态变化。比如在推荐系统，用户点击为正样本，却不能因为用户没有点击就认为它是负样本，因为可能样本的位置很偏，导致用户没有点击。 PU Learning（Positive-unlabeled learning）是半监督学习的一个研究方向，指在只有正类和无标记数据的情况下，训练二分类器，伊利诺伊大学芝加哥分校（UIC）的刘兵（Bing Liu）教授和日本理化研究所的杉山将（Masashi Sugiya
集成半监督PU学习算法的统一框架
半监督学习在这种情况下成为一种有效的手段，特别是PU学习（Positive and Unlabeled Learning），它专注于从正面样本（Positive）和未标记样本（Unlabeled）中学习模式。PU学习适用于那些难以获取负面样本（Negative...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Marcus-Bao

万水千山总是情,只给五角行不行

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值