Co-training&主动学习

最新推荐文章于 2023-09-24 15:09:47 发布
最新推荐文章于 2023-09-24 15:09:47 发布
阅读量2.9k 收藏 1
点赞数
分类专栏： 机器学习/模式识别
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xiaoshengforever/article/details/23510913
版权

Co-training是目前很流行的一种半指导机器学习的方法,它的基本思想是:构造两个不同的分类器,利用小规模的标注语料,对大规模的未标注语料进行标注的方法.Co-training方法最大的优点是不用人工干涉,能够从未标注的语料中自动学习到知识。Co-training方法,是有指导和无指导机器学习两者的一个折中办法,它的原则是:在不牺牲性能的前提下,尽量多的使用未带标数据，它从一个小规模的带标的语料库开始,同时使用大规模的未带标语料来进行学习。Co-training算法应用于属性存在天然可分割性的数据集,即数据集的某些属性能够在某种角度上描绘数据的某种特征,而这些属性不是唯一的,有许多不同的属性能够将同样的特征从不同的角度描绘出来,这样的数据属性集就具有天然可分割性,忽视了数据集特性的可分割性.Co-training算法则利用两个不同学习器在数据集的/分割的特性集上独立学习,并结合两个学习器的学习结果作出最后学习结论,这样来达到降低错误率的目的.

机器学习领域中的主动学习(Activelearning)的思想可以用来借鉴到未标注样本的学习当中,主动学习的核心思路就是在机器学习中考虑到不同样本其实对最后分类器的作用其实是不一样的,我们称这种作用为样本的信息量,样本含有的样本量越大,对分类界面的确定越重要,所谓的样本信息量是相对于分类器的不确定性,设有样本集S,在训练数据上训练得到概念类别集合C,即C中的每一个概念类别(conceptclass)都能正确的判定训练数据,

xiaoshengforever
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
co-training.zip_co-training_co-training matlab_cotraining
07-15
协同训练（Co-Training）是一种机器学习中的半监督学习方法，由Blum和Mitchell于1998年提出。该方法主要应用于大量未标记数据和少量标记数据的场景，通过两个或多个分类器之间的相互学习来提升模型的性能。在本资源...
Co-training 初探快切入
Crystal_Zero的博客
11-22 9393
先做个总结 co-training方法是一类半监督方法，是一个框架，核心就是利用少量已标记样本，通过两个（或多个）模型去学习，对未标记样本进行标记，挑选most confidently的样本加入已标记样本阵营。 目前主要存在两种方法：single-view 和 multi-view。最开始提出的是multi-view，就是对特征进行拆分，使用相同的模型，来保证模型间的
半监督学习算法中的协同训练（Co-training）
牛肉胡辣汤
08-30 1267
​函数将数据集划分为视图1和视图2，并使用SVM分类器训练这两个视图的模型。然后，我们通过互相交叉预测的方式将高置信度预测样本添加到标记数据集中，并重复执行这个过程多次。最后，我们将视图1和视图2合并为完整的训练集，并在该训练集上训练最终的分类器。需要注意的是，这只是一个简单的示例，实际的协同训练算法可能需要更复杂的处理和调整。此外，根据具体问题的需求，可能需要调整参数和选择不同的分类器来获得更好的性能。它的核心思想是利用不同特征的互补性，通过交叉训练来提高分类器的性能。​函数，它接受特征矩阵​。
协同训练(co-training)
Home to come
02-22 3800
协同训练(co-training)是非常有效的半监督学习方法,但必须将特征集自然分割成两个可以充足构造分类器的子集合,并且要求它们之间在给定的类别下条件相互独立。 Q：那是不是说如果数据有多视角的情况下，co-training比self-training好，而数据只有单一视角的时候，两者差不多呢？ A：co-training就是因为有多视图才叫co-training，如果只有单一视图，就没有co-training。 Q：co-training里面每组数据有两个特征x1和x2指的是什么呢？有点不明白，您可以解
深度学习算法中的协同训练（Co-training）
牛肉胡辣汤
09-24 1228
在每一轮训练中，使用一个分类器对另一个视角上的未标记数据进行预测，并选择置信度高的样本进行标记。具体来说，协同训练需要两个或多个视角（views）来观察数据，并使用不同的特征子集和分类器对数据进行学习和分类。然而，深度学习的一个局限性是需要大量的标注数据来进行训练，而标注数据的获取成本往往很高。在未来的研究中，我们可以进一步探索协同训练的机制和应用，以推动深度学习技术的发展和应用。协同训练通过使用多个特征子集和分类器来进行学习和分类，可以从不同的视角观察数据，从而提高模型的鲁棒性和泛化能力。
论文笔记-Deeper Insights into Graph Convolutional Networks for Semi-Supervised Learning
test
04-13 1642
论文题目：Deeper Insights into Graph Convolutional Networks for Semi-Supervised Learning(AAAI 2018) 论文链接：arxiv 摘要 GCN在卷积层中很好地聚合了局部结点特征和图拓扑结构信息，但它的机制并不清楚（类似一个黑匣子），它仍然需要大量的标记数据来验证和选择模型。 在本文中，我们对GCN模型进行了深入的研究，并指出了它的基本的局限性。首先，我们 ** 证明了GCN模型的图卷积实际上是拉普拉斯平滑的一种特殊形式，这是G
协同训练算法之co-training
热门推荐
熙马拉雅的博客
06-19 2万+
在传统的监督学习中,学习器通过对大量有标记的(labeled)训练例进行学习,从而建立模型用于预测未见示例的标记。这里的“标记”(label)是指示例所对应的输出,在分类问题中标记就是示例的类别。随着数据收集和存储技术的飞速发展,收集大量未标记的(unlabeled)示例已相当容易,而获取大量有标记的示例则相对较为困难,因为获得这些标记可能需要耗费大量的人力物力。如果只使用少量的有标记示例,那么利
MM-Training - Overview& master data
最新发布
12-13
SAP MM-Training - Overview& master data
华为H12-223-CHS HCNP-R&S-IEEP V2.0题库.exe
01-10
华为认证题库，大家可以参考一下 华为认证是华为凭借多年信息通信技术人才培养经验及对行业发展的深刻理解，基于ICT产业链人才个人职业发展生命周期，以层次化的职业技术认证为指引，搭载华为“云－管－端”融合...
HCIA-Routing & Switching V2.5培训材料&实验指导书.zip
07-13
华为HCIA认证，全套学习与指导资料。 内含： 01-HCIA-Routing & Switching V2.5培训材料 包括： 1.传输介质简介 2.以太网帧结构 3.IP编址 4.ICMP协议 5.ARP协议 6.传输层协议 7.数据转发过程 8.VRP基础 9....
基于Co-training的图像自动标注 (2013年)
05-31
图像自动标注是图像理解与模式识别等领域中具有挑战性的关键研究问题．目前图像自动标注领域存在着一些问题，如未标注数据规模要远大于标注数据规模，只能单独使用某种图像分割策略与某类图像表示方法．针对上述问题，提出了基于Co-training的图像自动标注方法，通过构建4个独立的特征属性进而建立4个子分类器，将不同的图像分割方法与特征表示方法整合到一个统一框架中，利用提出的基于投票与一致性相结合的自适应算法扩展原始训练集．该方法通过使用Co-training算法，利用大量未标注数据来提升图像自动标注的性能．通过在
基于co-training的手写数字识别Multiple+Features数据集
06-19
基于co-training的手写数字识别Multiple+Features数据集
CoTrade.rar_#co-training_#matlab_DEMO_co-training_multi-label
07-14
The package includes the Matlab code of COINS, which is designed for learning from multi-label data under the inductive semi-supervised setting by adapting the co-training techniques. Source code as ...
[总结] 半监督学习方法: 协同训练&类协同训练(Co-training)
不定期更新 Web 开发及机器学习相关博客
03-25 7986
Co-Training: 是一种流行的 SSL 范式, 其中两个分类器在两个充分且独立的视图上迭代训练. 分别使用两个视图训练两个分类器, 然后在每次迭代中, 每个分类器标记并选择一些未标记的示例来增加另一个分类器的训练集. 尽管多视图协同训练适用于某些领域, 但它的多视图要求在许多实际应用中是不切实际的.
半监督学习之co-training到Tri-training
白小狸
01-26 1万+
半监督学习提出的原因：       传统的机器学习技术分为两类，一类是无监督学习，一类是监督学习。无监督学习只利用未标记的样本集，而监督学习则只利用标记的样本集进行学习。       但在很多实际问题中，只有少量的带有标记的数据，因为对数据进行标记的代价有时很高。这是由于：  1.  有标记样本难以获取，需要专门的人员,特别的设备,额外的开销等等。  2.  无标记的样本相对而言是很廉
co-training方法
Katherine-XY的博客
03-13 2822
Co-training是一种半监督机器学习的方法,它的基本思想是:构造两个不同的分类器,利用小规模的标注语料,对大规模的未标注语料进行标注的方法. Co-training方法最大的优点是不用人工干涉,能够从未标注的语料中自动学习到知识。利用两个不同学习器在数据集的/分割的特性集上独立学习,并结合两个学习器的学习结果作出最后学习结论,这样来达到降低错误率的目的 Co-training方法,是有指导和...
半监督学习 co-training协同训练 tri-training active-learning主动学习
心之所向
04-06 7302
半监督学习有种思想：如下图，如果一个未标记样本所在空间附近只有一个正样本和一个负样本，不好判断到底该样本是正是负。但如果该样本周围存在一堆正负样本，那么我们可以根据它所处位置的远近来判断其属于置信度更大的类别。 co-training： 协同训练（co-training）算法是多视图（multi-view）学习的代表。首先解释下视图含义：以电影为例，它拥有多个属性集：图像、声音、字幕等。每个属性
什么是co-training
weixin_30532369的博客
11-08 548
　　首先先认识下什么是co-training: 　　在计算机视觉中，我们都知道训练一个分类器的时候，我们需要两类样本，分别是正样本和负样本。监督训练又可以成为off-line training,就是提前准备好已经标注过样本，然后对分类器进行训练，最后将训练好的分类器对需要进行分类的东西进行分类。而另一个是online training. 刚开始的时候我们用一些标注过的样本对分类器进行初...
co-training代码
06-11
Co-training 是一种半监督学习方法，它可以利用未标记的数据来提高模型的性能。下面是一个 Python 实现的 Co-training 代码示例： ```python import numpy as np from sklearn.naive_bayes import MultinomialNB class CoTrainer: def __init__(self, clf1, clf2, n_iter=10): self.clf1 = clf1 self.clf2 = clf2 self.n_iter = n_iter def fit(self, X_unlabeled, y_unlabeled, X_labeled1, y_labeled1, X_labeled2, y_labeled2): for i in range(self.n_iter): # 训练第一个分类器 self.clf1.fit(X_labeled1, y_labeled1) # 使用第一个分类器预测未标记数据的标签 y_pred1 = self.clf1.predict(X_unlabeled) # 找出第一个分类器预测的置信度最高的样本 idx1 = np.argsort(-self.clf1.predict_proba(X_unlabeled), axis=1)[:,:1] # 将这些样本加入第一个标记集 X_labeled1 = np.vstack((X_labeled1, X_unlabeled[idx1])) y_labeled1 = np.hstack((y_labeled1, y_pred1[idx1])) # 从未标记集中删除这些样本 X_unlabeled = np.delete(X_unlabeled, idx1, axis=0) y_unlabeled = np.delete(y_unlabeled, idx1, axis=0) # 训练第二个分类器 self.clf2.fit(X_labeled2, y_labeled2) # 使用第二个分类器预测未标记数据的标签 y_pred2 = self.clf2.predict(X_unlabeled) # 找出第二个分类器预测的置信度最高的样本 idx2 = np.argsort(-self.clf2.predict_proba(X_unlabeled), axis=1)[:,:1] # 将这些样本加入第二个标记集 X_labeled2 = np.vstack((X_labeled2, X_unlabeled[idx2])) y_labeled2 = np.hstack((y_labeled2, y_pred2[idx2])) # 从未标记集中删除这些样本 X_unlabeled = np.delete(X_unlabeled, idx2, axis=0) y_unlabeled = np.delete(y_unlabeled, idx2, axis=0) # 在两个标记集上合并训练数据 X_train = np.vstack((X_labeled1, X_labeled2)) y_train = np.hstack((y_labeled1, y_labeled2)) # 使用合并后的训练集重新训练两个分类器 self.clf1.fit(X_train, y_train) self.clf2.fit(X_train, y_train) def predict(self, X): # 合并两个分类器的预测结果 y_pred1 = self.clf1.predict(X) y_pred2 = self.clf2.predict(X) return np.hstack((y_pred1.reshape(-1, 1), y_pred2.reshape(-1, 1))) ``` 这个 Co-training 的实现使用了朴素贝叶斯分类器作为基分类器，可以根据需要替换为其他分类器。在 `fit` 方法中，我们首先训练两个基分类器，然后将它们用于预测未标记数据的标签。接着，我们分别找出两个分类器预测置信度最高的样本，将它们加入两个标记集，并从未标记集中删除这些样本。这个过程重复进行多次，直到未标记集为空。最后，我们使用两个标记集合并后的训练数据重新训练两个分类器，并在预测时合并两个分类器的预测结果。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值