Co-Forest

最新推荐文章于 2022-07-19 07:37:52 发布

extremebingo

最新推荐文章于 2022-07-19 07:37:52 发布

阅读量3.3k

点赞数 7

分类专栏：半监督学习

本文链接：https://blog.csdn.net/extremebingo/article/details/86487105

版权

Co-Forest是一种半监督机器学习算法，扩展了协同训练，通过随机森林优化模型。它利用有标签和无标签数据，通过伴随集成选择无标签样本进行迭代优化。每个分类器的优化基于加权的置信度估计，防止大量自动标记数据对训练的影响。

摘要由CSDN通过智能技术生成

简介

Co-Forest是一种半监督的机器学习方法，它能够同时利用有标签数据和无标签数据来提高模型的精度。通常是首先从有标签的数据中学习，然后使用无标签的数据对模型进行优化。

Co-Forest作为协同训练(Co-training)的一种扩展，它在协同训练的基础上引入了随机森林，解决了如何最准确地确定无标签数据的标签，以及如何确定最终的模型。

Co-Forest

令L和U分别表示有标签和无标签数据集，它们来自具有相同分布的数据。在协同训练中，首先从L中训练两个分类器，然后每个分类器从自己的角度对U中置信度最高的数据进行标记，另一个分类器用这些新标记的数据进行模型更新。其中，对未标记数据的预测置信度估计是协同训练中最重要的一个方面，

在协同训练中，如果使用N个分类器 $H^*$ ，而不是两个分类器，就可以更加有效地估计置信度。为了给某个分类器 $h_i(i=1,\dots, N)$ 提供置信度最高的若干个样本，需要用到出 $h_i$ 外的其它所有分类器，这些分类器形成一个新的集成，称为 $h_i$ 的伴随集成，表示为 $H_i$ 。 $H_i$ 与 $H^*$ 相比只少了个 $h_i$ 。因此，一个未标记样本的置信度可以简单地用标记的一致程度来估计，即同意分配某个标签的分类器的数量。利用这种方法，Co-Forest首先在L上训练一个分类器集合，然后利用伴随集成选择的无标签数据对各个分类器进行优化。