这篇博客介绍的是一篇用于半监督回归问题的方法：Semisupervised Regression with
Cotraining-Style Algorithms。 这是周志华老师在2007年较早的一篇文章，其特点在于，大多数半监督的算法都是用于分类问题的，而Coreg则以相对较简单的方式实现了半监督的回归。
关于半监督学习
- 基于分歧的半监督学习方法
机器学习教程 之 半监督学习 Tri-training方法 (论文、数据集、代码)
机器学习教程 之 半监督学习 Co-training 协同训练 (论文、算法、数据集、代码)
机器学习教程 之 半监督学习 Coreg 协同回归算法 (论文、算法、数据集、代码) - 基于图的半监督学习方法
DeepLearning | 图注意力网络Graph Attention Network（GAT）论文、模型、代码解析
DeepLearning | 图卷积神经网络(GCN)解析(论文、算法、代码)
DeepLearning | 图卷积网络基于拓扑结构的分类（T-GCN)
机器学习教程 之 半监督学习 基于图正则项的半监督极限学习机
这些博客都提供了算法的讲解和python的代码复现，感兴趣的可以了解一下
一、Co-regression (Coreg) 模型
和 Cotraining 类似，Coreg采用的也是两个学习器相互给无标签数据打标签的方法。不同点在于Coreg针对的是回归问题。
相比于分类问题，该场景下回归问题的难点在于如何挑选置信度较高的伪标签？分类问题很简单，对于一个样本点，如果分类器输出类别的后验概率足够高，那么就可以认为这个预测是准确的，因而可以将该预测设置为无标签数据的伪标签 （详细见 Co-training）。但是对于回归问题而言，回归器是没有后验概率这一说法的，所以Core的主要贡献就在于给出了评估预测可靠程度的方法，从而为无标签数据提供伪标签。
Coreg使用了两个KNN回归器，这两个回归器的不同是通过设定不同的距离度量和近邻数量实现的。对一个回归器对一个无标签样本 x u x_{u} xu 预测的可靠程度的评估，是通过下面的指标来衡量的
上式中，
Ω
u
\Omega_{u}
Ωu 指的是
x
u
x_{u}
xu 在有标签数据集
L
L
L 中的近邻样本集，
h
h
h表示的是该KNN回归器，
h
′
h^{'}
h′ 表示的是将
x
u
x_{u}
xu 和
y
u
=
h
(
x
u
)
y_{u} =h(x_{u})
yu=h(xu) 加入到训练集以后更新得到的回归器。简单来说
δ
x
u
\delta_{x_{u}}
δxu 评估的是将该伪标签加入到训练集以后对近邻预测的影响，
δ
x
u
\delta_{x_{u}}
δxu越大，表示加入该伪标签对于准确率提升的收益越大，那么该伪标签就越有可能是正确的
二、Coreg算法流程
三、模型python代码
有问题可以私信博主，点赞关注的一般都会回复，一起努力，谢谢支持。
微信搜索“老和山算法指南”获取下载链接与技术交流群
扫一扫
2005
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
