多分类学习（OvO、OVR、MVM 原理区别）

已于 2023-02-16 21:13:05 修改
阅读量4.6k 收藏 26
点赞数 6
分类专栏： 机器学习
于 2022-03-20 20:14:46 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_34120015/article/details/123618901
版权
本文介绍了多分类问题的解决策略，包括OvO（一对一）、OvR（一对剩余）和MvM（多对多）策略。OvO拆分数据进行两两组合，训练多个分类器，预测时采用投票法。OvR将一类作为正例，其他为反例，只有一个分类器将其预测为正例则属于该类。MvM则更为复杂，采用ECOC技术，通过编码距离判断类别，通常效果优于OvR。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

  多分类问题解决思路，一般来说，用二分类学习器解决多分类问题，基本思想是先拆分后集成，也就是先将数据集进行拆分，然后多个数据集可训练多个模型，然后再对多个模型进行集成。这里所谓集成，指的是使用这多个模型对后续新进来数据的预测方法。

  具体来看，依据该思路一般有三种实现策略，分别是“一对一”（One vs Ons，简称OvO）、“一对剩余”（One vs Rest，简称OvR）和“多对多”（Many vs Many，加成MvM）。接下来我们逐个讨论。

1.OvO策略

  • 拆分策略

  OvO的拆分策略比较简单，基本过程是将每个类别对应数据集单独拆分成一个子数据集，然后令其两两组合，再来进行模型训练。例如，对于上述四分类数据集，根据标签类别可将其拆分成四个数据集，然后再进行两两组合，总共有6种组合，也就是 C 4 2 C^2_4 C42​种组合。拆分过程如下所示：

81

然后在这6个新和成的数据集上，我们就能训练6个分类器。当然，如果是N分类问题，则需要训练 C N 2 = N ( N − 1 ) 2 C^2_N=\frac{N(N-1)}{2} CN2​

最低0.47元/天 解锁文章
多类别分类算法：一对一（OvO）和一对剩余（OvR）
syntax_api860的博客
09-18 2127
一对剩余（One-vs-Rest，简称OvR）策略是另一种常用的多类别分类策略。与OvO策略不同，OvR策略将多类别分类问题转化为K个二分类子问题。OvO策略将多类别分类问题转化为多个二分类子问题，而OvR策略将多类别分类问题转化为K个二分类子问题。最后，我们使用训练好的分类器对测试集进行预测，并计算预测的准确率。一对一（One-vs-One，简称OvO）策略是将多类别分类问题转化为多个二分类子问题的方法。具体而言，对于K个类别，OvO策略会构建K(K-1)/2个分类器，每个分类器用于区分两个类别。
机器学习（三十七）：OvO 和 OvR
全栈川川
11-08 1298
OvO和OvR方法。主要介绍这两种方法将二分类算法转为多分类。
有哪些多分类学习方法，其拆分集成策略分别是什么？
好好学习的星熊的博客
11-08 580
OvO 拆分策略：将多个标签拆分两两成对的基评估器。 集成策略：将新数据代入，计算在二分类的基评估器下，模型更倾向对哪个标签进行投票，汇总所有基评估器的结果，投票数量最多的为最终标签。 基评估器数量：需要的基评估器数量为 OvR 拆分策略：将多个标签分为01标签，得到标签数量个基评估器。 集成策略：将新数据带入基评估器，最终得到1的基评估器对应的标签为预测结果。如果有多个标签为1的基评估器，则根据基评估器本身的准确率来判断。 基评估器数量...
【机器学习】--多分类（单标签）
最新发布
我是个好人呀，????
03-31 825
单标签多分类问题其实是指待预测的label标签只有一个，但是label标签的取值可能有多种情况；直白来讲就是每个实例的可能类别有K种。常见算法：Softmax、KNN、决策树等。
多分类学习：OvO、OvR、ECOC
skysys的研究小屋
01-04 1965
OvO OvR MvM ECOC ECOC 是 Error-Correcting Output Codes 的缩写。中提到 ECOC 可以用来将 Multiclass Learning 问题转化为 Binary Classification 问题，本文中我们将对这个方法进行介绍。 要了解 ECOC ，可以从 One-vs-Rest 的 Multiclass Learning 策略出发。回忆一下，对于一个 K 类的分类问题，One-vs-Rest 策略为每一个类 i 都训练一个 binary c
机器学习题1：利用逻辑回归模型实现多元分类时，请说明具体的分类策略。
my0214163的博客
06-14 967
利用逻辑回归模型实现多元分类时，请说明具体的分类策略。
通俗理解OvO与OvR
热门推荐
alw_123的博客
08-08 1万+
现实中常遇到多分类学习任务。有些二分类算法可以直接推广到多分类，但在更多情形下，我们是基于一些策略，利用二分类算法来解决多分类问题。例如：OvO、OvR。 OvO 假设现在训练数据集的分布如下图所示（其中A，B，C代表训练数据的类别）： 如果想要使用逻辑回归算法来解决这种3分类问题，可以使用OvO。OvO(One Vs One)是使用二分类算法来解决多分类问题的一种策略。从字面意思可以看出它的核...
机器学习：二分类到多分类-ovr,ovo,mvm,sofmax
随便记记
07-06 2724
一般情况下，我们都认为逻辑回归（LR）用来解决二分类问题，BCE损失函数也是用来解决二分类问题的，那逻辑回归以及BCE损失函数能否用来做多分类任务呢，答案是肯定的。有两种方法 一、将多分类任务拆解成多个二分类任务； 二、对传统的逻辑回归模型进行改造，使之变为softmax回归模型进行多分类任务求解(也就是sklearn中逻辑回归的multi_class=‘multinomial’), 我们可以认为多元逻辑回归就是sofmax回归 多分类任务拆解成多个二分类器 将多分类任务拆为多个二分类任务求解，一般有.
《机器学习by周志华》学习笔记-线性模型-03多分类学习与类别不平衡处理
vanilla698的博客
04-23 800
我们在上一节介绍了「线性判别分析（LDA）」，LDA的从二分类任务可以推广到多分类任务中。而现实中常遇到的多分类学习任务。有些二分类的学习方法可以直接推广到多分类，但是更多情况下是基于一些策略，利用二分类学习器来解决多分类的问题。
多分类学习
qq_40710190的博客
04-15 3780
多分类问题 现实中常遇到多分类学习任务。有些二分类学习方法可直接推广到多分类。但在更多情形下，我们是基于一些基本策略，利用二分类学习器来解决多分类问题。所以多分类问题的根本方法依然是二分类问题。通常地，使用的是拆分法，也就是将一个多分类转换为多个二分类，然后将多个预测结果进行集成最后得出预测结果。 具体来说，有以下三种策略： 一、一对一 （OvO) 假如某个分类中有N个类别，我们将这N个类别进行两...
56-OvR 和 OvO
qq_41033011的博客
10-20 781
前言   在前面系统学习了逻辑回归这种机器学习算法，它是使用回归的方式来解决分类问题。之前提到过，逻辑回归只可以解决二分类的问题，不过我们可以稍加改造，使得逻辑回归算法同样可以解决多分类问题。   其实这种改造方式不是只针对逻辑回归这一种方式，而是一种通用的对近乎所有的二分类算法都可使用这种方式让它们能够作用在多分类问题上。那么这种改造方式通常有两种：OvR 和 OvO。 OvR（One vs Rest）   我们首先来看一下 OvROvROvR（One vs Rest），即 1 对剩余的所有，有些地方有
机器学习笔记（五）逻辑回归 、决策边界、OvR、OvO
qq_45723275的博客
03-29 2800
目录1、分类问题2、逻辑回归3、损失函数4、决策边界4、OvR与OvO 1、分类问题 机器学习中有三大问题，分别是回归、分类和聚类。线性回归属于回归任务，而逻辑回归和k近邻算法属于分类任务。逻辑回归算法主要应用于分类问题，比如垃圾邮件的分类（是垃圾邮件或不是垃圾邮件），或者肿瘤的判断（是恶性肿瘤或不是恶性肿瘤）。在二分类的问题中，我们经常用 1 表示正向的类别，用 0 表示负向的类别。 2、逻辑回归 logistic回归是广义线性回归，因此与线性回归有很多相同之处。它们的模型形式基本上相同，都具有y^=wx
[机器学习-原理与实践]逻辑回归(LogisticRegression)多分类(OvR, OvO, MvM）
Harry的博客
07-02 9757
这里写目录标题前言One-VS-RestOne-Vs-One实践案例总结 前言 逻辑回归分类器（Logistic Regression Classifier）是机器学习领域著名的分类模型。其常用于解决二分类（Binary Classification）问题。 One-VS-Rest 假设我们要解决一个分类问题，该分类问题有三个类别，分别用△，□和×表示，每个实例（Entity）有两个属性（Attribute），如果把属性 1 作为 X 轴，属性 2 作为 Y 轴，训练集（Training Dataset）的
最通俗易懂---多分类学习之OvO、OvR、MvM
qq_42003997的博客
01-06 9230
多分类学习之OvO、OvR、MvM
ovo以及ovr的直观理解
like_study_cat的博客
05-27 3112
多分类问题与二分类问题关系 首先，两类问题是分类问题中最简单的一种。其次，很多多类问题可以被分解为多个两类问题进行求解（请看下文分解）。所以，历史上有很多算法都是针对两类问题提出的。下面我们来分析如何处理多分类问题： 直接分成多类 一对一的策略（OVO） 给定数据集D这里有N个类别，这种情况下就是将这些类别两两配对，从而产生N(N−1)2个二分类任务，在测试的时候把样本交给这些分类器，然后进行投票。 一对其余策略（ovr） 将每一次的一个类作为正例，其余作为反例，总共训练N个分类器。测试的时候若仅有一个分
多分类问题OvO,OvR,MvM
kylin_learn的博客
08-24 1万+
 
OvO多分类策略简述
qq_52669357的博客
03-21 4970
OvO多分类策略（one VS one） 什么是OvO多分类问题
机器学习_SVM实现多分类_持续更新
Longtermevolution的博客
01-15 1358
目录 导语: 直接法 间接法 （1）一对多法（one-versus-rest,简称OVR SVMs） （2）一对一法（one-versus-one,简称OVO SVMs或者pairwise） 导语: 直接方法尽管看起来简洁，但是在最优化问题求解过程中的变量远远多于第一类方法，训练速度不及间接方法，而且在分类精度上也不占优。当训练样本数非常大时，这一问题更加突出。正因如此，...
二分类模型来解决多分类问题
bulling的博客
04-10 731
One-vs-Rest，也称为 One-vs-All，是将多分类问题分解为多个二分类问题的一种方法。对于有 ( N ) 个类别的多分类问题，OvR策略会创建 ( N ) 个二分类模型，每个模型负责将一个类别与其它所有类别区分开来。Error-Correcting Output Codes是一种更复杂的策略，它通过创建多个二分类器，并将多类标签编码为二进制串来工作。One-vs-One策略是另一种解决多分类问题的方法，它通过在每对类别间训练一个二分类模型来工作。个类别的问题，会训练。
多分类学习MvM
03-14
### 多分类学习中的MvM方法 多分类学习（Multi-class Classification）是指目标变量具有两个以上离散取值的学习任务。在机器学习领域，解决多分类问题的一种常见策略是通过分解技术将其转化为多个二分类子问题来处理。这种方法通常被称为“一对其他”（One-vs-Rest, OvR）、“一对一”（One-vs-One, OvO），或者更通用的形式称为“多数投票法”（Majority Voting Method, MvM）。以下是有关MvM方法的具体介绍： #### 什么是MvM方法？ MvM是一种基于集成学习的思想，用于将复杂的多分类问题拆解成若干个简单的二分类问题[^1]。具体而言，在每一轮训练过程中构建一个二分类器，该分类器负责区分某两类样本，而忽略其余类别。最终预测阶段则通过对所有基分类器的结果进行加权平均或简单投票等方式得到最终决策。 #### 实现方式 Scikit-learn提供了多种实现上述思路的功能组件。例如`sklearn.multiclass.OneVsRestClassifier`可以用来执行one-vs-rest(OvR)模式下的多标签或多类别分类；同样地也有针对特定场景优化过的算法如随机森林(Random Forests)，支持向量机(Support Vector Machines,SVMs)[^2]等可以直接应用于多类别的数据集上无需额外转换操作即可完成建模过程。 #### 示例代码展示如何利用SVC配合OvR机制来进行三元以上的分类任务： ```python from sklearn import datasets from sklearn.multiclass import OneVsRestClassifier from sklearn.svm import SVC iris = datasets.load_iris() X, y = iris.data, iris.target classifier = OneVsRestClassifier(SVC(kernel='linear')) classifier.fit(X, y) predicted_labels = classifier.predict([[0.1, 0.2, 0.3, 0.4]]) print(predicted_labels) ``` 此段脚本展示了加载鸢尾花数据集并应用线性核函数的支持向量机作为基础估计器创建了一个适用于三个不同种类花卉识别系统的模型实例化对象，并完成了测试输入样例所属类型的判定工作流程演示。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值