降维后输入分类器分类时报错_逻辑回归解决多分类方法及其优缺点分析

众所周知，逻辑回归常用于解决二分类任务，但是在工作/学习/项目中，我们也经常要解决多分类问题。本文总结了 3 种逻辑回归解决多分类的方法，并分析了他们的优缺点。

---

一、One-Vs-Rest

假设我们要解决一个分类问题，该分类问题有三个类别，分别用▲，■ 和 × 表示，每个实例（Entity）有两个属性（Attribute），如果把属性 1 作为 X 轴，属性 2 作为 Y 轴，训练集（Training Dataset）的分布可以表示为下图：

One-Vs-Rest 的思想是把一个多分类的问题变成多个二分类的问题。转变的思路是选择其中一个类别为正类（Positive），使其他所有类别为负类（Negative）。

比如第一步，我们将 ▲ 所代表的实例全部视为正类，其他实例全部视为负类，得到的分类器：

同理第二步，我们把 x 视为正类，其他视为负类，可以得到第二个分类器：

最后第三步，第三个分类器是把 ■ 视为正类，其余视为负类：