西瓜书学习笔记第三章（2）

前面几个小节介绍了两种回归的方法，即线性回归和对数回归，从这节开始，将介绍线性判别方法。

线性判别即将各个数据映射为一条直线上的数据并依靠聚集程度、相对距离等条件来进行区分，并由此提出了两类散度矩阵。

线性判别应用到多分类任务时也是如此，只不过判别矩阵变为了多类的考量。

3.5节为多分类学习，该节提出怎么用二元的即只能输出两个答案的分类器进行分类多个不同类别的数据集，并且提出一对一、一对多、多对多的分类训练思想。然后提出了怎么将不同分类器的结果进行整合，并且参考编码的思想提出将各个分类器的结果进行编码，并根据码距来进行拟合判断。

3.6节提出了一种叫做类别不平衡的现象，类别不平衡问题主要是产生于对训练数据的正反例偏差导致，这样会导致训练模型出现类似于过拟合的情况，作者在后面提出一种基于阈值的思想来改善该情况，但是该问题仍然有很大的研究空间。