机器学习算法：分类知识大盘点

机器学习算法中有一个非常重要的知识点——分类（classification），即找一个函数判断输入数据所属的类别，可以是二类别（是/不是），也可以是多类别问题（在多个类别中判断输入数据具体属于哪一个类别）。与回归问题（regression）相比，分类问题的输出不再是连续值，而是离散值，用来指定其属于哪个类别。分类问题在现实中应用非常广泛，比如人脸识别、语音识别、手写数字识别、垃圾邮件识别等等。

分类大致有七部分内容组成，在下图图一中将其分别列出。

一、指定阈值
逻辑回归返回的概率。你可以“原样”使用返回的概率（比如说，用户点击此广告的概率为0.00023），也可以将返回的概率转换成二元值（比如说，这封电子邮件是垃圾邮件）。

如果某个逻辑回归模型对某封电子邮件进行预测时返回的概率为0.9995，则表示该模型预测这封邮件非常可能是垃圾邮件。相反，在同一逻辑回归模型中预测分数为0.0003的另一封电子邮件很可能不是垃圾邮件。但是如果说某封电子邮件的预测分数为0.6呢？为了将逻辑回归值映射到二元类别，你必须指定分类阈值（也称为判定阈值）。如果值高于该阈值，则表示“垃圾邮件”；如果值低于该阈值，则表示“非垃圾邮件”。我们往往会认为分类阈值应始终为0.5，但阈值取决于具体问题，因此你必须对其进行调整。

对于分类模型的预测进行评估的指标，以