线性回归如何执行分类任务

广义线性模型：

其中g()称为“联系函数”(link function)

要使用回归来执行分类任务，只需考虑寻找一个联系函数将分类标记与线性回归得出的预测值联系起来即将预测值离散化，

满足这种需求的最理想的g()函数为“单位跃阶函数”(unit-step function)：

但是单位跃阶函数并不是连续函数，不能直接使用，因此logistic函数便来近似接近单位跃阶函数，下图为单位跃阶函数与logistic函数曲线。

logistic函数：

这便是logistic函数的来历。

对于式中的参数w，b采用高等数学中的二元函数求无条件极值的方法求解，为使拟合效果最好即误差最小，求得极小值，若无极小值，采用梯度下降法无限逼近极小值。

参考周志华《机器学习》。