一、广义线性模型
①、广义线性模型:将线性回归的假设函数作为自变量映射到另一个函数上即:
这样的模型为广义线性回归,其中函数g 为联系函数。
②、作用:
将分类任务的真实标记y 与线性回归模型的预测值联系起来
二、逻辑斯蒂回归
虽然逻辑回归能够用于分类,不过其本质还是线性回归。它仅在线性回归的基础上,在特征到结果的映射中加入了一层sigmoid函数(非线性)映射,即先把特征线性求和,然后使用sigmoid函数来预测。
2.1 sigmoid函数
①、首先我想到了阶跃函数:
但是阶跃函数在0处不连续,且无法求导,那就无法作为联系函数,于是我们需要找到阶跃函数的替代品,且它必须是连续可导的,还要能有分箱的功能。
②、对数几率函数
公式表示:
图像: