1.逻辑回归的数学模型
建立变量的线性组合:
使用sigmoid函数对线性模型进行映射:
2.定义损失函数
在模型确定后,需要用一个损失函数(loss function)或代价函数(cost function)来度量预测错误的程度。常用的损失函数有以下几种:
逻辑回归的损失函数为对数似然函数:
等价于:
最终:
3.最小化损失函数
转化为最优化问题,使用梯度下降法等方法求解。
参考:https://blog.csdn.net/saltriver/article/details/63681339