LR对数损失

逻辑回归模型是：

在模型的数学形式确定后，剩下的就是如何去求解模型中的参数 θ 。而在已知模型和一定样本的情况下，估计模型的参数，在统计学中常用的是极大似然估计方法。即找到一组参数 θ ，使得在这组参数下，样本数据的似然度（概率）最大。

似然函数可以写成： 

对数似然函数则为：

我们经常使用损失函数来衡量模型预测的好坏。其中对数损失在单个数据点上的定义为： 

这个对数损失函数与上面的极大似然估计的对数似然函数本质上是等价的。所以逻辑回归直接采用对数损失函数来求参数，实际上与采用极大似然估计来求参数是一致的。