一、为什么不能用线性回归中的平方损失函数
上一课中讲到的线性回归,在线性回归中损失函数是平方损失,
如果逻辑回归的损失函数也定义为平方损失,那么:
其中:
𝑖表示第𝑖个样本点
𝑧𝑖 = 𝑥𝑖 ∗ 𝑤 + 𝑏
𝜑 (𝑧𝑖 )表示对𝑖个样本的预测值
𝑦𝑖表示第𝑖个样本的标签值
二、正确做法
二元逻辑回归的损失函数一般采用对数损失函数,定义如下:
其中:
(𝑥, 𝑦) ∈ 𝐷是有标签样本 (𝑥, 𝑦) 的数据集
𝑦是有标签样本中的标签,取值必须是 0 或 1
𝑦′是对于特征集𝑥的预测值(介于 0 和 1 之间)
逻辑回归的理解_HuZhenXing-CSDN博客_逻辑回归解决的是什么问题
欢迎关注公众号:沙子是沙子