参考Ng的ML课程第四周
https://www.coursera.org/learn/machine-learning/home/week/4
主要思想
多分类的逻辑回归就是对每个标签分别作一次逻辑回归,然后计算样本属于每个标签的概率,选取最大概率的那个标签作为预测值
本文实现的逻辑回归加上了正则项,正则项用来减少权重参数(即theta)的幅度,防止过拟合,正则项一般不惩罚偏置项。
重要公式
1.
J(θ)的计算公式
注意,正则项不包括θ0,即不惩罚偏置项
2.
梯度g的计算公式
注意,正则项不包括θ0,所以j=0时,梯度不包括第二项