1. 逻辑回归与线性回归的联系与区别
联系:线性回归对特征加权求和后得到的值作为输入,利用logistic函数将其映射到(0,1)之间,即为逻辑回归。
区别:逻辑回归输出在(0,1)之间
2. 逻辑回归的原理
线性回归结果加入一层函数映射,使其输出值在(0,1)之间,从而控制输出值的范围在可预测范围之内。
3. 逻辑回归损失函数推导及优化
交叉熵描述了两个概率分布之间的距离,常用于分类问题;均方误差常用于回归问题。
4. 正则化与模型评估指标
正则化:为了防止模型参数过多出现过拟合,通过增加一个惩罚项来约束和限制要优化的参数,降低模型的复杂度和不稳定程度,从而避免过拟合的危险。