机器学习面试题汇总

1.LR正则化L1和L2的区别？
相同点：L1正则化和L2正则化都有助于降低过拟合风险，增加模型的泛化能力．
不同点：L1正则化比L2正则化更容易活得稀疏解，将不相关特征对应的权重设为0，去除不相关特征，进行特征选择．L2正则化进行特征权重衰减。L1正则是拉普拉斯先验，L2正则是高斯先验。
2.梯度下降法和牛顿法的区别？
梯度下降是用平面来逼近局部，牛顿法是用曲面逼近局部。牛顿法是二阶收敛，梯度下降是一阶收敛，所以牛顿法就更快。二阶其实相当于考虑了梯度的梯度，所以相对更快
3.待填