【1】机器学习算法面试八股

1分类算法常用哪些？

1. KNN
2. LR（逻辑回归）
3. SVM
4. 决策树、随机森林
5. 神经网络

2 回归算法一般用哪些？

1. 线性回归
2. 决策树、GBDT
3. XGboost
4. 神经网络

3 回归方法中使用的评价指标是哪些?

1. 均方误差（MSE）：
2. 均方根误差（RMSE）
3. MAE(平均绝对误差)
4. R Squared

4 分类中使用的损失函数是哪些？为什么是交叉熵而不是mae？

1. 0-1损失函数（zero-one loss）：在感知机中，使用的该损失函数
2. 对数损失函数（log loss）：用于最大似然估计，等价于交叉熵损失函数
3. 指数损失函数（exponential loss）：在adaboost中使用的该损失函数
4. 合页损失函数（hinge loss）：在SVM中使用的该损失函数
5. 交叉熵损失函数（cross-entropy loss）：用于分类任务
   在LR与神经网络中，分类最常使用的是交叉熵*：
6. 因为平方损失函数权重更新过慢，采用交叉熵损失函数可以完美解决过慢的问题，它具有“误差大的时候，权重更新快；误差小的时候，权重更新