百面机器学习（3）经典算法

没有最好的分类器，只有最合适的分类器。

深度学习：数据驱动的，但没有海量且精确标注的数据时，可以采用传统方法。

 

01 支持向量机

很有趣的比喻：拍一下桌面，将球都拍到空中，再用一张纸分隔开。

问题一：空间上线性可分的两类点，分别向SVM分类的超平面上做投影，这些点在超平面上的投影还是线性可分的吗？

 

问题二：是否存在一组参数使SVM训练误差为0？（待补充）
存在

 

问题三：训练误差为0的SVM分类器一定存在吗？
是的

 

02 逻辑回归

问题一：逻辑回归和线性回归的异同

不同：逻辑回归是分类问题，线性回归是回归问题

相同：极大似然估计建模；梯度下降求解超参数

 

问题二：当使用逻辑回归多标签的分类问题时，有哪些常见做法？场景，关系？

多项逻辑回归

k个二分类逻辑回归

 

03 决策树

特征选择、树的构造、树的剪枝

问题一：决策树有哪些常用的启发函数？

常用的决策树算法：ID3-最大信息增益、C4.5-最大信息增益比、CART-最大基尼指数

 

问题二：决策树剪枝