百面机器学习-经典算法

01 支持向量机

问题1：在空间上线性可分的两类点，分别向SVM分类的超平面上做投影，这些点在超平面上的投影仍然也是线性可分的吗？
不可能的
问题2：是否存在一组参数使得SVM的训练误差为0？
存在

02 逻辑回归

逻辑回归处理的是分类问题。线性回归处理的是回归问题。
处理多分类问题：多项逻辑回归，或者训练k个分类器。

03 决策树

决策树的启发函数：最大信息增益，最大信息增益比、最大基尼系数。
如何剪枝：预剪枝：划分的时候计算能否提高模型的泛化能力。后剪枝：生成一个完整的树然后从底层开始剪枝。