【SVM、决策树、adaboost、LR对比】

一、SVM

   1、应用场景：

     文本和图像分类。

   2、优点：

   分类效果好；有效处理高维空间的数据；无局部最小值问题；不易过拟合（模型中含有L2正则项）；

   3、缺点：

   样本数据量较大需要较长训练时间；噪声不能太多；对缺失数据敏感；

二、决策树

  1、应用：

  金融和电子商务

  2、优点：

  同时处理多种类型的数据；适合大量样本的数据；对部分数据缺失不敏感；

  3、缺点：

  容易过拟合；对属性具有强关联性时效果不好；

三、adaboost

  1、应用：

  特征选择；回归问题；

  2、优点：

  精度高；不易过拟合；

  3、缺点：

  对数据不均衡敏感；耗时；

四、对比：

  1.SVM与LR：

  相同：不用核的话都是线性分类器；都是监督学习；都是判别模型；

  不同：样本点对模型的作用不同；损失函数不同；理论基础不同（SVM基于严格的数学推导，LR基于统计）；输出不同（LR可以给出概率）；可处理空间维度不同；防过拟合程度不同；抗噪能力不同（SVM更好）；svm需要先做归一化（距离度量）；SVM容易核化。

  2.SVM与决策树：略

四、参考

   1、https://blog.csdn.net/sinat_32547403/article/details/72911193

   2、https://www.jianshu.com/p/f86de852ee96

转载于:https://www.cnblogs.com/EstherLjy/p/9426226.html