机器学习中常见算法的特点

过拟合：为了追求模型的准确率，导致模型的复杂度增加

正则化：是模型结构风险最小化策略的实现，在经验风险上添加一个正则化的项或者惩罚项

泛化能力：通过泛化误差来进行表现

1. 决策树（decision Tree）

优点：

一. 对于决策树，数据的准备往往是简单或者是不必要的.其他的技术往往要求先把数据一般化，比如去掉多余的或者空白的属性。

二. 决策树是一个白盒模型。如果给定一个观察的模型，那么根据所产生的决策树很容易推出相应的逻辑表达式。

缺点：

一、           对于那些各类别样本数量不一致的数据，在决策树当中,信息增益的结果偏向于那些具有更多数值的特征。

二、           决策树处理缺失数据时的困难。

三、           过度拟合问题的出现。

四、           忽略数据集中属性之间的相关性。

2. 朴素贝叶斯的优缺点

优点：

一、           朴素贝叶斯模型发源于古典数学理论，有着坚实的数学基础，以及稳定的分类效率。

二、           NBC模型所需估计的参数很少，对缺失数据不太敏感，算法也比较简单。

缺点：

一、           理论上，NBC模型与其他分类方法相比具有最小的误差率。但是实际上并非总是如此，这是因为NBC模型假设属性之间相互独立，这个假设在实际应用中往往是不成立的（可以考虑用聚类算法先将相关性较大的属性聚类），这给NBC模型的正确分类带来了一定影响。在属性个数比较多或者属性之间相关性较大时，NBC模型的分类效率比不上决策树模型。而在属性相关性较小时，NBC模型的性能最为良好。

二、           需要知道先验概率。

三、           分类决策存在错误率

3 Adaboosting方法的优点

一、           adaboost是一种有很高精度的分类器。

二、           可以使用各种方法构建子分类器，Adaboost算法提供的是框架。

三、           当使用简单分类器时，计算出的结果是可以理解的。而且弱分类器构造极其简单。

四、           简单，不用做特征筛选。

五、           不用担心overfitting。

4 支持向量机（SVM）的优缺点

SVM的优点：

一、           可以解决小样本情况下的机器学习问题。

二、           可以提高泛化性能。

三、           可以解决高维问题。

四、           可以解决非线性问题。

五、           可以避免神经网络结构选择和局部极小点问题。

SVM的缺点：

一、           对缺失数据敏感。

二、           对非线性问题没有通用解决方案，必须谨慎选择Kernelfunction来处理。