传统机器学习算法优缺点总结

传统机器学习算法优缺点总结

算法	优点	缺点
K-最近邻	算法实现简单，预测的精度一般也较高	对预测集的每个样本都需要计算它和每个训练样本的相似度，计算量较大，尤其是训练集很大的时候，计算量会严重影响算法的性能
决策树	准确率较高，可解释性强，对缺失值、异常值和数据分布不敏感等	对于连续型的变量需要离散化处理，容易出现过拟合现象等
朴素贝叶斯分类算法	计算简单，在数据量较少的情况下依然有效，也适用于多分类的问题	属性的相互独立假设在实际问题中可能得不到很好的满足。 该算法在医学、经济和社会领域都有广泛的应用。
支持向量机（SVM）	有充分的理论基础，并且最终的决策只由少数的支持向量确定，算法的复杂度取决于支持向量的数量，而不是样本空间的维数，所以计算量不是很大，而且泛化准确率较高	对参数调节和核函数的选取比较敏感，而且在存储和计算上占用较多的内存和运行时间，所以在大规模的样本训练上有所不足
随机森林	不容易过拟合，适合数据的类型多样，具有很好的抗噪声能力，结果容易理解，可以并行化，算法计算速度快等	对小数据集可能效果不理想，计算比单棵决策树慢，可能出现相似的树，投票结果影响正确的决策
k-Means算法	算法简单、快速，合用于近似球状的簇，对非球形效果不明显	一般要求所有的数据都放入内存，这限制了它在大规模数据上的应用。 还要求用户预先指定聚类的个数，但在大多数实际应用中，最终的聚类个数是未知的。 只使用某一固定的原则来决定聚类，这就使得当聚类的形状不规则或大小差别很大时，聚类的结果不能令人满意
层级聚类	多层次聚类结构清晰可见	无全局目标函数，聚类算法容易陷入局部最优，同时也容易受噪声、孤立点、奇异值的影响
基于密度聚类的算法	优点是扫描一遍，且不受形状、噪声和孤立点数据对象的影响，不用提前给出聚类数	不足是算法复杂度较高，同时聚类结果的质量和数据的密度有直接关系，要求待聚类数据的密度有起伏，并且该方法对参数设置十分敏感

User CF 和 Item CF