贪心算法适用条件_不同算法模型的简要说明和应用场景

1.基本算法

·KNN（K-nearest neighbors）: a non-parametric method for classification/regression 完全跟着数据走，无数学模型可言，很容易解释的模型。 适用于：需要向用户解释原因的推荐算法。

·贝叶斯：根据条件概率计算待判断点的类型。适用于：1.垃圾邮件过滤器；2.容易解释、不同维度间相关性较小的情况；3.可高效处理高维数据，但效果可能不是很好。

·决策树：沿着特征做切分。通过观察树的上层结构，能对分类器的核心思路有直观感受。 适用于：希望更好理解数据时。 不适用于：受限于简单性，在垃圾邮件躲避检测中过于死板。

·随机森林：选取不同特征和样本，生成大量决策树，综合这些决策树。是一种集成算法，现实分析中被大量使用。 适用于：1.数据维度相对低（几十维），准确性要求较高时，因为不需要很多参数调整；2.不知用什么方法时，可以先试一下随机森林。

·SVM：找分界面，使两边距离分界面尽量远，利用kernel，可以使分界面变成曲面。 适用于：与随机森林一样，可以拿到数据先试试。

·逻辑回归（logistic regression）: 找到合适参数，使函数值与样本值最接近。如linear regression f(x)=ax+b LR拟合的不是线性函数，而是概率学中的函数。F(x)值指的是：样本属于这个类的概率。 适用于：它本质上是线性分类器，处理不好特征之间的相关的情况。虽效果一般，却胜在模型清晰，概率经得住推敲，是理解数据的好工具。

LR和SVM的区别：看 损失函数（目的：增加对分类影响较大的数据权重，减少与分类关系较小的数据点的权重）。
SVM：只考虑和分类最相关的少数点（support vector）,考虑 局部。损失函数为：