KNN 与 GMM

KNN

一般交叉验证选择k
看confusion matrix 和 ROC
优点：

• 概念简单，参数少
• 对异常值不敏感（因为是投票决定，异常值毕竟少）
• 既可以处理分类也可以处理回归。

缺点：

• 无法给出数据的内在含义；
• 计算复杂度高，空间复杂性高；(用k-d树)
• 无法处理样本不平衡问题。

GMM

高斯生成模型：

• 因为是生成模型，可以天然生成数据，只需要假设似然概率和先验概率分布，从而求得联合概率，再得到给定数据，标签的概率。
• 稳定