机器学习总结

1.决策树，熵最大，作为根节点，选择是或否

容易过拟合

提升树，cart剪枝等。

2.HMM，初始状态，转移概率，结果状态隐藏在可观测状态中，通过转移概率矩阵，到结果状态。

https://www.zhihu.com/question/20962240

https://www.ricequant.com/community/topic/788//5

http://www.niubua.com/2015/07/16/%E4%B8%80%E6%96%87%E6%90%9E%E6%87%82hmm%EF%BC%88%E9%9A%90%E9%A9%AC%E5%B0%94%E5%8F%AF%E5%A4%AB%E6%A8%A1%E5%9E%8B%EF%BC%89/

3.朴素贝叶斯，根据后验概率，推断先验概率。

训练数据大，根据已有数据情况，判断新的数据。

4.GMM

参考资料，含代码

http://blog.pluskid.org/?p=39

http://blog.csdn.net/abcjennifer/article/details/8198352

聚类：

1.模糊C均值（FCM）

隶属度函数，聚类中心，迭代，达到限定值，终止。

缺点：

需要事先知道类别

处理球星星状数据有效

2.k-means

1、 随机选取k个聚类质心点（cluster centroids）为。

2、 重复下面过程直到收敛 {

               对于每一个样例i，计算其应该属于的类

               

               对于每一个类j，重新计算该类的质心

               

}

缺点：结果跟初始聚类中心点的选取有很大关系

参考资料

含代码 java  http://blog.csdn.net/jia20003/article/details/8828648

c++    http://blog.csdn.net/qll125596718/article/details/8243404/

GMM