《机器学习实战》总结

用了大概一个月的时间，终于把《机器学习实战》这本书看了一遍，书中的代码也全部敲了一遍。下来就总结下书中提到的各个算法。
（注意，本博客适用于复习，不适用新手）
一、监督学习
我的理解就是给的数据是有结果的，根据这些已经明确结果的数据去推测那些没有明确结果的数据的结果。
监督学习可简单分为分类和回归：
分类常用于处理标称型数据（数据结果为0，1或者结果为-1，1；即结果是确定的几个值）；
回归既可以用于处理标称型数据又可以用于处理连续性数据。
1.分类
常用的分类方法有：k-近邻算法（kNN）、决策树、朴素贝叶斯、Logistic回归、支持向量机(SVM)、AdaBoost元算法。
我们挨个看。
1.1 k-近邻算法（kNN）
kNN算法的主要思想是 将 待分类的点分类至 离待预测的点最近的k个点出现最多的那个分类结果。
优点：精度高、对异常值不敏感、无数据输入假定。
缺点：计算复杂度高、空间复杂度高。
适用数据类型：数值型和标称型
1.2 决策树
根据训练数据创建一棵决策树，判断待分类数据类别时要从根节点开始比较判断，一直到叶子节点，该叶子节点就是待分类数据的类别了。
优点：计算复杂度不高，输出结果容易理解，对中间值的缺失不敏感，可以处理不相关特征数据。
缺点：可能会产生过度匹配问题。
适用数据类型：数值型和标称型
1.3 朴素贝叶斯
通过对训练数据进行分析，再结合贝叶斯公式计算条件概率，判断将待分类数据分到哪个类别下