机器学习各经典算法最最最简单通俗理解-knn、决策树、朴素贝叶斯

机器学习各经典算法简单通俗理解-knn、决策树、朴素贝叶斯

1.knn

       计算测试数据与训练数据之间的欧式距离y，其中x为各项特征值，最终计算出测试样本与所有训练数据之间的欧氏距离，在其中选出最小的k个（k为正整数），认为测试数据的类别与这k个的类别相同。再简言，计算测试数据与已知数据的差别大小，选择k个最小的差值的类别作为测试数据类别。

举例：使用knn对手写字体进行分类

  测试数据​​​​​​0-9很多数据，每个数字可多张

       所有数据都为32x32维度，计算这1024个特征值构成的数据的欧氏距离（测试数据与训练数据之间的），在其中选取k个最小的值的数据的类别作为分类结果。

2.决策树

       搭建树形结构的决策模型，根据特征进行分叉，训练的过程就是在搭建合适的决策树结构，结点的特征选择是关键内容，要计算所有特征的信息增益，结点的选择要选择信息增益最小的特征作为决策树的分叉依据。树结构训练后可以保存，使用时候直接调用，按照顺序输入特征即可得出分类结果。再简言，根据训练数据搭建决策树，使用时按顺序灌入特征值即可一步步得出结果。

3.朴素贝叶斯

      简单来说是概率论中条件概率的内容，对比在当前特征值下每种结果发生的概率（条件概率），然后对比，条件概率最大的即为分类结果。借用知乎网友的解释，非常简单明了。