机器学习的经典算法

📒线性算法

线性回归模型可以表示为一个方程式，它为输入变量找到特定的权重b。进而描述一条最佳拟合输入变量x和输出变量y之间关系的直线。

---

📒Logistic回归

它是二分类问题的首选方法。

Logistic回归的输出预测结果通过一个“logistic函数”的非线性函数变换而来。它会把任何值转换至0-1的区间内，从而来预测类别；其概率与自变量之间的关系是“S”型。

---

📒决策树

决策树是一种预测建模的算法；可以表示为一棵二叉树，每个节点都代表一个输入变量和基于该变量的分叉点，每个叶子节点包含一个用于做出预测的输出变量y。

决策树的学习速度很快，做出预测的速度也很快，不需要为数据做任何特殊的预处理准备。

---

📒朴素贝叶斯

假设每个输入变量相互之间是独立的（但这并不现实），该模型由两类可直接从训练数据中计算出来的概率组成：①数据属于每一类的概率②给定每个x值，数据从属于每个类的条件概率。使用贝叶斯定理，用概率模型对新数据进行预测。

---

📒KNN

对新数据点的预测结果是通过整个训练集上搜索与该数据点最相似的K个实例并且总结这K个实例的输出变量而得出。关键是在于如何判断数据实例之间的相似程度，可以通过计算一个数据与其邻近的其他数据点的距离对该数据点进行归类，如可以使用欧氏距离，根据输入变量之间的差异直接计算该值。

应该及时更新并管理训练实例，以此来保证预测的准确率。而且应该仅仅使用那些与预测输出变量最相关的输入变量，否则影响算法性能。

---

📒支持向量机

耶斯一种二类分类模型，其基本模型定义为特征空间上的间隔最大的”线性分类器“。其学习策略是找到一个分类规则使分类的间隔最大化，间隔越大说明分类的可信度越高。

---

📒聚类算法（K-means）

让算法自己去根据数据点之间的相似性自己寻找分类标准。聚类算法可以帮助我们通过不受人经验约束的分类寻找规律。

---

📒神经网络（ANN）

每个节点都可以接收信息，处理信息，然后将结果传给下一个节点。每个节点类似一个逻辑回归函数；多个逻辑回归神经元的组合可以处理很多复杂的非线性问题

---

📒循环神经网络（RNN）

可以看作”节点带有记忆“的神经网络，对过往运算的记忆使其更好地处理互相关联的序列数据。

---