机器学习之线性模型

1. 线性模型

线性模型是一类统计模型的总称，包括线性回归模型，方差分析模型，常应用于生物、医学、经济、管理。
一般线性模型或多元回归模型是一个统计线性模型，公式：Y=WX+U，说白了就是用线性的函数去模拟样例的分布，在整个模拟过程中，我们希望线性模型的MSE最小，关于线性模型的MSE具体可详见另一篇文章：回归评估参数
在模拟过程中存在一元线性函数，还有多元线性函数，对应的模型就叫线性回归和多元线性回归。

2. 对数几率模型（Logistic回归）

与线性回归相比，Logistic回归结构只是在其基础上多了一个激活的过程。线性回归模型产生的预测值是实际预测的值，而对数几率韩式是一种Sigmoid函数，将实际预测值转化为一个接近0或者1的值，

对数几率实际上将原来的模拟值转换成分类问题了

3. 线性判别分析（LDA）

线性判别分析是一种经典的线性学习方法，给定训练样例集，设法将样例投影到一条直线上，使得同类样例的投影点尽可能接近、异类样例的投影点尽可能远离࿱