【Machine Learning】线性判别分析(LDA)



        LDA的全称是Linear Discriminant Analysis（线性判别分析），是一种supervised learning，在二分类问题上最早由Fisher提出，所以也叫“Fisher判别分析”。

     LDA的原理是：对于给定的训练集，设法将样例投影到一条直线上，使得同类的投影点尽可能接近，异类样例的投影点尽可能远离；在对新样本进行分类时，将其投影到这条直线上，再根据投影点的位置来确定新样本的类别。

                         

                          图1 线性判别函数的几何意义

一、线性判别函数

                       

二、已知训练数据