pca+lda

关于lda和其他的好多，大家也可以参考http://leftnoteasy.cnblogs.com
LDA: linear discriminant analysis，线性判别分析。是一种监督学习方法，其中用到的有fisher判别，也叫fisher 判别分析。窃以为可以先把它看成是分类的模型，求解分类超平面 的w(这里的k指多类分问题的线性分类)。

很明显的两类分问题。假设分类超平面为

我们的目的是将红点和蓝点两类二维数据投影到一维的分类超平面上。那么我们就想要投影过后的两类点的类内距离足够小，而类间距离足够大。这样分类效果才最好。
好吧，那么投影前的类中心为：
投影后的类中心：

投影之后，每一类数据的分散程度可以用来表示。
那么损失函数就是&#