人脸识别(2)--fisherface

Fisherface与Eigenface思路差不多，都是从整体上对图像信息做主成分分析。

不同的是，Fisherface认为同一个人由于光照和角度带来的差异往往要大于不同人之间的差异，而Eigenface单纯的提取主成分可能得到的是一个类别不同光照条件的特征。
因此Fisherface试图最大化类间散度同时最小化类内散度。算法实现上则是首先PCA做初步筛选，然后以类间散度和类内散度为准则做LDA（Linear Discriminant Analysis，线性判别分析）。

---

线性判别分析（LDA）推导1

(1) 两类的情况

在线性代数中，矩阵的左乘 $y=w^Tx$ 可以解释为 $x$ 通过 $w$ 映射到另一种空间表达 $y$，因此对于分类问题，关键就是找到合适的映射 $w$。

对第i类 $w_i$，其中心点为 $\mu_i=\frac{1}{N_i}\sum_{x\in w_i}x$，其中 $N_i$ 为该类的样本数。
假设存在映射 $w$，则中心点投影后为 $\widetilde\mu_i=\frac{1}{N_i}\sum_{x\in w_i}w^Tx=\frac{1}{N_i}w^T\mu_i$

一个理想的映射 $w$ 会使得投影后类间距离尽可能大，类内距离尽可能小。对两类情况，即下式中b(w)值越大越好，i(w)越小越好：
b(w)=|μ˜1−μ˜2|=|wT(