PCA、最小平方差等中用拉格朗日求极值时对常见的一个f(x)=X'A'AX求导的证明

在PCA以及其它地方我们在求解极值的时候我们总是会遇到一个对形如X’A’AX的函数对X的求导，之前总是看到别人给出结果，今天认真的推导了下还真推导出来，我在这里把这个推到过程记录一下。

下面来证明一下，证明的过程中需要用到标量对列向量的求导公式，我这里给出一下：

证明：

则由公式(1)可以得到：

证毕！

 

其实按照定义来证明一点都不难，难在了不要上来把X的转置看成是X复合函数，这样就根本找不到这个复合函数的求导公式。想办法变成一个数对向量的求导，进而应用求导公式即可。