迹是矩阵的主对角线元素之和。
性质1 t r a = a , t r ( a A ) = a ∗ t r A tr a = a, tr (aA) = a *tr A tra=a,tr(aA)=a∗trA ，a为标量；
常用于 求解凸优化问题中，一般对实值函数取迹，起到计算简单的作用。
性质2 t r ( A + B ) = t r A + t r B tr (A+B) = trA + trB tr(A+B)=trA+trB
性质3 t r A B = t r B A , t r A B C = t r C A B = t r B C A trAB = tr BA,tr ABC = tr CAB = tr BCA trAB=trBA,trABC=trCAB=trBCA
性质4 t r A = t r A T tr A = tr A^T trA=trAT
性质5 ▽ A t r ( A B ) = B T \bigtriangledown_{A} tr (AB) = B^T ▽Atr(AB)=BT
▽ A t r ( A T B ) = B \bigtriangledown_{A} tr (A^TB) = B ▽Atr(ATB)=B, 这是因为， ▽ A t r ( A T B ) = ▽ A t r ( A T B ) T = ▽ A t r ( B T A ) = ▽ A t r ( A B T ) = B \bigtriangledown_{A} tr (A^TB) = \bigtriangledown_{A} tr (A^TB)^T = \bigtriangledown_{A} tr (B^TA)= \bigtriangledown_{A} tr (AB^T)=B ▽Atr(ATB)=▽Atr(ATB)T=▽Atr(BTA)=▽Atr(ABT)=B
性质6 ▽ A t r ( A B A T C ) = C A B + C T A B T \bigtriangledown_{A} tr (ABA^TC) = CAB + C^TAB^T ▽Atr(ABATC)=CAB+CTABT
这种包含两个变量的，就比较复杂，可用微分方法证明。若是求 ▽ A t r ( C T A B ) \bigtriangledown_{A} tr (C^TAB) ▽Atr(CTAB)只包含一个变量,也可以直接用性质得到答案。
这里有个经验：
在 pca 和 线性回归求最优化参数时，经常会遇到“双变量问题”，比如
▽
w
w
T
X
X
T
w
\bigtriangledown_{w} w^{T} XX^T w
▽wwTXXTw 或
▽
w
w
T
w
\bigtriangledown_{w}w^{T}w
▽wwTw,此时直接代矩阵求导公式比较简单，若要使用迹技巧，需要借助单位矩阵 I， 在代公式；
▽ w t r ( w T X X T w ) = t r ( w T I w X X T ) \bigtriangledown_{w} tr(w^{T} XX^T w) =tr(w^{T}Iw XX^T ) ▽wtr(wTXXTw)=tr(wTIwXXT) ,代性质六。
2万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
