最近由于需要手推一些最优化函数的求解公式，因此整理了一下各种矩阵间的求导法则，以方便理解相关库的代码或者自己动手代码实现。
二范数类的矩阵求导
- 形如
E = ∥ P ∥ 2 E = \left \| P \right \|^{2} E=∥P∥2
则有
σ E σ P = 2 P \frac{\sigma E}{\sigma P} = 2P σPσE=2P - 形如
E = ∥ P − Q ∥ 2 E = \left \| P- Q \right \|^{2} E=∥P−Q∥2
则有
σ E σ P = 2 ( P − Q ) \frac{\sigma E}{\sigma P} = 2(P-Q) σPσE=2(P−Q) - 形如
E = ⟨ Y , Z − P Q T ⟩ E = \left \langle Y, Z-PQ^{T} \right \rangle E=⟨Y,Z−PQT⟩
⟨ × ⟩ 表 示 对 应 元 素 相 乘 \left \langle ×\right \rangle表示对应元素相乘 ⟨×⟩表示对应元素相乘
则有
σ E σ Q = － Y T P σ E σ P = － Y Q \frac{\sigma E}{\sigma Q} = －Y^{T}P \frac{\sigma E}{\sigma P} = －YQ σQσE=－YTP σPσE=－YQ - 形如
E = ∥ Z − P Q T ∥ 2 E = \left \| Z-PQ^{T} \right \|^{2} E=∥∥Z−PQT∥∥2
则有
σ
E
σ
Q
=
(
P
Q
T
−
Z
)
T
P
σ
E
σ
P
=
(
P
Q
T
−
Z
)
Q
\frac{\sigma E}{\sigma Q} = (PQ^{T}-Z)^{T}P \frac{\sigma E}{\sigma P} = (PQ^{T}-Z)Q
σQσE=(PQT−Z)TP σPσE=(PQT−Z)Q
- 形如
E = ∥ P Q ∥ 2 E = \left \| PQ \right \|^{2} E=∥PQ∥2
则有
σ E σ Q = 2 P T P Q \frac{\sigma E}{\sigma Q} = 2P^{T}PQ σQσE=2PTPQ
形如
E = ∥ P Q − ξ ∥ 2 E = \left \| PQ-\xi \right \|^{2} E=∥PQ−ξ∥2
则有
σ E σ Q = 2 P T P Q − 2 P T ξ \frac{\sigma E}{\sigma Q} = 2P^{T}PQ-2P^{T}\xi σQσE=2PTPQ−2PTξ
1332
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
