Matrix calculus(矩阵微积分)（第四部分），向量求导恒等式（II））

续表：

情况	表达式	分子布局	分母布局
$\mathbf{a}$不是关于$\mathbf{x}$的函数，$\mathbf{u}=\mathbf{u}(\mathbf{x})$	$\dfrac{\partial{(\mathbf{a}\cdot\mathbf{u}})}{\partial{\mathbf{x}}}=\dfrac{\partial{\mathbf{a}^T\mathbf{u}}}{\partial{\mathbf{x}}}=$	$\mathbf{a}^T\dfrac{\partial{\mathbf{u}}}{\partial{\mathbf{x}}}$这里假设$\dfrac{\partial{\mathbf{u}}}{\partial{\mathbf{x}}}$采用分子布局	$\dfrac{\partial{\mathbf{u}}}{\partial{\mathbf{x}}}\mathbf{a}$这里假设$\dfrac{\partial{\mathbf{u}}}{\partial{\mathbf{x}}}$采用分母布局
$\mathbf{a}$和$\mathbf{b}$都不是关于$\mathbf{x}$的函数	$\dfrac{\partial{\mathbf{a}^T\mathbf{x}\mathbf{x}^T\mathbf{b}}}{\partial{\mathbf{x}}}=$	$\mathbf{x}^T(\mathbf{a}\mathbf{b}^T+\mathbf{b}\mathbf{a}^T)$	$(\mathbf{a}\mathbf{b}^T+\mathbf{b}\mathbf{a}^T)\mathbf{x}^T$
$\mathbf{A}$和$\mathbf{b}$，$\mathbf{C}$，$\mathbf{D}$都不是关于$\mathbf{x}$的函数	$\dfrac{\partial{({\mathbf{Ax}+\mathbf{b}})^T\mathbf{C}({\mathbf{Dx}+\mathbf{e}})}}{\partial{\mathbf{x}}}=$	$({\mathbf{Dx}+\mathbf{e}})^T\mathbf{C}^T\mathbf{A}+({\mathbf{Ax}+\mathbf{b}})^T\mathbf{C}\mathbf{D}$	$\mathbf{D}^T\mathbf{C}^T({\mathbf{Ax}+\mathbf{b}})^T+\mathbf{A}^T\mathbf{C}({\mathbf{Dx}+\mathbf{e}})^T$
$\mathbf{a}$不是关于$\mathbf{x}$的函	$\dfrac{\partial{(\mathbf{a}\cdot\mathbf{u}})}{\partial{\mathbf{x}}}=\dfrac{\partial{\mathbf{a}^T\mathbf{u}}}{\partial{\mathbf{x}}}=$	$\mathbf{a}^T\dfrac{\partial{\mathbf{u}}}{\partial{\mathbf{x}}}$这里假设$\dfrac{\partial{\mathbf{u}}}{\partial{\mathbf{x}}}$采用分子布局	$\dfrac{\partial{\mathbf{u}}}{\partial{\mathbf{x}}}\mathbf{a}$这里假设$\dfrac{\partial{\mathbf{u}}}{\partial{\mathbf{x}}}$采用分母布局
$\mathbf{a}$不是关于$\mathbf{x}$的函数	$\dfrac{\partial{||\mathbf{x}-\mathbf{a}||}}{\partial{\mathbf{x}}}=$	$\dfrac{(\mathbf{x}-\mathbf{a})^T}{||\mathbf{x}-\mathbf{a}||}$	$\dfrac{\mathbf{x}-\mathbf{a}}{||\mathbf{x}-\mathbf{a}||}$

向量对标量求导恒等式

情况	表达式	分子布局	分母布局
$\mathbf{a}$不是关于$x$的函数	$\dfrac{\partial{\mathbf{a}}}{x}=$	$\mathbf{0}$
$a$不是关于$x$的函数,$\mathbf{u}=\mathbf{u}(\mathbf{x})$	$\dfrac{\partial{a\mathbf{u}}}{x}=$	$a\dfrac{\partial{\mathbf{u}}}{x}$
$\mathbf{A}$不是关于$x$的函数,$\mathbf{u}=\mathbf{u}(\mathbf{x})$	$\dfrac{\partial{\mathbf{A}\mathbf{u}}}{x}=$	$\mathbf{A}\dfrac{\partial{\mathbf{u}}}{x}$	$\dfrac{\partial{\mathbf{u}}}{x}\mathbf{A}^T$
$\mathbf{u}=\mathbf{u}(\mathbf{x})$	$\dfrac{\partial{\mathbf{u}^T}}{x}=$	$\left(\dfrac{\partial{\mathbf{u}}}{x}\right)^T$
$\mathbf{u}=\mathbf{u}(\mathbf{x}),\mathbf{v}=\mathbf{v}(\mathbf{x})$	$\dfrac{\partial{(\mathbf{u}+\mathbf{v})}}{x}=$	$\dfrac{\partial{\mathbf{u}}}{x}+\dfrac{\partial{\mathbf{v}}}{x}$
$\mathbf{u}=\mathbf{u}(\mathbf{x}),\mathbf{v}=\mathbf{v}(\mathbf{x})$	$\dfrac{\partial{(\mathbf{u}^T\times\mathbf{v})}}{x}=$	$\left(\dfrac{\partial{\mathbf{u}}}{x}\right)^T\times\mathbf{v}+\mathbf{u}^T\times\dfrac{\partial{\mathbf{v}}}{x}$	$\dfrac{\partial{\mathbf{u}}}{x}\times\mathbf{v}+\mathbf{u}^T\times\left(\dfrac{\partial{\mathbf{v}}}{x}\right)$
$\mathbf{u}=\mathbf{u}(\mathbf{x})$	$\dfrac{\partial{\mathbf{g(u)}}}{x}=$	$\dfrac{\partial{\mathbf{g(u)}}}{\mathbf{u}}\dfrac{\partial{\mathbf{u}}}{x}注$	$\dfrac{\partial{\mathbf{u}}}{x}\dfrac{\partial{\mathbf{g(u)}}}{\mathbf{u}}注$
$\mathbf{u}=\mathbf{u}(\mathbf{x})$	$\dfrac{\partial{\mathbf{f(g(u))}}}{x}=$	$\dfrac{\partial{\mathbf{f(g)}}}{\mathbf{g}}\dfrac{\partial{\mathbf{g(u)}}}{\mathbf{u}}\dfrac{\partial{\mathbf{u(x)}}}{\mathbf{x}}注$	$\dfrac{\partial{\mathbf{u(x)}}}{\mathbf{x}}\dfrac{\partial{\mathbf{g(u)}}}{\mathbf{u}}\dfrac{\partial{\mathbf{f(g)}}}{\mathbf{g}}注$
$\mathbf{U}=\mathbf{U}(\mathbf{x}),\mathbf{v}=\mathbf{v}(\mathbf{x})$	$\dfrac{\partial{(\mathbf{U}\times\mathbf{v})}}{x}=$	$\dfrac{\partial{\mathbf{U}}}{x}\times\mathbf{v}+\mathbf{U}\times\dfrac{\partial{\mathbf{v}}}{x}$	$\mathbf{v}^T\times\left(\dfrac{\partial{\mathbf{U}}}{x}\right)+\dfrac{\partial{\mathbf{v}}}{x}\times\mathbf{U}^T$

注：在涉及了向量对向量（$\dfrac{\partial\mathbf{g(u)}}{\partial{\mathbf{u}}}$和$\dfrac{\partial\mathbf{f(g)}}{\partial{\mathbf{g}}}$）求导的公式中，我们都假设矩阵和向量采用同一种布局方式。