Matrix calculus(矩阵微积分)（第二部分，布局约定）

最新推荐文章于 2024-02-24 23:40:47 发布

王先生的副业

最新推荐文章于 2024-02-24 23:40:47 发布

阅读量4.7k

点赞数

分类专栏：机器学习机器学习文章标签： matrix 布局

机器学习同时被 2 个专栏收录

46 篇文章 2 订阅

订阅专栏

机器学习

39 篇文章 5 订阅

订阅专栏

原文地址：
https://en.wikipedia.org/wiki/Matrix_calculus#Other_matrix_derivatives

其他矩阵求导（存在争议）

有三种矩阵的导数我们目前没有看到，他们是向量对矩阵求导，矩阵对向量求导，矩阵对矩阵求导。他们没有统一的符号，也没有统一的应用。对于和向量相关的矩阵两种矩阵导数，可以被看作是一个只有一列的矩阵和另一个矩阵做相互运算。鉴于这个原因，本节我们只考虑如何写出一个矩阵对另一个矩阵求导的导数结果。
假设 $\mathbf{F}(\mathbf{X})$ 是一个矩阵函数，它表示从 $n\times m$ 矩阵到 $p\times q$ 矩阵的映射表示为： $F: M(n\times m)\rightarrow M(p\times q)$ 。那么 $\mathbf{F}(\mathbf{X})$ 就是一个 $M(n\times m)\otimes M(p\times q)$ 的元素， $M(n\times m)\otimes M(p\times q)$ 是一个四阶张量（在这里 $m$ 和 $n$ 代表 $M(n\times m)$ 的双重空集），简而言之，一个 $m\times n$ 的每一个实体都是一个 $p\times q$ 的矩阵。

\partial F \partial X = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ \partial F \partial X 1 , 1 ⋮ \partial F \partial X m , 1 \dots ⋱ \dots \partial F \partial X 1 , n ⋮ \partial F \partial X m , n ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥

$\dfrac{\partial\mathbf{F}}{\partial\mathbf{X}}=\left[\begin{aligned} \begin{matrix} \dfrac{\partial\mathbf{F}}{\partial\mathbf{X}_{1,1}}&\cdots&\dfrac{\partial\mathbf{F}}{\partial\mathbf{X}_{1,n}}\\ \vdots&\ddots&\vdots\\ \dfrac{\partial\mathbf{F}}{\partial\mathbf{X}_{m,1}}&\cdots&\dfrac{\partial\mathbf{F}}{\partial\mathbf{X}_{m,n}}\\ \end{matrix} \end{aligned}\right]$
在这里

∂F∂Xij $\dfrac{\partial\mathbf{F}}{\partial\mathbf{X}_{ij}}$ 是一个

p×q $p\times q$ 的矩阵。还有就是矩阵被转置了，成了

m $m$ 行

n $n$ 列。

Y $\mathbf{Y}$ 在矩阵

M(n,m) $M(n,m)$ 中沿着

F $\mathbf{F}$ 的前推是：

d F (Y) = t r (\partial F \partial X Y)

$\mathbb{d}\mathbf{F}(\mathbf{Y})=\mathbb{tr}\left(\dfrac{\partial\mathbf{F}}{\partial\mathbf{X}}\mathbf{Y}\right)$
对于给定的一个可微分的

n×m $n\times m$ 的矩阵

X=(xi,j) $\mathbf{X}=(x_{i,j})$ 的矩阵方程

ϕ $\phi$ ,

\partial ϕ ( X ) \partial X = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ \partial ϕ \partial x 1 , 1 ⋮ \partial x m, 1 \dots ⋱ \dots \partial ϕ \partial x 1 , n ⋮ \partial ϕ \partial x m , n ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥

$\dfrac{\partial\phi(\mathbf{X})}{\partial\mathbf{X}}=\left[\begin{aligned} \begin{matrix} \dfrac{\partial\phi}{\partial{x_{1,1}}}&\cdots&\dfrac{\partial\phi}{\partial{x_{1,n}}}\\ \vdots&\ddots&\vdots\\ {\partial{x_{m,1}}}&\cdots&\dfrac{\partial\phi}{\partial{x_{m,n}}}\\ \end{matrix}\end{aligned}\right]$

对于给定的一个可微分的 $n\times m$ 的矩阵 $\mathbf{X}$ 的 $m\times n$ 的矩阵方程 $\mathbf{F}=(f_{s,t})$ ,

\partial F ( X ) \partial X = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ \partial f 1 , 1 \partial X ⋮ \partial f m , 1 \partial X \dots ⋱ \dots \partial f 1 , n \partial X ⋮ \partial f m , n \partial X ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥

$\dfrac{\partial{\mathbf{F}(\mathbf{X})}}{\partial\mathbf{X}}=\left[\begin{aligned}\begin{matrix} \dfrac{\partial{f_{1,1}}}{\partial{\mathbf{X}}}&\cdots&\dfrac{\partial{f_{1,n}}}{\partial{\mathbf{X}}}\\ \vdots&\ddots&\vdots\\ \dfrac{\partial{f_{m,1}}}{\partial{\mathbf{X}}}&\cdots&\dfrac{\partial{f_{m,n}}}{\partial{\mathbf{X}}}\\ \end{matrix}\end{aligned}\right]$
雅各布矩阵：

D F (X) = \partial v e c F ( X ) \partial ( v e c X ) '

$D\mathbf{F}(\mathbf{X})=\dfrac{\partial\mathbb{vec}\mathbf{F}(\mathbf{X})}{\partial(\mathbb{vec}\mathbf{X})'}$

布局约定

本节我们使用矩阵微积分来讨论一些关于在众多领域都官方应用的不同符号约定的异同点。可以大致分出两大类的约定，一些作者喜欢把这两种约定混合使用，就像是我们下面讨论的。下面的章节我们将要把这两种对立的形式分开讨论。
最基本的问题是向量对向量求导的表示,也就是 $\dfrac{\partial\mathbf{y}}{\partial\mathbf{x}}$ ，但是就是这个简单的表示形式也有两种对立的写法。如果分子 $\mathbf{y}$ 的大小是 $m$ ，并且分母 $\mathbf{x}$ 的大小是 $n$ ，那么求导的结果可能是 $m\times n$ 或者是 $n\times m$ ,也就是说 $\mathbf{y}$ 使用列向量表示， $\mathbf{x}$ 使用行向量表示，或者反过来， $\mathbf{x}$ 使用列向量表示， $\mathbf{y}$ 使用行向量表示,这两种形式将会导致三种结果：

分子布局： $\dfrac{\partial\mathbf{y}}{\partial\mathbf{x}^T}$ ，分子是列向量，分母是行向量。这也被称为雅各布方程
分母布局： $\dfrac{\partial\mathbf{y}^T}{\partial\mathbf{x}}$ ,分母是列向量，分子是行向量。这也被称为海森方程。一些作者把这里的形式称为梯度，为了可以方便和它的转置也就是雅各布方程区分（但是，“梯度”这个词更多的时候是表示 $\dfrac{\partial{y}}{\partial\mathbf{x}}$ ，并且忽略向量的布局）
第三中可能就是坚持将导数形式写成 $\dfrac{\partial\mathbf{y}}{\partial\mathbf{x}'}$ ,(也就是说，即导数是相对于x的转置）并遵循分子布局。这使得有可能声称矩阵是根据分子和分母来布局的。实际上，这将产生与分子布局相同的结果。

当处理梯度 $\dfrac{\partial{y}}{\partial\mathbf{x}}$ ,或者是其相反的情况 $\dfrac{\partial\mathbf{y}}{\partial{x}}$ ，不失一般性，我们将做以下处理：

如果为 $\dfrac{\partial\mathbf{y}}{\partial\mathbf{x}}$ 选择分子布局,我们将把梯度 $\dfrac{\partial{y}}{\partial\mathbf{x}}$ 写成行向量， $\dfrac{\partial{y}}{\partial\mathbf{x}}$ 写成列向量
如果为 $\dfrac{\partial\mathbf{y}}{\partial\mathbf{x}}$ 选择分母布局,我们将把梯度 $\dfrac{\partial{y}}{\partial\mathbf{x}}$ 写成列向量， $\dfrac{\partial{y}}{\partial\mathbf{x}}$ 写成行向量
如果是第三种可能，则参考分子布局

并不是所有的数学课本或者是论文都通篇采用同一种布局，因为在不同的上下文环境中可以使用不同的布局。比如对于 $\dfrac{\partial\mathbf{y}}{\partial\mathbf{x}}$ ，在求解梯度的时候我们采用分母布局（结果写成列向量），但是在求解向量和向量的导数的时候我们使用分母布局。
类似的，当处理标量对矩阵求导 $\dfrac{\partial y}{\partial\mathbf{X}}$ 或者是矩阵对标量求导 $\dfrac{\partial\mathbf{Y}}{\partial x}$ 的结果,如果使用分子布局则布局结构参考 $\mathbf{Y}$ 和 $\mathbf{X}^T$ ,如果是分母布局则参考 $\mathbf{Y}^T$ 和 $\mathbf{X}$ 。然而在实际应用中， $\dfrac{\partial\mathbf{Y}}{\partial x}$ 的结果更多参考 $\mathbf{Y}^T$ ，而且它非常少见，因为他的形式不好，且找不到对应的标量方程，因此有下面的布局：
分子布局： $\dfrac{\partial\mathbf{Y}}{\partial x}$ 参考 $\mathbf{Y}$ ， $\dfrac{\partial{y}}{\partial \mathbf{X}}$ 参考 $\mathbf{X}^T$ .
混合布局： $\dfrac{\partial\mathbf{Y}}{\partial x}$ 参考 $\mathbf{Y}$ ， $\dfrac{\partial{y}}{\partial \mathbf{X}}$ 参考 $\mathbf{X}$ .
使用符号 $\mathbf{Y}$ ， $\dfrac{\partial{y}}{\partial \mathbf{X}'}$ ,结果同分子布局

在下面的公式中，我们将分别处理不同的五种可能的组合方式 $\dfrac{\partial{y}}{\partial{\mathbf{x}}}$ , $\dfrac{\partial{\mathbf{y}}}{\partial{x}}$ , $\dfrac{\partial{\mathbf{y}}}{\partial{\mathbf{x}}}$ , $\dfrac{\partial{y}}{\partial{\mathbf{X}}}$ , $\dfrac{\partial{\mathbf{Y}}}{\partial{x}}$ .
我们还处理涉及中间向量或矩阵的标量与标量导数的情况。（例如，如果根据标量变量定义多维参数曲线，并且然后相对于参数化曲线的标量取曲线的标量函数的导数，则会出现这种情况。）对于每个我们给出分子布局和分母布局结果，除了分母布局很少出现的情况。在涉及矩阵的情况下，我们给分子布局和混合布局结果。如上所述，矢量和矩阵分母写入转置符号的情况相当于分子没有转置写入分母的情况。
请记住，不同的作者使用分子和分母布局的不同组合，以适应不同类型的求导，并且不能保证作者将始终如一地使用分子或分母布局。将以下公式与源代码中引用的公式进行匹配，以确定用于该特定类型求导的布局，但要小心，不要假设其他类型的求导必须遵循同一种布局。
当使用聚集体（向量或矩阵）分母的求导工具来查找聚集体的最大值或最小值时，应该记住，使用分子布局会产生相对于总计转置的结果。例如，在尝试使用矩阵演算找到多元正态分布的最大似然估计值的情况下，如果该区域是 $k\times 1$ 列向量，则使用分子布局的结果将以 $1\times k$ 行向量的形式出现。因此，结果应该在最后转换，或者应该使用分母布局（或混合布局）。

	标量 $y$		向量 $\mathbf{y}($ 大小 $m$ )		矩阵 $\mathbf{Y}($ 大小 $m\times n$ )
	符号	类型	符号	类型	符号	类型
标量 $x$	$\dfrac{\partial{y}}{\partial{x}}$	标量	$\dfrac{\partial\mathbf{y}}{\partial{x}}$	(分子布局)大小 $m$ 的列向量; (分母布局)大小 $m$ 的列向量	$\dfrac{\partial\mathbf{Y}}{\partial{x}}$	(分子布局)大小 $m\times n$ 的矩阵
向量 $\mathbf{x}($ 大小 $n$ )	$\dfrac{\partial{y}}{\partial\mathbf{x}}$	(分子布局)大小 $n$ 的行向量; (分母布局)大小 $n$ 的行向量	$\dfrac{\partial\mathbf{y}}{\partial\mathbf{x}}$	(分子布局)大小 $m\times n$ 的矩阵; (分母布局)大小 $n\times m$ 的矩阵	$\dfrac{\partial\mathbf{Y}}{\partial\mathbf{x}}$
矩阵 $\mathbf{Y}($ 大小 $p\times q$ )	$\dfrac{\partial{y}}{\partial\mathbf{X}}$	(分子布局)大小 $q\times p$ 的矩阵; (分母布局)大小 $p\times q$ 的矩阵	$\dfrac{\partial\mathbf{y}}{\partial\mathbf{X}}$		$\dfrac{\partial\mathbf{Y}}{\partial\mathbf{X}}$

在分子和分母布局切换的时候需要对结果进行转置操作。

分子布局：

使用分子布局，我们将得到：

\partial y \partial x = [\partial y \partial x 1 \partial y \partial x 2 \dots \partial y \partial x n]

$\dfrac{\partial{y}}{\partial\mathbf{x}}=\left[ \begin{aligned} \begin{matrix} \dfrac{\partial{y}}{\partial{x_1}}&\dfrac{\partial{y}}{\partial{x_2}}\cdots&\dfrac{\partial{y}}{\partial{x_n}}\\ \end{matrix} \end{aligned} \right]$

\partial y \partial x = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ \partial y 1 \partial x \partial y 2 \partial x ⋮ \partial y m \partial x ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥

$\dfrac{\partial\mathbf{y}}{\partial{x}}=\left[ \begin{aligned} \begin{matrix} \dfrac{\partial{y_1}}{\partial{x}}\\ \dfrac{\partial{y_2}}{\partial{x}}\\ \vdots\\ \dfrac{\partial{y_m}}{\partial{x}}\\ \end{matrix} \end{aligned} \right]$

\partial y \partial x = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ \partial y 1 \partial x 1 \partial y 2 \partial x 1 ⋮ \partial y m \partial x 1 \partial y 1 \partial x 2 \partial y 2 \partial x 2 ⋮ \partial y m \partial x 2 \dots \dots ⋱ \dots \partial y 1 \partial x n \partial y 2 \partial x n ⋮ \partial y m \partial x n ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥

$\dfrac{\partial\mathbf{y}}{\partial\mathbf{x}}=\left[ \begin{aligned} \begin{matrix} \dfrac{\partial{y_1}}{\partial{x_1}}&\dfrac{\partial{y_1}}{\partial{x_2}}&\cdots&\dfrac{\partial{y_1}}{\partial{x_n}}\\ \dfrac{\partial{y_2}}{\partial{x_1}}&\dfrac{\partial{y_2}}{\partial{x_2}}&\cdots&\dfrac{\partial{y_2}}{\partial{x_n}}\\ \vdots&\vdots&\ddots&\vdots&\\ \dfrac{\partial{y_m}}{\partial{x_1}}&\dfrac{\partial{y_m}}{\partial{x_2}}&\cdots&\dfrac{\partial{y_m}}{\partial{x_n}}\\ \end{matrix} \end{aligned} \right]$

\partial y \partial X = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ \partial y \partial x 11 \partial y \partial x 12 ⋮ \partial y \partial x 1 q \partial y \partial x 21 \partial y \partial x 22 ⋮ \partial y \partial x 2 q \dots \dots ⋱ \dots \partial y \partial x p 1 \partial y \partial x p 2 ⋮ \partial y \partial x p q ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥

$\dfrac{\partial{y}}{\partial\mathbf{X}}=\left[ \begin{aligned} \begin{matrix} \dfrac{\partial{y}}{\partial{x_{11}}}&\dfrac{\partial{y}}{\partial{x_{21}}}&\cdots&\dfrac{\partial{y}}{\partial{x_{p1}}}\\ \dfrac{\partial{y}}{\partial{x_{12}}}&\dfrac{\partial{y}}{\partial{x_{22}}}&\cdots&\dfrac{\partial{y}}{\partial{x_{p2}}}\\ \vdots&\vdots&\ddots&\vdots&\\ \dfrac{\partial{y}}{\partial{x_{1q}}}&\dfrac{\partial{y}}{\partial{x_{2q}}}&\cdots&\dfrac{\partial{y}}{\partial{x_{pq}}}\\ \end{matrix} \end{aligned} \right]$
下面的定义只在分子布局下适用：

\partial Y \partial x = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ \partial y 11 \partial x \partial y 21 \partial x ⋮ \partial y m 1 \partial x \partial y 12 \partial x \partial y 22 \partial x ⋮ \partial y m 2 \partial x \dots \dots ⋱ \dots \partial y 1 n \partial x \partial y 2 n \partial x ⋮ \partial y m n \partial x ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥

$\dfrac{\partial\mathbf{Y}}{\partial{x}}=\left[ \begin{aligned} \begin{matrix} \dfrac{\partial{y_{11}}}{\partial{x}}&\dfrac{\partial{y_{12}}}{\partial{x}}&\cdots&\dfrac{\partial{y_{1n}}}{\partial{x}}\\ \dfrac{\partial{y_{21}}}{\partial{x}}&\dfrac{\partial{y_{22}}}{\partial{x}}&\cdots&\dfrac{\partial{y_{2n}}}{\partial{x}}\\ \vdots&\vdots&\ddots&\vdots&\\ \dfrac{\partial{y_{m1}}}{\partial{x}}&\dfrac{\partial{y_{m2}}}{\partial{x}}&\cdots&\dfrac{\partial{y_{mn}}}{\partial{x}}\\ \end{matrix} \end{aligned} \right]$

d X = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ d x 11 d x 21 ⋮ d x m 1 d x 12 d x 22 ⋮ d x m 2 \dots \dots ⋱ \dots d x 1 n d x 2 n ⋮ d x m n ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥

$\mathbb{d}\mathbf{X}=\left[ \begin{aligned} \begin{matrix} \mathbb{d}x_{11}&\mathbb{d}x_{12}&\cdots&\mathbb{d}x_{1n}\\ \mathbb{d}x_{21}&\mathbb{d}x_{22}&\cdots&\mathbb{d}x_{2n}\\ \vdots&\vdots&\ddots&\vdots&\\ \mathbb{d}x_{m1}&\mathbb{d}x_{m2}&\cdots&\mathbb{d}x_{mn}\\ \end{matrix} \end{aligned} \right]$

分母布局：

使用分子布局，我们将得到：

\partial y \partial x = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ \partial y \partial x 1 \partial y \partial x 2 ⋮ \partial y \partial x n ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥

$\dfrac{\partial{y}}{\partial\mathbf{x}}=\left[ \begin{aligned} \begin{matrix} \dfrac{\partial{y}}{\partial{x_1}}\\ \dfrac{\partial{y}}{\partial{x_2}}\\ \vdots\\ \dfrac{\partial{y}}{\partial{x_n}}\\ \end{matrix} \end{aligned} \right]$

\partial y \partial x = [\partial y 1 \partial x \partial y 2 \partial x \dots \partial y m \partial x]

$\dfrac{\partial\mathbf{y}}{\partial{x}}=\left[ \begin{aligned} \begin{matrix} \dfrac{\partial{y_1}}{\partial{x}}&\dfrac{\partial{y_2}}{\partial{x}}\cdots&\dfrac{\partial{y_m}}{\partial{x}}\\ \end{matrix} \end{aligned} \right]$

\partial y \partial x = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ \partial y 1 \partial x 1 \partial y 2 \partial x 2 ⋮ \partial y 1 \partial x n \partial y 2 \partial x 1 \partial y 2 \partial x 2 ⋮ \partial y 2 \partial x n \dots \dots ⋱ \dots \partial y m \partial x 1 \partial y 2 \partial x 2 ⋮ \partial y m \partial x n ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥

$\dfrac{\partial\mathbf{y}}{\partial\mathbf{x}}=\left[ \begin{aligned} \begin{matrix} \dfrac{\partial{y_1}}{\partial{x_1}}&\dfrac{\partial{y_2}}{\partial{x_1}}&\cdots&\dfrac{\partial{y_m}}{\partial{x_1}}\\ \dfrac{\partial{y_2}}{\partial{x_2}}&\dfrac{\partial{y_2}}{\partial{x_2}}&\cdots&\dfrac{\partial{y_2}}{\partial{x_2}}\\ \vdots&\vdots&\ddots&\vdots&\\ \dfrac{\partial{y_1}}{\partial{x_n}}&\dfrac{\partial{y_2}}{\partial{x_n}}&\cdots&\dfrac{\partial{y_m}}{\partial{x_n}}\\ \end{matrix} \end{aligned} \right]$

\partial y \partial X = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ \partial y \partial x 11 \partial y \partial x 21 ⋮ \partial y \partial x q 1 \partial y \partial x 12 \partial y \partial x 22 ⋮ \partial y \partial x q 2 \dots \dots ⋱ \dots \partial y \partial x 1 p \partial y \partial x 2 p ⋮ \partial y \partial x q p ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥

$\dfrac{\partial{y}}{\partial\mathbf{X}}=\left[ \begin{aligned} \begin{matrix} \dfrac{\partial{y}}{\partial{x_{11}}}&\dfrac{\partial{y}}{\partial{x_{12}}}&\cdots&\dfrac{\partial{y}}{\partial{x_{1p}}}\\ \dfrac{\partial{y}}{\partial{x_{21}}}&\dfrac{\partial{y}}{\partial{x_{22}}}&\cdots&\dfrac{\partial{y}}{\partial{x_{2p}}}\\ \vdots&\vdots&\ddots&\vdots&\\ \dfrac{\partial{y}}{\partial{x_{q1}}}&\dfrac{\partial{y}}{\partial{x_{q2}}}&\cdots&\dfrac{\partial{y}}{\partial{x_{qp}}}\\ \end{matrix} \end{aligned} \right]$

王先生的副业

关注

0
点赞
踩
14

收藏

觉得还不错? 一键收藏
1
评论
Matrix calculus(矩阵微积分)（第二部分，布局约定）

原文地址： https://en.wikipedia.org/wiki/Matrix_calculus#Other_matrix_derivatives其他矩阵求导（存在争议）有三种矩阵的导数我们目前没有看到，他们是向量对矩阵求导，矩阵对向量求导，矩阵对矩阵求导。他们没有统一的符号，也没有统一的应用。对于和向量相关的矩阵两种矩阵导数，可以被看作是一个只有一列的矩阵和另一个矩阵做相互运算。鉴于这个原
复制链接

扫一扫