矩阵求导法则总结

最新推荐文章于 2024-06-18 22:17:20 发布

Mickle_Liu

最新推荐文章于 2024-06-18 22:17:20 发布

阅读量3.5k

点赞数 1

分类专栏：矩阵求导非负矩阵分解文章标签：矩阵线性代数

本文链接：https://blog.csdn.net/lgy_study/article/details/128114662

版权

非负矩阵分解同时被 2 个专栏收录

3 篇文章 0 订阅

订阅专栏

矩阵求导

1 篇文章 0 订阅

订阅专栏

1. 矩阵Y对标量x求导

相当于每个元素求导数后转置一下，注意M×N矩阵求导后变成N×M了
$[y_{ij}] --> \frac{dY}{dx} = \frac{dy_{ij}}{dx}$

2. 标量y对列向量X求导：

注意与上面不同，这次括号内是求偏导，不转置，对N×1向量求导后还是N×1向量
$y = f(x_1,x_2,..,x_n) --> dy/dX = (Dy/Dx_1,Dy/Dx_2,..,Dy/Dx_n)'$

3. 行向量Y’对列向量X求导：

注意1×M向量对N×1向量求导后是N×M矩阵。
将Y的每一列对X求偏导，将各列构成一个矩阵。
重要结论：
$\\ d(AX)'/dX = A'$

4. 列向量Y对行向量 $X^{'}$ 求导：

转化为行向量Y’对列向量X的导数，然后转置。
注意M×1向量对1×N向量求导结果为M×N矩阵。
$d Y / d X^{'} = (d Y^{'} / d X)^{'}$

5. 向量积对列向量X求导运算法则：

注意与标量求导有点不同。
$\\ d(U'V)/dX = (dU'/dX)V + (dV'/dX)U'$
重要结论：
$\\ d(AX)/dX' = (d(X'A')/dX)' = (A')' = A \\ d(X'AX)/dX = (dX'/dX)AX + (d(AX)'/dX)X = AX + A'X$

6. 矩阵Y对列向量X求导：

将Y对X的每一个分量求偏导，构成一个超向量。
注意该向量的每一个元素都是一个矩阵。

7. 矩阵积对列向量求导法则：

$\\ d(UV)/dX = (dU/dX)V + U(dV/dX)$
重要结论：
$d (X^{'} A) / d X = (d X^{'} / d X) A + X^{'} (d A / d X) = I A + X^{'} 0 = A$

8. 标量y对矩阵X的导数：

类似标量y对列向量X的导数，
把y对每个X的元素求偏导，不用转置。
$d y / d X = [D y / D x (i j)]$
重要结论：
(1) $\sum\sum u(i)x(ij)v(j)$ ，
则, $d y / d X = [u (i) v (j)] = U V^{'}$
(2) $y = U^{'} X^{'} X U$
则, $d y / d X = 2 X U U^{'})$
(3) $y = (X U - V)^{'} (X U - V)$
则
$d y / d X = d (U^{'} X^{'} X U - 2 V^{'} X U + V^{'} V) / d X = 2 X U U^{'} - 2 V U^{'} + 0 = 2 (X U - V) U^{'}$