矩阵求导知识——详细笔记

矩阵求导知识——详细笔记

---

---

前言

本文以笔记的形式记录了矩阵求导的相关知识。如果仅关心矩阵与矩阵相乘情况下的求导，只看第一部分即可，每部分开头位置会给出结论性公式。

---

一、矩阵对矩阵求导

基本公式如下：

ps:矩阵乘法满足结合律

二、矩阵对标量或标量对矩阵求导

1.矩阵Y对标量x求导

基本公式如下：

相当于每个元素求导数后转置一下，注意M×N矩阵求导后变成N×M了
Y = [y(ij)] --> dY/dx = [dy(ji)/dx]

2.标量y对列向量X求导：

基本公式如下：

注意与上面不同，这次括号内是求偏导，不转置，对N×1向量求导后还是N×1向量
y = f(x1,x2,…,xn) --> dy/dX = (Dy/Dx1,Dy/Dx2,…,Dy/Dxn)’