跟李沐学AI：chapter_preliminaries/calculus 补充向量&矩阵函数求导的概念；Jacobian形式

系列文章目录

---

---

前言

记录一些矩阵运算的导数法则（该部分参考：[https://blog.csdn.net/lx299/article/details/84871329]
以及学习收获以及课后习题解法
参考：https://zhuanlan.zhihu.com/p/263777564

一、矩阵运算的导数法则：

个人理解：标量&向量对向量求导结果自然地应与导数变量对齐，即自变量的形式决定了结果的形式，特殊的是向量对向量的导数应考虑到分子的所有维度，最后形成一个导数矩阵。

二. Jacobian形式（最常用）

向量 对 向量 求导的 Jacobian 形式：

标量 对 矩阵 的 Jacobian 形式（区分梯度矩阵形式）****

矩阵 对 矩阵 的 Jacobian 形式

梯度矩阵形式

向量点积的导数（按照向量对向量导数法则展开，运用标量对标量乘法导数法则证明）

向量叉乘导数

三、分子分母布局

无论是分子还是分母布局，其求导法则都不变，符合文章开头所述规则。分子分母布局定义了两个变量在求导时谁做转置（如需要）以及分子分母的向量形式。

四、d2l教程中采用分母布局