若 x 为向量,则默认 x 为列向量, xT 为行向量
矩阵求导法则
矩阵求导应该分为标量求导、向量求导、矩阵求导三个方面来介绍,公式繁多,但仔细看看其实是有规律可循的。
标量求导
无论是矩阵、向量对标量求导,或者是标量对矩阵、向量求导,其结论都是一样的:等价于对矩阵(向量)的每个分量求导,并且保持维数不变。
例如,我们可以计算标量对向量求导:
向量求导
对于向量求导,我们可以先将向量看做一个标量,然后使用标量求导法则,最后将向量形式化为标量进行。
例如,我们可以计算行向量对列向量求导:
矩阵求导
与向量求导类似,先将矩阵化当做一个标量,再使用标量对矩阵的运算进行。
例如,我们可以计算矩阵对列向量求导:
原文:https://blog.csdn.net/crazy_scott/article/details/80557814