0、概述
没学过矩阵理论是硬伤,一点一点补数学基础吧。
1、向量的导数
设A为m×n的矩阵,x为n×1的列向量,记
y⃗ =A⋅x⃗
则:
∂y⃗ ∂x⃗ =?
令:
A=⎡⎣⎢⎢⎢⎢a11a21...am1a12a22...am2............a1na2n...amn⎤⎦⎥⎥⎥⎥x⃗ =⎛⎝⎜⎜⎜⎜x1x2...xn⎞⎠⎟⎟⎟⎟A⋅x⃗ =⎛⎝⎜⎜⎜⎜a11x1+a12x2+...+a1nxn]a21x1+a22x2+...+a2nxn]...am1x1+am2x2+...+amnxn]⎞⎠⎟⎟⎟⎟
从而:
∂y⃗ ∂x⃗ =∂Ax⃗ ∂x⃗ =⎡⎣⎢⎢⎢⎢a11a12...a1na21a22...a2n............am1am2...amn⎤⎦⎥⎥⎥⎥=AT
向量偏导数公式:
∂Ax⃗ ∂x⃗ =AT
∂Ax⃗ ∂x⃗ T=A
∂x⃗ TA∂x⃗ =A