矩阵乘法的求导问题

假设 A A A m × n m\times n m×n 的矩阵, x x x n n n 维列向量(通常向量都是以列向量的形式表示)

则对于 A x Ax Ax 其结果为 m m m 维的列向量,有 d ( A x ) d x = A T \dfrac {\mathrm{d}(Ax)}{\mathrm{d}x}=A^T dxd(Ax)=AT

A x = ( ∑ j = 1 n a 1 j × x j , ∑ j = 1 n a 2 j × x j , ⋯   , ∑ j = 1 n a m j × x j ) T Ax=(\sum\limits_{j=1}^{n}{a_{1j}\times x_{j}},\sum\limits_{j=1}^{n}{a_{2j}\times x_{j}},\cdots,\sum\limits_{j=1}^{n}{a_{mj}\times x_{j}})^T Ax=(j=1na1j×xj,j=1na2j×xj,,j=1namj×xj)T

d ( A x ) d x \dfrac {\mathrm{d}(Ax)} {\mathrm{d}x} dxd(Ax) 即是求 A x Ax Ax 的梯度,对 A x Ax Ax 中的每个 x i x_i xi 分量求偏导有

d ( A x ) d x = \dfrac {\mathrm{d}(Ax)}{\mathrm{d}x}= dxd(Ax)= [ a 11 a 21 ⋯ a m 1 a 12 a 22 ⋯ a m 2 ⋮ ⋮ ⋱ ⋮ a 1 n a 2 n ⋯ a m n ] \begin{bmatrix} a_{11}& a_{21} & \cdots & a_{m1}\\ a_{12}& a_{22} & \cdots & a_{m2}\\ \vdots & \vdots & \ddots & \vdots\\ a_{1n} & a_{2n} & \cdots & a_{mn} \end{bmatrix} a11a12a1na21a22a2nam1am2amn

d ( x T A ) d x = A \dfrac {\mathrm{d}(x^TA)}{\mathrm{d}x}=A dxd(xTA)=A

d ( x T A x ) d x = ( A + A T ) x \dfrac {\mathrm{d}(x^TAx)}{\mathrm{d}x}=(A+A^T)x dxd(xTAx)=(A+AT)x x T A x x^TAx xTAx 为二次型

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值