Matrix Differentiation(矩阵求导)以及矩阵求导常用公式

Matrix Differentiation(矩阵求导)

References: Matrix Differentiation,Rabdak J.Barnes

: 本文直接从Matrix Differentiation开始记录,之前的乘法等基础部分不表。

Convention 3

Convention3

m维向量对n维向量求导所得的结果是一个mxn矩阵,即Jacobian Matrix
具体形式见上公式。

命题5 Proposition 5

Proposition 5

即:Axx求导,结果为A

Proof

Proof of 5

命题6 Proposition 6

Proposition 6

即:y=Ax,而xz的函数,那么便有 ∂ y ∂ z = A ∂ x ∂ z \frac{{\partial {\rm{y}}}}{{\partial z}} = A\frac{{\partial x}}{{\partial z}} zy=Azx

Proof

Proof of 6

命题7 Proposition 7

Proposition 7

对于 α = y T A x \alpha = y^TAx α=yTAx分别对xy求导的结论。

Proof

Proof of 7

命题8 Proposition 8

Proposition 8

对于 α = x T A x \alpha = x^TAx α=xTAxx求导的结论。

Proof

Proof of 8

命题9 Proposition 9

Proposition 9

即命题8的特例,A是对称矩阵。

命题10 Proposition 10

Propostion 10

α = y T x \alpha = y^Tx α=yTx,而yx均为向量z的函数,对z求导的结果。

Proof

Proof of 10

命题11 Proposition 11

Proposition 11

命题10的特例, y = x y=x y=x

命题12 Proposition 12

Proposition 12

对于 α = y T A x \alpha = y^TAx α=yTAx,xy都是向量z的函数,对z求导的结果。

Proof

Proof

命题13 Proposition 13

Proposition 13

命题12的特例: y = x y=x y=x

命题14 Proposition 14

Proposition 14

命题13的特例:A是对称矩阵

命题15 Propostion 15

Proposition 15

Proof

Proof of 15


如果觉得文章对您有帮助的话,可以点个赞,是对博主最大的肯定!

  • 7
    点赞
  • 29
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值