【西瓜书】Chap3-矩阵求导

前提: 若 x 为向量,则默认 x 为列向量, x^{T} 为行向量

一、布局


  • 分子布局(Numerator layout):分子为列向量或者分母为行向量
  • 分母布局(Denominator layout):分子为行向量或者分母为列向量

分子布局

  • 标量/向量     

        æ é/åé   (分母的向量为行向量)

  • 向量/标量

       åé/æ é      (分子的向量为列向量)

  • 向量/向量

        åé/åé    (分子为列向量,分母为行向量)

  • 标量/矩阵

        æ é/ç©éµ

  • 矩阵/标量

        ç©éµ/æ é

分母布局

  • 标量/向量

        æ é/åé      (分母是列向量)

  • 向量/标量

        åé/æ é    (分子是行向量)

  • 向量/向量  

        åé/åé   (分母是列向量,分子是行向量)

  • 标量/矩阵

       æ é/ç©éµ

分子布局和分母布局的操作结果可以通过转置来切换。

 

二、Identities


     最重要的规则是:链式规则、乘积规则、求和规则。

     求和规则是普遍适用的,而乘积规则应用在下面的大部分情况中, 其中矩阵乘积的顺序是有要求的,因为矩阵乘积是不可交换的。链式规则应用在下面的某些情况中,不过可惜的是没有应用在矩阵关于标量的导数和标量关于矩阵的导数中(在后者的情况下,大多数情况都是通过在矩阵上迹操作来完成的). 在后者情况中,乘积规则没法直接使用,不过可以通过使用微分identities来等效的完成。

向量关于向量的identities

      所有的向量关于向量的微分可以直接用在向量关于标量或者标量关于向量的微分上,只要将分母或分子的向量变成标量就行。

      è¿éåå¾çæè¿°

参考:https://blog.csdn.net/shouhuxianjian/article/details/46669365

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值