矩阵向量求导二 标量对向量 _机器学习

参考文档

    标量对向量布局原则是:  分母布局

    https://www.cnblogs.com/pinard/p/10773942.html

 

目录

  1.       标量对向量求导
  2.       标量对矩阵求导
  3.       基本法则

一  标量对向量求导

     1.1   y=a^T x\frac{ \partial y }{ \partial x}=a

           证明:

            

            因为 \frac{ \partial \sum a_ix_i }{ \partial x_i} =a_i

          所以  \frac{ \partial y }{ \partial x} =a

     1.2     y=xa^T , \frac{\partial y }{ \partial x} =a

                证明:

                         因为 \frac{ \partial \sum a_ix_i }{ \partial x_i} =a_i

                         所以  \frac{ \partial y }{ \partial x} =a

 

         1.3  y=x^Tx, \frac{\partial y }{\partial x} =2x

                   证明:

                       \frac{\partial \sum x_i^2}{ \partial x_i}=2x_i

                       所以\frac{ \partial y }{ \partial x} =2x

 

       1.4  y=x^TAx,\frac{\partial y}{\partial x}=A^Tx+Ax

             \frac{\partial \sum x_j \sum x_iA_{ij}}{\partial x_k}

           =\sum A_{ik}x_i +\sum A_{kj}x_j

         =A^Tx+Ax

 

二  标量对矩阵求导

        y=a^TXb ,\frac{\partial y}{\partial x} =ab^T

       证明:

             \frac{\sum\sum a_iX_{ij}b_j}{X_{ij}}=a_ib_j

             =ab^T

 

三 基本法则

    f,g 都是实值函数

    3.1 线性法则

         

     3.2 乘法法则

         

    3.3  除法法则

        

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值