矩阵求导学习笔记(一)

原创 2018年04月16日 19:44:16

总的来说,涉及矩阵和向量的求导不外乎五大类别,
- 向量对标量
- 标量对向量
- 向量对向量
- 矩阵对标量
- 标量对矩阵

  1. 向量对标量求导

  • 分子布局
向量y--->标量x求导,我们假定所有的向量都是列向量,


在分子布局下表示为,


而在分母布局下表示为,

2.标量对向量求导


3.向量对向量求导



4.标量对矩阵求导


5.矩阵对标量求导


总结,凡是对标量求导,结果的形式都要转置,而标量对向量和矩阵求导则位置保持
不动。这样总结方便我们记忆。


一些常见的求导:

首先,有矩阵A,和向量x



注意到,

于是利用向量对向量求导法则,我们有:


同理,




版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/weixin_39881922/article/details/79961665

机器学习之矩阵

-
  • 1970年01月01日 08:00

常用的向量矩阵求导公式

总结下数理推导中常用的向量矩阵求导公式,方便以后查询。
  • lipengcn
  • lipengcn
  • 2016-10-14 14:29:06
  • 18189

矩阵求导公式

今天推导公式,发现居然有对矩阵的求导,狂汗--完全不会。不过还好网上有人总结了。吼吼,赶紧搬过来收藏备份。 基本公式: Y = A * X --> DY/DX = A' Y = X * A -->...
  • liuheng0111
  • liuheng0111
  • 2016-07-04 00:08:16
  • 1850

机器学习中常用的矩阵求导公式

矩阵求导好像读书的时候都没学过,因为讲矩阵的课程上不讲求导,讲求导的课又不提矩阵。如果从事机器学习方面的工作,那就一定会遇到矩阵求导的东西。维基百科上:http://en.wikipedia.org/...
  • liuuze5
  • liuuze5
  • 2016-02-25 21:35:18
  • 2651

矩阵求导公式总结

今天推导公式,发现居然有对矩阵的求导,狂汗--完全不会。不过还好网上有人总结了。吼吼,赶紧搬过来收藏备份。 基本公式: Y = A * X --> DY/DX = A' Y = X * A ...
  • u010025211
  • u010025211
  • 2016-06-12 15:40:53
  • 7740

(Math)矩阵求导

本文地址:http://blog.csdn.net/mounty_fsc/article/details/51583809 前言 本文为维基百科上矩阵微积分部分的翻译内容。本文为原文的翻译与个人总...
  • mounty_fsc
  • mounty_fsc
  • 2016-06-05 11:44:13
  • 8033

矩阵求导公式【转】

原文地址:矩阵求导公式【转】作者:三寅今天推导公式,发现居然有对矩阵的求导,狂汗--完全不会。不过还好网上有人总结了。吼吼,赶紧搬过来收藏备份。 基本公式: Y = A * X --> DY/D...
  • u012045426
  • u012045426
  • 2016-08-28 08:59:25
  • 5067

【机器学习】汇总详解:矩阵的迹以及迹对矩阵求导

矩阵的迹概念        矩阵的迹 就是 矩阵的主对角线上所有元素的和。        矩阵A的迹,记作tr(A),可知tra(A)=∑aii,1<=i<=n。定理:tr...
  • u012421852
  • u012421852
  • 2018-03-17 19:59:27
  • 91

开始学习Matlab_计算功能_微分diff/求导或向量矩阵比较

1、微分(注:diff()函数也可用于向量、矩阵之间列的比较)diff(f)      此函数是对函数f中的符号变量x(默认是x),或者定义的符号变量中没有x,则对字母表上离x最近的一个符号变量求导数...
  • zxk_75
  • zxk_75
  • 2018-01-17 21:25:26
  • 93

基本初等函数的求导公式

推导求导公式意即推出函数f(x)  在某区间内任何一点 x 处的导数, 即求出导函数f'(x) 1.  (C)' = 0 (C是常数) 2....
  • ximanni18
  • ximanni18
  • 2015-03-28 16:49:53
  • 443
收藏助手
不良信息举报
您举报文章:矩阵求导学习笔记(一)
举报原因:
原因补充:

(最多只允许输入30个字)