向量求导

最新推荐文章于 2023-11-16 08:28:00 发布

无痛学习

最新推荐文章于 2023-11-16 08:28:00 发布

阅读量699

点赞数

分类专栏： markdown 机器学习文章标签：数学

本文链接：https://blog.csdn.net/wenshen1927/article/details/78082090

版权

机器学习同时被 2 个专栏收录

4 篇文章 0 订阅

订阅专栏

markdown

2 篇文章 0 订阅

订阅专栏

0、概述

没学过矩阵理论是硬伤，一点一点补数学基础吧。

1、向量的导数

设A为m×n的矩阵，x为n×1的列向量，记 $\vec{y}=A\cdot \vec{x}$
则： $\frac{\partial \vec{y}}{\partial \vec{x}}=?$

令：

A = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ a 11 a 21 . . . a m 1 a 12 a 22 . . . a m 2 . . . . . . . . . . . . a 1 n a 2 n . . . a m n ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ x ⃗ = ⎛ ⎝ ⎜ ⎜ ⎜ ⎜ x 1 x 2 . . . x n ⎞ ⎠ ⎟ ⎟ ⎟ ⎟ A \cdot x ⃗ = ⎛ ⎝ ⎜ ⎜ ⎜ ⎜ a 11 x 1 + a 12 x 2 + . . . + a 1 n x n] a 21 x 1 + a 22 x 2 + . . . + a 2 n x n] . . . a m 1 x 1 + a m 2 x 2 + . . . + a m n x n] ⎞ ⎠ ⎟ ⎟ ⎟ ⎟

$A = \begin{bmatrix} &a_{11} &a_{12} &... &a_{1n} \\ &a_{21} &a_{22} &... &a_{2n} \\ &... &... &... &... \\ &a_{m1} &a_{m2} &... &a_{mn} \end{bmatrix} \vec{x}=\begin{pmatrix} x_{1}\\ x_{2}\\ ...\\ x_{n} \end{pmatrix} A\cdot \vec{x}=\begin{pmatrix} a_{11}x_{1}+a_{12}x_{2}+...+a_{1n}x_{n}]\\ a_{21}x_{1}+a_{22}x_{2}+...+a_{2n}x_{n}]\\ ...\\ a_{m1}x_{1}+a_{m2}x_{2}+...+a_{mn}x_{n}] \end{pmatrix}$
从而：

\partial y ⃗ \partial x ⃗ = \partial A x ⃗ \partial x ⃗ = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ a 11 a 12 . . . a 1 n a 21 a 22 . . . a 2 n . . . . . . . . . . . . a m 1 a m 2 . . . a m n ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ = A T

$\frac{\partial \vec{y}}{\partial \vec{x}}=\frac{\partial A\vec{x}}{\partial \vec{x}}=\begin{bmatrix} a_{11} &a_{21} &... &a_{m1} \\ a_{12} &a_{22} &... &a_{m2} \\ ... &... &... &... \\ a_{1n} &a_{2n} &... & a_{mn} \end{bmatrix}=A^{T}$
向量偏导数公式：

∂Ax⃗ ∂x⃗ =AT $\frac{\partial A\vec{x}}{\partial \vec{x}}=A^{T}$

∂Ax⃗ ∂x⃗ T=A $\frac{\partial A\vec{x}}{\partial \vec{x}^{T}}=A$

∂x⃗ TA∂x⃗ =A $\frac{\partial \vec{x}^{T}A}{\partial \vec{x}}=A$

无痛学习

关注

0
点赞
踩
1

收藏

觉得还不错? 一键收藏
0
评论
向量求导

0、概述没学过矩阵理论是硬伤，一点一点补数学基础吧。1、向量的导数设A为m×n的矩阵，x为n×1的列向量，记y⃗ =A⋅x⃗ \vec{y}=A\cdot \vec{x} 则：∂y⃗ ∂x⃗ =?\frac{\partial \vec{y}}{\partial \vec{x}}=?令： A=⎡⎣⎢⎢⎢⎢a11a21...am1a12a22...am2............a1na2n...am
复制链接

扫一扫

专栏目录