矩阵计算（求导）

最新推荐文章于 2023-09-14 19:50:36 发布

huhubbdd

最新推荐文章于 2023-09-14 19:50:36 发布

阅读量706

点赞数

文章标签：矩阵机器学习算法

本文链接：https://blog.csdn.net/huhubbdd/article/details/130619136

版权

文章介绍了亚导数的概念，特别是在函数不可微分时的应用。接着，讨论了向量在不同情况下的导数形式，包括向量函数对标量的导数是向量，以及两个向量的内积导数。最后，给出了向量函数对向量的导数表现为雅可比矩阵的例子。

摘要由CSDN通过智能技术生成

亚导数

当函数不可微时，不可计算出其普通的导数，此时便需要引入亚导数
Example:
函数 $y = ∣ x ∣$ 不可微，其亚导数为
$\frac{\partial |x|}{\partial x}=\begin{equation} \left\{ \begin{array}{lr} 1, x>0 & \\ -1,x<0 & \\ a, x=0, a\in [0,1] & \end{array} \right. \end{equation}$

y是标量，x是标量，导数也是标量；
y是标量，x是向量，导数是向量；
y是向量，x是标量，导数是向量；
y是向量，x也是向量，导数是一个矩阵。
Example1:
当 $y$ 是标量， $\vec{x}=[x_1,x_2,...,x_n]^T$ 为向量时，有 $\frac{\partial y}{\partial \vec{x}}=[\frac{\partial y}{\partial x_1},\frac{\partial y}{\partial x_2},...,\frac{\partial y}{\partial x_n}]$

Explain:
- $< u, v >$ 表示向量的内积， $<u,v>'=u^T\frac{\partial v}{\partial x}+v^T\frac{\partial u}{\partial x}$ 公式简略推导如下:
Example2:
当 $\vec{y}=[y_1,y_2,...,y_n]^T$ 是向量， $x$ 是标量时，有 $\frac{\partial \vec{y}}{\partial x}=[\frac{\partial y_1}{\partial x},\frac{\partial y_2}{\partial x},...,\frac{\partial y_n}{\partial x}]^T$
Example3:
当 $\vec{y}=[y_1,y_2,...,y_n]^T$ 是向量， $\vec{x}=[x_1,x_2,...,x_n]^T$ 也是向量时有