基础知识 向量 点积 数量积
- 点积在数学中,又称数量积(dot product; scalar product),是指接受在实数R上的两个向量并返回一个实数值标量的二元运算。它是欧几里得空间的标准内积。
- 两个向量a = [a1, a2,…, an]和b = [b1, b2,…, bn]的点积定义为:a·b=a1b1+a2b2+……+anbn。
- 使用矩阵乘法并把(纵列)向量当作n×1 矩阵,点积还可以写为:
a·b=(aT)*b,这里的aT指示矩阵a的转置。
简化版教程
- 该教程提出导数的方向概念,导数可以认为是向量。但该教程没有考虑到方向导数射线的性质。导数是某一方向上的变化率。
(转)导数、偏导数、方向导数、梯度、梯度下降
知乎马同学教程
向量函数的雅可比矩阵与链式法则
- 向量函数的雅可比矩阵与链式法则
- 雅克比矩阵用途 同时求多元函数偏导数,即矩阵相乘求梯度
- 链式法则作用 求多元复合函数
个人总结
- 概念理解顺序 导数 偏导数 方向导数 梯度 微分 雅克比矩阵 链式法则
- 导数 偏导数 方向导数 梯度 都是向量,大小为函数在某一方向的变化率,向量方向为该方向。
- 梯度是最大的方向导数,由固定公式得出。梯度是导数的线性组合。
- 对标量求导数 等价于 对向量求梯度。导数是相对于标量来说的,梯度是相对于向量来说的
- 微分是增量的主要部分,增量的线性部分,微分由梯度定义 df = 梯度向量 点乘 自变量变化向量
- 一元函数微分几何概念为切线,二元函数微分几何概念为切面
- 当因变量为向量时,梯度组合为雅克比矩阵
- 向量遵循链式法则,一元函数中导数的概念转换为 梯度和雅克比矩阵
- 雅克比矩阵用途 同时求多元函数偏导数,即矩阵相乘求梯度
- 链式法则作用 求多元复合函数