梯度
对于一个多变量函数 f(x1,x2,…,xn),其梯度 ∇f 是一个 n 维向量,定义为:
是函数 f在
方向上的偏导数。
偏导数
偏导数是多元函数在某一个方向上的导数,它描述了函数在该方向上的局部变化率。偏导数的计算过程涉及对函数的每一个变量分别求导,而与其他变量保持不变。
选择一个变量:首先,选择函数中的一个变量作为参考变量,其他变量则被视为常量。
对参考变量求导:对参考变量求导,得到偏导数。偏导数表示函数在参考变量方向上的变化率。
重复步骤1和2:对函数中的每个变量重复步骤1和2,得到每个变量的偏导数。
对于函数
对 x 的偏导数如下:
同理可解得
导数
- f′(x) 是函数 f(x) 在点 x 处的导数。
- f(x+h) 是函数在 x 点附近的一点 x+h 处的值。
- f(x) 是函数在点 x 处的值。
- h 是一个趋于零的正数,表示 x+h 与 x之间的距离
这个公式表示,当我们考虑函数 f(x) 在点 x 附近的小变化 h 时,函数值 f(x+h) 与 f(x) 之差与 h 的比值趋向于一个特定的值 f′(x)。这个特定的值 f′(x) 就是函数 f(x)在点 x 处的导数,它描述了函数在该点的瞬时变化率。