参考: 拜师资源博客,2021-09-06 机器学习中的数学基础–第二天
学习内容
多元函数
设 D D D为一个非空的 n n n元有序数组的集合, f f f为某一确定的对应规则。若对于每一个有序数组 ( x 1 , x 2 . . . x n ) ∈ D ({x_1},{x_2}...{x_n}) \in D (x1,x2...xn)∈D,通过对应规则 f f f,都有唯一确定的实数 y y y与之对应,则称对应规则 f f f为定义在 D D D上的 n n n元函数
记为: y = f ( x 1 , x 2 . . . . x n ) y=f(x_1,x_2....x_n) y=f(x1,x2....xn),其中 ( x 1 , x 2 . . . x n ) ∈ D ({x_1},{x_2}...{x_n}) \in D (x1,x2...xn)∈D。变量 ( x 1 , x 2 . . . x n ) ({x_1},{x_2}...{x_n}) (x1,x2...xn)称为自变量, y y y称为因变量。
当 n = 1 n=1 n=1时,为一元函数,记为 y = f ( x ) , x ∈ D y=f(x) ,x\in D y=f(x),x∈D,当 n = 2 n=2 n=2时,为二元函数,记为 z = ( x . y ) , ( x . y ) ∈ D z=(x.y),(x.y)∈D z=(x.y),(x.y)∈D。二元及以上的函数统称为多元函数。
ps.类似于一元函数,但因自变量更多,需考虑每一个自变量对因变量的影响.
偏导数
定义:
- X X X方向的偏导:设有二元函数 z = f ( x . y ) z=f(x.y) z=f(x.y),点 ( x 0 , y 0 ) (x_0,y_0) (x0,y0)是其定义域 D D D内一点。把 y y y固定在 y 0 y_0 y0而让 x x x在 x 0 x_0 x0有增量 △ x △x △x,相应地函数 z = f ( x . y ) z=f(x.y) z=f(x.y)有增量(称为对 x x x的偏增量) △ z = f ( x 0 + △ x , y 0 ) − f ( x 0 , y 0 ) △z=f(x_0+△x,y_0)-f(x_0,y_0) △z=f(x0+△x,y0)−f(x0,y0)。
- Y Y Y方向的偏导,把 x x x固定在 x 0 x_0 x0而让 y y y在 y 0 y_0 y0有增量 △ y △y △y,如果极限存在那么此极限称为函数 z = ( x , y ) z=(x,y) z=(x,y)在 ( x 0 , y 0 ) (x_0,y_0) (x0,y0)处对 y y y的偏导数,记做 f y ‘ ( x 0 , y 0 ) f_y^‘({x_0},{y_0}) fy‘(x0,y0)
方向导数
存在方向导数,但不一定存在偏导数,如
z
=
x
2
+
y
2
z = \sqrt {{x^2} + {y^2}}
z=x2+y2,在0处就不存在偏导数
可微
梯度
##链式法则(多元函数)
- 雅可比矩阵
- 定义
##Hessian矩阵
拉格朗日乘数法