多元函数

5.28 多元函数

聚点：去心邻域（四面八方趋近 值相等 -> 极限才存在）

二阶偏导在连续条件下与求导次序无关

二元函数的极值

必要条件：一阶偏导求驻点

充分条件：二阶偏导判存在

条件极值

拉格朗日乘数法

• 局限：

1. 方程组求解困难
2. 只是必要条件，而非充要条件
3. 多变量情况下，需根据二阶偏导数构成的海森矩阵的正定性判断是否属于极值点

二元函数的全微分

切平面近似表示

方向导数 & 梯度

偏导数 --任意方向变化率–> 方向导数（用于搜索函数极值，找最陡的【局部最优解】）

射线的方向方程：

单位方向向量

梯度：grad f(x0, y0) 是一个向量

指示了函数变化率最大的方向

如何按梯度方向移动？

next_x = x0 + t * fx(x0, y0)

next_y = y0 + t * fy(x0, y0)

梯度下降算法

迭代关系式：

极大值迭代式：

极小值迭代式：

step 1: 初始化

m: 迭代步长 / 学习率 （选取和函数特性有关，