机器学习数学基础学习笔记
1、 微积分
1.1 导数
一阶导数,是函数 的切线斜率
二阶导数,是切线斜率的变化速度,即曲线的弯曲程度,也称为“曲率”(curvature)
1.2 偏导数
-
偏导数,是多元函数 关于某个自变量 的导数,定义为:
-
梯度向量,gradient vector 将多元函数 的所有偏导数写成一个列向量,即是梯度向量。
-
二阶偏导数
-
混合偏导数
混合偏导数和求导顺序无关,二阶偏导数连续的时候,则有
-
海塞矩阵 多元函数的所有二阶偏导数就是海塞矩阵(Hessian Matrix):