机器学习数学基础必备

复习重点：

1-梯度理解
2-凸函数
3-多元函数求极值
4-Hession 矩阵
5-最小二乘法
6-拉格朗日乘子法
7-泰勒公式
8-矩阵基础知识
9-矩阵的特征值和特征向量分解
10-连续型随机变量分布
11-离散型随机变量分布
12-极大似然估计
13-矩估计
14-假设检验

学习要求
1.基本函数的图像，导数
2.导数的运算法则（加减乘除）（常数Cf(x)的倒数）
3.极值和最值求解

4.多元函数求导（层层求导）

这里的结果是有问题的应该是1/e 的叠加

5.偏导数（三元z对x的偏导数，z对y的偏导数）
6.方向导数（单位向量怎么求）

方向导数是偏导数的升级，更能应用到生活中，方向导数的公式
1.求一个点到另外一个点的向量如P(1,0),Q(2,-1)
则向量PQ就是（1，-1）也就是Q减去P对于的x,y想减
2.求单位向量 还是利用向量（1，-1），（1的平方+（-1）的平方）开根号，及根号2,然后1除以根号2 乘以（1，-1）即可得到单位限量
3.求偏导数对x,y的骗到值
4，代入公式的方向导数值 片导致乘以单位向量的和

6.梯度的概念 依赖于方向导数

再找资料理解

7.凸函数

凸函数是为了数据的分布在优化时得到全局最优解
，而不是局部最优解
判定是否是凸函数
两个数的平均数的函数值大于各自函数和的平均值则为凸函数

1.根据函数的图像来判定是否是凸函数
lnx 的图像开口向下 是凸函数
x的三次方 图像时x<0,开口向下是凸函数
2。根据几何意义看集合的任意连线

3。两个数的平均数的函数值大于各自函数和的平均值则为凸函数