机器学习中常用的数学及概率统计中的一些概念

---

该博客主要整理一下在机器学习中会用到的数学相关的知识概念。数理统计和概率论之间的关系是什么呢?概率论是已知样本之间的分布规律，求事件发生的概率。数理统计是知道部分的概率发生条件去求取样本的分布规律。

一、高等数学

1.偏导

当函数 z=f(x,y) 在 (x0,y0)的两个偏导数 f’x(x0,y0) 与 f’y(x0,y0)都存在时，我们称 f(x,y) 在 (x0,y0)处可导。如果函数 f(x,y) 在域 D 的每一点均可导，那么称函数 f(x,y) 在域 D 可导。
此时，对应于域 D 的每一点 (x,y) ，必有一个对 x (对 y )的偏导数，因而在域 D 确定了一个新的二元函数，称为 f(x,y) 对 x (对 y )的偏导函数。简称偏导数。
按偏导数的定义，将多元函数关于一个自变量求偏导数时，就将其余的自变量看成常数，此时他的求导方法与一元函数导数的求法是一样的。

2.梯度

二、线性代数

---

三 . 概率论

1.联合概率

联合概率指的是包含多个条件且所有条件同时成立的概率，记作P(X=a,Y=b)或P(a,b)

2.条件概率

独立事件：两个事件之间的发生没有影响
条件概率：是指事件A在另外一个事件B已经发生条件下的发生概率。条件概率表示为：P（A|B），读作“在B的条件下A的概率”。

四 . 数理统计

五. 统计学习方法

六、数值分析