该博客主要整理一下在机器学习中会用到的数学相关的知识概念。数理统计和概率论之间的关系是什么呢?概率论是已知样本之间的分布规律,求事件发生的概率。数理统计是知道部分的概率发生条件去求取样本的分布规律。
一、高等数学
1.偏导
当函数 z=f(x,y) 在 (x0,y0)的两个偏导数 f’x(x0,y0) 与 f’y(x0,y0)都存在时,我们称 f(x,y) 在 (x0,y0)处可导。如果函数 f(x,y) 在域 D 的每一点均可导,那么称函数 f(x,y) 在域 D 可导。
此时,对应于域 D 的每一点 (x,y) ,必有一个对 x (对 y )的偏导数,因而在域 D 确定了一个新的二元函数,称为 f(x,y) 对 x (对 y )的偏导函数。简称偏导数。
按偏导数的定义,将多元函数关于一个自变量求偏导数时,就将其余的自变量看成常数,此时他的求导方法与一元函数导数的求法是一样的。
2.梯度
二、线性代数
三 . 概率论
1.联合概率
联合概率指的是包含多个条件且所有条件同时成立的概率,记作P(X=a,Y=b)或P(a,b)
2.条件概率
独立事件:两个事件之间的发生没有影响
条件概率:是指事件A在另外一个事件B已经发生条件下的发生概率。条件概率表示为:P(A|B),读作“在B的条件下A的概率”。