机器学习深入与强化--数学基础(1)

数学基础十分重要！！！

如果不掌握这些数学基础知识，不了解机器学习算法的底层数学逻辑，仅仅知道它在某个场景下如何使用，相当于是把算法当做一个黑盒在使用——把数据喂进去，拿出来模型。但是如果此时模型的效果并未达到理想的要求，如何调优就会成为一个很大的难题。

一、夹逼定理

sinx<x<tanx，推到如下：

sinx为线段BC的长度，小于线段AB，小于弧AB ----> sinx<(x/2pi)*(2pi*r)  ----> sinx<x；

同时扇形AOB的面积小于三角形AOD的面积  ----> (x/2pi)*(pi*r*r)<(r*tanx)/2 ----> x<tanx。

二、导数

简单地说，导数就是曲线的斜率，是曲线变化快慢的反应。

二阶导数是斜率变化快慢的反应。表征曲线的凹凸性。

三、Taylor公式

四、梯度

五、凸函数

凸函数有什么用呢？凸函数有很多的性质是可以直接使用的，会简化运算，后面会提到凸优化。

六、累计分布函数：对于连续函数，所有小于等于x0的值，其出现概率的总和。

        概率密度函数：随机变量的取值落在某个特定取值点附近的可能性的函数。

        当概率密度函数存在的时候，累计分布函数就是概率密度函数的积分。

七、概率公式

八、分布