核密度估计(Kernel Density Estimation)和累积分布函数 (Cumulative Distribution Function)

---

原文链接，欢迎评论
https://dreamhomes.top/posts/202010091143.html

---

核密度估计

核密度估计是采用平滑的峰值函数(“核”)来拟合观察到的数据点，从而对真实的概率分布曲线进行模拟，含义类似于数据直方图。

核密度估计(Kernel density estimation)，是一种用于估计概率密度函数的非参数方法，为独立同分布的$n$个样本点，设其概率密度函数为 $f$，核密度估计如下：

$${\hat{f}}_h(x)=\frac{1}{n}\sum _{i=1}^n{K}_h\left(x-x_i\right)=\frac{1}{nh}\sum _{i=1}^{n}K\left(\frac{x-x_i}{h}\right)$$

其中$K(.)$为核函数（满足性质：非负、积分为1，符合概率密度性质，并且均值为0）；$h>0$为一个平滑参数，称作带宽(bandwidth)或者窗口；

有很多种核函数，uniform,triangular, biweight, triweight, Epanechnikov,normal 等，函数形式如下：

累积分布函数

从数学上来说，累积分布函数(Cumulative Distribution Function, 简称CDF)是概率分布函数的积分；而在绘制累积分布函数的时候，由于真实的概率分布函数未知，因此往往定义为直方图分布的积分：
$$\mathrm{cdf}(x)\approx {\int }_{-\infty }^x\mathrm{d}t\mathrm{histo}(t)$$

与直方图、核密度估计相比，累积分布函数存在以下几个特点：

• 累积分布函数是X轴单调递增函数。
• 累积分布函数更加平滑，图像中噪音更小。
• 累积分布函数没有引入带宽等外部概念，因此不会丢失任何数据信息。对于给定的数据集，累积分布函数是唯一的。
• 累积分布函数一般都经过归一化处理，单调递增且趋近于1。

实例

以－4到4之间分布的10000个数据点为例，绘制成直方图，核密度估计和累积分布函数如下所示：

直方图

核密度估计

累积分布函数