非参数估计的基本原理与直方图方法

非参数估计的基本原理与直方图方法

1. 前言

在很多情况下，我们对样本的分布并没有充分的了解，无法事先给出密度函数的形式，而且有些样本分布的情况也很难用简单的函数来描述。
在此背景下，采用非参数估计，即不对概率密度函数的形式作任何假设，而是直接用样本估计出整个函数。当然，这种估计只能用数值方法取得，无法得到完美的封闭函数形式。
从另一个角度来看，概率密度函数的参数估计实际是在指定的一类函数中选择一个函数作为对未知函数的估计，而非参数估计则可以是看作是从所有可能的函数中进行的一种选择。

2. 直方图方法

非参数概率密度估计的最简单方法：

1. 把样本$x$的每个分量在其取值范围内分成 k