机器学习中的数学——常用概率分布（八）：狄拉克分布（Dirac分布）

分类目录：《机器学习中的数学》总目录
相关文章：
· 常用概率分布（一）：伯努利分布（Bernoulli分布）
· 常用概率分布（二）：范畴分布（Multinoulli分布）
· 常用概率分布（三）：二项分布（Binomial分布）
· 常用概率分布（四）：均匀分布（Uniform分布）
· 常用概率分布（五）：高斯分布（Gaussian分布）/正态分布（Normal分布）
· 常用概率分布（六）：指数分布（Exponential分布）
· 常用概率分布（七）： 拉普拉斯分布（Laplace分布）
· 常用概率分布（八）：狄拉克分布（Dirac分布）
· 常用概率分布（九）：经验分布（Empirical分布）
· 常用概率分布（十）：贝塔分布（Beta分布）
· 常用概率分布（十一）：狄利克雷分布（Dirichlet分布）
· 常用概率分布（十二）：逻辑斯谛分布（Logistic 分布）

---

在一些情况下，我们希望概率分布中的所有质量都集中在一个点上。这可以通过 Dirac delta函数$\delta (x)$定义概率密度函数来实现：
$$p(x)=\delta (x-\mu )$$

Dirac delta函数被定义成在除了0以外的所有点的值都为0，但是积分为1。 Dirac delta函数不像普通函数一样对x的每一个值都有一个实数值的输出，它是一种不同类型的数学对象，被称为广义函数，广义函数是依据积分性质定义的数学对象。我们可以把 Dirac delta函数想成一系列函数的极限点，这一系列函数把除0以外的所有点的概率密度越变越小通过把$p(x)$定义成$\delta (x)$函数左移$-\mu$个单位，我们得到了一个在$x=\mu$处具有无限窄也无限高的峰值的概率质量。