怎么理解 Probability Distribution 和 Probability Density?

• Probability

    理解这两个概念前，我们先来看一下什么是概率：

    "Probability is a measure that quantifies es the likelihood that an event will occur."

    从两种学派来看待频率：

    （1）频率学派：概率 = 发生的次数 / 总的次数；是一种客观的描述方法。

    （2）贝叶斯学派：概率 = 我们相信有多大的可能性会发生；是一种主观性的描述方法。

 

• Probability Distribution

Random Variable (随机变量）：a thing of interest in probability （简称：一个事件）。

概率分布指：每一个事件（random variable）可能发生的结果与他的概率之间的关系。

e.g. 抛硬币是一个事件 X = random variable;

       抛硬币 X 的所有的结果x1 = 正面， x2 = 反面；p(x1) 为正面的概率...； 

        P(X）为所有结果（x1, x2)与其概率的总结: probability distribution。

 

Note: probability distribution 关注的是一个随机变量 X 所有的结果。

 

• Probability Density

概率密度指：观测值（observation）与它概率的关系。

Ok, probability distribution 与 probability density 字面上的区别就是，一个关注的是random variable所有可能的输出，另一个关注的是某个observation。

Here, 引用wiki上的话来解释下random variable与observation的关系：

“In probability and statistics, a realization, observation, or observed value, of a random variable is the value that is actually observed (what actually happened). The random variable itself is the process dictating how the observation comes about.”

举个例子： a random variable 是抛硬币，observation 是正面or负面。

 

总结下：Probability density 的总的形状就是probability distribution。计算a random variable中的某个特定结果的概率可通过probability density function来实现。