从0开始深度学习（3）——概率

1 基本概率论

• 大数定律（law of large numbers）：随着投掷次数的增加，这个估计值会越来越接近真实的潜在概率。
• 从概率分布中抽取样本的过程称为抽样（sampling）
• 将概率分配给一些离散选择的分布称为多项分布（multinomial distribution）

1.1 概率论公理

概率（probability）可以被认为是将集合映射到真实值的函数。
在给定的样本空间S中，事件A的概率， 表示为P(A)，满足以下属性：

1.2 随机变量

• 离散随机变量(discrete random variable)：取值为有限个或可数无限个值的随机变量称为离散随机变量。这些值通常是整数或有限范围内的离散点。例如：抛硬币的次数、骰子的点数、某段时间内到达的顾客数量等

• 连续随机变量(continuous random variable)：取值为实数区间上的任何值的随机变量称为连续随机变量。这些值通常是无限可分的，并且可以在一定范围内取任意值</