1.2 Basics of Probability Theory 概率论基础
- 引言值得一提的,是对于概率的定义。频率学派VS贝叶斯学派。
概率定义的演变
频率学派:概率表征为大量实验观察后得到的事件发生的频率
贝叶斯学派:概率为根据以往的资料或者经验,形成的关于随机事件发生可能性的主观印象–是一个先验信息,比如:考察某地区男婴的出身概率;考察某人是某案件嫌疑人的概率
如果既没有办法做大量随机实验,又没有任何主观印象,这时也就是说我们对待研究的现象是无信息的,这种情况下贝叶斯假设基本事件发生是没有任何偏好的,都是等可能的。
概率的公理化定义:
频率学派和贝叶斯学派都是有道理的,但是没有将概率提升到数学理论的高度,前苏联科学家柯尔莫哥洛夫做了更进一步的抽象:
概率为一个函数
非负性: 1>P>0
规范性:P(S)=1
可加性: P(A+B+C)=P(A)+P(B)+P(C),A,B,C两两互斥
以上斜体部分引用自:机器学习数学知识积累之概率论 - 世有因果知因求果 - 博客园
1.2.1 Axiomatic Foundations 公理基础
- σ代数 sigma algebra
-
(也叫Borel field,书中采用的是简写斜体大B,但看了一圈似乎还是sigma algebra的用法通行一点,所以这里还是跟通行版走吧。)
-
定义:sigma algebra是全集S一族的子集合。A collection of subsets of S
-
三个性质:
* -
又结合1.1.4德摩根律有
-
参考:
-
trivial sigma algebra(找了一圈没看到这个的对应中文术语,就先搁这儿吧)
- {∅,S}
- the smallest one that contains all of the open sets in a given sample space S(这句话应该是指上面那个,不过这个开集的概念可以拓展一下)
- 拓展:开集闭集的度量和拓扑理解
-
1.2.2 Example 1
- 若集合S有n个元素,则S有2^n个子集。(初高中知识,不解释)
-
1.2.3 Example 2
- 不可数集合(uncountable)与开闭区间
- 例如
- S=(-∞,∞)
- then σ algebra is chosen to contain all sets of the form
- [a,b],[a,b),(a,b],(a,b). for all real number a and b
-
1.2.4 概率函数P的定义
函数P对于域B(即σ algebra)满足:
kkk前两点其实就是暗含0<=P(A)<=1的范围啦,
第三点就是互斥事件并集的概率等于各互斥事件概率之和。
复述了本文top的引言部分“公理化定义”而已。
今天摸鱼,先学这么多吧~~~