Lecture 13: Bernoulli Process

前言：前面12节课是有关概率的知识，这节课是开始需要研究随时间变化的现象，也就是随机过程，random processes ，stochastic processes。random processes are supposed to be models that capture the evolution of random phenomena over time，这节课讲伯努利过程。


先从简单的随机过程开始讲起，伯努利过程是离散时间的随机过程。

两种解读方式：
第一种是每个时间对应一个单独的独立随机变量，随时间进行构成一个序列。
第二种是把所有时间放在一起看，当成一个随机变量。
经过计算，当0 < p < 1时候, sample space 中的每个outcome的概率都是0， 这有点像连续状态空间里的outcome

对于伯努利过程，成功次数为k次的结果的集合作为事件的概率为上图中的$P(S=k)$
由于每次实验同分布, 且有$S={\sum }_{i=1}^n{X}_i$，则$E[S]={\sum }_{i=1}^{n}E[X_i]=n\ast p$, 因为实验是独立的, 所以$Var(S)=n\ast p\ast (1-p)$

我们再换一种随机变量，$T_1$定义为第一次出现成功的试验次数。
$E[T_1]$怎么求的可以看这篇cite
$$\begin{gathered} Var(X)=E[X^2]-(E[X]{)}^2 \\ 上面E[X]求完了，只需要求E[X^2],求法和求E[X]差不多 \\ E[X^2|X=1]=1 \\ E[X^2|X>1]=E[(X+1{)}^2]=E[X^2]+2\ast E[X]+1 \\ E[X^2]=p\ast E[X^2|X=1]+(1-p)\ast E[X^2|X>1] \\ =p\ast 1+(1-p)\ast (E[X^2]+2\ast E[X]+1) \\ 这样E[X^2]就能算出来了，Var(X)也就能算出来了。 \end{gathered}$$
上图中蓝色的区间不是geometric§，因为0 的起始位置应该是未知的，绿的的区间才符合geometric§， 因为这时已经有了一个0，已经知道了起始位置，那么多久之后才有1 呢，这和从开始实验到第一个1 出现完全相同的。0连续出现的长度和绿色区间的长度正好相等。

第k次到达的时间是多个第一次到达时间的加和。每次到达所需时间互相之间都是独立的且都是几何分布。

第k次到达的时间是t的概率：这个概率是【1，t-1】时间内到达了k-1次，并且t 时刻到了1次，这两个事件的joint probability。

伯努利过程可以分解,也可以合并。