概率论复习

1. 随机事件是从静态的观点来研究随机现象，而随机变量则是一种动态的观点，一如数学分析中的常量于变量的区分一样。
2. 分布函数：P(X<=x)=F(x)。称之为X的分布函数。
3. 泊松分布可作为二项分布的极限而得到。
4. 联合概率分布:即各变量取响应的值而得到的概率。 当各变量独立时，此时联合概率为个概率密度之积。
5. 条件密度函数：f1(x1|x2)=f(x1,x2)/f2(x2)。f2为x2的边缘密度。

  这是两维的情况，下面对三维进行讨论，多维的情况类似。

          三维：p(x,y|z)=p(x|y,z)p(y|z)

          Proof:左边=p(x,y|z)*p(z)=p(x,y,z)

                    右边=p(x|y,z)p(y|z)*p(z)=p(x,y,z)

          四位：p(x,y,z|w)=p(x|y,z,w)*p(y|z,w)*p(z|w)

1. 数理统计设计到的问题：
   • 参数估计问题。假设灯泡寿命服从指数分布，但参数未知。需要从实验中通过取样的方法获得。
   • 如何对参数估计的误差进行估计。怎么选取实验数据等等。
2. 参数估计问题：即已知随机变量的概率密度函数 ，但是参数未知。需要对X取样再对进行估计。
3. 点估计
   • 矩估计法（应用中心距或原点矩建立方程求解）
   • 极大似然估计法
4. 极大似然估计：

极大似然法要求知道分布情况即密度函数。

贝叶斯方法的精辟讲解（还是教科书讲解得更清楚，看完这个LDA的推理部分大概清楚了）：

参考文献：

《概率论与数理统计》－陈希儒著