概率论与数理统计

《概率论与数理统计》学习笔记

概率论

  • 互斥、对立、独立;
  • 分配律、德摩根律;
  • 超几何分布
  • 实际推断原理;
  • 条件概率:P(A1A2…An)=P(An|A1…An-1)P(An-1|A1…An-2)…P(A2|A1)P(A1);
  • 全概率公式,B1…Bn是划分(两两相交为空,所有并集为全集):P(A)=P(A|B1)P(B1)+…+P(A|Bn)P(Bn);
  • 贝叶斯公式,要求P(B|A),则已知P(B)为先验概率,在得到一些信息以后修正为P(B|A)即为后验概率;
  • 大写字母表示随机变量,小写字母表示实数;
  • 离散型随机变量分布:0-1分布,二项分布(n重伯努利试验),泊松分布(以n,p为参数的二项分布的概率值可以由参数为lambda=np的泊松分布的概率近似,一般n>=20,p<=0.05时近似更加);
  • 连续型随机变量分布:均匀分布,指数分布(无记忆性,用于可靠性理论、排队论),正态分布,GAMMA分布;
  • 随机变量的函数的分布,以及两个随机变量的函数的分布,Z=X+Y(如果X、Y相互独立,则为fX与fY的卷积),Z=Y/X,Z=XY,M=max{X,Y},N=min{X,Y};
  • 联合分布函数,边缘分布,条件分布;
  • 分布函数,概率密度(连续型),分布律(离散型);
  • 对于二维正态随机变量(x,y),X和Y相互独立的充要条件是参数rho=0(这里rho其实是相关系数);
  • 期望、方差、
  • 泊松分布期望lambda,方差lambda;均匀分布期望(a+b)/2,方差(b-a)^2/12;指数分布期望theta,方差theta^2;二项分布期望np,方差np(1-p);
  • 切比雪夫不等式,给出在随机变量X分布未知(只知道E(X)和D(X))的情况下,估计{|X-E(X)|<=e}的概率的下限;
  • 协方差,相关系数(相互独立->不相关,不相关->不一定相互独立,不相关是指不存在线性关系,但还可能存在除线性关系之外的关系);
  • 矩(原点矩,中心矩,混合矩,混合中心矩),协方差矩阵(cij=Cov(Xi,Xj),利用协方差矩阵可以得出n维随机变量的分布,如n维正态分布);
  • 大数定律:弱大数定理(辛钦大数定理),伯努利大数定理;
  • 中心极限定理:独立同分布的中心极限定理,Lyapunov定理,De Moivre-Laplace定理(正态分布的函数表达式就是从中心极限定理的证明中得到的);
  • 级数
  • 卷积

数理统计

  • 直方图,箱线图(Min、Q1、M、Q3、Max,左偏、右偏),修正箱线图(IQR=Q3-Q1,疑似异常值小于Q1-1.5IQR或大于Q3+1.5IQR);
  • 统计量,观察值,经验分布函数,抽样分布;
  • X^2分布(卡方分布),X^2=X1^2+X2^2+…+Xn^2,其中Xi服从N(0,1)分布。卡方分布概率密度函数利用Y=X^2及GAMMA分布的可加性得到;X^2a(n)=0.5(za+sqrt(2n-1))^2,za为标准正态分布的上a分位点。
  • t分布(学生分布),X~N(0,1),Y~X^2(n),t=X/sqrt(Y/n),t~t(n);
  • F分布,U~X^2(n1),V~X^2(n2),F=(U/n1)/(V/n2),F~F(n1,n2),F1-a(n1,n2)=1/(Fa(n2,n1));
  • 正态总体的样本均值与样本方差分布:四个定理截图

统计推断

  • 估计问题:
    1. 点估计:估计量、估计值;矩估计、最大似然估计、基于截尾样本的最大似然估计(定时截尾、定数截尾);无偏性(意味着无系统误差);有效性(方差小的);相合性(n趋于无穷时,依概率收敛,称为相合估计量);一个未知参数可以有不同的无偏估计量;
    2. 区间估计:置信区间、置信水平、枢轴量;
    3. 正态总体均值与方差的区间估计:单个总体N(mu,sigma^2)求mu的置信区间,sigma^2已知时利用N(0,1),sigma^2未知时利用t(n-1);求sigma的置信区间,mu未知时利用X^2(n-1);两个总体N(mu1,sigma1^2),N(mu2,sigma2^2)求mu1-mu2的置信区间,sigma1^2,sigma2^2已知时利用N(0,1),sigma^2未知时利用t(n1+n2-2);求sigma1^2/sigma2^2的置信区间,mu未知时利用F(n1-1,n2-1);
    4. (0,1)分布参数p的置信区间利用N(0,1);
    5. 单侧置信区间;
  • 假设检验
    1. a显著性水平,检验统计量,原假设(零假设),备择假设,拒绝域,临界点,第一类错误(弃真),第二类错误(取伪);
    2. 一般总是控制犯第一类错误的概率,使它不大于a,这种只控制犯第一类错误的概率而不考虑犯第二类错误的概率的检验,称为显著性检验;
    3. 双边备择假设,双边假设检验,右边检验(H0,mu<=mu0),左边检验,单边检验(求拒绝域时算P(弃真)<=a);
    4. 右边检验较多,当值算出来>临界点时,拒绝H0
    5. 正态总体均值的假设检验:单个总体N(mu,sigma^2),sigma^2已知时利用Z检验,sigma^2未知时利用t检验;两个总体N(mu1,sigma1^2),N(mu2,sigma2^2),sigma1^2,sigma2^2已知时利用Z检验mu1-mu2,sigma^2未知时利用t检验mu1-mu2;
    6. 逐对比较法:差值服从未知mu,sigma的正态分布;
    7. 正态总体方差的假设检验:单个总体N(mu,sigma^2),mu,sigma^2未知时利用X^2检验;两个总体N(mu1,sigma1^2),N(mu2,sigma2^2),mu1,mu2,sigma1^2,sigma2^2都未知,采用F检验;
    8. 置信区间与假设检验的关系:置信区间是以样本均值为中心,去求置信区间,看真值包含在区间内的概率(1-a);假设检验是以假设的均值为中心,去求得到的样本均值是否落在拒绝域外
    9. 分布拟合检验秩和检验:不重要,先不看;

随机过程

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值