概率论(culculus level)
文章平均质量分 89
UA STAT564
一个不愿透露姓名的孩子
这个作者很懒,什么都没留下…
展开
-
Log Cauchy分布的一个Hierarchical模型:LC=Gamma+Gamma+Unif
Log Cauchy分布的一个Hierarchical模型:LC=Gamma+Gamma+Unif原创 2022-03-25 14:51:27 · 714 阅读 · 0 评论 -
贝叶斯统计:Tweedie公式及其证明
贝叶斯统计:Tweedie公式及其证明Tweedie公式是贝叶斯统计中用来研究正态分布的均值问题的最重要的公式之一,不管是在经典的对正态均值进行区间估计、假设检验等领域中,还是在现代贝叶斯统计用均值的特殊先验构造其shrinkage estimator的领域中,Tweedie公式都是重要的基础工具,所以这一篇我们一起学习一下这个公式及其证明。Tweedie公式 考虑y∣μ∼N(μ,σ2)y|\mu \sim N(\mu,\sigma^2)y∣μ∼N(μ,σ2),其中σ2\sigma^2σ2已知,μ\mu原创 2021-09-04 04:25:59 · 3499 阅读 · 0 评论 -
Hierarchy of Log-Cauchy
Hierarchy of Log-Cauchy LC(0,π)LC(0,\pi)LC(0,π)γi∣wi∼Gamma(pi,wi)wi∣pi∼Gamma(1−pi,1)pi∼U(0,1)\gamma_i|w_i \sim Gamma(p_i,w_i) \\ w_i|p_i \sim Gamma(1-p_i,1) \\ p_i \sim U(0,1)γi∣wi∼Gamma(pi,wi)wi∣pi∼Gamma(1−pi,1)pi∼U(0,1)π(γi,wi,pi)=wipiγipi−1e−w原创 2021-09-04 03:33:04 · 147 阅读 · 0 评论 -
Dirichlet分布与多项分布的共轭性
Dirichlet分布与多项分布的共轭性二项分布与Beta分布的共轭性Dirichlet分布与多项分布的共轭性关于多项分布与Dirichlet分布的基础可以参考:UA MATH564 概率论 多项分布UA MATH564 概率论 Dirichlet分布二项分布与Beta分布的共轭性因为多项分布与Dirichlet分布分别是二项分布与Beta分布从一元到多元的推广,所以在探讨多项分布与Dirichlet分布的共轭性之前,我们有必要先看看二项分布与Beta分布的共轭性:假设N∼Binom(n,p)N原创 2021-06-09 00:36:40 · 776 阅读 · 0 评论 -
Normal-Inverse Gamma Mixture简介
Normal-Inverse Gamma Mixture简介假设X∣γ∼N(μ,γ),γ∼IG(α,β)X|\gamma \sim N(\mu,\gamma),\gamma \sim IG(\alpha,\beta)X∣γ∼N(μ,γ),γ∼IG(α,β),称XXX的分布是Normal-Inverse Gamma Mixture,这个mixture在贝叶斯统计中有非常广泛的应用。应用一:正态方差的共轭分布先写出X,γX,\gammaX,γ的联合概率密度p(X,γ)∝(γ−1/2e−(X−μ)22γ)原创 2021-04-08 12:10:41 · 933 阅读 · 0 评论 -
UA MATH564 概率论 多元随机变量的变换 理论与应用2
UA MATH564 概率论 多元随机变量的变换 理论与应用2矩母函数法再介绍一个Jacobi行列式法的例子:例5 X1,X2,X3∼iidEXP(λ)X_1,X_2,X_3 \sim_{iid} EXP(\lambda)X1,X2,X3∼iidEXP(λ),Y1=X1+X2+X3,Y2=X1X1+X2,Y3=X1+X2X1+X2+X3Y_1 = X_1+X_2+X_3,Y_2 = \frac{X_1}{X_1+X_2},Y_3 = \frac{X_1+X_2}{X_1+X_2+X_3}Y1=原创 2021-03-08 07:05:45 · 308 阅读 · 0 评论 -
Paper Review: Bayesian Shrinkage towards Sharp Minimaxity
Paper Review: Bayesian Shrinkage towards Sharp MinimaxityMotivation and ConclusionSparse normal mean model (ϵ∼N(σ2In)\epsilon \sim N(\sigma^2I_n)ϵ∼N(σ2In) but set σ2=1\sigma^2=1σ2=1):y=θ+ϵ,ϵ∼N(0,In)y = \theta+\epsilon,\epsilon \sim N(0,I_n)y=θ+ϵ,ϵ∼N(0原创 2020-12-17 07:18:47 · 180 阅读 · 0 评论 -
UA MATH564 概率论 依概率收敛的一个例题
UA MATH564 概率论 依概率收敛的一个例题Part (a)Let Yn∼U(−1/n,1/n)Y_n \sim U(-1/n,1/n)Yn∼U(−1/n,1/n), Zn∼U(n,n+1)Z_n \sim U(n,n+1)Zn∼U(n,n+1), Yn,ZnY_n,Z_nYn,Zn are independent and Xn=n−1nYn+1nZnX_n = \frac{n-1}{n}Y_n + \frac{1}{n}Z_nXn=nn−1Yn+n1Zn.EXn=n−1nE原创 2020-07-30 04:38:51 · 1961 阅读 · 0 评论 -
UA MATH564 概率论 样本均值的偏度与峰度
UA MATH564 概率论 样本均值与随机和的偏度与峰度原创 2020-07-29 10:44:20 · 670 阅读 · 0 评论 -
UA MATH564 概率论 标准二元正态分布的性质
UA MATH564 概率论 二元正态分布的一个例题Let XXX and YYY be two standard normal variables with correlation ρ\rhoρ. U=max(X,Y)U = \max(X,Y)U=max(X,Y) and V=min(X,Y)V = \min(X,Y)V=min(X,Y). Is there a pair of constant numbers (a,b)(a,b)(a,b) such that aU+bVaU+bVaU+bV is原创 2020-07-29 09:24:39 · 829 阅读 · 0 评论 -
UA MATH564 概率论 依概率收敛的题目
UA MATH564 概率论 依概率收敛的一个例题X1,X2,⋯ ,Xn∼iida+EXP(λ)X_1,X_2,\cdots,X_n \sim_{iid} a+EXP(\lambda)X1,X2,⋯,Xn∼iida+EXP(λ), Yn=min(X1,⋯ ,Xn)Y_n = \min(X_1,\cdots,X_n)Yn=min(X1,⋯,Xn). Prove Yn→pcY_n \to_p cYn→pc and find c.Answer.Density of XiX_iXi is原创 2020-07-28 15:05:29 · 946 阅读 · 0 评论 -
UA MATH564 概率论 Dirichlet分布
UA MATH564 概率论 Dirichlet分布在UA MATH564 概率论IV 次序统计量中,我们介绍了均匀分布U(0,1)U(0,1)U(0,1)的多个次序统计量的联合分布就是Dirichlet分布,在Bayesian统计中,Dirichlet分布是非常常用的共轭分布族,这一讲介绍Dirichlet分布的一些性质。Dirichlet分布的一般形式为f(x∣α)=Γ(∑i=1nαi)∏i=1nΓ(αi)∏i=1nxiαi−1f(x|\alpha) = \frac{\Gamma(\sum_{i=原创 2020-07-26 06:21:27 · 266 阅读 · 0 评论 -
UA MATH574 概率论 一个均匀分布的例题2018May/4
UA MATH574 概率论 均匀分布例题2018May第四题。Part aLet Zi=−lnUiZ_i =- \ln U_iZi=−lnUi,P(Zi≤z)=P(−lnUi≤z)=P(Ui≥e−z)=1−FU(e−z)fZ(z)=e−z,z>0P(Z_i \le z) = P(-\ln U_i \le z) = P(U_i \ge e^{-z}) = 1 - F_U(e^{-z}) \\ f_Z(z) = e^{-z},z>0P(Zi≤z)=P(−lnUi≤z)=P(U原创 2020-07-23 06:28:37 · 1534 阅读 · 0 评论 -
UA MATH564 概率分布总结
UA MATH564 概率分布总结常用的分布的分布函数、概率密度、期望、方差、矩母函数、是否具有可加性、与其他分布的关系、最小充分统计量、完备性、MLE以及统计量的分布。Part zero Uniform DIstributionPart a Geometric DistributionPart b Multinomial DistributionPart c Poisson DistributionPart d Shifted Exponential DistributionPar原创 2020-07-21 08:29:05 · 280 阅读 · 0 评论 -
UA MATH564 概率论 公式与定理总结
UA MATH564 概率论 公式与定理总结Part 1 Elementary ProbabilityPart 2 Transformation of Random VariablePart 3 Moment Generating Function and Prob InequalityPart 4 Conditional Density and Conditional ExpectationPart 5 Distribution of Order StatisticsPart 6 Basic原创 2020-07-20 07:23:39 · 466 阅读 · 0 评论 -
UA MATH564 概率论 QE练习 Glivenko–Cantelli定理
UA MATH564 概率论 QE练习 经验分布函数的渐近性质原创 2020-07-19 06:39:17 · 1036 阅读 · 1 评论 -
UA MATH564 概率不等式 QE练习题
UA MATH564 概率不等式 QE练习题2018年5月第三题2018年5月第三题Part aIf x<tx<tx<t, 1[t,+∞)(x)=01_{[t,+\infty)}(x) = 01[t,+∞)(x)=0,1[t,+∞)(x)≤g(x)g(t)⇔0≤g(x)g(t)1_{[t,+\infty)}(x) \le \frac{g(x)}{g(t)} \Leftrightarrow 0 \le \frac{g(x)}{g(t)} 1[t,+∞)(x)≤g(t)g(x)原创 2020-07-18 12:12:08 · 224 阅读 · 0 评论 -
UA MATH564 概率论 QE练习题 信封问题
UA MATH564 概率论 QE练习题 信封问题2015年1月的第二题2015年5月的第一题这一篇介绍QE理论中出现了两个信封问题相关的题目:2015年1月的第二题和2015年5月的第一题。2015年1月的第二题2015年5月的第一题...原创 2020-07-16 06:17:19 · 1546 阅读 · 2 评论 -
UA MATH564 概率论 QE练习题6
UA MATH564 概率论 QE练习题6第二题这是2016年5月的1-3题。第二题Part aDenote O as center of the circle. Randomly choose point Don the unit circle and represent points A,B,C using the center angle counterclockwise from OD to OA,OB,OC and denote as XA,XB,XCX_A,X_B,X_CXA,XB原创 2020-07-07 10:55:18 · 211 阅读 · 0 评论 -
UA MATH564 概率论 QE练习题 概率极限理论
UA MATH564 概率论 QE练习题 概率极限理论2015/5/32016/1/3这是2015年5月的3题、2016年1月的3题2015/5/3这个题干有点意思,有一列随机变量但并不是互相独立的,知道第一个是均匀的,后续的条件分布给了。Part aE[Xn+1r∣Xn]=∫0cXnxr1cXndx=crXnr1+rE[X_{n+1}^r|X_n] = \int_{0}^{cX_n} x^r \frac{1}{cX_n}dx = \frac{c^rX_n^r}{1+r}E[Xn+1r∣Xn原创 2020-07-07 07:16:17 · 287 阅读 · 0 评论 -
UA MATH564 概率论 计算至少有一个发生的概率:Waring公式
UA MATH564 概率论 计算至少有一个发生的概率:Waring公式原创 2020-07-06 09:30:39 · 3795 阅读 · 0 评论 -
UA MATH564 概率论 QE练习题3
UA MATH564 概率论 QE练习题3第一题第二题第三题这是2015年1月的1-3题。第一题第二题参考UA MATH564 概率论I 求离散型随机变量的分布1例3。第三题原创 2020-07-06 07:41:52 · 194 阅读 · 0 评论 -
UA MATH564 概率论 高阶矩的计算:样本均值的高阶矩
UA MATH564 概率论 高阶矩的计算:矩母函数与高阶导数原创 2020-07-06 04:45:39 · 2089 阅读 · 0 评论 -
UA MATH564 概率论 QE练习题2
UA MATH564 概率论 QE练习题2第一题第二题第三题这是2014年5月理论的1-3题。第一题第二题第三题原创 2020-07-06 03:30:39 · 181 阅读 · 0 评论 -
UA MATH564 概率论 多项分布
UA MATH564 概率论 多项分布原创 2020-07-05 04:39:20 · 465 阅读 · 1 评论 -
UA MATH564 概率论 高阶矩的计算:有限差算子方法2
UA MATH564 概率论 高阶矩的计算:有限差算子方法2原创 2020-07-04 09:24:18 · 376 阅读 · 0 评论 -
UA MATH564 概率论 QE练习题1
UA MATH564 概率论 QE练习题1第一题第二题第三题2014年1月理论的1-3题。第一题第二题第三题原创 2020-07-03 07:55:04 · 195 阅读 · 0 评论 -
UA MATH564 概率论VI 数理统计基础3 卡方分布的正态近似
UA MATH564 概率论VI 数理统计基础3 卡方分布的正态近似卡方分布的正态近似Gamma分布的正态近似基于卡方分布的近似基于指数分布的近似在做UA MATH566 统计理论 QE练习题1的第五题的时候,最后一个小问答案用了一个没学过的操作:Normal Approximation of Centered Chi-sq. 这一讲介绍一下这个操作。卡方分布的正态近似假设X1,⋯ ,XnX_1,\cdots,X_nX1,⋯,Xn互相独立,并且Xi∼N(0,1)X_i \sim N(0,1)Xi原创 2020-07-02 05:11:25 · 2122 阅读 · 0 评论 -
UA MATH564 概率论 计算至少有一个发生的概率:容斥原理与庞加莱公式
UA MATH564 概率论 计算至少有一个发生的概率:容斥原理与庞加莱公式上一讲介绍了P(⋃i=1nAi)P(\bigcup_{i=1}^{n} A_i)P(⋃i=1nAi)的上界(Gunias不等式)和下界(钟开莱-艾尔迪希不等式),这一讲介绍准确计算P(⋃i=1nAi)P(\bigcup_{i=1}^{n} A_i)P(⋃i=1nAi)的方法——Poincare公式。先考虑一个简单情况,当n=2n=2n=2时,A1∪A2A_1 \cup A_2A1∪A2可以很容易写成不相交的三个子事件原创 2020-07-01 12:01:26 · 1925 阅读 · 0 评论 -
UA MATH564 概率论 计算至少有一个发生的概率:Boole不等式
UA MATH564 概率论 计算至少有一个发生的概率:Boole不等式Boole不等式Gunias不等式钟开莱-艾尔迪希(Chung-Erdos)不等式概率作为一种特殊的测度,满足有限可加性:P(⋃i=1nAi)=∑i=1nP(Ai),Ai∩Aj=ϕ,∀i≠jP(\bigcup_{i=1}^{n} A_i) = \sum_{i=1}^{n} P(A_i),A_i \cap A_j = \phi,\forall i \ne jP(i=1⋃nAi)=i=1∑nP(Ai),Ai∩Aj=ϕ,∀i原创 2020-07-01 11:13:39 · 1423 阅读 · 0 评论 -
UA MATH564 概率论 多元随机变量的变换 理论与应用1
UA MATH564 概率论 多元随机变量的变换 理论与应用1定义法Jacobi行列式法假设X1,⋯ ,XnX_1,\cdots,X_nX1,⋯,Xn是nnn个一元随机变量,存在一个C1(Rn;Rm),m≤nC^1(\mathbb{R}^n;\mathbb{R}^m),m\le nC1(Rn;Rm),m≤n的映射ggg使得(Y1,⋯ ,Ym)=g(X1,⋯ ,Xn)(Y_1,\cdots,Y_m) = g(X_1,\cdots,X_n)(Y1,⋯,Ym)=g(X1,⋯,Xn),则称(Y1,⋯原创 2020-06-30 11:58:33 · 1221 阅读 · 0 评论 -
UA MATH564 概率论 高阶矩的计算:有限差算子方法1
UA MATH564 概率论 高阶矩的计算:有限差算子方法1有限差算子(finite difference),也被称为向前差分(forward difference)是一种非常古老的数学工具了。原创 2020-06-26 14:15:40 · 386 阅读 · 0 评论 -
UA MATH564 概率论VI 数理统计基础5 F分布
UA MATH564 概率论VI 数理统计基础5 F分布原创 2020-06-20 00:37:12 · 440 阅读 · 0 评论 -
UA MATH564 概率论VI 数理统计基础4 t分布
UA MATH564 概率论VI 数理统计基础4t分布F分布t分布F分布原创 2020-06-19 06:13:58 · 343 阅读 · 0 评论 -
UA MATH564 概率论VI 数理统计基础3 卡方分布下 Cochran定理
UA MATH564 概率论VI 数理统计基础3 卡方分布下 Cochran定理多元正态随机变量二次型的分布Cochran定理这一讲介绍多元正态随机变量的二次型的相关性质以及非常常用的Cochran定理。假设X1,⋯ ,XnX_1,\cdots,X_nX1,⋯,Xn互相独立,并且Xi∼N(ai,1)X_i \sim N(a_i,1)Xi∼N(ai,1),则称∑i=1nXi2∼χ2(n,δ)\sum_{i=1}^n X_i^2 \sim \chi^2(n,\delta)i=1∑nXi2∼χ2(原创 2020-06-18 10:57:36 · 1872 阅读 · 0 评论 -
UA MATH564 概率论VI 数理统计基础3 卡方分布中
UA MATH564 概率论VI 数理统计基础3 卡方分布下卡方分布的基本性质正态分布的二次型卡方分布的基本性质正态分布的二次型原创 2020-06-12 10:53:51 · 315 阅读 · 0 评论 -
UA MATH564 概率论VI 数理统计基础3 卡方分布上
UA MATH564 概率论VI 数理统计基础点估计样本均值样本方差t分布Cochran定理t分布的分布函数随机数生成反函数方法变换法蒙特卡罗方法蒙特卡罗积分重要性采样拒绝采样点估计样本均值样本方差t分布Cochran定理t分布的分布函数随机数生成反函数方法变换法蒙特卡罗方法蒙特卡罗积分重要性采样拒绝采样...原创 2020-06-10 08:36:34 · 326 阅读 · 0 评论 -
UA MATH564 概率论I 求离散型随机变量的分布1
UA MATH564 概率论I 求离散型随机变量的分布1题目解答对于离散型随机变量XXX,记它的概率分布列为P(X=xi)=pi,i=1,2,⋯P(X = x_i) = p_i,i=1,2,\cdotsP(X=xi)=pi,i=1,2,⋯归一性要求∑i=1∞pi=1\sum_{i=1}^{\infty}p_i = 1i=1∑∞pi=1离散型随机变量的样本空间是可列的,可以用古典概型来理解,记NNN是基本事件总数,记Ni=#{X=xi}N_i = \#\{X = x_i\}Ni=#{X=x原创 2020-06-09 13:06:52 · 275 阅读 · 0 评论 -
UA MATH564 概率论VI 数理统计基础2 多元正态分布
UA MATH564 概率论VI 数理统计基础2抽样分布简单地说就是统计量服从的分布,正态分布时最常用的总体分布,因此研究正态总体的抽样分布是相当重要的。一般我们研究下面这三种分布:卡方分布、t分布、F分布。关于统计量的内容可以参考统计理论的第一篇。这一讲介绍多元正态分布,之后逐个介绍这三种分布。...原创 2020-06-09 08:14:41 · 562 阅读 · 0 评论 -
UA MATH564 概率分布1 二项分布下
UA MATH564 概率分布1 二项分布下de Moivre-Laplace定理Poisson分布近似二项分布这一篇考虑二项分布的一些近似计算问题,考虑X∼Binom(n,p)X \sim Binom(n,p)X∼Binom(n,p),P(X=k)=Cnkpk(1−p)n−k,k=0,1,⋯ ,nP(X = k) = C_n^k p^k(1-p)^{n-k},k=0,1,\cdots,nP(X=k)=Cnkpk(1−p)n−k,k=0,1,⋯,n最主要的计算问题是在计算组合数的时候Cnk=n!(原创 2020-06-02 07:25:06 · 221 阅读 · 0 评论