样本分布

样本既然是随机变量, 就有一定的概率分布, 这个概率分布就叫作样本分布. 样本分布是样本所受随机性影响的最完整的描述.
我们知道样本是由总体中抽取的一部分个体组成.
要决定样本分布, 就要根据观察值的具体指标的性质 (这往往涉及有关的专业知识), 以及对抽样方式和对试验进行的方式的了解, 此外常常还必须加一些人为的假定
$X=\left(X_1,\cdots ,X_n\right)$取可能取值的全体成为样本空间 , 记为$\mathcal{X}$

样本的两重性和简单随机样本

样本的两重性是说, 样本既可看成具体的数, 又可以看成随机变量 (或随机向量). 在完成抽样后，它是具体的数；在实施抽样前，它被看成随机变量. 因为在实施具体抽样之前无法预料抽样的结果, 只能预料它可能取值的范围, 故可把它看成一个随机变量，因此才有概率分布可言。为区别起见, 今后用大写的英文字母表示随机变量或随机向量, 用小写字母表示具体的观察值.对理论工作者, 更重视样本是随机变量这一点, 而对应用工作者虽则将样本看成具体的数字, 但仍不可忽视样本是随机变量 (或随机向量) 这一背景. 否则, 样本就是一堆杂乱无章毫无规律可言的数字,无法进行任何统计处理. 样本既然是随机变量 (或随机向量), 就有分布而言, 这样才存在统计推断问题.简单随机样本：样本具有随机性，独立性
抽样是指从总体中按一定方式抽取样本的行为. 抽样的目的是通过取得的样本对总体分布中的某些未知因素做出推断, 为了使抽取的样本能很好的反映总体的信息, 必须考虑抽样方法. 最常用的一种抽样方法叫作 “简单随机抽样”, 它要求满足下列两条:
(1) 代表性. 总体中的每一个体都有同等机会被抽入样本, 这意味着样本中每个个体与所考察的总体具有相同分布. 因此, 任一样本中的个体都具有代表性.
(2) 独立性. 样本中每一个体取什么值并不影响其它个体取什么值. 这意味着, 样本中各个体 X 1 ,X 2 ,··· ,X n 是相互独立的随机变量
$\mathcal{E}\mathcal{X}1:$

一大批产品共有 $N$ 个, 其中废品 M 个, $N$已知, 而 M 未知. 现在从中抽出 $n$ 个加以检验, 用以估计 M 或废品率 $p=\frac{M}{N}$
(1) 有放回抽样, 即每次抽样后记下结果, 然后将其放回去, 再抽第二个, 直到抽完 $n$个为止. 求样本分布.
(2) 不放回抽样, 即一次抽一个, 依次抽取, 直到抽完 $n$ 个为止.求样本分布.

---

$P\left(X_i=1\right)=M/N,P\left(X_i=0\right)=(N-M)/N$

$P\left(X_1=x_1,\cdots ,X_n=x_n\right)={\left(\frac{M}{N}\right)}^a{\left(\frac{N-M}{N}\right)}^{n-a}$

$x_1,\dots ,x_n$都为0或者1，$\sum _{i=1}^n{x}_i=a$(样本随机独立)

采用不放回抽样，

$\sum _{i=1}^n{x}_i=a$，$x_1,\dots ,x_n$都为0或者1

$P\left(X_1=x_1,X_2=x_2,\cdots ,X_n=x_n\right)$
$=\underset{x_i=1}{\underbrace{\frac{M}{N}\cdot \frac{M-1}{N-1}\cdots \frac{M-a+1}{N-a+1}}}\cdot \underset{x_i=0}{\underbrace{\frac{N-M}{N-a}\cdots \frac{N-M-n+a+1}{N-n+1}}}$(随机不独立)

---

$\mathcal{E}\mathcal{X}2:$

为估计一物件的重量 a, 用一架天平将它重复称 n 次, 结果记为$X_1,\cdots ,X_n$ , 求样本$X_1,\cdots ,X_n$ 的联合分布.

---

(1) 假定各次称重是独立进行的, 即某次称重结果不受其它次称重结果的影响. 这样 $X_1,\cdots ,X_n$就可以认为是相互独立的随机变量.
(2) 假定各次称重是在 “相同条件” 下进行的, 可理解为每次用同一天平, 每次称重由同一人操作, 且周围环境 (如温度、湿度等)都相同. 在这个假定下, 可认为 $X_1,\cdots ,X_n$ 是同分布的. 在上述两个假定下, $X_1,\cdots ,X_n$ 是 n 个独立同分布的随机变量, 即为简单随机样本.

由概率论中的中心极限定理可知这种误差近似服从正态分布. 再假定天平没有系统误差, 则可进一步假定此误差为均值为 0 的正态分布. 可以把X 1 (它可视为物重 a 加上称量误差之和) 的概率分布为 $N\left(a,{\sigma }^2\right)$

$f\left(x_1,\cdots ,x_n\right)=(\sqrt{2\pi }\sigma {)}^{-n}\exp \left\{-\frac{1}{2{\sigma }^2}{\sum }_{i=1}^n{\left(x_i-a\right)}^2\right\}$

---

正态总体样本均值和样本方差的分布

设随机变量$X_1,\cdots ,X_{n}i.i.d.\sim N\left(a,{\sigma }^2\right),c_1,c_2,\cdots ,c_n$为常数

$T=\sum _{k=1}^n{c}_k{X}_k\sim N\left(a{\sum }_{k=1}^n{c}_k,{\sigma }^2{\sum }_{k=1}^n{c}_k^2\right)$

---

$c_1=\cdots =c_n=1/n,T=\frac{1}{n}{\sum }_{i=1}^n{X}_i=\bar{X}$

$\bar{X}\sim N\left(a,{\sigma }^2/n\right)$

---