概率函数（密度函数）

数学

最小二乘法 概率函数 最大似然估计 ...

---

---

前言

---

一、基础知识

  在数理统计中，我们将研究对象的全体称为总体，又将组成总体的每个成员称为个体。  在实际问题中，我们往往关心的是总体中个体的某个数值指标(如生产的东西合格不合格），不妨将个体的这个数值指标看作随机变量，记为X，X的分布称为总体分布，X的分布函数称为总体分布函数，记为F(x)
  当X是离散型随机变量时，相应的有总体概率函数，当X是连续性随机变量时，相应的有总体密度函数。我们将两者均记为f(x)
  例如：X~B(1,P),其概率函数为：

很简单看出：当x=0时，p的x次方等于1,(1-p)的(1-x)次方等于1-p，同理x=1,时，f(x)=p

二、强化

2.1 抽样

  在数理统计中，总体分布永远是未知的，我们也无法确定它究竟服从什么分布，我们希望从客观存在的总体中按一定原则选取一些个体（抽样），通过对这些个体做观察或测试来推断关于总体分布的某些量（如总体X的均值、方差、中位数等），观测到的这些个体的值便是实际问题中常见的数据。
  在数理统计中，称数据为样本观测值，记作(x1;，…,xn,),称n为样本大小，在作观测前，样本观测值是不确定的，为了体现随机性，记作(X1，…,Xn)，称为样本(或子样).因而样本(X，.,Xn)是一个n维随机向量。这个随机向量(X1，.,Xn)可能取值的全体(即值域)称为样本空间。样本空间可以是n维欧氏空间，也可以是n维欧氏空间的一个子集。样本观测值(x1;，…,xn,)是样本空间中的一个点。

2.2 简单随机抽样

  简单随机抽样相当于概率论中的有放回抽样。当我们从某个总体中抽取大小为 n的样本时，每抽取一个个体作观测后立即放回并搅匀，然后再抽取下一个个体。当然，实际情形中往往采用的是无放回抽样。但是，当样本大小n与总体所含个体的个数 N之比很小(一个经验法则是n/N<=0.1)时,可以近似地把无放回抽样看作是有放回抽样
  在作简单随机抽样时，由于在抽取每个样本分量Xi,前所面临的总体的状况都相同,因此,X1,…,Xn的分布都相同，且都与总体分布相同;另外，由于这种抽样是有放回抽样，因此，样本分量X1,…,Xn相互独立，以后我们常常用到术语“(X1,…,Xn)是取自总体 X的一个样本”，这里蕴含了上述“同分布”与“独立性”的概率背景.
  设(X1,…,Xn)是取自总体X的一个样本，如果X的分布函数为F(x)，那么，由于X1,…,Xn是独立同分布的随机变量，且每一个X,的分布函数都是F(x)， i=1,…,n,因此，样本(X1,…,Xn)的分布函数为:

  类似的，当总体X的密度函数（或概率函数）为f(x)时，样本(X1,…,Xn)的密度函数（或概率函数）

  当X~B(1,P)，它的概率函数为：

样本(X1,…,Xn)的概率函数为：

  当X~N(μ,σ^2 ）样本(X1,…,Xn)的密度函数为：

三、总结

基于我自己对概率论与数理统计学习的知识点。