第二章一共是两个部分,共轭先验分布与充分统计量。今天就先复习共轭先验分布。
我们会介绍一下基本概念,然后说一说课本正文里出现的共轭先验分布以及我作业做错的共轭先验分布,问题主要出在定义域上。大家不要重蹈我的复辙o(╥﹏╥)o。
什么是共轭?
我第一接触“共轭”是在高一的第四节数学课。宝爷介绍了“对勾函数”
之后,又介绍了另一条函数
,然后说,这是两条互为“共轭”的双曲线。然后,就没有然后了。
大一大二学数分我也没有去查共轭到底是什么意思。直到今天学贝叶斯,又碰到了“共轭”,才想起来自己不知道什么叫“共轭”。于是去问了度娘,度娘告诉我
共轭在数学、物理、化学、地理等学科中都有出现。 本意:两头牛背上的架子称为轭,轭使两头牛同步行走。共轭即为按一定的规律相配的一对。通俗点说就是孪生。
所以有点像《神树》和《降临》阴阳双生的感觉哈哈哈哈。
在介绍共轭先验分布之前,我们先引入一个概念,叫做后验分布的核。
什么是后验分布的核?
我们在知道样本分布与
的先验分布之后,可以利用贝叶斯公式计算
的后验分布:
而
是不依赖于
的,因此在计算后验分布的时候,分母事实上是一个常数,只是起到
保证后验分布是正常的概率分布的作用。所以我们也可以将贝叶斯公式写成这样:
这里,
不是一个正常的概率密度函数,但是它是后验分布最主要最核心的部分,因此,我们把样本联合密度与先验密度的乘积,
叫做
后验分布的核。通过这个核,我们可以判断出后验分布是什么样的分布,同时因为略去了常数部分,也可以简化计算。
事实上任何一个概率分布都有一个核,就像每一首种曲风的曲子都有自己最突出的特点一样。假设
, 常数
不依赖于