LDA原理（2）知识储备之贝叶斯派和概率派

更多内容请访问我的个人博客www.tenliu.top

介绍贝叶斯派和概率派

概率派认为要推断的参数是固定的值，虽然概率是未知的，但是一定是固定的值，同时样本是随机的，既然这样，他们的侧重点就是研究样本空间，比如我们不知道抛硬币正面朝上的概率，那概率派的思路就是做很多次的抛硬币的实验，试验次数越多，越能逼近概率。
贝叶斯派思考的角度不同，他们认为参数是随机变量，样本是固定的，所以他们的研究重点是参数的分布。比如抛硬币，我们事先不知道正面朝上的概率，怎么办，先假设一个概率（先验概率），然后在先验分布下开始做实验抛硬币，得到的似然概率，通过释然概率修正先验概率，得到后验概率。怎么修正？即这些概率靠什么连接？答案：贝叶斯公式（学了这么多年贝叶斯公式不知道还有这个重要的含义呢）
再举一个关于贝叶斯和概率派的例子：

我们再讲一个例子，开枪打一个人，只打一次，可能的结果是，没打中、打到腿上了、打到头上了、、n种结果，这个事情就像是在天堂上，有一个骰子，这个骰子有n个面，投一次出现哪个面的概率是不知道的，人间发生的这件事情，就是天堂上上帝在掷骰子，掷出的是第k面对应人间这个人就被打中了腿，现在我们想知道，开枪打这个人的每种结果的概率。概率派的人认为上帝手里的这个骰子是固定的，所以结果的概率也是固定的，我们只要多次重复这个实验（不断开枪打这个人）简单的统计结果的次数就可以逼近概率。但是这时由另一群人提出质疑，骰子是固定的没错，但是谁告诉你上帝手里只有这一个骰子了，如果每次事件发生，其实都是上帝换了一个筛子掷出的呢，所以每种情况的概率本身就不是固定的，概率本身就是随机变量。这群人就是贝叶斯派）

下面我们讲讲贝叶斯公式

p(θ|X)=p(X