贝叶斯决策理论

在分类问题中：

如果我们知道了，每个类别所对应的概率分布，（虽然在实际中不大可能），那么我们可以在不用知道训练样本的情况下，寻找到最优的分类器。我们举个鱼的列子，假设我们捕到的鱼有两种，一种是sea bass,另一种是salmon

假设在我们捕到的鱼中sea bass和salmon出现的概率是知道（我们叫先验概率），

显然如果P（w1）>P(w2),在不知道其他任何信息的情况下，判断下一条捕到的鱼的种类，我们显然更乐意相信下一条鱼的种类是bass，并且有

我们在举下面一个例子，假设我们希望通过耳朵的大小，来判断其是狗还是猫，并知道：

当我们现在知道某个动物有large ears时，该动物是猫还是狗呢？

显然，因为我们有

所以我们认为这个动物是狗，这种挑选具有更高概率的方法叫maximum likelihood event