模式分类之贝叶斯决策入门

初学模式分类，使用经典的Duda教材。

最初理解贝叶斯决策理论，无法理解“贝叶斯概率公式”。

我认为贝叶斯决策理论在描述这样一个事情：

1、假设能够用概率描述“世界的存在状态”；

在我对概率最初的理解上，我总是认为概率是用来描述未发生的事情。比如抛一枚硬币，正面的可能性是多少，在抛之前我们需要进行概率估计，所以这件事情是尚未发生的。但是现在逐渐感觉到，概率实际上是用来描述“客观世界的”，未发生的事情不代表不存在。只要是人类能够描述的事情，都是一种存在；

2、有这样四个空间：特征空间x，对应P(x)；类别空间P(w)；在x条件下的w空间，对应P(w|x)；在wj条件下的x空间，对应P(x|wj)；

使用此四个概率空间，描述需要判断的“具体事件”，即这四个空间能够唯一确定一个存在。

通过贝叶斯公式，把这四个概率空间联系起来。

3、使用损失函数R作为决策指标，损失函数R尤其特定的定义，定义能够帮助人类做出最有利于生产的决策；

以上就是我对贝叶斯决策理论的初步理解，有许多细节还需要进一步的完善与细化。