学习记录——统计学习简介之贝叶斯决策理论

统计决策理论：

比较统计过程的形式化理论

Bayes决策常用的准则

最小错误率准则

最小风险准则

最小条件错误率准则:在限定一类错误率条件下使另一类错误率为最小

最小最大决策准则

问题描述

（1）给定：m个类，训练样本和未知数据

（2）目标：给每个输入数据标记一个类属性

（3）两个阶段：

1）建模/学习：基于训练样本学习分类规则

2）分类/测试：对输入数据应用分类规则

最大后验（Maximum A Posterior）分类

什么是最优分类器

已有：类条件概率密度函数p（x|Ci）

预知：后验概率p（Ci|x）

Bayes最小错误率（MAP）决策