一、贝叶斯决策论
贝叶斯决策论(bayesian decision theory)是在概率框架下实施决策的基本方法。贝叶斯考虑如何基于这些概率和误判损失来选择最优的类别标记。
基于后验概率可以获得其期望损失,即样本x上的条件风险:
R ( c i ∣ x ) = ∑ j = 1 N λ i j P ( c j ∣ x ) R\left(c_{i} | \boldsymbol{x}\right)=\sum_{j=1}^{N} \lambda_{i j} P\left(c_{j} | \boldsymbol{x}\right) R(ci∣x)=j=1∑NλijP(cj∣x)
最小化总体风险:
R ( h ) = E x [ R ( h ( x ) ∣ x ) ] R(h)=\mathbb{E}_{\boldsymbol{x}}[R(h(\boldsymbol{x}) | \boldsymbol{x})] R(h)=