西瓜书《机器学习》阅读笔记4——Chapter2_代价曲线

代价曲线

书中关于代价曲线介绍的太简洁了，只靠书中的内容是无法理解的。建议大家去看原论文。

从分类器的ROC曲线上无法看出分类器的期望代价，而代价曲线是专门用于度量期望代价和operating condition之间的关系的。

在介绍ROC曲线的时候提到过一组指定的（类别分布，误分类代价）称作一个operating condition，并且对应ROC空间中的一簇iso-performance直线。

$C(+|-)=C(-|+)$的情况下

令$C(+|-)=C(-|+)=1$，此时期望代价就是错误率。并且现在operating condition就是$p(+)$。我们希望用实际使用时的性能来评估分类器，但是实际环境中的$p(+)$是未知的，所以应该得到所有可能的$p(+)$值上的性能来对分类器进行评估。
此时，代价曲线的x轴表示$p(+)$，y轴表示错误率。当$x=0$时，意味着测试集中全是反例，此时一个分类器在此测试集上的整体错误率等于把正例预测为反例的概率，也就是FNR；当$x=1$时，意味着测试集中全是正例，此时一个分类器在此测试集上的整体错误率等于把反例预测为正例的概率，也就是FPR。这样ROC空间中的一个分类器对应的点，到代价空间中成了一条线段：

从左图的代价曲线图可以很容易地看出在什么条件下C4.5分类器更好，在什么条件下1R分类器更好。

C(+|−)≠C