参考自:百度百科
F-Measure又称为F-Score,是IR(信息检索)领域的常用的一个评价标准,计算公式为:
![](https://i-blog.csdnimg.cn/blog_migrate/0e67e2a26f8186270cd8f298c25e975f.png)
其中
是参数,P是
精确率(Precision),R是
召回率
(Recall)。
![](https://i-blog.csdnimg.cn/blog_migrate/fc2268e1e5ab26e9e615108b5de13df3.png)
当参数
=1时,就是最常见的F1-Measure了:
![](https://i-blog.csdnimg.cn/blog_migrate/c531ba1ef92648240371ee1b8c20511c.png)
![](https://i-blog.csdnimg.cn/blog_migrate/39e76efc5f00250765619fad2fef725d.png)
先假定一个具体场景作为例子。
假如某个班级有男生80人,女生20人,共计100人.目标是找出所有女生.
某人挑选出50个人,其中20人是女生,另外还错误的把30个男生也当作女生挑选出来了.
作为评估者的你需要来评估(evaluation)下他的工作
某人挑选出50个人,其中20人是女生,另外还错误的把30个男生也当作女生挑选出来了.
作为评估者的你需要来评估(evaluation)下他的工作
首先我们可以计算准确率(accuracy),其定义是: 对于给定的测试数据集,分类器正确分类的样本数与总样本数之比。也就是损失函数是0-1损失时测试数据集上的准确率。
这样说听起来有点抽象,简单说就是,前面的场景中,实际情况是那个班级有男的和女的两类,某人(也就是定义中所说的分类器)他又把班级中的人分为男女两类。accuracy需要得到的是此君
分正确的人占
总人数的比例。很容易,我们可以得到:他把其中70(20女+50男)人判定正确了,而总人数是100人,所以它的accuracy就是70 %(70 / 100).
由准确率,我们的确可以在一些场合,从某种意义上得到一个分类器是否有效,但它并不总是能有效的评价一个分类器的工作。举个例子,google抓取了argcv 100个页面,而它索引中共有10,000,000个页面,随机抽一个页面,分类下,这是不是argcv的页面呢?如果以accuracy来判断我的工作,那我会把所有的页面都判断为"不是argcv的页面",因为我这样效率非常高(return false,一句话),而accuracy已经到了99.999%(9,999,900/10,000,000),完爆其它很多分类器辛辛苦苦算的值,而我这个算法显然不是需求期待的,那怎么解决呢?这就是precision,recall和f1-measure出场的时间了.
在说precision,recall和f1-measure之前,我们需要先需要定义TP,FN,FP,TN四种分类情况.
按照前面例子,我们需要从一个班级中的人中寻找所有
女生,如果把这个任务当成一个分类器的话,那么女生就是我们需要的,而男生不是,所以我们称女生为"正类",而男生为"负类".
相关(Relevant),正类 | 无关(NonRelevant),负类 | |
被检索到(Retrieved) | true positives(TP 正类判定为正类,例子中就是正确的判定"这位是女生") | false positives(FP 负类判定为正类,"存伪",例子中就是分明是男生却判断为女生,当下伪娘横行,这个错常有人犯) |
未被检索到(Not Retrieved) | false negatives(FN 正类判定为负类,"去真",例子中就是,分明是女生,这哥们却判断为男生--梁山伯同学犯的错就是这个) | true negatives(TN 负类判定为负类,也就是一个男生被判断为男生,像我这样的纯爷们一准儿就会在此处) |
通过这张表,我们可以很容易得到例子中这几个分类的值:TP=20,FP=30,FN=0,TN=50.
精确率(precision)的公式是
,它计算的是所有被检索到的item(TP+FP)中,"应该被检索到的item(TP)”占的比例。
![](https://i-blog.csdnimg.cn/blog_migrate/07f0479e8abbc4e7a149cab24c0d5e3e.png)
在例子中就是希望知道此君得到的所有人中,正确的人(也就是女生)占有的比例.所以其precision也就是40%(20女生/(20女生+30误判为女生的男生)).
召回率(recall)的公式是
,它计算的是所有检索到的item(TP)占所有"应该被检索到的item(TP+FN)"的比例。
![](https://i-blog.csdnimg.cn/blog_migrate/560e420e1b32b633ede455c8c5cb165b.png)
在例子中就是希望知道此君得到的女生占本班中所有女生的比例,所以其recall也就是100%(20女生/(20女生+ 0 误判为男生的女生))
前文中提到F1-measure的计算公式是
其推导其实也很简单。
![](https://i-blog.csdnimg.cn/blog_migrate/39e76efc5f00250765619fad2fef725d.png)
定义:
可得:
![](https://i-blog.csdnimg.cn/blog_migrate/6c60c274e52e7db99a266ef68e480429.png)