知识图谱常用评价指标:MRR,MR,HITS@K,Recall@K,Precision@K

本文详细介绍了知识图谱链接预测中的关键评估指标,包括MRR(Mean Reciprocal Rank)、MR(Mean Rank)、HITS@K以及Recall@K。MRR强调预测结果的排名,值越大越好;MR关注平均排名,值越小越好;HITS@K衡量前k个结果的准确性,而Recall@K关注在前k个结果中找到的相关结果比例。这些指标在评估知识图谱性能时至关重要。
摘要由CSDN通过智能技术生成

一、MRR

MRR的全称是Mean Reciprocal Ranking(排名的倒数),其中Reciprocal是指“倒数的”的意思。该指标越大越好(即预测排名越靠前,倒数就越大,求和结果越大越好)。具体的计算方法如下:

M R R = 1 ∣ S ∣ ∑ i = 1 ∣ S ∣ 1 r a n k i = 1 ∣ S ∣ ( 1 r a n k 1 + 1 r a n k 2 + ⋅ ⋅ ⋅ + 1 r a n k i ) MRR=\frac{1}{|S|} \sum_{i=1}^{|S|} \frac{1}{rank_i}=\frac{1}{|S|}(\frac{1}{rank_1}+\frac{1}{rank_2}+\cdot\cdot\cdot+\frac{1}{rank_i }) MRR=S1i=1Sranki1=S1(rank11+rank21++ranki1)

其中 S S S是三元组集合, ∣ S ∣ |S| S是三元组集合个数, r a n k i rank_i ranki是指第 i i i个三元组的链接预测排名。例如,对于三元组(Jack,born_in,Italy),链接预测的结果可能是:

hrtscorerank
Jackborn_inIreland0.7891
Jackborn_inItaly0.7532
Jackborn_inGermany0.6953
Jackborn_inChina0.4564
Jackborn_inThomas0.2345

那么,三元组(Jack,born_in,Italy)的链接预测排名则是2.

二、MR

MR的全称是Mean Rank。该指标越小越好(排名越靠前rank越小,求和也就更小),具体的计算方法如下:
M R = 1 ∣ S ∣ ∑ i = 1 ∣ S ∣ r a n k i = 1 ∣ S ∣ ( r a n k 1 + r a n k 2 + ⋅ ⋅ ⋅ + r a n k i ) MR=\frac{1}{|S|} \sum_{i=1}^{|S|} rank_i=\frac{1}{|S|}(rank_1+rank_2+\cdot\cdot\cdot+rank_i) MR=S1i=1Sranki=S1(rank1+rank2++ranki)

三、HITS@K

top-k推荐:从最后的按得分排序的推荐列表中返回前k个结果。
该指标是指在链接预测中排名小于 k k k的三元组的平均占比。具体的计算方法如下:

H I T S @ K = 1 ∣ S ∣ ∑ i = 1 ∣ S ∣ I ( r a n k i ≤ k ) HITS@K=\frac{1}{|S|} \sum_{i=1}^{|S|} \mathbb{I}(rank_i\le k) HITS@K=S1i=1SI(rankik)

其中,上述公式涉及的符号和MRR计算公式中涉及的符号一样,另外 I ( ⋅ ) \mathbb{I}(\cdot) I()是indicator函数(若条件真则函数值为1,否则为0)。一般地,取k等于1、3或者10。该指标越大越好。

四、Recall@K,Precision@K

首先需要搞清Recall和Precision的含义,具体含义参考:分类之混淆矩阵(Confusion Matrix)
;类比HITS@K。

Precision@K准确率是指前topK结果中检索出相关结果数与检索出的结果总数的比率,衡量的是检索系统的查准率;
Recall@K召回率是指前topK结果中检索出的相关结果数和库中所有的相关结果数的比率,衡量的是检索系统的查全率。

参考链接

  1. KGE性能指标:MRR,MR,HITS@1,HITS@3,HITS@10
  2. 评测标准召回率Recall@K的理解与实例解析
  3. 知识图谱-常用评价指标-MRR、MR和HIT@n
  4. MRR,MAP等评估方法(常用与IR和QA任务)
  • 12
    点赞
  • 28
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 12
    评论
评论 12
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

l8947943

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值