python学习-114-自动文本摘要Rouge评价体系实现(很简单)

前言:

最近在研究短文本的自动摘要生成,在试验测试方面国内外研究学者普遍使用Rouge评价体系如 Rouge-1、Rouge-2、Rouge-L 今天我们就讲一下他的python实现。

你去百度搜索资料看到各种配置各种安装啊 如下:特别麻烦 

其实不用这么麻烦  

如果你只是单纯的使用Rouge-1、Rouge-2、Rouge-L这三个评价体系的话实现很简单

步骤1:使用pip安装rouge

pip install rouge

步骤二 计算生成文本与 参考文本的Rouge值

# coding:utf8
from rouge import Rouge
a = ["i am a student from china"]  # 预测摘要 (可以是列表也可以是句子)
b = ["i am student from school on japan"] #真实摘要

'''
f:F1值  p:查准率  R:召回率
'''
rouge = Rouge()
rouge_score = rouge.get_scores(a, b)
print(rouge_score[0]["rouge-1"])
print(rouge_score[0]["rouge-2"])
print(rouge_score[0]["rouge-l"])

以上就是计算一对数据的Rouge的值如下

{'p': 1.0, 'f': 0.7272727226446282, 'r': 0.5714285714285714}
{'p': 1.0, 'f': 0.6666666622222223, 'r': 0.5}
{'p': 1.0, 'f': 0.6388206388206618, 'r': 0.5714285714285714}
f:F1值  p:查准率  R:召回率 

这和我们在论文中看到的值可是不一样,论文中都是一个  这里为什么是三个   那像论文中的值应该怎么计算那?

步骤三:Rouge值得选取和选取原理

-------------------------------------------------------------------------------原理---------------------------------------------------------------------------

Rouge(Recall-Oriented Understudy for Gisting Evaluation),是评估自动文摘以及机器翻译的一组指标。它通过将自动生成的摘要或翻译与一组参考摘要(通常是人工生成的)进行比较计算,得出相应的分值,以衡量自动生成的摘要或翻译与参考摘要之间的“相似度”。
Rouge-1、Rouge-2、Rouge-N的定义是这样的

分母是n-gram的个数,分子是参考摘要和自动摘要共有的n-gram的个数。

举个例子:

the cat was found under the bed  #生成的摘要
the cat was under the bed   #参考摘要

两者n-gram的计算 

 所以 对于Rouge1和Rouge2应该就是n-gram下召回率Recall

Rouge-L
L即是LCS(longest common subsequence,最长公共子序列)的首字母,因为Rouge-L使用了最长公共子序列。Rouge-L计算方式如下图:

本博客参考:

https://www.jianshu.com/p/2d7c3a1fcbe3

https://blog.csdn.net/qq_25222361/article/details/78694617

-------------------------------------------------------------------------原理-------------------------------------------------------------------------------------

 

  • 13
    点赞
  • 50
    收藏
    觉得还不错? 一键收藏
  • 11
    评论
我很抱歉,作为AI语言模型,我不能编写代码,但是我可以向您解释如何实现rouge-N计算。 Rouge-N是一种用于评估文本摘要生成质量的指标。Rouge-N计算的是生成摘要中N元词组(N-grams)与参考摘要中的N元词组之间的重叠率,用于衡量生成摘要是否涵盖了重要信息。 以下是构建Rouge-N计算的步骤: 1.首先,将参考摘要生成摘要分别拆分为N元词组(通常是单词)。可以使用Python中的NTLK库进行这项任务。 2.计算生成摘要与参考摘要之间的N元词组重叠率。可以使用Python中的set(集合)来计算两个集合之间的交集。 3.重复步骤1和2,直到计算出不同N值(例如N = 1, 2, 3)的Rouge-N值。 下面是Rouge-N计算的Python示例代码: ```python import nltk def rouge_n(reference, summary, n): """ Calculates the Rouge-N score for a given reference summary and generated summary. """ reference_ngrams = nltk.ngrams(reference.split(), n) summary_ngrams = nltk.ngrams(summary.split(), n) reference_set = set(reference_ngrams) summary_set = set(summary_ngrams) overlap_count = len(reference_set.intersection(summary_set)) reference_count = len(reference_set) summary_count = len(summary_set) recall = overlap_count / reference_count precision = overlap_count / summary_count f1_score = 2 * ((precision * recall) / (precision + recall)) return recall, precision, f1_score # Example usage reference = "This is a reference summary." summary = "This is a generated summary." n = 2 recall, precision, f1 = rouge_n(reference, summary, n) print("Rouge-{} Recall: {:.2f}, Precision: {:.2f}, F1 Score: {:.2f}".format(n, recall, precision, f1)) ``` 希望这可以帮助您开始实现Rouge-N计算。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 11
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值