评价指标BLUE了解

BLEU (Bilingual Evaluation Understudy,双语评估基准)是一组度量机器翻译和自然语言生成模型性能的评估指标。BLEU指标是由IBM公司提出的一种模型评估方法,以便在机器翻译领域中开发更好的翻译模型。BLEU指标根据生成的句子与人工参考句子之间的词、短语和n-gram匹配来计算模型的性能。BLEU指标通常在0和1之间取值,其中1表示完美匹配。

BLEU指标计算方法如下:

1.对于每个句子:

  • 统计生成文本中所有n元组在参考文本中出现的次数。

  • 如果n元组在参考文本中出现了多次,则将其计算为出现次数最多的情况。

  • 将所有n元组在参考文本中出现的总次数称为句子的精确匹配数。

2,对于所有生成的文本:

  • 统计生成文本中每个n元组的数量.

  • 获取参考文本中每个n元组的最大数量,并视为生成文本的最多可能匹配数。

  • 将所有n元组的精确匹配数相加,并将结果除以最多可能匹配数。这个分数称为BLEU分数。

BLEU指标具有较好的可解释性,直接基于n-gram重叠度来衡量生成文本和参考文本之间的相似度。但是,在句子长度较短时,BLEU表现不足。

因此,实际中通常使用bleu-1,bleu-2,bleu-3和bleu-4等四个BLEU指标来计算短语匹配的精度。然而,它存在着一些缺点,比如可能会倾向于短而不是长的句子,不能很好地衡量语法和语义问题,因此,通常需要结合其他评估指标一起使用来评估模型性能。

样例
[“你好”],[“你好”]的得分为:{‘bleu-2’: 1.0,‘bleu-4’:1.491668146240062e-154)

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
文本的多标签分类和多分类的区别在于标签的数量。在多分类任务中,每个样本只有一个正确的标签,而在多标签任务中,每个样本可能有多个标签。 机器翻译任务中的评价指标 BLUE、ROUGE-n 和 BERTSCORE 的计算公式及符号意义如下: 1. BLUE(Bilingual Evaluation Understudy) BLUE机器翻译任务中最常用的评价指标之一,用于评估机器翻译输出结果与参考翻译之间的相似度。其计算公式为: $$ BLUE = \frac{\sum_{i=1}^n \text{match}_i}{\sum_{i=1}^n \text{output}_i} $$ 其中,$n$ 表示 n-gram 的最大值,match 表示机器翻译结果和参考翻译中相同的 n-gram 的数量,output 表示机器翻译结果中 n-gram 的数量。 2. ROUGE-n(Recall-Oriented Understudy for Gisting Evaluation) ROUGE-n 也是机器翻译任务中常用的评价指标之一,用于评估机器翻译输出结果与参考翻译之间的相似度。与 BLUE 不同的是,ROUGE-n 使用的是召回率作为评价指标。其计算公式为: $$ ROUGE\text{-}n = \frac{\sum_{r\in R}\sum_{n\in r} \text{count}_\text{match}(n,r)}{\sum_{r\in R}\sum_{n\in r} \text{count}(n)} $$ 其中,$R$ 表示参考翻译集合,count(match) 表示机器翻译结果和参考翻译中相同的 n-gram 的数量,count 表示参考翻译中 n-gram 的数量。 3. BERTSCORE BERTSCORE 是一种最新的评价指标,基于 BERT 模型计算机器翻译结果和参考翻译之间的相似度。其计算公式为: $$ BERTSCORE(P, R) = \text{exp}\left(\frac{1}{N}\sum_{i=1}^N \max_{j=1}^M \text{sim}(p_i, r_j)\right) $$ 其中,$P$ 表示机器翻译结果,$R$ 表示参考翻译,$N$ 表示 $P$ 中句子的数量,$M$ 表示 $R$ 中句子的数量,sim 表示 BERT 模型计算的句子相似度。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值