【ChatBot开发笔记】损失函数及准确率估计

Mars_阿火

于 2021-04-21 23:38:11 发布

阅读量545

点赞数

分类专栏： ChatBot 文章标签：人工智能 python

本文链接：https://blog.csdn.net/qq_44776055/article/details/115985200

版权

def calculate_loss_and_accuracy(outputs, labels, device):
    """
    计算非pad_id的平均loss和准确率
    :param outputs:
    :param labels:
    :param device:
    :return:
    """
    logits = outputs[0]  # 每个token用来预测下一个token的prediction_score,维度:[batch_size,token_len,voca_size]
    # 用前n-1个token，预测出第n个token
    # 用第i个token的prediction_score用来预测第i+1个token。