前两篇主要写了数据预处理(https://blog.csdn.net/jasmine0244/article/details/108888236)和模型搭建(https://blog.csdn.net/jasmine0244/article/details/108902127),接下来就是K折模型验证评估。
官方的评估标准是以ROUGE-L(https://www.aclweb.org/anthology/W04-1013.pdf)为准。我在github上找到了一个免安装的版本,rouge4chinese(https://github.com/hpzhao/nlp-metrics)。
首先我们将K折的验证集也输出来,方便和验证集的预测结果进行评估
from tqdm import tqdm
k_folds = 5
for mode in range(k_folds):
valid_data = [data[j] for i, j in enumerate(random_order) if i % k_folds == mode]
print(len(valid_data))
with open("ref_{0}".format(mode), 'w', encoding='utf-8&