上一篇系列文章(NLP第四范式——Prompt Learning(1)简介)简单介绍了下Prompt Learing,这一篇将以文本情感分析(positive和negative两类)为例,进行Prompt Learing实践,主要分为下面四个步骤:
(1)prompt模板构造:构造prompt模板,将输入文本转为MLM完形填空任务的输入;
(2)标签答案构建:构建pos标签和neg标签对应的答案字典;
(3)答案预测:使用MLM预测[MASK]位置处各tokens的概率;
(4)答案标签映射:计算每个prompt模板中标签答案的得分,将每个标签中答案最高得分作为该标签的得分,标签中得分最高的即为该prompt下这条文本的标签预测结果,最后集成所有prompt结果得最终标签。
接下来列出关键代码: