promp又叫做提示学习,主要利用BERT的MLM任务将任务形式改为模型预测任务。例如在情感任务中，我喜欢这部电影，我们可以将template 和样本一起输入模型变成，我喜欢这部电影，它是[mask],模型会选择合适的代替[mask],例如用完美、积极这些词进行代替。正是有了Prompt的学习范式，可以充分开发预训练语言模型，GTP3模型在few shot 甚至zero shot取得很好的成果
这篇文章探讨了prompt学习如何通过BERT的Masked Language Model将情感分析任务转化为模型预测，展示了GPT-3在零样本和少量示例任务中的卓越表现，强调了这一范式对于充分利用预训练语言模型的重要性。
2649
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
