What Makes Pre-trained Language Models Better Zero-shot Learners？

本文是LLM系列文章，针对《What Makes Pre-trained Language Models Better Zero-shot Learners？》的翻译。

摘要

当前在零样本场景中进行提示学习的方法广泛依赖于具有足够的人工注释数据的开发集，以事后选择性能最佳的提示模板。这并不理想，因为在现实世界中具有实际相关性的零样本场景中，没有标记的数据可用。因此，我们提出了一种简单而有效的方法来筛选零样本文本分类中合理的提示模板：困惑选择（Perption）。我们假设语言差异可以用来衡量提示模板的效果，从而开发出一个基于困惑的方案，可以提前预测提示模板的性能。实验表明，我们的方法在现实的零样本设置中提高了预测性能，消除了对任何标记示例的需要。

1 引言

2 前言

3 假设

4 方法

5 前导性研究

6 实验

7 讨论

8 结论

我们开发了困惑选择提示（Perption），这是一种在不使用任何人工注