龙雪的博客

首先，我们不妨自己先想一想，会怎么写 Prompt。随便一想就一大堆：• 简单日常对话。比如询问对方姓名，是否开心等等。• 常识问答。比如问今天是周几，冬天如何取暖等等。• 知识问答。比如热力学第二定律是什么，设计模式中的策略模式适用于哪些场景等等。• 文本改写。比如给出一段话，让它改简单一些，或换个风格，同时给出要的风格是什么样子的。• 所有的 NLP 任务，包括：文本分类、实体标注、信息抽取、翻译、生成、摘要、阅读理解、推理、问答、纠错、关键词提取、相似度计算等等。

摘要随着视觉和文本表示联合建模的进展，视觉语言预训练(VLP)在许多多模态下游任务上取得了非常好的性能。然而，对包括图像描述和区域标签在内的标注信息，限制了这一方向的进一步方法。此外。随着引入多个数据集特定的目标，预训练过程也变得更加复杂。在这项工作中，作者放宽了这些约束，提出了一个极简的预训练框架，名为Simple Visual Language Model (SimVLM)。与之前的工作不同，SimVLM通过利用大规模的弱监督来降低训练的复杂性，并使用单个前缀语言...