Prompt
文章平均质量分 92
CReep~
这个作者很懒,什么都没留下…
展开
-
如何优雅的将Prompt应用于多任务场景?
近些年来,关于预训练语言模型(PLM)的研究数不胜数,Prompt-Tuning就是其中之一主打小巧轻便,更加普适高效,各种花式的魔改,例如 Prefix-tuning、P-tuning、Prompt-tuning等。如果对Prompt不大了解的朋友们可以移步我的另一篇文章https://mp.weixin.qq.com/s?__biz=MzkxMjExNTgwOQ==&mid=2247484234&idx=1&sn=e44ba444c3f12438671df91dffae03c3&原创 2022-03-19 19:20:38 · 3374 阅读 · 0 评论 -
AdaPrompt:进一步将下游任务融入到预训练模型
文章目录一、提出动机二、核心idea2.1 将场景信息以及提示信息融入到预训练模型2.2 扩展Verbalizer(就是要映射到label的单词)三、实验结果四、总结 hi,各位伙伴们早上好,好久没有更文了,最近也没有发觉特别有意思的论文,今天给大家带来一篇和Prompt相关的论文,欢迎食用~ 论文地址:https://export.arxiv.org/pdf/2202.04824.pdf 一、提出动机 1)本文作者认为Prompt的提示信息不能被预训练模型充分挖掘使用 2)下游任务的数据不能很好地应用于原创 2022-02-27 20:54:12 · 1085 阅读 · 2 评论 -
引入对抗训练的对比学习
目录 文章目录一、Simple Contrastive Representation Adversarial Learning for NLP Tasks1.1 浅谈对抗1.2 监督对比对抗学习1.3 无监督对比对抗学习1.4 实验结果二、PromptBERT2.1 Motivation2.2 核心idea2.3 实验结果三、总结 hi!又到每周分享的时刻了,希望看官老爷们能有收获呀!!!!!!!!!!!!!! 今天主要给大家介绍两篇有关对比学习的论文。 对比学习这样的方法在自然语言中备受关注。它使用成对的原创 2021-12-12 22:48:17 · 2038 阅读 · 0 评论