2021年11月_CReep~

12月 11月 09月 06月 05月 01月

原创 NLP新宠——Prompt范式

文章目录一、PET1.1 PET建模1.2 如何选取Prompt模板1.3 预测得token如何映射label1.4 实验结果二、KPT2.1 主要idea2.2 标签词的扩展2.3 标签词去噪2.4 语言表达器的使用2.5 实验结果三、P-tuning3.1 核心idea3.2 实验结果四、总结与展望五、参考资料hi！又到每周分享的时刻了，希望大家能有收获呀！！！！！！！！！！！什么是Prompting ？它和Fine-tuning有什么区别？这里引用CMU刘鹏飞博士放在博客里的图：prompt是

2021-11-28 20:00:16 5075 1

原创 “被玩坏了”的Dropout

目录目录一、SimCSE1.2 Supervised SimCSE1.3 实验效果二、ESimCSE2.1 Word Repetion2.2 Momentum Contrast三、R-Drop3.1 整体优化目标3.2 为什么简简单单的dropout如此有效呢？3.3 实验结果四、总结今天主要给大家带来Dropout在NLP最新应用，希望能给大家带来收获！！！！在训练DNN模型时，正则化技术，如： L1/L2 Normalization、Batch/Layer Normalization、Dropo

2021-11-07 15:01:26 144

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人